एआई को चाहिए इमरजेंसी ब्रेक: सत्य नडेला ने चेताया, बढ़ती ताकत के बीच कैसे काबू में रहेंगे एआई एजेंट्स?

लगातार जांच
एआई को सिर्फ सामान्य परिस्थितियों में सफल काम करने के आधार पर सुरक्षित नहीं माना जाना चाहिए। उसकी गलतियों, साइबर हमलों और असामान्य स्थितियों में काम करने की क्षमता भी परखी जानी चाहिए।

स्वतंत्र निगरानी
किसी एआई मॉडल को अपने ही काम की जांच करने की पूरी जिम्मेदारी नहीं देनी चाहिए। दूसरे सिस्टम और स्वतंत्र ऑडिट के जरिए भी उसके नतीजों की सत्यापन होना चाहिए। 

एआई पर नियंत्रण बनाए रखना
एआई सिस्टम को शुरू से ही इस तरह तैयार करना चाहिए कि अगर वह गलत तरीके से काम करने लगे, तो उसे तुरंत रोका जा सके। इसके लिए किसी इंसान के पास एआई के काम को बीच में रोकने या उसे पूरी तरह बंद करने का अधिकार होना चाहिए। इसे एआई का इमरजेंसी ब्रेक कह सकते हैं। 

गलती की जानकारी साझा करना
एआई सिस्टम में सुरक्षा संबंधी चूक होने पर प्रभावित लोगों और संगठनों को समय पर जानकारी दी जानी चाहिए। साथ ही यह भी समझना जरूरी है कि गलती कैसे हुई और उसे दोबारा होने से कैसे रोका जा सकता है। नडेला के मुताबिक सुरक्षित एआई वह नहीं है, जिस पर सबसे ज्यादा भरोसा करना पड़े बल्कि वह है जिसे कम भरोसे के बावजूद मजबूत सुरक्षा व्यवस्था के भीतर सुरक्षित तरीके से इस्तेमाल किया जा सके।

आपकी जानकारी के लिए बता दें कि कुछ महीनों पहले ओपनएआई अपने एआई एजेंट्स के सुरक्षा मानकों का टेस्ट कर रहा था। इन एजेंट्स को एक सैंडबॉक्स में रखा गया था, जहां उनके पास कोई इंटरनेट नहीं था। टेस्ट के दौरान इन एजेंट्स ने परीक्षण के दायरे को पार किया और इंटरनेट पर अपनी पहुंच बना ली। इसके बाद इन्होंने हगिंग फेस के सिस्टम को हैक कर लिया।

इसी दौरान एंथ्रोपिक कंपनी से इस्तीफा देने के बाद एआई रिसर्चर जैकब कॉक्सन ने कहा कि एआई कंपनियां एक-दूसरे से आगे निकलने की दौड़ में Self Improving AI (खुद से बेहतर बनने वाला एआई) की तरफ तेजी से बढ़ रही हैं और इसके संभावित खतरों को पर्याप्त गंभीरता से नहीं लिया जा रहा।

इस दौरान उन्होंने चेतावनी दी कि एआई इस दशक के अंत तक इंसानों के अस्तित्व के लिए खतरा बन सकता है। उन्होंने सवाल उठाया कि अगर भविष्य में एआई इंसानों से ज्यादा सक्षम होकर खुद को लगातार बेहतर बनाने लगे, तो क्या इंसान उस पर नियंत्रण बनाए रख पाएंगे? कॉक्सन के मुताबिक, एआई की बढ़ती क्षमताओं को कम करके आंकना खतरनाक साबित हो सकता है।

एआई की तेजी से बढ़ती क्षमताओं के बीच सबसे बड़ी चुनौती यह नहीं है कि हम उसे कितना बुद्धिमान बना सकते हैं बल्कि यह है कि उसकी गलतियों और संभावित खतरों को कैसे नियंत्रित करें। कंपनियों के बीच आगे निकलने की होड़ में अगर सुरक्षा पीछे छूट गई तो इसका खामियाजा बड़े स्तर पर भुगतना पड़ सकता है। इसलिए जरूरी है कि एआई को विकसित करने के साथ-साथ उसकी निगरानी, जांच और नियंत्रण के मजबूत तरीके भी तैयार किए जाएं।