आर्टिफिशियल इंटेलिजेंस के क्षेत्र में तेजी से हो रहे विकास के साथ एआई की क्षमताएं भी लगातार बढ़ रही हैं। आज के समय एआई सिस्टम खुद फैसले ले सकते हैं, कई चरणों वाले काम खुद से कर सकते हैं। यही एक बड़ी वजह है, जिसके चलते कंपनियां इन्हें अपने डाटा, आंतरिक सिस्टम और महत्वपूर्ण कामों तक पहुंच दे रही हैं। हालांकि, इसी के साथ एक बड़ा जोखिम भी सामने आ रहा है। अगर एआई कोई गलत फैसला लेले, संवेदनशील जानकारी तक अनधिकृत पहुंच बना ले या किसी साइबर हमले के दौरान उसका इस्तेमाल हो जाए तो इसके नतीजे गंभीर हो सकते हैं।
पारंपरिक जो सॉफ्टवेयर होते थे उसमें किसी गड़बड़ी की वजह समझने के लिए अक्सर उसके कोड को ट्रेस किया जा सकता है। हालांकि, बड़े एआई मॉडल के फैसलों के पीछे की प्रक्रिया को उसी ढंग से समझ पाना अब मुश्किल हो रहा है। ऐसे में सवाल सिर्फ यह नहीं है कि एआई कितना बुद्धिमान हो रहा है बल्कि यह भी है कि उसे कितनी आजादी दी जाए और उसके गलत कदमों को समय रहते कैसे रोका जाए।
इसी कड़ी में माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने एआई की सुरक्षा को लेकर एक अहम सुझाव दिया है। उनका कहना है कि एआई मॉडल में ऐसा इमरजेंसी ब्रेक होना चाहिए, जिससे जरूरत पड़ने पर उसके काम को तुरंत रोका जा सके। हाल के दिनों में एआई एजेंट्स से जुड़ी कई घटनाओं ने इस चिंता को बढ़ाने का काम किया है। ऐसी घटनाएं देखने को मिली हैं, जहां ज्यादा ऑटोनॉमी मिलने पर इन एआई सिस्टम ने अनचाहे कदम उठाए। इस बारे में सत्या नडेला ने प्लेटफॉर्म एक्स पर बताया। उन्होंने एआई की गतिविधियों पर निगरानी, स्वतंत्र ऑडिट, डाटा की जांच और सुरक्षा में चूक होने पर समय पर जानकारी साझा करने जैसे उपायों पर जोर दिया।
सत्य नडेला के मुताबिक, आज के एडवांस्ड एआई सिस्टम को सुरक्षित बनाने के लिए सिर्फ उनके जवाबों पर भरोसा करना काफी नहीं है। पारंपरिक सॉफ्टवेयर में किसी गड़बड़ी का कारण समझने के लिए उसके कोड की जांच की जा सकती थी। लेकिन बड़े एआई मॉडल के मामले में यह पता लगाना मुश्किल हो सकता है कि उसने कोई खास जवाब क्यों दिया या गलत फैसला कैसे लिए। इसके बावजूद कंपनियां ऐसे एआई एजेंट्स को संवेदनशील डाटा और महत्वपूर्ण सिस्टम तक पहुंच दे रही हैं। इससे जोखिम बढ़ सकता है।
नडेला का कहना है कि एआई को बनाने वाली कंपनी के भरोसे या उसके सुरक्षा संबंधी आश्वासनों के आधार पर ही सारी जिम्मेदारी नहीं छोड़ी जा सकती। वह संगठन जिसमें एआई का इस्तेमाल हो रहा है, उसे भी यह सुनिश्चित करना होगा कि सिस्टम सुरक्षित तरीके से काम करे। इसके लिए एआई की बुद्धिमत्ता और उसे दिए जाने वाले अधिकारों को अलग रखना जरूरी है। यानी एआई कितना भी सक्षम हो वह खुद तय न कर सके कि उसे किन डाटा तक पहुंचना है और वह कौन-से काम कर सकता है। इस दौरान सत्य नडेला ने इन महत्वपूर्ण सुझावों के बारे में बताया -
सीमित अधिकार
एआई को सिर्फ उतनी ही अनुमति मिलनी चाहिए, जितनी उसके काम के लिए जरूरी है। वह अपनी मर्जी से सुरक्षा नियमों को बदल न सके।
एआई की हर गतिविधि पर नजर
एआई जो भी महत्वपूर्ण काम करे, उसका ऐसा रिकॉर्ड होना चाहिए जिसे इंसान आसानी से समझकर उसकी जांच कर सके और जिसमें बाद में छेड़छाड़ न की जा सके। इससे यह पता लगाया जा सकेगा कि एआई ने कोई फैसला कैसे लिया और किसी नतीजे तक कैसे पहुंचा।