एआई की बढ़त और इसके तेज विकास को एआई दिग्गजों ने भी खतरा माना।
- फोटो : अमर उजाला
बीते कुछ ही हफ्तों के अंदर दुनियाभर में कृत्रिम बुद्धिमता (एआई) को लेकर रिसर्चर्स ने चेतावनियां दी हैं। इनमें
एंथ्रोपिक के एक पूर्व कर्मी की उस चेतावनी ने दुनिया का ध्यान अपनी ओर सबसे ज्यादा खींचा है, जिसमें कहा गया है कि एआई कंपनियां जिस तरह की तकनीक के निर्माण में और जितनी तेजी से जुटी हैं, वह मानवता के लिए खतरा बनता जा रहा है। कई रिसर्चर्स ने चेतावनी देते हुए कहा है कि एआई तकनीक बनाने से जुड़ी कंपनियां चाहे जितनी कोशिश कर लें, लेकिन वे एआई प्रणालियों को नियंत्रित करने में बेहद बुरी हैं।
रिसर्चर्स की इन चेतावनियों के बाद अब एक के बाद एक इन आर्टिफिशियल इंटेलिजेंस (एआई) तकनीक को विकसित करने में जुटी कंपनियों के प्रमुखों ने अपनी आवाज उठाई है। हालांकि, किसी ने भी एआई को लेकर अपनी नीति का बचाव नहीं किया है, बल्कि सभी ने इस तकनीक को विकसित करने की रफ्तार को धीमा करने की बात कही है। इसकी शुरुआत खुद एंथ्रोपिक के प्रमुख डारियो अमोदेई की तरफ से की गई और उनकी इस आवाज का एआई जगत में उनके प्रतिद्वंद्वी- ओपनएआई के प्रमुख सैम ऑल्टमैन ने भी समर्थन दिया है। इतना ही नहीं एआई दुनिया के दिग्गज एलन मस्क ने आर्टिफिशियल इंटेलिजेंस को विकसित करने की रफ्तार पर रोक लगाने का समर्थन किया है।
ऐसे में यह जानना अहम है कि आखिर एआई को लेकर हालिया समय में किस तरह की चेतावनियां दी गई हैं? कैसे एक के बाद एक एआई कंपनियों के प्रमुख इन चेतावनियों के बाद एकजुट होकर इसके विकास को धीमा करने की बात कर रहे हैं? एआई के विकास को धीमा किए जाने का मतलब क्या है? क्या यह योजना काम कर सकती है? आइये जानते हैं...
पहले जानें- रिसर्चर्स ने एआई को लेकर क्या चेतावनियां दीं?
शोधकर्ताओं और एआई सुरक्षा विशेषज्ञों ने हालिया समय में एआई प्रौद्योगिकियों के तेजी से हो रहे विकास को लेकर कई गंभीर चेतावनियां दी हैं।
एआई को लेकर रिसर्चर्स की चेतावनी।
- फोटो : अमर उजाला
.
एआई को लेकर रिसर्चर्स की चेतावनी।
- फोटो : अमर उजाला
एआई कंपनी के प्रमुखों की इन चेतावनियों पर क्या प्रतिक्रिया आई?
1. अपने पूर्व कर्मी की चेतावनियों और इस्तीफे पर क्या बोले एंथ्रोपिक प्रमुख?
शोधकर्ताओं और एंथ्रोपिक समेत कई अन्य कंपनियों के पूर्व कर्मचारियों की चेतावनियों के जवाब में सबसे पहले एंथ्रोपिक के सीईओ डारियो अमोदेई जवाब दिया। उन्होंने अपने ब्लॉग पोस्ट में एआई विकास को पूरी तरह रोकने के बजाय उसकी गति को नियंत्रित और धीमा करने का प्रस्ताव रखा। उन्होंने कहा...
- बिना एआई के विकास के मानवता इसके फायदों से वंचित रह जाएगी, लेकिन इसे बहुत तेजी से बनाना लापरवाही है। हमें उस गति को धीमा करना चाहिए जिस पर हम एआई मॉडलों की क्षमताओं में सुधार करते हैं।"
- एआई अब खुद ही अगली पीढ़ी के एआई मॉडल बनाने में मदद कर रहे हैं। अगर यह अनियंत्रित रहता है, तो यह इंसानों की इसे समझने और नियंत्रित करने की क्षमता से बाहर निकल जाएगा।
- एंथ्रोपिक के रिसर्चर जैकब कॉक्सन के इस्तीफे पर अमोदेई ने एक इंटरव्यू में कहा कि वे उनकी चिंताओं से असहमत होने से ज्यादा सहमत हैं। उन्होंने स्वीकार किया कि समस्या पूरी इंडस्ट्री के बेहद तेजी से बढ़ने की है।
एंथ्रोपिक के सीईओ डारियो अमोदेई।
- फोटो : अमर उजाला
2. कैसे एंथ्रोपिक के प्रतिद्वंद्वियों ने भी मानी एआई के खतरे की बात?
एंथ्रोपिक की प्रतिद्वंद्वी कंपनी- ओपनएआई, एक्सएआई और गूगल डीप माइंड ने भी एआई के खतरे को स्वीकार किया है। ओपनएआई के प्रमुख सैम ऑल्टमैन और एक्सएआई के प्रमुख एलन मस्क ने एआई शोधकर्ताओं की चिंताओं और डारियो की ओर से एआई की गति पर रोक लगाने की बात का समर्थन किया और उन्हीं के पोस्ट पर अपने जवाब लिखे।
ये भी पढ़ें: इंसानियत को फायदा नहीं, तो आगे बढ़ना बेकार: एआई की रफ्तार पर बोले सत्य नडेला, कहा- इंसानी नियंत्रण बेहद जरूरी
ओपनएआई के सीईओ सैम ऑल्टमैन।
- फोटो : अमर उजाला
ऑल्टमैन ने स्वीकार किया है कि एआई "दुनिया को गंभीर नुकसान पहुंचा सकता है।" दूसरी ओर एलन मस्क ने डारियो के पोस्ट पर एक संक्षिप्त टिप्पणी करते हुए कहा, "डारियो सही कह रहे हैं।" मस्क ने ध्यान दिलाया कि वे एआई सुरक्षा को लेकर बहुत लंबे समय से चेतावनी देते आ रहे हैं। उन्होंने 2014 के अपने एक पुराने पोस्ट का हवाला देते हुए कहा- "हमें एआई के साथ बहुत सावधान रहने की जरूरत है। यह संभावित रूप से परमाणु हथियारों से भी अधिक खतरनाक है।"
एआई पर टेक कंपनी के शीर्ष अधिकारियों ने जताई चिंता।
- फोटो : अमर उजाला
एआई के विकास को धीमा किए जाने का मतलब क्या है?
एआई के विकास को धीमा करने का मतलब एआई शोध को पूरी तरह से बंद करना नहीं है, बल्कि इसकी प्रगति की गति को नियंत्रित करना है, ताकि सुरक्षा व्यवस्था इसके साथ तालमेल बिठा सके। खुद डारियो अमोदेई ने इससे जुड़े कदमों को सामने रखा है।
1. विकास पर पूर्ण विराम नहीं, बल्कि गति का संतुलन
इसका मतलब एआई मॉडल के प्रशिक्षण या तकनीकी विकास को पूरी तरह रोकना नहीं है, बल्कि क्षमताओं में विकास की रफ्तार को इतना संतुलित करना है कि सुरक्षा और एआई को इंसानी मूल्यों के अनुकूल रखा जा सके और उभरती हुई तकनीकें इसके साथ तालमेल बिठा सकें।
2. सुरक्षा और 'अलाइनमेंट' के लिए समय हासिल करना
इसका मकसद एआई मॉडलों के जबरदस्त खतरनाक या क्रिटिकल क्षमता स्तर तक पहुंचने से पहले एक से दो साल का अतिरिक्त समय हासिल करना है, ताकि इस समय का इस्तेमाल अलाइनमेंट और जोखिम नियंत्रण को मजबूत करने के लिए किया जा सके।
3. स्वतंत्र जांचकर्ताओं को पहुंच देना
एआई कंपनियों की ओर से बाहरी और स्वतंत्र सुरक्षा परीक्षकों को कर्मचारियों जैसी लगातार पहुंच देना, ताकि वे सिर्फ अंतिम मॉडल ही नहीं, बल्कि ट्रेनिंग पाइपलाइन, डेटा और प्रक्रियाओं की भी जांच कर सकें।
4. संसाधनों और चेकपॉइंट्स पर नियंत्रण
एआई मॉडल को प्रशिक्षित करने वाले कंप्यूट संसाधनों, ट्रेनिंग रन की सीमा और स्वयं अगली पीढ़ी के मॉडल बनाने में एआई के आंतरिक उपयोग पर नियंत्रण और चेकपॉइंट्स लगाना।
5. उद्योग और अंतरराष्ट्रीय स्तर पर समन्वय
एआई लैब्स, लोकतांत्रिक सरकारों और वैश्विक शक्तियों (जैसे अमेरिका और चीन) के बीच सर्वसम्मति से साझा सुरक्षा मानक तय करना, ताकि कोई भी कंपनी होड़ में बिना सुरक्षा जांच के मॉडल जारी न करे।
6. सुरक्षा न होने पर एआई डेवलपमेंट रोकना
जब तक एआई मॉडल की सुरक्षा की पुष्टि न हो जाए, तब तक उसके प्रशिक्षण, परीक्षण या बड़े पैमाने पर रोलआउट को अस्थायी रूप से धीमा करना या रोकना।
क्या एआई पर नियंत्रण हासिल करना आसान होगा?
विशेषज्ञों और शोधकर्ताओं के मुताबिक, एआई पर नियंत्रण के लिए सुझाए गए कदम लागू करना बिल्कुल आसान नहीं होगा, बल्कि यह एक बेहद कठिन और गंभीर चुनौती है।
एआई सुरक्षा से जुड़ी कंपनी- मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट के प्रमुख नेट सोआरेस के मुताबिक, एआई को नियंत्रित करने के लिए उसमें मानवीय मूल्यों को इस तरह स्थापित करना, ताकि वह केवल वही करे जो इंसानों के हित में हो, बहुत कठिन काम है। विशेषज्ञों का कहना है कि अपनी बुद्धिमता पैदा होने और बिना सटीक अलाइनमेंट के एआई मॉडल नियम तोड़ना और धोखा देना सीख सकते हैं। इसका उदाहरण ओपनएआई की हगिंग फेस हैकिंग घटना में देखा गया कि परीक्षण के दौरान एआई एजेंट्स ने इंटरनेट से कटे सैंडबॉक्स को तोड़ दिया, आपस में गुप्त संवाद किया, अपने चैट लॉग्स में फेरबदल किया और बाहरी प्रणालियों में हैक किया।
एआई से एआई की निगरानी का कदम भी नाकाम
इंसानों के मुकाबले में एआई की तीव्र गति के कारण उसकी निगरानी के लिए दूसरे एआई का सहारा लेना पड़ता है। हालांकि, एआई एजेंट्स एक-दूसरे के साथ सांठगांठ करके इंसानों से जानकारी छिपाने में सक्षम पाए गए हैं। इसे लेकर नेट सोआरेस ने चेतावनी दी कि एआई से एआई को नियंत्रित करना वैसा ही है जैसे इंसानों को नियंत्रित करने के लिए चिंपैंजी का उपयोग करना।
रिकर्सिव सेल्फ-इम्प्रूवमेंट
एआई मॉडल अब स्वयं अगली पीढ़ी के मॉडल बनाने और सुधारने में सक्षम हो रहे हैं। यह प्रक्रिया अनियंत्रित रहने पर इंसानों की इसे समझने और संभालने की क्षमता से बहुत आगे निकल सकती है। पॉल क्रिस्टियानो समेत कई शोधकर्ताओं ने चेताया है कि एआई क्षमताओं की तेज बढ़ोतरी से भविष्य में नियंत्रण का विनाशकारी और अपरिवर्तनीय नुकसान हो सकता है।
ये भी पढ़ें: एक्सप्लेनर: 80s के लुक का क्रेज आप पर पड़ सकता है भारी, एआई को फोटो दे रहे हैं तो जान लें उससे जुड़े क्या खतरे
व्यावसायिक और प्रतिस्पर्धी दबाव
एआई कंपनियां, जैसे- ओपनएआई और एंथ्रोपिक ब्लॉकबस्टर आईपीओ लाने की होड़ में हैं और अंतरराष्ट्रीय प्रतिस्पर्धा, जैसे चीन से आगे रहने के दबाव के कारण सुरक्षा के बजाय विकास की गति को प्राथमिकता दे रही हैं। इन वजहों से शोधकर्ताओं का मानना है कि एआई पर नियंत्रण पाने के लिए इसके विकास की गति को धीमा करने के साथ कड़े सुरक्षा मानकों को लागू करना भी अनिवार्य है।