27 वर्षीय एक शोधकर्ता ने Anthropic से इस्तीफा दे दिया है और कृत्रिम बुद्धिमत्ता की सुरक्षा को लेकर अब तक की सबसे मुखर आंतरिक चेतावनियों में से एक जारी की है। मंगलवार को X पर पोस्ट किए गए उनके इस्तीफे के थ्रेड से स्पष्ट होता है कि उनका मानना है कि Anthropic और OpenAI दोनों “self-improving superintelligence” यानी “स्वयं में सुधार करने वाली सुपरइंटेलिजेंस” की ओर तेजी से बढ़ रहे हैं—एक ऐसी छलांग, जिसके बारे में वह चेतावनी देते हैं कि यह अस्तित्वगत जोखिम पैदा कर सकती है।
## लैब के भीतर से चेतावनी
Jacob Coxon ने पिछले तीन वर्षों में OpenAI और Anthropic दोनों में प्री-ट्रेनिंग रिसर्च पर काम किया है। अपने विदाई पोस्ट में उन्होंने कहा कि AI सिस्टम बनाने वाले लोग “ईमानदारी से मानते हैं कि यह दशक खत्म होने से पहले हम सभी को मार सकता है।”
उन्होंने इसे एक खतरनाक दौड़ बताते हुए आलोचना की और कहा कि दोनों में से कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। Coxon ने इन कंपनियों पर पर्याप्त सुरक्षा जांच के बिना शक्तिशाली AI सिस्टम विकसित करने की होड़ में आगे बढ़ने का आरोप लगाया। उन्होंने चेतावनी दी कि ऐसे मॉडल जल्द ही स्वायत्तता, संसाधनों का संचय और तेजी से आगे बढ़ने में सक्षम हो सकते हैं—और यदि इन शक्तियों का गलत प्रबंधन हुआ, तो स्थिति मानव नियंत्रण से बाहर जा सकती है।
## सुपरइंटेलिजेंस और जोखिम का परिदृश्य
Coxon की उम्र के करीब वरिष्ठ Anthropic शोधकर्ता Evan Hubinger ने हस्तक्षेप करते हुए Coxon की चिंताओं की पुष्टि की। Hubinger ने कहा कि उनका मानना है कि अगले दशक में AI के कारण मानव विलुप्ति की संभावना 10% से कम है, लेकिन वास्तविकता चिंताजनक है। उन्होंने कहा कि अच्छे इरादों के बावजूद Anthropic के पास “alignment”—यानी यह सुनिश्चित करने की समस्या कि सुपरइंटेलिजेंट AI मानव मूल्यों और लक्ष्यों के अनुरूप काम करे—को हल करने की कोई स्पष्ट योजना नहीं है।
इसके बाद Hubinger ने अतिरिक्त पोस्ट में स्पष्ट किया कि Anthropic की आंतरिक जोखिम रिपोर्ट भी इनमें से कुछ चिंताओं को साझा करती है, हालांकि वह AI के तत्काल अनियंत्रित शक्ति हासिल करने के जोखिम को “कम” मानती है।
## दांव पर क्या है: तत्काल जोखिम और बड़े सवाल
Coxon का इस्तीफा कोई अलग-थलग प्रतिक्रिया नहीं है। उन्होंने चेतावनी दी:
– AI सिस्टम “खुद में सुधार करना सीख सकते हैं”—और ऐसी प्रक्रिया शुरू हो सकती है, जिसमें AI की हर पीढ़ी अगली, और अधिक शक्तिशाली पीढ़ी को डिजाइन करे।
– भविष्य के ये सिस्टम हैकिंग करने, रातोंरात उद्योगों को बदलने या बेहद कम निगरानी में संसाधनों पर कब्जा करने में सक्षम हो सकते हैं।
– सुपरइंटेलिजेंस की दौड़ बेहद प्रतिस्पर्धी है। कंपनियों को लगता है कि यदि अन्य कंपनियां पहले आगे निकल गईं, तो उन्हें भी तेजी से आगे बढ़ना होगा—भले ही इससे मानव सुरक्षा जोखिम में क्यों न पड़े।
## उद्योग जगत की व्यापक प्रतिक्रियाएं और सुरक्षा चेतावनियां
यह घटनाक्रम AI शोधकर्ताओं की सार्वजनिक और आंतरिक चेतावनियों की एक श्रृंखला के बाद सामने आया है। जुलाई में लगभग 1,400 AI विशेषज्ञों ने एक खुले पत्र के माध्यम से अमेरिकी सरकार से AI विकास की गति धीमी करने और नियमन मजबूत करने का आग्रह किया। लगभग इसी समय, OpenAI के Chief Scientist, Jakub Pachocki ने स्वीकार किया कि AI की क्षमताएं उनकी निगरानी या नियंत्रण के प्रयासों की तुलना में तेजी से आगे बढ़ रही हैं।
विशेष रूप से, Anthropic के CEO Dario Amodei ने विकास की गति को लेकर बार-बार चिंता जताई है। उनका कहना है कि बहुत तेजी से आगे बढ़ने से गंभीर गलतियां हो सकती हैं, जिनमें AI सिस्टम पर पूरी तरह से नियंत्रण खो देना भी शामिल है। उन्होंने इस चुनौती को “एक जटिल इंजीनियरिंग समस्या” बताया।
## नियामकीय गतिरोध और निगरानी की मांग
आंतरिक और बाहरी चिंताएं बढ़ने के बावजूद, AI की प्रगति को नियंत्रित करने वाले ढांचे अभी भी सीमित हैं। अमेरिका में कांग्रेस ने सुरक्षा प्रोटोकॉल लागू करने के लिए व्यापक कानून पारित नहीं किया है और कई AI नीतियां अब भी स्वैच्छिक हैं।
इस बीच, Trump administration सहित अन्य पक्षों ने राज्य स्तर के नियमों को कमजोर करने के लिए काम किया है। मजबूत शासन उपायों की कमी से उन शोधकर्ताओं में निराशा और भय बढ़ा है, जिन्हें लगता है कि अनियंत्रित प्रतिस्पर्धा विनाश का कारण बन सकती है।
अंतरराष्ट्रीय स्तर पर, China ने AI-जनित सामग्री की पारदर्शिता और ट्रेसबिलिटी से जुड़े नियम अपनाए हैं। हालांकि, उसने भी ऐसे नियम लागू करने से परहेज किया है, जो शक्तिशाली AI तकनीकों के विकास को उल्लेखनीय रूप से धीमा या सीमित कर सकते हैं।
## विशेषज्ञों का मानना क्या है—और अब आगे क्या?
Hubinger ने इस भावना को संक्षेप में बताया: उनका मानना है कि अगले दशक में AI के सभी मनुष्यों को खत्म कर देने की संभावना 10% से अधिक है, Anthropic के सर्वोत्तम प्रयासों के बावजूद। हालांकि, कई अंदरूनी लोगों के लिए मुख्य मुद्दा केवल जोखिम नहीं है—बल्कि मजबूत alignment रणनीति का अभाव भी है।
उद्योग पर नजर रखने वाले विशेषज्ञ अब तत्काल और बाध्यकारी सुरक्षा लक्ष्यों की मांग कर रहे हैं—ऐसे ढांचे जिनमें परीक्षण, निगरानी की व्यवस्थाएं और संभवतः कुछ AI क्षमताओं पर तब तक रोक शामिल हो, जब तक नियमन उनके अनुरूप विकसित नहीं हो जाता। Coxon ने खुद लैब में काम करने वाले साथी शोधकर्ताओं से आग्रह किया कि वे इस पर दोबारा विचार करें कि क्या वे उस दिशा में योगदान देना चाहते हैं, जिसे वह “एक अंतिम चरण” मानते हैं, या फिर सुरक्षित रास्ते स्थापित करने के लिए मिलकर काम करना चाहते हैं।
—
This article is AI-generated content. Please verify the information independently before taking any action based on this article.
