सुरक्षेच्या चिंतेमुळे आणखी एका एआय कर्मचाऱ्याचा राजीनामा; जीवाशी जुगार खेळत असल्याचा इशारा

२७ वर्षीय एका संशोधकाने Anthropic मधून राजीनामा दिला असून, कृत्रिम बुद्धिमत्तेच्या सुरक्षेबाबत आतापर्यंतचा सर्वात तीव्र अंतर्गत इशारा दिला आहे. मंगळवारी X वर पोस्ट केलेल्या त्याच्या राजीनामा-थ्रेडवरून स्पष्ट होते की Anthropic आणि OpenAI दोन्ही “self-improving superintelligence” अर्थात स्वतःमध्ये सुधारणा करणाऱ्या अतिबुद्धिमान AI प्रणालीकडे वेगाने वाटचाल करत आहेत, असा त्याचा विश्वास आहे. ही झेप अस्तित्वासाठी गंभीर धोका निर्माण करू शकते, असा इशारा त्याने दिला.

## प्रयोगशाळेच्या आतून आलेला इशारा

गेल्या तीन वर्षांपासून OpenAI आणि Anthropic या दोन्ही कंपन्यांमध्ये प्री-ट्रेनिंग संशोधनावर काम करणाऱ्या Jacob Coxon यांनी आपल्या निरोपाच्या पोस्टमध्ये म्हटले की, AI प्रणाली विकसित करणारे लोक “या दशकाच्या अखेरीस ही प्रणाली आपणा सर्वांना मारू शकते, असा प्रामाणिकपणे विश्वास ठेवतात.”

त्यांनी या धोकादायक शर्यतीवर टीका करताना, कोणतीही कंपनी जबाबदारीने वागत नसल्याचे म्हटले. पुरेशा नियंत्रण यंत्रणा नसतानाही शक्तिशाली AI प्रणाली विकसित करण्याच्या प्रयत्नांना या कंपन्या पुढे नेत असल्याचा आरोप Coxon यांनी केला. अशा प्रणाली लवकरच स्वायत्तपणे काम करणे, संसाधने जमा करणे आणि वेगाने प्रगती करणे यास सक्षम होतील, असा त्यांनी इशारा दिला. या क्षमता चुकीच्या पद्धतीने हाताळल्या गेल्यास परिस्थिती मानवी नियंत्रणाबाहेर जाऊ शकते.

## अतिबुद्धिमत्ता आणि जोखमीचे स्वरूप

Coxon यांच्या वयाच्या आसपास असलेले Anthropic चे वरिष्ठ संशोधक Evan Hubinger यांनी या चर्चेत हस्तक्षेप करत Coxon यांच्या चिंतेला दुजोरा दिला. पुढील दशकात AI मुळे मानवजातीचा संपूर्ण विनाश होण्याची शक्यता 10% पेक्षा कमी असल्याचे त्यांना वाटत असले, तरी ही बाब चिंताजनक असल्याचे Hubinger यांनी नमूद केले. चांगल्या हेतू असूनही, अतिबुद्धिमान AI मानवी मूल्ये आणि उद्दिष्टांशी सुसंगतपणे वागेल याची खात्री करण्यासाठी आवश्यक असलेल्या “alignment” या समस्येचे निराकरण करण्याची Anthropic कडे स्पष्ट योजना नाही, असे त्यांनी सांगितले.

यानंतरच्या अतिरिक्त पोस्टमध्ये Hubinger यांनी स्पष्ट केले की Anthropic च्या अंतर्गत जोखीम अहवालातही यापैकी काही चिंतेचा उल्लेख आहे. मात्र, AI कडून तात्काळ अनियंत्रित शक्ती मिळवली जाण्याचा धोका “कमी” असल्याचे त्या अहवालात मानले आहे.

## काय पणाला लागले आहे: तातडीचे धोके, मोठे प्रश्न

Coxon यांचा राजीनामा हा एकाकी उद्रेक नाही. त्यांनी इशारा दिला आहे की:

– AI प्रणाली “स्वतःमध्ये सुधारणा करायला शिकू शकतात”—ज्यामुळे प्रत्येक पिढीतील AI पुढील, अधिक शक्तिशाली पिढीची रचना करेल आणि ही प्रक्रिया सतत सुरू राहू शकते.
– भविष्यातील या प्रणाली अत्यल्प देखरेखीखाली हॅकिंग करू शकतील, एका रात्रीत उद्योगांमध्ये परिवर्तन घडवू शकतील किंवा संसाधनांवर ताबा मिळवू शकतील.
– अतिबुद्धिमत्तेकडे जाणारी शर्यत अत्यंत स्पर्धात्मक आहे. इतर कंपन्या आधी पुढे जाऊ नयेत म्हणून कंपन्यांना वेग वाढवणे आवश्यक वाटत आहे—मानवी सुरक्षेला धोका निर्माण झाला तरी.

## उद्योगक्षेत्रातील व्यापक पडसाद आणि सुरक्षेचे इशारे

AI संशोधकांकडून सार्वजनिक आणि अंतर्गत स्वरूपात दिल्या गेलेल्या इशाऱ्यांच्या मालिकेनंतर ही घटना घडली आहे. जुलैमध्ये जवळपास 1,400 AI तज्ज्ञांनी खुल्या पत्राद्वारे U.S. government ला AI विकासाचा वेग कमी करण्याचे आणि नियमन अधिक कठोर करण्याचे आवाहन केले. त्याच सुमारास OpenAI चे Chief Scientist, Jakub Pachocki, यांनी AI ची क्षमता तिच्यावर देखरेख ठेवण्याच्या किंवा तिला नियंत्रित करण्याच्या प्रयत्नांपेक्षा अधिक वेगाने वाढत असल्याचे मान्य केले.

विशेष म्हणजे, Anthropic चे CEO Dario Amodei यांनी विकासाच्या वेगाबाबत वारंवार चिंता व्यक्त केली आहे. अतिवेगाने पुढे गेल्यास AI प्रणालींवरील नियंत्रण पूर्णपणे गमावण्यासह विनाशकारी चुका होऊ शकतात, असे त्यांनी सूचित केले आहे. त्यांनी या आव्हानाला “एक गुंतागुंतीची अभियांत्रिकी समस्या” असे संबोधले.

## नियामक कोंडी आणि देखरेखीची मागणी

अंतर्गत आणि बाह्य पातळीवर चिंता वाढत असतानाही, AI च्या प्रगतीवर नियंत्रण ठेवण्यासाठीची चौकट अद्याप मर्यादित आहे. U.S. मध्ये सुरक्षाविषयक प्रोटोकॉलची अंमलबजावणी करण्यासाठी Congress ने व्यापक कायदा मंजूर केलेला नाही आणि अनेक AI धोरणे अद्याप स्वैच्छिक स्वरूपाची आहेत.

दरम्यान, Trump administration सहित इतर घटकांनी राज्यस्तरीय नियम कमकुवत करण्यासाठी प्रयत्न केले आहेत. मजबूत प्रशासन आणि नियमनाच्या उपाययोजनांचा अभाव यामुळे अनियंत्रित स्पर्धा आपत्तीला आमंत्रण देऊ शकते, असे मानणाऱ्या संशोधकांमध्ये नाराजी आणि भीती दोन्ही वाढली आहेत.

आंतरराष्ट्रीय स्तरावर, China ने AI-निर्मित सामग्रीच्या पारदर्शकता आणि शोधक्षमता यासंबंधी नियम स्वीकारले आहेत. मात्र, शक्तिशाली AI तंत्रज्ञानाच्या विकासाचा वेग लक्षणीयरीत्या कमी करणारे किंवा त्यावर मर्यादा आणणारे नियम स्वीकारण्याचे त्यानेही टाळले आहे.

## तज्ज्ञांचे मत—आणि आता पुढे काय?

Hubinger यांनी या भावनेचा सारांश देताना म्हटले की, Anthropic कडून सर्वोत्तम प्रयत्न केले गेले तरी पुढील दशकात AI मुळे सर्व मानवांचा मृत्यू होण्याची शक्यता 10% पेक्षा जास्त आहे, असे त्यांना वाटते. मात्र, अनेक अंतर्गत सूत्रांसाठी मुख्य मुद्दा केवळ धोका नसून, मजबूत alignment धोरणाचा अभाव हा आहे.

उद्योगक्षेत्रातील निरीक्षक आता तातडीच्या आणि बंधनकारक सुरक्षाविषयक टप्प्यांची मागणी करत आहेत—चाचणीसाठी चौकटी, देखरेखीची यंत्रणा आणि नियमनाची प्रक्रिया पूर्ण होईपर्यंत काही AI क्षमतांवर संभाव्य स्थगिती यांचा त्यात समावेश आहे. Coxon यांनी स्वतः प्रयोगशाळांमधील सहकाऱ्यांना ते ज्याला “एक अंतिम टप्पा” मानतात, त्यात योगदान द्यायचे आहे का याचा पुनर्विचार करण्याचे किंवा अधिक सुरक्षित मार्ग निर्माण करण्यासाठी एकत्र काम करण्याचे आवाहन केले.

—

This article is AI-generated content. Please verify the information independently before taking any action based on this article.