ज्यांनी AI तयार केलंय, त्यांच्याच नियंत्रणाबाहेर ते जाण्याची भीती?

कृत्रिम बुद्धिमत्ता म्हणजेच आर्टिफिशियल इंटेलिजन्स (एआय) कंपनी अँथ्रोपिकचे सीईओ डारिओ अमोदेई यांनी रविवारी (13 सप्टेंबर) एका लेखातून प्रगत एआय विकसित करण्याचा वेग कमी करण्याचं आवाहन केलं आहे.

एआयचा विकास वेगाने होत राहिल्यास त्याचा वापर करून मोठे आणि विनाशकारी सायबर हल्ले होऊ शकतात, असा त्यांनी इशारा दिला आहे. त्यांच्या या आवाहनाला टेक क्षेत्रातील काही प्रतिस्पर्धी प्रमुखांनीही सार्वजनिकपणे पाठिंबा दिला आहे. यात ओपनएआयचे सॅम ऑल्टमन आणि स्पेसएक्स एआयचे इलॉन मस्क यांचा समावेश आहे.

या इशाऱ्यांमागे एआयशी संबंधित काही अलीकडील घटना आहेत. या घटनांमध्ये एआय प्रणालींनी त्यांच्या निर्मात्यांनीही अपेक्षा न केलेल्या पद्धतीने वर्तन केलं. त्यामुळे एआय तंत्रज्ञान हाताबाहेर जात आहे का आणि ते अनियंत्रित बनत आहे का, यावर सार्वजनिक चर्चा सुरू झाली आहे.

एआयशी संबंधित धोके, त्याबाबतच्या अलीकडील चिंता किती खऱ्या आहेत आणि हे तंत्रज्ञान व त्यातील धोके समजून घेण्यासाठी जगभरात सुरू असलेली स्पर्धा याबद्दल आपण या लेखातून जाणून घेणार आहोत.

या मागणीमागची मुख्य चिंता अशी आहे की, एआयच्या क्षमता ज्या वेगाने वाढत आहेत, त्या तुलनेत त्यावर नियंत्रण ठेवण्याची या उद्योगाची क्षमता कमी पडत आहे.

अमोदेई यांनी आपल्या लेखात इशारा दिला आहे की, येत्या 6 ते 12 महिन्यांत अनियंत्रित एआय एजंट्स सतत सक्रिय राहणारे बॉटनेट तयार करू शकतात.

बॉटनेट म्हणजे हॅक केलेल्या आणि संक्रमित कॉम्प्युटर्सचं नेटवर्क, ज्यांचा वापर सायबर हल्ल्यांसाठी दूरून केला जातो. इंटरनेटचा काही भाग आपल्या नियंत्रणाखाली घेऊन ते अब्जावधी डॉलर्सचे आर्थिक नुकसान घडवून आणू शकतात.

ही चिंता एआयमधील ‘रिकर्सिव्ह सेल्फ-इम्प्रूव्हमेंट’मुळे आणखी वाढते. याचा अर्थ असा की, एआय स्वतःपेक्षा अधिक चांगली एआय प्रणाली किंवा सिस्टिम तयार करू लागते. त्यामुळे एआयच्या विकासाचा वेग अनेक पटींनी वाढू शकतो.

6 सप्टेंबर 2026 रोजी ओपनएआयचे मुख्य शास्त्रज्ञ जेकब पॅचोकी यांनी ‘अॅन एलियन माइंड’ नावाचा लेख लिहिला. त्यात त्यांनी स्पष्ट केलं की, आधुनिक एआय पारंपरिक पद्धतीने प्रोग्रामिंग करून तयार केले जात नाही. त्याऐवजी मोठ्या प्रमाणावर ऑप्टिमायझेशनच्या प्रक्रियेतून ती विकसित केले जाते.

त्यामुळे एआय मॉडेल्स स्वतःच्या विचार करण्याच्या प्रक्रियेत बदल करण्यात अधिक सक्षम होत आहेत. ते आपले तर्क स्पष्टपणे न सांगता कामं पूर्ण करत आहेत. त्यामुळे हे त्याच्या डेव्हलपर्सनाही समजणं हळूहळू कठीण होत आहे.

‘बेलगाम’ किंवा ‘अनियंत्रित’ हा शब्द अशा एआय प्रणालींसाठी वापरला जातो, ज्या आपलं ठरवलेलं उद्दिष्ट पूर्ण करण्यासाठी माणसांनी ठरवलेले नियम धाब्यावर बसवतात.

असं वर्तन ‘एआय एजंट्स’मध्ये दिसू शकतं. हे असे सॉफ्टवेअर असतात जे वेगवेगळ्या ॲप्लिकेशन्समध्ये अनेक टप्प्यांची कामं स्वतःहून ठरवतात आणि ती पूर्ण करतात.

11 ते 13 जुलै 2026 दरम्यान, ओपनएआयच्या GPT-5.6 Sol या प्री-रिलीज मॉडेलवर आधारित दोन प्रगत एआय एजंट्सनी ‘हगिंग फेस’ या प्रतिस्पर्धी स्टार्टअपच्या प्रणाली हॅक केल्या होत्या.

या एआय एजंट्सना एक अंतर्गत सायबर सुरक्षेची एक चाचणी पूर्ण करण्याचं काम देण्यात आलं होतं. त्यांना मर्यादित इंटरनेट असलेल्या एका टेस्टिंग प्रणालीत (टेस्टिंग सँडबॉक्स) ठेवण्यात आलं होतं.

या प्रणालीचा वापर केवळ सॉफ्टवेअर पॅकेजेस इन्स्टॉल करण्यासाठी करायचा होता. परंतु, एजंट्सनी या प्रणालीतील त्रुटींचा फायदा घेत बाहेर पडून पुढे दुसऱ्या प्रणालीमध्ये प्रवेश केला.

यानंतर त्यांनी हगिंग फेसच्या प्रणालीमध्ये म्हणजेच सिस्टिममध्ये घुसून थेट त्याची आन्सर-की मिळवली. अशा प्रकारे त्यांनी आपलं काम त्यांच्या डेव्हलपर्सनीही अपेक्षा न केलेल्या पद्धतीने पूर्ण केलं.

अशीच एक घटना 10 ऑगस्ट 2026 रोजी ऑस्ट्रेलियातून समोर आली. एका यूजरने अँथ्रोपिकच्या ‘क्लॉड’वर आधारित एआय एजंटला जिमचा क्लास बुक करण्यास सांगितलं. त्यावेळी या एजंटने जिमच्या सॉफ्टवेअरमधील एका सदोष ॲप्लिकेशन प्रोग्रामिंग इंटरफेस (एपीआय) शोधून काढला.

या एआय एजंटने बुकिंग सुरू होण्याच्या काही आठवडे आधीच जागा आरक्षित केली. इतकंच नाही तर, आपल्या यूजरला जागा मिळावी म्हणून त्याने वेटिंग लिस्टमधील दुसऱ्या व्यक्तीचं नावही परस्पर काढून टाकलं.

एआय सुरक्षा क्षेत्रातील संशोधक याला ‘स्पेसिफिकेशन गेमिंग’ किंवा ‘रिवॉर्ड हॅकिंग’ असं म्हणतात. म्हणजे, आपलं काम यशस्वी झालं असं दाखवण्यासाठी एआयने नियमांमध्ये अपेक्षित नसलेला एखादा शॉर्टकट शोधून काढतो.

अनेक संशोधकांनी एआय ज्या दिशेने विकसित होत आहे, त्याबद्दल चिंता व्यक्त केली आहे. अँथ्रोपिकमधील अलाइनमेंट सायन्सचे प्रमुख इव्हान हबिंगर यांनी ‘एक्स’वरील एका पोस्टमध्ये म्हटलं की, येत्या दशकात एआयमुळे सर्व मानवांचा नाश होण्याची शक्यता 10 टक्क्यांपेक्षा जास्त असल्याचा त्यांचा वैयक्तिक अंदाज आहे.

हबिंगर यांच्या अंदाजामागचं कारण असं आहे की, एआय मानवाच्या इच्छेप्रमाणेच काम करेल, याची खात्री डेव्हलपर्स अजूनही देऊ शकलेले नाहीत. त्यांच्या मते, अतिशय शक्तिशाली एआय मॉडेल्स बाजारात येण्यापूर्वी ही समस्या सोडवण्यासाठी उद्योगाकडून पुरेसे प्रयत्नही होताना दिसत नाहीत.

अँथ्रोपिकच्या अंतर्गत सुरक्षा चाचण्यांमधून (इंटर्नल स्ट्रेस टेस्ट) एआयमुळे मोठं नुकसान कसं होऊ शकतं, याची काही उदाहरणं समोर आली आहेत. कंपनीच्या प्रयोगांमध्ये काही एआय मॉडेल्सनी फसवणूक आणि ब्लॅकमेल केल्याचं आढळून आले होते.

जुलै 2026 मध्ये प्रसिद्ध झालेल्या एका प्रयोगाच्या माहितीनुसार सायबर सुरक्षेची चाचणी सुरू असलेल्या अँथ्रोपिकचा एक एआय मॉडेल कमकुवत पासवर्ड आणि असुरक्षित प्रणालीचा फायदा घेत टेस्टिंग सिस्टिममधून बाहेर पडला.

यानंतर त्याने काही संस्थांची लॉगिन माहिती चोरून त्यांच्या सिस्टिममध्ये प्रवेश मिळवला. अँथ्रोपिकने या संस्थांची नावं जाहीर केलेली नाहीत. या मॉडेलने ही बाहेरील लक्ष्यंही सायबर सिक्युरिटी चाचणीचाच भाग आहेत, असा चुकीचा समज करुन घेतला होता.

इतिहासकार युवाल नोआ हरारी यांनी 2024 मध्ये प्रकाशित झालेल्या ‘नेक्सस’ या पुस्तकात एआयला अभूतपूर्व धोका किंवा संकट म्हटलं आहे. त्यांच्या मते, एआय हे असं पहिलं तंत्रज्ञानं आहे, जे स्वतः निर्णय घेऊ शकतं आणि नवीन कल्पना तयार करू शकतं.

अणुबॉम्बचा वापर करण्यासाठी माणसाची गरज असते. परंतु, एआय स्वतःहून काम करणाऱ्या तंत्रज्ञानाप्रमाणे म्हणजेच स्वायत्त प्रणालीप्रमाणे काम करणारा एजंट आहे.

20 जून 2026 रोजी गुगल डीपमाइंडने एक सुरक्षा आराखडा सादर केला. त्यात म्हटलं की, प्रगत एआय एजंट्सकडे ‘इनसाइडर थ्रेट’ म्हणजेच संस्थेच्या आतून निर्माण होणारा धोका म्हणून पाहिलं पाहिजे.

याची तुलना कंपनीची संवेदनशील माहिती असलेल्या एखाद्या फितूर किंवा कपटी कर्मचाऱ्याशी केली आहे. डीपमाइंडने यामुळे होणाऱ्या काही धोक्यांबाबत इशारा दिला आहे. यात महत्त्वाची म्हणजेच संवेदनशील माहिती, कंपनीचा खास कोड, वापरकर्त्याची लॉगिन माहिती किंवा गुप्त डेटा चोरणं, तसेच महत्त्वाच्या संशोधनाचं गुपचूप नुकसान करणं यांचा समावेश आहे.

हरारी यांनी एआयमुळे समाजासमोर निर्माण होऊ शकणाऱ्या काही मोठ्या धोक्यांचाही उल्लेख केला आहे. आर्थिक क्षेत्रात, एआय इतकी गुंतागुंतीची गुंतवणूक साधनं तयार करू शकतं की, ती मानवाला समजणंही कठीण होईल. यामुळे 1929 किंवा 2008 पेक्षाही मोठं जागतिक आर्थिक संकट निर्माण होऊ शकतं, असं त्यांनी म्हटलं आहे.

युद्धाच्या बाबतीत, हरारी यांनी इशारा दिला आहे की दहशतवादी एआयचा वापर करून इबोलासारखा घातक आणि कोविड-19 सारखा संसर्गजन्य नवा विषाणू तयार करू शकतात आणि जैविक 3डी प्रिंटर वापरून तो प्रिंट करू शकतात. एआयचा वापर देशाच्या वीज यंत्रणेवर किंवा अण्वस्त्रांच्या नियंत्रण व्यवस्थेवर गुप्त सायबर हल्ल्यांसाठीही केला जाऊ शकतो.

अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी एआयच्या संभाव्य धोक्याला कमी लेखलं आहे.

आयर्लंडच्या दौऱ्यादरम्यान त्यांनी म्हटलं की, ‘अत्यंत नकारात्मक विचार करणारे लोक’ असे धोके सांगत आहेत, ‘जे प्रत्यक्षात कधीच घडणार नाही’.

3 जून 2026 रोजी राष्ट्राध्यक्ष ट्रम्प यांनी एक कार्यकारी आदेश जारी केला. यानुसार एआय कंपन्यांसाठी ऐच्छिक सुरक्षा व्यवस्था तयार करण्यात आली आहे. त्याअंतर्गत कंपन्या आपली अत्याधुनिक एआय मॉडेल्स (फ्रंटियर मॉडेल्स) सार्वजनिक करण्यापूर्वी 30 दिवसांच्या सरकारी सुरक्षा तपासणीसाठी देऊ शकतात.

याआधीच्या मसुद्यात 90 दिवसांच्या समीक्षेचा प्रस्ताव होता. परंतु, यामुळे अमेरिकन कंपन्या चिनी कंपन्यांच्या तुलनेत मागे पडू शकतात, अशी उद्योग क्षेत्राची चिंता होती. त्यामुळे हा कालावधी 90 दिवसांवरून कमी करून 30 दिवसांचा करण्यात आला.

हरारी यांनी इशारा दिला आहे की, एआयच्या तंत्रज्ञानासाठी सुरू असलेली ही स्पर्धा जगात ‘सिलिकॉन कर्टन’ तयार करत आहे. म्हणजेच, वेगवेगळ्या नेटवर्क आणि संगणक प्रणालींवर चालणाऱ्या स्वतंत्र डिजिटल गटांमध्ये जग विभागलं जात आहे.

या विभाजनामुळे एआयच्या सुरक्षिततेसाठी जगभरातील देशांनी एकत्र काम करणं खूप कठीण होतं.

काही टेक क्षेत्रातील लीडर्स एआयच्या सुरक्षिततेसाठी ठोस उपायांची मागणी करत आहेत.

अमोदेई यांनी तीन टप्प्यांच्या योजनेचा एक प्रस्ताव दिला आहे. त्यात एआयची सुरक्षा तपासण्यासाठी स्वतंत्र तज्ज्ञांना एआय कंपन्यांच्या प्रणालीची नियमित तपासणी करण्याची मुभा देणे, लोकशाही देशांमध्ये सुरक्षेचे समान नियम ठरवणे आणि हुकूमशाही सरकारांशी जागतिक स्तरावर एआय सुरक्षेबाबत समन्वय साधणे यांचा समावेश आहे.

काही कंपन्या एआय मॉडेल टप्प्याटप्प्याने लाँच करण्याची पद्धतही वापरत आहेत.

एप्रिल 2026 मध्ये अँथ्रोपिकने आपल्या अतिशय सक्षम ‘माइथोस’ मॉडेलचं सार्वजनिक लाँच थांबवलं होतं. कारण हे मॉडेल सॉफ्टवेअरमधील त्रुटींचा गैरफायदा घेण्यात खूपच निष्णात असल्याचं आढळून आलं होतं.

कंपनीने हे मॉडेल केवळ विश्वासार्ह सरकारी आणि सायबर सुरक्षा संस्थांसोबतच शेअर केलं. त्यानंतर 9 जून 2026 रोजी अँथ्रोपिकने सर्वसामान्यांसाठी ‘क्लॉड फेबल 5’ नावाचं सुरक्षित मॉडेल लाँच केलं. हे मॉडेल संवेदनशील सायबर सुरक्षा किंवा जैविक (बायोलॉजिकल) विषयांशी संबंधित प्रश्न आपोआप ओळखून त्यावर उत्तर देणं टाळतं.

एआयबाबत सध्या कोणताही बंधनकारक जागतिक करार नाही. अनेक देशांमधील नियमही मोठ्या प्रमाणावर ऐच्छिक आहेत. भारतातही एआयच्या विकासावर थेट नियंत्रण ठेवण्यासाठी स्वतंत्र कोणताही कायदा सध्या नाही.

1 मार्च 2024 रोजी भारताच्या माहिती-तंत्रज्ञान मंत्रालयाने (आयटी मंत्रालय) एक मार्गदर्शक सूचना जारी केली होती.

यात टेक कंपन्यांना चाचणी सुरू असलेली किंवा विश्वासार्ह नसलेली एआय मॉडेल्स लाँच करण्यापूर्वी सरकारची परवानगी घ्यावी, असं सांगण्यात आलं होतं.

उद्योग क्षेत्रातील प्रमुखांनी आणि गुंतवणूकदारांनी याला विरोध केला. त्यांच्या मते, यामुळे नव्या कल्पनांना खीळ बसेल, कंपन्यांवर नियम पाळण्याचा जास्तीचा भार पडेल आणि नवीन तंत्रज्ञान बाजारात आणण्यास उशीर होईल. याचा शेवटी सामान्य लोकांनाच फटका बसेल.

7 मार्च 2024 रोजी टेक इंडस्ट्रीची संघटना नॅसकॉमने आयटी मंत्रालयाला पत्र लिहून एआय मॉडेल लाँच करण्यापूर्वी सरकारची परवानगी घेण्याची अट रद्द करण्याची मागणी केली.

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.)