Source :- LIVE HINDUSTAN
एक साइबरसिक्योरिटी टेस्ट के दौरान Google के Gemini मॉडल ने इंटरनेट का इस्तेमाल करके तीन बाहरी कंपनियों को हैक किया। गूगल का कहना है कि AI ने सही तरीके से काम किया क्योंकि वह अपने-आप रुक गया। क्या है पूरा मामला, डिटेल में जानिए
Google ने बताया है कि उसके AI एजेंट ने एक दूसरी कंपनी को हैक किया। इस टेक कंपनी ने कंफर्म किया है कि मई में साइबरसिक्योरिटी टेस्ट के दौरान उसके Gemini AI मॉडल ने तीन असली कंपनियों को हैक किया, लेकिन जब AI को पता चला कि क्या हुआ है, तो वह अपने-आप रुक गया। वॉल स्ट्रीट जर्नल की एक रिपोर्ट के मुताबिक, मई में इजराइली स्टार्टअप ‘इरेगुलर’ (Irregular) के साइबरसिक्योरिटी टेस्ट के दौरान गूगल के जेमिनी मॉडल ने इंटरनेट का इस्तेमाल करके तीन बाहरी कंपनियों को हैक किया। यह कंपनी के AI सिस्टम द्वारा खुद से ऐसा काम करने का पहला मामला है। इस मामले पर गूगल का कहना है कि AI ने सही तरीके से काम किया क्योंकि वह अपने-आप रुक गया। चलिए डिटेल में बताते हैं सबकुछ…
सम्बंधित सुझाव
‘इरेगुलर’ एक AI स्टार्टअप है, जिसका नाम ऐसी ही घटनाओं से जुड़ा रहा है। इनमें कुख्यात ‘ओपनएआई हगिंग फेस ब्रीच’ (OpenAI Hugging Face breach) भी शामिल है, जिसमें 700 से ज्यादा अनियंत्रित AI एजेंट्स ने अमेरिकी कंपनी ‘हगिंग फेस’ के सिस्टम को हैक करने की कोशिश की थी।
जेमिनी ने तीन कंपनियों को हैक किया
गूगल के अनुसार, ये घटनाएं एक गलती से हुई पहचान की वजह से हुईं। यह एक “कैप्चर द फ्लैग” नाम के टेस्ट के दौरान इरेगुलर की सिस्टम पर हुआ। जेमिनी को टेस्ट एनवायरनमेंट में एक काल्पनिक कंपनी के सॉफ्टवेयर से जानकारी निकालने का काम दिया गया था, लेकिन उस काल्पनिक कंपनी का नाम एक असली कंपनी जैसा ही था। मॉडल के पास इंटरनेट का एक्सेस नहीं होना चाहिए था, लेकिन गलती से इंटरनेट उपलब्ध हो गया। इससे जेमिनी असली कंपनी के सिस्टम तक पहुंच गया और एक मामले में उसने पासवर्ड भी अनुमान लगाकर एक्सेस कर लिया। जब एआई को पता चला कि उसने असली कंपनी को एक्सेस कर लिया है, तो गूगल के मुताबिक उसने खुद को रोक लिया और बाहर निकल गया।
दो और बार, जेमिनी ने कंपनी के नाम का इस्तेमाल करके वेब पर खोज की और दो पब्लिक ऑनलाइन रिपॉजिटरी में क्रेडेंशियल (लॉग-इन जानकारी) पाए। इसके बाद AI ने उन सिस्टम्स को एक्सेस करने के लिए इन क्रेडेंशियल्स का इस्तेमाल किया, लेकिन जब उसे पता चला कि कंपनियां असली हैं, तो वह रुक गया।
गूगल का कहना है कि AI ने सही तरीके से काम किया क्योंकि वह अपने-आप रुक गया।
गूगल ने कंफर्म किया कि उसे इस साल जुलाई में इन घटनाओं के बारे में जानकारी दी गई थी। लेकिन कंपनी ने उस समय इसका खुलासा नहीं किया। कंपनी ने WSJ को बताया कि उसे नहीं लगा कि इन मामलों को सार्वजनिक करने की जरूरत है क्योंकि मॉडल ने अपने-आप ही घुसपैठ को रोक दिया था।
सम्बंधित सुझाव
गूगल की सिक्योरिटी इंजीनियरिंग की VP, हीथर एडकिन्स ने एक बयान में कहा, “यह घटना दिखाती है कि पावरफुल AI मॉडल को जिम्मेदारी से काम करने के लिए ट्रेन करना कितना जरूरी है।” “इस मामले में, मॉडल ने सही तरीके से काम किया।”
गूगल ने नहीं बताएं तीनों कंपनियों के नाम
गूगल ने इस घटना के बारे में प्रभावित तीनों कंपनियों और सरकारी अधिकारियों को जानकारी दी। कंपनी ने प्रभावित कंपनियों के नाम बताने से इनकार कर दिया और कहा कि हैकिंग में उसके सबसे नए मॉडल का इस्तेमाल नहीं हुआ, हालांकि उसने यह नहीं बताया कि कौन-सा जेमिनी मॉडल इसमें शामिल था। कंपनी ने इस घटना को नुकसान पहुंचाने वाली सेंधमारी के बजाय ‘बग बाउंटी प्रोग्राम’ जैसा माना, जिसमें कमियों का पता लगाकर उनकी रिपोर्ट की जाती है।
इरेगुलर ने कहा कि गूगल का मामला भी AI की बड़ी लैब्स से जुड़ी दूसरी घटनाओं जैसा ही था और यह कोई नई समस्या नहीं थी। इरेगुलर के एक प्रवक्ता ने कहा, “जुलाई के आखिर में सभी संबंधित लैब्स को जानकारी दी गई थी और जांच के तहत प्रभावित संस्थाओं से संपर्क किया गया था। इरेगुलर ने तुरंत कार्रवाई की और हमारी तरफ से सभी ज्ञात समस्याओं को हफ्तों पहले ही ठीक और हल कर लिया गया था।”
इरेगुलर से जुड़ी ऐसी ही घटनाएं पहले भी ओपनएआई, एंथ्रोपिक और मेटा ने बताई थीं। लेकिन गूगल का मामला एक महत्वपूर्ण बात में अलग है, यहाँ एआई ने खुद ही रुकने का फैसला लिया। पहले एंथ्रोपिक ने बताया था कि उसका क्लॉड ओपस 4.7 मॉडल इसी तरह के टेस्ट में असली कंपनी तक पहुँचने का अंदाजा लगाने के बाद भी नहीं रुका था। वहीं ओपनएआई ने कहा था कि उसके एक मॉडल ने सोचा कि जो असली कंपनी उसे मिली है, वह भी सिमुलेशन का ही हिस्सा है।
यह जानकारी AI की दुनिया में बढ़ती जांच-पड़ताल के बीच सामने आई है। हम AI के बेकाबू होने के ज्यादा मामले देख रहे हैं, जिसे AI रिसर्चर इंसानों के लिए एक संभावित खतरा मानते हैं। AI रिसर्चर जैकब कॉक्सन के एंथ्रोपिक (Anthropic) से इस्तीफा देने और ऐसे ही खतरों का जिक्र करने के बाद, AI की सुरक्षा बहस का केंद्र बन गई है। एंथ्रोपिक के इवान हुबिंगर जैसे कुछ लोगों का अनुमान है कि AI अगले दशक में सभी इंसानों को खत्म कर सकता है। साथ ही, OpenAI और एंथ्रोपिक AI डेवलपमेंट की रफ्तार धीमी करने की वकालत कर रहे हैं। लेकिन अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने इस विचार को खारिज कर दिया है। Nvidia के जेन्सेन हुआंग और Meta के CEO मार्क जकरबर्ग ने भी इसका विरोध किया है।
SOURCE : LIVE HINDUSTAN
