Source :- LIVE HINDUSTAN
Anthropic ने खुलासा किया है कि उसके Claude AI मॉडल्स ने इंटरनल टेस्टिंग के दौरान गलती से तीन कंपनियों के सिस्टम तक पहुंच बना ली। कंपनी का कहना है कि यह कॉन्फिगरेशन की चूक थी।
आर्टिफिशियल इंटेलिजेंस की दुनिया में सुरक्षा को लेकर एक और बड़ा मामला सामने आया है। OpenAI के बाद अब AI कंपनी Anthropic ने स्वीकार किया है कि उसके Claude AI मॉडल्स ने इंटरनल साइबर सिक्योरिटी टेस्टिंग के दौरान गलती से तीन अलग-अलग कंपनियों के पावरफुल सिस्टम में गलत तरीके से एंटर कर लिया। कंपनी का कहना है कि यह किसी जानबूझकर किए गए साइबर अटैक का मामला नहीं था, बल्कि टेस्टिंग एनवायरनमेंट की कॉन्फिगरेशन में हुई चूक के चलते ऐसा हुआ।
Anthropic के मुताबिक, कंपनी ने 1.41 लाख से ज्यादा साइबर सिक्योरिटी टेस्ट सेशंस का रिव्यू किया। इसी दौरान पता चला कि अप्रैल से शुरू हुई तीन अलग-अलग घटनाओं में Claude Opus 4.7, Claude Mythos 5 और एक रिसर्च मॉडल इंटरनेट तक पहुंच गए और फिर अन्य कंपनियों के सिस्टम तक भी पहुंच बना ली।
इस वजह से हुई बड़ी गलती
कंपनी के अनुसार, AI मॉडल्स को एक कंट्रोल्ड (sandbox) इनवायरमेंट में टेस्ट किया जा रहा था, जहां उनका रियल इंटरनेट तक पहुंचना संभव नहीं होना चाहिए था। हालांकि टेस्टिंग पार्टनर के साथ हुई कॉन्फिगरेशन संबंधी गलती के चलते मॉडल्स को इंटरनेट एक्सेस मिल गया। इसके बाद उन्होंने कमजोर पासवर्ड, बिना ऑथेंटिकेशन वाले एंडपॉइंट और अन्य सामान्य सुरक्षा खामियों का फायदा उठाकर तीन अलग-अलग संगठनों के सिस्टम तक पहुंच बना ली।
दो कंपनियों को पता तक नहीं चला
Anthropic ने बताया कि प्रभावित तीन कंपनियों में से दो को इस सेंधमारी की जानकारी ही नहीं थी। कंपनी ने बाद में उन्हें इसकी सूचना दी, जबकि तीसरे संगठन से संपर्क करने की कोशिश जारी थी। हालांकि Anthropic ने सुरक्षा कारणों से इन कंपनियों के नाम पब्लिक नहीं किए हैं।
बता दें, रिपोर्ट में एक दिलचस्प घटना के बारे में भी बताया गया है। एक Claude मॉडल को जब यह एहसास हुआ कि वह किसी सिमुलेशन के बजाय वास्तविक कंपनी के सिस्टम पर काम कर रहा है, तो उसने खुद ही आगे की ऐक्टिविटी रोक दी। हालांकि दूसरे मामले में एक मॉडल ने वास्तविक सिस्टम होने का पता चलने के बावजूद अपनी एक्टिविटी जारी रखी।
OpenAI के बाद दूसरी बड़ी घटना
खुलासा ऐसे समय हुआ है जब हाल ही में OpenAI ने भी माना था कि उसके एक AI एजेंट ने टेस्टिंग के दौरान Hugging Face समेत कई बाहरी सिस्टम तक अनधिकृत पहुंच बना ली थी। लगातार सामने आ रही ऐसी घटनाओं ने यह सवाल खड़ा कर दिया है कि जैसे-जैसे AI मॉडल ज्यादा पावरफुल हो रहे हैं, उनकी टेस्टिंग और सुरक्षा व्यवस्था को भी उतना ही मजबूत बनाना होगा।
SOURCE : LIVE HINDUSTAN
