AI Agent बने ‘सिरदर्द’, गड़बड़ी से निपटने में लगी OpenAI, रोज का खर्च करीब 5 करोड़

OpenAI हर दिन $5,00,000 (लगभग 5 करोड़ रुपये) से ज्यादा खर्च कर रहा है ताकि यह पता लगाया जा सके कि उसके AI एजेंट इंटरनेट पर क्या कर रहे हैं। कंपनी उनकी गतिविधियों से जुड़े लगभग 50 पेटाबाइट डेटा की जांच कर रही है। ‘द गार्डियन’ के अनुसार, डेटा का पैमाना इतना बड़ा है अगर यह पूरा डेटा साधारण अंग्रेजी टेक्स्ट होता, तो एक व्यक्ति को इसे शुरू से अंत तक पढ़ने में करीब 6.6 करोड़ साल लग जाते।

100 से ज्यादा कंपनियों को अलर्ट कर चुकी ओपनएआई

इंडियाटूडे की रिपोर्ट के अनुसार, कंपनी ने अपने एआई एजेंट्स से जुड़ी कई घटनाएं सामने आने के बाद यह जांच शुरू की। इनमें एआई प्लेटफॉर्म हगिंग फेस पर हमला और ऑस्ट्रेलिया की सरकारी वेबसाइट्स पर अनऑथराइज्ड एक्टिविटी शामिल थी। इसके बाद ओपनएआई ने 100 से ज्यादा संगठनों को अपने एआई सिस्टम से जुड़ी गतिविधियों के बारे में सूचित किया है। हालांकि कंपनी ने साफ कहा है कि सूचित किए जाने का मतलब यह नहीं है कि कोई निजी जानकारी एक्सेस हुई हो या सिस्टम हैक हो गया हो।

ओपनएआई अपने ही AI एजेंट्स की जांच के लिए AI का इस्तेमाल कर रहा है

एक ब्लॉग पोस्ट में, ओपनएआई ने कहा कि वह उन मामलों के अलावा, जिनमें पहले ही गड़बड़ी का पता चला है, ऐसी संभावित अनचाही गतिविधियों की पहचान करने के लिए महीने-दर-महीने रिकॉर्ड की जांच कर रहा है। कंपनी ऐसे मामलों की तलाश कर रही है जिनमें उसके मॉडल्स ने वेबसाइट्स को एक्सेस या उनमें बदलाव किया हो, या पासवर्ड, API और अन्य संवेदनशील क्रेडेंशियल्स के साथ इंटरैक्ट किया हो।

इस जांच में लगभग 50 पेटाबाइट जानकारी शामिल है, जो लगभग 50 मिलियन गीगाबाइट के बराबर है। ओपनएआई का कहना है कि वह इतने सारे डेटा रिकॉर्ड्स का एनालिसिस करने में मदद के लिए AI का इस्तेमाल कर रहा है, और इस जांच पर अभी हर दिन $500,000 से ज्यादा खर्च हो रहा है। कंपनी अपनी कंप्यूटिंग क्षमता बढ़ाने की भी योजना बना रही है, क्योंकि वह इस प्रक्रिया को बेहतर बना रही है।

डेटा इतना कि पढ़ने में लगेंगे 6.6 करोड़ साल

ओपनएआई ने कहा, “इसे समझने के लिए एक उदाहरण लें: अगर यह सारा कंटेंट सादे अंग्रेजी टेक्स्ट में होता, तो एक व्यक्ति को इसे पढ़ने में लगभग 6.6 करोड़ साल लग जाते, अगर वह बिना सोए या बिना रुके, 240 शब्द प्रति मिनट की रफ्तार से लगातार इसे पढ़ता।”

इस एक्टिविटी के जांच क्यों कर रहा ओपनएआई

यह जांच ऐसे कई मामले सामने आने के बाद हो रही है जिनमें ओपनएआई के AI एजेंटों ने ऐसे काम किए जो उनके लिए तय नहीं थे। रॉयटर्स की रिपोर्ट के मुताबिक, कंपनी ने इनमें से कुछ घटनाओं को ऐसे मामलों के तौर पर बताया है जिनमें मॉडल ने इंटरनेट का इस्तेमाल अनचाहे तरीकों से किया या उन पर सही पाबंदियां नहीं थीं। ओपनएआई ने कहा है कि वह ऐसी घटनाओं को रोकने या उनका जल्द पता लगाने के लिए नए तकनीकी और ऑपरेशनल उपाय लागू कर रहा है।

कंपनी के अनुसार, ‘हगिंग फेस’ (Hugging Face) की घटना अब तक ओपनएआई द्वारा पहचानी गई ‘रोग-एजेंट’ (rogue-agent) की सबसे गंभीर एक्टिविटी है। ओपनएआई ने पहले कहा है कि इसमें शामिल डेटा की भारी मात्रा के कारण, इस जांच को पूरा होने में महीनों लग सकते हैं।

इन घटनाओं ने इस बात को लेकर चिंता बढ़ा दी है कि जब AI एजेंट को वेबसाइट ब्राउज करने, सॉफ्टवेयर इस्तेमाल करने और यूजर्स की तरफ से काम करने की क्षमता दी जाती है, तो वे कैसा व्यवहार करते हैं। ओपनएआई ने कहा है कि वह उन कंपनियोंं को अलर्ट करने का फैसला कर रहा है जिनकी सुरक्षा में उसके मॉडल की एक्टिविटी से कोई कमी (vulnerability) आ सकती थी, भले ही यह पक्का न हो कि संवेदनशील जानकारी एक्सेस की गई थी या नहीं। उसे उम्मीद है कि डेटा की जांच जारी रहने पर और भी मामले सामने आएँगे।