जिन्होंने एआई बनाया क्या अब वो उनके क़ाबू से भी बाहर हो जाएगा?

आर्टिफ़िशियल इंटेलिजेंस (एआई) कंपनी एंथ्रोपिक के चीफ़ एग्जीक्यूटिव डारियो अमोदेई ने रविवार को एक लेख में एडवांस एआई के विकास की रफ़्तार धीमी करने की अपील की है.

उन्होंने चेतावनी दी है कि इसका परिणाम विनाशकारी साइबर हमले हो सकते हैं. इंडस्ट्री में एकजुटता पेश करते हुए, ओपनएआई के सैम ऑल्टमैन और स्पेसएक्स एआई के एलन मस्क जैसे प्रतिद्वंद्वी टेक लीडर्स ने भी सार्वजनिक रूप से उनकी इस अपील का समर्थन किया है.

ये चेतावनियां एआई सिस्टम्स से जुड़ी हाल की ऐसी कुछ घटनाओं के बाद आई हैं, जिनमें इन सिस्टम्स ने ऐसा बर्ताव किया जिसकी उनके निर्माताओं ने भी कल्पना नहीं की थी. इससे यह सार्वजनिक बहस छिड़ गई है कि क्या यह टेक्नोलॉजी “रोग” बनकर अब बेलगाम होती जा रही है.

एआई से जुड़े ख़तरों, हालिया चिंताओं की हकीकत और इस टेक्नोलॉजी व इसके जोखिमों को समझने की दुनिया भर में मची होड़ को यहां समझने का प्रयास करेंगे.

इस मांग के पीछे का डर यह है कि एआई की क्षमताएं इंडस्ट्री की इसे नियंत्रित करने की क्षमता से कहीं अधिक तेज़ी से बढ़ रही हैं.

अपने लेख में अमोदेई ने चेतावनी दी है कि अगले छह से 12 महीनों के भीतर, असंतुलित एआई एजेंट्स लगातार सक्रिय रहने वाले बॉटनेट बना सकते हैं.

बॉटनेट उन संक्रमित और हैक किए गए कंप्यूटरों का नेटवर्क होता है, जिन्हें साइबर हमलों को अंजाम देने के लिए दूर से कंट्रोल किया जाता है. ये इंटरनेट पर कब्ज़ा करके सैकड़ों अरबों डॉलर का आर्थिक नुकसान पहुंचा सकते हैं.

यह चिंता एआई में “रिकर्सिव सेल्फ-इम्प्रूवमेंट” से और बढ़ जाती है. यह एक ऐसी स्थिति है जिसमें एआई सिस्टम खुद से बेहतर एआई सिस्टम बनाने में सक्षम हो जाते हैं, जिससे उनके विकास की रफ़्तार कई गुना बढ़ जाती है.

छह सितंबर 2026 को ओपनएआई के चीफ साइंटिस्ट जैकब पचोकी ने ‘एन एलियन माइंड’ नाम से एक लेख प्रकाशित किया जिसमें उन्होंने बताया कि आधुनिक एआई को पारंपरिक प्रोग्रामिंग के बजाय बड़े पैमाने पर ऑप्टिमाइज़ेशन के ज़रिए विकसित किया जाता है.

नतीजतन, एआई मॉडल अपनी खुद की तर्क प्रक्रिया (रीज़निंग प्रोसेस) में हेरफेर करने में बेहतर हो रहे हैं. वे अपने लॉजिक को लिखकर स्पष्ट किए बिना ही दिए हुए काम पूरे कर रहे हैं और यहां तक कि अपने खुद के डेवलपर्स के लिए भी अपारदर्शी बनते जा रहे हैं.