चैटजीपीटी से एक पिता बेटे की हत्या की साज़िश की योजना पूछ रहा था, फिर ऐसे हुई गिरफ़्तारी

चेतावनी: इस रिपोर्ट में हिंसा और आत्महत्या के संदर्भ शामिल हैं.

“मुझे और मेरे बेटे को मारने के लिए मैंने उसे 50,000 की पेशकश की थी. लेकिन उसने ऐसा करने से इनकार कर दिया, क्योंकि इसमें एक बच्चा शामिल था.”

“मैं जानना चाहता था कि लोगों को मारने की यह इच्छा कहाँ से आती है. मुझे किसी दूसरे व्यक्ति को पीड़ा में देखना अच्छा लगता है.”

पुलिस के मुताबिक़, लगभग दो महीनों तक एक ब्राज़ीली किसान ने चैटजीपीटी के साथ ऐसे और कई संदेशों का आदान-प्रदान किया. इन संदेशों में उसने अपने आठ साल के बेटे की हत्या करने, अन्य लोगों पर हमला करने और फिर ख़ुदकुशी करने की योजनाओं पर बात की.

इस तरह के बहुत कम ज्ञात मामलों में से एक में, 36 वर्षीय व्यक्ति को गिरफ़्तार किया गया.

इसकी वजह यह थी कि चैटजीपीटी बनाने वाली कंपनी ओपन एआई ने उसके संदेश एफ़बीआई को भेजकर चेतावनी दी थी, जिसके बाद एफ़बीआई ने ब्राज़ील के अधिकारियों को सूचित किया.

उसके वकील का कहना है कि वह एक चैटबॉट से “बेतुकी बातें” कर रहा था और उसने कोई अपराध नहीं किया.

यह मामला पुलिस, अदालतों और एआई कंपनियों के सामने बढ़ती चुनौती को उजागर करता है.

सवाल यह है कि जब एआई चैटबॉट किसी संभावित ख़तरे की पहचान कर ले लेकिन कोई अपराध अभी हुआ न हो, तो ऐसी स्थिति में क्या किया जाना चाहिए.

बीबीसी उस व्यक्ति की पहचान उजागर नहीं कर रहा ताकि उनके बेटे की पहचान सुरक्षित रहे.

उसे 19 जून को साओ गेब्रियल दा पाल्हा के ग्रामीण इलाक़े से गिरफ़्तार किया गया था.

यह गिरफ़्तारी ब्राज़ील के न्याय मंत्रालय की साइबर अपराध यूनिट की ओर से केस राज्य पुलिस विभाग को भेजे जाने के तीन दिन बाद हुई.

एस्पिरितु सांतो के साइबर अपराध पुलिस स्टेशन के प्रमुख ब्रेनो आंद्रादे ने कहा, “हमने इस मामले को इसकी गंभीरता के कारण प्राथमिकता दी. साथ ही आरोप है कि पिता 20 तारीख़ तक अपने बेटे की हत्या करने की योजना बना रहा था.”

आंद्रादे के अनुसार, बाल भरण-पोषण का ख़र्च देने के अलावा संदिग्ध का अपने बेटे से बहुत कम या लगभग कोई संपर्क नहीं था.

जांचकर्ताओं का मानना है कि उन भुगतानों को लेकर नाराज़गी कथित साज़िश की एक वजह हो सकती है.

उसकी संपत्ति की तलाशी के दौरान चार बोतलें मिलीं, जिनमें अज्ञात पदार्थ थे. इसके अलावा एक गांठ लगी हुई रस्सी भी मिली. अधिकारियों का कहना है कि यह आत्महत्या की मंशा की ओर इशारा कर सकता है.

पुलिस का यह भी मानना है कि संदिग्ध ने चैटजीपीटी के साथ स्कूलों, चर्चों और पुलिस अधिकारियों पर संभावित हमलों को लेकर चर्चा की थी.

बीबीसी के देखे एक संदेश में लिखा था, “अगर मैं नशीले पदार्थ बेचने वाली किसी जगह जाऊं और लगभग चार अपराधियों को मार दूं, तो मैं शहर में मशहूर हो जाऊंगा. उसके बाद मुझे सिर्फ़ एक या दो पुलिस अधिकारियों को मारना होगा और फिर मैं शांति से मर सकता हूँ.”

एक अन्य संदेश में लिखा था, “मैं पिस्तौल ख़रीदने और पुलिस पर गोली चलाने के बारे में सोच रहा हूँ, ताकि वे मुझे मार दें. यह मेरे लिए अच्छा होगा.”

जांचकर्ताओं का कहना है कि उसने राइसिन समेत विषैले पदार्थों के बारे में जानकारी खोजी थी. उनका यह भी कहना है कि उसने सवालों को अलग ढंग से लिखकर चैटजीपीटी की सुरक्षा व्यवस्था को दरकिनार करने की कोशिश की थी.

आंद्रादे ने कहा, “प्लैटफ़ॉर्म ने हमें जो भी जानकारी दी थी, उसकी पुष्टि पुलिस के घटनास्थल पर पहुंचने के बाद हो गई.”

वह व्यक्ति इस बात से इनकार करता है कि उसका अपने बेटे को नुक़सान पहुँचाने का इरादा था.

54 दिन हिरासत में रहने के बाद उसे 13 अगस्त को रिहा कर दिया गया. जांच में देरी के कारण उसे रिहा किया गया था. उसके ख़िलाफ़ अभी तक कोई आरोप तय नहीं किया गया है, लेकिन पुलिस की जांच अब भी जारी है.

किसान पर एहतियाती पाबंदियां लगाई गई हैं. इनमें इलेक्ट्रॉनिक निगरानी और अपने बेटे या बच्चे की मां से संपर्क करने पर रोक शामिल है.

जांचकर्ताओं ने कहा है कि वे संदिग्ध के मोबाइल फ़ोन की जांच कर रहे हैं. साथ ही ज़ब्त की गई वस्तुओं की फ़ॉरेंसिक जांच के नतीजों का इंतज़ार कर रहे हैं.

इसका मक़सद यह पता लगाना है कि क्या उसने किसी योजना को अमल में लाने के लिए ठोस क़दम उठाए थे.

इसमें यह भी शामिल है कि क्या उसने किसी सुपारी किलर से संपर्क किया था, जैसा कि उसने कथित तौर पर चैटजीपीटी के साथ बातचीत में दावा किया था.

उनका कहना है कि ऐसे सबूत यह तय करने में मदद कर सकते हैं कि संदिग्ध केवल अपराध के बारे में सोचने और उसकी तैयारी करने के चरण में था या फिर उसे अंजाम देने की दिशा में बढ़ चुका था.

ब्राज़ील के आपराधिक क़ानून में आम तौर पर अपराध तभी माना जाता है, जब वह क्रियान्वयन के चरण में पहुंच जाए.

बचाव पक्ष का तर्क है कि ऐसा कोई क़दम नहीं उठाया गया था.

बचाव पक्ष के वकील पेद्रो पाउलो पेसी ने बीबीसी न्यूज़ ब्राजील से कहा, “अगर एआई से बात करना और बेतुकी बातें कहना अपराध है, तो फिर हर कोई जेल चला जाएगा.”

एआई कंपनियों के किसी यूज़र की जानकारी पुलिस को देने के मामले बहुत कम माने जाते हैं.

अगस्त में ओपन एआई ने फ़्लोरिडा के 25 वर्षीय एक व्यक्ति की जानकारी एफ़बीआई को दी थी.

अमेरिकी मीडिया के अनुसार, उस व्यक्ति ने अपनी पूर्व प्रेमिका के साथ रेप और उसकी हत्या की योजना साझा की थी.

एस्पिरितु सांतो पुलिस के आंद्रादे ने कहा कि किसान का मामला इस तरह का पहला एआई-जनित अलर्ट था, जो राज्य को मिला था. उन्होंने यह भी कहा कि ब्राज़ील में यह इस तरह का केवल तीसरा मामला था.

आंद्रादे ने कहा, “यह पुलिस के लिए एक और माध्यम है, जिससे यह पता लगाने की कोशिश की जा सकती है कि क्या लोगों ने एआई का इस्तेमाल करके अपराधों के बारे में जानकारी जुटाई है.”

हालांकि, जांच प्रक्रिया में एआई कंपनियों से मिलने वाली ऐसी सूचनाओं की भूमिका को लेकर कई सवाल भी हैं. इनमें यह सवाल भी शामिल है कि क्या ऐसे संदेशों को अदालत में सबूत के तौर पर इस्तेमाल किया जा सकता है.

जांचकर्ताओं का कहना है कि ओपन एआई ने यूज़र्स और उसकी ओर से भेजे गए संदेशों की जानकारी उपलब्ध कराई थी. लेकिन चैटजीपीटी के जवाब उपलब्ध नहीं कराए गए थे.

आंद्रादे ने कहा, “हमें वो जवाब नहीं मिले जो एआई की ओर से दिए गए.”

आपराधिक मामलों की वकील माइरा फ़र्नांडीस का कहना है कि इससे सबूतों से जुड़ी समस्या पैदा होती है, क्योंकि संदेशों का संदर्भ महत्वपूर्ण होता है.

उन्होंने कहा, “यह केवल कोई छोटा हिस्सा नहीं हो सकता. यह संपादित किया हुआ संस्करण भी नहीं हो सकता. पूरी बातचीत उपलब्ध होनी चाहिए.”

फ़र्नांडीस ने कहा कि संदिग्ध और चैटजीपीटी के बीच हुई पूरी बातचीत देखने से यह समझने में मदद मिल सकती है कि चैटबॉट केवल यूज़र्स की बातों पर प्रतिक्रिया दे रहा था या उसने चर्चा को सक्रिय रूप से किसी दिशा में प्रभावित किया था.

बीबीसी न्यूज़ ब्राज़ील को दिए एक बयान में कंपनी ने यह बताने से इनकार कर दिया कि चैटजीपीटी के जवाब क्यों साझा नहीं किए गए.

उसने केवल इतना कहा कि जब उसे “दूसरों को नुक़सान पहुँचाने का विश्वसनीय और तत्काल मंडराता हुआ ख़तरा” दिखाई देता है, तो वह क़ानून लागू करने वाली एजेंसियों को सूचित कर सकती है.

इस वर्ष अप्रैल में फ़्लोरिडा ने ओपन एआई के ख़िलाफ़ आपराधिक जांच शुरू की थी. जांच इस बात को लेकर थी कि क्या पिछले वर्ष फ़्लोरिडा स्टेट यूनिवर्सिटी में हुई सामूहिक गोलीबारी के दौरान दो लोगों की हत्या में उसकी चैटजीपीटी तकनीक की कोई भूमिका थी.

ओपन एआई इन आरोपों से इनकार करता है. उसका कहना है कि चैटजीपीटी ने केवल वही जानकारी उपलब्ध कराई थी जो पहले से सार्वजनिक रूप से मौजूद थी और उसने किसी भी ग़ैरक़ानूनी गतिविधि को बढ़ावा नहीं दिया था.

फ़र्नांडीस का कहना है कि इस मामले में कथित पीड़ित एक पहचाना जा सकने वाला बच्चा था.

यही बात इस मामले की सूचना अधिकारियों को दिए जाने की एक वजह समझाती है.

हालांकि, वह केवल एआई के आकलन के आधार पर जांच शुरू करने की प्रवृत्ति को सामान्य बनाने के ख़िलाफ़ चेतावनी देती हैं.

उन्होंने कहा, “वरना किसी भी व्यक्ति की जांच की जा सकती है, क्योंकि एआई ने उसे उसी तरह समझ लिया.”

उनका तर्क है कि वास्तविक ख़तरों और भावनात्मक भड़ास, कल्पना या उकसाने वाले बयानों के बीच फ़र्क़ करने के लिए सुरक्षा उपाय ज़रूरी हैं.

प्रोफ़ेसर और डिजिटल क़ानून विशेषज्ञ पैट्रिशिया पेक का कहना है कि यह मामला एआई की भूमिका में हो रहे व्यापक बदलाव को दर्शाता है.

उनके अनुसार, एआई अब सिर्फ़ सामग्री तैयार करने वाला उपकरण नहीं रह गया है, बल्कि एक ऐसी इंटरैक्टिव प्रणाली बन रहा है जो संभावित रूप से ख़तरनाक व्यवहार से जुड़े पैटर्न की पहचान करने में सक्षम है.

उनका तर्क है कि कुछ परिस्थितियों में एआई कंपनियों की क़ानूनी ज़िम्मेदारी बन सकती है कि वे अधिकारियों को सूचित करें.

उन्होंने कहा, “जब कोई बातचीत केवल एक अमूर्त इरादे तक सीमित नहीं रहती और एक ठोस ख़तरे का संकेत देने लगती है, जहाँ पीड़ित की पहचान संभव हो, साधन उपलब्ध हों और आसन्न ख़तरा मौजूद हो, तब कार्रवाई करने की नैतिक और कुछ परिस्थितियों में क़ानूनी ज़िम्मेदारी पैदा हो जाती है.”

लेकिन फ़र्नांडीस की तरह वह भी इसके ज़रूरत से ज़्यादा इस्तेमाल के प्रति सावधान रहने की सलाह देती हैं.

उन्होंने कहा, “एआई पर लागू नैतिकता ‘हर चीज़ पर निगरानी रखो’ वाली सोच पर आधारित नहीं होनी चाहिए. बल्कि यह ‘केवल तब हस्तक्षेप करो, जब ख़तरा इसकी मांग करता हो’ वाली सोच पर आधारित होनी चाहिए.”

“चुनौती यह है कि न तो लापरवाही हो और न ही निगरानी.”

बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित.

BBC News हिन्दी को चुनें और पाइए न्यूज़ अलर्ट, लाइव टीवी, पॉडकास्ट… सब एक जगह

कृपया नोट करें: नया ऐप ब्रिटेन और अमेरिका में उपलब्ध नहीं है.