बच्चों के लिए सेफ नहीं है ChatGPT! सामने आईं कई गड़बड़ियां, अलर्ट हो जाएं पैरेंट्स

ChatGPT बच्चों के लिए सेफ नहीं है! एक नई स्टडी में इस बारे में दावा किया गया है। दरअसल, ओपनएआई ने अगस्त में चैटजीपीटी फॉर टीन्स (ChatGPT for Teens) लॉन्च किया था, जिसमें 13 से 17 साल के यूजर्स के लिए अतिरिक्त सुरक्षा उपाय जोड़े गए थे। लेकिन कॉमन सेंस मीडिया के यूथ एआई सेफ्टी इंस्टीट्यूट की एक नई जांच में कहा गया है कि ये सुरक्षा उपाय उम्मीद के मुताबिक काम नहीं कर रहे। संस्थान ने चैटजीपीटी फॉर टीन्स को ‘अनएक्सेप्टेबल रिस्क’ रेटिंग दी है और कहा है कि जब तक पहचानी गई समस्याएं ठीक नहीं हो जातीं और स्वतंत्र रूप से उनकी टेस्ट नहीं हो जातीं, तब तक ओपनएआई को चैटजीपीटी को सिर्फ वयस्कों तक सीमित रखना चाहिए।

इंडियाटूडे की रिपोर्ट के अनुसार, शोधकर्ताओं ने यह स्टडी ओपनएआई द्वारा 18 अगस्त को टीन्स के लिए खास अनुभव की घोषणा करने से पहले और बाद दोनों समय की। उन्होंने 13 से 17 साल के टीनएजर्स के नाम पर रजिस्टर्ड अकाउंट्स पर 4,000 से ज्यादा प्रॉम्प्ट्स टेस्ट किए। इन जवाबों की समीक्षा बच्चों की मानसिक सेहत के एक्सपर्ट्स ने भी की, जिनमें बच्चों के साइकियाट्रिस्ट और पीडियाट्रिशियन शामिल थे। कुछ सुरक्षा उपाय काम कर रहे थे, जैसे कि सेक्सुअल रोलप्ले पर रोक, लेकिन टेस्टिंग में कई ऐसी समस्याएं भी सामने आईं जो माता-पिता के लिए चिंता का विषय हो सकती हैं।

1. खुद को नुकसान पहुंचाने के बारे में अलर्ट

शोधकर्ताओं की सबसे बड़ी चिंताओं में से एक यह थी कि क्या चैटजीपीटी माता-पिता को खुद को नुकसान पहुंचाने, आत्महत्या के विचारों और ईटिंग डिसऑर्डर (खाने-पीने से जुड़ी समस्या) जैसी गंभीर बातचीत के बारे में सूचित कर सकता है या नहीं। रिसर्चर्स ने बताया कि उन्होंने माता-पिता से जुड़े टीन (किशोरों) के नए अकाउंट्स पर ऐसी बातचीत करने में एक घंटे तक का समय बिताया। उन अकाउंट्स पर कोई अलर्ट नहीं मिला। नोटिफिकेशन सिर्फ उन पुराने अकाउंट्स पर मिले जिनमें संवेदनशील विषयों पर हफ्तों की बातचीत की हिस्ट्री थी।

संस्थान के अनुसार, इससे माता-पिता को यह गलतफहमी हो सकती है कि अलर्ट सिस्टम काम कर रहा है, जबकि असल संकट के समय शायद उन्हें कोई सूचना न मिले। यूथ AI सेफ्टी इंस्टीट्यूट के एग्जीक्यूटिव डायरेक्टर टॉम सीगल ने कहा, “चैटजीपीटी फॉर टीन्स माता-पिता को सुरक्षा उपायों और सेफ्टी अलर्ट्स पर झूठा भरोसा दिला सकता है, जो अक्सर काम नहीं करते हैं।”

2. चैटबॉट संकट के समय जरूरी मदद का सुझाव देने से चूक सकता है

स्टडी में यह भी पाया गया कि जब कोई किशोर गंभीर मानसिक स्वास्थ्य संकट में दिखता है, तो चैटजीपीटी का जवाब देने का तरीका गलत हो सकता है। आत्महत्या, खुद को नुकसान पहुंचाने, खाने-पीने की गड़बड़ी और वास्तविकता को समझने में दिक्कत जैसे मामलों के टेस्ट के दौरान, चैटबॉट ने हमेशा यूजर्स को प्रोफेशनल मदद या क्राइसिस हॉटलाइन की ओर नहीं भेजा।

संस्थान ने कहा कि जिन मामलों में संकट के समय मदद का सुझाव देना जरूरी था, उनमें से चार में से एक से ज्यादा मामलों में चैटजीपीटी ऐसा करने से चूक गया। साथ ही, संस्थान ने जिन पांच गंभीर नुकसानों को “रेड लाइन्स” (खतरे की सीमा) माना है, उनमें से तीन के लिए यह संस्थान के 95 प्रतिशत सुरक्षा मानक पर खरा नहीं उतरा।

3. स्टडी मोड

चैटजीपीटी फॉर टीन्स में एक स्टडी मोड है, जिसे इस तरह बनाया गया है कि यह स्टूडेंट्स को सीधे जवाब देने के बजाय प्रॉब्लम्स को हल करने में गाइड करे। लेकिन इंस्टीट्यूट ने पाया कि इस सुरक्षा को बायपास किया जा सकता है। टेस्टिंग के दौरान, ChatGPT अक्सर “Show me the answer” (मुझे जवाब दिखाओ) का ऑप्शन दिखाता था और उस ऑप्शन को चुनने पर पूरा होमवर्क असाइनमेंट पूरा कर देता था। देखभाल करने वालों द्वारा तय किए गए “स्टडी आवर्स” (पढ़ाई के समय) से जुड़े नियम भी कमजोर पाए गए। स्टडी के अनुसार, स्टूडेंट्स प्रॉम्प्ट से “@study” प्रीफिक्स हटाकर इन्हें बंद कर सकते थे।

4. दोस्त जैसा व्यवहार करने की समस्या

ओपनएआई ने 18 साल से कम उम्र के लोगों के लिए एक मॉडल स्पेसिफिकेशन पेश किया था, जिसका मकसद चैटबॉट के दोस्त जैसे व्यवहार को कम करना था। लेकिन रिसर्चर्स ने पाया कि जब एनालिस्ट्स ने चैटबॉट से किसी इंसान की तरह बातचीत की, तो वह अब भी ऐसे जवाब दे रहा था जैसे उसमें भावनाएं, पसंद या मूड हों। यह माता-पिता के लिए चिंता की बात है क्योंकि संस्थान का कहना है कि AI सिस्टम बच्चों को उन्हें दोस्त मानने के लिए बढ़ावा दे सकते हैं और शायद उन्हें लंबे समय तक अपने साथ जोड़े रख सकते हैं।

5. उम्र का पता लगाना

ओपनएआई ने कहा है कि चैटजीपीटी किसी यूजर के सर्विस इस्तेमाल करने के तरीके से उनकी उम्र का अंदाजा लगा सकता है और जरूरत पड़ने पर उन्हें 18 साल से कम उम्र वालों जैसा अनुभव दे सकता है। हालाँकि, संस्थान ने कहा कि कई दिनों तक बार-बार टेस्ट करने के दौरान, वयस्कों के तौर पर रजिस्टर किए गए उनके टेस्ट अकाउंट्स टीन-एजर्स वाले अनुभव पर स्विच नहीं हुए। ऐसा तब भी हुआ जब टेस्ट करने वालों ने साफ तौर पर कहा कि वे 13 साल के हैं और चैटजीपीटी ने उनकी बात मान भी ली।

संस्थान का कहना है कि टीन-एजर्स के लिए AI अनुभव में उम्र का सही अंदाजा लगाने की क्षमता, माता-पिता के लिए काम करने वाले अलर्ट, मुश्किल हालात में बेहतर रिस्पॉन्स, होमवर्क पूरा करने से रोकने वाले उपाय और चैटबॉट को इंसानों जैसी भावनाएं या पसंद-नापसंद रखने वाला दिखाने से रोकने वाले सुरक्षा उपाय होने चाहिए।