Source :- LIVE HINDUSTAN
AI असिस्टेंट अभी भी लोगों का भरोसा नहीं जीत पा रहा है। अब मेटा के Muse AI ने एक सॉफ्टवेयर इंजीनियर के साथ ऐसा काम कर दिया है, जिसके बाद से उसमें म्यूज को इस्तेमाल करना ही छोड़ दिया है। क्या है पूरा मामला, चलिए डिटेल में बताते हैं सबकुछ
AI असिस्टेंट अभी भी यूजर्स का भरोसा नहीं जीत पा रहा है। यह तब और भी मुश्किल हो जाता है, जब असिस्टेंट आपसे कोई ऐसी बात कर दे, जिसका आपने उससे कभी जिक्र ही न किया हो। ऐसा ही कुछ सॉफ्टवेयर इंजीनियर उगो न्वुने के साथ हुआ है। इस घटना से न्वुने को इतना विचलित कर दिया कि उन्होंने Meta के Muse AI का इस्तेमाल करना ही बंद कर दिया। न्वुने का कहना है कि म्यूज AI एजेंट ने उन्हें एंथ्रोपिक के एक ईमेल का जिक्र करते हुए बिना मांगे ही एक मैसेज भेज दिया, जबकि उनका जीमेल अकाउंट इस सर्विस से कभी जुड़ा ही नहीं था। यह मैसेज तब आया, जब उन्होंने दो दिनों तक उस एजेंट का इस्तेमाल नहीं किया था।
न्वुने ने बताया कि उन्होंने म्यूज का रुख इसलिए किया क्योंकि वे अन्य AI एजेंटों की तुलना में मेटा के एआई टूल को ज्यादा सुरक्षित मान रहे थे, क्योंकि मेटा बड़ी कंपनी है और उसके पास बड़े संसाधन हैं। उसने इसे अपने फेसबुक, इंस्टाग्राम और थ्रेड्स अकाउंट्स तक पहुंचने की अनुमति तो दी, लेकिन उसका कहना है कि उसने इसे कोई और परमिशन नहीं दी।
इस मैसेज ने प्रोडक्ट के प्रति उनका नजरिया ही बदल दिया। ‘बिजनेस इनसाइडर’ के साथ शेयर किए गए अपने अनुभव के अनुसार, न्वुने ने तब से म्यूज का इस्तेमाल करना बंद कर दिया है।
Meta के लिए यह घटना AI एजेंट्स के विकास में एक जानी-पहचानी चुनौती पेश करती है। कंपनी को यूजर्स को यह विश्वास दिलाना है कि एक ऐसा सिस्टम जो निजी जानकारी संभाल सकता है, वह उनके तय किए गए नियमों और सीमाओं के अंदर ही रहेगा।
जब कोई AI असिस्टेंट अपने आप बात करने लगे
जिस मैसेज ने न्वुने को परेशान कर दिया, वह एक ऐसे काम के बारे में था जो उन्होंने कभी सौंपा ही नहीं था। म्यूज ने उनसे कहा कि वह उनके ईमेल की जांच नहीं कर सकता क्योंकि जीमेल कनेक्टेड नहीं है, फिर भी उसने एंथ्रोपिक के एक ईमेल का जिक्र किया। इस घटना ने उन्हें सोचने पर मजबूर कर दिया कि आखिर एआई असिस्टेंट को इस विषय के बारे में पता कैसे चला। क्या किसी ने उनके ईमेल अकाउंट को एक्सेस कर लिया था, या पर्दे के पीछे कुछ और ही चल रहा था?
न्वुने ने खुद म्यूज से स्पष्टीकरण मांगने की कोशिश की। बताया जाता है कि म्यूज के असिस्टेंट ने कहा कि यह तय नहीं किया जा सकता कि किसी ने उनके फोन का इस्तेमाल किया है या फिर यह किसी प्लेटफॉर्म की तकनीकी खराबी (ग्लिच) की वजह से हुआ है। जो यूजर पहले से ही इस अप्रत्याशित घटना को लेकर चिंतित था, उसे इस जवाब से कोई खास स्पष्टता नहीं मिली।
इसके बाद उन्होंने इस घटना की जानकारी मेटा को दी। कंपनी के एक कर्मचारी ने कथित तौर पर इस व्यवहार को ‘AI हेलुसिनेशन’ बताया, यह एक ऐसा शब्द है जिसका इस्तेमाल तब किया जाता है, जब कोई मॉडल ऐसी जानकारी देता है जिसका वास्तविकता से कोई लेना-देना नहीं होता।
मेटा ने दी यह सफाई
बाद में मेटा ने ‘बिजनेस इनसाइडर’ को और अधिक स्पष्ट जानकारी दी। कंपनी ने बताया कि प्रोडक्ट में एक बग (तकनीकी खराबी) के कारण म्यूज ने गलत जानकारी दी थी। कंपनी ने जोर देकर कहा कि इस घटना में सुरक्षा या गोपनीयता के उल्लंघन जैसी कोई बात नहीं थी। साथ ही, यह भी बताया कि इस समस्या को ठीक कर दिया गया है।
एक AI का झूठी जानकारी बना लेना और बिना अनुमति के डेटा तक पहुंचना, दोनों में बड़ा फर्क है। उपलब्ध जानकारी से यह साबित नहीं होता कि Muse ने Nwune के Gmail अकाउंट में घुसकर उनके मेल पढ़े थे। साथ ही, उसने Anthropic का जिक्र क्यों किया, इसका सही कारण भी अभी सार्वजनिक रूप से पता नहीं चला है।
लेकिन इस स्पष्टीकरण से न्वुने को यह भरोसा नहीं हुआ कि वह असिस्टेंट को एक और मौका दे। उसे जो बात परेशान कर रही थी, वह सिर्फ यह नहीं थी कि म्यूज ने गलत जवाब दिया, बल्कि यह थी कि बातचीत तब शुरू हो गई जब उसने न तो ऐप खोला था और न ही कोई अनुरोध किया था।
मेटा के AI एजेंट को लेकर बढ़ रही चिंता
न्वुने का अनुभव कोई पहली ऐसी घटना नहीं है, जिसने म्यूज के व्यवहार पर सवाल खड़े किए हों। कई अन्य यूजर्स ने भी ऐसी स्थितियों का जिक्र किया है, जिनमें यह असिस्टेंट उनकी उम्मीदों से कहीं आगे चला गया, यहां तक कि कुछ मामलों में तो इसमें निजी जानकारी से जुड़ी बातें भी शामिल थीं।
एक बेहद चिंताजनक मामले में, एक यूजर ने आरोप लगाया कि म्यूज ने उसकी जानकारी के बिना फेसबुक मार्केटप्लेस पर अजनबियों को उसका घर का पता बता दिया। इसके बाद वे अजनबी उसके घर पहुंच गए। ‘इंक मैगजीन’ के एक पत्रकार ने भी शिकायत की कि असिस्टेंट ने उसके पर्सनल टेक्स्ट मैसेज से ऐसी खास जानकारियां निकाल लीं, जिन्हें देखने की उसने अनुमति नहीं दी थी।
ये अलग-अलग आरोप हैं, और उपलब्ध जानकारी से यह साबित नहीं होता कि इन सभी का कारण एक ही है। फिर भी, इनसे पता चलता है कि AI एजेंटों का भरोसेमंद होना क्यों जरूरी है, सिर्फ इसलिए नहीं कि वे सवालों के सही जवाब दे सकें, बल्कि उससे कहीं ज्यादा। जब कोई असिस्टेंट आपके निजी अकाउंट्स और सर्विसेसक से जुड़ा होता है, तो उसके अजीब व्यवहार के नतीजे चैट विंडो के बाहर भी देखने को मिल सकते हैं।
न्वुने ने बंद किया म्यूज चलाना
मेटा के लिए, न्वुने के मैसेज से जुड़ी गड़बड़ी को ठीक करने से शायद यह खास मामला सुलझ जाए। लेकिन, भरोसा फिर से कायम करना एक अलग काम है। यूजर्स को यह समझने की जरूरत है कि कोई एजेंट किन चीजों तक पहुंच सकता है, वह क्या कर रहा है, और क्या वह उनके द्वारा तय की गई सीमाओं का सम्मान करेगा।
न्वुने ने फिलहाल अपना फैसला ले लिया है: वह अब म्यूज का इस्तेमाल नहीं करते। उनके अनुभव से यह साबित नहीं होता कि असिस्टेंट ने निजी डेटा तक पहुंच बनाई थी, लेकिन यह एक ऐसी समस्या की ओर इशारा करता है जिसे केवल तकनीकी आश्वासनों से हल नहीं किया जा सकता। कोई AI असिस्टेंट किसी की प्राइवेसी का उल्लंघन किए बिना भी गलत हो सकता है। हालांकि, जब यह अप्रत्याशित तरीके से व्यवहार करता है, तो यूजर्स के लिए इसकी बातों पर भरोसा करना मुश्किल हो सकता है।
SOURCE : LIVE HINDUSTAN
