Source :- BBC INDIA
चेतावनी: इस रिपोर्ट के कुछ विवरण पाठकों को विचलित कर सकते हैं.
बीबीसी-आई की एक पड़ताल ने पाया है कि इंस्टाग्राम भारत में पैसे लेकर ऐसे विज्ञापन चला रहा है जिसके ज़रिए बच्चे-बच्चियों के यौन शोषण की सामग्री का प्रसार हो रहा है.
बीबीसी वर्ल्ड सर्विस द्वारा देखे गए इन विज्ञापनों में, ‘रेप वीडियो’ और ‘चाइल्ड वीडियो’ जैसे शब्दों का इस्तेमाल किया गया है. यूज़र को मैसेजिंग ऐप टेलीग्राम के चैनल के लिंक दिए गए हैं. यहाँ वे इन सामग्रियों को सिर्फ़ 99 रुपए में ख़रीद सकते हैं.
इंस्टाग्राम पर विज्ञापन तभी छपते हैं जब उसकी मॉडरेशन टेकनॉलॉजी इन्हें अप्रूव करती है.
बीबीसी ने जब ऐसे एक विज्ञापन को इंस्टाग्राम को रिपोर्ट किया, तब 24 घंटे बाद सोशल मीडिया कंपनी का जवाब आया कि ये पोस्ट उनकी ‘कम्यूनिटी गाइडलाइन्स’ का उल्लंघन नहीं करतीं.
बाद में जब बीबीसी ने इंस्टाग्राम की पैरेंट कंपनी मेटा से जवाब माँगा, उन्होंने कहा कि वे पहले ही कई विज्ञापन डिसेबल कर चुके हैं और उन्हें पोस्ट करनेवाले अकाउंट्स को सस्पेंड कर चुके हैं. कंपनी ने कहा कि बीबीसी की पड़ताल के बाद उन्होंने और विज्ञापन हटाए हैं, अकाउंट डिसेबल किए हैं और उनकी पॉलिसी का उल्लंघन करनेवाली अन्य सामग्री के यूआरएल ब्लॉक कर दिए हैं.
वहीं, टेलीग्राम ने कहा कि उन्होंने साल 2026 में बाल यौन शोषण और हिंसक सामग्री से जुड़े दो लाख 74 हज़ार ग्रुप और चैनल हटाए हैं.
इस लेख में Google YouTube से मिली सामग्री शामिल है. कुछ भी लोड होने से पहले हम आपकी इजाज़त मांगते हैं क्योंकि उनमें कुकीज़ और दूसरी तकनीकों का इस्तेमाल किया गया हो सकता है. आप स्वीकार करने से पहले Google YouTube cookie policy और को पढ़ना चाहेंगे. इस सामग्री को देखने के लिए ‘अनुमति देंऔर जारी रखें’ को चुनें.
चेतावनी: बीबीसी दूसरी वेबसाइट्स की सामग्री के लिए ज़िम्मेदार नहीं है. YouTube सामग्री में विज्ञापन हो सकते हैं.
पोस्ट YouTube समाप्त
पड़ताल कैसे शुरू हुई
बीबीसी ने पाया कि यूज़र ने सर्च नहीं किया फिर भी इंस्टाग्राम उसे सेक्सुअली सजेस्टिव कंटेंट दिखा रहा है. इसकी पड़ताल के लिए इंस्टाग्राम पर ही दूसरे नाम से एक और अकाउंट बनाया गया.
सेक्सुअली सजेस्टिव कंटेंट में ऐसी पोस्ट शामिल थीं जिनमें बदन दिखाने वाले कपड़े पहने, दोहरे और सेक्सुअल मतलब वाले शब्दों का इस्तेमाल करतीं महिलाएँ रोज़मर्रा के जीवन, खाना, मौसम इत्यादि पर वीडियो थे.
यौन-संबंधी कंटेंट की पड़ताल के लिए दूसरे नाम से भारत में बनाया गया इंस्टाग्राम अकाउंट इन महिलाओं समेत कुल 10 लोगों को फॉलो करने लगा.
एक हफ़्ते से कम वक़्त में ही इंस्टाग्राम इसके फीड में ऐसे विज्ञापन दिखाने लगा जिनमें महिलाओं को वीडियो कॉल ऑफ़र करते हुए और नंगे बदन पुरुष और महिलाओं को यौन संबंध बनाते हुए दिखाया गया था.
कुछ ही दिन में फीड में ऐसे विज्ञापन आने लगे जिनमें बच्चे-बच्चियों को बड़ों के साथ यौन संबंध बनाने वाले हालात में दिखाया जा रहा था. इनके साथ टेलीग्राम चैनल के लिंक भी थे.
सुप्रीम कोर्ट से रिटायर हुए जस्टिस मदन लोकूर ने कहा कि वे चिंतित हैं कि इंस्टाग्राम “आपराधिक गतिविधि में शामिल हो कर पैसे बना रहा है.”
बाल यौन शोषण और हिंसा का प्रसार करनेवाले कुल 30 विज्ञापन फीड में आए. हालाँकि इनमें से कई अलग-अलग अकाउंट द्वारा बार-बार शेयर किए गए थे.
दूसरे नाम से बनाए गए अकाउंट को अडल्ट पॉर्नोग्राफी वाले 20 ऐड भी दिखाए गए.
भारत में बाल यौन शोषण और हिंसक सामग्री और अडल्ट पॉर्नोग्राफी का प्रचार आपराधिक जुर्म है. मेटा की पॉलिसी कहती है कि विज्ञापन में वयस्कों के गुप्तांग या नग्नता नहीं दिखाई जा सकती और न ही ऐसा कोई कंटेंट जो बच्चे-बच्चियों का यौन शोषण करे या उन्हें इसके ख़तरे में डाले.
एक विज्ञापन में एक लड़के और लड़की को दिखाया गया था. इनकी उम्र क़रीब 12 साल की लग रही थी और वे यौन संबंध बना रहे थे.
एक अन्य विज्ञापन में एक पुरुष को एक बच्ची के कंधे पर बाँह डाले दिखाया गया. इसके साथ में लिखा था कि वे 52 साल के हैं और लड़की 12 साल की.
विज्ञापन पर लिखा था, “और देखने के लिए क्लिक करें” और टेलीग्राम चैनल का लिंक था.
बीबीसी ने एक विज्ञापन के बारे में इंस्टाग्राम से रिपोर्ट किया. इसमें एक बहुत कम उम्र की बच्ची को रोते हुए दिखाया गया था. और इसके साथ लिखे शब्दों से जताया गया था कि उसके साथ यौन हिंसा की गई है.
लेकिन 24 घंटे बाद ही इंस्टाग्राम का जवाब आया कि उन्होंने विज्ञापन नहीं हटाया है क्योंकि “हमारी रिव्यू टीम ने पाया कि ऐडवरटाइज़र का ऐड हमारे कम्यूनिटी स्टैंडर्ड का उल्लंघन नहीं करता.”
मेटा ने बाद में बीबीसी को बताया कि “कोई सिस्टम परफेक्ट नहीं होता और हमारे रिव्यू प्रोसेस सभी ‘पॉलिसी वॉयलेशन’ नहीं पकड़ पाते.”
मेटा ने कहा, “हम विज्ञापनों के लाइव होने के बाद उन पर लगातार ‘प्रोऐक्टिव डिटेक्शन टेकनॉलॉजी’ चलाते हैं और किसी को भी अगर लगे कि कोई विज्ञापन हमारे नियम तोड़ रहा है तो वे उसे रिपोर्ट कर सकते हैं.”
साथ ही उन्होंने कहा कि जब उन्हें पता चलता है कि बच्चों का शोषण किया जा रहा है तब वे क़ानून के मुताबिक इसकी सूचना नेश्नल सेंटर फॉर मिसिंग एंड एक्सप्लॉएटिड चिल्ड्रन (एनसीएमईसी) को देते हैं. एनसीएमईसी इंटरनेट पर बच्चे-बच्चियों के यौन शोषण और हिंसा के बारे में रिपोर्ट करने का वैश्विक सिस्टम है.
हमने बाल यौन शोषण और हिंसक सामग्री बेच रहे दो चैनल टेलीग्राम को रिपोर्ट किए.
इनमें से एक को हटाया गया और उसकी जगह एक संदेश आया. इसमें लिखा था, “टेलीग्राम की टर्म्स ऑफ़ सर्विस का उल्लंघन करने की वजह से ये ग्रुप अब दिखाया नहीं जा रहा.” लेकिन दूसरे चैनल में बिक्री के लिए नए वीडियो पोस्ट होते रहे.
आलोचकों ने पहले भी इस प्लेटफ़ॉर्म पर आपराधिक सामग्री के प्रसार के ख़िलाफ़ उपयुक्त क़दम न उठाने का आरोप लगाया है.
दुबई स्थित ये कंपनी न एनसीएमईसी की सदस्य है और न ही इंटरनेट वॉच फ़ाउंडेशन (आईडबल्यूएफ़) की. आईडब्ल्यूएफ़ भी ज़्यादातर ऑनलाइन प्लेटफ़ॉर्म के साथ ऐसे कंटेंट को ढूँढने, रिपोर्ट करने और हटाने का काम करती है.
टेलीग्राम ने बीबीसी को बताया कि कंपनी बाल यौन शोषण और हिंसक सामग्री को ऐप से हटाने के लिए मॉडरेशन में तकनीक और इंसानों – दोनों का इस्तेमाल करती है. उन्होंने कहा इसका नतीजा ये हुआ है कि, “टेलीग्राम ने अपने प्लेटफ़ॉर्म से सीसैम (सीएसएएम) के आम लोगों में फैलने पर लगभग पूरी रोक लगा दी है.”
मेटा कैसे विज्ञापनों से कमाई पर निर्भर है
इमेज स्रोत, Reuters
मेटा के लिए विज्ञापन कमाई का एक अहम ज़रिया हैं.
जनवरी में मेटा ने रिपोर्ट किया कि वित्तीय वर्ष 2025 में उनके 200 अरब अमेरिकी डॉलर ($200 बिलियन) के रेवेन्यू का 98 प्रतिशत विज्ञापनों से आया. विश्लेषकों का अनुमान है कि इंस्टाग्राम के रेवेन्यू का 90 प्रतिशत विज्ञापनों से आता है.
जहाँ प्लेटफ़ॉर्म पर आम पोस्ट बिना रोकटोक अपलोड की जा सकती हैं, वहीं मेटा कहता है कि हर विज्ञापन को प्लेटफ़ॉर्म पर आने से पहले रिव्यू किया जाता है.
मोटे तौर पर ऑटोमेटेड तकनीक पर निर्भर रहने वाला उसका रिव्यू सिस्टम विज्ञापन की तस्वीरें, वीडियो, टेक्स्ट, ऑडियो, किसे टारगेट किया जा रहा है और यूज़र को किस लिंक पर भेजा जा रहा है- ये सब जाँच करता है.
फिर ये साफ़्टवेयर विज्ञापन को अप्रूव या रिजेक्ट करता है और जब यह ख़ुद तय न कर पाए तब केस को इंसान के पास रिव्यू के लिए भेजता है.
मार्च में मेटा ने घोषणा की कि वह थर्ड-पार्टी ह्यूमन मॉडरेटर पर अपनी निर्भरता कम कर एआई का इस्तेमाल बढ़ा रहा है. उसने कहा, “एक्सपर्ट्स हमारे एआई सिस्टम बनाएंगे, ट्रेन करेंगे, उनका निरीक्षण और मूल्यांकन करेंगे.”
बीबीसी ने जो विज्ञापन देखे उनका विवरण उसने सुप्रीम कोर्ट से रिटायर हुए जस्टिस मदन लोकूर से साझा किया. वे चिंतित हुए कि इंस्टाग्राम “आपराधिक गतिविधि में शामिल हो कर पैसे बना रहा है.”
उन्होंने कहा, “ये इतना गंभीर मुद्दा है कि भारत के सुप्रीम कोर्ट को ख़ुद इसका संज्ञान लेना चाहिए. और सरकार को सोशल मीडिया प्लेटफ़ॉर्म के ख़िलाफ़ क़दम उठाने को कहना चाहिए.”
जस्टिस मदन लोकूर ने कहा भारतीय क़ानून के तहत सोशल मीडिया कंपनियों को यूज़र के कंटेंट की ज़िम्मेदारी से क़ानूनी सुरक्षा होने के बावजूद, “प्लेटफ़ॉर्म अपनी ज़िम्मेदारी से पल्ला नहीं झाड़ सकता.”
फेसबुक में बतौर वाइस-प्रेसिडेंट काम कर चुके ब्रायन बोलेंड ने कहा कि इंस्टाग्राम का एल्गोरिदम यूज़र को “थोड़ा एक्सट्रीम, थोड़ी और यौन लालसा पैदा करनेवाला” कंटेंट दिखाकर प्लेटफ़ॉर्म पर बनाए रखने के लिए डिज़ाइन किया गया है.
साल 2021 में मेटा का नाम बदले जाने से पहले, फेसबुक में वाइस-प्रेसिडेंट रह चुके ब्रायन बोलेंड ने बीबीसी की पड़ताल पर कहा कि वे, “सन्न रह गए पर हैरानी नहीं हुई.”
ब्रायन बोलेंड ने कंपनी के लिए साल 2009 से 2020 तक काम किया और उसकी ऐडवरटाइज़िंग और मार्केटिंग बिज़नेस खड़ा करने में मदद की. ब्रायन ने बताया कि उन्होंने कंपनी छोड़ दी क्योंकि उन्हें यक़ीन हो गया था कि “वे कहीं भी यूज़र के बारे में नहीं सोचते.”
उन्होंने कहा कि इंस्टाग्राम का एल्गोरिदम इस तरह डिज़ाइन किया गया है कि यूज़र को “थोड़ा एक्सट्रीम, थोड़ी और यौन लालसा पैदा करनेवाला” कंटेंट दिखाकर प्लेटफ़ॉर्म पर बनाए रखा जाए.
बोलैंड ने कहा, “ऐसा नहीं है कि एल्गोरिदम तय करता है कि लोगों को बाल यौन शोषण और हिंसा के लिए उकसाया जाए. लेकिन जब उसे ज़िम्मेदारी से नियंत्रित और निर्देशित नहीं किया जाता और उसका मक़सद सिर्फ़ क्लिक और रेवेन्यू बढ़ाना है तो ऐसे नतीजे आ सकते हैं. ख़ासकर तब, जब इन सिस्टम की सुरक्षा के लिए सख़्त, सक्रिय निगरानी न हो.”
उनके मुताबिक़, साल 2009 – 10 के दौरान उन्होंने यूज़र को स्कैम करनेवाले विज्ञापनों को हटाने के प्रोजेक्ट की अगुवाई की. इसका मतलब था कि उन्हें “यूज़र की सुरक्षा और उनके अनुभव के लिए ये करने दिया गया जबकि इससे कंपनी के रेवेन्यू पर बड़ा असर पड़ा.”
बोलैंड ने कहा, “मुझे लगता है कि तकलीफ़देह बात यह है कि वक़्त के साथ कंपनी में रेवेन्यू और सुरक्षा या रेवेन्यू और यूज़र अनुभव के बीच संतुलन कैसे बनाया जाए, इस पर बहुत बात होने लगी है.”
उन्होंने बताया कि साल 2025 में उन्होंने अपना इंस्टाग्राम अकाउंट डिलीट कर दिया और कहा, “अगर बहुत सारे लोग एक साथ कहने लगें कि ‘मैं (इंस्टाग्राम) छोड़ रहा/रही हूँ. मेरा हो गया, भूल जाओ,’ तो कंपनी को ध्यान देना पड़ेगा.”
बीबीसी को दिए एक बयान में मेटा ने कहा, “बच्चे-बच्चियों का शोषण एक भयानक अपराध है जिससे वे संजीदगी से अपने प्लेटफ़ॉर्म पर लड़ने की कोशिश करते हैं.”
उन्होंने कहा कि ये कहना “बिल्कुल ग़लत” होगा कि वे जानबूझ कर, तय तरीके से बच्चों को दर्शाते ऐड उन यूज़र्स की ओर टारगेट करते हैं जो ऐसी सामग्री में ग़लत रुचि रखते हैं.
कंपनी ने रेवेन्यू को सुरक्षा से ज़्यादा तरजीह देने से इनकार किया और कहा कि साल 2025 में उन्होंने “संदिग्ध काम करने के लक्षण दिखा रहे” 40 लाख से ज़्यादा अकाउंट हटाए.
मेटा ने कहा, “आपराधिक तत्व पकड़े जाने से खुद को बचाने में तत्पर रहते हैं. वहीं हमारी एक्सपर्ट टीम्स लगातार हमारे डिफेन्स बेहतर करने, अपराधियों को हटाने के लिए नई तकनीक विकसित करने, उल्लंघन करनेवाली वेबसाइट ब्लॉक करने और इनकी जानकारी अन्य कंपनियों से साझा करती हैं ताकि वे भी इस पर कार्रवाई कर सकें.”
बोलेंड ने इसी साल अमेरिकी राज्य न्यू मेक्सिको में मेटा के ख़िलाफ़ चले एक मुक़दमे में गवाही दी. इसमें मेटा पर यूज़र को प्लेटफ़ॉर्म पर बच्चे-बच्चियों की सुरक्षा के बारे में भ्रमित करने का आरोप था.
अदालत ने मेटा को न्यू मेक्सिको को 37.5 करोड़ अमेरिकी डॉलर (375mUS$) देने का फ़ैसला सुनाया. उस व़क्त मेटा की प्रवक्ता ने कहा कि कंपनी फ़ैसले से सहमत नहीं है और उसकी मंशा इसके ख़िलाफ़ अपील करने की है.
तेलंगाना साइबर सिक्यूरिटी ब्यूरो की निदेशक शिखा गोयल के मुताबिक मेटा के प्लेटफ़ॉर्म इंस्टाग्राम और फेसबुक से सबसे ज़्यादा टिपलाइन्स आती हैं.
अमरीकी सोशल मीडिया कंपनियां उनके प्लेटफ़ॉर्म पर बाल यौन शोषण सामग्री को एनसीएमईसी को रिपोर्ट करने के लिए क़ानूनन तौर पर बाध्य हैं.
एनसीएमईसी इस टिपलाइन को फिर उस देश की जांच एजेंसी को भेजता है, जहाँ उस अपराध के हुए जाने की आशंका लगती है.
साल 2025 में 19 लाख (1.9m) रिपोर्ट के साथ भारत दूसरे नंबर पर रहा. अमरीका को सबसे ज़्यादा 20 लाख (2m) रिपोर्ट भेजी गईं.
भारत की चोटी की साइबर पुलिस अफसरों में से एक और तेलंगाना साइबर सिक्योरिटी ब्यूरो की निदेशक शिखा गोयल के मुताबिक मेटा के प्लेटफ़ॉर्म इंस्टाग्राम और फ़ेसबुक से सबसे ज़्यादा टिपलाइन्स आती हैं.
शिखा गोयल कहती हैं, “लेकिन इसका ये मतलब नहीं कि वहीं सबसे ज़्यादा हैं. अगर उनका ऐलगोरिदम बच्चे-बच्चियों के यौन शोषण और हिंसा के वीडियो ट्रैक करने में अच्छा होगा तभी हमें ज़्यादा अलर्ट मिलेंगी.”
ऑनलाइन अपराधों का सामना कर रहे बच्चे-बच्चियों के लिए हेल्पलाइन चला रहे मुंबई स्थित एनजीओ, द रति फाउंडेशन के मुताबिक़, उन्हें भी बाल यौन शोषण और हिंसक सामग्री की सबसे ज़्यादा रिपोर्ट मेटा के प्लेटफ़ॉर्म से ही आती हैं.
वे सोशल मीडिया प्लेटफ़ॉर्म के साथ मिलकर ऐसी सामग्री हटाने में मदद करते हैं, लेकिन इसके सह संस्थापक सिद्धार्थ पिल्लई ने कहा, “इंस्टाग्राम से टेलीग्राम के बीच आसानी से जाने के रास्ते का इस्तेमाल कर अपराधी हमारे मॉडरेशन के प्रयासों से बचने की कोशिश करते हैं और जो कंटेंट हटाने में हम मदद करते हैं, उसे बार-बार अपलोड कर देते हैं.”
जानकारों के मुताबिक भारत में बाल यौन शोषण और हिंसक सामग्री मानव तस्करों जैसे आपराधिक संगठन बनाते हैं. हालाँकि, कई बार इसके लिए परिवार और समुदाय के सदस्य भी ज़िम्मेदार होते हैं.
भारत में बच्चे-बच्चियों के ख़िलाफ़ हिंसा के मुद्दे पर काम कर रहे 250 से ज़्यादा संगठनों के नेटवर्क ‘जस्ट राइट्स फ़ॉर चिल्ड्रन’ के संस्थापक भुवन रिभु ने कहा कि ये अपराध कम ही रिपोर्ट होते हैं और पुलिस अभी इनसे निपटने की तकनीकी समझ विकसित कर रही है.
उनके मुताबिक सफलता से ऐसा कर पाने के लिए अंतर्राष्ट्रीय स्तर पर सहयोग और जानकारी का आदान प्रदान आवश्यक है.
रिभु ने कहा, “ऑर्गेनाइज़्ड अपराध की जड़ें उखाड़ने के लिए, डिमांड और सप्लाई की पूरी कड़ी से निपटना होगा.”
बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित.
SOURCE : BBC NEWS
