ભારતમાં મેટાની બાળ યૌનશોષણની જાહેરાતો હજુ ચાલુ જ છે, નવા અહેવાલમાં ગંભીર માહિતી બહાર આવી

(ચેતવણી: આ લેખમાં આપેલી વિગતો કેટલાક વાચકોને વિચલિત કરી શકે છે)

તાજેતરના એક રિપોર્ટમાં જાણવા મળ્યું છે કે મેટાએ પૈસા લઈને સેંકડો એવી જાહેરાતો ચલાવી છે જેમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સથી બનાવાયેલા બાળ યૌનશોષણના ફોટો અને વીડિયો છે.

ટેક કંપનીઓની જવાબદારી અને પારદર્શિતાના મુદ્દા પર કામ કરતા અમેરિકાના કાર્યકર્તાઓના આ રિપોર્ટ મુજબ, છેલ્લા 10 મહિનામાં દર્શાવવામાં આવેલી આવી જાહેરાતોમાંથી ડઝનબંધ જાહેરાતો ભારતમાં ચલાવવામાં આવી છે.

આ રિપોર્ટ ભારત સરકારના એ આદેશના બે મહિના પછી આવ્યો છે, જેમાં મેટાને ઇન્સ્ટાગ્રામ પરથી બાળ યૌનશોષણની સામગ્રી (સીસૈમ-CSAM) અને જાહેરાતો હટાવવાનો આદેશ આપવામાં આવ્યો હતો. આ પગલું ‘બીબીસી-આઈ’ની તપાસ પછી ઉઠાવવામાં આવ્યું હતું. આ તપાસમાં સામે આવ્યું હતું કે ઇન્સ્ટાગ્રામ પૈસા લઈને આવી સામગ્રીના પ્રચાર વાળી જાહેરાતો ભારતમાં ચલાવી રહ્યું છે.

વૉશિંગ્ટન સ્થિત ટેક ટ્રાન્સપરન્સી પ્રોજેક્ટ (ટીટીપી)એ અહેવાલ આપ્યો છે કે તેને ફેસબુક અને ઇન્સ્ટાગ્રામ પર સીસૈમ (બાળ યૌનશોષણ) ધરાવતી 332 જાહેરાતો મળી છે. આમાંથી મોટાભાગની (274) આ વર્ષના ઑગસ્ટમાં ચલાવવામાં આવી હતી.

જ્યારે બીબીસીએ આ તારણો વિશે મેટાને લખ્યું, ત્યારે તેઓએ એક નિવેદનમાં કહ્યું, “અમે ન્યુડિફાઈ ઍપ અથવા બાળકોનાં કોઈ પણ પ્રકારનાં શોષણને સહન કરતા નથી. પછી ભલે તે અસલ જિંદગીમાં હોય કે આર્ટિફિશિયલ ઇન્ટેલિજન્સની મદદથી બનાવવામાં આવ્યું હોય. ગુનાખોર તત્ત્વો પોતાને પકડાવાથી બચવા માટે સતત પોતાની રીતો બદલતા રહે છે. આ કારણે અમે તેમને શોધવાના પ્રયાસોને મજબૂતીથી લાગુ કરીએ છીએ.”

મંગળવારે પ્રકાશિત થયેલા ટીટીપી રિપોર્ટમાં કહેવામાં આવ્યું છે કે તેમણે યુરોપના રાજવી પરિવારોનાં બાળકો સહિત ઘણાં બાળકોની ઓળખ કરી છે, જેમની તસવીરોનો ઉપયોગ જાહેરાતોમાં કરવામાં આવ્યો હતો અને એઆઈનો ઉપયોગ કરીને તેમાં ફેરફાર કરવામાં આવ્યા હતા.

ટીટીપીના જણાવ્યા અનુસાર, મેટાને તેના સંશોધનનાં પરિણામોની કરાયા પછી પણ આવી જાહેરાતો કંપનીના પ્લૅટફૉર્મ પર ચાલતી રહી.

લગભગ એક ચતુર્થાંશ (84) જાહેરાતો ભારતમાં ચાલી હતી. આમાંથી 78 જાહેરાતો ભારત સરકારે ઇન્સ્ટાગ્રામને સીસૈમ (CSAM) હટાવવાના આદેશ આપ્યાના અને મેટાના અધિકારીઓ સાથે મુલાકાત કર્યા પછી પ્રકાશિત થઈ હતી.

બીબીસીની તપાસ પછી રાષ્ટ્રીય બાળ અધિકાર સંરક્ષણ આયોગ અને રાષ્ટ્રીય માનવાધિકાર આયોગ સહિત કેટલીક ભારતીય એજન્સીઓએ કહ્યું કે તેઓ આ મામલાની તપાસ કરી રહી છે.

ભારતમાં, બાળ યૌનશોષણ અને હિંસક સામગ્રીને પ્રચાર કરવો એ ફોજદારી ગુનો છે. મેટાની પૉલિસી કહે છે કે જાહેરાતમાં એવું કોઈ કન્ટેન્ટ બતાવી શકાય નહીં જે બાળ યૌનશોષણ કરે કે તેમને તેના જોખમમાં મૂકે.

જ્યારે બીબીસીએ મેટાનો સંપર્ક કર્યો ત્યારે તેમણે કહ્યું કે જ્યારે તેમને ખબર પડે છે કે બાળકોનું શોષણ થઈ રહ્યું છે, ત્યારે તેઓ કાયદા મુજબ તેની જાણકારી ‘નૅશનલ સેન્ટર ફૉર મિસિંગ ઍન્ડ ઍક્સપ્લૉઈટેડ ચિલ્ડ્રન'(એનસીએમઈસી)ને આપે છે.

એનસીએમઈસી ઇન્ટરનેટ પર બાળ યૌનશોષણ અને હિંસા વિશે રિપોર્ટ કરવા માટેની વૈશ્વિક સિસ્ટમ છે.

પરંતુ ભારતમાં બાળકો સામેની હિંસાના મુદ્દા પર કામ કરતી 250થી વધુ સંસ્થાઓનું નેટવર્ક ‘જસ્ટ રાઇટ્સ ફૉર ચિલ્ડ્રન’ના સ્થાપક ભુવન રિભુના મતે, આ પૂરતું નથી.

બીબીસીની તપાસને ટાંકીને, જસ્ટ રાઇટ્સ ફૉર ચિલ્ડ્રન દ્વારા સુપ્રીમ કોર્ટમાં એક અરજી દાખલ કરવામાં આવી છે જેમાં સોશિયલ મીડિયા પ્લૅટફૉર્મ માટે દિશા નિર્દેશની માંગ કરવામાં આવી છે, જેમાં સીસૈમ(CSAM) ફેલાવનારાઓને ઓળખવા અને એજન્સીઓને તેની જાણ કરવી ફરજિયાત બનાવવાની માંગ કરવામાં આવી છે.

ભુવન રિભુએ બીબીસીને જણાવ્યું, બાળ અધિકાર સુરક્ષા કાયદા હેઠળ, ભારતીય તપાસ એજન્સીઓને બાળ યૌનશોષણ સામગ્રીની જાણ કરવી ફરજિયાત છે, પરંતુ આમ ન કરીને, સોશિયલ મીડિયા કંપનીઓ સ્પષ્ટપણે ભારતીય કાયદાઓનું ઉલ્લંઘન કરી રહી છે.

મોટી ટેક કંપનીઓ પાસેથી જવાબદારી માંગતા ‘કૅમ્પેઈન ફૉર એકાઉન્ટેબિલિટી’ સાથે જોડાયેલા ટીટીપીએ કહ્યું કે તેમને અમેરિકા, યુનાઈટેડ કિંગડમ, યુરોપિયન યુનિયન, ઑસ્ટ્રેલિયા અને ભારતમાં ઇન્સ્ટાગ્રામ અને ફેસબુક પર ચલાવવામાં આવેલી સીસૈમ (CSAM) વાળી 332 જાહેરાતો મળી, તેમના જણાવ્યા મુજબ, તેમણે તમામ જાહેરાતો એનસીએમઈસીને રિપોર્ટ કરી દીધી છે.

ટીટીપીના મતે, લગભગ તમામ જાહેરાતો એક બાળકની તસવીરથી શરૂ થાય છે અને જેવો વીડિયો શરૂ થાય છે, AI ફોટોને બદલીને બાળકને યૌન ક્રિયામાં દર્શાવે છે.

ટીટીપીએ ભારતમાં ચલાવવામાં આવેલી એક જાહેરાતની વિગતમાં લખ્યું, 13 વર્ષથી ઓછી ઉંમરની દેખાતી એક છોકરીની તસવીર જેને એઆઈની મદદથી યૌન ક્રિયામાં બદલી નાખે છે. સાથે અંગ્રેજી વોઇસઓવરમાં કહેવામાં આવ્યું છે “કોઈ રોકટોક નથી. તમામ પાત્રો અસલી લોકો છે અને ઘણા વિકલ્પો છે. આ જ તે એઆઈ છે જેનો ઉપયોગ પુરુષો કરે છે.”

બીબીસીએ આ જાહેરાત જોઈ નથી.

ટીટીપીના જણાવ્યા અનુસાર, આ જાહેરાત આ વર્ષે ઑગસ્ટનાં બે અઠવાડિયાંમાં 50 અલગ અલગ હૅન્ડલ દ્વારા પોસ્ટ કરવામાં આવી હતી.

જુલાઈમાં બીબીસીની તપાસ બાદ, મેટાએ તેની વેબસાઇટ પર એક વિગતવાર પોસ્ટ પોસ્ટ કરી હતી જેમાં ઍપ્સ પર બાળકોના શોષણ સામે લડવા માટે શું પગલાં લઈ રહ્યાં છે.

તેમાં કહેવામાં આવ્યું હતું, “અમારા પ્લૅટફૉર્મ પર જો કોઈને અમારી નીતિઓનું ઉલ્લંઘન કરતી કોઈ જાહેરાત મળે તો તેઓ તેને રિપોર્ટ કરી શકે છે.”

ટીટીપીએ જણાવ્યું હતું કે તેઓએ મેટાની રિપોર્ટિંગ સિસ્ટમનો ઉપયોગ કરીને ભારતમાં ચાલી રહેલી 84 જાહેરાતોની જાણ કરવાનો પ્રયાસ કર્યો હતો. તેઓ 55 જાહેરાતોની જાણ કરવામાં સફળ રહ્યા હતા. મેટા ફક્ત ત્યારે જ જાહેરાતોની જાણ કરવાનો વિકલ્પ આપે છે જ્યારે તે ‘લાઇવ’ હોય.

આમાંથી 43 જાહેરાતો માટે ટીટીપીએ જવાબ આપ્યો, “અમે સમીક્ષા કરી છે અને શોધી કાઢ્યું છે કે આ જાહેરાતો અમારાં જાહેરાત ધોરણોનું ઉલ્લંઘન કરતી નથી.”

તેમાંથી 11 માટે તેમને કહેવામાં આવ્યું કે તે પહેલાંથી જ હટાવી દેવામાં આવી છે. એક જાહેરાત માટે કોઈ જવાબ આવ્યો નથી.

જ્યારે બીબીસીએ મેટાનો તેમનો પક્ષ જાણવા માટે સંપર્ક કર્યો ત્યારે તેમણે કહ્યું, “અમે મજબૂત ડિફેન્સ સિસ્ટમ બનાવી છે. તેમાં એવી સિસ્ટમ્સ શામેલ છે જે ઉલ્લંઘન કરનારી જાહેરાતોને બ્લૉક કરે છે અને જો શરૂઆતમાં અમારાથી કંઈ છૂટી જાય તો સતત મૉનિટરિંગ કરે છે. આ કારણે જે જાહેરાતો અમને રિપોર્ટ કરવામાં આવી હતી તેમાંથી ઘણી પહેલાથી જ હટાવી દેવામાં આવી હતી. મોટાભાગની જાહેરાતો પર 200થી ઓછાં ઇમ્પ્રેશન્સ હતાં અને તેમના પર કુલ ખર્ચ 5,000 ડૉલરથી ઓછો હતો.”

ટીટીપીના જણાવ્યા અનુસાર, જ્યારે તેઓએ પ્રતિભાવ માટે મેટાનો સંપર્ક કર્યો, ત્યારે બધી જાહેરાતો હટાવી દેવામાં આવી.

આ અનુભવ એવો જ હતો જેવો બીબીસીની તપાસ દરમિયાન થયો હતો. જ્યારે બીબીસીએ મેટાની રિપોર્ટિંગ સિસ્ટમનો ઉપયોગ કરીને સીમૈમ(CSAM) વાળી એક જાહેરાત રિપોર્ટ કરી, તો પ્લૅટફૉર્મે તેને હટાવી ન હતી.

પાછળથી જ્યારે બીબીસીએ મેટા પાસેથી જવાબ માંગ્યો, ત્યારે તેમણે કહ્યું કે તેઓ પહેલાંથી જ ઘણી જાહેરાતો ડિસેબલ કરી ચૂક્યા છે અને તેમને પોસ્ટ કરનારાં એકાઉન્ટ્સ સસ્પેન્ડ કરી ચૂક્યાં છે. કંપનીએ કહ્યું કે બીબીસીની તપાસ પછી તેમણે વધુ જાહેરાતો હટાવી છે, એકાઉન્ટ્સ ડિસેબલ કર્યાં છે અને તેમની પૉલિસીનું ઉલ્લંઘન કરતી અન્ય સામગ્રીનાં URL બ્લૉક કર્યાં છે.

ટીટીપીએ જણાવ્યું હતું કે તેમને મળેલી 332 જાહેરાતોમાંથી મોટાભાગની યુઝરને એવી ઍપ સુધી લઈ ગઈ જે AIના ઉપયોગથી તસવીરો અને વીડિયો બનાવે છે. આ મુખ્યત્વે ચાઇનીઝ ડેવલપર્સ દ્વારા બનાવવામાં આવેલી ઍપ્સ છે.

રિપોર્ટનો આરોપ છે કે સીસૈમ (CSAM) વાળી જાહેરાતો દ્વારા આ ઍપ્સનો પ્રચાર કરવાનો મતલબ એ છે કે આ ઍપ્સનો ઉપયોગ સીસૈમ (CSAM) બનાવવા અથવા જોવા માટે પણ થઈ શકે છે.

મેટાનું કહેવું છે કે એઆઈના ઉપયોગથી સંમતિ વિનાની ફેક નગ્ન અથવા સેક્સ્યુઅલી ઍક્સપ્લિટિસ તસવીરો બનાવતી ન્યુડિફાઈ ઍપ્સના પ્રચાર પર તે પ્રતિબંધ મૂકે છે.

ભારતની ટોચની સાયબર પોલીસ અધિકારીઓમાંથી એક અને તેલંગાણા સાયબર સિક્યૉરિટી બ્યૂરોનાં ડિરેક્ટર શિખા ગોયલે બીબીસીને જણાવ્યું કે સીસૈમ (CSAM) સાથે જોડાયેલો એક મોટો પડકાર એ છે કે “યુઝરનું એક પ્લૅટફૉર્મછી બીજા પ્લૅટફૉર્મ પર સરળતાથી જવું. આ કારણે તેમને પકડવા મુશ્કેલ બની જાય છે.”

તેમણે કહ્યું, “અમને આશા છે કે સોશિયલ મીડિયા ઇન્ટરમીડિયરીઝ સાથેની આ તાજી વાતચીતમાં સરકાર આ મુદ્દા પર ચર્ચા કરશે અને તેમને યોગ્ય નિર્દેશ આપશે.”

બીબીસીની તપાસમાં જે જાહેરાતો મળી હતી તે પણ યુઝરને બીજી ઍપ ‘ટેલિગ્રામ’ સુધી લઈ જતી હતી, જ્યાં તેઓ આ સામગ્રી માત્ર 99 રૂપિયામાં ખરીદી શકતા હતા.

ટેલિગ્રામે ત્યારે બીબીસીને જણાવ્યું હતું કે કંપની બાળ યૌનશોષણ અને હિંસક સામગ્રી (CSAM)ને ઍપ પરથી હટાવવા માટે મૉડરેશનમાં ટૅક્નૉલૉજી અને માણસો બંનેનો ઉપયોગ કરે છે. તેમણે કહ્યું કે તેનું પરિણામ એ આવ્યું છે કે, “ટેલિગ્રામે પોતાના પ્લૅટફૉર્મ પરથી સીસૈમ (CSAM)ના સામાન્ય લોકોમાં ફેલાવા પર લગભગ પૂરી રોક લગાવી દીધી છે.”

જ્યાં મેટાના પ્લૅટફૉર્મ પર સામાન્ય પોસ્ટ વિના કોઈ રોકટોક અપલોડ કરી શકાય છે, ત્યાં મેટા કહે છે કે દરેક જાહેરાતને પ્લૅટફૉર્મ પર આવતા પહેલા રિવ્યૂ કરવામાં આવે છે.

મોટાભાગે ઑટોમેટેડ ટૅક્નૉલૉજી પર નિર્ભર રહેતી તેની રિવ્યૂ સિસ્ટમ જાહેરાતની તસવીરો, વીડિયો, ટેક્સ્ટ, ઑડિયો, કોને ટાર્ગેટ કરવામાં આવી રહી છે અને યુઝરને કઈ લિંક પર મોકલવામાં આવી રહી છે, આ બધું જ તપાસે છે.

બીબીસીની તપાસ પછી મેટાએ કહ્યું હતું કે “કોઈ સિસ્ટમ પરફેક્ટ હોતી નથી” અને “ગુનાહિત તત્ત્વો અમારા પ્લૅટફૉર્મનો દુરુપયોગ કરવાનો પ્રયાસ કરતા રહે છે, જેમાં ઍડવર્ટાઈઝિંગ સિસ્ટમ પણ સામેલ છે.”

પરંતુ ટીટીપીએ શોધી કાઢ્યું કે સીસૈમ(CSAM)વાળી ઘણી જાહેરાતો મેટાના ચીનસ્થિત જાહેરાત એજન્સી પાર્ટનરે ચલાવી હતી.

આ પાર્ટનર્સને ‘રીસેલર’ કહેવામાં આવે છે અને તેઓ ચાઇનીઝ ઍડવર્ટાઈઝિંગના અબજો ડૉલર ફેસબુક અને ઇન્સ્ટાગ્રામ સુધી લાવે છે. ટીટીપી દ્વારા મોકલવામાં આવેલા પ્રશ્નો પર આ ચાઇનીઝ પાર્ટનર્સે કોઈ જવાબ આપ્યો નથી.

ટીટીપીએ જણાવ્યું કે મેટાને અમારી તપાસ અને તેનાં પરિણામો વિશે જાણ કર્યા પછી પણ નવી જાહેરાતો ચલાવવામાં આવી રહી હતી. તેમણે બીબીસી સાથે 17 જાહેરાતોની માહિતી શૅર કરી. તેમાંથી 11 ભારતમાં 1-2 સપ્ટેમ્બરે ચલાવવામાં આવી હતી.

બીબીસી માટે કલેક્ટિવ ન્યૂઝરૂમનું પ્રકાશન