85 વર્ષના વૃદ્ધે ‘દવા છોડી શક્કરિયાં ખાવાનું શરૂ કર્યું’, યૂટ્યુબ પર AI ડૉક્ટરો કેવી રીતે કરોડો લોકોને ટાર્ગેટ કરી રહ્યા છે

82 વર્ષીય સેલી ફેરેરા યૂટ્યૂબ જોઈ રહ્યાં હતાં, ત્યારે સ્ક્રીન પર એક ડૉક્ટર દેખાયા અને તેમણે ભલામણ કરી કે ફળ ખાવાથી તેમની આંખની રોશની સુરક્ષિત રહી શકે છે. તેમને આ ભલામણ તર્કસંગત લાગી.

પરંતુ આ કોઈ અસલી મેડિકલ ચૅનલ નહોતી અને એ ડૉક્ટર પણ અસલી નહોતા. તેનો ચહેરો અને અવાજ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (એઆઇ)થી બનાવાયાં હતાં.

આ વીડિયોને લગભગ ત્રણ લાખ વ્યૂઝ મળી ચૂક્યા છે અને તેના પર સેંકડો કૉમેન્ટ્સ આવી ચૂક્યા હતા. ફેરેરાએ બીબીસીને તેમણે જણાવ્યું હતું કે તેમને લાગેલું કે તેઓ કોઈ અસલી ડૉક્ટરની વાત સાંભળી રહ્યાં છે.

આ કોઈ એકાદો મામલો નથી. એક તપાસમાં એઆઈ ડૉક્ટરોનો ઉપયોગ કરનારી પોર્ટુગીઝ ભાષાની 29 ચૅનલોની ઓળખ કરાઈ છે, જેના વીડિયોઝને ઓછામાં ઓછા સાત કરોડ વ્યૂઝ મળ્યા છે.

અને આ કન્ટેન્ટની પહોંચ સમગ્ર વિશ્વમાં છે. બીબીસી ન્યૂઝ બ્રાઝિલે ઓછામાં ઓછી 50 યૂટ્યૂબ ટ્યુટોરિયલ ચૅનલો ઓળખી કાઢી છે, જે લોકોને પોર્ટુગીઝ, અંગ્રેજી, હિંદી, સ્પેનિશ, ફ્રેન્ચ, ઇટાલિયન, પોલિશ, જર્મન અને તુર્કી સહિત વિભિન્ન ભાષાઓમાં એઆઇ ડૉક્ટરો સાથે વીડિયો બનાવતા શીખવે છે.

આ વીડિયો વૃદ્ધ દર્શકોને ટારગેટ કરે છે. તેમનું માનવું છે કે તેમની પાસે વીડિયો જોવા માટે વધુ સમય હોય છે અને પ્રોડક્ટ ખરીદવા માટે વધારાની આવક હોય છે.

જેમની તસવીરને આવા જ એક વીડિયોમાં ખોટી રીતે ઉપયોગમાં લેવાઈ છે એવા એક અસલ ડૉક્ટરે ચેતવ્યા છે કે નકલી ડૉક્ટરોની સલાહની ગંભીર અસર થઈ શકે છે અને આ વીડિયો “વૃદ્ધોને જીવલેણ નુકસાન પહોંચાડી શકે છે.”

યૂટ્યૂબની ઑનર કંપની ગૂગલે કહ્યું છે કે પ્લૅટફૉર્મના નિયમ એઆઇ કન્ટેન્ટ પર લાગુ પડે છે અને એવી સારવાર સંબંધિત ખોટી સૂચનાઓ પર રોક લગાવે છે જેનાથી લોકોને ગંભીર નુકસાન થઈ શકે છે.

વીડિયોની ફૉર્મ્યુલા સરળ છે – સફેદ કોટ પહેરેલો એક ભરોસાપાત્ર ચહેરો, અને એક શાંત નકલી અવાજ એવી ચેતવણી આપે છે કે રોજબરોજ કયું ભોજન, દવા કે ટેવ વડીલો માટે ચૂપચાપ ખતરો બની શકે છે.

પછી એ કથિતપણે એવી દવા લેવાની સલાહ આપે છે કે જે અંગે સામાન્યપણે લોકોને ખબર નથી હોતી.

કેટલાક મામલામાં, ડૉક્ટર સંપૂર્ણપણે કાલ્પનિક હોય છે. અન્ય મામલામાં, એઆઇ અસલી ડૉક્ટરોની સંમતિ વિના તેમના ચહેરા, ઓળખ કે અવાજની નકલ કરે છે. બંને રીતો દર્શકોને એવો આભાસ કરાવે છે કે એક પ્રોફેશનલ ડૉક્ટર યોગ્ય સલાહ આપી રહ્યો છે.

બ્રાઝિલની એક બિનલાભકારી પત્રકારિતા સંસ્થા કંટ્રોલ+ઝેડ (CTRL+Z)ના રિપોર્ટમાં એઆઇથી નિર્મિત ડૉક્ટરોનો ઉપયોગ કનારી 29 પોર્ટુગીઝ ભાષાની ચૅનલો અંગે માહિતી મળી. બીબીસી ન્યૂઝ બ્રાઝિલે આ ચૅનલોના રિવ્યૂ કરીને અન્ય ચૅનલો અને મળતાં આવતાં શીર્ષકો સહિત અન્ય પૅટર્નની શોધ કરી.

અમે આ યૂટ્યૂબ ચૅનલોના વીડિયો પર પોસ્ટ કરાયેલી લગભગ 27 હજાર કૉમેન્ટ્સને જમા કરવા અને યૂઝર્સ દ્વારા પ્રસ્તુત વ્યવહારિક પરિવર્તનોના રિપોર્ટોની ઓળખ કરવા માટે એક સ્ક્રીનિંગ પ્રક્રિયાનો ઉપયોગ કર્યા બાદ ફેરેરાને શોધી કાઢ્યાં.

પોતાની જાતને વૃદ્ધ ગણાવતા ડઝનો લોકોની કૉમેન્ટ્સમાં કહેવાયું છે કે તેઓ એઆઈ ડૉક્ટરોની સલાહનું પાલન કરીને કાં તો ઘરેલુ સારવાર શરૂ કરી રહ્યા છે અથવા પહેલાંથી નિર્ધારિત દવાઓને બંધ કરી રહ્યા છે.

એ પૈકી એકમાં, 85 વર્ષીય એક યૂઝરનું કહેવું છે કે તેમણે એસિડિટીને ઓછી કરવા માટેની દવા ઓમેપ્રાઝોલના સ્થાને શક્કરિયાં ખાવાનું શરૂ કરી દીધું છે.

અન્ય એકમાં, 77 વર્ષીય એક મહિલાનું કહેવું છે કે તેઓ ત્રણ વર્ષથી ડૉક્ટર પાસે નથી ગયાં અને અલ્ઝાઇમર વિશે સલાહ આપનારા એઆઈ ડૉક્ટરનો આભાર વ્યક્ત કરે છે.

બીબીસી ન્યૂઝ બ્રાઝિલે શોધેલા યૂટ્યૂબ ટ્યુટોરિયલમાં, ટ્રેનર એવા શીર્ષક અને સ્ક્રિપ્ટ બનાવવાની સલાહ આપે છે જે લોકો બીક પેદા કરે, જેથી દર્શકને વધુ વિશ્વાસ થઈ જાય કે તેઓ હેલ્થ ઇમર્જન્સીનો સામનો કરી રહ્યા છે.

ક્રિએટર્સ યૂટ્યૂબ વ્યૂઝ અને ચૅનલ પર જેની ઍડ આવે છે તેવી ઈ-બુક્સ અને પ્રૉડક્ટ્સના વેચાણ એમ બંનેથી પૈસા કમાય છે.

બ્રાઝિલમાં રહેતા એક ટ્યુટર, જેફ કોઇમ્બ્રાએ જણાવ્યું કે ક્રિએટર્સ એક મહિનામાં 5,816 ડૉલર (લગભગ સાડા પાંચ લાખ રૂપિયા) સુધી કમાઈ શકે છે.

અન્ય એક વીડિયોમાં, તેમણે ચેતવણીભર્યા સ્વરનો ઉપયોગ કરવાની રીત બતાવી, લોકોને “ખરેખર ગંભીર થવાનું” કહેતા, ઉદાહરણ આપ્યું, “સૂતા પહેલાં, આ વાતનું ધ્યાન રાખો. સાવધાન રહો કે તમે ઊંઘમાં જ ન મરી જાઓ.”

બીબીસી ન્યૂઝ બ્રાઝિલે તેમનો સંપર્ક કરાયા બાદ એક વીડિયોને બ્લૉક કરી દેવાયો.

એક નિવેદનમાં, કોઇમ્બ્રાએ કહ્યું કે બતાવાયેલી એઆઈ ચૅનલો ઉદાહરણ હતી, ના કે તેમની ખુદની.

તેમણે કહ્યું કે તેઓ એઆઈ દ્વારા નિર્મિત સૂચનાત્મક સામગ્રી શીખવે છે, ના કે એવી સામગ્રી જે હેલ્થ પ્રોફેશનલ્સનું સ્થાન લઈ શકે, અને તેમનો હેતુ પ્લૅટફૉર્મના નિયમો અને અન્ય માપદંડોના ઉલ્લંઘનને પ્રોત્સાહિત કરવાનો નથી.

અમને ઓછામાં ઓછી પાંચ એવી યૂટ્યૂબ ચૅનલ મળી જે એક જાણીતા બ્રાઝિલિયન ડૉક્ટરની તસવીરનો ઉપયોગ તેમની પરવાનગી વિના કરી રહી હતી, જેથી સ્વાસ્થ્ય સંબંધિ સનસનાટીભર્યા દાવા અને પ્રાકૃતિક ઉપચારોને વેગ આપી શકાય જે ચોક્કસ દવાના વિકલ્પ હોઈ શકે છે.

ઘણા લાંબા સમયથી યૂટ્યૂબ ચૅનલ ચલાવતા અને ત્રણ લાખ સબ્સ્ક્રાઇબર ધરાવતા હેલિયો બ્રાસીલેરોએ હવે આ વીડિયોઝની ફરિયાદ યૂટ્યૂબને કરી છે અને સાઓ પાઉલોમાં પોલીસ ફરિયાદ દાખલ કરાવી છે.

પોતાની તસવીરના દુરુપયોગ સિવાય, તેમણે કહ્યું કે તેમની મુખ્ય ચિંતા એ પણ હતી કે વૃદ્ધ દર્શકો તેમના એઆઈ અવતારની સલાહ માનીને દવા લેવાનું બંધ કરી શકે છે.

તેમણે બીબીસી ન્યૂઝ બ્રાઝિલને કહ્યું, “જે કોઈ આવું કન્ટેન્ટ બનાવે છે તેના પ્રત્યે મને બિલકુલ સહાનુભૂતિ નથી. આવી રીતે પૈસા કમાવવાના પ્રયાસ વૃદ્ધો માટે જીવલેણ સાબિત થઈ શકે છે.”

સાઓ પાઉલોના આલ્બર્ટ આઇન્સ્ટાઇન ઇઝરાયલી હૉસ્પિટલમાં ગેસ્ટ્રોઍન્ટેરોલૉજિસ્ટ જૈમે ઝાલાડેક ગિલનું કહેવું છે કે સૌથી મોટો ખતરો એવા દર્દીઓ માટે છે જેઓ બિનઅસરકારક પદાર્થોનું સેવન કરી રહ્યા છે, જેનાથી કાં તો સ્થિતિ બગડી શકે છે અથવા તો સારવારમાં વિલંબ પણ થઈ શકે છે.

તેમનું કહેવું છે કે, “જરૂર એક યોગ્ય મેડિકલ તપાસ અને એક યોગ્ય ઇલાજના નેટવર્કની છે, ના કે માત્ર એક વીડિયોની જેમાં દાવો કરાયો હોય કે કોઈ વસ્તુ તમારી તમામ સમસ્યાઓનું સમાધાન કરી દેશે.”

બ્રાઝિલના કાયદા નિષ્ણાતોનું કહેવું છે કે ડૉક્ટર હોવાનો ખોટો દાવો કરનારા ક્રિએટર્સ પર ગુનાહિત કેસ ચલાવી શકાય.

યૂટ્યૂબની માલિકીવાળી કંપની ગૂગલે કહ્યું કે લેબલ દર્શકોને એ સમજવામાં મદદ કરે છે કે કોઈ વીડિયો એઆઈ છે કે તેમાં બદલાવ કરાયો છે.

બીબીસી ન્યૂઝ બ્રાઝિલ દ્વારા CTRL+Z મૅપિંગ વિશે કંપની સાથે સંપર્ક કર્યા બાદ, યૂટ્યૂબે સેમ્પલમાં સામેલ કેટલીક મોટી ચૅનલોને હઠાવી દીધી, જેના કુલ વ્યૂઝ લગભગ ચાર કરોડ હતા.

આ દરમિયાન, સેલી ફેરેરાએ કહ્યું, “પોતાની ઉંમર હિસાબે, હું પોતાની જાતને કમ્પ્યૂટરમાં ખૂબ સારી માનું છું. પરંતુ મને હજુ સુધી એ નથી ખબર કે એઆઇ અને અસલી વસ્તુઓમાં મુખ્ય ફરક શો છે.”

બીબીસી માટે કલેક્ટિવ ન્યૂઝરૂમનું પ્રકાશન