27 વર્ષીય એક સંશોધકે Anthropicમાંથી રાજીનામું આપ્યું છે અને કૃત્રિમ બુદ્ધિમત્તાની સુરક્ષાને લઈને અત્યાર સુધીના સૌથી કડક આંતરિક ચેતવણીઓમાંની એક જાહેર કરી છે. મંગળવારે X પર પોસ્ટ કરેલા તેમના રાજીનામાના થ્રેડ પરથી સ્પષ્ટ થાય છે કે તેઓ માને છે કે Anthropic અને OpenAI બંને “સ્વ-સુધારણા કરતી સુપરઇન્ટેલિજન્સ” તરફ ઝડપથી આગળ વધી રહ્યા છે—એવો તબક્કો, જે તેમના મતે અસ્તિત્વ માટેનું જોખમ ઊભું કરી શકે છે.
## લેબની અંદરથી આવેલી ચેતવણી
છેલ્લાં ત્રણ વર્ષથી OpenAI અને Anthropic બંનેમાં પ્રી-ટ્રેનિંગ સંશોધન પર કામ કરી રહેલા Jacob Coxonએ પોતાની વિદાય પોસ્ટમાં જણાવ્યું કે AI સિસ્ટમો બનાવનારા લોકો “ખરેખર માને છે કે આ દાયકાના અંત સુધીમાં તે આપણાં બધાને મારી શકે છે.”
તેમણે આ દોડને જોખમી ગણાવી ટીકા કરી અને દલીલ કરી કે બંનેમાંથી કોઈ કંપની જવાબદારીપૂર્વક કામ કરી રહી નથી. Coxonનો આરોપ છે કે પૂરતી સુરક્ષા-ચકાસણી વિના શક્તિશાળી AI સિસ્ટમો વિકસાવવાની દિશામાં આ કંપનીઓ આગળ વધી રહી છે. તેઓ ચેતવણી આપે છે કે આવી સિસ્ટમો ટૂંક સમયમાં સ્વાયત્તતા, સંસાધનો એકત્ર કરવાની ક્ષમતા અને ઝડપી પ્રગતિ કરવાની શક્તિ પ્રાપ્ત કરી શકે છે—અને જો તેમનું યોગ્ય સંચાલન ન થાય તો આ શક્તિઓ માનવ નિયંત્રણની બહાર જઈ શકે છે.
## સુપરઇન્ટેલિજન્સ અને જોખમનું પરિદૃશ્ય
Coxonની ઉંમરની નજીકના Anthropicના વરિષ્ઠ સંશોધક Evan Hubinger આગળ આવ્યા અને Coxonની ચિંતાઓને સમર્થન આપ્યું. Hubingerએ જણાવ્યું કે આગામી દાયકામાં AI માનવજાતના વિનાશનું કારણ બને તેવી સંભાવના તેઓ 10%થી ઓછી માને છે, પરંતુ વાસ્તવિકતા ચિંતાજનક છે. તેમણે નોંધ્યું કે સારા ઇરાદા હોવા છતાં Anthropic પાસે “અલાઇનમેન્ટ”ની સમસ્યા ઉકેલવા માટે કોઈ સ્પષ્ટ યોજના નથી—અર્થાત્ સુપરઇન્ટેલિજન્ટ AI માનવીય મૂલ્યો અને લક્ષ્યો અનુસાર કાર્ય કરે તે સુનિશ્ચિત કરવાની સમસ્યા.
આ પછી Hubingerએ અન્ય પોસ્ટ્સમાં સ્પષ્ટતા કરી કે Anthropicનો આંતરિક જોખમ અહેવાલ પણ આવી કેટલીક ચિંતાઓ વ્યક્ત કરે છે, જોકે તેમાં AI દ્વારા અત્યારે જ અનિયંત્રિત શક્તિ મેળવવાનું જોખમ “ઓછું” ગણાવવામાં આવ્યું છે.
## શું દાવ પર છે: તાત્કાલિક જોખમો અને મોટા પ્રશ્નો
Coxonનું રાજીનામું કોઈ એકલદોકલ પ્રતિક્રિયા નથી. તેમણે ચેતવણી આપી છે કે:
– AI સિસ્ટમો “પોતાને સુધારવાનું શીખી શકે છે”—અને એવી પ્રક્રિયામાં પ્રવેશી શકે છે જેમાં AIની દરેક પેઢી તેના પછીની વધુ શક્તિશાળી પેઢી ડિઝાઇન કરે.
– ભવિષ્યની આ સિસ્ટમો હેકિંગ કરી શકે, રાતોરાત ઉદ્યોગોમાં પરિવર્તન લાવી શકે અથવા અત્યંત ઓછા દેખરેખ સાથે સંસાધનો પર કબજો જમાવી શકે.
– સુપરઇન્ટેલિજન્સ મેળવવાની દોડ અત્યંત સ્પર્ધાત્મક છે. કંપનીઓને ભય છે કે અન્ય કંપનીઓ પહેલાં આગળ નીકળી જશે, તેથી તેઓ ઝડપ વધારવા માટે મજબૂર અનુભવે છે—ભલે તે માનવ સુરક્ષાના જોખમે થાય.
## ઉદ્યોગમાં પડઘા અને સુરક્ષાને લઈને ચેતવણીઓ
આ ઘટના AI સંશોધકો તરફથી મળેલી જાહેર અને આંતરિક ચેતવણીઓની શ્રેણી બાદ સામે આવી છે. જુલાઈમાં લગભગ 1,400 AI નિષ્ણાતોએ ખુલ્લા પત્ર દ્વારા U.S. સરકારને AI વિકાસ ધીમો પાડવા અને નિયમન મજબૂત બનાવવા અપીલ કરી હતી. આ જ સમયગાળા દરમિયાન OpenAIના Chief Scientist, Jakub Pachockiએ સ્વીકાર્યું હતું કે AIની ક્ષમતાઓ પર નજર રાખવા અથવા તેને નિયંત્રિત કરવાના પ્રયાસોની સરખામણીએ તે વધુ ઝડપથી આગળ વધી રહી છે.
નોંધનીય છે કે Anthropicના CEO Dario Amodeiએ વિકાસની ગતિ અંગે વારંવાર ચિંતા વ્યક્ત કરી છે. તેમનું કહેવું છે કે ખૂબ ઝડપથી આગળ વધવાથી વિનાશકારી ભૂલો થઈ શકે છે, જેમાં AI સિસ્ટમ્સ પરનો સંપૂર્ણ નિયંત્રણ ગુમાવવાનો પણ સમાવેશ થાય છે. તેમણે આ પડકારને “એક જટિલ એન્જિનિયરિંગ સમસ્યા” ગણાવ્યો હતો.
## નિયમન સંબંધિત ગતિરોધ અને દેખરેખની અપીલો
આંતરિક અને બાહ્ય ચિંતાઓ વધતી હોવા છતાં, AIના વિકાસને નિયંત્રણમાં રાખવા માટેના માળખાં હજુ મર્યાદિત છે. U.S.માં Congressએ સુરક્ષા પ્રોટોકોલ લાગુ કરવા માટેનો વ્યાપક કાયદો પસાર કર્યો નથી અને AI સંબંધિત ઘણી નીતિઓ હજુ સ્વૈચ્છિક છે.
આ દરમિયાન Trump administration સહિતના અન્ય પક્ષોએ રાજ્ય સ્તરના નિયમનોને નબળા પાડવા માટે પ્રયાસો કર્યા છે. મજબૂત શાસકીય પગલાંઓના અભાવે એવા સંશોધકોમાં હતાશા અને ભય બંને વધ્યા છે, જેઓ માને છે કે અનિયંત્રિત સ્પર્ધા આપત્તિ તરફ દોરી શકે છે.
આંતરરાષ્ટ્રીય સ્તરે Chinaએ AI દ્વારા જનરેટ કરવામાં આવતી સામગ્રીમાં પારદર્શિતા અને તેની ટ્રેસેબિલિટી સંબંધિત નિયમો અપનાવ્યા છે. જોકે, તેણે પણ શક્તિશાળી AI ટેક્નોલોજીના વિકાસને નોંધપાત્ર રીતે ધીમો પાડે અથવા મર્યાદિત કરે તેવા નિયમો અપનાવવાનું ટાળ્યું છે.
## નિષ્ણાતો શું માને છે—અને હવે શું?
Hubingerએ આ ભાવનાનો સાર આપતાં જણાવ્યું કે Anthropicના શ્રેષ્ઠ પ્રયાસો છતાં આગામી દાયકામાં AI તમામ મનુષ્યોને મારી શકે તેવી સંભાવના 10%થી વધુ છે. જોકે, ઘણા આંતરિક નિષ્ણાતો માટે મુખ્ય મુદ્દો માત્ર જોખમ નથી—પરંતુ મજબૂત અલાઇનમેન્ટ વ્યૂહરચનાનો અભાવ પણ છે.
ઉદ્યોગના નિરીક્ષકો હવે તાત્કાલિક અને બાધ્યકર્તા સુરક્ષા માપદંડોની માગ કરી રહ્યા છે—જેમાં પરીક્ષણ માટેનાં માળખાં, દેખરેખની વ્યવસ્થાઓ અને નિયમન ગતિ પકડે ત્યાં સુધી ચોક્કસ AI ક્ષમતાઓ પર સંભવિત રોકનો સમાવેશ થાય છે. Coxonએ પોતે લેબમાં કામ કરતા સંશોધકોને ફરી વિચારવા અપીલ કરી છે કે તેઓ જેને “અંતિમ તબક્કો” તરીકે જુએ છે તેમાં યોગદાન આપવા માંગે છે કે પછી વધુ સુરક્ષિત માર્ગો સ્થાપિત કરવા માટે સાથે મળીને કામ કરવા માંગે છે.
This article is AI-generated content. Please verify the information independently before taking any action based on this article.
