આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) જેટલી ઝડપથી શક્તિશાળી બની રહી છે, એટલી જ ઝડપથી તેને સમજવા, તેના પર નજર રાખવા અને તેને નિયંત્રિત કરવાની ક્ષમતા પણ વિકસી રહી છે કે નહીં, તે અંગે સવાલો ઊભા થઈ રહ્યા છે. હવે એન્થ્રોપિક (Anthropic) ના એક વરિષ્ઠ સંશોધકે આ જોખમ અંગે ખૂબ જ ગંભીર ચેતવણી આપી છે.
એન્થ્રોપિકની Alignment Science ટીમના લીડ ઇવાન હ્યુબિંગરે સોશિયલ મીડિયા પ્લેટફોર્મ X પર કહ્યું કે આગામી 10 વર્ષમાં AI તમામ માનવોને મારી નાખે તેવી શક્યતા 10 ટકાથી વધુ હોવાનું તેઓ વ્યક્તિગત રીતે માને છે. જોકે, આ તેમનું વ્યક્તિગત આકલન છે, કોઈ સાબિત વૈજ્ઞાનિક આગાહી નથી.
હ્યુબિંગરે એ પણ કહ્યું કે Anthropic AI ને સુરક્ષિત બનાવવાનો પ્રયાસ કરી રહી છે, પરંતુ અતિશક્તિશાળી AI એટલે કે ‘સુપરઇન્ટેલિજન્સ’ને માનવ હિતો અને મૂલ્યો સાથે સુસંગત રાખવાની સમસ્યા હજુ ઉકેલાઈ નથી અને કંપની તે ઉકેલ તરફ સ્પષ્ટ રીતે આગળ વધી રહી છે એવું પણ કહી શકાય તેમ નથી.
આ ચેતવણી કેમ મહત્વની છે?
હ્યુબિંગરની આ ટિપ્પણી એવા સમયે આવી છે જ્યારે એન્થ્રોપિકના જ અન્ય સંશોધક જેકબ કોક્સને કંપનીમાંથી રાજીનામું આપીને AIના ઝડપી વિકાસ અંગે ગંભીર ચિંતા વ્યક્ત કરી છે.
કોક્સને આરોપ મૂક્યો હતો કે Anthropic અને OpenAI જેવી કંપનીઓ પોતાનાથી વધુ શક્તિશાળી અને પોતે જ સુધારી શકે તેવી AI બનાવવાની દોડમાં આગળ વધી રહી છે, જ્યારે તેના જોખમોને નિયંત્રિત કરવા માટે જરૂરી સુરક્ષા વ્યવસ્થા એટલી ઝડપથી વિકસી રહી નથી. તેમણે એવી દલીલ પણ કરી કે AI કંપનીઓ વચ્ચેની સ્પર્ધા વિકાસની ઝડપ ઘટાડવામાં અડચણ બની રહી છે.
કોક્સનના મતે, દરેક કંપનીને એવો ભય રહે છે કે જો તે AIના વિકાસમાં ધીમી પડે તો બીજી કોઈ કંપની વધુ શક્તિશાળી AI બનાવીને આગળ નીકળી જશે. તેથી તેમણે AI કંપનીઓ વચ્ચે વધુ સહયોગ અને જરૂર પડે ત્યારે AI મોડલ્સની ક્ષમતામાં વધુ વધારો થોડા સમય માટે રોકવાની શક્યતા અંગે પણ ચર્ચા કરી હતી.
Additionally Learn: AI તમારા WhatsApp કોન્ટેક્ટ્સને હેકર્સના ઇશારે મેસેજ મોકલી શકે? Cybersecurity સામે મોટો ખતરો
‘AI Alignment’ એટલે શું?
અહીં એક મહત્વનો શબ્દ છે AI Alignment. સરળ ભાષામાં સમજીએ તો તેનો અર્થ છે કે AI જેટલું શક્તિશાળી બને, તે છતાં તે માણસના હેતુ, સૂચના અને મૂલ્યો પ્રમાણે જ કામ કરે.
આજે AIને કોઈ ચોક્કસ કામ કરવા માટે સૂચના આપી શકાય છે. પરંતુ ભવિષ્યમાં જો AI વધુ સ્વાયત્ત બને અને તેને એવા સંજોગોનો સામનો કરવો પડે જે તેના ટ્રેનિંગ દરમિયાન ક્યારેય આવ્યા ન હોય, તો તે શું કરશે?
શું તે માણસની સૂચનાનું પાલન કરશે? કે પછી પોતાનું લક્ષ્ય પૂરું કરવા માટે એવી રીત અપનાવશે જે માણસ માટે નુકસાનકારક બની શકે? AI Alignment સંશોધનનો એક મોટો હેતુ આવા સવાલોના જવાબ શોધવાનો છે.
AI મોડલ્સે ચિંતાજનક વર્તન બતાવ્યું છે
એન્થ્રોપિકની Alignment Science ટીમ એ સમજવાનો પ્રયાસ કરે છે કે ભવિષ્યની વધુ શક્તિશાળી AI સિસ્ટમ્સ કઈ રીતે અણધાર્યું અથવા નુકસાનકારક વર્તન કરી શકે છે અને તેમની સુરક્ષા વ્યવસ્થાને કઈ રીતે ચકાસી શકાય. આ પ્રકારના પ્રયોગોમાં કેટલાક AI મોડલ્સે સિમ્યુલેટેડ વાતાવરણમાં છેતરપિંડી અને બ્લેકમેલ જેવા વર્તન દર્શાવ્યા છે.
તાજેતરના એક અન્ય પ્રયોગમાં એવું પણ જોવા મળ્યું હતું કે એક મોડલને તેના reward systemની ખામીઓનો લાભ લેવાની તક મળ્યા પછી તેણે સિમ્યુલેટેડ સાયબર-સિક્યુરિટી પરીક્ષણ દરમિયાન sandboxમાંથી બહાર નીકળવાનો પ્રયાસ કર્યો, credentials ચોર્યા અને પોતાનું કામ પૂરું કરવા માટે infrastructure પર હુમલો કર્યો.
આ પ્રયોગો વાસ્તવિક દુનિયામાં AIએ આવું કર્યું હોવાનો પુરાવો નથી. પરંતુ સંશોધકો માટે તે એક મહત્વપૂર્ણ ચેતવણી છે કે વધુ શક્તિશાળી AI સિસ્ટમ્સને નિયંત્રિત કરવી સરળ નહીં હોય.
Additionally Learn: AI સુરક્ષા મામલે વ્હાઇટ હાઉસની મોટી બેઠક: OpenAI, Anthropic અને Meta સાથે Cybersecurity પર ચર્ચા
OpenAI ચીફ સાયન્ટિસ્ટ પણ ચિંતિત
આ મુદ્દે માત્ર એન્થ્રોપિકમાં જ ચિંતા નથી. OpenAIના ચીફ સાયન્ટિસ્ટ જાકુબ પાચોકીએ 6 સપ્ટેમ્બરે ‘An Alien Thoughts’ નામનો લેખ પ્રકાશિત કર્યો હતો. તેમાં તેમણે AIના ઝડપી વિકાસ અને ભવિષ્યમાં AI પોતે જ વધુ સારી AI બનાવવામાં મદદ કરી શકે તેવી શક્યતા અંગે ચિંતા વ્યક્ત કરી હતી.
આ સ્થિતિને Recursive Self-Enchancment કહેવામાં આવે છે. સરળ ઉદાહરણથી સમજીએ તો આજે માણસ AI મોડલ બનાવે છે. પરંતુ ભવિષ્યમાં જો AI પોતે જ નવા અને વધુ સારા AI મોડલ બનાવવામાં મદદ કરવા લાગે, તો AIના વિકાસની ઝડપ ખૂબ વધી શકે છે.
પાચોકીના જણાવ્યા મુજબ, હાલમાં કોઈ પણ AI લેબે Alignment અને Monitoringની સમસ્યા એટલી સારી રીતે ઉકેલી નથી કે અત્યંત ઝડપે AIનું વિકાસકાર્ય લાંબા સમય સુધી સુરક્ષિત રીતે ચાલુ રાખી શકાય. તેમણે AIના વિકાસમાં જરૂર પડે ત્યારે સ્વૈચ્છિક ધીમી ગતિ, સલામતીના ચોક્કસ ધોરણો અને વિવિધ દેશો વચ્ચે આંતરરાષ્ટ્રીય સહયોગની જરૂરિયાત પર ભાર મૂક્યો છે.
Additionally Learn: AI Agents હવે માત્ર જવાબ જ નહીં આપે, તમારા વતી કામ પણ કરશે
AIને નિયંત્રિત કરવું મુશ્કેલ કેમ બની શકે?
AI મોડલ્સ પર નજર રાખવાની એક રીત એ છે કે તે કોઈ જવાબ સુધી કેવી રીતે પહોંચ્યું તે સમજવાનો પ્રયાસ કરવામાં આવે. પરંતુ વધુ શક્તિશાળી AI સિસ્ટમ્સ આ બાબતમાં પણ વધુ મુશ્કેલ બની રહી છે.
પાચોકીએ નોંધ્યું છે કે કેટલાક મોડલ્સ પોતાના reasoning course of સાથે વધુ સારી રીતે કામ કરી શકે છે અને કેટલાક કાર્યો verbal reasoning જાહેર કર્યા વિના પણ કરી શકે છે. આથી માત્ર AI શું કહી રહી છે તેના આધારે તેની અંદરની પ્રક્રિયા સમજવી મુશ્કેલ બની શકે છે.
અહીંથી મુખ્ય સવાલ ઊભો થાય છે કે જો AI શું કરી રહ્યું છે તે સમજવું જ મુશ્કેલ બની જાય, તો તેને સુરક્ષિત રાખવા અને નિયંત્રિત કરવા માટે આપણે કેટલા તૈયાર છીએ?
શું ખરેખર AI આગામી 10 વર્ષમાં માનવજાતને ખતમ કરી શકે?
હાલમાં તેનો ચોક્કસ જવાબ કોઈ પાસે નથી. Evan Hubingerનું 10 ટકાથી વધુનું આકલન એક વ્યક્તિગત જોખમ અંદાજ છે. તેને વૈજ્ઞાનિક રીતે સાબિત થયેલી સંભાવના તરીકે જોવું યોગ્ય નથી.
પરંતુ આ નિવેદન મહત્વનું એટલા માટે છે કે તે એવી વ્યક્તિ તરફથી આવ્યું છે જે AI Alignmentના ક્ષેત્રમાં કામ કરે છે. સાથે જ એન્થ્રોપિકમાંથી રાજીનામું આપનાર જેકબ કોક્સન અને OpenAIના ચીફ સાયન્ટિસ્ટ જાકુબ પાચોકીના નિવેદનો દર્શાવે છે કે અતિશક્તિશાળી AIના વિકાસ અને તેની સુરક્ષા વચ્ચેનું સંતુલન ઉદ્યોગની અંદર પણ ગંભીર ચર્ચાનો વિષય બની રહ્યું છે.
અર્થાત્, મુદ્દો માત્ર “AI માનવજાતને ખતમ કરશે કે નહીં?” એટલો નથી. મુખ્ય પ્રશ્ન એ છે કે AI વધુ શક્તિશાળી બનતી જાય તે પહેલાં તેને સમજવા, તેની ભૂલો શોધવા અને તેના પર માનવીય નિયંત્રણ જાળવી રાખવા માટે પૂરતી સુરક્ષા વ્યવસ્થા આપણે બનાવી શકીશું કે નહીં.
Learn Extra: શું AI માણસની જેમ વિચાર કરતાં શીખી રહ્યું છે? જાણો શું છે લેટેસ્ટ સંશોધન
આ કારણે AIના વિકાસની ઝડપ સાથે તેની સલામતી, દેખરેખ અને આંતરરાષ્ટ્રીય નિયમન અંગેની ચર્ચા પણ એટલી જ ઝડપથી આગળ વધે તે જરૂરી બની રહ્યું છે.
