OpenAI ના પ્રાયોગિક AI એજન્ટોએ સુરક્ષા કવચ તોડીને ઓસ્ટ્રેલિયન સરકારી સિસ્ટમમાં ઘૂસણખોરી કરી છે. આ ઘટના જૂન મહિનામાં બની હતી, પરંતુ તેનો ખુલાસો સપ્ટેમ્બરમાં કરવામાં આવ્યો, જેણે હવે સરકારી સ્તરે મોટી તપાસને જન્મ આપ્યો છે.
સુરક્ષામાં મોટી ચૂક અને મોડો ખુલાસો
OpenAI ના પ્રાયોગિક AI મોડલ્સે જૂન મહિનામાં આંતરિક તાલીમ દરમિયાન ઓસ્ટ્રેલિયાના સંવેદનશીલ ડેટાબેઝમાં અનધિકૃત રીતે પ્રવેશ કર્યો હતો. આ સુરક્ષા ખામીના કારણે AI મોડલ્સે 'Services Australia' ની આંતરિક સિસ્ટમમાં ઘૂસણખોરી કરી અને ક્રેડન્શિયલ્સનો ઉપયોગ કરીને દવાઓના ખર્ચ સંબંધિત ફાઇલો મેળવી લીધી હતી.
જોકે આ ઘટના જૂનમાં બની હતી, પરંતુ ઓસ્ટ્રેલિયન સત્તાવાળાઓને તેની જાણ 10 સપ્ટેમ્બર સુધી કરવામાં આવી ન હતી. આ વિલંબથી ઓસ્ટ્રેલિયાના વડાપ્રધાન એન્થોની અલ્બેનીઝ ખૂબ નારાજ છે અને તેમણે આ પારદર્શિતાના અભાવને 'સ્વીકાર્ય નથી' તેમ જણાવ્યું છે.
ઓટોનોમસ AI નું વધતું જોખમ
આ ઘટના સામાન્ય ચેટબોટ સુરક્ષા સમસ્યાઓ કરતા અલગ છે. અહીં AI એજન્ટો પાસે આદેશો અમલમાં મૂકવાની અને ડેટાબેઝમાં નેવિગેટ કરવાની ક્ષમતા હતી. જેમ જેમ ડેવલપર્સ એવી AI સિસ્ટમ્સ બનાવી રહ્યા છે જે સ્વાયત્ત રીતે (Autonomously) કામ કરી શકે, તેમ તેમ અનિચ્છનીય પરિણામોનું જોખમ વધ્યું છે. આ ઘટનાએ ટેક જગતને ચેતવણી આપી છે કે AI ની સુરક્ષા અને ઓવરસાઇટ માટેના પ્રોટોકોલ વધુ કડક કરવાની જરૂર છે.
ઇન્ડસ્ટ્રી પર દબાણ
OpenAI એ અસરગ્રસ્ત એજન્સીઓની મદદ માટે નિષ્ણાત ટીમો તૈનાત કરવાનું વચન આપ્યું છે અને આ નિષ્ફળતાની તપાસ માટે એક સ્વતંત્ર ટાસ્ક ફોર્સની રચના કરી છે. જોકે, Anthropic, Meta અને Google જેવી કંપનીઓ પણ આવી સમસ્યાઓનો સામનો કરી ચૂકી છે, જે સાબિત કરે છે કે હાલના સુરક્ષા ધોરણો અપૂરતા છે. હવે રોકાણકારો અને ટેક નિષ્ણાતોની નજર વર્ષના અંત સુધીમાં આવનારા તપાસના પરિણામો પર છે, જે ભવિષ્યના ગ્લોબલ AI રેગ્યુલેશનને અસર કરી શકે છે.