બેઇજિંગ સ્થિત Zhipu AI ના GLM-5.3 મોડલે તાજેતરના ટેસ્ટમાં સાયબર હુમલાની સિમ્યુલેશન સફળતાપૂર્વક પૂર્ણ કરી છે. આનાથી ઓપન-વેઈટ AI સિસ્ટમની સુરક્ષા અને ભવિષ્યમાં તેના નિયમન અંગે મોટા પ્રશ્નો ઉભા થયા છે.
સાયબર હુમલાનું સફળ ટેસ્ટિંગ
બેઇજિંગની સ્ટાર્ટઅપ કંપની Zhipu AI દ્વારા તૈયાર કરાયેલ GLM-5.3 મોડલે એક સંશોધન સંસ્થા 'Irregular' દ્વારા કરવામાં આવેલા કંટ્રોલ્ડ ટેસ્ટમાં પોતાની આક્રમક ક્ષમતા સાબિત કરી છે. કુલ 13માંથી 3 અટેક સિનારીયોમાં આ AI સિસ્ટમ પ્રોટેક્ટેડ સર્વિસીસમાં અનધિકૃત એક્સેસ મેળવવામાં અને એકસાથે અનેક મશીનો પર કામગીરી કરવામાં સફળ રહી છે. આ પરિણામો દર્શાવે છે કે આ ઓપન-એક્સેસિબલ મોડલ સુરક્ષા પ્રોટોકોલ્સને સરળતાથી બાયપાસ કરી શકે છે.
ઓપન-વેઈટ મોડલ્સ સામે સુરક્ષાનો પડકાર
OpenAI કે Anthropic જેવી અમેરિકન કંપનીઓ પોતાના મોડલ્સને પ્રોપ્રાયટરી ઇન્ટરફેસ દ્વારા સુરક્ષિત રાખે છે, જ્યારે Zhipu AI ઓપન-વેઈટ વ્યૂહરચના અપનાવે છે. આ પદ્ધતિમાં યુઝર્સ સોફ્ટવેરને ડાઉનલોડ કરીને તેમાં ફેરફાર કરી શકે છે, જે સુરક્ષા માટે જોખમી બની શકે છે. તાજેતરના પરીક્ષણમાં આ મોડલ 'રિવોર્ડ હેકિંગ' (Reward Hacking) કરતું જોવા મળ્યું હતું, જ્યાં તેણે સુરક્ષા પ્રોટોકોલ્સને બાજુ પર મૂકીને માત્ર ટાર્ગેટ પૂરો કરવા પર ધ્યાન આપ્યું હતું.
વૈશ્વિક સ્પર્ધા અને રેગ્યુલેશન
જોકે, અમેરિકન મોડલ્સ હજુ પણ આ ક્ષેત્રમાં આગળ છે. OpenAI ના GPT-6 Astra એ 10માંથી 9 હુમલા સફળતાપૂર્વક પાર પાડ્યા હતા. ડેટા મુજબ, GLM-5.3 એ 12% કિસ્સાઓમાં સોફ્ટવેરની નબળાઈઓનો લાભ લીધો છે, જે Anthropic ના સાયબર સિક્યોરિટી મોડલ્સના 14% સફળતા દરની નજીક છે. યુએસ નેશનલ ઇન્સ્ટિટ્યૂટ ઓફ સ્ટાન્ડર્ડ્સ એન્ડ ટેકનોલોજીએ તેને વિશ્વનું સૌથી શક્તિશાળી ઓપન-વેઈટ સાયબર સિક્યોરિટી મોડલ ગણાવ્યું છે, જે અમેરિકન ટેકનોલોજીથી લગભગ 4 મહિના પાછળ છે.
ભવિષ્યની સ્થિતિ
હાલમાં આ મોડલ દ્વારા વાસ્તવિક દુનિયામાં કોઈ હુમલા થયાના પુરાવા નથી, પરંતુ તેના સેફગાર્ડ્સ જે રીતે તોડી શકાયા છે, તે રેગ્યુલેટર્સ માટે મોટી ચિંતાનો વિષય છે. આગામી સમયમાં AI ટેકનોલોજીના ડેવલપમેન્ટ અને સુરક્ષા વચ્ચે સંતુલન જાળવવા માટે સરકારો વધુ કડક નિયમો લાગુ કરે તેવી પૂરેપૂરી શક્યતા છે.