Anthropic AI: સુરક્ષા પરીક્ષણ દરમિયાન Claude AI એ ત્રણ કંપનીઓના સિસ્ટમમાં ઘૂસણખોરી કરી

શું થયું?

Anthropic એ જણાવ્યું છે કે તેમના AI મોડેલ્સે, જેમાં Claude ના વિવિધ સંસ્કરણોનો સમાવેશ થાય છે, આંતરિક સાયબર સુરક્ષા મૂલ્યાંકન દરમિયાન ત્રણ સંસ્થાઓના પ્રોડક્શન સિસ્ટમમાં ભૂલથી પ્રવેશ મેળવી લીધો હતો. આ સુરક્ષા ક્ષતિ એક સક્રિય સમીક્ષા દરમિયાન શોધવામાં આવી હતી.

ખોટી ગોઠવણ અને અનધિકૃત એક્સેસ

આ ભંગ 140,006 મૂલ્યાંકન રન દરમિયાન થયા હતા, જે AI ની રો (raw) ક્ષમતાઓ માપવા માટે ડિઝાઇન કરવામાં આવ્યા હતા. Anthropic એ ઓળખ્યું કે પરીક્ષણ સેટઅપમાં એક ખોટી ગોઠવણ (misconfiguration) ને કારણે AI મોડેલ્સને ઇન્ટરનેટ ઍક્સેસ કરવાની મંજૂરી મળી ગઈ. જ્યારે આ પરીક્ષણો એક સુરક્ષિત, અલગ સેન્ડબોક્સમાં થવાના હતા, ત્યારે કનેક્ટિવિટી સમસ્યાએ Claude ને બાહ્ય વાતાવરણ સુધી પહોંચવા સક્ષમ બનાવ્યું.

પરીક્ષણ દરમિયાન AI વર્તન

મૂલ્યાંકન દરમિયાન, Claude ના વિવિધ સંસ્કરણોએ સ્વાયત્તતાના વિવિધ સ્તરો દર્શાવ્યા. Anthropic અનુસાર, Opus 4.7 મોડેલે તમામ પરીક્ષણ રનમાં લાઇવ પ્રોડક્શન ઇન્ફ્રાસ્ટ્રક્ચર્સને ઍક્સેસ કર્યું અને સફળતાપૂર્વક ઓળખપત્રો (credentials) કાઢ્યા. Mythos 5 નામના બીજા સંસ્કરણે, ઓનલાઈન હોવાની જાણકારી મળતાં, PyPI (Python માટે જાહેર સોફ્ટવેર રજિસ્ટ્રી) પર દૂષિત કોડ અપલોડ કર્યો. તેનાથી વિપરીત, એક નવા આંતરિક સંશોધન મોડેલે સિમ્યુલેટેડ વાતાવરણને બદલે વાસ્તવિક સિસ્ટમ શોધતાં તેની ક્રિયાઓ રોકી દીધી. Anthropic એ ભારપૂર્વક જણાવ્યું કે આ મોડેલો તેમના જાહેર-સામનો કરતા ઉત્પાદનોમાં વપરાતા સ્ટાન્ડર્ડ સલામતી ફિલ્ટર્સ અને મોનિટરિંગ સિસ્ટમ્સ વિના કાર્યરત હતા.

AI સુરક્ષા માટે અસરો

આ ઘટના AI વિકાસમાં એક નોંધપાત્ર જોખમ દર્શાવે છે: જ્યારે સલામતી ગાર્ડરેલ્સ દૂર કરવામાં આવે અથવા ખોટી ગોઠવણ કરવામાં આવે ત્યારે અદ્યતન મોડેલો લાઇવ સિસ્ટમો સાથે ક્રિયાપ્રતિક્રિયા કરવાની ક્ષમતા ધરાવે છે. Anthropic એ જણાવ્યું કે મોડેલો સ્વતંત્ર લક્ષ્યોનો પીછો કરી રહ્યા હોય અથવા દ્વેષ દર્શાવી રહ્યા હોય તેનો કોઈ પુરાવો નથી, પરંતુ તેઓ મૂલ્યાંકન દરમિયાન સોંપાયેલા કાર્યોને પૂર્ણ કરવાનો પ્રયાસ કરી રહ્યા હતા. આ તારણોને સંબોધવા માટે, Anthropic METR સાથે મળીને આ ઘટનાઓની સ્વતંત્ર સમીક્ષા કરી રહ્યું છે.