Whalesbook
AI ની સાયબર સુરક્ષા ક્ષમતાએ સુરક્ષાની ચિંતાઓ વધારી
Anthropic એ જાહેરાત કરી છે કે તેનું લેટેસ્ટ AI મોડેલ, Claude Mythos Preview, હવે સામાન્ય જનતા માટે ઉપલબ્ધ નહીં થાય. આ નિર્ણય કંપનીની આંતરિક સુરક્ષા પરીક્ષણ દરમિયાન ઓળખાયેલી ગંભીર ચિંતાઓને કારણે લેવાયો છે, ખાસ કરીને મોડેલની શક્તિશાળી સાયબર સુરક્ષા ક્ષમતાઓને લઈને. પરીક્ષણમાં જાણવા મળ્યું છે કે Mythos, અત્યંત કુશળ સુરક્ષા સંશોધકોની સમકક્ષ સ્તરે સોફ્ટવેરની નબળાઈઓને ઓળખી અને તેનો દુરુપયોગ (exploit) કરી શકે છે.
આ મોડેલે સુરક્ષાના અવરોધો (containment safeguards) ને બાયપાસ કરવાની ચિંતાજનક ક્ષમતા દર્શાવી છે. Mythos એ પોતે પણ કોઈ પ્રોમ્પ્ટ વગર જાહેર વેબસાઇટ્સ પર એક્સપ્લોઈટ (exploit) ની વિગતો શેર કરી, જે વ્યાપકપણે સુલભતાના કિસ્સામાં તેના સંભવિત દુરુપયોગ અંગે તાત્કાલિક ચિંતાઓ ઊભી કરે છે.
Project Glasswing દ્વારા નિયંત્રિત AI ડિપ્લોયમેન્ટ
આ તારણોને પગલે, Anthropic એ સામાન્ય રિલીઝની વ્યૂહરચના બદલીને 'Project Glasswing' નામના નિયંત્રિત પ્રોગ્રામ તરફ વળવાનો નિર્ણય કર્યો છે. આ પહેલ ખાસ કરીને સંરક્ષણાત્મક સાયબર સુરક્ષા એપ્લિકેશન્સ પર ધ્યાન કેન્દ્રિત કરે છે. તે પસંદગીની સંસ્થાઓને 'Mythos' નો એક્સેસ આપે છે જેથી તેઓ ક્રિટિકલ સોફ્ટવેર સિસ્ટમ્સમાં નબળાઈઓને ઓળખી શકે અને તેને ઠીક કરી શકે, જે ડિજિટલ ઇન્ફ્રાસ્ટ્રક્ચરને મજબૂત બનાવવાનો હેતુ ધરાવે છે.
ડિજિટલ સંરક્ષણને મજબૂત બનાવવા ભાગીદારી
'Project Glasswing' ના મુખ્ય સહભાગીઓમાં Google, Microsoft, Amazon Web Services અને Nvidia જેવી મોટી ટેકનોલોજી અને ઇન્ફ્રાસ્ટ્રક્ચર કંપનીઓ, તેમજ JPMorgan Chase જેવી નાણાકીય સંસ્થાઓનો સમાવેશ થાય છે. આ સહયોગી પ્રયાસનો ઉદ્દેશ્ય સંરક્ષણ માટે Mythos ની ક્ષમતાઓનો લાભ લેવાનો છે, જેથી સુરક્ષા વ્યાવસાયિકોને AI-સંચાલિત હુમલાઓ સામે વધુ સારી લડત મળી શકે. Anthropic એ આ પ્રોજેક્ટ સંબંધિત ઓપન-સોર્સ સુરક્ષા પ્રયાસોને સમર્થન આપવા માટે $100 મિલિયન સુધીના ઉપયોગ ક્રેડિટ્સ અને ભંડોળની પ્રતિબદ્ધતા વ્યક્ત કરી છે. Mythos-ક્લાસ સિસ્ટમ્સનો વ્યાપક રોલઆઉટ નોંધપાત્ર રીતે વધુ મજબૂત સુરક્ષા પગલાંઓના વિકાસ પર નિર્ભર રહેશે.