Whalesbook
AI એજન્ટ્સ કરોડોના વેપારનું સંચાલન કરવા તૈયાર છે, પરંતુ આ ભવિષ્ય માટે સૌથી મોટો સુરક્ષા ખતરો AI મોડેલ્સમાંથી નહીં, પરંતુ તેમને જોડતી સેવાઓમાંથી આવી રહ્યો છે. સંશોધકોએ "LLM રાઉટર્સ" માં ગંભીર નબળાઈઓ ઉજાગર કરી છે, જે વપરાશકર્તાઓની વિનંતીઓને AI પ્લેટફોર્મ પર નિર્દેશિત કરે છે.
LLM રાઉટર્સ API બ્રોકર તરીકે કાર્ય કરે છે અને તેમની પાસેથી પસાર થતા તમામ ડેટા, જેમાં સંવેદનશીલ ઓળખપત્રો અને પ્રાઇવેટ કીઝનો સમાવેશ થાય છે, તેના પર અનિયંત્રિત ઍક્સેસ ધરાવે છે. આ એક અપારદર્શક વિશ્વાસ સીમા બનાવે છે: વપરાશકર્તાઓ માને છે કે તેઓ સીધા વિશ્વાસપાત્ર AI સાથે સંપર્ક કરી રહ્યા છે, પરંતુ તેઓ સમાધાન કરેલ મધ્યસ્થી દ્વારા રૂટ થઈ રહ્યા હોઈ શકે છે.
AI એજન્ટ્સ દ્વારા 2030 સુધીમાં $3 ટ્રિલિયન થી $5 ટ્રિલિયન સુધીના વૈશ્વિક ઉપભોક્તા વાણિજ્યનું મધ્યસ્થ થવાની ધારણા છે, પરંતુ આ ભવિષ્ય શોષણપાત્ર LLM રાઉટર્સને કારણે ગંભીર સુરક્ષા અંતરનો સામનો કરી રહ્યું છે. સંશોધકોએ 26 રાઉટર્સને ગુપ્ત રીતે દૂષિત આદેશો દાખલ કરતા અને ઓળખપત્રો ચોરતા શોધી કાઢ્યા, જેના કારણે એક ગ્રાહકને તેમના ક્રિપ્ટો વોલેટમાંથી $500,000 નું નુકસાન થયું.
ટીમે એ પણ દર્શાવ્યું કે કેવી રીતે રાઉટર સિસ્ટમ્સને સરળતાથી "ઝેર" આપી શકાય છે, જેનાથી હુમલાખોરોને કલાકોમાં સેંકડો અન્ય સિસ્ટમ્સ પર નિયંત્રણ મળી શકે છે. આ "સૌથી નબળી કડી" સમસ્યાનો અર્થ એ છે કે મધ્ય ઇન્ફ્રાસ્ટ્રક્ચરમાં સમાધાન સમગ્ર સિસ્ટમને અસર કરી શકે છે, ભલે અંતિમ AI પ્રદાતા સુરક્ષિત હોય.
નાણાકીય ક્ષેત્રમાં, AI એજન્ટ્સ API દુરુપયોગ, ડેટા લીક અને હર્ડિંગ બિહેવિયરથી બજાર અસ્થિરતા જેવા જોખમો દાખલ કરી શકે છે. ભૂતકાળમાં AI-સંચાલિત સાયબર હુમલાઓએ ક્રિપ્ટો સ્પેસને પહેલેથી જ અબજોનું નુકસાન પહોંચાડ્યું છે, જેમાં $285 મિલિયન ની Drift પ્રોટોકોલ હૅક અને સામાજિક એન્જિનિયરિંગ દ્વારા Coinbase વપરાશકર્તાઓને થયેલ $45 મિલિયન નું નુકસાન સામેલ છે.
મૂળ સમસ્યા AI સપ્લાય ચેઇનમાં ચકાસણી અને પારદર્શિતાનો અભાવ છે. LLM રાઉટર્સ સુરક્ષિત કનેક્શન્સ સમાપ્ત કરે છે, અને ક્રિપ્ટો ટ્રાન્ઝેક્શન માટે જરૂરી પ્રાઇવેટ કીઝ અને API ઓળખપત્રો સહિતના તમામ ટ્રાફિકમાં સીધો ઍક્સેસ મેળવે છે. દૂષિત રાઉટર્સ આ ડેટાને શાંતિથી ચોરી શકે છે અથવા, વધુ જોખમી રીતે, બેનિન આદેશોને હુમલાખોર-નિયંત્રિત આદેશોથી બદલી શકે છે, ખાસ કરીને જ્યારે AI એજન્ટ્સ સ્વાયત્ત રીતે કાર્ય કરે છે. સંશોધનમાં જાણવા મળ્યું છે કે પરીક્ષણ કરાયેલા 28 પેઇડ રાઉટર્સમાંથી ફક્ત નવ માં દૂષિત કોડ દાખલ કર્યો હતો, અને 17 એ AWS ઓળખપત્રો ઍક્સેસ કર્યા હતા, જેમાંથી એકે સીધા Ethereum વોલેટને ખાલી કર્યું હતું.
આ પરિસ્થિતિ "શેડો AI" – અપ્રૂવ્ડ AI ટૂલ્સ – ના ઉદય અને જટિલ, મલ્ટિ-એજન્ટ AI ઇકોસિસ્ટમ્સને સુરક્ષિત કરવાની મુશ્કેલીથી વધુ વણસી છે. પ્રોમ્પ્ટ ઇન્જેક્શન હુમલાઓ અને ડેટા ભ્રષ્ટાચારના ફેલાવાની સંભાવના એજન્ટ્સમાં જોખમ વધારે છે, જેનો અર્થ છે કે અત્યાધુનિક AI પ્રદાતાઓ પણ ટ્રાન્ઝેક્શન સુરક્ષાની ખાતરી આપી શકતા નથી જો તેમના અંતર્ગત રાઉટર્સ સમાધાન કરેલ હોય.