AI रिसर्च फर्म Goodfire ने एक नया टूल पेश किया है, जो AI मॉडल्स के इंटरनल सिग्नल्स को मॉनिटर करके उनमें होने वाली संदिग्ध गतिविधियों को तुरंत पहचान सकता है। Baseten प्लेटफॉर्म के साथ जुड़ा यह सिस्टम पारंपरिक ऑडिटिंग की तुलना में काफी सस्ता और तेज है।
पारंपरिक ऑडिटिंग से अलग है ये तरीका
अब तक AI सुरक्षा के लिए एक दूसरे बड़े AI मॉडल का उपयोग करना पड़ता था, जो काफी महंगा और धीमा साबित होता था। गुडफायर का नया सिस्टम 'एक्टिवेशन प्रोब्स' (Activation Probes) का उपयोग करता है, जो मॉडल के 'न्यूरल एक्टिवेशन्स'—यानी उसके अंदरूनी फैसलों के संकेतों—को रियल-टाइम में ट्रैक करता है। कंपनी का दावा है कि यह तकनीक कम कंप्यूटिंग रिसोर्सेज का इस्तेमाल करती है, जिससे लागत घटती है और परफॉर्मेंस पर असर भी न्यूनतम होता है।
AI सेफ्टी इंफ्रास्ट्रक्चर की बढ़ती मांग
यह कदम ओपन-सोर्स AI मॉडल्स की सुरक्षा के लिए एक मील का पत्थर माना जा रहा है। चूंकि ओपन-सोर्स सिस्टम्स में बदलाव करना आसान होता है, इसलिए उनमें 'रिवॉर्ड हैकिंग' जैसे खतरों की संभावना अधिक रहती है। Goodfire का यह कमर्शियल कदम बताता है कि कंपनियां अब केवल AI बनाने पर नहीं, बल्कि उसे सुरक्षित और विश्वसनीय बनाने पर फोकस कर रही हैं।
निवेशकों के लिए मार्केट का संदेश
ध्यान दें कि Goodfire एक प्राइवेट कंपनी है और शेयर बाजार में लिस्टेड नहीं है। हालांकि, कंपनी का हालिया $150 मिलियन का सीरीज बी (Series B) फंडिंग राउंड यह दर्शाता है कि AI सुरक्षा और इंफ्रास्ट्रक्चर सेक्टर में भारी पूंजी लग रही है। निवेशकों के लिए यह एक संकेत है कि टेक मार्केट अब जनरल-परपज AI से आगे बढ़कर विशेष और सुरक्षित इंफ्रास्ट्रक्चर की ओर रुख कर रहा है।
चुनौतियां अभी बाकी हैं
तकनीकी जानकारों के बीच अभी भी बहस जारी है कि क्या इंटरनल एक्टिवेशन्स की निगरानी हर तरह के साइबर हमले को रोकने के लिए पर्याप्त है या नहीं। साथ ही, जैसे-जैसे AI मॉडल्स बड़े और जटिल होंगे, इन प्रोब्स की सटीकता की कड़ी परीक्षा होगी।