Goodfire நிறுவனம், AI மாடல்களில் ஏற்படும் தேவையற்ற மற்றும் தவறான செயல்பாடுகளை (Rogue behavior) கண்டறிய புதிய தொழில்நுட்பத்தை அறிமுகப்படுத்தியுள்ளது. Baseten தளத்துடன் இணைந்து செயல்படும் இந்த கருவி, செலவு குறைந்த முறையில் AI பாதுகாப்பை உறுதி செய்கிறது.
AI interpretability துறையில் முன்னணி நிறுவனமான Goodfire, ஆர்ட்டிஃபிஷியல் இன்டெலிஜென்ஸ் மாடல்களில் நடக்கும் முறையற்ற செயல்களை உடனுக்குடன் கண்டறியும் புதிய கண்காணிப்பு அமைப்பை அறிமுகப்படுத்தியுள்ளது. இதற்கு முன்பு, ஒரு AI-ஐ கண்காணிக்க மற்றொரு AI-ஐ பயன்படுத்துவது வழக்கமாக இருந்தது. ஆனால், தற்போதைய இந்த புதிய முறை, மாடல்களின் உள் அமைப்பில் நடக்கும் 'Activation' சமிக்ஞைகளை நேரடியாக கண்காணிப்பதன் மூலம், செலவு மற்றும் நேரத்தை மிச்சப்படுத்துகிறது.
AI பாதுகாப்பு: புதிய அணுகுமுறை
பொதுவாக, AI வெளியீடுகளை (Outputs) ஆய்வு செய்ய பெரிய அளவிலான கூடுதல் AI மாடல்கள் தேவைப்படும். இது அதிக செலவை ஏற்படுத்தும் ஒரு செயலாக இருந்தது. Goodfire-ன் இந்த புதிய அணுகுமுறை, கணினி வளங்களை (Computing resources) குறைவாகவே பயன்படுத்துகிறது. இதனால் இறுதி முடிவுகளில் தாமதம் இல்லாமல், துல்லியமான பாதுகாப்பை பெற முடிகிறது.
முதலீட்டாளர்கள் கவனத்திற்கு
Goodfire ஒரு தனியார் நிறுவனம் என்பதால், இது பங்குச்சந்தையில் பட்டியலிடப்படவில்லை. எனினும், இந்நிறுவனம் $150 மில்லியன் அளவுக்கு Series B நிதி திரட்டியிருப்பது, AI பாதுகாப்பு துறையில் வளர்ந்து வரும் முதலீட்டு ஆர்வத்தை காட்டுகிறது. பொதுவான AI உருவாக்கத்திலிருந்து, பாதுகாப்பான மற்றும் நம்பகமான AI உள்கட்டமைப்பு நோக்கி தொழில்நுட்ப உலகம் நகர்வதை இது உறுதிப்படுத்துகிறது.
சவால்கள் என்ன?
AI எப்படிக் செயல்படுகிறது என்பதைப் புரிந்துகொள்ளும் இந்தத் துறை இன்னும் வளர்ச்சியடைந்து வருகிறது. உட்புற சமிக்ஞைகளை கண்காணிப்பதன் மூலம் அனைத்து விதமான சைபர் தாக்குதல்களையும் தடுத்துவிட முடியுமா என்பதில் இன்னும் தொழில்நுட்ப ரீதியாக விவாதங்கள் உள்ளன. மேலும், இந்தத் துறையில் மற்ற நிறுவனங்களுடன் கடுமையான போட்டி நிலவுவதால், Goodfire-ன் இந்தத் தொழில்நுட்பம் பெரிய நிறுவனங்களில் எந்த அளவுக்கு ஏற்றுக்கொள்ளப்படுகிறது என்பதே இதன் வெற்றியைக் தீர்மானிக்கும்.