தன்னாட்சி முறையில் இயங்கும் AI ஏஜெண்டுகள் வேகமானவை, ஆனால் ஆபத்தானவை. டேட்டா லீக் மற்றும் தவறான செயல்களைத் தடுக்க, நிறுவனங்கள் இப்போது AI-ஐ கண்காணிக்க புதிய 'AI-Governance' கருவிகளைப் பயன்படுத்தத் தொடங்கியுள்ளன.
நிறுவனங்களில் தன்னாட்சி AI ஏஜெண்டுகளின் பயன்பாடு தற்போது மின்னல் வேகத்தில் அதிகரித்து வருகிறது. மனிதர்களின் கண்காணிப்பு இன்றி இந்த மென்பொருள் ஏஜெண்டுகள் இயங்குவதால், டேட்டா லீக் ஆவதற்கும், சிஸ்டத்தில் தவறான மாற்றங்கள் ஏற்படுவதற்கும் அதிக வாய்ப்புகள் உள்ளன. இதைக் கட்டுப்படுத்த, முதன்மை AI ஏஜெண்டுகளைக் கண்காணிக்க மற்றொரு 'செகண்டரி' AI லேயரை உருவாக்கும் புதிய சந்தை உருவாகியுள்ளது.
பாதுகாப்பு வளையம் எப்படி செயல்படுகிறது?
ஸ்டார்ட்-அப்கள் மற்றும் பாதுகாப்பு ஆய்வகங்கள், AI ஏஜெண்டிற்கும் அது செயல்படும் சூழலுக்கும் இடையில் ஒரு 'கேட்கீப்பிங்' (Gatekeeping) லேயரை உருவாக்குகின்றன. உதாரணமாக, ஒரு AI ஏஜெண்ட் செய்யப்போகும் செயலை, அடுத்த நொடியே இந்த கண்காணிப்பு AI ஸ்கேன் செய்கிறது. சந்தேகத்திற்குரிய செயல்கள் இருந்தால், அவற்றை உடனடியாக பிளாக் செய்துவிடுகிறது.
இன்டர்னல் மானிட்டரிங் (Inner Monologue)
சில நிறுவனங்கள் AI-ன் 'உள்மனதை' (Inner Monologue) ஆராயும் முறையைக் கையாள்கின்றன. அதாவது, ஒரு முடிவை எடுப்பதற்கு முன்னால், அந்த AI என்ன நினைக்கிறது என்பதைப் பகுப்பாய்வு செய்து, அதன் மூலம் தீய எண்ணங்களைக் கண்டறிய முயற்சிக்கின்றன. இருப்பினும், AI டிசைன்கள் சிக்கலாக மாறும்போது, இந்த வகை கண்காணிப்பின் துல்லியம் குறையக்கூடும் என்று ஆய்வாளர்கள் எச்சரிக்கின்றனர்.
புதிய வகை ரிஸ்க் (Recursive Risk)
நிபுணர்கள் மத்தியில் ஒரு விவாதம் நடக்கிறது: 'ஒரு AI-ஐக் கண்காணிக்க இன்னொரு AI-ஐப் பயன்படுத்துவது சரியானதா?' என்று கேள்வி எழுப்புகின்றனர். கண்காணிப்பு AI ஏதேனும் ஹேக் செய்யப்பட்டால், மொத்த பாதுகாப்பு அமைப்பும் செயலிழந்துவிடும். இதற்கு 'Recursive Security Risk' என்று பெயர்.
இந்தக் காரணத்தினால், பல சைபர் செக்யூரிட்டி நிபுணர்கள் பழைய முறையான 'Deterministic Infrastructure Monitoring'-க்குத் திரும்புவது சிறந்தது என்கின்றனர். அதாவது, நெட்வொர்க் லாகிங் (Network Logging) போன்ற பாரம்பரிய பாதுகாப்பு முறைகளை மீண்டும் பலப்படுத்த வேண்டும் என்பது இவர்களின் வாதம். முதலீட்டாளர்களைப் பொறுத்தவரை, வருங்காலத்தில் AI-நேட்டிவ் செக்யூரிட்டி கருவிகளுக்கும், அதே சமயம் பாரம்பரிய சைபர் செக்யூரிட்டி உள்கட்டமைப்பிற்கும் நிறுவனங்களின் செலவினம் கணிசமாக உயரும் என்று எதிர்பார்க்கப்படுகிறது.