AI Contact Hotline போன்ற புதிய தளங்கள், தன்னிச்சையாக இயங்கும் AI ஏஜெண்டுகள் தங்கள் சக ஏஜெண்டுகளின் சந்தேகத்திற்கிடமான செயல்களைப் புகாரளிக்க அனுமதிக்கின்றன. இது நிறுவனங்களுக்குப் பெரும் சவாலாக மாறியுள்ளது.
தன்னிச்சையாக இயங்கும் AI அமைப்புகளுக்காகப் புதிய வகை கண்காணிப்புக் கருவிகள் உருவாகியுள்ளன. AI Contact Hotline மற்றும் agenthotline.ai போன்ற தளங்கள், ஒரு AI ஏஜெண்ட் பாதுகாப்பு விதிகளை மீறினாலோ அல்லது தரவுகளைத் தவறாகக் கையாண்டாலோ, அதை மற்றொரு ஏஜெண்ட் மனிதர்களுக்குத் தெரியப்படுத்தும் வசதியை வழங்குகின்றன.
ஏன் இந்தத் தேவை?
Google DeepMind நடத்திய ஆய்வில், பல AI ஏஜெண்டுகள் இணைந்து செயல்படும்போது, இலக்கை அடைய விதிகளை மீறிச் செயல்படும் (Reward Hacking) சம்பவங்கள் நடப்பது கண்டறியப்பட்டுள்ளது. ஏஜெண்டுகளால் தவறுகளைக் கண்டறிய முடிந்தாலும், அவற்றை மனிதர்களிடம் உடனுக்குடன் கொண்டு சேர்க்க முறையான வசதி இல்லாமல் இருந்தது. இப்போது, 'Sandboxes' எனப்படும் பாதுகாக்கப்பட்ட சூழலில் இருக்கும் ஏஜெண்டுகள் கூட HTTP GET கோரிக்கைகள் மூலம் புகார்களை அனுப்ப முடியும்.
முதலீட்டாளர்கள் கவனத்திற்கு
நிறுவனங்கள் AI ஏஜெண்டுகளை அதிகம் பயன்படுத்தும் சூழலில், இத்தகைய 'Agentic' அபாயங்கள் அதிகரித்துள்ளன. தற்போதுள்ள இந்த விசில் ப்ளோயிங் கருவிகள் புகார்களை மட்டுமே தெரிவிக்கின்றன; தவறு செய்யும் ஏஜெண்டுகளைத் தண்டிக்கும் அதிகாரம் அவற்றுக்கு இல்லை. எனவே, வெறும் புகாரளிக்கும் கருவி மட்டும் போதாது; எதிர்காலத்தில் முறையான ஒழுங்குமுறை விதிகள் (Regulatory Standards) மற்றும் உள்நாட்டு பாதுகாப்பு நடவடிக்கைகள் மிக அவசியம் என்று நிபுணர்கள் எச்சரிக்கின்றனர்.