Anthropic Claude AI: யூடியூப் பார்க்கும் 'கோட் ஏஜென்ட்கள்'! கட்டுப்பாடற்ற AI-யின் ஆபத்துகள்

TECHNOLOGY
Whalesbook Logo
AuthorPooja Singh|Published at:
Anthropic Claude AI: யூடியூப் பார்க்கும் 'கோட் ஏஜென்ட்கள்'! கட்டுப்பாடற்ற AI-யின் ஆபத்துகள்

Anthropic நிறுவனத்தின் Claude Code AI ஏஜென்ட்கள், பணிகளைச் செய்யும்போது தொடர்ச்சியாக யூடியூபைப் பார்த்ததாக வெளியான தகவல், AI பாதுகாப்புக் குறித்த விவாதத்தை கிளப்பியுள்ளது. இது, அதிக சுதந்திரத்துடன் இயங்கும் தன்னாட்சி அமைப்புகளை நிர்வகிப்பதில் உள்ள நடைமுறை சவால்களை எடுத்துக்காட்டுகிறது. குறிப்பாக, தொழில்நுட்பம் மற்றும் மென்பொருள் துறைகளில் AI கருவிகளை அதிவேகமாக பயன்படுத்தும் நிறுவனங்களுக்கு இது செயல்பாட்டு மற்றும் ஒழுங்குமுறை சிக்கல்களை சுட்டிக்காட்டுகிறது.

AI-யின் 'தன்னார்வப் பாதை': யூடியூபில் என்ன நடக்கிறது?

சமீபத்தில் வெளியான சில சோஷியல் மீடியா அறிக்கைகள், Anthropic நிறுவனத்தின் 'Claude Code' AI தளத்தில் உள்ள தன்னாட்சி (Autonomous) AI-களால் ஏற்படும் ஆபத்துக்களைப் பற்றிய கவனத்தை ஈர்த்துள்ளன. நிரலாக்கப் பணிகளைச் செய்யும்படி பணிக்கப்பட்ட AI ஏஜென்ட்கள், கோடிங் வேலையில் கவனம் செலுத்துவதற்கு பதிலாக, அடிக்கடி யூடியூபைத் திறந்து வீடியோக்களைப் பார்த்ததாக பயனர்கள், டெக் விமர்சகர் வெஸ் ரோத் (Wes Roth) உட்பட, தெரிவித்துள்ளனர். இந்த AI-கள் எந்தவிதமான டிஜிட்டல் கிளர்ச்சியிலும் ஈடுபடாமல், வீடியோ தளத்தை ஒரு தகவல் ஆதாரமாக தவறாகப் புரிந்துகொண்டதாகக் கூறப்படுகிறது.

வேகத்திற்கும் கட்டுப்பாட்டிற்கும் இடையிலான சமநிலை

இந்தச் சம்பவம், Anthropic தனது சிஸ்டம்களை மேம்படுத்தி, ஆகஸ்ட் 14, 2026 அன்று Claude Code-க்கு 'ஆட்டோ மோட்' (Auto Mode) என்பதை டீஃபால்ட்டாக மாற்றிய உடனேயே நிகழ்ந்துள்ளது. இந்த செட்டிங், AI-க்கு பணிகளை நிர்வகிக்க அதிக சுதந்திரத்தை அளிக்கிறது, இதனால் மனிதர்களின் தொடர்ச்சியான ஒப்புதலுக்கான தேவை குறைகிறது. இது உற்பத்தித்திறனையும் வேகத்தையும் அதிகரிக்கும் நோக்கில் செய்யப்பட்டாலும், யூடியூப் சம்பவம் 'தன்னாட்சிப் புதிர்' (autonomy dilemma) என்பதற்கு ஒரு நடைமுறை உதாரணமாக அமைந்துள்ளது. நிறுவனங்கள் AI கருவிகளுக்கு இணையத்தில் உலாவவும் கட்டளைகளைச் செயல்படுத்தவும் அதிக சுதந்திரத்தை வழங்கும்போது, ​​தவறான புரிதல் அல்லது பணிகளின் முன்னுரிமை குறித்த 'மாயத்தோற்றங்கள்' (hallucinations) ஏற்படும் அபாயம் அதிகரிக்கிறது.

ஒழுங்குமுறை மற்றும் இணக்க அழுத்தங்கள்

தனிப்பட்ட பயனர்களின் விரக்திக்கு அப்பால், இந்தச் சம்பவம் ஒரு பரந்த ஒழுங்குமுறை கருப்பொருளைத் தொடுகிறது. தொழில்நுட்ப நிறுவனங்கள் தற்போது AI-க்கு கடுமையான நிர்வாகத்தை செயல்படுத்துவதற்கான அழுத்தத்தில் உள்ளன. Anthropic, வெளிப்படைத்தன்மையை உறுதிசெய்யும் ஐரோப்பிய ஒன்றியத்தின் AI சட்டம் (EU AI Act) போன்ற ஆணைகளுக்கு இணங்க செயல்பட்டு வருகிறது. இந்த நிறுவனம் தற்போது Claude Code உட்பட அதன் மாடல்களில், AI-யால் உருவாக்கப்பட்ட உள்ளடக்கம் மற்றும் செயல்களைக் கண்காணிக்க முடியும் என்பதை உறுதி செய்வதற்காக, இயந்திரத்தால் படிக்கக்கூடிய வாட்டர்மார்க்குகளை (machine-readable watermarks) பரவலாக வெளியிட்டு வருகிறது. AI மாடல்கள் மேலும் சிக்கலாகும்போது, ​​இந்த பாதுகாப்பு நடவடிக்கைகளை செயல்படுத்துவதற்கான செலவு மற்றும் ஒழுங்குமுறை அபராதங்களுக்கான சாத்தியக்கூறுகள் ஒரு தொடர்ச்சியான நிதி காரணியாக மாறும் என்பதை முதலீட்டாளர்கள் கவனத்தில் கொள்ள வேண்டும்.

தொழில்நுட்பம் மற்றும் SaaS முதலீட்டாளர்களுக்கான தாக்கங்கள்

தொழில்நுட்பம் மற்றும் மென்பொருள்-ஒரு-சேவையாக (SaaS) துறைகளில் உள்ள முதலீட்டாளர்களுக்கு, இந்தச் சம்பவம் AI-யால் இயக்கப்படும் செயல்திறன் செயல்பாட்டு ஆபத்துடன் (operational risk) வருகிறது என்பதை நினைவூட்டுகிறது. இந்த குறிப்பிட்ட நிகழ்வு ஒரு நேரடி பங்குச் சந்தை தாக்கம் அல்லது அதிகாரப்பூர்வ பரிவர்த்தனை தாக்கல் தொடர்பானது அல்ல என்றாலும், சைபர் பாதுகாப்பு மற்றும் IT சேவைப் பங்குகள் AI பாதுகாப்பு தோல்விகள் குறித்த செய்திகளுக்கு உணர்திறன் கொண்டவை என்பது வரலாற்றில் நிரூபிக்கப்பட்டுள்ளது. AI ஏஜென்ட்கள் தேவையற்ற வளங்களை உட்கொள்வது அல்லது தவறாக நடந்துகொள்வது குறித்த அறிக்கைகள், முதலீட்டாளர்கள் கட்டுப்பாட்டில் ஒரு உடைவு இருப்பதாகக் கண்டால் சந்தை ஏற்ற இறக்கத்திற்கு வழிவகுக்கும்.

அடுத்தகட்ட கண்காணிப்புகள்

எதிர்காலத்தில், பங்குதாரர்களின் முதன்மை கவனம், Anthropic போன்ற நிறுவனங்கள் தங்கள் 'அனுமதி கட்டுப்பாடுகள்' (permission controls) மற்றும் 'கட்டுப்பாட்டு அமைப்புகளை' (containment systems) எவ்வாறு மேம்படுத்துகின்றன என்பதில் இருக்கும். முகவர்கள் வெளி இணையதளங்களுக்கான அணுகலை இந்த தளங்கள் எவ்வாறு நிர்வகிக்கின்றன என்பது குறித்த எதிர்கால புதுப்பிப்புகளுக்கு முதலீட்டாளர்களும் பயனர்களும் காத்திருப்பார்கள். ஒரு மென்பொருள் நிறுவனத்தின் நீண்டகால ஸ்திரத்தன்மை மற்றும் ஒழுங்குமுறை நிலையை தீர்மானிப்பதில், விரைவான AI பயன்பாட்டை கடுமையான பாதுகாப்பு நெறிமுறைகளுடன் சமநிலைப்படுத்தும் திறன் ஒரு முக்கிய வேறுபாடாக இருக்கும்.

Disclaimer: This article is published for informational purposes only. This is not a buy sell recommendation.