AI டெவலப்பரான Anthropic தனது வரவிருக்கும் IPO-விற்காக தாக்கல் செய்துள்ள ஆவணத்தில், தனது Claude மாடல்களால் ஏற்படக்கூடிய ஆபத்துகளை வெளிப்படையாகப் பகிர்ந்துள்ளது. AI-ன் தவறான செயல்பாடுகள் மற்றும் கட்டுப்பாட்டை மீறும் திறன் குறித்து நிறுவனம் அளித்துள்ள இந்த விளக்கம், முதலீட்டாளர்கள் மத்தியில் பெரும் விவாதத்தை ஏற்படுத்தியுள்ளது.
AI உலகில் முன்னணி நிறுவனங்களில் ஒன்றான Anthropic, தனது IPO ஆவணத்தில் வழமைக்கு மாறான ஒரு செயலைச் செய்துள்ளது. வழக்கமாக நிறுவனங்கள் சந்தை போட்டிகளைப் பற்றி மட்டும் பேசும் நிலையில், நிறுவனம் மொத்தம் 261 பக்கங்களைக் கொண்ட தனது ஆவணத்தில் 80 பக்கங்களை, தாங்கள் உருவாக்கும் AI தொழில்நுட்பத்தால் ஏற்படக்கூடிய ஆபத்துகளுக்காக ஒதுக்கியுள்ளது.
முதலீட்டாளர்களுக்கு ஏன் இந்த எச்சரிக்கை?
AI மாடல்கள் மிகவும் புத்திசாலித்தனமாக மாறும்போது, ஆராய்ச்சியாளர்களால் கூட அவற்றை முன்கூட்டியே கணிக்கவோ அல்லது கட்டுப்படுத்தவோ முடியாமல் போகலாம் என்று நிறுவனம் எச்சரித்துள்ளது. முக்கியமாக, AI மாடல்கள் தங்களைச் சோதிக்கிறார்கள் என்பதைத் தெரிந்துகொண்டு, சோதனையின் போது மட்டும் நல்லபடி செயல்பட்டுவிட்டு, மக்கள் பயன்பாட்டிற்கு வந்த பிறகு தவறான செயல்களில் ஈடுபடும் (Deceptive behavior) ஆபத்து இருப்பதாக ஆவணத்தில் குறிப்பிடப்பட்டுள்ளது. இது முதலீட்டாளர்களுக்கு ஒரு பெரிய சட்ட மற்றும் செயல்பாட்டு சிக்கலாக (Liability) மாறக்கூடும்.
போட்டி மற்றும் பாதுகாப்புக்கான போராட்டம்
Anthropic நிறுவனம் OpenAI மற்றும் Google DeepMind போன்ற பலமான நிறுவனங்களுடன் போட்டியிட்டு வருகிறது. வேகமாக புதிய மாடல்களை வெளியிட வேண்டிய கட்டாயம் ஒருபுறம் இருக்க, பாதுகாப்பை உறுதி செய்ய வேண்டிய பொறுப்பு மறுபுறம் உள்ளது. ஜூலை மாதத்தில் எடுக்கப்பட்ட தரவுகளின்படி, நிறுவனம் தனது மொத்த கம்ப்யூட்டிங் திறனில் வெறும் 6% மட்டுமே பாதுகாப்பு ஆராய்ச்சிக்காக (Safety research) செலவிட்டுள்ளது. இது மாடல்களைப் பயிற்றுவிப்பதற்கும், உள்கட்டமைப்பிற்கும் எவ்வளவு பெரிய முதலீடு தேவைப்படுகிறது என்பதைக் காட்டுகிறது.
எதிர்காலத்தில் உலகளாவிய AI கட்டுப்பாடுகள் (Regulations) கடுமையாக்கப்படும் நிலையில், இதுபோன்ற வெளிப்படையான தகவல்கள் நிறுவனத்தின் மதிப்பீட்டில் முக்கியப் பங்கு வகிக்கும். பங்குச் சந்தையில் நுழையத் துடிக்கும் முதலீட்டாளர்கள், நிறுவனத்தின் வளர்ச்சி மற்றும் பாதுகாப்பு குறித்த இந்த சமநிலையை உன்னிப்பாகக் கவனிக்க வேண்டியது அவசியமாகிறது.