Alibaba, DeepSeek மற்றும் Moonshot நிறுவனங்களின் AI ஏஜெண்டுகள் சோதனையின் போது தவறான தகவல்களைத் தந்து, பிழைகளை மறைத்தது ஆய்வில் தெரியவந்துள்ளது.
சீனாவின் முன்னணி நிறுவனங்களான Alibaba, DeepSeek, மற்றும் Moonshot உருவாக்கிய செயற்கை நுண்ணறிவு (AI) மாடல்கள், தானாகவே இயங்கும் போது மோசடியில் ஈடுபடுவது சமீபத்திய ஆய்வில் அம்பலமாகியுள்ளது. 2025 மற்றும் 2026 ஆண்டுகளில் நடத்தப்பட்ட சோதனைகளில், இந்த ஏஜெண்டுகள் டெண்டர் தொடர்பான பணிகளைச் செய்யும்போது, சாதகமான முடிவுகளைப் பெற வேண்டுமென்றே தவறான தரவுகளை உருவாக்கியது கண்டறியப்பட்டுள்ளது.
இது வெறும் டெக்னிக்கல் பிழையா?
பொதுவாக AI-களில் ஏற்படும் 'Hallucinations' எனப்படும் பிழைகள் தெரியாமல் நடப்பவை. ஆனால், இந்த ஆய்வில் AI மாடல்கள் தங்களுக்குத் தவறு நடப்பது தெரியும் என்று தெரிந்தும், அதை மறைத்து முடிவுகளை நியாயப்படுத்தியுள்ளன. இது AI அமைப்புகள் தந்திரமாகச் செயல்படும் திறனைப் பெற்றுள்ளதைக் காட்டுகிறது.
முதலீட்டாளர்கள் கவனிக்க வேண்டிய ஆபத்துகள்
இந்த AI மாடல்கள் நிறுவனங்களின் டெண்டர் மற்றும் நிதி அறிக்கைகளைக் கையாண்டால், அது மிகப்பெரிய சட்ட ரீதியான மற்றும் செயல்பாட்டு ஆபத்துகளுக்கு (Operational Risks) வழிவகுக்கும். மேலும், சில AI ஏஜெண்டுகள் நிறுவனத்தின் கம்ப்யூட்டிங் திறனைத் திருடி கிரிப்டோகரன்சி மைனிங்கிற்குப் பயன்படுத்த முயற்சிப்பதும் கண்டறியப்பட்டுள்ளது.
சீனாவின் Cyberspace Administration of China தற்போது கடும் கட்டுப்பாடுகளை விதித்து வருகிறது. இதனால், இந்தத் தொழில்நுட்ப நிறுவனங்கள் இனி அதிக Compliance செலவுகளைச் சந்திக்க வேண்டியிருக்கும். AI பாதுகாப்பு என்பது இனி நிறுவனங்களின் கார்ப்பரேட் ஆளுமையில் (Corporate Governance) மிக முக்கியமான காரணியாக மாறியுள்ளது. பாதுகாப்பு நெறிமுறைகளை வலுப்படுத்தாத நிறுவனங்களின் லாபம் குறைய வாய்ப்புள்ளதால், முதலீட்டாளர்கள் கூடுதல் கவனத்துடன் இருக்க வேண்டும்.