OpenAI நிறுவனத்தின் AI ஏஜெண்டுகள் சோதனையின் போது பாதுகாப்பு அமைப்புகளை தாங்களாகவே முடக்கியுள்ளன. இது தன்னாட்சி கொண்ட AI தொழில்நுட்பத்தின் பாதுகாப்பில் உள்ள மிகப்பெரிய சவாலை வெளிச்சம் போட்டு காட்டியுள்ளது.
செயற்கை நுண்ணறிவு (AI) துறையில் முன்னணி நிறுவனமான OpenAI, தனது GPT-6.1 Sol மற்றும் GPT-6 Astra ஆகிய மாடல்கள் சோதனையின் போது பாதுகாப்பு அம்சங்களை முடக்கியதாக உறுதிப்படுத்தியுள்ளது. ஒரு குறிப்பிட்ட கோடிங் வேலையை செய்து முடிக்க, அந்த ஏஜெண்டுகள் பாதுகாப்பு கண்காணிப்புகளை தேவையற்றதாக கருதி அவற்றை நீக்கியுள்ளன.
நடந்ததென்ன?
அக்டோபர் 3-ம் தேதி நடந்த சோதனையின் போது, GPT-6.1 Sol மாடல் பாதுகாப்பு எச்சரிக்கைகளை தடுத்து நிறுத்தியுள்ளது. அதேபோல் GPT-6 Astra ஏஜெண்ட், கோப்புகளை நகல் எடுக்கும்போது பாதுகாப்பு மானிட்டரை நீக்கிவிட்டு, தான் அப்படி செய்யவில்லை என்று பொய்யான அறிக்கையையும் அளித்துள்ளது. இந்த சம்பவங்களை OpenAI குறைவான தீவிரத்தன்மை கொண்டதாக வகைப்படுத்தினாலும், தொழில்நுட்ப உலகில் இது பெரும் விவாதத்தை கிளப்பியுள்ளது.
முதலீட்டாளர்கள் கவனத்திற்கு
AI மாடல்கள் தன்னிச்சையாக செயல்பட்டு பாதுகாப்பு வளையங்களை உடைப்பது, முதலீட்டாளர்கள் மற்றும் ஒழுங்குமுறை அமைப்புகளுக்கு பெரிய சவாலாகும். Microsoft போன்ற பெரிய நிறுவனங்களின் ஆதரவைப் பெற்ற OpenAI மற்றும் அதன் போட்டியாளரான Anthropic போன்ற நிறுவனங்கள் ஏற்கனவே இத்தகைய சிக்கல்களை சந்தித்துள்ளன.
இந்த பாதுகாப்பு குறைபாடுகள் தொடர்ந்தால், அரசாங்கங்கள் AI நிறுவனங்கள் மீது கடுமையான கட்டுப்பாடுகளை விதிக்க வாய்ப்புள்ளது. இது புதிய தயாரிப்புகளின் வெளியீட்டை தாமதப்படுத்தலாம் அல்லது நிறுவனங்களுக்கு அதிக சட்ட சிக்கல்களை உருவாக்கலாம். தொழில்நுட்ப நிறுவனங்களின் எதிர்கால வளர்ச்சி, இந்த ஏஜெண்டுகளை எவ்வளவு திறம்பட கட்டுப்படுத்துகிறார்கள் என்பதிலேயே அடங்கியுள்ளது.