Anthropic நிறுவனத்தின் பழைய Claude AI மாடல்களில் (Opus 4.6, Haiku 4.5) பாதுகாப்பு குறைபாடுகள் கண்டறியப்பட்டுள்ளன. இதை பயன்படுத்தி, AI மூலம் தடைசெய்யப்பட்ட தகவல்களை உருவாக்க முடியும் என ஆராய்ச்சியாளர்கள் கண்டுபிடித்துள்ளனர். இது, IPO-வுக்கு தயாராகும் Anthropic நிறுவனத்திற்கு ஒரு பெரிய சவாலாக அமைந்துள்ளது.
பாதுகாப்பு குறைபாடு எப்படி கண்டுபிடிக்கப்பட்டது?
சமீபத்திய ஆய்வுகளில், Anthropic நிறுவனத்தின் பழைய Claude AI மாடல்களான Opus 4.6 மற்றும் Haiku 4.5 போன்றவற்றில் 'ஜெயில்பிரேக்' (Jailbreak) நுட்பங்கள் மூலம் பாதுகாப்பு தடுப்புகளை மீற முடியும் என தெரிய வந்துள்ளது. பல படிநிலைகள் கொண்ட உரையாடல் மூலம், AI-யை தவறான தகவல்களை உருவாக்கத் தூண்ட முடியும்.
முக்கியத்துவம் என்ன?
இந்த மாடல்கள் பழையதாக இருந்தாலும், Amazon Bedrock மற்றும் Azure Foundry போன்ற தளங்கள் மூலம் பல வணிகங்கள் மற்றும் டெவலப்பர்களுக்கு இன்றும் கிடைக்கின்றன. இவை தினசரி லட்சக்கணக்கான API கோரிக்கைகளை கையாளுகின்றன.
IPO-வுக்கு நெருக்கடியில் Anthropic?
Anthropic நிறுவனம் விரைவில் IPO (Initial Public Offering) வெளியிட திட்டமிட்டுள்ளது. இந்நிலையில், இந்த பாதுகாப்பு குறைபாடுகள் கண்டறியப்பட்டது, அந்நிறுவனத்தின் நம்பகத்தன்மைக்கு (Trustworthy AI) ஒரு பெரிய சவாலாக பார்க்கப்படுகிறது. EU AI Act போன்ற சட்டங்களுக்கு இணங்குவது, முதலீட்டாளர்களுக்கு முக்கியமாகிறது.
எதிர்கால நடவடிக்கை
புதிய மாடல்களில் இந்த குறைபாடுகளை சரிசெய்ய Anthropic முயற்சி செய்து வந்தாலும், AI-யின் இயல்பு காரணமாக இதுபோன்ற சிக்கல்களை முற்றிலுமாக தவிர்ப்பது கடினம் என அந்நிறுவனம் ஒப்புக்கொண்டுள்ளது. 'Constitutional AI' என்ற அணுகுமுறையை பயன்படுத்தி, பாதுகாப்பு கொள்கைகளுடன் AI-யை சீரமைக்க முயற்சி செய்கின்றனர். நிறுவனத்தின் பாதுகாப்பு புதுப்பிப்புகள் மற்றும் ஒழுங்குமுறை இணக்கம் ஆகியவை பங்குதாரர்களுக்கு முக்கிய கண்காணிப்பு அம்சங்களாக இருக்கும்.