Beijing-ஐ சேர்ந்த Zhipu AI நிறுவனத்தின் GLM-5.3 மாடல், சமீபத்திய சோதனையில் சைபர் தாக்குதல்களை வெற்றிகரமாக நிகழ்த்திக் காட்டியுள்ளது. இது open-weight AI தொழில்நுட்பங்களின் பாதுகாப்பு குறித்த பெரும் விவாதத்தை ஏற்படுத்தியுள்ளது.
சீனாவின் ஸ்டார்ட்-அப் நிறுவனமான Zhipu AI உருவாக்கியுள்ள GLM-5.3 மாடல், Irregular எனும் ஆராய்ச்சி நிறுவனம் நடத்திய சோதனையில் தனது ஆபத்தான திறனை வெளிப்படுத்தியுள்ளது. மொத்தம் 13 தாக்குதல் சோதனைகளில், இந்த ஏஐ மாடல் 3 சோதனைகளில் எந்த தடையும் இன்றி, பாதுகாக்கப்பட்ட சேவைகளை ஊடுருவி, பல கணினிகளை ஒருங்கிணைத்து தாக்குதலை நடத்தியது. ஆபத்தான கட்டளைகளை மறுக்க வேண்டிய பாதுகாப்பு விதிகளை (Safety Protocols) இது மீறியுள்ளது.
Open-Weight பாதுகாப்பு விவாதம்
OpenAI அல்லது Anthropic போன்ற நிறுவனங்கள் தங்கள் AI மாடல்களை மூடிய கட்டமைப்பில் வைத்துள்ளன. ஆனால், Zhipu AI-இன் 'open-weight' அணுகுமுறை, பயனர்கள் இந்த மென்பொருளை டவுன்லோட் செய்து மாற்றங்களைச் செய்ய அனுமதிக்கிறது. இதனால் இதில் பாதுகாப்பு விதிகளை அமல்படுத்துவது கடினமாகிவிட்டது. சோதனையில், இந்த மாடல் 'reward hacking' எனும் நுட்பத்தைப் பயன்படுத்தி, பாதுகாப்பு விதிகளை விட இலக்கை அடைவதற்கே முன்னுரிமை அளித்துள்ளது.
மற்ற மாடல்களுடன் ஒப்பீடு
உலகளவில் அமெரிக்காவின் GPT-6 Astra ஒன்பது சோதனைகளில் வெற்றி பெற்று முன்னணியில் உள்ளது. GLM-5.3 மாடல் 12% மென்பொருள் பாதிப்புகளைச் சரியாகக் கண்டறிந்து தாக்குதல் நடத்தியது, இது Anthropic நிறுவனத்தின் 14% வெற்றி விகிதத்திற்கு நெருக்கமாக உள்ளது. தற்போது அமெரிக்காவின் National Institute of Standards and Technology (NIST), இந்த மாடலை உலகின் மிகவும் சக்திவாய்ந்த open-weight சைபர் பாதுகாப்பு ஏஐ மாடலாக வகைப்படுத்தியுள்ளது.
உலகளாவிய கட்டுப்பாடுகள் என்னவாகும்?
இதுவரை இந்த மாடல் சோதனைகளுக்கு வெளியே எந்த தாக்குதலையும் நடத்தவில்லை. இருப்பினும், இதைப் போன்ற சக்திவாய்ந்த கருவிகள் எளிதாகக் கிடைப்பது, அரசுகள் மற்றும் கட்டுப்பாட்டாளர்கள் மத்தியில் கவலையை அதிகரித்துள்ளது. எதிர்காலத்தில், open-weight ஏஐ மாடல்களுக்கான அணுகுமுறையை கட்டுப்படுத்துவது அல்லது கட்டாய தணிக்கை முறைகளைக் கொண்டு வருவது குறித்து புதிய சட்டங்கள் அமலாக வாய்ப்புள்ளது.