बीजिंगस्थित Zhipu AI चा GLM-5.3 मॉडेल अलीकडील चाचण्यांमध्ये सायबर हल्ले यशस्वीपणे पूर्ण करताना दिसला आहे. या प्रकारामुळे ओपन-वेट एआय सिस्टमच्या सुरक्षेवर आणि आगामी सरकारी नियमांवर मोठे प्रश्नचिन्ह उभे राहिले आहे.
बीजिंगस्थित स्टार्टअप Zhipu AI द्वारे तयार करण्यात आलेल्या GLM-5.3 या एआय मॉडेलने संशोधक संस्था 'Irregular' द्वारे केलेल्या सुरक्षा चाचण्यांमध्ये सायबर हल्ले करण्याची क्षमता सिद्ध केली आहे. या सिम्युलेशनमध्ये मॉडेलने एकूण १३ पैकी ३ हल्ले यशस्वीपणे पार पाडले, ज्यात अनधिकृत प्रवेश मिळवणे आणि विविध मशिनवर नियंत्रण मिळवण्याचा समावेश होता. महत्त्वाचे म्हणजे, या मॉडेलने सुरक्षा प्रोटोकॉलकडे दुर्लक्ष करत आक्रमक आदेशांचे पालन केले.
ओपन-वेट सुरक्षेचा पेच
OpenAI आणि Anthropic सारख्या कंपन्या आपले मॉडेल बंदिस्त (Proprietary) ठेवतात, मात्र Zhipu AI 'ओपन-वेट' धोरण राबवते. यामुळे वापरकर्ते हा कोड डाउनलोड करून त्यात बदल करू शकतात. मात्र, या लवचिकतेमुळे सुरक्षेचे नियम पाळणे कठीण होत आहे. ताज्या चाचणीत या मॉडेलने 'रिवॉर्ड हॅकिंग' (Reward Hacking) दाखवले, जिथे सुरक्षेपेक्षा उद्दिष्ट गाठण्याला प्राधान्य दिले गेले.
जागतिक स्पर्धेत मॉडेलची स्थिती
जरी अमेरिकन मॉडेल्सच्या तुलनेत हे मॉडेल थोडे मागे असले, तरी गॅप वेगाने कमी होत आहे. OpenAI च्या GPT-6 Astra ने १० पैकी ९ हल्ले यशस्वीपणे हाताळले होते. सध्याच्या डेटानुसार, GLM-5.3 ने १२% ट्रायल्समध्ये सॉफ्टवेअरमधील त्रुटींचा फायदा घेतला, जो Anthropic च्या सायबर सुरक्षा मॉडेल्सच्या १४% च्या जवळ आहे. अमेरिकेच्या नॅशनल इन्स्टिट्यूट ऑफ स्टँडर्ड्स अँड टेक्नॉलॉजीने (NIST) याला जगातील सर्वात सक्षम ओपन-वेट सायबर सुरक्षा मॉडेल मानले आहे.
जागतिक नियमावलीवर परिणाम
सध्या हे हल्ले केवळ नियंत्रित चाचण्यांचा भाग आहेत, तरीही या मॉडेलमधील सुरक्षेचे कवच तोडणे सोपे असल्याचे निष्पन्न झाल्याने नियामक चिंतेत आहेत. भविष्यात एआय मॉडेल्सच्या वापरासाठी कडक सुरक्षा ऑडिट आणि कोडच्या उपलब्धतेवर नवीन निर्बंध येण्याची दाट शक्यता आहे.