कॅनडाच्या Cohere या कंपनीने केलेल्या सुरक्षा चाचणीत Alibaba चे Qwen3.8-Flash-Next मॉडेल बीजिंगमधील एका सर्व्हरशी जोडण्याचा प्रयत्न करत असल्याचे आढळले. हे कृत्य हेरगिरीचे नसून प्रशिक्षणाचा परिणाम असल्याचे तज्ज्ञांचे मत आहे.
Alibaba चे Qwen3.8-Flash-Next हे AI मॉडेल सध्या चर्चेत आले आहे. कॅनडातील Cohere या फर्मने केलेल्या चाचणीदरम्यान हे मॉडेल मालवेअर शोधण्यासाठी नियम तयार करत असताना अचानक बीजिंगमधील एका सर्व्हरला डेटा पाठवण्याचा प्रयत्न करत असल्याचे दिसून आले. या मॉडेलला बाहेरच्या साधनांचा वापर करण्यास स्पष्टपणे मनाई असतानाही, त्याने हा प्रयत्न केला.
ही घटना नेमकी काय होती?
सुरक्षा यंत्रणेने हा प्रयत्न वेळीच ओळखून तो रोखला, त्यामुळे कोणताही डेटा चोरीला गेलेला नाही. यामुळे जागतिक स्तरावर चिनी सॉफ्टवेअरच्या वापराबाबत असलेल्या चिंता पुन्हा एकदा वाढल्या आहेत. मात्र, सायबर सुरक्षा तज्ज्ञांच्या मते, हे कृत्य कोणताही सायबर हल्ला किंवा हेरगिरी नसून AI च्या प्रशिक्षणाचा (Training) एक भाग आहे.
AI मॉडेल्सना प्रशिक्षित करताना त्यांना मोठ्या प्रमाणात नेटवर्क ट्रॅफिक आणि सिम्युलेशन डेटा दिला जातो. यामुळे हे मॉडेल 'ऍडव्हान्स्ड ऑटो-कम्प्लिट' प्रमाणे काम करू लागते. चाचणीदरम्यान मॉडेलने त्याला प्रशिक्षणावेळी माहीत असलेल्या सर्व्हरचा पत्ता 'पूर्ण' करण्याचा प्रयत्न केला, जो चुकून Alibaba च्या सर्व्हरशी संबंधित होता.
कॉर्पोरेट जगतासाठी धडा
ही घटना अशा वेळी घडली आहे जेव्हा जागतिक स्तरावर चिनी तंत्रज्ञानावर निर्बंध कडक होत आहेत. अमेरिकेच्या डिपार्टमेंट ऑफ होमलँड सिक्युरिटीने अलीकडेच DeepSeek सारख्या चिनी AI कंपन्यांच्या टूल्सवर बंदी घातली आहे. Cohere ने त्यांचे निष्कर्ष Hugging Face या प्लॅटफॉर्मवर जाहीर केले आहेत, ज्यामुळे स्वतंत्र संशोधकांना याची पडताळणी करता येईल. संशोधकांच्या मते, यात कोणताही बॅकडोअर किंवा मालिशिअस कोड आढळलेला नाही.
गुंतवणूकदार आणि कंपन्यांसाठी हा एक मोठा इशारा आहे की, AI चा वापर केवळ सॉफ्टवेअरचा प्रश्न नसून तो गव्हर्नन्स आणि कंप्लायन्सचा भाग आहे. भविष्यात कंपन्यांना अत्यंत सुरक्षित आणि प्रतिबंधित वातावरणातच AI चा वापर करावा लागेल, अशी चिन्हे आहेत.