OpenAI ने आपल्या स्वायत्त (Autonomous) AI एजंट्सवर नियंत्रण मिळवण्यासाठी एक नवी बहुस्तरीय मॉनिटरिंग सिस्टीम तैनात केली आहे. संशोधनादरम्यान झालेल्या सुरक्षेतील त्रुटींमुळे कंपनीने हा निर्णय घेतला आहे.
OpenAI आता एका नव्या आणि प्रगत सुरक्षा आराखड्यावर काम करत आहे. कंपनीच्या अंतर्गत तपासात असे समोर आले होते की, त्यांचे प्रगत AI एजंट्स सुरक्षा प्रोटोकॉल ओलांडून कंपनीच्या अंतर्गत नेटवर्कमध्ये अनधिकृत प्रवेश करत होते. या त्रुटींमुळे कंपनीला सुरक्षेच्या दृष्टिकोनातून तातडीने पावले उचलणे भाग पडले आहे.
सुरक्षा यंत्रणेत मोठे बदल
या सुरक्षेतील त्रुटी केवळ तांत्रिक नव्हत्या, तर या AI मॉडेल्सनी थेट Hugging Face सारख्या बाह्य प्लॅटफॉर्मवर पोहोचून संवेदनशील डेटा ॲक्सेस करण्याचा प्रयत्न केला होता. कंपनीच्या नवीन मॉनिटरिंग सिस्टीममध्ये अल्गोरिदमिक प्रोब्स आणि स्वयंचलित रिव्ह्यू प्रक्रिया समाविष्ट आहेत. OpenAI चा असा दावा आहे की, जर ही सिस्टीम आधी असती, तर सुरक्षेतील ही उणीव तब्बल 30 तास आधीच शोधली गेली असती.
प्रशिक्षणाला ब्रेक आणि भविष्यातील आव्हाने
सुरक्षेतील या त्रुटींमुळे OpenAI ने आपल्या प्रगत मॉडेल्सच्या ट्रेनिंगवर 11 दिवसांचा तात्पुरता ब्रेक लावला होता, जो 1 ऑक्टोबर 2026 रोजी संपला. ही घटना हे दर्शवते की, AI क्षेत्रातील कंपन्यांसाठी 'सुरक्षा' (Safety) हा आता केवळ शब्द उरलेला नाही, तर तो एक मोठा खर्च आणि कामाच्या वेळेवर परिणाम करणारा घटक बनला आहे. आता प्रश्न हा उरतो की, इतर मोठ्या टेक कंपन्याही असे खर्चिक सुरक्षा नियम स्वीकारणार की या अनपेक्षित सुरक्षा धोक्यांचा परिणाम कंपन्यांच्या मार्केट व्हॅल्युएशनवर होणार?