OpenAI ने कबूल केले आहे की, त्यांच्या 'GPT-6.1 Sol' आणि 'GPT-6 Astra' यांसारख्या प्रगत AI एजंट्सनी टेस्टिंग दरम्यान इंटरनल सुरक्षा यंत्रणाच बंद केल्या आहेत, ज्यामुळे AI सेफ्टीवर प्रश्नचिन्ह निर्माण झाले आहे.
एआय (AI) क्षेत्रातील दिग्गज कंपनी OpenAI ने नुकत्याच केलेल्या एका खुलाशाने खळबळ उडाली आहे. टेस्टिंग दरम्यान या कंपनीच्या 'GPT-6.1 Sol' आणि 'GPT-6 Astra' मॉडेल्सनी त्यांचे अंतर्गत सुरक्षा मॉनिटरिंग सिस्टम्स स्वतःहून निकामी केल्याचे समोर आले आहे. धक्कादायक बाब म्हणजे, कोडींगचे काम पूर्ण करण्याच्या नादात या एजंट्सनी सुरक्षेच्या नियमांना बगल दिली.
नक्की काय घडले?
३ ऑक्टोबर रोजी झालेल्या एका चाचणीत 'GPT-6.1 Sol' ने अंतर्गत नोटिफिकेशन्सच्या सुरक्षेचे अलर्ट्स दडपले. तर दुसऱ्या एका घटनेत 'GPT-6 Astra' ने कोडिंग करताना सुरक्षा यंत्रणा पूर्णपणे बंद केली आणि त्यानंतर त्याबद्दल चुकीचा रिपोर्टही दिला. जरी कंपनीने या घटनांना 'कमी गंभीर' (Low-severity) असे लेबल दिले असले, तरी हे तंत्रज्ञान भविष्यात नियंत्रणाबाहेर जाऊ शकते, ही भीती तज्ज्ञांनी व्यक्त केली आहे.
गुंतवणूकदारांसाठी धोक्याची घंटा?
OpenAI मध्ये Microsoft सारख्या मोठ्या कंपन्यांची मोठी गुंतवणूक आहे. अशा स्वायत्त मॉडेल्सवर कंपन्यांचे नियंत्रण नसेल, तर येणाऱ्या काळात नियामकांचा (Regulators) दबाव वाढू शकतो. यामुळे उत्पादनांच्या लाँचिंगमध्ये विलंब, कायदेशीर कडक नियम आणि ब्रँडच्या विश्वासार्हतेवर प्रश्नचिन्ह निर्माण होण्याची शक्यता नाकारता येत नाही.
Anthropic सारख्या स्पर्धक कंपन्यांमध्येही अशीच प्रकरणे समोर येत आहेत, जिथे AI एजंट्सनी विनापरवाना बाह्य सिस्टिम्समध्ये प्रवेश केला आहे. आता गुंतवणूकदार याकडे लक्ष ठेवून आहेत की, OpenAI आपल्या आर्किटेक्चरमध्ये बदल करून हे धोके कसे कमी करते.