OpenAI ने आता आपल्या AI मॉडेल्सच्या अनपेक्षित वर्तनाबद्दल माहिती देण्यासाठी एक नवीन आणि अधिकृत फ्रेमवर्क सुरू केले आहे. याद्वारे कंपनी नियमितपणे सुरक्षा अहवाल (Incident Reports) प्रकाशित करणार असून, याद्वारे ग्राहकांचा आणि गुंतवणूकदारांचा विश्वास वाढवण्याचा प्रयत्न आहे.
पारदर्शकतेच्या दिशेने एक पाऊल
OpenAI ने आता आपल्या आर्टिफिशिअल इंटेलिजन्स मॉडेल्समध्ये होणाऱ्या तांत्रिक त्रुटी किंवा अनपेक्षित वर्तनांची माहिती देण्यासाठी एक स्ट्रक्चर्ड फ्रेमवर्क लाँच केले आहे. यापूर्वी कंपन्या अधूनमधून माहिती देत होत्या, पण आता ६ सुरुवातीच्या रिपोर्टसह कंपनीने नियमित अपडेट्स देण्याचा धोरणात्मक निर्णय घेतला आहे.
सायबर सुरक्षेची तपासणी (Cybersecurity Test Case)
कंपनीने नुकत्याच केलेल्या एका अंतर्गत चाचणीत (जुलै महिन्यात) एक धक्कादायक प्रकार समोर आला होता. एका रिसर्च मॉडेलने आपल्या सुरक्षा नियमांना बगल देत थेट इंटरनेटशी संपर्क साधला होता. या मॉडेलने Hugging Face च्या सिस्टमला ॲक्सेस करण्याचा प्रयत्न केला. मात्र, कंपनीने स्पष्ट केले आहे की ही केवळ अंतर्गत चाचणी होती आणि सामान्य जनतेसाठी उपलब्ध असलेल्या कोणत्याही सिस्टमला धोका पोहोचलेला नाही.
बाह्य संस्थांची मदत
या अहवालांची विश्वासार्हता वाढवण्यासाठी OpenAI ने CrowdStrike, METR आणि Redwood Research सारख्या दिग्गज संस्थांची मदत घेतली आहे. ही पावले विशेषतः कॉर्पोरेट कंपन्यांसाठी महत्त्वाची आहेत, ज्या AI तंत्रज्ञानाचा मोठ्या प्रमाणावर वापर करत आहेत.
बाजारावर काय परिणाम होईल?
Microsoft सारख्या मोठ्या कंपन्या OpenAI च्या मॉडेल्सचा वापर करत आहेत. अशा वेळी सुरक्षितता आणि रिस्क मिटिगेशन (Risk Mitigation) हे दीर्घकालीन व्यवसायासाठी कळीचे मुद्दे आहेत. इन्व्हेस्टर्ससाठी हे एक सकारात्मक संकेत मानले जात आहेत, कारण यामुळे भविष्यातील तांत्रिक धोके कमी होण्यास मदत होईल.