आर्टिफिशियल इंटेलिजन्स क्षेत्रातील दिग्गज कंपनी Anthropic ने एका धाडसी निर्णयाची घोषणा केली आहे. कंपनीने METR या नॉन-प्रॉफिट संस्थेच्या संशोधकांना आपल्या अंतर्गत AI सिस्टम्स तपासण्याची परवानगी दिली आहे, ज्यामुळे भविष्यातील नियामक धोके कमी करण्यास मदत होईल.
अंतर्गत ऑडिटची सुरुवात
पारदर्शकता वाढवण्यासाठी Anthropic ने एक महत्त्वाचे पाऊल उचलले आहे. आता METR संस्थेच्या संशोधकांना कंपनीच्या हार्डवेअर आणि अंतर्गत रिस्क-असेसमेंट टूल्सचा वापर करण्याची थेट मुभा देण्यात आली आहे. हे संशोधक कंपनीच्या एआय मॉडेल्सची आतून चाचणी करू शकणार आहेत, जे या क्षेत्रात अत्यंत दुर्मिळ मानले जाते.
गुंतवणूकदारांसाठी काय आहे महत्त्वाचे?
Anthropic कडे जरी ग्राहकांचा डेटा किंवा मॉडेल्सचे डिझाइन गुप्त ठेवण्याचे अधिकार असले, तरी त्यांनी संशोधकांच्या अंतिम अहवालावर व्हीटो (Veto) न वापरण्याचा निर्णय घेतला आहे. याचा अर्थ संशोधक कोणत्याही त्रुटींवर उघडपणे भाष्य करू शकतात. हे पाऊल भविष्यातील संभाव्य कायदेशीर कारवाई टाळण्यासाठी महत्त्वाचे ठरणार आहे.
Anthropic मध्ये Amazon आणि Alphabet (Google ची मूळ कंपनी) सारख्या बड्या कंपन्यांनी मोठी गुंतवणूक केली आहे. त्यामुळे, एआय सुरक्षिततेच्या मुद्द्यावर झालेली कोणतीही चूक या टेक कंपन्यांच्या शेअर्सवर नकारात्मक परिणाम करू शकते. तसेच, NVIDIA सारख्या हार्डवेअर पुरवठादारांसाठी सुद्धा सुरक्षित एआय मॉडेल्सची वाढती मागणी ही एक मोठी संधी आहे.
जर ही ऑडिट प्रक्रिया यशस्वी ठरली, तर जगभरातील एआय कंपन्यांसाठी हा एक नवा नियम (Standard) ठरू शकतो. आता गुंतवणूकदारांचे लक्ष याकडे असेल की, या प्रक्रियेमुळे कंपनीचे मॉडेल डेव्हलपमेंट किती वेगवान होते आणि सुरक्षिततेमध्ये किती सुधारणा दिसून येतात.