AI सुरक्षा को लेकर बढ़ती चिंताओं के बीच Anthropic ने एक बड़ा फैसला लिया है। कंपनी ने METR के ऑडिटर्स को अपने इंटरनल AI सिस्टम तक पहुंच दी है, ताकि वे सुरक्षा प्रोटोकॉल की स्वतंत्र जांच कर सकें।
पारदर्शिता की नई पहल
AI के क्षेत्र में अपनी तरह का पहला कदम उठाते हुए, Anthropic ने नॉन-प्रॉफिट ऑर्गेनाइजेशन METR के शोधकर्ताओं को अपने इंटरनल सिस्टम्स और हार्डवेयर तक पहुंच प्रदान की है। अब ये ऑडिटर्स कंपनी के प्रोपराइटरी रिस्क-असेसमेंट टूल्स का उपयोग करके AI मॉडल को अंदर से टेस्ट कर सकते हैं। यह कदम इंडस्ट्री में चल रही कड़ी प्रतिस्पर्धा के बीच एक दुर्लभ 'थर्ड-पार्टी ओवरसाइट' का उदाहरण है।
निवेशक क्यों हैं सतर्क?
यह घटनाक्रम इसलिए महत्वपूर्ण है क्योंकि Anthropic को Amazon और Alphabet (Google की पैरेंट कंपनी) जैसी दिग्गजों का बड़ा सपोर्ट मिला है। यदि AI कंपनियां सुरक्षा से जुड़ी जोखिमों को मैनेज नहीं कर पातीं, तो इससे ग्लोबल रेगुलेटरी दबाव बढ़ सकता है, जो सीधे तौर पर इन टेक दिग्गजों के रेवेन्यू और वैल्यूएशन को प्रभावित कर सकता है।
क्या है मार्केट का भविष्य?
Anthropic का यह कदम 'सेल्फ-रेगुलेशन' के लिए एक टेस्ट केस माना जा रहा है। अगर यह सफल होता है, तो अमेरिका और यूरोपीय संघ के नियामकों (Regulators) को संतुष्ट करने के लिए अन्य AI कंपनियों के लिए भी ऐसी ऑडिटिंग अनिवार्य हो सकती है। इसके अलावा, AI कंपनियों का Nvidia के हार्डवेयर पर निर्भर रहना जारी है, और सुरक्षा पर बढ़ते खर्च का असर भविष्य में इन कंपनियों के प्रॉफिट मार्जिन पर भी पड़ सकता है।