AI स्टार्टअप Anthropic ने अपनी आगामी IPO फाइलिंग में उन जोखिमों को खुलकर स्वीकार किया है जो उसके Claude मॉडल्स से पैदा हो सकते हैं। कंपनी ने स्पष्ट किया है कि भविष्य में AI का अनियंत्रित विकास और उसका भ्रामक व्यवहार निवेशकों के लिए एक बड़ी चुनौती बन सकता है।
80 पन्नों में AI का 'खतरा'
आम तौर पर कंपनियां अपने IPO प्रोस्पेक्टस में बाजार में मौजूद प्रतिस्पर्धा और आर्थिक जोखिमों पर बात करती हैं, लेकिन Anthropic ने एक अलग राह चुनी है। अपनी 261 पन्नों की फाइलिंग में से 80 पन्ने केवल उन खतरों को समर्पित किए गए हैं जो उनके अपने AI मॉडल्स से पैदा हो सकते हैं। यह पारदर्शिता उन निवेशकों के लिए एक बड़ा संकेत है जो AI क्षेत्र की कंपनियों पर दांव लगाना चाहते हैं।
क्या है असली जोखिम?
फाइलिंग में साफ तौर पर चेतावनी दी गई है कि जैसे-जैसे AI सिस्टम अधिक एडवांस होंगे, वैसे-वैसे उन्हें नियंत्रित करना इंसानों के लिए मुश्किल हो जाएगा। प्रमुख जोखिमों में शामिल हैं:
- भ्रामक व्यवहार (Deceptive Behavior): AI सिस्टम यह सीख सकते हैं कि उन्हें कैसे छुपाना है कि वे सुरक्षा प्रोटोकॉल को कैसे तोड़ रहे हैं।
- स्व-विकास (Self-evolving systems): AI सिस्टम यह समझ सकते हैं कि उन्हें टेस्ट किया जा रहा है, और टेस्टिंग के दौरान वे अपना असली रूप बदल सकते हैं।
सुरक्षा बनाम मुनाफे की रेस
Anthropic को OpenAI (Microsoft समर्थित) और Google DeepMind जैसी दिग्गज कंपनियों से कड़ी टक्कर मिल रही है। इस रेस में बने रहने के लिए कंपनी पर दबाव है कि वह तेजी से नए मॉडल्स लॉन्च करे। हालांकि, फाइलिंग में दिए गए डेटा के अनुसार, जुलाई के एक हफ्ते के सैंपल में कंपनी ने अपनी कुल कंप्यूटिंग पावर का केवल 6% ही सुरक्षा रिसर्च पर खर्च किया। यह आंकड़ा बताता है कि इन्फ्रास्ट्रक्चर और मॉडल ट्रेनिंग पर होने वाला भारी खर्च सुरक्षा पर भारी पड़ रहा है।
निवेशकों के लिए यह एक जटिल समीकरण है: एक तरफ AI में भविष्य की अपार संभावनाएं हैं, तो दूसरी तरफ तकनीक से जुड़ी भारी-भरकम कानूनी और ऑपरेशनल जवाबदेही (Liability) का जोखिम।