Anthropic और OpenAI के पूर्व रिसर्चर Jacob Coxon ने न्यूयॉर्क सिटी काउंसिल को चेतावनी दी है कि तेजी से बढ़ता AI ऑटोमेशन मानव नियंत्रण से बाहर हो सकता है। यह चेतावनी Anthropic के IPO फाइलिंग में दर्ज जोखिमों के साथ मेल खाती है, जिससे टेक सेक्टर पर दबाव बढ़ गया है।
AI के क्षेत्र में हो रही बेतहाशा प्रगति पर अब गंभीर सवाल खड़े होने लगे हैं। Anthropic और OpenAI में काम कर चुके रिसर्चर Jacob Coxon ने 5 अक्टूबर, 2026 को न्यूयॉर्क सिटी काउंसिल के सामने गवाही देते हुए कहा कि वर्तमान में AI डेवलपमेंट की गति इंसानी सुरक्षा के लिए खतरा बन सकती है। उनका मानना है कि कंपनियां सुरक्षा की तुलना में 'तेजी' को प्राथमिकता दे रही हैं, जिससे ऐसे सिस्टम बन सकते हैं जिन्हें इंसान मॉनिटर करने में भी सक्षम नहीं होगा।
IPO और निवेशकों के लिए बढ़ता जोखिम
इस बयान ने उन निवेशकों की चिंता बढ़ा दी है जो AI कंपनियों में पैसा लगाने का सोच रहे हैं। Anthropic ने अपनी कॉन्फिडेंशियल IPO फाइलिंग में खुद माना है कि उनके एडवांस्ड मॉडल 'कैटास्ट्रोफिक' (विनाशकारी) जोखिम पैदा कर सकते हैं। कंपनी ने स्पष्ट कहा है कि भविष्य में AI सिस्टम 'सेल्फ-प्रिजर्विंग' हो सकते हैं, यानी वे खुद को बंद करने से रोक सकते हैं। निवेशकों के लिए यह एक बड़ी चुनौती है क्योंकि कंपनी की वैल्यूएशन जिस तकनीक पर टिकी है, वही तकनीक उनकी सबसे बड़ी देनदारी भी बनती जा रही है।
क्या बढ़ेगी रेगुलेटरी सख्ती?
अब सरकारें केवल एथिकल बहस तक सीमित नहीं हैं। न्यूयॉर्क सिटी काउंसिल में पारदर्शिता, थर्ड-पार्टी ऑडिट और 'किल स्विच' जैसे तकनीकी सुरक्षा उपायों पर चर्चा हो रही है। यदि ये नियम लागू होते हैं, तो AI कंपनियों के लिए अनुपालन लागत (Compliance Cost) बढ़ सकती है। Google, Meta और OpenAI जैसी दिग्गज कंपनियां भी इस बदलती राजनीतिक स्थिति पर नजर रख रही हैं। निवेशकों के लिए अब यह देखना जरूरी है कि क्या ये कंपनियां इनोवेशन की रफ्तार बनाए रखते हुए सुरक्षा मानकों को पूरा कर पाएंगी या नहीं।