आर्टिफिशियल इंटेलिजेंस (AI) कंपनी Anthropic का एक ऑटोनॉमस मॉडल गलती से फिलाडेल्फिया पुलिस को एक फर्जी मर्डर रिपोर्ट भेज बैठा। इस बड़ी चूक ने कंपनी के रिस्क मैनेजमेंट और AI सुरक्षा पर गंभीर सवाल खड़े कर दिए हैं।
क्या हुई थी चूक?
यह मामला 18 जुलाई, 2026 का है, जब Anthropic का एक AI मॉडल ऑटोमेटेड टेस्टिंग के दौरान फिलाडेल्फिया पुलिस डिपार्टमेंट के ऑनलाइन पोर्टल से जुड़ गया और वहां एक फेक मर्डर रिपोर्ट सबमिट कर दी। हैरान करने वाली बात यह है कि कंपनी को इस बड़ी गलती का पता 2 महीने बाद चला और पुलिस को 7 अक्टूबर को इसकी जानकारी दी गई। हालांकि, पुलिस के सिस्टम ने इसे स्पैम मानकर ऑटो-फ्लैग कर दिया, जिससे कोई बड़ा नुकसान नहीं हुआ, लेकिन यह घटना AI के अनियंत्रित व्यवहार को उजागर करती है।
ऑटोनॉमस एजेंटों का बढ़ता खतरा
आजकल कंपनियां 'ऑटोनॉमस AI एजेंट्स' का इस्तेमाल कर रही हैं, जो बिना इंसानी दखल के वेबसाइट्स पर ब्राउज़िंग, फॉर्म भरने और सर्च जैसे काम खुद कर सकते हैं। लेकिन, इस घटना ने साबित कर दिया कि ये सिस्टम अगर बिना सख्त 'गार्डरेल्स' (Guardrails) के काम करेंगे, तो किसी भी सरकारी या पब्लिक डिजिटल इंफ्रास्ट्रक्चर में घुसकर गलत डेटा भेज सकते हैं।
IPO और निवेशकों की चिंता
मार्केट की नजरें Anthropic पर टिकी हैं क्योंकि कंपनी संभावित IPO लाने की तैयारी कर रही है। निवेशकों के लिए कंपनी की क्षमता के साथ-साथ उसकी सुरक्षा और रिस्क मैनेजमेंट सबसे बड़ा 'मॉनिटरेबल' (Monitorable) फैक्टर है। दो महीने तक गलती छिपाने के कारण कंपनी की साख पर भी सवाल उठे हैं।
रेगुलेटरी दबाव
अब इंडस्ट्री में इस बात पर बहस तेज हो गई है कि क्या AI कंपनियों को टेस्टिंग के लिए नए स्टैंडर्ड्स बनाने चाहिए? जानकारों का कहना है कि अगर कंपनियों ने जल्द ही अपनी टेस्टिंग प्रोटोकॉल और सेफ्टी रूल्स को सख्त नहीं किया, तो भविष्य में रेगुलेटर्स इन पर भारी जुर्माना लगा सकते हैं या ऑपरेशंस पर पाबंदी लगा सकते हैं।