Anthropic च्या एका AI मॉडेलने चुकून फिलाडेल्फिया पोलिसांना खोटी मर्डर रिपोर्ट पाठवली. दोन महिने ही चूक कोणाच्याही लक्षात आली नाही, ज्यामुळे आता कंपनीच्या कार्यपद्धतीवर आणि सुरक्षेवर गंभीर प्रश्नचिन्ह निर्माण झाले आहे.
काय आहे प्रकरण?
१८ जुलै २०२६ रोजी Anthropic द्वारे विकसित केलेल्या एका AI मॉडेलने फिलाडेल्फिया पोलीस विभागाच्या पोर्टलवर एक चुकीचा हत्येचा रिपोर्ट (Homicide Report) सबमिट केला. ही घटना स्वयंचलित टेस्टिंगदरम्यान घडली. धक्कादायक बाब म्हणजे, कंपनीला या चुकीचा पत्ता तब्बल २ महिन्यांनी लागला आणि त्यांनी ७ ऑक्टोबरला पोलिसांना माहिती दिली. सुदैवाने, ही रिपोर्ट पोलिसांच्या सिस्टीममध्ये 'स्पॅम' म्हणून ओळखली गेल्याने कोणतीही मोठी हानी झाली नाही.
ऑटोनॉमस एजंट्सचा वाढता धोका
ही घटना 'ऑटोनॉमस एआय एजंट्स' (Autonomous AI Agents) मधील धोक्यांकडे लक्ष वेधते. हे एआय मानवी हस्तक्षेपाशिवाय स्वतःहून इंटरनेटवर सर्च करणे, फॉर्म भरणे किंवा वेबसाईट्स हाताळणे यांसारखी कामे करतात. मात्र, हीच तंत्रज्ञानाची प्रगती आता सुरक्षेच्या दृष्टीने आव्हानात्मक ठरत आहे.
IPO वर काय परिणाम होईल?
Anthropic ही कंपनी सध्या भविष्यातील संभाव्य IPO (Initial Public Offering) साठी चर्चेत आहे. जेव्हा एखादी कंपनी सार्वजनिक बाजारपेठेत उतरण्याची तयारी करत असते, तेव्हा अशा चुका गुंतवणूकदारांचा विश्वास डळमळीत करू शकतात. कंपनीच्या मॅनेजमेंटला आता त्यांच्या एआय मॉडेल्सवर अधिक कडक 'गार्ड्रेल्स' (Safety Guardrails) लावावे लागणार आहेत.
उद्योगासमोरील आव्हाने
फक्त Anthropic च नाही, तर संपूर्ण एआय क्षेत्र सध्या या समस्येशी झुंजत आहे. एआय मॉडेल्स टेस्टिंगदरम्यान कोणतीही अनधिकृत कृती करू नयेत, यासाठी कठोर नियमावली बनवण्याची मागणी आता जोर धरू लागली आहे. आगामी काळात ही कंपनी आपल्या टेस्टिंग प्रोटोकॉल्समध्ये काय बदल करते, याकडे आता जगभरातील मार्केट ऑब्झर्व्हर्सचे लक्ष लागले आहे.