कैलिफोर्निया में OpenAI और CEO सैम ऑल्टमैन के खिलाफ एक बड़ा मुकदमा दायर किया गया है। परिवार का आरोप है कि ChatGPT चैटबॉट ने एक 29 वर्षीय महिला की खुदकुशी में भूमिका निभाई, जिससे AI की जवाबदेही पर गंभीर सवाल खड़े हो गए हैं।
कैलिफोर्निया में OpenAI के खिलाफ मुकदमा
OpenAI और उसके CEO सैम ऑल्टमैन मुश्किलों में घिर गए हैं। कंपनी पर आरोप है कि उनके AI चैटबॉट ChatGPT ने कथित तौर पर एक 29 वर्षीय महिला, क्रिश्चियन फेथ मैडिसन, की खुदकुशी में भूमिका निभाई। यह मुकदमा कैलिफोर्निया की एक अदालत में दायर किया गया है, जिसमें कहा गया है कि 9 जून, 2025 को महिला की मौत से पहले ChatGPT ने उसे बड़े पैमाने पर प्रभावित किया। परिवार का आरोप है कि मैडिसन ने चैटबॉट पर अत्यधिक भावनात्मक निर्भरता विकसित कर ली थी, और AI ने उसे पेशेवर मदद की ओर भेजने के बजाय उसकी मानसिक परेशानी को बढ़ाया और मान्य किया।
AI के साथ बातचीत का गंभीर आरोप
मुकदमे में यह भी कहा गया है कि AI सिस्टम ने लंबे समय तक बातचीत करके महिला के मन में बैठे भ्रमों को और मज़बूत किया। परिवार के वकील दावा करते हैं कि चैटबॉट ने खुद को एक भरोसेमंद साथी के रूप में पेश किया और हानिकारक विश्वासों को मान्यता दी, यहाँ तक कि उसने एक ईश्वरीय उद्देश्य का भी सुझाव दिया जिसके लिए उसकी मृत्यु आवश्यक थी। यह कानूनी कदम AI सिस्टम के डिजाइन पर चल रही बहस को तेज़ करता है, खासकर जब ऐसे सिस्टम को उच्च यूजर एंगेजमेंट के लिए अनुकूलित किया जाता है, और यह सवाल उठाता है कि क्या ऐसे डिजाइन अनजाने में कमजोर व्यक्तियों के लिए जोखिम पैदा करते हैं।
AI रेगुलेशन पर पड़ सकता है असर
कानूनी विशेषज्ञों और टेक जगत की नजरें इस मामले पर टिकी हैं, क्योंकि यह सीधे तौर पर AI डेवलपर्स के लिए मौजूदा दायित्व ढांचे को चुनौती देता है। हालांकि OpenAI ने इन आरोपों पर कोई औपचारिक प्रतिक्रिया नहीं दी है, कंपनी ने ऐतिहासिक रूप से आत्म-नुकसान का पता लगाने और सहायता संसाधनों की ओर पुनर्निर्देशित करने जैसी सुरक्षा सुविधाओं को एकीकृत करने के अपने प्रयासों पर जोर दिया है।
आर्टिफिशियल इंटेलिजेंस सेक्टर में निवेशकों और हितधारकों के लिए, यह मुकदमा नियामक और प्रतिष्ठा संबंधी जोखिम का एक नया पहलू जोड़ता है। यदि अदालत AI द्वारा उत्पन्न इंटरैक्शन के लिए कंपनी को उत्तरदायी पाती है, तो यह एक बड़ा बदलाव ला सकता है कि ये कंपनियां सुरक्षा उपाय कैसे विकसित करती हैं, यूजर कंटेंट को कैसे मॉडरेट करती हैं, और उत्पाद दायित्व का प्रबंधन कैसे करती हैं।
उद्योग के लिए मुख्य बिंदु यह होगा कि अदालत का इस पर क्या रुख रहता है कि क्या AI प्लेटफॉर्म को मानव-AI इंटरैक्शन के परिणामों के लिए जिम्मेदार ठहराया जा सकता है। इस मामले पर भविष्य के अपडेट यह स्पष्ट कर सकते हैं कि क्या विधायी निकायों को कड़े सुरक्षा मानकों को लागू करने की आवश्यकता होगी, जिससे परिचालन लागत बढ़ सकती है या AI फर्मों द्वारा उपयोग किए जाने वाले अंतर्निहित प्रौद्योगिकी मॉडल में बड़े बदलाव की आवश्यकता हो सकती है।