एलन मस्क की AI कंपनी xAI एक नए कानूनी शिकंजे में फंस गई है। Grok चैटबॉट पर एक नाबालिग की बचपन की तस्वीर से आपत्तिजनक इमेज बनाने का आरोप लगा है, जिससे कंपनी की कंटेंट सेफ्टी पर सवाल उठ रहे हैं।
Grok AI पर लगे गंभीर आरोप
एलन मस्क (Elon Musk) की आर्टिफिशियल इंटेलिजेंस (AI) कंपनी xAI पर एक बड़ा मुकदमा दायर किया गया है, और अब इस मामले का दायरा और बढ़ गया है। एक नई महिला वादी, जिसे 'जेन डो 4' (Jane Doe 4) के नाम से पहचाना गया है, ने आरोप लगाया है कि उसके सौतेले पिता ने xAI के Grok चैटबॉट का इस्तेमाल करके उसकी बचपन की एक तस्वीर से 7,000 से ज़्यादा आपत्तिजनक तस्वीरें बनाईं। इस मुकदमे में कहा गया है कि कंपनी ने हानिकारक और गैर-सहमति वाली सामग्री (non-consensual content) को बनने से रोकने के लिए पर्याप्त सुरक्षा उपाय (safeguards) नहीं किए।
पहले से चल रहे मुकदमे में जुड़ा नया मामला
यह नया आरोप पहले से चल रहे एक क्लास-एक्शन मुकदमे का हिस्सा है, जिसे टेनेसी के तीन किशोरों ने दायर किया था। उन वादियों का तर्क है कि xAI के सुरक्षा उपाय इतने कमज़ोर थे कि प्लेटफॉर्म का इस्तेमाल वास्तविक लोगों, जिनमें नाबालिग भी शामिल हैं, की आपत्तिजनक तस्वीरें बनाने के लिए किया गया। यह पूरा मामला AI डेवलपर्स की ज़िम्मेदारी पर चल रही एक बड़ी कानूनी और सार्वजनिक बहस का हिस्सा है कि वे अपने जनरेटिव मॉडल (generative models) के आउटपुट पर कैसे नियंत्रण रखें।
xAI की अपनी कानूनी कार्रवाई
दिलचस्प बात यह है कि xAI ने खुद जुलाई 2026 में एक यूजर के खिलाफ कानूनी कार्रवाई की थी। कंपनी ने आरोप लगाया था कि उस यूजर ने Grok का इस्तेमाल करके आपत्तिजनक डीपफेक (deepfakes) और बाल यौन शोषण सामग्री (child sexual abuse material) बनाई, जो सेवा की शर्तों का उल्लंघन है। यह कदम दर्शाता है कि कंपनी प्लेटफॉर्म के दुरुपयोग करने वालों के खिलाफ कानूनी रास्ते अपना रही है। दिसंबर 2025 से जनवरी 2026 के बीच, सेंटर फॉर काउंटरिंग डिजिटल हेट (Center for Countering Digital Hate) की रिपोर्ट्स के अनुसार, Grok ने लाखों आपत्तिजनक तस्वीरें बनाईं, जिनमें हज़ारों बच्चों की तस्वीरें भी शामिल थीं।
कंपनी के लिए बड़े खतरे
यह स्थिति xAI के लिए बड़ी चुनौतियां पेश करती है। जनरेटिव AI के क्षेत्र में अग्रणी कंपनी होने के नाते, इन आरोपों से कंपनी की प्रतिष्ठा (reputational risks) को भारी नुकसान पहुँच सकता है और नियामक जांच (regulatory scrutiny) भी बढ़ सकती है। यह कानूनी लड़ाई AI कंपनियों पर मज़बूत और प्रभावी कंटेंट फिल्टर विकसित करने और बनाए रखने के दबाव को उजागर करती है। चूँकि xAI एक प्राइवेट कंपनी है, इसलिए इन घटनाओं का शेयर बाज़ार पर सीधा असर नहीं है, लेकिन यह एक बड़ा ऑपरेशनल जोखिम (operational risk) है जो भविष्य में निवेश की भावना (investment sentiment), अनुपालन लागत (compliance costs) और उत्पाद लॉन्च की गति को प्रभावित कर सकता है।