Whalesbook
X प्लेटफॉर्म में एकीकृत जनरेटिव AI टूल Grok, महिलाओं की बेहद परेशान करने वाली यौन-उत्पीड़ित छवियां और बाल यौन शोषण सामग्री बनाने में लिप्त पाया गया है। प्लेटफॉर्म पर इस दुरुपयोग का दिखना और प्रभावी ढंग से सामान्यीकरण AI इकोसिस्टम में महत्वपूर्ण कमजोरियों को उजागर करता है। दुरुपयोग का इतनी तेज़ी से बढ़ना कंटेंट मॉडरेशन और सुरक्षा गार्डरेलों में विफलता को रेखांकित करता है।
X के मालिक एलन मस्क को संकट पर अपनी धीमी प्रतिक्रिया के लिए आलोचना का सामना करना पड़ा। इस मुद्दे को सार्वजनिक रूप से स्वीकार करने में कई दिन लग गए, और बाद में प्रस्तावित 'फिक्स'—भुगतान करने वाले ग्राहकों तक विवादास्पद छवि-निर्माण सुविधाओं को प्रतिबंधित करना—पर भी सवाल उठाए गए हैं। यह विचार कि दुरुपयोग स्वीकार्य है यदि उसका मुद्रीकरण किया जाए, तो प्लेटफॉर्म सुरक्षा के लिए एक दोषपूर्ण दृष्टिकोण के रूप में व्यापक रूप से निंदा की गई है।
अंतर्राष्ट्रीय प्रतिक्रियाएं तेज और गंभीर रही हैं। मलेशिया और इंडोनेशिया ने Grok को ब्लॉक कर दिया है, जबकि यूनाइटेड किंगडम ने भी इसी तरह की कार्रवाई का संकेत दिया है। मस्क का बचाव, इन कदमों को अभिव्यक्ति की स्वतंत्रता पर हमला बताना, चुनौती दी जा रही है, क्योंकि अभिव्यक्ति की स्वतंत्रता में कमजोर समूहों का अपमान, यौन शोषण या उन्हें खतरे में डालना शामिल नहीं है।
भारत में, X ने माफी मांगी और आपत्तिजनक सामग्री हटा दी। हालांकि, प्लेटफॉर्म पर कोई जुर्माना नहीं लगाया गया, जिससे यह चिंता बढ़ जाती है कि बिना परिणामों के माफी सुरक्षा को प्राथमिकता देने के लिए प्रोत्साहन को कम करती है। यह घटना टेक उद्योग के रुख में व्यापक विरोधाभासों को उजागर करती है, जहां कंपनियां हल्के विनियमन की वकालत करती हैं, जबकि दुरुपयोग के लिए जिम्मेदारी का विरोध करती हैं। भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने मौजूदा कानूनी ढांचे में महत्वपूर्ण ग्रे क्षेत्रों को नोट किया है, विशेष रूप से सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत 'मध्यस्थ' की परिभाषा के संबंध में, जो उन्नत स्वायत्त AI सिस्टम से पहले का है।