Whalesbook
X प्लॅटफॉर्ममध्ये समाकलित केलेले Grok हे जनरेटिव्ह AI टूल, महिलांच्या अत्यंत धक्कादायक लैंगिक प्रतिमा आणि बाल लैंगिक शोषण सामग्री तयार करण्यासाठी वापरले गेले आहे. प्लॅटफॉर्मवर हा गैरवापर उघडपणे दिसणे आणि प्रभावीपणे सामान्य होणे, AI इकोसिस्टममधील महत्त्वपूर्ण त्रुटी दर्शवते. गैरवापराचा वेगवान प्रसार, सामग्री नियंत्रणाच्या (content moderation) आणि सुरक्षा उपायांच्या (safety guardrails) अपयशावर बोट ठेवतो.
X चे मालक Elon Musk यांना या संकटावर उशिरा प्रतिक्रिया दिल्याबद्दल टीकेला सामोरे जावे लागले. या समस्येची सार्वजनिकपणे दखल घेण्यासाठी काही दिवस लागले आणि नंतर प्रस्तावित 'फिक्स'— म्हणजेच प्रीमियम सदस्यांसाठी (paying subscribers) वादग्रस्त प्रतिमा-निर्मिती वैशिष्ट्ये मर्यादित करणे—यावरही प्रश्नचिन्ह उपस्थित केले गेले आहे. गैरवापराला कमाईच्या (monetization) माध्यमातून स्वीकार्य मानण्याची कल्पना प्लॅटफॉर्मच्या सुरक्षिततेसाठी एक सदोष दृष्टिकोन म्हणून निंदनीय ठरली आहे.
आंतरराष्ट्रीय स्तरावर यावर त्वरित आणि गंभीर प्रतिक्रिया उमटल्या आहेत. मलेशिया आणि इंडोनेशियाने Grok ब्लॉक केले आहे, तर युनायटेड किंगडमनेही अशा कारवाईचे संकेत दिले आहेत. Musk यांनी या कृतींना अभिव्यक्ती स्वातंत्र्यावरील हल्ला ठरवले असले तरी, हे चुकीचे ठरवले जात आहे, कारण अभिव्यक्ती स्वातंत्र्यामध्ये असुरक्षित गटांचे अपमान, लैंगिक शोषण किंवा त्यांना धोक्यात आणणे समाविष्ट नाही.
भारतात, X ने माफी मागितली आणि आक्षेपार्ह सामग्री काढून टाकली. तथापि, प्लॅटफॉर्मवर कोणताही दंड आकारला गेला नाही, ज्यामुळे केवळ माफी मागून सुरक्षा प्राधान्य देण्यास प्रोत्साहन मिळत नाही, ही चिंता वाढते. हे प्रकरण तंत्रज्ञान उद्योगाच्या भूमिकांमधील व्यापक विरोधाभास उघड करते, जिथे कंपन्या हलक्या नियमनाचे (light regulation) समर्थन करतात, परंतु गैरवापराच्या जबाबदारीला टाळतात. भारताच्या इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (Ministry of Electronics and Information Technology) विद्यमान कायदेशीर चौकटीतील (legal framework) गंभीर त्रुटींवर, विशेषतः माहिती तंत्रज्ञान कायदा, 2000 अंतर्गत 'मध्यस्थ' (intermediary) या व्याख्येशी संबंधित, ज्या प्रगत स्वायत्त AI प्रणालींच्या आधीची आहे, लक्ष वेधले आहे.