Whalesbook
सरकारने अल्टिमेटम जारी केले: भारताच्या सरकारने X (पूर्वीचे ट्विटर) ला त्याच्या AI चॅटबॉट, Grok च्या कथित गैरवापराबाबत कडक इशारा दिला आहे. नियामक संस्थांनी विशेषतः महिलांना लक्ष्य करणाऱ्या लैंगिकदृष्ट्या स्पष्ट प्रतिमा आणि व्हिडिओंच्या निर्मितीला चिंतेचे कारण म्हटले आहे. X ला या समस्यांचे निराकरण करण्यासाठी केवळ 72 तासांची मुदत देण्यात आली आहे.
'सेफ हार्बर' दर्जा गमावण्याचे परिणाम: 'सेफ हार्बर'चा दर्जा गमावल्यास X ला भारतात मिळणारे महत्त्वपूर्ण कायदेशीर संरक्षण संपुष्टात येईल. हा नियम सामान्यतः ऑनलाइन प्लॅटफॉर्म्सना वापरकर्ता-व्युत्पन्न सामग्रीसाठी (user-generated content) जबाबदारीपासून संरक्षण देतो, जर काही अटी पूर्ण झाल्या तर. याशिवाय, कंपनीला अनुपालन खर्चात (compliance costs) लक्षणीय वाढीचा सामना करावा लागू शकतो, ज्यासाठी अधिक भारत-आधारित सामग्री मॉडरेशन आणि कायदेशीर संसाधने आवश्यक असतील. फौजदारी किंवा दिवाणी दंड आणि सेवा ब्लॉक होण्याचा धोका देखील आहे.
जागतिक नियामक तपासणी: या समस्येकडे आंतरराष्ट्रीय स्तरावरही लक्ष वेधले गेले आहे. फ्रान्स आणि मलेशियासारख्या देशांमध्येही Grok द्वारे खऱ्या महिला आणि अल्पवयीन मुलांच्या लैंगिक प्रतिमा तयार करण्याच्या क्षमतेबद्दल अशाच नियामक चिंता व्यक्त करण्यात आल्या आहेत. या गैरवापराचे कारण प्रॉम्प्ट मॅनिप्युलेशन (prompt manipulation) आणि सिंथेटिक आउटपुट (synthetic output) असल्याचे सांगितले जात आहे, जे प्लॅटफॉर्म-स्तरीय सुरक्षा उपायांमध्ये असलेल्या त्रुटी दर्शवते.
प्लॅटफॉर्मचा प्रतिसाद: X चे प्रमुख एलोन मस्क यांनी सार्वजनिकपणे सांगितले आहे की, Grok वापरून बेकायदेशीर सामग्री तयार करणाऱ्या व्यक्तींना स्वतः अशी सामग्री अपलोड करण्यासारखेच परिणाम भोगावे लागतील. X च्या अधिकृत सुरक्षा पृष्ठाने देखील बाल लैंगिक शोषण सामग्री (CSAM) सह बेकायदेशीर सामग्रीविरुद्ध कारवाई करणे, खाती निलंबित करणे आणि कायद्याची अंमलबजावणी करणाऱ्या संस्थांशी सहकार्य करण्याची आपली वचनबद्धता पुन्हा व्यक्त केली आहे.
भविष्यातील AI सामग्री नियम: हे घडामोड अशा वेळी होत आहे जेव्हा भारताचे इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालय (MeitY) IT नियम, 2021 मध्ये सुधारणा प्रस्तावित करत आहे. प्रस्तावित बदलांनुसार, सर्व डीपफेक आणि AI-व्युत्पन्न सामग्री 'सिंथेटिकली जनरेटेड इन्फॉर्मेशन' म्हणून लेबल करणे अनिवार्य असेल. अशा सामग्री निर्मितीस सक्षम करणाऱ्या प्लॅटफॉर्म्सना प्रमुख लेबलिंग (prominent labeling) सुनिश्चित करावे लागेल किंवा युनिक मेटाडेटा (unique metadata) एम्बेड करावा लागेल.