Whalesbook
सरकार ने जारी किया अल्टीमेटम: भारत सरकार ने X, जिसे पहले ट्विटर के नाम से जाना जाता था, को उसके AI चैटबॉट Grok के कथित दुरुपयोग को लेकर कड़ी चेतावनी जारी की है। नियामकों ने विशेष रूप से महिलाओं को लक्षित करने वाली यौन रूप से स्पष्ट छवियों और वीडियो के निर्माण और प्रसार को चिंता का कारण बताया है। X को इन मुद्दों को संबोधित करने के लिए केवल 72 घंटे की मोहलत दी गई है।
'सेफ हार्बर' खोने के निहितार्थ: 'सेफ हार्बर' का दर्जा खोने से X भारत में मिलने वाली महत्वपूर्ण कानूनी सुरक्षा छिन जाएगी। यह प्रावधान आम तौर पर ऑनलाइन प्लेटफार्मों को उपयोगकर्ता-जनित सामग्री के लिए देनदारी से बचाता है, बशर्ते कुछ शर्तें पूरी हों। इसके बिना, कंपनी को अनुपालन लागत में भारी वृद्धि का सामना करना पड़ सकता है, जिसके लिए अधिक भारत-आधारित सामग्री मॉडरेशन और कानूनी संसाधनों की आवश्यकता होगी। आपराधिक या दीवानी दंड और सेवा अवरुद्ध होने की संभावनाएँ भी बनी हुई हैं।
वैश्विक नियामक जाँच: इस मुद्दे पर अंतरराष्ट्रीय स्तर पर भी ध्यान गया है। फ्रांस और मलेशिया जैसे देशों में भी Grok की वास्तविक महिलाओं और नाबालिगों की यौन-वर्जित छवियां उत्पन्न करने की क्षमता को लेकर इसी तरह की नियामक चिंताएँ सामने आई हैं। दुरुपयोग को प्रॉम्प्ट मैनिपुलेशन और सिंथेटिक आउटपुट का परिणाम बताया जा रहा है, जो प्लेटफ़ॉर्म-स्तरीय सुरक्षा उपायों में कथित खामियों को उजागर करता है।
प्लेटफ़ॉर्म की प्रतिक्रिया: X के प्रमुख एलोन मस्क ने सार्वजनिक रूप से कहा है कि Grok का उपयोग करके अवैध सामग्री बनाने वाले व्यक्तियों को वही परिणाम भुगतने होंगे जो ऐसी सामग्री स्वयं अपलोड करने पर मिलते हैं। X के आधिकारिक सुरक्षा पृष्ठ ने भी बाल यौन शोषण सामग्री (CSAM) सहित अवैध सामग्री के खिलाफ कार्रवाई करने, खातों को निलंबित करने और कानून प्रवर्तन के साथ सहयोग करने की अपनी प्रतिबद्धता दोहराई है।
भविष्य के AI सामग्री नियम: यह विकास ऐसे समय में हुआ है जब भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने IT नियम, 2021 में संशोधन प्रस्तावित किए हैं। प्रस्तावित परिवर्तनों के अनुसार, सभी डीपफेक और AI-जनित सामग्री को 'सिंथेटिक रूप से उत्पन्न जानकारी' के रूप में लेबल करना अनिवार्य होगा। ऐसी सामग्री निर्माण को सक्षम करने वाले प्लेटफार्मों को प्रमुख लेबलिंग सुनिश्चित करनी होगी या अद्वितीय मेटाडेटा एम्बेड करना होगा।