Whalesbook
डीपफेकच्या प्रसारावर न्यायालयाचे लक्ष
गुजरात उच्च न्यायालय AI द्वारे तयार केलेल्या डीपफेक कंटेंटच्या प्रसाराची गंभीर दखल घेत आहे. या प्रकरणी Meta India, Google, X, Reddit आणि Scribd सारख्या प्रमुख ऑनलाइन प्लॅटफॉर्म्सना नोटीस बजावण्यात आली आहे. एका जनहित याचिकेमुळे (PIL) AI च्या गैरवापरावर नियंत्रण ठेवण्यासाठी कडक नियमांची गरज अधोरेखित झाली आहे. न्यायालय तपासत आहे की प्लॅटफॉर्म्स बेकायदेशीर ऑनलाइन कंटेंटसाठी असलेल्या त्यांच्या कायदेशीर जबाबदाऱ्यांचे पालन करत आहेत की नाही. कायद्यांची कमतरता नसून, अंमलबजावणीतील त्रुटी ही मुख्य समस्या असल्याचे न्यायालयाने म्हटले आहे. अधिक जबाबदारी आणि जलद कंटेंट मॉडरेट करण्यासाठी, अधिकृत नोटीसवर तात्काळ कारवाई करण्याचे आणि सरकारी SAHYOG पोर्टलसोबत एकत्रीकरण करण्याचे आदेश दिले आहेत. जनहित याचिकाकर्त्यांचा युक्तिवाद आहे की डीपफेक तंत्रज्ञान सार्वजनिक सुव्यवस्था आणि लोकशाहीसाठी गंभीर धोका निर्माण करते, कारण ते खरे वाटते आणि लोकांना ते खऱ्या कंटेंटपासून वेगळे ओळखणे कठीण जाते.
भारतातील AI नियमांमध्ये वाढती कडकपणा
न्यायालयाची ही कारवाई अशा वेळी आली आहे जेव्हा डिजिटल प्लॅटफॉर्म्ससाठी भारतातील नियम वेगाने बदलत आहेत आणि अधिक कडक होत आहेत. IT नियमांमधील सुधारणा, ज्या फेब्रुवारी 2026 पासून लागू होणार आहेत, त्या एका 'प्रतिक्रियावादी' दृष्टिकोनातून 'सक्रिय' दृष्टिकोनकडे एक मोठा बदल दर्शवतात. मुख्य बदलांमध्ये कंटेंट हटवण्याची अंतिम मुदत लक्षणीयरीत्या कमी करण्यात आली आहे: अधिकृत नोटीस मिळाल्यानंतर बेकायदेशीर कंटेंटसाठी 3 तासांची मुदत, आणि लैंगिक छळाच्या (non-consensual sexual imagery) कंटेंटसाठी, ज्यात डीपफेक्सचा समावेश आहे, 2 तासांची आणखी कडक मुदत आहे. हा जुन्या 24-36 तासांच्या कालावधीपेक्षा मोठा बदल आहे. प्लॅटफॉर्म्सना 'AI-जनरेटेड कंटेंट' (जसे की टेक्स्ट, इमेज, ऑडिओ आणि व्हिडिओ) स्पष्टपणे लेबल करणे आवश्यक आहे आणि शक्य असल्यास, शोधण्यायोग्य ट्रेसिबिलिटी मार्कर्स (traceable markers) जोडणे आवश्यक आहे. गृह मंत्रालयाने तयार केलेले SAHYOG पोर्टल कंटेंट हटवण्याची विनंती केंद्रीकृत करते आणि कायद्याची अंमलबजावणी करणाऱ्या एजन्सींना प्लॅटफॉर्म्ससोबत थेट काम करण्यास मदत करते.
टेक कंपन्यांसमोर अनुपालन (Compliance) आव्हाने
Meta, Google, X, Reddit आणि Scribd सारख्या कंपन्यांसाठी, या नवीन नियमांमुळे अनुपालन अधिक कठीण झाले आहे आणि कामकाजात मोठे बदल करावे लागणार आहेत. कंटेंट जलद हटवण्याच्या आवश्यकतांमुळे स्वयंचलित ओळख साधने (automated detection tools) आणि रात्रंदिवस काम करणाऱ्या अधिक मानवी समीक्षकांमध्ये (human reviewers) मोठी गुंतवणूक करावी लागेल. या नियमांचे पालन न केल्यास IT कायद्याच्या कलम 79 अंतर्गत कायदेशीर संरक्षण गमावण्याचा धोका आहे, ज्यामुळे प्लॅटफॉर्म्स वापरकर्त्यांच्या कंटेंटसाठी थेट जबाबदार ठरतील. Meta आणि Google अनुपालन सुधारत असल्याचे सांगितले जात असले तरी, SAHYOG सारख्या सिस्टीममध्ये एकत्रीकरण करण्यात इतरांना अडचणी येत आहेत. X (पूर्वीचे Twitter) ला देखील भारताच्या IT मंत्रालयाने त्यांच्या Grok AI टूलने अयोग्य कंटेंट तयार केल्याबद्दल प्रश्न विचारले होते, जे प्लॅटफॉर्म-विशिष्ट धोके दर्शवते. भारताचे AI नियम जगभरातील अशा ट्रेंडशी जुळतात जिथे सरकार टेक कंपन्यांकडून अधिक पारदर्शकता आणि जबाबदारीची मागणी करत आहेत.
कडक AI नियमांवर चिंता
या कडक नियामक वातावरणामुळे ऑनलाइन प्लॅटफॉर्म्ससाठी लक्षणीय धोके निर्माण झाले आहेत. 2-3 तासांची अत्यंत कमी कंटेंट हटवण्याची मुदत व्यावहारिक अडचणी निर्माण करते. मानवी निर्णयाचा अभाव असल्याने स्वयंचलित प्रणाली चुकून कंटेंट हटवू शकतात, ज्यामुळे अभिव्यक्ती स्वातंत्र्याच्या (free speech) समस्या आणि प्लॅटफॉर्मच्या प्रतिष्ठेला हानी पोहोचू शकते. टीकाकारांना चिंता आहे की या कडक उपायांमुळे अतिसेन्सॉरशिप (censorship) होऊ शकते, ज्यामुळे सर्जनशील अभिव्यक्ती आणि व्यंगचित्रांना (satire) अडथळा निर्माण होईल. ते असेही नमूद करतात की SAHYOG पोर्टलचे अस्पष्ट कामकाज न्यायालयीन देखरेख टाळू शकते, ज्यामुळे एका बाजूच्या कंटेंट हटवण्याच्या आदेशांद्वारे प्रभावीपणे सेन्सॉरशिप होऊ शकते. 'AI-जनरेटेड कंटेंट' ची व्यापक व्याख्या केवळ दुर्भावनापूर्ण डीपफेक्सच्या पलीकडे जाऊन निरुपद्रवी AI उपयोगांना देखील समाविष्ट करू शकते, ज्यामुळे नियमांचा आवाका वाढेल.
AI कंटेंटवर भारताची भूमिका
गुजरात उच्च न्यायालयाच्या ताज्या कारवाईने समर्थित केलेले भारताचे नियम, AI-जनरेटेड कंटेंटच्या गैरवापराविरुद्ध स्पष्ट भूमिका दर्शवतात. जलद अंतिम मुदत आणि आवश्यक असलेली पारदर्शकता जागतिक दर्जा निश्चित करत आहे, ज्यामुळे प्लॅटफॉर्म्सना लवकर जुळवून घेण्यास भाग पाडले जात आहे. या नियमांचे यश प्लॅटफॉर्म्स किती चांगल्या प्रकारे कार्य करतात, वापरकर्त्यांच्या हक्कांचे पालन करण्यासोबत अनुपालन करण्याची त्यांची क्षमता आणि ओळख तंत्रज्ञान (detection technology) किती सुधारते यावर अवलंबून असेल. न्यायालयीन देखरेख आणि सरकारी नियमांचे हे एकत्रित प्रयत्न, AI-जनरेटेड माध्यमांच्या वाढत्या आव्हानांविरुद्ध भारताचे डिजिटल देखरेख बळकट करण्यासाठी चालू असलेला प्रयत्न दर्शवतात.