Whalesbook
कोर्ट का डीपफेक पर सख्त रुख
गुजरात हाई कोर्ट AI-जनित डीपफेक कंटेंट के प्रसार की गंभीरता से जांच कर रहा है। कोर्ट ने Meta India, Google, X, Reddit और Scribd जैसे प्रमुख ऑनलाइन प्लेटफॉर्म्स को नोटिस जारी किए हैं। यह कदम एक पब्लिक इंटरेस्ट लिटिगेशन (PIL) के बाद उठाया गया है, जिसने AI के दुरुपयोग को रोकने के लिए कड़े नियमों की तत्काल आवश्यकता पर प्रकाश डाला था। कोर्ट यह सुनिश्चित कर रहा है कि क्या प्लेटफॉर्म्स गैरकानूनी ऑनलाइन कंटेंट के संबंध में अपने कानूनी दायित्वों का पालन कर रहे हैं। अदालत ने जोर देकर कहा कि समस्या कानूनों की कमी नहीं, बल्कि कमजोर एन्फोर्समेंट (Enforcement) है। कोर्ट ने आधिकारिक नोटिस पर त्वरित कार्रवाई और सरकार के SAHYOG पोर्टल के साथ एकीकरण का आदेश दिया है, जिसका उद्देश्य अधिक जवाबदेही और तेजी से कंटेंट मॉडरेशन (Content Moderation) करना है। PIL का तर्क है कि डीपफेक तकनीक सार्वजनिक व्यवस्था और लोकतंत्र के लिए गंभीर खतरा पैदा करती है, क्योंकि यह असली लगती है और लोगों के लिए इसे वास्तविक सामग्री से अलग पहचानना मुश्किल होता है।
भारत ने AI रूल्स को किया और टाइट
यह न्यायिक कार्रवाई ऐसे समय में आई है जब भारत के डिजिटल प्लेटफॉर्म्स के लिए नियम तेजी से बदल रहे हैं और काफी सख्त हो गए हैं। IT रूल्स में संशोधन, जो फरवरी 2026 से प्रभावी होंगे, एक प्रतिक्रियाशील (Reactive) से सक्रिय (Proactive) दृष्टिकोण की ओर एक बड़ा बदलाव लाएंगे। मुख्य बदलावों में कंटेंट हटाने की समय-सीमा में महत्वपूर्ण तेजी शामिल है: आधिकारिक नोटिस के बाद गैरकानूनी कंटेंट के लिए 3 घंटे की विंडो, और गैर-सहमति वाले यौन इमेजरी (Non-consensual sexual imagery), जिसमें डीपफेक भी शामिल हैं, के लिए और भी कसी हुई 2 घंटे की समय-सीमा। यह पुराने 24-36 घंटे के समय से एक बड़ा बदलाव है। प्लेटफॉर्म्स को 'AI-जनित कंटेंट' (जैसे टेक्स्ट, इमेज, ऑडियो और वीडियो) को स्पष्ट रूप से लेबल करना होगा और यदि संभव हो तो ट्रेस करने योग्य मार्कर (Traceable markers) भी जोड़ने होंगे। गृह मंत्रालय (Ministry of Home Affairs) द्वारा बनाया गया SAHYOG पोर्टल, कंटेंट हटाने के अनुरोधों को केंद्रीकृत (Centralize) करता है और कानून प्रवर्तन एजेंसियों को प्लेटफॉर्म्स के साथ सीधे काम करने में मदद करता है।
टेक कंपनियों के सामने कंप्लायंस की चुनौतियाँ
Meta, Google, X, Reddit और Scribd जैसी कंपनियों के लिए, इन नए नियमों का मतलब है कि उन्हें कंप्लायंस (Compliance) को लेकर अधिक मेहनत करनी होगी और अपने ऑपरेशंस (Operations) में बड़े बदलाव लाने होंगे। तेजी से कंटेंट हटाने की आवश्यकताओं के लिए ऑटोमेटेड डिटेक्शन टूल्स (Automated detection tools) में महत्वपूर्ण निवेश और बड़े प्लेटफॉर्म्स के लिए चौबीसों घंटे काम करने वाले अधिक मानव समीक्षकों (Human reviewers) की आवश्यकता होगी। इन नियमों का पालन न करने पर IT एक्ट के सेक्शन 79 (Section 79) के तहत कानूनी सुरक्षा खोने का जोखिम है, जिससे प्लेटफॉर्म्स सीधे तौर पर यूजर कंटेंट के लिए उत्तरदायी (Liable) हो जाएंगे। हालांकि Meta और Google कंप्लायंस में सुधार कर रहे हैं, वहीं अन्य SAHYOG जैसे सिस्टम के साथ तालमेल बिठाने में संघर्ष कर रहे हैं। X, जिसे पहले ट्विटर के नाम से जाना जाता था, को पहले भारत के IT मंत्रालय द्वारा अपने Grok AI टूल द्वारा अनुचित कंटेंट बनाने के लिए जवाबदेह ठहराया गया था, जो प्लेटफॉर्म-विशिष्ट जोखिमों को दर्शाता है। भारत के सख्त AI नियम सरकारों द्वारा टेक कंपनियों से अधिक पारदर्शिता और जवाबदेही की मांग करने वाले वैश्विक रुझान के अनुरूप हैं।
सख्त AI नियमों पर चिंताएं
यह कड़ी नियामक व्यवस्था ऑनलाइन प्लेटफॉर्म्स के लिए काफी जोखिम पैदा करती है। 2-3 घंटे की बहुत छोटी कंटेंट हटाने की विंडो व्यावहारिक कठिनाइयाँ पेश करती है। ऑटोमेटेड सिस्टम मानव निर्णय की कमी के कारण गलती से कंटेंट हटा सकते हैं, जिससे स्वतंत्र भाषण (Free speech) के मुद्दे और प्लेटफॉर्म की प्रतिष्ठा को नुकसान पहुँच सकता है। आलोचकों को चिंता है कि ये कड़े उपाय अत्यधिक सेंसरशिप (Censorship) का कारण बन सकते हैं, जिससे रचनात्मक अभिव्यक्ति और व्यंग्य (Satire) बाधित हो सकते हैं। वे यह भी बताते हैं कि SAHYOG पोर्टल का अस्पष्ट ऑपरेशन एकतरफा कंटेंट हटाने के आदेशों के माध्यम से प्रभावी ढंग से सेंसरशिप की अनुमति दे सकता है, जो कोर्ट की निगरानी को दरकिनार कर सकता है। 'AI-जनित कंटेंट' की व्यापक परिभाषा दुर्भावनापूर्ण डीपफेक से परे नियमों का विस्तार करते हुए हानिरहित AI उपयोगों को भी कवर कर सकती है।
AI कंटेंट पर भारत का रुख
गुजरात हाई कोर्ट की हालिया कार्रवाई द्वारा समर्थित भारत के नियम, AI-जनित कंटेंट के दुरुपयोग के खिलाफ एक स्पष्ट स्थिति दर्शाते हैं। तेज समय-सीमाएं और आवश्यक पारदर्शिता एक वैश्विक मानक निर्धारित करते हैं, जो प्लेटफॉर्म्स को जल्दी अनुकूलित करने के लिए प्रेरित करते हैं। इन नियमों की सफलता इस बात पर निर्भर करती है कि प्लेटफॉर्म्स कितनी अच्छी तरह काम करते हैं, कंप्लायंस और उपयोगकर्ता अधिकारों को संतुलित करने की उनकी क्षमता, और डिटेक्शन टेक्नोलॉजी में कितना सुधार होता है। कोर्ट की निगरानी और सरकारी विनियमन के संयुक्त प्रयास, AI-जनित मीडिया की बढ़ती चुनौतियों के खिलाफ भारत की डिजिटल निगरानी को मजबूत करने के निरंतर प्रयास को दिखाते हैं।