भारत के IT मंत्रालय ने Meta Platforms Inc. को एक औपचारिक नोटिस जारी किया है। यह मामला Instagram पर पेड विज्ञापनों में बाल यौन शोषण सामग्री (CSAM) के सामने आने के बाद शुरू हुआ है, जो सोशल मीडिया प्लेटफॉर्म्स के लिए बड़े रेगुलेटरी जोखिमों की ओर इशारा करता है।
Meta Platforms Inc. के लिए मुश्किलें बढ़ती दिख रही हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इंस्टाग्राम पर दिखाए जा रहे पेड विज्ञापनों में बाल यौन शोषण सामग्री (CSAM) पाए जाने पर कंपनी से स्पष्टीकरण मांगा है। यह मामला इसलिए गंभीर है क्योंकि यह कंटेंट साधारण यूजर-जेनरेटेड पोस्ट नहीं, बल्कि प्लेटफॉर्म के जरिए प्रमोट किया जाने वाला विज्ञापन था, जो कंपनी के आंतरिक सुरक्षा फिल्टर से होकर गुजरता है।
ऑटोमेटेड कंटेंट मॉडरेशन की सीमाएं
यह घटना दिखाती है कि PhotoDNA जैसे पारंपरिक हैश-मैचिंग टूल्स अब नाकाफी हो गए हैं। ये तकनीकें केवल उन्हीं डेटाबेस की पहचान कर पाती हैं जो पहले से फ्लैग किए गए हैं। लेकिन AI के दौर में बनाई गई नई और सिंथेटिक तस्वीरें इन फिल्टरों को आसानी से चकमा दे रही हैं। यह तकनीकी अंतराल उन प्लेटफॉर्म्स के लिए बड़ा खतरा है जो हर दिन करोड़ों विज्ञापनों को प्रोसेस करते हैं।
जवाबदेही और रेगुलेटरी रिस्क
भारत के इंफॉर्मेशन टेक्नोलॉजी एक्ट और POCSO एक्ट के तहत सोशल मीडिया प्लेटफॉर्म्स को अब तक 'मिडलमैन' माना जाता रहा है। लेकिन विज्ञापन से होने वाली कमाई और एल्गोरिदम के जरिए उनके प्रमोशन ने इस कानूनी स्थिति को विवादित बना दिया है। सरकार अब इस पर विचार कर रही है कि क्या विज्ञापनों के लिए कंपनियों की जवाबदेही सामान्य यूजर पोस्ट से अधिक होनी चाहिए।
निवेशकों के लिए संकेत
इन्वेस्टर्स के लिए यह एक सतर्क रहने वाला समय है। अगर सरकार इंटरमीडियरी लायबिलिटी (Intermediary Liability) को कड़ा करती है, तो Meta जैसी कंपनियों के लिए परिचालन लागत (Operational Costs) बढ़ सकती है। साथ ही, कंपनी को अपने विज्ञापन रिव्यू सिस्टम को ओवरहाल करने के लिए भारी निवेश करना पड़ सकता है, जो उनके मार्जिन पर असर डाल सकता है।