Instagram वरील पेड जाहिरातींमध्ये मुलांशी संबंधित आक्षेपार्ह मजकूर (CSAM) आढळल्याने केंद्र सरकारच्या IT मंत्रालयाने Meta ला अधिकृत नोटीस बजावली आहे. या प्रकरणाने सोशल मीडिया प्लॅटफॉर्मवरील नियामक धोके आणि AI-जनरेटेड कंटेंट फिल्टर करण्याच्या मर्यादा चव्हाट्यावर आणल्या आहेत.
Meta Platforms Inc. ला इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाकडून (MeitY) कडक ताकीद मिळाली आहे. Instagram वरील पेड जाहिरातींच्या माध्यमातून मुलांशी संबंधित अत्यंत आक्षेपार्ह आणि बेकायदेशीर कंटेंट प्रसारित झाल्याचे समोर आल्यानंतर ही कारवाई करण्यात आली आहे. विशेष म्हणजे, हा मजकूर केवळ सामान्य पोस्ट नसून तो कंपनीच्या पेड ॲडव्हर्टायझिंग सिस्टमचा भाग होता, ज्यावर कंपनीचे अंतर्गत फिल्टर्स आणि अल्गोरिदम लागू असतात.
ऑटोमेटेड मॉडरेशन समोरचे आव्हान
या घटनेने 'PhotoDNA' सारख्या पारंपरिक तंत्रज्ञानाच्या मर्यादा उघड केल्या आहेत. हे तंत्रज्ञान जुन्या डेटाबेसशी जुळणाऱ्या कंटेंटला ओळखू शकते, परंतु AI द्वारे तयार करण्यात आलेल्या नवीन आणि बनावट (Synthetic) मजकुरासमोर हे फिल्टर्स अपयशी ठरत आहेत. AI च्या वेगामुळे कंपन्यांचे सध्याचे सुरक्षा निकष मागे पडत आहेत.
कायदेशीर जबाबदारी आणि प्रश्नचिन्ह
भारताच्या माहिती तंत्रज्ञान कायदा (IT Act, 2000) आणि POCSO कायद्यांतर्गत सोशल मीडिया प्लॅटफॉर्मची भूमिका 'मध्यस्थ' (Intermediary) म्हणून मानली जाते. मात्र, जाहिरातींतून कमाई करताना प्लॅटफॉर्म स्वतः आशय निवडून तो लोकांपर्यंत पोहोचवत असल्याने, त्यांच्या जबाबदारीचे स्वरूप आता बदलत आहे. सरकारने यावर कडक भूमिका घेतल्यास, Meta ला जाहिरात धोरण आणि रिव्ह्यू प्रोसेसमध्ये मोठे बदल करावे लागतील.
गुंतवणूकदारांसाठी महत्त्वाचे संकेत
पुढील काळात सरकार या कंपन्यांच्या जबाबदारीबाबत किती कठोर नियम आखते, याकडे सर्वांचे लक्ष आहे. जर नियमांत बदल झाले, तर कंपन्यांचा खर्च (Compliance Cost) वाढू शकतो. तसेच, भारतातील AI आणि जाहिरात धोरणांमध्ये होणारे बदल तंत्रज्ञान क्षेत्रातील सर्व दिग्गज कंपन्यांच्या ऑपरेशन्सवर परिणाम करू शकतात.