Meta Platforms Inc. अडचणीत सापडली आहे. फेसबुक आणि इंस्टाग्रामवर AI 'न्युडीफाय' ॲप्सच्या हजारो जाहिराती दिसल्या आहेत, ज्या एका चिनी भागीदाराशी जोडलेल्या आहेत. या ॲप्समुळे लैंगिकदृष्ट्या आक्षेपार्ह इमेज तयार करता येतात, जे मेटाच्या सुरक्षा धोरणांचे उल्लंघन आहे. या घटनेमुळे जाहिरातीतून मिळणाऱ्या उत्पन्नावर आणि प्लॅटफॉर्मवरील नियंत्रणावर प्रश्नचिन्ह निर्माण झाले आहे.
Detailed Coverage
मेटा पुन्हा वादाच्या भोवऱ्यात
Meta Platforms Inc. पुन्हा एकदा चर्चेत आली आहे. फेसबुक आणि इंस्टाग्रामवर 'AI न्युडीफाय' ॲप्सच्या हजारो जाहिराती चालत असल्याचे वृत्त आहे. या ॲप्समुळे वापरकर्त्यांना लैंगिकदृष्ट्या आक्षेपार्ह चित्रांवर चेहरे लावता येतात. हा प्रकार मेटाच्या धोरणांचे थेट उल्लंघन आहे, जे अनैच्छिक लैंगिक प्रतिमा आणि लैंगिकदृष्ट्या सूचक सामग्रीविरुद्ध आहेत.
जाहिरात भागीदारांची भूमिका
या जाहिराती बीजिंग-स्थित GatherOne Inc. या कंपनीमार्फत चालवल्या जात होत्या, जी मेटाची जाहिरात भागीदार आहे. जरी चीनमध्ये फेसबुक आणि इंस्टाग्राम उपलब्ध नसले तरी, मेटा आंतरराष्ट्रीय जाहिरातींच्या उत्पन्नासाठी चिनी व्यवसायांवर मोठ्या प्रमाणात अवलंबून आहे. २०२४ मध्ये मेटाने चीनमधून $18.4 अब्ज डॉलर्सची विक्री केली, जी जागतिक महसुलाच्या सुमारे 11% आहे. या चिनी जाहिरातदारांवरील अवलंबित्व मेटासाठी एक गुंतागुंतीचे वातावरण तयार करते, कारण त्यांना कठोर नियंत्रण मानके राखताना आंतरराष्ट्रीय जाहिरातींचे व्यवस्थापन करावे लागते.
नियामक आणि धोरणात्मक चिंता
'टेक ट्रान्स्परन्सी प्रोजेक्ट'ने केलेल्या तपासणीत या सेवांशी संबंधित अंदाजे 7,600 जाहिराती आढळून आल्या. यापैकी 'BAfter' सारखे काही ॲप्स तर मुलांचे लैंगिक शोषण करणाऱ्या सामग्रीसाठी (child pornography) चिन्हांकित केले गेले होते. मेटाने जाहीरपणे सांगितले आहे की ते अशा सामग्रीला प्रतिबंधित करते आणि उल्लंघन करणाऱ्यांवर कठोर कारवाई करते. तरीही, या जाहिरातींच्या उपस्थितीमुळे मेटाच्या ऑटोमेटेड मॉडरेशन टूल्सची (automated moderation tools) प्रभावीता आणि थर्ड-पार्टी जाहिरात भागीदारांवरील त्यांच्या नियंत्रणावर प्रश्नचिन्ह निर्माण झाले आहे.
कंपनीची प्रतिक्रिया आणि उचललेली पाऊले
या जाहिरातींबद्दल चौकशीनंतर, मेटाने पुष्टी केली की त्यांनी 'BAfter' ॲपवर बंदी घातली आहे आणि तत्सम सेवांच्या लिंक्स ब्लॉक केल्या आहेत. GatherOne ने AI फेस-स्वॅप आणि 'न्युडीफाय' सेवांशी संबंधित नवीन जाहिरात खाती निलंबित करण्याची घोषणा केली आहे. कंपनीचे म्हणणे आहे की ते आंतरराष्ट्रीय कायदे आणि मेटाच्या जाहिरात मानकांचे पालन करतात.
गुंतवणूकदारांसाठी, ही परिस्थिती प्लॅटफॉर्म प्रशासन आणि ब्रँड सुरक्षिततेशी संबंधित एक सततचा धोका दर्शवते. AI तंत्रज्ञान हानिकारक सामग्री तयार करणे आणि वितरीत करणे सोपे करत असल्याने, सोशल मीडिया कंपन्यांवर नियामक आणि जनतेकडून त्यांच्या शोध प्रणाली सुधारण्यासाठी वाढता दबाव येत आहे. कंपनीची जाहिरात महसूल मॉडेलला धक्का न लावता आपल्या प्लॅटफॉर्मवर प्रभावीपणे नियंत्रण ठेवण्याची क्षमता दीर्घकालीन प्लॅटफॉर्म स्थिरता आणि नियामक पालनासाठी एक गंभीर बाब आहे. भविष्यातील अपडेट्समध्ये मेटा आंतरराष्ट्रीय जाहिरात भागीदारांसाठी अधिक कठोर पडताळणी प्रक्रिया लागू करेल की नाही यावर लक्ष केंद्रित केले जाईल.