Meta Platforms Inc. पर दबाव बढ़ गया है। रिपोर्ट्स से पता चला है कि Facebook और Instagram पर AI 'Nudify' ऐप्स के हजारों विज्ञापन चल रहे थे, जिनका संबंध एक चीनी पार्टनर से है। ये ऐप्स आपत्तिजनक तस्वीरें बनाते हैं और Meta की सुरक्षा नीतियों का उल्लंघन करते हैं। चीनी विज्ञापनदाताओं से Meta के ग्लोबल रेवेन्यू का **11%** आता है, ऐसे में यह घटना विज्ञापन आय और प्लेटफॉर्म मॉडरेशन के बीच संतुलन पर चिंताएं बढ़ाती है।
Detailed Coverage
AI 'Nudify' ऐप्स: Meta की मुश्किलें बढ़ीं
Meta Platforms Inc. एक बार फिर जांच के दायरे में आ गई है। रिपोर्ट्स के मुताबिक, कंपनी के Facebook और Instagram प्लेटफॉर्म पर AI-संचालित 'Nudify' एप्लीकेशन्स (Apps) के हजारों विज्ञापन चल रहे थे। ये एप्लीकेशन्स यूजर्स को आपत्तिजनक तस्वीरों पर चेहरे लगाने की सुविधा देती हैं, जो सीधे तौर पर Meta की गैर-सहमति वाली अंतरंग इमेजरी (non-consensual intimate imagery) और यौन रूप से उत्तेजक सामग्री के खिलाफ स्थापित नीतियों का उल्लंघन है।
विज्ञापन पार्टनर्स की भूमिका
इन विज्ञापनों को कथित तौर पर Meta के एक एडवरटाइजिंग पार्टनर GatherOne Inc. द्वारा सुगम बनाया गया था, जो बीजिंग स्थित कंपनी है। हालांकि Facebook और Instagram चीन में एक्सेसिबल नहीं हैं, लेकिन यह कंपनी अंतरराष्ट्रीय विज्ञापन राजस्व बढ़ाने के लिए चीनी व्यवसायों पर बहुत अधिक निर्भर करती है। हालिया आंकड़ों के अनुसार, Meta ने 2024 में चीनी बाजार से $18.4 बिलियन की बिक्री की, जो उसके कुल ग्लोबल रेवेन्यू का लगभग 11% है। चीनी विज्ञापनदाताओं पर यह निर्भरता कंपनी के लिए एक जटिल माहौल बनाती है, क्योंकि वह अंतरराष्ट्रीय विज्ञापन प्लेसमेंट की उच्च मात्रा को प्रबंधित करते हुए सख्त मॉडरेशन मानकों को बनाए रखने का प्रयास करती है।
रेगुलेटरी और पॉलिसी संबंधी चिंताएं
टेक ट्रांसपेरेंसी प्रोजेक्ट (Tech Transparency Project) द्वारा की गई जांच में इन सेवाओं से जुड़े लगभग 7,600 विज्ञापन पाए गए। इन ऐप्स में से एक, जिसे BAfter के रूप में पहचाना गया, में ऐसी सामग्री पाई गई जिसे यूजर्स ने बाल पोर्नोग्राफी के रूप में फ्लैग किया था। हालांकि Meta ने सार्वजनिक रूप से कहा है कि वह ऐसी सामग्री को प्रतिबंधित करती है और उल्लंघनकर्ताओं के खिलाफ आक्रामक कार्रवाई करती है, इन विज्ञापनों की मौजूदगी ने कंपनी के ऑटोमेटेड मॉडरेशन टूल्स की प्रभावशीलता और थर्ड-पार्टी एडवरटाइजिंग पार्टनर्स की अपनी निगरानी पर सवाल खड़े कर दिए हैं।
कंपनी की प्रतिक्रिया और की गई कार्रवाई
इन विज्ञापनों के संबंध में पूछताछ के बाद, Meta ने पुष्टि की है कि उसने BAfter ऐप को बैन कर दिया है और इसी तरह की सेवाओं के लिंक को ब्लॉक कर दिया है। GatherOne ने AI फेस-स्वैप और 'Nudify' सेवाओं से संबंधित नए विज्ञापन खातों को निलंबित करने की घोषणा की है, और अपने अनुपालन प्रोटोकॉल को अपग्रेड करने की प्रतिबद्धता जताई है। कंपनी का कहना है कि वह अंतरराष्ट्रीय कानूनों और Meta के विज्ञापन मानकों का पालन करती है।
निवेशकों के लिए, यह स्थिति प्लेटफॉर्म गवर्नेंस और ब्रांड सुरक्षा के संबंध में एक लगातार जोखिम को उजागर करती है। जैसे-जैसे AI तकनीक हानिकारक सामग्री बनाना और वितरित करना आसान बनाती है, सोशल मीडिया कंपनियों पर नियामकों और जनता से अपने डिटेक्शन सिस्टम को बेहतर बनाने का दबाव बढ़ रहा है। विज्ञापन राजस्व मॉडल को खोए बिना अपने प्लेटफॉर्म को प्रभावी ढंग से नियंत्रित करने की कंपनी की क्षमता दीर्घकालिक प्लेटफॉर्म स्थिरता और नियामक अनुपालन के लिए एक महत्वपूर्ण निगरानी बिंदु बनी हुई है। भविष्य के अपडेट में संभवतः इस बात पर ध्यान केंद्रित किया जाएगा कि क्या Meta इसी तरह की नीतिगत विफलताओं को रोकने के लिए अपने अंतरराष्ट्रीय विज्ञापन भागीदारों के लिए अधिक कड़े जांच (vetting) प्रक्रियाएं पेश करती है।