सैन फ्रांसिस्को के अधिकारियों ने Apple और Google को गैर-सहमति से डीपफेक पोर्नोग्राफी बनाने वाले ऐप्स को तुरंत हटाने का आदेश दिया है। शहर का आरोप है कि ये टेक दिग्गज अवैध सामग्री से मुनाफा कमा रहे हैं और कार्रवाई न करने पर कैलिफोर्निया कानून के तहत भारी जुर्माने का सामना कर सकते हैं।
सैन फ्रांसिस्को के सिटी अटॉर्नी डेविड चियू ने Apple और Google को तुरंत ऐसे ऐप्स हटाने के लिए औपचारिक रूप से आदेश दिया है, जो गैर-सहमति से डीपफेक पोर्नोग्राफी बनाने की सुविधा देते हैं। ये तथाकथित 'Nudify' ऐप्स आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करके किसी व्यक्ति की सहमति के बिना उसकी तस्वीरों को बदलकर आपत्तिजनक सामग्री तैयार करते हैं। यह आदेश उन रिपोर्टों के बाद आया है कि ये प्लेटफॉर्म कैलिफोर्निया के उन कानूनों का उल्लंघन कर रहे हैं जो ऐसी सामग्री को बढ़ावा देने को अपराध मानते हैं।
कानूनी और वित्तीय जोखिम
शहर की इस कार्रवाई का मुख्य आधार यह दावा है कि Apple और Google इन ऐप्स से यूजर ट्रांजेक्शन पर फीस वसूलकर मुनाफा कमा रहे थे। सिटी अधिकारियों का अनुमान है कि इन सेवाओं से कंपनियों ने करोड़ों डॉलर का राजस्व उत्पन्न किया होगा। कैलिफोर्निया कानून के तहत, तीसरे पक्ष के सुविधाकर्ताओं के खिलाफ पीड़ित कानूनी कार्रवाई कर सकते हैं। टेक कंपनियों को भेजे गए पत्रों में इन कानूनी उल्लंघनों के लिए संभावित नागरिक दंड (civil penalties) की चेतावनी दी गई है। Apple और Google को इन मांगों पर प्रतिक्रिया देने और अपने ऐप स्टोर से इन ऐप्स की मौजूदगी को संबोधित करने के लिए 28 दिन का समय दिया गया है।
चेतावनियों और निगरानी का इतिहास
यह पहली बार नहीं है जब टेक दिग्गजों को इस मुद्दे पर जांच का सामना करना पड़ा हो। सिटी अटॉर्नी कार्यालय के संचार के अनुसार, दोनों कंपनियों को लगभग एक साल से इन ऐप्स के लिए भुगतान संसाधित (processing payments) करने के बारे में सूचित किया गया है। टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) जैसे संगठनों ने जनवरी और अप्रैल 2026 में कंपनियों को सतर्क किया था, जिसमें मुनाफे के लिए डीपफेक इमेज बेचने वाले दर्जनों ऐप्स का विवरण दिया गया था। इन रिपोर्टों के बावजूद, जांचकर्ताओं का आरोप है कि ऐप्स डाउनलोड के लिए उपलब्ध रहे और दोनों कंपनियों ने कभी-कभी उपयोगकर्ताओं को ऐसी सामग्री की ओर निर्देशित भी किया।
AI रेगुलेशन का टेक दिग्गजों पर असर
निवेशकों और बाजार पर्यवेक्षकों के लिए, यह घटनाक्रम जनरेटिव AI के दुरुपयोग के संबंध में प्रमुख प्रौद्योगिकी फर्मों पर बढ़ते नियामक दबाव को उजागर करता है। जबकि Apple और Google लाखों एप्लिकेशन की मेजबानी करने वाले प्लेटफॉर्म प्रदान करते हैं, अवैध या हानिकारक सामग्री की जांच में इन 'गेटकीपर्स' की जिम्मेदारी कानून निर्माताओं के लिए एक महत्वपूर्ण केंद्र बिंदु बन गई है। जैसे-जैसे कैलिफोर्निया गैर-सहमति वाले डीपफेक इमेजरी के खिलाफ अपना रुख मजबूत कर रहा है, इन कंपनियों की अपने ऐप इकोसिस्टम पर प्रभावी ढंग से निगरानी रखने की क्षमता एक प्रमुख निगरानी योग्य (monitorable) बनी हुई है। संभावित नागरिक दंड का वित्तीय प्रभाव अधिकारियों द्वारा की जाने वाली प्रवर्तन कार्रवाई के पैमाने और कंपनियों द्वारा राज्य की आवश्यकताओं का पालन करने के लिए अपनी मॉडरेशन नीतियों को कितनी जल्दी समायोजित करती हैं, इस पर निर्भर करेगा।