सॅन फ्रान्सिस्कोच्या अधिकाऱ्यांनी Apple आणि Google ला संमतीशिवाय डीपफेक पोर्नोग्राफी तयार करणाऱ्या ॲप्सना त्वरित हटवण्याचे आदेश दिले आहेत. शहराचा आरोप आहे की या टेक कंपन्या बेकायदेशीर कंटेंटमधून नफा कमावत आहेत आणि कारवाई न झाल्यास त्यांना कायदेशीर दंड होऊ शकतो.
सॅन फ्रान्सिस्कोचे सिटी ॲटर्नी डेव्हिड चिउ यांनी Apple आणि Google यांना डीपफेक पोर्नोग्राफी तयार करणाऱ्या ॲप्सना तात्काळ हटवण्याची मागणी केली आहे. या 'न्युडीफाय' (nudify) ॲप्स आर्टिफिशियल इंटेलिजन्स वापरून लोकांच्या परवानगीशिवाय त्यांचे फोटो एडिट करून आक्षेपार्ह कंटेंट तयार करतात. या प्लॅटफॉर्म्सवर कॅलिफोर्निया कायद्याचे उल्लंघन होत असून, अशा कंटेंटला प्रोत्साहन दिल्याबद्दल कारवाई केली जाऊ शकते.
कायदेशीर आणि आर्थिक धोके
शहराच्या म्हणण्यानुसार, Apple आणि Google या ॲप्सद्वारे होणाऱ्या युझर ट्रान्झॅक्शन्समधून फी घेऊन नफा कमावत आहेत. शहराच्या अधिकाऱ्यांचा अंदाज आहे की या सेवांमधून कंपन्यांनी लाखो डॉलर्सचा महसूल मिळवला असेल. कॅलिफोर्निया कायद्यानुसार, अशा बेकायदेशीर कामांना मदत करणाऱ्या थर्ड-पार्टी कंपन्यांवर कायदेशीर कारवाई केली जाऊ शकते. टेक कंपन्यांना पाठवलेल्या नोटिसांमध्ये कायदेशीर उल्लंघनासाठी संभाव्य दंड आकारण्याचा इशारा देण्यात आला आहे. Apple आणि Google यांना या मागणीवर प्रतिसाद देण्यासाठी आणि त्यांच्या स्टोअरमधून हे ॲप्स काढून टाकण्यासाठी 28 दिवसांचा वेळ देण्यात आला आहे.
पूर्वीच्या सूचना आणि देखरेख
यापूर्वीही या टेक कंपन्यांना या समस्येवरून टीकेला सामोरे जावे लागले आहे. सिटी ॲटर्नी कार्यालयाच्या माहितीनुसार, कंपन्यांना सुमारे 1 वर्षापासून या ॲप्ससाठी पेमेंट प्रक्रिया करण्याबद्दल माहिती देण्यात आली होती. 'टेक ट्रान्सपरन्सी प्रोजेक्ट' (Tech Transparency Project) सारख्या संस्थांनी जानेवारी आणि एप्रिल 2026 मध्ये कंपन्यांना इशारा दिला होता, ज्यात नफा मिळवण्यासाठी डीपफेक इमेज विकणाऱ्या डझनभर ॲप्सची माहिती दिली होती. या अहवालांनंतरही, हे ॲप्स डाउनलोडसाठी उपलब्ध होते आणि दोन्ही कंपन्यांनी वापरकर्त्यांना अशा कंटेंटकडे निर्देशित केल्याचा आरोप आहे.
AI रेग्युलेशनचा टेक कंपन्यांवरील परिणाम
गुंतवणूकदार आणि बाजार निरीक्षकांसाठी, जनरेटिव्ह AI च्या गैरवापराबद्दल प्रमुख तंत्रज्ञान कंपन्यांवरील वाढता नियामक दबाव या घटनेतून दिसून येतो. Apple आणि Google लाखो ॲप्लिकेशन्स होस्ट करण्यासाठी प्लॅटफॉर्म प्रदान करतात, परंतु बेकायदेशीर किंवा हानिकारक कंटेंट स्कॅन करण्याची त्यांची जबाबदारी कायदेतज्ज्ञांसाठी चिंतेचा विषय बनली आहे. कॅलिफोर्निया डीपफेक प्रतिमांविरुद्ध आपली भूमिका अधिक मजबूत करत असताना, या कंपन्या त्यांच्या ॲप इकोसिस्टमवर किती प्रभावीपणे नियंत्रण ठेवू शकतात, हे पाहणे महत्त्वाचे ठरेल. संभाव्य दंडाचा आर्थिक परिणाम अधिकाऱ्यांनी केलेल्या अंमलबजावणीच्या प्रमाणावर आणि कंपन्यांनी नियमांचे पालन करण्यासाठी त्यांच्या धोरणांमध्ये किती लवकर बदल केले यावर अवलंबून असेल.