శాన్ ఫ్రాన్సిస్కో అధికారులు, సమ్మతి లేకుండా డీప్ఫేక్ అశ్లీల చిత్రాలను సృష్టించే యాప్లను తొలగించాలని Apple, Google లను ఆదేశించారు. ఈ టెక్ దిగ్గజాలు చట్టవిరుద్ధమైన కంటెంట్ నుంచి లాభాలు ఆర్జిస్తున్నాయని, 28 రోజుల్లో స్పందించకపోతే కాలిఫోర్నియా చట్టం ప్రకారం భారీ జరిమానాలు ఎదుర్కోవాల్సి రావచ్చని నగరం పేర్కొంది.
శాన్ ఫ్రాన్సిస్కో సిటీ అటార్నీ డేవిడ్ చియు, సమ్మతి లేకుండా డీప్ఫేక్ అశ్లీల చిత్రాలను సృష్టించే యాప్లను వెంటనే తొలగించాలని Apple, Google లకు అధికారికంగా ఆదేశాలు జారీ చేశారు. ఈ 'Nudify' యాప్లు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ను ఉపయోగించి, వ్యక్తుల సమ్మతి లేకుండానే వారి చిత్రాలను మార్ఫింగ్ చేసి, అశ్లీల కంటెంట్ను తయారుచేస్తున్నాయి. ఇలాంటి కంటెంట్ ను ప్రోత్సహించడాన్ని క్రిమినల్ చర్యగా పరిగణించే కాలిఫోర్నియా చట్టాలను ఈ ప్లాట్ఫారమ్లు ఉల్లంఘిస్తున్నాయని వచ్చిన నివేదికల నేపథ్యంలో ఈ ఆదేశాలు జారీ అయ్యాయి.
చట్టపరమైన, ఆర్థికపరమైన రిస్కులు
ఈ యాప్ల ద్వారా వినియోగదారుల లావాదేవీల నుంచి రుసుములు వసూలు చేస్తూ Apple, Google లు లాభాలు గడిస్తున్నాయని నగరం ఆరోపిస్తోంది. ఈ సేవల ద్వారా ఆ కంపెనీలు మిలియన్ల డాలర్ల ఆదాయాన్ని సంపాదించి ఉండవచ్చని అధికారులు అంచనా వేస్తున్నారు. కాలిఫోర్నియా చట్టం ప్రకారం, ఇలాంటి కార్యకలాపాలకు సహకరించిన థర్డ్-పార్టీలను బాధితులు చట్టపరంగా ప్రశ్నించవచ్చు. ఈ చట్టపరమైన ఉల్లంఘనలకు గాను భారీ సివిల్ పెనాల్టీలు విధించే అవకాశం ఉందని టెక్ కంపెనీలకు పంపిన లేఖలలో హెచ్చరించారు. Apple, Google లు ఈ ఆదేశాలపై స్పందించి, తమ స్టోర్లలో ఉన్న ఈ యాప్లను తొలగించడానికి 28 రోజుల సమయం ఉంది.
గతంలో హెచ్చరికలు, పర్యవేక్షణ
ఈ విషయంలో టెక్ దిగ్గజాలు మొదటిసారిగా ఇలాంటి పరిశీలనను ఎదుర్కోవడం ఇదేం కాదు. సిటీ అటార్నీ కార్యాలయం నుంచి వచ్చిన సమాచారం ప్రకారం, ఈ యాప్ల కోసం పేమెంట్స్ ప్రాసెస్ చేస్తున్న విషయంపై దాదాపు ఏడాది కాలంగా వారికి తెలియజేస్తున్నారు. టెక్ ట్రాన్స్పరెన్సీ ప్రాజెక్ట్ (TTP) వంటి సంస్థలు 2026 జనవరి, ఏప్రిల్ నెలల్లోనే ఈ విషయాన్ని కంపెనీల దృష్టికి తీసుకువచ్చాయి. లాభాల కోసం డీప్ఫేక్ చిత్రాలను విక్రయించే డజన్ల కొద్దీ యాప్ల వివరాలను కూడా అందించాయి. అయినప్పటికీ, ఈ యాప్లు డౌన్లోడ్ కోసం అందుబాటులోనే ఉన్నాయని, కొన్ని సందర్భాల్లో కంపెనీలు వినియోగదారులను అలాంటి కంటెంట్ వైపునకు మళ్లించాయని దర్యాప్తుదారులు ఆరోపిస్తున్నారు.
AI నియంత్రణల ప్రభావం
పెట్టుబడిదారులకు, మార్కెట్ పరిశీలకులకు, ఈ పరిణామం జనరేటివ్ AI దుర్వినియోగం విషయంలో ప్రధాన టెక్నాలజీ సంస్థలపై పెరుగుతున్న నియంత్రణల ఒత్తిడిని తెలియజేస్తుంది. Apple, Google లు లక్షలాది యాప్లను హోస్ట్ చేసే ప్లాట్ఫారమ్లను అందిస్తున్నప్పటికీ, చట్టవిరుద్ధమైన లేదా హానికరమైన కంటెంట్ను స్క్రీన్ చేయడంలో ఈ 'గేట్కీపర్ల' బాధ్యత చట్టసభలకు కీలకమైన అంశంగా మారింది. నాన్-కన్సెన్సువల్ డీప్ఫేక్ ఇమేజరీకి వ్యతిరేకంగా కాలిఫోర్నియా తన వైఖరిని బలపరుస్తున్న నేపథ్యంలో, ఈ కంపెనీలు తమ యాప్ ఎకోసిస్టమ్లను సమర్థవంతంగా నియంత్రించగల సామర్థ్యం ఒక ముఖ్యమైన పరిశీలనగా మిగిలింది. సంభావ్య సివిల్ పెనాల్టీల ఆర్థిక ప్రభావం, అధికారులు తీసుకునే చర్యల తీవ్రతపై, అలాగే కంపెనీలు తమ మోడరేషన్ పాలసీలను ఎంత త్వరగా సవరిస్తాయనే దానిపై ఆధారపడి ఉంటుంది.