San Francisco શહેરના અધિકારીઓએ Apple અને Google ને તાત્કાલિક અસરથી એવી એપ્સને પોતાના સ્ટોર પરથી હટાવવાનો આદેશ કર્યો છે જે લોકોની સંમતિ વિના ડીપફેક પોર્નોગ્રાફી બનાવે છે. શહેરનો દાવો છે કે આ ટેક જાયન્ટ્સ ગેરકાયદેસર કન્ટેન્ટમાંથી કમાણી કરી રહ્યા છે અને જો તેઓ 28 દિવસમાં કાર્યવાહી નહીં કરે તો કાયદાકીય કાર્યવાહીનો સામનો કરવો પડી શકે છે.
San Francisco શહેરના એટર્ની David Chiu એ Apple અને Google ને સ્પષ્ટપણે આદેશ આપ્યો છે કે તેઓ તાત્કાલિક ધોરણે એવી એપ્લિકેશન્સને દૂર કરે જે આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) નો ઉપયોગ કરીને લોકોની સંમતિ વિના ડીપફેક પોર્નોગ્રાફી બનાવે છે. આ 'Nudify' જેવી એપ્સ ડિજિટલ રીતે છબીઓમાં ફેરફાર કરીને સ્પષ્ટ કન્ટેન્ટ તૈયાર કરે છે, જેનાથી પીડિતોની પ્રતિષ્ઠાને નુકસાન પહોંચે છે. આ માંગણી એટલા માટે કરવામાં આવી છે કારણ કે આ પ્લેટફોર્મ્સ કેલિફોર્નિયાના કાયદાઓનું ઉલ્લંઘન કરી રહ્યા છે, જે આવા ગેરકાયદેસર કન્ટેન્ટને પ્રોત્સાહન આપવા પર પ્રતિબંધ મૂકે છે.
કાનૂની અને નાણાકીય જોખમો
શહેરના અધિકારીઓનો મુખ્ય આરોપ એ છે કે Apple અને Google આ એપ્સ દ્વારા વપરાશકર્તાઓના ટ્રાન્ઝેક્શનમાંથી ફી વસૂલીને નફો કમાઈ રહ્યા છે. અંદાજે, આ કંપનીઓએ આવી સેવાઓથી કરોડો ડોલરની આવક મેળવી હોઈ શકે છે. કેલિફોર્નિયાના કાયદા હેઠળ, આવા કન્ટેન્ટને સક્ષમ કરતા પ્લેટફોર્મ્સ સામે પીડિતો કાનૂની કાર્યવાહી કરી શકે છે. ટેક કંપનીઓને મોકલવામાં આવેલા પત્રોમાં કાનૂની ઉલ્લંઘન બદલ ભારે સિવિલ પેનલ્ટી (દંડ) ની ચેતવણી આપવામાં આવી છે. Apple અને Google ને આ માંગણીઓનો જવાબ આપવા અને તેમના સ્ટોર પરથી આ એપ્સને દૂર કરવાની પ્રક્રિયા માટે 28 દિવસનો સમય આપવામાં આવ્યો છે.
અગાઉની ચેતવણીઓ અને દેખરેખ
આ મુદ્દે ટેક જાયન્ટ્સ પર આ પહેલીવાર કાર્યવાહી નથી થઈ રહી. સિટી એટર્નીની ઓફિસના જણાવ્યા અનુસાર, બંને કંપનીઓને લગભગ એક વર્ષથી આ એપ્સ માટે પેમેન્ટ પ્રોસેસ કરવા અંગે સૂચિત કરવામાં આવી રહી છે. Tech Transparency Project (TTP) જેવી સંસ્થાઓએ પણ જાન્યુઆરી અને એપ્રિલ 2026 માં કંપનીઓને જાણ કરી હતી અને નફો કમાવવા માટે ડીપફેક છબીઓ વેચતી ડઝનેક એપ્લિકેશન્સની વિગતો આપી હતી. તેમ છતાં, તપાસકર્તાઓનો આરોપ છે કે આ એપ્સ ડાઉનલોડ માટે ઉપલબ્ધ રહી હતી અને બંને કંપનીઓ ઘણીવાર વપરાશકર્તાઓને આવા કન્ટેન્ટ તરફ દિશામાન કરતી હતી.
AI રેગ્યુલેશનની ટેક જાયન્ટ્સ પર અસર
રોકાણકારો અને બજાર નિરીક્ષકો માટે, આ વિકાસ જનરેટિવ AI ના દુરુપયોગ અંગે મોટી ટેકનોલોજી કંપનીઓ પર વધી રહેલા નિયમનકારી દબાણને દર્શાવે છે. Apple અને Google લાખો એપ્લિકેશન્સ માટે પ્લેટફોર્મ પ્રદાન કરે છે, પરંતુ ગેરકાયદેસર અથવા હાનિકારક સામગ્રીને ફિલ્ટર કરવાની તેમની જવાબદારી ધારાસભ્યો માટે એક મુખ્ય ચિંતાનો વિષય બની ગઈ છે. જેમ જેમ કેલિફોર્નિયા સંમતિ વિનાની ડીપફેક છબીઓ સામે પોતાનું વલણ મજબૂત કરી રહ્યું છે, તેમ તેમ આ કંપનીઓની એપ ઇકોસિસ્ટમ પર અસરકારક રીતે દેખરેખ રાખવાની ક્ષમતા એક મુખ્ય પરિબળ બની રહેશે. સંભવિત સિવિલ પેનલ્ટીની નાણાકીય અસર અધિકારીઓ દ્વારા લેવાયેલી અમલીકરણ કાર્યવાહીના સ્કેલ પર અને કંપનીઓ રાજ્યની જરૂરિયાતોનું પાલન કરવા માટે તેમની મધ્યસ્થતા નીતિઓને કેટલી ઝડપથી સમાયોજિત કરે છે તેના પર નિર્ભર રહેશે.