ਸੈਨ ਫਰਾਂਸਿਸਕੋ ਦੇ ਅਧਿਕਾਰੀਆਂ ਨੇ Apple ਤੇ Google ਨੂੰ ਗੈਰ-ਸਹਿਮਤੀ ਨਾਲ ਡੀਪਫੇਕ ਪੋਰਨੋਗ੍ਰਾਫੀ ਬਣਾਉਣ ਵਾਲੀਆਂ ਐਪਸ ਨੂੰ ਹਟਾਉਣ ਦਾ ਹੁਕਮ ਦਿੱਤਾ ਹੈ। ਸ਼ਹਿਰ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਇਹ ਟੈਕ ਜੈਂਟਸ ਗੈਰ-ਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਤੋਂ ਕਮਾਈ ਕਰ ਰਹੇ ਹਨ, ਜੇਕਰ ਉਹ 28 ਦਿਨਾਂ ਦੇ ਅੰਦਰ ਕਾਰਵਾਈ ਨਹੀਂ ਕਰਦੇ ਤਾਂ ਕੈਲੀਫੋਰਨੀਆ ਕਾਨੂੰਨ ਤਹਿਤ ਉਨ੍ਹਾਂ 'ਤੇ ਸਿਵਲ ਜੁਰਮਾਨੇ ਲੱਗ ਸਕਦੇ ਹਨ।
ਸੈਨ ਫਰਾਂਸਿਸਕੋ ਦੇ ਸਿਟੀ ਅਟਾਰਨੀ, ਡੇਵਿਡ ਚਿਊ, ਨੇ Apple ਅਤੇ Google ਨੂੰ ਤੁਰੰਤ ਉਹ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਹਟਾਉਣ ਲਈ ਇੱਕ ਰਸਮੀ ਮੰਗ ਭੇਜੀ ਹੈ, ਜੋ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਗੈਰ-ਸਹਿਮਤੀ ਨਾਲ ਡੀਪਫੇਕ ਪੋਰਨੋਗ੍ਰਾਫੀ ਬਣਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀਆਂ ਹਨ। ਇਹ 'Nudify' ਐਪਸ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਤਸਵੀਰਾਂ ਨੂੰ ਡਿਜੀਟਲੀ ਬਦਲਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਸ਼ਾਮਲ ਵਿਅਕਤੀਆਂ ਦੀ ਸਹਿਮਤੀ ਤੋਂ ਬਿਨਾਂ ਇਤਰਾਜ਼ਯੋਗ ਸਮੱਗਰੀ ਬਣਾਈ ਜਾਂਦੀ ਹੈ। ਇਹ ਮੰਗ ਇਸ ਰਿਪੋਰਟ ਤੋਂ ਬਾਅਦ ਆਈ ਹੈ ਕਿ ਇਹ ਪਲੇਟਫਾਰਮ ਅਜਿਹੀ ਸਮੱਗਰੀ ਨੂੰ ਗੈਰ-ਕਾਨੂੰਨੀ ਬਣਾਉਣ ਵਾਲੇ ਕੈਲੀਫੋਰਨੀਆ ਕਾਨੂੰਨਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰ ਰਹੇ ਹਨ।
ਸੰਭਾਵੀ ਕਾਨੂੰਨੀ ਅਤੇ ਵਿੱਤੀ ਖਤਰੇ
ਸ਼ਹਿਰ ਦਾ ਇਹ ਕਦਮ ਇਸ ਦਾਅਵੇ 'ਤੇ ਕੇਂਦਰਿਤ ਹੈ ਕਿ Apple ਅਤੇ Google ਇਨ੍ਹਾਂ ਐਪਸ ਤੋਂ ਯੂਜ਼ਰ ਟ੍ਰਾਂਜ਼ੈਕਸ਼ਨਾਂ ਰਾਹੀਂ ਫੀਸਾਂ ਇਕੱਠੀਆਂ ਕਰਕੇ ਮੁਨਾਫਾ ਕਮਾ ਰਹੇ ਹਨ। ਸ਼ਹਿਰ ਦੇ ਅਧਿਕਾਰੀਆਂ ਦਾ ਅੰਦਾਜ਼ਾ ਹੈ ਕਿ ਇਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਨੇ ਇਨ੍ਹਾਂ ਸੇਵਾਵਾਂ ਤੋਂ ਲੱਖਾਂ ਡਾਲਰ ਦੀ ਕਮਾਈ ਕੀਤੀ ਹੋ ਸਕਦੀ ਹੈ। ਕੈਲੀਫੋਰਨੀਆ ਕਾਨੂੰਨ ਦੇ ਤਹਿਤ, ਸਿਵਲ ਕਾਰਵਾਈ ਦਾ ਇੱਕ ਪ੍ਰਬੰਧ ਹੈ ਜੋ ਪੀੜਤਾਂ ਨੂੰ ਤੀਜੇ-ਧਿਰ ਦੇ ਸਹੂਲਤਕਾਰਾਂ ਦੇ ਖਿਲਾਫ ਕਾਨੂੰਨੀ ਉਪਾਅ ਮੰਗਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਟੈਕ ਕੰਪਨੀਆਂ ਨੂੰ ਭੇਜੇ ਗਏ ਪੱਤਰਾਂ ਵਿੱਚ ਇਨ੍ਹਾਂ ਕਾਨੂੰਨੀ ਉਲੰਘਣਾਵਾਂ ਲਈ ਸੰਭਾਵੀ ਸਿਵਲ ਜੁਰਮਾਨਿਆਂ ਦੀ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਗਈ ਹੈ। Apple ਅਤੇ Google ਨੂੰ ਇਨ੍ਹਾਂ ਮੰਗਾਂ 'ਤੇ ਪ੍ਰਤੀਕਿਰਿਆ ਦੇਣ ਅਤੇ ਆਪਣੇ ਸਟੋਰਾਂ 'ਤੇ ਇਨ੍ਹਾਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਮੌਜੂਦਗੀ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਨ ਲਈ 28 ਦਿਨਾਂ ਦਾ ਸਮਾਂ ਦਿੱਤਾ ਗਿਆ ਹੈ।
ਚੇਤਾਵਨੀਆਂ ਅਤੇ ਨਿਗਰਾਨੀ ਦਾ ਇਤਿਹਾਸ
ਇਹ ਮੰਗ ਪਹਿਲੀ ਵਾਰ ਨਹੀਂ ਹੈ ਕਿ ਟੈਕ ਜੈਂਟਸ ਨੂੰ ਇਸ ਮੁੱਦੇ 'ਤੇ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ ਹੈ। ਸਿਟੀ ਅਟਾਰਨੀ ਦੇ ਦਫਤਰ ਤੋਂ ਪ੍ਰਾਪਤ ਸੰਚਾਰਾਂ ਦੇ ਅਨੁਸਾਰ, ਲਗਭਗ ਇੱਕ ਸਾਲ ਤੋਂ ਦੋਵਾਂ ਕੰਪਨੀਆਂ ਨੂੰ ਇਨ੍ਹਾਂ ਐਪਸ ਲਈ ਭੁਗਤਾਨ ਪ੍ਰੋਸੈਸ ਕਰਨ ਬਾਰੇ ਸੂਚਿਤ ਕੀਤਾ ਗਿਆ ਹੈ। Tech Transparency Project (TTP) ਵਰਗੀਆਂ ਸੰਸਥਾਵਾਂ ਨੇ ਪਹਿਲਾਂ ਜਨਵਰੀ ਅਤੇ ਅਪ੍ਰੈਲ 2026 ਵਿੱਚ ਕੰਪਨੀਆਂ ਨੂੰ ਸੁਚੇਤ ਕੀਤਾ ਸੀ, ਜਿਸ ਵਿੱਚ ਮੁਨਾਫੇ ਲਈ ਡੀਪਫੇਕ ਚਿੱਤਰ ਵੇਚਣ ਵਾਲੀਆਂ ਦਰਜਨਾਂ ਐਪਸ ਬਾਰੇ ਵੇਰਵੇ ਪ੍ਰਦਾਨ ਕੀਤੇ ਗਏ ਸਨ। ਇਨ੍ਹਾਂ ਰਿਪੋਰਟਾਂ ਦੇ ਬਾਵਜੂਦ, ਜਾਂਚਕਰਤਾਵਾਂ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਐਪਸ ਡਾਊਨਲੋਡ ਲਈ ਉਪਲਬਧ ਰਹੀਆਂ ਅਤੇ ਦੋਵਾਂ ਕੰਪਨੀਆਂ ਨੇ ਕਈ ਵਾਰ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਅਜਿਹੀ ਸਮੱਗਰੀ ਵੱਲ ਨਿਰਦੇਸ਼ਿਤ ਕੀਤਾ।
AI ਰੈਗੂਲੇਸ਼ਨ ਦਾ ਟੈਕ ਜੈਂਟਸ 'ਤੇ ਪ੍ਰਭਾਵ
ਨਿਵੇਸ਼ਕਾਂ ਅਤੇ ਬਾਜ਼ਾਰ ਦੇ ਨਿਰੀਖਕਾਂ ਲਈ, ਇਹ ਵਿਕਾਸ ਜਨਰੇਟਿਵ AI ਦੀ ਦੁਰਵਰਤੋਂ ਦੇ ਸੰਬੰਧ ਵਿੱਚ ਵੱਡੀਆਂ ਟੈਕਨਾਲਜੀ ਫਰਮਾਂ 'ਤੇ ਵਧ ਰਹੇ ਰੈਗੂਲੇਟਰੀ ਦਬਾਅ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਕਿ Apple ਅਤੇ Google ਪਲੇਟਫਾਰਮ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ ਜੋ ਲੱਖਾਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਮੇਜ਼ਬਾਨੀ ਕਰਦੇ ਹਨ, ਗੈਰ-ਕਾਨੂੰਨੀ ਜਾਂ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਦੀ ਜਾਂਚ ਕਰਨ ਵਿੱਚ ਇਨ੍ਹਾਂ 'ਗੇਟਕੀਪਰਾਂ' ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਕਾਨੂੰਨਸਾਜ਼ਾਂ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਫੋਕਲ ਪੁਆਇੰਟ ਬਣ ਗਈ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਕੈਲੀਫੋਰਨੀਆ ਗੈਰ-ਸਹਿਮਤੀ ਡੀਪਫੇਕ ਚਿੱਤਰਾਂ ਦੇ ਖਿਲਾਫ ਆਪਣਾ ਸਟੈਂਡ ਮਜ਼ਬੂਤ ਕਰ ਰਿਹਾ ਹੈ, ਇਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਦੀਆਂ ਐਪ ਈਕੋਸਿਸਟਮ ਦੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਪੁਲਿਸ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਇੱਕ ਮੁੱਖ ਮਾਨੀਟਰੇਬਲ ਬਣੀ ਹੋਈ ਹੈ। ਸੰਭਾਵੀ ਸਿਵਲ ਜੁਰਮਾਨਿਆਂ ਦਾ ਵਿੱਤੀ ਪ੍ਰਭਾਵ ਅਧਿਕਾਰੀਆਂ ਦੁਆਰਾ ਚੁੱਕੇ ਗਏ ਲਾਗੂਕਰਨ ਕਾਰਵਾਈਆਂ ਦੇ ਪੈਮਾਨੇ ਅਤੇ ਕੰਪਨੀਆਂ ਰਾਜ ਦੀਆਂ ਜ਼ਰੂਰਤਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਆਪਣੀਆਂ ਮਾਡਰੇਸ਼ਨ ਨੀਤੀਆਂ ਨੂੰ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਅਨੁਕੂਲਿਤ ਕਰਦੀਆਂ ਹਨ, ਇਸ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗਾ।