AI ਦੁਰਵਰਤੋਂ ਦਾ ਖਤਰਾ ਵਧਿਆ: ਟੈਕ ਕੰਪਨੀਆਂ ਲਈ ਨਵੇਂ ਨਿਯਮਾਂ ਦੀ ਚੁਣੌਤੀ

ਭਾਰਤ ਵਿੱਚ AI ਰਾਹੀਂ ਬਣਾਈ ਜਾ ਰਹੀ ਨਕਲੀ, ਸੈਕਸੁਅਲ ਸਮੱਗਰੀ ਔਰਤਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾ ਰਹੀ ਹੈ, ਜਿਸ ਨਾਲ ਡਿਜੀਟਲ ਸੁਰੱਖਿਆ ਅਤੇ ਪਲੇਟਫਾਰਮ ਗਵਰਨੈਂਸ 'ਤੇ ਗੰਭੀਰ ਸਵਾਲ ਖੜ੍ਹੇ ਹੋ ਰਹੇ ਹਨ। ਨਿਵੇਸ਼ਕਾਂ (Investors) ਲਈ, ਇਹ ਰੁਝਾਨ ਵੱਡੀਆਂ ਟੈਕ ਕੰਪਨੀਆਂ ਲਈ ਵਧ ਰਹੇ ਰੈਗੂਲੇਟਰੀ (Regulatory) ਅਤੇ ESG ਜੋਖਮਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।

ਕੀ ਹੋਇਆ?

Center for the Study of Organized Hate (CSOH) ਦੀ ਇੱਕ ਤਾਜ਼ਾ ਰਿਪੋਰਟ ਨੇ ਇੱਕ ਚਿੰਤਾਜਨਕ ਰੁਝਾਨ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ ਹੈ: ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦਾ ਇਸਤੇਮਾਲ ਕਰਕੇ ਭਾਰਤ ਵਿੱਚ ਮੁਸਲਿਮ ਔਰਤਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਵਾਲੀ ਨਕਲੀ, ਸੈਕਸੁਅਲ ਸਮੱਗਰੀ ਬਣਾਈ ਅਤੇ ਫੈਲਾਈ ਜਾ ਰਹੀ ਹੈ। ਰਿਪੋਰਟ ਵਿੱਚ 1,300 ਤੋਂ ਵੱਧ AI-ਜਨਰੇਟਿਡ ਤਸਵੀਰਾਂ ਅਤੇ ਵੀਡੀਓਜ਼ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ ਗਿਆ, ਜਿਸ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਇਹ ਸਮੱਗਰੀ X, Facebook, ਅਤੇ Instagram ਵਰਗੇ ਵੱਡੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਐਂਗੇਜਮੈਂਟ (Engagement) ਹਾਸਲ ਕਰਦੀ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਮੁਤਾਬਕ, ਜਨਰੇਟਿਵ AI (Generative AI) ਟੂਲਜ਼ ਨੇ ਵਿਅਕਤੀਆਂ ਲਈ ਬਿਨਾਂ ਕਿਸੇ ਉੱਨਤ ਤਕਨੀਕੀ ਹੁਨਰ ਦੇ, ਦੁਸ਼ਮਣੀ ਵਾਲੀਆਂ ਗੱਲਾਂ ਨੂੰ ਅਸਲੀ, ਦੁਰਵਿਵਹਾਰਕ ਵੀਡੀਓ ਸਮੱਗਰੀ ਵਿੱਚ ਬਦਲਣਾ ਆਸਾਨ ਅਤੇ ਸਸਤਾ ਬਣਾ ਦਿੱਤਾ ਹੈ।

ਰਿਪੋਰਟ ਇਹ ਵੀ ਦੱਸਦੀ ਹੈ ਕਿ ਇਹ ਦੁਰਵਿਵਹਾਰ ਸਿਰਫ ਮਸ਼ਹੂਰ ਹਸਤੀਆਂ ਤੱਕ ਸੀਮਿਤ ਨਹੀਂ ਹੈ। ਮੁੰਬਈ ਸਥਿਤ Meri Trustline ਵਰਗੀਆਂ ਆਨਲਾਈਨ ਸੁਰੱਖਿਆ ਸੇਵਾਵਾਂ ਨੇ 2022 ਤੋਂ ਡਿਜੀਟਲੀ ਮੈਨੀਪੁਲੇਟਿਡ ਸਮੱਗਰੀ ਦੇ ਕਈ ਕੇਸਾਂ ਵਿੱਚ ਵੱਡਾ ਵਾਧਾ ਦੇਖਿਆ ਹੈ। ਪੀੜਤ ਅਕਸਰ ਇਹਨਾਂ ਤਜ਼ਰਬਿਆਂ ਨੂੰ ਡਿਜੀਟਲ ਹੈਰਾਨੀ (Digital Harassment) ਦਾ ਇੱਕ ਰੂਪ ਦੱਸਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਸਮੱਗਰੀ ਇੰਨੀ ਅਸਲੀ ਲੱਗਦੀ ਹੈ ਕਿ ਇਹ ਨਜ਼ਦੀਕੀ ਜਾਣਕਾਰਾਂ ਨੂੰ ਵੀ ਗੁੰਮਰਾਹ ਕਰ ਸਕਦੀ ਹੈ।

ਰੈਗੂਲੇਟਰੀ ਅਤੇ ਗਵਰਨੈਂਸ ਚੁਣੌਤੀ

AI-ਡ੍ਰਾਈਵਨ ਦੁਰਵਿਵਹਾਰ ਦੇ ਵਧਣ ਨਾਲ ਮੌਜੂਦਾ ਕਾਨੂੰਨੀ ਢਾਂਚਿਆਂ ਅਤੇ ਡਿਜੀਟਲ ਗਵਰਨੈਂਸ ਵਿੱਚ ਵੱਡੀਆਂ ਖਾਮੀਆਂ ਸਾਹਮਣੇ ਆਈਆਂ ਹਨ। ਕਾਨੂੰਨੀ ਮਾਹਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਭਾਰਤ ਦੀ ਇਨਫੋਰਮੇਸ਼ਨ ਟੈਕਨੋਲੋਜੀ ਐਕਟ ਦੀ ਧਾਰਾ 66E ਵਰਗੀਆਂ ਮੌਜੂਦਾ ਵਿਵਸਥਾਵਾਂ ਪੂਰੀ ਤਰ੍ਹਾਂ AI-ਜਨਰੇਟਿਡ ਸਮੱਗਰੀ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਕਾਫੀ ਨਹੀਂ ਹਨ। ਇਹ ਕਾਨੂੰਨ ਮੁੱਖ ਤੌਰ 'ਤੇ ਕਿਸੇ ਵਿਅਕਤੀ ਦੇ ਨਿੱਜੀ ਅੰਗਾਂ ਦੀ ਸਹਿਮਤੀ ਤੋਂ ਬਿਨਾਂ ਰਿਕਾਰਡਿੰਗ ਜਾਂ ਪ੍ਰਕਾਸ਼ਨ 'ਤੇ ਕੇਂਦਰਿਤ ਹਨ, ਜਿਸ ਨਾਲ ਅਜਿਹੇ ਕੇਸਾਂ 'ਤੇ ਮੁਕੱਦਮਾ ਚਲਾਉਣਾ ਮੁਸ਼ਕਲ ਹੋ ਸਕਦਾ ਹੈ ਜਿੱਥੇ ਸਮੱਗਰੀ ਅਸਲ ਦੀ ਬਜਾਏ ਸਿੰਥੈਟਿਕ (Synthetic) ਹੋਵੇ।

ਇਸ ਤੋਂ ਇਲਾਵਾ, "ਸੇਫ ਹਾਰਬਰ" (Safe Harbour) ਸੁਰੱਖਿਆ, ਜੋ ਆਮ ਤੌਰ 'ਤੇ ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਪੋਸਟ ਕੀਤੀ ਗਈ ਸਮੱਗਰੀ ਲਈ ਡਿਜੀਟਲ ਪਲੇਟਫਾਰਮਾਂ ਦੀ ਦੇਣਦਾਰੀ ਨੂੰ ਸੀਮਤ ਕਰਦੀ ਹੈ, ਵਿਵਾਦ ਦਾ ਵਿਸ਼ਾ ਬਣੀ ਹੋਈ ਹੈ। ਪੀੜਤ ਅਤੇ ਇੰਟਰਨੈਟ ਫਰੀਡਮ ਫਾਊਂਡੇਸ਼ਨ (Internet Freedom Foundation) ਵਰਗੇ ਵਕੀਲਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਸੁਰੱਖਿਆ ਹਾਨੀਕਾਰਕ ਸਮੱਗਰੀ ਨੂੰ ਤੁਰੰਤ ਹਟਾਉਣ ਵਿੱਚ ਮੁਸ਼ਕਲ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ। ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਕੋਲ ਅਜਿਹੀਆਂ ਘਟਨਾਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਦੇ ਬਾਵਜੂਦ, ਪੀੜਤਾਂ ਨੂੰ ਅਕਸਰ ਸੀਮਤ ਸਫਲਤਾ ਮਿਲਦੀ ਹੈ, ਜਿਸ ਕਾਰਨ ਉਨ੍ਹਾਂ ਨੂੰ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਦਬਾਅ ਪਾਉਣ ਵਾਸਤੇ ਆਪਣੇ ਭਾਈਚਾਰਿਆਂ ਦੀ ਮਦਦ 'ਤੇ ਨਿਰਭਰ ਰਹਿਣਾ ਪੈਂਦਾ ਹੈ।

ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਪਲੇਟਫਾਰਮ ਜਵਾਬਦੇਹੀ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ?

ਨਿਵੇਸ਼ਕਾਂ ਅਤੇ ਬਾਜ਼ਾਰ ਵਿਸ਼ਲੇਸ਼ਕਾਂ ਲਈ, ਇਹ ਮੁੱਦਾ ਵਾਤਾਵਰਣ, ਸਮਾਜਿਕ ਅਤੇ ਸ਼ਾਸਨ (ESG) ਮਾਪਦੰਡਾਂ ਅਤੇ ਪਲੇਟਫਾਰਮ ਦੇਣਦਾਰੀ ਦੇ ਵਿਚਕਾਰ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ AI ਟੂਲਜ਼ ਵਧੇਰੇ ਪਹੁੰਚਯੋਗ ਹੁੰਦੇ ਜਾਣਗੇ, ਸਿੰਥੈਟਿਕ ਦੁਰਵਿਵਹਾਰ ਦੀ ਮਾਤਰਾ ਵਧਣ ਦੀ ਸੰਭਾਵਨਾ ਹੈ, ਜੋ ਟੈਕਨੋਲੋਜੀ ਕੰਪਨੀਆਂ 'ਤੇ ਆਪਣੇ ਕੰਟੈਂਟ ਮੋਡਰੇਸ਼ਨ (Content Moderation) ਸਿਸਟਮ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਦਾ ਦਬਾਅ ਪਾਵੇਗੀ।

ਨਿਵੇਸ਼ਕ ਆਮ ਤੌਰ 'ਤੇ ਇਹ ਦੇਖਦੇ ਹਨ ਕਿ ਕੰਪਨੀਆਂ ਅਜਿਹੀਆਂ ਚੁਣੌਤੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਿਵੇਂ ਕਰਦੀਆਂ ਹਨ, ਕਿਉਂਕਿ ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਨਿਯੰਤਰਿਤ ਕਰਨ ਵਿੱਚ ਅਸਫਲਤਾ ਕਾਰਨ ਗੰਭੀਰ ਪ੍ਰਤਿਸ਼ਠਾ ਨੂੰ ਨੁਕਸਾਨ, ਵਧੇਰੇ ਰੈਗੂਲੇਟਰੀ ਜਾਂਚ, ਅਤੇ ਜੁਰਮਾਨੇ ਜਾਂ ਪਾਬੰਦੀ ਵਾਲੇ ਨੀਤੀ ਬਦਲਾਵਾਂ ਦਾ ਜੋਖਮ ਹੋ ਸਕਦਾ ਹੈ। ਜਦੋਂ ਪਲੇਟਫਾਰਮ ਹਾਨੀਕਾਰਕ AI-ਜਨਰੇਟਿਡ ਸਮੱਗਰੀ ਦੇ ਫੈਲਾਅ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਸੰਘਰਸ਼ ਕਰਦੇ ਹਨ, ਤਾਂ ਇਹ ਉਪਭੋਗਤਾ ਦੇ ਭਰੋਸੇ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਇਹਨਾਂ ਕੰਪਨੀਆਂ ਦੇ ਕੰਮ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਦੇ ਡਿਜੀਟਲ ਵਾਤਾਵਰਣ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਦੇ ਤਰੀਕਿਆਂ ਬਾਰੇ ਸਖਤ ਸਰਕਾਰੀ ਨਿਗਰਾਨੀ ਵੱਲ ਲੈ ਜਾ ਸਕਦਾ ਹੈ।

ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਕੀ ਟਰੈਕ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?

ਅੱਗੇ ਵਧਦੇ ਹੋਏ, ਬਾਜ਼ਾਰ ਭਾਗੀਦਾਰਾਂ ਲਈ ਮੁੱਖ ਨਿਗਰਾਨੀਯੋਗ ਚੀਜ਼ਾਂ ਵਿੱਚ ਰਾਸ਼ਟਰੀ ਡਿਜੀਟਲ ਨੀਤੀਆਂ ਵਿੱਚ ਅਪਡੇਟ ਅਤੇ ਇਨਫੋਰਮੇਸ਼ਨ ਟੈਕਨੋਲੋਜੀ ਐਕਟ ਵਿੱਚ ਸੰਭਾਵੀ ਸੋਧਾਂ ਸ਼ਾਮਲ ਹਨ ਜੋ ਖਾਸ ਤੌਰ 'ਤੇ AI-ਜਨਰੇਟਿਡ ਦੁਰਵਿਵਹਾਰ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਨਿਵੇਸ਼ਕ ਵਿਸ਼ਵਵਿਆਪੀ ਟੈਕ ਕੰਪਨੀਆਂ ਦੀਆਂ ਕੰਟੈਂਟ ਮੋਡਰੇਸ਼ਨ ਨੀਤੀਆਂ ਅਤੇ AI ਗਵਰਨੈਂਸ ਦੇ ਮਾਪਦੰਡਾਂ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਨੂੰ ਵੀ ਦੇਖ ਸਕਦੇ ਹਨ। ਇਹਨਾਂ ਫਰਮਾਂ ਦੀ ਸਿੰਥੈਟਿਕ ਅਤੇ ਦੁਰਵਿਵਹਾਰਕ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸਿਸਟਮਾਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨ, ਲਾਗੂ ਕਰਨ ਅਤੇ ਬਣਾਈ ਰੱਖਣ ਦੀ ਸਮਰੱਥਾ ਲੰਬੇ ਸਮੇਂ ਦੇ ਰੈਗੂਲੇਟਰੀ ਅਤੇ ਸਮਾਜਿਕ ਜੋਖਮਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਵਿੱਚ ਇੱਕ ਮੁੱਖ ਕਾਰਕ ਹੋਵੇਗੀ।