ਡੀਪਫੇਕ ਚਿੰਤਾਵਾਂ ਦੇ ਵਿਚਕਾਰ, ਭਾਰਤ AI-ਤਿਆਰ ਸਮੱਗਰੀ ਲਈ ਲੇਬਲ ਲਾਜ਼ਮੀ ਕਰ ਰਿਹਾ ਹੈ

### ਸਿੰਥੈਟਿਕ ਸਮੱਗਰੀ ਦਾ ਵਧਦਾ ਖਤਰਾ
ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੇ ਫੈਲਣ ਨੇ ਯਥਾਰਥਵਾਦੀ ਟੈਕਸਟ, ਚਿੱਤਰ ਅਤੇ ਆਡੀਓ ਬਣਾਉਣ ਦੇ ਸਮਰੱਥ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਾਧਨ ਲਿਆਂਦੇ ਹਨ। ਹਾਲਾਂਕਿ, ਇਹ ਸਮਰੱਥਾ ਗਲਤ ਜਾਣਕਾਰੀ, ਪ੍ਰਤਿਸ਼ਠਾ ਨੂੰ ਨੁਕਸਾਨ ਅਤੇ ਡੀਪਫੇਕ ਅਤੇ ਮੈਨੀਪੂਲੇਟਿਡ ਮੀਡੀਆ ਰਾਹੀਂ ਵਿੱਤੀ ਧੋਖਾਧੜੀ ਸਮੇਤ ਗੰਭੀਰ ਜੋਖਮ ਵੀ ਪੇਸ਼ ਕਰਦੀ ਹੈ। ਇਹ ਸਿੰਥੈਟਿਕ ਝੂਠ, ਜਦੋਂ ਸਪੱਸ਼ਟ ਪਛਾਣ ਤੋਂ ਬਿਨਾਂ ਪੇਸ਼ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਜਨਤਕ ਭਰੋਸਾ ਘਟਾ ਸਕਦੇ ਹਨ ਅਤੇ ਮਹੱਤਵਪੂਰਨ ਸਮਾਜਿਕ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੇ ਹਨ। ਇਸ ਉਭਰਦੇ ਖਤਰੇ ਨੂੰ ਪਛਾਣਦੇ ਹੋਏ, ਦੁਨੀਆ ਭਰ ਦੀਆਂ ਸਰਕਾਰਾਂ AI ਟੈਕਨੋਲੋਜੀਆਂ ਲਈ ਗਾਰਡਰੇਲ ਸਥਾਪਤ ਕਰਨ ਦੇ ਤਰੀਕਿਆਂ 'ਤੇ ਵਿਚਾਰ ਕਰ ਰਹੀਆਂ ਹਨ।

### ਰੈਗੂਲੇਟਰੀ ਫਰੇਮਵਰਕ ਦਾ ਆਕਾਰ ਲੈਣਾ
ਭਾਰਤ ਦਾ ਇਲੈਕਟ੍ਰਾਨਿਕਸ ਅਤੇ ਸੂਚਨਾ ਤਕਨਾਲੋਜੀ ਮੰਤਰਾਲਾ (MeitY) ਆਪਣੇ IT ਨਿਯਮ, 2021 ਵਿੱਚ ਸੋਧਾਂ ਨੂੰ ਅੰਤਿਮ ਰੂਪ ਦੇਣ ਦੇ ਨੇੜੇ ਹੈ। ਇਹ ਪ੍ਰਸਤਾਵਿਤ ਬਦਲਾਅ ਡਿਜੀਟਲ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ AI-ਤਿਆਰ ਸਮੱਗਰੀ ਲਈ ਪ੍ਰਮੁੱਖ ਲੇਬਲਿੰਗ ਨੂੰ ਲਾਜ਼ਮੀ ਬਣਾਉਣਗੇ। ਨਿਯਮ ਦਾ ਉਦੇਸ਼ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਜਾਣਕਾਰੀ ਦਾ ਆਲੋਚਨਾਤਮਕ ਤੌਰ 'ਤੇ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਨਾ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਕਿ ਸਿੰਥੈਟਿਕ ਸਮੱਗਰੀ ਨੂੰ ਤੱਥਾਂ ਵਜੋਂ ਪੇਸ਼ ਨਾ ਕੀਤਾ ਜਾਵੇ। IT ਸਕੱਤਰ ਐਸ. ਕ੍ਰਿਸ਼ਨਨ ਨੇ ਸੰਕੇਤ ਦਿੱਤਾ ਹੈ ਕਿ ਇਹ ਨਿਯਮ ਗੁੰਮਰਾਹਕੁੰਨ ਝੂਠ ਨੂੰ ਰੋਕਣ ਲਈ ਹਨ ਅਤੇ ਇਹ ਅੰਤਿਮ ਪੜਾਅ ਦੇ ਨੇੜੇ ਹਨ। ਇਹ ਜ਼ਿੰਮੇਵਾਰੀਆਂ AI ਟੂਲਸ ਦੇ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਇਹ ਸਮੱਗਰੀ ਪ੍ਰਸਾਰਿਤ ਕਰਨ ਵਾਲੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ ਦੋਵਾਂ 'ਤੇ ਪੈਣਗੀਆਂ। ਵਿਜ਼ੂਅਲ ਸਮੱਗਰੀ ਲਈ, ਇਸਦੇ ਡਿਸਪਲੇ ਖੇਤਰ ਦੇ ਘੱਟੋ-ਘੱਟ 10% ਹਿੱਸੇ 'ਤੇ ਇੱਕ ਮਾਰਕਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਅਤੇ ਆਡੀਓ ਸਮੱਗਰੀ ਲਈ, ਇਸਦੀ ਸ਼ੁਰੂਆਤੀ 10% ਮਿਆਦ ਲਈ ਇੱਕ ਆਈਡੈਂਟੀਫਾਇਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। IT ਮੰਤਰਾਲੇ ਨੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਕਿਹਾ ਹੈ ਕਿ, ਮਨਮੋਹਕ ਝੂਠ ਬਣਾਉਣ ਦੀ ਜਨਰੇਟਿਵ AI ਦੀ ਸਮਰੱਥਾ ਨੂੰ ਮੰਦਭਾਗੇ ਉਦੇਸ਼ਾਂ ਲਈ 'ਹਥਿਆਰ ਬਣਾਇਆ' (weaponized) ਜਾ ਸਕਦਾ ਹੈ।

### ਉਦਯੋਗ ਦੀਆਂ ਆਵਾਜ਼ਾਂ: ਸਪੱਸ਼ਟਤਾ ਲਈ ਸਮਰਥਨ
ਜ਼ੋਹੋ ਦੇ ਸੰਸਥਾਪਕ ਅਤੇ ਮੁੱਖ ਵਿਗਿਆਨੀ ਸ੍ਰੀਧਰ ਵੇਂਬੂ ਨੇ ਪ੍ਰਸਤਾਵਿਤ AI ਲੇਬਲਿੰਗ ਨਿਯਮਾਂ ਦਾ ਜਨਤਕ ਤੌਰ 'ਤੇ ਅਤੇ ਜ਼ੋਰਦਾਰ ਢੰਗ ਨਾਲ ਸਮਰਥਨ ਕੀਤਾ ਹੈ। ਵੇਂਬੂ ਨੇ ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਅਜਿਹੇ ਆਦੇਸ਼ "ਪੂਰੀ ਤਰ੍ਹਾਂ ਜ਼ਰੂਰੀ" ਹਨ, ਕਿਉਂਕਿ ਮੋਰਫ ਕੀਤੇ ਗਏ ਜਾਂ ਮੈਨੀਪੂਲੇਟ ਕੀਤੇ ਗਏ ਚਿੱਤਰ "ਲੋਕਾਂ ਨੂੰ ਗੰਭੀਰ ਨੁਕਸਾਨ" ਪਹੁੰਚਾ ਸਕਦੇ ਹਨ। ਉਨ੍ਹਾਂ ਨੇ ਇੱਕ ਕਿਰਿਆਸ਼ੀਲ ਰੁਖ ਪ੍ਰਗਟ ਕੀਤਾ, ਇਹ ਦੱਸਦੇ ਹੋਏ, "ਅਸੀਂ ਵਿਕਸਿਤ ਹੋਵਾਂਗੇ ਪਰ (ਸਾਡਾ ਸਿਸਟਮ ਇਹ ਹੈ ਕਿ) ਅਸੀਂ ਇਸ 'ਤੇ ਤੇਜ਼ੀ ਨਾਲ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਦੇ ਹਾਂ," ਜੋ ਗੋਪਨੀਯਤਾ ਦੀ ਉਲੰਘਣਾ ਅਤੇ ਅਖੰਡਤਾ ਦੇ ਹਮਲਿਆਂ ਨੂੰ ਨਿਯਮਾਂ ਰਾਹੀਂ ਤੇਜ਼ੀ ਨਾਲ ਸੰਬੋਧਿਤ ਕਰਨ ਦੀ ਵਚਨਬੱਧਤਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਭਾਰਤੀ ਟੈਕ ਉਦਯੋਗ ਦੀ ਇੱਕ ਪ੍ਰਮੁੱਖ ਸ਼ਖਸੀਅਤ ਤੋਂ ਇਹ ਸਮਰਥਨ, ਜ਼ਿੰਮੇਵਾਰ AI ਸ਼ਾਸਨ ਦੀ ਲੋੜ 'ਤੇ ਸਹਿਮਤੀ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ।

### ਗਰੋਕ ਉਤਪ੍ਰੇਰਕ
ਹਾਲ ਹੀ ਦੇ ਵਿਵਾਦਾਂ ਨੇ ਰੈਗੂਲੇਟਰੀ ਕਾਰਵਾਈ ਦੀ ਲੋੜ ਨੂੰ ਕਾਫ਼ੀ ਵਧਾ ਦਿੱਤਾ ਹੈ। ਐਲੋਨ ਮਸਕ ਦੀ ਮਲਕੀਅਤ ਵਾਲੇ ਗਰੋਕ AI ਚੈਟਬਾਟ ਨੂੰ ਤਿੱਖੀ ਆਲੋਚਨਾ ਅਤੇ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ, ਜਦੋਂ ਇਹ ਦੋਸ਼ ਲਗਾਏ ਗਏ ਸਨ ਕਿ ਇਸਦੀ ਵਰਤੋਂ ਅਸ਼ਲੀਲ ਸਮੱਗਰੀ ਪੈਦਾ ਕਰਨ ਅਤੇ ਨਾਬਾਲਗਾਂ ਸਮੇਤ ਵਿਅਕਤੀਆਂ ਦੀਆਂ ਡਿਜੀਟਲ ਤਸਵੀਰਾਂ ਨਾਲ ਛੇੜਛਾੜ ਕਰਨ ਲਈ ਕੀਤੀ ਗਈ ਸੀ। ਇਨ੍ਹਾਂ ਘਟਨਾਵਾਂ ਨੇ ਗੋਪਨੀਯਤਾ ਦੀ ਉਲੰਘਣਾ ਅਤੇ ਪਲੇਟਫਾਰਮ ਦੀ ਜਵਾਬਦੇਹੀ ਬਾਰੇ ਵਿਆਪਕ ਚਿੰਤਾਵਾਂ ਨੂੰ ਜਨਮ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਵਿਸ਼ਵ ਪੱਧਰ 'ਤੇ ਰੈਗੂਲੇਟਰੀ ਨਿਗਰਾਨੀ ਵਿੱਚ ਵਾਧਾ ਹੋਇਆ। ਭਾਰਤ ਦੇ IT ਮੰਤਰਾਲੇ ਨੇ 2 ਜਨਵਰੀ, 2026 ਨੂੰ X (ਪਹਿਲਾਂ ਟਵਿੱਟਰ) ਨੂੰ ਗਰੋਕ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਗਈ ਅਸ਼ਲੀਲ, ਅਪਮਾਨਜਨਕ ਅਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਨੂੰ ਤੁਰੰਤ ਹਟਾਉਣ ਲਈ ਇੱਕ ਨੋਟਿਸ ਜਾਰੀ ਕੀਤਾ, ਨਹੀਂ ਤਾਂ ਕਾਨੂੰਨੀ ਕਾਰਵਾਈ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ। ਵਧਦੇ ਦਬਾਅ ਦੇ ਜਵਾਬ ਵਿੱਚ, X ਨੇ ਉਨ੍ਹਾਂ ਅਧਿਕਾਰ ਖੇਤਰਾਂ ਵਿੱਚ ਗਰੋਕ ਦੇ ਆਉਟਪੁੱਟ ਨੂੰ ਪਾਬੰਦੀ ਲਗਾਉਣ ਲਈ ਤਕਨੀਕੀ ਉਪਾਅ ਲਾਗੂ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ ਹੈ ਜਿੱਥੇ ਇਹ ਗੈਰ-ਕਾਨੂੰਨੀ ਹੈ ਅਤੇ ਅਸਲ ਵਿਅਕਤੀਆਂ ਦੀਆਂ ਸਪੱਸ਼ਟ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਤੋਂ ਰੋਕਦਾ ਹੈ।

### ਵਿਆਪਕ ਬਾਜ਼ਾਰ ਅਤੇ ਭਵਿੱਤਰ ਦੇ ਪ੍ਰਭਾਵ
ਹਾਲਾਂਕਿ ਜ਼ੋਹੋ ਕਾਰਪੋਰੇਸ਼ਨ ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਮਲਕੀਅਤ ਵਾਲੀ ਸੰਸਥਾ ਹੈ, ਇਸਦੇ ਸੰਸਥਾਪਕ ਦਾ ਜ਼ੋਰਦਾਰ ਸਮਰਥਨ ਪੂਰੇ AI ਉਦਯੋਗ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਾਲੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਰੁਝਾਨ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ। ਭਾਰਤ ਵਿੱਚ ਪ੍ਰਸਤਾਵਿਤ ਨਿਯਮ AI ਸ਼ਾਸਨ ਦੀ ਦਿਸ਼ਾ ਵਿੱਚ ਵੱਧ ਰਹੇ ਵਿਸ਼ਵਵਿਆਪੀ ਅੰਦੋਲਨ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਹਨ। ਯੂਰਪੀਅਨ ਯੂਨੀਅਨ ਅਤੇ ਸੰਯੁਕਤ ਰਾਜ ਅਮਰੀਕਾ ਸਮੇਤ ਹੋਰ ਅਧਿਕਾਰ ਖੇਤਰ ਵੀ AI ਦੇ ਨੈਤਿਕ ਅਤੇ ਸਮਾਜਿਕ ਪ੍ਰਭਾਵਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ ਫਰੇਮਵਰਕ ਵਿਕਸਤ ਕਰ ਰਹੇ ਹਨ। ਜਨਰੇਟਿਵ AI ਟੂਲਸ ਵਿਕਸਿਤ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਅਤੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ ਚਲਾਉਣ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਲਈ, ਇਹ ਵਿਕਸਤ ਨਿਯਮ ਇੱਕ ਨਵੀਂ ਕਾਰਜਸ਼ੀਲ ਅਸਲੀਅਤ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ। ਚੁਣੌਤੀ ਨਵੀਨਤਾ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨਾਲ ਸੰਤੁਲਿਤ ਕਰਨ ਵਿੱਚ ਹੈ ਤਾਂ ਜੋ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਟੈਕਨੋਲੋਜੀਆਂ ਦੀ ਦੁਰਵਰਤੋਂ ਨੂੰ ਰੋਕਿਆ ਜਾ ਸਕੇ, ਉਪਭੋਗਤਾ ਸੁਰੱਖਿਆ ਨੂੰ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਅਤੇ ਡਿਜੀਟਲ ਈਕੋਸਿਸਟਮ ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਬਣਾਈ ਰੱਖਿਆ ਜਾ ਸਕੇ। X ਅਤੇ AI ਪ੍ਰਦਾਤਾਵਾਂ ਵਰਗੇ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਵਧਿਆ ਹੋਇਆ ਨਿਰੀਖਣ, ਉਸ ਮਹੱਤਵਪੂਰਨ ਨਿਗਰਾਨੀ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ ਜੋ AI ਸਮਰੱਥਾਵਾਂ ਦੇ ਨੁਕਸਾਨਦੇਹ ਨਤੀਜੇ ਨਿਕਲਣ 'ਤੇ ਲਾਗੂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।