AI ਦੀ ਨਫ਼ਰਤੀ ਭਾਸ਼ਣ ਫੜਨ 'ਚ ਅਸਫ਼ਲਤਾ: ਰੈਗੂਲੇਟਰੀ ਅਤੇ ਰੈਵੇਨਿਊ ਦੇ ਖਤਰੇ

ਸੰਯੁਕਤ ਰਾਸ਼ਟਰ (UN) ਦੀ ਰਿਪੋਰਟ ਮੁਤਾਬਕ, AI ਸਿਸਟਮ ਹੁਣ ਬਾਰੀਕੀ ਵਾਲੇ ਨਫ਼ਰਤੀ ਭਾਸ਼ਣ ਨੂੰ ਫੜਨ 'ਚ ਅਕਸਰ ਫੇਲ੍ਹ ਹੋ ਰਹੇ ਹਨ, ਜਿਸ ਨਾਲ ਵੱਡੇ ਟੈਕ ਪਲੇਟਫਾਰਮਾਂ ਲਈ ਮੋਡਰੇਸ਼ਨ (Moderation) ਦੀਆਂ ਵੱਡੀਆਂ ਚੁਣੌਤੀਆਂ ਖੜ੍ਹੀਆਂ ਹੋ ਗਈਆਂ ਹਨ। ਨਿਵੇਸ਼ਕਾਂ (Investors) ਲਈ, ਇਹ ਸੰਭਾਵੀ ਰੈਗੂਲੇਟਰੀ ਖਤਰੇ, ਵਧਦੇ ਕੰਪਲਾਇੰਸ ਖਰਚੇ, ਅਤੇ ਇਸ਼ਤਿਹਾਰਾਂ ਦੀ ਆਮਦਨ (Advertising Revenue) ਲਈ ਖਤਰੇ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। Meta, Google, ਅਤੇ ਹੋਰ AI ਡਿਵੈਲਪਰਾਂ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ 'ਤੇ ਹੁਣ ਕਾਨੂੰਨੀ ਜਾਂਚ ਤੋਂ ਬਚਣ ਅਤੇ ਇਸ਼ਤਿਹਾਰਦਾਤਾਵਾਂ (Advertisers) ਲਈ ਬ੍ਰਾਂਡ ਸੇਫਟੀ (Brand Safety) ਬਣਾਈ ਰੱਖਣ ਲਈ ਸੁਧਾਰ ਕਰਨ ਦਾ ਦਬਾਅ ਹੈ, ਜੋ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਲੰਬੇ ਸਮੇਂ ਦੇ ESG ਪ੍ਰਦਰਸ਼ਨ ਲਈ ਇੱਕ ਅਹਿਮ ਕਾਰਕ ਬਣਿਆ ਹੋਇਆ ਹੈ।

ਕੀ ਹੋਇਆ?

ਸੰਯੁਕਤ ਰਾਸ਼ਟਰ (United Nations) ਦੀ ਇੱਕ ਤਾਜ਼ਾ ਰਿਪੋਰਟ ਨੇ ਇੱਕ ਗੰਭੀਰ ਤਕਨੀਕੀ ਚੁਣੌਤੀ ਨੂੰ ਉਜਾਗਰ ਕੀਤਾ ਹੈ: ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਸਿਸਟਮ ਬਾਰੀਕ ਜਾਂ ਅਸਪੱਸ਼ਟ ਨਫ਼ਰਤੀ ਭਾਸ਼ਣ (Hate Speech) ਦੀ ਸਹੀ ਪਛਾਣ ਕਰਨ ਲਈ ਸੰਘਰਸ਼ ਕਰ ਰਹੇ ਹਨ। ਜਦੋਂ ਕਿ AI ਮਾਡਲ ਸਪੱਸ਼ਟ ਗਾਲ੍ਹਾਂ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਫਲੈਗ ਕਰ ਸਕਦੇ ਹਨ, ਉਹ ਅਕਸਰ ਸਕਾਰਾਤਮਕ ਸੰਦੇਸ਼ਾਂ ਵਜੋਂ ਲੁਕਾਏ ਗਏ ਨਫ਼ਰਤੀ ਭਾਸ਼ਣ ਜਾਂ ਅਪਮਾਨਜਨਕ ਸਮੱਗਰੀ ਨੂੰ ਖੁੰਝ ਜਾਂਦੇ ਹਨ ਜਿਸ ਵਿੱਚ ਕੋਈ ਸਪੱਸ਼ਟ ਸੰਕੇਤ ਨਹੀਂ ਹੁੰਦੇ। ਰਿਪੋਰਟ ਨੋਟ ਕਰਦੀ ਹੈ ਕਿ ਇਹ ਸਿਸਟਮ ਸੰਦਰਭ (Context) ਨਾਲ ਵੀ ਸੰਘਰਸ਼ ਕਰਦੇ ਹਨ, ਕਈ ਵਾਰ ਗਲਤੀ ਨਾਲ ਦੁਬਾਰਾ ਵਰਤੇ ਗਏ ਸ਼ਬਦਾਂ ਨੂੰ ਨਫ਼ਰਤੀ ਵਜੋਂ ਫਲੈਗ ਕਰਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਅਸੰਗਤ ਮੋਡਰੇਸ਼ਨ ਹੁੰਦੀ ਹੈ। ਇਹ ਮੁੱਦਾ ਵੱਡੀਆਂ ਟੈਕ ਕੰਪਨੀਆਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ ਜੋ ਗਲੋਬਲ ਪੱਧਰ 'ਤੇ ਸਮੱਗਰੀ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨ ਲਈ ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (Large Language Models) ਅਤੇ ਆਟੋਮੇਟਿਡ ਸਿਸਟਮਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀਆਂ ਹਨ।

ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਹ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ?

ਟੈਕਨਾਲੋਜੀ ਸੈਕਟਰ ਦੇ ਨਿਵੇਸ਼ਕਾਂ (Investors) ਲਈ, ਇਹ ਰਿਪੋਰਟ ਸਿਰਫ ਇੱਕ ਸੌਫਟਵੇਅਰ ਸੀਮਾ ਤੋਂ ਵੱਧ ਹੈ। ਇਹ ਇੱਕ ਕਾਰਜਕਾਰੀ (Operational) ਅਤੇ ਵਿੱਤੀ ਜੋਖਮ (Financial Risk) ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ। ਸੋਸ਼ਲ ਮੀਡੀਆ ਕੰਪਨੀਆਂ ਅਤੇ ਪਲੇਟਫਾਰਮ ਆਪਰੇਟਰ ਇਸ਼ਤਿਹਾਰਾਂ ਦੀ ਆਮਦਨ (Advertising Revenue) 'ਤੇ ਭਾਰੀ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਅਤੇ ਇਸ਼ਤਿਹਾਰਦਾਤਾ ਇਸ ਗੱਲ ਪ੍ਰਤੀ ਵੱਧ ਰਹੇ ਸੰਵੇਦਨਸ਼ੀਲ ਹਨ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਇਸ਼ਤਿਹਾਰ ਕਿੱਥੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ। ਜੇਕਰ ਕੋਈ ਪਲੇਟਫਾਰਮ ਨਫ਼ਰਤੀ ਭਾਸ਼ਣ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਵੱਡੇ ਇਸ਼ਤਿਹਾਰ ਦੇਣ ਵਾਲੇ ਸਹਿਭਾਗੀਆਂ ਨੂੰ ਗੁਆਉਣ ਦਾ ਜੋਖਮ ਉਠਾਉਂਦਾ ਹੈ, ਜੋ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਆਮਦਨ ਵਾਧੇ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਮੋਡਰੇਸ਼ਨ ਲਈ AI 'ਤੇ ਨਿਰਭਰਤਾ ਇੱਕ ਲਾਗਤ-ਬਚਤ (Cost-saving) ਉਪਾਅ ਹੈ। ਜੇ AI ਪ੍ਰਦਰਸ਼ਨ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦਾ ਹੈ, ਤਾਂ ਕੰਪਨੀਆਂ ਨੂੰ ਮਨੁੱਖੀ ਮੋਡਰੇਟਰਾਂ 'ਤੇ ਖਰਚਾ ਵਧਾਉਣਾ ਪੈ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਕਾਰਜਕਾਰੀ ਖਰਚੇ ਵਧਣਗੇ ਅਤੇ ਮੁਨਾਫੇ ਦੇ ਮਾਰਜਨ (Profit Margins) 'ਤੇ ਦਬਾਅ ਪਵੇਗਾ।

ਰੈਗੂਲੇਟਰੀ ਅਤੇ ESG ਖਤਰੇ

ਤਤਕਾਲ ਕਾਰਜਕਾਰੀ ਖਰਚਿਆਂ ਤੋਂ ਪਰੇ, ਇੱਕ ਵਧ ਰਿਹਾ ਰੈਗੂਲੇਟਰੀ ਜੋਖਮ (Regulatory Risk) ਹੈ। ਸਰਕਾਰਾਂ ਅਤੇ ਅੰਤਰਰਾਸ਼ਟਰੀ ਸੰਸਥਾਵਾਂ ਆਨਲਾਈਨ ਸੁਰੱਖਿਆ ਅਤੇ ਡਿਜੀਟਲ ਸਮੱਗਰੀ ਪ੍ਰਬੰਧਨ ਬਾਰੇ ਕਾਨੂੰਨਾਂ ਨੂੰ ਸਖਤ ਕਰ ਰਹੀਆਂ ਹਨ। ਅਸੰਗਤ ਮੋਡਰੇਸ਼ਨ ਭਾਰੀ ਜੁਰਮਾਨੇ ਅਤੇ ਕਾਨੂੰਨੀ ਲੜਾਈਆਂ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਯੂਰਪੀਅਨ ਯੂਨੀਅਨ ਵਰਗੇ ਬਾਜ਼ਾਰਾਂ ਵਿੱਚ ਜਿੱਥੇ ਡਿਜੀਟਲ ਸੁਰੱਖਿਆ ਕਾਨੂੰਨਾਂ ਨੂੰ ਸਖਤੀ ਨਾਲ ਲਾਗੂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਸਮੱਗਰੀ ਮੋਡਰੇਸ਼ਨ ਇਨਵਾਇਰਨਮੈਂਟਲ, ਸੋਸ਼ਲ, ਅਤੇ ਗਵਰਨੈਂਸ (ESG) ਸਕੋਰਿੰਗ ਵਿੱਚ ਇੱਕ ਮੁੱਖ ਮੈਟ੍ਰਿਕ ਹੈ। ਸੰਸਥਾਗਤ ਨਿਵੇਸ਼ਕ ਅਕਸਰ ਇਹਨਾਂ ਸਕੋਰਾਂ ਦੀ ਵਰਤੋਂ ਇਹ ਫੈਸਲਾ ਕਰਨ ਲਈ ਕਰਦੇ ਹਨ ਕਿ ਕਿੱਥੇ ਪੂੰਜੀ ਨਿਵੇਸ਼ ਕਰਨੀ ਹੈ। ਨਫ਼ਰਤੀ ਭਾਸ਼ਣ ਮੋਡਰੇਸ਼ਨ ਨਾਲ ਲਗਾਤਾਰ ਸਮੱਸਿਆਵਾਂ ਕੰਪਨੀ ਦੀ ESG ਰੇਟਿੰਗ 'ਤੇ ਨਕਾਰਾਤਮਕ ਅਸਰ ਪਾ ਸਕਦੀਆਂ ਹਨ, ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਵੱਡੇ ਸੰਸਥਾਗਤ ਫੰਡਾਂ ਤੋਂ ਦਿਲਚਸਪੀ ਸੀਮਤ ਕਰ ਸਕਦੀਆਂ ਹਨ।

ਪਲੇਟਫਾਰਮ ਰਣਨੀਤੀਆਂ ਅਤੇ ਕਾਰਜਕਾਰੀ ਚੁਣੌਤੀਆਂ

ਵੱਖ-ਵੱਖ ਟੈਕ ਜਾਇੰਟਸ ਇਨ੍ਹਾਂ ਮੋਡਰੇਸ਼ਨ ਚੁਣੌਤੀਆਂ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਵੱਖ-ਵੱਖ ਰਣਨੀਤੀਆਂ ਅਪਣਾ ਰਹੇ ਹਨ। ਕੁਝ ਪਲੇਟਫਾਰਮਾਂ ਨੇ ਉਪਭੋਗਤਾ-ਦੁਆਰਾ-ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਸਮੱਗਰੀ ਦੇ ਹੱਕ ਵਿੱਚ ਸਰਗਰਮ ਹਟਾਉਣ (Proactive Removal) ਨੂੰ ਘਟਾ ਦਿੱਤਾ ਹੈ, ਜਦੋਂ ਕਿ ਹੋਰ ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਫਲੈਗ ਕੀਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਸਮੱਗਰੀ ਨੂੰ ਫੜਨ ਲਈ ਆਟੋਮੇਟਿਡ ਸਿਸਟਮਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ। ਉਦਯੋਗਿਕ ਮਿਆਰ ਦੀ ਇਸ ਇਕਸਾਰਤਾ ਦੀ ਘਾਟ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਟਰੈਕ ਕਰਨ ਲਈ ਇੱਕ ਗੁੰਝਲਦਾਰ ਮਾਹੌਲ ਬਣਾਉਂਦੀ ਹੈ। ਇਹਨਾਂ ਰਣਨੀਤੀਆਂ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਉਪਭੋਗਤਾ ਧਾਰਨ (User Retention) ਅਤੇ ਪਲੇਟਫਾਰਮ ਸਿਹਤ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀ ਹੈ। ਇੱਕ ਪਲੇਟਫਾਰਮ ਜੋ ਆਪਣੇ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਸੁਰੱਖਿਆ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦਾ ਹੈ ਜਾਂ ਇੱਕ ਜ਼ਹਿਰੀਲਾ ਮਾਹੌਲ ਬਣਾਉਂਦਾ ਹੈ, ਉਹ ਸਰਗਰਮ ਰੋਜ਼ਾਨਾ ਉਪਭੋਗਤਾਵਾਂ (Active Daily Users) ਵਿੱਚ ਗਿਰਾਵਟ ਦੇਖ ਸਕਦਾ ਹੈ, ਜੋ ਲੰਬੇ ਸਮੇਂ ਦੀ ਵਿਕਾਸ ਅਤੇ ਮੁੱਲ ਨਿਰਧਾਰਨ (Valuation) ਲਈ ਇੱਕ ਮੁੱਖ ਮੈਟ੍ਰਿਕ ਹੈ।

ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਕੀ ਟਰੈਕ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?

ਨਿਵੇਸ਼ਕ ਇਹ ਨਿਗਰਾਨੀ ਕਰਨਾ ਚਾਹ ਸਕਦੇ ਹਨ ਕਿ ਇਹ ਕੰਪਨੀਆਂ ਵਧ ਰਹੇ ਮੈਨੂਅਲ ਮੋਡਰੇਸ਼ਨ ਖਰਚਿਆਂ ਦੇ ਮੁਕਾਬਲੇ ਵਧੇਰੇ ਸੂਝਵਾਨ AI ਮਾਡਲਾਂ ਦੇ ਵਿਕਾਸ ਦੀ ਲਾਗਤ ਨੂੰ ਕਿਵੇਂ ਸੰਤੁਲਿਤ ਕਰਦੇ ਹਨ। ਅਗਲੀਆਂ ਮਹੱਤਵਪੂਰਨ ਅਪਡੇਟਾਂ ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਸਮੱਗਰੀ ਸੁਰੱਖਿਆ ਬਜਟਾਂ (Content Safety Budgets) ਬਾਰੇ ਮੈਨੇਜਮੈਂਟ ਟਿੱਪਣੀਆਂ ਅਤੇ ਅੰਤਰਰਾਸ਼ਟਰੀ ਰੈਗੂਲੇਟਰੀ ਦਬਾਅ ਦੇ ਜਵਾਬ ਵਿੱਚ ਸਮੱਗਰੀ ਮੋਡਰੇਸ਼ਨ ਰਣਨੀਤੀਆਂ ਵਿੱਚ ਕਿਸੇ ਵੀ ਤਬਦੀਲੀ ਤੋਂ ਆਉਣਗੀਆਂ। ਇਹ ਟਰੈਕ ਕਰਨਾ ਵੀ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਕੀ ਕੰਪਨੀਆਂ ਨੂੰ ਸਮੱਗਰੀ ਸੁਰੱਖਿਆ ਨਾਲ ਸਬੰਧਤ ਕੋਈ ਨਵੇਂ ਜੁਰਮਾਨੇ ਜਾਂ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਸੰਭਾਵੀ ਭਵਿੱਖ ਦੀਆਂ ਦੇਣਦਾਰੀਆਂ (Liabilities) ਦੇ ਸਪੱਸ਼ਟ ਸੰਕੇਤ ਹਨ। ਅੰਤ ਵਿੱਚ, ਇਹਨਾਂ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਇਸ਼ਤਿਹਾਰਾਂ ਦੇ ਰੁਝਾਨਾਂ (Advertising Trends) ਵਿੱਚ ਬਦਲਾਅ ਨੂੰ ਦੇਖਣਾ ਇਹ ਨਿਰਧਾਰਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰੇਗਾ ਕਿ ਕੀ ਮੋਡਰੇਸ਼ਨ ਮੁੱਦੇ ਆਮਦਨ ਸਥਿਰਤਾ (Revenue Stability) ਨੂੰ ਨਕਾਰਾਤਮਕ ਤੌਰ 'ਤੇ ਪ੍ਰਭਾਵਿਤ ਕਰ ਰਹੇ ਹਨ।