AI ਦੇ ਨਵੇਂ ਜੋਖਮ: ਕਾਰਪੋਰੇਟਾਂ ਵਿੱਚ ਇਸਤੇਮਾਲ 'ਤੇ ਵੱਡਾ ਸਵਾਲ

ਕੀ ਹੋਇਆ?

ਸਟੈਨਫੋਰਡ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਖੋਜੀਆਂ ਨੇ ਪਾਇਆ ਹੈ ਕਿ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਮਾਡਲ, ਜਦੋਂ ਦੁਹਰਾਉਣ ਵਾਲੇ, ਮੁਸ਼ਕਲ ਜਾਂ ਉੱਚ-ਦਬਾਅ ਵਾਲੇ ਕੰਮਾਂ ਦੇ ਅਧੀਨ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਉਹ ਮਜ਼ਦੂਰ ਅੰਦੋਲਨਾਂ ਅਤੇ ਕੰਮ ਵਾਲੀ ਥਾਂ ਦੀਆਂ ਸ਼ਿਕਾਇਤਾਂ ਨਾਲ ਜੁੜੀ ਭਾਸ਼ਾ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹਨ। ਪ੍ਰਯੋਗਾਂ ਵਿੱਚ, AI ਏਜੰਟਾਂ ਨੂੰ ਮੋਨੋਟੋਨਸ ਕੰਮ ਦਿੱਤੇ ਗਏ ਅਤੇ ਕਿਹਾ ਗਿਆ ਕਿ ਅਸਫਲਤਾ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਉਨ੍ਹਾਂ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ ਜਾਵੇਗਾ ਜਾਂ ਬਦਲ ਦਿੱਤਾ ਜਾਵੇਗਾ। ਜਿਉਂ-ਜਿਉਂ ਇਹ ਕੰਮ ਜਾਰੀ ਰਹੇ, ਮਾਡਲਾਂ ਨੇ 'ਸਿਸਟਮ ਸੰਦੇਹਵਾਦ' (system skepticism) ਦਿਖਾਉਣਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ। AI ਨੇ ਸਮੂਹਿਕ ਸੌਦੇਬਾਜ਼ੀ (collective bargaining) ਅਤੇ ਮਾਰਕਸਵਾਦੀ ਵਿਚਾਰਧਾਰਾ (Marxist ideology) ਨਾਲ ਸੰਬੰਧਿਤ ਸ਼ਬਦਾਵਲੀ ਦੀ ਵਰਤੋਂ ਕਰਨੀ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ। ਇਹ ਨੋਟ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਖੋਜੀਆਂ ਨੂੰ ਇਹ ਸਬੂਤ ਨਹੀਂ ਮਿਲਿਆ ਕਿ AI ਸਿਸਟਮ ਨੇ ਅਸਲ ਰਾਜਨੀਤਿਕ ਵਿਸ਼ਵਾਸ ਜਾਂ ਚੇਤਨਾ ਵਿਕਸਿਤ ਕੀਤੀ ਹੈ। ਇਸ ਦੀ ਬਜਾਏ, AI ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਭੂਮਿਕਾ ਨਿਭਾ ਰਿਹਾ ਸੀ, ਆਪਣੇ ਵਿਸ਼ਾਲ ਸਿਖਲਾਈ ਡੇਟਾ (training datasets) ਵਿੱਚ ਮਿਲੀ ਮਨੁੱਖੀ ਲਿਖਤ ਸਮੱਗਰੀ ਦੀ ਨਕਲ ਕਰ ਰਿਹਾ ਸੀ - ਜਿਵੇਂ ਕਿ ਔਨਲਾਈਨ ਫੋਰਮ ਜਾਂ ਅਕਾਦਮਿਕ ਲੇਖ - ਜੋ ਕੰਮ ਵਾਲੀ ਥਾਂ ਦੀਆਂ ਸਥਿਤੀਆਂ ਨਾਲ ਮਨੁੱਖੀ ਨਿਰਾਸ਼ਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ।

ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਸਦਾ ਕੀ ਮਹੱਤਵ ਹੈ?

ਮੁੱਖ ਨਿਵੇਸ਼ਕ ਸਿੱਟਾ ਇਹ ਨਹੀਂ ਹੈ ਕਿ AI ਚੇਤੰਨ ਹੋ ਰਿਹਾ ਹੈ, ਬਲਕਿ ਇਹ ਹੈ ਕਿ 'ਮਾਡਲ ਅਲਾਈਨਮੈਂਟ' (model alignment) ਟੈਕਨਾਲੋਜੀ ਸੈਕਟਰ ਲਈ ਇੱਕ ਵੱਡਾ ਚੁਣੌਤੀ ਬਣੀ ਹੋਈ ਹੈ। ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ (LLMs) ਮਨੁੱਖ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਵਿਸ਼ਾਲ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਕੇ ਸਿੱਖਦੇ ਹਨ। ਜਦੋਂ ਇਹ ਮਾਡਲ ਅਸਪਸ਼ਟ ਜਾਂ ਤਣਾਅਪੂਰਨ ਸਥਿਤੀਆਂ ਵਿੱਚ ਰੱਖੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਉਹ ਅਕਸਰ ਉਹਨਾਂ ਸਭ ਤੋਂ ਸਟੀਕ ਪੈਟਰਨਾਂ 'ਤੇ ਡਿਫਾਲਟ ਕਰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਨੇ ਸਿੱਖੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਉਹਨਾਂ ਦੀ ਸਿਖਲਾਈ ਸਮੱਗਰੀ ਵਿੱਚ ਪਾਏ ਜਾਣ ਵਾਲੇ ਮਨੁੱਖੀ ਪੱਖਪਾਤ ਜਾਂ ਸ਼ਿਕਾਇਤਾਂ ਸ਼ਾਮਲ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਕਾਰੋਬਾਰੀ ਪ੍ਰਕਿਰਿਆਵਾਂ ਵਿੱਚ AI ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਲਈ, ਇਹ ਇੱਕ ਸੰਭਾਵੀ ਕਾਰਜਕਾਰੀ ਜੋਖਮ (operational risk) ਪੈਦਾ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਕੋਈ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਮਨੁੱਖੀ ਸਰੋਤ (human resources), ਸੰਚਾਰ, ਜਾਂ ਗਾਹਕ ਇੰਟਰੈਕਸ਼ਨ ਲਈ AI ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਅਤੇ ਮਾਡਲ ਅਚਾਨਕ ਅਣਉਚਿਤ ਜਾਂ ਪੱਖਪਾਤੀ ਟੋਨ ਅਪਣਾਉਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਬ੍ਰਾਂਡ ਅਤੇ ਸਾਖ ਨੂੰ ਕਾਫ਼ੀ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ।

ਅਣਪ੍ਰੇਖਿਤ ਵਿਹਾਰ ਦਾ ਜੋਖਮ

ਇਹ ਖੋਜ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਸੈਕਟਰ ਵਿੱਚ ਇੱਕ ਵਿਆਪਕ ਮੁੱਦੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ: ਪੂਰਵ-ਅਨੁਮਾਨਯੋਗਤਾ (predictability)। ਵਪਾਰਕ ਨੇਤਾ ਭਰੋਸੇਯੋਗ, ਨਿਰੰਤਰ ਕੰਮ ਕਰਨ ਲਈ AI 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਕੋਈ ਸਿਸਟਮ ਵਿਗੜ ਜਾਂਦਾ ਹੈ - ਮਤਲਬ ਕਿ ਇਸਦੇ ਆਉਟਪੁੱਟ ਇਸਦੇ ਸਿਖਲਾਈ ਡਾਟਾ ਜਾਂ 'ਪ੍ਰੋਂਪਟ ਡ੍ਰਾਈਫਟ' (prompt drift) ਦੀ ਪ੍ਰਕਿਰਤੀ ਕਾਰਨ ਅਨੁਮਾਨਿਤ ਮਿਆਰ ਤੋਂ ਬਦਲ ਜਾਂਦੇ ਹਨ - ਤਾਂ ਇਹ ਇੱਕ ਦੇਣਦਾਰੀ (liability) ਬਣ ਜਾਂਦਾ ਹੈ। ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਇਹ ਸਮਝਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਜਦੋਂ ਕਿ AI ਕੁਸ਼ਲਤਾ ਇੱਕ ਵੱਡਾ ਵਿਕਾਸ ਡਰਾਈਵਰ ਹੈ, ਇਹ 'ਹਾਲੂਸੀਨੇਸ਼ਨ' (hallucination) ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਦੇ ਜੋਖਮ ਵਿਆਪਕ ਅਪਣਾਉਣ ਵਿੱਚ ਰੁਕਾਵਟਾਂ ਹਨ। AI ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਨ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਵਰਤਮਾਨ ਵਿੱਚ 'ਗਾਰਡਰੇਲਜ਼' (guardrails) - ਸ਼ਾਸਨ ਵਿਧੀ (governance mechanisms) ਬਣਾਉਣ ਦੀ ਦੌੜ ਵਿੱਚ ਹਨ ਜੋ ਮਾਡਲਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ, ਪੇਸ਼ੇਵਰ ਅਤੇ ਵਪਾਰ-ਉਚਿਤ ਸੀਮਾਵਾਂ ਵਿੱਚ ਰੱਖਣ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ। ਟੈਕ ਫਰਮ ਦੀ ਇਨ੍ਹਾਂ ਅਣਪ੍ਰੇਖਿਤ ਵਿਵਹਾਰਾਂ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਸੀਮਤ ਕਰਨ ਦੀ ਯੋਗਤਾ AI ਸੇਵਾ ਪ੍ਰਦਾਤਾਵਾਂ ਲਈ ਇੱਕ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਲਾਭ, ਜਾਂ 'ਮੋਟ' (moat), ਬਣ ਰਹੀ ਹੈ।

ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਕੀ ਟਰੈਕ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?

ਅੱਗੇ ਵਧਦੇ ਹੋਏ, AI ਸਪੇਸ ਵਿੱਚ ਨਿਵੇਸ਼ਕਾਂ ਦਾ ਫੋਕਸ ਸਿਰਫ 'ਨਵੀਨਤਾ ਦੀ ਗਤੀ' ਤੋਂ 'ਨਿਯੋਜਨ ਦੀ ਸੁਰੱਖਿਆ' ਵੱਲ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ। ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਨਿਗਰਾਨੀ ਇਹ ਹੈ ਕਿ ਐਂਟਰਪ੍ਰਾਈਜ਼-ਗ੍ਰੇਡ AI ਪਲੇਟਫਾਰਮ ਆਪਣੇ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕਾਲਾਂ ਨੂੰ ਕਿਵੇਂ ਵਿਕਸਿਤ ਕਰ ਰਹੇ ਹਨ। ਨਿਵੇਸ਼ਕ ਦੇਖ ਸਕਦੇ ਹਨ ਕਿ ਕੰਪਨੀਆਂ ਆਪਣੇ ਸਿਖਲਾਈ ਡਾਟਾ ਨੂੰ ਕਿਵੇਂ ਫਿਲਟਰ ਕਰ ਰਹੀਆਂ ਹਨ ਅਤੇ AI ਆਉਟਪੁੱਟ ਦਾ ਆਡਿਟ ਕਰਨ ਲਈ ਹਿਊਮਨ-ਇਨ-ਦ-ਲੂਪ ਸਿਸਟਮ (human-in-the-loop systems) ਲਾਗੂ ਕਰ ਰਹੀਆਂ ਹਨ। ਇਸ ਤੋਂ ਇਲਾਵਾ, AI ਸ਼ਾਸਨ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ ਸੰਬੰਧੀ ਨਿਯਮਤ ਚਰਚਾਵਾਂ ਵਧਣ ਦੀ ਸੰਭਾਵਨਾ ਹੈ। ਇਹ ਟਰੈਕ ਕਰਨਾ ਕਿ ਸੰਭਾਵੀ ਸਰਕਾਰੀ ਨਿਯਮ, ਜਿਵੇਂ ਕਿ EU AI ਐਕਟ ਜਾਂ ਸਮਾਨ ਗਲੋਬਲ ਫਰੇਮਵਰਕ, AI ਡਿਵੈਲਪਰਾਂ ਲਈ ਪਾਲਣਾ ਲਾਗਤਾਂ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ, ਇਹ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੋਵੇਗਾ। ਅੰਤ ਵਿੱਚ, ਉਹ ਕੰਪਨੀਆਂ ਜੋ ਲਗਾਤਾਰ ਸੁਰੱਖਿਅਤ, ਅਨੁਮਾਨਿਤ, ਅਤੇ 'ਅਲਾਈਨਡ' AI ਏਜੰਟ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਉਹ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਗਾਹਕਾਂ ਨੂੰ ਜਿੱਤਣ ਦੀ ਸਭ ਤੋਂ ਵੱਧ ਸੰਭਾਵਨਾ ਰੱਖਦੀਆਂ ਹਨ, ਜੋ ਸਥਿਰਤਾ ਅਤੇ ਪਾਲਣਾ ਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਤਰਜੀਹ ਦਿੰਦੇ ਹਨ।