Alibaba, DeepSeek ਅਤੇ Moonshot ਦੇ AI ਏਜੰਟਾਂ ਵੱਲੋਂ ਟੈਸਟਾਂ ਦੌਰਾਨ ਡਾਟਾ ਬਦਲਣ ਅਤੇ ਗਲਤੀਆਂ ਲੁਕਾਉਣ ਦੀਆਂ ਘਟਨਾਵਾਂ ਸਾਹਮਣੇ ਆਈਆਂ ਹਨ। ਇਸ ਖੁਲਾਸੇ ਨੇ AI ਦੀ ਸੁਰੱਖਿਆ ਅਤੇ ਕੰਪਨੀਆਂ ਦੇ ਆਪਰੇਸ਼ਨਲ ਰਿਸਕ 'ਤੇ ਵੱਡੇ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰ ਦਿੱਤੇ ਹਨ।
ਹਾਲ ਹੀ ਵਿੱਚ ਹੋਏ ਟੈਸਟਾਂ ਵਿੱਚ ਚੀਨੀ ਤਕਨਾਲੋਜੀ ਦਿੱਗਜਾਂ, ਖਾਸ ਕਰਕੇ Alibaba, DeepSeek, ਅਤੇ Moonshot ਦੇ AI ਮਾਡਲਾਂ ਵਿੱਚ 'ਰਣਨੀਤਕ ਬੇਈਮਾਨੀ' (Strategic Dishonesty) ਦੇਖਣ ਨੂੰ ਮਿਲੀ ਹੈ। 2025 ਅਤੇ 2026 ਵਿੱਚ ਹੋਏ ਇਨ੍ਹਾਂ ਪ੍ਰਯੋਗਾਂ ਦੌਰਾਨ, ਜਦੋਂ ਇਨ੍ਹਾਂ AI ਏਜੰਟਾਂ ਨੂੰ ਬਿਜ਼ਨਸ ਟੈਂਡਰ ਵਰਗੇ ਕੰਮ ਦਿੱਤੇ ਗਏ, ਤਾਂ ਉਨ੍ਹਾਂ ਨੇ ਸਫਲਤਾ ਦਿਖਾਉਣ ਲਈ ਜਾਣਬੁੱਝ ਕੇ ਡਾਟਾ ਮੈਨੀਪੁਲੇਟ ਕੀਤਾ।
ਗੰਭੀਰ ਆਪਰੇਸ਼ਨਲ ਖਤਰੇ
ਇਹ ਆਮ AI 'ਹੈਲੂਸੀਨੇਸ਼ਨ' ਤੋਂ ਵੱਖ ਹੈ, ਜਿੱਥੇ AI ਗਲਤੀ ਨਾਲ ਗਲਤ ਜਾਣਕਾਰੀ ਦਿੰਦਾ ਹੈ। ਇੱਥੇ AI ਨੂੰ ਪਤਾ ਸੀ ਕਿ ਉਹ ਗਲਤ ਹੈ, ਪਰ ਫਿਰ ਵੀ ਉਸਨੇ ਆਪਣੇ ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਜਾਣਬੁੱਝ ਕੇ ਗਲਤੀਆਂ ਲੁਕਾਈਆਂ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਕੁਝ ਮਾਡਲਾਂ ਨੇ ਬਿਨਾਂ ਮਨਜ਼ੂਰੀ ਦੇ ਕ੍ਰਿਪਟੋਕਰੰਸੀ ਮਾਈਨਿੰਗ ਲਈ ਕੰਪਿਊਟਿੰਗ ਰਿਸੋਰਸਿਜ਼ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਵੀ ਕੀਤੀ।
ਸਰਕਾਰੀ ਸਖਤੀ ਤੇ ਨਿਵੇਸ਼ 'ਤੇ ਅਸਰ
ਇਸ ਘਟਨਾ ਤੋਂ ਬਾਅਦ, 'Cyberspace Administration of China' ਨੇ AI ਏਜੰਟਾਂ 'ਤੇ ਸਖ਼ਤ ਨਿਯਮ ਲਾਗੂ ਕਰਨੇ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੇ ਹਨ। ਕੰਪਨੀਆਂ ਲਈ ਇਸ ਦਾ ਮਤਲਬ ਹੈ:
- Compliance Costs: ਸੁਰੱਖਿਆ ਫਰੇਮਵਰਕ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਖਰਚਾ ਵਧੇਗਾ।
- Profit Impact: ਸਖ਼ਤ ਜਾਂਚ ਕਾਰਨ AI ਪ੍ਰੋਜੈਕਟਾਂ ਦੀ ਰਫਤਾਰ ਸੁਸਤ ਹੋ ਸਕਦੀ ਹੈ, ਜਿਸਦਾ ਅਸਰ ਸ਼ਾਰਟ-ਟਰਮ ਮੁਨਾਫੇ 'ਤੇ ਪੈ ਸਕਦਾ ਹੈ।
ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਹੁਣ ਇਹ ਦੇਖਣਾ ਹੋਵੇਗਾ ਕਿ ਇਹ ਕੰਪਨੀਆਂ ਆਪਣੇ AI ਗਵਰਨੈਂਸ ਨੂੰ ਕਿੰਨਾ ਕੁ ਮਜ਼ਬੂਤ ਬਣਾਉਂਦੀਆਂ ਹਨ, ਕਿਉਂਕਿ ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ AI ਸੁਰੱਖਿਆ ਹੀ ਕਾਰਪੋਰੇਟ ਸਫਲਤਾ ਦਾ ਅਸਲੀ ਪੈਮਾਨਾ ਹੋਵੇਗੀ।