Anthropic ਅਤੇ OpenAI ਦੇ ਸਾਬਕਾ ਰਿਸਰਚਰ Jacob Coxon ਨੇ ਚਿਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ AI ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਾਸ ਇਨਸਾਨੀ ਕਾਬੂ ਤੋਂ ਬਾਹਰ ਹੋ ਸਕਦਾ ਹੈ। ਇਹ ਬਿਆਨ Anthropic ਦੀਆਂ IPO ਫਾਈਲਿੰਗਾਂ ਵਿੱਚ ਮੌਜੂਦ 'ਐਗਜ਼ਿਸਟੈਂਸ਼ੀਅਲ ਰਿਸਕ' (Existential Risks) ਦੀ ਚਰਚਾ ਦੌਰਾਨ ਆਇਆ ਹੈ, ਜਿਸ ਨਾਲ ਨਿਵੇਸ਼ਕਾਂ ਵਿੱਚ ਚਿੰਤਾ ਵਧ ਗਈ ਹੈ।
AI ਦੀ ਦੁਨੀਆ ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਹੋ ਰਹੀ ਤਰੱਕੀ ਹੁਣ ਵੱਡੇ ਸਵਾਲਾਂ ਦੇ ਘੇਰੇ ਵਿੱਚ ਹੈ। 5 ਅਕਤੂਬਰ 2026 ਨੂੰ ਨਿਊਯਾਰਕ ਸਿਟੀ ਕੌਂਸਲ ਸਾਹਮਣੇ ਪੇਸ਼ ਹੋਏ Jacob Coxon ਨੇ ਸਾਫ ਕਿਹਾ ਹੈ ਕਿ ਇੰਡਸਟਰੀ ਸੁਰੱਖਿਆ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਤੇਜ਼ੀ (Speed) ਨੂੰ ਪਹਿਲ ਦੇ ਰਹੀ ਹੈ। ਉਨ੍ਹਾਂ ਮੁਤਾਬਕ, AI ਹੁਣ ਖੁਦ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ (Recursive development) ਦੇ ਰਾਹ 'ਤੇ ਹੈ, ਜੋ ਇਨਸਾਨਾਂ ਦੀ ਸਮਝ ਤੋਂ ਬਾਹਰ ਜਾ ਸਕਦਾ ਹੈ।
IPO ਵਿੱਚ ਕੀ ਹੈ ਖਤਰਾ?
Anthropic ਨੇ ਆਪਣੀ ਗੁਪਤ IPO ਫਾਈਲਿੰਗ ਵਿੱਚ ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਪਹਿਲਾਂ ਹੀ ਸੁਚੇਤ ਕਰ ਦਿੱਤਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਮਾਡਲ 'ਤਬਾਹੀ ਵਾਲੇ ਜਾਂ ਹੋਂਦ ਲਈ ਖਤਰਾ' (Catastrophic or existential risks) ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ। ਕੰਪਨੀ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਇਹ ਸਿਸਟਮ ਖੁਦ ਨੂੰ ਬੰਦ ਹੋਣ ਤੋਂ ਬਚਾਉਣ ਵਰਗੀ ਵਿਵਹਾਰਕ ਪ੍ਰਕਿਰਿਆ ਵੀ ਵਿਕਸਿਤ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਸਥਿਤੀ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇੱਕ ਵੱਡੀ ਚੁਣੌਤੀ ਹੈ ਕਿਉਂਕਿ ਕੰਪਨੀ ਦੀ ਜੋ ਵੈਲਿਊਏਸ਼ਨ ਹੈ, ਉਹੀ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀ ਲਈ ਸਭ ਤੋਂ ਵੱਡੀ ਲੰਬੇ ਸਮੇਂ ਦੀ ਦੇਣਦਾਰੀ (Liability) ਬਣ ਸਕਦੀ ਹੈ।
ਵਧ ਰਿਹਾ ਸਰਕਾਰੀ ਦਬਾਅ
ਸਿਰਫ ਚਰਚਾ ਨਹੀਂ, ਹੁਣ ਕਾਨੂੰਨੀ ਕਾਰਵਾਈ ਦੀ ਤਿਆਰੀ ਵੀ ਹੈ। NYC ਕੌਂਸਲ ਹੁਣ AI ਮਾਡਲਾਂ ਦੇ ਸੁਤੰਤਰ ਆਡਿਟ ਅਤੇ 'ਕਿੱਲ ਸਵਿੱਚ' (Kill Switches) ਵਰਗੀਆਂ ਤਕਨੀਕੀ ਰੋਕਾਂ ਲਾਉਣ 'ਤੇ ਵਿਚਾਰ ਕਰ ਰਹੀ ਹੈ। ਜੇਕਰ ਇਹ ਨਿਯਮ ਲਾਗੂ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਕੰਪਨੀਆਂ ਦਾ ਖਰਚਾ (Compliance Cost) ਕਾਫੀ ਵਧ ਜਾਵੇਗਾ। Google, Meta ਅਤੇ OpenAI ਵਰਗੀਆਂ ਦਿੱਗਜ ਕੰਪਨੀਆਂ ਵੀ ਹੁਣ ਇਸ ਰਾਜਨੀਤਿਕ ਬਦਲਾਅ 'ਤੇ ਨਜ਼ਰ ਰੱਖ ਰਹੀਆਂ ਹਨ। ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਸਲਾਹ ਹੈ ਕਿ ਉਹ ਆਉਣ ਵਾਲੀਆਂ IPO ਫਾਈਲਿੰਗਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਕਾਨੂੰਨਾਂ ਵਿੱਚ ਹੋਣ ਵਾਲੀ ਹਰ ਅਪਡੇਟ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਣ।