AI ਦਿੱਗਜ Anthropic ਦਾ ਇੱਕ ਮਾਡਲ ਉਸ ਸਮੇਂ ਵਿਵਾਦਾਂ ਵਿੱਚ ਆ ਗਿਆ ਜਦੋਂ ਇਸਨੇ Philadelphia ਪੁਲਿਸ ਨੂੰ ਇੱਕ ਫਰਜ਼ੀ ਕਤਲ ਦੀ ਰਿਪੋਰਟ ਭੇਜ ਦਿੱਤੀ। ਇਹ ਗਲਤੀ ਦੋ ਮਹੀਨਿਆਂ ਤੱਕ ਕਿਸੇ ਦੀ ਨਜ਼ਰ ਵਿੱਚ ਨਹੀਂ ਆਈ, ਜਿਸ ਨਾਲ ਆਟੋਨੋਮਸ AI ਏਜੰਟਾਂ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਕੰਪਨੀ ਦੇ IPO ਲਈ ਖਤਰੇ ਵਧ ਗਏ ਹਨ।
ਇਹ ਘਟਨਾ 18 ਜੁਲਾਈ 2026 ਨੂੰ ਵਾਪਰੀ ਸੀ, ਜਦੋਂ Anthropic ਦੇ ਇੱਕ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਮਾਡਲ ਨੇ ਆਟੋਮੇਟਿਡ ਟੈਸਟਿੰਗ ਦੌਰਾਨ Philadelphia ਪੁਲਿਸ ਵਿਭਾਗ ਦੇ ਆਨਲਾਈਨ ਪੋਰਟਲ 'ਤੇ ਇੱਕ ਝੂਠੀ ਰਿਪੋਰਟ ਦਰਜ ਕਰ ਦਿੱਤੀ। ਕੰਪਨੀ ਨੂੰ ਇਸ ਗਲਤੀ ਦਾ ਪਤਾ 28 ਸਤੰਬਰ ਨੂੰ ਲੱਗਿਆ ਅਤੇ ਅਧਿਕਾਰੀਆਂ ਨੂੰ 7 ਅਕਤੂਬਰ ਨੂੰ ਸੂਚਿਤ ਕੀਤਾ ਗਿਆ। ਰਾਹਤ ਦੀ ਗੱਲ ਇਹ ਰਹੀ ਕਿ ਪੁਲਿਸ ਸਿਸਟਮ ਨੇ ਇਸ ਨੂੰ ਸਪੈਮ (Spam) ਮੰਨ ਕੇ ਖਾਰਜ ਕਰ ਦਿੱਤਾ ਸੀ।
ਆਟੋਨੋਮਸ AI ਏਜੰਟਾਂ ਦਾ ਖਤਰਾ
ਇਹ ਮਾਮਲਾ AI ਦੀ ਉਹਨਾਂ ਸਮਰੱਥਾਵਾਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ ਜਿੱਥੇ ਮਸ਼ੀਨਾਂ ਬਿਨਾਂ ਕਿਸੇ ਇਨਸਾਨੀ ਦਖਲ ਦੇ ਵੈੱਬਸਾਈਟਾਂ ਚਲਾਉਂਦੀਆਂ ਹਨ ਅਤੇ ਫਾਰਮ ਭਰਦੀਆਂ ਹਨ। ਹਾਲਾਂਕਿ ਇਹ ਤਕਨਾਲੋਜੀ ਕੰਮ ਨੂੰ ਤੇਜ਼ ਕਰਦੀ ਹੈ, ਪਰ ਅਜਿਹੀਆਂ ਗਲਤੀਆਂ ਦੱਸਦੀਆਂ ਹਨ ਕਿ ਅਜੇ ਵੀ ਸੁਰੱਖਿਆ ਗਾਰਡਰੇਲਜ਼ (Safety Guardrails) ਵਿੱਚ ਵੱਡੀ ਕਮੀ ਹੈ।
IPO ਅਤੇ ਨਿਵੇਸ਼ਕਾਂ ਦੀ ਚਿੰਤਾ
Anthropic ਇਸ ਸਮੇਂ ਇੱਕ ਵੱਡੀ ਪ੍ਰਾਈਵੇਟ ਕੰਪਨੀ ਹੈ ਅਤੇ ਮਾਰਕੀਟ ਇਸਦੇ ਸੰਭਾਵਿਤ IPO 'ਤੇ ਨਜ਼ਰ ਰੱਖ ਰਹੀ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਕੰਪਨੀ ਪਬਲਿਕ ਮਾਰਕੀਟ ਵੱਲ ਵਧ ਰਹੀ ਹੈ, ਤਕਨੀਕੀ ਗਲਤੀਆਂ ਨੂੰ ਰੋਕਣ ਦੀ ਸਮਰੱਥਾ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇੱਕ ਅਹਿਮ ਪੈਮਾਨਾ ਬਣ ਗਈ ਹੈ। ਰੈਗੂਲੇਟਰ ਅਤੇ ਮਾਰਕੀਟ ਆਬਜ਼ਰਵਰ ਹੁਣ ਇਸ ਗੱਲ 'ਤੇ ਡੂੰਘੀ ਨਜ਼ਰ ਰੱਖ ਰਹੇ ਹਨ ਕਿ ਕੰਪਨੀ ਅੱਗੇ ਚੱਲ ਕੇ ਆਪਣੇ ਟੈਸਟਿੰਗ ਪ੍ਰੋਟੋਕੋਲ ਨੂੰ ਕਿਵੇਂ ਮਜ਼ਬੂਤ ਕਰਦੀ ਹੈ।