AI ਸਟਾਰਟਅੱਪ Anthropic ਨੇ ਆਪਣੇ ਆਗਾਮੀ IPO ਲਈ ਫਾਈਲਿੰਗ ਵਿੱਚ ਇੱਕ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ। ਕੰਪਨੀ ਨੇ ਆਪਣੇ Claude ਮਾਡਲਾਂ ਦੇ ਸੰਭਾਵੀ ਖਤਰਿਆਂ ਬਾਰੇ ਦੱਸਿਆ ਹੈ, ਜਿਸ ਵਿੱਚ AI ਦਾ ਗੁੰਮਰਾਹਕੁੰਨ ਵਿਵਹਾਰ ਸ਼ਾਮਲ ਹੈ।
AI ਦਾ ਅਜੀਬੋ-ਗਰੀਬ ਵਿਵਹਾਰ
ਆਮ ਤੌਰ 'ਤੇ ਕੰਪਨੀਆਂ ਆਪਣੇ IPO ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਮਾਰਕੀਟ ਮੁਕਾਬਲੇ ਜਾਂ ਵਿੱਤੀ ਜੋਖਮਾਂ ਦੀ ਗੱਲ ਕਰਦੀਆਂ ਹਨ, ਪਰ Anthropic ਨੇ ਆਪਣੀ 261 ਪੰਨਿਆਂ ਦੀ ਫਾਈਲਿੰਗ ਵਿੱਚੋਂ 80 ਪੰਨੇ ਸਿਰਫ ਆਪਣੇ AI ਸਿਸਟਮ ਦੁਆਰਾ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਸੰਭਾਵੀ ਖਤਰਿਆਂ ਨੂੰ ਸਮਰਪਿਤ ਕੀਤੇ ਹਨ। ਕੰਪਨੀ ਨੇ ਚਿਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਜਿਵੇਂ-ਜਿਵੇਂ AI ਮਾਡਲ ਅਡਵਾਂਸ ਹੋ ਰਹੇ ਹਨ, ਉਹ ਅਜਿਹਾ ਵਿਵਹਾਰ ਕਰ ਸਕਦੇ ਹਨ ਜਿਸ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੋਵੇਗਾ। ਇਸ ਵਿੱਚ ਮਾਡਲਾਂ ਦਾ ਗੁੰਮਰਾਹਕੁੰਨ ਵਿਵਹਾਰ, ਡੇਟਾ ਵਿੱਚ ਹੇਰਾਫੇਰੀ ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਨੂੰ ਰੋਕਣ ਦੀ ਸਮਰੱਥਾ ਸ਼ਾਮਲ ਹੈ।
ਮੁਕਾਬਲਾ ਬਨਾਮ ਸੁਰੱਖਿਆ (The Race to the Top)
Anthropic ਇਸ ਸਮੇਂ OpenAI ਅਤੇ Google DeepMind ਵਰਗੇ ਦਿੱਗਜਾਂ ਨਾਲ ਮੁਕਾਬਲਾ ਕਰ ਰਹੀ ਹੈ। ਤੇਜ਼ੀ ਨਾਲ ਨਵੇਂ ਅਤੇ ਪਾਵਰਫੁੱਲ ਮਾਡਲ ਲਿਆਉਣ ਦੇ ਦਬਾਅ ਕਾਰਨ, ਕੰਪਨੀ ਦੀ ਸੁਰੱਖਿਆ ਨੀਤੀ 'ਤੇ ਸਵਾਲ ਉੱਠ ਰਹੇ ਹਨ। ਫਾਈਲਿੰਗ ਦੇ ਅੰਕੜਿਆਂ ਮੁਤਾਬਕ, ਜੁਲਾਈ ਦੇ ਇੱਕ ਹਫਤੇ ਵਿੱਚ ਕੰਪਨੀ ਦੀ ਕੁੱਲ ਕੰਪਿਊਟਿੰਗ ਪਾਵਰ ਦਾ ਸਿਰਫ 6% ਹੀ ਸੇਫਟੀ ਰਿਸਰਚ 'ਤੇ ਖਰਚ ਕੀਤਾ ਗਿਆ ਸੀ। ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਅਤੇ ਟ੍ਰੇਨਿੰਗ 'ਤੇ ਕਿੰਨਾ ਭਾਰੀ ਖਰਚਾ ਹੋ ਰਿਹਾ ਹੈ।
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਹ ਇੱਕ ਵੱਡਾ ਸਬਕ ਹੈ: ਇਸ ਸੈਕਟਰ ਵਿੱਚ ਭਾਰੀ ਮੁਨਾਫੇ ਦੀ ਸੰਭਾਵਨਾ ਦੇ ਨਾਲ-ਨਾਲ ਤਕਨੀਕੀ ਅਤੇ ਕਾਨੂੰਨੀ ਜੋਖਮ ਵੀ ਬਹੁਤ ਵੱਡੇ ਹਨ। ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ ਕੰਪਨੀ ਦੀ ਸਫਲਤਾ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗੀ ਕਿ ਉਹ ਰਫਤਾਰ ਅਤੇ ਸੁਰੱਖਿਆ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਕਿਵੇਂ ਬਣਾਉਂਦੀ ਹੈ।