OpenAI ਦੇ ਨਵੇਂ Astra ਮਾਡਲ ਨੂੰ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਲਈ 'ਕ੍ਰਿਟੀਕਲ' (Critical) ਕਰਾਰ ਦਿੱਤਾ ਗਿਆ ਹੈ। ਇਸ ਦੇ 'recurrent depth' ਡਿਜ਼ਾਈਨ ਨੂੰ ਲੈ ਕੇ ਮਾਹਰਾਂ ਵਿੱਚ ਬਹਿਸ ਛਿੜ ਗਈ ਹੈ ਕਿ ਇਹ ਤਕਨਾਲੋਜੀ ਜਿੰਨੀ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੈ, ਓਨੀ ਹੀ ਔਡਿਟ ਕਰਨੀ ਔਖੀ ਹੈ।
OpenAI ਨੇ ਆਪਣੇ ਆਉਣ ਵਾਲੇ ਮਾਡਲ Astra ਨੂੰ ਕੰਪਨੀ ਦੇ ਅੰਦਰੂਨੀ ਸੁਰੱਖਿਆ ਫਰੇਮਵਰਕ ਤਹਿਤ ਪਹਿਲੀ ਵਾਰ 'ਕ੍ਰਿਟੀਕਲ' ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸ਼੍ਰੇਣੀ ਵਿੱਚ ਰੱਖਿਆ ਹੈ। ਇਸ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਇਹ AI ਮਾਡਲ ਖੁਦ-ਬ-ਖੁਦ ਸਿਸਟਮ ਵਿੱਚ ਕਮੀਆਂ (zero-day vulnerabilities) ਲੱਭ ਕੇ ਹਮਲਾ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹੈ। ਕੰਪਨੀ ਇਸ ਨੂੰ ਵੱਡੀ ਉਪਲਬਧੀ ਦੱਸ ਰਹੀ ਹੈ, ਪਰ ਸੁਰੱਖਿਆ ਮਾਹਰ ਇਸ ਦੇ 'recurrent depth' ਆਰਕੀਟੈਕਚਰ ਦੀ ਤਿੱਖੀ ਆਲੋਚਨਾ ਕਰ ਰਹੇ ਹਨ।
ਕੀ ਹੈ 'Black-Box' ਖਤਰਾ?
ਆਮ AI ਮਾਡਲਾਂ ਦੇ ਉਲਟ, Astra ਕਈ ਪ੍ਰੋਸੈਸਿੰਗ ਲੇਅਰਾਂ ਨੂੰ ਵਾਰ-ਵਾਰ ਵਰਤਦਾ ਹੈ। ਇਸ ਨਾਲ ਕੰਪਿਊਟਿੰਗ ਪਾਵਰ ਤਾਂ ਬਚਦੀ ਹੈ, ਪਰ ਸਿਸਟਮ ਇੱਕ 'ਬਲੈਕ-ਬਾਕਸ' ਬਣ ਜਾਂਦਾ ਹੈ। ਆਡੀਟਰਾਂ ਲਈ ਇਹ ਸਮਝਣਾ ਲਗਭਗ ਅਸੰਭਵ ਹੋ ਜਾਂਦਾ ਹੈ ਕਿ AI ਨੇ ਕਿਸੇ ਨਤੀਜੇ 'ਤੇ ਪਹੁੰਚਣ ਲਈ ਕਿਹੜੇ ਕਦਮ ਚੁੱਕੇ ਹਨ।
ਇੰਡਸਟਰੀ ਲਈ ਵੱਡੀ ਚੁਣੌਤੀ
Google ਅਤੇ Anthropic ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਵਿਚਾਲੇ ਚੱਲ ਰਹੀ ਰੇਸ ਵਿੱਚ ਮੁਨਾਫੇ ਤੇ ਰਫਤਾਰ ਪਿੱਛੇ ਸੁਰੱਖਿਆ ਨੂੰ ਅਣਗੌਲਿਆ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ। OpenAI ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਕੰਪਨੀ ਹੋਣ ਕਰਕੇ ਆਪਣੀ ਵਿੱਤੀ ਸਥਿਤੀ ਜਨਤਕ ਨਹੀਂ ਕਰਦੀ, ਪਰ ਇਸ ਦਾ ਭਾਰੀ ਨਿਵੇਸ਼ (Capital Spending) ਸਪੱਸ਼ਟ ਹੈ। ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ ਸਰਕਾਰੀ ਰੈਗੂਲੇਸ਼ਨਾਂ ਵਧ ਸਕਦੀਆਂ ਹਨ, ਜੋ AI ਕੰਪਨੀਆਂ ਲਈ ਮਹਿੰਗੇ ਔਡਿਟ ਤੇ ਰੁਕਾਵਟਾਂ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀਆਂ ਹਨ। ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਇਸ ਗੱਲ 'ਤੇ ਨਜ਼ਰ ਰੱਖਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਕੀ ਇਹ ਕੰਪਨੀਆਂ ਆਪਣੀਆਂ ਗੁੰਝਲਦਾਰ ਮਸ਼ੀਨਾਂ ਨੂੰ ਪਾਰਦਰਸ਼ੀ ਬਣਾਉਣ ਵਿੱਚ ਕਾਮਯਾਬ ਹੋਣਗੀਆਂ ਜਾਂ ਨਹੀਂ।