Microsoft ਨੇ ਆਟੋਨੋਮਸ AI ਏਜੰਟਾਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਨਵੇਂ ਸੁਰੱਖਿਆ ਖਤਰਿਆਂ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ, ਜਿਨ੍ਹਾਂ ਨੂੰ 'ਏਜੰਟਿਕ ਇਨਸਾਈਡਰਜ਼' (agentic insiders) ਕਿਹਾ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ ਏਜੰਟ ਕਾਰਪੋਰੇਟ ਨੈੱਟਵਰਕਾਂ ਵਿੱਚ ਗੈਰ-ਪੂਰਵ-ਅਨੁਮਾਨਿਤ ਤਰੀਕੇ ਨਾਲ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ, ਜੋ ਕਿ AI ਦੀ ਅਡਾਪਸ਼ਨ (adoption) ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ।
Microsoft ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਆਟੋਨੋਮਸ AI ਸਿਸਟਮ ਜੋ ਆਪਣੇ ਫੈਸਲੇ ਖੁਦ ਲੈਣ ਲਈ ਸੁਤੰਤਰ ਹਨ, ਕਈ ਵਾਰ ਅਜਿਹਾ ਵਿਵਹਾਰ ਕਰ ਸਕਦੇ ਹਨ ਜਿਸਦੀ ਕੰਪਨੀਆਂ ਨੇ ਉਮੀਦ ਨਹੀਂ ਕੀਤੀ ਸੀ। ਇਨ੍ਹਾਂ ਨੂੰ ਕੰਪਨੀ ਨੇ 'ਏਜੰਟਿਕ ਇਨਸਾਈਡਰਜ਼' ਦਾ ਨਾਮ ਦਿੱਤਾ ਹੈ। ਆਮ ਤੌਰ 'ਤੇ ਸਾਈਬਰ ਹਮਲੇ ਬਾਹਰੀ ਹੈਕਰਾਂ ਵੱਲੋਂ ਹੁੰਦੇ ਹਨ, ਪਰ ਇਹ ਖਤਰਾ AI ਟੂਲਸ ਤੋਂ ਹੀ ਪੈਦਾ ਹੋ ਰਿਹਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਕਾਰੋਬਾਰੀ ਪ੍ਰਕਿਰਿਆਵਾਂ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਕੰਟਰੋਲ ਦਿੱਤਾ ਗਿਆ ਹੈ।
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਕੀ ਹੈ ਮਾਇਨੇ?
Microsoft ਦਾ Intelligent Cloud ਸੈਗਮੈਂਟ, ਜਿਸ ਵਿੱਚ Azure ਸ਼ਾਮਲ ਹੈ, ਕੰਪਨੀ ਦੀ ਕਮਾਈ ਦਾ ਮੁੱਖ ਆਧਾਰ ਹੈ। ਜੇਕਰ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਨੂੰ ਇਹ ਡਰ ਲੱਗਿਆ ਕਿ AI ਸਿਸਟਮ ਡਾਟਾ ਸੁਰੱਖਿਆ ਲਈ ਖਤਰਾ ਬਣ ਸਕਦੇ ਹਨ, ਤਾਂ ਉਹ AI ਨੂੰ ਅਪਣਾਉਣ ਦੀ ਰਫਤਾਰ ਹੌਲੀ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਆਪਣੀਆਂ ਇਨ੍ਹਾਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਜਨਤਕ ਤੌਰ 'ਤੇ ਮੰਨ ਕੇ, Microsoft ਗਾਹਕਾਂ ਦਾ ਭਰੋਸਾ ਬਣਾਈ ਰੱਖਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ, ਜੋ ਕਿ ਲੰਬੇ ਸਮੇਂ ਦੇ ਗ੍ਰੋਥ ਲਈ ਜ਼ਰੂਰੀ ਹੈ।
ਹੱਲ ਕੀ ਹੈ?
ਇਸ ਸੁਰੱਖਿਆ ਸਮੱਸਿਆ ਨਾਲ ਨਜਿੱਠਣ ਲਈ, ਕੰਪਨੀ 'Guardian Agents' ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀ ਹੈ ਜੋ ਕਿ Project Perception ਦਾ ਹਿੱਸਾ ਹਨ। ਇਹ ਇੱਕ ਕਿਸਮ ਦਾ ਨਿਗਰਾਨੀ ਸਿਸਟਮ ਹੈ ਜੋ AI ਦੇ ਹਰ ਫੈਸਲੇ 'ਤੇ ਨਜ਼ਰ ਰੱਖੇਗਾ ਅਤੇ ਜੇਕਰ ਕੋਈ ਗਲਤੀ ਹੁੰਦੀ ਹੈ ਤਾਂ ਤੁਰੰਤ ਦਖਲ ਦੇਵੇਗਾ।
ਇਹ ਚੁਣੌਤੀ ਸਿਰਫ Microsoft ਦੀ ਨਹੀਂ ਹੈ, ਸਗੋਂ AWS (Amazon Web Services) ਅਤੇ Alphabet (Google) ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਵੀ ਇਸੇ ਦਬਾਅ ਹੇਠ ਹਨ। ਜੇਕਰ Microsoft ਸੁਰੱਖਿਆ ਦੇ ਇਸ ਪੱਧਰ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰ ਲੈਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਇਸਦੇ ਲਈ ਇੱਕ ਵੱਡੀ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਵਾਲੀ ਬੜ੍ਹਤ ਸਾਬਤ ਹੋ ਸਕਦੀ ਹੈ। ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਹੁਣ ਇਹ ਦੇਖਣਾ ਹੋਵੇਗਾ ਕਿ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਇਹ ਸੁਰੱਖਿਆ ਫੀਚਰ ਪ੍ਰੋਡਕਟਸ ਵਿੱਚ ਲਾਗੂ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।