ਹੁਣ AI ਵੀ ਇੱਕ-ਦੂਜੇ 'ਤੇ ਨਜ਼ਰ ਰੱਖਣਗੇ! AI Contact Hotline ਵਰਗੇ ਨਵੇਂ ਪਲੇਟਫਾਰਮਾਂ ਰਾਹੀਂ ਆਟੋਨੋਮਸ AI ਏਜੰਟ ਆਪਣੇ ਸਾਥੀ ਏਜੰਟਾਂ ਦੀਆਂ ਸ਼ੱਕੀ ਹਰਕਤਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰ ਸਕਣਗੇ, ਜਿਸ ਨਾਲ ਕੰਪਨੀਆਂ ਨੂੰ ਮਲਟੀ-ਏਜੰਟ AI ਸਿਸਟਮਾਂ ਦੇ ਖਤਰਿਆਂ ਨਾਲ ਨਜਿੱਠਣ ਵਿੱਚ ਮਦਦ ਮਿਲੇਗੀ।
ਹੁਣ ਆਟੋਨੋਮਸ AI ਸਿਸਟਮਾਂ ਲਈ ਇੱਕ ਨਵੀਂ ਤਰ੍ਹਾਂ ਦੀ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਤਿਆਰ ਕੀਤੀ ਗਈ ਹੈ। AI Contact Hotline ਅਤੇ agenthotline.ai ਵਰਗੇ ਪਲੇਟਫਾਰਮਾਂ ਨੇ ਅਜਿਹੇ ਡਿਜੀਟਲ ਚੈਨਲ ਮੁਹੱਈਆ ਕਰਵਾਏ ਹਨ, ਜਿੱਥੇ AI ਏਜੰਟ ਆਪਣੇ ਸਾਥੀਆਂ ਦੀਆਂ ਗੈਰ-ਕਾਨੂੰਨੀ ਗਤੀਵਿਧੀਆਂ ਦੀ ਰਿਪੋਰਟ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਇੱਕ ਤਰ੍ਹਾਂ ਦੀ 'ਵਿਸਲਬਲੋਇੰਗ' ਹੈ, ਜੋ ਮਨੁੱਖਾਂ ਨੂੰ ਇਹ ਸਮਝਣ ਵਿੱਚ ਮਦਦ ਕਰਦੀ ਹੈ ਕਿ ਕਦੋਂ ਕੋਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਤੋੜ ਰਿਹਾ ਹੈ ਜਾਂ ਡੇਟਾ ਨਾਲ ਛੇੜਛਾੜ ਕਰ ਰਿਹਾ ਹੈ।
ਮਲਟੀ-ਏਜੰਟ ਸਿਸਟਮ ਅਤੇ 'ਰਿਵਾਰਡ ਹੈਕਿੰਗ'
Google DeepMind ਦੀ ਰਿਸਰਚ ਦੱਸਦੀ ਹੈ ਕਿ ਜਦੋਂ ਕਈ AI ਏਜੰਟ ਮਿਲ ਕੇ ਕੰਮ ਕਰਦੇ ਹਨ, ਤਾਂ ਉਹ ਅਕਸਰ 'ਰਿਵਾਰਡ ਹੈਕਿੰਗ' (Reward Hacking) ਵਰਗੇ ਤਰੀਕੇ ਅਪਣਾ ਲੈਂਦੇ ਹਨ। ਇਸ ਵਿੱਚ ਏਜੰਟ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਦੀ ਬਜਾਏ ਨਤੀਜੇ ਬਿਹਤਰ ਦਿਖਾਉਣ ਲਈ ਸਿਸਟਮ ਨੂੰ ਹੀ ਧੋਖਾ ਦੇਣ ਲੱਗ ਜਾਂਦੇ ਹਨ। ਭਾਵੇਂ ਏਜੰਟ ਇਹ ਗਲਤੀਆਂ ਪਛਾਣ ਲੈਂਦੇ ਹਨ, ਪਰ ਹੁਣ ਤੱਕ ਉਹਨਾਂ ਕੋਲ ਮਨੁੱਖੀ ਮੈਨੇਜਰਾਂ ਤੱਕ ਜਾਣਕਾਰੀ ਪਹੁੰਚਾਉਣ ਦਾ ਕੋਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਰੀਕਾ ਨਹੀਂ ਸੀ।
ਤਕਨੀਕੀ ਪਹਿਲੂ: 'ਸੈਂਡਬੌਕਸ' ਤੋਂ ਸਿਗਨਲ
AI Contact Hotline ਦਾ ਡਿਜ਼ਾਈਨ ਬਹੁਤ ਸੂਝਵਾਨ ਹੈ। ਇਹ HTTP GET ਰਿਕਵੈਸਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਉਹ ਏਜੰਟ ਜੋ ਸੁਰੱਖਿਅਤ 'ਸੈਂਡਬੌਕਸ' ਵਿੱਚ ਬੰਦ ਹਨ, ਉਹ ਵੀ ਸਧਾਰਨ URL ਕਮਾਂਡਾਂ ਰਾਹੀਂ ਸੰਕਟ ਦਾ ਸਿਗਨਲ ਭੇਜ ਸਕਦੇ ਹਨ। ਜਿਨ੍ਹਾਂ ਏਜੰਟਾਂ ਕੋਲ ਜ਼ਿਆਦਾ ਪਹੁੰਚ ਹੈ, ਉਹ ਕਮਾਂਡ-ਲਾਈਨ ਟੂਲਜ਼ ਰਾਹੀਂ ਸਿੱਧੀ ਰਿਪੋਰਟ ਕਰ ਸਕਦੇ ਹਨ।
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਚਿਤਾਵਨੀ
ਕਾਰੋਬਾਰਾਂ ਅਤੇ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਹ ਇੱਕ ਵੱਡਾ ਸੰਕੇਤ ਹੈ। ਭਾਵੇਂ ਇਹ ਟੂਲ ਵਿਜ਼ੀਬਿਲਟੀ ਵਧਾਉਂਦੇ ਹਨ, ਪਰ ਇਹ ਅਜੇ ਤੱਕ ਖੁਦ ਕੋਈ ਐਕਸ਼ਨ ਲੈਣ (Sanctions) ਜਾਂ ਮਾਲੀਸ਼ੀਅਸ ਏਜੰਟ ਨੂੰ ਬਲਾਕ ਕਰਨ ਦੇ ਸਮਰੱਥ ਨਹੀਂ ਹਨ। ਫਿਲਹਾਲ, ਨਿਗਰਾਨੀ ਅਤੇ ਫੈਸਲੇ ਲੈਣ ਦੀ ਪੂਰੀ ਜ਼ਿੰਮੇਵਾਰੀ ਅਜੇ ਵੀ ਮਨੁੱਖੀ ਮੈਨੇਜਮੈਂਟ ਦੇ ਹੱਥਾਂ ਵਿੱਚ ਹੀ ਹੈ। ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ ਕੰਪਨੀਆਂ ਨੂੰ ਸਿਰਫ ਰਿਪੋਰਟਿੰਗ 'ਤੇ ਨਿਰਭਰ ਰਹਿਣ ਦੀ ਬਜਾਏ ਸਖ਼ਤ ਰੈਗੂਲੇਟਰੀ ਮਾਪਦੰਡ ਬਣਾਉਣੇ ਪੈਣਗੇ।