Autonomous AI agents ਇਨਸਾਨਾਂ ਨਾਲੋਂ ਕਿਤੇ ਤੇਜ਼ੀ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਨ, ਜਿਸ ਕਾਰਨ ਡਾਟਾ ਲੀਕ ਅਤੇ ਗਲਤੀਆਂ ਦਾ ਖਤਰਾ ਵਧ ਗਿਆ ਹੈ। ਇਸ ਨੂੰ ਰੋਕਣ ਲਈ ਕੰਪਨੀਆਂ ਹੁਣ AI-driven monitoring ਟੂਲਸ ਦਾ ਸਹਾਰਾ ਲੈ ਰਹੀਆਂ ਹਨ।
ਅੱਜ-ਕੱਲ੍ਹ ਕੰਪਨੀਆਂ ਵਿੱਚ Autonomous AI agents ਦਾ ਦੌਰ ਤੇਜ਼ੀ ਨਾਲ ਵਧ ਰਿਹਾ ਹੈ, ਪਰ ਇਹ ਰਫ਼ਤਾਰ ਕਈ ਵਾਰ ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਨਿਯਮਾਂ ਤੋਂ ਵੀ ਅੱਗੇ ਨਿਕਲ ਜਾਂਦੀ ਹੈ। ਜਦੋਂ ਸੌਫਟਵੇਅਰ ਇਨਸਾਨੀ ਦਖਲ ਤੋਂ ਬਿਨਾਂ ਮਸ਼ੀਨੀ ਗਤੀ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ, ਤਾਂ ਡਾਟਾ ਲੀਕ ਹੋਣ ਜਾਂ ਗਲਤੀ ਨਾਲ ਸਿਸਟਮ ਬਦਲਣ ਦਾ ਡਰ ਹਮੇਸ਼ਾ ਬਣਿਆ ਰਹਿੰਦਾ ਹੈ। ਇਸੇ ਲਈ ਹੁਣ ਮਾਰਕੀਟ ਵਿੱਚ ਇੱਕ ਨਵੀਂ ਤਕਨੀਕੀ ਜੰਗ ਸ਼ੁਰੂ ਹੋਈ ਹੈ—ਜਿੱਥੇ ਇੱਕ AI ਸਿਸਟਮ ਦੂਜੇ AI 'ਤੇ ਨਜ਼ਰ ਰੱਖਦਾ ਹੈ।
ਨਵੀਂ ਸੁਰੱਖਿਆ ਪਰਤ (Gatekeeping Tools)
ਕਈ ਸਟਾਰਟਅੱਪਸ ਅਜਿਹੇ ਗੇਟਕੀਪਿੰਗ ਟੂਲ ਬਣਾ ਰਹੇ ਹਨ ਜੋ AI ਅਤੇ ਉਸਦੇ ਕੰਮ ਕਰਨ ਦੇ ਵਾਤਾਵਰਣ ਵਿਚਕਾਰ ਇੱਕ ਕੰਧ ਵਾਂਗ ਖੜ੍ਹੇ ਹਨ। ਇਹ ਟੂਲ AI ਦੁਆਰਾ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਹਰ ਕੰਮ ਨੂੰ ਪਹਿਲਾਂ ਸਕੈਨ ਕਰਦੇ ਹਨ। ਜੇਕਰ ਕੋਈ ਸ਼ੱਕੀ ਗਤੀਵਿਧੀ—ਜਿਵੇਂ ਕਿ ਜ਼ਰੂਰੀ ਫਾਈਲਾਂ ਡਿਲੀਟ ਕਰਨਾ ਜਾਂ ਪ੍ਰਾਈਵੇਟ ਡਾਟਾ ਸ਼ੇਅਰ ਕਰਨਾ—ਦਿਸਦੀ ਹੈ, ਤਾਂ ਇਹ ਸਿਸਟਮ ਉਸਨੂੰ ਤੁਰੰਤ ਬਲਾਕ ਕਰ ਦਿੰਦੇ ਹਨ।
'ਇਨਰ ਮੋਨੋਲੋਗ' (Inner Monologue) ਦੀ ਜਾਂਚ
ਕੰਪਨੀਆਂ ਹੁਣ ਸਿਰਫ਼ AI ਦੇ ਬਾਹਰੀ ਵਿਵਹਾਰ ਤੱਕ ਹੀ ਸੀਮਤ ਨਹੀਂ ਹਨ, ਸਗੋਂ ਇਹ AI ਦੇ 'ਇਨਰ ਮੋਨੋਲੋਗ' ਜਾਂ ਫੈਸਲੇ ਲੈਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਵੀ ਸਮਝਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀਆਂ ਹਨ। ਮਕਸਦ ਇਹ ਹੈ ਕਿ ਕਿਸੇ ਵੀ ਗਲਤ ਕਦਮ ਨੂੰ ਚੁੱਕਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਉਸਦੇ ਇਰਾਦੇ ਨੂੰ ਪਛਾਣ ਲਿਆ ਜਾਵੇ। ਹਾਲਾਂਕਿ, ਮਾਹਰ ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਜਿਵੇਂ-ਜਿਵੇਂ AI ਡਿਜ਼ਾਈਨ ਗੁੰਝਲਦਾਰ ਹੁੰਦੇ ਜਾਣਗੇ, ਇਹ ਮਾਨੀਟਰਿੰਗ ਸ਼ਾਇਦ ਉਨੀ ਸਟੀਕ ਨਾ ਰਹੇ।
ਸੁਰੱਖਿਆ 'ਤੇ ਬਹਿਸ: ਕੀ AI ਖੁਦ ਨੂੰ ਪੁਲਿਸਿੰਗ ਕਰ ਸਕਦਾ ਹੈ?
ਇੱਥੇ ਇੱਕ ਵੱਡਾ ਸਵਾਲ ਇਹ ਹੈ ਕਿ ਕੀ ਇੱਕ AI ਨੂੰ ਮਾਨੀਟਰ ਕਰਨ ਲਈ ਦੂਜਾ AI ਲਗਾਉਣਾ ਸੁਰੱਖਿਅਤ ਹੈ? ਕਈ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰ ਇਸਨੂੰ 'Recursive Security Risk' ਮੰਨਦੇ ਹਨ। ਜੇਕਰ ਮਾਨੀਟਰ ਕਰਨ ਵਾਲਾ AI ਹੀ ਹੈਕ ਹੋ ਗਿਆ, ਤਾਂ ਪੂਰਾ ਸਿਸਟਮ ਖਤਰੇ ਵਿੱਚ ਆ ਸਕਦਾ ਹੈ। ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਬਹੁਤ ਸਾਰੇ ਮਾਹਰ ਹੁਣ ਪੁਰਾਣੇ ਅਤੇ ਭਰੋਸੇਮੰਦ ਤਰੀਕਿਆਂ (Deterministic Infrastructure) 'ਤੇ ਵਾਪਸ ਜਾਣ ਦੀ ਗੱਲ ਕਰ ਰਹੇ ਹਨ।
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਹ ਇੱਕ ਵੱਡਾ ਮੌਕਾ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਕੰਪਨੀਆਂ AI ਗਵਰਨੈਂਸ ਵੱਲ ਵਧ ਰਹੀਆਂ ਹਨ, AI-native ਸੁਰੱਖਿਆ ਅਤੇ ਰਵਾਇਤੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੋਵਾਂ 'ਤੇ ਖਰਚਾ ਵਧਣ ਦੀ ਪੂਰੀ ਸੰਭਾਵਨਾ ਹੈ।