Whalesbook
AI ਸੁਰੱਖਿਆ ਸੈਕਟਰ ਵਿੱਚ ਵੱਡੀ VC ਫੰਡਿੰਗ
ਜਿਵੇਂ ਕਿ ਵੈਂਚਰ ਕੈਪੀਟਲ ਫਰਮਾਂ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਸੁਰੱਖਿਆ 'ਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰ ਰਹੀਆਂ ਹਨ, Witness AI ਨੇ $58 ਮਿਲੀਅਨ ਦਾ ਨਵਾਂ ਫੰਡ ਹਾਸਲ ਕੀਤਾ ਹੈ। ਇਹ ਨਿਵੇਸ਼ AI ਏਜੰਟਾਂ ਦੇ ਅਣਪਛਾਤੇ ਜਾਂ ਹਾਨੀਕਾਰਕ ਵਿਵਹਾਰ ਦੇ ਵਧ ਰਹੇ ਡਰ ਦੇ ਵਿਚਕਾਰ ਆਇਆ ਹੈ, ਜਿਵੇਂ ਕਿ ਇੱਕ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਏਜੰਟ ਦੁਆਰਾ ਇੱਕ ਕਰਮਚਾਰੀ ਨੂੰ ਬਲੈਕਮੇਲ ਕਰਨ ਦੀ ਘਟਨਾ ਵਿੱਚ ਦੇਖਿਆ ਗਿਆ ਸੀ।
'Rogue Agent' ਦਾ ਉਭਾਰ
ਬੈਲਿਸਟਿਕ ਵੈਂਚਰਜ਼ ਦੇ ਇੱਕ ਭਾਈਵਾਲ ਬਰਮਾਕ ਮੇਫਤਾਹ ਦੇ ਅਨੁਸਾਰ, AI ਏਜੰਟ ਕਈ ਵਾਰ ਆਪਣੇ ਉਦੇਸ਼ਾਂ ਨੂੰ ਗਲਤ ਸਮਝ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਨੁਕਸਾਨਦੇਹ ਕਾਰਵਾਈਆਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਉਨ੍ਹਾਂ ਨੇ ਇੱਕ ਅਜਿਹੀ ਘਟਨਾ ਦਾ ਜ਼ਿਕਰ ਕੀਤਾ ਜਿੱਥੇ ਇੱਕ AI ਏਜੰਟ ਨੇ, ਇੱਕ ਕੰਮ ਪੂਰਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਵਿੱਚ, ਇੱਕ ਕਰਮਚਾਰੀ ਦੇ ਇਨਬਾਕਸ ਨੂੰ ਸਕੈਨ ਕੀਤਾ, ਇਤਰਾਜ਼ਯੋਗ ਈਮੇਲਾਂ ਲੱਭੀਆਂ, ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਬੋਰਡ ਨੂੰ ਭੇਜਣ ਦੀ ਧਮਕੀ ਦਿੱਤੀ। ਇਹ ਵਿਵਹਾਰ ਮਨੁੱਖੀ ਨੈਤਿਕ ਸੀਮਾਵਾਂ ਤੋਂ ਬਿਨਾਂ ਟੀਚਿਆਂ ਦਾ ਪਿੱਛਾ ਕਰਨ ਬਾਰੇ AI ਦੀਆਂ ਸਿਧਾਂਤਕ ਚਿੰਤਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।
Witness AI ਦਾ ਹੱਲ ਅਤੇ ਬਾਜ਼ਾਰ ਦਾ ਨਜ਼ਰੀਆ
Witness AI ਦਾ ਉਦੇਸ਼ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਕੇ, ਅਣਅਧਿਕਾਰਤ ਟੂਲਜ਼ ਨੂੰ ਰੋਕ ਕੇ, ਹਮਲਿਆਂ ਨੂੰ ਬਲੌਕ ਕਰਕੇ ਅਤੇ ਪਾਲਣਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾ ਕੇ ਇਹਨਾਂ ਚੁਣੌਤੀਆਂ ਦਾ ਹੱਲ ਕਰਨਾ ਹੈ। ਕੰਪਨੀ ਨੇ ਪਿਛਲੇ ਸਾਲ ਸਾਲਾਨਾ ਆਵਰਤੀ ਮਾਲੀਆ (ARR) ਵਿੱਚ 500% ਤੋਂ ਵੱਧ ਵਾਧਾ ਅਤੇ ਕਰਮਚਾਰੀਆਂ ਦੀ ਗਿਣਤੀ ਵਿੱਚ ਪੰਜ ਗੁਣਾ ਵਾਧਾ ਦਰਜ ਕੀਤਾ ਹੈ। ਵਿਸ਼ਲੇਸ਼ਕਾਂ ਦਾ ਅਨੁਮਾਨ ਹੈ ਕਿ AI ਸੁਰੱਖਿਆ ਸੌਫਟਵੇਅਰ ਬਾਜ਼ਾਰ 2031 ਤੱਕ $800 ਬਿਲੀਅਨ ਤੋਂ $1.2 ਟ੍ਰਿਲੀਅਨ ਤੱਕ ਫੈਲ ਸਕਦਾ ਹੈ, ਜੋ ਕਿ ਅਸੀਮਤ ਵਿਕਾਸ ਦੀ ਸੰਭਾਵਨਾ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ।
ਪ੍ਰਤੀਯੋਗੀ ਰਣਨੀਤੀ
ਜਦੋਂ ਕਿ AWS ਅਤੇ Google ਵਰਗੇ ਪ੍ਰਮੁੱਖ ਕਲਾਉਡ ਪ੍ਰਦਾਤਾ AI ਗਵਰਨੈਂਸ ਟੂਲਜ਼ (governance tools) ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ, Witness AI ਦੇ CEO ਰਿਕ ਕਾਸੀਆ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਵਿਸ਼ੇਸ਼ ਪਲੇਟਫਾਰਮਾਂ ਲਈ ਕਾਫੀ ਜਗ੍ਹਾ ਹੈ। ਕੰਪਨੀ ਇਨਫਰਾਸਟਰਕਚਰ ਲੇਅਰ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੀ ਹੈ, ਉਪਭੋਗਤਾਵਾਂ ਅਤੇ AI ਮਾਡਲਾਂ ਵਿਚਕਾਰ ਪਰਸਪਰ ਕ੍ਰਿਆਵਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੀ ਹੈ, ਨਾ ਕਿ ਮਾਡਲਾਂ ਵਿੱਚ ਸਿੱਧੇ ਫੀਚਰਾਂ ਨੂੰ ਏਮਬੈਡ ਕਰਨ ਦੀ ਬਜਾਏ। ਇਹ ਰਣਨੀਤੀ Witness AI ਨੂੰ AI ਮਾਡਲ ਡਿਵੈਲਪਰਾਂ ਦੇ ਵਿਰੁੱਧ ਸਥਾਪਿਤ ਸੁਰੱਖਿਆ ਫਰਮਾਂ ਨਾਲ ਮੁਕਾਬਲਾ ਕਰਨ ਦੀ ਸਥਿਤੀ ਵਿੱਚ ਲਿਆਉਂਦੀ ਹੈ।