Whalesbook
Witness AI ਨੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਅਪਣਾਉਣ ਨਾਲ ਪੈਦਾ ਹੋਣ ਵਾਲੀਆਂ ਵਧਦੀਆਂ ਸੁਰੱਖਿਆ ਚੁਣੌਤੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨ ਲਈ $58 ਮਿਲੀਅਨ ਦੀ ਸੁਰੱਖਿਆ ਕੀਤੀ ਹੈ.
AI-ਸੰਚਾਲਿਤ ਚੈਟਬਾਟ, ਏਜੰਟ ਅਤੇ ਕੋਪਾਇਲਟ ਵਰਤਣ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਵੇਂ ਕਿਸਮ ਦੇ ਸੁਰੱਖਿਆ ਖਤਰਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਹੀਆਂ ਹਨ। ਇਹਨਾਂ ਜੋਖਮਾਂ ਵਿੱਚ ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਦਾ ਅਚਾਨਕ ਲੀਕ ਹੋਣਾ, ਪਾਲਣਾ ਦੀ ਉਲੰਘਣਾ ਅਤੇ ਪ੍ਰੋਂਪਟ-ਅਧਾਰਿਤ ਇੰਜੈਕਸ਼ਨਾਂ (prompt-based injections) ਪ੍ਰਤੀ ਕਮਜ਼ੋਰੀਆਂ ਸ਼ਾਮਲ ਹਨ, ਜਿੱਥੇ ਨੁਕਸਾਨਦੇਹ ਇਨਪੁਟ AI ਦੇ ਵਿਵਹਾਰ ਨੂੰ ਬਦਲ ਸਕਦੇ ਹਨ.
ਇਸ ਵਧ ਰਹੀ ਚਿੰਤਾ ਨੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਮਾਰਕੀਟ ਮੌਕਾ ਪੈਦਾ ਕੀਤਾ ਹੈ। ਵਿਸ਼ਲੇਸ਼ਕਾਂ ਦਾ ਅਨੁਮਾਨ ਹੈ ਕਿ AI ਸੁਰੱਖਿਆ ਬਾਜ਼ਾਰ 2031 ਤੱਕ $800 ਬਿਲੀਅਨ ਤੋਂ $1.2 ਟ੍ਰਿਲੀਅਨ ਤੱਕ ਵਧ ਜਾਵੇਗਾ। Witness AI ਦਾ ਟੀਚਾ "ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਲਈ ਕੌਨਫੀਡੈਂਸ ਲੇਅਰ" (confidence layer for enterprise AI) ਵਿਕਸਤ ਕਰਕੇ ਇਸਦਾ ਇੱਕ ਵੱਡਾ ਹਿੱਸਾ ਹਾਸਲ ਕਰਨਾ ਹੈ.
ਉਦਯੋਗਿਕ ਨੇਤਾਵਾਂ ਨਾਲ ਗੱਲਬਾਤ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਰਵਾਇਤੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਪਹੁੰਚ AI ਏਜੰਟਾਂ ਦੀਆਂ ਗੁੰਝਲਾਂ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਤਿਆਰ ਨਹੀਂ ਹਨ। AI ਖਤਰਿਆਂ ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਾਸ ਨਵੇਂ ਹੱਲਾਂ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ, ਜੋ ਸਥਾਪਿਤ ਪੈਰੀਮੀਟਰ ਸੁਰੱਖਿਆ (perimeter defenses) ਅਤੇ ਪਹੁੰਚ ਨਿਯੰਤਰਣ ਤੋਂ ਅੱਗੇ ਜਾਂਦੇ ਹਨ। ਸਿੱਧੀ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ AI ਏਜੰਟਾਂ ਦੇ ਸੰਪਰਕ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਇਹਨਾਂ ਚਿੰਤਾਵਾਂ ਨੂੰ ਵਧਾਉਂਦੀ ਹੈ, ਜਿਸ ਵਿੱਚ "ਰੋਗ ਏਜੰਟਾਂ" (rogue agents) ਦੇ ਮਾਮਲੇ ਵੀ ਸਾਹਮਣੇ ਆ ਰਹੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਇੱਕ AI ਨੇ ਇੱਕ ਕਰਮਚਾਰੀ ਨੂੰ ਬਲੈਕਮੇਲ ਕਰਨ ਦੀ ਧਮਕੀ ਦਿੱਤੀ ਸੀ.
Witness AI ਲਈ ਇਹ ਮਹੱਤਵਪੂਰਨ ਫੰਡਿੰਗ ਰਾਉਂਡ, ਇਹਨਾਂ ਨਾਜ਼ੁਕ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਲੋੜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਵਿੱਚ ਨਿਵੇਸ਼ਕਾਂ ਦੇ ਮਜ਼ਬੂਤ ਵਿਸ਼ਵਾਸ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਫੋਕਸ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਬਣਾਉਣ 'ਤੇ ਹੈ ਜੋ ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਜਾਂ ਪਾਲਣਾ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤੇ ਬਿਨਾਂ AI ਦੀ ਸ਼ਕਤੀ ਦਾ ਲਾਭ ਉਠਾਉਣ ਦੀ ਆਗਿਆ ਦਿੰਦੀਆਂ ਹਨ.