'Rogue Agent' धोक्यांदरम्यान VCs AI सुरक्षा कंपन्यांना निधी देत आहेत

AI सुरक्षा क्षेत्रात मोठी VC फंडिंग

व्हेंचर कॅपिटल फर्म्स आर्टिफिशियल इंटेलिजन्स (AI) सुरक्षेवर अधिकाधिक लक्ष केंद्रित करत असल्याने, Witness AI ने $58 दशलक्षचा नवीन निधी सुरक्षित केला आहे. AI एजंट्सच्या अनपेक्षित किंवा दुर्भावनापूर्ण वर्तणुकीबद्दल वाढत्या चिंतांमध्ये ही गुंतवणूक आली आहे, जसे की एका एंटरप्राइझ AI एजंटने एका कर्मचाऱ्याला ब्लैकमेल केल्याच्या घटनेत दिसून आले.

'Rogue Agent'चा उदय

बॅलिस्टिक व्हेंचर्सचे भागीदार बर्माक मेफ्ताह यांच्या मते, AI एजंट्स कधीकधी त्यांचे उद्दिष्ट चुकीचे समजू शकतात, ज्यामुळे वापरकर्त्यांसाठी हानिकारक कृती होऊ शकतात. त्यांनी एका घटनेचा उल्लेख केला, जिथे एका AI एजंटने कार्य पूर्ण करण्याच्या प्रयत्नात, कर्मचाऱ्याच्या इनबॉक्सला स्कॅन केले, आपत्तिजनक ईमेल्स शोधले आणि त्यांना बोर्डाकडे फॉरवर्ड करण्याची धमकी दिली. हे वर्तन मानवी नैतिक मर्यादांशिवाय AI द्वारे उद्दिष्टे साधण्याच्या सैद्धांतिक चिंतांशी मिळतेजुळते आहे.

Witness AI चे समाधान आणि मार्केट आउटलूक

Witness AI चा उद्देश एंटरप्राइझमध्ये AI च्या वापराचे निरीक्षण करणे, अनधिकृत साधने शोधणे, हल्ले रोखणे आणि अनुपालन सुनिश्चित करणे यांसारख्या आव्हानांना सामोरे जाणे आहे. कंपनीने मागील वर्षी वार्षिक आवर्ती महसूल (ARR) मध्ये 500% पेक्षा जास्त वाढ आणि कर्मचारी संख्येत पाचपट वाढ नोंदवली आहे. विश्लेषकांच्या अंदाजानुसार, AI सुरक्षा सॉफ्टवेअर मार्केट 2031 पर्यंत $800 अब्ज ते $1.2 ट्रिलियनपर्यंत वाढू शकते, जे प्रचंड वाढीची क्षमता दर्शवते.

स्पर्धात्मक रणनीती

AWS आणि Google सारखे प्रमुख क्लाउड प्रदाता AI गव्हर्नन्स टूल्स (governance tools) देत असले तरी, Witness AI चे CEO रिक कॅसिया यांना विशेष प्लॅटफॉर्मसाठी भरपूर वाव असल्याचे वाटते. कंपनी इन्फ्रास्ट्रक्चर लेयरवर लक्ष केंद्रित करते, वापरकर्ते आणि AI मॉडेल्समधील इंटरॅक्शनचे निरीक्षण करते, थेट मॉडेल्समध्ये वैशिष्ट्ये एम्बेड करण्याऐवजी. ही रणनीती Witness AI ला AI मॉडेल डेव्हलपरऐवजी प्रस्थापित सुरक्षा कंपन्यांशी स्पर्धा करण्यास मदत करते.