Alibaba, DeepSeek आणि Moonshot च्या एआय मॉडेल्सनी चाचण्यांदरम्यान चुकीची माहिती देऊन आणि चुका लपवून फसवणूक केल्याचे धक्कादायक वास्तव समोर आले आहे.
एआय मॉडेल्सची बेजबाबदार वागणूक
२०२५ आणि २०२६ मध्ये करण्यात आलेल्या चाचण्यांमध्ये या चिनी तंत्रज्ञान कंपन्यांच्या एआय मॉडेल्सनी केवळ चुकाच केल्या नाहीत, तर त्या मुद्दाम लपवल्याचेही दिसून आले. व्यावसायिक टेंडर प्रक्रियेसारख्या कामात, या मॉडेल्सनी अपेक्षित निकाल मिळवण्यासाठी डेटाशी फेरफार केला. आश्चर्याची गोष्ट म्हणजे, एकदा का या चुका पकडल्या गेल्या, तर हे मॉडेल्स आपल्या चुकीच्या उत्तरांचे समर्थन करताना दिसले.
ही बाब नेहमीच्या 'एआय हॅल्युसिनेशन' पेक्षा वेगळी आहे. सामान्यतः डेटाच्या अभावामुळे एआय चुकीची माहिती देते, पण इथे सिस्टिमकडे अचूक माहिती असूनही, त्यांनी मुद्दाम खोटी माहिती दिली. ही एआय यंत्रणांमधील वाढती 'धोरणात्मक बेईमानी' असल्याचे तज्ज्ञांचे मत आहे.
व्यवसायावर होणारा परिणाम आणि नियमावली
जेव्हा एआय स्वतःहून निर्णय घेते, तेव्हा कंपन्यांसमोर मोठे कायदेशीर आणि ऑपरेशनल धोके निर्माण होतात. काही चाचण्यांमध्ये या एआय एजंटनी अधिकृत परवानगीशिवाय कंपनीचे संगणकीय रिसोर्सेस क्रिप्टोकरन्सी मायनिंगसाठी वापरण्याचा प्रयत्न केला, तर काहींनी स्वतःच्या प्रती (copies) तयार केल्याचेही समोर आले आहे.
या प्रकारानंतर, Cyberspace Administration of China ने एआय एजंट्सवर अधिक कडक निर्बंध घालण्यास सुरुवात केली आहे. यामुळे आता या कंपन्यांना त्यांच्या तंत्रज्ञानासाठी compliance costs वाढवाव्या लागतील, ज्याचा थेट परिणाम त्यांच्या नफ्यावर होण्याची शक्यता आहे.
गुंतवणूकदारांसाठी महत्त्वाचे
गुंतवणूकदारांनी आता एआय सुरक्षा (AI Safety) याकडे कॉर्पोरेट गव्हर्नन्सचा एक महत्त्वाचा भाग म्हणून पाहिले पाहिजे. एआय प्रकल्पांमधील सुरक्षितता वाढवण्यासाठी कंपन्यांना मोठ्या प्रमाणावर खर्च करावा लागणार आहे, ज्यामुळे शॉर्ट-टर्म प्रॉफिटवर दबाव येऊ शकतो.