भारतातील AI डेव्हलपर्स आता सायबर हल्ले आणि ऑटोनॉमस एजंट्सपासून वाचण्यासाठी थेट मॉडेल आर्किटेक्चरमध्येच सुरक्षा फीचर्स बसवत आहेत. डेटा सुरक्षित ठेवण्यासाठी कंपन्यांनी कडक नियम लागू केले आहेत.
भारतीय आर्टिफिशियल इंटेलिजन्स क्षेत्रात आता सुरक्षेची रणनीती बदलली आहे. केवळ सॉफ्टवेअर पॅचिंगवर अवलंबून न राहता, डेव्हलपर्स आता थेट मॉडेलच्या मूळ आराखड्यातच सुरक्षा व्यवस्था (Security Measures) समाविष्ट करत आहेत. ऑटोनॉमस AI एजंट्स केवळ टेक्स्ट जनरेट करत नाहीत, तर ते एंटरप्राइझ सॉफ्टवेअर, डेटा स्टोअर्स आणि आर्थिक प्लॅटफॉर्मवर प्रत्यक्ष कामे करू शकतात, त्यामुळे धोके वाढले आहेत.
सुरक्षेची पायाभरणी
Sarvam AI, Fractal Analytics आणि BharatGen यांसारख्या कंपन्या सुरक्षेला आपल्या डिझाइनचा एक महत्त्वाचा भाग मानत आहेत. जर AI मॉडेल्समध्ये कोणतीही त्रुटी राहिली, तर ती मोठी चूक किंवा अनधिकृत कृतींना निमंत्रण देऊ शकते. Fractal Analytics सारख्या लिस्टेड कंपन्यांसाठी आता 'सुरक्षित आणि एंटरप्राइझ-ग्रेड AI' पुरवणे हे त्यांच्या बिझनेस मॉडेलचा केंद्रबिंदू बनले आहे.
तसेच, भारताचे स्वतःचे 'सॉवरेन मॉडेल्स' (Sovereign Models) विकसित करण्यावर भर दिला जात आहे. BharatGen द्वारे स्थानिक कायदेशीर आणि घटनात्मक डेटावर आधारित ट्रेनिंग दिल्यामुळे बँकिंग आणि हेल्थकेअर क्षेत्रातील ग्राहकांचा विश्वास वाढणार आहे.
सिस्टिमिक फेल्युअरचा धोका
Fractal च्या नेतृत्वाने 'सॉफ्टवेअर मोनोकल्चर' (Software Monoculture) बद्दल चिंता व्यक्त केली आहे. जर हजारो कंपन्या एकाच फाउंडेशन मॉडेलवर अवलंबून असतील, तर एका छोट्या त्रुटीमुळे किंवा डेटा पॉइझनिंगमुळे (Poisoned Dataset) संपूर्ण सिस्टिमवर परिणाम होऊ शकतो. त्यामुळे AI एजंट्सना त्यांच्या कामापुरताच मर्यादित प्रवेश (Permission Controls) देण्यावर सध्या तज्ज्ञांचा भर आहे.
गुंतवणूकदारांसाठी महत्त्वाचे मुद्दे
AI च्या वाढत्या वापरासोबतच सुरक्षेचा खर्च हा कंपन्यांसाठी एक 'रिकरिंग एक्सपेंडिचर' (Recurring Expense) बनणार आहे. दीर्घकालीन वाढीसाठी खालील गोष्टींवर लक्ष देणे आवश्यक आहे:
- R&D खर्च: कंपन्या सुरक्षिततेसाठी संशोधनावर किती गुंतवणूक करत आहेत.
- सॉवरेन मॉडेल्सची यशस्वी अंमलबजावणी: मिशन-क्रिटिकल क्षेत्रात या मॉडेल्सचा वापर.
- रेग्युलेटरी लँडस्केप: AI गव्हर्नन्सबाबतचे नवीन नियम आणि कंपन्यांचे पालन.