CERT-In ने AI एजंट्ससाठी नवीन सुरक्षा मार्गदर्शक तत्त्वे जारी केली आहेत. यात AI सिस्टमला चार जोखमीच्या स्तरांमध्ये (Risk Tiers) विभागले असून, मानवी हस्तक्षेप (Human Oversight) अनिवार्य करण्यात आला आहे.
भारतीय कॉम्प्युटर इमर्जन्सी रिस्पॉन्स टीम (CERT-In) ने ४ नोव्हेंबर २०२६ रोजी आर्टिफिशियल इंटेलिजन्स (AI) प्रणालींसाठी एक सर्वसमावेशक सुरक्षा आराखडा जाहीर केला आहे. स्वायत्त (Autonomous) AI एजंट्समुळे वाढणारे धोके, जसे की डेटा लीक होणे आणि अनधिकृत प्रवेश, यांना रोखणे हा यामागील मुख्य उद्देश आहे.
चार स्तरांचे वर्गीकरण (Risk-Based Tiers)
नवीन नियमावलीनुसार, AI प्रणालींना 'लो' ते 'क्रिटिकल' अशा चार स्तरांमध्ये विभागले जाणार आहे. क्रिटिकल सिस्टम्ससाठी अत्यंत कडक नियम लागू करण्यात आले आहेत. विशेषतः, AI एजंट्सना युजर्सचे सर्व अधिकार न मिळतील याची काळजी घेण्यासाठी 'एक्सप्लिसिट परमिशन मॉडेल' बंधनकारक केले आहे.
मानवी हस्तक्षेप अनिवार्य (Human-in-the-loop)
मोठ्या निर्णयांसाठी आता AI ला 'मानवी परवानगी' घ्यावीच लागणार आहे. कोणताही हाय-इम्पॅक्ट निर्णय घेण्यापूर्वी मानवी निरीक्षकाची मंजुरी असणे आवश्यक आहे. तसेच, सर्व AI हालचालींचे १८० दिवसांचे लॉग्स (Logs) जतन करणे ऑडिटर्ससाठी अनिवार्य केले आहे.
गुंतवणूकदार आणि उद्योगांवर परिणाम
या नियमांमुळे आयटी (IT) कंपन्यांवरील अनुपालन खर्च (Compliance Cost) वाढणार आहे. विशेषतः फायनान्स, हेल्थकेअर आणि पायाभूत सुविधा क्षेत्रात काम करणाऱ्या कंपन्यांना त्यांच्या सिस्टीम्समध्ये त्वरित बदल करावे लागतील. तसेच, 'प्रॉम्प्ट इंजेक्शन' सारख्या सायबर हल्ल्यांपासून बचाव करण्यासाठी कंपन्यांना आता सायबर सुरक्षेवर अधिक गुंतवणूक करावी लागणार आहे. या नियमांमुळे भविष्यात आयटी खर्चाचा मोठा हिस्सा 'सुरक्षा' आणि 'ऑडिट' कडे वळण्याची शक्यता आहे.