भारत में AI का बेकाबू घोड़ा: भरोसेमंद सलाहकारों से साइबर सुरक्षा तक का खतरा

एल्गोरिथम जवाबदेही का खालीपन

भारत में बड़े भाषा मॉडल (LLM) का इस्तेमाल बिना किसी कानूनी ढांचे के हो रहा है, जो एल्गोरिथम की गलतियों से होने वाले नुकसान को संभालने में नाकाम है। कई प्लेटफॉर्म अपने AI टूल्स को रिसर्च असिस्टेंट बताकर बेच रहे हैं, लेकिन ये अभी भी गलतियाँ करने के लिए प्रोन हैं। डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट जैसे मौजूदा नियमों का फोकस डेटा सिक्योरिटी पर है, न कि AI द्वारा दी जा रही जानकारी की विश्वसनीयता पर। इससे एक खतरनाक स्थिति पैदा हो गई है, जहाँ यूज़र्स, खासकर कानून और स्वास्थ्य जैसे गंभीर क्षेत्रों के लोग, मशीन-जनरेटेड जवाबों को सही मान रहे हैं, भले ही AI की बनावट भाषाई सटीकता से ज़्यादा फ्लो पर ज़ोर देती है।

कॉर्पोरेट एक्सपोजर और शैडो AI

कंपनियों में कंज्यूमर-फेसिंग AI का इस्तेमाल एंटरप्राइज सिक्योरिटी के लिए एक छिपा हुआ खतरा है। कई संगठन अंदरूनी संकट का सामना कर रहे हैं क्योंकि कर्मचारी अनधिकृत चैटबॉट इंटरफेस का इस्तेमाल कर रहे हैं, जिससे सीक्रेट सोर्स कोड और संवेदनशील लीगल डेटा पब्लिक मॉडल में अपलोड हो रहे हैं। यह सब चीफ इनफॉर्मेशन सिक्योरिटी ऑफिसर्स (CISOs) की जानकारी के बिना हो रहा है। अतीत में, गलत मिसालों के कारण कानूनी कार्यवाही में भारी जुर्माने और गलत प्रोफेशनल रिपोर्ट्स की वजह से प्रतिष्ठा को हुए नुकसान जैसी घटनाएं एक चेतावनी हैं। यह मुद्दा अब सिर्फ पब्लिक मिसइंफॉर्मेशन का नहीं है, बल्कि AI टूल्स की सुविधा के ज़रिए कॉर्पोरेट गोपनीयता के क्षरण का भी है।

स्ट्रक्चरल गवर्नेंस की चुनौती

भारत में कंज्यूमर AI सेफ्टी कोड बनाने के लिए इनोवेशन को बढ़ावा देने और बड़े पैमाने पर उपभोक्ता नुकसान को रोकने के बीच संतुलन बनाना होगा। ज़्यादा सख़्त नियमों के आलोचक कहते हैं कि इससे घरेलू टेक इकोसिस्टम को नुकसान पहुँच सकता है। लेकिन दूसरा विकल्प यह है कि जवाबदेही पूरी तरह से लाभ-उन्मुख संस्थाओं पर छोड़ दी जाए, जिनके पास अपनी सीमाओं को बताने के लिए कोई प्रोत्साहन नहीं है। एक संतुलित दृष्टिकोण में अनिवार्य 'अनिश्चितता संकेत' (uncertainty signalling) शामिल करना होगा – जहाँ मॉडल को अपने आउटपुट की विश्वसनीयता को स्पष्ट रूप से वर्गीकृत करना होगा – और बड़े पैमाने पर काम करने वाले प्लेटफॉर्म्स के लिए कड़े पारदर्शिता रिपोर्टिंग की आवश्यकताएं लागू करनी होंगी। एडवरटाइजिंग स्टैंडर्ड्स काउंसिल ऑफ इंडिया (ASCI) जैसे स्थापित निकायों के साथ इन प्रयासों को संरेखित करके, नीति निर्माता छोटे डेवलपर्स पर इनोवेशन-किलिंग बोझ डाले बिना 'खरीदार सावधान' से 'प्लेटफ़ॉर्म जवाबदेही' की ओर एक बड़ा बदलाव ला सकते हैं।

फॉरेंसिक बेयर केस: स्ट्रक्चरल कमजोरियां

भारत में AI के वर्तमान ट्रैक पर मुख्य जोखिम अनवेरिफाइड कंटेंट का तेज़ी से सामान्यीकरण है। यदि भारतीय सरकार या सेक्टर रेगुलेटर AI प्रदाताओं पर सख्त देनदारी (strict liability) थोपने का कदम उठाते हैं, तो Alphabet और OpenAI जैसी कंपनियों को महत्वपूर्ण कानूनी ओवरहेड का सामना करना पड़ सकता है। इसके अलावा, भारतीय बाज़ार की भाषाई जटिलता एक 'ट्रांसलेशन ट्रैप' बनाती है, जहाँ क्षेत्रीय भाषाओं में AI का प्रदर्शन अंग्रेजी की तुलना में काफी कम रहता है, जिससे हानिकारक हेलुसिनेशन की संभावना बढ़ जाती है। यदि नियामक निकाय यह तय करते हैं कि वर्तमान स्व-नियमन अपर्याप्त है, तो हम अनिवार्य, महंगे और संसाधन-गहन अनुपालन ऑडिट की ओर एक बदलाव की उम्मीद कर सकते हैं जो स्थानीय बाजार में पैठ बनाने की कोशिश करने वाली टेक फर्मों के मार्जिन को कम कर सकता है।