भारत में प्राइवेट सेक्टर की AI कंपनियां सरनेम और PIN कोड जैसे डेटा का इस्तेमाल कर लोगों की सामाजिक स्थिति का पता लगा रही हैं। यह क्रेडिट स्कोरिंग और कंज्यूमर प्लेटफॉर्म्स के लिए बड़ी रेगुलेटरी और रिप्यूटेशनल चुनौती बन गया है।
भारत के प्राइवेट सेक्टर में आर्टिफिशियल इंटेलिजेंस (AI) का तेजी से विस्तार हो रहा है, लेकिन यह विकास अपने साथ डेटा एथिक्स (Data Ethics) और सामाजिक भेदभाव जैसे गंभीर सवाल भी लेकर आया है। रिपोर्ट्स के अनुसार, कई कॉर्पोरेट एल्गोरिदम अब बिना किसी विशेष प्रोग्रामिंग के भी लोगों की जाति और सामाजिक स्थिति का अनुमान लगा रहे हैं। ये सिस्टम PIN कोड, शैक्षणिक पृष्ठभूमि और सरनेम जैसे डेटा पॉइंट्स का विश्लेषण कर एक 'शैडो डेटाबेस' तैयार कर रहे हैं।
फिनटेक और क्रेडिट स्कोरिंग का संकट
निवेशकों के लिए यह सबसे चिंताजनक विषय है। फिनटेक लेंडर्स और बैंक लोन देने के लिए बड़े पैमाने पर डेटा पर निर्भर हैं। यदि ये एल्गोरिदम विशुद्ध रूप से क्रेडिटवर्थनेस (Creditworthiness) के बजाय सामाजिक-आर्थिक संकेतों के आधार पर लोन रिजेक्ट करते हैं, तो इससे पोर्टफोलियो क्वालिटी खराब हो सकती है और रेगुलेटरी मुश्किलें बढ़ सकती हैं। भारतीय रिजर्व बैंक (RBI) पहले ही 'ब्लैक-बॉक्स' AI की पारदर्शिता को लेकर चिंता जता चुका है, ऐसे में कंपनियों को यह साबित करना होगा कि उनकी लेंडिंग प्रोसेस भेदभाव रहित है।
कंज्यूमर प्लेटफॉर्म्स की बढ़ती मुश्किलें
सिर्फ बैंकिंग ही नहीं, मैट्रिमोनियल साइट्स और गिग इकोनॉमी ऐप्स भी इसके दायरे में हैं। ये प्लेटफॉर्म्स जाने-अनजाने में पारंपरिक सामाजिक प्राथमिकताओं को बढ़ावा दे रहे हैं। हालांकि, इससे शॉर्ट-टर्म में यूजर एंगेजमेंट बढ़ सकता है, लेकिन यह कंपनियों के लिए 'रिप्यूटेशनल टैक्स' जैसा है। संस्थागत निवेशक अब कॉर्पोरेट गवर्नेंस पर बारीकी से नजर रखते हैं, और किसी भी तरह का भेदभाव ब्रांड ट्रस्ट को भारी नुकसान पहुंचा सकता है।
आगे की राह
सरकार द्वारा 2027 में डिजिटल कास्ट गणना की तैयारी के बीच, प्राइवेट सेक्टर का अनौपचारिक AI आधारित वर्गीकरण एक बड़ा गवर्नेंस गैप पैदा कर रहा है। निवेशकों को अब उन कंपनियों पर नजर रखनी चाहिए जो 'एक्सप्लेनेबल AI' (Explainable AI) और एल्गोरिदम ऑडिट (Algorithmic Audit) को प्राथमिकता दे रही हैं। जो कंपनियां अपनी AI मॉडल्स को पारदर्शी बनाएंगी, वे रेगुलेटरी बाधाओं से बची रहेंगी, जबकि पुरानी और अपारदर्शी तकनीक पर निर्भर रहने वाली कंपनियों को भविष्य में कानूनी और व्यावसायिक चुनौतियों का सामना करना पड़ सकता है।