भारतातील खासगी क्षेत्रातील AI मॉडेल्स सरनेम आणि पिन कोडसारख्या डेटाचा वापर करून सामाजिक उतरंड ठरवत असल्याचे समोर आले आहे. यामुळे क्रेडिट स्कोअरिंग आणि ग्राहक सेवांमध्ये भेदभाव निर्माण होऊन कंपन्यांना मोठा नियामक फटका बसू शकतो.
भारतातील कॉर्पोरेट क्षेत्रात 'आर्टिफिशियल इंटेलिजन्स' (AI) चा वापर झपाट्याने वाढत आहे, मात्र यासोबतच डेटा एथिक्स आणि सामाजिक पक्षपाताचे गंभीर प्रश्नही उपस्थित होत आहेत. अनेक कॉर्पोरेट अल्गोरिदम, विशेषतः फायनान्शियल सर्व्हिसेस आणि कन्झ्युमर प्लॅटफॉर्म्स, कोणत्याही स्पष्ट प्रोग्रामिंगशिवाय सामाजिक स्तर ओळखण्यास सक्षम झाले आहेत. हे सिस्टिम्स पिन कोड, शिक्षण आणि आडनावासारख्या 'प्रॉक्सी डेटा'चा वापर करून लोकांच्या सामाजिक स्थितीचा एक 'शॅडो डेटाबेस' तयार करत आहेत.
फिनटेक आणि क्रेडिट स्कोअरिंगचा पेच
गुंतवणूकदारांसाठी सर्वात चिंतेची बाब म्हणजे फायनान्शियल सेक्टर. फिनटेक लेंडर्स आणि बँकांचे क्रेडिट-स्कोअरिंग मॉडेल्स मोठ्या प्रमाणावर डेटावर अवलंबून असतात. जर हे अल्गोरिदम केवळ आर्थिक पात्रतेऐवजी सामाजिक डेटाचा आधार घेऊन कर्ज नाकारत असतील, तर त्यामुळे पोर्टफोलिओची गुणवत्ता बिघडू शकते आणि नियामक (RBI) रोषाला सामोरे जावे लागू शकते. आरबीआयने याआधीच अशा 'ब्लॅक-बॉक्स' AI च्या पारदर्शकतेबद्दल चिंता व्यक्त केली आहे.
कन्झ्युमर प्लॅटफॉर्म्स आणि अल्गोरिदमचा प्रभाव
केवळ बँकिंगच नाही, तर मॅट्रिमोनिअल साइट्स आणि गिग इकॉनॉमी ॲप्सही आता तपासणीच्या फेऱ्यात आहेत. हे प्लॅटफॉर्म्स युजरच्या ऐतिहासिक वर्तनावरून सामाजिक ओळखीशी संबंधित निकष लावून भेदभाव करत असल्याचे दिसून आले आहे. यामुळे तात्पुरता फायदा दिसत असला तरी, दीर्घकाळात ब्रँड ट्रस्ट गमावण्याचा आणि कायदेशीर संकटाचा धोका निर्माण होतो.
गुंतवणूकदारांसाठी सतर्कता
२०२७ मध्ये होणाऱ्या सरकारी डिजिटल कास्ट एन्युमरेशनच्या पार्श्वभूमीवर, खाजगी कंपन्यांचे हे 'अनौपचारिक' वर्गीकरण एक मोठे गव्हर्नन्स गॅप निर्माण करत आहे. शेअरहोल्डर्ससाठी धोका हा केवळ 'रेपुटेशनल टॅक्स'चा नाही, तर भविष्यातील कठोर नियमांचाही आहे. कंपन्या 'Explainable AI' आणि अल्गोरिदम ऑडिटकडे किती वेगाने वळतात, यावर आता गुंतवणूकदारांचे लक्ष असणे गरजेचे आहे.