இந்தியாவின் முன்னணி Fintech மற்றும் கன்சியூமர் டெக் நிறுவனங்களில் உள்ள AI மாடல்கள், பயனர்களின் பெயர் மற்றும் PIN கோட் போன்ற தரவுகளை வைத்து சாதிய ரீதியான பாகுபாடுகளைக் காட்டுவதாகப் புகார்கள் எழுந்துள்ளன. இது ரெகுலேட்டர்களின் கண்காணிப்பை அதிகரிப்பதோடு, நிறுவனங்களுக்குப் பெரிய சட்ட சிக்கல்களையும் ஏற்படுத்தலாம்.
இந்தியாவின் தனியார் துறையில் செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பத்தின் பயன்பாடு மிக வேகமாக வளர்ந்து வருகிறது. அதே வேளையில், தரவு அறநெறி (Data Ethics) மற்றும் சமூகப் பாகுபாடு தொடர்பான சிக்கல்களும் பூதாகரமாக வெடித்துள்ளன. பல கார்ப்பரேட் நிறுவனங்களின் அல்காரிதம்கள், வேண்டுமென்றே நிரல் செய்யப்படாவிட்டாலும், பயனர்களின் பின் கோட், கல்வித் தகுதி மற்றும் குடும்பப் பெயர்களை வைத்து சாதியப் பின்னணியைக் கணிக்கும் திறனைப் பெற்றுள்ளதாக ஆய்வுகள் தெரிவிக்கின்றன. இது நிறுவனங்கள் அறியாமலேயே ஒரு 'நிழல் தரவுத்தளத்தை' (Shadow Database) உருவாக்கி வைத்திருப்பதை உணர்த்துகிறது.
ஃபின்டெக் மற்றும் கிரெடிட் ஸ்கோரிங் சிக்கல்
முதலீட்டாளர்களுக்கு இது மிக முக்கியமான எச்சரிக்கை. ஃபின்டெக் நிறுவனங்கள் கடன் வழங்கப் பயன்படுத்தும் 'கிரெடிட் ஸ்கோரிங்' மாடல்கள், நிதித் தகுதியை மட்டும் பார்க்காமல், இத்தகைய சமூகத் தரவுகளைப் பயன்படுத்தினால், அது மிகப்பெரிய பாரபட்சத்திற்கு வழிவகுக்கும். இந்திய ரிசர்வ் வங்கி (RBI) ஏற்கனவே இத்தகைய 'Black-box' AI முறைகளின் வெளிப்படைத்தன்மை குறித்து கவலை தெரிவித்துள்ளது. கடன் வழங்கும் நடைமுறைகள் பாகுபாடற்றவை என்பதை நிரூபிக்க வேண்டிய கட்டாயம் நிறுவனங்களுக்கு விரைவில் ஏற்படலாம்.
கன்சியூமர் பிளாட்ஃபார்ம்களில் என்ன நடக்கிறது?
மேட்ரிமோனியல் மற்றும் கிக் எகானமி செயலிகளும் தற்போது கண்காணிப்பின் கீழ் உள்ளன. இந்த நிறுவனங்களின் அல்காரிதம்கள், பழைய பயனர் தரவுகளை வைத்து சமூக அடையாளங்களின் அடிப்படையில் பரிந்துரைகளை வழங்குவது, ஏற்கனவே இருக்கும் சமூகப் பாகுபாடுகளை மேலும் உறுதிப்படுத்துகிறது. குறுகிய கால லாபத்திற்காகச் செய்யப்படும் இத்தகைய நடைமுறைகள், நீண்ட கால அடிப்படையில் நிறுவனத்தின் நற்பெயருக்குக் களங்கம் விளைவிக்கும்.
முதலீட்டாளர்கள் கவனிக்க வேண்டியது என்ன?
2027-ல் மத்திய அரசு டிஜிட்டல் சாதி கணக்கெடுப்புக்குத் தயாராகி வரும் நிலையில், கார்ப்பரேட் நிறுவனங்களின் இந்த மறைமுக வகைப்படுத்துதல் ஒரு பெரிய ஆளுமை இடைவெளியை (Governance Gap) உருவாக்கியுள்ளது. இனி வரும் காலங்களில், 'Explainable AI' மற்றும் அல்காரிதமிக் ஆடிட்டிங் (Algorithmic Audits) செய்யும் நிறுவனங்களே சந்தையில் நிலைத்திருக்கும். ஓவர்சைட் இல்லாத, பழைய AI மாடல்களை நம்பியிருக்கும் நிறுவனங்கள் ரெகுலேட்டர்களின் கடுமையான விதிகளால் பெரிய நஷ்டத்தைச் சந்திக்க நேரிடும்.