భారతీయ ఫిన్టెక్, టెక్ కంపెనీలు వాడుతున్న AI మోడల్స్ సర్నేమ్లు, పిన్ కోడ్స్ వంటి డేటాను బట్టి సామాజిక వర్గాలను అంచనా వేస్తున్నట్లు వెల్లడైంది. ఇది క్రెడిట్ స్కోరింగ్ లో వివక్షకు దారితీస్తుందని, తద్వారా రెగ్యులేటరీ రిస్క్ పెరిగే అవకాశం ఉందని నిపుణులు హెచ్చరిస్తున్నారు.
భారతదేశంలోని ప్రైవేట్ రంగంలో కృత్రిమ మేధస్సు (AI) వినియోగం వేగంగా పెరుగుతోంది. అయితే, ఇది డేటా ఎథిక్స్ మరియు సామాజిక వివక్షకు సంబంధించి ఊహించని సవాళ్లను ఎదుర్కొంటోంది. ముఖ్యంగా ఫైనాన్షియల్ సర్వీసెస్, కన్స్యూమర్ టెక్ ప్లాట్ఫారమ్లలో వాడుతున్న కార్పొరేట్ అల్గారిథమ్స్... నేరుగా ప్రోగ్రామ్ చేయకపోయినా, పరోక్షంగా వ్యక్తుల కులాన్ని, సామాజిక నేపథ్యాన్ని అంచనా వేస్తున్నాయని తాజా నివేదికలు చెబుతున్నాయి. ఇవి పిన్ కోడ్స్, విద్యా నేపథ్యం, ఇంటి పేర్లు వంటి సమాచారాన్ని విశ్లేషించి ఒక 'షాడో డేటాబేస్'ను సృష్టిస్తున్నాయి.
ఫిన్టెక్ రంగంలో క్రెడిట్ స్కోరింగ్ సమస్య
పెట్టుబడిదారులకు ఇది చాలా కీలకం. లోన్ అర్హతను నిర్ణయించే క్రెడిట్ స్కోరింగ్ మోడల్స్ భారీ డేటాపై ఆధారపడతాయి. అల్గారిథమ్స్ కేవలం ఆర్థిక స్థితిగతులపై కాకుండా, సామాజిక హోదాను ప్రాతిపదికగా తీసుకుంటే అది వివక్షకు దారితీస్తుంది. ఇది పోర్ట్ఫోలియో క్వాలిటీని దెబ్బతీయడమే కాకుండా, భారతీయ రిజర్వ్ బ్యాంక్ (RBI) నుంచి కఠినమైన ఆంక్షలకు దారితీయవచ్చు. కంపెనీలు తమ 'బ్లాక్-బాక్స్' AI నిర్ణయాలు పక్షపాత రహితంగా ఉన్నాయని నిరూపించుకోవాల్సిన ఒత్తిడి పెరుగుతోంది.
కన్స్యూమర్ ప్లాట్ఫారమ్స్ & అల్గోరిథమిక్ సార్టింగ్
కేవలం బ్యాంకింగ్ రంగమే కాదు, మ్యాట్రిమోనీ సైట్లు, గిగ్ ఎకానమీ యాప్స్ కూడా నిఘాలో ఉన్నాయి. ఇవి గత వినియోగదారుల పద్ధతులను బట్టి మ్యాచెస్ లేదా సర్వీసెస్ చూపడం ద్వారా పాత సామాజిక పక్షపాతాలను మళ్లీ బలపరుస్తున్నాయి. ఇది స్వల్పకాలంలో ఎంగేజ్మెంట్ను పెంచినా, దీర్ఘకాలంలో కంపెనీ ప్రతిష్టను (Reputation) దెబ్బతీస్తుంది. కార్పొరేట్ గవర్నెన్స్కు ప్రాధాన్యతనిచ్చే ఇన్వెస్టర్లు, ఇలాంటి పారదర్శకత లేని విధానాల వల్ల రిస్క్ ఉందని భావిస్తున్నారు.
పెట్టుబడిదారుల దృష్టిలో ఉండాల్సిన అంశాలు
2027 నాటికి డిజిటల్ కుల గణనను ప్రభుత్వం చేపడుతున్న తరుణంలో, ప్రైవేట్ రంగం అనుసరిస్తున్న ఈ అస్పష్టమైన కేటగిరీల వల్ల గవర్నెన్స్ గ్యాప్ ఏర్పడుతోంది. రాబోయే రోజుల్లో 'Explainable AI' మరియు అల్గారిథమిక్ ఆడిటింగ్ కీలకం కానున్నాయి. ఏ కంపెనీలు తమ మోడల్స్ను బయస్-ఫ్రీగా ఉంచుతాయో, అవి మాత్రమే భవిష్యత్ నిబంధనల నుంచి సురక్షితంగా బయటపడతాయి.