ఎకనామిక్, పాలసీ రీసెర్చ్‌లో AI టూల్స్ వాడకం పెరుగుతున్న కొద్దీ, అందులో జరుగుతున్న తప్పులు ఆందోళన కలిగిస్తున్నాయి. దీనివల్ల కచ్చితమైన ఫలితాల కోసం 'హ్యూమన్-ఇన్-ది-లూప్' (human-in-the-loop) పద్ధతికి డిమాండ్ పెరుగుతోంది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ద్వారా డేటాను ప్రాసెస్ చేయడం టెక్ రంగంలో కొత్త ట్రెండ్‌గా మారింది. అయితే, ఈ ఆటోమేషన్ ప్రక్రియలో వస్తున్న తప్పులు ఇప్పుడు కంపెనీల బోర్డు రూమ్‌ల్లో చర్చకు దారితీస్తున్నాయి. మిషన్ వేగానికి, మానవ విజ్ఞతకు మధ్య ఉన్న అంతరం స్పష్టంగా కనిపిస్తోంది.
డేటా అనలిటిక్స్‌లో 'బ్లాక్ బాక్స్' రిస్క్
AI ప్లాట్‌ఫామ్స్ డేటాను మెరుపు వేగంతో విశ్లేషించగలవు, కానీ Emmanuel Saez మరియు Gabriel Zucman వంటి ఆర్థికవేత్తల పరిశోధనల్లో బయటపడ్డ తప్పులు ఆటోమేటెడ్ ఆడిటింగ్ ఎంత ప్రమాదకరమో చూపిస్తున్నాయి. AIకి గణాంకాలు తెలుసు కానీ, వాటి వెనుక ఉన్న సందర్భం (Context) తెలియదు. ఫలితాలను ఎందుకు అలా ఇచ్చిందో వివరించలేకపోవడం (Explainability) వల్ల పెద్ద పెద్ద కార్పొరేట్ క్లయింట్లు ఇబ్బందులు పడుతున్నారు.
'హైబ్రిడైజేషన్' వైపు అడుగులు
ఇప్పుడు మార్కెట్ 'ఆటోమేషన్ మాత్రమే చాలు' అనే పద్ధతి నుంచి 'హ్యూమన్-ఇన్-ది-లూప్' వెరిఫికేషన్ వైపు మారుతోంది. అంటే, AI పనిని వేగంగా చేస్తే, ఆఖరి దశలో నిపుణులు దాన్ని సరిచూస్తారు (Final audit). ఇది కేవలం నాణ్యత కోసమే కాదు, భవిష్యత్తులో రాబోయే రెగ్యులేటరీ ఆంక్షల నుంచి తప్పించుకోవడానికి కూడా అవసరం.
ఇన్వెస్టర్లు గమనించాల్సిన అంశాలు:
- Explainable AI (XAI): కంపెనీలు తమ మోడల్స్ ఇచ్చే ఫలితాలకు లాజిక్ వివరించేలా టెక్నాలజీని డెవలప్ చేస్తున్నాయా?
- గవర్నెన్స్ ఫ్రేమ్‌వర్క్: AI ఇచ్చే అవుట్‌పుట్లలో పక్షపాతం (Bias) లేకుండా చూడటానికి కంపెనీల దగ్గర సరైన పాలసీలు ఉన్నాయా?
- క్లయింట్ అడాప్షన్: ఎంటర్‌ప్రైజ్ క్లయింట్లు పూర్తిగా ఆటోమేటెడ్ సిస్టమ్స్ కంటే, మనుషుల పర్యవేక్షణ ఉన్న ప్లాట్‌ఫామ్స్‌నే ఎంచుకుంటున్నారా?
కేవలం వేగం, డేటా కెపాసిటీ మాత్రమే కాదు.. విశ్వసనీయత (Reliability), పారదర్శకత ఉన్న కంపెనీలే భవిష్యత్తులో రాణిస్తాయి.