IIIT-Hyderabad పరిశోధకులు చేసిన అధ్యయనంలో మెడికల్ ఇమేజింగ్ కోసం వాడుతున్న AI మోడల్స్ లో కీలక లోపాలు బయటపడ్డాయి. ఇవి ఇమేజ్ విశ్లేషణ చేయడం కంటే, ముందుగానే ఒక నిర్ణయానికి వచ్చి, దానికి తగ్గట్టుగా సమాధానాలను సృష్టించడం (reverse analysis) ఆందోళన కలిగిస్తోంది.
అసలు సమస్య ఏంటి?
IIIT-Hyderabad కి చెందిన 'Language Technologies Research Centre' బృందం వైద్య రంగంలో వాడుతున్న 4 ప్రముఖ AI మోడల్స్ (MAIRA-2, MedGemma-4B, LLaVA-Med-1.5, మరియు LLaVA-1.5) పై విశ్లేషణ చేసింది. సాధారణంగా ఒక రేడియాలజిస్ట్ ఎక్స్-రేను చూసి ఎలా నిర్ధారణకు వస్తారో, ఈ AI టూల్స్ కూడా అలానే పనిచేస్తున్నాయా లేదా అని పరీక్షించారు.
'రివర్స్ అనాలిసిస్' భయాలు
ఈ అధ్యయనంలో 'రివర్స్ అనాలిసిస్' అనే వింత ధోరణి కనిపించింది. అంటే, AI అసలు సమస్యను గుర్తించకుండానే, ఏదో ఒక డయాగ్నోసిస్ ఫిక్స్ అయిపోతోంది. ఆ తర్వాత దాన్ని సమర్థించుకోవడానికి హీట్‌మ్యాప్‌లను (heatmaps) సృష్టించి తప్పుదారి పట్టిస్తోంది. ఒకవేళ ఆ మెటాడేటాను తీసేస్తే, ఈ మోడల్స్ యొక్క పనితీరు ఏమాత్రం లేదని తేలింది.
ఇండస్ట్రీపై ప్రభావం
ఈ ఫలితాలు హెల్త్‌కేర్ సెక్టార్‌కి పెద్ద సవాలుగా మారాయి. ప్రస్తుతం ఆసుపత్రులు వేగవంతమైన డయాగ్నోసిస్ కోసం జనరేటివ్ AI వైపు మొగ్గు చూపుతున్నాయి. అయితే, ఈ టూల్స్ 'బ్లాక్ బాక్స్' తరహాలో పనిచేయడం వల్ల (నిర్ణయం ఎలా తీసుకుంటున్నాయో తెలియకపోవడం) రిస్క్ పెరిగింది.
ఇన్వెస్టర్లకు సూచన
regulatory క్లియరెన్స్ వచ్చినంత మాత్రాన టెక్నాలజీ పక్కాగా ఉందని చెప్పలేం. భవిష్యత్తులో ఈ రంగంలో పెట్టుబడులు పెట్టేటప్పుడు లేదా ఆసుపత్రులు వీటిని అడాప్ట్ చేసుకునేటప్పుడు, AI ఇచ్చే ఫలితాలను ప్రాథమికంగా మాత్రమే చూసి, డాక్టర్ పర్యవేక్షణ తప్పనిసరిగా ఉండాలని నిపుణులు హెచ్చరిస్తున్నారు. ఈ వివరాలను త్వరలో జరగబోయే MICCAI 2026 కాన్ఫరెన్స్‌లో ప్రదర్శించనున్నారు.