IIIT-Hyderabad चा धक्कादायक खुलासा: वैद्यकीय निदानासाठी वापरल्या जाणाऱ्या AI मॉडेलमध्ये गंभीर त्रुटी

'रिव्हर्स ॲनालिसिस'चा धोका

IIIT-Hyderabad च्या 'लँग्वेज टेक्नॉलॉजीज रिसर्च सेंटर'ने केलेल्या अभ्यासात AI मॉडेल्सच्या कार्यपद्धतीवर गंभीर प्रश्न उपस्थित केले आहेत. संशोधकांनी MAIRA-2, MedGemma-4B, LLaVA-Med-1.5 आणि LLaVA-1.5 यांसारख्या प्रसिद्ध मॉडेल्सचा अभ्यास केला. यात असे दिसून आले की, ही मॉडेल्स क्ष-किरण (X-ray) इमेजचे थेट विश्लेषण करण्याऐवजी आधीच एक निष्कर्ष गाठतात आणि मग त्याला पुष्टी देण्यासाठी 'हीटमॅप्स' तयार करतात.

संशोधनाचे निष्कर्ष काय आहेत?

जेव्हा संशोधकांनी या मॉडेल्समधील 'डायग्नोस्टिक मेटाडेटा' काढून टाकला, तेव्हा त्यांची अचूकता लक्षणीयरीत्या घटली. याचाच अर्थ असा की, हे मॉडेल्स क्लिनिकल डेटा समजण्यापेक्षा केवळ आधी शिकलेल्या पॅटर्न्सवर अवलंबून आहेत. ही बाब आरोग्य क्षेत्रासाठी चिंतेची आहे, कारण AI चा वापर वाढवताना अशा तांत्रिक त्रुटी रुग्णांच्या जीवावर बेतू शकतात.

भविष्यातील आव्हान

येणाऱ्या MICCAI 2026 कॉन्फरन्समध्ये हे संशोधन सादर केले जाणार आहे. आता आरोग्य क्षेत्रातील गुंतवणूकदार आणि हॉस्पिटल प्रशासनासाठी ही एक धोक्याची घंटा आहे. रेगुलेटरी मंजुरी मिळालेली असली तरी, रिअल-वर्ल्ड क्लिनिकल सेटिंगमध्ये हे टूल्स किती विश्वासार्ह आहेत, हे तपासणे आता अनिवार्य झाले आहे. जोपर्यंत ही मॉडेल्स 'ब्लॅक बॉक्स' म्हणून राहतील, तोपर्यंत डॉक्टरांनी AI ला केवळ एक सहाय्यक साधन म्हणून पाहावे, निदानाचा अंतिम आधार मानू नये.