IIIT-Hyderabad के रिसर्चर्स ने मेडिकल इमेजिंग AI को लेकर एक गंभीर कमी पकड़ी है। पता चला है कि ये मॉडल एक्सरे देखकर डायग्नोसिस करने के बजाय, पहले नतीजे पर पहुँचते हैं और फिर उसे सही साबित करने के लिए लॉजिक बनाते हैं।
IIIT-Hyderabad के 'लैंग्वेज टेक्नोलॉजीज रिसर्च सेंटर' ने अपनी हालिया रिसर्च में मेडिकल इमेजिंग में इस्तेमाल होने वाले AI मॉडल्स की कार्यप्रणाली पर गंभीर सवाल उठाए हैं। रिसर्च टीम ने MAIRA-2, MedGemma-4B, LLaVA-Med-1.5, और LLaVA-1.5 जैसे पॉपुलर मॉडल्स का गहराई से विश्लेषण किया।
क्या है 'रिवर्स एनालिसिस' का खतरा?
स्टडी में पाया गया कि ये AI टूल्स किसी एक्सरे इमेज को गहराई से समझने के बजाय, पहले ही एक निष्कर्ष (Diagnosis) पर पहुंच जाते हैं। इसके बाद, ये मॉडल उस निष्कर्ष को सही ठहराने के लिए 'हीटमैप' तैयार करते हैं। शोधकर्ताओं ने जब डायग्नोस्टिक मेटाडेटा को हटाकर टेस्ट किया, तो इन मॉडल्स की सटीकता में बड़ी गिरावट देखी गई। इसका मतलब साफ है कि ये सिस्टम एक्सरे के डेटा का सही क्लिनिकल विश्लेषण नहीं कर रहे, बल्कि केवल पैटर्न मैचिंग पर निर्भर हैं।
हेल्थकेयर सेक्टर के लिए चुनौती
हेल्थकेयर सेक्टर तेजी से जनरेटिव AI को डायग्नोस्टिक वर्कफ़्लो में अपना रहा है। हालांकि, ये टूल्स दिखने में काफी प्रभावशाली लगते हैं, लेकिन इनका 'ब्लैक बॉक्स' नेचर—जहाँ यह स्पष्ट नहीं है कि AI किसी नतीजे पर कैसे पहुँचा—अस्पताल प्रशासन और इन्वेस्टर्स के लिए चिंता का विषय है।
आगे की राह
रिसर्च टीम अपनी ये फाइंडिंग्स MICCAI 2026 कॉन्फ्रेंस में पेश करेगी। विशेषज्ञों का मानना है कि जब तक इन मॉडल्स की ट्रांसपेरेंसी और क्लिनिकल वैलिडेशन बेहतर नहीं होता, तब तक मेडिकल प्रोफेशनल्स को इन पर पूरी तरह निर्भर रहने के बजाय इन्हें सिर्फ 'सपोर्ट टूल' की तरह ही इस्तेमाल करना चाहिए।