IIIT-Hyderabad ના સંશોધકોએ એક ચોંકાવનારો ખુલાસો કર્યો છે. મેડિકલ ઈમેજિંગ માટે વપરાતા AI મોડલ્સ દર્દીના રિપોર્ટ્સનું વિશ્લેષણ કરવાને બદલે 'રિવર્સ લોજિક' (ઉલટી પદ્ધતિ) નો ઉપયોગ કરીને નિદાન કરે છે, જે ક્લિનિકલ નિર્ણય લેવામાં જોખમી સાબિત થઈ શકે છે.
IIIT-Hyderabad ના લેંગ્વેજ ટેકનોલોજી રિસર્ચ સેન્ટર દ્વારા કરવામાં આવેલા નવા સંશોધનમાં AI સંચાલિત મેડિકલ ડાયગ્નોસ્ટિક્સની વિશ્વસનીયતા પર ગંભીર પ્રશ્નો ઉભા થયા છે. આ અભ્યાસમાં MAIRA-2, MedGemma-4B, LLaVA-Med-1.5 અને LLaVA-1.5 જેવા જાણીતા AI મોડલ્સ કેવી રીતે કામ કરે છે તેનું પરીક્ષણ કરવામાં આવ્યું હતું.
શું છે 'રિવર્સ એનાલિસિસ' નો ખતરો?
સંશોધકોને જણાયું કે આ AI મોડલ્સ પહેલાથી જ એક નિદાન (Diagnosis) નક્કી કરી લે છે અને ત્યારબાદ તેને સાબિત કરવા માટે રિપોર્ટમાં હીટમેપ (Heatmap) બનાવે છે. એટલે કે, તે ઈમેજનું સાચું વિશ્લેષણ કરવાને બદલે પાછળથી તર્ક ગોઠવવાનું કામ કરે છે. જ્યારે રિસર્ચર્સે મેટાડેટા હટાવી દીધો, ત્યારે આ મોડલ્સની સાચું નિદાન કરવાની ક્ષમતામાં મોટો ઘટાડો જોવા મળ્યો હતો.
હેલ્થકેર સેક્ટર માટે ચેતવણી
આ 'બ્લેક બોક્સ' ટેક્નોલોજી હોસ્પિટલો માટે જોખમી બની શકે છે. જોકે AI ઝડપી પરિણામો આપે છે, પરંતુ તેની ક્લિનિકલ તર્કશક્તિ હજુ પણ મનુષ્યોની સરખામણીમાં ઘણી પાછળ છે. આ તારણો આગામી MICCAI 2026 કોન્ફરન્સમાં રજૂ કરવામાં આવશે.
રોકાણકારો અને હોસ્પિટલ એડમિનિસ્ટ્રેટર્સે ખાસ ધ્યાન રાખવું જોઈએ કે રેગ્યુલેટરી મંજૂરી મળવાનો અર્થ એ નથી કે આ સોફ્ટવેર વાસ્તવિક દુનિયામાં હંમેશા સચોટ પરિણામો જ આપશે. જ્યાં સુધી AI ડેવલપર્સ સિસ્ટમમાં વધુ પારદર્શિતા અને સાચી ક્લિનિકલ સમજ નહીં લાવે, ત્યાં સુધી ડોક્ટરોએ AI આઉટપુટને અંતિમ નિદાન ગણવાને બદલે માત્ર એક સહાયક ટૂલ તરીકે જ જોવું જોઈએ.