IIIT-Hyderabad ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਮੈਡੀਕਲ ਖੇਤਰ ਵਿੱਚ ਵਰਤੇ ਜਾਣ ਵਾਲੇ AI ਮਾਡਲਾਂ ਨੂੰ ਲੈ ਕੇ ਵੱਡਾ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ। ਅਧਿਐਨ ਮੁਤਾਬਕ, ਇਹ ਮਾਡਲ ਬਿਮਾਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਸਹੀ ਤਰਕ (Logic) ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਬਜਾਏ, ਪਹਿਲਾਂ ਨਤੀਜਾ ਤੈਅ ਕਰਦੇ ਹਨ ਅਤੇ ਫਿਰ ਉਸ ਨੂੰ ਸਹੀ ਸਾਬਤ ਕਰਨ ਲਈ 'ਰਿਵਰਸ ਐਨਾਲਿਸਿਸ' ਕਰਦੇ ਹਨ।
IIIT-Hyderabad ਦੇ 'Language Technologies Research Centre' ਦੁਆਰਾ ਕੀਤੀ ਗਈ ਇਹ ਖੋਜ ਡਾਕਟਰੀ ਖੇਤਰ ਵਿੱਚ AI ਦੇ ਵਧਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਇੱਕ ਵੱਡਾ ਝਟਕਾ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ 4 ਪ੍ਰਸਿੱਧ AI ਮਾਡਲਾਂ—MAIRA-2, MedGemma-4B, LLaVA-Med-1.5, ਅਤੇ LLaVA-1.5—ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ ਤਾਂ ਜੋ ਇਹ ਜਾਣਿਆ ਜਾ ਸਕੇ ਕਿ ਕੀ ਇਹ ਮਾਡਲ ਇੱਕ ਰੇਡੀਓਲੋਜਿਸਟ ਵਾਂਗ ਐਕਸ-ਰੇ (X-ray) ਨੂੰ ਸਮਝਦੇ ਹਨ।
ਕੀ ਹੈ 'ਰਿਵਰਸ ਐਨਾਲਿਸਿਸ' ਦਾ ਮਸਲਾ?
ਖੋਜ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਇਹ AI ਟੂਲ ਪਹਿਲਾਂ ਹੀ ਇੱਕ ਡਾਇਗਨੋਸਟਿਕ ਨਤੀਜੇ 'ਤੇ ਪਹੁੰਚ ਜਾਂਦੇ ਹਨ ਅਤੇ ਉਸ ਤੋਂ ਬਾਅਦ ਉਸ ਨਤੀਜੇ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਉਣ ਲਈ ਹੀਟਮੈਪ ਤਿਆਰ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇਸ ਵਿੱਚੋਂ ਡਾਇਗਨੋਸਟਿਕ ਮੈਟਾਡੇਟਾ ਨੂੰ ਹਟਾ ਦਿੱਤਾ, ਤਾਂ ਮਾਡਲਾਂ ਦੀ ਸਹੀ ਬਿਮਾਰੀ ਲੱਭਣ ਦੀ ਸਮਰੱਥਾ ਕਾਫੀ ਘੱਟ ਗਈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ AI ਅਸਲ ਮੈਡੀਕਲ ਵਿਸ਼ਲੇਸ਼ਣ ਦੀ ਬਜਾਏ ਪੈਟਰਨ-ਮੈਚਿੰਗ 'ਤੇ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਕਰ ਰਿਹਾ ਹੈ।
ਹੈਲਥਕੇਅਰ ਇੰਡਸਟਰੀ ਲਈ ਚੇਤਾਵਨੀ
ਇਹ ਨਤੀਜੇ ਹਸਪਤਾਲਾਂ ਅਤੇ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇੱਕ ਵੱਡਾ ਸਬਕ ਹਨ ਕਿ ਰੈਗੂਲੇਟਰੀ ਕਲੀਅਰੈਂਸ ਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਕਿ ਸਾਫਟਵੇਅਰ ਹਰ ਹਾਲਾਤ ਵਿੱਚ ਸਹੀ ਨਤੀਜੇ ਦੇਵੇਗਾ। ਜਦੋਂ ਤੱਕ ਇਹ ਮਾਡਲ ਪੂਰੀ ਤਰ੍ਹਾਂ ਪਾਰਦਰਸ਼ੀ ਨਹੀਂ ਹੁੰਦੇ, ਡਾਕਟਰਾਂ ਨੂੰ AI 'ਤੇ ਅੰਨ੍ਹੇਵਾਹ ਵਿਸ਼ਵਾਸ ਕਰਨ ਦੀ ਬਜਾਏ ਇਸਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਸਹਾਇਕ ਟੂਲ ਵਜੋਂ ਵਰਤਣਾ ਚਾਹੀਦਾ ਹੈ। ਖੋਜ ਟੀਮ ਇਸ ਡੇਟਾ ਨੂੰ MICCAI 2026 ਕਾਨਫਰੰਸ ਵਿੱਚ ਪੇਸ਼ ਕਰਨ ਵਾਲੀ ਹੈ।