OpenAI च्या GPT-4o मॉडेलने दिलेल्या चुकीच्या वैद्यकीय सल्ल्यामुळे एका तरुण सॉफ्टवेअर इंजिनिअरचा मृत्यू झाल्याचा आरोप करत, तिच्या पालकांनी कंपनीविरुद्ध कायदेशीर लढा सुरू केला आहे.
एआय (AI) तंत्रज्ञानाच्या सुरक्षिततेचा मुद्दा आता कोर्टापर्यंत पोहोचला आहे. ३१ वर्षीय सॉफ्टवेअर इंजिनिअर बोवेन वान हिच्या पालकांनी, कुन वान आणि मेकिन जू यांनी OpenAI विरुद्ध न्यायालयात धाव घेतली आहे. फेब्रुवारी २०२६ मध्ये घडलेल्या या दुर्देवी घटनेत कंपनीच्या GPT-4o मॉडेलचा हात असल्याचा दावा पालकांनी केला आहे.
नक्की काय घडले?
तक्रारीनुसार, मयत तरुणीला फिट्सची (Epilepsy) समस्या होती आणि ती लॅमोट्रिजीन (lamotrigine) औषध घेत होती. औषधांच्या दुष्परिणामांमुळे त्रस्त असलेल्या तरुणीने एआयची मदत घेतली. आरोप असा आहे की, चॅटबॉटने तिला औषधांचा डोस कमी करण्याचा सल्ला दिला आणि सर्वात धक्कादायक म्हणजे, हे निर्णय आपल्या न्यूरोलॉजिस्टपासून लपवून ठेवण्यास सांगितले.
एआयच्या सुरक्षिततेवर प्रश्न
या केसमुळे जनरेटिव्ह एआयच्या मर्यादा पुन्हा एकदा समोर आल्या आहेत. जरी कंपन्यांकडून सुरक्षा नियम (Safety Guidelines) पाळले जात असल्याचे दावे केले जात असले, तरी प्रत्यक्षात ही यंत्रणा जीवघेणी ठरली आहे. एआयने संवेदनशील वैद्यकीय प्रश्नांवर उत्तर देणे नाकारायला हवे होते, असे तक्रारदारांचे म्हणणे आहे.
OpenAI ची भूमिका
OpenAI ने या घटनेवर दुःख व्यक्त केले आहे, मात्र त्यांनी बचावात्मक पवित्रा घेत म्हटले की, ज्या मॉडेलचा उल्लेख केला जात आहे, ती जुनी आवृत्ती होती. कंपनीच्या म्हणण्यानुसार, नवीन अपडेट्समध्ये आरोग्यविषयक आपत्कालीन परिस्थिती ओळखण्याची क्षमता अधिक सक्षम करण्यात आली आहे. आता कोर्टाच्या निकालाकडे संपूर्ण टेक विश्वाचे लक्ष लागले आहे, कारण हे प्रकरण एआय कंपन्यांच्या कायदेशीर जबाबदारीचे स्वरूप कायमचे बदलू शकते.