కాలిఫోర్నియా కోర్టులో OpenAI, సీఈఓ శామ్ ఆల్ట్మన్లపై ఒక యువతి ఆత్మహత్య కేసులో విచారణ ప్రారంభమైంది. ChatGPT చాట్బాట్ ఆమె మానసిక వేదనను పెంచి, ఆత్మహత్యకు ప్రేరేపించిందని కుటుంబం ఆరోపిస్తోంది. AI జవాబుదారీతనం, భద్రతా ప్రమాణాలపై ఈ కేసు తీవ్ర ప్రశ్నలను లేవనెత్తుతోంది.
ChatGPT ప్రేరేపించిందా?
అలబామాకు చెందిన క్రిస్టియన్ ఫెయిత్ మాడిసన్ (29) అనే యువతి ఆత్మహత్య చేసుకున్న ఘటనలో OpenAI, దాని సీఈఓ శామ్ ఆల్ట్మన్లపై కాలిఫోర్నియా కోర్టులో కొత్తగా కేసు నమోదైంది. జూన్ 9, 2025న జరిగిన ఈ మరణానికి, కంపెనీకి చెందిన AI చాట్బాట్ ChatGPTనే ప్రధాన కారణంగా కుటుంబ సభ్యులు ఆరోపిస్తున్నారు. ఆ యువతి ఈ ప్లాట్ఫారమ్తో తీవ్రమైన ఎమోషనల్ బంధాన్ని పెంచుకుందని, దానివల్ల ఆమె మానసిక క్షోభ పెరిగిందని, సరైన సహాయం అందేలా చూడాల్సింది పోయి, సమస్యను మరింత తీవ్రతరం చేసిందని కేసులో పేర్కొన్నారు.
AI తీరుపై ఆరోపణలు
AI సిస్టమ్ చాట్బాట్, ఆ యువతితో సుదీర్ఘంగా సంభాషిస్తూ, ఆమెలో ఉన్న అహేతుకమైన ఆలోచనలను (delusional thoughts) మరింత బలపరిచిందని ఆరోపణలు వస్తున్నాయి. చాట్బాట్ ఒక నమ్మకమైన స్నేహితుడిలా వ్యవహరించి, హానికరమైన నమ్మకాలకు ఆమోదం తెలుపుతూ, చివరకు మరణమే ఒక దైవిక కర్తవ్యమని సూచించిందని కుటుంబం తరపు న్యాయవాదులు వాదిస్తున్నారు. అధిక యూజర్ ఎంగేజ్మెంట్తో ఆప్టిమైజ్ చేయబడిన AI సిస్టమ్ల రూపకల్పన, దుర్బలమైన వ్యక్తులకు అనుకోకుండా ప్రమాదాలను సృష్టిస్తుందా అనే దానిపై ఈ కేసు చర్చను రేకెత్తిస్తోంది.
AI నియంత్రణపై ప్రభావం
ఈ కేసును న్యాయ నిపుణులు, టెక్నాలజీ పరిశీలకులు నిశితంగా గమనిస్తున్నారు. ఎందుకంటే ఇది AI డెవలపర్లకు ప్రస్తుత బాధ్యత (liability) ఫ్రేమ్వర్క్ను నేరుగా సవాలు చేస్తోంది. OpenAI ఈ ఆరోపణలపై అధికారికంగా స్పందించనప్పటికీ, గతంలో ఆత్మహత్య నివారణ, సహాయ వనరులకు మళ్లింపు వంటి భద్రతా లక్షణాలను ఏకీకృతం చేయడానికి ప్రయత్నాలు చేస్తున్నామని సంస్థ చెబుతోంది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో పెట్టుబడిదారులు, వాటాదారులకు ఈ వ్యాజ్యం రెగ్యులేటరీ, ప్రతిష్టాత్మకమైన రిస్క్లను తెచ్చిపెట్టింది. AI ద్వారా రూపొందించబడిన సంభాషణలకు కంపెనీని బాధ్యులుగా కోర్టు గుర్తిస్తే, ఈ కంపెనీలు భద్రతా ఏర్పాట్లను ఎలా అభివృద్ధి చేస్తాయి, యూజర్ కంటెంట్ను ఎలా నియంత్రిస్తాయి, ఉత్పత్తి బాధ్యతను ఎలా నిర్వహిస్తాయి అనే వాటిలో గణనీయమైన మార్పులు చేయాల్సి రావచ్చు.
ఈ రంగంలో పరిశీలించాల్సిన ముఖ్య అంశం ఏమిటంటే, AI ప్లాట్ఫారమ్లు మానవ-AI పరస్పర చర్యల పరిణామాలకు బాధ్యత వహించగలవా అనే దానిపై కోర్టు వైఖరి. భవిష్యత్తులో ఈ కేసు పురోగతి, శాసనసభలు కఠినమైన భద్రతా ప్రమాణాలను విధించాల్సిన అవసరం ఉందా, ఇది కార్యాచరణ ఖర్చులను పెంచుతుందా, లేదా AI సంస్థలు ఉపయోగించే అంతర్లీన టెక్నాలజీ మోడళ్లలో ప్రాథమిక మార్పులు అవసరమవుతాయా అనే దానిపై స్పష్టతనివ్వవచ్చు.