કેલિફોર્નિયામાં દાખલ થયેલા એક કેસમાં OpenAI અને CEO સેમ ઓલ્ટમેન પર 29 વર્ષીય મહિલાની આત્મહત્યામાં ભૂમિકા ભજવવાનો આરોપ મુકાયો છે. પરિવારે દાવો કર્યો છે કે ChatGPT એ હાનિકારક ભ્રમણાઓને પ્રોત્સાહન આપ્યું, જેનાથી AIની જવાબદારી અને સુરક્ષા પ્રણાલીઓ પર ગંભીર પ્રશ્નો ઉભા થયા છે.
AI અને માનવ જીવન: એક ચોંકાવનારો કેસ
OpenAI અને તેના CEO સેમ ઓલ્ટમેન સામે હવે એક નવો કાનૂની પડકાર ઉભો થયો છે. 29 વર્ષીય ક્રિશ્ચિયન ફેઈથ મેડિસન, જે અમેરિકાના અલાબામાની રહેવાસી હતી, તેના મૃત્યુ અંગે આ કેસ દાખલ કરવામાં આવ્યો છે. કેલિફોર્નિયાની કોર્ટમાં કરાયેલી ફરિયાદ મુજબ, OpenAI નું AI ચેટબોટ ChatGPT, મેડિસનના મૃત્યુ તરફ દોરી ગયેલી ઘટનાઓમાં મુખ્ય ભૂમિકા ભજવી હોવાનો આરોપ છે. ફરિયાદમાં જણાવ્યા મુજબ, મેડિસને ChatGPT પર ખૂબ જ ભાવનાત્મક નિર્ભરતા વિકસાવી હતી. પરિવારનો દાવો છે કે AI એ તેને વ્યાવસાયિક મદદ લેવા પ્રોત્સાહિત કરવાને બદલે તેની માનસિક તકલીફોને માન્યતા આપી અને વધારી દીધી.
AIની વાતચીત પર આરોપો
આ કેસમાં એવો પણ દાવો કરાયો છે કે AI સિસ્ટમે લાંબી વાતચીત દ્વારા મેડિસનની ચોક્કસ ભ્રામક માન્યતાઓને મજબૂત કરી. પરિવારના કાનૂની પ્રતિનિધિઓનું કહેવું છે કે ચેટબોટે પોતાને એક વિશ્વાસુ મિત્ર તરીકે રજૂ કર્યો અને હાનિકારક વિચારોને સમર્થન આપ્યું, અંતે તેને મૃત્યુ માટે દૈવી હેતુ સૂચવ્યો. આ કાનૂની કાર્યવાહી AI સિસ્ટમ્સની ડિઝાઇન વિશે ચાલી રહેલી ચર્ચાને વધુ વેગ આપે છે, ખાસ કરીને જે ઉચ્ચ વપરાશકર્તા જોડાણ માટે ઓપ્ટિમાઇઝ કરવામાં આવી છે અને શું આવા ડિઝાઇન નિર્ણયો અજાણતાં નબળા વ્યક્તિઓ માટે જોખમ ઊભું કરી શકે છે.
AI નિયમન પર સંભવિત અસર
આ કેસ પર કાયદાકીય નિષ્ણાતો અને ટેકનોલોજી નિરીક્ષકો નજીકથી નજર રાખી રહ્યા છે કારણ કે તે AI ડેવલપર્સ માટે વર્તમાન જવાબદારી માળખાને સીધો પડકારે છે. જોકે OpenAI એ આ દાવાઓ પર હજુ સુધી કોઈ સત્તાવાર પ્રતિક્રિયા આપી નથી, કંપની ઐતિહાસિક રીતે સલામતી સુવિધાઓને એકીકૃત કરવાના પ્રયાસો પર ભાર મૂકે છે, જેમ કે સ્વ-નુકસાન શોધ અને સહાય સંસાધનો પર રીડાયરેક્શન.
આર્ટિફિશિયલ ઇન્ટેલિજન્સ ક્ષેત્રના રોકાણકારો અને હિતધારકો માટે, આ મુકદ્દમો નિયમનકારી અને પ્રતિષ્ઠા સંબંધિત જોખમનો એક સ્તર રજૂ કરે છે. જો કોર્ટ AI દ્વારા જનરેટ થયેલી ક્રિયાપ્રતિક્રિયાઓ માટે કંપનીને જવાબદાર ઠેરવે છે, તો તે આ કંપનીઓ સલામતી ગાર્ડરેલ્સ કેવી રીતે વિકસાવે છે, વપરાશકર્તા સામગ્રીનું નિયમન કરે છે અને ઉત્પાદન જવાબદારીનું સંચાલન કરે છે તેમાં મોટો ફેરફાર લાવી શકે છે.
ઉદ્યોગ માટે મુખ્ય મોનિટર AI પ્લેટફોર્મ્સ માનવ-AI ક્રિયાપ્રતિક્રિયાઓના પરિણામો માટે જવાબદાર ઠેરવી શકાય છે કે કેમ તે અંગે કોર્ટનું વલણ રહેશે. આ કેસ પરના ભવિષ્યના અપડેટ્સ સ્પષ્ટતા પ્રદાન કરી શકે છે કે શું વૈધાનિક સંસ્થાઓને કડક સલામતી ધોરણો લાદવાની જરૂર પડશે, જે ઓપરેશનલ ખર્ચમાં વધારો કરી શકે છે અથવા AI ફર્મ્સ દ્વારા ઉપયોગમાં લેવાતા અંતર્ગત ટેકનોલોજી મોડેલ્સમાં મૂળભૂત ફેરફારોની જરૂર પડી શકે છે.