Sullivan & Cromwell AI ભૂલ: કાનૂની ટેકનોલોજીના જોખમો ઉજાગર

AI નો ઉપયોગ અને કાનૂની જગતમાં ખળભળાટ

Sullivan & Cromwell, એક અગ્રણી કાનૂની ફર્મ, તાજેતરના કોર્ટ ફાઇલિંગમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) 'hallucinations' (ભ્રમણાઓ) સ્વીકારીને કાનૂની જગતમાં ચર્ચાનું કેન્દ્ર બની છે. આ ઘટના, જેમાં વોલ સ્ટ્રીટની એક પ્રતિષ્ઠિત ફર્મ સામેલ છે, તે સંવેદનશીલ કાનૂની કાર્યમાં AI ને એકીકૃત કરવાના પડકારો અને જોખમો પર પ્રકાશ પાડે છે.

ફર્મે ન્યૂયોર્કના સધર્ન ડિસ્ટ્રિક્ટના યુ.એસ. બેન્કરપ્સી કોર્ટ (U.S. Bankruptcy Court) ના ચીફ જજ માર્ટિન ગ્લેન (Martin Glenn) સમક્ષ ઔપચારિક માફી માંગી છે. આ માફી In re Prince Global Holdings Limited નાદારી કેસમાં દાખલ કરાયેલ ઇમરજન્સી મોશન (emergency motion) સંબંધિત હતી, જેમાં ખોટી કેસ સાઇટેશન (inaccurate case citations) અને ગેરમાર્ગે દોરતા કાનૂની સત્તાવાળાઓ (misrepresented legal authorities) નો સમાવેશ થતો હતો. પાર્ટનર એન્ડ્રુ જી. ડાયડરિક (Andrew G. Dietderich) એ પુષ્ટિ કરી કે ફર્મે AI ઉપયોગ માટેની આંતરિક નીતિઓનું પાલન કર્યું ન હતું અને તેની સમીક્ષા પ્રક્રિયાઓએ સબમિશન પહેલાં ભૂલો પકડી ન હતી. વિરોધી વકીલો, Boies Schiller Flexner LLP, એ અહેવાલ મુજબ અચોક્કસતાઓ શોધી કાઢી હતી, જેના કારણે સુધારેલ ફાઇલિંગ અને માફી માંગવામાં આવી. Sullivan & Cromwell એ જણાવ્યું કે હાલની સુરક્ષા વ્યવસ્થા હતી પરંતુ આ કિસ્સામાં લાગુ કરવામાં આવી ન હતી.

કાનૂની ફર્મોમાં AI નો વધતો ઉપયોગ

કાનૂની ક્ષેત્રમાં AI ટૂલ્સ ઝડપથી અપનાવવામાં આવી રહ્યા છે, જેમાં લગભગ 80% વકીલો હવે તેનો ઉપયોગ કરી રહ્યા છે, જે બે વર્ષ પહેલાં કરતાં નોંધપાત્ર વધારો દર્શાવે છે. જ્યારે AI કાનૂની સંશોધન, ડ્રાફ્ટિંગ અને વિશ્લેષણમાં નોંધપાત્ર કાર્યક્ષમતા લાભ પ્રદાન કરે છે, ત્યારે તેના ઝડપી એકીકરણ ઘણીવાર યોગ્ય દેખરેખ પાછળ રહી ગયું છે. 'AI hallucinations' — જેમ કે બનાવટી કેસ સાઇટેશન અથવા કાલ્પનિક કાનૂની દાખલાઓ — એક સામાન્ય સમસ્યા છે, જેમાં રેકોર્ડ્સ કાનૂની ફાઇલિંગમાં 1,300 થી વધુ આવી ઘટનાઓ દર્શાવે છે. જનરેટિવ AI મોડેલ્સ એવો ટેક્સ્ટ બનાવી શકે છે જે ખાતરીપૂર્વકનો લાગે પરંતુ હકીકતમાં ખોટો હોય, કારણ કે તેઓ ચોકસાઈ કરતાં આંકડાકીય સંભાવનાને પ્રાધાન્ય આપે છે.

AI ઉપયોગ માટે નિયમો અને જવાબદારી

કાનૂની વ્યાવસાયિક સંસ્થાઓ અને અદાલતો AI ભૂલો પર ધ્યાન આપી રહી છે. અમેરિકન બાર એસોસિએશન (American Bar Association - ABA) એ માર્ગદર્શન બહાર પાડ્યું છે જેમાં વકીલોને યાદ અપાવવામાં આવ્યું છે કે AI નો ઉપયોગ તેમને યોગ્યતા અને ખંત જેવા નૈતિક ફરજોમાંથી મુક્તિ આપતો નથી. ફેડરલ રૂલ ઓફ સિવિલ પ્રોસિજર 11 (Federal Rule of Civil Procedure 11) હેઠળ, વકીલોએ ખાતરી કરવી જોઈએ કે તમામ કોર્ટ ફાઇલિંગ સચોટ છે, જે AI દ્વારા જનરેટ થયેલ હોવા છતાં તેમના સમાવિષ્ટ સામગ્રી માટે તેમને જવાબદાર ઠેરવે છે. પરિણામે, કેટલાક વકીલોએ દંડ, કેસોમાંથી ગેરલાયકાત, અથવા ચકાસણી ન થયેલ AI સામગ્રી સબમિટ કરવા બદલ શિસ્તભંગની ફરિયાદો જેવી સજાઓનો સામનો કર્યો છે. ન્યૂયોર્કના સધર્ન ડિસ્ટ્રિક્ટ જેવા સ્થાનિક અદાલતના નિયમો પણ વકીલો પાસેથી તેમના સબમિશનની ચોકસાઈ પ્રમાણિત કરવાની જરૂર પડે છે. આ પરિસ્થિતિ જવાબદાર ઉપયોગ સુનિશ્ચિત કરવા માટે AI શાસન માળખા સ્થાપિત કરવાની વ્યાપક વૈશ્વિક ચળવળને પ્રતિબિંબિત કરે છે.

જવાબદારી અને વિશ્વાસ દાવ પર

આ ઘટના ખાસ કરીને નોંધપાત્ર છે કારણ કે Sullivan & Cromwell OpenAI ને AI નીતિશાસ્ત્ર (AI ethics) પર સલાહ આપે છે. આ વિરોધાભાસ AI નીતિ વિકાસ અને તેના વ્યવહારિક અમલીકરણ વચ્ચેના અંતર પર ભાર મૂકે છે. ફર્મની પોતાની કડક AI ઉપયોગ અને સમીક્ષા પ્રોટોકોલનું પાલન કરવામાં નિષ્ફળતા એક એવી ખામી દર્શાવે છે જેને AI દેખરેખ ફ્રેમવર્ક રોકવાનો પ્રયાસ કરે છે. ફેડરલ રૂલ ઓફ સિવિલ પ્રોસિજર 11 હેઠળ, વકીલો અને ફર્મો અંતિમ રીતે ફાઇલિંગની ચોકસાઈ માટે જવાબદાર છે. બનાવટી સાઇટેશન સબમિટ કરવું એ અદાલત પ્રત્યેની ફરજનું ગંભીર ઉલ્લંઘન છે. ફક્ત AI નીતિઓ હોવી પૂરતું નથી; તેનું સખતપણે પાલન થવું જોઈએ. આ AI ભૂલોને પકડવામાં અસમર્થતા — જેમાં ખોટા અવતરણ અને ગુંચવાયેલો ટેક્સ્ટ શામેલ હતો — ગુણવત્તા નિયંત્રણ સાથે સંભવિત મુદ્દાઓ અથવા સંપૂર્ણ સ્વતંત્ર તપાસ વિના AI પર વધુ પડતો આધાર સૂચવે છે, જે ઉદ્યોગમાં એક સામાન્ય સમસ્યા છે. જેમ જેમ અન્ય અદાલતોએ સમાન AI ભૂલો માટે દંડ લાદ્યો છે, આ ઘટના તમામ AI-સહાયિત કાનૂની કાર્યની ન્યાયિક ચકાસણીમાં વધારો કરી શકે છે.

કાનૂની પ્રથામાં AI માટે આગળનો માર્ગ

Sullivan & Cromwell ની માફી અને AI તાલીમ તથા સમીક્ષા પ્રક્રિયાઓને સુધારવાની યોજનાઓ વ્યાપક ઉદ્યોગની સમજણને પ્રતિબિંબિત કરે છે: કાયદામાં AI અપનાવવા માટે કડક નિષ્ઠા અને જવાબદારીની જરૂર છે. કાનૂની ક્ષેત્રએ ફક્ત નીતિઓ ધરાવવાથી આગળ વધીને સતત ચકાસણી અને જોખમ સંચાલનની સંસ્કૃતિને પ્રોત્સાહન આપવું જોઈએ. કાનૂની ફર્મો પાસેથી વિગતવાર AI શાસન યોજનાઓ બનાવવાની અપેક્ષા રાખવામાં આવે છે, જેમાં મજબૂત સમીક્ષા પ્રક્રિયાઓ, ફરજિયાત નીતિશાસ્ત્ર તાલીમ અને સ્પષ્ટ ક્લાયન્ટ સંચારનો સમાવેશ થાય છે. કાનૂની ટેકનોલોજી બજારમાં પારદર્શિતા અને ચકાસી શકાય તેવા પરિણામો પ્રદાન કરતા AI ટૂલ્સની વધુ માંગ જોવા મળવાની શક્યતા છે, જેથી ટેકનોલોજીની પ્રગતિ કાનૂની કાર્યની અખંડિતતાને સમર્થન આપે, તેને નબળી ન પાડે.