ભારતીય સુપ્રીમ કોર્ટ AI નિયમો પર વિચારણા: લીગલ ટેક પર અસર

ભારતની સુપ્રીમ કોર્ટે કોર્ટમાં AIના ઉપયોગ માટે ડ્રાફ્ટ નિયમો જાહેર કર્યા છે, જેમાં પારદર્શિતા અને જવાબદારી સુનિશ્ચિત કરવા માટે 'પ્રોવેનન્સ રેકોર્ડ્સ' ફરજિયાત બનાવવામાં આવ્યા છે. આ પગલાનો ઉદ્દેશ AI દ્વારા જનરેટ કરાયેલા ખોટા ટાંકેલા સંદર્ભોને રોકવાનો છે.

શું થયું?

ભારતની સુપ્રીમ કોર્ટે 'કોર્ટમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સના ઉપયોગ માટેના નિયમો, ૨૦૨૬' નો ડ્રાફ્ટ બહાર પાડ્યો છે. આ નિયમો કાનૂની પ્રણાલીમાં AI ના ઉપયોગ માટે સ્પષ્ટ માર્ગદર્શિકા નક્કી કરે છે. જ્યાં એક તરફ આ નિયમો AI ને સંશોધન, ડ્રાફ્ટિંગ અને અનુવાદમાં સહાયક સાધન તરીકે પ્રોત્સાહન આપે છે, ત્યાં તે સ્પષ્ટપણે જણાવે છે કે AI ન્યાયિક નિર્ણય પ્રક્રિયાનું સ્થાન લઈ શકે નહીં. આ પ્રસ્તાવનો એક મુખ્ય ભાગ 'ફાઇલિંગ પ્રોવેનન્સ રેકોર્ડ' છે. આ સિસ્ટમ હેઠળ, વકીલોએ કોર્ટમાં દાખલ કરેલી કોઈપણ ફાઇલમાં AI નો ઉપયોગ કેવી રીતે થયો તેનો ટ્રેક રાખવો પડશે અને તેનો ખુલાસો કરવો પડશે, જેમાં કયા ચોક્કસ સાધનોનો ઉપયોગ થયો, મૂળ સ્ત્રોતો કયા હતા અને માનવ સમીક્ષા પ્રક્રિયા શું હતી તેનો સમાવેશ થાય છે. આનો હેતુ કોર્ટ સમક્ષ રજૂ કરવામાં આવેલી તમામ માહિતી ચકાસણીપાત્ર હોય અને AI ની ભૂલો કે બનાવટનું પરિણામ ન હોય તે સુનિશ્ચિત કરવાનો છે.

AI નિયમનની વ્યવસાયિક અસર

ટેકનોલોજી કંપનીઓ અને લીગલ-ટેક સ્ટાર્ટઅપ્સ માટે, આ નિયમનકારી પગલું 'જવાબદારી-પ્રથમ' AI વિકાસ તરફના પરિવર્તનનો સંકેત આપે છે. જેમ જેમ ભારતીય અદાલતો અને અન્ય વ્યાવસાયિક ક્ષેત્રો AI અપનાવશે, તેમ 'સમજાવી શકાય તેવા' (explainable) અને 'ઓડિટેબલ' (auditable) સાધનોની માંગ વધવાની સંભાવના છે. જે કંપનીઓ કાયદાકીય પેઢીઓ અથવા કોર્પોરેટ કાનૂની વિભાગો માટે AI સોલ્યુશન્સ પ્રદાન કરે છે, તેમને તેમના ઉત્પાદનોને ડેટા સ્ત્રોતો, મેટાડેટા અને વર્ઝન કંટ્રોલને ટ્રેક કરવાની સુવિધાઓનો સમાવેશ કરવા માટે અપડેટ કરવાની જરૂર પડી શકે છે, જેથી વપરાશકર્તાઓને આ નવા ફાઇલિંગ ધોરણોનું પાલન કરવામાં મદદ મળે. આ ઉત્પાદન વિકાસની જટિલતા વધારી શકે છે, પરંતુ તે વિશ્વસનીય, અનુપાલન-તૈયાર લીગલ ટેક સોલ્યુશન્સ માટે પ્રીમિયમ બજાર પણ બનાવી શકે છે.

AI વિશ્વસનીયતાનું જોખમ

અદાલતનું ધ્યાન AI-જનરેટેડ 'હેલ્યુસિનેશન્સ' (hallucinations) જેવી વાસ્તવિક સમસ્યાઓમાંથી ઉદ્ભવે છે - જેમાં AI મોડેલો ખોટા કાનૂની ટાંકેલા સંદર્ભો અથવા અસ્તિત્વમાં ન હોય તેવા ચુકાદાઓ બનાવે છે. કારણ કે AI લેંગ્વેજ મોડેલ્સ તથ્ય ચકાસણીને બદલે પેટર્નના આધારે સામગ્રી જનરેટ કરે છે, તેઓ કેટલીકવાર એવી આઉટપુટ આપી શકે છે જે વ્યાવસાયિક દેખાય છે પરંતુ સંપૂર્ણપણે ખોટી હોય છે. નવા નિયમો સ્પષ્ટ કરે છે કે કાયદાકીય વ્યાવસાયિકો તેઓ જે સામગ્રી ફાઇલ કરે છે તેના માટે સંપૂર્ણપણે જવાબદાર રહેશે. આ એ પેઢીઓ માટે જોખમ ઊભું કરે છે જે અપ્રમાણિત AI સાધનો પર આધાર રાખે છે, કારણ કે ભૂલો વ્યાવસાયિક દંડ અથવા કેસની વિશ્વસનીયતા ગુમાવી શકે છે. પરિણામે, AI પર નિર્ભરતા વધુ સાવચેતીપૂર્વક અને ચકાસણી-આધારિત બનવાની સંભાવના છે.

ટેક પ્રદાતાઓ કેવી રીતે અનુકૂલન કરી શકે છે?

આપણે કાનૂની ક્ષેત્રમાં સામાન્ય, ઓપન-સોર્સ AI સાધનોથી દૂર, ચકાસાયેલ કાનૂની ડેટાબેસેસ પર તાલીમ પામેલા અને બિલ્ટ-ઇન ઓડિટ ટ્રેઇલ્સ સાથેના વિશિષ્ટ, 'વોલ્ટેડ-ગાર્ડન' AI સિસ્ટમ્સ તરફ વલણ જોઈ શકીએ છીએ. IT સેવા પ્રદાતાઓ અને સોફ્ટવેર ડેવલપર્સ માટે, આ તેમની ઓફરિંગને અલગ પાડવાની તક છે. જે સાધનો આપમેળે જરૂરી પ્રોવેનન્સ રેકોર્ડ્સ જનરેટ કરે છે અથવા સંભવિત ભૂલોને ફ્લેગ કરે છે તે કાયદાકીય પેઢીઓ માટે વધુ આકર્ષક બનશે જે આ નવા નિયમનકારી આવશ્યકતાઓનો સામનો કરે છે. જોકે, આનો અર્થ એ પણ છે કે કંપનીઓએ મજબૂત ગુણવત્તા નિયંત્રણ પ્રણાલીઓ બનાવવા પર વધુ ખર્ચ કરવો પડશે, જે વધુ સારી ચકાસણી ટેકનોલોજીમાં રોકાણ કરતી વખતે ટૂંકા ગાળામાં ઓપરેટિંગ માર્જિનને અસર કરી શકે છે.

રોકાણકારોએ શું ટ્રેક કરવું જોઈએ?

IT સેવાઓ અને સોફ્ટવેર ક્ષેત્રો પર નજર રાખનારા રોકાણકારોએ કેટલાક મુખ્ય વિકાસ પર ધ્યાન આપવું જોઈએ. પ્રથમ, એ જોવું જોઈએ કે શું આ માર્ગદર્શિકા નાણા, આરોગ્યસંભાળ અથવા એકાઉન્ટિંગ જેવા અન્ય ક્ષેત્રોમાં સમાન નિયમનોને ઉત્તેજન આપે છે, જ્યાં AI ની ચોકસાઈ સમાન રીતે નિર્ણાયક છે. બીજું, મુખ્ય IT કંપનીઓ તેમના એન્ટરપ્રાઇઝ AI પેકેજોને 'ટ્રેસેબિલિટી' (traceability) સુવિધાઓનો સમાવેશ કરવા માટે કેવી રીતે અનુકૂલન કરે છે તે અવલોકન કરો. છેલ્લે, જવાબદારી કાયદાઓ અથવા વકીલો અને સલાહકારો માટે વ્યાવસાયિક ધોરણોમાં કોઈપણ ફેરફારો પર નજર રાખો જે AI સિસ્ટમના નિર્માતાઓ અને વપરાશકર્તાઓ તરફ પુરાવાના બોજને વધુ સ્થાનાંતરિત કરી શકે છે. 'પ્રાયોગિક' AI થી 'નિયંત્રિત' AI માં સંક્રમણ આગામી વર્ષોમાં ટેકનોલોજી અપનાવવા માટે એક નિર્ણાયક થીમ બનશે.