RBI નો મોટો નિર્ણય: હવે બેંકોમાં AI મોડેલો માટે 'કિલ સ્વિચ' ફરજિયાત!

ભારતીય રિઝર્વ બેંક (RBI) એ નાણાકીય ક્ષેત્રમાં આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ના વધતા ઉપયોગને નિયંત્રિત કરવા માટે એક નવી મોડેલ રિસ્ક મેનેજમેન્ટ ફ્રેમવર્ક રજૂ કરી છે. આ ફ્રેમવર્ક હેઠળ, બેંકો અને નાણાકીય સંસ્થાઓને દરેક AI મોડેલ માટે 'AI કિલ સ્વિચ' ઇન્સ્ટોલ કરવાની ફરજ પાડવામાં આવશે, જેથી કોઈપણ ખામીયુક્ત સિસ્ટમને તાત્કાલિક બંધ કરી શકાય.

શું થયું?

RBI એ તાજેતરમાં બેંકો અને અન્ય નાણાકીય સંસ્થાઓ માટે 'મોડેલ રિસ્ક મેનેજમેન્ટ' (Model Risk Management) અંગે એક વિસ્તૃત ડ્રાફ્ટ ફ્રેમવર્ક જાહેર કર્યું છે. આ નવા નિયમો ખાસ કરીને ફાઇનાન્સિયલ સેક્ટરમાં AI અને મશીન લર્નિંગ (ML) ના વધતા જતા ઉપયોગને ધ્યાનમાં રાખીને બનાવવામાં આવ્યા છે. સેન્ટ્રલ બેંક હવે તમામ બેંકોને તેમના દ્વારા ઉપયોગમાં લેવાતા AI મોડેલો માટે 'AI કિલ સ્વિચ' (AI Kill Switch) ફરજિયાતપણે લાગુ કરવાનો આદેશ આપશે. આ સુવિધાનો મુખ્ય ઉદ્દેશ્ય એ સુનિશ્ચિત કરવાનો છે કે જો કોઈ AI સિસ્ટમ દ્વારા ખોટા, પક્ષપાતી અથવા ભૂલભરેલા પરિણામો આપવામાં આવે, તો તેને તાત્કાલિક અસરથી બંધ કરી શકાય. આ નિયમોનો હેતુ ઓટોમેટેડ નિર્ણયો પર નાણાકીય સંસ્થાઓનું કડક નિયંત્રણ જાળવવાનો છે, ખાસ કરીને ક્રેડિટ સ્કોરિંગ, ફ્રોડ ડિટેક્શન અને ગ્રાહક સેવા જેવા ક્ષેત્રોમાં.

રોકાણકારો માટે શા માટે મહત્વપૂર્ણ?

આધુનિક બેંકિંગ કામગીરીમાં AI ખૂબ જ મહત્વપૂર્ણ બની ગયું છે, જે લોન પ્રોસેસને ઝડપી બનાવે છે અને જોખમોનું સંચાલન વધુ અસરકારક રીતે કરવામાં મદદ કરે છે. જોકે, RBI નો આ નિર્ણય દર્શાવે છે કે નિયમનકારી સંસ્થા ઝડપી ટેકનોલોજી અપનાવવા કરતાં સ્થિરતા અને ગ્રાહક સુરક્ષાને વધુ પ્રાધાન્ય આપી રહી છે. રોકાણકારો માટે, આનો અર્થ એ થઈ શકે છે કે કમ્પ્લાયન્સ ખર્ચમાં વધારો થશે. નાણાકીય સંસ્થાઓને મજબૂત માનવ દેખરેખ, કડક મોડેલ માન્યતા અને બોર્ડ-લેવલ રિસ્ક મેનેજમેન્ટમાં રોકાણ કરવાની જરૂર પડશે. આ પગલાં સિસ્ટમિક નિષ્ફળતાઓને રોકવા માટે રચાયેલ હોવા છતાં, તે નવા AI-આધારિત ઉત્પાદનો અથવા સેવાઓને બજારમાં લાવવામાં વધુ સમય લઈ શકે છે.

બોર્ડ-લેવલ જવાબદારી

RBI હવે AI ગવર્નન્સની જવાબદારી સર્વોચ્ચ સ્તરે સ્થાનાંતરિત કરી રહ્યું છે. પ્રસ્તાવિત નિયમો હેઠળ, ઉચ્ચ-જોખમવાળા મોડેલોને બોર્ડની રિસ્ક મેનેજમેન્ટ કમિટી (Board's Risk Management Committee) તરફથી સ્પષ્ટ મંજૂરીની જરૂર પડશે. આનો અર્થ એ છે કે હવે ટેક અથવા રિસ્ક ટીમો એકલા કામ કરી શકશે નહીં; બોર્ડ હવે મોડેલોના પ્રદર્શન અને સંસ્થાની જોખમ ક્ષમતા માટે સીધા જવાબદાર રહેશે. આ ફેરફાર સુનિશ્ચિત કરશે કે AI વ્યૂહરચના બેંકના એકંદર નાણાકીય સ્વાસ્થ્ય અને નિયમનકારી સ્થિતિ સાથે સુસંગત છે.

વેન્ડર ચકાસણી અને થર્ડ-પાર્ટી રિસ્ક

ઘણી બેંકો AI-સંચાલિત ઉકેલો માટે થર્ડ-પાર્ટી ફિનટેક વેન્ડર્સ (Fintech Vendors) પર આધાર રાખે છે. ડ્રાફ્ટ માર્ગદર્શિકા સ્પષ્ટ કરે છે કે નાણાકીય સંસ્થાઓ તેમના દ્વારા ઉપયોગમાં લેવાતા કોઈપણ મોડેલના પરિણામો માટે સંપૂર્ણપણે જવાબદાર રહેશે, પછી ભલે તેનું મૂળ ગમે ત્યાં હોય. RBI એ ખાસ કરીને સપ્લાય ચેઇન રિસ્ક (Supply Chain Risk) પર ભાર મૂક્યો છે, અને જણાવ્યું છે કે AI મોડેલો માટે ફક્ત થોડી વૈશ્વિક ટેક કંપનીઓ પર વધુ પડતો આધાર રાખવાથી સિસ્ટમિક જોખમ ઊભું થઈ શકે છે. બેંકોએ તેમના ટેકનોલોજી ભાગીદારો પર વધુ ઊંડાણપૂર્વકનું ડ્યુ ડિલિજન્સ (Due Diligence) કરવાની જરૂર પડશે, જે હાલના વેન્ડર કરારો અને બાહ્ય AI સાધનોને સંકલિત કરવાની ગતિને અસર કરી શકે છે.

સમજણક્ષમતા અને માનવ દેખરેખ

નવા ફ્રેમવર્કનો એક મુખ્ય ફોકસ 'સમજણક્ષમતા' (Explainability) છે. બેંકોએ સરળ શબ્દોમાં સમજાવવા સક્ષમ હોવું જોઈએ કે AI મોડેલે કોઈ ચોક્કસ નિર્ણય શા માટે લીધો. લોન મંજૂરી અથવા અસ્વીકૃતિ જેવી ગ્રાહક-સામનો કરતી એપ્લિકેશનો માટે આ ખાસ કરીને નિર્ણાયક છે. RBI 'ઓટોમેશન બાયસ' (Automation Bias) ને રોકવા માટે માનવ દેખરેખને પણ ફરજિયાત બનાવે છે, જ્યાં કર્મચારીઓ સ્વતંત્ર નિર્ણય લીધા વિના AI પરિણામો પર આધાર રાખી શકે છે. ગ્રાહકોને પણ જાણ થવી જોઈએ કે તેઓ AI સાથે સંપર્ક કરી રહ્યા છે અને માનવ પ્રતિનિધિ સુધી પહોંચવાનો વિકલ્પ મળવો જોઈએ.

રોકાણકારોએ શું ધ્યાનમાં રાખવું?

મુખ્યત્વે, બેંકો આ નિયમોનું પાલન કરવા માટે તેમના આંતરિક જોખમ ફ્રેમવર્કને કેટલી ઝડપથી અપડેટ કરી શકે છે અને તેના સંબંધિત અમલીકરણ ખર્ચ પર નજર રાખવાની જરૂર પડશે. રોકાણકારોએ એ પણ ટ્રૅક કરવું જોઈએ કે શું આ નિયમો ડિજિટલ ટ્રાન્સફોર્મેશનની ગતિને અસર કરે છે કે નહીં અથવા બેંકો અને ફિનટેક ભાગીદારો વચ્ચેના સંબંધને અસર કરે છે કે નહીં. AI ટેકનોલોજીમાં ભારે રોકાણ કરતી બેંકો માટે આગામી ત્રિમાસિક અપડેટ્સમાં નવા બોર્ડ-મંજૂરી પ્રક્રિયા હેઠળ ઉચ્ચ-જોખમવાળા મોડેલોની જાળવણીનો અંતિમ ખર્ચ એક મહત્વપૂર્ણ પરિબળ બનશે.