భారతీయ రిజర్వ్ బ్యాంక్ (RBI) ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) వాడకంపై కీలక ముసాయిదా నిబంధనలను విడుదల చేసింది. బ్యాంకింగ్ రంగంలో AI ఆధారిత నిర్ణయాలకు మానవ పర్యవేక్షణ తప్పనిసరి చేస్తూ, 'కిల్ స్విచ్' వంటి భద్రతా చర్యలను అమలు చేయాలని ఆదేశించింది.
AI రంగంలో RBI కీలక అడుగు
భారతీయ రిజర్వ్ బ్యాంక్ (RBI) దేశంలోని బ్యాంకింగ్ రంగంలో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI), మెషిన్ లెర్నింగ్ (ML) ల వాడకాన్ని నియంత్రించేందుకు ఒక ముసాయిదా మోడల్ రిస్క్ మేనేజ్మెంట్ ఫ్రేమ్వర్క్ను విడుదల చేసింది. డిజిటల్ ప్రక్రియలను వేగవంతం చేస్తున్న నేపథ్యంలో, కస్టమర్లపై, ఆర్థిక వ్యవస్థ స్థిరత్వంపై ప్రభావం చూపే ఆటోమేటెడ్ నిర్ణయాలకు బ్యాంకులు జవాబుదారీగా ఉండేలా ఈ నిబంధనలు రూపొందించబడ్డాయి.
నిర్ణయాలకు పూర్తి బాధ్యత బ్యాంకులదే
ఈ ముసాయిదా నిబంధనల ప్రకారం, బ్యాంకులు తమ విశ్లేషణాత్మక నమూనాల (analytical models) పనితీరుకు పూర్తి బాధ్యత వహించాలి. ఈ మోడల్స్ సొంతంగా అభివృద్ధి చేసినవి అయినా, లేదా బయటి టెక్నాలజీ ప్రొవైడర్ల నుండి కొనుగోలు చేసినవి అయినా, వాటి జీవిత చక్రం (development to retirement) అంతటినీ కవర్ చేసే బోర్డు ఆమోదించిన పాలసీని బ్యాంకులు రూపొందించాల్సి ఉంటుంది. టెక్నాలజీ సరఫరాదారు ధృవీకరించినప్పటికీ, ప్రతి మోడల్ను ప్రత్యక్షంగా అమలు చేసే ముందు స్వతంత్రంగా ధృవీకరించాలి (independent validation).
'హ్యూమన్-ఇన్-ది-లూప్' సూత్రం
సాంకేతికతపై అతిగా ఆధారపడటాన్ని నివారించడానికి, RBI 'హ్యూమన్-ఇన్-ది-లూప్' (human-in-the-loop) సూత్రాన్ని ప్రతిపాదించింది. దీని ప్రకారం, బ్యాంక్ ఉద్యోగులు ఆటోమేటెడ్ నిర్ణయాలను ప్రశ్నించే, అధిగమించే, లేదా నిలిపివేసే అధికారాన్ని కలిగి ఉంటారు. ఏదైనా సిస్టమ్ ఊహించని ఫలితాలను ఇస్తే, వెంటనే AI మోడల్ను నిలిపివేయడానికి 'కిల్ స్విచ్' (kill switches) వంటి అత్యవసర ప్రోటోకాల్లను బ్యాంకులు యాక్టివేట్ చేయాలి.
సిబ్బంది కంప్యూటర్ అవుట్పుట్లను గుడ్డిగా నమ్మడం (automation bias), పర్యవేక్షణలో తప్పులకు దారితీసే నిర్ణయ అలసట (decision fatigue) వంటి అంశాలపై రెగ్యులేటర్ ఆందోళన వ్యక్తం చేసింది. కస్టమర్లతో నేరుగా సంభాషించే సిస్టమ్స్ కోసం, AI వాడకాన్ని స్పష్టంగా తెలియజేయాలని, కస్టమర్లు మానవ ప్రతినిధితో మాట్లాడే అవకాశాన్ని కల్పించాలని కూడా ముసాయిదా ఆదేశించింది.
గవర్నెన్స్, రిస్క్ వర్గీకరణ
బ్యాంకులు తమ మోడల్స్ను వాటి సంక్లిష్టత, రిస్క్ స్థాయి ఆధారంగా వర్గీకరించాల్సి ఉంటుంది. అధిక-రిస్క్ మోడల్స్కు, అమలు చేసే ముందు బ్యాంక్ రిస్క్ మేనేజ్మెంట్ కమిటీ ఆమోదం అవసరం. అంతేకాకుండా, అన్ని మోడల్స్ యొక్క వివరణాత్మక జాబితాను (inventory) నిర్వహించాలి. తొలగించబడిన లేదా నిలిపివేయబడిన మోడల్స్ రికార్డులను, చారిత్రక ఆడిటింగ్, పనితీరు సమీక్షల కోసం కనీసం 10 సంవత్సరాలు భద్రపరచాలి.
డిజిటల్ బ్యాంకింగ్ పై ప్రభావం
ఈ ఫ్రేమ్వర్క్, భారతీయ బ్యాంకింగ్ రంగంలో కేవలం నిబంధనల పాటింపు నుండి కార్యాచరణ స్థితిస్థాపకత (operational resilience) నిర్మించడం వైపు మారుతున్న పరిణామాన్ని సూచిస్తుంది. క్రెడిట్ అండర్రైటింగ్, ట్రెజరీ మేనేజ్మెంట్, మోసాల గుర్తింపు వంటి సున్నితమైన విభాగాలలో AIని బ్యాంకులు ఏకీకృతం చేస్తున్నందున, ప్రత్యేక సాంకేతిక సిబ్బంది, స్వతంత్ర ధృవీకరణ ప్రక్రియల అవసరం కారణంగా టెక్నాలజీ అమలు ఖర్చులు పెరిగే అవకాశం ఉంది. రాబోయే త్రైమాసికాల్లో, పెద్ద ప్రైవేట్, ప్రభుత్వ రంగ బ్యాంకులు తమ డిజిటల్ బడ్జెట్లు, విక్రేత భాగస్వామ్యాలను ఈ కఠినమైన నియంత్రణ అవసరాలకు అనుగుణంగా ఎలా సర్దుబాటు చేసుకుంటాయో ఇన్వెస్టర్లు గమనించవచ్చు.