ਭਾਰਤੀ ਰਿਜ਼ਰਵ ਬੈਂਕ (RBI) ਨੇ ਵਿੱਤੀ ਖੇਤਰ ਵਿੱਚ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੇ ਵਧਦੇ ਇਸਤੇਮਾਲ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ ਇੱਕ ਨਵਾਂ ਫਰੇਮਵਰਕ ਜਾਰੀ ਕੀਤਾ ਹੈ। ਇਸ ਤਹਿਤ ਬੈਂਕਾਂ ਨੂੰ ਹਰ AI ਮਾਡਲ ਲਈ 'AI ਕਿੱਲ ਸਵਿੱਚ' ਲਾਜ਼ਮੀ ਤੌਰ 'ਤੇ ਲਗਾਉਣਾ ਪਵੇਗਾ, ਜਿਸ ਨਾਲ ਖ਼ਰਾਬ ਜਾਂ ਗ਼ਲਤੀ ਵਾਲੇ ਸਿਸਟਮ ਨੂੰ ਤੁਰੰਤ ਬੰਦ ਕੀਤਾ ਜਾ ਸਕੇਗਾ। ਇਸ ਨਾਲ ਬੋਰਡ ਪੱਧਰ 'ਤੇ AI ਗਵਰਨੈਂਸ ਹੋਵੇਗੀ ਅਤੇ ਗਾਹਕਾਂ ਸਾਹਮਣੇ ਆਉਣ ਵਾਲੇ ਮਾਡਲਾਂ ਲਈ ਪਾਰਦਰਸ਼ਤਾ ਵੀ ਜ਼ਰੂਰੀ ਹੋਵੇਗੀ।
ਕੀ ਹੋਇਆ ਹੈ?
ਭਾਰਤੀ ਰਿਜ਼ਰਵ ਬੈਂਕ (RBI) ਨੇ ਮਾਡਲ ਰਿਸਕ ਮੈਨੇਜਮੈਂਟ (Model Risk Management) ਲਈ ਇੱਕ ਵਿਆਪਕ ਡਰਾਫਟ ਫਰੇਮਵਰਕ ਜਾਰੀ ਕੀਤਾ ਹੈ। ਇਸ ਦਾ ਮੁੱਖ ਉਦੇਸ਼ ਵਿੱਤੀ ਖੇਤਰ ਵਿੱਚ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਅਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ (ML) ਦੇ ਵੱਧ ਰਹੇ ਪ੍ਰਯੋਗਾਂ 'ਤੇ ਨਿਯੰਤਰਣ ਰੱਖਣਾ ਹੈ। ਕੇਂਦਰੀ ਬੈਂਕ ਨੇ ਸਾਰੇ ਬੈਂਕਾਂ ਅਤੇ ਵਿੱਤੀ ਸੰਸਥਾਵਾਂ ਨੂੰ ਹੁਕਮ ਦਿੱਤਾ ਹੈ ਕਿ ਉਹ ਹਰ ਤਾਇਨਾਤ (deployed) AI ਮਾਡਲ ਲਈ ਇੱਕ 'AI ਕਿੱਲ ਸਵਿੱਚ' ਲਾਜ਼ਮੀ ਤੌਰ 'ਤੇ ਲਾਗੂ ਕਰਨ। ਇਸ ਫੀਚਰ ਦਾ ਮਕਸਦ ਕਿਸੇ ਵੀ AI ਸਿਸਟਮ ਨੂੰ ਤੁਰੰਤ ਬੰਦ ਕਰਨਾ ਹੈ, ਜੇਕਰ ਉਹ ਕੋਈ ਗ਼ਲਤ, ਪੱਖਪਾਤੀ ਜਾਂ ਗ਼ਲਤ ਨਤੀਜੇ ਦੇ ਰਿਹਾ ਹੋਵੇ। ਇਹ ਨਵੇਂ ਨਿਯਮ ਯਕੀਨੀ ਬਣਾਉਣਗੇ ਕਿ ਵਿੱਤੀ ਸੰਸਥਾਵਾਂ ਆਟੋਮੇਟਿਡ ਫੈਸਲਾ ਲੈਣ ਦੀਆਂ ਪ੍ਰਕਿਰਿਆਵਾਂ, ਖਾਸ ਕਰਕੇ ਕ੍ਰੈਡਿਟ ਸਕੋਰਿੰਗ, ਧੋਖਾਧੜੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਗਾਹਕ ਸੇਵਾ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ, 'ਤੇ ਆਪਣਾ ਸਖ਼ਤ ਕੰਟਰੋਲ ਬਣਾਈ ਰੱਖਣ।
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਸਦੀ ਕੀ ਅਹਿਮੀਅਤ ਹੈ?
AI ਅੱਜ ਦੇ ਬੈਂਕਿੰਗ ਕੰਮ-ਕਾਜ ਦਾ ਅਹਿਮ ਹਿੱਸਾ ਬਣ ਗਿਆ ਹੈ, ਜੋ ਲੋਨ ਪ੍ਰੋਸੈਸਿੰਗ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਅਤੇ ਜੋਖਮਾਂ ਨੂੰ ਵਧੇਰੇ ਕੁਸ਼ਲਤਾ ਨਾਲ ਪ੍ਰਬੰਧਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ। ਹਾਲਾਂਕਿ, RBI ਦਾ ਇਹ ਕਦਮ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਰੈਗੂਲੇਟਰ ਤੇਜ਼ ਤਕਨੀਕੀ ਅਪਣਾਉਣ ਦੀ ਬਜਾਏ ਸਥਿਰਤਾ ਅਤੇ ਗਾਹਕ ਸੁਰੱਖਿਆ ਨੂੰ ਤਰਜੀਹ ਦੇ ਰਿਹਾ ਹੈ। ਨਿਵੇਸ਼ਕਾਂ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕੰਪਲਾਈਂਸ ਖਰਚਿਆਂ (compliance costs) ਵਿੱਚ ਵਾਧਾ ਹੋ ਸਕਦਾ ਹੈ। ਵਿੱਤੀ ਸੰਸਥਾਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ, ਸਖ਼ਤ ਮਾਡਲ ਪ੍ਰਮਾਣੀਕਰਨ ਅਤੇ ਬੋਰਡ-ਪੱਧਰ ਦੇ ਜੋਖਮ ਪ੍ਰਬੰਧਨ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨ ਦੀ ਲੋੜ ਹੋਵੇਗੀ। ਜਦੋਂ ਕਿ ਇਹ ਕਦਮ ਪ੍ਰਣਾਲੀਗਤ ਅਸਫਲਤਾਵਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ, ਉਹ ਨਵੇਂ AI-ਡਰਾਈਵਨ ਉਤਪਾਦਾਂ ਜਾਂ ਸੇਵਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਲਈ ਲੰਬੇ ਸਮੇਂ ਦਾ ਕਾਰਨ ਵੀ ਬਣ ਸਕਦੇ ਹਨ।
ਬੋਰਡ-ਪੱਧਰ ਦੀ ਜਵਾਬਦੇਹੀ
RBI AI ਗਵਰਨੈਂਸ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਸਭ ਤੋਂ ਉੱਚੇ ਪੱਧਰ 'ਤੇ ਤਬਦੀਲ ਕਰ ਰਿਹਾ ਹੈ। ਪ੍ਰਸਤਾਵਿਤ ਨਿਯਮਾਂ ਦੇ ਤਹਿਤ, ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਮਾਡਲਾਂ ਲਈ ਬੋਰਡ ਦੀ ਰਿਸਕ ਮੈਨੇਜਮੈਂਟ ਕਮੇਟੀ ਤੋਂ ਸਪੱਸ਼ਟ ਮਨਜ਼ੂਰੀ ਦੀ ਲੋੜ ਹੋਵੇਗੀ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਟੈਕ ਜਾਂ ਰਿਸਕ ਟੀਮਾਂ ਹੁਣ ਇਕੱਲਿਆਂ ਕੰਮ ਨਹੀਂ ਕਰ ਸਕਣਗੀਆਂ; ਬੋਰਡ ਹੁਣ ਮਾਡਲਾਂ ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਸੰਸਥਾ ਦੀ ਜੋਖਮ ਭੁੱਖ (risk appetite) ਲਈ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਜਵਾਬਦੇਹ ਹੋਣਗੇ। ਇਹ ਤਬਦੀਲੀ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ ਕਿ AI ਰਣਨੀਤੀ ਬੈਂਕ ਦੀ ਸਮੁੱਚੀ ਵਿੱਤੀ ਸਿਹਤ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਸਥਿਤੀ ਦੇ ਨਾਲ ਮੇਲ ਖਾਂਦੀ ਹੈ।
ਵਿਕਰੇਤਾ ਦੀ ਜਾਂਚ ਅਤੇ ਤੀਜੀ-ਧਿਰ ਦਾ ਜੋਖਮ
ਬਹੁਤ ਸਾਰੇ ਬੈਂਕ AI-ਅਧਾਰਿਤ ਹੱਲਾਂ ਲਈ ਤੀਜੀ-ਧਿਰ ਦੇ ਫਿਨਟੈਕ (fintech) ਵਿਕਰੇਤਾਵਾਂ (vendors) 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਡਰਾਫਟ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਸਪੱਸ਼ਟ ਕਰਦੇ ਹਨ ਕਿ ਵਿੱਤੀ ਸੰਸਥਾਵਾਂ ਉਨ੍ਹਾਂ ਦੁਆਰਾ ਵਰਤੇ ਗਏ ਕਿਸੇ ਵੀ ਮਾਡਲ ਦੇ ਨਤੀਜਿਆਂ ਲਈ ਪੂਰੀ ਤਰ੍ਹਾਂ ਜ਼ਿੰਮੇਵਾਰ ਰਹਿਣਗੀਆਂ, ਭਾਵੇਂ ਇਸਦੀ ਸ਼ੁਰੂਆਤ ਕਿੱਥੋਂ ਵੀ ਹੋਈ ਹੋਵੇ। RBI ਨੇ ਖਾਸ ਤੌਰ 'ਤੇ ਸਪਲਾਈ ਚੇਨ ਜੋਖਮ (supply chain risk) ਨੂੰ ਉਜਾਗਰ ਕੀਤਾ ਹੈ, ਇਹ ਨੋਟ ਕਰਦੇ ਹੋਏ ਕਿ AI ਮਾਡਲਾਂ ਲਈ ਕੁਝ ਗਲੋਬਲ ਟੈਕ ਫਰਮਾਂ 'ਤੇ ਜ਼ਿਆਦਾ ਨਿਰਭਰਤਾ ਇੱਕ ਪ੍ਰਣਾਲੀਗਤ ਜੋਖਮ ਪੈਦਾ ਕਰਦੀ ਹੈ। ਬੈਂਕਾਂ ਨੂੰ ਆਪਣੇ ਟੈਕਨਾਲੋਜੀ ਭਾਈਵਾਲਾਂ 'ਤੇ ਡੂੰਘੀ ਡਿਊ ਡਿਲੀਜੈਂਸ (due diligence) ਕਰਨ ਦੀ ਲੋੜ ਹੋਵੇਗੀ, ਜੋ ਮੌਜੂਦਾ ਵਿਕਰੇਤਾ ਸਮਝੌਤਿਆਂ ਅਤੇ ਬੈਂਕਾਂ ਦੁਆਰਾ ਬਾਹਰੀ AI ਟੂਲਸ ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਨ ਦੀ ਗਤੀ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ।
ਵਿਆਖਿਆਯੋਗਤਾ ਅਤੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ
ਨਵੇਂ ਫਰੇਮਵਰਕ ਦਾ ਇੱਕ ਮੁੱਖ ਫੋਕਸ 'ਵਿਆਖਿਆਯੋਗਤਾ' (explainability) ਹੈ। ਬੈਂਕਾਂ ਨੂੰ ਸਰਲ ਸ਼ਬਦਾਂ ਵਿੱਚ ਇਹ ਸਮਝਾਉਣ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ AI ਮਾਡਲ ਨੇ ਕੋਈ ਖਾਸ ਫੈਸਲਾ ਕਿਉਂ ਲਿਆ। ਇਹ ਖਾਸ ਕਰਕੇ ਗਾਹਕ-ਸਾਹਮਣੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਜਿਵੇਂ ਕਿ ਲੋਨ ਮਨਜ਼ੂਰੀਆਂ ਜਾਂ ਰੱਦ ਕਰਨ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ। RBI 'ਆਟੋਮੇਸ਼ਨ ਬਾਇਸ' (automation bias) ਨੂੰ ਰੋਕਣ ਲਈ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਨੂੰ ਵੀ ਲਾਜ਼ਮੀ ਬਣਾਉਂਦਾ ਹੈ, ਜਿੱਥੇ ਕਰਮਚਾਰੀ ਸੁਤੰਤਰ ਨਿਰਣਾਇਕਤਾ (independent judgment) ਲਾਗੂ ਕੀਤੇ ਬਿਨਾਂ AI ਨਤੀਜਿਆਂ 'ਤੇ ਭਰੋਸਾ ਕਰ ਸਕਦੇ ਹਨ। ਗਾਹਕਾਂ ਨੂੰ ਇਹ ਵੀ ਸੂਚਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਉਹ AI ਨਾਲ ਗੱਲਬਾਤ ਕਰ ਰਹੇ ਹਨ ਅਤੇ ਇੱਕ ਮਨੁੱਖੀ ਪ੍ਰਤੀਨਿਧੀ ਤੱਕ ਪਹੁੰਚਣ ਦਾ ਵਿਕਲਪ ਦਿੱਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਕੀ ਟਰੈਕ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ
ਮੁੱਖ ਨਿਗਰਾਨੀ ਵਿੱਚ ਇਹ ਸ਼ਾਮਲ ਹੈ ਕਿ ਬੈਂਕ ਇਨ੍ਹਾਂ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਆਪਣੇ ਅੰਦਰੂਨੀ ਜੋਖਮ ਫਰੇਮਵਰਕ ਨੂੰ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਅਪਡੇਟ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਸੰਬੰਧਿਤ ਲਾਗੂ ਕਰਨ ਦੀ ਲਾਗਤ। ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਇਹ ਵੀ ਟਰੈਕ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕੀ ਇਹ ਨਿਯਮ ਡਿਜੀਟਲ ਪਰਿਵਰਤਨ ਦੀ ਗਤੀ ਜਾਂ ਬੈਂਕਾਂ ਅਤੇ ਫਿਨਟੈਕ ਭਾਈਵਾਲਾਂ ਵਿਚਕਾਰ ਸਬੰਧ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕਰਦੇ ਹਨ। ਬੋਰਡ-ਮਨਜ਼ੂਰੀ ਪ੍ਰਕਿਰਿਆ ਦੇ ਅਧੀਨ ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਮਾਡਲਾਂ ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਦੀ ਅੰਤਿਮ ਲਾਗਤ AI ਤਕਨਾਲੋਜੀ ਵਿੱਚ ਭਾਰੀ ਨਿਵੇਸ਼ ਕਰਨ ਵਾਲੇ ਬੈਂਕਾਂ ਲਈ ਆਗਾਮੀ ਤਿਮਾਹੀ ਅਪਡੇਟਾਂ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਕਾਰਕ ਹੋਵੇਗੀ।