ਭਾਰਤ ਦੀਆਂ ਪ੍ਰਾਈਵੇਟ ਕੰਪਨੀਆਂ ਦੇ AI ਮਾਡਲ PIN ਕੋਡ ਅਤੇ ਸਰਨੇਮ ਵਰਗੇ ਡੇਟਾ ਰਾਹੀਂ ਲੋਕਾਂ ਦੀ ਜਾਤ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾ ਰਹੇ ਹਨ। ਇਸ ਨਾਲ ਕ੍ਰੈਡਿਟ ਸਕੋਰਿੰਗ ਅਤੇ ਕੰਜ਼ਿਊਮਰ ਪਲੇਟਫਾਰਮਸ ਲਈ ਵੱਡਾ ਰੈਗੂਲੇਟਰੀ ਰਿਸਕ ਪੈਦਾ ਹੋ ਗਿਆ ਹੈ।
ਭਾਰਤ ਦੇ ਪ੍ਰਾਈਵੇਟ ਸੈਕਟਰ ਵਿੱਚ Artificial Intelligence ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਵਾਧਾ ਹੋ ਰਿਹਾ ਹੈ, ਪਰ ਇਹ ਆਪਣੇ ਨਾਲ ਡੇਟਾ ਐਥਿਕਸ ਅਤੇ ਸਮਾਜਿਕ ਵਿਤਕਰੇ (Social Bias) ਵਰਗੀਆਂ ਨਵੀਆਂ ਚੁਣੌਤੀਆਂ ਲੈ ਕੇ ਆਇਆ ਹੈ। ਰਿਪੋਰਟਾਂ ਮੁਤਾਬਕ, ਕਾਰਪੋਰੇਟ ਐਲਗੋਰਿਦਮ ਹੁਣ ਬਿਨਾਂ ਕਿਸੇ ਇਨਪੁਟ ਦੇ ਲੋਕਾਂ ਦੀ ਜਾਤ ਅਤੇ ਸਮਾਜਿਕ ਰੁਤਬੇ ਦਾ ਪਤਾ ਲਗਾ ਰਹੇ ਹਨ। ਇਹ ਸਿਸਟਮ PIN ਕੋਡ, ਪੜ੍ਹਾਈ ਅਤੇ ਸਰਨੇਮ ਵਰਗੇ ਡੇਟਾ ਪੁਆਇੰਟਸ ਰਾਹੀਂ ਇੱਕ 'ਸ਼ੈਡੋ ਡੇਟਾਬੇਸ' ਤਿਆਰ ਕਰ ਰਹੇ ਹਨ।
Fintech ਅਤੇ ਕ੍ਰੈਡਿਟ ਸਕੋਰਿੰਗ ਦੀ ਚਿੰਤਾ
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਸਭ ਤੋਂ ਵੱਡਾ ਖਤਰਾ ਵਿੱਤੀ ਸੇਵਾਵਾਂ ਵਿੱਚ ਹੈ। ਜੇਕਰ ਕ੍ਰੈਡਿਟ ਸਕੋਰਿੰਗ ਮਾਡਲ ਸਿਰਫ ਵਿੱਤੀ ਯੋਗਤਾ ਦੀ ਬਜਾਏ ਸਮਾਜਿਕ ਡੇਟਾ ਦੇ ਆਧਾਰ 'ਤੇ ਲੋਨ ਦੇਣ ਤੋਂ ਇਨਕਾਰ ਕਰਦੇ ਹਨ, ਤਾਂ ਇਹ RBI ਦੀਆਂ ਨਜ਼ਰਾਂ ਵਿੱਚ ਆ ਸਕਦਾ ਹੈ। 'Black-box' AI 'ਤੇ ਵੱਧ ਰਹੀ ਨਿਗਰਾਨੀ ਕਾਰਨ ਕੰਪਨੀਆਂ ਨੂੰ ਇਹ ਸਾਬਤ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੀ ਲੈਂਡਿੰਗ ਪਾਲਿਸੀ ਨਿਰਪੱਖ ਹੈ।
ਕੰਜ਼ਿਊਮਰ ਪਲੇਟਫਾਰਮਸ ਅਤੇ ਐਲਗੋਰਿਦਮਿਕ ਵਿਤਕਰਾ
ਮੈਟਰੀਮੋਨੀਅਲ ਸਾਈਟਸ ਅਤੇ ਗਿੱਗ ਇਕਾਨਮੀ ਐਪਸ ਦੇ ਐਲਗੋਰਿਦਮ ਵੀ ਹੁਣ ਜਾਂਚ ਦੇ ਦਾਇਰੇ ਵਿੱਚ ਹਨ। ਇਹ ਪਲੇਟਫਾਰਮ ਜਾਣੇ-ਅਣਜਾਣੇ ਵਿੱਚ ਪੁਰਾਣੇ ਸਮਾਜਿਕ ਪੱਖਪਾਤ ਨੂੰ ਵਧਾ ਰਹੇ ਹਨ। ਹਾਲਾਂਕਿ ਇਹ ਸ਼ਾਰਟ-ਟਰਮ ਵਿੱਚ ਯੂਜ਼ਰ ਐਂਗੇਜਮੈਂਟ ਵਧਾ ਸਕਦੇ ਹਨ, ਪਰ ਭਵਿੱਖ ਵਿੱਚ ਇਹ ਕੰਪਨੀਆਂ ਲਈ ਵੱਡਾ ਕਾਨੂੰਨੀ ਅਤੇ ਰੈਪੂਟੇਸ਼ਨਲ ਰਿਸਕ ਬਣ ਸਕਦੇ ਹਨ।
ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਸਲਾਹ
ਸਾਲ 2027 ਵਿੱਚ ਹੋਣ ਵਾਲੀ ਡਿਜੀਟਲ ਜਾਤੀ ਗਿਣਤੀ ਤੋਂ ਪਹਿਲਾਂ, ਕਾਰਪੋਰੇਟ ਗਵਰਨੈਂਸ ਵਿੱਚ ਇਹ ਇੱਕ ਵੱਡਾ ਗੈਪ ਹੈ। ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਕੰਪਨੀਆਂ 'ਤੇ ਨਜ਼ਰ ਰੱਖਣੀ ਚਾਹੀਦੀ ਹੈ ਜੋ 'Explainable AI' ਅਤੇ ਐਲਗੋਰਿਦਮਿਕ ਆਡਿਟ ਵੱਲ ਕਦਮ ਵਧਾ ਰਹੀਆਂ ਹਨ। ਜਿਹੜੀਆਂ ਕੰਪਨੀਆਂ ਪਾਰਦਰਸ਼ਤਾ ਨਹੀਂ ਦਿਖਾਉਣਗੀਆਂ, ਉਨ੍ਹਾਂ ਨੂੰ ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ ਸਖ਼ਤ ਰੈਗੂਲੇਟਰੀ ਨਿਯਮਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ।