ਬਿਜ਼ਨਸ ਲੀਡਰ Vineet Nayar ਨੇ ਆਪਣੀ ਨਵੀਂ ਕਿਤਾਬ 'Humans First, Machines Second' ਰਾਹੀਂ ਕੰਪਨੀਆਂ ਨੂੰ ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਲਈ ਸਖ਼ਤ ਨੈਤਿਕ ਢਾਂਚਾ ਬਣਾਉਣ ਦੀ ਲੋੜ 'ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਹੈ। ਇਹ ਚੇਤਾਵਨੀ ਅਜਿਹੇ ਸਮੇਂ ਆਈ ਹੈ ਜਦੋਂ ਕਾਰੋਬਾਰਾਂ ਵਿੱਚ AI ਦਾ ਇਸਤੇਮਾਲ ਵਧ ਰਿਹਾ ਹੈ, ਜਿਸ ਨਾਲ ਰੈਗੂਲੇਟਰੀ ਜੋਖਮਾਂ ਅਤੇ ਆਟੋਮੇਟਿਡ ਪੱਖਪਾਤ ਕਾਰਨ ਗਾਹਕਾਂ ਦੇ ਭਰੋਸੇ 'ਚ ਕਮੀ ਆਉਣ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਵਧ ਰਹੀਆਂ ਹਨ।
ਆਪਣੀ ਨਵੀਂ ਕਿਤਾਬ, 'Humans First, Machines Second' ਵਿੱਚ, ਬਿਜ਼ਨਸ ਲੀਡਰ ਅਤੇ ਲੇਖਕ Vineet Nayar ਕਾਰਪੋਰੇਸ਼ਨਾਂ ਦੁਆਰਾ ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੇ ਪ੍ਰਬੰਧਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਇੱਕ ਲਾਜ਼ਮੀ ਬਦਲਾਅ ਦੀ ਵਕਾਲਤ ਕਰਦੇ ਹਨ। Nayar ਇਸ ਪ੍ਰਚਲਿਤ ਧਾਰਨਾ ਨੂੰ ਚੁਣੌਤੀ ਦਿੰਦੇ ਹਨ ਕਿ AI ਸਿਸਟਮ ਨਿਰਪੱਖ ਸਾਧਨ ਹਨ। ਉਹ ਦਲੀਲ ਦਿੰਦੇ ਹਨ ਕਿ AI ਅਸਲ ਵਿੱਚ ਉਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਦੇ ਸੰਗਠਨਾਤਮਕ ਨੈਤਿਕਤਾ ਦਾ ਡਿਜੀਟਲ ਪ੍ਰਤੀਬਿੰਬ (Digital Mirror) ਹੈ ਜੋ ਉਨ੍ਹਾਂ ਨੂੰ ਬਣਾਉਂਦੀਆਂ ਅਤੇ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ। ਆਪਣੇ ਡਿਜੀਟਲ ਪਰਿਵਰਤਨ (Digital Transformation) ਨੂੰ ਤੇਜ਼ ਕਰਨ ਵਾਲੀਆਂ ਭਾਰਤੀ ਕੰਪਨੀਆਂ ਲਈ, ਇਹ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਬਦਲਾਅ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ: AI ਨਿਗਰਾਨੀ ਨੂੰ ਤਕਨੀਕੀ ਜਾਂ ਕਾਨੂੰਨੀ ਵਿਭਾਗਾਂ ਤੋਂ ਸੀਨੀਅਰ ਲੀਡਰਸ਼ਿਪ ਦੀਆਂ ਮੁੱਖ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਵਿੱਚ ਲਿਆਉਣਾ।
ਐਲਗੋਰਿਦਮ ਤੋਂ ਪਰੇ ਜਵਾਬਦੇਹੀ (Accountability Beyond Algorithms)
Nayar ਦੱਸਦੇ ਹਨ ਕਿ AI ਨਾਲ ਜੁੜੇ ਜੋਖਮ - ਜਿਵੇਂ ਕਿ ਅੰਦਰੂਨੀ ਪੱਖਪਾਤ (Inherent Bias) ਜਾਂ ਉਪਭੋਗਤਾ ਸੁਰੱਖਿਆ ਦੀ ਬਜਾਏ ਐਂਗੇਜਮੈਂਟ ਨੂੰ ਤਰਜੀਹ ਦੇਣਾ - ਇਹ ਤਕਨਾਲੋਜੀ ਦੀਆਂ ਅਸਫਲਤਾਵਾਂ ਨਹੀਂ, ਬਲਕਿ ਮਨੁੱਖੀ ਫੈਸਲੇ ਦੀਆਂ ਕਮੀਆਂ ਹਨ। Amazon ਅਤੇ Meta ਵਰਗੀਆਂ ਗਲੋਬਲ ਫਰਮਾਂ ਨੇ ਪਹਿਲਾਂ ਵੀ ਜਨਤਕ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਜਾਂਚਾਂ ਦਾ ਸਾਹਮਣਾ ਕੀਤਾ ਹੈ ਜਦੋਂ ਉਨ੍ਹਾਂ ਦੇ AI ਮਾਡਲਾਂ ਨੇ ਪੱਖਪਾਤੀ ਨਤੀਜੇ ਜਾਂ ਹਾਨੀਕਾਰਕ ਸਮੱਗਰੀ ਪੈਦਾ ਕੀਤੀ ਸੀ। ਇਨ੍ਹਾਂ ਸਿਸਟਮਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿ ਕੇ, ਇਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਨੇ ਇਹ ਸਾਬਤ ਕੀਤਾ ਕਿ ਮਨੁੱਖੀ-ਅਗਵਾਈ ਵਾਲੇ ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਤੋਂ ਬਿਨਾਂ ਸਿਰਫ਼ ਡਾਟਾ-ਆਧਾਰਿਤ ਮਾਡਲਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਤਿਸ਼ਠਾ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ। ਭਾਰਤੀ ਨਿਵੇਸ਼ਕਾਂ (Investors) ਲਈ, ਇਹ ਇੱਕ ਗੈਰ-ਵਿੱਤੀ ਜੋਖਮ (Non-financial Risk) ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ: ਜੇਕਰ ਕਿਸੇ ਸੰਗਠਨ ਦਾ AI ਇਨਫ్రాਸਟ੍ਰਕਚਰ ਉਸਦੇ ਕਾਰਪੋਰੇਟ ਮੁੱਲਾਂ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦਾ ਤਾਂ ਗਵਰਨੈਂਸ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਰਗੜੇ ਦੀ ਸੰਭਾਵਨਾ।
AI ਸੁਰੱਖਿਆ ਨੂੰ ਕਾਰਜਸ਼ੀਲ ਬਣਾਉਣਾ (Operationalizing AI Safety)
ਇਨ੍ਹਾਂ ਜੋਖਮਾਂ ਨੂੰ ਘੱਟ ਕਰਨ ਲਈ, Nayar ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਉੱਚ-ਪੱਧਰੀ ਨੀਤੀ ਬਿਆਨਾਂ ਤੋਂ ਅੱਗੇ ਵਧ ਕੇ ਰੋਜ਼ਾਨਾ ਕਾਰਜਾਂ ਵਿੱਚ ਨੈਤਿਕ ਜਾਂਚਾਂ ਨੂੰ ਏਕੀਕ੍ਰਿਤ (Integrate) ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਉਹ ਕੰਪਨੀਆਂ ਨੂੰ AI ਵਿਕਾਸ ਨੂੰ ਨਿਯਮਤ ਕਰਨ ਲਈ ਇੱਕ 'ਐਥੀਕਲ ਸਟੈਕ' (Ethical Stack) ਸਥਾਪਿਤ ਕਰਨ ਦਾ ਪ੍ਰਸਤਾਵ ਦਿੰਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਡਾਟਾ ਮੂਲ, ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਟੀਚਿਆਂ ਅਤੇ ਤੈਨਾਤੀ ਪ੍ਰਭਾਵ (Deployment Impact) ਦੀ ਸਖ਼ਤ ਨਿਗਰਾਨੀ ਸ਼ਾਮਲ ਹੈ। ਅਹਿਮ ਗੱਲ ਇਹ ਹੈ ਕਿ ਉਹ 'ਓਵਰਰਾਈਡ ਅਥਾਰਟੀ' (Override Authority) ਦੀ ਲੋੜ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੇ ਹੋਏ ਕਿ ਉੱਚ-ਮਹੱਤਵ ਵਾਲੀਆਂ AI ਪ੍ਰਕਿਰਿਆਵਾਂ ਵਿੱਚ ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਅੰਤਿਮ ਕਦਮ ਬਣੀ ਰਹੇ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਉਹ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਕੰਪਨੀਆਂ ਨੂੰ ਵਿਭਿੰਨ ਟੀਮਾਂ—ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਕਾਨੂੰਨੀ, ਮਨੁੱਖੀ ਸਰੋਤ (Human Resources), ਅਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਸ਼ਾਮਲ ਹਨ—ਨੂੰ ਸ਼ਾਮਲ ਕਰਕੇ ਨਿਯਮਤ AI ਸੁਰੱਖਿਆ ਡਰਿਲ (AI Safety Drills) ਕਰਨੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ ਤਾਂ ਜੋ ਵਪਾਰ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਗੋਪਨੀਯਤਾ ਲੀਕ (Privacy Leaks) ਜਾਂ ਪੱਖਪਾਤ ਨੂੰ ਫੜਿਆ ਜਾ ਸਕੇ।
ਕਾਰਪੋਰੇਟ ਗਵਰਨੈਂਸ ਲਈ ਭਵਿੱਖ
ਜਿਵੇਂ-ਜਿਵੇਂ ਭਾਰਤੀ ਕਾਰਪੋਰੇਸ਼ਨਾਂ ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (Large Language Models) ਅਤੇ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਅਪਣਾਉਣਾ ਜਾਰੀ ਰੱਖਦੀਆਂ ਹਨ, AI ਵਿਕਾਸ ਅਤੇ ਨੈਤਿਕ ਨਿਗਰਾਨੀ ਵਿਚਕਾਰ ਦਾ ਪਾੜਾ ਸੰਭਾਵੀ ਰੈਗੂਲੇਟਰੀ ਫੋਕਸ ਦਾ ਇੱਕ ਮੁੱਖ ਖੇਤਰ ਬਣ ਰਿਹਾ ਹੈ। ਸਪੱਸ਼ਟ ਡਾਟਾ ਵਰਤੋਂ ਪਾਬੰਦੀਆਂ ਅਤੇ ਘਟਨਾ-ਰਿਸਪਾਂਸ ਪ੍ਰੋਟੋਕਾਲਾਂ (Incident-response Protocols) ਦੀ ਅਣਹੋਂਦ ਕਾਪੀਰਾਈਟ ਦੇਣਦਾਰੀਆਂ (Copyright Liabilities) ਅਤੇ ਗੋਪਨੀਯਤਾ ਦੀ ਉਲੰਘਣਾ (Privacy Violations) ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ, ਜੋ ਕਿ ਗਲੋਬਲ ਅਤੇ ਸਥਾਨਕ ਰੈਗੂਲੇਟਰਾਂ ਦੇ ਨਿਸ਼ਾਨੇ 'ਤੇ ਤੇਜ਼ੀ ਨਾਲ ਆ ਰਹੇ ਹਨ। ਕੰਪਨੀਆਂ ਲਈ ਅਗਲਾ ਪੜਾਅ ਇਹ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਨਾ ਹੋਵੇਗਾ ਕਿ ਉਹ ਤਕਨੀਕੀ ਨਵੀਨਤਾ (Technological Innovation) ਨੂੰ ਜ਼ਿੰਮੇਵਾਰ ਗਵਰਨੈਂਸ ਨਾਲ ਸੰਤੁਲਿਤ ਕਰ ਸਕਦੇ ਹਨ। ਨਿਵੇਸ਼ਕ ਇਸ ਗੱਲ 'ਤੇ ਨਜ਼ਰ ਰੱਖ ਸਕਦੇ ਹਨ ਕਿ ਮੈਨੇਜਮੈਂਟ ਟੀਮਾਂ ਆਪਣੇ AI ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ (AI Safety Measures) ਨੂੰ ਕਿਵੇਂ ਸੰਚਾਰਿਤ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਕੀ ਇਹ ਕੰਪਨੀਆਂ ਇਸ ਬਾਰੇ ਵਧੇਰੇ ਪਾਰਦਰਸ਼ੀ ਰਿਪੋਰਟਿੰਗ ਵੱਲ ਵਧਦੀਆਂ ਹਨ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਆਟੋਮੇਟਿਡ ਸਿਸਟਮ ਕਿਵੇਂ ਡਿਜ਼ਾਈਨ, ਸਿਖਲਾਈ ਅਤੇ ਆਡਿਟ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।