ਭਾਰਤ ਦੀ ਸੁਪਰੀਮ ਕੋਰਟ ਨੇ ਬਾਰ ਕੌਂਸਲ ਆਫ਼ ਇੰਡੀਆ (Bar Council of India) ਨੂੰ ਹੁਕਮ ਦਿੱਤਾ ਹੈ ਕਿ ਉਹ ਲੀਗਲ ਮਾਮਲਿਆਂ 'ਚ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੇ ਇਸਤੇਮਾਲ ਨੂੰ ਰੈਗੂਲੇਟ ਕਰਨ ਲਈ ਨਿਯਮ ਬਣਾਉਣ। ਇਹ ਫੈਸਲਾ Essel Infraprojects Ltd. ਦੇ ਇਨਸਾਲਵੈਂਸੀ ਕੇਸ 'ਚ AI ਵੱਲੋਂ ਬਣਾਈਆਂ ਗਈਆਂ ਜਾਅਲੀ ਜੱਜਮੈਂਟਾਂ ਸਾਹਮਣੇ ਆਉਣ ਤੋਂ ਬਾਅਦ ਲਿਆ ਗਿਆ ਹੈ। ਕੋਰਟ ਨੇ ਜ਼ੋਰ ਦਿੱਤਾ ਹੈ ਕਿ AI ਦੀਆਂ 'ਹਾਲੂਸੀਨੇਸ਼ਨਜ਼' (ਗਲਤ ਜਾਣਕਾਰੀ) ਕਾਰਨ ਜੁਡੀਸ਼ੀਅਲ ਪ੍ਰਣਾਲੀ 'ਚ ਗਲਤੀਆਂ ਨੂੰ ਰੋਕਣ ਲਈ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ (Human Oversight) ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ।
ਕੀ ਹੋਇਆ?
ਸੁਪਰੀਮ ਕੋਰਟ ਆਫ਼ ਇੰਡੀਆ ਨੇ ਬਾਰ ਕੌਂਸਲ ਆਫ਼ ਇੰਡੀਆ (BCI) ਨੂੰ ਇੱਕ ਸਖ਼ਤ ਨਿਰਦੇਸ਼ ਜਾਰੀ ਕੀਤਾ ਹੈ ਕਿ ਉਹ ਲੀਗਲ ਰਿਸਰਚ ਅਤੇ ਪ੍ਰੈਕਟਿਸ ਵਿੱਚ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੇ ਇਸਤੇਮਾਲ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਲਈ ਇੱਕ ਵਿਆਪਕ ਨੀਤੀ (Policy) ਬਣਾਵੇ। ਇਹ ਕਦਮ Essel Infraprojects Ltd. ਦੇ ਖਿਲਾਫ ਚੱਲ ਰਹੀ ਇਨਸਾਲਵੈਂਸੀ ਕਾਰਵਾਈਆਂ ਵਿੱਚ AI ਵੱਲੋਂ ਬਣਾਈਆਂ ਗਈਆਂ, ਗਲਤ (hallucinated) ਜੁਡੀਸ਼ੀਅਲ ਪੂਰਵ-ਨਿਰਣਿਆਂ (precedents) ਨੂੰ ਸਬੂਤ ਵਜੋਂ ਵਰਤਣ ਦੇ ਮਾਮਲੇ ਸਾਹਮਣੇ ਆਉਣ ਤੋਂ ਬਾਅਦ ਚੁੱਕਿਆ ਗਿਆ ਹੈ। ਨੈਸ਼ਨਲ ਕੰਪਨੀ ਲਾਅ ਟ੍ਰਿਬਿਊਨਲ (NCLT) ਅਤੇ ਨੈਸ਼ਨਲ ਕੰਪਨੀ ਲਾਅ ਅਪੀਲੇਟ ਟ੍ਰਿਬਿਊਨਲ (NCLAT) ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ ਇਹ ਗੈਰ-ਮੌਜੂਦ ਜੱਜਮੈਂਟਾਂ 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ ਸੀ, ਜਿਸ ਕਾਰਨ ਸੁਪਰੀਮ ਕੋਰਟ ਨੇ ਜਸਟਿਸ ਸਿਸਟਮ ਦੀ ਅਖੰਡਤਾ (integrity) ਬਣਾਈ ਰੱਖਣ ਲਈ ਸਖ਼ਤ ਨਿਗਰਾਨੀ ਦੀ ਲੋੜ 'ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਹੈ।
ਲੀਗਲ ਇੰਟੈਗ੍ਰਿਟੀ ਲਈ ਇਸਦਾ ਕੀ ਮਹੱਤਵ ਹੈ?
ਕਾਨੂੰਨੀ ਦਲੀਲਾਂ (legal arguments) ਦਾ ਡਰਾਫਟ ਬਣਾਉਣ ਜਾਂ ਖੋਜ ਕਰਨ ਲਈ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੀ ਵੱਧ ਰਹੀ ਵਰਤੋਂ ਨਾਲ 'ਹਾਲੂਸੀਨੇਸ਼ਨ' ਦਾ ਖਤਰਾ ਹੈ, ਜਿਸ ਵਿੱਚ AI ਮਾਡਲ ਮਨਘੜਤ ਅਤੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਫਰਜ਼ੀ ਤੱਥ ਜਾਂ ਕੇਸ ਲਾਅ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਨ। NCLT ਮਾਮਲਿਆਂ ਵਿੱਚ ਸ਼ਾਮਲ ਕੰਪਨੀਆਂ ਅਤੇ ਕਾਨੂੰਨੀ ਪੇਸ਼ੇਵਰਾਂ ਲਈ ਇਹ ਇੱਕ ਵੱਡਾ ਖਤਰਾ ਹੈ। ਜੇਕਰ ਕਾਨੂੰਨੀ ਫੈਸਲਿਆਂ 'ਤੇ ਫਰਜ਼ੀ ਡਾਟਾ ਦਾ ਅਸਰ ਪੈਂਦਾ ਹੈ, ਤਾਂ ਇਸ ਨਾਲ ਅਨਿਆਂ, ਦੇਰੀ ਅਤੇ ਸਾਖ ਨੂੰ ਨੁਕਸਾਨ ਹੋ ਸਕਦਾ ਹੈ। ਸੁਪਰੀਮ ਕੋਰਟ ਦਾ ਇਹ ਨੀਤੀ ਬਣਾਉਣ ਦਾ ਆਦੇਸ਼ ਦੱਸਦਾ ਹੈ ਕਿ ਭਾਵੇਂ ਟੈਕਨਾਲੋਜੀ ਲਾਭਦਾਇਕ ਹੈ, ਪਰ ਸਾਰੇ ਸਬਮਿਟ ਕੀਤੇ ਗਏ ਮਟੀਰੀਅਲ ਦੀ ਸਹੀਤਾ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਅਜੇ ਵੀ ਇਨਸਾਨੀ ਵਕੀਲਾਂ ਅਤੇ ਜੱਜਾਂ ਦੀ ਹੈ।
ਪਿਛਲੇ ਚੇਤਾਵਨੀ ਦੇ ਸੰਕੇਤ
ਇਹ ਪਹਿਲੀ ਵਾਰ ਨਹੀਂ ਹੈ ਜਦੋਂ AI ਦੀਆਂ ਗਲਤੀਆਂ ਨੇ ਕਾਨੂੰਨੀ ਪ੍ਰਣਾਲੀ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤਾ ਹੋਵੇ। ਪਿਛਲੇ ਕੇਸਾਂ ਵਿੱਚ, ਦਿੱਲੀ ਹਾਈ ਕੋਰਟ ਵਿੱਚ ਇੱਕ ਪਟੀਸ਼ਨ ਵਾਪਸ ਲੈਣੀ ਪਈ ਸੀ ਜਦੋਂ ਇਹ ਪਤਾ ਲੱਗਾ ਸੀ ਕਿ ਜਿਸ ਅਥਾਰਟੀ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਸੀ ਉਹ ਮੌਜੂਦ ਨਹੀਂ ਸੀ। ਭਾਰਤ ਦੇ ਸਾਬਕਾ ਚੀਫ਼ ਜਸਟਿਸ D.Y. Chandrachud ਨੇ ਵੀ 2024 ਵਿੱਚ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ ਕਿ ਸਖ਼ਤ ਤਸਦੀਕ (verification) ਤੋਂ ਬਿਨਾਂ AI ਟੂਲਜ਼ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਨਿਆਂ ਨਾਲ ਬੇਇਨਸਾਫ਼ੀ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦਾ ਹੈ। ਸੁਪਰੀਮ ਕੋਰਟ ਦਾ ਹਾਲੀਆ ਆਦੇਸ਼ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇਹਨਾਂ ਟੂਲਜ਼ ਦੀ ਵਰਤੋਂ ਨੂੰ ਸਟੈਂਡਰਡਾਈਜ਼ ਕਰਨ ਵੱਲ ਇੱਕ ਰਸਮੀ ਕਦਮ ਹੈ, ਤਾਂ ਜੋ ਇਹ ਗਲਤੀਆਂ ਭਾਰਤੀ ਅਦਾਲਤਾਂ ਵਿੱਚ ਇੱਕ ਪ੍ਰਣਾਲੀਗਤ ਸਮੱਸਿਆ ਨਾ ਬਣ ਜਾਣ।
ਨਵੀਂ ਨੀਤੀ ਦਾ ਆਦੇਸ਼
ਬਾਰ ਕੌਂਸਲ ਆਫ਼ ਇੰਡੀਆ ਨੂੰ ਕਾਨੂੰਨ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਲਈ ਵਿਸ਼ੇਸ਼ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਬਣਾਉਣ ਲਈ ਇੱਕ ਕਮੇਟੀ ਬਣਾਉਣ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਹੈ। ਇਹ ਕਮੇਟੀ ਰੋਕਥਾਮ ਦੇ ਉਪਾਵਾਂ (preventive measures) ਨੂੰ ਰੂਪਰੇਖਾ ਦੇਵੇਗੀ ਅਤੇ ਫਰਜ਼ੀ AI-ਜਨਰੇਟਿਡ ਅਥਾਰਿਟੀਜ਼ ਸਬਮਿਟ ਕਰਨ ਵਾਲੇ ਵਕੀਲਾਂ ਲਈ ਅਨੁਸ਼ਾਸਨੀ ਕਾਰਵਾਈ (disciplinary consequences) ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰੇਗੀ। ਕੋਰਟ ਨੇ ਜਾਅਲੀ ਪੂਰਵ-ਨਿਰਣਿਆਂ (fake precedents) ਲਈ 'ਜ਼ੀਰੋ ਟਾਲਰੈਂਸ' ਦੀ ਨੀਤੀ ਅਪਣਾਈ ਹੈ, ਇਹ ਸਪੱਸ਼ਟ ਕਰਦੇ ਹੋਏ ਕਿ ਅਜਿਹੀਆਂ ਲਾਪਰਵਾਹੀਆਂ ਲਈ ਵਕੀਲਾਂ 'ਤੇ ਪੇਸ਼ੇਵਰ ਗਲਤ ਵਿਵਹਾਰ (professional misconduct) ਦੇ ਦੋਸ਼ ਲੱਗ ਸਕਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਅਣ-ਤਸਦੀਕਸ਼ੁਦਾ ਸਮੱਗਰੀ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਵਾਲੇ ਜੱਜਾਂ ਦੀ 'ਗੰਭੀਰ ਲਾਪਰਵਾਹੀ' (serious lapse) ਲਈ ਜਾਂਚ ਹੋਵੇਗੀ।
ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਅਜੇ ਵੀ ਲਾਜ਼ਮੀ
ਲੀਗਲ ਰਿਸਰਚ ਅਤੇ ਨਿਰਣੇ (adjudication) ਵਿੱਚ ਸਹਾਇਤਾ ਲਈ AI ਦੇ ਸੰਭਾਵੀ ਲਾਭਾਂ ਦੇ ਬਾਵਜੂਦ, ਸੁਪਰੀਮ ਕੋਰਟ ਨੇ ਘੋਸ਼ਣਾ ਕੀਤੀ ਹੈ ਕਿ 'ਮਨੁੱਖੀ ਦਖਲ' (human in the loop) ਲਾਜ਼ਮੀ ਹੈ। ਟੈਕਨਾਲੋਜੀ ਨੂੰ ਸਿਰਫ਼ ਫੈਸਲਾ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਵਜੋਂ ਦੇਖਿਆ ਜਾ ਰਿਹਾ ਹੈ, ਨਾ ਕਿ ਮਨੁੱਖੀ ਫੈਸਲੇ ਦੇ ਬਦਲ ਵਜੋਂ। ਕਾਨੂੰਨੀ ਵਿਵਾਦਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਸਾਰੇ ਧਿਰਾਂ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕਿਸੇ ਵੀ ਟ੍ਰਿਬਿਊਨਲ ਜਾਂ ਅਦਾਲਤ ਵਿੱਚ ਦਸਤਾਵੇਜ਼ ਜਮ੍ਹਾਂ ਕਰਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਹਰ ਜੱਜਮੈਂਟ ਦੀ ਮੈਨੂਅਲ ਡਿਊ ਡਿਲਿਜੈਂਸ (manual due diligence) ਅਤੇ ਤਸਦੀਕ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਲੋੜ ਬਣੀ ਰਹੇਗੀ।