ਕਾਰੋਬਾਰਾਂ ਵਿੱਚ AI ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਵਧ ਰਹੀ ਹੈ, ਪਰ ਇੱਕ ਨਵੀਂ 'verification gap' ਸਾਹਮਣੇ ਆਈ ਹੈ। AI ਹੁਣ ਸਹੀ ਸੋਰਸ ਤਾਂ ਦੇ ਰਿਹਾ ਹੈ, ਪਰ ਉਸ ਵਿੱਚ ਦਿੱਤੀ ਜਾਣਕਾਰੀ ਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਸਮਝ ਰਿਹਾ ਹੈ, ਜੋ ਕੰਪਨੀਆਂ ਦੀ ਪ੍ਰੋਡਕਟਿਵਿਟੀ ਲਈ ਵੱਡਾ ਜੋਖਮ ਹੈ।
ਕੰਪਨੀਆਂ ਹੁਣ AI ਦੀ ਵਰਤੋਂ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਕਰ ਰਹੀਆਂ ਹਨ, ਪਰ ਇੱਕ ਗੰਭੀਰ ਤਕਨੀਕੀ ਸਮੱਸਿਆ ਖੜ੍ਹੀ ਹੋ ਗਈ ਹੈ। AI ਦੇ 'hallucinate' ਕਰਨ (ਗਲਤ ਤੱਥ ਘੜਨ) ਤੋਂ ਬਚਣ ਲਈ ਕੰਪਨੀਆਂ Retrieval-Augmented Generation (RAG) ਤਕਨੀਕ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀਆਂ ਹਨ। ਇਸ ਦਾ ਮਕਸਦ ਹੈ ਕਿ AI ਸਿਰਫ ਅੰਦਰੂਨੀ ਡਾਟਾਬੇਸ ਤੋਂ ਹੀ ਜਾਣਕਾਰੀ ਲਵੇ ਅਤੇ ਉਸਦਾ ਹਵਾਲਾ (Citation) ਦੇਵੇ।
ਪਰ ਹੁਣ ਇੱਕ ਅਜੀਬ ਮੋੜ ਆਇਆ ਹੈ: AI ਸਹੀ ਡਾਕੂਮੈਂਟ ਤਾਂ ਲੱਭ ਲੈਂਦਾ ਹੈ ਅਤੇ ਉਸਦਾ ਲਿੰਕ ਵੀ ਦੇ ਦਿੰਦਾ ਹੈ, ਪਰ ਉਸਦੇ ਅੰਦਰਲੀ ਸਮੱਗਰੀ (content) ਨੂੰ ਗਲਤ ਸਮਝ ਲੈਂਦਾ ਹੈ। ਕਿਉਂਕਿ AI ਆਪਣਾ ਜਵਾਬ ਬਹੁਤ ਭਰੋਸੇ ਨਾਲ ਦਿੰਦਾ ਹੈ, ਇਸ ਲਈ ਇਨਸਾਨੀ ਸਮੀਖਿਆ ਕਰਨ ਵਾਲੇ ਵੀ ਇਸ ਨੂੰ ਜਲਦੀ ਵਿੱਚ ਫੜ ਨਹੀਂ ਪਾਉਂਦੇ।
ਬੈਂਕਿੰਗ ਅਤੇ ਲੀਗਲ ਸੈਕਟਰ ਲਈ ਚਿੰਤਾ
ਬੈਂਕਿੰਗ ਅਤੇ ਕਾਨੂੰਨੀ ਖੇਤਰਾਂ ਵਿੱਚ, ਜਿੱਥੇ ਇੱਕ-ਇੱਕ ਅੰਕੜਾ ਮਹੱਤਵਪੂਰਨ ਹੁੰਦਾ ਹੈ, ਇਹ ਗਲਤੀਆਂ ਭਾਰੀ ਪੈ ਸਕਦੀਆਂ ਹਨ। ਜੇਕਰ AI ਕਿਸੇ ਰੈਗੂਲੇਟਰੀ ਰਿਪੋਰਟ ਦੀ ਸਹੀ ਕਲਾਜ਼ ਦਾ ਹਵਾਲਾ ਦੇ ਕੇ ਉਸਦਾ ਗਲਤ ਮਤਲਬ ਕੱਢਦਾ ਹੈ, ਤਾਂ ਇਹ ਕੰਪਲਾਈਸੈਂਸ (Compliance) ਫੇਲ੍ਹ ਹੋਣ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦਾ ਹੈ।
'Productivity Paradox' ਦਾ ਡਰ
ਕਈ ਕੰਪਨੀਆਂ ਨੇ AI ਵਿੱਚ ਇਸ ਲਈ ਨਿਵੇਸ਼ ਕੀਤਾ ਸੀ ਕਿ ਮੈਨੂਅਲ ਕੰਮ ਘਟੇਗਾ। ਪਰ ਜੇਕਰ ਹਰ ਜਵਾਬ ਨੂੰ ਇਨਸਾਨ ਨੂੰ ਖੁਦ ਚੈੱਕ ਕਰਨਾ ਪਵੇ, ਤਾਂ AI ਦੀ ਗਤੀ ਦਾ ਕੋਈ ਫਾਇਦਾ ਨਹੀਂ ਰਹਿ ਜਾਂਦਾ। ਹੁਣ ਆਈਟੀ ਫਰਮਾਂ 'ਤੇ 'Auditable AI' ਬਣਾਉਣ ਦਾ ਦਬਾਅ ਵਧ ਰਿਹਾ ਹੈ, ਜੋ ਸਿਰਫ ਜਵਾਬ ਨਾ ਦੇਵੇ, ਸਗੋਂ ਆਪਣੇ ਹਰ ਤਰਕ ਨੂੰ ਸਹੀ ਸਬੂਤ ਨਾਲ ਜੋੜ ਸਕੇ। ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਹੁਣ ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੋ ਗਿਆ ਹੈ ਕਿ ਉਹ ਕੰਪਨੀਆਂ ਦੀ AI ਸਪੀਡ ਨਾਲੋਂ ਉਹਨਾਂ ਦੀ accuracy ਅਤੇ traceability ਨੂੰ ਜ਼ਿਆਦਾ ਤਵੱਜੋ ਦੇਣ।