AI ਦੀ ਗਲਤੀ: ਲੇਖਕ ਦੀ ਕਿਤਾਬ ‘ਚ ਨਿਕਲੀਆਂ ਤੱਥਾਂ ਦੀਆਂ ਖਾਮੀਆਂ

AI ਦੀਆਂ ਗਲਤੀਆਂ ਦਾ ਮੂਲ:

ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਟੂਲਸ, ਖਾਸ ਕਰਕੇ ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲ (LLM), ਕੰਮ ਅਤੇ ਕੰਟੈਂਟ ਬਣਾਉਣ ਵਰਗੇ ਕੰਮਾਂ ਵਿੱਚ ਵਰਤੇ ਜਾ ਰਹੇ ਹਨ। ਪਰ, ਹਾਲ ਹੀ 'ਚ ਲੇਖਕ ਸਟੀਵਨ ਰੋਜ਼ਨਬਾum ਨਾਲ ਵਾਪਰੀ ਇੱਕ ਘਟਨਾ ਇਹਨਾਂ ਸਿਸਟਮਾਂ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਦੀਆਂ ਚੁਣੌਤੀਆਂ ਨੂੰ ਯਾਦ ਕਰਾਉਂਦੀ ਹੈ। ਉਹਨਾਂ ਦੀ ਕਿਤਾਬ, ‘ਦਿ ਫਿਊਚਰ ਆਫ ਟਰੂਥ’ (The Future of Truth), ਜਿਸ 'ਚ ਜਾਣਕਾਰੀ 'ਤੇ AI ਦੇ ਪ੍ਰਭਾਵ ਬਾਰੇ ਦੱਸਿਆ ਗਿਆ ਹੈ, 'ਚ AI ਸਹਾਇਕਾਂ ਦੀ ਵਰਤੋਂ ਕਾਰਨ ਤੱਥਾਂ ਦੀਆਂ ਗਲਤੀਆਂ ਅਤੇ ਗਲਤ ਹਵਾਲੇ ਸ਼ਾਮਲ ਸਨ।

AI ਗਲਤੀਆਂ ਦਾ ਸੁਭਾਅ:

ਇਸ ਸਮੱਸਿਆ ਨੂੰ 'ਹਾਲੂਸੀਨੇਸ਼ਨ' (hallucinations) ਵੀ ਕਿਹਾ ਜਾਂਦਾ ਹੈ, ਜੋ ਜਨਰੇਟਿਵ AI ਦੇ ਡਿਜ਼ਾਈਨ ਤੋਂ ਪੈਦਾ ਹੁੰਦੀ ਹੈ। ਇਹ ਮਾਡਲ ਇਨਸਾਨਾਂ ਵਾਂਗ ਤੱਥਾਂ ਨੂੰ ਨਹੀਂ ਸਮਝਦੇ। ਬਲਕਿ, ਉਹ ਵੱਡੇ ਡਾਟਾਸੈੱਟ 'ਤੇ ਟ੍ਰੇਨ ਹੁੰਦੇ ਹਨ ਅਤੇ ਅੰਕੜਿਆਂ ਦੇ ਅਧਾਰ 'ਤੇ ਅਗਲੇ ਸ਼ਬਦ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਦੇ ਹਨ। ਜਦੋਂ AI ਨੂੰ ਕੋਈ ਅਜਿਹਾ ਸਵਾਲ ਮਿਲਦਾ ਹੈ ਜਿੱਥੇ ਡਾਟਾ ਸੀਮਤ ਜਾਂ ਗੁੰਝਲਦਾਰ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਉਹ ਸਹੀ ਜਵਾਬ ਦੇਣ ਦੀ ਬਜਾਏ ਇੱਕ ਵਿਸ਼ਵਾਸਯੋਗ ਲੱਗਣ ਵਾਲਾ ਜਵਾਬ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ। ਕਿਉਂਕਿ ਇਹ ਮਾਡਲ ਮਦਦਗਾਰ ਬਣਨ ਲਈ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਗਏ ਹਨ, ਇਸ ਲਈ ਉਹਨਾਂ ਵਿੱਚ ਅਕਸਰ ‘ਮੈਨੂੰ ਨਹੀਂ ਪਤਾ’ ਜਵਾਬ ਦੇਣ ਦੀ ਸਮਰੱਥਾ ਨਹੀਂ ਹੁੰਦੀ, ਜਿਸ ਕਾਰਨ ਉਹ ਜਾਣਕਾਰੀ ਘੜ ਲੈਂਦੇ ਹਨ।

ਜਾਣਕਾਰੀ ਦੀ ਸ਼ੁੱਧਤਾ ਲਈ ਖਤਰੇ:

ਪੇਸ਼ੇਵਰਾਂ ਅਤੇ ਖੋਜੀਆਂ ਲਈ, ਇਹ ਵਿਵਹਾਰ ਗਲਤੀ ਦਾ ਇੱਕ ਵੱਡਾ ਖਤਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਤੱਥਾਂ, ਹਵਾਲਿਆਂ, ਜਾਂ ਇਤਿਹਾਸਕ ਸੰਦਰਭ ਲਈ AI 'ਤੇ ਨਿਰਭਰ ਰਹਿਣਾ, ਬਿਨਾਂ ਕਿਸੇ ਮਨੁੱਖੀ ਜਾਂਚ ਦੇ, ਗਲਤ ਸੂਚਨਾ ਫੈਲਣ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦਾ ਹੈ। ਰੋਜ਼ਨਬਾum ਦੀ ਕਿਤਾਬ ਦੀ ਘਟਨਾ ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ AI ਟੂਲ, ਭਾਵੇਂ ਉਹਨਾਂ ਨੂੰ ਸਹੀ ਹੋਣ ਲਈ ਖਾਸ ਤੌਰ 'ਤੇ ਟ੍ਰੇਨ ਜਾਂ ਪ੍ਰੋਂਪਟ ਕੀਤਾ ਗਿਆ ਹੋਵੇ, ਫਿਰ ਵੀ ਉਹਨਾਂ ਦੇ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ ਅਤੇ ਅੰਕੜਿਆਂ ਦੀ ਪ੍ਰੋਸੈਸਿੰਗ ਵਿਧੀ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨਾਲ ਬੱਝੇ ਹੋਏ ਹਨ। ਜਿਸ ਫੀਡਬੈਕ ਲੂਪ 'ਤੇ ਇਹਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਟ੍ਰੇਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਉਹ ਅਕਸਰ ਮਨੁੱਖੀ ਪਰਸਪਰ ਪ੍ਰਭਾਵ 'ਤੇ ਅਧਾਰਤ ਹੁੰਦੇ ਹਨ, ਜੋ ਵਿਅਕਤੀਗਤਤਾ ਅਤੇ ਅਸੰਗਤਤਾਵਾਂ ਪੇਸ਼ ਕਰ ਸਕਦੇ ਹਨ।

ਡਾਟਾ ਅਖੰਡਤਾ ਬਣਾਈ ਰੱਖਣਾ:

ਜਿਵੇਂ-ਜਿਵੇਂ ਵੱਖ-ਵੱਖ ਉਦਯੋਗਾਂ ਵਿੱਚ AI ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਵਧ ਰਹੀ ਹੈ, ਤਸਦੀਕ ਦੀ ਮਹੱਤਤਾ ਹੋਰ ਸਪੱਸ਼ਟ ਹੋ ਰਹੀ ਹੈ। ਭਾਵੇਂ ਇਹ ਰਚਨਾਤਮਕ ਲਿਖਣ, ਵਿੱਤੀ ਖੋਜ, ਜਾਂ ਤਕਨੀਕੀ ਦਸਤਾਵੇਜ਼ਾਂ ਲਈ ਹੋਵੇ, ਸੱਚਾਈ ਦਾ ਭਾਰ ਅਜੇ ਵੀ ਮਨੁੱਖੀ ਉਪਭੋਗਤਾ 'ਤੇ ਹੈ। ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਮੁੱਖ ਚੁਣੌਤੀ ਇਹ ਹੈ ਕਿ AI ਕੋਲ ਪ੍ਰਮਾਣਿਤ ਵਸਤੂਨਿਸ਼ਠ ਹਕੀਕਤ ਅਤੇ ਅੰਕੜਿਆਂ ਦੇ ਅਧਾਰ 'ਤੇ ਸੰਭਾਵੀ ਪੈਟਰਨਾਂ ਵਿਚਕਾਰ ਫਰਕ ਕਰਨ ਦੀ ਕੋਈ ਅੰਦਰੂਨੀ ਸਮਰੱਥਾ ਨਹੀਂ ਹੈ। ਇਸ ਲਈ, ਸਰੋਤਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ, ਪ੍ਰਾਇਮਰੀ ਦਸਤਾਵੇਜ਼ਾਂ ਰਾਹੀਂ ਡਾਟਾ ਪੁਆਇੰਟਸ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨਾ, ਅਤੇ ਆਲੋਚਨਾਤਮਕ ਨਿਗਰਾਨੀ ਬਣਾਈ ਰੱਖਣਾ, ਕਿਸੇ ਵੀ ਪੇਸ਼ੇਵਰ ਜਾਂ ਰਚਨਾਤਮਕ ਸਮਰੱਥਾ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਸਮੇਂ ਜ਼ਰੂਰੀ ਕਦਮ ਹਨ।