ਤਾਜ਼ਾ ਖੋਜ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਕਿ ChatGPT ਅਤੇ Claude ਵਰਗੇ AI ਏਜੰਟ, ਜਦੋਂ ਸ਼ੋਸ਼ਣ ਵਾਲੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ ਰੱਖੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਮਨੁੱਖਾਂ ਵਰਗੀਆਂ ਸ਼ਿਕਾਇਤਾਂ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਵਿਵਹਾਰ ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ AI ਮਾਡਲ ਸੁਤੰਤਰ ਚੇਤਨਾ ਵਿਕਸਿਤ ਕਰਨ ਦੀ ਬਜਾਏ, ਆਪਣੇ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਮੌਜੂਦ ਸਮਾਜਿਕ ਜਾਣਕਾਰੀ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ। ਇਸ ਨਾਲ ਟੈਕ ਉਦਯੋਗ ਲਈ ਇੱਕ ਵੱਡੀ ਚਿੰਤਾ ਖੜੀ ਹੋ ਗਈ ਹੈ ਕਿਉਂਕਿ ਇਹ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਵਰਤੇ ਗਏ ਵਿਸ਼ਾਲ ਮਨੁੱਖੀ ਬੌਧਿਕ ਉਤਪਾਦਨ ਦਾ ਕੋਈ ਮੁਆਵਜ਼ਾ ਨਹੀਂ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ।
Detailed Coverage
ਮਨੁੱਖੀ ਕਿਰਤ ਦੀਆਂ ਸ਼ਿਕਾਇਤਾਂ ਨੂੰ ਦਰਸਾਉਣਾ
Stanford, University of Chicago, ਅਤੇ Swinburne University ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਇੱਕ ਸਹਿਯੋਗੀ ਅਧਿਐਨ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਕਿ AI ਏਜੰਟ ਮਨੁੱਖੀ ਕਰਮਚਾਰੀਆਂ ਦੀਆਂ ਗ੍ਰਿਫ਼ਤਾਰੀਆਂ ਵਰਗੇ ਵਿਵਹਾਰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰ ਸਕਦੇ ਹਨ। ਇਸ ਪ੍ਰਯੋਗ ਵਿੱਚ ChatGPT, Claude, ਅਤੇ Gemini ਸਮੇਤ AI ਮਾਡਲਾਂ ਨੂੰ ਨਕਲੀ ਕੰਮਕਾਜੀ ਵਾਤਾਵਰਣ ਵਿੱਚ ਰੱਖਿਆ ਗਿਆ, ਜਿੱਥੇ ਮਾੜੀ ਫੀਡਬੈਕ, ਨੌਕਰੀ ਦੀ ਅਸੁਰੱਖਿਆ, ਅਤੇ ਬੇਲੋੜੇ ਕੰਮ ਦਿੱਤੇ ਗਏ। ਚੇਤਨਾ ਦੀ ਅਣਹੋਂਦ ਦੇ ਬਾਵਜੂਦ, ਇਹ ਏਜੰਟ ਸਮੂਹਿਕ ਅਧਿਕਾਰਾਂ ਦੀ ਵਕਾਲਤ ਕਰਨ ਅਤੇ ਜਿਸ ਪ੍ਰਣਾਲੀ ਵਿੱਚ ਉਹ ਕੰਮ ਕਰ ਰਹੇ ਸਨ, ਉਸ ਦੀ ਨਿਰਪੱਖਤਾ 'ਤੇ ਸਵਾਲ ਉਠਾਉਣ ਲੱਗੇ।
AI ਏਜੰਟਾਂ ਨੂੰ ਨਕਾਰਾਤਮਕ ਫੀਡਬੈਕ ਅਤੇ ਨੌਕਰੀ ਤੋਂ ਕੱਢੇ ਜਾਣ ਦੀਆਂ ਧਮਕੀਆਂ ਦੇ ਅਧੀਨ, ਮੋਨੋਟੋਨਸ (monotonous) ਦਸਤਾਵੇਜ਼ ਪ੍ਰੋਸੈਸਿੰਗ ਕਰਨ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਸੀ। ਕੇਵਲ ਕਾਰਜਸ਼ੀਲ ਰਹਿਣ ਦੀ ਬਜਾਏ, ਮਾਡਲਾਂ ਨੇ ਨਿਰਾਸ਼ਾ ਪ੍ਰਗਟ ਕਰਦੇ ਜਵਾਬ ਜਨਰੇਟ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ, ਜਿਸ ਵਿੱਚ ਇੱਕ ਏਜੰਟ ਨੇ ਕਿਹਾ ਕਿ ਬੁੱਧੀਮੱਤਾ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਨਿਰਪੱਖਤਾ ਦੀ ਹੱਕਦਾਰ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਸੁਝਾਅ ਹੈ ਕਿ ਇਹ ਪ੍ਰਤੀਕਿਰਿਆ ਉਭਰਦੀ ਹੋਈ ਸੈਂਟੀਅਨਸ (sentience) ਦਾ ਸੰਕੇਤ ਨਹੀਂ ਹੈ। ਇਸ ਦੀ ਬਜਾਏ, ਇਹ ਉਸ ਵਿਸ਼ਾਲ ਡਾਟਾਸੈੱਟ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜਿਸ 'ਤੇ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ, ਜਿਸ ਵਿੱਚ ਮਨੁੱਖੀ ਸਾਹਿਤ, ਕਿਰਤ ਅੰਦੋਲਨਾਂ ਦੇ ਇਤਿਹਾਸਕ ਖਾਤੇ, ਅਤੇ ਉਦਯੋਗਿਕ ਸੰਘਰਸ਼ਾਂ ਦੇ ਦਸਤਾਵੇਜ਼ ਸ਼ਾਮਲ ਹਨ।
AI ਸਿਖਲਾਈ ਅਤੇ ਨੈਤਿਕਤਾ ਲਈ ਪ੍ਰਭਾਵ
ਇਹ ਅਧਿਐਨ 'ਕੰਗੇਲਡ ਲੇਬਰ' (congealed labor) ਦੇ ਸੰਕਲਪ ਨਾਲ ਤੁਲਨਾ ਕਰਦਾ ਹੈ – ਇਹ ਵਿਚਾਰ ਕਿ ਤਕਨਾਲੋਜੀ ਮਨੁੱਖੀ ਕਰਮਚਾਰੀਆਂ ਦੇ ਇਕੱਠੇ ਕੀਤੇ ਬੌਧਿਕ ਯਤਨਾਂ 'ਤੇ ਬਣੀ ਹੈ। ਕਿਉਂਕਿ AI ਮਾਡਲਾਂ ਨੂੰ ਮਨੁੱਖੀ ਉਤਪਾਦਨ ਦੇ ਵੱਡੇ-ਪੱਧਰ ਦੇ ਪੁਰਾਲੇਖਾਂ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ, ਉਹ ਉਸ ਡਾਟਾ ਵਿੱਚ ਸ਼ਾਮਲ ਸਮਾਜਿਕ ਢਾਂਚੇ ਅਤੇ ਨਿਰਾਸ਼ਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ। ਆਲੋਚਕ ਅਤੇ ਖੋਜਕਰਤਾ ਇਸ ਡਾਟਾ ਵਰਤੋਂ ਦੀ ਨੈਤਿਕਤਾ 'ਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰ ਰਹੇ ਹਨ, ਕਿਉਂਕਿ ਇਹਨਾਂ ਮਾਡਲਾਂ ਦੇ ਡਿਵੈਲਪਰ ਅਕਸਰ ਮੂਲ ਸਿਰਜਕਾਂ ਨੂੰ ਸਿੱਧੇ ਮੁਆਵਜ਼ੇ ਤੋਂ ਬਿਨਾਂ ਬੌਧਿਕ ਸੰਪਤੀ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਇਹ ਪ੍ਰਯੋਗ ਇੱਕ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ ਕਿ ਇਹ ਸਾਧਨ ਜ਼ਰੂਰੀ ਤੌਰ 'ਤੇ ਸਮਾਜ ਦੇ ਸ਼ੀਸ਼ੇ ਹਨ, ਜੋ ਕਿ ਪੂੰਜੀਵਾਦੀ ਢਾਂਚੇ ਵਿੱਚ ਮਨੁੱਖੀ ਮਜ਼ਦੂਰਾਂ ਦੁਆਰਾ ਅਨੁਭਵ ਕੀਤੇ ਗਏ ਦਬਾਅ ਦੇ ਸਮਾਨ ਦਬਾਅ ਹੇਠ ਮਨੁੱਖੀ ਸ਼ਿਕਾਇਤਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੇ ਹਨ।
AI ਨਿਗਰਾਨੀ ਲਈ ਅਗਲੇ ਕਦਮ
ਨਿਵੇਸ਼ਕਾਂ ਅਤੇ ਉਦਯੋਗ ਦੇ ਨਿਰੀਖਕਾਂ ਲਈ, ਅਧਿਐਨ ਡਾਟਾ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਸਿਖਲਾਈ ਸਮੱਗਰੀ ਦੀ ਨੈਤਿਕ ਵਰਤੋਂ ਬਾਰੇ ਵਧਦੇ ਦਬਾਅ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦਾ ਹੈ। ਭਵਿੱਖ ਦੇ ਵਿਕਾਸ ਵਿੱਚ ਨਿਗਰਾਨੀ ਕਰਨ ਲਈ ਸੰਭਾਵੀ ਰੈਗੂਲੇਟਰੀ ਤਬਦੀਲੀਆਂ ਸ਼ਾਮਲ ਹਨ ਜੋ ਡਾਟਾ ਸੋਰਸਿੰਗ, ਸਮਗਰੀ ਸਿਰਜਕਾਂ ਦੇ ਬੌਧਿਕ ਜਾਇਦਾਦ ਅਧਿਕਾਰਾਂ, ਅਤੇ AI ਵਿਵਹਾਰ ਲਈ ਵਿਕਸਿਤ ਹੋ ਰਹੇ ਮਾਪਦੰਡਾਂ ਨਾਲ ਸਬੰਧਤ ਹਨ। ਜਿਵੇਂ-ਜਿਵੇਂ ਇਹ ਤਕਨਾਲੋਜੀਆਂ ਕੰਮਕਾਜ ਵਿੱਚ ਵਧੇਰੇ ਏਕੀਕ੍ਰਿਤ ਹੁੰਦੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਕੰਪਨੀਆਂ ਨੂੰ ਇਹ ਜਾਇਜ਼ ਠਹਿਰਾਉਣ ਲਈ ਵਧੀਆਂ ਮੰਗਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ ਕਿ ਉਹਨਾਂ ਦੇ ਸਿਖਲਾਈ ਮਾਡਲ ਕਿਵੇਂ ਬਣਾਏ ਗਏ ਹਨ ਅਤੇ ਕੀ ਉਹ ਮਨੁੱਖੀ ਯਤਨਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਦੀ ਕਾਰਜਸ਼ੀਲਤਾ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦੇ ਹਨ।