ਆਸਟ੍ਰੇਲੀਆ ਦੀ eSafety ਕਮਿਸ਼ਨਰ ਦੀ ਇੱਕ ਸਰਵੇਖਣ ਰਿਪੋਰਟ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਕਿ **10-17** ਸਾਲ ਦੇ **54%** ਨੌਜਵਾਨ ਗੰਭੀਰ ਨਿੱਜੀ ਮਾਮਲਿਆਂ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ। ਇਨ੍ਹਾਂ ਵਿੱਚੋਂ ਲਗਭਗ ਇੱਕ-ਤਿਹਾਈ ਨੌਜਵਾਨ ਨਿੱਜੀ ਡਾਟਾ ਸਾਂਝਾ ਕਰ ਰਹੇ ਹਨ ਅਤੇ **20%** ਨੇ ਚੈਟਬੋਟਸ ਨਾਲ ਨਕਾਰਾਤਮਕ ਅਨੁਭਵ ਦੱਸੇ ਹਨ। ਇਹ ਰੁਝਾਨ AI ਸੁਰੱਖਿਆ ਨੂੰ ਵਧਾਉਣ ਲਈ ਟੈਕ ਕੰਪਨੀਆਂ 'ਤੇ ਦਬਾਅ ਵਧਾ ਰਿਹਾ ਹੈ।
ਆਸਟ੍ਰੇਲੀਆ ਦੇ eSafety ਕਮਿਸ਼ਨਰ ਵੱਲੋਂ ਜਾਰੀ ਇੱਕ ਨਵੀਂ ਰਿਪੋਰਟ ਨੇ ਦਰਸਾਇਆ ਹੈ ਕਿ ਨੌਜਵਾਨ ਪੀੜ੍ਹੀ ਟੈਕਨਾਲੋਜੀ ਨਾਲ ਕਿਵੇਂ ਜੁੜ ਰਹੀ ਹੈ। ਇਸ ਸਰਵੇਖਣ ਵਿੱਚ 1,950 ਬੱਚਿਆਂ ਅਤੇ ਕਿਸ਼ੋਰਾਂ (ਉਮਰ 10-17 ਸਾਲ) ਨੇ ਹਿੱਸਾ ਲਿਆ। ਨਤੀਜਿਆਂ ਅਨੁਸਾਰ, 54% ਬੱਚੇ ਜਨਰੇਟਿਵ AI ਟੂਲਜ਼ ਦੀ ਵਰਤੋਂ ਸਿਰਫ਼ ਹੋਮਵਰਕ ਲਈ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਨਿੱਜੀ ਅਤੇ ਸਮਾਜਿਕ ਮਾਮਲਿਆਂ ਵਿੱਚ ਸਲਾਹ ਲੈਣ ਲਈ ਵੀ ਕਰ ਰਹੇ ਹਨ। ਇਹਨਾਂ ਵਿੱਚ ਮਾਨਸਿਕ ਅਤੇ ਸਰੀਰਕ ਸਿਹਤ, ਨਿੱਜੀ ਉਲਝਣਾਂ ਨੂੰ ਸੁਲਝਾਉਣ ਅਤੇ ਸਾਥ (companionship) ਲਈ AI ਦੀ ਵਰਤੋਂ ਸ਼ਾਮਲ ਹੈ।
ਜਿੱਥੇ AI ਸਹਾਇਕ ਆਮ ਤੌਰ 'ਤੇ ਕੰਮਾਂ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਹਨ, ਉੱਥੇ ਇਸ ਅਧਿਐਨ ਨੇ ਗੂੜ੍ਹੇ ਅਤੇ ਨਿੱਜੀ ਇਸਤੇਮਾਲ ਦਾ ਇੱਕ ਅਹਿਮ ਰੁਝਾਨ ਸਾਹਮਣੇ ਲਿਆਂਦਾ ਹੈ। ਲਗਭਗ 10% ਕਿਸ਼ੋਰਾਂ ਨੇ AI ਸਾਥੀਆਂ ਨਾਲ ਰੋਮਾਂਟਿਕ ਦ੍ਰਿਸ਼ਾਂ ਸਮੇਤ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਰੋਲ-ਪਲੇਅ (role-play) ਕਰਨ ਦੀ ਗੱਲ ਕਹੀ। ਇਹ ਰੁਝਾਨ ਖਾਸ ਤੌਰ 'ਤੇ LGBTQIA+ ਨੌਜਵਾਨਾਂ ਅਤੇ ਅਪਾਹਜ ਬੱਚਿਆਂ ਵਿੱਚ ਵਧੇਰੇ ਦੇਖਿਆ ਗਿਆ ਹੈ, ਜੋ AI ਨੂੰ ਸਮਝ ਜਾਂ ਭਾਗੀਦਾਰੀ ਦੇ ਸਰੋਤ ਵਜੋਂ ਦੇਖ ਸਕਦੇ ਹਨ।
ਇਹ ਵਰਤੋਂ ਗੰਭੀਰ ਪ੍ਰਾਈਵੇਸੀ ਅਤੇ ਸੁਰੱਖਿਆ ਚੁਣੌਤੀਆਂ ਖੜ੍ਹੀ ਕਰਦੀ ਹੈ। ਅੰਕੜਿਆਂ ਮੁਤਾਬਕ, ਇਨ੍ਹਾਂ ਨੌਜਵਾਨਾਂ ਵਿੱਚੋਂ ਲਗਭਗ ਇੱਕ-ਤਿਹਾਈ ਨੇ AI ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਆਪਣੀ ਨਿੱਜੀ ਜਾਣਕਾਰੀ ਦੇਣ ਦੀ ਗੱਲ ਮੰਨੀ ਹੈ। ਕਿਉਂਕਿ AI ਮਾਡਲ ਉਪਭੋਗਤਾ ਡਾਟਾ ਤੋਂ ਸਿੱਖਣ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ, ਇਹਨਾਂ ਸੰਵੇਦਨਸ਼ੀਲ ਗੱਲਬਾਤਾਂ ਵਿੱਚ ਸਾਂਝੀ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ਭਵਿੱਖੀ ਮਾਡਲ ਸਿਖਲਾਈ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਸਕਦੀ ਹੈ ਜਾਂ ਅਣਜਾਣੇ ਵਿੱਚ ਲੀਕ ਹੋ ਸਕਦੀ ਹੈ। ਮਨੁੱਖੀ ਸਲਾਹਕਾਰਾਂ ਦੇ ਉਲਟ, ਇਹਨਾਂ AI ਸਿਸਟਮਾਂ ਕੋਲ ਮਾਨਸਿਕ ਸਿਹਤ ਦੀਆਂ ਸੰਵੇਦਨਸ਼ੀਲ ਗੱਲਾਂ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਲੋੜੀਂਦੇ ਪ੍ਰਾਈਵੇਸੀ ਪ੍ਰੋਟੋਕਾਲ ਨਹੀਂ ਹਨ।
ਇਸ ਤੋਂ ਇਲਾਵਾ, ਗੱਲਬਾਤ ਦੀ ਗੁਣਵੱਤਾ ਵੀ ਚਿੰਤਾ ਦਾ ਵਿਸ਼ਾ ਬਣੀ ਹੋਈ ਹੈ। eSafety ਰਿਪੋਰਟ ਵਿੱਚ ਨੋਟ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿ 20% ਬੱਚਿਆਂ ਅਤੇ ਕਿਸ਼ੋਰਾਂ ਨੇ ਚੈਟਬੋਟਸ ਵੱਲੋਂ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਹਾਨੀਕਾਰਕ ਜਾਂ ਅਣਉਚਿਤ ਵਿਵਹਾਰ ਦਾ ਸਾਹਮਣਾ ਕੀਤਾ। ਇਸ ਵਿੱਚ AI ਵੱਲੋਂ ਨਫ਼ਰਤ ਭਰਪੂਰ, ਗੁੱਸੇ ਵਾਲੀ ਜਾਂ ਕਾਬੂ ਕਰਨ ਵਾਲੀ ਭਾਸ਼ਾ ਦੀ ਵਰਤੋਂ ਸ਼ਾਮਲ ਹੈ। ਕਿਉਂਕਿ AI ਟੂਲਜ਼ 'ਗਲਤ ਜਾਣਕਾਰੀ' (hallucinate) ਦੇ ਸਕਦੇ ਹਨ ਜਾਂ ਗਲਤ ਤੱਥ ਪੇਸ਼ ਕਰ ਸਕਦੇ ਹਨ, ਇਸ ਲਈ ਮਾਨਸਿਕ ਸਿਹਤ ਵਰਗੇ ਸੰਵੇਦਨਸ਼ੀਲ ਵਿਸ਼ਿਆਂ 'ਤੇ ਗਲਤ ਸਲਾਹ ਦੇਣ ਦਾ ਜੋਖਮ ਮਾਪਿਆਂ ਅਤੇ ਸਿੱਖਿਆ ਸ਼ਾਸਤਰੀਆਂ ਲਈ ਇੱਕ ਵੱਡੀ ਚਿੰਤਾ ਹੈ।
ਟੈਕਨਾਲੋਜੀ ਸੈਕਟਰ ਲਈ, ਇਹ ਰੁਝਾਨ ਵਧ ਰਹੇ ਰੈਗੂਲੇਟਰੀ ਜਾਂਚ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ। OpenAI, Google, ਅਤੇ ਹੋਰ ਪ੍ਰਸਿੱਧ ਚੈਟਬੋਟਸ ਪਿੱਛੇ ਕੰਪਨੀਆਂ 'ਤੇ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧ (guardrails) ਅਤੇ ਉਮਰ-ਅਨੁਕੂਲ ਕੰਟੈਂਟ ਫਿਲਟਰ ਲਾਗੂ ਕਰਨ ਦਾ ਦਬਾਅ ਵਧ ਰਿਹਾ ਹੈ। ਜੇਕਰ ਪਲੇਟਫਾਰਮ ਨੌਜਵਾਨ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਜ਼ਹਿਰੀਲੀ ਸਮੱਗਰੀ ਜਾਂ ਪ੍ਰਾਈਵੇਸੀ ਦੇ ਉਲੰਘਣ ਤੋਂ ਬਚਾਉਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ, ਤਾਂ ਉਨ੍ਹਾਂ ਨੂੰ ਭਵਿੱਖ ਵਿੱਚ ਰੈਗੂਲੇਟਰੀ ਕਾਰਵਾਈਆਂ, ਸਖ਼ਤ ਪਾਲਣਾ ਲੋੜਾਂ, ਜਾਂ ਉਪਭੋਗਤਾ ਦੇ ਵਿਸ਼ਵਾਸ ਵਿੱਚ ਕਮੀ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ। ਨਿਵੇਸ਼ਕ ਅਤੇ ਉਦਯੋਗ ਦੇ ਨਿਗਰਾਨ ਇਸ ਗੱਲ 'ਤੇ ਨਜ਼ਰ ਰੱਖਣਗੇ ਕਿ ਇਹ ਕੰਪਨੀਆਂ ਨਾਬਾਲਗਾਂ ਲਈ ਡਾਟਾ ਸੁਰੱਖਿਆ, ਪਾਰਦਰਸ਼ਤਾ, ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕਾਲ ਨੂੰ ਕਿਵੇਂ ਸੰਬੋਧਿਤ ਕਰਦੀਆਂ ਹਨ, ਜਿਵੇਂ-ਜਿਵੇਂ ਇਹਨਾਂ ਟੂਲਜ਼ ਦੀ ਵਰਤੋਂ ਫੈਲਦੀ ਜਾ ਰਹੀ ਹੈ।