Meta Platforms ਨੇ Instagram 'ਤੇ ਇੱਕ ਨਵਾਂ AI-ਅਧਾਰਿਤ ਸੁਰੱਖਿਆ ਫੀਚਰ ਪੇਸ਼ ਕੀਤਾ ਹੈ। ਇਹ ਫੀਚਰ ਮਾਪਿਆਂ ਨੂੰ ਉਦੋਂ ਸੁਚੇਤ ਕਰੇਗਾ ਜੇਕਰ ਉਨ੍ਹਾਂ ਦਾ ਬੱਚਾ AI ਚੈਟਬੋਟ ਨਾਲ ਖੁਦ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ (self-harm) ਬਾਰੇ ਗੱਲ ਕਰਦਾ ਹੈ। ਇਹ ਸਹੂਲਤ ਅਮਰੀਕਾ, ਯੂਕੇ, ਆਸਟ੍ਰੇਲੀਆ ਅਤੇ ਕੈਨੇਡਾ ਵਿੱਚ ਸ਼ੁਰੂ ਕੀਤੀ ਗਈ ਹੈ ਤਾਂ ਜੋ ਪਰਿਵਾਰਕ ਦਖਲਅੰਦਾਜ਼ੀ ਨੂੰ ਜਲਦੀ ਕੀਤਾ ਜਾ ਸਕੇ।
Meta Platforms Inc. ਨੇ ਆਪਣੇ Instagram Family Center ਲਈ ਇੱਕ ਨਵੀਂ ਸੁਰੱਖਿਆ ਸਹੂਲਤ ਲਾਂਚ ਕੀਤੀ ਹੈ, ਜਿਸ ਦਾ ਮਕਸਦ ਮਾਪਿਆਂ ਨੂੰ ਉਦੋਂ ਸੂਚਿਤ ਕਰਨਾ ਹੈ ਜਦੋਂ ਉਨ੍ਹਾਂ ਦਾ ਨਿਗਰਾਨੀ ਅਧੀਨ ਬੱਚਾ AI ਚੈਟਬੋਟ ਨਾਲ ਖੁਦ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਜਾਂ ਖੁਦਕੁਸ਼ੀ ਬਾਰੇ ਗੱਲ ਕਰੇ। ਇਹ ਅਪਡੇਟ, ਜੋ ਕਿ 16 ਜੁਲਾਈ, 2026 ਤੋਂ ਲਾਗੂ ਹੋਣਾ ਸ਼ੁਰੂ ਹੋ ਗਿਆ ਹੈ, ਇਸ ਸਮੇਂ ਸੰਯੁਕਤ ਰਾਜ, ਯੂਨਾਈਟਿਡ ਕਿੰਗਡਮ, ਆਸਟ੍ਰੇਲੀਆ ਅਤੇ ਕੈਨੇਡਾ ਵਿੱਚ ਉਪਲਬਧ ਹੈ। ਇਹ ਕਦਮ ਕੰਪਨੀ ਦੁਆਰਾ ਆਪਣੇ ਜਨਰੇਟਿਵ AI ਟੂਲਜ਼ ਨਾਲ ਜੁੜੇ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਨੂੰ ਘਟਾਉਣ ਦੇ ਯਤਨਾਂ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਕਦਮ ਹੈ।
ਗੋਪਨੀਯਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਵਿਚਕਾਰ ਸੰਤੁਲਨ
ਨਵੀਂ ਪ੍ਰਣਾਲੀ ਲਈ ਇੱਕ ਮੁੱਖ ਚੁਣੌਤੀ ਇਹ ਹੈ ਕਿ ਇਹ ਬੱਚੇ ਦੀ ਗੋਪਨੀਯਤਾ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤੇ ਬਿਨਾਂ ਮਾਪਿਆਂ ਨੂੰ ਅਰਥਪੂਰਨ ਨਿਗਰਾਨੀ ਪ੍ਰਦਾਨ ਕਰੇ। ਇਸ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ, ਮਾਪਿਆਂ ਨੂੰ ਭੇਜੀ ਗਈ ਚੇਤਾਵਨੀ ਗੱਲਬਾਤ ਦੀ ਸਮੱਗਰੀ ਜਾਂ ਖਾਸ ਵੇਰਵੇ ਸਾਂਝੇ ਨਹੀਂ ਕਰਦੀ। ਇਸ ਦੀ ਬਜਾਏ, ਸੂਚਨਾ ਇਹ ਸੰਕੇਤ ਦਿੰਦੀ ਹੈ ਕਿ ਬੱਚਾ ਸੰਕਟ ਵਿੱਚ ਹੋ ਸਕਦਾ ਹੈ। ਚੇਤਾਵਨੀ ਦੇ ਨਾਲ, ਮਾਪਿਆਂ ਨੂੰ ਮਾਨਸਿਕ ਸਿਹਤ ਮਾਹਿਰਾਂ ਦੁਆਰਾ ਬਣਾਈ ਗਈ ਸਲਾਹ ਅਤੇ ਸਰੋਤ ਪ੍ਰਾਪਤ ਹੁੰਦੇ ਹਨ ਤਾਂ ਜੋ ਉਹ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਗੱਲਬਾਤ ਸ਼ੁਰੂ ਕਰ ਸਕਣ।
ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ ਅਤੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ
Meta ਮਾਨਸਿਕ ਸਿਹਤ ਨਾਲ ਸਬੰਧਤ ਜੋਖਮ ਸੀਮਾਵਾਂ ਨੂੰ ਪਾਰ ਕਰਨ ਵਾਲੇ ਉਪਭੋਗਤਾ ਦੇ ਚੈਟਬੋਟ ਨਾਲ ਹੋਣ ਵਾਲੇ ਇੰਟਰੈਕਸ਼ਨਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਇੱਕ ਵਿਸ਼ੇਸ਼ AI ਮਾਡਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਸ਼ੁੱਧਤਾ ਯਕੀਨੀ ਬਣਾਉਣ ਅਤੇ ਗਲਤ ਅਲਾਰਮ ਦੇ ਜੋਖਮ ਨੂੰ ਘਟਾਉਣ ਲਈ, ਕੰਪਨੀ ਨੇ ਇੱਕ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਪ੍ਰਕਿਰਿਆ ਲਾਗੂ ਕੀਤੀ ਹੈ। ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਕਰਮਚਾਰੀ ਮਾਪਿਆਂ ਨੂੰ ਕੋਈ ਵੀ ਸੂਚਨਾ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਫਲੈਗ ਕੀਤੀਆਂ ਗਈਆਂ ਗੱਲਬਾਤਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਨ। ਇਹਨਾਂ ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ ਦਾ ਪਤਾ 75 ਤੋਂ ਵੱਧ ਕਲੀਨਿਕਲ ਅਤੇ ਖੁਦਕੁਸ਼ੀ ਰੋਕਥਾਮ ਮਾਹਿਰਾਂ ਨਾਲ ਸਲਾਹ-ਮਸ਼ਵਰਾ ਕਰਕੇ ਲਗਾਇਆ ਗਿਆ ਹੈ। ਕੰਪਨੀ ਨੇ ਇਹ ਵੀ ਨੋਟ ਕੀਤਾ ਹੈ ਕਿ ਉਹ ਭਵਿੱਖੀ ਸਮਰੱਥਾਵਾਂ 'ਤੇ ਕੰਮ ਕਰ ਰਹੀ ਹੈ ਜੋ ਜੀਵਨ-ਖਤਰੇ ਦੇ ਤੁਰੰਤ ਜੋਖਮ ਦੀਆਂ ਘਟਨਾਵਾਂ ਵਿੱਚ ਐਮਰਜੈਂਸੀ ਸੇਵਾਵਾਂ ਨੂੰ ਸੂਚਿਤ ਕਰ ਸਕਦੀਆਂ ਹਨ।
ਰੈਗੂਲੇਟਰੀ ਦਬਾਅ ਅਤੇ AI ਜ਼ਿੰਮੇਵਾਰੀ
ਇਹ ਪਹਿਲਕਦਮੀ ਅਜਿਹੇ ਸਮੇਂ ਆਈ ਹੈ ਜਦੋਂ ਟੈਕਨਾਲੋਜੀ ਕੰਪਨੀਆਂ ਨੌਜਵਾਨ ਉਪਭੋਗਤਾਵਾਂ ਲਈ AI-ਸੰਚਾਲਿਤ ਉਤਪਾਦਾਂ ਦੀ ਸੁਰੱਖਿਆ ਦੇ ਸਬੰਧ ਵਿੱਚ ਤੀਬਰ ਗਲੋਬਲ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਹੀਆਂ ਹਨ। ਮੁਕੱਦਮੇਬਾਜ਼ੀ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਪੁੱਛਗਿੱਛਾਂ ਨੇ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਤੇਜ਼ੀ ਫੜੀ ਹੈ, ਜਿਸ ਨਾਲ ਕੰਪਨੀਆਂ ਨੂੰ ਇਸ ਗੱਲ ਦਾ ਬਿਹਤਰ ਨਿਯੰਤਰਣ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਨ ਲਈ ਦਬਾਅ ਪਾਇਆ ਜਾ ਰਿਹਾ ਹੈ ਕਿ ਨਾਬਾਲਗ ਜਨਰੇਟਿਵ AI ਨਾਲ ਕਿਵੇਂ ਗੱਲਬਾਤ ਕਰਦੇ ਹਨ। ਇਹਨਾਂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਸਰਗਰਮੀ ਨਾਲ ਏਕੀਕ੍ਰਿਤ ਕਰਕੇ, Meta ਜਨਤਾ ਦੀ ਚਿੰਤਾ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਉਮੀਦਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ। ਨਿਵੇਸ਼ਕ ਅਤੇ ਬਾਜ਼ਾਰ ਵਿਸ਼ਲੇਸ਼ਕ ਨੇੜੀ-ਨੇੜੀ ਨਜ਼ਰ ਰੱਖ ਰਹੇ ਹਨ ਕਿ ਅਜਿਹੀਆਂ ਸੁਰੱਖਿਆ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਉਪਭੋਗਤਾ ਦੀ ਸ਼ਮੂਲੀਅਤ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਕੀ ਕੰਪਨੀ ਨੂੰ ਹੋਰ ਅਧਿਕਾਰ ਖੇਤਰਾਂ ਵਿੱਚ ਹੋਰ ਕਾਨੂੰਨੀ ਲੋੜਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ। ਜਿਵੇਂ ਕਿ Meta ਇਸ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਵਾਧੂ ਦੇਸ਼ਾਂ ਵਿੱਚ ਫੈਲਾਉਣ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੀ ਹੈ, ਇਹਨਾਂ ਸੁਰੱਖਿਆ ਪਰਤਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਲਾਗਤ ਅਤੇ ਵਧੀਆਂ ਰੈਗੂਲੇਟਰੀ ਪਾਲਣਾ ਖਰਚਿਆਂ ਦੀ ਸੰਭਾਵਨਾ ਕੰਪਨੀ ਦੇ ਕਾਰਜਕਾਰੀ ਫੋਕਸ ਲਈ ਮਹੱਤਵਪੂਰਨ ਕਾਰਕ ਬਣੇ ਰਹਿਣਗੇ।