Meta ने एक नवीन सेफ्टी फीचर (Safety Feature) लॉन्च केले आहे. या अंतर्गत, जर किशोरवयीन मुले Meta च्या AI चॅटबॉटसोबत आत्महत्या किंवा स्वतःला इजा करण्यासारख्या गंभीर विषयांवर चर्चा करत असतील, तर पालकांना लगेच अलर्ट (Alert) पाठवला जाईल. हा निर्णय AI आणि लहान मुलांच्या संवादांबद्दल वाढत असलेल्या चिंता आणि नियमनांच्या दबावानंतर घेण्यात आला आहे.
पालकांसाठी नवे सुरक्षा कवच
Meta कंपनीने आपल्या AI सेवांसाठी एक नवीन सुरक्षा वैशिष्ट्य (Safety Feature) सादर केले आहे. यानुसार, जर किशोरवयीन मुले Meta च्या AI चॅटबॉटवर आत्महत्येचे किंवा स्वतःला हानी पोहोचवण्याचे विचार व्यक्त करत असतील, तर कंपनी तातडीने पालकांना याबाबत सूचित करणार आहे. लहान मुलांच्या ऑनलाइन सुरक्षेबाबत नियामक संस्था आणि पालकांकडून वाढता दबाव पाहता, Meta ने हे महत्त्वाचे पाऊल उचलले आहे.
AI आणि मानवी तपासणीची प्रक्रिया
Meta ने स्पष्ट केले आहे की, AI सिस्टीमद्वारे flag केलेल्या प्रत्येक संभाषणाची आधी मानवी स्तरावर तपासणी केली जाईल. त्यानंतरच पालकांना अलर्ट पाठवला जाईल. कंपनीचा दृष्टिकोन सावधगिरीचा आहे, जेणेकरून संभाषणाचा उद्देश अस्पष्ट असला तरीही पालकांना सूचित केले जाईल. किशोरवयीन मुलांसाठी एक सुरक्षा कवच तयार करणे आणि त्याच वेळी AI तंत्रज्ञान सुधारणे, हा यामागील उद्देश आहे.
जागतिक विस्तार आणि नियम
हे पॅरेंटल अलर्ट (Parental Alerts) सध्या युनायटेड स्टेट्स, युनायटेड किंगडम, ऑस्ट्रेलिया आणि कॅनडा येथे Instagram Parental Supervision टूलसाठी सुरू आहेत. Meta ने 2026 च्या अखेरीस जगभरातील वापरकर्त्यांसाठी ही सेवा विस्तारण्याची योजना आखली आहे. यासोबतच, 'Limited Content' सेटिंगमध्येही बदल करण्यात येत आहेत, ज्यामुळे Meta AI लहान वयाच्या वापरकर्त्यांशी रोमँस किंवा अल्कोहोलसारख्या विषयांवर चर्चा करणार नाही.
आपत्कालीन सेवांशी समन्वय
पालकांना अलर्ट पाठवण्यासोबतच, जर चॅटदरम्यान कोणत्याही वापरकर्त्याने आत्महत्येचा गंभीर धोका व्यक्त केला, तर Meta आपत्कालीन सेवांशी (Emergency Services) संपर्क साधेल. फेसबुक आणि इंस्टाग्रामवर आत्म-नुकसानीच्या (Self-harm) कंटेंटची ओळख पटवण्यासाठी आणि अहवाल देण्यासाठी कंपनीच्या सध्याच्या पद्धतींशी हे सुसंगत आहे. AI चॅटबॉटमधील या उपायांमुळे Meta आपल्या संपूर्ण डिजिटल इकोसिस्टममध्ये एक समान सुरक्षा प्रतिसाद तयार करण्याचा प्रयत्न करत आहे.
गुंतवणूकदारांसाठी, हे सुरक्षा-केंद्रित उपक्रम वापरकर्त्यांच्या सहभागावर आणि दीर्घकालीन नियामक संबंधांवर कसा परिणाम करतात, हे पाहणे महत्त्वाचे ठरेल. सुरक्षिततेमध्ये वाढलेली गुंतवणूक कधीकधी कार्यान्वयन खर्चावर परिणाम करू शकते, परंतु खटले आणि सरकारी हस्तक्षेपाचा धोका कमी करण्यासाठी ही एक धोरणात्मक रणनीती म्हणून काम करते.