Meta Platforms ने अपने Instagram पर एक AI-संचालित सुरक्षा सुविधा पेश की है। यह फीचर माता-पिता को तब अलर्ट करेगा जब उनके निगरानी में किशोर सेल्फ-हार्म या आत्महत्या जैसी बातों पर AI चैटबॉट से चर्चा करेंगे। यह सुविधा फिलहाल अमेरिका, यूके, ऑस्ट्रेलिया और कनाडा में लॉन्च की गई है।
प्राइवेसी और सुरक्षा के बीच संतुलन
Meta का यह नया कदम बच्चों की सुरक्षा को लेकर बढ़ती चिंताओं के बीच उठाया गया है। इस AI सुविधा का मुख्य उद्देश्य किशोरों की बातचीत की गोपनीयता बनाए रखते हुए माता-पिता को आवश्यक जानकारी देना है। इसलिए, माता-पिता को भेजे जाने वाले अलर्ट में बातचीत की पूरी जानकारी या कंटेंट साझा नहीं किया जाएगा। इसके बजाय, यह सिर्फ एक संकेत होगा कि किशोर शायद संकट में है। इस अलर्ट के साथ, माता-पिता को मानसिक स्वास्थ्य विशेषज्ञों द्वारा तैयार की गई गाइडेंस और संसाधन भी मिलेंगे, ताकि वे अपने बच्चों से प्रभावी ढंग से बात कर सकें।
AI मॉडल और मानव समीक्षा
Meta का AI मॉडल यह पहचानने के लिए डिज़ाइन किया गया है कि कब कोई यूजर मानसिक स्वास्थ्य से जुड़े जोखिम वाले थ्रेशोल्ड को पार कर रहा है। गलत अलर्ट से बचने के लिए, कंपनी ने एक मानव समीक्षा प्रक्रिया भी लागू की है। प्रशिक्षित कर्मी किसी भी अभिभावक को सूचना भेजने से पहले बातचीत का मूल्यांकन करेंगे। इन सुरक्षा थ्रेशोल्ड को 75 से अधिक मनोचिकित्सकों और आत्महत्या रोकथाम विशेषज्ञों के साथ सलाह-मशविरे के बाद तय किया गया है। कंपनी ने यह भी बताया है कि वे भविष्य में ऐसी क्षमताएं विकसित करने पर काम कर रहे हैं, जो जानलेवा जोखिम की स्थिति में आपातकालीन सेवाओं को भी सचेत कर सकें।
रेगुलेटरी दबाव और AI की जिम्मेदारी
यह पहल ऐसे समय में आई है जब टेक्नोलॉजी कंपनियों पर AI-संचालित उत्पादों, खासकर बच्चों के लिए, की सुरक्षा को लेकर वैश्विक स्तर पर कड़ी जांच का सामना करना पड़ रहा है। दुनिया भर में मुकदमेबाजी और नियामक जांचें तेज हो गई हैं, जिससे कंपनियों पर दबाव बढ़ रहा है कि वे यह दिखाएं कि नाबालिग जेनरेटिव AI के साथ कैसे इंटरैक्ट करते हैं, इस पर उनका बेहतर नियंत्रण है। Meta सक्रिय रूप से इन सुरक्षा उपायों को एकीकृत करके सार्वजनिक चिंता और नियामक अपेक्षाओं को संबोधित करने का प्रयास कर रही है। निवेशकों और बाजार विश्लेषकों की नजरें इस बात पर टिकी हैं कि ये सुरक्षा सुविधाएँ यूजर एंगेजमेंट को कैसे प्रभावित करती हैं और क्या कंपनी को अन्य देशों में और अधिक विधायी आवश्यकताओं का सामना करना पड़ेगा। Meta की योजना इस सुविधा को अन्य देशों में भी विस्तारित करने की है, ऐसे में इन सुरक्षा परतों को लागू करने की लागत और नियामक अनुपालन खर्चों में वृद्धि कंपनी के लिए महत्वपूर्ण कारक बने रहेंगे।