Meta का बड़ा कदम: AI चैट में आत्मघात की बात करने वाले टीनएजर्स के पैरेंट्स को मिलेगी सूचना

Meta ने अपने AI चैटबॉट में एक नई सुरक्षा सुविधा शुरू की है। अब, अगर कोई किशोर AI से आत्महत्या या खुद को नुकसान पहुंचाने जैसे संवेदनशील विषयों पर बात करता है, तो Meta माता-पिता को सूचित करेगा। यह कदम बच्चों की ऑनलाइन सुरक्षा को लेकर बढ़ती चिंताओं और नियामक दबाव के बीच उठाया गया है।

AI सुरक्षा में Meta का नया दांव

Meta, आर्टिफिशियल इंटेलिजेंस (AI) के इस्तेमाल को लेकर अपनी ज़िम्मेदारी को गंभीरता से लेते हुए, एक बड़ा कदम उठाया है। कंपनी ने घोषणा की है कि अब उसके AI चैटबॉट के साथ बातचीत करने वाले किशोरों के माता-पिता को एक अलर्ट भेजा जाएगा, अगर बातचीत में आत्महत्या या खुद को नुकसान पहुंचाने जैसे गंभीर विषय शामिल हों। यह सुविधा हाल ही में कई देशों में लाइव की गई है और इसका मकसद AI के साथ नाबालिगों के इंटरैक्शन को सुरक्षित बनाना है।

सुरक्षा प्रोटोकॉल और मैन्युअल समीक्षा

Meta ने स्पष्ट किया है कि AI द्वारा फ्लैग की गई हर बातचीत की पहले मैन्युअल समीक्षा की जाएगी। इसके बाद ही माता-पिता को सूचना भेजी जाएगी। कंपनी का कहना है कि वे इस मामले में बहुत सतर्क रवैया अपना रहे हैं और अस्पष्ट बातचीत के मामलों में भी पैरेंट्स को सूचित करने का विकल्प चुनेंगे। यह किशोर उपयोगकर्ताओं के आसपास एक सुरक्षा कवच बनाने की व्यापक रणनीति का हिस्सा है, साथ ही AI टेक्नोलॉजी को और बेहतर बनाने का प्रयास भी जारी रहेगा।

वैश्विक विस्तार और सामग्री नियंत्रण

यह पैरेंटल अलर्ट फीचर फिलहाल अमेरिका, यूनाइटेड किंगडम, ऑस्ट्रेलिया और कनाडा में Instagram पैरेंटल सुपरविज़न टूल के यूजर्स के लिए उपलब्ध है। Meta की योजना है कि 2026 के अंत तक इसे दुनिया भर में लॉन्च किया जाए। इसके अलावा, कंपनी अपनी मौजूदा 'लिमिटेड कंटेंट' सेटिंग को भी अपडेट कर रही है, जिसका उद्देश्य नाबालिगों को आपत्तिजनक सामग्री से बचाना है। अब इस सेटिंग में Meta AI चैटबॉट को भी शामिल किया जाएगा, ताकि AI किशोरों के साथ रोमांस या शराब जैसे विषयों पर बातचीत न कर सके।

आपातकालीन सेवाओं से सहयोग

पैरेंटल अलर्ट के अलावा, Meta ने यह भी पुष्टि की है कि यदि कोई उपयोगकर्ता चैट के दौरान खुद को गंभीर रूप से नुकसान पहुंचाने का संकेत देता है, तो वे आपातकालीन सेवाओं से संपर्क करेंगे। यह नियम कंपनी की उन मौजूदा प्रक्रियाओं के अनुरूप है जिनका उपयोग Facebook और Instagram जैसे अपने मुख्य सोशल मीडिया प्लेटफॉर्म पर आत्म-नुकसान सामग्री की पहचान करने और रिपोर्ट करने के लिए किया जाता है। चैटबॉट इंटरैक्शन में इन उपायों को लागू करके, Meta अपने पूरे डिजिटल इकोसिस्टम में एक एकीकृत सुरक्षा प्रतिक्रिया बनाने का प्रयास कर रहा है।