Meta Platforms ने Instagram वर एक नवीन AI-आधारित सुरक्षा फीचर आणले आहे. या फीचरमुळे, जर एखादा टीनएजर (Teenager) AI chatbot शी आत्महत्येबद्दल किंवा स्वतःला हानी पोहोचवण्याबद्दल बोलला, तर पालकांना अलर्ट (Alert) मिळेल. हे फीचर अमेरिका, यूके, ऑस्ट्रेलिया आणि कॅनडामध्ये सुरु झाले आहे.
पालकांसाठी खास सुरक्षा यंत्रणा
Meta Platforms Inc. ने त्यांच्या Instagram Family Center मध्ये एक नवीन सुरक्षा फीचर सादर केले आहे. या फीचरमुळे, जर तुमचा टीनएजर (Teenager) AI chatbot शी बोलताना स्वतःला इजा पोहोचवण्याबद्दल किंवा आत्महत्येबद्दल बोलला, तर तुम्हाला अलर्ट (Alert) मिळेल. हे नवीन फीचर 16 जुलै 2026 पासून लागू झाले असून सध्या अमेरिका, युनायटेड किंगडम, ऑस्ट्रेलिया आणि कॅनडामध्ये उपलब्ध आहे. या नव्या उपायामुळे कंपनी आपल्या जनरेटिव्ह AI (Generative AI) टूल्सशी संबंधित धोके कमी करण्याचा प्रयत्न करत आहे.
प्रायव्हसी (Privacy) आणि संरक्षण यांचा समतोल
या नवीन प्रणालीमध्ये एक मोठे आव्हान आहे: टीनएजरच्या प्रायव्हसीचे (Privacy) उल्लंघन न करता पालकांना योग्य माहिती देणे. यावर मात करण्यासाठी, पालकांना पाठवल्या जाणाऱ्या अलर्टमध्ये संभाषणाची कोणतीही विशिष्ट माहिती किंवा तपशील शेअर केला जाणार नाही. त्याऐवजी, हा अलर्ट टीनएजर काहीतरी त्रासात असू शकतो, याचे सूचक म्हणून काम करेल. या अलर्टसोबतच, पालकांना मानसिक आरोग्य तज्ञांनी तयार केलेले मार्गदर्शन आणि संसाधने (Resources) देखील मिळतील, ज्यामुळे त्यांना या विषयावर प्रभावीपणे बोलण्यास मदत होईल.
मानवी हस्तक्षेप आणि अचूकता
Meta मानसिक आरोग्याच्या जोखमीच्या पातळीनुसार (Risk Thresholds) वापरकर्त्याच्या chatbot शी होणाऱ्या संवादाची ओळख पटवण्यासाठी एका विशेष AI मॉडेलवर अवलंबून आहे. अचूकता वाढवण्यासाठी आणि चुकीचे अलर्ट टाळण्यासाठी, कंपनीने मानवी पुनरावलोकन (Human Review) प्रक्रिया लागू केली आहे. प्रशिक्षित कर्मचारी (Trained Personnel) पालकांना अलर्ट पाठवण्यापूर्वी संभाषणांचे मूल्यांकन करतील. हे सुरक्षा निकष 75 पेक्षा जास्त डॉक्टर आणि आत्महत्या प्रतिबंध तज्ञांशी सल्लामसलत करून ठरवले गेले आहेत. तसेच, कंपनी भविष्यात अशा क्षमतांवर काम करत आहे, ज्यामुळे तातडीच्या जीवघेण्या धोक्याच्या परिस्थितीत आपत्कालीन सेवांना (Emergency Services) अलर्ट मिळू शकेल.
नियामक दबाव आणि AI ची जबाबदारी
तंत्रज्ञान कंपन्यांना आजकाल लहान मुलांसाठी असलेल्या AI-आधारित उत्पादनांच्या सुरक्षिततेबाबत जगभरातून तीव्र छाननीला सामोरे जावे लागत आहे. जगभरात खटले आणि नियामक चौकशी वाढत आहेत, ज्यामुळे कंपन्यांना लहान मुलांचा जनरेटिव्ह AI शी कसा संवाद होतो यावर चांगले नियंत्रण दाखवण्यास भाग पाडले जात आहे. असे सुरक्षा उपाय सक्रियपणे समाविष्ट करून, Meta सार्वजनिक चिंता आणि नियामक अपेक्षा पूर्ण करण्याचा प्रयत्न करत आहे. गुंतवणूकदार आणि बाजारातील विश्लेषक (Market Analysts) या सुरक्षा वैशिष्ट्यांचा वापरकर्त्यांच्या सहभागावर कसा परिणाम होतो आणि कंपनीला इतर अधिकारक्षेत्रांमध्ये आणखी कायदेशीर आवश्यकतांना सामोरे जावे लागेल यावर बारकाईने लक्ष ठेवून आहेत. Meta या फीचरचा विस्तार इतर देशांमध्ये करण्याचा विचार करत असल्याने, या सुरक्षा स्तरांना लागू करण्याचा खर्च आणि वाढलेल्या नियामक अनुपालन खर्चाची (Regulatory Compliance Expenses) शक्यता कंपनीच्या कामकाजासाठी महत्त्वाचे घटक राहतील.