Meta తమ Instagram ప్లాట్ఫామ్లో AI ఆధారిత సేఫ్టీ ఫీచర్ను పరిచయం చేస్తోంది. టీనేజర్లు చాట్బాట్తో ఆత్మహత్య లేదా స్వీయ-హాని గురించి మాట్లాడితే, వారి తల్లిదండ్రులకు అలర్ట్ పంపుతుంది. ఈ ఫీచర్ మొదటగా అమెరికా, యూకే, ఆస్ట్రేలియా, కెనడా దేశాలలో అందుబాటులోకి రానుంది.
తల్లిదండ్రులకు అండగా Meta
Meta Platforms తమ Instagram ఫ్యామిలీ సెంటర్లో భాగంగా ఒక కొత్త సేఫ్టీ ఫీచర్ను ప్రవేశపెట్టింది. దీని ద్వారా, టీనేజర్లు AI చాట్బాట్తో ఆత్మహత్య లేదా స్వీయ-హాని (self-harm) వంటి తీవ్రమైన విషయాల గురించి చర్చిస్తున్నారని గుర్తిస్తే, వారి తల్లిదండ్రులకు వెంటనే అలర్ట్ వెళ్తుంది. ఈ ఫీచర్ జులై 16, 2026 నుంచి అమెరికా, యూకే, ఆస్ట్రేలియా, కెనడా దేశాలలో అందుబాటులోకి వస్తుంది.
గోప్యతకు భంగం కలగకుండా..!
టీనేజర్ల గోప్యతకు (Privacy) ఎలాంటి భంగం కలగకుండా, అదే సమయంలో వారికి భద్రత కల్పించడమే ఈ ఫీచర్ ముఖ్య ఉద్దేశ్యం. తల్లిదండ్రులకు పంపే అలర్ట్స్లో సంభాషణకు సంబంధించిన పూర్తి వివరాలు ఉండవు. కేవలం, టీనేజర్ మానసికంగా ఇబ్బందుల్లో ఉన్నారని సూచించేలా మాత్రమే ఉంటుంది. ఈ అలర్ట్తో పాటు, మానసిక ఆరోగ్య నిపుణులు రూపొందించిన వనరులు, సూచనలు కూడా తల్లిదండ్రులకు అందుతాయి. తద్వారా వారు తమ పిల్లలతో ఎలా మాట్లాడాలో మార్గనిర్దేశం లభిస్తుంది.
AI పర్యవేక్షణ, మానవ ప్రమేయం
AI చాట్బాట్తో జరిగే సంభాషణలు మానసిక ఆరోగ్యానికి సంబంధించిన ప్రమాదకర స్థాయిలను చేరుకున్నప్పుడు గుర్తించడానికి Meta ఒక ప్రత్యేక AI మోడల్ను ఉపయోగిస్తుంది. తప్పుడు అలర్ట్లను తగ్గించడానికి, ఈ ప్రక్రియలో మానవ సమీక్ష (human review) కూడా ఉంటుంది. శిక్షణ పొందిన సిబ్బంది, తల్లిదండ్రులకు నోటిఫికేషన్ పంపే ముందు ఫ్లాగ్ చేయబడిన సంభాషణలను అంచనా వేస్తారు. ఈ భద్రతా ప్రమాణాలను 75 మందికి పైగా క్లినికల్ నిపుణులు, సూసైడ్ ప్రివెన్షన్ స్పెషలిస్ట్ల సంప్రదింపులతో రూపొందించారు.
పెరుగుతున్న ఆందోళనలు, నియంత్రణల ఒత్తిడి
ప్రస్తుతం టెక్ కంపెనీలు, ముఖ్యంగా AI టూల్స్ ద్వారా మైనర్లపై (మైనర్లపై) చూపే ప్రభావంపై ప్రపంచవ్యాప్తంగా తీవ్రమైన పరిశీలన ఎదుర్కొంటున్నాయి. చట్టపరమైన చర్యలు, నియంత్రణల ఒత్తిడి పెరుగుతున్న నేపథ్యంలో, Meta ఈ భద్రతా ఫీచర్ను ప్రవేశపెట్టడం ప్రాధాన్యత సంతరించుకుంది. భవిష్యత్తులో, అత్యంత ప్రమాదకర పరిస్థితులలో అత్యవసర సేవలకు (emergency services) అలర్ట్ చేసే సామర్థ్యాలను కూడా అభివృద్ధి చేస్తున్నట్లు కంపెనీ తెలిపింది. ఈ ఫీచర్ను ఇతర దేశాలకు కూడా విస్తరించాలని Meta యోచిస్తోంది.