ఆస్ట్రేలియా eSafety Commissioner సర్వేలో సంచలన నిజాలు! 10-17 ఏళ్ల పిల్లల్లో **54%** మంది తమ వ్యక్తిగత విషయాలపై సలహాల కోసం AIని వాడుతున్నారు. వీరిలో మూడోవంతు మంది తమ ప్రైవేట్ డేటాను షేర్ చేస్తుండటం, **20%** మంది AIతో నెగటివ్ అనుభవాలు ఎదుర్కొంటుండటంతో, భద్రతాపరమైన రిస్కులు పెరుగుతున్నాయని, AI విషయంలో టెక్ కంపెనీలు మరింత జాగ్రత్తగా ఉండాలని నిపుణులు సూచిస్తున్నారు.
ఆస్ట్రేలియా eSafety Commissioner విడుదల చేసిన కొత్త నివేదిక, యువత టెక్నాలజీతో ఎలా మారుతోందో కళ్లకు కట్టింది. ఈ సర్వేలో భాగంగా 1,950 మంది 10 నుండి 17 ఏళ్ల పిల్లలు, యువతీ యువకులను అధ్యయనం చేశారు. వీరిలో 54% మంది కేవలం హోంవర్క్ కోసమే కాకుండా, వ్యక్తిగత, సామాజిక సలహాల కోసం కూడా జనరేటివ్ AI టూల్స్ వాడుతున్నారని తేలింది. మానసిక, శారీరక ఆరోగ్య సమస్యలపై సలహాలు తీసుకోవడం, వ్యక్తిగత సమస్యలను పరిష్కరించుకోవడం, AIని ఒక తోడుగా చేసుకోవడం వంటివి ఈ వాడకంలో భాగంగా ఉన్నాయి.
సాధారణంగా AI అసిస్టెంట్లను ఉత్పాదకత పనులకు వాడతారు. కానీ, ఈ అధ్యయనం ప్రకారం, యువత AIతో సన్నిహితంగా మెలిగే ధోరణి పెరుగుతోంది. సర్వేలో పాల్గొన్న యువతలో దాదాపు 10% మంది AI కంపానియన్స్తో, శృంగార సన్నివేశాలతో సహా, దీర్ఘకాలిక రోల్-ప్లేలో పాల్గొంటున్నారని తెలిపారు. ముఖ్యంగా LGBTQIA+ వర్గాలకు చెందిన యువత, దివ్యాంగులైన పిల్లలు AI నుంచి అవగాహన లేదా సాంగత్యం కోసం దీనిని ఆశ్రయిస్తున్నారని తెలుస్తోంది.
ఈ ప్రవర్తన తీవ్రమైన గోప్యత (Privacy) , భద్రతా (Safety) సవాళ్లను తెచ్చిపెడుతోంది. లెక్కల ప్రకారం, ఈ యువ వినియోగదారులలో మూడో వంతు మంది AI ప్లాట్ఫామ్స్తో వ్యక్తిగత సమాచారాన్ని పంచుకున్నట్లు ఒప్పుకున్నారు. AI మోడల్స్ వినియోగదారుల డేటా నుండి నేర్చుకునేలా రూపొందించబడ్డాయి కాబట్టి, ఈ సున్నితమైన సంభాషణలలో పంచుకున్న సమాచారం భవిష్యత్తులో మోడల్ శిక్షణలో చేరవచ్చు లేదా అనుకోకుండా బహిర్గతం కావచ్చు. మానవ కౌన్సెలర్ల వలే కాకుండా, ఈ AI సిస్టమ్స్కు మానసిక ఆరోగ్య సమస్యలకు సంబంధించిన సున్నితమైన సమాచారాన్ని నిర్వహించడానికి అవసరమైన గోప్యతా ప్రోటోకాల్స్ లేవు.
ఇంకా, సంభాషణల నాణ్యత కూడా ఆందోళనకరంగానే ఉంది. eSafety నివేదిక ప్రకారం, 20% మంది పిల్లలు, యువత ఛాట్బాట్ల నుండి హానికరమైన లేదా అనుచితమైన ప్రవర్తనను ఎదుర్కొన్నారు. AIలు దురుసుగా, ద్వేషపూరితంగా లేదా నియంత్రించే భాషను ప్రదర్శించిన సందర్భాలు ఉన్నాయి. AI టూల్స్ 'హాలూసినేట్' (తప్పుడు సమాచారం ఇవ్వడం) చేసే అవకాశం ఉన్నందున, మానసిక ఆరోగ్యం వంటి సున్నితమైన అంశాలపై హానికరమైన సలహాలు ఇచ్చే ప్రమాదం ఉంది. ఇది తల్లిదండ్రులకు, విద్యావేత్తలకు పెద్ద ఆందోళన.
సాంకేతిక రంగానికి, ఈ ధోరణి పెరుగుతున్న నియంత్రణ పర్యవేక్షణకు సంకేతంగా మారింది. OpenAI, Google వంటి AI టూల్స్ అందించే కంపెనీలు, కఠినమైన భద్రతా నియంత్రణలు, వయసుకు తగిన కంటెంట్ ఫిల్టర్లను అమలు చేయాల్సిన ఒత్తిడిని ఎదుర్కొంటున్నాయి. యువ వినియోగదారులను విషపూరిత కంటెంట్ నుండి లేదా గోప్యతా ఉల్లంఘనల నుండి ప్లాట్ఫామ్లు రక్షించడంలో విఫలమైతే, అవి భవిష్యత్తులో నియంత్రణ చర్యలు, కఠినమైన నిబంధనలు లేదా వినియోగదారుల నమ్మకాన్ని కోల్పోయే ప్రమాదం ఉంది. ఈ టూల్స్ వాడకం విస్తరిస్తున్న కొద్దీ, కంపెనీలు మైనర్ల కోసం డేటా రక్షణ, పారదర్శకత, భద్రతా ప్రోటోకాల్లను ఎలా పరిష్కరిస్తాయో పెట్టుబడిదారులు, పరిశ్రమ పరిశీలకులు నిశితంగా గమనించే అవకాశం ఉంది.