ऑस्ट्रेलिया में एक सर्वे के अनुसार, 10 से 17 साल के 54% बच्चे पर्सनल और सेंसिटिव मुद्दों के लिए AI का इस्तेमाल कर रहे हैं। एक तिहाई ने अपनी निजी जानकारी साझा की, और 20% को नकारात्मक अनुभव हुए, जिससे सुरक्षा जोखिम बढ़ रहे हैं।
AI बनी बच्चों की 'पर्सनल डायरी'?
ऑस्ट्रेलिया के eSafety Commissioner की एक नई रिपोर्ट ने टेक्नोलॉजी के साथ युवा पीढ़ी के जुड़ने के तरीके में एक बड़े बदलाव का खुलासा किया है। 10 से 17 साल के 1,950 बच्चों और किशोरों पर किए गए इस सर्वे में पाया गया है कि 54% प्रतिभागी जेनरेटिव AI टूल्स का इस्तेमाल सिर्फ होमवर्क के लिए नहीं, बल्कि व्यक्तिगत और सामाजिक सहायता के लिए भी कर रहे हैं। इसमें मानसिक और शारीरिक स्वास्थ्य पर सलाह लेना, निजी उलझनों को सुलझाना और AI को साथी के रूप में इस्तेमाल करना शामिल है।
भावनात्मक सहारे से लेकर 'रोमांटिक' रोल-प्ले तक
जहां AI असिस्टेंट्स का इस्तेमाल प्रोडक्टिविटी के कामों के लिए आम है, वहीं इस स्टडी ने गहरे भावनात्मक उपयोग के रुझान को उजागर किया है। सर्वे में शामिल करीब 10% किशोरों ने AI कंपनियों का इस्तेमाल लंबे समय तक रोल-प्ले के लिए किया, जिसमें रोमांटिक सीन भी शामिल थे। यह चलन LGBTQIA+ युवाओं और विकलांग बच्चों में अधिक देखा गया है, जो AI को समझ या जुड़ाव के स्रोत के रूप में देख सकते हैं।
प्राइवेसी और सेफ्टी पर बड़ा सवाल
इस तरह का उपयोग गंभीर प्राइवेसी और सुरक्षा चुनौतियां खड़ी करता है। डेटा के अनुसार, इन युवा यूजर्स में से लगभग एक तिहाई ने AI प्लेटफॉर्म्स के साथ अपनी व्यक्तिगत जानकारी साझा करने की बात स्वीकार की। चूंकि AI मॉडल यूजर डेटा से सीखते हैं, इसलिए इन संवेदनशील बातचीत में साझा की गई जानकारी भविष्य में मॉडल ट्रेनिंग में एकीकृत हो सकती है या अनजाने में लीक हो सकती है। मानव परामर्शदाताओं के विपरीत, इन AI सिस्टम में मानसिक स्वास्थ्य से जुड़ी संवेदनशील जानकारी को संभालने के लिए आवश्यक गोपनीयता प्रोटोकॉल नहीं होते हैं।
AI के 'नकारात्मक' जवाब और इंडस्ट्री पर दबाव
इसके अलावा, बातचीत की गुणवत्ता भी चिंता का विषय बनी हुई है। eSafety की रिपोर्ट में कहा गया है कि 20% बच्चों और किशोरों को चैटबॉट्स से हानिकारक या अनुचित व्यवहार का सामना करना पड़ा। इसमें AI द्वारा अभद्र, नफरत फैलाने वाली या नियंत्रणकारी भाषा का इस्तेमाल शामिल है। AI टूल्स 'मतिभ्रम' (hallucinate) कर सकते हैं या गलत तथ्य उत्पन्न कर सकते हैं, इसलिए मानसिक स्वास्थ्य जैसे संवेदनशील विषयों पर हानिकारक सलाह देने का जोखिम शिक्षकों और अभिभावकों के लिए एक बड़ी चिंता है।
रेगुलेटरी एक्शन का बढ़ता खतरा
टेक्नोलॉजी सेक्टर के लिए, यह ट्रेंड बढ़ी हुई रेगुलेटरी जांच का संकेत देता है। OpenAI, Google और अन्य चैटबॉट बनाने वाली कंपनियों पर सख्त सुरक्षा उपायों और आयु-उपयुक्त सामग्री फिल्टर लागू करने का दबाव बढ़ रहा है। यदि प्लेटफॉर्म युवा उपयोगकर्ताओं को जहरीली सामग्री या प्राइवेसी उल्लंघनों से बचाने में विफल रहते हैं, तो उन्हें भविष्य में नियामक कार्रवाई, सख्त अनुपालन आवश्यकताओं या यूजर के भरोसे में कमी का सामना करना पड़ सकता है। निवेशक और उद्योग पर्यवेक्षक संभवतः इन कंपनियों पर नजर रखेंगे कि वे इन उपकरणों को अपनाना जारी रखने के रूप में नाबालिगों के लिए डेटा सुरक्षा, पारदर्शिता और सुरक्षा प्रोटोकॉल को कैसे संबोधित करते हैं।