ऑस्ट्रेलियातील eSafety Commissioner च्या सर्वेक्षणात धक्कादायक माहिती समोर आली आहे. **54%** तरुण (वयाच्या 10-17) AI चा वापर खाजगी वैयक्तिक समस्यांसाठी करत आहेत. यातील एक तृतीयांश मुलांनी आपली खाजगी माहिती शेअर केली असून, **20%** जणांना AI कडून नकारात्मक अनुभव आले आहेत. या ट्रेंडमुळे सुरक्षेचा धोका वाढत असून, टेक कंपन्यांवर AI सुरक्षेसाठी कडक नियम आणण्याचा दबाव वाढला आहे.
ऑस्ट्रेलियातील eSafety Commissioner च्या एका नवीन अहवालाने तरुण पिढी तंत्रज्ञानाशी कशी संवाद साधते यातील मोठा बदल समोर आणला आहे. 1,950 मुलामुलींची (वय 10 ते 17) तपासणी करणाऱ्या या सर्वेक्षणात असे दिसून आले आहे की, 54% सहभागी फक्त अभ्यासासाठीच नाही, तर वैयक्तिक आणि सामाजिक मदतीसाठी जनरेटिव्ह AI टूल्सचा वापर करत आहेत. यामध्ये मानसिक आणि शारीरिक आरोग्य, वैयक्तिक अडचणींवर सल्ला घेणे आणि AI ला सोबती मानणे यांसारख्या गोष्टींचा समावेश आहे.
AI असिस्टंट्सचा वापर सामान्यतः कामासाठी केला जात असला तरी, या अभ्यासात AI चा 'खाजगी' वापराकडे वाढलेला कल दिसून आला आहे. सुमारे 10% किशोरवयीन मुलांनी AI कंपेनियन्ससोबत भूमिका-नाट्य (role-play) केल्याचे सांगितले, ज्यात रोमँटिक परिस्थितींचाही समावेश होता. LGBTQIA+ तरुण आणि दिव्यांग मुलांमध्ये हा ट्रेंड अधिक दिसून येतो, जे AI कडून समजूतदारपणा किंवा सहभाग शोधू शकतात.
या वर्तनामुळे गोपनीयतेचे आणि सुरक्षेचे गंभीर प्रश्न निर्माण झाले आहेत. आकडेवारीनुसार, या तरुण वापरकर्त्यांपैकी सुमारे एक तृतीयांश (1/3) लोकांनी AI प्लॅटफॉर्मवर वैयक्तिक माहिती उघड केल्याचे मान्य केले आहे. AI मॉडेल्स युझर डेटामधून शिकण्यासाठी डिझाइन केलेले असल्याने, या संवेदनशील संभाषणांमध्ये शेअर केलेली माहिती भविष्यातील मॉडेल ट्रेनिंगमध्ये समाविष्ट केली जाऊ शकते किंवा चुकून उघड होऊ शकते. मानवी समुपदेशकांप्रमाणे, या AI सिस्टीममध्ये मानसिक आरोग्याच्या संवेदनशील बाबी हाताळण्यासाठी आवश्यक गोपनीयतेचे प्रोटोकॉल नाहीत.
याव्यतिरिक्त, संवादाची गुणवत्ता ही एक चिंतेची बाब आहे. eSafety अहवालात नमूद केले आहे की, 20% मुलांना आणि किशोरवयीन मुलांना चॅटबॉट्सकडून संभाव्यतः हानिकारक किंवा अयोग्य वर्तनाचा अनुभव आला. यामध्ये AI द्वारे द्वेषपूर्ण, नियंत्रक भाषा वापरणे यांसारख्या घटनांचा समावेश आहे. AI टूल्स 'हॅल्युसिनेट' (चुकीची माहिती देणे) करू शकत असल्याने, मानसिक आरोग्यासारख्या संवेदनशील विषयांवर चुकीचा सल्ला देण्याचा धोका शिक्षक आणि पालकांसाठी मोठी चिंता आहे.
तंत्रज्ञान क्षेत्रासाठी, हा ट्रेंड वाढत्या नियामक तपासणीचा संकेत देत आहे. OpenAI, Google आणि इतर लोकप्रिय चॅटबॉट्समागील कंपन्यांना कठोर सुरक्षा नियम आणि वयानुसार योग्य कंटेंट फिल्टर्स लागू करण्याचा दबाव वाढत आहे. जर प्लॅटफॉर्म्स अल्पवयीन वापरकर्त्यांना विषारी कंटेंट किंवा गोपनीयतेच्या उल्लंघनापासून वाचवण्यात अयशस्वी ठरले, तर त्यांना भविष्यात नियामक कारवाई, कठोर अनुपालन आवश्यकता किंवा वापरकर्त्यांचा विश्वास गमावण्याचा सामना करावा लागू शकतो. जसजसा या टूल्सचा वापर वाढत जाईल, तसतसे कंपन्या अल्पवयीन मुलांसाठी डेटा संरक्षण, पारदर्शकता आणि सुरक्षा प्रोटोकॉल कसे हाताळतात यावर गुंतवणूकदार आणि उद्योग निरीक्षकांचे लक्ष असेल.