Australiaના eSafety Commissionerના સર્વે મુજબ, 10 થી 17 વર્ષના **54%** બાળકો અંગત અને સંવેદનશીલ મુદ્દાઓ પર સલાહ માટે AI નો ઉપયોગ કરી રહ્યા છે. આમાંથી એક તૃતીયાંશ બાળકો પોતાની અંગત માહિતી શેર કરે છે અને **20%** લોકોએ નકારાત્મક અનુભવોની જાણ કરી છે, જે ટેક કંપનીઓ પર AI સુરક્ષા વધારવાનું દબાણ લાવી રહ્યું છે.
Australiaના eSafety Commissionerનો એક નવો રિપોર્ટ યુવા પેઢી ટેકનોલોજી સાથે કેવી રીતે સંપર્ક કરે છે તેમાં મોટા ફેરફાર તરફ ઈશારો કરે છે. 1,950 બાળકો અને કિશોરો (10 થી 17 વર્ષ) પર કરાયેલા સર્વેમાં જાણવા મળ્યું છે કે 54% સહભાગીઓ જનરેટિવ AI ટૂલ્સનો ઉપયોગ ફક્ત હોમવર્ક માટે જ નહીં, પરંતુ અંગત અને સામાજિક ટેકા માટે પણ કરી રહ્યા છે. આમાં માનસિક અને શારીરિક સ્વાસ્થ્ય, અંગત સમસ્યાઓ ઉકેલવા અને AI ને સાથી તરીકે વાપરવાનો સમાવેશ થાય છે.
AI આસિસ્ટન્ટનો ઉપયોગ સામાન્ય રીતે ઉત્પાદકતા કાર્યો માટે થાય છે, પરંતુ આ અભ્યાસમાં તેનો ગાઢ ઉપયોગ વધતો જોવા મળ્યો છે. સર્વે કરાયેલા કિશોરોમાંથી લગભગ 10% લોકોએ AI સાથીઓનો ઉપયોગ રોમેન્ટિક પરિસ્થિતિઓ સહિત રોલ-પ્લે માટે કર્યો છે. આ ફેરફાર LGBTQIA+ યુવા અને વિકલાંગ બાળકોમાં વધુ જોવા મળે છે, જેઓ સમજણ કે જોડાણ માટે AI નો સહારો લે છે.
આ વર્તણૂક ગોપનીયતા અને સુરક્ષાના ગંભીર પડકારો ઉભા કરે છે. ડેટા અનુસાર, લગભગ એક તૃતીયાંશ યુવા વપરાશકર્તાઓએ AI પ્લેટફોર્મ પર અંગત માહિતી જાહેર કરી છે. AI મોડલ વપરાશકર્તા ડેટામાંથી શીખવા માટે ડિઝાઇન કરવામાં આવ્યા હોવાથી, સંવેદનશીલ વાતચીતમાં શેર કરાયેલી માહિતી ભવિષ્યમાં મોડેલ તાલીમમાં સંકલિત થઈ શકે છે અથવા અજાણતાં ખુલ્લી પડી શકે છે. માનવ સલાહકારોથી વિપરીત, આ AI સિસ્ટમ્સ પાસે માનસિક સ્વાસ્થ્ય સંબંધિત સંવેદનશીલ માહિતીને હેન્ડલ કરવા માટે જરૂરી ગોપનીયતા પ્રોટોકોલ નથી.
વધુમાં, વાતચીતની ગુણવત્તા પણ એક ચિંતાનો વિષય છે. eSafety રિપોર્ટમાં જણાવાયું છે કે 20% બાળકો અને કિશોરોએ ચેટબોટ્સ દ્વારા સંભવિત રૂપે હાનિકારક અથવા અયોગ્ય વર્તનનો અનુભવ કર્યો છે. આમાં AI દ્વારા અપમાનજનક, દ્વેષપૂર્ણ અથવા નિયંત્રણકારી ભાષાનો ઉપયોગ સામેલ છે. AI ટૂલ્સ 'ભ્રમ' પેદા કરી શકે છે અથવા ખોટી માહિતી આપી શકે છે, તેથી માનસિક સ્વાસ્થ્ય જેવા સંવેદનશીલ વિષયો પર હાનિકારક સલાહ આપવાનું જોખમ શિક્ષકો અને માતાપિતા માટે મોટી ચિંતાનો વિષય છે.
ટેકનોલોજી ક્ષેત્ર માટે, આ વલણ વધતી નિયમનકારી દેખરેખનો સંકેત આપે છે. OpenAI, Google અને અન્ય લોકપ્રિય ચેટબોટ્સ પાછળની કંપનીઓ પર કડક સુરક્ષા નિયંત્રણો અને વય-યોગ્ય સામગ્રી ફિલ્ટર્સ લાગુ કરવાનું દબાણ વધી રહ્યું છે. જો પ્લેટફોર્મ યુવા વપરાશકર્તાઓને ઝેરી સામગ્રી અથવા ગોપનીયતા ભંગથી બચાવવામાં નિષ્ફળ જાય, તો તેઓ ભવિષ્યમાં નિયમનકારી કાર્યવાહી, કડક અનુપાલન જરૂરિયાતો અથવા વપરાશકર્તાનો વિશ્વાસ ગુમાવી શકે છે. રોકાણકારો અને ઉદ્યોગ નિરીક્ષકો આ કંપનીઓ ડેટા સંરક્ષણ, પારદર્શિતા અને સગીરો માટે સુરક્ષા પ્રોટોકોલને કેવી રીતે સંબોધિત કરે છે તેના પર નજર રાખશે કારણ કે આ સાધનોનો ઉપયોગ વધુ ફેલાતો રહેશે.