Meta Platforms Inc. એ Instagram પર એક નવું AI-સંચાલિત સુરક્ષા ફીચર લોન્ચ કર્યું છે. આ ફીચર દ્વારા, જો કોઈ સગીર વયની વ્યક્તિ AI ચેટબોટ સાથે આત્મહત્યા કે સ્વ-નુકસાન (self-harm) જેવી ગંભીર ચર્ચાઓ કરશે, તો માતા-પિતાને તેની જાણ કરવામાં આવશે. આ સુવિધા હાલમાં યુએસ, યુકે, ઓસ્ટ્રેલિયા અને કેનેડામાં શરૂ કરાઈ છે.
માતા-પિતાને મળશે જાણકારી, પણ પ્રાઈવસી જળવાશે
Metaનો આ પ્રયાસ ટેકનોલોજી કંપનીઓ પર વધી રહેલા નિયમનકારી દબાણ વચ્ચે આવ્યો છે. કંપનીનો ઉદ્દેશ્ય AI ચેટબોટ્સનો ઉપયોગ કરતા સગીર વયના બાળકોની સુરક્ષા સુનિશ્ચિત કરવાનો છે. જોકે, આ ફીચરની રચના એવી રીતે કરવામાં આવી છે કે સગીર વયના બાળકોની ગોપનીયતા (privacy) જળવાઈ રહે. માતા-પિતાને મળતી સૂચનામાં વાતચીતની ચોક્કસ વિગતો શેર કરવામાં આવશે નહીં. તેના બદલે, તેમને માત્ર એટલી જાણ કરવામાં આવશે કે બાળક કદાચ મુશ્કેલીમાં હોઈ શકે છે. આ સૂચના સાથે, માતા-પિતાને માનસિક સ્વાસ્થ્ય નિષ્ણાતો દ્વારા તૈયાર કરાયેલા સંસાધનો અને માર્ગદર્શન પણ આપવામાં આવશે, જેથી તેઓ બાળકો સાથે અસરકારક રીતે વાતચીત કરી શકે.
AI અને માનવ દેખરેખનું મિશ્રણ
આ ફીચર માટે, Meta એક ખાસ AI મોડેલનો ઉપયોગ કરે છે જે નક્કી કરે છે કે વપરાશકર્તાની AI ચેટબોટ સાથેની વાતચીત ચોક્કસ જોખમ સ્તર સુધી પહોંચી છે કે નહીં. ખોટી એલર્ટ્સ (false alarms) ઘટાડવા માટે, કંપનીએ માનવ સમીક્ષા પ્રક્રિયા (human review process) પણ લાગુ કરી છે. તાલીમ પામેલા કર્મચારીઓ flagged થયેલી વાતચીતોનું મૂલ્યાંકન કર્યા પછી જ માતા-પિતાને સૂચના મોકલે છે. આ સુરક્ષા થ્રેશોલ્ડ્સ (safety thresholds) 75 થી વધુ ક્લિનિશિયન્સ અને આત્મહત્યા નિવારણ નિષ્ણાતો સાથેની સલાહ-સૂચનના આધારે નક્કી કરવામાં આવ્યા છે. કંપની ભવિષ્યમાં તાત્કાલિક જીવલેણ જોખમના કિસ્સામાં ઇમરજન્સી સેવાઓને એલર્ટ કરવાની ક્ષમતાઓ વિકસાવવા પર પણ કામ કરી રહી છે.
AI સુરક્ષા પર વધતું ધ્યાન
આ પહેલ એવા સમયે આવી છે જ્યારે ટેકનોલોજી કંપનીઓ સગીર વયના વપરાશકર્તાઓ માટે AI-આધારિત ઉત્પાદનોની સુરક્ષા અંગે તીવ્ર વૈશ્વિક તપાસનો સામનો કરી રહી છે. વિશ્વભરમાં કાયદાકીય કાર્યવાહી અને નિયમનકારી પૂછપરછ વધી રહી છે, જે કંપનીઓને AI પર સગીરોની ક્રિયાપ્રતિક્રિયા પર વધુ સારું નિયંત્રણ દર્શાવવા દબાણ કરી રહી છે. આ સુરક્ષા પગલાંને સક્રિયપણે એકીકૃત કરીને, Meta જાહેર ચિંતાઓ અને નિયમનકારી અપેક્ષાઓને સંબોધવાનો પ્રયાસ કરી રહી છે. રોકાણકારો અને બજાર વિશ્લેષકો નજીકથી જોઈ રહ્યા છે કે આવી સુરક્ષા સુવિધાઓ વપરાશકર્તાની સંલગ્નતાને કેવી રીતે અસર કરે છે અને શું કંપનીને અન્ય અધિકારક્ષેત્રોમાં વધુ કાયદાકીય જરૂરિયાતોનો સામનો કરવો પડશે.