OpenAI ના આગામી Astra મોડલને સાયબર સિક્યુરિટીના મામલે 'Critical' કેટેગરીમાં મૂકવામાં આવ્યું છે. આ મોડલની 'recurrent depth' ડિઝાઈનને કારણે તેની કાર્યપદ્ધતિ પારદર્શક નહીં રહે તેવી આશંકા એક્સપર્ટ્સ વ્યક્ત કરી રહ્યા છે.
શું છે 'Critical' કેટેગરીનો ખતરો?
OpenAI એ પોતાના નવા મોડલ Astra ને આંતરિક સેફ્ટી ફ્રેમવર્ક હેઠળ 'Critical' સાયબર સિક્યુરિટી ટાયર આપ્યું છે. આનો સીધો અર્થ એ છે કે આ AI મોડલ જાતે જ ઝીરો-ડે (Zero-day) નબળાઈઓને શોધી શકે છે અને સાયબર હુમલા કરવામાં સક્ષમ છે. કંપની આને એક મોટી સિદ્ધિ ગણાવે છે, પરંતુ નિષ્ણાતો તેના 'recurrent depth' આર્કિટેક્ચરને લઈને ચિંતિત છે.
કેમ ચર્ચામાં છે 'Recurrent Depth'?
સામાન્ય AI મોડલ્સ સીધી રીતે ડેટા પ્રોસેસ કરે છે, જ્યારે Astra પ્રોસેસિંગ લેયર્સનો ફરીથી ઉપયોગ કરે છે. આ ટેકનિકથી પાવર અને કમ્પ્યુટિંગ ખર્ચ ઘટે છે, પરંતુ તે સિસ્ટમને 'Black-box' બનાવી દે છે. પરિણામે, ઓડિટર્સ એ વાતને ટ્રેસ નથી કરી શકતા કે AI એ કોઈ નિર્ણય કઈ રીતે લીધો. આ અસ્પષ્ટતા સેફ્ટી અને ઓવરસાઈટ માટે મોટું જોખમ છે.
ટેક સેક્ટરમાં વધતી મુશ્કેલી
OpenAI, Google અને Anthropic વચ્ચે ચાલી રહેલી રેસમાં કંપનીઓ પર્ફોર્મન્સ સુધારવા માટે વધુ જટિલ સિસ્ટમ્સ બનાવી રહી છે. પ્રાઈવેટ કંપની હોવાને કારણે OpenAI ના નાણાકીય પાસાઓ અને આર્કિટેક્ચર પર ઓછું નિયંત્રણ છે. જોકે, આ પ્રકારની ટેકનોલોજીને કારણે ભવિષ્યમાં ગ્લોબલ રેગ્યુલેટર્સ સખત નિયમો લાવી શકે છે. હવે જોવાનું એ રહેશે કે શું આ કંપનીઓ પોતાની પ્રોડક્ટ્સમાં પારદર્શિતા લાવવા માટે નવી સુરક્ષા ટૂલ્સ વિકસાવી શકે છે કે નહીં.