Goodfire નામની AI રિસર્ચ ફર્મે એક નવી ટેકનોલોજી રજૂ કરી છે જે AI મોડલ્સની આંતરિક હિલચાલ પર નજર રાખીને તેમાં થતી ગેરરીતિઓને પકડી પાડશે. Baseten પ્લેટફોર્મ સાથે જોડાયેલ આ સિસ્ટમ AI સેફ્ટી માટે ખૂબ જ સસ્તો અને અસરકારક વિકલ્પ સાબિત થઈ શકે છે.
જૂની પદ્ધતિઓનો મોંઘો વિકલ્પ
અત્યાર સુધી AI સુરક્ષા માટે મોટી કંપનીઓ એક બીજા AI મોડલનો ઉપયોગ કરતી હતી, જે મુખ્ય મોડલના આઉટપુટને ચેક કરતું. આ પ્રક્રિયા ખૂબ જ ખર્ચાળ અને ધીમી હતી. Goodfire ની નવી પદ્ધતિ 'એક્ટિવેશન પ્રોબ્સ' (activation probes) પર આધારિત છે. તે મોડલના આંતરિક 'ન્યુરલ એક્ટિવેશન' (neural activations) એટલે કે તેના નિર્ણય લેવાની પ્રક્રિયાના સિગ્નલોને રીઅલ-ટાઇમમાં ટ્રેક કરે છે. આનાથી સમય અને કમ્પ્યુટિંગ પાવર બંનેની બચત થાય છે.
AI સેફ્ટી ઈન્ફ્રાસ્ટ્રક્ચરનું મહત્વ
આ ટેકનોલોજી ખાસ કરીને ઓપન-સોર્સ મોડલ્સ માટે ગેમ-ચેન્જર સાબિત થઈ શકે છે. ઓપન-સોર્સ સિસ્ટમ્સમાં 'રિવોર્ડ હેકિંગ' (reward hacking) અથવા અનધિકૃત એક્સેસનું જોખમ વધુ હોય છે. Goodfire નું આ પગલું દર્શાવે છે કે જેમ જેમ કંપનીઓ પોતે AI એપ્લિકેશન્સ બનાવી રહી છે, તેમ સુરક્ષાના મજબૂત અને સસ્તા સાધનોની માંગ ઝડપથી વધી રહી છે.
રોકાણકારો માટે શું જાણવું જરૂરી?
નોંધવું રહ્યું કે Goodfire એક ખાનગી કંપની છે અને તે શેરબજારમાં લિસ્ટેડ નથી. તેથી તેના શેરમાં સીધું રોકાણ શક્ય નથી. જોકે, $150 મિલિયન ના ફંડિંગ રાઉન્ડ સાથે કંપની AI સેફ્ટી સેક્ટરમાં મોટું નામ બનીને ઉભરી છે. માર્કેટ એક્સપર્ટ્સ આ પ્રકારના ડેવલપમેન્ટને AI સેક્ટરના ભવિષ્ય તરીકે જોઈ રહ્યા છે, જ્યાં હવે મુખ્ય ફોકસ ડેવલપમેન્ટથી હટીને 'સુરક્ષિત અને ભરોસાપાત્ર' ઇન્ફ્રાસ્ટ્રક્ચર પર આવી ગયું છે.
જોખમો અને પડકારો
આ ક્ષેત્ર હજુ વિકાસના તબક્કે છે. આંતરિક સિગ્નલ મોનિટરિંગ દરેક પ્રકારના હુમલાને રોકવા માટે કેટલું સક્ષમ છે, તે અંગે હજુ સંશોધકોમાં ચર્ચાઓ ચાલી રહી છે. ઉપરાંત, અન્ય વેલ-ફંડેડ સ્ટાર્ટઅપ્સ સામેની સ્પર્ધા અને AI મોડલ્સની જટિલતા વધતી જતી હોવાથી, Goodfire માટે પોતાની ટેકનોલોજીને સતત અપડેટ રાખવી એક મોટો પડકાર રહેશે.