પ્રાઈવેટ સ્ટાર્ટઅપ Abliteration.ai એ એક એવી કોમર્શિયલ સર્વિસ લોન્ચ કરી છે, જેમાં AI મોડલ્સના તમામ સેફટી ગાર્ડરેલ્સ હટાવી દેવામાં આવ્યા છે. કંપની આને સાયબર સિક્યોરિટી અને રેડ-ટીમિંગ માટે ઉપયોગી ગણાવે છે, પરંતુ નિષ્ણાતો ગંભીર ખતરાની ચેતવણી આપી રહ્યા છે.
Abliteration.ai નામના એક નવા સ્ટાર્ટઅપે બજારમાં એવા 'abliterated' AI મોડલ્સ રજૂ કર્યા છે, જેમાંથી તમામ સુરક્ષા મર્યાદાઓ દૂર કરી દેવામાં આવી છે. 'ઓર્થોગોનાલાઈઝેશન' (orthogonalization) નામની ટેકનિક દ્વારા કંપનીએ AI ના આંતરિક સુરક્ષા નિયમો તોડી નાખ્યા છે, જેથી તે કોઈપણ પ્રકારના હાનિકારક કન્ટેન્ટ કે ખતરનાક કોડ જનરેટ કરી શકે છે.
અનરેસ્ટ્રિક્ટેડ AI નું કોમર્શિયલાઈઝેશન
આ પ્લેટફોર્મ હાલમાં GLM-5.3 મોડલનું 'abliterated-model-large-v2' વર્ઝન API અને વેબ દ્વારા ઓફર કરી રહ્યું છે. કંપનીનું કહેવું છે કે, ડેવલપર્સ અને રિસર્ચર્સને સુરક્ષા વ્યવસ્થાઓનું ટેસ્ટિંગ કરવા માટે આવા અનરેસ્ટ્રિક્ટેડ મોડલ્સની જરૂર હોય છે. આ સર્વિસ સબ્સ્ક્રિપ્શન અને યુસેજ-બેઝ્ડ મોડલ પર કામ કરે છે.
રેડ-ટીમિંગ વિરુદ્ધ સિક્યોરિટીનો ખતરો
આ લોન્ચિંગ સાથે સાયબર સિક્યોરિટી જગતમાં બે જૂથ પડી ગયા છે. એક તરફ એવું માનવામાં આવે છે કે આવા મોડલ્સ બેન્કિંગ કે એવીએશન જેવી ક્રિટિકલ ઈન્ફ્રાસ્ટ્રક્ચર સિસ્ટમ્સના સ્ટ્રેસ ટેસ્ટિંગમાં મદદરૂપ થશે. બીજી તરફ, નિષ્ણાતોએ ચેતવણી આપી છે કે પૂરતા KYC પ્રોટોકોલના અભાવે આ ટેક્નોલોજીનો ઉપયોગ માલવેર બનાવવા કે અન્ય ગુનાહિત પ્રવૃત્તિઓ માટે સરળતાથી થઈ શકે છે. ઉપરાંત, સુરક્ષા પડ હટાવવાથી મોડલના તર્કશક્તિ (reasoning capabilities) પર પણ નકારાત્મક અસર પડી શકે છે.
રેગ્યુલેટરી અનિશ્ચિતતા
Abliteration.ai હાલમાં એક પ્રાઈવેટ કંપની હોવાથી તે શેરબજારના નિયમો કે જાહેર જનાબજોદારીથી દૂર છે. ઉદ્યોગમાં હવે એવી ચર્ચાઓ ચાલી રહી છે કે શું સરકાર AI ઈન્ફ્રાસ્ટ્રક્ચર માટે કોઈ કડક નિયમો લાવશે? કંપનીનું ભવિષ્ય હવે તે જોખમોને કેવી રીતે નિયંત્રિત કરે છે તેના પર નિર્ભર છે.