AI સ્ટાર્ટઅપ PrismML એ Bonsai 2 27B મોડલ રજૂ કર્યું છે, જે માત્ર **5.9 GB** મેમરીમાં PC અને સ્માર્ટફોન પર ચાલી શકે છે. આ ટેકનોલોજી ક્લાઉડ સર્વિસ પરની નિર્ભરતા ઘટાડીને ડેટા પ્રાઇવસી અને સ્પીડમાં મોટો બદલાવ લાવી શકે છે.
ઓન-ડિવાઇસ AI તરફ એક મોટું ડગલું
PrismML દ્વારા લોન્ચ કરવામાં આવેલું આ નવું મોડલ Qwen3.8 આર્કિટેક્ચર પર આધારિત છે. સામાન્ય રીતે જે કામ કરવા માટે મોટા ક્લાઉડ સર્વર્સની જરૂર પડે છે, તે હવે માત્ર 5.9 GB ની મેમરી ધરાવતા ડિવાઇસ પર શક્ય બન્યું છે. કંપનીએ આ માટે 'ટર્નરી વેઇટ કોમ્પ્રેશન' (Ternary Weight Compression) ટેકનીકનો ઉપયોગ કર્યો છે, જે ડેટા વેલ્યુને ત્રણ સ્ટેટમાં ઘટાડીને મેમરી વપરાશમાં ભારે ઘટાડો કરે છે.
રોકાણકારો માટે શું છે ખાસ?
આ ટેકનોલોજીથી ટેક અને સેમિકન્ડક્ટર સેક્ટરમાં મોટું પરિવર્તન આવી શકે છે:
- કોસ્ટ કટિંગ: કંપનીઓ હવે મોંઘા ક્લાઉડ API ના ખર્ચમાંથી બચી શકશે.
- ડેટા સિક્યુરિટી: ડેટા ક્લાઉડમાં મોકલવાને બદલે યુઝરના ડિવાઇસમાં જ રહેશે, જે કોર્પોરેટ પ્રાઇવસી માટે મોટો ફાયદો છે.
- હાર્ડવેરની માંગ: Qualcomm, Intel અને Apple જેવી કંપનીઓના પ્રોસેસર્સમાં રહેલા NPU (Neural Processing Units) નું મહત્વ વધશે.
પડકારો અને જોખમો
જોકે, રોકાણકારોએ સિક્કાની બીજી બાજુ પણ જોવી જોઈએ. આ મોડલ સ્થાનિક રીતે ચલાવવાથી પ્રોસેસર પર ભાર વધે છે અને બેટરી જલ્દી ઉતરી જાય છે. ઘણીવાર ડિવાઇસ ગરમ થવાથી (Thermal Throttling) સ્પીડ ધીમી પડી શકે છે. કંપની 98% એક્યુરેસીનો દાવો કરે છે, પરંતુ જટિલ કામગીરીમાં ક્લાઉડ મોડલ્સની સરખામણીએ કેટલી સફળતા મળશે તે જોવું રહ્યું.
આગામી સમયમાં, જે કંપનીઓ સૌથી વધુ કાર્યક્ષમ (Efficient) અલ્ગોરિધમ્સ બનાવશે, તે માર્કેટમાં બાજી મારી જશે.