Whalesbook
AI ના યુગમાં ખર્ચ અને કાર્યક્ષમતાનો સંઘર્ષ
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) નું ક્ષેત્ર ઝડપથી વિકસી રહ્યું છે, પરંતુ તેના માટે જરૂરી ક્લાઉડ ઇન્ફ્રાસ્ટ્રક્ચરનો ખર્ચ પણ આસમાને પહોંચી રહ્યો છે. આવા સમયે, લંડન સ્થિત સ્ટાર્ટઅપ Mirai, જે Reface અને Prisma જેવી સફળ AI એપ્લિકેશન્સના અનુભવી સ્થાપકો Dima Shvets અને Alexey Moiseenkov દ્વારા સ્થાપિત છે, તેણે $10 મિલિયન નું Seed Funding મેળવીને એક અલગ રાહ પકડી છે. આ ભંડોળનો ઉપયોગ AI મોડેલ્સને સીધા યુઝરના ઉપકરણો (જેમ કે સ્માર્ટફોન, લેપટોપ) પર વધુ અસરકારક અને કાર્યક્ષમ રીતે ચલાવવા માટે કરવામાં આવશે.
આ ફંડિંગ સીધું જ માર્કેટમાં રહેલી એક મોટી જરૂરિયાતને પહોંચી વળશે: ક્લાઉડ-આધારિત AI ઇન્ફરન્સ (inference) ના આર્થિક અને કાર્યક્ષમતા સંબંધિત પડકારો. જનરેટિવ AI (Generative AI) ના વધતા જતા ઉપયોગ સાથે, ક્લાઉડ કમ્પ્યુટ, ડેટા ટ્રાન્સફર અને ઊર્જા વપરાશનો ભારે ખર્ચ સ્પષ્ટપણે દેખાઈ રહ્યો છે. Mirai, ગ્રાહક ઉપકરણોની વધતી ક્ષમતાઓનો લાભ લઈને, મોંઘા અને ધીમા ક્લાઉડ સોલ્યુશન્સના એક મજબૂત વિકલ્પ તરીકે ઉભરી રહ્યું છે.
Edge AI માટે આર્થિક જરૂરિયાત
વર્તમાન AI સિસ્ટમ્સમાં ક્લાઉડ કમ્પ્યુટિંગ પર ભારે ખર્ચ થાય છે. મોટા સંગઠનો માટે, રિટેલ વિડીયો એનાલિટિક્સ જેવા કાર્યો માટે ક્લાઉડ સર્વર પર AI ઇન્ફરન્સ ચલાવવાનો વાર્ષિક ખર્ચ લાખો ડોલરમાં આવી શકે છે. એક NVIDIA A100 GPU ઇન્સ્ટન્સનો સતત ઉપયોગ કરવાનો વાર્ષિક ખર્ચ $40,000 થી વધુ હોઈ શકે છે, અને માત્ર ડેટા ટ્રાન્સફરનો ખર્ચ પણ નોંધપાત્ર બની શકે છે. આ આર્થિક દબાણને કારણે Edge Computing સોલ્યુશન્સ તરફ વલણ વધી રહ્યું છે. અભ્યાસો દર્શાવે છે કે AI ઇન્ફરન્સને સ્માર્ટફોન જેવા ગ્રાહક ઉપકરણો પર ખસેડવાથી ઊર્જાનો વપરાશ 95% સુધી અને કાર્બન ફૂટપ્રિન્ટ 88% સુધી ઘટાડી શકાય છે. On-device AI માર્કેટમાં આશ્ચર્યજનક વૃદ્ધિનો અંદાજ છે, જે 2032 સુધીમાં $124 બિલિયન સુધી પહોંચી શકે છે.
Mirai નો પરફોર્મન્સ એડવાન્ટેજ: Rust અને Apple Silicon
Mirai નું મુખ્ય નવીનતમ પગલું તેના ખાસ Rust પ્રોગ્રામિંગ ભાષામાં એન્જિનિયર કરેલા પ્રોપરાઇટરી ઇન્ફરન્સ એન્જિનમાં છે. Rust તેની શ્રેષ્ઠ કાર્યક્ષમતા, મેમરી સુરક્ષા અને કોન્કરન્સી (concurrency) ક્ષમતાઓ માટે જાણીતી છે, જે તેને AI જેવા ભારે કાર્યો માટે આદર્શ બનાવે છે. કંપનીનો દાવો છે કે તેનું એન્જિન Apple Silicon પર AI મોડેલ જનરેશનની ગતિમાં 37% સુધીનો વધારો કરી શકે છે, અને તે પણ આઉટપુટની ગુણવત્તા સાથે સમાધાન કર્યા વિના. Mirai નું એન્જિન ખાસ કરીને Apple Silicon માટે ડિઝાઇન કરવામાં આવ્યું છે, જે એક્ઝિક્યુશન (execution), મેમરી મેનેજમેન્ટ અને શેડ્યુલિંગના ઊંડાણપૂર્વકના ઓપ્ટિમાઇઝેશન (optimization) માટે પરવાનગી આપે છે. આ અભિગમ લગભગ શૂન્ય લેટન્સી અને મજબૂત ગોપનીયતા સુનિશ્ચિત કરવાનો હેતુ ધરાવે છે, જે ગ્રાહક એપ્લિકેશન્સ માટે અત્યંત જરૂરી છે. તેમનું આગામી SDK ડેવલપર્સ માટે સરળ ઇન્ટિગ્રેશન (integration) માટે ડિઝાઇન કરાયેલ છે.
સ્પર્ધાત્મક લેન્ડસ્કેપ અને સ્થાપકોની તાકાત
Mirai એક સ્પર્ધાત્મક પરંતુ ઝડપથી વિકસતા બજારમાં પ્રવેશ કરી રહ્યું છે. Quadric જેવી કંપનીઓ પણ ઓન-ડિવાઇસ AI ચિપ્સ માટે ઇન્ફરન્સ એન્જિન વિકસાવી રહી છે, અને Modal Labs જેવી કંપનીઓ પણ આ ક્ષેત્રમાં સક્રિય છે. Apple અને Qualcomm જેવી મોટી ટેક કંપનીઓ પણ તેમના હાર્ડવેરમાં AI ક્ષમતાઓ એકીકૃત કરી રહી છે, પરંતુ Mirai જેવી સ્ટાર્ટઅપ્સ આ ઉપકરણોની સંપૂર્ણ ક્ષમતાને અનલોક કરવા માટે વિશિષ્ટ સોફ્ટવેર લેયર્સ બનાવી રહી છે. સ્થાપકોનો અગાઉનો અનુભવ એક મોટો ફાયદો છે; Dima Shvets એ Reface ના સહ-સ્થાપક હતા, જે 300 મિલિયન થી વધુ ગ્લોબલ ડાઉનલોડ ધરાવે છે, અને Alexey Moiseenkov એ Prisma ના સહ-સ્થાપક હતા. ગ્રાહક એપ્લિકેશન ડેવલપમેન્ટ અને મોબાઇલ પ્લેટફોર્મ પર AI ડિપ્લોયમેન્ટની તેમની ઊંડી સમજ Mirai ને મજબૂત પાયો પૂરો પાડે છે.
ભવિષ્યનો દ્રષ્ટિકોણ
Mirai એક "LLM OS" બનાવવાનું લક્ષ્ય ધરાવે છે જે ઓપ્ટિમાઇઝ્ડ ઇન્ફરન્સ, મોડેલ્સ અને ડિપ્લોયમેન્ટને એક વિશ્વસનીય ઓન-ડિવાઇસ ફાઉન્ડેશન (foundation) માં એકીકૃત કરે છે. કંપની શરૂઆતમાં ટેક્સ્ટ અને વોઇસ મોડાલિટીઝ (modalities) ને સપોર્ટ કરવાની યોજના ધરાવે છે, ભવિષ્યમાં વિઝનમાં વિસ્તરણ સાથે. તેઓ હાઇબ્રિડ ક્લાઉડ-ડિવાઇસ ઓપરેશન્સ માટે એક ઓર્કેસ્ટ્રેશન લેયર (orchestration layer) પણ વિકસાવી રહ્યા છે, જે સ્વીકારે છે કે બધા AI કાર્યો ફક્ત Edge પર જ રહી શકતા નથી. આ દૂરંદેશી અભિગમ, તેના અનુભવી સ્થાપક ટીમ અને ક્લાઉડ AI ની આર્થિક અને તકનીકી બિનકાર્યક્ષમતાઓને સંબોધવા પરના સ્પષ્ટ ધ્યાન સાથે, Mirai ને ઝડપથી વિકસતા ઓન-ડિવાઇસ AI માર્કેટમાં નોંધપાત્ર હિસ્સો મેળવવા માટે સ્થાન આપે છે.