Moonshot AI એ પોતાના 2.8 ટ્રિલિયન-પેરામીટર Kimi K3 મોડેલના વેઇટ્સ (weights) રિલીઝ કર્યા છે, પરંતુ તેને ચલાવવા માટે જરૂરી ઊંચી કમ્પ્યુટેશનલ શક્તિ (computational power) તેને દુર્ગમ બનાવે છે. આ લોન્ચ, મોડેલની ઉપલબ્ધતા અને એડવાન્સ્ડ AI ને ચલાવવા માટે જરૂરી વિશાળ ઇન્ફ્રાસ્ટ્રક્ચર વચ્ચેના અંતરને ઉજાગર કરે છે.
Moonshot AI એ Kimi K3, એક વિશાળ 2.8 ટ્રિલિયન-પેરામીટર આર્ટિફિશિયલ ઇન્ટેલિજન્સ મોડેલના વેઇટ્સ ડાઉનલોડ માટે ઉપલબ્ધ કરાવ્યા છે. ઓપન-વેઇટ AI માટે આ એક મોટું પગલું હોવા છતાં, આવા મોડેલને ચલાવવાની વ્યવહારિક ક્ષમતા હજુ પણ પ્રતિબંધિત છે. ઘણા ડેવલપર્સ અને બિઝનેસ માટે, મોડેલ વેઇટ્સની ઉપલબ્ધતા તાત્કાલિક ઉપયોગીતામાં રૂપાંતરિત થતી નથી કારણ કે ઇન્ફરન્સ (inference) - જે ટ્રેઇન્ડ AI મોડેલમાંથી આઉટપુટ જનરેટ કરવાની પ્રક્રિયા છે - માટે અત્યંત કમ્પ્યુટેશનલ પાવર અને ટેકનિકલ કુશળતાની જરૂર પડે છે.
ઇન્ફરન્સ જરૂરિયાતોમાં બદલાવ
આધુનિક ફ્રન્ટિયર AI મોડેલ્સ સરળ વર્ઝન કરતાં નોંધપાત્ર રીતે અલગ પડે છે. Kimi K3 896 વિશિષ્ટ ઘટકો દર્શાવતી જટિલ મિશ્રણ-ઓફ-એક્સપર્ટ્સ (mixture-of-experts) આર્કિટેક્ચરનો ઉપયોગ કરે છે. જ્યારે યુઝર ક્વેરી મોકલે છે, ત્યારે સિસ્ટમ ફક્ત 16 નિષ્ણાતોનો સંપર્ક કરે છે, જેનો અર્થ છે કે લગભગ 104 બિલિયન પેરામીટર્સ એકસાથે સક્રિય થાય છે. જોકે આ 2.8 ટ્રિલિયન પેરામીટર્સને ચલાવવા કરતાં મોડેલને વધુ કાર્યક્ષમ બનાવે છે, તેને એડવાન્સ્ડ હાર્ડવેર મેનેજમેન્ટની જરૂર પડે છે. આર્કિટેક્ચર ઉપરાંત, આજની AI સિસ્ટમ્સ જટિલ તર્ક, જેમ કે સેલ્ફ-વેરિફિકેશન અને બેકટ્રેકિંગ (backtracking), કરે છે અને ઘણીવાર સર્ચ એન્જિન જેવા બાહ્ય ટૂલ્સનો ઉપયોગ કરે છે. આ બેકગ્રાઉન્ડ પ્રક્રિયાઓ સતત, હાઇ-સ્પીડ કમ્પ્યુટેશનલ સપોર્ટની માંગ કરે છે જે મોટાભાગનું સ્ટાન્ડર્ડ કન્ઝ્યુમર હાર્ડવેર પ્રદાન કરી શકતું નથી.
ઇન્ફ્રાસ્ટ્રક્ચર અને મેમરી અવરોધો
ટેકનિકલ અવરોધ નોંધપાત્ર છે. માત્ર Kimi K3 માટે 1.4 ટેરાબાઇટ વેઇટ્સ સ્ટોર કરવા માટે વિશાળ મેમરીની જરૂર પડે છે, જેમાં સામાન્ય રીતે મોડેલને લોડ કરવા માટે 18 હાઇ-એન્ડ H100 ગ્રાફિક્સ પ્રોસેસિંગ યુનિટ્સની જરૂર પડે છે. આને લાગુ કરવા માટે મિશ્રણ-ઓફ-એક્સપર્ટ્સ સેટઅપને મેનેજ કરવા માટે વિશિષ્ટ એન્જિનિયરિંગ કુશળતાની જરૂર પડે છે, કારણ કે આપેલ વિનંતી માટે મોડેલના કયા ચોક્કસ ભાગોની જરૂર પડશે તેની આગાહી કરવી પડકારજનક છે. આ મોડેલોમાં જોવા મળતી એડવાન્સ્ડ રીઝનિંગ અને ટૂલ-યુઝ ક્ષમતાઓ ફક્ત વેઇટ્સમાં સંગ્રહિત નથી; તે મોટા-પાયે ઓપરેશનલ અનુભવ દ્વારા રિફાઇન થાય છે જે કંપનીઓ સમય જતાં બનાવે છે.
ભારતીય ટેકનોલોજી પર અસર
મોડેલ ઉપલબ્ધતા અને ઓપરેશનલ ક્ષમતા વચ્ચેનું આ અંતર ભારતીય ટેકનોલોજી ક્ષેત્ર માટે મુખ્ય ચિંતાનો વિષય છે. ભારતે દરેક વધારાના યુઝર માટે ઓછી કિંમતે ડિજિટલ પબ્લિક ઇન્ફ્રાસ્ટ્રક્ચર સફળતાપૂર્વક બનાવ્યું છે. જોકે, હાઇ-એન્ડ AI મોડેલ્સ હાલમાં એક અલગ મોડેલ પર કાર્ય કરે છે, જ્યાં જરૂરી કમ્પ્યુટિંગ પાવરને કારણે દરેક યુઝરને સેવા આપવાની કિંમત ઊંચી રહે છે. Sarvam AI જેવી કંપનીઓ ભારતીય ઇન્ફ્રાસ્ટ્રક્ચર પર ખાસ બનેલી ઇન્ફરન્સ સેવાઓ પર ધ્યાન કેન્દ્રિત કરીને આને સંબોધવાનો પ્રયાસ કરી રહી છે. સ્થાનિક બિઝનેસ અને ડેવલપર્સ માટે, Kimi K3 જેવા મોડેલોને અપનાવવાનો માર્ગ ફાઇલો ડાઉનલોડ કરવા કરતાં વધુ, તેમને કાર્યક્ષમ રીતે ચલાવવા માટે જરૂરી વિશાળ, વિશિષ્ટ કમ્પ્યુટ ઇન્ફ્રાસ્ટ્રક્ચર વિકસાવવા અથવા ઍક્સેસ કરવા પર આધાર રાખે છે. રોકાણકારોએ ઘરેલું ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતાઓ આ ખર્ચ અને ક્ષમતા અંતરને કેવી રીતે ભરે છે તેના પર નજર રાખવી જોઈએ જેથી ભારતીય બજાર માટે એડવાન્સ્ડ AI વ્યવહારિક બની શકે.