AI Model Routing: એન્ટરપ્રાઈઝ કંપનીઓનો નવો દાવ, વધતા ખર્ચને કાબૂમાં લેવા અપનાવી રહ્યા છે 'સ્માર્ટ રુટિંગ'

TECHNOLOGY
Whalesbook Logo
AuthorAman Ahuja|Published at:
AI Model Routing: એન્ટરપ્રાઈઝ કંપનીઓનો નવો દાવ, વધતા ખર્ચને કાબૂમાં લેવા અપનાવી રહ્યા છે 'સ્માર્ટ રુટિંગ'

AI ના વધતા ઓપરેશનલ ખર્ચને કારણે કંપનીઓની વ્યૂહરચના બદલાઈ રહી છે. હવે Snowflake અને Databricks જેવી કંપનીઓ 'AI મોડલ રુટિંગ'નો ઉપયોગ કરી રહી છે, જેથી સસ્તા અને મોંઘા મોડલ્સને જરૂરિયાત મુજબ વાપરી શકાય અને પ્રોફિટ વધારી શકાય.

આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના યુગમાં કોર્પોરેટ જગત સામે હવે સૌથી મોટો પડકાર છે ડેટા પ્રોસેસિંગ માટેનો વધતો ખર્ચ, જેને ટેકનિકલ ભાષામાં 'ટોકન કોસ્ટ' કહેવાય છે. જ્યારે કંપનીઓ નાના પાયાના પ્રોજેક્ટ્સમાંથી મોટા સ્તરના પ્રોડક્શન લેવલ પર જાય છે, ત્યારે દરેક કામ માટે મોંઘા મોડલ્સનો ઉપયોગ કરવો આર્થિક રીતે બોજ બની રહ્યો છે. આને રોકવા માટે હવે 'AI મોડલ રુટિંગ' એક ગેમ-ચેન્જર સાબિત થઈ રહ્યું છે, જે કામની જટિલતા મુજબ આપોઆપ સસ્તું કે મોંઘું મોડલ પસંદ કરે છે.

વન-સાઈઝ-ફિટ્સ-ઓલ અભિગમનો અંત

પહેલા કંપનીઓ દરેક નાની-મોટી કામગીરી માટે એક જ મોંઘા AI મોડલ પર નિર્ભર રહેતી હતી, જે অনেকটা જરૂર કરતા વધારે શક્તિશાળી એન્જિન વાપરવા જેવું હતું. મોડલ રુટિંગ એક ટ્રાફિક કંટ્રોલર જેવું કામ કરે છે. તે સિમ્પલ કામો જેવા કે ટેક્સ્ટ સમરાઈઝેશન કે ડેટા એક્સટ્રેક્શનને સસ્તા મોડલ્સ તરફ મોકલે છે, જ્યારે કોમ્પ્લેક્સ બિઝનેસ પ્લાનિંગ માટે જ મોંઘા મોડલ્સનો ઉપયોગ થાય છે. આનાથી ક્વોલિટી સાથે સમાધાન કર્યા વગર ઓપરેશનલ ખર્ચમાં ધરખમ ઘટાડો થાય છે.

પ્લેટફોર્મ પ્રોવાઈડર્સની ભૂમિકા

Snowflake એ તેનું 'Cortex AI Gateway' લોન્ચ કર્યું છે, જ્યારે Databricks એ 'Unity Gateway' દ્વારા આવી સુવિધાઓ પૂરી પાડી છે. આ ટૂલ્સ એડમિનિસ્ટ્રેટર્સને ખર્ચ પર કાબૂ રાખવા અને ડેટા સિક્યોરિટી જાળવવામાં મદદ કરે છે. રોકાણકારો માટે જાણવું જરૂરી છે કે Snowflake એક લિસ્ટેડ કંપની છે, જે આ ગ્રોથનો સીધો લાભ મેળવી શકે છે, જ્યારે Databricks હજુ પ્રાઇવેટ છે.

સ્કેલેબિલિટીનો પડકાર

આ રાહ સરળ નથી. રિસર્ચ મુજબ 89% કંપનીઓએ આ વર્ષે ખર્ચની અસ્થિરતાને કારણે પોતાના AI પ્લાન ફરીથી તૈયાર કરવા પડ્યા છે. ડેટાની ગુણવત્તા અને વિવિધ મોડલ્સને એકસાથે ઇન્ટિગ્રેટ કરવા જેવા ટેકનિકલ પડકારો હજુ પણ મોટા છે. કંપનીઓ હવે માત્ર AI વાપરવા માટે નહીં, પણ નફાકારક રીતે ચલાવવા માટે આ ટેકનોલોજી તરફ વળી રહી છે.

Disclaimer: This article is published for informational purposes only. This is not a buy sell recommendation.