AI Model Routing: कंपन्यांचा वाढता खर्च आटोक्यात आणण्यासाठी नवीन शक्कल

एआय तंत्रज्ञानाचा स्वीकार वेगाने होत असला, तरी त्यासाठी येणारा 'टोकन कॉस्ट' (Token Costs) कंपन्यांसाठी डोकेदुखी ठरत आहे. सुरुवातीचे छोटे प्रयोग सोडून आता कंपन्या मोठ्या प्रमाणावर एआय उत्पादने विकसित करत आहेत, मात्र प्रत्येक टास्कसाठी महागडे मॉडेल्स वापरणे आर्थिकदृष्ट्या परवडत नाही. यामुळेच आता 'AI Model Routing' ही नवी रणनीती चर्चेत आली आहे.

साधे काम, स्वस्त मॉडेल

पूर्वी सर्व कामांसाठी एकाच महागड्या मॉडेलचा वापर केला जात असे, जे एका हाय-परफॉर्मन्स इंजिनवर साधी सायकल चालवण्यासारखे होते. 'मॉडल राउटिंग' हे ट्रॅफिक कंट्रोलरसारखे काम करते. यात साध्या कामांसाठी स्वस्त मॉडेल्स निवडली जातात, तर केवळ अत्यंत क्लिष्ट कामांसाठी महागड्या मॉडेल्सचा वापर केला जातो. यामुळे कामाची गुणवत्ता न घालवता कंपनीचा खर्च लक्षणीयरीत्या कमी होतो.

प्लॅटफॉर्म्सची भूमिका

Snowflake आणि Databricks सारख्या कंपन्या या क्षेत्रात पुढाकार घेत आहेत. Snowflake ने 'Cortex AI Gateway' तर Databricks ने 'Unity Gateway' लाँच केले आहे. या साधनांमुळे आयटी प्रशासकांना खर्चावर नियंत्रण ठेवणे आणि डेटा सुरक्षितता राखणे सोपे झाले आहे. Snowflake ही सार्वजनिक कंपनी असल्याने गुंतवणूकदारांसाठी ही एक महत्त्वाची संधी मानली जाते, तर Databricks अजूनही खासगी कंपनी आहे.

आव्हाने अजूनही कायम

एका सर्वेक्षणातून समोर आले आहे की, सुमारे 89% संस्थांना त्यांच्या एआय धोरणांमध्ये बदल करावा लागला आहे. याचे मुख्य कारण म्हणजे खर्चातील अस्थिरता आणि परतावा (ROI) मिळवण्यात येणारे अडथळे. डेटा सोव्हरेनिटी (Data Sovereignty) आणि तांत्रिक गुंतागुंत यांसारखी आव्हाने अजूनही कंपन्यांसमोर आहेत. भविष्यात कोणती कंपनी या खर्चाचे गणित नीट हाताळते, यावरच त्यांचा खरा नफा अवलंबून असेल.