AI செயல்பாட்டு செலவுகள் அதிகரிப்பால் நிறுவனங்கள் புதிய வியூகத்தை கையாளுகின்றன. எளிமையான வேலைகளுக்கு சிறிய AI மாடல்களையும், கடினமான வேலைகளுக்கு பெரிய மாடல்களையும் பயன்படுத்தும் 'AI Model Routing' முறை தற்போது பிரபலமாகி வருகிறது.
செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பத்தை வணிக செயல்பாடுகளில் இணைப்பது நிறுவனங்களுக்கு பெரிய பலனை அளித்தாலும், இப்போது ஒரு நிதிச் சிக்கல் உருவெடுத்துள்ளது. தரவுகளைச் செயலாக்குவதற்கு ஆகும் 'டோக்கன் செலவுகள்' (Token Costs) கட்டுக்கடங்காமல் உயர்ந்து வருகின்றன. சிறிய அளவிலான சோதனை முயற்சிகளில் இருந்து, பெரிய அளவிலான தயாரிப்பு சூழலுக்கு நிறுவனங்கள் மாறும்போது, ஒவ்வொரு வேலைக்கும் விலை உயர்ந்த AI மாடல்களைப் பயன்படுத்துவது லாபகரமாக இருப்பதில்லை. இதைச் சரிசெய்ய, நிறுவனங்கள் இப்போது 'AI Model Routing' என்ற புத்திசாலித்தனமான உத்தியை நோக்கி நகர்ந்துள்ளன.
ஒரே மாடல் அல்ல, தேவைகேற்ப மாடல்!
முன்பெல்லாம் எல்லா வேலைகளுக்கும் ஒரே விலையுயர்ந்த AI மாடலை நிறுவனங்கள் பயன்படுத்தின. இது ஒரு சாதாரண வேலைக்குக் கூட பிரம்மாண்டமான எஞ்சினைப் பயன்படுத்துவது போன்ற வீண் செலவு. 'Model Routing' என்பது ஒரு டிராபிக் போலீஸ் போல செயல்படுகிறது. இது எளிமையான வேலைகளை (உதாரணத்திற்கு: சுருக்கம் எழுதுதல், டேட்டா எடுப்பது) மிகக் குறைந்த செலவில் இயங்கும் சிறிய மாடல்களுக்கு மாற்றுகிறது. சிக்கலான திட்டமிடல் மற்றும் ஆராய்ச்சிகளுக்கு மட்டுமே அதிக விலையுள்ள மாடல்களை ஒதுக்குகிறது. இதன் மூலம் தரத்தில் சமரசம் செய்யாமல் செலவை பெருமளவு குறைக்க முடிகிறது.
Snowflake மற்றும் Databricks-ன் பங்கு
இந்த செலவு மேலாண்மைக்காக பல தொழில்நுட்ப நிறுவனங்கள் புதிய வசதிகளை அறிமுகப்படுத்தியுள்ளன. Snowflake தனது 'Cortex AI Gateway' மூலம் நிறுவனங்களுக்கு பட்ஜெட் கட்டுப்பாடுகளை வழங்குகிறது. அதேபோல், Databricks நிறுவனமும் தனது 'Unity Gateway'-ல் இத்தகைய வசதிகளை சேர்த்துள்ளது. இவை நிர்வாகிகளுக்கு எந்தத் துறையில் எவ்வளவு செலவாகிறது என்பதைக் கண்காணிக்கவும், டேட்டா பாதுகாப்பை உறுதி செய்யவும் உதவுகின்றன.
முதலீட்டாளர்களைப் பொறுத்தவரை, Snowflake ஒரு பொதுப் பங்குச் சந்தை நிறுவனம் என்பதால் முதலீட்டாளர்கள் நேரடியாகப் பயனடையலாம். Databricks இன்னும் தனியார் நிறுவனமாகவே இருந்தாலும், AI உள்கட்டமைப்பில் அதன் பங்கு முக்கியமானது.
சவால்களும் வாய்ப்புகளும்
சமீபத்திய ஆய்வுகளின்படி, சுமார் 89% நிறுவனங்கள் இந்த ஆண்டு தங்கள் AI திட்டங்களை மீண்டும் மாற்றியமைக்க வேண்டிய கட்டாயத்திற்குத் தள்ளப்பட்டுள்ளன. செலவு ஏற்ற இறக்கம் மற்றும் முதலீட்டின் மீதான லாபத்தை (ROI) எட்டுவதில் உள்ள சிரமங்களே இதற்கு முக்கிய காரணம். தரவு இறையாண்மை, தொழில்நுட்ப சிக்கல்கள் மற்றும் தரக் குறைபாடு போன்றவை இன்னும் சவாலாகவே உள்ளன. நிறுவனங்கள் லாபத்தை தக்கவைக்க இந்த 'AI Model Routing' இனி ஒரு ஆடம்பரம் அல்ல, அவசியமான ஒன்று என்பது தெளிவாகிறது.