AI Model Routing: కంపెనీల కొత్త వ్యూహం.. భారీగా తగ్గుతున్న AI ఖర్చులు

TECHNOLOGY
Whalesbook Logo
AuthorNisha Dubey|Published at:
AI Model Routing: కంపెనీల కొత్త వ్యూహం.. భారీగా తగ్గుతున్న AI ఖర్చులు

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) వాడకంలో పెరుగుతున్న ఖర్చులను కట్టడి చేసేందుకు కార్పొరేట్ సంస్థలు 'AI మోడల్ రూటింగ్' వైపు మొగ్గు చూపుతున్నాయి. చిన్న పనులకు తక్కువ ధర ఉన్న మోడల్స్‌ను, క్లిష్టమైన పనులకు హై-ఎండ్ మోడల్స్‌ను వాడటం ద్వారా Snowflake, Databricks వంటి ప్లాట్‌ఫారమ్‌లు కంపెనీలకు ఖర్చులను తగ్గించే పరిష్కారాలను అందిస్తున్నాయి.

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI)ని వ్యాపారాల్లో భాగం చేసుకోవడం కంపెనీలకు ఇప్పుడు ఖరీదైన వ్యవహారంగా మారింది. ముఖ్యంగా ప్రాసెసింగ్ కోసం అయ్యే 'టోకెన్ కాస్ట్' (Token Costs) కంపెనీల బడ్జెట్లను తలకిందులు చేస్తోంది. చిన్నపాటి ప్రయోగాల స్థాయి నుంచి పూర్తిస్థాయి ఉత్పత్తి (Production) స్థాయికి మారేసరికి, ప్రతి చిన్న పనికి కూడా ఖరీదైన మోడల్స్‌ను వాడటం ఆర్థికంగా భారం అవుతోంది. దీన్ని అరికట్టేందుకు 'AI మోడల్ రూటింగ్' అనే కొత్త పద్ధతిని కంపెనీలు అనుసరిస్తున్నాయి. ఇది పనుల తీవ్రతను బట్టి తక్కువ ఖర్చుతో కూడిన AI మోడల్స్ వైపు డేటాను మళ్లిస్తుంది.

వన్-సైజ్-ఫిట్స్-ఆల్ ఇక లేదు

గతంలో కంపెనీలు అన్ని పనులకు ఒకే రకమైన ఖరీదైన 'ఫ్రాంటియర్ AI మోడల్'ను వాడేవి. ఇది చిన్న చిన్న పనులకు ఖరీదైన ఇంజిన్‌ను వాడటం లాంటిది. ఇప్పుడు ఈ 'మోడల్ రూటింగ్' అనేది ఒక ఇంటెలిజెంట్ ట్రాఫిక్ కంట్రోలర్‌లా పనిచేస్తుంది. టెక్స్ట్ సమ్మరైజేషన్ వంటి సాధారణ పనులను తక్కువ ఖర్చుతో కూడిన 'ఓపెన్-వెయిట్ మోడల్స్'కు, క్లిష్టమైన ప్లానింగ్ వంటి పనులను ఖరీదైన మోడల్స్‌కు మళ్లిస్తుంది. దీనివల్ల క్వాలిటీ తగ్గకుండానే ఆపరేషనల్ ఖర్చులను భారీగా తగ్గించుకోవచ్చు.

ప్లాట్‌ఫారమ్ ప్రొవైడర్ల పాత్ర

ఈ ఖర్చులను నియంత్రించడానికి Snowflake తన 'Cortex AI Gateway'ని, అలాగే Databricks తన 'Unity Gateway'ని అందుబాటులోకి తెచ్చాయి. వీటి ద్వారా అడ్మినిస్ట్రేటర్లు కంపెనీలో AI వినియోగంపై పరిమితులను విధించవచ్చు మరియు ఖర్చులను ఎప్పటికప్పుడు మానిటర్ చేయవచ్చు.

ఇక్కడ ఒక ఆసక్తికరమైన విషయం ఉంది. Snowflake పబ్లిక్ లిస్టెడ్ కంపెనీ కాబట్టి, ఇన్వెస్టర్లు నేరుగా దీని వృద్ధిలో భాగస్వాములు కావచ్చు. అయితే Databricks ప్రైవేట్ కంపెనీగా ఉన్నప్పటికీ, AI మౌలిక సదుపాయాల కల్పనలో కీలక పాత్ర పోషిస్తోంది. ఈ రెండు కంపెనీలు కూడా 'కాస్ట్ ఆప్టిమైజేషన్'ను తమ ప్రధాన బలంగా మార్చుకుంటున్నాయి.

సవాళ్లు మరియు రిస్కులు

పరిశోధనల ప్రకారం, దాదాపు 89% సంస్థలు ఈ ఏడాది తమ AI వ్యూహాలను మార్చుకోవాల్సి వచ్చింది. కారణం-ఖర్చులలో అనిశ్చితి మరియు పెట్టుబడిపై ఆశించిన స్థాయిలో రాబడి (ROI) రాకపోవడం. డేటా సెక్యూరిటీ మరియు టెక్నికల్ ఇంటిగ్రేషన్ సవాళ్లు కూడా ఈ రంగంలో ఎదురవుతున్నాయి. రాబోయే రోజుల్లో ఏ కంపెనీలు ఈ ఖర్చులను సమర్థవంతంగా మేనేజ్ చేస్తూ లాభాలను కాపాడుకుంటాయో చూడాల్సి ఉంది.

Disclaimer: This article is published for informational purposes only. This is not a buy sell recommendation.