AI Model Routing: ਵਧਦੇ ਖਰਚਿਆਂ ਤੋਂ ਪ੍ਰੇਸ਼ਾਨ ਕੰਪਨੀਆਂ ਦਾ ਨਵਾਂ ਦਾਅ, ਜਾਣੋ ਕਿਵੇਂ ਘਟੇਗਾ Token Cost

TECHNOLOGY
Whalesbook Logo
AuthorMitali Deshmukh|Published at:
AI Model Routing: ਵਧਦੇ ਖਰਚਿਆਂ ਤੋਂ ਪ੍ਰੇਸ਼ਾਨ ਕੰਪਨੀਆਂ ਦਾ ਨਵਾਂ ਦਾਅ, ਜਾਣੋ ਕਿਵੇਂ ਘਟੇਗਾ Token Cost

AI ਦੀ ਵਧਦੀ ਲਾਗਤ ਨੇ ਕੰਪਨੀਆਂ ਨੂੰ ਆਪਣੀ ਰਣਨੀਤੀ ਬਦਲਣ ਲਈ ਮਜਬੂਰ ਕਰ ਦਿੱਤਾ ਹੈ। ਹੁਣ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ 'AI Model Routing' ਨੂੰ ਅਪਣਾ ਰਹੀਆਂ ਹਨ, ਜਿੱਥੇ ਛੋਟੇ ਕੰਮਾਂ ਲਈ ਸਸਤੇ ਮਾਡਲਾਂ ਅਤੇ ਗੁੰਝਲਦਾਰ ਕੰਮਾਂ ਲਈ ਮਹਿੰਗੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ।

ਇੱਕੋ ਮਾਡਲ 'ਤੇ ਨਿਰਭਰਤਾ ਹੁਣ ਬੀਤੇ ਦੀ ਗੱਲ

ਪਹਿਲਾਂ ਕੰਪਨੀਆਂ ਸਾਰੇ ਕੰਮਾਂ ਲਈ ਇੱਕੋ ਹੀ ਮਹਿੰਗੇ AI ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਸਨ, ਜੋ ਕਿ ਬਹੁਤ ਹੀ ਮਹਿੰਗਾ ਸਾਬਤ ਹੋ ਰਿਹਾ ਸੀ। 'AI Model Routing' ਇੱਕ ਬੁੱਧੀਮਾਨ ਟ੍ਰੈਫਿਕ ਕੰਟਰੋਲਰ ਵਾਂਗ ਕੰਮ ਕਰਦਾ ਹੈ। ਇਹ ਸਧਾਰਨ ਕੰਮਾਂ ਜਿਵੇਂ ਕਿ ਟੈਕਸਟ ਨੂੰ ਸਮਝਣਾ ਜਾਂ ਡੇਟਾ ਐਕਸਟਰੈਕਸ਼ਨ ਨੂੰ ਸਸਤੇ ਮਾਡਲਾਂ ਵੱਲ ਭੇਜਦਾ ਹੈ, ਜਦਕਿ ਗੁੰਝਲਦਾਰ ਕੰਮਾਂ ਲਈ ਹੀ ਉੱਚ-ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇਸ ਨਾਲ ਆਪਰੇਸ਼ਨਲ ਖਰਚਿਆਂ ਵਿੱਚ ਭਾਰੀ ਕਮੀ ਆਉਣ ਦੀ ਉਮੀਦ ਹੈ।

ਪਲੇਟਫਾਰਮ ਪ੍ਰੋਵਾਈਡਰਾਂ ਦੀ ਭੂਮਿਕਾ

Snowflake ਨੇ ਆਪਣਾ Cortex AI Gateway ਲਾਂਚ ਕੀਤਾ ਹੈ, ਉੱਥੇ ਹੀ Databricks ਨੇ Unity Gateway ਰਾਹੀਂ ਅਜਿਹੀ ਸਹੂਲਤ ਦਿੱਤੀ ਹੈ। ਇਹ ਟੂਲ ਕੰਪਨੀਆਂ ਨੂੰ ਬਜਟ 'ਤੇ ਕਾਬੂ ਰੱਖਣ, ਵਰਤੋਂ ਨੂੰ ਮਾਨੀਟਰ ਕਰਨ ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ ਯਕੀਨੀ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ। ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਹ ਸਮਝਣਾ ਜ਼ਰੂਰੀ ਹੈ ਕਿ Snowflake ਜਿੱਥੇ ਸਟਾਕ ਮਾਰਕੀਟ 'ਤੇ ਲਿਸਟਡ ਹੈ, ਉੱਥੇ Databricks ਅਜੇ ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਕੰਪਨੀ ਹੈ।

ਚੁਣੌਤੀਆਂ ਅਤੇ ਅੱਗੇ ਦਾ ਰਾਹ

ਇਹ ਤਬਦੀਲੀ ਬਿਨਾਂ ਮੁਸ਼ਕਲਾਂ ਦੇ ਨਹੀਂ ਹੈ। ਖੋਜ ਦੱਸਦੀ ਹੈ ਕਿ ਲਗਭਗ 89% ਸੰਸਥਾਵਾਂ ਨੂੰ ਇਸ ਸਾਲ ਆਪਣੇ AI ਪਲਾਨਾਂ ਨੂੰ ਦੁਬਾਰਾ ਤਿਆਰ ਕਰਨਾ ਪਿਆ ਹੈ, ਜਿਸਦਾ ਮੁੱਖ ਕਾਰਨ ਲਾਗਤ ਵਿੱਚ ਉਤਰਾਅ-ਚੜ੍ਹਾਅ ਅਤੇ ROI (Return on Investment) ਹਾਸਲ ਕਰਨ ਵਿੱਚ ਮੁਸ਼ਕਲ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਕੰਪਨੀਆਂ ਸਕੇਲ ਕਰ ਰਹੀਆਂ ਹਨ, ਉਹਨਾਂ ਲਈ ਇਹਨਾਂ ਖਰਚਿਆਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨਾ ਮਾਰਜਿਨ ਬਰਕਰਾਰ ਰੱਖਣ ਲਈ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੋ ਗਿਆ ਹੈ।

Disclaimer: This article is published for informational purposes only. This is not a buy sell recommendation.