इन्फेरेंसची गोल्ड रश तीव्र झाली
आर्टिफिशियल इंटेलिजन्स (AI) मधील गुंतवणूक आता इन्फेरन्सच्या महत्त्वपूर्ण टप्प्यावर केंद्रित होत आहे, जी प्रशिक्षित मॉडेल्सना प्रत्यक्ष ऍप्लिकेशन्समध्ये तैनात करण्याची प्रक्रिया आहे. या बदलामुळे लक्षणीय भांडवल आकर्षित होत आहे, AI इन्फेरेंस बाजारात 2030 पर्यंत सुमारे 19% च्या चक्रवृद्धि वार्षिक वाढीसह (CAGR) $250 अब्ज डॉलर्स पेक्षा जास्त वाढ अपेक्षित आहे. एका समांतर अंदाजानुसार, 2025 मध्ये बाजार $103.73 अब्ज डॉलर्सचा असेल आणि 2034 पर्यंत तो $312.64 अब्ज डॉलर्सपर्यंत वाढेल. जनरेटिव्ह AI आणि लार्ज लँग्वेज मॉडेल्समधील प्रगतीमुळे ही वाढ होत आहे, ज्यामुळे कंपन्या रिअल-टाइम डिप्लॉयमेंटला प्राधान्य देत आहेत आणि हायपरस्केलर्सना उच्च-गणनेच्या (compute-intensive) ऑपरेशन्सना समर्थन देण्यासाठी पायाभूत सुविधा मजबूत करण्यास प्रोत्साहन मिळत आहे. इन्फेरेंस दरम्यान या मॉडेल्स चालवण्याचा कार्यान्वयन खर्च (operational costs) आणि कार्यक्षमता ही एक प्रमुख समस्या आहे, ज्यामुळे ऑप्टिमायझेशन तंत्रज्ञान गुंतवणूकदारांसाठी अत्यंत आकर्षक ठरत आहे.
इन्फेरॅक्टचा धोरणात्मक उदय
ओपन-सोर्स vLLM प्रोजेक्टच्या निर्मात्यांच्या पाठिंब्याने तयार झालेल्या इन्फेरॅक्ट या नवीन व्यावसायिक संस्थेने $800 मिलियनचे व्हॅल्युएशन मिळवून $150 मिलियनचा सीड फंडिंग राउंड यशस्वीरित्या पूर्ण केला आहे. या फेरीचे नेतृत्व नामांकित व्हेंचर कॅपिटल फर्म्स, आंद्रेसेन होरोविट्झ (a16z) आणि लाईटस्पीड व्हेंचर पार्टनर्स यांनी संयुक्तपणे केले, ज्यामुळे इन्फेरेंस ऑप्टिमायझेशन क्षेत्रात गुंतवणूकदारांचा आत्मविश्वास वाढला आहे. सिक्वॉया कॅपिटल, अल्टिमीटर कॅपिटल, रेडपॉईंट व्हेंचर्स आणि झेनफंड यांसारख्या कंपन्यांकडून अतिरिक्त गुंतवणूक मिळाली. इन्फेरॅक्टचे मुख्य ध्येय हे त्याच्या व्यापकपणे स्वीकारल्या गेलेल्या ओपन-सोर्स vLLM इंजिनच्या आधारावर, कार्यान्वयन खर्च कमी करून आणि मॉडेलची स्थिरता व गती सुधारून AI इन्फेरेंसला चालना देणे आहे. vLLM प्रोजेक्ट स्वतः डेटाब्रिक्सचे सह-संस्थापक आयन स्टोइका यांच्या UC बर्कले लॅबमधून आला आहे आणि आता तो पायटॉर्च फाउंडेशन अंतर्गत व्यवस्थापित केला जातो, जो ओपन-सोर्स समुदायासाठी सतत वचनबद्धता दर्शवतो.
AI इन्फ्रास्ट्रक्चरमधील स्पर्धात्मक प्रवाह
vLLM चे इन्फेरॅक्टमध्ये व्यावसायिकरण होणे, हे इतर यशस्वी ओपन-सोर्स AI प्रोजेक्ट्समध्ये दिसलेल्या ट्रेंडशी जुळते. विशेषतः, SGLang प्रोजेक्ट RadixArk मध्ये विकसित झाला आहे, ज्याने Accel च्या नेतृत्वाखालील फेरीत सुमारे $400 मिलियनचे व्हॅल्युएशन मिळवले. हे विकास AI डिप्लॉयमेंटसाठी विशेष सोल्युशन्स वेगाने व्हेंचर कॅपिटल आकर्षित करत असलेल्या अत्यंत स्पर्धात्मक वातावरणावर भर देतात. स्टार्टअप्स व्यतिरिक्त, प्रमुख तंत्रज्ञान कंपन्या देखील इन्फेरेंस ऑप्टिमायझेशनचा आक्रमकपणे पाठपुरावा करत आहेत. उदाहरणार्थ, Amazon Web Services (AWS) Inferentia आणि Trainium सारख्या त्याच्या कस्टम AI चिप्सचा वापर करून इन्फेरेंसचा खर्च आणि लेटेंसी लक्षणीयरीत्या कमी करत आहे, आणि NVIDIA सारख्या स्थापित हार्डवेअर प्रदात्यांविरुद्ध स्वतःची स्थिती मजबूत करत आहे. क्लाउड सेवा प्रदात्यांकडून AI पायाभूत सुविधांमधील वाढत्या गुंतवणुकीमुळे, 2026 मध्ये AI सर्व्हर बाजारात 28% पेक्षा जास्त वार्षिक वाढ अपेक्षित आहे. लाईटस्पीड व्हेंचर पार्टनर्स सारख्या व्हेंचर कॅपिटल कंपन्या AI क्षेत्रात मोठ्या प्रमाणात गुंतवणूक करत आहेत; त्यांनी 165 हून अधिक AI-नेटिव्ह कंपन्यांमध्ये $5.5 अब्ज डॉलर्सपेक्षा जास्त गुंतवणूक केली आहे, जी अत्याधुनिक AI तंत्रज्ञानासाठी गुंतवणूकदारांची सतत आवड दर्शवते.