फ्रेंच स्टार्टअप Kog (Kog) हे एका खास सॉफ्टवेअरवर काम करत आहे. या सॉफ्टवेअरमुळे सध्याच्या सामान्य डेटा सेंटर हार्डवेअरवर (datacenter hardware) AI Inference ची गती तब्बल 30 पट वाढू शकते, असा कंपनीचा दावा आहे. मात्र, ही कंपनी खाजगी (private) असून भारतीय किंवा जागतिक शेअर बाजारात लिस्टेड नाही.
सॉफ्टवेअरने AI मध्ये क्रांती?
पॅरिस-आधारित स्टार्टअप Kog, ज्याची स्थापना 2023 मध्ये झाली, ते नवीन हार्डवेअर बनवण्याऐवजी सॉफ्टवेअर ऑप्टिमायझेशनवर (software optimization) लक्ष केंद्रित करून आर्टिफिशियल इंटेलिजन्स (Artificial Intelligence) मॉडेल्स चालवण्याची पद्धत बदलण्याचा प्रयत्न करत आहे. कंपनीचे उद्दिष्ट आहे की एंटरप्राइजेस (enterprises) सध्या वापरत असलेल्या NVIDIA च्या H200 आणि AMD च्या MI300X सारख्या स्टँडर्ड डेटा सेंटर ग्राफिक्स प्रोसेसिंग युनिट्स (GPUs) मधून लक्षणीयरीत्या अधिक परफॉर्मन्स (performance) मिळवणे.
AI ची गती आणि खर्च कमी करण्याची गरज
सध्याच्या AI जगात, मोठ्या लँग्वेज मॉडेल्स (LLMs) वापरणाऱ्या व्यवसायांसाठी गती (speed) आणि खर्च (cost) या मोठ्या समस्या आहेत. अनेक कंपन्या यावर उपाय म्हणून खास AI चिप्स बनवत आहेत. मात्र, Kog चा विश्वास आहे की चांगल्या सॉफ्टवेअर इंजिनिअरिंगमुळे (software engineering) सध्याच्या हार्डवेअरमधील सुप्त क्षमता (latent power) बाहेर काढता येईल. तांत्रिक प्रदर्शनांमध्ये, कंपनीने लहान मॉडेल्ससाठी प्रति सेकंद 3,000 टोकन्स (tokens) पर्यंत वेग दाखवला आहे. त्यांचे ध्येय आहे की ही कार्यक्षमता मोठ्या आणि अधिक गुंतागुंतीच्या AI सिस्टीम्सवर लागू करणे.
उद्योगासाठी काय फायदा?
एंटरप्राइज युजर्ससाठी, AI मॉडेलद्वारे उत्तर निर्माण करण्याच्या या 'इन्फरन्स' (inference) प्रक्रियेवर लक्ष केंद्रित केल्याने प्रतीक्षा वेळ (wait times) आणि ऑपरेशनल खर्च (operational costs) कमी होऊ शकतो. कंपनीने 200 हून अधिक व्यावसायिक लीड्स (business leads) आकर्षित केल्याचे सांगितले आहे. यावरून असे दिसून येते की एंटरप्राइजेस त्यांच्या संपूर्ण हार्डवेअर इन्फ्रास्ट्रक्चरमध्ये (infrastructure) मोठे बदल न करता त्यांचे AI वर्कफ्लो (workflows) जलद करण्याचे मार्ग शोधत आहेत.
गुंतवणूकदारांसाठी महत्त्वाची माहिती
भारतातील गुंतवणूकदारांनी हे लक्षात घेणे महत्त्वाचे आहे की Kog सध्या एक खाजगी कंपनी आहे. ती नॅशनल स्टॉक एक्सचेंज (NSE) किंवा बॉम्बे स्टॉक एक्सचेंज (BSE) वर लिस्टेड नाही आणि तिचे शेअर्स सार्वजनिकरित्या खरेदीसाठी उपलब्ध नाहीत. कंपनीने Bpifrance सारख्या गुंतवणूकदारांकडून सुमारे $5 दशलक्ष (million) निधी उभारला आहे, परंतु तिने अजून इनिशियल पब्लिक ऑफरिंग (IPO) केलेली नाही.
पुढील आव्हाने
सुरुवातीच्या टप्प्यातील आश्वासक कामगिरीनंतरही, कंपनीला मोठे व्यावसायिक धोके (business risks) आहेत. या सॉफ्टवेअर पद्धतीला लहान मॉडेल्सवरून मोठ्या, मुख्य प्रवाहातील LLMs पर्यंत स्केल करणे हे एक मोठे इंजिनिअरिंग आव्हान आहे. शिवाय, AI इन्फ्रास्ट्रक्चर मार्केटमध्ये प्रचंड स्पर्धा आहे, जिथे मोठ्या टेक कंपन्या आणि इतर चांगल्या प्रकारे निधी असलेल्या स्टार्टअप्स समान कार्यक्षमतेच्या समस्या सोडवण्यासाठी स्पर्धा करत आहेत. Kog सारख्या तरुण कंपनीला, लहान टीमसह, आपली ऑपरेशन्स वाढवण्याची आणि अधिक गुंतागुंतीच्या मॉडेल्सवर काम करताना कार्यक्षमतेतील ही वाढ टिकवून ठेवण्याची क्षमता सिद्ध करावी लागेल.
पुढील मैलाचा दगड
स्टार्टअपचे पुढील मोठे लक्ष्य हे एका प्रमुख इंडस्ट्री मॉडेलवर 10 पट (10x) वेग सुधारणा दाखवणे आहे. कंपनीला अपेक्षा आहे की ते येत्या काही महिन्यांत हे लक्ष्य गाठतील. या तांत्रिक ध्येयातील यश कंपनीच्या भविष्यातील निधी उभारणी आणि दीर्घकालीन एंटरप्राइज भागीदारी (partnerships) सुरक्षित करण्याच्या क्षमतेसाठी महत्त्वाचे ठरेल.