Kog का कमाल: बिना नया हार्डवेयर, बस सॉफ्टवेयर से AI की स्पीड 30 गुना बढ़ाएगी!

TECHNOLOGY
Whalesbook Logo
AuthorNeha Patil|Published at:
Kog का कमाल: बिना नया हार्डवेयर, बस सॉफ्टवेयर से AI की स्पीड 30 गुना बढ़ाएगी!

फ्रेंच स्टार्टअप Kog एक ऐसा सॉफ्टवेयर बना रहा है जो मौजूदा डेटासेंटर हार्डवेयर पर AI इनफेरेंस (AI inference) की स्पीड को कई गुना बढ़ा सकता है। कंपनी का दावा है कि इसकी एफिशिएंसी में बिजनेस जगत से काफी दिलचस्पी है, लेकिन यह एक प्राइवेट कंपनी है और भारतीय या ग्लोबल स्टॉक एक्सचेंजों पर लिस्टेड नहीं है।

सॉफ्टवेयर से AI को मिलेगी रॉकेट स्पीड!

पेरिस की स्टार्टअप Kog, जिसकी स्थापना 2023 में हुई थी, आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स के काम करने के तरीके को बदलने की कोशिश कर रही है। कंपनी का फोकस नए हार्डवेयर बनाने के बजाय सॉफ्टवेयर ऑप्टिमाइजेशन पर है। उनका लक्ष्य एंटरप्राइजेज द्वारा पहले से इस्तेमाल किए जा रहे स्टैंडर्ड डेटासेंटर ग्राफिक्स प्रोसेसिंग यूनिट्स (GPUs), जैसे NVIDIA के H200 और AMD के MI300X, से कहीं ज्यादा बेहतर परफॉर्मेंस निकालना है।

स्पीड और लागत की टेंशन खत्म!

आज के AI माहौल में, लार्ज लैंग्वेज मॉडल्स (LLMs) को तैनात करने वाली कंपनियों के लिए स्पीड और लागत सबसे बड़ी रुकावटें हैं। जहां कई कंपनियाँ इन दिक्कतों को दूर करने के लिए खास AI चिप्स बना रही हैं, वहीं Kog का दांव इस बात पर है कि बेहतर सॉफ्टवेयर इंजीनियरिंग मौजूदा हार्डवेयर की छुपी हुई क्षमता को बाहर ला सकती है। कंपनी ने छोटे मॉडल्स के लिए 3,000 टोकन प्रति सेकंड तक की स्पीड का प्रदर्शन किया है, और अब उनका लक्ष्य इस एफिशिएंसी को बड़े और अधिक जटिल AI सिस्टम पर लागू करना है।

एंटरप्राइजेज के लिए क्या है खास?

एंटरप्राइज यूजर्स के लिए, इनफेरेंस (AI मॉडल द्वारा जवाब उत्पन्न करने की प्रक्रिया) पर यह फोकस सैद्धांतिक रूप से प्रतीक्षा समय और परिचालन लागत को कम कर सकता है। कंपनी का कहना है कि उन्होंने 200 से ज्यादा बिजनेस लीड्स को आकर्षित किया है, जो दर्शाता है कि एंटरप्राइजेज अपने AI वर्कफ़्लोज़ को तेज़ बनाने के तरीकों की सक्रिय रूप से तलाश कर रहे हैं, बिना अपने पूरे हार्डवेयर इंफ्रास्ट्रक्चर को बदले।

भारतीय निवेशकों के लिए जरूरी बात

यह समझना महत्वपूर्ण है कि Kog वर्तमान में एक प्राइवेट कंपनी है। यह नेशनल स्टॉक एक्सचेंज (NSE) या बॉम्बे स्टॉक एक्सचेंज (BSE) पर लिस्टेड नहीं है, और इसके शेयर पब्लिक ट्रेडिंग के लिए उपलब्ध नहीं हैं। कंपनी ने Bpifrance जैसे निवेशकों से लगभग $5 मिलियन का फंडिंग जुटाई है, लेकिन अभी तक इनिशियल पब्लिक ऑफरिंग (IPO) नहीं किया है।

आगे की राह और चुनौतियाँ

शुरुआती दौर के शानदार प्रदर्शन के बावजूद, कंपनी को महत्वपूर्ण व्यावसायिक जोखिमों का सामना करना पड़ रहा है। इस सॉफ्टवेयर मेथोडोलॉजी को छोटे मॉडल्स से मेनस्ट्रीम, बड़े पैमाने पर LLMs तक स्केल करना एक कठिन इंजीनियरिंग चुनौती है। इसके अलावा, AI इंफ्रास्ट्रक्चर मार्केट बेहद प्रतिस्पर्धी है, जहाँ भारी भरकम टेक दिग्गज और अन्य अच्छी फंडिंग वाली स्टार्टअप्स समान एफिशिएंसी समस्याओं को हल करने के लिए होड़ कर रही हैं। Kog, एक युवा फर्म के रूप में, को यह साबित करना होगा कि वह अपने ऑपरेशंस को स्केल कर सकती है और अधिक जटिल मॉडल्स से निपटते हुए इन परफॉर्मेंस गेन्स को बनाए रख सकती है।

स्टार्टअप का अगला बड़ा मील का पत्थर एक प्रमुख इंडस्ट्री मॉडल पर 10x स्पीड सुधार का प्रदर्शन करना है, जो कि कंपनी आने वाले महीनों में हासिल करने की उम्मीद करती है। इस तकनीकी लक्ष्य में सफलता कंपनी के भविष्य के फंडिंग राउंड और दीर्घकालिक एंटरप्राइज पार्टनरशिप हासिल करने की क्षमता के लिए एक प्रमुख कारक होगी।

Disclaimer: This article is published for informational purposes only. This is not a buy sell recommendation.