ਪੈਰਿਸ ਦੀ ਸਟਾਰਟਅੱਪ Kog ਇੱਕ ਅਜਿਹਾ ਸੌਫਟਵੇਅਰ ਬਣਾ ਰਹੀ ਹੈ ਜੋ ਆਮ ਡਾਟਾਸੈਂਟਰ ਹਾਰਡਵੇਅਰ 'ਤੇ AI ਇਨਫਰੈਂਸ (AI inference) ਦੀ ਰਫਤਾਰ ਨੂੰ ਕਈ ਗੁਣਾ ਵਧਾ ਸਕਦਾ ਹੈ। ਹਾਲਾਂਕਿ ਕੰਪਨੀ ਆਪਣੇ ਕੁਸ਼ਲ ਹੱਲ ਲਈ ਕਾਰੋਬਾਰੀ ਦਿਲਚਸਪੀ ਦਾ ਦਾਅਵਾ ਕਰਦੀ ਹੈ, ਇਹ ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਕੰਪਨੀ ਹੈ ਅਤੇ ਭਾਰਤੀ ਜਾਂ ਗਲੋਬਲ ਸਟਾਕ ਐਕਸਚੇਂਜਾਂ 'ਤੇ ਸੂਚੀਬੱਧ ਨਹੀਂ ਹੈ।
ਪੈਰਿਸ ਸਥਿਤ ਸਟਾਰਟਅੱਪ Kog, ਜਿਸਦੀ ਸਥਾਪਨਾ 2023 ਵਿੱਚ ਹੋਈ ਸੀ, ਨਵੇਂ ਹਾਰਡਵੇਅਰ ਬਣਾਉਣ ਦੀ ਬਜਾਏ ਸਿਰਫ ਸੌਫਟਵੇਅਰ ਆਪਟੀਮਾਈਜੇਸ਼ਨ (software optimization) 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਕੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਮਾਡਲਾਂ ਦੇ ਕੰਮ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਬਦਲਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ। ਕੰਪਨੀ ਦਾ ਟੀਚਾ ਐਂਟਰਪ੍ਰਾਈਜ਼ (Enterprises) ਦੁਆਰਾ ਪਹਿਲਾਂ ਤੋਂ ਵਰਤੇ ਜਾ ਰਹੇ ਸਟੈਂਡਰਡ ਡਾਟਾਸੈਂਟਰ ਗ੍ਰਾਫਿਕਸ ਪ੍ਰੋਸੈਸਿੰਗ ਯੂਨਿਟਸ (GPUs), ਜਿਵੇਂ ਕਿ NVIDIA ਦੇ H200 ਅਤੇ AMD ਦੇ MI300X, ਤੋਂ ਕਾਫੀ ਜ਼ਿਆਦਾ ਪ੍ਰਦਰਸ਼ਨ ਹਾਸਲ ਕਰਨਾ ਹੈ।
AI ਦੀ ਮੌਜੂਦਾ ਦੁਨੀਆ ਵਿੱਚ, ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲਾਂ (LLMs) ਨੂੰ ਡਿਪਲੋਏ ਕਰਨ ਵਾਲੇ ਕਾਰੋਬਾਰਾਂ ਲਈ ਸਪੀਡ ਅਤੇ ਲਾਗਤ ਵੱਡੀਆਂ ਰੁਕਾਵਟਾਂ ਹਨ। ਜਦੋਂ ਕਿ ਕਈ ਮੁਕਾਬਲੇਬਾਜ਼ ਇਹਨਾਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਵਿਸ਼ੇਸ਼ AI ਚਿਪਸ ਬਣਾ ਰਹੇ ਹਨ, Kog ਦਾ ਸੱਟਾ ਹੈ ਕਿ ਬਿਹਤਰ ਸੌਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਮੌਜੂਦਾ ਹਾਰਡਵੇਅਰ ਦੀ ਲੁਕੀ ਹੋਈ ਸ਼ਕਤੀ ਨੂੰ ਬਾਹਰ ਕੱਢ ਸਕਦੀ ਹੈ। ਤਕਨੀਕੀ ਪ੍ਰਦਰਸ਼ਨਾਂ ਵਿੱਚ, ਕੰਪਨੀ ਨੇ ਛੋਟੇ ਮਾਡਲਾਂ ਲਈ 3,000 ਟੋਕਨ ਪ੍ਰਤੀ ਸਕਿੰਟ ਤੱਕ ਦੀ ਸਪੀਡ ਦਿਖਾਈ ਹੈ, ਜਿਸਦਾ ਉਦੇਸ਼ ਇਸ ਕੁਸ਼ਲਤਾ ਨੂੰ ਵੱਡੇ, ਵਧੇਰੇ ਜਟਿਲ AI ਸਿਸਟਮਾਂ 'ਤੇ ਲਾਗੂ ਕਰਨਾ ਹੈ।
ਐਂਟਰਪ੍ਰਾਈਜ਼ ਉਪਭੋਗਤਾਵਾਂ ਲਈ, ਇਨਫਰੈਂਸ 'ਤੇ ਇਹ ਫੋਕਸ—ਯਾਨੀ AI ਮਾਡਲ ਦੁਆਰਾ ਜਵਾਬ ਤਿਆਰ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ—ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਉਡੀਕ ਦੇ ਸਮੇਂ ਅਤੇ ਕਾਰਜਕਾਰੀ ਲਾਗਤਾਂ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ। ਕੰਪਨੀ ਨੇ 200 ਤੋਂ ਵੱਧ ਬਿਜ਼ਨਸ ਲੀਡਜ਼ (Business Leads) ਨੂੰ ਆਕਰਸ਼ਿਤ ਕਰਨ ਦੀ ਰਿਪੋਰਟ ਦਿੱਤੀ ਹੈ, ਜੋ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਆਪਣੇ AI ਵਰਕਫਲੋਜ਼ ਨੂੰ ਹਾਰਡਵੇਅਰ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬਦਲੇ ਬਿਨਾਂ ਤੇਜ਼ ਬਣਾਉਣ ਦੇ ਤਰੀਕੇ ਲਗਾਤਾਰ ਲੱਭ ਰਹੇ ਹਨ।
ਭਾਰਤੀ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਇਹ ਸਮਝਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ Kog ਇਸ ਸਮੇਂ ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਕੰਪਨੀ ਹੈ। ਇਹ ਨੈਸ਼ਨਲ ਸਟਾਕ ਐਕਸਚੇਂਜ (NSE) ਜਾਂ ਬੰਬਈ ਸਟਾਕ ਐਕਸਚੇਂਜ (BSE) 'ਤੇ ਸੂਚੀਬੱਧ ਨਹੀਂ ਹੈ, ਅਤੇ ਇਸਦੇ ਸ਼ੇਅਰ ਜਨਤਕ ਤੌਰ 'ਤੇ ਖਰੀਦਣ ਲਈ ਉਪਲਬਧ ਨਹੀਂ ਹਨ। ਕੰਪਨੀ ਨੇ Bpifrance ਵਰਗੇ ਨਿਵੇਸ਼ਕਾਂ ਤੋਂ ਲਗਭਗ $5 ਮਿਲੀਅਨ ਫੰਡਿੰਗ ਇਕੱਠੀ ਕੀਤੀ ਹੈ, ਪਰ ਇਸਨੇ ਇਨੀਸ਼ੀਅਲ ਪਬਲਿਕ ਆਫਰਿੰਗ (IPO) ਨਹੀਂ ਕੀਤੀ ਹੈ।
ਸ਼ੁਰੂਆਤੀ ਦੌਰ ਦੇ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਬਾਵਜੂਦ, ਕੰਪਨੀ ਨੂੰ ਕਾਰੋਬਾਰੀ ਜੋਖਮਾਂ (Business Risks) ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ। ਇਸ ਸੌਫਟਵੇਅਰ ਵਿਧੀ ਨੂੰ ਛੋਟੇ ਮਾਡਲਾਂ ਤੋਂ ਲੈ ਕੇ ਮੁੱਖ ਧਾਰਾ ਦੇ, ਵੱਡੇ ਪੈਮਾਨੇ ਦੇ LLMs ਤੱਕ ਸਕੇਲ ਕਰਨਾ ਇੱਕ ਮੁਸ਼ਕਲ ਇੰਜੀਨੀਅਰਿੰਗ ਚੁਣੌਤੀ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, AI ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਬਾਜ਼ਾਰ ਬਹੁਤ ਪ੍ਰਤੀਯੋਗੀ ਹੈ, ਜਿੱਥੇ ਵੱਡੇ ਟੈਕ ਜੈਂਟਸ (Tech Giants) ਅਤੇ ਹੋਰ ਫੰਡ ਪ੍ਰਾਪਤ ਸਟਾਰਟਅੱਪ ਸਮਾਨ ਕੁਸ਼ਲਤਾ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਮੁਕਾਬਲਾ ਕਰ ਰਹੇ ਹਨ। Kog, ਇੱਕ ਛੋਟੀ ਟੀਮ ਵਾਲੀ ਨੌਜਵਾਨ ਫਰਮ ਵਜੋਂ, ਇਹ ਸਾਬਤ ਕਰਨਾ ਹੋਵੇਗਾ ਕਿ ਉਹ ਆਪਣੇ ਕਾਰਜਾਂ ਨੂੰ ਸਕੇਲ ਕਰ ਸਕਦੀ ਹੈ ਅਤੇ ਜਿਵੇਂ-ਜਿਵੇਂ ਇਹ ਵਧੇਰੇ ਜਟਿਲ ਮਾਡਲਾਂ ਨਾਲ ਨਜਿੱਠਦੀ ਹੈ, ਇਹ ਪ੍ਰਦਰਸ਼ਨ ਲਾਭ ਬਰਕਰਾਰ ਰੱਖ ਸਕਦੀ ਹੈ।
ਸਟਾਰਟਅੱਪ ਲਈ ਅਗਲਾ ਵੱਡਾ ਮੀਲਪੱਥਰ ਇੱਕ ਪ੍ਰਮੁੱਖ ਉਦਯੋਗ ਮਾਡਲ 'ਤੇ 10x ਸਪੀਡ ਸੁਧਾਰ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰਨਾ ਹੈ, ਇੱਕ ਅਜਿਹਾ ਟੀਚਾ ਜਿਸਨੂੰ ਕੰਪਨੀ ਆਉਣ ਵਾਲੇ ਮਹੀਨਿਆਂ ਵਿੱਚ ਪ੍ਰਾਪਤ ਕਰਨ ਦੀ ਉਮੀਦ ਕਰਦੀ ਹੈ। ਇਸ ਤਕਨੀਕੀ ਟੀਚੇ ਵਿੱਚ ਸਫਲਤਾ ਕੰਪਨੀ ਦੇ ਭਵਿੱਖ ਦੇ ਫੰਡਿੰਗ ਦੌਰਾਂ ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਦੀਆਂ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਭਾਈਵਾਲੀ ਸੁਰੱਖਿਅਤ ਕਰਨ ਦੀ ਇਸਦੀ ਯੋਗਤਾ ਲਈ ਇੱਕ ਮੁੱਖ ਕਾਰਕ ਹੋਵੇਗੀ।