Whalesbook
AI Inference ਲਈ ਨਵੇਂ ਯੁੱਗ ਦੀ ਸ਼ੁਰੂਆਤ?
d-Matrix ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਹੱਲ, inference ਆਪਰੇਸ਼ਨਾਂ ਲਈ GPU ਦੇ ਮੁਕਾਬਲੇ 2-3 ਗੁਣਾ ਜ਼ਿਆਦਾ ਲਾਗਤ-ਪ੍ਰਭਾਵਸ਼ਾਲੀ (cost-effective), 5-10 ਗੁਣਾ ਜ਼ਿਆਦਾ ਪਾਵਰ-ਐਫੀਸ਼ੀਐਂਟ ਅਤੇ ਲਗਭਗ 10 ਗੁਣਾ ਤੇਜ਼ ਹਨ। ਇਹ ਪ੍ਰਦਰਸ਼ਨ d-Matrix ਦੇ ਆਪਣੇ ਆਰਕੀਟੈਕਚਰ ਕਾਰਨ ਹੈ, ਜੋ SRAM-ਆਧਾਰਿਤ ਮੈਮਰੀ ਅਤੇ ਕਸਟਮ ਡਿਜੀਟਲ ਇਨ-ਮੈਮਰੀ ਕੰਪਿਊਟ (in-memory compute) ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇਹ, AI ਮਾਡਲਾਂ ਦੀ ਟ੍ਰੇਨਿੰਗ ਲਈ ਅਨੁਕੂਲਿਤ HBM-ਕੇਂਦਰਿਤ ਡਿਜ਼ਾਈਨਾਂ ਤੋਂ ਵੱਖਰਾ ਹੈ। d-Matrix ਦੇ CEO, Sid Sheth, ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ AI ਦਾ ਭਵਿੱਸ਼, ਮਾਡਲਾਂ ਦੇ ਨਿਰਮਾਣ ਵਿੱਚ ਨਹੀਂ, ਬਲਕਿ ਉਨ੍ਹਾਂ ਦੇ ਵਿਆਪਕ ਅਤੇ ਕਿਫਾਇਤੀ ਤਾਇਨਾਤੀ (deployment) ਵਿੱਚ ਹੈ, ਜਿਸ ਨੂੰ d-Matrix ਆਪਣੀ ਹਾਰਡਵੇਅਰ ਨਾਲ ਪੂਰਾ ਕਰਨ ਦਾ ਟੀਚਾ ਰੱਖਦਾ ਹੈ।
ਬਾਜ਼ਾਰੀ ਪ੍ਰਮਾਣਿਕਤਾ ਅਤੇ ਰਣਨੀਤਕ ਸਮਰਥਨ
ਲਗਭਗ $450 ਮਿਲੀਅਨ ਦੀ ਫੰਡਿੰਗ ਹਾਸਲ ਕਰਨ ਅਤੇ $2 ਅਰਬ ਦਾ ਮੁੱਲਾਂਕਣ (valuation) ਪ੍ਰਾਪਤ ਕਰਨ ਤੋਂ ਬਾਅਦ, d-Matrix ਨੇ ਪ੍ਰਮੁੱਖ ਸੰਸਥਾਗਤ ਨਿਵੇਸ਼ਕਾਂ (institutional investors) ਦਾ ਧਿਆਨ ਆਪਣੇ ਵੱਲ ਖਿੱਚਿਆ ਹੈ। Microsoft ਦੇ ਵੈਂਚਰ ਆਰਮ, M12, ਦੇ ਨਾਲ-ਨਾਲ SK Hynix ਅਤੇ Marvell ਵਰਗੀਆਂ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਨੇ ਕਈ ਫੰਡਿੰਗ ਦੌਰਾਂ ਵਿੱਚ ਹਿੱਸਾ ਲਿਆ ਹੈ, ਜੋ ਕੰਪਨੀ ਦੀ ਟੈਕਨੋਲੋਜੀ ਅਤੇ ਮਾਰਕੀਟ ਸੰਭਾਵਨਾ ਵਿੱਚ ਮਜ਼ਬੂਤ ਵਿਸ਼ਵਾਸ ਦਰਸਾਉਂਦਾ ਹੈ। Microsoft ਦੀ ਸ਼ਮੂਲੀਅਤ, ਭਵਿੱਖ ਵਿੱਚ ਆਪਣੇ AI ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਵਿੱਚ d-Matrix ਦੇ inference ਚਿੱਪਸ ਨੂੰ ਏਕੀਕ੍ਰਿਤ (integrate) ਕਰਨ ਵਿੱਚ ਰਣਨੀਤਕ ਦਿਲਚਸਪੀ ਦਾ ਸੰਕੇਤ ਦਿੰਦੀ ਹੈ। ਭਾਰਤ ਵਿੱਚ ਇੱਕ ਡਿਵੈਲਪਮੈਂਟ ਹੱਬ (Bengaluru) ਨਾਲ ਕੰਪਨੀ ਦੀ ਮੌਜੂਦਗੀ, ਸਥਾਨਕ AI ਹੱਲਾਂ ਲਈ ਉਭਰ ਰਹੇ ਬਾਜ਼ਾਰਾਂ ਅਤੇ ਵਿਸ਼ੇਸ਼ ਇੰਜੀਨੀਅਰਿੰਗ ਪ੍ਰਤਿਭਾ (talent) ਦਾ ਲਾਭ ਉਠਾਉਣ ਦੇ ਇਰਾਦੇ ਨੂੰ ਵੀ ਉਜਾਗਰ ਕਰਦੀ ਹੈ।
ਮੁਕਾਬਲਾ ਅਤੇ ਚੁਣੌਤੀਆਂ
d-Matrix ਦੀਆਂ ਉੱਚੀਆਂ ਉਮੀਦਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ। ਮੁੱਖ ਖ਼ਤਰਾ Nvidia ਦਾ ਗਲਬਾ ਹੈ, ਜੋ ਉਸਦੇ ਵਿਆਪਕ CUDA ਸੌਫਟਵੇਅਰ ਈਕੋਸਿਸਟਮ ਦੁਆਰਾ ਮਜ਼ਬੂਤ ਹੈ, ਜਿਸ ਕਾਰਨ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਕਾਰੋਬਾਰਾਂ ਲਈ ਸਵਿਚਿੰਗ ਲਾਗਤਾਂ (switching costs) ਵੱਧ ਜਾਂਦੀਆਂ ਹਨ। Nvidia ਦੀ ਨਿਰੰਤਰ ਨਵੀਨਤਾ (innovation) ਅਤੇ ਡੂੰਘੀ ਮਾਰਕੀਟ ਪੈਠ (market penetration) ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕਿਸੇ ਵੀ ਮੁਕਾਬਲੇਬਾਜ਼ ਨੂੰ ਸਿਰਫ ਪ੍ਰਦਰਸ਼ਨ ਲਾਭ ਤੋਂ ਪਰੇ ਇੱਕ ਬੇਹੱਦ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਫਾਇਦਾ ਪੇਸ਼ ਕਰਨਾ ਹੋਵੇਗਾ। ਸੈਮੀਕੰਡਕਟਰ ਉਦਯੋਗ ਆਪਣੇ ਆਪ ਵਿੱਚ ਪੂੰਜੀ-ਸੰਘਣਾ ਹੈ, ਜਿਸ ਲਈ R&D, ਨਿਰਮਾਣ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਪ੍ਰਤਿਭਾ ਪ੍ਰਾਪਤੀ ਵਿੱਚ ਭਾਰੀ ਨਿਵੇਸ਼ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਹਾਲਾਂਕਿ ਕੰਪਨੀ inference ਸਪੀਡ ਲਈ SRAM-ਆਧਾਰਿਤ ਮੈਮਰੀ ਦੀ ਪ੍ਰਸ਼ੰਸਾ ਕਰਦੀ ਹੈ, ਇਹ GPUs ਵਿੱਚ ਵਰਤੀ ਜਾਂਦੀ ਵਧੇਰੇ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਅਪਣਾਈ ਗਈ ਹਾਈ ਬੈਂਡਵਿਡਥ ਮੈਮਰੀ (HBM) ਦੇ ਮੁਕਾਬਲੇ ਸਪਲਾਈ ਚੇਨ ਕਮਜ਼ੋਰੀਆਂ ਜਾਂ ਲਾਗਤ ਦੇ ਨੁਕਸਾਨਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰ ਸਕਦੀ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਮੌਜੂਦਾ ਆਰਥਿਕ ਮਾਹੌਲ, AI ਬਬਲ ਸੁਧਾਰ (bubble correction) ਅਤੇ ਘਟਦੀ ਵੈਂਚਰ ਕੈਪੀਟਲ ਉਪਲਬਧਤਾ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਨਾਲ ਭਰਿਆ ਹੋਇਆ ਹੈ, d-Matrix ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ 'ਤੇ ਸਿਰਫ ਤਕਨੀਕੀ ਵਾਅਦਿਆਂ 'ਤੇ ਨਿਰਭਰ ਰਹਿਣ ਦੀ ਬਜਾਏ, ਮੁਨਾਫੇ ਅਤੇ ਸਥਾਈ ਵਿਕਾਸ (sustainable growth) ਦੇ ਸਪੱਸ਼ਟ ਮਾਰਗ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਨ ਦਾ ਦਬਾਅ ਪਾਉਂਦਾ ਹੈ।
ਭਵਿੱਖ ਦਾ ਨਜ਼ਰੀਆ
AI inference ਹਾਰਡਵੇਅਰ ਬਾਜ਼ਾਰ ਵਿੱਚ AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਵਰਤੋਂ ਵਿੱਚ ਘਾਤਕ ਵਾਧੇ (exponential increase) ਕਾਰਨ ਕਾਫ਼ੀ ਵਿਕਾਸ (growth) ਹੋਣ ਦੀ ਉਮੀਦ ਹੈ। d-Matrix ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਜੋ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਲਾਗਤ ਕੁਸ਼ਲਤਾ ਵਿੱਚ ਸਾਬਤ ਹੋਏ ਸੁਧਾਰਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਬਾਜ਼ਾਰ ਹਿੱਸੇਦਾਰੀ (market share) ਹਾਸਲ ਕਰਨ ਲਈ ਚੰਗੀ ਸਥਿਤੀ ਵਿੱਚ ਹਨ। ਵਿਸ਼ਲੇਸ਼ਕਾਂ ਦੀਆਂ ਉਮੀਦਾਂ, inference ਲਈ ਵਿਸ਼ੇਸ਼ AI ਐਕਸਲਰੇਟਰਾਂ (accelerators) ਵੱਲ ਨਿਰੰਤਰ ਤਬਦੀਲੀ ਦਾ ਸੁਝਾਅ ਦਿੰਦੀਆਂ ਹਨ, ਜੋ ਰਵਾਇਤੀ GPU-ਕੇਂਦਰਿਤ ਮਾਡਲ ਤੋਂ ਅੱਗੇ ਵਧ ਰਹੀਆਂ ਹਨ। d-Matrix ਦੀ ਸਫਲਤਾ ਉਤਪਾਦਨ ਵਧਾਉਣ, ਵੱਡੀਆਂ ਡਿਜ਼ਾਈਨ ਜਿੱਤਾਂ (design wins) ਹਾਸਲ ਕਰਨ ਅਤੇ ਸਥਾਪਿਤ ਦਿੱਗਜਾਂ (giants) ਦੁਆਰਾ ਪ੍ਰਭਾਵਿਤ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਲੈਂਡਸਕੇਪ ਨੂੰ ਨੈਵੀਗੇਟ ਕਰਨ ਦੀ ਇਸਦੀ ਯੋਗਤਾ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗੀ। ਪ੍ਰਮੁੱਖ ਟੈਕਨੋਲੋਜੀ ਖਿਡਾਰੀਆਂ ਤੋਂ ਰਣਨੀਤਕ ਨਿਵੇਸ਼, ਵੱਖਰੇ inference ਹੱਲਾਂ ਦੀ ਵਿਵਹਾਰਕਤਾ (viability) ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਦਰਸਾਉਂਦਾ ਹੈ। d-Matrix ਤੋਂ ਮਿਲੇ ਸੰਕੇਤ, ਇੱਕ ਸੰਭਾਵੀ ਲੰਬੇ ਸਮੇਂ ਦੀ ਰਣਨੀਤੀ ਵਜੋਂ IPO ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੇ ਹਨ, ਜੋ AI ਕੰਪਿਊਟ ਨੂੰ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਕਿਫਾਇਤੀ ਅਤੇ ਪਹੁੰਚਯੋਗ ਬਣਾਉਣ ਦੇ ਆਪਣੇ ਮੁੱਖ ਮਿਸ਼ਨ ਨਾਲ ਜੁੜੇ ਹੋਣ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗਾ।