Whalesbook
AI Inference செயல்பாடுகளில், GPU-க்களை விட 2 முதல் 3 மடங்கு வரை செலவு குறைவான, 5 முதல் 10 மடங்கு வரை பவர்-எஃபிஷியன்ட் மற்றும் கிட்டத்தட்ட 10 மடங்கு வரை வேகமான தீர்வுகளை வழங்குவதாக d-Matrix நிறுவனம் கூறுகிறது. இந்த அதிரடி முன்னேற்றத்திற்கு காரணம், இந்நிறுவனத்தின் தனித்துவமான கட்டமைப்பு (proprietary architecture) ஆகும். இது HBM (High Bandwidth Memory) அடிப்படையிலான, AI மாடல் டிரெய்னிங்கிற்கு உகந்த GPU வடிவமைப்புகளிலிருந்து வேறுபட்டு, SRAM அடிப்படையிலான மெமரி மற்றும் கஸ்டம் டிஜிட்டல் இன்-மெமரி கம்ப்யூட் (custom digital in-memory compute) தொழில்நுட்பத்தை பயன்படுத்துகிறது. இன்றைய AI அப்ளிகேஷன்களின் மிகப்பெரிய தேவையைக் கருத்தில் கொண்டு, டிரெய்னிங்கில் இருந்து Inference-க்கு மாறும் இந்த காலகட்டத்தில், d-Matrix-ன் தீர்வுகள் மிகவும் முக்கியத்துவம் பெறுகின்றன. 'AI-ன் எதிர்காலம் என்பது மாடல்களை உருவாக்குவதில் இல்லை, மாறாக அவற்றை பரவலாகவும், மலிவாகவும் பயன்படுத்துவதில் உள்ளது' என d-Matrix CEO சிட் ஷெத் (Sid Sheth) தெரிவித்துள்ளார். இந்த தொலைநோக்குப் பார்வையை நிறைவேற்றும் விதமாகவே தங்களது ஹார்டுவேரை வடிவமைத்துள்ளதாக அவர் கூறுகிறார்.
AI Inference-க்கான தேவை அதிகரித்து வருவதால், d-Matrix இந்த சந்தையை குறிவைத்துள்ளது. டிரெய்னிங் பணிகளுக்கு சிறப்பானதாக இருந்தாலும், GPU-க்கள் Inference-க்கு அதிக மின்சாரத்தையும், அதிக செலவையும் எடுக்கக்கூடியவை. இதற்கு மாறாக, d-Matrix-ன் சிறப்பு கட்டமைப்பு, டிரான்ஸ்பார்மர் மாடல்களின் (transformer models) குறிப்பிட்ட கம்ப்யூடேஷன் பேட்டர்ன்களுக்கு (computational patterns) உகந்ததாக உருவாக்கப்பட்டுள்ளது. குறிப்பாக, நிறுவனங்களின் AI பயன்பாடுகளில் Inference-க்கான செயல்பாட்டு செலவுகள் (operational expenditures) வேகமாக அதிகரிக்க வாய்ப்புள்ள நிலையில், d-Matrix-ன் வேகமான மற்றும் திறமையான தீர்வுகள், AI-ஐ பரந்த அளவிலான வணிகங்களுக்கு அணுகக்கூடியதாகவும், லாபகரமானதாகவும் மாற்றும் என எதிர்பார்க்கப்படுகிறது.
இந்த அதிரடி திட்டங்களுக்கு வலு சேர்க்கும் விதமாக, d-Matrix சுமார் $450 மில்லியன் ஃபண்டிங்கை பெற்றுள்ளதுடன், $2 பில்லியன் மதிப்பீட்டையும் (valuation) எட்டியுள்ளது. Microsoft-ன் வென்ச்சர் ஆர்ம் M12, SK Hynix மற்றும் Marvell போன்ற முன்னணி முதலீட்டாளர்கள் பல சுற்றுகளில் முதலீடு செய்துள்ளனர். Microsoft-ன் தொடர்ச்சியான ஈடுபாடு, எதிர்காலத்தில் d-Matrix-ன் Inference சிப்களை தங்களது AI உள்கட்டமைப்பில் ஒருங்கிணைக்கும் ஆர்வத்தைக் காட்டுகிறது. இது ஒரு பெரிய ஆரம்ப கால வாடிக்கையாளராக (early adoption channel) மாறக்கூடும். இந்த வலுவான நிதி ஆதரவு, இத்தகைய மூலதன-செறிவுள்ள (capital-intensive) துறையில் உற்பத்தியை அதிகரிப்பதற்கும், சந்தையில் கால் பதிப்பதற்கும் மிகவும் அவசியமாகும். மேலும், பெங்களூருவில் (Bengaluru) ஒரு டெவலப்மென்ட் மையத்தை (development hub) அமைத்துள்ளதன் மூலம், உள்ளூர் AI தீர்வுகளுக்காக வளர்ந்து வரும் சந்தைகள் மற்றும் சிறப்பு பொறியியல் திறமைகளையும் பயன்படுத்திக்கொள்ள இந்நிறுவனம் திட்டமிட்டுள்ளது.
இருப்பினும், d-Matrix-ன் பாதை சவால்கள் நிறைந்ததாகவே உள்ளது. முதன்மையான அச்சுறுத்தல், Nvidia-வின் ஆதிக்கம். Nvidia-வின் CUDA சாப்ட்வேர் ஈக்கோசிஸ்டம் (software ecosystem) ஒரு பெரிய தடையாக உள்ளது. இதன் காரணமாக, டெவலப்பர்கள் மற்றும் நிறுவனங்கள் வேறு தளத்திற்கு மாறுவது கடினம். Nvidia-வின் தொடர்ச்சியான கண்டுபிடிப்புகள் மற்றும் சந்தை ஆதிக்கம், d-Matrix போன்ற போட்டியாளர்கள் வெறும் செயல்திறன் (performance) தாண்டி, உண்மையான புரட்சிகரமான நன்மைகளை வழங்க வேண்டிய கட்டாயத்தில் உள்ளனர். செமிகண்டக்டர் துறைக்கு ஆராய்ச்சி, உற்பத்தி மற்றும் திறமையான பணியாளர்களை ஈர்ப்பதற்கு பெரிய முதலீடுகள் தேவை. d-Matrix-க்கு நீண்டகால வருவாய் வரலாறு இல்லாத நிலையில், இந்த அபாயங்களை கவனமாக கையாள வேண்டும். SRAM அடிப்படையிலான மெமரி வேகத்தை அளித்தாலும், பரவலாகப் பயன்படுத்தப்படும் HBM உடன் ஒப்பிடும்போது, இது விநியோகச் சங்கிலி (supply chain) பாதிப்புகள் அல்லது செலவு குறைவான உற்பத்தியில் சவால்களை எதிர்கொள்ளக்கூடும். தற்போதைய பொருளாதார சூழலில், AI 'பபுள்' (bubble) பற்றிய அச்சங்கள் மற்றும் வென்ச்சர் கேப்பிட்டல் கிடைப்பதில் உள்ள சிக்கல்கள், d-Matrix போன்ற நிறுவனங்கள் தொழில்நுட்ப வாக்குறுதிகளை மட்டும் நம்பி இருக்காமல், லாபம் மற்றும் நிலையான வளர்ச்சிக்கான தெளிவான பாதைகளைக் காட்ட வேண்டிய அழுத்தத்தை ஏற்படுத்துகின்றன.
AI Inference ஹார்டுவேர் சந்தை பெரிய வளர்ச்சியை காணும் என எதிர்பார்க்கப்படுகிறது. d-Matrix போன்ற செயல்திறன் மற்றும் செலவுத் திறனில் (cost efficiency) மேம்பாடுகளை வழங்கக்கூடிய நிறுவனங்கள், சந்தைப் பங்கை வெல்லும் நிலையில் உள்ளன. நிறுவனங்கள் AI-ஐ லாபகரமாக இயக்கத் தொடங்குவதால், சிறப்பு AI ஆக்சிலரேட்டர்களுக்கான (specialized AI accelerators) தேவை அதிகரிக்கும். d-Matrix-ன் வெற்றி, உற்பத்தியை அதிகரிப்பது, பெரிய வாடிக்கையாளர்களைப் பெறுவது மற்றும் போட்டி நிறைந்த சந்தையை சமாளிப்பதைப் பொறுத்தது. முன்னணி தொழில்நுட்ப நிறுவனங்களின் முதலீடுகள், பிரத்தியேக Inference தீர்வுகளின் சாத்தியக்கூறுகளில் நம்பிக்கையை காட்டுகின்றன. d-Matrix-ன் நீண்டகால உத்தியாக, AI கம்ப்யூட்டை அனைவரும் அணுகக்கூடியதாகவும், மலிவாகவும் மாற்றும் தனது முக்கிய இலக்கை அடைந்தால், IPO-வை (Initial Public Offering) நோக்கியும் செல்ல வாய்ப்புள்ளது.