Whalesbook
இன்ஃபெரன்ஸ் தங்க வேட்டை தீவிரமடைந்துள்ளது
செயற்கை நுண்ணறிவு முதலீடு, பயிற்சி அளிக்கப்பட்ட மாதிரிகளை நடைமுறை பயன்பாடுகளில் செயல்படுத்துவதற்கான செயல்முறையான இன்ஃபெரன்ஸின் முக்கியமான கட்டத்தில் வேகமாக கவனம் செலுத்துகிறது. இந்த மாற்றம் கணிசமான மூலதனத்தை ஈர்த்து வருகிறது, AI இன்ஃபெரன்ஸ் சந்தையானது 2030 ஆம் ஆண்டுக்குள் சுமார் 19% கூட்டு வருடாந்திர வளர்ச்சி விகிதத்துடன் $250 பில்லியனுக்கும் அதிகமாக விரிவடையும் என எதிர்பார்க்கப்படுகிறது. ஒரு இணையான முன்னறிவிப்பு 2025 இல் சந்தையை $103.73 பில்லியனாகவும், 2034 க்குள் $312.64 பில்லியனாகவும் மதிப்பிடுகிறது. ஜெனரேட்டிவ் AI மற்றும் பெரிய மொழி மாதிரிகளில் ஏற்பட்டுள்ள முன்னேற்றங்களால் இந்த எழுச்சி தூண்டப்படுகிறது, இது நிறுவனங்களை நிகழ்நேர டிப்ளாய்மென்ட்டிற்கு முன்னுரிமை அளிக்கவும், அதிக கணினி தேவைப்படும் செயல்பாடுகளை ஆதரிக்கும் உள்கட்டமைப்பை மேம்படுத்தவும் தூண்டுகிறது. இன்ஃபெரன்ஸின் போது இந்த மாதிரிகளை இயக்குவதற்கான செயல்பாட்டு செலவுகள் மற்றும் செயல்திறன் ஒரு முக்கிய தடையாக உள்ளது, இது மேம்படுத்தல் தொழில்நுட்பங்களை முதலீட்டாளர்களுக்கு மிகவும் கவர்ச்சிகரமானதாக ஆக்குகிறது.
இன்ஃபெராக்ட்டின் மூலோபாய உயர்வு
ஓப்பன்-சோர்ஸ் vLLM திட்டத்தை உருவாக்கியவர்களால் ஆதரிக்கப்படும் புதிய வணிக நிறுவனமான இன்ஃபெராக்ட், $800 மில்லியன் மதிப்பீட்டை அடைந்து, $150 மில்லியன் சீட் ஃபண்டிங் சுற்றை வெற்றிகரமாக முடித்துள்ளது. இந்த சுற்று, இன்ஃபெரன்ஸ் மேம்படுத்தல் துறையில் வலுவான முதலீட்டாளர் நம்பிக்கையை உணர்த்தும் வகையில், முன்னணி துணிகர மூலதன நிறுவனங்களான ஆண்ட்ரிசென் ஹொரோவிட்ஸ் (a16z) மற்றும் லைட்ஸ்பீட் வென்ச்சர் பார்ட்னர்ஸ் ஆகியவற்றால் இணைந்து வழிநடத்தப்பட்டது. சீக்வோயா கேப்பிடல், ஆல்டிமீட்டர் கேப்பிடல், ரெட் பாயின்ட் வென்ச்சர்ஸ் மற்றும் ஜென்ஃபண்ட் உள்ளிட்ட நிறுவனங்களிடமிருந்து கூடுதல் முதலீடு வந்தது. இன்ஃபெராக்ட்டின் முக்கிய நோக்கம், அதன் பரவலாக ஏற்றுக்கொள்ளப்பட்ட ஓப்பன்-சோர்ஸ் vLLM எஞ்சினின் அடித்தளத்தை அடிப்படையாகக் கொண்டு, செயல்பாட்டு செலவுகளைக் குறைத்து, மாதிரி ஸ்திரத்தன்மை மற்றும் வேகத்தை மேம்படுத்துவதன் மூலம் AI இன்ஃபெரன்ஸை மேம்படுத்துவதாகும். vLLM திட்டம், டேட்டாபிரிக்ஸ் இணை நிறுவனர் அயன் ஸ்டோயிகா-வின் UC பெர்க்லி ஆய்வகத்திலிருந்து உருவானது, மேலும் இது தற்போது பைடார்ச் ஃபவுண்டேஷனின் கீழ் நிர்வகிக்கப்படுகிறது, இது ஓப்பன்-சோர்ஸ் சமூகத்திற்கான தொடர்ச்சியான அர்ப்பணிப்பைக் குறிக்கிறது.
AI உள்கட்டமைப்பில் போட்டி அலைகள்
vLLM-ஐ இன்ஃபெராக்ட்டாக வணிகமயமாக்குவது, பிற வெற்றிகரமான ஓப்பன்-சோர்ஸ் AI திட்டங்களில் காணப்பட்ட ஒரு போக்கைப் பிரதிபலிக்கிறது. குறிப்பாக, SGLang திட்டம் RadixArk ஆக உருவெடுத்துள்ளது, இது Accel தலைமையிலான சுற்றில் சுமார் $400 மில்லியன் மதிப்பீட்டைப் பெற்றுள்ளது. இந்த முன்னேற்றங்கள், AI டிப்ளாய்மென்ட்டிற்கான சிறப்புத் தீர்வுகள் துணிகர மூலதனத்தை வேகமாக ஈர்க்கும் ஒரு மிகுந்த போட்டிச் சூழலை அடிக்கோடிட்டுக் காட்டுகின்றன. ஸ்டார்ட்அப்களுக்கு அப்பால், பெரிய தொழில்நுட்ப நிறுவனங்களும் இன்ஃபெரன்ஸ் மேம்படுத்தலை தீவிரமாகப் பின்பற்றுகின்றன. உதாரணமாக, Amazon Web Services (AWS) அதன் Inferentia மற்றும் Trainium போன்ற தனிப்பயன் AI சிப்களைப் பயன்படுத்தி, இன்ஃபெரன்ஸ் செலவுகள் மற்றும் தாமதத்தை கணிசமாகக் குறைத்து, NVIDIA போன்ற நிறுவப்பட்ட வன்பொருள் வழங்குநர்களுக்கு எதிராக தன்னை நிலைநிறுத்துகிறது. பரந்த AI சர்வர் சந்தையும் வலுவான வளர்ச்சியைக் கண்டு வருகிறது, கிளவுட் சேவை வழங்குநர்களிடமிருந்து AI உள்கட்டமைப்பு முதலீடு அதிகரிப்பதால் 2026 ஆம் ஆண்டில் ஏற்றுமதிகள் ஆண்டுக்கு 28% க்கும் அதிகமாக அதிகரிக்கும் என எதிர்பார்க்கப்படுகிறது. லைட்ஸ்பீட் வென்ச்சர் பார்ட்னர்ஸ் போன்ற துணிகர மூலதன நிறுவனங்கள் AI துறையில் தொடர்ந்து மூலதனத்தை கொட்டி வருகின்றன, 165 க்கும் மேற்பட்ட AI-நேட்டிவ் நிறுவனங்களில் $5.5 பில்லியனுக்கும் அதிகமாக முதலீடு செய்துள்ளன, இது அதிநவீன AI தொழில்நுட்பங்களுக்கான நிலையான முதலீட்டாளர் ஆர்வத்தை உணர்த்துகிறது.