Whalesbook
Cloud செலவுகளுக்கு குட்பை சொல்லும் Mirai!
செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பம் வேகமாக வளர்ந்து வரும் நிலையில், அதை இயக்கத் தேவைப்படும் பிரம்மாண்டமான Cloud உள்கட்டமைப்பின் செலவுகள் ஒரு பெரும் சவாலாக உள்ளன. இந்த சிக்கலுக்குத் தீர்வு காணும் வகையில், லண்டனைச் சேர்ந்த Mirai நிறுவனம், $10 மில்லியன் (சுமார் ₹83 கோடி) Seed Funding-ஐ பெற்றுள்ளது. Reface மற்றும் Prisma போன்ற பிரபல AI அப்ளிகேஷன்களின் நிறுவனர்களான Dima Shvets மற்றும் Alexey Moiseenkov ஆகியோர் இணைந்து தொடங்கியுள்ள இந்த ஸ்டார்ட்அப், AI மாடல்களை நேரடியாக பயனர்களின் ஸ்மார்ட்போன்கள், லேப்டாப்கள் போன்ற சாதனங்களிலேயே திறம்பட இயங்க வைக்கும் தொழில்நுட்பத்தில் கவனம் செலுத்துகிறது.
ஏன் On-device AI முக்கியம்?
தற்போது, AI-ஐ இயக்க Cloud சர்வர்களைச் சார்ந்திருப்பதால் ஏற்படும் செலவுகள் மலைபோல் உயர்கின்றன. குறிப்பாக, ஜெனரேட்டிவ் AI பயன்பாடுகள் அதிகரிக்கும்போது, Cloud கம்ப்யூட், டேட்டா டிரான்ஸ்ஃபர், மின்சாரச் செலவுகள் என அனைத்தும் பில்லியன் கணக்கில் செல்கின்றன. உதாரணமாக, ஒரு NVIDIA A100 GPU-வை வருடத்திற்கு தொடர்ந்து இயக்குவதே $40,000 (சுமார் ₹33 லட்சம்) வரை செலவாகும். மேலும், டேட்டா பரிமாற்றச் செலவுகளும் கணிசமாக இருக்கும். இந்த பொருளாதார அழுத்தம்தான், AI-ஐ நேரடியாக சாதனங்களிலேயே (Edge AI) கொண்டுவர வேண்டிய கட்டாயத்தை ஏற்படுத்துகிறது. சில ஆய்வுகளின்படி, Cloud-க்கு பதிலாக ஸ்மார்ட்போன்களில் AI-ஐ இயக்குவதன் மூலம் மின்சாரப் பயன்பாட்டை 95% வரையிலும், கார்பன் தடம் (Carbon Footprint) 88% வரையிலும் குறைக்கலாம் என்கின்றன.
Mirai-ன் தொழில்நுட்ப பலம்
Mirai-ன் முக்கிய கண்டுபிடிப்பு, அதன் பிரத்யேக Rust-based inference engine ஆகும். Rust நிரலாக்க மொழி அதன் வேகம், மெமரி பாதுகாப்பு (Memory Safety) மற்றும் ஒரே நேரத்தில் பல பணிகளைச் செய்யும் (Concurrency) திறன்களுக்காக அறியப்படுகிறது. Mirai-ன் இந்த எஞ்சின், Apple Silicon சிப்களில் AI மாடல் ஜெனரேஷன் வேகத்தை 37% வரை அதிகரிக்கும் என்றும், அதே சமயம் அவுட்புட் தரத்தில் எந்தவித சமரசமும் இருக்காது என்றும் அந்நிறுவனம் கூறுகிறது. மற்ற போட்டியாளர்களின் எஞ்சின்கள் பொதுவான இணக்கத்தன்மைக்காக உருவாக்கப்பட்டவை. ஆனால், Mirai-ன் சிஸ்டம் குறிப்பாக Apple Silicon-க்காகவே வடிவமைக்கப்பட்டுள்ளது. இது செயல்திறன், மெமரி மேலாண்மை, ஷெட்யூலிங் என அனைத்தையும் ஆழமாக மேம்படுத்த உதவுகிறது. இதன் மூலம், கிட்டத்தட்ட ஜீரோ லேட்டன்ஸி (Zero Latency) மற்றும் வலுவான பிரைவசி (Privacy) பாதுகாப்பை வழங்க இது இலக்கு வைத்துள்ளது. டெவலப்பர்கள் இதை எளிதாக தங்கள் அப்ளிகேஷன்களில் ஒருங்கிணைக்க ஒரு SDK (Software Development Kit) விரைவில் வெளியிடப்பட உள்ளது.
சந்தை வாய்ப்பும், நிறுவனர்களின் அனுபவமும்
இந்த On-device AI சந்தை வேகமாக வளர்ந்து வருகிறது. 2032-க்குள் இது $124 பில்லியன் அளவை எட்டும் என கணிக்கப்பட்டுள்ளது. Mirai-ன் நிறுவனர்களான Dima Shvets (Reface நிறுவனர், 300 மில்லியனுக்கும் அதிகமான டவுன்லோடுகள்) மற்றும் Alexey Moiseenkov (Prisma நிறுவனர்) ஆகியோர் நுகர்வோர் AI அப்ளிகேஷன்கள் துறையில் பல வருட அனுபவம் வாய்ந்தவர்கள். இந்த அனுபவம், நுகர்வோர் சாதனங்களில் AI-ஐ எவ்வாறு வெற்றிகரமாக செயல்படுத்துவது என்பதற்கான ஆழமான புரிதலை அவர்களுக்கு அளிக்கிறது. Uncork Capital-ன் Andy McLoughlin கூறுகையில், Cloud நிறுவனங்களுக்கு முதலீடுகள் குவிந்தாலும், விரைவில் வணிகப் பொருளாதாரத்தின் முக்கியத்துவம் உணரப்படும் என்றும், அப்போது Mirai போன்ற Edge AI நிறுவனங்கள் பிரகாசிக்கும் என்றும் கூறியுள்ளார்.
எதிர்கால நோக்கு
இந்த சந்தையில் Quadric, Modal Labs போன்ற நிறுவனங்களும் செயல்படுகின்றன. Apple, Qualcomm போன்ற பெரிய நிறுவனங்களும் தங்கள் ஹார்டுவேரில் AI திறன்களை ஒருங்கிணைக்கின்றன. இந்த போட்டிகளுக்கிடையேயும், Mirai தனது பிரத்யேக தொழில்நுட்பம் மற்றும் அனுபவம் வாய்ந்த குழுவின் மூலம் கணிசமான இடத்தைப் பிடிக்கும் என எதிர்பார்க்கப்படுகிறது. எதிர்காலத்தில், இது ஒரு 'LLM OS' ஆக செயல்பட்டு, சாதனங்களிலேயே AI-ஐ நம்பகமான முறையில் இயக்குவதை நோக்கமாகக் கொண்டுள்ளது.