AI உலகில் புதிய புரட்சி. PrismML நிறுவனம் 'Bonsai 2 27B' எனும் புதிய AI மாடலை அறிமுகப்படுத்தியுள்ளது. இது வெறும் **5.9 GB** மெமரியில், எந்தவித கிளவுட் (Cloud) உதவியும் இன்றி நேரடியாக PC மற்றும் ஸ்மார்ட்போன்களில் இயங்கும் திறன் கொண்டது.
கிளவுட் தேவை இனி இல்லை!
பொதுவாக AI மாடல்கள் மிகப்பெரிய சர்வர் ஃபார்ம்களை (Cloud Server Farms) நம்பியே இயங்கும். ஆனால் PrismML நிறுவனம் 'Qwen3.8' கட்டமைப்பைச் சுருக்கி (Compression), வெறும் 5.9 GB அளவிலான 'Bonsai 2 27B' மாடலை உருவாக்கியுள்ளது. இது சாதாரண PC மற்றும் நவீன ஸ்மார்ட்போன்களில் மிக வேகமாகச் செயல்படும்.
எப்படி சாத்தியமானது?
இதற்குப் பின்னால் 'ternary weight compression' என்ற தொழில்நுட்பம் உள்ளது. தரவு மதிப்புகளை நேர்மறை (Positive), எதிர்மறை (Negative) மற்றும் சுழியம் (Zero) என மூன்று நிலைகளாகச் சுருக்குவதன் மூலம், மெமரி பயன்பாடு பெருமளவு குறைக்கப்படுகிறது. இதனால் ஒரிஜினல் மாடலின் செயல்திறனில் 98% துல்லியத்தை அப்படியே தக்கவைக்க முடிகிறது என்று நிறுவனம் உறுதியளித்துள்ளது.
முதலீட்டாளர்கள் கவனிக்க வேண்டியவை:
- செலவு குறைப்பு: கிளவுட் API-களுக்கான கட்டணங்களைச் செலுத்தும் நிறுவனங்களுக்கு, இந்த ஆன்-டிவைஸ் (On-device) தொழில்நுட்பம் ஒரு வரப்பிரசாதம். இது நிறுவனங்களின் செயல்பாட்டுச் செலவுகளைக் கணிசமாகக் குறைக்கும்.
- Hardware முக்கியத்துவம்: Qualcomm, Intel மற்றும் Apple போன்ற நிறுவனங்கள் தயாரிக்கும் NPUs (Neural Processing Units) கொண்ட ஹார்டுவேர்களுக்கு இனி டிமாண்ட் அதிகரிக்கும்.
- சவால்கள்: உள்ளூர் சாதனங்களில் இயக்கும்போது பேட்டரி பயன்பாடு மற்றும் வெப்பமடைதல் (Thermal throttling) போன்ற சிக்கல்கள் ஏற்பட வாய்ப்புள்ளது. மேலும், சிக்கலான சூழல்களில் இந்த மாடல் எந்தளவு தர்க்கரீதியாகச் செயல்படும் என்பது பொறுத்திருந்து பார்க்க வேண்டிய விஷயம்.
மொத்தத்தில், கிளவுட் நிறுவனங்களின் ஆதிக்கத்திற்கு இது ஒரு சவாலாக மாறலாம். திறமையான அல்காரிதம்களை உருவாக்கும் நிறுவனங்களே இனி டெக் மார்க்கெட்டில் முன்னிலையில் இருக்கும் என்பதில் மாற்றுக் கருத்தில்லை.