AI స్టార్టప్ PrismML, Bonsai 2 27B పేరుతో సరికొత్త కంప్రెస్డ్ లాంగ్వేజ్ మోడల్ను లాంచ్ చేసింది. ఇది కేవలం **5.9 GB** మెమరీతో పీసీలు మరియు స్మార్ట్ఫోన్లలో రన్ అవుతుంది. క్లౌడ్ సేవలతో పని లేకుండా లోకల్ డివైజ్లకే పరిమితం కావడం వల్ల డేటా ప్రైవసీ పెరుగుతుంది, అలాగే క్లౌడ్ ఖర్చులు తగ్గుతాయి.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో అడుగుపెట్టిన PrismML, తాజాగా Bonsai 2 27B మోడల్తో సంచలనం సృష్టించింది. ఇప్పటివరకు భారీ క్లౌడ్ సర్వర్ల పై ఆధారపడే AI పనులను, ఇకపై మన పీసీలు మరియు హై-ఎండ్ స్మార్ట్ఫోన్ల నుండే పూర్తి చేయవచ్చు. Qwen3.8 ఆర్కిటెక్చర్ను కంప్రెస్ చేయడం ద్వారా దీని సైజును కేవలం 5.9 GBకి తగ్గించారు.
టెక్నాలజీ వెనుక ఉన్న మ్యాజిక్
PrismML ఇందులో 'టర్నరీ వెయిట్ కంప్రెషన్' (Ternary Weight Compression) అనే పద్ధతిని వాడింది. అంటే, డేటాను కేవలం మూడు స్టేట్స్ (పాజిటివ్ 1, నెగటివ్ 1, లేదా 0) కి మార్చడం ద్వారా మెమరీ వాడకాన్ని భారీగా తగ్గించింది. ముఖ్యమైన విషయం ఏంటంటే, ఈ కంప్రెషన్ వల్ల మోడల్ సామర్థ్యం కేవలం 2% మాత్రమే తగ్గి, 98% కచ్చితత్వాన్ని కాపాడుకోగలిగింది.
మార్కెట్ మరియు ఇన్వెస్టర్లపై ప్రభావం
ఈ మార్పు సెమీకండక్టర్ మరియు టెక్ రంగాలపై స్పష్టమైన ప్రభావం చూపే అవకాశం ఉంది. క్లౌడ్ ఏపీఐల (Cloud APIs) కోసం సంస్థలు చెల్లించే భారీ ఖర్చులు ఈ టెక్నాలజీతో తగ్గే ఛాన్స్ ఉంది. ముఖ్యంగా Qualcomm, Intel, మరియు Apple వంటి కంపెనీలు తయారు చేసే NPU (Neural Processing Unit) ఉన్న చిప్లకు డిమాండ్ పెరుగుతుంది.
గమనించాల్సిన రిస్క్ ఫ్యాక్టర్లు
ఇది టెక్నాలజీ పరంగా గొప్ప విషయమే అయినా, ఇన్వెస్టర్లు కొన్ని విషయాలను దృష్టిలో పెట్టుకోవాలి. లోకల్ డివైజ్లలో ఈ మోడల్ నడపడం వల్ల ప్రాసెసర్ వేడెక్కడం (Thermal Throttling) మరియు బ్యాటరీ త్వరగా అయిపోవడం వంటి సమస్యలు రావచ్చు. అలాగే, క్లౌడ్ లోని భారీ మోడల్స్ తో పోలిస్తే, లోకల్ మోడల్స్ కొన్నిసార్లు సంక్లిష్టమైన సందర్భాల్లో తప్పులు చేసే అవకాశం ఉంది. భవిష్యత్తులో ఈ సాఫ్ట్వేర్ను స్మార్ట్ఫోన్ తయారీదారులు ఎంతవరకు అడాప్ట్ చేసుకుంటారనేది ఆసక్తికరంగా మారింది.