ఆన్-డివైస్ AI సామర్థ్యాన్ని పెంచే Mirai
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) రంగం అనూహ్యంగా విస్తరిస్తోంది. అయితే, ఈ అద్భుతమైన AI మోడల్స్ ను నడపడానికి అవసరమైన క్లౌడ్ ఇన్ఫ్రాస్ట్రక్చర్ ఖర్చులు కూడా అంతే భారీగా ఉంటున్నాయి. ఈ సమస్యకు పరిష్కారంగా, Reface, Prisma వంటి పాపులర్ AI అప్లికేషన్లలో పనిచేసిన అనుభవం ఉన్న Dima Shvets, Alexey Moiseenkov లు కలిసి లండన్ లో Mirai అనే స్టార్టప్ ను స్థాపించారు. ఈ సంస్థ ఇప్పుడు $10 మిలియన్ల సీడ్ ఫండింగ్ ను, Uncork Capital సహకారంతో పొందింది. ఈ నిధులతో, AI మోడల్స్ ను నేరుగా యూజర్ల పరికరాల్లోనే (స్మార్ట్ఫోన్లు, ల్యాప్టాప్లు) మరింత సమర్థవంతంగా, వేగంగా పనిచేయించేలా ఆప్టిమైజ్ చేయడంపై Mirai దృష్టి పెడుతుంది.
క్లౌడ్ AI ఖర్చులకు ప్రత్యామ్నాయం
ప్రస్తుతం, AI ఇన్ఫరెన్స్ కోసం క్లౌడ్ సర్వర్లపై ఆధారపడటం వల్ల విపరీతమైన ఖర్చులు, లేటెన్సీ (ప్రతిస్పందన ఆలస్యం) వంటి సమస్యలు తలెత్తుతున్నాయి. ముఖ్యంగా రీటైల్ వీడియో అనలిటిక్స్ వంటి పనుల కోసం పెద్ద సంస్థలు ఏటా మిలియన్ల డాలర్లు ఖర్చు చేయాల్సి వస్తోంది. ఒక NVIDIA A100 GPU వాడుకకే ఏటా దాదాపు $40,000 వరకు ఖర్చవుతుంది, దీంతో పాటు డేటా ట్రాన్స్ఫర్ ఖర్చులు అదనంగా ఉంటాయి. ఈ ఆర్థిక భారాన్ని తగ్గించడానికి, AIని ఎడ్జ్ కంప్యూటింగ్ (Edge Computing) వైపు మళ్లించాల్సిన అవసరం ఏర్పడింది. స్టడీస్ ప్రకారం, AI ఇన్ఫరెన్స్ ను స్మార్ట్ఫోన్ వంటి పరికరాల్లోకి తరలించడం వల్ల ఎనర్జీ వినియోగం 95% వరకు, కార్బన్ ఫుట్ప్రింట్ 88% వరకు తగ్గుతుంది. ఆన్-డివైస్ AI మార్కెట్ 2032 నాటికి $124 బిలియన్లకు చేరుకుంటుందని అంచనా.
Mirai ఇంజిన్ పనితీరు
Mirai యొక్క ప్రధాన ఆవిష్కరణ దాని సొంత రస్ట్ (Rust) ప్రోగ్రామింగ్ భాషతో ఇంజినీరింగ్ చేసిన ఇన్ఫరెన్స్ ఇంజిన్. రస్ట్ దాని పనితీరు, మెమరీ భద్రతకు ప్రసిద్ధి చెందింది. Mirai తమ ఇంజిన్ తో, ఆపిల్ సిలికాన్ (Apple Silicon) పరికరాల్లో AI మోడల్స్ వేగాన్ని ఏకంగా 37% వరకు పెంచగలమని, అదే సమయంలో అవుట్పుట్ క్వాలిటీలో రాజీ పడాల్సిన అవసరం లేదని చెబుతోంది. ఈ ఇంజిన్ ను ఆపిల్ సిలికాన్ కోసం ప్రత్యేకంగా ఆప్టిమైజ్ చేయడం వల్ల, మెమరీ మేనేజ్మెంట్, షెడ్యూలింగ్ వంటి అంశాల్లో మెరుగైన పనితీరు లభిస్తుంది. దీని ద్వారా తక్కువ లేటెన్సీ, మెరుగైన ప్రైవసీని అందించడం లక్ష్యంగా పెట్టుకుంది. డెవలపర్ల కోసం తయారుచేస్తున్న SDK, యాప్లలో ఆన్-డివైస్ AIని సులభంగా ఇంటిగ్రేట్ చేయడానికి వీలు కల్పిస్తుంది.
భవిష్యత్ ప్రణాళిక
Mirai భవిష్యత్తులో టెక్స్ట్, వాయిస్ మోడల్స్తో పాటు, విజన్ మోడల్స్కు కూడా సపోర్ట్ అందించాలని యోచిస్తోంది. అన్ని AI పనులూ ఎడ్జ్లోనే జరగాల్సిన అవసరం లేదని గుర్తించి, హైబ్రిడ్ క్లౌడ్-డివైస్ ఆపరేషన్స్ కోసం ఒక ఆర్కెస్ట్రేషన్ లేయర్ను కూడా అభివృద్ధి చేస్తోంది. అనుభవజ్ఞులైన వ్యవస్థాపక బృందం, క్లౌడ్ AI యొక్క ఆర్థిక, సాంకేతిక అసమర్థతలను పరిష్కరించడంపై స్పష్టమైన దృష్టితో Mirai, వేగంగా అభివృద్ధి చెందుతున్న ఆన్-డివైస్ AI మార్కెట్లో కీలక పాత్ర పోషించే అవకాశం ఉంది.