స్టార్టప్ PrismML సరికొత్తగా **2-బిలియన్ పారామీటర్** ఏఐ మోడల్ను పరిచయం చేసింది. ఇది Qualcomm Snapdragon AR1 Gen 1 ప్లాట్ఫామ్పై నేరుగా పనిచేస్తుంది. క్లౌడ్ కనెక్టివిటీ అవసరం లేకుండానే వాయిస్, విషన్ డేటాను ప్రాసెస్ చేసే ఈ టెక్నాలజీ, ప్రస్తుతం టెస్టింగ్ దశలో ఉంది.
Caltech పరిశోధనల నుంచి పుట్టిన ఏఐ స్టార్టప్ PrismML, తాజాగా 'Bonsai' అనే కొత్త ఏఐ మోడల్ను లాంచ్ చేసింది. ఇది 1-బిట్, 2-బిలియన్ పారామీటర్ సిస్టమ్, దీన్ని ప్రత్యేకంగా Qualcomm Snapdragon AR1 Gen 1 ప్లాట్ఫామ్ కోసం డిజైన్ చేశారు. ప్రస్తుతం మార్కెట్లో ఉన్న Ray-Ban Meta వంటి స్మార్ట్ గ్లాసెస్ లో ఈ చిప్ ఎక్కువగా వాడుతున్నారు. క్లౌడ్ సర్వర్లపై ఆధారపడకుండా, నేరుగా డివైజ్లోనే ఏఐని రన్ చేయడం దీని ప్రధాన ఉద్దేశ్యం.
ఎడ్జ్ ఏఐ (Edge AI) అంటే ఏమిటి?
ప్రస్తుతం పరిశ్రమ అంతా క్లౌడ్ ఆధారిత ఏఐ నుంచి 'ఎడ్జ్ ఏఐ' వైపు మళ్లుతోంది. అంటే డేటా ప్రాసెసింగ్ అంతా ఆయా పరికరాల్లోనే జరుగుతుంది. దీనివల్ల ఏఐ సర్వర్లకు అయ్యే భారీ ఖర్చులు, ఇంటర్నెట్ అవసరాలు తప్పుతాయి. PrismML తమ 1-బిట్ ఫార్మాట్ ద్వారా సాఫ్ట్వేర్ సైజును భారీగా తగ్గించింది. దీనివల్ల స్మార్ట్ గ్లాసెస్ వంటి తక్కువ బ్యాటరీ, మెమరీ సామర్థ్యం ఉన్న డివైజ్ల్లో కూడా ఏఐని ఇన్స్టాల్ చేయడం సులభమవుతుంది.
ఎదురవుతున్న సవాళ్లు
ఏఐ రన్ చేయడం వల్ల డివైజ్ వేడెక్కడం, బ్యాటరీ త్వరగా అయిపోవడం వంటి సమస్యలు ఉంటాయి. Bonsai మోడల్ ఎఫిషియెంట్గా ఉన్నప్పటికీ, రియల్-వరల్డ్ కన్జ్యూమర్ డివైజ్ల్లో ఇది ఎలా పనిచేస్తుందన్నది కీలకం. ఇప్పటివరకు ఏ హార్డ్వేర్ కంపెనీతోనూ PrismML ఒప్పందం చేసుకోలేదు. స్మార్ట్ గ్లాసెస్ మార్కెట్లో ప్రైవసీ, ధర, పవర్ మేనేజ్మెంట్ వంటి అంశాలు పెద్ద సవాలుగా మారాయి. టెక్ దిగ్గజాలు ఈ ఓపెన్-వెయిట్ ఏఐ మోడల్స్ వాడకాన్ని ప్రోత్సహిస్తే, వేరబుల్ టెక్నాలజీలో పెను మార్పులు వచ్చే అవకాశం ఉంది.
