AI రంగంలో భద్రతను పెంచేందుకు Goodfire ఒక కొత్త టూల్‌ను పరిచయం చేసింది. మోడల్స్ పనితీరును లోపలి నుంచి పర్యవేక్షించడం ద్వారా 'రోగ్' (అనధికారిక) ప్రవర్తనను ఇది తక్కువ ఖర్చుతో పసిగడుతుంది. Baseten ప్లాట్‌ఫామ్‌తో కలిసి ఈ సర్వీసును అందుబాటులోకి తెచ్చింది.
ట్రెడిషనల్ ఆడిటింగ్ కంటే భిన్నంగా..
ప్రస్తుతం మార్కెట్లో ఒక AI మోడల్‌ని పర్యవేక్షించాలంటే, మరో పెద్ద AI మోడల్‌ను వాడి ఆడిట్ చేయాల్సి ఉంటుంది. ఇది చాలా ఖరీదైన వ్యవహారం, పైగా ప్రాసెసింగ్ వేగాన్ని తగ్గిస్తుంది. కానీ, Goodfire తీసుకొచ్చిన కొత్త విధానం 'activation probes' ద్వారా పని చేస్తుంది. అంటే, మోడల్ లోపల జరుగుతున్న న్యూరల్ యాక్టివేషన్స్ (Neural Activations)ను రియల్ టైమ్‌లో ట్రాక్ చేస్తుంది. దీనివల్ల కంప్యూటింగ్ ఖర్చులు తగ్గడమే కాకుండా, ఫలితాలు కూడా వేగంగా వస్తాయి.
AI సెక్యూరిటీపై పెరుగుతున్న ఫోకస్
ఓపెన్ సోర్స్ AI మోడల్స్ వాడకం పెరుగుతున్న కొద్దీ, అందులో 'రివార్డ్ హ్యాకింగ్' లేదా అనధికారిక యాక్సెస్ ప్రమాదాలు పెరుగుతున్నాయి. Goodfire తీసుకొచ్చిన ఈ సెక్యూరిటీ గార్డ్‌రైల్స్, భవిష్యత్తులో డెవలపర్లకు ఒక ముఖ్యమైన ఆయుధంగా మారనున్నాయి. కేవలం ప్రయోగాత్మక దశలోనే కాకుండా, కమర్షియల్ స్థాయిలో కూడా దీన్ని అందుబాటులోకి తీసుకురావడం విశేషం.
ఇన్వెస్టర్లకు గమనిక
Goodfire ఒక ప్రైవేట్ కంపెనీ, కాబట్టి ప్రస్తుతం స్టాక్ మార్కెట్లలో ఇది అందుబాటులో లేదు. అయితే, కంపెనీ ఈ మధ్యనే $150 మిలియన్ల భారీ సిరీస్-బి ఫండింగ్ అందుకుంది. అంటే, AI సేఫ్టీ ఇన్ఫ్రాస్ట్రక్చర్ వైపు పెద్ద మొత్తంలో పెట్టుబడులు మళ్లుతున్నాయని దీనిని బట్టి అర్థం చేసుకోవచ్చు. కాకపోతే, ఈ టెక్నాలజీ ఎంతవరకు పక్కాగా పనిచేస్తుందనే దానిపై ఇంకా చర్చలు నడుస్తున్నాయి. మోడల్స్ సంక్లిష్టత పెరిగేకొద్దీ ఈ 'ప్రోబ్స్' ఎంత సమర్థవంతంగా పనిచేస్తాయనేది వేచి చూడాలి.