Autonomous AI agents మనుషుల కంటే వేగంగా పనిచేస్తుండటంతో, డేటా లీక్లు మరియు అనధికారిక పనులను అడ్డుకోవడానికి కంపెనీలు కొత్త AI-ఆధారిత మానిటరింగ్ టూల్స్ను ఉపయోగిస్తున్నాయి. అయితే, ఏఐని పర్యవేక్షించడానికి మరో ఏఐని వాడటం వల్ల కొత్త సెక్యూరిటీ రిస్క్లు తలెత్తవచ్చని నిపుణులు హెచ్చరిస్తున్నారు.
కార్పొరేట్ సంస్థల్లో అటానమస్ AI ఏజెంట్ల వినియోగం ఊపందుకుంది. ఇవి సెక్యూరిటీ ప్రోటోకాల్స్ కంటే వేగంగా పనిచేస్తుండటంతో, డేటా లీక్ అవ్వడం లేదా పొరపాటున ముఖ్యమైన ఫైల్స్ డిలీట్ కావడం వంటి రిస్క్లు పెరుగుతున్నాయి. దీన్ని అడ్డుకునేందుకు ఒక సరికొత్త 'ఏఐ మానిటరింగ్' మార్కెట్ సిద్ధమైంది. దీని కింద ఒక ఏఐ చేసే పనులను పర్యవేక్షించడానికి మరో ఏఐ లేయర్ను సెక్యూరిటీగా ఏర్పాటు చేస్తున్నారు.
ఇది ఎలా పనిచేస్తుంది?
ఈ కొత్త టూల్స్ AI ఏజెంట్ మరియు అది పనిచేసే ఎన్విరాన్మెంట్ మధ్య ఒక 'గేట్కీపర్' లాగా ఉంటాయి. ఉదాహరణకు, ఒక ఏఐ ఏదైనా పని చేయాలనుకున్నప్పుడు, ఈ మానిటరింగ్ లేయర్ దాన్ని వేగంగా స్కాన్ చేస్తుంది. అనుమానాస్పదంగా అనిపిస్తే వెంటనే బ్లాక్ చేస్తుంది. కొన్ని సంస్థలు ఏఐ యొక్క 'ఇన్నర్ మోనోలాగ్' (Inner Monologue) లేదా అది ఏ నిర్ణయం ఎలా తీసుకుంటుందో లోతుగా విశ్లేషించే 'మోడల్ ఇంటర్ప్రిటబిలిటీ'ని కూడా డెవలప్ చేస్తున్నాయి.
ఇక్కడ ఉన్న అసలు రిస్క్ ఏంటి?
ఒక ఏఐని పర్యవేక్షించే మరో ఏఐ కూడా మానిప్యులేట్ అయ్యే ఛాన్స్ ఉందని నిపుణులు ఆందోళన చెందుతున్నారు. దీన్నే టెక్ భాషలో 'Recursive Security Risk' అని పిలుస్తున్నారు. అందుకే చాలా మంది సైబర్ సెక్యూరిటీ ఎక్స్పర్ట్స్, కేవలం ఏఐపైనే ఆధారపడకుండా.. పాతకాలపు డిటర్మినిస్టిక్ ఇన్ఫ్రాస్ట్రక్చర్ మరియు నెట్వర్క్ లాగింగ్ వంటి పద్ధతులను కూడా వాడాలని సూచిస్తున్నారు.
ఇన్వెస్టర్ల కోణంలో చూస్తే, టెక్ రంగంలో ఇప్పుడు 'అడాప్షన్' దశ నుంచి 'గవర్నెన్స్' దశకు మార్పు మొదలైంది. రాబోయే రోజుల్లో ఏఐ-నేటివ్ సెక్యూరిటీ టూల్స్ మరియు ట్రెడిషనల్ సైబర్ సెక్యూరిటీ ఇన్ఫ్రాస్ట్రక్చర్ మీద కంపెనీల ఖర్చు భారీగా పెరగనుంది.