ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) వాడకం పెరుగుతున్న నేపథ్యంలో, అటానమస్ ఏజెంట్ల ద్వారా వచ్చే సైబర్ రిస్కులను అరికట్టేందుకు భారతీయ AI కంపెనీలు నడుం బిగించాయి. మోడల్ ఆర్కిటెక్చర్లోనే సెక్యూరిటీ ఫీచర్లను పొందుపరుస్తూ, డేటా భద్రతకు పెద్దపీట వేస్తున్నాయి.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో వస్తున్న మార్పులతో పాటు సెక్యూరిటీ పరంగా కూడా సవాళ్లు పెరుగుతున్నాయి. కేవలం టెక్స్ట్ జనరేషన్ మాత్రమే కాకుండా, ఎంటర్ప్రైజ్ సాఫ్ట్వేర్ మరియు ఫైనాన్షియల్ ప్లాట్ఫామ్లలో నేరుగా పనులు చేయగల 'అటానమస్ AI ఏజెంట్లు' అందుబాటులోకి రావడంతో, వీటి భద్రత ఇప్పుడు ప్రధానాంశంగా మారింది.
పునాది నుంచే పటిష్టమైన భద్రత
Sarvam AI, Fractal Analytics వంటి సంస్థలు, అలాగే BharatGen వంటి రీసెర్చ్ ఇనిషియేటివ్లు ఇప్పుడు సెక్యూరిటీని డిజైన్ దశలోనే కీలక భాగంగా మారుస్తున్నాయి. మోడల్స్లో ఏదైనా లోపం జరిగితే, అది సిస్టమ్ మొత్తంపై చూపే ప్రభావం భారీగా ఉంటుందని కంపెనీలు హెచ్చరిస్తున్నాయి. ముఖ్యంగా Fractal Analytics వంటి సంస్థలు ఎంటర్ప్రైజ్-గ్రేడ్ భద్రతను తమ సర్వీసుల్లో ప్రధానంగా ఉంచుతున్నాయి.
'సావరిన్ మోడల్స్' వైపు అడుగులు
భారతీయ కంపెనీలు 'సావరిన్ AI' (Sovereign AI) మోడల్స్ను అభివృద్ధి చేయడంపై దృష్టి సారించాయి. భారత్కు చెందిన చట్టపరమైన, రాజ్యాంగపరమైన డేటాసెట్స్తో శిక్షణ ఇవ్వడం ద్వారా, బ్యాంకింగ్ మరియు హెల్త్కేర్ వంటి కీలక రంగాల్లో నమ్మకమైన అవుట్పుట్ను అందించాలని లక్ష్యంగా పెట్టుకున్నాయి.
సిస్టమిక్ ఫెయిల్యూర్ రిస్క్
Fractal నాయకత్వం ఒక ముఖ్యమైన విషయాన్ని గుర్తు చేస్తోంది: 'సాఫ్ట్వేర్ మోనోకల్చర్' ప్రమాదం. ఒకే రకమైన ఫౌండేషన్ మోడల్పై వేల సంఖ్యలో వ్యాపారాలు ఆధారపడితే, ఒక చిన్న లోపం (డేటా పాయిజనింగ్ లేదా జైల్బ్రేక్) వల్ల అందరికీ ఒకేసారి ముప్పు వాటిల్లే అవకాశం ఉంది. దీన్ని అడ్డుకోవడానికి AI ఏజెంట్లకు అతి తక్కువ పర్మిషన్లు ఇవ్వడం వంటి పటిష్టమైన నియంత్రణలు అవసరం.
ఇన్వెస్టర్లు ఏమి గమనించాలి?
భవిష్యత్తులో ఈ సెక్యూరిటీ ఫీచర్ల కోసం చేసే ఖర్చు (R&D Spending) కంపెనీలకు ఒక రికరింగ్ ఎక్స్పెన్స్గా మారనుంది. అయితే, బ్యాంకింగ్, డిఫెన్స్ వంటి క్లిష్టమైన రంగాల్లో సేవలు అందించేందుకు ఈ సెక్యూరిటీ చర్యలు కంపెనీలకు మరింత విశ్వసనీయతను తెచ్చిపెడతాయని మార్కెట్ నిపుణులు భావిస్తున్నారు.