ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) సేఫ్టీలో కొత్త ట్రెండ్ మొదలైంది. Anthropic తన మోడల్స్ సేఫ్టీని పరీక్షించేందుకు Accenture ని ఎంబెడెడ్ ఆడిటర్గా నియమించుకుంది. ఈ **$1 బిలియన్** విలువైన ఒప్పందం టెక్ ప్రపంచంలో సంచలనంగా మారింది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో నమ్మకమైన సెక్యూరిటీ ప్రమాణాలను నెలకొల్పేందుకు Anthropic ఒక కీలక నిర్ణయం తీసుకుంది. వచ్చే 5 ఏళ్లలో కనీసం $1 బిలియన్ పెట్టుబడితో కూడిన ఈ భాగస్వామ్యంలో, Accenture ఇకపై Anthropic సంస్థలోనే ఉండి (embedded) వారి AI మోడల్స్ను నిరంతరం పరీక్షించనుంది.
అసలు ఈ డీల్ ప్రత్యేకత ఏంటి?
సాధారణంగా AI మోడల్స్ రిలీజ్ అయిన తర్వాత ఎక్స్టర్నల్ ఆడిట్స్ జరుగుతాయి. కానీ ఇక్కడ, మోడల్ తయారీ దశలోనే Accenture నిపుణులు 'రెడ్-టీమింగ్' (Red-teaming) చేయడం ద్వారా లోపాలను గుర్తిస్తారు. AI మోడల్స్ మానవ విలువలకు అనుగుణంగా (Alignment) పనిచేస్తున్నాయో లేదో వీరు నిశితంగా పరిశీలిస్తారు.
ఇన్వెస్టర్లకు పండగ..
ఈ వార్త బయటకు రాగానే, ఆఫ్టర్ అవర్స్ ట్రేడింగ్లో Accenture షేర్ విలువ ఏకంగా 8% పెరిగింది. 2023లో తమ డేటా & AI విభాగం కోసం $3 బిలియన్లు కేటాయించిన Accentureకు, ఈ కాంట్రాక్ట్ ఒక పెద్ద మలుపుగా మారింది. గ్లోబల్ కంపెనీలన్నీ Generative AI వైపు పరుగులు తీస్తున్న తరుణంలో, భవిష్యత్తులో ఇలాంటి 'AI గవర్నెన్స్' కాంట్రాక్టులు మరిన్ని వచ్చే అవకాశం ఉందని మార్కెట్ వర్గాలు భావిస్తున్నాయి.
సవాళ్లు ఏమున్నాయి?
ఏది ఏమైనా, AI ఆడిటింగ్ అనేది ఇంకా ప్రాథమిక దశలోనే ఉంది. ఒక డెవలపర్ సంస్థే ఆడిటర్కు డబ్బులు చెల్లిస్తున్నప్పుడు, భవిష్యత్తులో వచ్చే రిపోర్టుల నిష్పాక్షికత (Independence) ఎలా ఉంటుందనేది ఇప్పుడు అందరిలో ఉన్న ఆసక్తికరమైన ప్రశ్న. అలాగే, వాణిజ్య రహస్యాలు (Trade secrets) కాపాడుకుంటూనే, ఎంత పారదర్శకంగా ఆడిట్ చేస్తారనేది కూడా కీలకమైన అంశం.