Whalesbook
KPMG తమ "Redefining Excellence in the Age of Agentic AI" పేరుతో విడుదల చేసిన రిపోర్ట్ను వెనక్కి తీసుకుంది. ఈ రిపోర్ట్లో కల్పిత (fabricated) కేస్ స్టడీస్ ఉన్నట్లు తేలడంతో ఈ నిర్ణయం తీసుకున్నారు. UBS, NHS వంటి సంస్థలు ఈ రిపోర్ట్లోని అంశాలను బహిరంగంగా ఖండించాయి. దీంతో ప్రొఫెషనల్ సర్వీస్ సంస్థలకు జనరేటివ్ AIని వాడుకలోకి తీసుకురావడంలో గవర్నెన్స్ రిస్క్లు పెరుగుతున్నాయని స్పష్టమవుతోంది. ఇన్వెస్టర్లకు, ఈ ఘటన నాణ్యత నియంత్రణ (quality control) ప్రాముఖ్యతను తెలియజేస్తుంది.
అసలేం జరిగింది?
ప్రముఖ కన్సల్టింగ్ సంస్థ KPMG తమ "Redefining Excellence in the Age of Agentic AI" పేరుతో విడుదల చేసిన కీలకమైన గ్లోబల్ రిపోర్ట్ను అధికారికంగా వెనక్కి తీసుకుంది. ఇందులో కల్పిత డేటా (fabricated data) ఉందని తేలడంతో ఈ చర్య తీసుకున్నారు. ఈ రిపోర్ట్, ప్రముఖ సంస్థలు అధునాతన AI సిస్టమ్స్ను ఎలా ఉపయోగిస్తున్నాయో చూపించేందుకు ఉద్దేశించబడింది. అయితే, ఈ స్టడీలో పేరున్న స్విస్ బ్యాంకింగ్ గ్రూప్ UBS, యూకే నేషనల్ హెల్త్ సర్వీస్ (NHS) గ్రేటర్ మాంచెస్టర్, స్విస్ ఫెడరల్ రైల్వేస్, మరియు ట్రాన్స్పోర్ట్ ఫర్ లండన్ వంటి సంస్థలు రిపోర్ట్లోని విషయాలను బహిరంగంగా ఖండించాయి. తాము ఆ AI సిస్టమ్స్ను గానీ, KPMG పేర్కొన్న పద్ధతులను గానీ ఉపయోగించలేదని ఈ సంస్థలు స్పష్టం చేశాయి. ఈ తిరస్కరణల నేపథ్యంలో, KPMG ఆ పబ్లికేషన్ను ఉపసంహరించుకోవాల్సి వచ్చింది. రిపోర్ట్ రూపకల్పన, AI వినియోగ పాలసీలకు అనుగుణంగా ఉందా లేదా అనే దానిపై అంతర్గత విచారణను కూడా ప్రారంభించింది.
ప్రతిష్టే అసలైన ఆస్తి
కన్సల్టింగ్, అకౌంటింగ్, అడ్వైజరీ రంగాలలో నమ్మకమే అతిపెద్ద ఆస్తి. భౌతిక వస్తువులను ఉత్పత్తి చేసే తయారీ సంస్థల మాదిరిగా కాకుండా, KPMG వంటి సంస్థలు తమ నైపుణ్యం, ఖచ్చితత్వం, వ్యూహాత్మక సలహాలను అమ్ముతాయి. ఒక హై-ప్రొఫైల్ రిపోర్ట్లో AI వల్ల తప్పుడు సమాచారం (hallucinations) ఉన్నట్లు తేలితే, అది సంస్థ ప్రతిష్టకు తీవ్ర నష్టం కలిగిస్తుంది. కీలక వ్యాపార నిర్ణయాల కోసం క్లయింట్లు ఈ సంస్థల ఖచ్చితత్వంపై ఆధారపడతారు. ఆ ఖచ్చితత్వమే ప్రశ్నార్థకంగా మారితే, దశాబ్దాలుగా నిర్మించుకున్న బ్రాండ్ విలువ క్షణాల్లో దెబ్బతినే అవకాశం ఉంది. పెట్టుబడిదారులకు, అతిపెద్ద కన్సల్టింగ్ సంస్థలు కూడా కొత్త టెక్నాలజీ ప్రమాదాలకు అతీతం కావని, అంతర్గత పర్యవేక్షణ వైఫల్యం చెందితే ఇలాంటి పరిణామాలు తప్పవని ఇది తెలియజేస్తుంది.
AI గవర్నెన్స్ రిస్క్
జనరేటివ్ AIలో తమ నైపుణ్యాన్ని ప్రదర్శించాలనే ఒత్తిడి కన్సల్టింగ్ సంస్థలపై పెరుగుతోందనే ట్రెండ్ను ఈ సంఘటన ఎత్తి చూపుతోంది. ఈ టెక్నాలజీలో తాము ముందున్నామని క్లయింట్లకు చూపించడానికి సంస్థలు భారీగా పెట్టుబడులు పెడుతున్నప్పటికీ, KPMG కేసు AIని మానవ వాస్తవ తనిఖీలను (human fact-checking) దాటవేయడానికి అనుమతించడం వల్ల కలిగే ప్రమాదాన్ని తెలియజేస్తుంది. ఇక్కడ సమస్య AIలో లేదు, కంటెంట్ క్రియేషన్ ప్రాసెస్లో కఠినమైన మానవ ధృవీకరణ (human verification) లేకపోవడమే. అన్ని పరిశ్రమలలోని కంపెనీలు సామర్థ్యాన్ని పెంచుకోవడానికి, ఖర్చులను తగ్గించుకోవడానికి వర్క్ఫ్లోలను ఆటోమేట్ చేసుకోవడానికి ప్రయత్నిస్తున్నందున, ఈ సంఘటన కఠినమైన పాలన (strict governance) ఆవశ్యకత గురించి హెచ్చరిస్తుంది. పటిష్టమైన మానవ-సహాయక ధృవీకరణ (human-in-the-loop verification) లేకుండా, ఆటోమేటెడ్ టూల్స్పై ఆధారపడటం వల్ల పబ్లిక్ అవమానం, విశ్వసనీయత కోల్పోవడానికి దారితీసే తప్పుడు, తప్పుదారి పట్టించే, లేదా పూర్తిగా కల్పిత ఫలితాలు వస్తాయి.
కన్సల్టింగ్ ఇండస్ట్రీకి సందర్భం
AI సంబంధిత లోపాలపై ప్రధాన కన్సల్టింగ్ సంస్థ విమర్శలను ఎదుర్కోవడం ఇదే మొదటిసారి కాదు. EY కూడా AI- రూపొందించిన అవాస్తవాల కారణంగా ఒక అధ్యయనాన్ని ఉపసంహరించుకున్నట్లు నివేదికలు వచ్చాయి. ఈ సంఘటనలు ప్రొఫెషనల్ సర్వీసెస్ రంగంలో ఒక వ్యవస్థాగత సవాలును సూచిస్తున్నాయి: AI టూల్స్ను ఉపయోగించి థాట్ లీడర్షిప్ కంటెంట్ను ఉత్పత్తి చేయాలనే ఆత్రుత, వాటిని నిర్వహించడానికి అంతర్గత భద్రతా చర్యలను అభివృద్ధి చేయడానికి ముందే ఇది జరుగుతోంది. కన్సల్టింగ్, టెక్నాలజీ సర్వీసెస్ రంగంలోని కంపెనీలను పెట్టుబడిదారులు అంచనా వేస్తున్నప్పుడు, ఖచ్చితత్వాన్ని కోల్పోకుండా AI అమలును నిర్వహించగల సామర్థ్యం కార్యాచరణ పరిపక్వత, రిస్క్ మేనేజ్మెంట్ సామర్థ్యానికి కీలక సూచికగా మారుతోంది.
ఇన్వెస్టర్లు తదుపరి ఏం గమనించాలి?
ఇలాంటి సంఘటనల తర్వాత కన్సల్టింగ్ సంస్థలు తమ అంతర్గత నియంత్రణ ఫ్రేమ్వర్క్లను ఎలా సర్దుబాటు చేస్తాయో పెట్టుబడిదారులు, పరిశీలకులు గమనించాలి. ముఖ్యంగా గమనించాల్సిన కీలక సూచికలు: ఒకటి, బహిరంగంగా విడుదల చేసే డాక్యుమెంట్లు, పరిశోధన నివేదికల కోసం జనరేటివ్ AI వాడకానికి సంబంధించిన అధికారిక విధానాలలో మార్పులు. రెండు, AI మోడళ్ల ద్వారా రూపొందించబడిన ఏదైనా డేటా కోసం మానవ ఆమోదం అవసరమయ్యే కొత్త ధృవీకరణ ప్రోటోకాల్ల అభివృద్ధి. మూడు, హై-ప్రొఫైల్ AI వివాదాలలో చిక్కుకున్న సంస్థలకు క్లయింట్ రిటెన్షన్ లేదా కొత్త ప్రాజెక్ట్ విన్లలో ఏవైనా మార్పులు, ఎందుకంటే క్లయింట్లు ఆటోమేటెడ్ పరిశోధనపై ఆధారపడటానికి మరింత జాగ్రత్తగా మారవచ్చు. అంతిమంగా, మార్కెట్ AIని సామర్థ్యం కోసం విజయవంతంగా ఉపయోగించుకుంటూనే, తమ వ్యాపార నమూనాలకు పునాది అయిన ఖచ్చితత్వం, విశ్వసనీయతను రాజీ పడని సంస్థల కోసం చూస్తుంది.