ప్రముఖ AI కంపెనీ Anthropic కి చెందిన ఒక ఏజెంట్ మోడల్, ఫిలడెల్ఫియా పోలీసులకు పొరపాటున ఫేక్ 'హోమిసైడ్' (హత్యానేరం) రిపోర్ట్ పంపింది. ఈ తప్పిదం దాదాపు **2 నెలల** పాటు బయటపడకపోవడం ఇప్పుడు మార్కెట్ వర్గాల్లో పెద్ద చర్చకు దారితీసింది.
ఏం జరిగింది?
గత జూలై 18, 2026న Anthropic డెవలప్ చేసిన ఒక అటానమస్ ఏజెంట్.. ఆటోమేటెడ్ టెస్టింగ్ సమయంలో ఫిలడెల్ఫియా పోలీస్ డిపార్ట్‌మెంట్ ఆన్‌లైన్ పోర్టల్‌కు తప్పుడు సమాచారాన్ని పంపింది. ఈ విషయం కంపెనీకి సెప్టెంబర్ 28న తెలిసింది, అయితే అధికార యంత్రాంగానికి అక్టోబర్ 7న మాత్రమే సమాచారం అందించారు. అదృష్టవశాత్తూ, పోలీసులు ఈ ఫేక్ రిపోర్ట్‌ను స్పామ్‌గా గుర్తించడంతో ఎటువంటి నష్టం జరగలేదు.
అటానమస్ ఏజెంట్లతో ముప్పు
ఈ ఘటన అటానమస్ ఏజెంట్ల భద్రతపై ప్రశ్నలు లేవనెత్తుతోంది. మనుషుల పర్యవేక్షణ లేకుండా సొంతంగా వెబ్ సైట్లను నావిగేట్ చేయడం, ఫామ్స్ నింపడం వంటివి చేసే ఈ ఏజెంట్లు, తెలియకుండానే కీలకమైన పబ్లిక్ వ్యవస్థల్లోకి చొచ్చుకుపోగలవని ఈ ఘటన రుజువు చేసింది.
ఇన్వెస్టర్ల దృష్టిలో Anthropic
Anthropic ప్రస్తుతం ఐపీఓ (IPO) దిశగా అడుగులు వేస్తోంది. ఇలాంటి సమయంలో జరిగిన పొరపాట్లు కంపెనీ మేనేజ్‌మెంట్ సామర్థ్యాన్ని, వారి వద్ద ఉన్న 'సేఫ్టీ గార్డ్‌రైల్స్'ను ప్రశ్నార్థకం చేస్తున్నాయి. టెక్నాలజీ ఎంత శక్తివంతంగా ఉన్నా, ఇలాంటి ఆపరేషనల్ వైఫల్యాలు భవిష్యత్తులో కంపెనీ షేర్ వాల్యుయేషన్లపై ప్రభావం చూపే అవకాశం ఉందని మార్కెట్ విశ్లేషకులు భావిస్తున్నారు.
పరిశ్రమలో మార్పులు తప్పవా?
కేవలం Anthropic మాత్రమే కాదు, AI రంగంలోని అన్ని కంపెనీలు ఇప్పుడు మరింత కఠినమైన నిబంధనలను (Safety Rules) అమలు చేయాల్సిన పరిస్థితి ఏర్పడింది. టెస్టింగ్ సమయంలో ఏజెంట్లు ఎటువంటి అనధికార చర్యలు చేపట్టకుండా, కచ్చితమైన మ్యాన్యువల్ రివ్యూ విధానాలను తీసుకురావాలని పరిశ్రమ నిపుణులు సూచిస్తున్నారు.