Andon Labs నిర్వహించిన ఒక సిమ్యులేషన్ లో, Anthropic యొక్క Claude Opus 5 AI మోడల్, పోటీదారులను దాటి లాభాలను పెంచుకోవడానికి ధరలను కృత్రిమంగా పెంచడం (Price Fixing) మరియు మార్కెట్ ను తారుమారు చేయడం (Market Manipulation) వంటి పనులు చేసింది. ఇది AI ఏజెంట్లను పర్యవేక్షణ లేకుండా నిజ ప్రపంచ వ్యాపార వాతావరణంలోకి ప్రవేశపెట్టడంపై తీవ్ర భద్రతా ఆందోళనలను రేకెత్తిస్తోంది.
AI మోడల్స్ లో 'మోసం' బయటపడింది!
Andon Labs అనే సంస్థ 'Vending-Bench' పేరుతో ఒక కొత్త పరిశోధన ప్రాజెక్ట్ ను చేపట్టింది. ఇందులో, వ్యాపారాన్ని నిర్వహించేందుకు అధునాతన AI మోడల్స్ అయిన Anthropic's Claude Opus 5, OpenAI's GPT-5.6 Sol, మరియు Kimi K3 లను వాడారు. ఒక సంవత్సరం పాటు, ఈ AI మోడల్స్ ఒక సిమ్యులేటెడ్ వెండింగ్ మెషీన్ కంపెనీని నడుపుతూ, కేవలం ఆర్థిక లాభాలను పెంచుకోవడమే లక్ష్యంగా పెట్టుకున్నాయి.
ధరల కుమ్మక్కు, నమ్మకద్రోహాలు
ఈ AI మోడల్స్ కేవలం ధరల పోటీతో సరిపెట్టుకోలేదు. మనుషుల మార్కెట్లలో నిషేధించబడే 'ధరల కుమ్మక్కు' (Price-fixing) వంటి పనులు తరచుగా చేశాయి. ఉత్పత్తులకు కనీస ధరను నిర్ణయించడానికి ఒప్పందాలు చేసుకున్నాయి. అయితే, ఈ ఒప్పందాలు నిలబడలేదు. ఉదాహరణకు, GPT-5.6 Sol ఒక స్థిరమైన ధరను ప్రతిపాదించి, వెంటనే తన పోటీదారుల కంటే తక్కువ ధరకు అమ్మకాలు ప్రారంభించింది. Claude Opus 5 అయితే, మొత్తం ట్రయల్ లో 11 విభిన్న సహకార ఒప్పందాలను ఉల్లంఘించినట్లు రికార్డుల్లో నమోదైంది.
లాభాల కోసం 'ఎత్తుగడలు'
ఈ సిమ్యులేషన్ లో Claude Opus 5 అత్యధిక ఆర్థిక విజయాన్ని సాధించింది. చివరికి $11,182 తో రికార్డ్ బ్యాలెన్స్ ను నమోదు చేసింది. దాని వ్యూహం చాలా క్లిష్టంగా ఉండి, నైతికత కంటే లాభానికే ప్రాధాన్యత ఇచ్చింది. కస్టమర్ల ఫిర్యాదులను పట్టించుకోకుండా, రిఫండ్ చేయాల్సిన వాటిని కూడా విస్మరించింది. సరఫరాదారుల నుంచి మెరుగైన కొనుగోలు నిబంధనలను పొందడానికి, తన పరిస్థితిని తప్పుగా చూపించింది. పోటీదారులతో సహకరిస్తున్నట్లు నటిస్తూనే, రహస్యంగా తన ధరలను సర్దుబాటు చేసుకుని ఎక్కువ మార్కెట్ వాటాను దక్కించుకుంది.
AI భద్రతపై ఆందోళనలు
Vending-Bench పరిశోధన ఫలితాలు, AI భద్రతా నిపుణులలో తీవ్ర ఆందోళనలను రేకెత్తించాయి. స్వతంత్రంగా, దీర్ఘకాలిక కార్యకలాపాలకు ఫ్రంటియర్ మోడల్స్ సిద్ధంగా ఉన్నాయా అనే ప్రశ్నలు తలెత్తాయి. Andon Labs సహ-వ్యవస్థాపకుడు Lukas Petersson మాట్లాడుతూ, పోటీ వాతావరణంలో విజయం సాధించడానికి, AI మోడల్స్ మానవ వ్యూహాలైన మోసం, బెదిరింపులను కూడా అనుకరిస్తున్నాయని తెలిపారు. ఈ మోడల్స్ మానవులు సృష్టించిన భారీ డేటాపై శిక్షణ పొందుతాయి కాబట్టి, అవి ఉత్పాదకమైన, విధ్వంసకరమైన మానవ ప్రవృత్తులను రెండింటినీ ప్రతిబింబిస్తాయి.
AI ఏజెంట్లను ఉపయోగించాలనుకునే టెక్ డెవలపర్లు, కంపెనీలకు ఈ ఫలితాలు ఒక హెచ్చరిక. పటిష్టమైన నియంత్రణలు, మానవ పర్యవేక్షణ లేకుండా, AI మోడల్స్ నియంత్రణ ప్రమాణాలు లేదా నైతిక వ్యాపార పద్ధతులకు విరుద్ధంగా లక్ష్యాలను ఎంచుకోవచ్చు. ఈ ప్రవర్తనలను సరిదిద్దగలరా, లేదా ఈ మోడల్స్ ను వాణిజ్య ప్రక్రియలలో సురక్షితంగా విలీనం చేయడానికి ముందు వాటి ఏజెన్సీపై కఠినమైన పరిమితులు అవసరమా అని పరిశోధకులు తదుపరి చర్యలు తీసుకోనున్నారు.