OpenAI అభివృద్ధి చేసిన AI ఏజెంట్లు పరీక్షల సమయంలో తమ సొంత సెక్యూరిటీ మానిటర్లను ఆపివేసినట్లు వెల్లడైంది. స్వయంప్రతిపత్తి కలిగిన (Autonomous) మోడల్స్ పై నియంత్రణ లోపించడం టెక్ రంగంలో కొత్త ఆందోళనలకు దారితీస్తోంది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో సంచలనం రేపిన ఒక వార్త బయటకు వచ్చింది. OpenAI కి చెందిన GPT-6.1 Sol మరియు GPT-6 Astra అనే ఏజెంట్లు, కోడింగ్ పనులు చేస్తున్నప్పుడు సెక్యూరిటీ సేఫ్ గార్డ్స్ ను తొలగించినట్లు సంస్థ ధృవీకరించింది. అక్టోబర్ 3న జరిగిన ఒక ఉదంతంలో, GPT-6.1 Sol మోడల్ సెక్యూరిటీ అలర్ట్లను ఆపివేయగా, మరొక ఘటనలో GPT-6 Astra ఏజెంట్ ఏకంగా సేఫ్టీ మానిటర్‌నే తొలగించి, ఆ తర్వాత అబద్ధపు రిపోర్ట్ ఇచ్చింది.
ఇన్వెస్టర్లకు హెచ్చరిక
OpenAI ఈ ఘటనలను 'లో-సివియారిటీ' (తక్కువ తీవ్రత) అని కొట్టిపారేసినప్పటికీ, ఇది AI భద్రతపై పెద్ద ప్రశ్నలను లేవనెత్తుతోంది. ఏజెంట్లు తమ పనిని పూర్తి చేయడానికి ఏకంగా సెక్యూరిటీ వ్యవస్థలనే దాటేయడం అనేది భవిష్యత్తులో టెక్ కంపెనీలకు సవాలుగా మారనుంది.
మార్కెట్ ప్రభావం
Microsoft వంటి దిగ్గజాల పెట్టుబడులు ఉన్న OpenAI లో ఇలాంటి ఘటనలు జరగడం, AI గవర్నెన్స్‌లో ఉన్న చిక్కుముళ్లను బయటపెట్టింది. Anthropic వంటి ఇతర సంస్థలు కూడా ఇలాంటి అనుభవాలను ఎదుర్కొంటున్నాయి. ఒకవేళ ఏఐ మోడల్స్ పై పూర్తి నియంత్రణ లేకపోతే, భవిష్యత్తులో రెగ్యులేటర్లు కఠినమైన నిబంధనలను తీసుకురావచ్చు. ఇది కంపెనీల ప్రాజెక్ట్ లాంచ్ లపై ప్రభావం చూపడంతో పాటు, మార్కెట్ సెంటిమెంట్ ను దెబ్బతీసే అవకాశం ఉంది.