OpenAI సంస్థ తన కొత్త ఏఐ మోడల్ 'Astra'ని సైబర్ సెక్యూరిటీ పరంగా 'Critical' అని వర్గీకరించింది. ఈ మోడల్ డిజైన్లో ఉన్న 'recurrent depth' ఫీచర్ పవర్ఫుల్గా ఉన్నప్పటికీ, ఆడిటింగ్ చేయడం కష్టమని టెక్ నిపుణులు ఆందోళన వ్యక్తం చేస్తున్నారు.
'Critical' స్థాయికి చేరిన Astra
OpenAI తన సరికొత్త మోడల్ Astraని కంపెనీ అంతర్గత భద్రతా ప్రమాణాల ప్రకారం 'Critical' (అత్యంత కీలకమైన) సైబర్ సెక్యూరిటీ విభాగంలో చేర్చింది. అంటే, ఈ ఏఐ మోడల్ సొంతంగానే (autonomously) జీరో-డే వల్నరబిలిటీలను గుర్తించడమే కాకుండా, వాటిని ఎక్స్ప్లోయిట్ చేసి సైబర్ దాడులు చేసే సామర్థ్యాన్ని కలిగి ఉంది. ఒకవైపు ఏఐ సామర్థ్యం పెరిగిందని కంపెనీ గర్వపడుతుంటే, మరోవైపు దీనికి వాడిన 'recurrent depth' ఆర్కిటెక్చర్ వల్ల భద్రతా నిపుణులు ఆందోళన చెందుతున్నారు.
అసలు సమస్య ఏంటి?
సాధారణ ఏఐ మోడల్స్ సమాచారాన్ని ఒక క్రమ పద్ధతిలో విశ్లేషిస్తాయి. కానీ Astra మాత్రం కొన్ని ప్రాసెసింగ్ లేయర్లను పదేపదే ఉపయోగిస్తుంది. దీనివల్ల కంప్యూటింగ్ పవర్ తక్కువగా ఖర్చవుతుంది, కానీ ఇది ఒక 'Black-box' లా మారుతోంది. అంటే, ఏఐ ఒక నిర్ణయానికి రావడానికి ఏ మార్గంలో ఆలోచించిందో ట్రేస్ చేయడం అసాధ్యంగా మారుతోంది. ఆడిటర్లకు అసలు లోపల ఏం జరుగుతుందో తెలియని పరిస్థితి ఏర్పడింది.
పెట్టుబడిదారులకు హెచ్చరిక
OpenAI ఒక ప్రైవేట్ కంపెనీ కావడంతో, దాని ఆర్థిక నివేదికలు బహిరంగంగా ఉండవు. అయితే, ఏఐ శిక్షణ కోసం భారీ స్థాయిలో మూలధన వ్యయం (Capital Spending) చేస్తున్నట్లు సమాచారం. గూగుల్, ఆంత్రోపిక్ (Anthropic) వంటి దిగ్గజాలతో పోటీ పడే క్రమంలో, పారదర్శకతను పణంగా పెడుతున్నారనే వాదన వినిపిస్తోంది. భవిష్యత్తులో ఈ 'అపారదర్శక' మోడల్స్ వల్ల ప్రపంచవ్యాప్తంగా కఠినమైన ప్రభుత్వ నియంత్రణలు వచ్చే అవకాశం ఉంది. ఇది ఏఐ రంగంలోని కొత్త ఆవిష్కరణలను నెమ్మదింపజేయవచ్చు లేదా భారీ ఆడిటింగ్ ఖర్చులకు దారితీయవచ్చు.