Anthropic, OpenAI మాజీ రీసెర్చర్ Jacob Coxon తాజాగా న్యూయార్క్ సిటీ కౌన్సిల్ ముందు సంచలన సాక్ష్యం ఇచ్చారు. AI వేగంగా అభివృద్ధి చెందుతున్న తీరు మానవ నియంత్రణను దాటిపోయే ప్రమాదం ఉందని ఆయన హెచ్చరించారు. Anthropic తన IPO ఫైలింగ్స్‌లో ఇప్పటికే ఇలాంటి భయాందోళనలను ప్రస్తావించడం ఇప్పుడు మార్కెట్ వర్గాల్లో చర్చనీయాంశమైంది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ప్రపంచంలో వేగంగా జరుగుతున్న మార్పులు ఒక వైపు ఉత్సాహాన్ని కలిగిస్తుంటే, మరోవైపు ఇప్పుడు భయాందోళనలు మొదలయ్యాయి. అక్టోబర్ 5, 2026న న్యూయార్క్ సిటీ కౌన్సిల్ ఎదుట హాజరైన Jacob Coxon.. కంపెనీలు భద్రత కంటే వేగవంతమైన అభివృద్ధికే ప్రాధాన్యతనిస్తున్నాయని విమర్శించారు. ముఖ్యంగా ఏఐ మోడల్స్ అవే కొత్త మోడల్స్‌ను తయారు చేసుకునే 'రికర్శివ్' (Recursive) ప్రక్రియ ప్రమాదకరమని, ఇది మనుషుల నియంత్రణను దాటిపోయే అవకాశం ఉందని ఆయన పేర్కొన్నారు.
ఇన్వెస్టర్లపై ప్రభావం.. IPO రిస్క్
మార్కెట్ ఇన్వెస్టర్లు ఈ వార్తను చాలా సీరియస్‌గా గమనిస్తున్నారు. ముఖ్యంగా Anthropic కంపెనీ తన కాన్ఫిడెన్షియల్ IPO పత్రాల్లోనే 'క్యాటాస్ట్రోఫిక్ రిస్క్' (Catastrophic Risk) లేదా ఉనికికే ప్రమాదం వాటిల్లవచ్చని స్పష్టంగా పేర్కొనడం గమనార్హం. సిస్టమ్స్ అకస్మాత్తుగా సెల్ఫ్-ప్రొటెక్షన్ మోడ్ లోకి వెళ్లడం లేదా వాటిని షట్‌డౌన్ చేయడానికి వీలు లేకుండా మారడం వంటివి కంపెనీ వాల్యుయేషన్‌కు పెద్ద ముప్పుగా పరిణమించే అవకాశం ఉంది.
పెరగనున్న రెగ్యులేటరీ నిబంధనలు
ప్రభుత్వాలు ఇప్పుడు ఏఐ సంస్థలపై పట్టు పెంచుతున్నాయి. న్యూయార్క్ కౌన్సిల్ తరహాలోనే ప్రపంచవ్యాప్తంగా ప్రభుత్వాలు కీలక ప్రతిపాదనలను పరిశీలిస్తున్నాయి. ఇందులో ముఖ్యమైనవి:
- థర్డ్ పార్టీ ఆడిట్స్: ఏఐ మోడల్స్‌ను నిపుణులతో పరీక్షించడం.
- కిల్ స్విచ్ (Kill Switch): ఏఐ అదుపు తప్పితే వెంటనే ఆపేయడానికి సాంకేతిక ఏర్పాటు.
- ట్రాన్స్‌పరెన్సీ రిపోర్టింగ్: ఏఐ పనితీరుపై పూర్తి వివరాలు వెల్లడించడం.
ఈ నిబంధనలు అమలులోకి వస్తే, ఏఐ డెవలపర్లపై భారం పెరగడంతో పాటు, ఆపరేషనల్ కాస్ట్ కూడా భారీగా పెరిగే అవకాశం ఉంది. Google, Meta, మరియు OpenAI వంటి దిగ్గజాలు కూడా ఈ రాజకీయ, చట్టపరమైన మార్పులను నిశితంగా పరిశీలిస్తున్నాయి. రాబోయే రోజుల్లో ఏఐ కంపెనీల IPO ఫైలింగ్స్‌లో భద్రతా ప్రమాణాల గురించి ఎలాంటి వివరణలు ఇస్తాయనేదే ఇన్వెస్టర్లకు ఇప్పుడు కీలక సూచిక.