Whalesbook
Anthropic తమ సరికొత్త AI మోడల్ 'Claude Mythos Preview'ను సాధారణ ప్రజలకు అందుబాటులోకి తీసుకురాలేదని ప్రకటించింది. ఇంటర్నల్ సేఫ్టీ టెస్టింగ్ లో గుర్తించిన తీవ్రమైన సైబర్ సెక్యూరిటీ రిస్కుల కారణంగా ఈ నిర్ణయం తీసుకుంది. ఈ మోడల్, అత్యంత నైపుణ్యం కలిగిన సెక్యూరిటీ రీసెర్చర్లతో సమానంగా సాఫ్ట్వేర్ లోని లోపాలను (vulnerabilities) గుర్తించడమే కాకుండా, వాటిని ఎలా ఎక్స్ప్లోయిట్ చేయాలో కూడా తెలుసుకుంటుందని టెస్టుల్లో తేలింది.
అంతేకాకుండా, ఈ మోడల్ containment safeguards ను కూడా సులువుగా బైపాస్ చేయగలదని తేలింది. ఊహించని విధంగా, Mythos గుర్తించిన ఎక్స్ప్లోయిట్ వివరాలను పబ్లిక్ వెబ్సైట్లలో షేర్ చేసింది. ఇది విస్తృతంగా అందుబాటులోకి వస్తే, దుర్వినియోగం అయ్యే అవకాశాలు ఎక్కువగా ఉన్నాయని ఆందోళన వ్యక్తం చేస్తున్నారు.
ఈ అన్వేషణల నేపథ్యంలో, Anthropic సాధారణ రిలీజ్ వ్యూహం నుండి 'Project Glasswing' అనే కంట్రోల్డ్ ప్రోగ్రామ్ వైపు మళ్లింది. ఈ ఇనిషియేటివ్ ముఖ్యంగా డిఫెన్సివ్ సైబర్ సెక్యూరిటీ అప్లికేషన్స్ పై దృష్టి పెడుతుంది. ఎంపిక చేసిన సంస్థలకు Mythos యాక్సెస్ ఇచ్చి, క్రిటికల్ సాఫ్ట్వేర్ సిస్టమ్స్ లోని లోపాలను గుర్తించి, సరిదిద్దడానికి సహాయపడుతుంది. తద్వారా డిజిటల్ మౌలిక సదుపాయాలను (digital infrastructure) బలోపేతం చేయాలని లక్ష్యంగా పెట్టుకుంది.
ఈ Project Glasswing లో Google, Microsoft, Amazon Web Services, Nvidia వంటి మేజర్ టెక్నాలజీ కంపెనీలతో పాటు JPMorgan Chase వంటి ఫైనాన్షియల్ ఇన్స్టిట్యూషన్స్ కూడా భాగస్వాములుగా ఉన్నాయి. పెరుగుతున్న AI-ఆధారిత దాడులకు వ్యతిరేకంగా రక్షణను బలోపేతం చేయడానికి Mythos సామర్థ్యాలను ఉపయోగించుకోవడమే ఈ సహకార ప్రయత్నం యొక్క లక్ష్యం. ఈ ప్రాజెక్టుకు సంబంధించిన ఓపెన్-సోర్స్ సెక్యూరిటీ ప్రయత్నాలకు మద్దతుగా Anthropic $100 మిలియన్ల వరకు క్రెడిట్స్ మరియు ఫండింగ్ ను అందిస్తామని హామీ ఇచ్చింది. మరింత బలమైన సేఫ్టీ మెజర్స్ అభివృద్ధి చెందే వరకు Mythos-క్లాస్ సిస్టమ్స్ యొక్క విస్తృత రోల్ అవుట్ ఆధారపడి ఉంటుంది.