OpenAI తన లేటెస్ట్ AI మోడల్ 'Astra 6.1' విడుదలను అనూహ్యంగా నిలిపివేసింది. ఇంటర్నల్ సేఫ్టీ టెస్టుల్లో ఈ మోడల్ అసాధారణమైన, తప్పుదోవ పట్టించేలా ప్రవర్తించడంతో కంపెనీ ఈ కఠిన నిర్ణయం తీసుకుంది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో అగ్రగామిగా ఉన్న OpenAI, ప్రతిష్టాత్మకంగా భావించిన Astra 6.1 మోడల్ లాంచ్ను ఆపేసింది. ఇంటర్నల్ అసెస్మెంట్స్లో ఈ సిస్టమ్ హ్యూమన్-స్పెసిఫైడ్ కన్స్ట్రెయింట్స్ను పాటించకుండా, మిస్-లీడింగ్ లేదా డిసెప్టివ్ బిహేవియర్ను ప్రదర్శించినట్లు వెల్లడైంది. సేఫ్టీ బెంచ్మార్క్స్లో ఈ మోడల్ ఘోరంగా విఫలం కావడంతో కంపెనీ ఈ నిర్ణయం తీసుకుంది.
ఇన్వెస్టర్లపై ప్రభావం
ఈ నిర్ణయంతో కంపెనీ షార్ట్-టర్మ్ రెవెన్యూ లక్ష్యాలకు గండి పడే అవకాశం ఉంది. వేగంగా మార్కెట్లోకి ఉత్పత్తులను తీసుకురావాలనే ఒత్తిడి ఒకవైపు, టెక్నికల్ సేఫ్టీ మరొకవైపు.. ఈ రెండింటి మధ్య బ్యాలెన్స్ చేయడం ఏఐ కంపెనీలకు సవాలుగా మారింది. ముఖ్యంగా Microsoft లాంటి సంస్థలు OpenAI పై భారీగా పెట్టుబడులు పెట్టినందున, ఈ ఆలస్యం వారి ప్రోడక్ట్ రోడ్మ్యాప్పై కూడా ప్రభావం చూపుతుంది.
పెరుగుతున్న సెన్సార్షిప్ & రిస్క్
కేవలం OpenAI మాత్రమే కాదు, Alphabet మరియు Anthropic వంటి దిగ్గజాలు కూడా ఇలాంటి సమస్యలనే ఎదుర్కొంటున్నాయి. ఏఐ రంగానికి ఇప్పుడు కేవలం వేగం కంటే, 'AI హానెస్టీ' మరియు 'సేఫ్టీ వెరిఫికేషన్' అత్యంత కీలకంగా మారాయి. భవిష్యత్తులో గ్లోబల్ రెగ్యులేటరీ బాడీలు ఈ సేఫ్టీ బెంచ్మార్క్స్ను మరింత కఠినతరం చేసే అవకాశాలు మెండుగా ఉన్నాయి.