ప్రైవేట్ స్టార్టప్ Abliteration.ai ఏఐ మోడల్స్ నుంచి సేఫ్టీ గార్డ్రైల్స్ను తొలగించి, కమర్షియల్ API యాక్సెస్ను అందుబాటులోకి తెచ్చింది. సైబర్ సెక్యూరిటీ టెస్టింగ్ కోసం ఇది ఉపయోగపడుతుందని కంపెనీ చెబుతున్నా, భద్రతా ప్రమాణాల విషయంలో నిపుణులు ఆందోళన వ్యక్తం చేస్తున్నారు.
Abliteration.ai అనే కొత్త స్టార్టప్, ఏఐ రంగంలో సంచలనం సృష్టిస్తోంది. సాధారణంగా ఏఐ మోడల్స్కు ఉండే సేఫ్టీ ఫిల్టర్లను పూర్తిగా తొలగించి, 'అబ్లిటరేటెడ్' (Abliterated) మోడల్స్ను కమర్షియల్గా మార్కెట్లోకి తెచ్చింది. 'Orthogonalization' అనే టెక్నిక్ ద్వారా మోడల్స్లోని రెఫ్యూజల్ మెకానిజంను ఈ సంస్థ తొలగిస్తోంది. దీనివల్ల ఏఐ సాధారణంగా నిరాకరించే హానికరమైన కోడ్ లేదా డేటాను కూడా యూజర్లు సులభంగా పొందవచ్చు.
కమర్షియల్ ఏఐలో కొత్త మలుపు
ఈ ప్లాట్ఫామ్ ద్వారా ప్రస్తుతం GLM-5.3 మోడల్ను 'abliterated-model-large-v2' పేరుతో అందుబాటులోకి తెచ్చారు. సబ్స్క్రిప్షన్ ఆధారిత బిజినెస్ మోడల్తో నడుస్తున్న ఈ సంస్థ, ముఖ్యంగా సైబర్ సెక్యూరిటీ రీసెర్చర్లు, పెనెట్రేషన్ టెస్టర్ల కోసం ఈ సేవలను డిజైన్ చేసినట్లు చెబుతోంది. బ్యాంకింగ్, ఏవియేషన్ వంటి కీలక వ్యవస్థలను హ్యాకర్ల నుంచి కాపాడేందుకు, ఈ 'అన్సెన్సర్డ్' ఏఐతో రియల్ వరల్డ్ అటాక్ వెక్టార్లను టెస్ట్ చేయవచ్చని కంపెనీ వాదన.
భద్రతా పరమైన సవాళ్లు
అయితే, ఈ పద్ధతిపై టెక్ ప్రపంచంలో తీవ్ర వ్యతిరేకత మొదలైంది. తగినంత KYC ప్రోటోకాల్స్ లేకపోవడం వల్ల, ఈ సాంకేతికతను దుర్వినియోగం చేసే అవకాశం ఉందని నిపుణులు హెచ్చరిస్తున్నారు. మాల్వేర్ తయారీకి లేదా హానికరమైన సమాచారాన్ని సృష్టించేందుకు ఇది సులభమైన సాధనంగా మారుతుందన్నది ప్రధాన ఆందోళన. అంతేకాకుండా, సేఫ్టీ లేయర్స్ తొలగించడం వల్ల మోడల్స్ యొక్క రీజనింగ్ సామర్థ్యం దెబ్బతిని, ఊహించని ఫలితాలు వచ్చే ప్రమాదం ఉందని ఏఐ సేఫ్టీ అడ్వకేట్స్ భావిస్తున్నారు.
నియంత్రణ సంస్థల మౌనం
ప్రస్తుతానికి, ఇటువంటి అన్సెన్సర్డ్ ఏఐ మోడల్స్ పంపిణీపై స్పష్టమైన రెగ్యులేటరీ నిబంధనలు లేవు. ప్రైవేట్ సంస్థ కావడంతో పబ్లిక్ కంపెనీల్లాగా దీనిపై ఎలాంటి జవాబుదారీతనం లేదని విశ్లేషకులు చెబుతున్నారు. భవిష్యత్తులో ప్రభుత్వం ఏఐ మౌలిక సదుపాయాలపై ఎలాంటి కఠిన నిబంధనలు తెస్తుందో, అదే Abliteration.ai వంటి కంపెనీల భవిష్యత్తును నిర్ణయించనుంది.