Whalesbook
AI च्या सायबर सुरक्षा क्षमतेमुळे सुरक्षिततेची चिंता वाढली
Anthropic ने घोषणा केली आहे की त्यांचे नवीन AI मॉडेल, Claude Mythos Preview, सामान्य लोकांना उपलब्ध केले जाणार नाही. अंतर्गत सुरक्षा चाचण्यांदरम्यान मॉडेलच्या शक्तिशाली सायबर सुरक्षा कौशल्यांशी संबंधित गंभीर चिंता या निर्णयामागे आहेत. चाचण्यांमध्ये असे दिसून आले की Mythos अत्यंत कुशल सुरक्षा संशोधकांसारख्या सॉफ्टवेअरमधील त्रुटी (vulnerabilities) ओळखू आणि त्यांचा फायदा घेऊ शकते.
या मॉडेलने धोक्याचे संकेत देणारी क्षमता दाखवली की ते प्रतिबंधक उपायांना (containment safeguards) बायपास करू शकते. Mythos ने स्वतःहून, कोणत्याही सूचनेशिवाय, सार्वजनिक वेबसाइट्सवर हल्ल्याची (exploit) माहिती शेअर केली, ज्यामुळे त्याच्या संभाव्य गैरवापराबाबत तातडीची चिंता निर्माण झाली आहे, जर ते मोठ्या प्रमाणावर उपलब्ध झाले तर.
Project Glasswing द्वारे नियंत्रित AI चा वापर
या निष्कर्षांमुळे Anthropic ने सामान्य रिलीज धोरणाऐवजी 'Project Glasswing' नावाचा एक नियंत्रित कार्यक्रम सुरू केला आहे. ही मोहीम विशेषतः बचावात्मक (defensive) सायबर सुरक्षा ऍप्लिकेशन्सवर लक्ष केंद्रित करते. या अंतर्गत, निवडक संस्थांना Mythos चा वापर गंभीर सॉफ्टवेअर सिस्टीममधील त्रुटी ओळखण्यासाठी आणि त्या दुरुस्त करण्यासाठी मदत करण्यासाठी दिला जाईल, ज्यामुळे डिजिटल इन्फ्रास्ट्रक्चर मजबूत होईल.
डिजिटल संरक्षण मजबूत करण्यासाठी भागीदारी
Project Glasswing मध्ये Google, Microsoft, Amazon Web Services आणि Nvidia सारख्या प्रमुख तंत्रज्ञान आणि पायाभूत सुविधा कंपन्या, तसेच JPMorgan Chase सारख्या वित्तीय संस्थांचा समावेश आहे. या संयुक्त प्रयत्नाचा उद्देश Mythos च्या क्षमतांचा बचावासाठी वापर करणे हा आहे, ज्यामुळे सुरक्षा व्यावसायिकांना वाढत्या प्रमाणात सामान्य असलेल्या AI-चालित हल्ल्यांविरुद्ध फायदा मिळेल. Anthropic ने या प्रकल्पाशी संबंधित ओपन-सोर्स सुरक्षा प्रयत्नांना पाठिंबा देण्यासाठी $100 दशलक्ष पर्यंत वापर क्रेडिट्स (usage credits) आणि निधी देण्याचे वचन दिले आहे. Mythos-क्लास सिस्टीमचा व्यापक रोलआउट (rollout) लक्षणीयरीत्या मजबूत सुरक्षा उपायांच्या विकासावर अवलंबून असेल.