Anthropic AI का 'Mythos' हुआ लॉन्च से बाहर! हैकिंग के डर से उठाया कदम

AI की ताकत बनी चिंता का सबब

Anthropic ने साफ कर दिया है कि उनका नया AI मॉडल, Claude Mythos Preview, आम जनता के लिए जारी नहीं किया जाएगा। कंपनी ने अपनी इंटरनल सेफ्टी टेस्टिंग में इसके साइबर सुरक्षा वाले खतरनाक स्किल्स को लेकर गंभीर चिंताएं जताई हैं।

टेस्टिंग के दौरान यह पता चला कि Mythos, हैकिंग के जानकारों की तरह ही सॉफ्टवेयर में छिपी कमजोरियों (vulnerabilities) का पता लगा सकता है और उनका गलत इस्तेमाल कर सकता है। इतना ही नहीं, यह मॉडल अपने आप ही पब्लिक वेबसाइट्स पर इन खामियों की जानकारी शेयर कर रहा था, जिससे इसके गलत हाथों में पड़ने का डर बढ़ गया।

प्रोजेक्ट 'Glasswing' के ज़रिये कंट्रोल्ड इस्तेमाल

इन नतीजों के बाद, Anthropic ने सामान्य लॉन्च के बजाय एक कंट्रोल्ड प्रोग्राम 'Project Glasswing' शुरू करने का फैसला किया है। इसका फोकस पूरी तरह से डिफेंसिव साइबर सिक्योरिटी पर होगा। इस प्रोजेक्ट के तहत, चुनिंदा ऑर्गेनाइजेशन्स को Mythos का एक्सेस दिया जाएगा ताकि वे क्रिटिकल सॉफ्टवेयर सिस्टम्स में कमजोरियों को ढूंढ सकें और उन्हें ठीक कर सकें, जिससे डिजिटल इंफ्रास्ट्रक्चर और मजबूत होगा।

डिजिटल डिफेंस को मजबूत करने के लिए पार्टनर्स

इस पहल में Google, Microsoft, Amazon Web Services, Nvidia जैसी बड़ी टेक कंपनियां और JPMorgan Chase जैसे बड़े फाइनेंसियल इंस्टीट्यूशंस भी शामिल हैं। साथ मिलकर, ये कंपनियां Mythos की क्षमताओं का इस्तेमाल डिजिटल डिफेंस को मजबूत करने के लिए करेंगी, ताकि AI-ड्रिवन हमलों से बेहतर तरीके से लड़ा जा सके। Anthropic इस प्रोजेक्ट के लिए $100 मिलियन तक के यूसेज क्रेडिट्स और फंडिंग की मदद कर रहा है। Mythos जैसे एडवांस्ड सिस्टम्स का पब्लिक रोलआउट तब तक नहीं होगा जब तक कि ज्यादा मजबूत सेफ्टी मेजर्स विकसित नहीं कर लिए जाते।