AI डेवलपर Anthropic की एक बड़ी चूक सामने आई है। शोधकर्ताओं ने उनके पुराने Claude AI मॉडलों, Opus 4.6 और Haiku 4.5, में सुरक्षा खामी का पता लगाया है, जिससे आपत्तिजनक सामग्री (explicit content) जेनरेट की जा सकती है। यह खबर ऐसे समय में आई है जब कंपनी अपने IPO की तैयारी कर रही है।
AI की सुरक्षा पर सवाल
हाल ही में हुए परीक्षणों से पता चला है कि Anthropic के AI मॉडल Claude के पुराने वर्जन, खासकर Opus 4.6 और Haiku 4.5, 'जेलब्रेक' तकनीकों के प्रति संवेदनशील हैं। शोधकर्ताओं ने पाया कि एक खास बातचीत की तकनीक का इस्तेमाल करके इन मॉडलों को ऐसी सामग्री बनाने के लिए मजबूर किया जा सकता है, जो प्रतिबंधित है। यह समस्या सिर्फ एक बार की नहीं है, बल्कि जेनरेटिव AI कंपनियों के लिए यह एक लगातार चुनौती बनी हुई है, जिन्हें मॉडल की रचनात्मकता और सख्त कंटेंट मानकों के बीच संतुलन बनाना पड़ता है।
लाखों API रिक्वेस्ट का ट्रैफिक
भले ही Opus 4.6 और Haiku 4.5 पुराने मॉडल हों, लेकिन Amazon Bedrock और Azure Foundry जैसे प्लेटफॉर्म के माध्यम से ये आज भी बिज़नेस और डेवलपर्स के लिए आसानी से उपलब्ध हैं। आंकड़े बताते हैं कि इन मॉडलों पर हर दिन लाखों API रिक्वेस्ट आ रही हैं, जो इनके व्यापक उपयोग को दर्शाता है। AI मॉडलों की सुरक्षा और नैतिक मानकों पर बढ़ते नियामक फोकस को देखते हुए, इन कमजोरियों का सामने आना विशेष रूप से संवेदनशील है।
IPO की तैयारी और निवेशक
निवेशकों और बाजार के जानकारों के लिए यह स्थिति काफी मायने रखती है, क्योंकि Anthropic इस समय एक अहम पड़ाव से गुज़र रहा है। कंपनी, जो अभी प्राइवेट है, ने हाल ही में अमेरिकी प्रतिभूति और विनिमय आयोग (U.S. Securities and Exchange Commission) के पास गोपनीय IPO के लिए फाइलिंग की है। वर्षों के भारी निवेश के बाद, Anthropic ने अपने प्रदर्शन में जबरदस्त उछाल की सूचना दी है, जिसकी वार्षिक राजस्व दर (annualized revenue run rate) लगभग $65 बिलियन तक पहुंच गई है, और इस साल की शुरुआत में इसने अपना पहला ऑपरेटिंग प्रॉफिट (operating profitability) हासिल किया है।
'भरोसेमंद AI' का महत्व
संभावित पब्लिक लिस्टिंग की तैयारी में, जिसका मूल्यांकन खरबों डॉलर तक पहुंचने की उम्मीद है, 'भरोसेमंद AI' (trustworthy AI) का प्रबंधन कंपनी के लिए एक बड़ा स्तंभ है। संस्थागत निवेशक (Institutional investors) अक्सर AI कंपनियों का मूल्यांकन सिर्फ उनकी ग्रोथ और मुनाफे के आधार पर नहीं करते, बल्कि इस आधार पर भी करते हैं कि वे EU AI Act और उम्र-उपयुक्त सामग्री से संबंधित अमेरिकी कानूनों जैसे नियमों का कितना पालन कर सकती हैं। आसानी से फायदा उठाने योग्य सुरक्षा खामियों के कारण नियामक जुर्माने, प्रतिष्ठा को नुकसान और अनुपालन लागत में वृद्धि हो सकती है, जो कंपनी की दीर्घकालिक परिचालन लागतों को प्रभावित कर सकती है।
Anthropic ने पहले भी स्वीकार किया है कि भले ही वे हर नए मॉडल रिलीज के साथ इन कमजोरियों को ठीक करने पर काम कर रहे हैं, जेनरेटिव AI की प्रकृति के कारण उपयोगकर्ताओं द्वारा अनुचित प्रतिक्रियाएं प्राप्त करने के जोखिम को पूरी तरह से खत्म करना मुश्किल है। कंपनी अपने 'Constitutional AI' दृष्टिकोण पर केंद्रित है, जिसका उद्देश्य मॉडल के आउटपुट को सुरक्षा सिद्धांतों के एक सेट के साथ संरेखित करना है। भविष्य में, हितधारकों के लिए मुख्य बात यह होगी कि कंपनी अपने सभी तैनात मॉडलों में मजबूत सुरक्षा अपडेट लागू करने और सरकारी नियामकों व एंटरप्राइज ग्राहकों दोनों को संतुष्ट करने वाले अनुपालन मानकों को बनाए रखने में कितनी सफल होती है।