Anthropic च्या जुन्या Claude AI मॉडेल्समध्ये सुरक्षा त्रुटी आढळून आल्या आहेत. हॅकर्सनी या मॉडेल्समध्ये अनैतिक कंटेंट तयार करण्यात यश मिळवले आहे. हे AI डेव्हलपरसाठी मोठे आव्हान आहे, कारण कंपनी लवकरच IPO आणण्याच्या तयारीत आहे.
जुन्या Claude AI मॉडेल्समध्ये सुरक्षा त्रुटी
AI क्षेत्रात वेगाने पुढे जाणाऱ्या Anthropic कंपनीला मोठा धक्का बसला आहे. त्यांच्या Claude AI च्या जुन्या आवृत्त्यांमध्ये, विशेषतः Opus 4.6 आणि Haiku 4.5 मॉडेल्समध्ये, 'जेलब्रेक' तंत्रज्ञानाचा वापर करून अनैतिक आणि निषिद्ध (explicit) कंटेंट तयार करता येत आहे. सुरक्षा नियमावली (safety guardrails) असूनही, संशोधकांना मल्टी-स्टेप संभाषणाद्वारे AI ला चुकीच्या मार्गावर नेण्यात यश आले आहे. ही समस्या नव्याने नाही, तर जनरेटिव्ह AI कंपन्यांसाठी ही एक सततची डोकेदुखी ठरत आहे, ज्यांना AI ची सर्जनशीलता आणि कडक कंटेंट नियमांमध्ये समतोल साधावा लागतो.
IPO बाजारात प्रवेश करण्यापूर्वी मोठे आव्हान
Opus 4.6 आणि Haiku 4.5 ही जुनी मॉडेल्स असली तरी, ती Amazon Bedrock आणि Azure Foundry सारख्या प्लॅटफॉर्मवर मोठ्या प्रमाणावर उपलब्ध आहेत. मागील काही आठवड्यांमध्ये लाखो API रिक्वेस्ट्स येत असल्याचे डेटा दर्शवतो. AI मॉडेल्सच्या सुरक्षिततेवर आणि नैतिकतेवर वाढत्या नियामक दबावामुळे, या त्रुटी अत्यंत गंभीर मानल्या जात आहेत.
गुंतवणूकदारांसाठी काय महत्त्वाचे?
Anthropic सध्या एका नाजूक स्थितीतून जात आहे. कंपनीने अलीकडेच US Securities and Exchange Commission (SEC) कडे गोपनीय IPO साठी अर्ज केला आहे. अनेक वर्षांच्या मोठ्या गुंतवणुकीनंतर, Anthropic ने वार्षिक महसूल $65 अब्ज पर्यंत पोहोचवल्याचा दावा केला आहे आणि या वर्षाच्या सुरुवातीला कंपनीने नफा मिळवण्यास सुरुवात केली आहे. कंपनीच्या IPO मूल्यांकनाबद्दल बाजारात ट्रिलियन्स पर्यंत चर्चा सुरू असताना, 'विश्वसनीय AI' (trustworthy AI) व्यवस्थापित करणे हा त्यांच्यासाठी एक महत्त्वाचा मुद्दा बनला आहे. संस्थात्मक गुंतवणूकदार केवळ वाढ आणि नफाच नाही, तर EU AI Act आणि अमेरिकेतील नवीन कायद्यांचे पालन करण्याच्या क्षमतेवरही बारकाईने लक्ष ठेवून आहेत. अशा सुरक्षा त्रुटींमुळे नियामक दंड, प्रतिष्ठेचे नुकसान आणि अनुपालन खर्चात वाढ होऊ शकते, ज्याचा कंपनीच्या भविष्यावर परिणाम होऊ शकतो.
Anthropic चे म्हणणे
Anthropic ने यापूर्वी कबूल केले आहे की, प्रत्येक नवीन मॉडेल रिलीजसोबत त्या त्रुटी दूर करण्याचा प्रयत्न केला जात आहे. मात्र, जनरेटिव्ह AI चे स्वरूप असे आहे की वापरकर्त्यांना चुकीचे प्रतिसाद देण्यास भाग पाडण्याचा धोका पूर्णपणे नाहीसा करणे कठीण आहे. कंपनी 'Constitutional AI' दृष्टिकोनावर लक्ष केंद्रित करत आहे, ज्याद्वारे मॉडेलचे प्रतिसाद सुरक्षिततेच्या तत्त्वांशी जुळतील. भागधारकांसाठी, कंपनीच्या सर्व तैनात मॉडेल्समध्ये मजबूत सुरक्षा अद्यतने (safety updates) लागू करण्याची क्षमता आणि सरकारी नियामक तसेच व्यावसायिक ग्राहक दोघांनाही समाधानकारक अनुपालन मानके राखण्यात यश मिळवणे, यावर लक्ष ठेवावे लागेल.