OpenAI के अपकमिंग Astra मॉडल को साइबर सिक्योरिटी के लिहाज से 'Critical' करार दिया गया है। इसके 'recurrent depth' डिजाइन पर बहस छिड़ गई है क्योंकि जानकारों का मानना है कि इससे AI के फैसलों को ट्रैक करना मुश्किल हो जाएगा।
OpenAI ने अपने नए AI मॉडल 'Astra' को कंपनी के इंटरनल सेफ्टी फ्रेमवर्क के तहत पहली बार 'Critical' साइबर सिक्योरिटी कैटेगरी में रखा है। इसका मतलब है कि यह मॉडल बिना किसी मानवीय मदद के जीरो-डे (zero-day) कमजोरियों को ढूंढने और बड़े साइबर हमलों को अंजाम देने में सक्षम हो सकता है। कंपनी इसे अपनी एक बड़ी उपलब्धि बता रही है, लेकिन एक्सपर्ट्स इसके 'recurrent depth' आर्किटेक्चर को लेकर आशंकित हैं।
क्या है 'recurrent depth' का रिस्क?
आमतौर पर AI मॉडल सीधे और सरल तरीके से डेटा प्रोसेस करते हैं, लेकिन Astra में लेयर्स को बार-बार इस्तेमाल (reuse) करने वाली तकनीक का सहारा लिया गया है। इससे मॉडल की तर्क शक्ति तो बढ़ती है, लेकिन यह एक 'ब्लैक-बॉक्स' सिस्टम बन जाता है। इस बार-बार लूपिंग करने वाली प्रक्रिया के कारण ऑडिटर्स के लिए यह समझ पाना बहुत मुश्किल है कि AI ने किसी नतीजे तक पहुंचने के लिए क्या स्टेप्स लिए।
परफॉरमेंस बनाम पारदर्शिता
यह मामला पूरी टेक इंडस्ट्री के लिए एक बड़ा सबक है। Google और Anthropic जैसी कंपनियों के बीच मची रेस में परफॉरमेंस और कॉस्ट कटिंग के दबाव में ऐसी जटिल डिजाइन बनाई जा रही हैं, जिन्हें मॉनिटर करना नामुमकिन सा हो गया है। बिना पारदर्शिता के, इन मॉडल्स में बायस (bias) या खतरनाक गलतियों को पकड़ पाना एक बड़ी चुनौती बन गई है।
प्राइवेट कंपनी पर बढ़ता दबाव
OpenAI एक प्राइवेट कंपनी है, इसलिए इसके फाइनेंशियल नतीजे सार्वजनिक नहीं होते, लेकिन यह सबको पता है कि इसे भारी पूंजी की जरूरत है। मार्केट में बने रहने के लिए कंपनी जिस रफ्तार से आगे बढ़ रही है, उससे सुरक्षा मानकों से समझौता होने का खतरा बढ़ गया है। अगर ये कंपनियां अपने मॉडल्स के अंदर झांकने वाली तकनीक विकसित नहीं कर पाती हैं, तो आने वाले समय में ग्लोबल रेगुलेटर्स इन पर सख्त नियम थोप सकते हैं, जो पूरे जनरेटिव AI सेक्टर की विश्वसनीयता पर चोट कर सकते हैं।