Abliteration.ai या स्टार्टअपचा नवा प्लॅटफॉर्म आता युजर्सना अशा AI मॉडेल्सचा ॲक्सेस देत आहे, ज्यातून सुरक्षेचे सर्व नियम (Safety Guardrails) काढून टाकण्यात आले आहेत. सायबर सिक्युरिटी आणि टेस्टिंगच्या नावाखाली लाँच झालेली ही सेवा आता वादाच्या भोवऱ्यात सापडली आहे.
Abliteration.ai या नवीन स्टार्टअपनी आता अशा 'ॲब्लिटरेटेड' (Abliterated) AI मॉडेल्सचा व्यावसायिक वापर सुरू केला आहे, ज्यांच्या मूळ कोडिंगमधून सुरक्षेचे सर्व निर्बंध काढून टाकण्यात आले आहेत. 'ऑर्थोगोनलायझेशन' (Orthogonalization) या प्रक्रियेचा वापर करून कंपनीने या मॉडेल्समधील 'रेफ्युझल मेकॅनिझम्स' काढून टाकले आहेत, ज्यामुळे हे एआय कोणत्याही प्रकारच्या हानिकारक सूचना किंवा कोड तयार करू शकतात.
व्यवसायाचे स्वरूप आणि उद्देश
ही कंपनी सध्या API आणि वेब-आधारित प्लॅटफॉर्मद्वारे उच्च-क्षमतेच्या ओपन-वेट मॉडेल्सचा, उदा. GLM-5.3, ॲक्सेस देत आहे. कंपनीच्या मते, संशोधकांना आणि डेव्हलपर्सना सुरक्षा यंत्रणांची अधिक चांगल्या प्रकारे चाचणी करण्यासाठी अशा 'अनसेन्सर्ड' साधनांची गरज आहे. यासाठी कंपनी सबस्क्रिप्शन आणि वापराधारित बिलिंग मॉडेल वापरत आहे.
सायबर सुरक्षा की सुरक्षेचा धोका?
ही सेवा लाँच होताच सायबर सुरक्षा आणि एआय इथिक्सच्या क्षेत्रात मोठा वाद निर्माण झाला आहे. समर्थकांचे म्हणणे आहे की, यामुळे बँकिंग किंवा एव्हिएशनसारख्या क्षेत्रांतील सुरक्षा यंत्रणांची अधिक कठोर चाचणी करणे शक्य होईल. मात्र, टीकाकारांचा असा आरोप आहे की, यात 'नो युअर कस्टमर' (KYC) प्रोटोकॉलचा अभाव आहे. यामुळे गैरप्रकार करणाऱ्या व्यक्ती याचा वापर करून मालवेअर (Malware) किंवा इतर घातक गोष्टी सहजपणे तयार करू शकतात.
नियामक अनिश्चितता
सध्या अशा प्रकारच्या 'अनरिस्ट्रिक्टेड' एआयच्या वितरणाबाबत कोणतेही कडक सरकारी नियम नाहीत. एक खाजगी संस्था असल्यामुळे या कंपनीवर सार्वजनिक कंपन्यांप्रमाणे शेअरधारकांचा किंवा नियामक मंडळांचा दबाव नाही. भविष्यात अशा तंत्रज्ञानावर अधिक कडक नियम येतील की कंपनीला स्वतःच्या सुरक्षा नियमांमध्ये बदल करावा लागेल, याकडे संपूर्ण टेक जगाचे लक्ष लागले आहे.