Whalesbook
अल्गोरिथमिक (Algorithmic) उत्तरदायित्वाचा अभाव
भारतात मोठ्या भाषिक मॉडेल्सचे (Large Language Models) एकत्रीकरण कायदेशीर चौकटीशिवाय होत आहे, ज्यामुळे अल्गोरिदममधील चुकांचे परिणाम व्यवस्थापित करणे कठीण झाले आहे. अनेक कंपन्या त्यांची AI सिस्टीम्स (AI Systems) अद्ययावत संशोधन सहाय्यक म्हणून विकतात, पण या टूल्समध्ये अजूनही तथ्यात्मक चुका होण्याची शक्यता आहे. सध्याचे नियामक प्रयत्न, जसे की 'डिजिटल पर्सनल डेटा प्रोटेक्शन ऍक्ट' (Digital Personal Data Protection Act), केवळ माहितीची सुरक्षा आणि डेटाचा स्रोत यावर लक्ष केंद्रित करतात, ग्राहकांना मिळणाऱ्या माहितीच्या विश्वासार्हतेवर नाही. यामुळे एक धोकादायक परिस्थिती निर्माण झाली आहे, जिथे वापरकर्ते, विशेषतः कायदे आणि आरोग्यसेवा यांसारख्या महत्त्वाच्या क्षेत्रांतील लोक, मशीन-जनरेटेड (Machine-generated) उत्तरांना अधिकृत मानतात, जरी त्यांची रचना तथ्यात्मक अचूकतेपेक्षा भाषिक प्रवाहीपणाला प्राधान्य देते.
कॉर्पोरेट एक्सपोजर आणि 'शॅडो AI'
ग्राहक-केंद्रित AI चा कंपन्यांमधील वापर हा एंटरप्राइज सुरक्षेसाठी एक छुपे आव्हान आहे. अनेक कंपन्या सध्या अंतर्गत संकटांना सामोऱ्या जात आहेत कारण कर्मचारी अनधिकृत चॅटबॉट इंटरफेस (Chatbot Interfaces) त्यांच्या दैनंदिन कामात वापरत आहेत. यामुळे गोपनीय सोर्स कोड (Proprietary Source Code) आणि संवेदनशील कायदेशीर डेटा सार्वजनिक मॉडेल्समध्ये अपलोड होत आहे. हे सर्व मुख्य माहिती सुरक्षा अधिकाऱ्यांच्या (Chief Information Security Officers) नजरेआड घडत आहे. भूतकाळातील अशा घटना, जसे की आंतरराष्ट्रीय कायदेशीर प्रकरणांमध्ये खोट्या उदाहरणांचा (Fabricated Precedents) उल्लेख केल्याबद्दल दंड आणि चुकीच्या व्यावसायिक अहवालांमुळे (Erroneous Professional Reports) झालेल्या प्रतिष्ठेच्या नुकसानीचे अनुभव, एक स्पष्ट इशारा देतात. आता मुद्दा केवळ सार्वजनिक गैरमाहितीचा नाही, तर सुलभ AI साधनांच्या सोयीमुळे कॉर्पोरेट गोपनीयतेचे (Corporate Confidentiality) क्षरण होण्याचा आहे.
संरचनात्मक प्रशासन आव्हान
भारतात 'कंझ्युमर AI सेफ्टी कोड' (Consumer AI Safety Code) विकसित करताना नवोपक्रम (Innovation) प्रोत्साहन देणे आणि मोठ्या प्रमाणावर ग्राहक हानी टाळणे यातील समतोल साधणे आवश्यक आहे. कठोर नियमांचे टीकाकार म्हणतात की, बंदी घातल्यास देशातील टेक इकोसिस्टम (Tech Ecosystem) दबली जाऊ शकते. पण दुसरा पर्याय म्हणजे उत्तरदायित्व पूर्णपणे नफा-केंद्रित कंपन्यांवर सोडणे, ज्यांच्याकडे स्वतःच्या मर्यादांवर जोर देण्यासाठी प्रोत्साहन नाही. अधिक संतुलित दृष्टिकोनामध्ये 'अनिश्चितता सिग्नलिंग' (Uncertainty Signaling) समाविष्ट करणे आवश्यक आहे - जिथे मॉडेल्सनी त्यांच्या आउटपुटच्या विश्वासार्हतेची श्रेणी स्पष्टपणे दर्शवावी. तसेच, मोठ्या प्रमाणावर कार्यरत असलेल्या प्लॅटफॉर्मसाठी कठोर पारदर्शकता अहवाल (Transparency Reporting) आवश्यकता लागू करणे गरजेचे आहे. 'ऍडव्हर्टायझिंग स्टँडर्ड्स कौन्सिल ऑफ इंडिया' (Advertising Standards Council of India) सारख्या स्थापित संस्थांशी या प्रयत्नांना जोडल्यास, लहान विकासकांवर नवोपक्रम-घातक भार न टाकता 'ग्राहक सावध राहा' (Buyer Beware) ऐवजी 'प्लॅटफॉर्म उत्तरदायित्व' (Platform Accountability) याकडे एक मोठा बदल घडवून आणता येईल.
फॉरेंसिक बेअर केस: संरचनात्मक त्रुटी
भारतातील सध्याच्या AI मार्गापुढील मुख्य धोका म्हणजे पडताळणी न केलेल्या सामग्रीचे (Unverified Content) सामान्यीकरण (Normalization). जर भारत सरकार किंवा क्षेत्रातील नियामक AI प्रदात्यांवर (AI Providers) कठोर दायित्व (Strict Liability) लादण्यास सुरुवात केली, तर Alphabet आणि OpenAI सारख्या कंपन्यांना लक्षणीय कायदेशीर ओझे (Legal Overhead) सहन करावे लागेल. शिवाय, भारतीय बाजारातील भाषिक गुंतागुंत एक 'भाषांतर सापळा' (Translation Trap) तयार करते, जिथे प्रादेशिक भाषांमधील AI चे कार्य इंग्रजीपेक्षा लक्षणीयरीत्या कमी राहते, ज्यामुळे हानिकारक 'हॅल्युसिनेशन' (Hallucinations) ची शक्यता वाढते. जर नियामक संस्थांनी ठरवले की सध्याचे स्व-नियमन (Self-regulation) पुरेसे नाही, तर आपण अनिवार्य, महाग आणि संसाधन-केंद्रित अनुपालन ऑडिटकडे (Compliance Audits) वळण्याची अपेक्षा करू शकतो, ज्यामुळे स्थानिक बाजारपेठेत प्रवेश करण्याचा प्रयत्न करणाऱ्या टेक कंपन्यांच्या नफ्यावर परिणाम होऊ शकतो.