AI चा गैरवापर वाढला! महिलांना लक्ष्य, टेक कंपन्यांवर नवे संकट

भारतात AI द्वारे तयार होणारा बनावट आणि लैंगिक स्वरूपाचा कंटेंट महिलांना लक्ष्य करत आहे. यामुळे डिजिटल सुरक्षा आणि प्लॅटफॉर्मच्या नियंत्रणाबाबत गंभीर चिंता व्यक्त होत आहे. गुंतवणूकदारांसाठी, हे तंत्रज्ञान कंपन्यांसमोरील वाढते नियामक आणि ESG धोके अधोरेखित करते.

काय घडले?

'सेंटर फॉर द स्टडी ऑफ ऑर्गनाइज्ड हेट' (CSOH) च्या एका अभ्यासात धक्कादायक माहिती समोर आली आहे. आर्टिफिशियल इंटेलिजन्स (AI) चा वापर करून बनावट, लैंगिक स्वरूपाचा कंटेंट तयार केला जात असून, विशेषतः भारतातील मुस्लिम महिलांना लक्ष्य केले जात आहे. या अभ्यासात 1,300 हून अधिक AI-निर्मित इमेज आणि व्हिडिओंचे विश्लेषण करण्यात आले. यातून असे दिसून आले की, X (पूर्वीचे ट्विटर), फेसबुक आणि इंस्टाग्रामसारख्या प्रमुख सोशल मीडिया प्लॅटफॉर्मवर अशा प्रकारच्या कंटेंटला प्रचंड एंगेजमेंट मिळते. संशोधकांच्या मते, जनरेटिव्ह AI टूल्समुळे लोकांना कमी खर्चात आणि सहजपणे द्वेषपूर्ण विचारांना वास्तववादी, गैरवापर करण्यायोग्य व्हिज्युअल मटेरियलमध्ये रूपांतरित करणे सोपे झाले आहे, यासाठी त्यांना प्रगत तांत्रिक कौशल्यांचीही गरज नाही.

हा गैरवापर केवळ सार्वजनिक व्यक्तींपुरता मर्यादित नाही. मुंबईस्थित 'मेरी ट्रस्टलाइन' सारख्या ऑनलाइन सुरक्षा सेवांनी 2022 पासून अशा डिजिटल पद्धतीने फेरफार केलेल्या कंटेंटच्या (digitally manipulated content) प्रकरणांमध्ये मोठी वाढ नोंदवली आहे. पीडितांच्या मते, हा अनुभव डिजिटल छळासारखा आहे, कारण तयार केलेला कंटेंट इतका खरा वाटतो की जवळच्या ओळखीच्या व्यक्तींनाही फसवू शकतो.

नियामक आणि गव्हर्नन्सचे आव्हान

AI-आधारित गैरवापरात वाढ झाल्याने सध्याच्या कायदेशीर चौकटी आणि डिजिटल गव्हर्नन्समध्ये मोठी पोकळी असल्याचे दिसून आले आहे. कायदेशीर तज्ज्ञांचे म्हणणे आहे की, भारतातील माहिती तंत्रज्ञान कायद्यातील कलम 66E सारखे कायदे पूर्णपणे AI-निर्मित कंटेंट हाताळण्यास सक्षम नाहीत. हे कायदे प्रामुख्याने परवानगीशिवाय खाजगी भाग रेकॉर्ड करणे किंवा प्रकाशित करण्यावर लक्ष केंद्रित करतात, ज्यामुळे सिंथेटिक (synthetic) कंटेंटच्या प्रकरणात कारवाई करणे कठीण होते.

याव्यतिरिक्त, 'सेफ हार्बर' (safe harbour) संरक्षण, जे सामान्यतः वापरकर्त्यांनी पोस्ट केलेल्या कंटेंटसाठी डिजिटल प्लॅटफॉर्मची जबाबदारी मर्यादित करतात, हा देखील चर्चेचा विषय आहे. 'इंटरनेट फ्रीडम फाउंडेशन' सारख्या संस्थांच्या मते, या संरक्षणांमुळे हानिकारक कंटेंट त्वरित काढून टाकणे कठीण होऊ शकते. कायद्याची अंमलबजावणी करणाऱ्या संस्थांकडे तक्रार करूनही पीडितांना मर्यादित यश मिळते, ज्यामुळे त्यांना प्लॅटफॉर्मवर कारवाई करण्यासाठी समुदायाच्या मदतीने मोठ्या प्रमाणावर रिपोर्टिंगवर अवलंबून राहावे लागते.

गुंतवणूकदारांसाठी प्लॅटफॉर्मची जबाबदारी का महत्त्वाची आहे?

गुंतवणूकदार आणि मार्केट विश्लेषकांसाठी, हा मुद्दा पर्यावरण, सामाजिक आणि गव्हर्नन्स (ESG) निकष आणि प्लॅटफॉर्मवरील जबाबदारी यांच्या छेदनबिंदूवर आहे. AI टूल्स अधिक सहज उपलब्ध होत असल्याने, सिंथेटिक गैरवापराचे प्रमाण वाढण्याची शक्यता आहे, ज्यामुळे तंत्रज्ञान कंपन्यांवर त्यांचे कंटेंट मॉडरेशन सिस्टम सुधारण्यासाठी दबाव वाढत आहे.

कंपन्या अशा आव्हानांना कशा सामोरे जातात यावर गुंतवणूकदार सामान्यतः लक्ष ठेवतात. प्लॅटफॉर्मवरील गैरप्रकार प्रभावीपणे रोखण्यात अयशस्वी झाल्यास कंपन्यांची प्रतिष्ठा धोक्यात येऊ शकते, नियामक तपास वाढू शकतो आणि दंड किंवा धोरणात्मक बदलांचा धोका निर्माण होऊ शकतो. जेव्हा प्लॅटफॉर्म हानिकारक AI-निर्मित कंटेंटचा प्रसार रोखण्यात अयशस्वी ठरतात, तेव्हा वापरकर्त्यांचा विश्वास कमी होतो आणि या कंपन्या कशा चालतात व त्यांच्या डिजिटल वातावरणाचे व्यवस्थापन कसे करतात यावर सरकारचे कठोर नियंत्रण येऊ शकते.

गुंतवणूकदारांनी काय ट्रॅक करावे?

पुढे, बाजारातील सहभागींसाठी राष्ट्रीय डिजिटल धोरणांमधील अद्यतने आणि माहिती तंत्रज्ञान कायद्यातील संभाव्य सुधारणा, जे विशेषतः AI-निर्मित गैरवापराला संबोधित करतील, यावर लक्ष ठेवणे महत्त्वाचे ठरेल. गुंतवणूकदार जागतिक टेक कंपन्यांच्या कंटेंट मॉडरेशन धोरणांमध्ये आणि AI गव्हर्नन्स मानकांमध्ये होणारे बदल देखील पाहू शकतात. सिंथेटिक आणि गैरवापर करणाऱ्या कंटेंटसाठी प्रभावी डिटेक्शन सिस्टममध्ये गुंतवणूक करणे, त्यांची अंमलबजावणी करणे आणि ती टिकवून ठेवण्याची कंपन्यांची क्षमता दीर्घकालीन नियामक आणि सामाजिक जोखीम व्यवस्थापित करण्यासाठी एक प्रमुख घटक ठरेल.