AI का बढ़ता Abuse: टेक कंपनियों के लिए बड़ी चुनौती

भारत में आर्टिफिशियल इंटेलिजेंस (AI) का दुरुपयोग बढ़ रहा है, जहां महिलाओं को निशाना बनाकर आपत्तिजनक और नकली सामग्री फैलाई जा रही है। यह डिजिटल सुरक्षा और प्लेटफॉर्म गवर्नेंस के लिए गंभीर चिंता का विषय बन गया है। निवेशकों के लिए, यह टेक कंपनियों पर बढ़ते रेगुलेटरी और ESG (पर्यावरण, सामाजिक और शासन) जोखिमों को दर्शाता है, क्योंकि वे AI-जनित दुरुपयोग को नियंत्रित करने के लिए संघर्ष कर रही हैं।

क्या हुआ है?

'सेंटर फॉर द स्टडी ऑफ ऑर्गनाइज्ड हेट (CSOH)' की हालिया स्टडी में एक चिंताजनक ट्रेंड सामने आया है: आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करके भारत में मुस्लिम महिलाओं को निशाना बनाने वाली नकली, यौन सामग्री बनाई और फैलाई जा रही है। स्टडी में 1,300 से अधिक AI-जनित इमेज और वीडियो का विश्लेषण किया गया, जिसमें पाया गया कि इस तरह की सामग्री X, फेसबुक और इंस्टाग्राम जैसे प्रमुख सोशल मीडिया प्लेटफॉर्म पर खूब देखी जा रही है। शोधकर्ताओं के अनुसार, जनरेटिव AI टूल्स ने ऐसे लोगों के लिए, जिनके पास उन्नत तकनीकी कौशल नहीं है, शत्रुतापूर्ण नैरेटिव को यथार्थवादी, अपमानजनक विज़ुअल सामग्री में बदलना आसान और सस्ता बना दिया है।

रिपोर्ट यह भी बताती है कि यह दुर्व्यवहार केवल सार्वजनिक हस्तियों तक ही सीमित नहीं है। मुंबई स्थित 'मेरी ट्रस्टलाइन' जैसी ऑनलाइन सुरक्षा सेवाओं ने 2022 के बाद से डिजिटल रूप से छेड़छाड़ की गई सामग्री से जुड़े मामलों में भारी वृद्धि देखी है। पीड़ित अक्सर इन अनुभवों को डिजिटल उत्पीड़न के रूप में बताते हैं, जो वास्तविक जीवन के दुर्व्यवहार जैसा लगता है, और सामग्री को इतना विश्वसनीय बनाने के लिए डिज़ाइन किया गया है कि यह करीबी परिचितों को भी धोखा दे सके।

रेगुलेटरी और गवर्नेंस की चुनौती

AI-संचालित दुर्व्यवहार के बढ़ने से मौजूदा कानूनी ढांचे और डिजिटल गवर्नेंस में महत्वपूर्ण खामियां उजागर हुई हैं। कानूनी विशेषज्ञों का कहना है कि भारत में सूचना प्रौद्योगिकी अधिनियम की धारा 66E जैसे मौजूदा प्रावधान, पूरी तरह से AI-जनित सामग्री से निपटने के लिए पूरी तरह से सुसज्जित नहीं हो सकते हैं। ये कानून मुख्य रूप से किसी व्यक्ति की निजी जानकारी को सहमति के बिना रिकॉर्ड करने या प्रकाशित करने पर केंद्रित हैं, जिससे सिंथेटिक सामग्री के मामलों में मुकदमा चलाना मुश्किल हो जाता है।

इसके अलावा, 'सेफ हार्बर' सुरक्षा - जो आम तौर पर उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए डिजिटल प्लेटफॉर्म की देनदारी को सीमित करती है - विवाद का एक बिंदु बनी हुई है। 'इंटरनेट फ्रीडम फाउंडेशन' जैसे पीड़ितों और अधिवक्ताओं का तर्क है कि ये सुरक्षा हानिकारक सामग्री को तुरंत हटाने में मुश्किल पैदा कर सकती हैं। कानून प्रवर्तन एजेंसियों को ऐसी घटनाओं की रिपोर्ट करने के बावजूद, पीड़ित अक्सर सीमित सफलता की रिपोर्ट करते हैं, जिससे उन्हें प्लेटफॉर्म पर कार्रवाई का दबाव बनाने के लिए अपने समुदायों द्वारा बड़े पैमाने पर रिपोर्टिंग पर निर्भर रहना पड़ता है।

निवेशकों के लिए प्लेटफॉर्म जवाबदेही क्यों महत्वपूर्ण है?

निवेशकों और बाजार विश्लेषकों के लिए, यह मुद्दा पर्यावरण, सामाजिक और शासन (ESG) मानदंडों और प्लेटफॉर्म देनदारी के चौराहे पर स्थित है। जैसे-जैसे AI टूल्स अधिक सुलभ होते जा रहे हैं, सिंथेटिक दुर्व्यवहार की मात्रा बढ़ने की संभावना है, जिससे प्रौद्योगिकी कंपनियों पर अपनी सामग्री मॉडरेशन सिस्टम को बेहतर बनाने का दबाव बढ़ेगा।

निवेशक आम तौर पर इस बात पर नज़र रखते हैं कि कंपनियां इन चुनौतियों से कैसे निपटती हैं, क्योंकि प्लेटफॉर्म पर प्रभावी ढंग से निगरानी करने में विफलता से प्रतिष्ठा को गंभीर नुकसान, नियामक जांच में वृद्धि और जुर्माने या प्रतिबंधात्मक नीति परिवर्तनों का जोखिम हो सकता है। जब प्लेटफॉर्म हानिकारक AI-जनित सामग्री के प्रसार को रोकने में संघर्ष करते हैं, तो यह उपयोगकर्ता के विश्वास को प्रभावित कर सकता है और इन कंपनियों के संचालन और उनके डिजिटल वातावरण के प्रबंधन के तरीके के बारे में सख्त सरकारी निरीक्षण को जन्म दे सकता है।

निवेशकों को क्या ट्रैक करना चाहिए?

आगे बढ़ते हुए, बाजार सहभागियों के लिए मुख्य निगरानी बिंदु राष्ट्रीय डिजिटल नीतियों में अपडेट और सूचना प्रौद्योगिकी अधिनियम में संभावित संशोधन होंगे जो विशेष रूप से AI-जनित दुर्व्यवहार को संबोधित कर सकते हैं। निवेशक वैश्विक तकनीकी कंपनियों की सामग्री मॉडरेशन नीतियों और AI गवर्नेंस मानकों में बदलावों पर भी नज़र रख सकते हैं। सिंथेटिक और अपमानजनक सामग्री के लिए प्रभावी पहचान प्रणालियों में निवेश करने, लागू करने और बनाए रखने की इन फर्मों की क्षमता दीर्घकालिक नियामक और सामाजिक जोखिमों के प्रबंधन में एक प्रमुख कारक होगी।