Whalesbook
இந்தியாவில் பெண்கள் மீது, குறிப்பாக முஸ்லிம் பெண்கள் மீது, AI மூலம் போலியான மற்றும் பாலியல் ரீதியான உள்ளடக்கங்கள் உருவாக்கப்பட்டு பரப்பப்படுவது அதிகரித்து வருகிறது. இது டிஜிட்டல் பாதுகாப்பு மற்றும் தளங்களின் நிர்வாகம் குறித்த தீவிர கவலைகளை எழுப்பியுள்ளது. முதலீட்டாளர்களைப் பொறுத்தவரை, இந்த போக்கு பெரிய தொழில்நுட்ப நிறுவனங்கள் எதிர்கொள்ளும் ஒழுங்குமுறை மற்றும் ESG அபாயங்களை எடுத்துக்காட்டுகிறது.
என்ன நடக்கிறது?
'Center for the Study of Organized Hate (CSOH)' நடத்திய சமீபத்திய ஆய்வு, செயற்கை நுண்ணறிவை (AI) பயன்படுத்தி, இந்தியாவில் முஸ்லிம் பெண்களை குறிவைத்து போலியான, பாலியல் ரீதியான உள்ளடக்கங்களை உருவாக்கி பரப்பும் ஒரு கவலைக்குரிய போக்கை அம்பலப்படுத்தியுள்ளது. இந்த ஆய்வு 1,300-க்கும் மேற்பட்ட AI-உருவாக்கிய படங்கள் மற்றும் வீடியோக்களை பகுப்பாய்வு செய்தது. இதில், X, Facebook, Instagram போன்ற முக்கிய சமூக ஊடக தளங்களில் இதுபோன்ற உள்ளடக்கங்கள் அதிக ஈடுபாட்டை பெறுவதாகவும் தெரியவந்துள்ளது. ஆராய்ச்சியாளர்களின் கூற்றுப்படி, ஜெனரேட்டிவ் AI கருவிகள், தொழில்நுட்பத்தில் அதிக நிபுணத்துவம் இல்லாதவர்கள் கூட, வெறுப்புணர்வைத் தூண்டும் கதைகளை யதார்த்தமான, துன்புறுத்தும் காட்சிகளாக எளிதாகவும் மலிவாகவும் மாற்ற உதவியுள்ளன.
இந்த துஷ்பிரயோகம் பொது நபர்களுக்கு மட்டும் அல்ல. மும்பையைச் சேர்ந்த Meri Trustline போன்ற ஆன்லைன் பாதுகாப்பு சேவைகள், 2022 முதல் டிஜிட்டல் ரீதியாக மாற்றியமைக்கப்பட்ட உள்ளடக்கங்கள் தொடர்பான வழக்குகளில் குறிப்பிடத்தக்க வளர்ச்சியை கண்டுள்ளன. பாதிக்கப்பட்டவர்கள் இதை ஒருவித டிஜிட்டல் துன்புறுத்தல் என்று விவரிக்கின்றனர். இது நிஜ வாழ்க்கைத் துன்புறுத்தல்களைப் போலவே தோற்றமளிக்கும் வகையில், நெருங்கிய தெரிந்தவர்களையும் ஏமாற்றும் அளவுக்கு நம்பத்தகுந்ததாக வடிவமைக்கப்படுகிறது.
ஒழுங்குமுறை மற்றும் நிர்வாக சவால்
AI-ஆல் இயக்கப்படும் துஷ்பிரயோகம் அதிகரித்துள்ளதால், தற்போதைய சட்ட கட்டமைப்புகள் மற்றும் டிஜிட்டல் நிர்வாகத்தில் உள்ள குறிப்பிடத்தக்க இடைவெளிகள் வெளிச்சத்திற்கு வந்துள்ளன. சட்ட வல்லுநர்கள், இந்தியாவில் உள்ள தகவல் தொழில்நுட்பச் சட்டத்தின் பிரிவு 66E போன்ற தற்போதைய விதிகள், முற்றிலும் AI-ஆல் உருவாக்கப்பட்ட உள்ளடக்கங்களைக் கையாள முழுமையாக போதுமானதாக இருக்காது என்று சுட்டிக்காட்டுகின்றனர். இந்தச் சட்டங்கள் பெரும்பாலும் ஒரு நபரின் அனுமதியின்றி தனிப்பட்ட பகுதிகளைப் பதிவு செய்தல் அல்லது வெளியிடுதல் ஆகியவற்றில் கவனம் செலுத்துகின்றன. இது செயற்கையான உள்ளடக்கங்களுக்கு வழக்குத் தொடுப்பதில் சிக்கல்களை உருவாக்கலாம்.
மேலும், "safe harbour" பாதுகாப்புகள் – இது பொதுவாக பயனர்கள் இடுகையிடும் உள்ளடக்கங்களுக்கு டிஜிட்டல் தளங்களின் பொறுப்பைக் கட்டுப்படுத்துகிறது – சர்ச்சைக்குரியதாகவே உள்ளது. Internet Freedom Foundation போன்ற பாதிக்கப்பட்டவர்கள் மற்றும் ஆதரவாளர்கள், இந்த பாதுகாப்புகள் தீங்கு விளைவிக்கும் உள்ளடக்கத்தை உடனடியாக அகற்றுவதைக் கடினமாக்குவதாக வாதிடுகின்றனர். சட்ட அமலாக்கத்திற்கு இதுபோன்ற சம்பவங்களைப் புகாரளித்த போதிலும், பாதிக்கப்பட்டவர்கள் பெரும்பாலும் குறைவான வெற்றியையே பெறுவதாகக் கூறுகின்றனர். இதனால், தளங்கள் நடவடிக்கை எடுக்க அழுத்தம் கொடுக்க, சமூகங்களின் வெகுஜன புகார் முயற்சிகளை நம்ப வேண்டியுள்ளது.
முதலீட்டாளர்களுக்கு தளத்தின் பொறுப்பு ஏன் முக்கியம்?
முதலீட்டாளர்கள் மற்றும் சந்தை ஆய்வாளர்களுக்கு, இந்த பிரச்சினை சுற்றுச்சூழல், சமூக மற்றும் ஆளுகை (ESG) அளவுகோல்கள் மற்றும் தளத்தின் பொறுப்பு ஆகியவற்றுக்கு இடையேயான ஒரு சந்திப்பில் உள்ளது. AI கருவிகள் எளிதாகக் கிடைக்கப்பெறுவதால், செயற்கையான துஷ்பிரயோகத்தின் அளவு அதிகரிக்கும் என்று எதிர்பார்க்கப்படுகிறது. இது தொழில்நுட்ப நிறுவனங்கள் தங்கள் உள்ளடக்கக் கட்டுப்பாட்டு அமைப்புகளை மேம்படுத்த அழுத்தம் கொடுக்கும்.
நிறுவனங்கள் இந்த சவால்களை எவ்வாறு கையாளுகின்றன என்பதை முதலீட்டாளர்கள் பொதுவாகக் கண்காணிப்பார்கள். ஏனெனில், தளங்களை திறம்பட கட்டுப்படுத்தத் தவறினால், அது குறிப்பிடத்தக்க நற்பெயர் பாதிப்பு, அதிகரித்த ஒழுங்குமுறை ஆய்வு மற்றும் அபராதம் அல்லது கட்டுப்படுத்தும் கொள்கை மாற்றங்களின் அபாயத்திற்கு வழிவகுக்கும். தீங்கு விளைவிக்கும் AI-உருவாக்கப்பட்ட உள்ளடக்கத்தின் பரவலைக் கட்டுப்படுத்த தளங்கள் போராடும்போது, அது பயனர் நம்பிக்கையைப் பாதிக்கலாம் மற்றும் இந்த நிறுவனங்கள் தங்கள் டிஜிட்டல் சூழல்களை எவ்வாறு இயக்குகின்றன மற்றும் நிர்வகிக்கின்றன என்பது குறித்து கடுமையான அரசாங்க மேற்பார்வைக்கு வழிவகுக்கும்.
முதலீட்டாளர்கள் எதைக் கண்காணிக்க வேண்டும்?
சந்தை பங்கேற்பாளர்களுக்கு, தேசிய டிஜிட்டல் கொள்கைகளில் புதுப்பிப்புகள் மற்றும் AI-உருவாக்கிய துஷ்பிரயோகத்தை குறிப்பாக நிவர்த்தி செய்யக்கூடிய தகவல் தொழில்நுட்பச் சட்டத்தில் சாத்தியமான திருத்தங்கள் ஆகியவை முக்கியமாக கண்காணிக்கப்பட வேண்டியவை. உலகளாவிய தொழில்நுட்ப நிறுவனங்களின் உள்ளடக்கக் கட்டுப்பாட்டுக் கொள்கைகள் மற்றும் AI நிர்வாகத் தரங்களில் ஏற்படும் மாற்றங்களையும் முதலீட்டாளர்கள் கவனிக்கலாம். செயற்கையான மற்றும் துஷ்பிரயோக உள்ளடக்கத்தைக் கண்டறிவதற்கான பயனுள்ள அமைப்புகளில் முதலீடு செய்தல், செயல்படுத்துதல் மற்றும் பராமரித்தல் ஆகியவற்றில் இந்த நிறுவனங்களின் திறன், நீண்டகால ஒழுங்குமுறை மற்றும் சமூக அபாயத்தை நிர்வகிப்பதில் ஒரு முக்கிய காரணியாக இருக்கும்.