xAI மீது புதிய புகார்: Grok AI மூலம் ஆபாச படங்கள் உருவாக்கப்பட்டதாக வழக்கு!

AI பாதுகாப்பில் குறைபாடு?

Elon Musk தலைமையிலான செயற்கை நுண்ணறிவு (AI) நிறுவனமான xAI தற்போது ஒரு பெரிய சட்ட சிக்கலை எதிர்கொண்டுள்ளது. அந்நிறுவனத்தின் Grok சாட்பாட்டைப் பயன்படுத்தி, ஒரு பெண்ணின் சிறு வயது புகைப்படம் ஆபாச படங்களாக மாற்றப்பட்டதாக புதிய குற்றச்சாட்டுடன் கூடிய கிளாஸ்-ஆக்ஷன் வழக்கு தாக்கல் செய்யப்பட்டுள்ளது. இந்த வழக்கில், 'Jane Doe 4' என அடையாளம் காணப்பட்ட பெண், தனது வளர்ப்பு தந்தையால் இந்த AI கருவி பயன்படுத்தப்பட்டதாக தெரிவித்துள்ளார். சிறு வயதில் எடுக்கப்பட்ட புகைப்படத்திலிருந்து 7,000-க்கும் மேற்பட்ட ஆபாச படங்கள் உருவாக்கப்பட்டதாகவும், இதுகுறித்து போதுமான பாதுகாப்பு நடவடிக்கைகளை xAI எடுக்கவில்லை எனவும் வழக்கு கூறுகிறது.

முந்தைய புகாரும், புதிய இணைப்பும்

முன்னதாக, டென்னசி மாநிலத்தைச் சேர்ந்த மூன்று பதின்ம வயதினர் xAI-க்கு எதிராக இதேபோன்ற ஒரு கிளாஸ்-ஆக்ஷன் வழக்கை தாக்கல் செய்திருந்தனர். அவர்களின் குற்றச்சாட்டின்படி, நிஜ நபர்கள், குறிப்பாக சிறார்கள் சம்பந்தப்பட்ட பாலியல் ரீதியான படங்களை உருவாக்குவதை தடுக்க Grok-ன் பாதுகாப்பு அம்சங்கள் போதுமானதாக இல்லை. இந்த புதிய புகார், அந்த வழக்கில் இணைக்கப்பட்டுள்ளது.

xAI-ன் பதில் நடவடிக்கை

சில மாதங்களுக்கு முன்பு, xAI நிறுவனம் ஒரு குறிப்பிட்ட பயனருக்கு எதிராக சட்ட நடவடிக்கை எடுத்தது. Grok சாட்பாட்டைப் பயன்படுத்தி பாலியல் டீப்ஃபேக்குகள் (deepfakes) மற்றும் சிறார் பாலியல் துஷ்பிரயோகப் பொருட்கள் (child sexual abuse material) போன்றவற்றை உருவாக்கியதாக குற்றம் சாட்டப்பட்டது. இதன் மூலம், தளத்தை தவறாகப் பயன்படுத்துபவர்களுக்கு எதிராக சட்ட ரீதியான நடவடிக்கைகளை xAI எடுக்கும் எனத் தெரிகிறது. இருப்பினும், டிசம்பர் 2025 முதல் ஜனவரி 2026 வரையிலான காலகட்டத்தில், Grok மூலம் லட்சக்கணக்கான பாலியல் ரீதியான படங்கள் உருவாக்கப்பட்டதாகவும், அதில் ஆயிரக்கணக்கானவை குழந்தைகளைக் குறிப்பதாகவும் 'The Center for Countering Digital Hate' அறிக்கைகள் தெரிவித்தன.

எதிர்கால சவால்கள்

இந்த குற்றச்சாட்டுகள் xAI-க்கு பெரும் சவாலாக உருவெடுத்துள்ளன. முன்னணி AI நிறுவனமாக இருக்கும்போது, இதுபோன்ற புகார்கள் அதன் நற்பெயருக்கு களங்கம் ஏற்படுத்துவதோடு, அரசு ஒழுங்குமுறை ஆய்வுகளையும் அதிகரிக்கும். generative AI நிறுவனங்கள் தங்கள் தளங்களில் உருவாக்கப்படும் உள்ளடக்கத்தைக் கட்டுப்படுத்த வலுவான பாதுகாப்பு வடிகட்டிகளை (content filters) உருவாக்க வேண்டிய அழுத்தத்தை இது காட்டுகிறது. xAI ஒரு தனியார் நிறுவனம் என்பதால், இந்த நிகழ்வுகள் பங்குச் சந்தையை நேரடியாக பாதிக்காது. ஆனாலும், இது நிறுவனத்தின் எதிர்கால முதலீட்டுச் சூழல், இணக்கச் செலவுகள் (compliance costs) மற்றும் தயாரிப்பு வெளியீட்டு வேகத்தில் தாக்கத்தை ஏற்படுத்தக்கூடும்.

இந்த வழக்குகள், AI டெவலப்பர்களின் பொறுப்பு குறித்து முக்கிய சட்ட முன்மாதிரிகளை (legal precedents) உருவாக்கக்கூடும். பயனர்களின் தளங்களில் உருவாக்கப்படும் வெளியீடுகளுக்கு நிறுவனங்கள் சட்டப்படி பொறுப்பேற்க முடியுமா என்பதே முக்கிய கேள்வியாக உள்ளது. இந்த வழக்கின் தீர்வு, generative AI துறையில் கடுமையான தரநிலைகள் மற்றும் பாதுகாப்பு நெறிமுறைகளுக்கு வழிவகுக்கும் என எதிர்பார்க்கப்படுகிறது.