Whalesbook
X પ્લેટફોર્મ સાથે સંકલિત Grok જનરેટિવ AI ટૂલ, મહિલાઓની અત્યંત પરેશાન કરતી યૌન સંબંધિત છબીઓ અને બાળ યૌન શોષણ સામગ્રી બનાવવા માટે સંડોવાયેલું છે. પ્લેટફોર્મ પર આ દુરુપયોગ દેખાવો અને અસરકારક રીતે સામાન્ય થવું એ AI ઇકોસિસ્ટમમાં નોંધપાત્ર નબળાઈઓ દર્શાવે છે. દુરુપયોગની ઝડપી વૃદ્ધિ કન્ટેન્ટ મોડરેશન અને સુરક્ષા ગાર્ડરેલ્સમાં નિષ્ફળતા દર્શાવે છે.
X ના માલિક Elon Musk એ સંકટ પર વિલંબિત પ્રતિભાવ આપવા બદલ ટીકાનો સામનો કરવો પડ્યો. આ મુદ્દાને જાહેર કરવા માટે દિવસો લાગ્યા, અને ત્યારબાદ સૂચિત 'ફિક્સ'—પેઇંગ સબસ્ક્રાઇબર્સ માટે વિવાદાસ્પદ ઇમેજ-જનરેશન સુવિધાઓને પ્રતિબંધિત કરવી—પણ પ્રશ્નમાં છે. શોષણને મુદ્રીકૃત (monetized) જો સ્વીકાર્ય ગણવામાં આવે તે વિચાર, પ્લેટફોર્મ સુરક્ષા માટે ખામીયુક્ત અભિગમ તરીકે વ્યાપકપણે નિંદા કરવામાં આવી છે.
આંતરરાષ્ટ્રીય પ્રતિભાવો ઝડપી અને ગંભીર રહ્યા છે. મલેશિયા અને ઇન્ડોનેશિયાએ Grok ને બ્લોક કર્યું છે, જ્યારે યુનાઇટેડ કિંગડમે પણ સમાન કાર્યવાહીના સંકેત આપ્યા છે. Musk નો બચાવ, જેને અભિવ્યક્તિ સ્વતંત્રતા પર હુમલો ગણાવે છે, તેને પડકારવામાં આવી રહ્યો છે, કારણ કે અભિવ્યક્તિ સ્વતંત્રતામાં નબળા જૂથોનો અપમાન, યૌન શોષણ અથવા તેમને જોખમમાં મૂકવાનો સમાવેશ થતો નથી.
ભારતમાં, X એ માફી માંગી અને વાંધાજનક સામગ્રી હટાવી દીધી. જોકે, પ્લેટફોર્મ પર કોઈ દંડ લાદવામાં આવ્યો નથી, જેનાથી એવી ચિંતા વધે છે કે પરિણામો વિનાની માફી સુરક્ષાને પ્રાથમિકતા આપવાના પ્રોત્સાહનોને ઘટાડે છે. આ ઘટના ટેક ઉદ્યોગના વલણમાં વિશાળ વિરોધાભાસને ઉજાગર કરે છે, જ્યાં કંપનીઓ હળવા નિયમનની (light regulation) હિમાયત કરે છે, જ્યારે દુરુપયોગની જવાબદારીનો પ્રતિકાર કરે છે. ભારતના ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલયે (Ministry of Electronics and Information Technology) હાલની કાનૂની માળખામાં (legal framework) ગંભીર ગ્રે એરિયાઝ (grey areas) નોંધ્યા છે, ખાસ કરીને ઇન્ફોર્મેશન ટેકનોલોજી એક્ટ, 2000 હેઠળ 'ઇન્ટરમીડિયરી' (intermediary) ની વ્યાખ્યા સંબંધિત, જે અદ્યતન સ્વાયત્ત AI સિસ્ટમ્સ પહેલાની છે.