Whalesbook
સરકારે અલ્ટીમેટમ આપ્યું: ભારતીય સરકારે X (પહેલાં ટ્વિટર) ને તેના AI ચેટબોટ, Grok ના કથિત દુરુપયોગ અંગે કડક ચેતવણી જારી કરી છે. નિયમનકારોએ ખાસ કરીને મહિલાઓને લક્ષ્ય બનાવતી જાતીય સ્પષ્ટ તસવીરો અને વીડિયોના નિર્માણને ચિંતાનું કારણ જણાવ્યું છે. X ને આ મુદ્દાઓનું નિરાકરણ લાવવા માટે માત્ર 72 કલાકનો સમય આપવામાં આવ્યો છે.
'સેફ હાર્બર' સ્ટેટસ ગુમાવવાના પરિણામો: 'સેફ હાર્બર' સ્ટેટસ ગુમાવવાથી X ને ભારતમાં મળતું નિર્ણાયક કાનૂની રક્ષણ છીનવાઈ જશે. આ જોગવાઈ સામાન્ય રીતે ઓનલાઈન પ્લેટફોર્મ્સને વપરાશકર્તા-જનરેટેડ કન્ટેન્ટ માટે જવાબદારીમાંથી મુક્તિ આપે છે, જો અમુક શરતો પૂરી થાય. તેના વિના, કંપનીને કમ્પ્લાયન્સ ખર્ચમાં નોંધપાત્ર વધારો સહન કરવો પડી શકે છે, જેના માટે વધુ ભારત-આધારિત કન્ટેન્ટ મોડરેશન અને કાનૂની સંસાધનોની જરૂર પડશે. ફોજદારી કે દીવાની દંડ અને સેવા બ્લોક થવાનો પણ ખતરો છે.
વૈશ્વિક નિયમનકારી દેખરેખ: આ મુદ્દો આંતરરાષ્ટ્રીય સ્તરે પણ ધ્યાનમાં લેવાયો છે. ફ્રાન્સ અને મલેશિયા જેવા દેશોમાં પણ Grok દ્વારા વાસ્તવિક મહિલાઓ અને સ્પષ્ટ દેખાતા સગીરોની જાતીય તસવીરો બનાવવાની ક્ષમતા અંગે સમાન નિયમનકારી ચિંતાઓ ઉભરી આવી છે. આ દુરુપયોગ પ્રોમ્પ્ટ મેનીપ્યુલેશન (prompt manipulation) અને સિન્થેટિક આઉટપુટ (synthetic output) ને કારણે થયો હોવાનું કહેવાય છે, જે પ્લેટફોર્મ-સ્તરના સુરક્ષા પગલાંમાં કથિત ખામીઓને ઉજાગર કરે છે.
પ્લેટફોર્મનો પ્રતિસાદ: X ના ચીફ, ઈલોન મસ્ક, એ જાહેરમાં જણાવ્યું છે કે Grok નો ઉપયોગ કરીને ગેરકાયદેસર સામગ્રી બનાવનારા વ્યક્તિઓને, આવી સામગ્રી પોતે અપલોડ કરવા સમાન પરિણામોનો સામનો કરવો પડશે. X ના સત્તાવાર સલામતી પૃષ્ઠે પણ બાળ જાતીય શોષણ સામગ્રી (CSAM) સહિત ગેરકાયદેસર સામગ્રી સામે કાર્યવાહી કરવાની, એકાઉન્ટ્સ સસ્પેન્ડ કરવાની અને કાયદા અમલીકરણ એજન્સીઓ સાથે સહકાર આપવાની પોતાની પ્રતિબદ્ધતા પુનરોચ્ચાર કરી છે.
ભાવિ AI કન્ટેન્ટ નિયમો: આ વિકાસ એવા સમયે થઈ રહ્યો છે જ્યારે ભારતના ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (MeitY) IT નિયમો, 2021 માં સુધારાનો પ્રસ્તાવ મૂકી રહ્યું છે. પ્રસ્તાવિત ફેરફારો મુજબ, તમામ ડીપફેક અને AI-જનરેટેડ કન્ટેન્ટને 'સિન્થેટિકલી જનરેટેડ ઇન્ફર્મેશન' તરીકે લેબલ કરવું ફરજિયાત રહેશે. આવી કન્ટેન્ટ બનાવવાની મંજૂરી આપતા પ્લેટફોર્મ્સને મુખ્ય લેબલિંગ (prominent labeling) સુનિશ્ચિત કરવું પડશે અથવા યુનિક મેટાડેટા (unique metadata) એમ્બેડ કરવો પડશે.