Whalesbook
કોર્ટનો ડીપફેક ફેલાવા પર સકંજો
ગુજરાત હાઈકોર્ટ હવે આર્ટિફિશિયલ ઈન્ટેલિજન્સ (Artificial Intelligence - AI) દ્વારા જનરેટ થતા ડીપફેક કન્ટેન્ટના ફેલાવા સામે સક્રિય થઈ છે. કોર્ટે Meta India, Google, X, Reddit અને Scribd જેવા દિગ્ગજ ઓનલાઈન પ્લેટફોર્મ્સને આ મુદ્દે નોટિસ પાઠવી સ્પષ્ટતા માંગી છે. આ પગલું એક પબ્લિક ઈન્ટરેસ્ટ લિટિગેશન (Public Interest Litigation - PIL) બાદ આવ્યું છે, જેમાં AI ના દુરુપયોગને રોકવા માટે કડક નિયમોની તાતી જરૂરિયાત પર ભાર મૂકવામાં આવ્યો હતો. કોર્ટ એ ચકાસી રહી છે કે શું આ પ્લેટફોર્મ્સ ગેરકાયદે ઓનલાઈન કન્ટેન્ટ માટેની તેમની કાયદાકીય જવાબદારીઓનું પાલન કરી રહ્યા છે. કોર્ટે જણાવ્યું કે કાયદાના અભાવે નહીં, પરંતુ નબળા અમલીકરણ (Enforcement) ને કારણે સમસ્યા વધી રહી છે. કોર્ટે સરકારી SAHYOG પોર્ટલ સાથે સંકલન સાધીને તાત્કાલિક પગલાં લેવાનો આદેશ આપ્યો છે, જેથી જવાબદારી વધે અને કન્ટેન્ટ મોડરેશન (Content Moderation) ઝડપી બને. PIL મુજબ, ડીપફેક ટેકનોલોજી જાહેર વ્યવસ્થા અને લોકશાહી માટે ગંભીર ખતરો ઉભી કરે છે, કારણ કે તે વાસ્તવિક લાગે છે અને લોકોને તેને અસલીથી અલગ પાડવામાં મુશ્કેલી પડે છે.
ભારતમાં AI નિયમો વધુ કડક
આ કોર્ટ કાર્યવાહી એવા સમયે આવી છે જ્યારે ડિજિટલ પ્લેટફોર્મ્સ માટે ભારતના નિયમો ખૂબ જ ઝડપથી બદલાઈ રહ્યા છે અને વધુ કડક બની રહ્યા છે. IT Rules માં કરવામાં આવેલા સુધારા, જે ફેબ્રુઆરી 2026 થી લાગુ થવાના છે, તે એક મોટી શિફ્ટ સૂચવે છે – જ્યાં પહેલા પ્રતિક્રિયાત્મક (Reactive) અભિગમ હતો, ત્યાં હવે સક્રિય (Proactive) બનવાની જરૂર પડશે. મુખ્ય ફેરફારોમાં કન્ટેન્ટ હટાવવાની સમયમર્યાદામાં ભારે ઘટાડો શામેલ છે: અધિકૃત નોટિસ મળ્યા પછી ગેરકાયદે કન્ટેન્ટ માટે 3-કલાક નો સમય, અને અનિચ્છનીય સેક્સ્યુઅલ ઈમેજરી, જેમાં ડીપફેકનો પણ સમાવેશ થાય છે, તેના માટે તો 2-કલાક નો સખત સમય રહેશે. જૂની 24-36 કલાકની સરખામણીમાં આ એક મોટો બદલાવ છે. પ્લેટફોર્મ્સે 'AI-જનરેટેડ કન્ટેન્ટ' (જેમ કે ટેક્સ્ટ, ઈમેજીસ, ઓડિયો અને વીડિયો) ને સ્પષ્ટપણે લેબલ કરવું પડશે અને જો શક્ય હોય તો, ટ્રેસેબલ માર્કર્સ (Traceable Markers) ઉમેરવા પડશે. ગૃહ મંત્રાલય (Ministry of Home Affairs) દ્વારા બનાવાયેલ SAHYOG પોર્ટલ ડાઉનલોડ વિનંતીઓને એકીકૃત કરે છે અને કાયદા અમલીકરણ એજન્સીઓને પ્લેટફોર્મ્સ સાથે સીધા કામ કરવામાં મદદ કરે છે.
ટેક કંપનીઓ સામે કમ્પ્લાયન્સના પડકારો
Meta, Google, X, Reddit અને Scribd જેવી કંપનીઓ માટે, આ નવા નિયમોનો અર્થ છે કડક કમ્પ્લાયન્સ (Compliance) અને મોટા ઓપરેશનલ ફેરફારો. ઝડપી ડાઉનલોડની જરૂરિયાતો માટે ઓટોમેટેડ ડિટેક્શન ટૂલ્સ (Automated Detection Tools) માં નોંધપાત્ર રોકાણ અને રાઉન્ડ-ધ-ક્લોક કામ કરતા માનવ સમીક્ષકોની જરૂર પડશે. આ નિયમોનું પાલન ન કરવાથી IT એક્ટની કલમ 79 હેઠળના કાનૂની રક્ષણ ગુમાવવાનું જોખમ રહેલું છે, જેનાથી પ્લેટફોર્મ્સ સીધા વપરાશકર્તાઓના કન્ટેન્ટ માટે જવાબદાર બની શકે છે. એવી માહિતી છે કે Meta અને Google કમ્પ્લાયન્સ સુધારવામાં પ્રગતિ કરી રહ્યા છે, પરંતુ અન્ય SAHYOG જેવા સિસ્ટમ્સ સાથે સંકલન સાધવામાં સંઘર્ષ કરી રહ્યા છે. X, જે અગાઉ ટ્વિટર તરીકે ઓળખાતું હતું, તેને તેના Grok AI ટૂલ દ્વારા અયોગ્ય કન્ટેન્ટ બનાવવામાં આવ્યું હોવા અંગે ભારતના IT મંત્રાલય દ્વારા પહેલા પણ પ્રશ્નો પૂછવામાં આવ્યા હતા, જે પ્લેટફોર્મ-વિશિષ્ટ જોખમો દર્શાવે છે. AI નિયમો અંગે ભારતનું વલણ ટેક કંપનીઓ પાસેથી વધુ પારદર્શિતા અને જવાબદારીની માંગણી કરતા વૈશ્વિક પ્રવાહ સાથે સુસંગત છે.
કડક AI નિયમો અંગે ચિંતાઓ
આ કડક નિયમનકારી વાતાવરણ ઓનલાઈન પ્લેટફોર્મ્સ માટે નોંધપાત્ર જોખમો ઉભું કરે છે. 2-3 કલાકની અત્યંત ટૂંકી ડાઉનલોડ વિન્ડો વ્યવહારિક મુશ્કેલીઓ ઉભી કરે છે. ઓટોમેટેડ સિસ્ટમ્સ માનવ નિર્ણયશક્તિના અભાવે કન્ટેન્ટને ભૂલથી દૂર કરી શકે છે, જે વાણી સ્વાતંત્ર્ય (Free Speech) મુદ્દાઓ અને પ્લેટફોર્મની પ્રતિષ્ઠાને નુકસાન પહોંચાડી શકે છે. ટીકાકારો ચિંતિત છે કે આ કડક પગલાં વધુ પડતા સેન્સરશિપ (Censorship) તરફ દોરી શકે છે, જે સર્જનાત્મક અભિવ્યક્તિ અને વ્યંગને અવરોધે છે. તેઓ એ પણ નિર્દેશ કરે છે કે SAHYOG પોર્ટલની અસ્પષ્ટ કામગીરી કોર્ટની દેખરેખને બાયપાસ કરી શકે છે, જે એકતરફી ડાઉનલોડ ઓર્ડર દ્વારા અસરકારક રીતે સેન્સરશિપ તરફ દોરી શકે છે. 'AI-જનરેટેડ કન્ટેન્ટ' ની વ્યાપક વ્યાખ્યા હાનિકારક AI ઉપયોગોને પણ આવરી શકે છે, જે નિયમોને માત્ર દૂષિત ડીપફેકથી આગળ વિસ્તૃત કરે છે.
AI કન્ટેન્ટ પર ભારતનું વલણ
ગુજરાત હાઈકોર્ટની તાજેતરની કાર્યવાહી દ્વારા સમર્થિત ભારતના નિયમો, AI-જનરેટેડ કન્ટેન્ટના દુરુપયોગ સામે સ્પષ્ટ સ્થિતિ દર્શાવે છે. ઝડપી સમયમર્યાદા અને જરૂરી પારદર્શિતા વૈશ્વિક ધોરણો નક્કી કરે છે, જે પ્લેટફોર્મ્સને ઝડપથી અનુકૂલન સાધવા દબાણ કરે છે. આ નિયમોની સફળતા પ્લેટફોર્મ્સ કેટલી સારી રીતે કાર્ય કરે છે, કમ્પ્લાયન્સ અને વપરાશકર્તા અધિકારો વચ્ચે સંતુલન જાળવવાની તેમની ક્ષમતા અને ડિટેક્શન ટેકનોલોજી કેટલી સુધરે છે તેના પર નિર્ભર રહેશે. કોર્ટની દેખરેખ અને સરકારી નિયમનની સંયુક્ત પહેલ, AI-જનરેટેડ મીડિયાના વધતા જતા પડકારો સામે ભારતના ડિજિટલ દેખરેખને મજબૂત કરવાના સતત પ્રયાસને દર્શાવે છે.