ડીપફેક ચિંતાઓની વચ્ચે, ભારત AI-જનરેટેડ કન્ટેન્ટ માટે લેબલ ફરજિયાત બનાવી રહ્યું છે

### સિન્થેટિક સામગ્રીનો વધતો ભય
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના પ્રસારથી વાસ્તવિક ટેક્સ્ટ, છબીઓ અને ઓડિયો જનરેટ કરવામાં સક્ષમ શક્તિશાળી સાધનો આવ્યા છે. જોકે, આ ક્ષમતા વ્યાપક ખોટી માહિતી, પ્રતિષ્ઠાને નુકસાન અને ડીપફેક અને મેનિપ્યુલેટેડ મીડિયા દ્વારા નાણાકીય છેતરપિંડીની સંભાવના સહિત નોંધપાત્ર જોખમો પણ રજૂ કરે છે. આ સિન્થેટિક ખોટી બાબતો, સ્પષ્ટ ઓળખ વિના રજૂ કરવામાં આવે તો, જાહેર વિશ્વાસને ઘટાડી શકે છે અને નોંધપાત્ર સામાજિક નુકસાન પહોંચાડી શકે છે. આ ઉભરતા ભયને ઓળખીને, વિશ્વભરની સરકારો AI ટેકનોલોજી માટે માર્ગદર્શિકાઓ સ્થાપિત કરવા માટે સંઘર્ષ કરી રહી છે.

### નિયમનકારી માળખું આકાર લઈ રહ્યું છે
ભારતનું ઇલેક્ટ્રોનિક્સ અને ઇન્ફોર્મેશન ટેકનોલોજી મંત્રાલય (MeitY) તેના IT નિયમો, 2021 માં સુધારાને અંતિમ સ્વરૂપ આપવાની નજીક છે. આ પ્રસ્તાવિત ફેરફારો ડિજિટલ પ્લેટફોર્મ્સ પર AI-જનરેટેડ સામગ્રી માટે મુખ્ય લેબલિંગ ફરજિયાત બનાવશે. નિયમનનો હેતુ વપરાશકર્તાઓને માહિતીનું ગંભીરતાપૂર્વક મૂલ્યાંકન કરવા માટે સશક્ત બનાવવાનો છે, ખાતરી કરીને કે સિન્થેટિક સામગ્રીને વાસ્તવિક વાસ્તવિકતા તરીકે રજૂ કરવામાં આવતી નથી. IT સચિવ એસ. ક્રિષ્નને સંકેત આપ્યો છે કે નિયમો છુપાયેલી ખોટી બાબતોને રોકવા માટે છે અને તે અંતિમ સ્વરૂપની નજીક છે. આ જવાબદારીઓ AI ટૂલ્સના ડેવલપર્સ અને આ સામગ્રીનું વિતરણ કરતા સોશિયલ મીડિયા પ્લેટફોર્મ્સ બંને પર આવશે. દ્રશ્ય સામગ્રી માટે, તેના પ્રદર્શન વિસ્તારના ઓછામાં ઓછા 10% ભાગ પર માર્કર હોવો આવશ્યક છે, અને ઓડિયો સામગ્રી માટે, તેની પ્રારંભિક 10% અવધિ માટે ઓળખકર્તા હોવો આવશ્યક છે. IT મંત્રાલયે સ્પષ્ટપણે જણાવ્યું છે કે, મનાવી લે તેવી ખોટી બાબતો બનાવવા માટે જનરેટિવ AI ની ક્ષમતાને દુર્ભાવનાપૂર્ણ હેતુઓ માટે 'શસ્ત્ર તરીકે વાપરી' (weaponized) શકાય છે.

### ઉદ્યોગના અવાજો: સ્પષ્ટતા માટે સમર્થન
Zoho ના સ્થાપક અને ચીફ સાયન્ટિસ્ટ શ્રીધર વેંબુએ AI લેબલિંગ નિયમોને જાહેરમાં અને ભારપૂર્વક સમર્થન આપ્યું છે. વેંબુએ ભારપૂર્વક જણાવ્યું કે આવા આદેશો "સંપૂર્ણપણે જરૂરી" છે, કારણ કે વિકૃત અથવા મેનિપ્યુલેટેડ છબીઓ "લોકોને ગંભીર નુકસાન" પહોંચાડી શકે છે. તેમણે એક સક્રિય સ્થિતિ વ્યક્ત કરી, જણાવ્યું કે, "અમે વિકસિત થઈશું પરંતુ (અમારી સિસ્ટમ એ છે કે) અમે આનો ઝડપથી પ્રતિસાદ આપીએ છીએ," જે ગોપનીયતાના ઉલ્લંઘનો અને અખંડિતતાના હુમલાઓને નિયમન દ્વારા ઝડપથી સંબોધિત કરવાની પ્રતિબદ્ધતા દર્શાવે છે. ભારતીય ટેક ઉદ્યોગના એક અગ્રણી વ્યક્તિ તરફથી આવેલું આ સમર્થન, જવાબદાર AI શાસનની જરૂરિયાત પર સર્વસંમતિ દર્શાવે છે.

### ગ્રોક ઉત્પ્રેરક
તાજેતરના વિવાદોએ નિયમનકારી કાર્યવાહીની તાકીદમાં નોંધપાત્ર વધારો કર્યો છે. એલન મસ્ક-ની માલિકીની ગ્રોક AI ચેટબોટ, સગીર સહિત વ્યક્તિઓની અશ્લીલ સામગ્રી અને ડિજિટલ છબીઓને મેનિપ્યુલેટ કરવા માટે તેનો ઉપયોગ કરવામાં આવ્યો હોવાના આરોપો પછી તીવ્ર ટીકા અને તપાસનો સામનો કરવો પડ્યો હતો. આ ઘટનાઓએ ગોપનીયતાના ઉલ્લંઘનો અને પ્લેટફોર્મ જવાબદારી અંગે વ્યાપક ચિંતાઓ જગાવી, જેના કારણે વૈશ્વિક સ્તરે નિયમનકારી દેખરેખમાં વધારો થયો. ભારતના IT મંત્રાલયે 2 જાન્યુઆરી, 2026 ના રોજ X (ભૂતપૂર્વ ટ્વિટર) ને ગ્રોક દ્વારા જનરેટ કરાયેલ અશ્લીલ, અશ્લીલ અને ગેરકાયદેસર સામગ્રીને તાત્કાલિક દૂર કરવા માટે નોટિસ જારી કરી, અન્યથા કાનૂની પરિણામોનો સામનો કરવો પડશે. વધતા દબાણના જવાબમાં, X એ એવા અધિકારક્ષેત્રોમાં ગ્રોકના આઉટપુટને પ્રતિબંધિત કરવા માટે તકનીકી પગલાં અમલમાં મૂકવાનું શરૂ કર્યું છે જ્યાં તે ગેરકાયદેસર છે અને વાસ્તવિક લોકોની સ્પષ્ટ છબીઓ જનરેટ થતી અટકાવવા માટે.

### વ્યાપક બજાર અને ભવિષ્યના અસરો
જોકે Zoho કોર્પોરેશન એક ખાનગી માલિકીની સંસ્થા છે, તેના સ્થાપકના સ્પષ્ટ સમર્થન સમગ્ર AI ઉદ્યોગને અસર કરતા એક મહત્વપૂર્ણ વલણને પ્રકાશિત કરે છે. ભારતમાં પ્રસ્તાવિત નિયમો AI શાસનની દિશામાં વધી રહેલા વૈશ્વિક ચળવળ સાથે સુસંગત છે. યુરોપિયન યુનિયન અને યુનાઇટેડ સ્ટેટ્સ સહિતના અન્ય અધિકારક્ષેત્રો પણ AI ની નૈતિક અને સામાજિક અસરોનું સંચાલન કરવા માટે સક્રિયપણે ફ્રેમવર્ક વિકસાવી રહ્યા છે. જનરેટિવ AI ટૂલ્સ વિકસાવતી કંપનીઓ અને સોશિયલ મીડિયા પ્લેટફોર્મ ચલાવતી કંપનીઓ માટે, આ વિકસતા નિયમો એક નવી ઓપરેશનલ વાસ્તવિકતા રજૂ કરે છે. શક્તિશાળી AI ટેકનોલોજીના દુરુપયોગને રોકવા, વપરાશકર્તાઓની સલામતી સુનિશ્ચિત કરવા અને ડિજિટલ ઇકોસિસ્ટમમાં વિશ્વાસ જાળવી રાખવા માટે, નવીનતા અને મજબૂત સુરક્ષા પગલાં વચ્ચે સંતુલન બનાવવું એ પડકાર છે. X અને AI પ્રદાતાઓ જેવા પ્લેટફોર્મ પર વધેલી દેખરેખ, AI ક્ષમતાઓ સ્પષ્ટ નુકસાન તરફ દોરી જાય ત્યારે લાવી શકાય તેવી નોંધપાત્ર દેખરેખને રેખાંકિત કરે છે.