ઇલેક્ટ્રોનિક્સ અને ઇન્ફોર્મેશન ટેકનોલોજી મંત્રાલય (MeitY) એ Meta Platforms ના અધિકારીઓને બીજી વખત સમન્સ પાઠવ્યા છે. વડાપ્રધાન નરેન્દ્ર મોદીના એક Facebook પોસ્ટ પર થોડા સમય માટે પ્રતિબંધ મૂક્યા બાદ, સરકાર ટેકનિકલ અને નીતિગત સ્પષ્ટતા માંગી રહી છે. આ ઘટના Meta ના AI-આધારિત કન્ટેન્ટ મોડરેશન સિસ્ટમની સચોટતા પર પ્રશ્નો ઉભા કરે છે.
સરકારની ચિંતા: મોડરેશનની સચોટતા પર સવાલ
કેન્દ્ર સરકારે Meta Platforms, જે Facebook અને Instagram ની પેરેન્ટ કંપની છે, તેના સિનિયર અધિકારીઓને બીજી વખત ચર્ચા માટે બોલાવ્યા છે. આ કાર્યવાહી વડાપ્રધાન નરેન્દ્ર મોદી દ્વારા Facebook પર પોસ્ટ કરાયેલા એક વીડિયો સંદેશ પર અચાનક અને અસ્થાયી રૂપે પ્રતિબંધ મૂક્યા બાદ કરવામાં આવી છે.
MeitY એ કંપનીના પ્રારંભિક પ્રતિભાવથી ભારે અસંતોષ વ્યક્ત કર્યો છે. જ્યારે Meta ના પ્રવક્તાએ આ પ્રતિબંધને સ્વયંસંચાલિત ટેકનિકલ ખામી ગણાવી હતી, ત્યારે સરકારી અધિકારીઓએ આ સમજૂતીને અયોગ્ય ગણાવી છે. મંત્રાલય હવે આ તપાસ કરવા માંગે છે કે શા માટે મોડરેશન સિસ્ટમ્સે આટલા ઉચ્ચ-પ્રોફાઇલ જાહેર વ્યક્તિના કન્ટેન્ટને ફ્લેગ કર્યું.
MeitY ના સચિવ S. Krishnan એ ભારપૂર્વક જણાવ્યું છે કે સરકાર આ મોડરેશન ટૂલ્સની વિશ્વસનીયતાને ગંભીરતાથી લઈ રહી છે, ખાસ કરીને જાહેર સંચાર પર તેની અસરને ધ્યાનમાં રાખીને.
પ્લેટફોર્મ ગવર્નન્સ પર અસર
સરકારના હસ્તક્ષેપ બાદ, Meta એ ભવિષ્યમાં આવા સ્વયંસંચાલિત ભૂલોથી પ્રભાવશાળી જાહેર વ્યક્તિઓના એકાઉન્ટ્સને સુરક્ષિત રાખવા માટે અપડેટ કરેલા આંતરિક પ્રોટોકોલ રજૂ કર્યા હોવાનું કહેવાય છે.
રોકાણકારો અને બજાર નિરીક્ષકો માટે, આ ઘટના AI-આધારિત કન્ટેન્ટ ફિલ્ટર્સ પર ભારે નિર્ભરતા સાથે સંકળાયેલા ઓપરેશનલ જોખમોને પ્રકાશિત કરે છે. જ્યારે Meta કન્ટેન્ટ મોડરેશન માટે આર્ટિફિશિયલ ઇન્ટેલિજન્સમાં ભારે રોકાણ કરવાનું ચાલુ રાખે છે, આ ઘટના ત્યારે નિયમનકારી ઘર્ષણની સંભાવનાને વધારે છે જ્યારે આવી સિસ્ટમ્સ અજાણતાં ઉચ્ચ-પ્રોફાઇલ વપરાશકર્તાઓ અથવા સંવેદનશીલ રાજકીય સામગ્રીને અસર કરે છે.
નિયમનકારી સંદર્ભ અને આગામી પગલાં
Meta ભારતમાં અત્યંત નિયમનકારી ડિજિટલ લેન્ડસ્કેપમાં કાર્ય કરે છે, જે Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules દ્વારા સંચાલિત છે. જો પ્લેટફોર્મની સ્વયંસંચાલિત સિસ્ટમ્સ અપેક્ષિત ધોરણોને પૂર્ણ કરવામાં નિષ્ફળ જાય તેવી કોઈ ધારણા મંત્રાલય તરફથી પાલન દબાણમાં વધારો કરી શકે છે. તેની મોડરેશન અલ્ગોરિધમ્સને આવી ભૂલો ટાળવા માટે સુધારવાની કંપનીની ક્ષમતા એક મહત્વપૂર્ણ મોનિટરબલ રહેશે.
MeitY અને Meta વચ્ચે વધુ ચર્ચાઓ કંપનીના મોડરેશન માટેના લાંબા ગાળાના ટેકનિકલ રોડમેપ અને તે તેના સ્વયંસંચાલિત અમલીકરણ પદ્ધતિઓમાં વધુ સચોટતા કેવી રીતે સુનિશ્ચિત કરવાની યોજના ધરાવે છે તેના પર ધ્યાન કેન્દ્રિત કરે તેવી અપેક્ષા છે.