AI નો દુરુપયોગ વધ્યો: ટેક પ્લેટફોર્મ્સ માટે નિયમનનું મોટું પડકાર

AI દ્વારા બનાવાયેલી નકલી, જાતીય સામગ્રી ભારતમાં મહિલાઓને નિશાન બનાવી રહી છે, જેનાથી ડિજિટલ સુરક્ષા અને પ્લેટફોર્મ ગવર્નન્સ અંગે ગંભીર ચિંતાઓ ઊભી થઈ છે. રોકાણકારો માટે, આ વલણ મુખ્ય ટેક કંપનીઓ માટે વધતા નિયમનકારી અને ESG જોખમોને પ્રકાશિત કરે છે કારણ કે તેઓ AI-સંચાલિત દુરુપયોગને નિયંત્રિત કરવા સંઘર્ષ કરી રહી છે.

શું થયું?

ઓર્ગેનાઈઝ્ડ હેટ (CSOH) ના અભ્યાસમાં એક ચિંતાજનક વલણ સામે આવ્યું છે: આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) નો ઉપયોગ કરીને ભારતમાં મુસ્લિમ મહિલાઓને નિશાન બનાવતી નકલી, જાતીય સામગ્રી બનાવવી અને ફેલાવવી. આ અભ્યાસે 1,300 થી વધુ AI-જનરેટેડ છબીઓ અને વિડિઓઝનું વિશ્લેષણ કર્યું, જેમાં જાણવા મળ્યું કે આ પ્રકારની સામગ્રી X, Facebook અને Instagram જેવા મુખ્ય સોશિયલ મીડિયા પ્લેટફોર્મ્સ પર વારંવાર ઉચ્ચ એન્ગેજમેન્ટ મેળવે છે. સંશોધકોના મતે, જનરેટિવ AI ટૂલ્સે વ્યક્તિઓ માટે પ્રતિકૂળ વર્ણનોને વાસ્તવિક, અપમાનજનક દ્રશ્ય સામગ્રીમાં રૂપાંતરિત કરવાનું સરળ અને સસ્તું બનાવ્યું છે, ઘણીવાર અદ્યતન તકનીકી કુશળતાની જરૂર વગર.

આ અહેવાલ સૂચવે છે કે આ દુરુપયોગ ફક્ત જાહેર વ્યક્તિઓ સુધી મર્યાદિત નથી. મુંબઈ સ્થિત Meri Trustline જેવી ઓનલાઈન સુરક્ષા સેવાઓએ 2022 થી ડિજિટલી મેનિપ્યુલેટેડ સામગ્રીના કેસોમાં નોંધપાત્ર વધારો જોયો છે. પીડિતો ઘણીવાર આ અનુભવોને ડિજિટલ હેરેસમેન્ટના એક સ્વરૂપ તરીકે વર્ણવે છે જે વાસ્તવિક જીવનના દુરુપયોગનું અનુકરણ કરે છે, જેમાં સામગ્રી એટલી વાસ્તવિક દેખાવા માટે બનાવવામાં આવે છે કે નજીકના પરિચિતો પણ ગેરમાર્ગે દોરાઈ શકે છે.

નિયમનકારી અને ગવર્નન્સનો પડકાર

AI-સંચાલિત દુરુપયોગના વધારાએ વર્તમાન કાનૂની માળખા અને ડિજિટલ ગવર્નન્સમાં નોંધપાત્ર ખામીઓ ઉજાગર કરી છે. કાયદાકીય નિષ્ણાતો નિર્દેશ કરે છે કે ભારતમાં ઈન્ફોર્મેશન ટેકનોલોજી એક્ટની કલમ 66E જેવી હાલની જોગવાઈઓ સંપૂર્ણપણે AI-જનરેટેડ સામગ્રીને સંભાળવા માટે સજ્જ ન હોઈ શકે. આ કાયદા મુખ્યત્વે વ્યક્તિની સંમતિ વિના ખાનગી વિસ્તારોનું રેકોર્ડિંગ અથવા પ્રકાશન પર ધ્યાન કેન્દ્રિત કરે છે, જે એવા કેસોમાં કાર્યવાહી કરવામાં મુશ્કેલી ઊભી કરી શકે છે જ્યાં સામગ્રી કૃત્રિમ હોય, મેળવેલી નહીં.

વધુમાં, "સેફ હાર્બર" સુરક્ષા - જે સામાન્ય રીતે વપરાશકર્તાઓ દ્વારા પોસ્ટ કરાયેલ સામગ્રી માટે ડિજિટલ પ્લેટફોર્મ્સની જવાબદારીને મર્યાદિત કરે છે - વિવાદનો મુદ્દો બની રહી છે. ઈન્ટરનેટ ફ્રીડમ ફાઉન્ડેશનના પીડિતો અને હિમાયતીઓ દલીલ કરે છે કે આ સુરક્ષાઓ હાનિકારક સામગ્રીને તાત્કાલિક દૂર કરવામાં મુશ્કેલી ઊભી કરી શકે છે. કાયદાનો અમલ કરતી એજન્સીઓને આવા બનાવટી કિસ્સાઓની જાણ કરવા છતાં, પીડિતો ઘણીવાર મર્યાદિત સફળતાનો અહેવાલ આપે છે, જેના કારણે તેમને કાર્યવાહી કરવા માટે પ્લેટફોર્મ્સ પર દબાણ લાવવા માટે તેમના સમુદાયો દ્વારા સામૂહિક રિપોર્ટિંગ પ્રયાસો પર આધાર રાખવો પડે છે.

રોકાણકારો માટે પ્લેટફોર્મ જવાબદારી શા માટે મહત્વપૂર્ણ છે?

રોકાણકારો અને બજાર વિશ્લેષકો માટે, આ મુદ્દો પર્યાવરણીય, સામાજિક અને શાસન (ESG) માપદંડો અને પ્લેટફોર્મ જવાબદારીના આંતરછેદ પર રહેલો છે. જેમ જેમ AI ટૂલ્સ વધુ સુલભ બનશે, તેમ તેમ સિન્થેટિક દુરુપયોગનું પ્રમાણ વધવાની શક્યતા છે, જે ટેકનોલોજી કંપનીઓ પર તેમની સામગ્રી મોડરેશન સિસ્ટમ્સ સુધારવા માટે દબાણ લાવશે.

રોકાણકારો સામાન્ય રીતે કંપનીઓ આવા પડકારોનો સામનો કેવી રીતે કરે છે તેના પર નજર રાખે છે, કારણ કે પ્લેટફોર્મને અસરકારક રીતે નિયંત્રિત કરવામાં અસમર્થતા નોંધપાત્ર પ્રતિષ્ઠા નુકસાન, વધેલી નિયમનકારી તપાસ અને દંડ અથવા પ્રતિબંધિત નીતિ ફેરફારોનું જોખમ તરફ દોરી શકે છે. જ્યારે પ્લેટફોર્મ્સ AI-જનરેટેડ હાનિકારક સામગ્રીના ફેલાવાને રોકવામાં સંઘર્ષ કરે છે, ત્યારે તે વપરાશકર્તાઓના વિશ્વાસને અસર કરી શકે છે અને આ કંપનીઓ કેવી રીતે કાર્ય કરે છે અને તેમના ડિજિટલ વાતાવરણનું સંચાલન કરે છે તે અંગે કડક સરકારી દેખરેખ તરફ દોરી શકે છે.

રોકાણકારોએ શું ટ્રેક કરવું જોઈએ?

આગળ વધતાં, બજાર સહભાગીઓ માટે પ્રાથમિક નિરીક્ષણોમાં રાષ્ટ્રીય ડિજિટલ નીતિઓમાં અપડેટ્સ અને ઈન્ફોર્મેશન ટેકનોલોજી એક્ટમાં સંભવિત સુધારાઓ શામેલ છે જે ખાસ કરીને AI-જનરેટેડ દુરુપયોગને સંબોધિત કરી શકે છે. રોકાણકારો વૈશ્વિક ટેક કંપનીઓની કન્ટેન્ટ મોડરેશન નીતિઓ અને AI ગવર્નન્સ ધોરણોમાં ફેરફારો પર પણ નજર રાખી શકે છે. સિન્થેટિક અને અપમાનજનક સામગ્રી માટે અસરકારક શોધ પ્રણાલીઓમાં રોકાણ કરવા, અમલ કરવા અને જાળવવાની આ કંપનીઓની ક્ષમતા લાંબા ગાળાના નિયમનકારી અને સામાજિક જોખમોનું સંચાલન કરવામાં મુખ્ય પરિબળ બની રહેશે.