Whalesbook
UNના અહેવાલમાં જણાવ્યા મુજબ, AI સિસ્ટમ્સ ઘણીવાર સૂક્ષ્મ દ્વેષપૂર્ણ ભાષણને પકડવામાં નિષ્ફળ જાય છે, જેના કારણે મોટી ટેક કંપનીઓ માટે મોડરેશનના મોટા પડકારો ઉભા થયા છે. રોકાણકારો માટે, આ સંભવિત નિયમનકારી જોખમો, વધતા અનુપાલન ખર્ચ અને જાહેરાતની આવક માટેના જોખમો દર્શાવે છે. Meta, Google અને અન્ય AI ડેવલપર્સ જેવી કંપનીઓ હવે કાનૂની તપાસ ટાળવા અને જાહેરાતકર્તાઓ માટે બ્રાન્ડ સલામતી જાળવવા માટે ચોકસાઈ સુધારવા દબાણ હેઠળ છે, જે તેમના લાંબા ગાળાના ESG પ્રદર્શન માટે નિર્ણાયક પરિબળ છે.
શું થયું?
તાજેતરના સંયુક્ત રાષ્ટ્ર (United Nations) ના અહેવાલમાં એક ગંભીર ટેકનોલોજીકલ પડકાર પર પ્રકાશ પાડવામાં આવ્યો છે: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) સિસ્ટમ્સ સૂક્ષ્મ અથવા ગર્ભિત દ્વેષપૂર્ણ ભાષણને ચોક્કસપણે ઓળખવામાં સંઘર્ષ કરી રહી છે. જ્યારે AI મોડલ્સ સ્પષ્ટ અપશબ્દોને સરળતાથી ફ્લેગ કરી શકે છે, ત્યારે તેઓ ઘણીવાર સકારાત્મક સંદેશાઓના વેશમાં છુપાયેલા દ્વેષપૂર્ણ ભાષણને અથવા સ્પષ્ટ સંકેતોના અભાવ ધરાવતી અપમાનજનક સામગ્રીને ચૂકી જાય છે. અહેવાલમાં નોંધવામાં આવ્યું છે કે આ સિસ્ટમ્સ સંદર્ભને સમજવામાં પણ સંઘર્ષ કરે છે, કેટલીકવાર પુનઃપ્રાપ્ત કરાયેલ ભાષાને ભૂલથી દ્વેષપૂર્ણ તરીકે ફ્લેગ કરે છે, જે સોશિયલ મીડિયા પ્લેટફોર્મ્સ પર અસંગત મોડરેશન તરફ દોરી જાય છે. આ મુદ્દો મોટી ટેક કંપનીઓને અસર કરે છે જે વૈશ્વિક સ્તરે સામગ્રી પર દેખરેખ રાખવા માટે મોટા ભાષા મોડેલ્સ અને સ્વયંસંચાલિત સિસ્ટમ્સ પર આધાર રાખે છે.
રોકાણકારો માટે આ શા માટે મહત્વનું છે?
ટેકનોલોજી ક્ષેત્રના રોકાણકારો માટે, આ અહેવાલ ફક્ત એક સોફ્ટવેર મર્યાદા કરતાં વધુ દર્શાવે છે. તે એક કાર્યકારી અને નાણાકીય જોખમ રજૂ કરે છે. સોશિયલ મીડિયા કંપનીઓ અને પ્લેટફોર્મ ઓપરેટરો જાહેરાતની આવક પર ભારે આધાર રાખે છે, અને જાહેરાતકર્તાઓ તેમની જાહેરાતો ક્યાં દેખાય છે તે અંગે વધતી સંવેદનશીલતા ધરાવે છે. જો કોઈ પ્લેટફોર્મ દ્વેષપૂર્ણ ભાષણને નિયંત્રિત કરવામાં નિષ્ફળ જાય તેવું માનવામાં આવે, તો તે મુખ્ય જાહેરાત ભાગીદારોને ગુમાવવાનું જોખમ ધરાવે છે, જે સીધી રીતે આવકના વિકાસને અસર કરી શકે છે. વધુમાં, મોડરેશન માટે AI પર નિર્ભરતા એ ખર્ચ બચતનો ઉપાય છે. જો AI કામગીરી કરવામાં નિષ્ફળ જાય, તો કંપનીઓને માનવ મોડરેટર્સ પર ખર્ચ વધારવાની ફરજ પડી શકે છે, જે કાર્યકારી ખર્ચમાં વધારો કરશે અને નફાના માર્જિન પર દબાણ લાવશે.
નિયમનકારી અને ESG જોખમો
તાત્કાલિક કાર્યકારી ખર્ચ ઉપરાંત, વધતું નિયમનકારી જોખમ છે. સરકારો અને આંતરરાષ્ટ્રીય સંસ્થાઓ ઓનલાઈન સલામતી અને ડિજિટલ સામગ્રી વ્યવસ્થાપન અંગેના કાયદાઓને કડક બનાવી રહી છે. અસંગત મોડરેશન ભારે દંડ અને કાનૂની લડાઈઓ તરફ દોરી શકે છે, ખાસ કરીને યુરોપિયન યુનિયન જેવા બજારોમાં જ્યાં ડિજિટલ સલામતી કાયદાઓ સખત રીતે લાગુ કરવામાં આવે છે. વધારામાં, સામગ્રી મોડરેશન એ પર્યાવરણ, સામાજિક અને શાસન (ESG) સ્કોરિંગમાં મુખ્ય મેટ્રિક છે. સંસ્થાકીય રોકાણકારો ઘણીવાર મૂડી ફાળવવાનો નિર્ણય લેવા માટે આ સ્કોર્સનો ઉપયોગ કરે છે. દ્વેષપૂર્ણ ભાષણ મોડરેશન સાથે સતત મુદ્દાઓ કંપનીના ESG રેટિંગને નકારાત્મક અસર કરી શકે છે, સંભવિતપણે મોટા સંસ્થાકીય ભંડોળમાંથી રસ મર્યાદિત કરી શકે છે.
પ્લેટફોર્મ વ્યૂહરચનાઓ અને કાર્યકારી પડકારો
વિવિધ ટેક જાયન્ટ્સ આ મોડરેશન પડકારોને પહોંચી વળવા માટે વિવિધ વ્યૂહરચનાઓ અપનાવી રહ્યા છે. કેટલાક પ્લેટફોર્મ્સે વપરાશકર્તા-સૂચિત સામગ્રીના પક્ષમાં સક્રિય નિરાકરણ પર ઘટાડો કર્યો છે, જ્યારે અન્ય વપરાશકર્તાઓ દ્વારા ફ્લેગ કરવામાં આવે તે પહેલાં સામગ્રીને પકડવા માટે સ્વયંસંચાલિત સિસ્ટમ્સ પર આધાર રાખવાનું ચાલુ રાખે છે. આ એકીકૃત ઉદ્યોગ ધોરણનો અભાવ રોકાણકારો માટે ટ્રેક કરવા માટે એક જટિલ વાતાવરણ બનાવે છે. આ વ્યૂહરચનાઓની અસરકારકતા સીધી રીતે વપરાશકર્તા જાળવણી અને પ્લેટફોર્મ આરોગ્યને અસર કરે છે. જે પ્લેટફોર્મ તેના વપરાશકર્તાઓને સુરક્ષિત કરવામાં નિષ્ફળ જાય છે અથવા ઝેરી વાતાવરણ બનાવે છે તે દૈનિક સક્રિય વપરાશકર્તાઓમાં ઘટાડો જોઈ શકે છે, જે લાંબા ગાળાના વિકાસ અને મૂલ્યાંકન માટે મુખ્ય મેટ્રિક છે.
રોકાણકારોએ શું ટ્રેક કરવું જોઈએ?
રોકાણકારો એ જાણવા માંગી શકે છે કે આ કંપનીઓ વધુ અત્યાધુનિક AI મોડલ્સ વિકસાવવાના ખર્ચ સામે મેન્યુઅલ મોડરેશનના વધતા ખર્ચને કેવી રીતે સંતુલિત કરે છે. આગામી મહત્વપૂર્ણ અપડેટ્સ સંભવતઃ સામગ્રી સલામતી બજેટ અને આંતરરાષ્ટ્રીય નિયમનકારી દબાણના પ્રતિભાવમાં સામગ્રી મોડરેશન વ્યૂહરચનાઓમાં કોઈપણ ગોઠવણો અંગે મેનેજમેન્ટની ટિપ્પણીઓમાંથી આવશે. કંપનીઓ સામગ્રી સલામતી સંબંધિત નવા દંડ અથવા તપાસનો સામનો કરે છે કે કેમ તે ટ્રેક કરવું પણ મહત્વપૂર્ણ છે, કારણ કે આ સંભવિત ભાવિ જવાબદારીઓના સ્પષ્ટ સૂચકાંકો છે. છેવટે, આ પ્લેટફોર્મ્સ પર જાહેરાતના વલણોમાં ફેરફારોનું નિરીક્ષણ કરવાથી એ નિર્ધારિત કરવામાં મદદ મળશે કે શું મોડરેશન મુદ્દાઓ આવકની સ્થિરતાને નકારાત્મક અસર કરી રહ્યા છે.
