UN Women એ ચેતવણી આપી છે કે AI સિસ્ટમ્સ ઘણીવાર લૈંગિક રૂઢિગત ધારણાઓ અને ઓનલાઈન હેરાનગતિને પ્રોત્સાહન આપે છે, જેનાથી વ્યવસાયો માટે નોંધપાત્ર જોખમો ઊભા થાય છે. રિપોર્ટમાં AI-ડ્રાઇવ કરેલ માર્કેટિંગ, કાર્યસ્થળ ઓટોમેશન અને શાસનમાં પડકારો પર પ્રકાશ પાડવામાં આવ્યો છે. કંપનીઓ માટે, આ બ્રાન્ડ વેલ્યુનું રક્ષણ કરવા અને રોકાણકારોનો વિશ્વાસ જાળવી રાખવા માટે મજબૂત માનવ દેખરેખ અને નૈતિક AI ફ્રેમવર્કની જરૂરિયાત દર્શાવે છે.
શું થયું?
UN Women એ મોટી આંતરરાષ્ટ્રીય AI ચર્ચાઓ પહેલા એક ગંભીર ચેતવણી જારી કરી છે, જેમાં પ્રકાશ પાડવામાં આવ્યો છે કે આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સ વારંવાર લિંગ અને જાતિ આધારિત ભેદભાવને મજબૂત બનાવી રહી છે. એજન્સીએ જણાવ્યું કે આ ભેદભાવ ફક્ત ટેકનિકલ ભૂલો નથી, પરંતુ AI મોડેલ કન્ટેન્ટ કેવી રીતે જનરેટ કરે છે, ઓનલાઈન પ્લેટફોર્મનું સંચાલન કરે છે અને કાર્યબળના નિર્ણયોને ઓટોમેટ કરે છે તેના પર અસર કરી રહ્યા છે. આ ચેતવણી ત્યારે આવી છે જ્યારે જનરેટિવ AI પર વૈશ્વિક નિર્ભરતા વધી રહી છે, અને એજન્સી ભારપૂર્વક જણાવે છે કે AI ડિઝાઇનમાં લિંગ સમાનતાનો સમાવેશ કરવામાં નિષ્ફળતા સામાજિક અને વાણિજ્યિક બંને જોખમો ઊભા કરે છે.
કંપનીઓ માટે વાણિજ્યિક જોખમ
રોકાણકારો અને કોર્પોરેટ નેતાઓ માટે, રિપોર્ટ નૈતિક AI ઉપયોગ અને વ્યવસાય પ્રદર્શન વચ્ચે સ્પષ્ટ કડી દર્શાવે છે. UN Women એ નોંધ્યું કે લૈંગિક રૂઢિગત ધારણાઓથી મુક્ત જાહેરાત અને માર્કેટિંગ ઝુંબેશો ઘણીવાર સુધારેલ વેચાણ, ઉચ્ચ બ્રાન્ડ વેલ્યુ અને મજબૂત ગ્રાહક નિષ્ઠા જુએ છે. તેનાથી વિપરીત, પક્ષપાતી, જાતિવાદી અથવા રૂઢિગત કન્ટેન્ટ પર ડિફોલ્ટ થતા AI મોડેલ બ્રાન્ડની પ્રતિષ્ઠાને નુકસાન પહોંચાડી શકે છે અને ગ્રાહક વર્ગોને અલગ કરી શકે છે. જેમ જેમ કંપનીઓ ગ્રાહક-સામનો કરતી સંચારમાં જનરેટિવ AI ને વધુને વધુ સંકલિત કરી રહી છે, જાહેર જનતાના રોષ અને ગ્રાહક વિશ્વાસ ગુમાવવાની સંભાવના એક મોટી વ્યવસાયિક જોખમ બની રહી છે.
માર્કેટિંગ અને દેખરેખમાં AI
જનરેટિવ AI મીડિયા અને જાહેરાત ક્ષેત્રે એક માનક સાધન બની ગયું છે. એજન્સી દ્વારા ટાંકવામાં આવેલા સંશોધન દર્શાવે છે કે મોટાભાગની જાહેરાત અને મીડિયા એજન્સીઓ પહેલેથી જ જનરેટિવ AI નો ઉપયોગ કરી રહી છે. જોકે, આમાંથી નોંધપાત્ર ટકાવારી ફર્મો AI-જનરેટેડ કન્ટેન્ટ જાહેર જનતા સુધી પહોંચે તે પહેલા તેને તપાસવા માટે પૂરતી માનવ દેખરેખ વિના કાર્ય કરે છે. આ એક નબળાઈ ઊભી કરે છે જ્યાં પક્ષપાતી, અપમાનજનક અથવા ખોટી કન્ટેન્ટ અજાણતાં વિતરિત થઈ શકે છે. જે વ્યવસાયો AI-જનરેટેડ સામગ્રી માટે કડક સમીક્ષા પ્રક્રિયાઓનો અભાવ ધરાવે છે તેઓ નિયમનકારી તપાસ અથવા પ્રતિષ્ઠાને નુકસાનનો સામનો કરી શકે છે.
કાર્યબળ અને ઓટોમેશનના પડકારો
માર્કેટિંગ ઉપરાંત, રિપોર્ટ કાર્યબળ પ્રતિનિધિત્વ અને ઓટોમેશન સંબંધિત નોંધપાત્ર ચિંતાઓ ઊભી કરે છે. વૈશ્વિક AI વિકાસ કાર્યબળમાં મહિલાઓ ઓછી પ્રતિનિધિત્વ ધરાવે છે, જે આવા કાર્યોના માત્ર 30 ટકા ધરાવે છે. વિકાસ ટીમોમાં વૈવિધ્યસભર પરિપ્રેક્ષ્યના આ અભાવને કારણે ઘણીવાર એવા અલ્ગોરિધમ્સ બને છે જે અજાણતાં અમુક જૂથોને બાકાત રાખે છે અથવા ગેરલાભ પહોંચાડે છે. વધુમાં, રિપોર્ટ સૂચવે છે કે AI ક્ષેત્રની બહારની મહિલાઓ પુરુષોની સરખામણીમાં ઓટોમેશનને કારણે નોકરી ગુમાવવાનું ઉચ્ચ જોખમ ધરાવે છે. જેમ જેમ કંપનીઓ AI ટેકનોલોજીને એકીકૃત કરવા માટે ભૂમિકાઓનું પુનર્ગઠન કરે છે તેમ તેમણે આ માનવ મૂડી જોખમોને કાળજીપૂર્વક સંચાલિત કરવી જોઈએ.
રોકાણકારો અને કંપનીઓએ શું ટ્રૅક કરવું જોઈએ
રોકાણકારો જોઈ શકે છે કે કંપનીઓ તેમના AI ગવર્નન્સ ફ્રેમવર્ક કેવી રીતે બનાવે છે. મુખ્ય ટ્રૅકેબલ્સમાં શામેલ છે કે કંપનીઓએ AI-જનરેટેડ કન્ટેન્ટ માટે 'હ્યુમન-ઇન-ધ-લૂપ' (human-in-the-loop) દેખરેખ સ્થાપિત કરી છે કે કેમ, તેઓ અલ્ગોરિધમિક ભેદભાવ ઘટાડવા માટે તેમની ટેકનિકલ ટેલેન્ટ પૂલને કેવી રીતે વૈવિધ્યસભર બનાવી રહ્યા છે, અને તેમની આંતરિક AI નીતિઓ ઉભરતા વૈશ્વિક નૈતિક ધોરણો સાથે સુસંગત છે કે કેમ. જે કંપનીઓ આ અંતરને સક્રિયપણે સંબોધે છે તેઓ વૈશ્વિક AI ઉપયોગની તપાસ વધતાં બ્રાન્ડ ક્ષરણ અને નિયમનકારી દંડના જોખમોને ઘટાડવા માટે વધુ સારી સ્થિતિમાં છે.