ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) సిస్టమ్స్ తరచుగా లింగ మూస పద్ధతులను, ఆన్లైన్ వేధింపులను కొనసాగిస్తున్నాయని UN మహిళా విభాగం హెచ్చరించింది. ఇది వ్యాపారాలకు తీవ్రమైన ప్రమాదాలను సృష్టిస్తుందని నివేదిక పేర్కొంది. AI-ఆధారిత మార్కెటింగ్, వర్క్ప్లేస్ ఆటోమేషన్, గవర్నెన్స్ లలో సవాళ్లను ఇది ఎత్తిచూపుతోంది. కంపెనీలు తమ బ్రాండ్ విలువను కాపాడుకోవడానికి, పెట్టుబడిదారుల విశ్వాసాన్ని నిలబెట్టుకోవడానికి బలమైన మానవ పర్యవేక్షణ, నైతిక AI ఫ్రేమ్వర్క్లను ఏర్పాటు చేసుకోవడం అత్యవసరం.
ఏం జరిగింది?
ప్రధాన అంతర్జాతీయ AI చర్చలకు ముందు UN మహిళా విభాగం (UN Women) ఒక కీలక హెచ్చరిక జారీ చేసింది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) సిస్టమ్స్ తరచుగా లింగ, జాతిపరమైన పక్షపాతాలను పెంచుతున్నాయని తెలిపింది. ఈ పక్షపాతాలు కేవలం సాంకేతిక లోపాలు కాదని, AI మోడల్స్ కంటెంట్ను ఎలా రూపొందిస్తాయి, ఆన్లైన్ ప్లాట్ఫామ్లను ఎలా నిర్వహిస్తాయి, వర్క్ఫోర్స్ నిర్ణయాలను ఎలా ఆటోమేట్ చేస్తాయి అనేవాటిపై ప్రభావం చూపుతున్నాయని ఆ సంస్థ పేర్కొంది. జనరేటివ్ AI పై ప్రపంచవ్యాప్తంగా ఆధారపడటం పెరుగుతున్న నేపథ్యంలో, AI రూపకల్పనలో లింగ సమానత్వాన్ని చేర్చడంలో విఫలమైతే సామాజికంగా, వాణిజ్యపరంగా కూడా ప్రమాదాలు ఉంటాయని ఈ హెచ్చరిక నొక్కి చెబుతోంది.
వ్యాపారాలకు వాణిజ్యపరమైన ప్రమాదం
పెట్టుబడిదారులు, కార్పొరేట్ నాయకులకు, ఈ నివేదిక నైతిక AI వినియోగానికి, వ్యాపార పనితీరుకు మధ్య స్పష్టమైన సంబంధాన్ని వివరిస్తుంది. లింగ మూస పద్ధతులు లేని ప్రకటనలు, మార్కెటింగ్ ప్రచారాలు మెరుగైన అమ్మకాలు, అధిక బ్రాండ్ విలువ, బలమైన కస్టమర్ లాయల్టీని కలిగిస్తాయని UN మహిళా విభాగం పేర్కొంది. దీనికి విరుద్ధంగా, పక్షపాత, స్త్రీద్వేష, లేదా మూస పద్ధతిలో ఉండే AI మోడల్స్ బ్రాండ్ ప్రతిష్టను దెబ్బతీసి, వినియోగదారుల విభాగాలను దూరం చేయగలవు. కంపెనీలు తమ కస్టమర్-ఫేసింగ్ కమ్యూనికేషన్లలో జనరేటివ్ AIని ఎక్కువగా అనుసంధానిస్తున్నందున, ప్రజా వ్యతిరేకత, వినియోగదారుల నమ్మకాన్ని కోల్పోయే అవకాశం ఒక ముఖ్యమైన వ్యాపార ప్రమాదంగా మారుతోంది.
మార్కెటింగ్, పర్యవేక్షణలో AI
జనరేటివ్ AI మీడియా, ప్రకటనల రంగంలో ఒక ప్రామాణిక సాధనంగా మారింది. నివేదిక ప్రకారం, చాలా వరకు ప్రకటనలు, మీడియా ఏజెన్సీలు ఇప్పటికే జనరేటివ్ AIని ఉపయోగిస్తున్నాయి. అయినప్పటికీ, ఈ సంస్థలలో గణనీయమైన భాగం AI- రూపొందించిన కంటెంట్ను ప్రజలకు చేరవేసే ముందు తనిఖీ చేయడానికి తగినంత మానవ పర్యవేక్షణ లేకుండా పనిచేస్తున్నాయి. దీనివల్ల పక్షపాత, అభ్యంతరకరమైన, లేదా తప్పు సమాచారం అనుకోకుండా పంపిణీ అయ్యే అవకాశం ఉంది. AI- రూపొందించిన మెటీరియల్స్ కోసం కఠినమైన సమీక్ష ప్రక్రియలు లేని వ్యాపారాలు నియంత్రణ పరిశీలన లేదా ప్రతిష్ట దెబ్బతినే ప్రమాదాన్ని ఎదుర్కోవచ్చు.
వర్క్ఫోర్స్, ఆటోమేషన్ సవాళ్లు
మార్కెటింగ్కు అతీతంగా, ఈ నివేదిక వర్క్ఫోర్స్ ప్రాతినిధ్యం, ఆటోమేషన్కు సంబంధించి ముఖ్యమైన ఆందోళనలను లేవనెత్తుతోంది. ప్రపంచ AI అభివృద్ధి వర్క్ఫోర్స్లో మహిళలు ఇంకా తక్కువగా ప్రాతినిధ్యం వహిస్తున్నారు, కేవలం 30% పాత్రలను మాత్రమే కలిగి ఉన్నారు. అభివృద్ధి బృందాలలో విభిన్న దృక్పథం లేకపోవడం తరచుగా నిర్దిష్ట సమూహాలను అనుకోకుండా మినహాయించే లేదా ప్రతికూలంగా ప్రభావితం చేసే అల్గారిథమ్లకు దారితీస్తుంది. అంతేకాకుండా, AI రంగం వెలుపల ఉన్న మహిళలు ఆటోమేషన్ కారణంగా పురుషులతో పోలిస్తే ఉద్యోగ నష్టానికి ఎక్కువ ప్రమాదం ఎదుర్కొంటున్నారని నివేదిక సూచిస్తోంది. AI టెక్నాలజీలను అనుసంధానించడానికి పాత్రలను పునర్నిర్మించేటప్పుడు కంపెనీలు ఈ మానవ మూలధన ప్రమాదాలను జాగ్రత్తగా నిర్వహించాలి.
పెట్టుబడిదారులు, కంపెనీలు ఏమి ట్రాక్ చేయాలి?
కంపెనీలు తమ AI గవర్నెన్స్ ఫ్రేమ్వర్క్లను ఎలా నిర్మిస్తాయో పెట్టుబడిదారులు గమనించవచ్చు. AI- రూపొందించిన కంటెంట్ కోసం 'హ్యూమన్-ఇన్-ది-లూప్' పర్యవేక్షణను కంపెనీలు ఏర్పాటు చేశాయా, అల్గారిథమిక్ పక్షపాతాన్ని తగ్గించడానికి వారి సాంకేతిక ప్రతిభ పూల్స్ను ఎలా వైవిధ్యపరుస్తున్నారు, వారి అంతర్గత AI విధానాలు అభివృద్ధి చెందుతున్న ప్రపంచ నైతిక ప్రమాణాలకు అనుగుణంగా ఉన్నాయా అనేవి కీలకమైన పర్యవేక్షణ అంశాలు. ఈ అంతరాలను చురుకుగా పరిష్కరించే కంపెనీలు, ప్రపంచవ్యాప్తంగా AI వినియోగంపై పరిశీలన పెరిగేకొద్దీ బ్రాండ్ క్షీణత, నియంత్రణ పెనాల్టీల ప్రమాదాలను తగ్గించడానికి మెరుగైన స్థితిలో ఉంటాయి.