UN Women ने इशारा दिला आहे की AI सिस्टीम्स लैंगिक रूढीवादी विचार आणि ऑनलाइन छळवादाला प्रोत्साहन देऊ शकतात, ज्यामुळे कंपन्यांसाठी मोठे धोके निर्माण झाले आहेत. या अहवालात AI-आधारित मार्केटिंग, कामाच्या ठिकाणी ऑटोमेशन आणि प्रशासनातील आव्हाने समोर आली आहेत. कंपन्यांना ब्रँडचे मूल्य जपण्यासाठी आणि गुंतवणूकदारांचा विश्वास टिकवून ठेवण्यासाठी अधिक मानवी देखरेख आणि नैतिक AI फ्रेमवर्कची आवश्यकता आहे.
काय घडले?
UN Women ने प्रमुख आंतरराष्ट्रीय AI चर्चासत्रांपूर्वी एक गंभीर इशारा दिला आहे. त्यांनी सांगितले आहे की कृत्रिम बुद्धिमत्ता (AI) सिस्टीम्स वारंवार लैंगिक आणि वांशिक पक्षपात वाढवत आहेत. ही केवळ तांत्रिक त्रुटी नसून AI मॉडेल्स कंटेंट कसे तयार करतात, ऑनलाइन प्लॅटफॉर्म कसे व्यवस्थापित करतात आणि कामाच्या ठिकाणचे निर्णय कसे स्वयंचलित करतात, यावर या पक्षपातांचा प्रभाव पडत आहे. जनरेटिव्ह AI वरील जागतिक अवलंबित्व वाढत असताना, AI डिझाइनमध्ये लैंगिक समानतेचा समावेश न केल्यास सामाजिक आणि व्यावसायिक दोन्ही धोके निर्माण होऊ शकतात, असे एजन्सीने अधोरेखित केले आहे.
कंपन्यांसाठी व्यावसायिक धोका
गुंतवणूकदार आणि कॉर्पोरेट नेत्यांसाठी, हा अहवाल नैतिक AI वापर आणि व्यावसायिक कामगिरी यांच्यातील स्पष्ट संबंध दर्शवतो. UN Women ने नमूद केले आहे की, लैंगिक रूढीवादी विचारांपासून मुक्त जाहिरात आणि विपणन मोहिमांमध्ये विक्रीत सुधारणा, ब्रँड मूल्यामध्ये वाढ आणि ग्राहकांचा अधिक विश्वास मिळतो. याउलट, पक्षपाती, लैंगिकदृष्ट्या आक्षेपार्ह किंवा रूढीवादी कंटेंट तयार करणारे AI मॉडेल्स ब्रँडची प्रतिष्ठा खराब करू शकतात आणि ग्राहकांना दूर लोटू शकतात. कंपन्या अधिकाधिक जनरेटिव्ह AI त्यांच्या ग्राहक-संवाद यंत्रणेत समाविष्ट करत असल्याने, सार्वजनिक प्रतिक्रिया आणि ग्राहक विश्वासाचा अभाव हा एक मोठा व्यावसायिक धोका बनत आहे.
मार्केटिंग आणि देखरेखेतील AI
जनरेटिव्ह AI हे मीडिया आणि जाहिरात क्षेत्रात एक सामान्य साधन बनले आहे. एजन्सीने दिलेल्या संशोधनानुसार, बहुसंख्य जाहिरात आणि मीडिया एजन्सी आधीच जनरेटिव्ह AI वापरत आहेत. तथापि, यातील अनेक कंपन्या AI-जनरेटेड कंटेंट सार्वजनिकरित्या प्रदर्शित करण्यापूर्वी त्याची तपासणी करण्यासाठी पुरेशी मानवी देखरेख न ठेवता कार्यरत आहेत. यामुळे पक्षपाती, आक्षेपार्ह किंवा चुकीचा कंटेंट नकळतपणे वितरित होण्याची शक्यता आहे. AI-जनरेटेड सामग्रीसाठी कठोर पुनरावलोकन प्रक्रिया नसलेल्या व्यवसायांना नियामक तपासणी किंवा प्रतिष्ठेचे नुकसान सहन करावे लागू शकते.
कामाची जागा आणि ऑटोमेशनमधील आव्हाने
मार्केटिंगच्या पलीकडे, हा अहवाल कामाच्या ठिकाणाचे प्रतिनिधित्व आणि ऑटोमेशनबाबत महत्त्वपूर्ण चिंता व्यक्त करतो. जागतिक AI डेव्हलपमेंट टीममध्ये महिलांचे प्रमाण अजूनही कमी आहे, त्या केवळ सुमारे 30% भूमिकांमध्ये आहेत. डेव्हलपमेंट टीममध्ये विविध दृष्टिकोन नसणे अनेकदा असे अल्गोरिदम तयार करते जे नकळतपणे विशिष्ट गटांना वगळतात किंवा त्यांचे नुकसान करतात. याव्यतिरिक्त, अहवाल सुचवितो की AI क्षेत्राबाहेरील महिलांना पुरुषांच्या तुलनेत ऑटोमेशनमुळे नोकरी गमावण्याचा धोका जास्त आहे. कंपन्या AI तंत्रज्ञान समाकलित करण्यासाठी कामाच्या भूमिकांची पुनर्रचना करत असताना या मानवी भांडवली जोखमींचे काळजीपूर्वक व्यवस्थापन करणे आवश्यक आहे.
गुंतवणूकदार आणि कंपन्यांनी काय लक्ष ठेवावे?
गुंतवणूकदारांना कंपन्या त्यांचे AI गव्हर्नन्स फ्रेमवर्क कसे तयार करतात यावर लक्ष ठेवण्याची इच्छा असू शकते. मुख्य निरीक्षण बिंदूंमध्ये कंपन्यांनी AI-जनरेटेड कंटेंटसाठी 'ह्यूमन-इन-द-लूप' (human-in-the-loop) देखरेख स्थापित केली आहे का, अल्गोरिदममधील पक्षपात कमी करण्यासाठी ते त्यांची तांत्रिक प्रतिभा पूल कशी वैविध्यपूर्ण करत आहेत आणि त्यांची अंतर्गत AI धोरणे उदयोन्मुख जागतिक नैतिक मानकांशी जुळतात का, याचा समावेश होतो. जे कंपन्या या त्रुटींवर सक्रियपणे उपाययोजना करतात, त्या जागतिक AI वापरावरील वाढत्या तपासणीमुळे ब्रँडचे नुकसान आणि नियामक दंड यांचा धोका कमी करण्यासाठी अधिक चांगल्या स्थितीत असतील.