UN Women ने चेतावनी दी है कि आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम अक्सर जेंडर स्टीरियोटाइप और ऑनलाइन उत्पीड़न को बढ़ावा देते हैं, जिससे बिजनेस के लिए बड़े खतरे पैदा हो गए हैं। रिपोर्ट में AI-संचालित मार्केटिंग, कार्यस्थल ऑटोमेशन और गवर्नेंस में चुनौतियों पर प्रकाश डाला गया है। कंपनियों के लिए, यह ब्रांड वैल्यू की सुरक्षा और निवेशकों के भरोसे को बनाए रखने के लिए मजबूत मानवीय निरीक्षण और एथिकल AI फ्रेमवर्क की आवश्यकता पर जोर देता है।
क्या हुआ?
प्रमुख अंतरराष्ट्रीय AI चर्चाओं से पहले, UN Women ने एक कड़ी चेतावनी जारी की है, जिसमें कहा गया है कि आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम अक्सर जेंडर और नस्लीय पूर्वाग्रहों को बढ़ा रहे हैं। एजेंसी ने कहा कि ये पूर्वाग्रह सिर्फ तकनीकी त्रुटियां नहीं हैं, बल्कि AI मॉडल कंटेंट कैसे जनरेट करते हैं, ऑनलाइन प्लेटफॉर्म का प्रबंधन कैसे करते हैं और कार्यबल के निर्णय कैसे ऑटोमेट करते हैं, इन सबको प्रभावित कर रहे हैं। यह चेतावनी ऐसे समय में आई है जब जेनरेटिव AI पर वैश्विक निर्भरता बढ़ रही है, और एजेंसी इस बात पर जोर दे रही है कि AI डिजाइन में जेंडर समानता को शामिल करने में विफलता सामाजिक और वाणिज्यिक दोनों तरह के जोखिम पैदा करती है।
कंपनियों के लिए वाणिज्यिक जोखिम
निवेशकों और कॉर्पोरेट नेताओं के लिए, रिपोर्ट एथिकल AI उपयोग और बिजनेस परफॉर्मेंस के बीच एक स्पष्ट संबंध को उजागर करती है। UN Women ने नोट किया कि जेंडर स्टीरियोटाइप से मुक्त विज्ञापन और मार्केटिंग अभियानों में अक्सर बिक्री में सुधार, उच्च ब्रांड वैल्यू और मजबूत ग्राहक निष्ठा देखी जाती है। इसके विपरीत, पक्षपाती, सेक्सिस्ट या स्टीरियोटाइपिकल कंटेंट वाले AI मॉडल ब्रांड प्रतिष्ठा को नुकसान पहुंचा सकते हैं और उपभोक्ता वर्गों को अलग-थलग कर सकते हैं। जैसे-जैसे कंपनियां अपने ग्राहक-सामना संचार में जेनरेटिव AI को एकीकृत कर रही हैं, सार्वजनिक आक्रोश और उपभोक्ता विश्वास के नुकसान की संभावना एक महत्वपूर्ण व्यावसायिक जोखिम बन रही है।
मार्केटिंग और निरीक्षण में AI
जेनरेटिव AI मीडिया और विज्ञापन में एक मानक उपकरण बन गया है। एजेंसी द्वारा उद्धृत शोध से पता चलता है कि अधिकांश विज्ञापन और मीडिया एजेंसियां पहले से ही जेनरेटिव AI का उपयोग कर रही हैं। हालांकि, इन फर्मों का एक महत्वपूर्ण हिस्सा AI-जनरेटेड कंटेंट को जनता तक पहुंचाने से पहले जांचने के लिए पर्याप्त मानवीय निरीक्षण के बिना काम करता है। यह एक ऐसी भेद्यता पैदा करता है जहां पक्षपाती, आपत्तिजनक या गलत कंटेंट अनजाने में वितरित हो सकती है। जिन व्यवसायों के पास AI-जनरेटेड सामग्री के लिए कठोर समीक्षा प्रक्रियाओं की कमी है, उन्हें नियामक जांच या प्रतिष्ठा क्षति का सामना करना पड़ सकता है।
कार्यबल और ऑटोमेशन चुनौतियाँ
मार्केटिंग से परे, रिपोर्ट कार्यबल प्रतिनिधित्व और ऑटोमेशन के संबंध में महत्वपूर्ण चिंताएं बढ़ाती है। वैश्विक AI विकास कार्यबल में महिलाएं अभी भी कम प्रतिनिधित्व करती हैं, जो इन भूमिकाओं का लगभग 30% ही रखती हैं। विकास टीमों में विविध दृष्टिकोण की यह कमी अक्सर ऐसे एल्गोरिदम की ओर ले जाती है जो अनजाने में कुछ समूहों को बाहर कर देते हैं या नुकसान पहुंचाते हैं। इसके अलावा, रिपोर्ट बताती है कि AI क्षेत्र के बाहर की महिलाओं को पुरुषों की तुलना में ऑटोमेशन के कारण नौकरी विस्थापित होने का अधिक खतरा है। जैसे-जैसे कंपनियां AI प्रौद्योगिकियों को एकीकृत करने के लिए भूमिकाओं को पुनर्गठित करती हैं, कंपनियों को इन मानव पूंजी जोखिमों का सावधानीपूर्वक प्रबंधन करना चाहिए।
निवेशक और कंपनियों को क्या ट्रैक करना चाहिए
निवेशक यह देखना चाह सकते हैं कि कंपनियां अपने AI गवर्नेंस फ्रेमवर्क का निर्माण कैसे करती हैं। मुख्य निगरानी योग्य बातों में यह शामिल है कि क्या कंपनियों ने AI-जनरेटेड कंटेंट के लिए 'ह्यूमन-इन-द-लूप' निरीक्षण स्थापित किया है, वे एल्गोरिथम पूर्वाग्रह को कम करने के लिए अपनी तकनीकी प्रतिभा पूल में विविधता कैसे ला रही हैं, और क्या उनकी आंतरिक AI नीतियां उभरते वैश्विक नैतिक मानकों के साथ संरेखित होती हैं। जो कंपनियां सक्रिय रूप से इन अंतरालों को संबोधित करती हैं, वे वैश्विक AI उपयोग की जांच तेज होने पर ब्रांड क्षरण और नियामक दंड के जोखिमों को कम करने के लिए बेहतर स्थिति में हैं।