बिजनेस लीडर Vineet Nayar ने अपनी नई किताब 'Humans First, Machines Second' में कंपनियों को AI के लिए सख्त एथिकल फ्रेमवर्क बनाने की जरूरत पर जोर दिया है। उनकी यह चेतावनी ऐसे समय में आई है जब कंपनियां तेजी से AI को अपना रही हैं, जिससे रेगुलेटरी जोखिम और ऑटोमेटेड बायस के कारण कंज्यूमर के भरोसे में कमी की चिंताएं बढ़ रही हैं।
AI के बढ़ते इस्तेमाल के बीच एथिक्स पर Vineet Nayar की अहम सलाह
बिजनेस लीडर और लेखक Vineet Nayar ने अपनी नई किताब 'Humans First, Machines Second' में कंपनियों को आर्टिफिशियल इंटेलिजेंस (AI) को मैनेज करने के तरीके में एक बड़े बदलाव की वकालत की है। Nayar इस आम धारणा को चुनौती देते हैं कि AI सिस्टम केवल न्यूट्रल टूल हैं। इसके बजाय, उनका तर्क है कि ये सिस्टम उन कंपनियों के संगठनात्मक एथिक्स का डिजिटल आईना होते हैं जो उन्हें बनाते और लागू करते हैं। भारत में जो कंपनियां तेजी से डिजिटल ट्रांसफॉर्मेशन कर रही हैं, उनके लिए यह एक महत्वपूर्ण बदलाव का संकेत है: AI की निगरानी को टेक्निकल या लीगल डिपार्टमेंट से हटाकर सीधे सीनियर लीडरशिप की मुख्य जिम्मेदारी बनाया जाना चाहिए।
अल्गोरिदम से परे जवाबदेही
Nayar बताते हैं कि AI से जुड़े जोखिम, जैसे कि उसमें अंतर्निहित पक्षपात (bias) या यूजर सेफ्टी की जगह एंगेजमेंट को प्राथमिकता देना, टेक्नोलॉजी की खामियां नहीं, बल्कि मानवीय निर्णय की विफलताएं हैं। Amazon और Meta जैसी ग्लोबल कंपनियां पहले भी तब पब्लिक और रेगुलेटरी जांच के दायरे में आ चुकी हैं जब उनके AI मॉडल ने पक्षपातपूर्ण नतीजे दिए या हानिकारक कंटेंट दिखाया। इन सिस्टम्स की निगरानी में विफलता ने साबित किया कि मानवीय नैतिक दिशा-निर्देशों के बिना केवल डेटा-संचालित मॉडलों पर निर्भर रहने से कंपनी की प्रतिष्ठा को गंभीर नुकसान हो सकता है। भारतीय निवेशकों के लिए, यह एक नॉन-फाइनेंशियल जोखिम को रेखांकित करता है: अगर किसी संगठन का AI इंफ्रास्ट्रक्चर उसके कॉर्पोरेट मूल्यों के अनुरूप नहीं है, तो गवर्नेंस और रेगुलेटरी मुश्किलों की संभावना बनी रहती है।
AI सुरक्षा को ऑपरेशनलाइज करना
इन जोखिमों को कम करने के लिए, Nayar सुझाव देते हैं कि कंपनियों को हाई-लेवल पॉलिसी स्टेटमेंट से आगे बढ़कर अपनी रोजमर्रा की ऑपरेशन्स में एथिकल जांच को शामिल करना होगा। वह कंपनियों द्वारा AI डेवलपमेंट को गवर्न करने के लिए एक 'एथिकल स्टैक' स्थापित करने का प्रस्ताव रखते हैं। इसमें डेटा की उत्पत्ति, सिस्टम डिजाइन के लक्ष्य और डिप्लॉयमेंट के प्रभाव की कठोर निगरानी शामिल है। सबसे महत्वपूर्ण बात, वह निर्णय लेने की प्रक्रियाओं में 'ओवरराइड अथॉरिटी' की आवश्यकता पर जोर देते हैं, यह सुनिश्चित करते हुए कि उच्च-दांव वाली AI प्रक्रियाओं में मानवीय हस्तक्षेप अंतिम चरण बना रहे। इसके अलावा, वह कंपनियों को विविध टीमों—जिनमें लीगल, ह्यूमन रिसोर्सेज और इंजीनियरिंग शामिल हैं—को शामिल करते हुए नियमित AI सुरक्षा अभ्यास (drills) करने की सलाह देते हैं ताकि बिजनेस पर असर डालने से पहले प्राइवेसी लीक या पक्षपात को पकड़ा जा सके।
कॉर्पोरेट गवर्नेंस का भविष्य
जैसे-जैसे भारतीय कॉर्पोरेशन्स लार्ज लैंग्वेज मॉडल (LLMs) और ऑटोमेशन को अपनाना जारी रख रही हैं, AI डेवलपमेंट और एथिकल ओवरसाइट के बीच का अंतर संभावित रेगुलेटरी फोकस का एक प्रमुख क्षेत्र बन रहा है। डेटा उपयोग प्रतिबंधों और इंसिडेंट-रेस्पॉन्स प्रोटोकॉल की स्पष्ट कमी कॉपीराइट देनदारियों और प्राइवेसी उल्लंघनों को जन्म दे सकती है, जो वैश्विक और स्थानीय रेगुलेटर्स के निशाने पर तेजी से आ रहे हैं। कंपनियों के लिए अगला चरण यह प्रदर्शित करना होगा कि वे टेक्नोलॉजिकल इनोवेशन को जिम्मेदार गवर्नेंस के साथ संतुलित कर सकते हैं। निवेशक इस बात पर नज़र रख सकते हैं कि मैनेजमेंट टीमें अपने AI सुरक्षा उपायों का संचार कैसे करती हैं और क्या ये कंपनियां इस बारे में अधिक पारदर्शी रिपोर्टिंग की ओर बढ़ती हैं कि उनके ऑटोमेटेड सिस्टम कैसे डिजाइन, प्रशिक्षित और ऑडिट किए जाते हैं।