AI टूल्स अब तेजी से इकोनॉमिक और पॉलिसी रिसर्च को ऑटोमेट कर रहे हैं, लेकिन मशीन द्वारा किए जा रहे ऑडिट में गलतियां निवेशकों के लिए चिंता का विषय बन गई हैं। अब 'Explainable AI' और 'Human-in-the-loop' वेरिफिकेशन कंपनियों के लिए एक बड़ी जरूरत बन गया है।
AI के जरिए बड़े डेटासेट्स और जटिल रिसर्च को ऑडिट करने का ट्रेंड तेजी से बढ़ा है, लेकिन अब यह टेक्नोलॉजी सेक्टर के लिए एक नई चुनौती बन गया है। अब बोर्डरूम्स में 'Black Box' निर्णय लेने की प्रक्रिया को एक बड़ी लायबिलिटी (Liability) के रूप में देखा जा रहा है।
डेटा एनालिटिक्स में 'Black Box' जोखिम
Emmanuel Saez और Gabriel Zucman की इकोनॉमिक रिसर्च से जुड़ा हालिया विवाद इस बात का सबूत है कि ऑटोमेटेड ऑडिटिंग में कितना रिस्क हो सकता है। समस्या यह है कि ये सिस्टम सांख्यिकीय विसंगतियों (statistical anomalies) को तो पहचान लेते हैं, लेकिन उसके पीछे का संदर्भ या तर्क नहीं समझ पाते। इंस्टीट्यूशनल क्लाइंट्स अब ऐसी सर्विस चाहते हैं जहां AI द्वारा दिए गए नतीजों की व्याख्या (Explainability) मिल सके, ताकि भविष्य में किसी भी तरह के बड़े नुकसान से बचा जा सके।
'ह्यूमन-एआई हाइब्रिड' की ओर बढ़ता बाजार
अब इंडस्ट्री इस बात को समझ रही है कि ऑटोमेशन पूरी तरह से एक्सपर्ट एनालिसिस का विकल्प नहीं हो सकता। मार्केट अब उन प्लेटफॉर्म्स को ज्यादा प्रीमियम दे रहा है जो 'Human-in-the-loop' वेरिफिकेशन का इस्तेमाल करते हैं। इसका मतलब है कि डेटा प्रोसेसिंग का कठिन काम AI करेगा, लेकिन फाइनल ऑडिट एक्सपर्ट इंसान करेंगे ताकि गलती की गुंजाइश न रहे।
निवेशकों के लिए जरूरी बातें
अब केवल 'मॉडल स्पीड' या 'डेटा क्षमता' देखना काफी नहीं है, निवेशकों को इन बातों पर नजर रखनी चाहिए:
- Explainable AI (XAI) में निवेश: क्या कंपनियां ऐसे मॉडल बना रही हैं जो स्पष्ट लॉजिक और ऑडिट ट्रेल प्रदान करते हैं?
- गवर्नेंस फ्रेमवर्क: क्या मैनेजमेंट AI आउटपुट में आने वाली गलतियों और बायस (bias) को मॉनिटर करने के लिए पारदर्शी प्रोटोकॉल का इस्तेमाल कर रहा है?
- क्लाइंट अडॉप्शन: क्या एंटरप्राइज क्लाइंट्स उन प्लेटफॉर्म्स की ओर शिफ्ट हो रहे हैं जो पूरी तरह ऑटोमेटेड होने के बजाय हाइब्रिड मॉडल अपना रहे हैं?
जो कंपनियां ऑटोमेशन की स्पीड और मानवीय सटीकता (human oversight) के बीच तालमेल बिठा पाएंगी, भविष्य में वही मार्केट का भरोसा जीत सकेंगी।