कंपनियां डेटा एनालिसिस के लिए AI टूल्स का इस्तेमाल कर रही हैं, लेकिन अब सामने आया है एक नया 'वेरिफिकेशन गैप'। इसमें AI सही सोर्स का हवाला तो देता है, लेकिन अंदर की जानकारी को गलत समझ लेता है, जिससे AI की उत्पादकता और सटीकता पर सवाल उठ रहे हैं।
आर्टिफिशियल इंटेलिजेंस (AI) को अपनाने की होड़ में कंपनियां एक बड़ी तकनीकी चुनौती का सामना कर रही हैं। कंपनियां AI के 'हैलुसिनेशन' यानी गलत जानकारी गढ़ने की समस्या को रोकने के लिए 'Retrieval-Augmented Generation' (RAG) तकनीक का उपयोग कर रही हैं। इसका उद्देश्य AI को इंटरनल डेटाबेस से सटीक दस्तावेज देख कर जवाब देने के लिए मजबूर करना है।\n\nहालांकि, अब एक परेशान करने वाला ट्रेंड सामने आया है। AI सही दस्तावेज ढूंढ लेता है और उसका लिंक भी देता है, लेकिन उस दस्तावेज के भीतर दी गई जानकारी का मतलब गलत निकाल लेता है। चूँकि जवाब के साथ एक विश्वसनीय लिंक होता है, इसलिए इसे 'फॉल्स प्रॉक्सी' क्रेडिबिलिटी मिलती है, जिससे इंसानी रिव्यूअर्स के लिए गलतियों को पकड़ना मुश्किल हो जाता है।\n\n### बैंकिंग और लीगल सेक्टर के लिए खतरा\n\nबैंकिंग और लीगल जैसी इंडस्ट्रीज में, जहां सटीकता सबसे जरूरी है, यह समस्या बड़ा जोखिम पैदा कर रही है। उदाहरण के लिए, यदि AI किसी फाइनेंशियल फाइलिंग को एनालाइज कर रहा है, तो वह सही रिपोर्ट का हवाला दे सकता है, लेकिन उसके अंदर की किसी खास क्लॉज या आंकड़े को गलत समझ सकता है। इससे गलत मॉडल और गंभीर कंप्लायंस फेलियर का खतरा बढ़ जाता है।\n\n### 'प्रोडक्टिविटी पैराडॉक्स' का डर\n\nकंपनियां AI में निवेश इसलिए कर रही थीं ताकि मैन्युअल काम कम हो सके। लेकिन अब अगर कर्मचारियों को AI के हर दावे को खुद चेक करना पड़े, तो समय की बचत का कोई मतलब नहीं रह जाता। अगर AI 10 सेकंड में जवाब देता है, लेकिन उसे वेरीफाई करने में 20 मिनट लगते हैं, तो नेट प्रोडक्टिविटी पर बुरा असर पड़ता है।\n\nइसी वजह से अब सॉफ्टवेयर डेवलपर्स पर 'ऑडिटेबल AI' बनाने का दबाव बढ़ रहा है। अब बिजनेस और इन्वेस्टर्स का ध्यान केवल AI की रफ्तार पर नहीं, बल्कि उसकी सटीकता और ट्रेसेबिलिटी पर है। भविष्य में वही टेक कंपनियां सफल होंगी जो 'एसोसिएटिव रिस्पॉन्स' के बजाय 'वेरिफिएबल लॉजिक' पर आधारित सिस्टम बना सकेंगी।