AI की 'हेलुसिनेशन' का शिकार हुई किताब, लेखक को सुधारनी पड़ी कई गलतियाँ

AI की 'हेलुसिनेशन' का सच

आर्टिफिशियल इंटेलिजेंस (AI) टूल्स, खासकर लार्ज लैंग्वेज मॉडल्स (LLMs), आजकल रिसर्च और कंटेंट क्रिएशन जैसे कई प्रोफेशनल कामों में इस्तेमाल हो रहे हैं। लेकिन, लेखक स्टीवन रोसेनबॉम के साथ हुई एक घटना हमें इन सिस्टम्स की विश्वसनीयता की चुनौतियों की याद दिलाती है। उनकी किताब 'द फ्यूचर ऑफ ट्रुथ' (The Future of Truth), जो AI के सूचना पर पड़ने वाले प्रभाव पर आधारित है, उसमें AI असिस्टेंट्स के इस्तेमाल के कारण कई तथ्यात्मक गलतियाँ और गलत कोट्स पाए गए।

AI की गलतियाँ क्यों होती हैं?

AI में 'हेलुसिनेशन' (Hallucinations) की समस्या जनरेटिव AI के मूल डिजाइन से जुड़ी है। ये मॉडल्स इंसानों की तरह तथ्यों को 'समझते' नहीं हैं। वे बड़े डेटासेट पर प्रशिक्षित होते हैं और सांख्यिकीय संभावनाओं के आधार पर अगला शब्द अनुमान लगाते हैं। जब AI को किसी ऐसे सवाल का सामना करना पड़ता है जहाँ डेटा कम या जटिल होता है, तो यह सटीक जानकारी देने के बजाय एक विश्वसनीय लगने वाला जवाब बनाने को प्राथमिकता दे सकता है। चूंकि ये मॉडल मदद करने के लिए बनाए गए हैं, इसलिए वे अक्सर 'मुझे नहीं पता' कहने में असमर्थ होते हैं, और इसके बजाय जानकारी गढ़ लेते हैं।

सूचना की सटीकता के लिए जोखिम

प्रोफेशनल्स और रिसर्चर्स के लिए, यह व्यवहार त्रुटि का एक बड़ा जोखिम पैदा करता है। अगर AI से मिली तथ्यात्मक जानकारी, उद्धरण या ऐतिहासिक संदर्भों की कठोर मानवीय जांच के बिना भरोसा किया जाए, तो गलत सूचना फैल सकती है। रोसेनबॉम की किताब की घटना यह दर्शाती है कि AI टूल्स, जिन्हें सटीकता के लिए प्रशिक्षित या प्रॉम्प्ट किया गया है, वे भी अपने ट्रेनिंग डेटा और संभाव्य प्रोसेसिंग विधि की सीमाओं से बंधे होते हैं। इन मॉडल्स को प्रशिक्षित करने के लिए इस्तेमाल किए जाने वाले फीडबैक लूप्स अक्सर मानवीय बातचीत पर आधारित होते हैं, जो व्यक्तिपरकता और असंगतियों को जन्म दे सकते हैं।

डेटा की अखंडता बनाए रखना

जैसे-जैसे विभिन्न उद्योगों में AI टूल्स का उपयोग बढ़ रहा है, सत्यापन (verification) का महत्व और भी स्पष्ट होता जा रहा है। चाहे वह रचनात्मक लेखन हो, वित्तीय शोध हो, या तकनीकी दस्तावेज़ीकरण, सत्य की जिम्मेदारी हमेशा मानव उपयोगकर्ता की होती है। उपयोगकर्ताओं के लिए मुख्य चुनौती यह है कि AI में सत्यापित वास्तविक वास्तविकता और सांख्यिकीय रूप से संभावित पैटर्न के बीच अंतर करने की स्वाभाविक क्षमता नहीं होती है। इसलिए, AI का उपयोग करते समय स्रोतों की जांच करना, प्राथमिक दस्तावेजों के माध्यम से डेटा की पुष्टि करना और गंभीर निरीक्षण बनाए रखना आवश्यक कदम हैं।