लेखक स्टीव्हन रोझेनबॉम यांच्या 'द फ्युचर ऑफ ट्रुथ' (The Future of Truth) या पुस्तकात कृत्रिम बुद्धिमत्तेचा (AI) वापर केल्यामुळे काही तथ्यात्मक चुका आढळून आल्या आहेत. या घटनेने AI असिस्टंट्स वापरताना मानवी पडताळणीचे महत्त्व पुन्हा एकदा अधोरेखित केले आहे.
AI च्या चुकांचे स्वरूप
जनरेटिव्ह AI च्या मूलभूत रचनेमुळे 'हॅल्युसिनेशन' (Hallucinations) नावाची समस्या उद्भवते. हे मॉडेल्स मानवांप्रमाणे वस्तुस्थिती समजत नाहीत. त्याऐवजी, ते मोठ्या डेटासेटवर प्रशिक्षित केले जातात आणि संभाव्यतेच्या आधारावर पुढील शब्द निवडतात. जेव्हा AI ला अशा प्रश्नांची उत्तरे द्यावी लागतात जिथे माहिती कमी किंवा गुंतागुंतीची असते, तेव्हा ते अचूक उत्तराऐवजी पटण्यासारखे वाटणारे उत्तर तयार करण्याला प्राधान्य देऊ शकतात. हे मॉडेल्स उपयुक्त ठरू इच्छितात, त्यामुळे त्यांच्याकडे 'मला माहित नाही' असे उत्तर नसते आणि ते माहिती तयार करतात.
माहितीच्या अचूकतेचे धोके
व्यावसायिक आणि संशोधकांसाठी, हे वर्तन त्रुटींचा एक मोठा धोका निर्माण करते. मानवी तपासणीशिवाय तथ्यात्मक डेटा, संदर्भ किंवा ऐतिहासिक माहितीसाठी AI वर अवलंबून राहिल्यास चुकीची माहिती पसरू शकते. रोझेनबॉम यांच्या पुस्तकातील घटना दर्शवते की AI साधने, जी अचूकतेसाठी प्रशिक्षित केली गेली आहेत, ती देखील त्यांच्या प्रशिक्षण डेटा आणि संभाव्य प्रक्रिया पद्धतीच्या मर्यादांमध्ये बांधलेली आहेत. या मॉडेल्सना प्रशिक्षित करण्यासाठी वापरले जाणारे फीडबॅक लूप्स अनेकदा मानवी संवादावर आधारित असतात, ज्यामुळे व्यक्तिनिष्ठता आणि विसंगती येऊ शकते.
डेटाची सत्यता राखणे
विविध उद्योगांमध्ये AI साधनांचा वापर वाढत असताना, पडताळणीचे महत्त्व अधिक स्पष्ट होत आहे. मग ते सर्जनशील लेखन असो, आर्थिक संशोधन असो किंवा तांत्रिक दस्तऐवजीकरण असो, सत्याची जबाबदारी वापरकर्त्याचीच राहते. AI मध्ये सत्यापित वस्तुनिष्ठ वास्तव आणि सांख्यिकीय दृष्ट्या संभाव्य नमुने यांच्यात फरक करण्याची मूळ क्षमता नाही, हे वापरकर्त्यांसमोरील एक मोठे आव्हान आहे. म्हणून, AI कोणत्याही व्यावसायिक किंवा सर्जनशील कामात वापरताना स्रोत तपासणे, प्राथमिक दस्तऐवजांद्वारे डेटाची पडताळणी करणे आणि गंभीर तपासणी ठेवणे आवश्यक आहे.