రచయిత స్టీవెన్ రోసెన్బామ్ రాసిన 'ది ఫ్యూచర్ ఆఫ్ ట్రూత్' అనే పుస్తకంలో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) సాయంతో రాసిన సమాచారం తప్పని తేలింది. AI టూల్స్ వాడేటప్పుడు మానవ పర్యవేక్షణ ఎంత అవసరమో ఈ సంఘటన తెలియజేస్తోంది.
AI 'హాలూసినేషన్స్' అంటే ఏంటి?
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) టూల్స్, ముఖ్యంగా లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs), ప్రస్తుతం రీసెర్చ్, కంటెంట్ క్రియేషన్ వంటి ఎన్నో రంగాల్లో విరివిగా వాడుతున్నారు. అయితే, రచయిత స్టీవెన్ రోసెన్బామ్ రాసిన 'ది ఫ్యూచర్ ఆఫ్ ట్రూత్' పుస్తకంలో జరిగిన సంఘటన AI విశ్వసనీయతపై ప్రశ్నలు రేకెత్తించింది. ఈ పుస్తకంలో AI సహాయంతో రాసిన కొన్ని సమాచారంలో వాస్తవ దోషాలు, తప్పుడు కోట్స్ ఉన్నట్లు తేలింది.
AI తప్పులకు కారణాలు:
AI మోడల్స్ మనుషులలా వాస్తవాలను 'అర్థం చేసుకోవు'. అవి పెద్ద డేటాసెట్స్ పై శిక్షణ పొంది, గణాంక సంభావ్యత (statistical probability) ఆధారంగా తదుపరి పదాన్ని అంచనా వేస్తాయి. సమాచారం తక్కువగా ఉన్నప్పుడు లేదా క్లిష్టంగా ఉన్నప్పుడు, AI కచ్చితమైన సమాచారం కంటే, నమ్మశక్యంగా అనిపించే సమాధానాన్ని రూపొందించడానికి ప్రాధాన్యత ఇస్తుంది. ఈ మోడల్స్ 'నాకు తెలియదు' అని చెప్పే సామర్థ్యం కలిగి ఉండవు, దాంతో ఉన్న సమాచారాన్ని కల్పించి చెబుతాయి.
సమాచార కచ్చితత్వానికి ప్రమాదాలు:
ప్రొఫెషనల్స్, రీసెర్చర్లకు ఇది పెద్ద ప్రమాదం. ఫ్యాక్ట్స్, సైటేషన్స్, లేదా హిస్టారికల్ కాంటెక్స్ట్ కోసం AI పై పూర్తిగా ఆధారపడి, మానవ పర్యవేక్షణ లేకుండా పనిచేస్తే, తప్పుడు సమాచారం వ్యాపించే ప్రమాదం ఉంది. రోసెన్బామ్ పుస్తకం సంఘటన చూపిస్తున్నట్లుగా, కచ్చితత్వం కోసం ప్రత్యేకంగా ట్రైన్ చేసిన AI టూల్స్ కూడా, వాటి ట్రైనింగ్ డేటా పరిమితులు, ప్రాసెసింగ్ పద్ధతుల వల్ల దోషాలకు గురవుతాయి.
డేటా సమగ్రతను ఎలా కాపాడుకోవాలి?
AI టూల్స్ వాడకం పెరుగుతున్న నేపథ్యంలో, ధృవీకరణ (verification) ప్రాముఖ్యత మరింత స్పష్టమవుతోంది. క్రియేటివ్ రైటింగ్ అయినా, ఫైనాన్షియల్ రీసెర్చ్ అయినా, టెక్నికల్ డాక్యుమెంటేషన్ అయినా, వాస్తవాన్ని నిర్ధారించుకోవాల్సిన బాధ్యత వినియోగదారుడిదే. AI కి, ధృవీకరించబడిన వాస్తవాలకు, గణాంకపరంగా సంభావ్య నమూనాలకు మధ్య తేడాను గుర్తించే సహజ సామర్థ్యం లేదు. కాబట్టి, సోర్సెస్ ను చెక్ చేసుకోవడం, ప్రాథమిక డాక్యుమెంట్ల ద్వారా డేటా పాయింట్లను ధృవీకరించుకోవడం, విమర్శనాత్మక పర్యవేక్షణ కొనసాగించడం వంటివి AI వాడేటప్పుడు చాలా అవసరం.