AI தொழில்நுட்பத்தின் அதிர்ச்சி: எழுத்தாளர் புத்தகத்தில் தவறான தகவல்கள்!

AI-யின் 'மாயத்தோற்றம்' (Hallucinations) என்ன?

செயற்கை நுண்ணறிவு (AI) கருவிகள், குறிப்பாக Large Language Models (LLMs), இன்று பல துறைகளில் ஆராய்ச்சி மற்றும் தகவல்களை உருவாக்க பயன்படுத்தப்படுகின்றன. ஆனால், எழுத்தாளர் ஸ்டீவன் ரோசன்பாம் விஷயத்தில், AI கருவிகளை நம்பி எழுதிய 'The Future of Truth' என்ற புத்தகத்தில் உண்மைகளுக்கும், மேற்கோள்களுக்கும் பெரிய அளவில் பிழைகள் இருந்துள்ளன. இது AI-யின் நம்பகத்தன்மை குறித்த கேள்விகளை எழுப்பியுள்ளது.

AI எப்படி தவறான தகவல்களை தருகிறது?

AI கருவிகள், மனிதர்களைப் போல தகவல்களை புரிந்துகொள்வதில்லை. அவை மிகப்பெரிய டேட்டா செட்களில் பயிற்சி பெற்று, அடுத்த வார்த்தையை புள்ளியியல் அடிப்படையில் கணிக்கின்றன. சரியான தகவல் குறைவாக இருக்கும்போது, AI ஒரு நம்பகமான பதிலை உருவாக்குவதை விட, சாத்தியமான ஒரு பதிலை உருவாக்க முயற்சிக்கும். இவை 'hallucinations' என அழைக்கப்படுகிறது. 'எனக்கு தெரியாது' என்று சொல்லும் திறன் இவற்றுக்கு இல்லாததால், தகவல்களை உருவாக்குவதாக தெரிகிறது.

தகவல் துல்லியத்திற்கான ஆபத்துகள்

தொழில்நுட்ப வல்லுநர்கள் மற்றும் ஆராய்ச்சியாளர்களுக்கு இது ஒரு பெரிய ஆபத்தை ஏற்படுத்துகிறது. AI-யைக்கொண்டு உண்மைகள், மேற்கோள்கள், வரலாற்று தகவல்கள் போன்றவற்றை மனித மேற்பார்வை இல்லாமல் பயன்படுத்தினால், தவறான தகவல்கள் பரவ வாய்ப்புள்ளது. ரோசன்பாம் புத்தகத்தின் நிகழ்வு, AI கருவிகள் துல்லியமாக செயல்பட பயிற்சி அளிக்கப்பட்டிருந்தாலும், அதன் டேட்டா மற்றும் கணிப்பு முறைகளின் வரம்புகளால் தவறுகள் நடக்க வாய்ப்புள்ளது என்பதைக் காட்டுகிறது.

தரவின் நம்பகத்தன்மையை எப்படி காப்பது?

AI கருவிகளின் பயன்பாடு அதிகரிக்கும் நிலையில், சரிபார்ப்பின் முக்கியத்துவம் அதிகமாகிறது. எழுத்து, நிதி ஆராய்ச்சி, அல்லது தொழில்நுட்ப ஆவணங்கள் என எதுவாக இருந்தாலும், உண்மையின் பொறுப்பு பயனரிடமே உள்ளது. AI-யால் உருவாக்கப்பட்ட தகவல்களுக்கும், உண்மையான உலகத்திற்கும் உள்ள வித்தியாசத்தை AI-யால் கண்டறிய முடியாது. எனவே, ஆதாரங்களைச் சரிபார்ப்பது, முதன்மை ஆவணங்கள் மூலம் தரவுகளை உறுதிப்படுத்துவது, மற்றும் கவனமான மேற்பார்வையை பராமரிப்பது ஆகியவை AI-யை தொழில்ரீதியாகப் பயன்படுத்தும் போது மிக அவசியமான படிகளாகும்.