மனநலன் தொடர்பான AI சேவைகளில் பாதுகாப்பை உறுதி செய்ய Circuit Breaker Labs என்ற புதிய ஸ்டார்ட்அப் களம் இறங்கியுள்ளது. ஷிராலி மற்றும் அருள் நிகம் என்பவர்களால் தொடங்கப்பட்ட இந்த நிறுவனம், AI சாட்போட்களில் ஏற்படும் ஆபத்துக்களை கண்டறியும் தானியங்கி கருவிகளை உருவாக்கி வருகிறது.
மென்டல் ஹெல்த் AI-க்கு ஏன் பாதுகாப்பு அவசியம்?
செயற்கை நுண்ணறிவு (AI) தற்போது மென்டல் ஹெல்த் மற்றும் பர்சனலைஸ்டு கோச்சிங் துறைகளில் வேகமாக வளர்ந்து வருகிறது. இங்கு தவறான அல்லது ஆபத்தான பதில்கள் மனித உயிருக்கே சவாலாக அமையலாம். இதை கருத்தில் கொண்டு, Circuit Breaker Labs தனது தானியங்கி 'ரெட்-டீமிங்' (Red-teaming) ஏஜெண்டுகள் மூலம் AI மாடல்களின் மனநல பாதிப்புகளை கண்டறியும் பணியில் ஈடுபட்டுள்ளது.
எப்படி வேலை செய்கிறது இந்த டெக்னாலஜி?
கையேடு மூலம் சோதிப்பதற்கு பதிலாக, இந்த ஸ்டார்ட்அப் நிறுவனத்தின் ஏஜெண்டுகள் தினமும் ஆயிரக்கணக்கான உரையாடல்களை உருவகப்படுத்துகின்றன. வெவ்வேறு கலாச்சாரம், ஸ்லாங் மற்றும் மொழி நடை ஆகியவற்றைப் பயன்படுத்தி, AI மாடல்கள் உணர்வுப்பூர்வமான நெருக்கடிகளை (Emotional distress) சரியாகக் கையாளுகிறதா என்பதை இந்த அமைப்பு சோதிக்கிறது. இதன் மூலம் டெவலப்பர்களுக்கு துல்லியமான 'சேஃப்டி ஸ்கோர்' (Safety score) வழங்கப்படுகிறது.
முதலீட்டாளர்கள் கவனத்திற்கு!
முக்கியமாக, Circuit Breaker Labs ஒரு பிரைவேட் ஸ்டார்ட்அப் நிறுவனமாகும். இது இன்னும் பங்குச் சந்தையில் (Stock Market) லிஸ்ட் செய்யப்படவில்லை. இதனால் இதன் நிதி நிலை குறித்த தரவுகள் பொதுவெளியில் இல்லை. எனவே, இதில் முதலீடு செய்ய வாய்ப்புகள் இல்லை என்பதை கவனத்தில் கொள்க.
எதிர்கால சவால் என்ன?
AI துறையில் மாற்றங்கள் மின்னல் வேகத்தில் நடக்கிறது. ஜெனரேட்டிவ் AI-ன் வளர்ச்சியைத் தொடர்ந்து, மென்பொருள் நிறுவனங்கள் மீது சட்டரீதியான நெருக்கடிகள் அதிகரித்து வருகின்றன. பெரிய நிறுவனங்கள் இத்தகைய மூன்றாம் தரப்பு பாதுகாப்பு ஆடிட்டிங் (Third-party validation) முறைகளை ஏற்றுக்கொள்வதுதான், இந்தத் துறையின் எதிர்கால வளர்ச்சிக்கு முக்கிய குறிகாட்டியாக இருக்கும்.