मानसिक आरोग्याशी संबंधित AI चॅटबॉट्स अधिक सुरक्षित करण्यासाठी 'Circuit Breaker Labs' या स्टार्टअपची निर्मिती झाली आहे. शिराली आणि अरुल निगम या भावंडांनी स्थापन केलेले हे स्टार्टअप चॅटबॉट्समधील धोके ओळखून ते रोखण्यासाठी स्वयंचलित (Automated) तंत्रज्ञानावर काम करत आहे.
सुरक्षिततेसाठी स्वयंचलित चाचणी (Automated Stress-Testing)
ही कंपनी एआय मॉडेलमधील मानसिक धोके शोधण्यासाठी 'रेड-टीमिंग' (Red-teaming) तंत्राचा वापर करत आहे. पारंपारिक मॅन्युअल रिव्ह्यूच्या ऐवजी, त्यांचे सिन्थेटिक एजंट्स दररोज हजारो संवादांचे सिम्युलेशन करतात. हे तंत्रज्ञान विविध सांस्कृतिक संदर्भ, बोलीभाषा आणि भाषिक नमुन्यांचा वापर करून एआय चॅटबॉट्समध्ये त्रुटी शोधते. याद्वारे डेव्हलपर्सना एआयच्या सुरक्षिततेचे नेमके 'स्कोर' (Safety Scores) मिळतात, जे एआयच्या उत्तरदायित्वासाठी अत्यंत महत्त्वाचे ठरणार आहेत.
उद्योगातील आव्हाने आणि गुंतवणुकीचा दृष्टीकोन
जेनेरेटिव्ह एआयच्या विस्तारामुळे कंपन्यांवर आता नियामक कायदे आणि कायदेशीर कारवाईंचा दबाव वाढत आहे. त्यामुळेच स्वतंत्र सुरक्षितता ऑडिट आणि थर्ड-पार्टी व्हॅलिडेशनची मागणी वाढली आहे. मात्र, गुंतवणूकदारांनी हे लक्षात घेतले पाहिजे की, Circuit Breaker Labs ही एक खाजगी (Private) कंपनी आहे. या कंपनीचे रेव्हेन्यू किंवा प्रॉफिटसारखे आर्थिक आकडे सार्वजनिक उपलब्ध नसल्यामुळे, रिटेल गुंतवणूकदारांसाठी यात थेट गुंतवणुकीची संधी सध्या उपलब्ध नाही.
भविष्यातील वाटचाल
एआयच्या वेगाने बदलणाऱ्या आर्किटेक्चरला तोंड देणे हे या कंपनीसमोरील सर्वात मोठे आव्हान असेल. मात्र, मुख्य प्रवाहातील एआय प्लॅटफॉर्म्स जर या स्वयंचलित चाचणी टूल्सचा स्वीकार करू लागले, तर स्वतंत्र एआय ऑडिटिंग हे भविष्यातील एक मानक (Standard) बिझनेस मॉडेल बनू शकते.