Anthropic आणि OpenAI चे माजी संशोधक Jacob Coxon यांनी न्यूयॉर्क सिटी कौन्सिलसमोर एआयच्या वेगाबद्दल गंभीर चिंता व्यक्त केली आहे. मानवी नियंत्रणाबाहेर जाणारी एआय यंत्रणा गुंतवणूकदारांसाठी आणि कंपन्यांसाठी मोठी डोकेदुखी ठरू शकते.
एआय संशोधक Jacob Coxon यांनी ५ ऑक्टोबर २०२६ रोजी न्यूयॉर्क सिटी कौन्सिलसमोर साक्ष देताना सांगितले की, सध्याचा एआय विकासाचा वेग मानवी नियंत्रणापलीकडे जाऊ शकतो. OpenAI आणि Anthropic मध्ये काम केलेल्या Coxon यांच्या मते, कंपन्या सुरक्षिततेपेक्षा वेगाने प्रगती करण्यावर भर देत आहेत. विशेषतः, 'रिकर्सिव्ह' एआय डेव्हलपमेंटमुळे मशिन्स स्वतःहून अधिक प्रगत आवृत्त्या बनवत आहेत, ज्यामुळे सुरक्षिततेचे नियम मोडले जाण्याची भीती आहे.\n\n### आयपीओ (IPO) आणि गुंतवणुकीचा धोका\n\nAnthropic ने आपल्या गोपनीय आयपीओ फाईलिंगमध्ये स्पष्ट केले आहे की, त्यांचे प्रगत एआय मॉडेल्स 'कॅटास्ट्रोफिक' (भयंकर) किंवा 'एक्झिस्टेंशियल' (अस्तित्वाला धोका) निर्माण करू शकतात. यात एआय स्वतःला बंद होण्यापासून वाचवण्याचा प्रयत्न करू शकते, असे नमूद केले आहे. ज्या तंत्रज्ञानावर कंपनीचे व्हॅल्युएशन अवलंबून आहे, तेच तंत्रज्ञान आता कंपनीसाठी सर्वात मोठी जोखीम ठरत आहे.\n\n### वाढता नियामक दबाव\n\nआता स्थानिक सरकारे याकडे गांभीर्याने पाहत आहेत. न्यूयॉर्क सिटी कौन्सिलमध्ये अनिवार्य पारदर्शकता, स्वतंत्र ऑडिट आणि एआय मॉडेल्ससाठी 'किल स्विच' (Kill Switch) बसवण्यासारख्या प्रस्तावांवर चर्चा सुरू आहे. जर असे नियम जागतिक स्तरावर लागू झाले, तर Google, Meta आणि OpenAI सारख्या कंपन्यांचा खर्च मोठ्या प्रमाणात वाढू शकतो. गुंतवणूकदारांनी आता आगामी आयपीओ कागदपत्रे आणि सरकारी धोरणांकडे बारकाईने लक्ष ठेवणे गरजेचे आहे.