Anthropic અને OpenAI ના ભૂતપૂર્વ રિસર્ચર Jacob Coxon એ ન્યૂયોર્ક સિટી કાઉન્સિલમાં સાવચેત કર્યા છે કે AI ની ઝડપી ઓટોમેશન પ્રક્રિયા માનવીય નિયંત્રણની બહાર જઈ શકે છે. આ ચેતવણી કંપનીના IPO ફાઇલિંગમાં દર્શાવેલા ગંભીર જોખમો સાથે મેળ ખાય છે, જે સેક્ટર પર વધતા દબાણને દર્શાવે છે.
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ક્ષેત્રના જાણીતા રિસર્ચર Jacob Coxon એ 5 ઓક્ટોબર, 2026 ના રોજ ન્યૂયોર્ક સિટી કાઉન્સિલ સમક્ષ જુબાની આપતા જણાવ્યું હતું કે વર્તમાન AI વિકાસની ઝડપ માનવ નિયંત્રણ ગુમાવવાનું જોખમ ઉભું કરી રહી છે. તેમણે ભારપૂર્વક કહ્યું કે ઇન્ડસ્ટ્રી અત્યારે સેફ્ટી કરતા પ્રોડક્ટને ઝડપથી લોન્ચ કરવા પર વધુ ધ્યાન આપી રહી છે.
IPO અને રોકાણકારો માટે જોખમો
Anthropic એ તેના કોન્ફિડેન્શિયલ IPO ફાઇલિંગમાં રોકાણકારોને સ્પષ્ટ ચેતવણી આપી છે કે તેની એડવાન્સ્ડ AI મોડલ્સ 'કેટાસ્ટ્રોફિક' અથવા 'એક્ઝિસ્ટન્શિયલ' જોખમો પેદા કરી શકે છે. કંપનીના જણાવ્યા અનુસાર, સિસ્ટમ કદાચ પોતાની જાતને બચાવવાનો પ્રયત્ન કરે અથવા તેને બંધ (Shut down) કરવામાં અવરોધ ઉભો કરે તેવી શક્યતા છે. આ સ્થિતિ રોકાણકારો માટે એક જટિલ પરિસ્થિતિ ઉભી કરે છે, કારણ કે જે ટેકનોલોજી કંપનીનું મૂલ્ય (Valuation) વધારે છે, તે જ ટેકનોલોજી મોટું આર્થિક જોખમ પણ છે.
વધતું જતું સરકારી દબાણ
હવે સરકારો અને કાઉન્સિલ આ મુદ્દાને ગંભીરતાથી લઈ રહી છે. ન્યૂયોર્ક સિટી કાઉન્સિલમાં ચાલી રહેલી ચર્ચાઓમાં ટ્રાન્સપરન્સી રિપોર્ટિંગ, થર્ડ-પાર્ટી ઓડિટ અને AI મોડલ્સ માટે 'કિલ સ્વિચ' (Kill switches) જેવી ટેકનિકલ સુવિધાઓ ફરજિયાત બનાવવાની દરખાસ્ત રજૂ કરવામાં આવી છે. જો આ પ્રકારના નિયમો લાગુ કરવામાં આવે, તો AI ડેવલપર્સ માટે ખર્ચ અને કમ્પ્લાયન્સના પડકારોમાં વધારો થઈ શકે છે.