જાણીતા બિઝનેસ લીડર વિનીત નાયરે પોતાની નવી બુક 'Humans First, Machines Second' માં AI માટે મજબૂત નૈતિક માળખા (Ethical Framework) ની જરૂરિયાત પર ભાર મૂક્યો છે. જેમ જેમ કંપનીઓ AI અપનાવી રહી છે, તેમ તેમ ઓટોમેટેડ બાયસ (Automated Bias) ને કારણે નિયમનકારી જોખમો (Regulatory Risks) અને ગ્રાહક વિશ્વાસ (Consumer Trust) ના ધોવાણની ચિંતાઓ વધી રહી છે.
AI માત્ર ટેકનોલોજી નથી, માનવ નિર્ણયનું પ્રતિબિંબ છે
બિઝનેસ લીડર અને લેખક વિનીત નાયરે પોતાની નવી બુક 'Humans First, Machines Second' માં કોર્પોરેશનો દ્વારા આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના સંચાલનમાં ફરજિયાત બદલાવની હિમાયત કરી છે. નાયરે એવી લોકપ્રિય માન્યતાને પડકારી છે કે AI સિસ્ટમ્સ તટસ્થ સાધનો છે. તેના બદલે, તેઓ દલીલ કરે છે કે AI સિસ્ટમ્સ તે કંપનીઓના નૈતિક મૂલ્યોનું ડિજિટલ પ્રતિબિંબ છે જે તેને બનાવે છે અને લાગુ કરે છે. જે ભારતીય કંપનીઓ તેમના ડિજિટલ ટ્રાન્સફોર્મેશનને વેગ આપી રહી છે, તેમના માટે આ એક મહત્વપૂર્ણ પરિવર્તન સૂચવે છે: AI ની દેખરેખને ટેકનિકલ અથવા કાનૂની વિભાગોમાંથી વરિષ્ઠ નેતૃત્વની મુખ્ય જવાબદારીઓમાં ખસેડવી.
અલ્ગોરિધમ્સથી આગળ જવાબદારી
નાયરે જણાવ્યું કે AI સાથે સંકળાયેલા જોખમો - જેમ કે સહજ પૂર્વગ્રહ (Inherent Bias) અથવા વપરાશકર્તાની સલામતી કરતાં એન્ગેજમેન્ટને પ્રાધાન્ય આપવું - એ ટેકનોલોજીની નિષ્ફળતા નથી, પરંતુ માનવ નિર્ણયની નિષ્ફળતા છે. Amazon અને Meta જેવી ગ્લોબલ ફર્મ્સને અગાઉ જાહેર અને નિયમનકારી તપાસનો સામનો કરવો પડ્યો હતો જ્યારે તેમના AI મોડેલોએ પૂર્વગ્રહયુક્ત પરિણામો (Biased Outcomes) અથવા હાનિકારક સામગ્રી પેદા કરી હતી. આ સિસ્ટમ્સની દેખરેખ રાખવામાં નિષ્ફળ જવાથી, આ કંપનીઓએ દર્શાવ્યું કે માનવ-સંચાલિત નૈતિક માર્ગદર્શન વિના માત્ર ડેટા-આધારિત મોડેલો પર આધાર રાખવો એ પ્રતિષ્ઠાને નોંધપાત્ર નુકસાન પહોંચાડી શકે છે. ભારતીય રોકાણકારો માટે, આ એક બિન-નાણાકીય જોખમ (Non-Financial Risk) ને રેખાંકિત કરે છે: જો સંસ્થાનું AI ઇન્ફ્રાસ્ટ્રક્ચર તેના કોર્પોરેટ મૂલ્યો સાથે સુસંગત ન હોય તો શાસન (Governance) અને નિયમનકારી ઘર્ષણ (Regulatory Friction) ની સંભાવના.
AI સુરક્ષાને કાર્યરત બનાવવી
આ જોખમો ઘટાડવા માટે, નાયરે સૂચવ્યું છે કે વ્યવસાયોએ ઉચ્ચ-સ્તરના નીતિ નિવેદનોથી આગળ વધીને દૈનિક કામગીરીમાં નૈતિક તપાસ (Ethical Checks) ને એકીકૃત કરવી જોઈએ. તેઓ સૂચવે છે કે કંપનીઓએ AI વિકાસને સંચાલિત કરવા માટે 'એથિકલ સ્ટેક' (Ethical Stack) સ્થાપિત કરવો જોઈએ, જેમાં ડેટાના મૂળ, સિસ્ટમ ડિઝાઇન લક્ષ્યો અને અમલીકરણ અસર (Deployment Impact) નું કડક નિરીક્ષણ શામેલ હોય. નિર્ણાયક રીતે, તેઓ 'ઓવરરાઇડ ઓથોરિટી' (Override Authority) ની જરૂરિયાત પર ભાર મૂકે છે, જે સુનિશ્ચિત કરે છે કે ઉચ્ચ-સ્ટેક AI પ્રક્રિયાઓમાં માનવ હસ્તક્ષેપ અંતિમ પગલું રહે. વધુમાં, તેઓ ભલામણ કરે છે કે કંપનીઓએ વિવિધ ટીમો - જેમાં કાયદાકીય, માનવ સંસાધન અને એન્જિનિયરિંગનો સમાવેશ થાય છે - ને સામેલ કરીને નિયમિત AI સુરક્ષા ડ્રિલ્સ (AI Safety Drills) હાથ ધરવી જોઈએ જેથી વ્યવસાયને અસર કરતા પહેલા ગોપનીયતા લીક (Privacy Leaks) અથવા પૂર્વગ્રહ (Bias) પકડી શકાય.
કોર્પોરેટ ગવર્નન્સ માટે ભવિષ્ય
જેમ જેમ ભારતીય કોર્પોરેશનો મોટા ભાષા મોડેલો (Large Language Models) અને ઓટોમેશન અપનાવવાનું ચાલુ રાખે છે, તેમ તેમ AI વિકાસ અને નૈતિક દેખરેખ વચ્ચેનું અંતર સંભવિત નિયમનકારી ધ્યાનનું મુખ્ય ક્ષેત્ર બની રહ્યું છે. સ્પષ્ટ ડેટા વપરાશ પ્રતિબંધો (Data Usage Restrictions) અને ઘટના-પ્રતિભાવ પ્રોટોકોલ (Incident-Response Protocols) ની ગેરહાજરી કૉપિરાઇટ જવાબદારીઓ (Copyright Liabilities) અને ગોપનીયતાના ઉલ્લંઘન (Privacy Violations) તરફ દોરી શકે છે, જે વૈશ્વિક અને સ્થાનિક નિયમનકારોની નજરમાં વધતા જાય છે. કંપનીઓ માટે આગલો તબક્કો એ દર્શાવવાનો રહેશે કે તેઓ તકનીકી નવીનતાને જવાબદાર શાસન સાથે સંતુલિત કરી શકે છે. રોકાણકારો મેનેજમેન્ટ ટીમો તેમના AI સુરક્ષા પગલાં કેવી રીતે સંચાર કરે છે અને શું આ કંપનીઓ તેમના સ્વયંસંચાલિત સિસ્ટમો કેવી રીતે ડિઝાઇન, તાલીમ અને ઓડિટ કરવામાં આવે છે તે અંગે વધુ પારદર્શક રિપોર્ટિંગ તરફ આગળ વધે છે કે કેમ તેના પર નજર રાખી શકે છે.