వ్యాపారవేత్త, రచయిత వినీత్ నాయర్ తన కొత్త పుస్తకం 'Humans First, Machines Second' లో కృత్రిమ మేధస్సు (AI) కోసం కఠినమైన నైతిక నిబంధనలను రూపొందించాల్సిన ఆవశ్యకతను నొక్కి చెప్పారు. వ్యాపారాలు AIని ఎక్కువగా వినియోగిస్తున్న తరుణంలో, ఆటోమేటెడ్ పక్షపాతం (Automated Biases) వల్ల నియంత్రణపరమైన నష్టాలు, వినియోగదారుల నమ్మకం దెబ్బతినే ప్రమాదం ఉందని ఆయన హెచ్చరించారు.
వ్యాపారవేత్త, రచయిత వినీత్ నాయర్ తన తాజా పుస్తకం 'Humans First, Machines Second' లో, కార్పొరేషన్లు కృత్రిమ మేధస్సు (AI) ను ఎలా నిర్వహించాలనే దానిపై తప్పనిసరి మార్పు తీసుకురావాలని సూచిస్తున్నారు. AI వ్యవస్థలు కేవలం తటస్థ సాధనాలు అనే ప్రజాదరణ పొందిన నమ్మకాన్ని నాయర్ ప్రశ్నిస్తున్నారు. బదులుగా, వాటిని అభివృద్ధి చేసి, అమలు చేసే కంపెనీల నైతికతకు అద్దం పట్టే డిజిటల్ అద్దాలుగా AI పనిచేస్తుందని ఆయన వాదిస్తున్నారు. వేగంగా డిజిటల్ పరివర్తన చెందుతున్న భారతీయ కంపెనీలకు, ఇది ఒక కీలకమైన మార్పును సూచిస్తుంది: AI పర్యవేక్షణను సాంకేతిక లేదా న్యాయ విభాగాల నుండి సీనియర్ నాయకత్వ ప్రధాన బాధ్యతలలోకి మార్చడం.
అల్గారిథమ్లకు అతీతమైన జవాబుదారీతనం
AIతో ముడిపడి ఉన్న నష్టాలు - అంటే అంతర్లీన పక్షపాతం లేదా వినియోగదారు భద్రత కంటే ఎంగేజ్మెంట్కు ప్రాధాన్యత ఇవ్వడం వంటివి - సాంకేతికత వైఫల్యాలు కాదని, మానవ నిర్ణయ వైఫల్యాలని నాయర్ ఎత్తి చూపుతున్నారు. గతంలో అమెజాన్, మెటా వంటి గ్లోబల్ సంస్థలు తమ AI నమూనాలు పక్షపాత ఫలితాలను లేదా హానికరమైన కంటెంట్ను రూపొందించినప్పుడు బహిరంగంగా, నియంత్రణపరమైన పరిశీలనలను ఎదుర్కొన్నాయి. ఈ వ్యవస్థలను పర్యవేక్షించడంలో విఫలమవడం ద్వారా, మానవ-నిర్మిత నైతిక దిక్సూచి లేకుండా డేటా-ఆధారిత నమూనాలపై మాత్రమే ఆధారపడటం వలన గణనీయమైన ప్రతిష్ట దెబ్బతింటుందని ఈ కంపెనీలు నిరూపించాయి. భారతీయ పెట్టుబడిదారులకు, ఇది ఆర్థికేతర నష్టాన్ని నొక్కి చెబుతుంది: ఒక సంస్థ యొక్క AI మౌలిక సదుపాయాలు దాని కార్పొరేట్ విలువలతో సరిపోలకపోతే, పాలన (Governance) మరియు నియంత్రణపరమైన ఘర్షణలకు అవకాశం ఉంది.
AI భద్రతను కార్యాచరణలోకి తేవడం
ఈ నష్టాలను తగ్గించడానికి, వ్యాపారాలు ఉన్నత-స్థాయి విధాన ప్రకటనలకు అతీతంగా వెళ్లి, రోజువారీ కార్యకలాపాలలో నైతిక తనిఖీలను ఏకీకృతం చేయాలని నాయర్ సూచిస్తున్నారు. AI అభివృద్ధిని పాలించడానికి ఒక 'నైతిక స్టాక్' (Ethical Stack) ను ఏర్పాటు చేయాలని ఆయన ప్రతిపాదిస్తున్నారు. ఇందులో డేటా మూలం, సిస్టమ్ డిజైన్ లక్ష్యాలు, మరియు అమలు ప్రభావంపై కఠినమైన పర్యవేక్షణ ఉంటుంది. కీలకమైన AI ప్రక్రియలలో మానవ జోక్యం చివరి దశగా ఉండేలా, నిర్ణయాలలో 'ఓవర్రైడ్ అధికారం' (Override Authority) అవసరాన్ని ఆయన నొక్కి చెబుతున్నారు. అంతేకాకుండా, గోప్యతా లీకులు లేదా పక్షపాతాలు వ్యాపారాన్ని ప్రభావితం చేయడానికి ముందే గుర్తించడానికి, న్యాయ, మానవ వనరులు, ఇంజనీరింగ్ వంటి విభిన్న బృందాలతో AI భద్రతా డ్రిల్స్ను క్రమం తప్పకుండా నిర్వహించాలని ఆయన సిఫార్సు చేస్తున్నారు.
కార్పొరేట్ పాలన భవిష్యత్తు
భారతీయ కార్పొరేషన్లు లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) మరియు ఆటోమేషన్ను స్వీకరిస్తూనే ఉన్నందున, AI అభివృద్ధికి, నైతిక పర్యవేక్షణకు మధ్య అంతరం నియంత్రణ దృష్టికి కీలకమైన ప్రాంతంగా మారుతోంది. స్పష్టమైన డేటా వినియోగ పరిమితులు, సంఘటన-ప్రతిస్పందన ప్రోటోకాల్ల లేకపోవడం కాపీరైట్ బాధ్యతలు, గోప్యతా ఉల్లంఘనలకు దారితీయవచ్చు. ఇవి ప్రపంచ, స్థానిక నియంత్రణకర్తల దృష్టిని ఎక్కువగా ఆకర్షిస్తున్నాయి. కంపెనీలకు తదుపరి దశ, సాంకేతిక ఆవిష్కరణలను బాధ్యతాయుతమైన పాలనతో సమతుల్యం చేయగలమని నిరూపించుకోవడమే. పెట్టుబడిదారులు యాజమాన్య బృందాలు తమ AI భద్రతా చర్యలను ఎలా తెలియజేస్తాయో, ఈ కంపెనీలు తమ ఆటోమేటెడ్ సిస్టమ్స్ ఎలా రూపొందించబడ్డాయి, శిక్షణ పొందాయి, ఆడిట్ చేయబడ్డాయి అనే దానిపై మరింత పారదర్శక నివేదికల వైపు ఎలా కదులుతాయో ట్రాక్ చేయవచ్చు.