భారత్‌లో AI జవాబుదారీతనం కొరవడింది.. హాలూసినేషన్ రిస్క్ దాటి చూస్తే..

అల్గారిథమిక్ లయబిలిటీలో ఖాళీ

భారతదేశంలో పెద్ద భాషా నమూనాల (Large Language Models) వాడకం పెరుగుతున్నప్పటికీ, వాటి వల్ల వచ్చే తప్పులకు పరిష్కారం చూపగల చట్టపరమైన వ్యవస్థ మాత్రం ఇంకా ఏర్పడలేదు. అనేక ప్లాట్‌ఫామ్‌లు తమ AI సిస్టమ్‌లను పరిశోధనా సహాయకులుగా మార్కెట్ చేస్తున్నప్పటికీ, అవి వాస్తవాలను పదేపదే తప్పుగా చెప్పే అవకాశం ఉంది. ప్రస్తుత చట్టాలు, డిజిటల్ పర్సనల్ డేటా ప్రొటెక్షన్ యాక్ట్ వంటివి, డేటా భద్రత, సమాచార మూలాలపై దృష్టి సారిస్తున్నాయే తప్ప, వినియోగదారులకు అందించే సమాచారం యొక్క విశ్వసనీయతపై దృష్టి పెట్టడం లేదు. దీనివల్ల, ముఖ్యంగా న్యాయ, ఆరోగ్య రంగాల వంటి కీలక రంగాల్లో పనిచేసేవారు, AI రూపొందించిన సమాధానాలను అధికారికంగా భావించే ప్రమాదం ఉంది. ఎందుకంటే ఈ AI ల పనితీరు వాస్తవాల కంటే భాషా సౌలభ్యానికే ప్రాధాన్యత ఇస్తుంది.

కార్పొరేట్ రంగంపై ప్రభావం, షాడో AI

కన్స్యూమర్-ఫేసింగ్ AIలను కంపెనీలు వాడటం అనేది సంస్థాగత భద్రతకు నిశ్శబ్ద ముప్పుగా పరిణమిస్తోంది. ప్రస్తుతం చాలా కార్పొరేషన్లు అంతర్గత సంక్షోభాన్ని ఎదుర్కొంటున్నాయి. ఉద్యోగులు తమ రోజువారీ పనుల్లో అనధికారిక చాట్‌బాట్ ఇంటర్‌ఫేస్‌లను వాడుతున్నారు. దీనివల్ల, కంపెనీలకు చెందిన రహస్య కోడ్, సున్నితమైన చట్టపరమైన డేటా వంటివి పబ్లిక్ మోడల్స్‌లోకి అప్‌లోడ్ అవుతున్నాయి. ఈ వ్యవహారాలు చీఫ్ ఇన్ఫర్మేషన్ సెక్యూరిటీ ఆఫీసర్ల (CISO) దృష్టికి కూడా రాకుండానే జరుగుతున్నాయి. అంతర్జాతీయ న్యాయపరమైన కేసుల్లో కల్పిత తీర్పులు ఉదహరించినందుకు భారీ జరిమానాలు, తప్పులతో కూడిన వృత్తిపరమైన నివేదికల వల్ల కలిగే ప్రతిష్ఠ నష్టం వంటి గత సంఘటనలు మనకు ఒక హెచ్చరికగా నిలుస్తాయి. సమస్య కేవలం పబ్లిక్ తప్పుడు సమాచారం మాత్రమే కాదు; సులభంగా అందుబాటులో ఉండే AI సాధనాల ద్వారా కార్పొరేట్ గోప్యతకు భంగం వాటిల్లడమే అసలు సమస్య.

నిర్మాణాత్మక పాలనా సవాలు

భారతదేశంలో కన్స్యూమర్ AI సేఫ్టీ కోడ్‌ను అభివృద్ధి చేయడం అనేది ఆవిష్కరణలను ప్రోత్సహించడం, విస్తృతమైన వినియోగదారుల నష్టాన్ని నివారించడం మధ్య సంఘర్షణను నావిగేట్ చేయాల్సిన అవసరం ఉంది. కఠినమైన నియంత్రణలు దేశీయ టెక్ పర్యావరణ వ్యవస్థను దెబ్బతీస్తాయని కొందరు విమర్శకులు వాదిస్తున్నారు. అయితే, లాభాపేక్షతో పనిచేసే సంస్థలకు బాధ్యత వదిలేస్తే, వారు తమ పరిమితులను నొక్కి చెప్పడానికి ప్రోత్సాహకాలు ఉండవు. మరింత సమతుల్య విధానం ఏమిటంటే, AI అవుట్‌పుట్‌ల విశ్వసనీయతను స్పష్టంగా వర్గీకరించాల్సిన 'అనిశ్చితి సంకేతాలను' తప్పనిసరి చేయడం, పెద్ద ఎత్తున పనిచేస్తున్న ప్లాట్‌ఫామ్‌ల కోసం కఠినమైన పారదర్శకత నివేదన అవసరాలను విధించడం. అడ్వర్టైజింగ్ స్టాండర్డ్స్ కౌన్సిల్ ఆఫ్ ఇండియా వంటి స్థిరపడిన సంస్థలతో ఈ ప్రయత్నాలను సమలేఖనం చేయడం ద్వారా, చిన్న డెవలపర్‌లపై ఆవిష్కరణలను అడ్డుకునే భారం పడకుండా, 'కొనుగోలుదారు జాగ్రత్త' నుంచి 'ప్లాట్‌ఫాం జవాబుదారీతనం' వైపు మారేందుకు విధానకర్తలు బలవంతం చేయవచ్చు.

ఫోరెన్సిక్ బేర్ కేస్: స్ట్రక్చరల్ బలహీనతలు

భారతదేశంలో ప్రస్తుత AI ట్రెండ్‌కు ప్రధాన ముప్పు ధృవీకరించని కంటెంట్ యొక్క వేగవంతమైన సాధారణీకరణ. భారత ప్రభుత్వం లేదా రంగాల వారీగా నియంత్రణ సంస్థలు AI ప్రొవైడర్లపై కఠినమైన బాధ్యతను విధించాలని నిర్ణయించుకుంటే, Alphabet, OpenAI వంటి కంపెనీలు గణనీయమైన చట్టపరమైన ఖర్చులను ఎదుర్కోవలసి ఉంటుంది. అంతేకాకుండా, భారత మార్కెట్ యొక్క స్వాభావిక భాషా సంక్లిష్టత 'అనువాద ఉచ్చు'ను సృష్టిస్తుంది, దీనివల్ల ప్రాంతీయ భాషలలో AI పనితీరు ఇంగ్లీష్ కంటే గణనీయంగా తక్కువగా ఉంటుంది, ఇది హానికరమైన హాలూసినేషన్ల సంభావ్యతను పెంచుతుంది. నియంత్రణ సంస్థలు ప్రస్తుత స్వీయ-నియంత్రణ సరిపోదని నిర్ణయించుకుంటే, తప్పనిసరి, ఖరీదైన, వనరులు-భారీ సమ్మతి ఆడిట్‌ల వైపు మళ్లడాన్ని మనం ఆశించవచ్చు, ఇది స్థానిక మార్కెట్‌లోకి చొచ్చుకుపోవడానికి ప్రయత్నిస్తున్న టెక్ కంపెనీల మార్జిన్‌లను కుదించవచ్చు.