Instagram పెయిడ్ యాడ్స్లో అభ్యంతరకర కంటెంట్ కనిపించడంతో Meta Platforms Inc. కి భారత ఐటీ శాఖ షాకింగ్ నోటీసులు పంపింది. AI జనరేటెడ్ కంటెంట్ను నియంత్రించడంలో కంపెనీ ఫెయిల్ అయ్యిందనే విమర్శలు వెల్లువెత్తుతున్నాయి.
ఎక్కడ జరిగింది తప్పిదం?
Instagramలో ప్రదర్శితమయ్యే పెయిడ్ అడ్వర్టైజ్మెంట్లలో చైల్డ్ సెక్సువల్ అబ్యూజ్ మెటీరియల్ (CSAM) కనిపించడంపై Ministry of Electronics and Information Technology (MeitY) తీవ్రంగా స్పందించింది. సాధారణంగా సోషల్ మీడియా ప్లాట్ఫామ్లలో యూజర్లు పోస్ట్ చేసే కంటెంట్ కంటే, కంపెనీలు డబ్బులు తీసుకుని ప్రమోట్ చేసే పెయిడ్ యాడ్స్ విషయంలో సేఫ్టీ ఫిల్టర్లు చాలా పటిష్టంగా ఉండాలి. కానీ, ఈసారి ఆ ఫిల్టర్లను దాటుకుని వివాదాస్పద కంటెంట్ యాడ్స్ రూపంలో బయటకు రావడం చర్చనీయాంశమైంది.
AI టెక్నాలజీ వల్ల కొత్త చిక్కులు
ప్రస్తుతం కంపెనీలు వాడుతున్న PhotoDNA వంటి హ్యాష్-మ్యాచింగ్ టూల్స్ పాత పద్ధతులకు మాత్రమే పరిమితం. కానీ, ఇప్పుడు వస్తున్న AI జనరేటెడ్ కంటెంట్ను ఇవి గుర్తించలేకపోతున్నాయి. డేటాబేస్లో లేని కొత్త రకమైన ఫేక్ ఇమేజ్లను AI క్షణాల్లో సృష్టించగలదు, దీనివల్ల పాత భద్రతా ప్రమాణాలు విఫలమవుతున్నాయి. ఇది Meta వంటి దిగ్గజ సంస్థలకు పెద్ద టెక్నలాజికల్ ఛాలెంజ్గా మారింది.
చట్టపరమైన బాధ్యత ఎవరిది?
భారతదేశంలోని Information Technology Act 2000 మరియు POCSO చట్టాల ప్రకారం, సోషల్ మీడియా ప్లాట్ఫామ్స్ కేవలం మధ్యవర్తులు (Intermediaries) గానే ఉంటాయని భావిస్తారు. కానీ, యాడ్స్ రూపంలో కంటెంట్ను స్వయంగా ప్రమోట్ చేసి లాభాలు పొందుతున్నప్పుడు, ఆ కంటెంట్కు కూడా ప్లాట్ఫామ్ బాధ్యత వహించాల్సిందేనని ప్రభుత్వం భావిస్తోంది. ఈ పరిణామం రాబోయే రోజుల్లో కఠినమైన నిబంధనలకు దారితీసే అవకాశం ఉంది.
ఇన్వెస్టర్లకు హెచ్చరిక
భారత ప్రభుత్వం ఈ విషయంలో క్షేత్రస్థాయి విచారణ చేపడితే, Meta ఆపరేషనల్ ఖర్చులు పెరిగే అవకాశం ఉంది. అడ్వర్టైజింగ్ రివ్యూ ప్రాసెస్ను పూర్తిగా మార్చడం, అధునాతన ఏఐ టెక్నాలజీపై భారీగా ఇన్వెస్ట్ చేయడం వంటివి చేయాల్సి రావచ్చు. ఇన్వెస్టర్లు రాబోయే కాలంలో కంపెనీ తీసుకునే కంప్లైయన్స్ నిర్ణయాలపై నిఘా ఉంచడం మంచిది.