Whalesbook
ప్రభుత్వం అల్టిమేటం జారీ చేసింది: భారత ప్రభుత్వం, X (గతంలో ట్విట్టర్)కు దాని AI చాట్బాట్ Grok దుర్వినియోగంపై కఠిన హెచ్చరిక జారీ చేసింది. ముఖ్యంగా మహిళలను లక్ష్యంగా చేసుకుని లైంగికంగా అసభ్యకరమైన చిత్రాలు, వీడియోలు సృష్టించడం ఆందోళనకు కారణమని నియంత్రణ సంస్థలు పేర్కొన్నాయి. ఈ సమస్యలను పరిష్కరించడానికి Xకు కేవలం 72 గంటల సమయం ఇవ్వబడింది.
'సేఫ్ హార్బర్' హోదా కోల్పోవడం వల్ల కలిగే పర్యవసానాలు: 'సేఫ్ హార్బర్' హోదాను కోల్పోవడం వల్ల భారతదేశంలో Xకు లభించే కీలకమైన చట్టపరమైన రక్షణలు రద్దవుతాయి. ఈ నిబంధన సాధారణంగా ఆన్లైన్ ప్లాట్ఫారమ్లను వినియోగదారు-సృష్టించిన కంటెంట్ కోసం బాధ్యత నుండి రక్షిస్తుంది, కొన్ని షరతులు నెరవేరితే. ఇది లేకపోతే, కంపెనీకి సమ్మతి ఖర్చులలో గణనీయమైన పెరుగుదల ఎదుర్కోవాల్సి ఉంటుంది, దీనికి భారతదేశంలో మరింత కంటెంట్ మోడరేషన్ మరియు చట్టపరమైన వనరులు అవసరమవుతాయి. క్రిమినల్ లేదా సివిల్ పెనాల్టీలు మరియు సేవా నిలిపివేత ప్రమాదాలు కూడా పొంచి ఉన్నాయి.
గ్లోబల్ రెగ్యులేటరీ పరిశీలన: ఈ సమస్య అంతర్జాతీయంగా కూడా గమనించబడింది. ఫ్రాన్స్, మలేషియా వంటి దేశాలలో కూడా, Grok నిజమైన మహిళలు, మైనర్ల లైంగిక చిత్రాలను రూపొందించే సామర్థ్యంపై ఇలాంటి నియంత్రణ ఆందోళనలు వ్యక్తమయ్యాయి. దుర్వినియోగం ప్రాంప్ట్ మానిప్యులేషన్ మరియు సింథటిక్ అవుట్పుట్లకు ఆపాదించబడింది, ఇది ప్లాట్ఫారమ్-స్థాయి భద్రతలలో లోపాలను సూచిస్తుంది.
ప్లాట్ఫారమ్ ప్రతిస్పందన: X అధిపతి ఎలాన్ మస్క్, Grokను ఉపయోగించి చట్టవిరుద్ధమైన కంటెంట్ను సృష్టించే వ్యక్తులు, అలాంటి మెటీరియల్ను స్వయంగా అప్లోడ్ చేసినట్లే పరిణామాలను ఎదుర్కొంటారని బహిరంగంగా తెలిపారు. X యొక్క అధికారిక భద్రతా పేజీ, పిల్లల లైంగిక వేధింపుల మెటీరియల్ (CSAM)తో సహా చట్టవిరుద్ధమైన కంటెంట్పై చర్య తీసుకోవడానికి, ఖాతాలను సస్పెండ్ చేయడానికి మరియు చట్ట అమలు సంస్థలతో సహకరించడానికి తన నిబద్ధతను పునరుద్ఘాటించింది.
భవిష్యత్తు AI కంటెంట్ నియమాలు: భారతదేశ ఎలక్ట్రానిక్స్ మరియు ఇన్ఫర్మేషన్ టెక్నాలజీ మంత్రిత్వ శాఖ (MeitY) IT రూల్స్, 2021కి సవరణలను ప్రతిపాదిస్తున్న నేపథ్యంలో ఈ పరిణామం చోటు చేసుకుంది. ప్రతిపాదిత మార్పుల ప్రకారం, అన్ని డీప్ఫేక్లు మరియు AI-జనరేటెడ్ కంటెంట్ 'సింథటిక్గా రూపొందించబడిన సమాచారం'గా లేబుల్ చేయబడాలి. అటువంటి కంటెంట్ సృష్టిని అనుమతించే ప్లాట్ఫారమ్లు ప్రముఖ లేబులింగ్ను నిర్ధారించాలి లేదా ప్రత్యేకమైన మెటాడేటాను పొందుపరచాలి.