सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया को AI-जनित कानूनी सामग्री को रेगुलेट करने के लिए नियम बनाने का निर्देश दिया है। यह आदेश तब आया जब एक इन्सॉल्वेंसी (insolvency) केस में Essel Infraprojects Ltd. के खिलाफ AI द्वारा बनाए गए फर्जी फैसलों का इस्तेमाल किया गया। कोर्ट ने जोर देकर कहा कि ज्यूडिशल सिस्टम में AI की 'मतिभ्रम' (hallucinations) से होने वाली गलतियों को रोकने के लिए मानवीय निगरानी ज़रूरी है।
क्या हुआ?
भारत के सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया को निर्देश दिया है कि वे आर्टिफिशियल इंटेलिजेंस (AI) के कानूनी अनुसंधान और प्रैक्टिस में इस्तेमाल को लेकर एक व्यापक नीति (policy) बनाएं। यह कदम इसलिए उठाया गया क्योंकि Essel Infraprojects Ltd. के खिलाफ इन्सॉल्वेंसी (insolvency) की कार्यवाही में AI द्वारा बनाए गए, 'मतिभ्रम' (hallucinated) वाले न्यायिक उदाहरणों (judicial precedents) का सबूत के तौर पर इस्तेमाल किया गया था। नेशनल कंपनी लॉ ट्रिब्यूनल (NCLT) और नेशनल कंपनी लॉ अपीलेट ट्रिब्यूनल (NCLAT) ने कथित तौर पर इन गैर-मौजूद फैसलों पर भरोसा किया, जिससे सुप्रीम कोर्ट ने न्याय व्यवस्था की अखंडता बनाए रखने के लिए सख्त निगरानी की तत्काल आवश्यकता पर प्रकाश डाला।
कानूनी इंटीग्रिटी के लिए क्यों महत्वपूर्ण है?
कानूनी तर्क (legal arguments) तैयार करने या अनुसंधान के लिए आर्टिफिशियल इंटेलिजेंस का बढ़ता उपयोग 'मतिभ्रम' (hallucination) के जोखिम को बढ़ाता है, जहां AI मॉडल ऐसे मनगढ़ंत तथ्य या केस लॉ उत्पन्न करते हैं जो विश्वसनीय तो लगते हैं, लेकिन पूरी तरह से काल्पनिक होते हैं। NCLT मामलों में शामिल कंपनियों और कानूनी पेशेवरों के लिए, यह एक बड़ा खतरा है। यदि कानूनी निर्णय नकली डेटा से प्रभावित होते हैं, तो इससे अनुचित परिणाम, महत्वपूर्ण देरी और प्रतिष्ठा को नुकसान हो सकता है। सुप्रीम कोर्ट का स्पष्ट नीति बनाने का निर्देश यह संकेत देता है कि भले ही तकनीक उपयोगी हो, प्रस्तुत की गई सभी सामग्री की सटीकता को सत्यापित करने की जिम्मेदारी पूरी तरह से मानव वकीलों और न्यायाधीशों की है।
पिछली चेतावनी के संकेत
यह पहली बार नहीं है जब AI की गलतियों ने कानूनी प्रणाली को प्रभावित किया है। पिछले मामलों में, दिल्ली हाई कोर्ट में एक याचिका वापस लेनी पड़ी थी, जब पता चला कि उद्धृत किए गए प्राधिकरण (cited authorities) गैर-मौजूद थे। भारत के पूर्व मुख्य न्यायाधीश डी.वाई. चंद्रचूड़ ने भी 2024 में चेतावनी दी थी कि कठोर सत्यापन (rigorous verification) के बिना AI टूल पर निर्भर रहने से न्याय का हनन (miscarriage of justice) हो सकता है। सुप्रीम कोर्ट का हालिया आदेश इन उपकरणों का उपयोग कैसे मानकीकृत किया जाए, यह सुनिश्चित करने के लिए एक औपचारिक कदम है कि ऐसी त्रुटियां भारतीय अदालतों में एक प्रणालीगत समस्या न बनें।
नई नीति का आदेश
बार काउंसिल ऑफ इंडिया को कानून में AI के उपयोग के लिए विशिष्ट मार्गदर्शक सिद्धांत (guiding principles) बनाने वाली एक समिति गठित करने का काम सौंपा गया है। यह समिति निवारक उपाय (preventive measures) बताएगी और उन वकीलों के लिए अनुशासनात्मक परिणाम (disciplinary consequences) परिभाषित करेगी जो मनगढ़ंत AI-जनित प्राधिकरण (fabricated AI-generated authorities) जमा करते हैं। कोर्ट ने नकली मिसालों (fake precedents) के प्रति 'शून्य सहिष्णुता' (zero tolerance) की नीति अपनाई है, यह स्पष्ट करते हुए कि ऐसे चूक के लिए वकीलों पर पेशेवर कदाचार (professional misconduct) का आरोप लग सकता है, जबकि सत्यापित न की गई सामग्री पर भरोसा करने वाले न्यायाधीशों को कर्तव्य में 'गंभीर चूक' (serious lapse) के लिए जांच का सामना करना पड़ेगा।
मानवीय निगरानी अभी भी अनिवार्य है
कानूनी अनुसंधान और निर्णय लेने में सहायता के लिए AI के संभावित लाभों के बावजूद, सुप्रीम कोर्ट ने घोषणा की है कि "मानव (human in the loop)" के बिना काम नहीं चलेगा। प्रौद्योगिकी को केवल निर्णय लेने में सहायता के रूप में देखा जा रहा है, न कि मानवीय निर्णय के प्रतिस्थापन के रूप में। कानूनी विवादों में शामिल सभी पक्षों के लिए, इसका मतलब है कि किसी भी ट्रिब्यूनल या अदालत में दस्तावेज जमा करने से पहले मैन्युअल उचित परिश्रम (manual due diligence) और प्रत्येक उद्धृत निर्णय का सत्यापन एक महत्वपूर्ण आवश्यकता बनी हुई है।