नई दिल्ली: अपनी तरह के पहले मामले में, सुप्रीम कोर्ट ने गुरुवार को एनसीएलटी और एनसीएलएटी द्वारा पारित आदेशों को इस आधार पर रद्द कर दिया कि उन्होंने एआई-जनरेटेड गैर-मौजूद केस कानूनों और फैसलों के आधार पर एक मामले का फैसला किया, चेतावनी दी कि एआई का अनियंत्रित उपयोग न्याय वितरण प्रणाली को विकृत कर सकता है।न्यायमूर्ति पीएस नरसिम्हा और न्यायमूर्ति आलोक अराधे की पीठ ने एआई के उपयोग पर बार और बेंच दोनों को आगाह करते हुए कहा कि मानवीय तत्व को ड्राइविंग सीट पर रहना चाहिए और “एआई के अनुप्रयोग और उपयोग पर पूर्ण और पूर्ण नियंत्रण” होना चाहिए।न्यायमूर्ति नरसिम्हा ने कहा, “हमारे लिए…नकली, अस्तित्वहीन और भ्रामक सामग्री का उत्पादन और कानून में उदाहरण के रूप में इसका उपयोग, कानून और न्याय के प्रांत में मिथाइल आइसोसाइनेट की रिहाई की तरह है: अदृश्य, कपटी और विनाशकारी, जब तक कोई नोटिस करता है।”पीठ ने कहा कि एआई सिर्फ एक सहायता नहीं है बल्कि “हमारी अपनी सोच, तर्क और यहां तक कि निर्णय लेने का एक विकल्प” है, जिससे विनियमन आवश्यक हो गया है। दिवाला मामले में, एनसीएलटी ने एआई-जनरेटेड सामग्री पर भरोसा किया और छह गैर-मौजूद सुप्रीम कोर्ट के फैसलों का हवाला दिया। फर्जी फैसले भी एनसीएलएटी की जांच से बच गए। वकीलों ने शीर्ष अदालत को बताया कि उन्होंने फर्जी फैसले नहीं दिए हैं और न्यायाधिकरण ने अपने स्वयं के शोध के माध्यम से सामग्री प्राप्त की है।पीठ ने कहा, “अदालतों के लिए सत्यापन के बिना एआई-जनित उदाहरणों को पेश करने, उद्धृत करने या उपयोग करने के लिए शून्य-सहिष्णुता मोड अपनाना आवश्यक है।” यह कहते हुए कि नकली या मतिभ्रम वाली एआई सामग्री पर आंशिक रूप से निर्भर कोई भी निर्णय “कानून की नजर में कोई निर्णय नहीं है” और इसे रद्द कर दिया जाना चाहिए।अदालत ने बार काउंसिल ऑफ इंडिया को कानूनी मिसाल के रूप में नकली या मतिभ्रम एआई-जनित सामग्री प्रस्तुत करने वाले वकीलों की समस्या पर विचार-विमर्श करने के लिए एक समिति गठित करने का निर्देश दिया। इसने चेतावनी दी कि एआई को सोच सौंपने से सच को झूठ और न्याय को अन्याय से अलग करने की मानवीय क्षमता पर गंभीर परिणाम हो सकते हैं।
