सुप्रीम कोर्ट ने सोमवार को एक महत्वपूर्ण याचिका पर दो हफ्ते बाद सुनवाई के लिए सहमति दी, जिसमें कहा गया है कि न्यायिक कार्यों में जनरेटिव आर्टिफिशियल इंटेलिजेंस (GenAI) का अंधाधुंध उपयोग “हैलूसिनेशन” जैसी स्थितियां पैदा कर सकता है, जिससे फर्जी जजमेंट, भ्रमित शोध सामग्री और पूर्वाग्रहपूर्ण निर्णय सामने आ सकते हैं।
मुख्य न्यायाधीश डी.वाई. चंद्रचूड़ की अध्यक्षता वाली पीठ के समक्ष यह मामला आने पर न्यायालय ने कहा कि न्यायपालिका इस विषय पर सजग है और AI के हस्तक्षेप को लेकर चिंतित भी है।
जेनरेटिव आर्टिफिशियल इंटेलिजेंस (Generative Artificial Intelligence – GAI) क्या है?जेनरेटिव आर्टिफिशियल इंटेलिजेंस (GAI) कृत्रिम बुद्धिमत्ता की एक तेजी से विकसित होती शाखा है, जिसका उद्देश्य नए प्रकार की सामग्री (जैसे चित्र, ऑडियो, टेक्स्ट, वीडियो या कोड) बनाना है। यह तकनीक मौजूदा डेटा से पैटर्न और नियम सीखकर नई सामग्री तैयार करती है।
उदाहरण के लिए, एक GAN अगर चेहरों की तस्वीरों पर प्रशिक्षित किया गया हो, तो यह बिल्कुल नए और यथार्थ लगने वाले चेहरे बना सकता है जो किसी वास्तविक व्यक्ति के नहीं होते।
शुरुआत में इसका उपयोग केवल डिजिटल इमेज करेक्शन और ऑडियो करेक्शन जैसे कार्यों में होता था, लेकिन अब यह ChatGPT, DALL·E, और डीपफेक (Deepfake) जैसी आधुनिक तकनीकों का आधार बन चुका है।
जेनरेटिव एआई के उपयोग के क्षेत्र1. कला और रचनात्मकता: यह कलाकारों को नई कलाकृतियाँ बनाने में मदद करता है, जिससे वे कल्पनाशील और पारंपरिक सीमाओं से परे कार्य कर सकते हैं। उदाहरण: · DeepDream Generator – डीप लर्निंग के जरिए कल्पनात्मक, सपनों जैसे चित्र बनाता है। · DALL·E 2 – टेक्स्ट विवरण से नई और वास्तविक दिखने वाली तस्वीरें बनाता है। 2. संगीत: यह संगीतकारों को नए स्वर और शैली खोजने में सहायता करता है। उदाहरण: · Amper Music – पहले से रिकॉर्ड किए गए साउंड सैंपल से नया संगीत बनाता है। · AIVA – एआई एल्गोरिदम की मदद से विभिन्न शैलियों में मूल संगीत तैयार करता है। 3. कंप्यूटर ग्राफिक्स और एनीमेशन: फिल्म और गेमिंग उद्योग में यथार्थवादी 3D मॉडल, एनीमेशन और विशेष प्रभाव बनाने में मदद करता है। 4. स्वास्थ्य क्षेत्र: GAI चिकित्सा छवियाँ और सिमुलेशन तैयार कर रोग निदान और उपचार की सटीकता बढ़ाने में मदद करता है। 5. विनिर्माण और रोबोटिक्स: यह उत्पादन प्रक्रियाओं को अनुकूलित कर गुणवत्ता और दक्षता में सुधार करता है।
भारत के लिए महत्व· NASSCOM के अनुसार, भारत में एआई क्षेत्र में लगभग 4.16 लाख पेशेवर कार्यरत हैं। · यह क्षेत्र 20–25% की वार्षिक वृद्धि दर से आगे बढ़ रहा है। · साल 2035 तक, एआई (जिसमें जेनरेटिव एआई भी शामिल है) भारत की अर्थव्यवस्था में 957 अरब अमेरिकी डॉलर का योगदान दे सकता है।
जेनरेटिव एआई से जुड़ी चुनौतियाँ1. सटीकता: GAI द्वारा तैयार किए गए आउटपुट हमेशा सही या तथ्यात्मक नहीं होते। “हैलूसिनेशन” जैसी त्रुटियाँ इसकी विश्वसनीयता पर प्रश्न उठाती हैं। 2. पक्षपात (Bias): GAI मॉडल जिस डेटा पर प्रशिक्षित होते हैं, अगर उसमें सामाजिक या राजनीतिक पक्षपात है, तो वही आउटपुट में झलक सकता है। 3. गोपनीयता: GAI को प्रशिक्षित करने के लिए विशाल मात्रा में डेटा की आवश्यकता होती है, जिसमें संवेदनशील या व्यक्तिगत जानकारी शामिल हो सकती है। इसका दुरुपयोग होने की आशंका रहती है। 4. जिम्मेदारी और नैतिकता: GAI झूठी तस्वीरें, वीडियो या समाचार बना सकता है। ऐसे में यह तय करना कठिन है कि गलत या भ्रामक सामग्री के लिए जिम्मेदार कौन है। 5. रोजगार पर प्रभाव: GAI कई क्षेत्रों में स्वचालन (Automation) बढ़ा सकता है, जिससे रचनात्मक और तकनीकी नौकरियों पर खतरा उत्पन्न हो सकता है। |
AI को जजमेंट की जगह नहीं लेनी चाहिए: जस्टिस गवई
मुख्य न्यायाधीश गवई ने टिप्पणी की कि न्यायिक प्रक्रिया में आर्टिफिशियल इंटेलिजेंस मानव मस्तिष्क और विवेक का स्थान नहीं ले सकता। यह केवल सहायक उपकरण है, निर्णायक नहीं।
याचिकाकर्ता अधिवक्ता कार्तिकेय रावल, जिनकी ओर से वकील अभिनव श्रीवास्तव ने दलील दी, ने सुप्रीम कोर्ट से आग्रह किया कि जब तक संसद इस विषय पर कानून नहीं बना देती, तब तक अदालतों और ट्रिब्यूनलों में AI के उपयोग को लेकर कड़े दिशा-निर्देश या नीति बनाई जाए।
AI के ‘हैलूसिनेशन’ से फर्जी कानून बनने का खतरा
याचिका में कहा गया है कि जनरेटिव AI की अत्यधिक स्वचालित तकनीकें “हैलूसिनेशन” पैदा कर सकती हैं, यानी ऐसा कंटेंट या कानून गढ़ सकती हैं जो वास्तव में अस्तित्व में ही नहीं है।
“GenAI की क्षमता, जो बिना निगरानी के डेटा से पैटर्न निकालती है और नया कंटेंट बनाती है, न्यायिक निर्णयों को आधारहीन या गलत दिशा में ले जा सकती है,” याचिका में कहा गया।
याचिकाकर्ता ने बताया कि GenAI जटिल सवालों के जवाब देने, टेक्स्ट और ग्राफिक्स जनरेट करने, भाषाओं का अनुवाद करने और कोड लिखने तक में सक्षम है, लेकिन यही स्वचालित स्वतंत्रता न्यायिक प्रणाली के लिए खतरा बन सकती है।
पूर्वाग्रह और भेदभाव का नया खतरा
रावल ने कहा कि GenAI एल्गोरिद्म समाज में मौजूद भेदभाव, पूर्वाग्रह और स्टीरियोटाइप्स को “दोहराने या बढ़ाने” की क्षमता रखते हैं। यह न्यायिक निष्पक्षता के सिद्धांत के विपरीत है।
उन्होंने कहा कि न्यायिक फैसलों में AI के ‘फ्लक्चुएशन’ से न्यायिक पारदर्शिता प्रभावित हो सकती है, जबकि जनता को हर जजमेंट के पीछे का स्पष्ट तर्क जानने का अधिकार है।
“ह्यूमन-इन-द-लूप” सिद्धांत अपनाने की मांग
याचिका में सुझाव दिया गया कि न्यायिक प्रणाली में AI का उपयोग केवल तभी किया जाना चाहिए जब “ह्यूमन-इन-द-लूप” सिद्धांत लागू हो, यानी कोई प्रशिक्षित व्यक्ति हमेशा AI के परिणामों की निगरानी और सत्यापन करे।
“AI प्रशासनिक दक्षता में मदद कर सकता है, लेकिन विवेक, नैतिक निर्णय और मानवीय संवेदना को कभी प्रतिस्थापित नहीं कर सकता,” याचिका में कहा गया।
‘ब्लैक बॉक्स एल्गोरिद्म’ से बढ़ी पारदर्शिता की चिंता
याचिका में सबसे गंभीर चिंता “ब्लैक बॉक्स एल्गोरिद्म” को लेकर जताई गई है, यानी ऐसे AI सिस्टम जिनके अंदर की कार्यप्रणाली को समझ पाना लगभग असंभव है।
“इन एल्गोरिद्म की अपारदर्शिता के कारण कभी-कभी इनके निर्माता भी नहीं जानते कि कोई आउटपुट किस आधार पर आया। यह न्यायिक प्रक्रिया में मनमानेपन और भेदभाव का जोखिम बढ़ा सकता है,” याचिका में कहा गया।
सुप्रीम कोर्ट पहले से कर रहा है सीमित AI उपयोग
सुप्रीम कोर्ट पहले ही AI आधारित अनुवाद और कानूनी शोध प्रणाली को सीमित दायरे में अपना चुका है। लेकिन अदालत ने स्पष्ट किया है कि इन टूल्स का प्रयोग केवल सहायक भूमिका में होगा, न कि निर्णय-निर्माण में।
निष्कर्ष:
यह मामला भारत में न्यायपालिका में AI के उपयोग की संवैधानिक सीमाओं को परिभाषित करने की दिशा में महत्वपूर्ण साबित हो सकता है। अगली सुनवाई दो हफ्ते बाद होगी, जब सुप्रीम कोर्ट तय करेगा कि इस विषय पर राष्ट्रीय नीति या दिशा-निर्देश जारी किए जाएं या नहीं।
