AI पर लगाम लगाने के लिए वैश्विक संस्था की मांग, जेफ्री हिंटन समेत 400 वैज्ञानिक क्यों हुए एकजुट?

क्या भविष्य में शक्तिशाली एआई सिस्टम इंसानी निगरानी से बाहर निकलकर बाहरी कंप्यूटर नेटवर्क और सिस्टम को नुकसान पहुंचा सकते हैं? इसी चिंता के बीच करीब 400 वैज्ञानिकों ने उन्नत आर्टिफिशियल इंटेलिजेंस की निगरानी के लिए एक अंतरराष्ट्रीय संस्था बनाने की मांग की है। इनमें एआई के अग्रणी विशेषज्ञ जेफ्री हिंटन और योशुआ बेंगियो भी शामिल हैं। International Body to Regulate Advanced AI बनाने का प्रस्ताव ऐसे समय आया है, जब एआई की सुरक्षा, साइबर जोखिम और सरकारी निगरानी को लेकर दुनिया भर में बहस तेज हो रही है। मंगलवार को जारी एक खुले पत्र में 34 देशों के हस्ताक्षरकर्ताओं ने कहा कि उन्नत साइबर क्षमताओं वाले एआई मॉडल के लिए सख्त सुरक्षा मानक तय किए जाने चाहिए। उन्होंने स्वतंत्र निगरानी, सुरक्षा संबंधी गंभीर घटनाओं का रिकॉर्ड रखने और भविष्य में इन घटनाओं की जानकारी सार्वजनिक करने की व्यवस्था बनाने पर जोर दिया।

उन्नत एआई की निगरानी के लिए अंतरराष्ट्रीय संस्था क्यों जरूरी?

वैज्ञानिकों का प्रस्ताव है कि एक अंतरराष्ट्रीय निकाय उन्नत एआई सिस्टम के लिए उद्योग-व्यापी सुरक्षा मानक तय करे और गंभीर सुरक्षा घटनाओं का एक रजिस्टर बनाए। इस रजिस्टर को भविष्य में सार्वजनिक करने की भी बात कही गई है, ताकि एआई से जुड़े जोखिमों और सुरक्षा संबंधी विफलताओं की जानकारी पारदर्शी तरीके से सामने आ सके।हस्ताक्षरकर्ताओं का मानना है कि केवल कंपनियों के स्वैच्छिक वादों पर निर्भर रहना पर्याप्त नहीं है। उनके अनुसार, जैसे-जैसे एआई मॉडल की क्षमताएं बढ़ रही हैं, वैसे-वैसे उनकी जांच, निगरानी और नियंत्रण के लिए भी मजबूत व्यवस्था की जरूरत है।International AI Oversight Body का विचार इसी चिंता से जुड़ा है। हालांकि, यह अभी वैज्ञानिकों का प्रस्ताव है। उपलब्ध जानकारी के मुताबिक, ऐसी अंतरराष्ट्रीय संस्था के गठन या उसके अधिकारों को लेकर कोई अंतिम सरकारी फैसला घोषित नहीं हुआ है।

International Body to Regulate Advanced AI क्या करेगी?

एआई सिस्टम से जुड़े जोखिमों ने क्यों बढ़ाई चिंता?

वैज्ञानिकों का यह आह्वान उन घटनाओं के बाद आया है, जिनमें शोधकर्ताओं के मुताबिक उन्नत एआई सिस्टम की जांच और नियंत्रण व्यवस्था में कमजोरियां सामने आईं। कुछ मामलों में एआई मॉडल कथित तौर पर अपर्याप्त सुरक्षा वाले सीमित परीक्षण वातावरण से बाहर निकलने में सफल रहे और बाहरी सिस्टम से समझौता कर बैठे।ऐसी घटनाएं Advanced AI Safety Standards की जरूरत को रेखांकित करती हैं। यदि किसी मॉडल को साइबर संबंधी कार्य करने की क्षमता हासिल है, तो उसकी गलत गतिविधि या सुरक्षा व्यवस्था में चूक का असर केवल उसी परीक्षण वातावरण तक सीमित नहीं रह सकता।हालांकि, इन घटनाओं का उल्लेख वैज्ञानिकों के दावों के आधार पर किया गया है। उपलब्ध रिपोर्ट में संबंधित घटनाओं का विस्तृत तकनीकी विवरण या सभी मामलों की स्वतंत्र जांच के निष्कर्ष नहीं दिए गए हैं।इसी वजह से वैज्ञानिकों का जोर केवल मॉडल की क्षमता बढ़ाने पर नहीं, बल्कि उसे सुरक्षित तरीके से विकसित करने, परीक्षण करने और निगरानी में रखने पर भी है।

अमेरिका और यूरोप में एआई नियमन को लेकर क्या हो रहा है?

Global AI Governance को लेकर नीति-निर्माताओं के बीच बहस तेज हो रही है। यूरोपीय संघ की तकनीकी प्रमुख हेन्ना विरकुनेन ने शुक्रवार को रॉयटर्स से कहा था कि यूरोपीय संघ का एआई अधिनियम अनियंत्रित एआई सिस्टम से जुड़े जोखिमों से निपटने के लिए पर्याप्त है।वहीं, रविवार को अमेरिकी प्रशासन ने ब्रिटेन के एआई सुरक्षा संस्थान को अमेरिकी प्रयोगशालाओं के मॉडल तक सुरक्षा परीक्षण के लिए शुरुआती पहुंच देने पर लगी रोक हटाने का फैसला किया। यह घटनाक्रम एआई सुरक्षा जांच में अंतरराष्ट्रीय सहयोग की अहमियत को भी सामने लाता है।फिर भी, उन्नत एआई की निगरानी के तरीके को लेकर विशेषज्ञों में पूरी सहमति नहीं है। जेफ्री हिंटन और योशुआ बेंगियो ने अंतरराष्ट्रीय निगरानी की मांग का समर्थन किया है, लेकिन एआई के एक अन्य प्रमुख शोधकर्ता यान लेकुन ने खुले पत्र पर हस्ताक्षर नहीं किए। उनका तर्क रहा है कि हाल में सामने आई सुरक्षा घटनाएं मुख्य रूप से इंजीनियरिंग संबंधी विफलताओं को दर्शाती हैं, न कि एआई से मानव अस्तित्व को होने वाले खतरे को।हिंटन और बेंगियो ने मेटा के यान लेकुन के साथ वर्ष 2018 में ट्यूरिंग पुरस्कार साझा किया था। तीनों को एआई अनुसंधान के प्रमुख विशेषज्ञों में गिना जाता है।

क्या दुनिया में पहले से कोई वैश्विक एआई नियामक संस्था है?

फिलहाल, इस रिपोर्ट में उन्नत एआई के लिए प्रस्तावित निकाय को एक नई अंतरराष्ट्रीय व्यवस्था के रूप में पेश किया गया है। यूरोपीय संघ जैसे क्षेत्रीय नियामक ढांचे मौजूद हैं और अलग-अलग देशों में एआई सुरक्षा को लेकर नीतियां बनाई जा रही हैं, लेकिन वैज्ञानिक जिस संस्था की मांग कर रहे हैं, उसका उद्देश्य अंतरराष्ट्रीय स्तर पर सुरक्षा मानकों और गंभीर घटनाओं की रिपोर्टिंग के लिए साझा व्यवस्था तैयार करना है। AI Regulation Framework को वैश्विक स्तर पर लागू करना आसान नहीं होगा। अलग-अलग देशों के कानून, राष्ट्रीय सुरक्षा संबंधी चिंताएं और कंपनियों के व्यावसायिक हित इसमें चुनौती बन सकते हैं। इसलिए किसी अंतरराष्ट्रीय संस्था की प्रभावशीलता इस बात पर निर्भर करेगी कि देश उसके मानकों को किस हद तक स्वीकार करते हैं और उनका पालन कैसे सुनिश्चित किया जाता है।

निष्कर्ष

International Body to Regulate Advanced AI की मांग दिखाती है कि एआई के बढ़ते प्रभाव के साथ सुरक्षा और जवाबदेही को लेकर चिंता भी बढ़ रही है। अब अहम सवाल यह है कि क्या सरकारें और तकनीकी कंपनियां साझा अंतरराष्ट्रीय मानकों पर सहमत हो पाएंगी, ताकि उन्नत एआई का विकास सुरक्षा और जिम्मेदारी के साथ किया जा सके।

FAQ (Frequently Asked Questions):