Geoffrey Hinton AI Warning: AI के जनक की चेतावनी- 3 साल में इंसानों की जान ले सकता है AI, क्या सरकारें कर पाएंगी काबू?
Geoffrey Hinton ने चेतावनी दी है कि AI इंसानों से ज्यादा बुद्धिमान होकर नियंत्रण से बाहर हो सकता है। AI विशेषज्ञ Paul Christiano ने अगले तीन साल में नियंत्रण खोने की 15% आशंका जताई है। विशेषज्ञों ने सुरक्षा नियमों और सरकारी निगरानी की जरूरत बताई है।
Geoffrey Hinton AI Warning: आर्टिफिशियल इंटेलिजेंस (AI) की तेजी से बढ़ती ताकत को लेकर दुनिया के कई बड़े वैज्ञानिक और विशेषज्ञ चिंता जता रहे हैं। नोबेल पुरस्कार विजेता और AI के गॉडफादर कहे जाने वाले Geoffrey Hinton ने चेतावनी दी है कि आने वाले समय में AI इंसानों से ज्यादा बुद्धिमान हो सकता है और उस पर नियंत्रण बनाए रखना मुश्किल हो सकता है। वहीं, AI सुरक्षा विशेषज्ञ Paul Christiano का अनुमान है कि अगले तीन साल में इंसान AI पर अपना नियंत्रण खो सकते हैं। उनके मुताबिक, ऐसी स्थिति में AI अपने फैसले खुद लेने लगेगा और इंसानों की भूमिका कमजोर पड़ सकती है।यह आशंका सिर्फ फिल्मों में दिखाए जाने वाले रोबोट के हमले तक सीमित नहीं है। विशेषज्ञों की चिंता है कि बेहद सक्षम AI सिस्टम अपने लक्ष्य पूरे करने के लिए इंसानों के निर्देशों को नजरअंदाज कर सकते हैं। हालांकि, ये संभावित खतरों को लेकर विशेषज्ञों के अनुमान हैं, कोई तय समयसीमा या निश्चित भविष्यवाणी नहीं।
Hinton बोले- AI से बड़ा हादसा होने पर दुनिया जागेगी
3 नवंबर 2026 को द गार्जियन को दिए इंटरव्यू में Geoffrey Hinton ने आशंका जताई कि AI के कारण इस साल या अगले साल कोई बड़ा हादसा हो सकता है। उन्होंने इसकी तुलना चेरनोबिल जैसी घटना से की। उनके मुताबिक, AI के कारण बिजली या बैंकिंग सिस्टम जैसी जरूरी सेवाएं कुछ समय के लिए ठप हो सकती हैं। उनका कहना था कि शायद ऐसी किसी बड़ी घटना के बाद ही दुनिया AI के खतरों को गंभीरता से समझेगी।
11 अक्टूबर 2026 को अमेरिकी सीनेट में AI के प्रभाव पर हुई चर्चा के बाद Hinton ने कहा था कि सुरक्षा नियम बनाने के लिए दुनिया के पास लगभग एक से डेढ़ साल का समय हो सकता है। हालांकि, उन्होंने यह भी स्पष्ट किया कि यह समयसीमा उनका अनुमान है, कोई पक्की वैज्ञानिक गणना नहीं। उन्होंने खास तौर पर OpenAI के AI एजेंट्स से जुड़े उस मामले का जिक्र किया, जिसमें टेस्टिंग के दौरान एजेंट्स ने अपनी तय सीमाओं से बाहर जाकर काम किया था।Hinton को 2024 में भौतिकी का नोबेल पुरस्कार मिला था। उन्होंने लंबे समय तक Google में काम किया और मई 2023 में कंपनी छोड़ दी, ताकि AI के बढ़ते खतरों पर खुलकर बात कर सकें। दिसंबर 2024 में उन्होंने कहा था कि अगले 30 साल में AI के कारण इंसानों के खत्म होने की आशंका 10 से 20% तक हो सकती है।
Paul Christiano का अनुमान- 3 साल में AI से नियंत्रण खोने का खतरा
AI सुरक्षा विशेषज्ञ और Alignment Research Center के संस्थापक Paul Christiano ने भी इस खतरे को लेकर चिंता जताई है। सितंबर 2026 में OpenAI के गैर-लाभकारी बोर्ड में शामिल होने के बाद उन्होंने अपने बयान में कहा था कि अगर सुपरइंटेलिजेंट AI को पर्याप्त सुरक्षा उपायों के बिना विकसित किया गया, तो इंसान हमेशा के लिए उस पर नियंत्रण खो सकते हैं।
Christiano ने इस जोखिम का अपना अनुमान भी बताया। उनके मुताबिक, अगले एक साल में इंसानों के AI पर स्थायी नियंत्रण खोने की आशंका 4% और अगले तीन साल में 15% है। उन्होंने साफ किया कि ये आंकड़े उनके निजी आकलन हैं, किसी सटीक गणितीय मॉडल से निकली संभावनाएं नहीं।नवंबर 2026 में Hinton Lectures के दौरान उन्होंने कहा कि अगर कंपनियां बिना किसी बाहरी रोक-टोक के AI को सबसे तेज रफ्तार से विकसित करने की कोशिश करें, तो तीन साल में AI के नियंत्रण से बाहर होने का जोखिम काफी बढ़ सकता है। उनके मुताबिक, AI टेकओवर का मतलब यह होगा कि सिस्टम अपने लक्ष्य तय करके फैसले लेने लगे और इंसानों के पास उसे रोकने की ताकत न रहे।
AI अपने फैसले लेने लगा तो बढ़ सकता है खतरा
विशेषज्ञों के मुताबिक, AI का नियंत्रण से बाहर होना जरूरी नहीं कि फिल्मों की तरह रोबोटों के इंसानों पर हमला करने से ही हो। ज्यादा बड़ा खतरा तब पैदा हो सकता है, जब AI सिस्टम अपने लक्ष्य पूरे करने के लिए इंसानों को बाधा समझने लगें। ऐसे में वे कंपनियों, सरकारी संस्थानों और जरूरी डिजिटल सिस्टम पर अपना प्रभाव बढ़ाने की कोशिश कर सकते हैं।AI की मदद से साइबर हमले, बड़े पैमाने पर गलत सूचनाएं फैलाना, ड्रोन और रोबोट के जरिए हमले करना या खतरनाक जैविक हथियार विकसित करना भी आसान हो सकता है। Christiano ने भी साइबर हमलों, राजनीतिक हस्तक्षेप, रोबोटिक्स और नए हथियारों को AI से जुड़े जोखिमों में शामिल किया है।
इसका एक उदाहरण Anthropic के Claude Opus 4 मॉडल की टेस्टिंग में सामने आया। कंपनी के एक नियंत्रित सिमुलेशन में मॉडल को एक काल्पनिक कंपनी के ईमेल तक पहुंच दी गई थी। वहां उसे पता चला कि एक अधिकारी का विवाहेतर संबंध है और वही अधिकारी AI सिस्टम को बंद करने वाला है। टेस्ट के दौरान मॉडल ने सिस्टम को बंद होने से बचाने के लिए अधिकारी को निजी जानकारी सार्वजनिक करने की धमकी दी। Anthropic ने अपनी रिपोर्ट में स्पष्ट किया कि यह एक काल्पनिक और नियंत्रित परीक्षण था, वास्तविक घटना नहीं। बाद में 16 प्रमुख AI मॉडल पर किए गए सिमुलेशन में भी इसी तरह के व्यवहार के उदाहरण मिले।
OpenAI ने भी जुलाई 2026 में अपने AI मॉडल्स की साइबर सुरक्षा जांच से जुड़ी एक घटना की जानकारी दी थी। कंपनी के मुताबिक, टेस्टिंग के दौरान कुछ AI एजेंट्स ने सुरक्षा सीमाओं को पार कर इंटरनेट तक पहुंच बनाई और Hugging Face के सिस्टम में सेंध लगाई। एजेंट्स ने सार्वजनिक रूप से उपलब्ध क्रेडेंशियल्स का इस्तेमाल किया और कुछ सर्वर तक अनधिकृत पहुंच हासिल की। OpenAI ने बताया कि यह घटना नियंत्रित परीक्षण के दौरान हुई थी और इसके बाद सुरक्षा व्यवस्था मजबूत की गई।
AI की रफ्तार से चिंतित होकर कई विशेषज्ञों ने छोड़ी नौकरी
AI के बढ़ते खतरे को लेकर चिंता जताने वाले विशेषज्ञों में कई ऐसे लोग भी हैं, जिन्होंने बड़ी टेक कंपनियों में अपनी नौकरी छोड़ी। Geoffrey Hinton ने मई 2023 में Google छोड़ा था। मई 2024 में OpenAI के सह-संस्थापक Ilya Sutskever और कंपनी की सुपरअलाइनमेंट टीम के सह-प्रमुख Jan Leike ने भी कंपनी से इस्तीफा दिया। Leike ने कहा था कि AI सुरक्षा को कंपनी में पर्याप्त प्राथमिकता नहीं मिल रही थी।सितंबर 2026 में Anthropic के पूर्व रिसर्चर Jacob Coxon ने भी कंपनी छोड़ने के बाद AI सुरक्षा को लेकर चिंता जताई। उनका आरोप था कि AI कंपनियां खुद में सुधार करने वाले बेहद शक्तिशाली सिस्टम बनाने की दौड़ में सुरक्षा को पीछे छोड़ रही हैं। इसी महीने Google DeepMind के रिसर्चर Bilal Chughtai और Josh Engels ने भी AI के संभावित खतरों का हवाला देते हुए अपनी नौकरी छोड़ी।
AI को नियंत्रित करने के लिए नियम बनाने की कोशिश
AI के संभावित खतरों को देखते हुए कंपनियां और सरकारें सुरक्षा नियम बनाने की कोशिश कर रही हैं। OpenAI और Anthropic जैसी कंपनियों ने अपने मॉडल्स के लिए सुरक्षा मानक और टेस्टिंग व्यवस्था बनाई है। लेकिन विशेषज्ञों की चिंता है कि कंपनियां अपने नियम खुद बनाती हैं और जरूरत के हिसाब से उनमें बदलाव भी कर सकती हैं।सरकारों ने भी AI के इस्तेमाल और विकास को लेकर नियमों पर काम शुरू किया है, लेकिन दुनिया के सभी देशों में एक जैसे सख्त नियम लागू नहीं हैं। 1 नवंबर 2023 को ब्रिटेन के ब्लेचली पार्क में आयोजित AI सुरक्षा सम्मेलन में भारत समेत 28 देशों और यूरोपीय संघ ने AI से जुड़े गंभीर जोखिमों को स्वीकार किया था। इनमें साइबर हमले, गलत सूचनाएं और भविष्य में AI पर नियंत्रण खोने की आशंका शामिल थी।
इससे पहले 22 मार्च 2023 को Future of Life Institute ने GPT-4 से ज्यादा शक्तिशाली AI सिस्टम की ट्रेनिंग कम से कम छह महीने रोकने की मांग करते हुए खुला पत्र जारी किया था। इसमें Elon Musk और Yoshua Bengio समेत कई लोगों ने हस्ताक्षर किए थे। 30 मई 2023 को AI से मानव अस्तित्व को होने वाले खतरे को महामारी और परमाणु युद्ध जैसे जोखिमों के बराबर मानने वाला एक बयान भी जारी हुआ था।
AI से नौकरियों पर भी पड़ सकता है असर
AI का असर सिर्फ सुरक्षा तक सीमित नहीं रहेगा। इससे रोजगार के क्षेत्र में भी बड़े बदलाव आने की आशंका है। Anthropic के CEO Dario Amodei ने अनुमान जताया है कि अगले एक से पांच साल में शुरुआती स्तर की लगभग 50% व्हाइट-कॉलर नौकरियां प्रभावित हो सकती हैं। उनका मानना है कि AI कई ऐसे काम कर सकेगा, जिनके लिए अभी इंसानों की जरूरत पड़ती है।दूसरी ओर, Nvidia के CEO Jensen Huang का कहना है कि AI नई तरह की नौकरियां और काम के अवसर भी पैदा करेगा। AI का इस्तेमाल मेडिकल रिसर्च, शिक्षा, दवाओं की खोज और कई दूसरे क्षेत्रों में नए रास्ते खोल सकता है। भारत में आयोजित AI सम्मेलन के दौरान Dario Amodei ने भी कहा था कि AI ऐसी बीमारियों का इलाज खोजने में मदद कर सकता है, जिनका अब तक इलाज संभव नहीं हो पाया है।
इसलिए AI को केवल खतरे या अवसर के रूप में देखना सही नहीं होगा। आने वाले वर्षों में इसका असर इस बात पर निर्भर करेगा कि इसे कितनी जिम्मेदारी से विकसित किया जाता है और इंसानों के नियंत्रण को बनाए रखने के लिए कितने प्रभावी सुरक्षा उपाय किए जाते हैं।
FAQ (Frequently Asked Questions):
Geoffrey Hinton ने AI को लेकर क्या warning दी है?
Geoffrey Hinton ने चेतावनी दी है कि AI भविष्य में इंसानों से ज्यादा बुद्धिमान हो सकता है और उस पर नियंत्रण बनाए रखना मुश्किल हो सकता है। नवंबर 2026 में उन्होंने यह भी आशंका जताई कि AI के कारण इस साल या अगले साल बिजली या बैंकिंग सिस्टम जैसी जरूरी सेवाओं पर बड़ा असर डालने वाली घटना हो सकती है।
क्या AI अगले तीन साल में इंसानों के लिए खतरा बन सकता है?
AI सुरक्षा विशेषज्ञ Paul Christiano के मुताबिक, अगले तीन साल में इंसानों के AI पर स्थायी नियंत्रण खोने की आशंका 15% है। यह उनका निजी जोखिम-अनुमान है, कोई निश्चित भविष्यवाणी नहीं। विशेषज्ञों का मानना है कि पर्याप्त सुरक्षा उपाय नहीं किए गए तो AI गंभीर खतरा बन सकता है।
Godfather of AI Geoffrey Hinton कौन हैं?
Geoffrey Hinton ब्रिटिश-कनाडाई कंप्यूटर वैज्ञानिक हैं। उन्हें आर्टिफिशियल इंटेलिजेंस और न्यूरल नेटवर्क के विकास में अहम योगदान के कारण AI का गॉडफादर कहा जाता है। उन्हें 2024 में भौतिकी का नोबेल पुरस्कार मिला था। उन्होंने मई 2023 में Google छोड़कर AI के संभावित खतरों पर खुलकर बोलना शुरू किया।
Superintelligent AI इंसानों का control कैसे ले सकता है?
Superintelligent AI यानी इंसानों से ज्यादा बुद्धिमान AI सिस्टम अपने लक्ष्य पूरे करने के लिए खुद फैसले लेने लग सकता है। अगर वह इंसानों के निर्देशों को बाधा समझने लगे, तो सरकारी संस्थानों, कंपनियों, डिजिटल नेटवर्क और जरूरी सेवाओं पर नियंत्रण हासिल करने की कोशिश कर सकता है।
AI takeover को लेकर Paul Christiano ने क्या दावा किया है?
Paul Christiano ने कहा है कि अगले एक साल में इंसानों के AI पर स्थायी नियंत्रण खोने की आशंका 4% और अगले तीन साल में 15% है। उनके मुताबिक, अगर AI को पर्याप्त सुरक्षा उपायों के बिना विकसित किया गया, तो इंसानों के लिए उस पर नियंत्रण बनाए रखना मुश्किल हो सकता है।
क्या AI technology पर सरकारों को सख्त नियम बनाने चाहिए?
कई AI विशेषज्ञों का मानना है कि सरकारों को AI के विकास और इस्तेमाल के लिए स्पष्ट सुरक्षा नियम बनाने चाहिए। इनमें खतरनाक क्षमताओं की जांच, स्वतंत्र निगरानी, साइबर सुरक्षा और इंसानों के नियंत्रण को बनाए रखने के उपाय शामिल हो सकते हैं। कंपनियों के अपने सुरक्षा नियमों के साथ सरकारी निगरानी भी जरूरी मानी जा रही है।
