AI Could Kill Us All By Decade-End: Anthropic Researcher ने क्यों छोड़ी कंपनी? अंदर से आई चेतावनी ने मचाई हलचल

क्या AI Could Kill Us All By Decade-End? यह सवाल तब और गंभीर हो गया जब Anthropic में करीब तीन साल तक काम कर चुके 27 वर्षीय AI researcher Jacob Coxon ने कंपनी से इस्तीफा दे दिया और AI की दिशा को लेकर बेहद गंभीर चेतावनी सार्वजनिक की। Coxon का दावा है कि AI कंपनियां self-improving superintelligence की दौड़ में आगे बढ़ रही हैं और इस प्रक्रिया में मानवता के लिए बेहद बड़ा जोखिम लिया जा रहा है।उनके बयान के बाद Anthropic के Alignment Science Lead Evan Hubinger ने भी AI के संभावित खतरे पर अपनी चिंता जाहिर की और कहा कि वह व्यक्तिगत रूप से अगले दशक में AI के कारण इंसानों के खत्म होने की संभावना को 10 प्रतिशत से अधिक मानते हैं। हालांकि, यह एक व्यक्तिगत risk assessment है, कोई स्थापित वैज्ञानिक भविष्यवाणी नहीं।

Anthropic Researcher Quits: Jacob Coxon ने इस्तीफा क्यों दिया?

Anthropic Researcher Quits की वजह बताते हुए Jacob Coxon ने कहा कि उन्होंने OpenAI और Anthropic दोनों में pretraining research पर काम किया है और उन्हें लगता है कि दोनों कंपनियां AI development को जिम्मेदारी से आगे नहीं बढ़ा रहीं।उनका आरोप है कि कंपनियां ऐसे systems की ओर बढ़ रही हैं जो भविष्य में खुद को बेहतर बनाने की क्षमता हासिल कर सकते हैं। Coxon के मुताबिक, अगर ऐसी superintelligent systems विकसित होती हैं तो वे hacking, वैज्ञानिक खोज और संसाधनों तक पहुंच जैसे क्षेत्रों में इंसानों से कहीं आगे निकल सकती हैं।उन्होंने यह भी कहा कि AI researchers और executives निजी तौर पर इस technology के जोखिम को लेकर चिंता व्यक्त करते हैं, लेकिन AI race में पीछे रह जाने का डर development रोकने की चिंता पर भारी पड़ रहा है।

AI Could Kill Us All By Decade-End का दावा कितना गंभीर है?

Coxon का सबसे चर्चित दावा यही है कि AI बनाने वाले कई लोग वास्तव में मानते हैं कि यह technology दशक खत्म होने से पहले मानवता के लिए अस्तित्वगत खतरा बन सकती है।हालांकि, इसे एक निश्चित भविष्यवाणी की तरह नहीं समझना चाहिए। AI Existential Risk को लेकर वैज्ञानिक और तकनीकी समुदाय में लंबे समय से बहस होती रही है। यहां Coxon का कहना है कि advanced AI के capabilities तेजी से बढ़ रहे हैं और अगर systems self-improvement की दिशा में आगे बढ़ते हैं तो उनके नियंत्रण का सवाल बेहद कठिन हो सकता है।उनका मानना है कि AI labs को ऐसे development में आगे बढ़ने से पहले safety और alignment को लेकर कहीं अधिक मजबूत भरोसा होना चाहिए।

Anthropic AI Safety पर कंपनी के अंदर से क्या आवाज आई?

Coxon की पोस्ट के जवाब में Anthropic के Alignment Science Lead Evan Hubinger ने भी काफी स्पष्ट टिप्पणी की।Hubinger ने कहा कि Anthropic के लोग वास्तव में इस संभावना को गंभीरता से लेते हैं कि AI इंसानों के लिए विनाशकारी साबित हो सकता है। उन्होंने व्यक्तिगत तौर पर अगले दशक में इस तरह की घटना की संभावना 10 प्रतिशत से अधिक आंकी।लेकिन Hubinger ने साथ ही यह भी कहा कि Anthropic अपनी तरफ से पूरी कोशिश कर रही है, फिर भी superintelligence के लिए alignment की समस्या का समाधान अभी उनके पास नहीं है और वे यह भी नहीं मानते कि कंपनी स्पष्ट रूप से सही रास्ते पर है।यह Anthropic AI Safety बहस का महत्वपूर्ण हिस्सा है, क्योंकि चिंता मौजूदा AI models को लेकर कम और भविष्य की superintelligence को लेकर ज्यादा बताई गई है।

मौजूदा AI और Superintelligence में क्या फर्क है?

Coxon और Hubinger की चिंता मुख्य रूप से आज इस्तेमाल किए जा रहे सामान्य AI tools को लेकर नहीं, बल्कि संभावित superintelligence को लेकर है।मौजूदा AI systems कई कामों में इंसानों की मदद कर सकते हैं, लेकिन उनका प्रदर्शन अलग-अलग क्षेत्रों में सीमित या असमान हो सकता है। इसके विपरीत, superintelligence की कल्पना ऐसे systems के रूप में की जाती है जो व्यापक बौद्धिक कार्यों में इंसानों से काफी आगे निकल जाएं।यही Advanced AI Risks की बहस का केंद्र है। अगर भविष्य का AI अपने capabilities को खुद तेजी से सुधार सके, तो researchers के सामने यह सवाल होगा कि उसके goals इंसानी हितों के साथ कैसे aligned रखे जाएं।

Jacob Coxon ने AI Labs से क्या अपील की?

Coxon ने दूसरे AI researchers से कहा कि उन्हें यह सोचने की जरूरत है कि आने वाले वर्षों में AI development का अगला चरण वास्तव में कैसा हो सकता है।उन्होंने सवाल उठाया कि क्या researchers को बिना अपने systems की “mind” को पर्याप्त समझे superintelligent reinforcement-learning runs शुरू करने चाहिए या development की शर्तों पर सवाल उठाना चाहिए।Coxon ने यहां तक कहा कि अगर global AI race को रोकने के लिए जरूरी हो तो temporary restrictions जैसे महंगे कदमों पर भी विचार किया जाना चाहिए।उनके मुताबिक, मौजूदा AI industry के सामने सबसे बड़ी समस्या केवल technology को तेजी से बनाना नहीं, बल्कि यह सुनिश्चित करना है कि powerful systems इंसानी नियंत्रण और हितों के भीतर रहें।

Elon Musk ने Anthropic को लेकर क्या कहा?

Coxon के इस्तीफे से करीब दो महीने पहले Elon Musk ने Anthropic को लेकर अपना रुख बदला था। स्रोत के मुताबिक, Musk ने पहले Claude और Anthropic की आलोचना की थी, लेकिन जुलाई में उन्होंने Anthropic को AI क्षेत्र में मौजूदा leader बताया।हालांकि, Musk की यह टिप्पणी और Coxon की safety concerns दो अलग मुद्दे हैं। किसी AI company के technology leadership में आगे होने का अर्थ यह नहीं है कि उसके safety challenges भी हल हो चुके हैं।

निष्कर्ष

AI Could Kill Us All By Decade-End वाला दावा निश्चित भविष्यवाणी नहीं, बल्कि AI safety को लेकर एक गंभीर चेतावनी है। Jacob Coxon का AI Researcher Resignation और Anthropic के Evan Hubinger का 10 प्रतिशत से अधिक व्यक्तिगत risk estimate इस बहस को और तेज करता है। सबसे बड़ा सवाल यही है कि AI की race में capabilities बढ़ाने से पहले क्या safety और alignment को पर्याप्त प्राथमिकता दी जा रही है?