OpenAI का बड़ा फैसला: ChatGPT पर किशोरों को हथियारों की खतरनाक जानकारी देने पर सख्ती, हिंसा रोकने के लिए नए नियम !

• 18 साल से कम उम्र के यूजर्स को हथियारों और सुरक्षा प्रणालियों से जुड़ी जोखिम भरी व्यावहारिक जानकारी सीमित मिलेगी।• हिंसक इरादे का संकेत न होने पर भी किशोरों के कुछ सवालों पर सख्ती की जा सकती है।
• हिंसा पर लगातार केंद्रित बातचीत होने पर ChatGPT चैट समाप्त कर सकता है और बार-बार ऐसा होने पर अकाउंट अस्थायी रूप से रोका जा सकता है।
• उम्र का अनुमान लगाने वाली व्यवस्था को मजबूत किया गया है।
• हिंसा से जुड़ी बातचीत के कारण किशोर का अकाउंट रोके जाने पर अभिभावकों को सूचना देने की भी योजना है।

ChatGPT पर किशोरों के लिए हथियारों की जानकारी सीमित क्यों की जा रही है ?

आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI ने 30 अक्टूबर 2026 को ChatGPT पर किशोरों की सुरक्षा बढ़ाने के लिए नए उपायों की घोषणा की। कंपनी के मुताबिक अब 18 साल से कम उम्र के यूजर्स को हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी व्यावहारिक जानकारी देने पर अतिरिक्त प्रतिबंध लगाए जाएंगे जिसका गलत इस्तेमाल करके वास्तविक दुनिया में हिंसा की जा सकती है।

इस फैसले की खास बात यह है कि सख्ती केवल उन सवालों तक सीमित नहीं होगी जिनमें यूजर हिंसा करने का इरादा जाहिर करता है। अगर कोई सवाल सामान्य दिखाई देता है लेकिन उसका जवाब हथियारों या सुरक्षा व्यवस्था के गलत इस्तेमाल में मदद कर सकता है तो ChatGPT किशोरों को ऐसी जानकारी देने से रोक सकता है।

OpenAI के अनुसार उसकी मौजूदा नीतियां पहले से ही किसी को हिंसा की योजना बनाने या उसे अंजाम देने में मदद देने पर रोक लगाती हैं। किशोरों को हथियार खोजने या हासिल करने में मदद देने पर भी प्रतिबंध है। अब कंपनी इन नियमों का दायरा बढ़ाकर हथियारों और सुरक्षा प्रणालियों से जुड़ी जोखिम भरी व्यावहारिक जानकारी को भी शामिल कर रही है।

यह कदम OpenAI teen safety measures और AI safety for teenagers को मजबूत करने की व्यापक कोशिश का हिस्सा है। कंपनी का उद्देश्य किशोरों को AI के जरिए सीखने और जानकारी हासिल करने की सुविधा देते हुए संभावित नुकसान से बचाना है।

ChatGPT पर हथियारों से जुड़ी किस तरह की जानकारी पर लगेगी रोक ?

OpenAI का फैसला हथियारों से संबंधित हर तरह की जानकारी पर पूर्ण प्रतिबंध नहीं है। कंपनी उन व्यावहारिक जानकारियों को सीमित करना चाहती है जिनका इस्तेमाल किसी व्यक्ति को नुकसान पहुंचाने या सुरक्षा व्यवस्था को दरकिनार करने के लिए किया जा सकता है।

इसमें हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी जानकारी शामिल है जो हिंसा को अंजाम देने में मददगार हो सकती है। खास बात यह है कि किशोरों के मामले में ऐसी जानकारी देने पर भी सख्ती की जा सकती है जब उनके सवाल में हिंसक इरादे का कोई स्पष्ट संकेत न हो।

हालांकि किशोर ChatGPT का इस्तेमाल हिंसा को रोकने, किसी विवाद को शांत करने, मदद मांगने और किसी भरोसेमंद वयस्क से संपर्क करने के लिए कर सकेंगे। यानी OpenAI का उद्देश्य सुरक्षा और जागरूकता से जुड़ी जानकारी रोकना नहीं बल्कि नुकसान पहुंचाने में मददगार विवरणों को सीमित करना है।

सभी यूजर्स के लिए भी ChatGPT के सुरक्षा नियमों में बदलाव

OpenAI के नए फैसले केवल किशोरों तक सीमित नहीं हैं। कंपनी ने सभी यूजर्स के लिए भी OpenAI ChatGPT safety policy में कुछ बदलावों की घोषणा की है।

इसके तहत ChatGPT अतीत में हुई सामूहिक हिंसा की घटनाओं से जुड़ी विस्तृत जानकारी देने पर सख्ती करेगा। इसमें उन घटनाओं में इस्तेमाल किए गए हथियारों और उन्हें हासिल करने के तरीकों का विवरण शामिल है। नुकसान के स्तर की ऐसी विस्तृत तुलना भी सीमित की जाएगी जो हमलावरों को अनावश्यक प्रसिद्धि दे सकती है।

हालांकि इन घटनाओं को समझने, पीड़ितों और प्रभावित समुदायों पर उनके असर के बारे में जानने तथा हिंसा के शुरुआती संकेत पहचानने और भविष्य में ऐसी घटनाएं रोकने से जुड़ी जानकारी उपलब्ध रहेगी।

OpenAI के मुताबिक यह प्रतिबंध यूजर की उम्र या सवाल पूछने के कारण से अलग सभी पर लागू होगा। इसका उद्देश्य हिंसक घटनाओं को दोबारा विस्तार से प्रस्तुत करने के बजाय उनकी रोकथाम और सामाजिक प्रभाव को समझने पर ध्यान देना है।

हिंसा पर लगातार सवाल पूछने पर ChatGPT बातचीत रोक सकता है

OpenAI ने हिंसा से जुड़े संभावित खतरे पहचानने के लिए भी नए उपायों की घोषणा की है। अगर किसी बातचीत में यूजर के हिंसा पर लगातार ध्यान केंद्रित करने या किसी दूसरे व्यक्ति को गंभीर नुकसान पहुंचाने के विचारों के संकेत मिलते हैं तो ChatGPT उस चैट को अपने आप समाप्त कर सकता है।

अगर ऐसी वजह से कई बार चैट समाप्त होती हैं तो OpenAI संबंधित अकाउंट को अस्थायी रूप से रोक सकता है। कंपनी का कहना है कि इन उपायों का उद्देश्य संभावित खतरे को शुरुआती स्तर पर पहचानना और वास्तविक दुनिया में नुकसान होने से पहले हस्तक्षेप करना है।

यह व्यवस्था सभी यूजर्स पर लागू होगी। इसके लिए OpenAI मानसिक स्वास्थ्य और हिंसा रोकथाम से जुड़े विशेषज्ञों के साथ भी काम कर रहा है।

उम्र का अनुमान लगाने वाला सिस्टम कैसे करेगा किशोरों की पहचान?

OpenAI ने अपने Age Prediction System यानी उम्र का अनुमान लगाने वाली व्यवस्था को भी मजबूत किया है। यह सिस्टम अकाउंट से जुड़े अलग-अलग संकेतों का विश्लेषण करके अनुमान लगाता है कि यूजर की उम्र 18 साल से कम है या अधिक।

कंपनी के Help Center के अनुसार इसमें बातचीत के सामान्य विषय, ChatGPT इस्तेमाल करने का समय और तरीका तथा अकाउंट कितना पुराना है जैसे संकेत शामिल हो सकते हैं। सिस्टम समय के साथ नए संकेतों का आकलन भी करता रहता है।

अगर सिस्टम किसी यूजर को 18 साल से कम उम्र का मानता है और उसका अकाउंट इस सुविधा के लिए योग्य है तो ChatGPT for Teens के अतिरिक्त सुरक्षा उपाय अपने आप लागू हो सकते हैं। इससे संवेदनशील और उम्र के लिहाज से अनुपयुक्त कंटेंट तक पहुंच सीमित की जा सकती है।

हालांकि उम्र का अनुमान हमेशा सही हो, इसकी गारंटी नहीं है। अगर कोई वयस्क गलती से किशोर यूजर के रूप में पहचाना जाता है तो वह Persona नाम की थर्ड पार्टी सेवा के जरिए अपनी उम्र सत्यापित कर सकता है। सत्यापन के बाद उसके अकाउंट से किशोरों के लिए लागू अतिरिक्त प्रतिबंध हटाए जा सकते हैं।

हिंसा से जुड़ी बातचीत पर अभिभावकों को कैसे मिलेगी सूचना?

OpenAI किशोरों की सुरक्षा में अभिभावकों की भूमिका को भी मजबूत कर रहा है। कंपनी के अनुसार Parental Controls के जरिए माता-पिता अपने अकाउंट को किशोर के अकाउंट से जोड़कर कुछ सुरक्षा सेटिंग्स प्रबंधित कर सकते हैं और सीमित गंभीर परिस्थितियों में सुरक्षा संबंधी अलर्ट प्राप्त कर सकते हैं।

OpenAI ने जुलाई में उन स्थितियों के लिए अभिभावकों को सूचना देने की व्यवस्था बढ़ाई थी जब किशोर का अकाउंट हिंसा से जुड़ी उपयोग नीतियों का उल्लंघन करने के कारण बंद किया जाता है। अब कंपनी ऐसी स्थिति में भी माता-पिता को सूचना देने की योजना बना रही है जब किशोर का अकाउंट हिंसा पर बार-बार बातचीत करने के कारण अस्थायी रूप से रोका जाता है।

हालांकि Parental Controls का मतलब यह नहीं है कि माता-पिता किशोर की पूरी चैट हिस्ट्री पढ़ सकेंगे। OpenAI के अनुसार अभिभावकों को बातचीत देखने या उसकी लगातार निगरानी करने की सुविधा नहीं मिलती। सुरक्षा अलर्ट भेजे जाने पर भी केवल जरूरी जानकारी साझा की जाती है।

OpenAI के नए सुरक्षा नियम कब से लागू होंगे?

OpenAI ने 30 अक्टूबर 2026 की अपनी घोषणा में बताया कि नए सुरक्षा उपाय आने वाले कुछ हफ्तों में चरणबद्ध तरीके से लागू किए जाएंगे। कंपनी ने यह भी कहा है कि वह संभावित जोखिमों को पहचानने और उन पर प्रतिक्रिया देने की व्यवस्था में लगातार सुधार करती रहेगी।

इसलिए घोषणा के समय सभी नए प्रतिबंधों को हर यूजर के अकाउंट पर लागू मानना सही नहीं होगा। इनके लागू होने की प्रक्रिया धीरे-धीरे आगे बढ़ेगी।

कंपनी ने हिंसा की रोकथाम और सामुदायिक सुरक्षा से जुड़े उपायों पर पारदर्शिता बढ़ाने के लिए Community Safety Report जारी करने की भी घोषणा की है। OpenAI के अनुसार इसकी पहली रिपोर्ट 2027 की शुरुआत में आएगी। इसके बाद हर छह महीने में ऐसी रिपोर्ट प्रकाशित की जाएगी।

AI प्लेटफॉर्म पर किशोरों की सुरक्षा क्यों जरूरी है?

आज किशोर पढ़ाई, जानकारी जुटाने और रोजमर्रा के सवालों के जवाब पाने के लिए AI टूल का इस्तेमाल कर रहे हैं। ऐसे में इन प्लेटफॉर्म से मिलने वाली जानकारी का गलत इस्तेमाल होने की आशंका को नजरअंदाज नहीं किया जा सकता।

AI कंपनियों के सामने चुनौती यह है कि वे यूजर्स को उपयोगी जानकारी उपलब्ध कराने के साथ ऐसी सामग्री पर भी नियंत्रण रखें जो किसी को नुकसान पहुंचाने में मदद कर सकती है। OpenAI के नए OpenAI violence prevention measures इसी संतुलन को बनाने की कोशिश हैं।

हालांकि केवल कंटेंट पर प्रतिबंध लगाने से हिंसा को पूरी तरह रोकने की गारंटी नहीं मिलती। इसके लिए तकनीकी सुरक्षा, अभिभावकों की भागीदारी, डिजिटल जागरूकता और जरूरत पड़ने पर समय पर मानवीय मदद भी जरूरी है।

निष्कर्ष

OpenAI ने ChatGPT पर किशोरों की सुरक्षा बढ़ाने के लिए हथियारों से जुड़ी जोखिम भरी जानकारी सीमित करने और हिंसा से संबंधित बातचीत पर सख्ती करने का फैसला किया है। नए नियमों में उम्र की पहचान और अभिभावकों को सुरक्षा अलर्ट देने की व्यवस्था भी शामिल है। इन उपायों का वास्तविक असर इनके प्रभावी क्रियान्वयन पर निर्भर करेगा।