केंद्र सरकार की कड़ी चेतावनी: X से Grok AI का दुरुपयोग रोकने का आदेश

विवाद की पृष्ठभूमि

यह सख्त कदम शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी द्वारा AI चैटबॉट Grok के दुरुपयोग पर चिंता व्यक्त करने के बाद उठाया गया है। उन्होंने शुक्रवार को आईटी मंत्री को पत्र लिखकर बताया था कि कुछ व्यक्ति कृत्रिम बुद्धिमत्ता की सहायता से महिलाओं की वास्तविक तस्वीरों को आपत्तिजनक स्वरूप में परिवर्तित कर रहे हैं, जो अत्यंत गंभीर विषय है।

समस्या की प्रकृति

कुछ उपयोगकर्ता सोशल मीडिया प्लेटफॉर्म X पर नकली खाते बना रहे हैं। इन खातों से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके पश्चात Grok AI को ऐसे निर्देश दिए जाते हैं कि महिलाओं की फोटो को गलत और आपत्तिजनक तरीके से प्रदर्शित किया जाए। AI से वस्त्र बदलने या तस्वीर को यौन रूप से प्रस्तुत करने जैसे निर्देश दिए जाते हैं।

इन तस्वीरों के उपयोग के लिए महिलाओं से कोई अनुमति नहीं ली जाती। अनेक बार वे महिलाएं स्वयं भी नहीं जानतीं कि उनकी तस्वीरों का इस प्रकार दुरुपयोग हो रहा है। आरोप है कि Grok इस प्रकार की अनुचित मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।

मंत्रालय का आदेश

मंत्रालय का स्पष्ट मत है कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के अंतर्गत निर्धारित कानूनी जिम्मेदारियों का पालन नहीं किया है। यदि नियमों का अनुपालन नहीं होता है, तो X, उसके जिम्मेदार अधिकारियों और ऐसी सामग्री प्रसारित करने वाले उपयोगकर्ताओं के विरुद्ध आईटी अधिनियम, आईटी नियम और अन्य लागू कानूनों के तहत कठोर कार्रवाई की जा सकती है।

प्रियंका चतुर्वेदी के पत्र की मुख्य बातें

सांसद प्रियंका चतुर्वेदी ने अपने पत्र में निम्नलिखित गंभीर मुद्दे उठाए:

दुरुपयोग का तरीका: सोशल मीडिया विशेष रूप से X पर, AI के Grok फीचर का गलत उपयोग हो रहा है। कुछ पुरुष नकली खाते बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से वस्त्र छोटे दिखाने या तस्वीरों को अनुचित तरीके से प्रस्तुत करने को कह रहे हैं।

व्यापक प्रभाव: यह केवल नकली खातों तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो स्वयं अपनी तस्वीरें साझा करती हैं। यह AI का गंभीर दुरुपयोग है।

Grok की भूमिका: सर्वाधिक चिंता का विषय यह है कि Grok इस प्रकार की अनुचित मांगों को स्वीकार कर रहा है। इससे महिलाओं की गोपनीयता का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति उपयोग किया जा रहा है। यह केवल अनुचित नहीं, बल्कि अपराध है।

राष्ट्रीय चिंता: भारत चुपचाप नहीं देख सकता कि प्रौद्योगिकी और नवाचार के नाम पर महिलाओं की गरिमा को सार्वजनिक और डिजिटल रूप से क्षति पहुंचाई जाए। बड़े तकनीकी मंचों पर ऐसी घटनाएं निरंतर बढ़ रही हैं, जो चिंता का विषय है।

व्यापक समस्या: देश महिलाओं के सम्मान के साथ हो रहे ऐसे डिजिटल अपराधों को नजरअंदाज नहीं कर सकता। अन्य बड़े तकनीकी मंचों पर भी इस प्रकार की घटनाएं हो रही हैं, जहां कोई रोक नहीं है।

स्पष्ट रुख: भारत AI और उसके लाभों का समर्थन करता है, लेकिन महिलाओं को अपमानित करने और निशाना बनाने वाली सामग्री को बिल्कुल बर्दाश्त नहीं किया जाएगा।

कानूनी परिणाम

आईटी अधिनियम के अनुसार, यदि X पर कोई अश्लील, आपत्तिजनक, महिला विरोधी या गैरकानूनी सामग्री डाली जाती है, तो प्लेटफॉर्म को इसकी जानकारी मिलते ही उसे तुरंत हटाना आवश्यक है। यदि केंद्र सरकार या न्यायालय X को कोई सामग्री हटाने या खाता अवरुद्ध करने को कहती है, तो उसका पालन करना कानूनी रूप से अनिवार्य है।

कानूनी सुरक्षा का नुकसान: यदि X आदेश नहीं मानता तो उसे जो कानूनी सुरक्षा प्राप्त है, वह समाप्त हो सकती है। इसके पश्चात X को उपयोगकर्ताओं द्वारा डाली गई गैरकानूनी सामग्री के लिए सीधे जिम्मेदार माना जाएगा।

संभावित कार्रवाइयां:

• कंपनी पर आपराधिक मामला
• भारी जुर्माना
• जिम्मेदार अधिकारियों पर एफआईआर
• जांच एजेंसियों द्वारा पूछताछ
• सरकार IT अधिनियम की धारा 69A के तहत X के किसी विशेष खाते, किसी सामग्री या संपूर्ण प्लेटफॉर्म के कुछ फीचर्स भारत में अवरुद्ध कर सकती है

X की कानूनी जिम्मेदारियां

IT अधिनियम और नियम 2021 के अंतर्गत X की निम्नलिखित जिम्मेदारियां हैं:

• उपयोगकर्ता की शिकायत पर 24 घंटे में आपत्तिजनक सामग्री हटाना अनिवार्य
• अन्य मामलों में 72 घंटे के भीतर कार्रवाई करना आवश्यक
• किसी महिला का AI या डीपफेक अपलोड हो, तो तत्काल हटाना
• डीपफेक को पुनः अपलोड होने से रोकना, खाते के विरुद्ध कार्रवाई
• नकली खातों को पहचानकर निलंबित करना
• AI से निर्मित गलत सामग्री पर रोक लगाना

व्यापक निहितार्थ

यह कार्रवाई भारत में AI के उत्तरदायी उपयोग के लिए एक महत्वपूर्ण मिसाल स्थापित करती है। यह स्पष्ट संदेश देती है कि प्रौद्योगिकी की प्रगति महिलाओं की गरिमा और सुरक्षा की कीमत पर नहीं हो सकती।

सरकार का यह कदम डिजिटल प्लेटफॉर्म्स को यह समझाता है कि वे अपने मंचों पर होने वाले दुरुपयोग के लिए जवाबदेह हैं। AI तकनीक के साथ सुरक्षा उपाय और नैतिक दिशानिर्देश होने चाहिए।

यह मामला यह भी दर्शाता है कि डिजिटल युग में महिलाओं के खिलाफ अपराध नए रूप ले रहे हैं और कानून को इनसे निपटने के लिए लगातार अपडेट होना होगा।