Home / Science & Tech / Instagram AI Content Moderation in India : इंस्टाग्राम पर अब कम दिखेगा अश्लील और हिंसक कंटेंट, Meta ने भारत में क्यों बदले नियम?
Science & Tech

Instagram AI Content Moderation in India : इंस्टाग्राम पर अब कम दिखेगा अश्लील और हिंसक कंटेंट, Meta ने भारत में क्यों बदले नियम?

Meta ने भारत में Instagram का AI आधारित रिकमंडेशन सिस्टम मजबूत किया है। अब रील्स, एक्सप्लोर और फीड में यौन संकेतों वाले और हिंसक कंटेंट की सिफारिश कम होगी। कंपनी के मुताबिक, यूजर्स की कंटेंट शिकायतें एक साल में करीब आधी हुई हैं।

Instagram AI Content Moderation in India :  इंस्टाग्राम पर अब कम दिखेगा अश्लील और हिंसक कंटेंट, Meta ने भारत में क्यों बदले नियम?

Instagram AI Content Moderation in India : सोशल मीडिया प्लेटफॉर्म इंस्टाग्राम ने भारत में अपने कंटेंट रिकमंडेशन सिस्टम को अपडेट किया है। अब यूजर्स को ऐसे अकाउंट्स के पोस्ट और वीडियो कम सुझाए जाएंगे, जिनमें यौन संकेत देने वाली सामग्री या हिंसा दिखाई गई हो। इसके लिए कंपनी ज्यादा सक्षम आर्टिफिशियल इंटेलिजेंस (AI) मॉडल का इस्तेमाल कर रही है। मेटा ने 16 नवंबर को अपने ब्लॉग में इस बदलाव की जानकारी दी।यह बदलाव रील्स, एक्सप्लोर और फीड में दिखने वाले उन पोस्ट पर लागू होगा, जिन्हें यूजर्स फॉलो नहीं करते। कंपनी का कहना है कि इसका मकसद ऐसे कंटेंट को रिकमंडेशन से दूर रखना है, न कि उसे पूरी तरह प्लेटफॉर्म से हटाना। यानी कोई पोस्ट इंस्टाग्राम के नियमों का उल्लंघन नहीं करता, लेकिन रिकमंडेशन गाइडलाइंस पर खरा नहीं उतरता, तो वह प्लेटफॉर्म पर मौजूद रह सकता है। हालांकि, उसे ज्यादा लोगों तक पहुंचाने की कोशिश नहीं की जाएगी।

AI मॉडल पोस्ट को रिकमंड करने से पहले करेंगे जांच

मेटा के मुताबिक, इंस्टाग्राम पिछले एक साल से भारत में अपने डिफॉल्ट कंटेंट प्रोटेक्शन सिस्टम को मजबूत कर रहा है। इसके लिए कंपनी ने ज्यादा सक्षम AI मॉडल इस्तेमाल किए हैं, जो पोस्ट को रिकमंड करने से पहले ही उसकी जांच कर सकते हैं। पहले कई मामलों में यूजर्स के किसी पोस्ट की शिकायत करने या उसे छिपाने के बाद सिस्टम को ऐसे कंटेंट के बारे में संकेत मिलता था। अब AI मॉडल खुद कंटेंट का आकलन कर सकेंगे।कंपनी ने बताया कि इन बदलावों के बाद भारत में यूजर्स ने रिकमंड किए गए कंटेंट की शिकायत एक साल पहले के मुकाबले करीब आधी कर दी है। हालांकि, मेटा ने शिकायतों की वास्तविक संख्या या रिकमंडेशन से हटाए गए पोस्ट का आंकड़ा सार्वजनिक नहीं किया है।
यहां यह समझना जरूरी है कि इंस्टाग्राम के दो तरह के नियम हैं। कम्युनिटी स्टैंडर्ड उन कंटेंट की पहचान करते हैं, जिन्हें प्लेटफॉर्म पर रखना ही मना है। इनका उल्लंघन करने वाले पोस्ट हटाए जा सकते हैं। वहीं, रिकमंडेशन गाइडलाइंस तय करती हैं कि कौन-सा कंटेंट यूजर्स को सुझाव के तौर पर दिखाया जाए। इसलिए हर ऐसा पोस्ट जो रिकमंडेशन में नहीं दिखाया जाएगा, जरूरी नहीं कि उसे इंस्टाग्राम से हटा भी दिया जाए। किसी देश में गैरकानूनी कंटेंट को उस देश में प्रतिबंधित किया जा सकता है।

सरकार की एडवाइजरी के एक महीने बाद बदलाव

इंस्टाग्राम का यह अपडेट ऐसे समय आया है, जब भारत में सोशल मीडिया कंपनियों के एल्गोरिदम और कंटेंट मॉडरेशन को लेकर सवाल उठ रहे हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 10 अक्टूबर 2026 को मेटा को एडवाइजरी जारी की थी। इसमें कंपनी से फेसबुक और इंस्टाग्राम के रैंकिंग और रिकमंडेशन सिस्टम की समीक्षा करने को कहा गया था।सरकार की चिंता थी कि इन प्लेटफॉर्म के एल्गोरिदम किसी एक या सीमित तरह के विचारों और घटनाओं से जुड़ी सामग्री को जरूरत से ज्यादा लोगों तक न पहुंचाएं। एडवाइजरी में भ्रामक, बदले हुए या संदर्भ से हटाकर पेश किए गए कंटेंट को भी जरूरत से ज्यादा बढ़ावा नहीं मिलने की बात कही गई थी।
हालांकि, मेटा ने अपने 16 नवंबर के ब्लॉग में यह नहीं कहा कि इंस्टाग्राम के नए बदलाव सरकार की एडवाइजरी के जवाब में किए गए हैं। कंपनी ने इन्हें पिछले एक साल से जारी सुरक्षा सुधारों और यूजर्स के फीडबैक का हिस्सा बताया है।

यूजर्स खुद भी कंटेंट को कर सकेंगे कंट्रोल

इंस्टाग्राम ने ऐसे कई विकल्प दिए हैं, जिनकी मदद से यूजर्स अपनी पसंद के हिसाब से रिकमंड किए जाने वाले कंटेंट को कम या ज्यादा कर सकते हैं।सेंसिटिव कंटेंट कंट्रोल के जरिए यूजर संवेदनशील सामग्री कम देखने का विकल्प चुन सकते हैं। यह सेटिंग सर्च, रील्स, एक्सप्लोर, सुझाए गए अकाउंट्स और फीड में रिकमंड किए जाने वाले कंटेंट पर लागू होती है। भारत में इंस्टाग्राम सबसे ज्यादा संवेदनशील सामग्री को पहले से ही रिकमंडेशन में नहीं दिखाता। इस सेटिंग से यूजर अन्य संवेदनशील पोस्ट भी कम देख सकते हैं।
इसी तरह, पॉलिटिकल कंटेंट कंट्रोल के जरिए यूजर उन अकाउंट्स से आने वाले राजनीतिक पोस्ट की रिकमंडेशन घटा सकते हैं, जिन्हें वे फॉलो नहीं करते। किसी पोस्ट या रील के तीन डॉट पर क्लिक करके 'Not Interested' चुनने से भी इंस्टाग्राम को पता चलता है कि यूजर उस तरह का कंटेंट नहीं देखना चाहते।
हिडन वर्ड्स फीचर से यूजर अपनी पसंद के शब्द, वाक्य और इमोजी फिल्टर कर सकते हैं। इससे ऐसे शब्दों वाले कमेंट और मैसेज रिक्वेस्ट छिपाए जा सकते हैं। वहीं, किसी अकाउंट को ब्लॉक करने पर वह यूजर की प्रोफाइल नहीं खोज सकेगा, पोस्ट नहीं देख पाएगा और मैसेज भी नहीं भेज सकेगा। यह सुविधा उस व्यक्ति के बनाए नए अकाउंट्स पर भी लागू हो सकती है।

एल्गोरिदम तय करता है स्क्रीन पर क्या दिखेगा

इंस्टाग्राम पर यूजर को कौन-सी रील, फोटो या पोस्ट दिखाई जाएगी, इसमें एल्गोरिदम की अहम भूमिका होती है। आसान भाषा में कहें तो एल्गोरिदम निर्देशों और नियमों का एक ऐसा सिस्टम है, जो यूजर की गतिविधियों और पसंद के आधार पर कंटेंट चुनता है।यूजर किन पोस्ट को लाइक करते हैं, किस तरह के वीडियो देखते हैं, किन अकाउंट्स से जुड़ते हैं और किस कंटेंट पर प्रतिक्रिया देते हैं, इन संकेतों से प्लेटफॉर्म उनकी पसंद समझने की कोशिश करता है। इसके बाद उसी तरह की सामग्री रिकमंड की जाती है। यही वजह है कि दो यूजर्स को एक ही समय पर इंस्टाग्राम खोलने के बावजूद अलग-अलग पोस्ट और रील्स दिखाई दे सकती हैं।

किशोरों के लिए 13+ कंटेंट सेटिंग

इंस्टाग्राम ने किशोरों की सुरक्षा के लिए टीन अकाउंट्स की सुविधा भी शुरू की है। भारत में यह फीचर फरवरी 2025 में लॉन्च किया गया था। इसके तहत किशोरों के अकाउंट पर उम्र के हिसाब से सुरक्षा सेटिंग लागू रहती हैं।अप्रैल 2026 में मेटा ने भारत में टीन अकाउंट्स के लिए 13+ कंटेंट सेटिंग का विस्तार किया। इसके तहत 18 साल से कम उम्र के यूजर्स को डिफॉल्ट रूप से ऐसी सेटिंग में रखा जाता है, जिसका उद्देश्य उन्हें उम्र के हिसाब से उपयुक्त सामग्री दिखाना है। किशोर इस सेटिंग को कम सख्त नहीं कर सकते, जब तक कि उनके माता-पिता इसकी अनुमति न दें।

BBC की जांच के बाद भी उठे थे सवाल

इंस्टाग्राम के कंटेंट मॉडरेशन सिस्टम पर इससे पहले भी सवाल उठ चुके हैं। 3 जुलाई 2026 को BBC की एक जांच में दावा किया गया था कि इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़ी सामग्री का प्रचार करने वाले विज्ञापन दिखाए जा रहे थे। BBC के मुताबिक, जांच के दौरान उसे ऐसे करीब 30 अलग-अलग विज्ञापन मिले, जिनमें इस तरह की सामग्री को बढ़ावा दिया जा रहा था। इसके अलावा वयस्क अश्लील सामग्री से जुड़े करीब 20 विज्ञापन भी मिले।रिपोर्ट के मुताबिक, इन विज्ञापनों में कुछ लिंक टेलीग्राम चैनलों तक ले जाते थे। BBC की रिपोर्ट सामने आने के कुछ घंटे बाद भारत सरकार ने इस मामले में मेटा के प्रतिनिधियों को तलब किया था। मेटा ने BBC से कहा था कि वह बच्चों के शोषण से जुड़ी सामग्री के खिलाफ कार्रवाई करता है और नियमों का उल्लंघन करने वाले विज्ञापनों को हटाता है।
मेटा का कहना है कि यूजर्स जब किसी पोस्ट को छिपाते हैं या 'Not Interested' चुनते हैं, तो इससे कंपनी को उनकी पसंद समझने में मदद मिलती है। कंपनी इसी फीडबैक और नई तकनीक के आधार पर अपने रिकमंडेशन सिस्टम को बेहतर बनाने की बात कह रही है।

FAQ (Frequently Asked Questions):

Instagram ने India में AI content moderation क्यों बढ़ाया है?

Instagram ने भारत में अपने रिकमंडेशन सिस्टम को बेहतर बनाने और यूजर्स को यौन संकेतों वाले तथा हिंसा दिखाने वाले कंटेंट से बचाने के लिए AI आधारित जांच मजबूत की है। कंपनी के मुताबिक, यह बदलाव यूजर्स के फीडबैक और उनकी पसंद को ध्यान में रखकर किए गए हैं।

Instagram AI content filter किस तरह violent और suggestive content को पहचानता है?

Instagram ज्यादा सक्षम AI मॉडल की मदद से पोस्ट और वीडियो का आकलन करता है। ये मॉडल कंटेंट को Recommendations Guidelines के आधार पर जांचते हैं और नियमों पर खरा नहीं उतरने वाली सामग्री को यूजर्स के सामने रिकमंड होने से रोकने में मदद करते हैं।

क्या Instagram अब sexually suggestive content को पूरी तरह ban करेगा?

नहीं। यह बदलाव ऐसे कंटेंट को पूरी तरह हटाने के लिए नहीं, बल्कि उसकी रिकमंडेशन कम करने के लिए किया गया है। कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाली सामग्री को प्लेटफॉर्म से हटाया जा सकता है।

Instagram Reels और Explore page पर नए content filtering rules कैसे काम करेंगे?

Instagram के नए AI मॉडल रील्स, एक्सप्लोर और फीड में रिकमंड किए जाने वाले पोस्ट की पहले जांच करेंगे। इनमें उन अकाउंट्स का कंटेंट भी शामिल है, जिन्हें यूजर फॉलो नहीं करते। संवेदनशील या हिंसा दिखाने वाले कंटेंट को रिकमंडेशन से दूर रखा जाएगा।

Meta के recommendation algorithm में क्या बदलाव किए गए हैं?

Meta ने ज्यादा सक्षम AI मॉडल का इस्तेमाल शुरू किया है, जो यूजर्स की रिपोर्ट या पोस्ट छिपाने का इंतजार किए बिना कंटेंट का आकलन कर सकते हैं। कंपनी ने भारत के यूजर्स की पसंद के आधार पर अपने सिस्टम को भी बेहतर बनाया है।

Instagram Sensitive Content Control से users क्या देखना कम कर सकते हैं?

इस फीचर से यूजर सर्च, रील्स, एक्सप्लोर, सुझाए गए अकाउंट्स और फीड में संवेदनशील कंटेंट कम देखने का विकल्प चुन सकते हैं।

क्या Instagram Teen Accounts में भी नए safety features जोड़े गए हैं?

Instagram Teen Accounts में किशोरों के लिए 13+ कंटेंट सेटिंग लागू है। इसके तहत उम्र के हिसाब से सामग्री दिखाई जाती है और सुरक्षा से जुड़ी सेटिंग को कम सख्त करने के लिए माता-पिता की अनुमति जरूरी होती है।

Was this article useful?