खाते अक्षम, यूआरएल अवरुद्ध: बाल दुर्व्यवहार विज्ञापन पंक्ति के बीच मेटा सूचियाँ गतिविधियाँ

मेटा ने मंगलवार को एक विस्तृत ब्लॉग प्रकाशित किया, जिसमें विज्ञापन समीक्षा प्रणाली, एआई उपकरण और प्रवर्तन कार्रवाई सहित अपने ऐप्स में बाल यौन शोषण सामग्री से निपटने के लिए उठाए गए कदमों की रूपरेखा दी गई है, सरकार द्वारा इंस्टाग्राम विज्ञापनों द्वारा ऐसी सामग्री को बढ़ावा देने की रिपोर्ट पर सोशल मीडिया दिग्गज को नोटिस भेजे जाने के बाद।

बाल शोषण को एक भयानक अपराध बताते हुए मेटा ने कहा कि वह हर दिन अपने प्लेटफॉर्म पर और बाहर इस तरह के दुर्व्यवहार से लड़ने के लिए आक्रामक तरीके से काम करता है।

“हम भारत में इंस्टाग्राम विज्ञापनों के बारे में हालिया समाचार रिपोर्टों से अवगत हैं, जिन्होंने बाल शोषण के खिलाफ हमारी नीतियों का उल्लंघन किया है। और हम स्पष्ट होना चाहते हैं: हम इन चिंताओं को गंभीरता से लेते हैं, हम कभी भी इस सामग्री को अपने प्लेटफार्मों पर नहीं चाहते हैं, और हम इससे निपटने के लिए अपने प्रयासों में सुधार करने के लिए प्रतिबद्ध हैं।”

मेटा ने कहा कि यह सुझाव देना पूरी तरह से गलत है कि यह जानबूझकर और जानबूझकर बच्चों को अनुचित रुचि के आधार पर दिखाने वाले विज्ञापनों को लक्षित करता है।

मेटा ने कहा, “बिल्कुल विपरीत; हम उन खातों की पहचान करने के लिए प्रौद्योगिकी का उपयोग करते हैं जिनमें बच्चों से संबंधित संभावित संदिग्ध गतिविधि दिखाई गई है, और हमने पिछले साल इनमें से 4 मिलियन से अधिक खातों को स्वचालित रूप से हटा दिया है।”

मेनलो पार्क, कैलिफोर्निया मुख्यालय वाली प्रौद्योगिकी दिग्गज मेटा लोकप्रिय सोशल मीडिया प्लेटफॉर्म फेसबुक, इंस्टाग्राम और व्हाट्सएप का मालिक है।

मेटा ने कहा कि मामलों को उसके ध्यान में लाने से पहले, उसके प्रवर्तन सिस्टम ने पहले ही उल्लंघन करने वाले कई विज्ञापनों और उनके पीछे के खातों की पहचान कर ली थी और उन्हें निष्क्रिय कर दिया था।

इसमें कहा गया, “हमारी बाद की जांच में अतिरिक्त कार्रवाई की गई, जिसमें आगे के विज्ञापनों को हटाना, खातों को अक्षम करना और नीति-उल्लंघन करने वाली सामग्री से जुड़े यूआरएल को ब्लॉक करना शामिल था।”

सोशल मीडिया कंपनी के अनुसार, वैश्विक स्तर पर, अकेले पिछले साल, इसकी तकनीक में सुधार के कारण फेसबुक और इंस्टाग्राम से 4 मिलियन से अधिक संदिग्ध खाते स्वचालित रूप से हटाए गए, जिनमें से 36 मिलियन सामग्री बाल शोषण के लिए हटाई गई थी।

मेटा ने कहा, “जब कोई व्यक्ति बाल शोषण गतिविधि का संकेत देने वाले अन्य संकेतों के साथ समन्वय में संदिग्ध ऑफ-प्लेटफ़ॉर्म लिंक पोस्ट करता है, तो उसकी पहचान करने के लिए हमारे पास उन्नत एआई डिटेक्शन टूल हैं। अकेले पिछले छह महीनों में, इसके कारण भारत में 1,60,000 खाते हटा दिए गए हैं।”

पिछले हफ्ते, सरकार ने इंस्टाग्राम पर भुगतान किए गए विज्ञापनों में बाल यौन शोषण और दुर्व्यवहार सामग्री (सीएसईएएम) पर मेटा को एक सख्त नोटिस जारी किया था।

MeitY (इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय) ने इंस्टाग्राम को सीएसईएएम को बढ़ावा देने और पहुंच की सुविधा प्रदान करने वाले सभी विज्ञापनों और सामग्री को अक्षम करने का आदेश दिया, और सात दिनों के भीतर विस्तृत स्पष्टीकरण की भी मांग की है।

यह कार्रवाई आईटी मंत्री अश्विनी वैष्णव द्वारा कथित तौर पर बाल यौन शोषण सामग्री को बढ़ावा देने वाले इंस्टाग्राम विज्ञापनों पर मेटा को बुलाने के निर्देश के बाद आईआईटीवाई अधिकारियों को दी गई।

मंत्रालय की ओर से विनियामक जांच बीबीसी की एक रिपोर्ट के बीच आई है जिसमें आरोप लगाया गया है कि मेटा की अनुशंसा एल्गोरिदम बाल यौन शोषण सामग्री वाले वीडियो को बढ़ावा दे रहा है, जो सुरक्षा उपायों में गंभीर कमियों को उजागर करता है।

बीबीसी की जांच में यह भी पाया गया कि मेटा की विज्ञापन नीतियों में नग्नता और स्पष्ट यौन सामग्री को स्पष्ट रूप से प्रतिबंधित करने के बावजूद, इस प्रकृति के विज्ञापन फेसबुक और इंस्टाग्राम पर प्रदर्शित हो रहे हैं।

इंस्टाग्राम पर आरोप है कि उसने ‘बलात्कार वीडियो’ और ‘बाल वीडियो’ जैसे शब्दों के साथ भुगतान किए गए विज्ञापन दिखाए, जो उपयोगकर्ताओं को टेलीग्राम चैनलों पर निर्देशित करते थे जहां ऐसी सामग्री कथित तौर पर बिक्री पर थी।

(शीर्षक को छोड़कर, यह कहानी एनडीटीवी स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड फ़ीड से प्रकाशित हुई है।)