बीजिंग:
गैर-लाभकारी टेक ट्रांसपेरेंसी प्रोजेक्ट के अनुसार, मेटा प्लेटफ़ॉर्म इंक के फेसबुक और इंस्टाग्राम ने कंपनी की नीतियों का उल्लंघन करते हुए एआई “न्यूडिफाई” ऐप्स के लिए हजारों विज्ञापन दिए हैं, जो चीन में इसके कुछ विज्ञापन भागीदारों में से एक द्वारा दिए गए हैं।
बीजिंग स्थित गैदरवन इंक, जो मेटा की सोशल मीडिया सेवाओं पर विज्ञापन देने की इच्छुक चीनी कंपनियों को अमेरिकी कंपनी के साथ जोड़ती है, हाल के महीनों में मोबाइल ऐप्स के लिए लगभग 7,600 विज्ञापनों के लिए ज़िम्मेदार रही है जो महिलाओं के चेहरे को नग्न शरीर पर स्थानांतरित कर सकते हैं और कामुक वीडियो बना सकते हैं, एजेंसी ने एक नई रिपोर्ट में कहा। इसने चीन में बनाए गए एक ऐप पर प्रकाश डाला, जो ऐसी सामग्री को साझा करने की अनुमति देता है जिसे कुछ उपयोगकर्ताओं ने बाल अश्लीलता के रूप में चिह्नित किया है।
मेटा के नियम यौन रूप से अश्लील विज्ञापनों या उन ऐप्स पर प्रतिबंध लगाते हैं जो दर्शाए गए व्यक्तियों को निर्वस्त्र करने का इरादा रखते हैं। लेकिन टीटीपी का काम, जिसका उद्देश्य बड़ी तकनीकी कंपनियों को जवाबदेह बनाना है, ऐसे ऐप्स पर अंकुश लगाने में ऐप्पल इंक और अल्फाबेट इंक जैसी कंपनियों की ओर से बार-बार विफलता को दर्शाता है। दुनिया भर के नियामक, पीड़ित और उनके परिवार तकनीकी कंपनियों से तथाकथित डीपफेक पोर्न सेवाओं से निपटने के लिए और अधिक प्रयास करने का आह्वान कर रहे हैं।
टीटीपी के निदेशक केटी पॉल ने कहा, “ऐसा प्रतीत होता है कि जब विज्ञापनों को नग्न करने की बात आती है तो मेटा अपने शीर्ष चीनी विज्ञापन भागीदारों में से एक को खुली छूट दे रहा है।”
जबकि इंस्टाग्राम और फेसबुक चीन में उपलब्ध नहीं हैं, वे वैश्विक दर्शकों की तलाश में चीन स्थित व्यवसायों के लिए आकर्षक प्रचार उपकरण हैं। पॉल ने कहा कि उनकी एजेंसी के निष्कर्ष डीपफेक-न्यूड ऐप्स के विज्ञापनों को प्रतिबंधित करने के बारे में मेटा के बयानों का खंडन करते हैं और सुझाव देते हैं कि कंपनी अपने उपयोगकर्ताओं की चिंता के बजाय विज्ञापन राजस्व को प्राथमिकता देती है।
मेटा की महिला सुरक्षा नीति की प्रमुख सिंडी साउथवर्थ ने कहा, “हम अपने मंच पर गैर-सहमति वाली अंतरंग तस्वीरें खींचने या नग्न करने वाले ऐप्स की अनुमति नहीं देते हैं और हम उनसे निपटने के लिए आक्रामक कदम उठाते हैं।”
मेटा के प्रवक्ता ने कहा, “सभी विज्ञापनदाताओं को हमारे विज्ञापन मानकों का पालन करना होगा, और हमारी नीतियों और मानकों का पालन करने में विफलता के कारण रखे गए विज्ञापन रद्द किए जा सकते हैं, वित्तीय दंड लगाया जा सकता है और विज्ञापन खाते समाप्त किए जा सकते हैं।”
गैदरवन ने कहा कि यह मेटा की विज्ञापन नीतियों और सभी लागू अंतरराष्ट्रीय कानूनी ढांचे का अनुपालन करता है। इसमें कहा गया है कि कंपनी भ्रामक प्रथाओं, वयस्क सामग्री, गैर-सहमति वाली स्पष्ट एआई-जनित सामग्री, बाल शोषण और धोखाधड़ी के खिलाफ शून्य-सहिष्णुता की नीति रखती है। इसकी वेबसाइट का कहना है कि यह गेमिंग, ई-कॉमर्स, मनोरंजन और वित्त में ग्राहकों के साथ काम करती है, जिससे उन्हें मेटा, अल्फाबेट के Google, बाइटडांस लिमिटेड के टिकटॉक और एलोन मस्क के एक्स के नेटवर्क पर विज्ञापन देने में मदद मिलती है।
ब्लूमबर्ग न्यूज के सवालों के जवाब में गैदरवन ने एआई न्यूडिफाइंग और फेस-स्वैप सेवाओं से संबंधित सेवाओं के लिए नए विज्ञापन खातों के निर्माण को निलंबित कर दिया है। इसमें कहा गया है कि यह सिंथेटिक मीडिया के तकनीकी विकास को संबोधित करने के लिए एक व्यापक अनुपालन उन्नयन का कार्य कर रहा है।
टीटीपी वाशिंगटन, डीसी स्थित गैर-पक्षपाती कॉर्पोरेट और जवाबदेही अभियान के लिए सरकारी निगरानी संस्था की एक शोध शाखा है।
सोमवार को प्रकाशित होने वाली रिपोर्ट इस बात पर एक दुर्लभ नज़र डालती है कि मेटा 1.4 अरब लोगों के देश से कैसे राजस्व प्राप्त करता है जहां इसकी सेवाएं अवरुद्ध हैं। चीन में देश के बाहर उत्पाद और सेवाएं बेचने वाली कंपनियां अंतरराष्ट्रीय उपयोगकर्ताओं तक पहुंच और एक्सपोजर खरीदने के लिए गैदरवन जैसे मध्यस्थों का उपयोग करती हैं।
मेटा ने कहा कि उसने 2024 को समाप्त वर्ष के लिए चीन में बिक्री से 18.4 बिलियन डॉलर कमाए, जो उसके वैश्विक राजस्व का 11% था। यह 2022 में वहां हुई बिक्री से दोगुनी से भी अधिक थी। इसके बाद से इसने अपने चीन के राजस्व को नहीं तोड़ा है।
पूर्व मेटा कार्यकारी से व्हिसलब्लोअर बनी सारा व्यान-विलियम्स ने पिछले साल कांग्रेस के सामने गवाही दी थी कि कंपनी ने वर्षों से चीन को सेंसरशिप टूल की पेशकश की है और देश को अमेरिका के साथ कृत्रिम बुद्धिमत्ता हथियारों की दौड़ में आगे बढ़ने में मदद की है। उन्होंने कहा कि चीन कंपनी के लिए एक प्रमुख बाजार बना हुआ है, जैसा कि चीन में चल रहे उसके राजस्व से पता चलता है। व्यान-विलियम्स के 2025 के संस्मरण केयरलेस पीपल में कंपनी में सार्वजनिक नीति के निदेशक के रूप में उनके कार्यकाल का विवरण दिया गया है।
मेटा ने अपनी गवाही के बारे में पूछे गए सवाल का जवाब नहीं दिया। उस समय एक प्रवक्ता ने व्यान-विलियम्स की टिप्पणियों पर विवाद किया।
रॉयटर्स ने दिसंबर में रिपोर्ट दी थी कि आंतरिक मेटा दस्तावेज़ों से पता चलता है कि कंपनी ने 2024 में निष्कर्ष निकाला था कि उस वर्ष उसके चीन के राजस्व का लगभग 19% पोर्नोग्राफ़ी, घोटालों और अवैध जुए जैसी प्रतिबंधित सामग्री के विज्ञापनों से आया था। इसने गैदरवन को एक विज्ञापन एजेंसी के रूप में उद्धृत किया कि उसके परीक्षणों में घोटाला सेवाओं के लिए सुविधाजनक विज्ञापन दिखाए गए।
मेटा ने रिपोर्ट के बारे में एक प्रश्न का उत्तर नहीं दिया। एक प्रवक्ता ने उस समय रॉयटर्स को बताया कि कंपनी उन विज्ञापनों की स्क्रीनिंग करने के लिए समर्पित है जो उसकी नीतियों का उल्लंघन करते हैं।
इस साल विज्ञापन, जो टीटीपी को अप्रैल और जून के बीच मिले, उपयोगकर्ताओं को दिखाए जाने के बाद अंततः मेटा द्वारा हटा दिए गए। कई विज्ञापन विचारोत्तेजक थे, जिनमें यौन मुद्राओं में युवतियों की तस्वीरें दिखाई गई थीं और साथ में लिखा था “किसी भी चेहरे के साथ एक वीडियो बनाएं।”
गैदरवन को चीन में मेटा की बिजनेस-फेसिंग वेबसाइट पर 11 आधिकारिक एजेंटों में से एक के रूप में विदेशों में अपनी सोशल मीडिया सेवाओं पर विज्ञापन देने के तरीके के रूप में सूचीबद्ध किया गया है। गैदरवन वेबसाइट एक तस्वीर प्रदर्शित करती है जिसमें उसके मुख्य कार्यकारी अधिकारी जनवरी में हांगकांग में एक सभा में दो शीर्ष मेटा अधिकारियों के साथ खड़े होकर एक पुरस्कार प्राप्त कर रहे हैं। मेटा का लोगो उनके पीछे एक चिन्ह पर प्रदर्शित होता है।
मेटा ने पिछले साल कहा था कि वह डीपफेक-न्यूड ऐप्स पर नकेल कस रहा है, उसने हांगकांग स्थित एक ऐप डेवलपर के खिलाफ मुकदमा दायर किया है और कहा है कि ऐसी सेवाओं के पीछे उसका हाथ है।
टीटीपी ने पाया कि विज्ञापनों का एक समूह उपयोगकर्ताओं को बीआफ्टर नामक एक एंड्रॉइड ऐप की ओर निर्देशित करता है। इसे खोलने पर, टीटीपी को एक “शेयरज़ोन” अनुभाग मिला, जो महिलाओं को यौन कृत्यों में संलग्न दिखाते हुए अश्लील चेहरे-स्वैप विकल्पों की पेशकश करता था।
कई समीक्षकों ने ऐप के Google Play ऐप स्टोर पेज पर इसे “अवैध बाल पोर्न” और नाबालिगों के एआई वीडियो के रूप में वर्णित किया है। बीआफ्टर, जिसके डेवलपर को चीन के दक्षिणी गुआंग्शी प्रांत में स्थित दिखाया गया है, को सभी उम्र के लिए उपयुक्त के रूप में सूचीबद्ध किया गया है।
टिप्पणी के लिए बीआफ्टर के डेवलपर से संपर्क नहीं किया जा सका। ऐप 21 जुलाई को Google Play से गायब हो गया और GatherOne ने कहा कि उसने संबंधित इकाई के लिए सभी विज्ञापन एक्सेस को स्थायी रूप से समाप्त कर दिया है।
ब्लूमबर्ग के सवालों के जवाब में, मेटा ने कहा कि उसने बीआफ्टर पर प्रतिबंध लगा दिया है और अब कई अन्य न्यूडिफाई ऐप्स के लिंक की अनुमति नहीं दे रहा है। Google, जो एंड्रॉइड ऑपरेटिंग सिस्टम विकसित करता है और Google Play स्टोर संचालित करता है, ने टिप्पणी के अनुरोधों का जवाब नहीं दिया।
जॉर्ज मेसन यूनिवर्सिटी द्वारा हाल ही में अमेरिका में सर्वेक्षण किए गए 557 किशोरों में से आधे से अधिक ने कहा कि उन्होंने अपनी या दूसरों की कम से कम एक छवि बनाने के लिए नग्नीकरण उपकरणों का उपयोग किया था। एक तिहाई से अधिक लोगों ने ऐसे उपकरणों का शिकार होने की सूचना दी। सर्वेक्षण का नेतृत्व करने वाले जॉर्ज मेसन डिजिटल फोरेंसिक शोधकर्ता चाड एमएस स्टील ने कहा, कई किशोर पहले से ही जानते हैं कि मैसेजिंग ऐप्स के माध्यम से या सीधे अपनी वेबसाइटों के माध्यम से उन सेवाओं तक कैसे पहुंचा जाए। इसका मतलब है कि सोशल मीडिया सेवाओं या ऐप स्टोर द्वारा उनके प्रसार को सीमित करने के लिए की गई कार्रवाइयों का सीमित प्रभाव हो सकता है, उन्होंने कहा।
राष्ट्रपति डोनाल्ड ट्रम्प ने पिछले साल टेक इट डाउन एक्ट पर हस्ताक्षर किए थे, जो गैर-सहमति वाली यौन सामग्री के प्रकाशन को अपराध मानता है और सोशल मीडिया और वेबसाइट ऑपरेटरों को ऐसे पोस्ट हटाने के लिए मजबूर करता है। संघीय व्यापार आयोग ने मई में उस कानून को लागू करना शुरू किया।
टीटीपी ने मेटा की विज्ञापन लाइब्रेरी में खुलासे की जांच करके पाया कि विज्ञापन गैदरवन से जुड़े थे। हालांकि यह स्पष्ट नहीं है कि विज्ञापनों ने कितने ऐप इंस्टॉलेशन चलाए, टीटीपी द्वारा उपलब्ध कराए गए मार्केट रिसर्चर ऐपमैजिक के आंकड़ों के अनुसार, समूह ने जिन ऐप इंस्टॉलेशन का अध्ययन किया उनमें से कुछ को सामूहिक रूप से वैश्विक स्तर पर 2.5 मिलियन से अधिक बार डाउनलोड किया गया है।
(यह कहानी एनडीटीवी स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड फीड से ऑटो-जेनरेट की गई है।)
