इंस्टाग्राम के एल्गोरिदम सक्रिय रूप से पीडोफाइल के नेटवर्क को बढ़ावा दे रहे हैं जो मेटा के लोकप्रिय इमेज शेयरिंग ऐप पर बाल यौन शोषण सामग्री को कमीशन और बेचते हैं।

ए से संयुक्त जांच वॉल स्ट्रीट जर्नल और स्टैनफोर्ड यूनिवर्सिटी और मैसाचुसेट्स एमहर्स्ट विश्वविद्यालय के शिक्षाविदों ने खुलासा किया है कि इंस्टाग्राम की सिफारिश प्रणाली “पीडोफाइल को जोड़ती है और उन्हें सामग्री विक्रेताओं तक ले जाती है।”

शोधकर्ताओं द्वारा पाए गए खातों को #pedowhore, #preteensex, और #pedobait जैसे स्पष्ट और स्पष्ट हैशटैग का उपयोग करके विज्ञापित किया गया है। वे उपयोगकर्ताओं को खरीदने या कमीशन करने के लिए सामग्री के “मेनू” की पेशकश करते हैं, जिसमें स्वयं को नुकसान पहुंचाने और पाशविकता के वीडियो और इमेजरी शामिल हैं। जब शोधकर्ताओं ने एक परीक्षण खाता स्थापित किया और इन नेटवर्कों द्वारा साझा की गई सामग्री को देखा, तो उन्हें तुरंत अधिक खातों का पालन करने की सिफारिश की गई। के रूप में WSJ रिपोर्ट: “इन सिफारिशों में से केवल एक मुट्ठी भर के बाद बच्चों को कामुक बनाने वाली सामग्री के साथ एक परीक्षण खाता भरने के लिए पर्याप्त था।”

रिपोर्ट के जवाब में, मेटा ने कहा कि वह जांच द्वारा उठाए गए मुद्दों का समाधान करने के लिए एक आंतरिक टास्क फोर्स का गठन कर रही है। कंपनी ने कहा, ‘बाल शोषण एक जघन्य अपराध है। “हम इस व्यवहार के खिलाफ सक्रिय रूप से बचाव करने के तरीकों की लगातार जांच कर रहे हैं।”

मेटा ने नोट किया कि अकेले जनवरी में इसने 490,000 खातों को बंद कर दिया, जो कि इसकी बाल सुरक्षा नीतियों का उल्लंघन करते थे और पिछले दो वर्षों में 27 पीडोफाइल नेटवर्क को हटा दिया है। कंपनी, जो फेसबुक और व्हाट्सएप की भी मालिक है, ने कहा कि उसने बच्चों के यौनकरण से जुड़े हजारों हैशटैग को भी ब्लॉक कर दिया है और इन शब्दों को उपयोगकर्ता खोजों से प्रतिबंधित कर दिया है।

स्टैनफोर्ड के इंटरनेट वेधशाला के प्रमुख और मेटा के पूर्व मुख्य सुरक्षा अधिकारी एलेक्स स्टैमोस ने बताया WSJ कंपनी इस मुद्दे से निपटने के लिए और अधिक कर सकती है और करनी चाहिए। स्टैमोस ने कहा, “सीमित पहुंच वाले तीन शिक्षाविदों की एक टीम इतने बड़े नेटवर्क को मेटा में अलार्म सेट कर सकती है।” “मुझे उम्मीद है कि कंपनी मानव जांचकर्ताओं में पुनर्निवेश करेगी।”

इन्स्टाग्राम की अनुशंसा एल्गोरिदम के साथ समस्याओं के अलावा, जांच में यह भी पाया गया कि साइट के मॉडरेशन प्रथाओं ने बाल दुर्व्यवहार सामग्री की रिपोर्ट को अक्सर अनदेखा या अस्वीकार कर दिया।

WSJ उन घटनाओं को याद करता है जहां उपयोगकर्ताओं ने संदिग्ध सामग्री वाली पोस्ट और खातों की रिपोर्ट की (जिसमें एक खाता शामिल है जिसमें “यह किशोर आपके लिए तैयार है” कैप्शन के साथ अवयस्क दुर्व्यवहार सामग्री का विज्ञापन करता है) केवल Instagram की समीक्षा टीम द्वारा सामग्री को साफ़ करने या स्वचालित संदेश में बताए जाने के लिए : “हमें प्राप्त होने वाली रिपोर्ट की उच्च मात्रा के कारण, हमारी टीम इस पोस्ट की समीक्षा नहीं कर पाई है।” मेटा ने बताया पत्रिका कि वह इन रिपोर्टों पर कार्रवाई करने में विफल रहा है और वह अपनी आंतरिक प्रक्रियाओं की समीक्षा कर रहा है।

रिपोर्ट ने अन्य प्लेटफार्मों को भी देखा लेकिन उन्हें इस तरह के नेटवर्क के बढ़ने के लिए कम उत्तरदायी पाया। के अनुसार WSJ, स्टैनफोर्ड जांचकर्ताओं ने पाया कि “ट्विटर पर बाल-यौन-दुर्व्यवहार सामग्री बेचने की पेशकश करने वाले 128 खाते, इंस्टाग्राम पर मिली संख्या के एक तिहाई से भी कम” ट्विटर पर बहुत कम उपयोगकर्ता होने के बावजूद, और ऐसी सामग्री “प्रसारित नहीं होती” टिक टॉक। रिपोर्ट में कहा गया है कि स्नैपचैट ऐसे नेटवर्क को सक्रिय रूप से बढ़ावा नहीं देता है क्योंकि इसका मुख्य रूप से प्रत्यक्ष संदेश भेजने के लिए उपयोग किया जाता है।

स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी के मुख्य टेक्नोलॉजिस्ट डेविड थिएल ने बताया पत्रिका कि Instagram उपयोगकर्ता को प्रोत्साहित करने और उपयोगकर्ताओं को कनेक्ट करने के लिए डिज़ाइन की गई अनुशंसा प्रणालियों और अपमानजनक सामग्री की जांच करने और हटाने वाली सुरक्षा सुविधाओं के बीच सही संतुलन नहीं बना रहा था।

थिएल ने कहा, “आपको किसी ऐसी चीज़ के लिए सुरक्षा कवच लगाना होगा जो अभी भी नाममात्र रूप से सुरक्षित है, और इंस्टाग्राम नहीं है,” थिएल ने कहा।

से पूरी रिपोर्ट पढ़ सकते हैं वॉल स्ट्रीट जर्नल यहाँ.