फेसबुक ने भारत से नफरत करने वाली सामग्री को फ़्लैग नहीं किया क्योंकि इसमें टूल की कमी थी: व्हिसलब्लोअर

इस बात से अवगत होने के बावजूद कि “आरएसएस उपयोगकर्ता, समूह और पेज भय फैलाने वाले, मुस्लिम विरोधी बयानों को बढ़ावा देते हैं”, सोशल मीडिया की दिग्गज कंपनी फेसबुक इस सामग्री को “हिंदी और बंगाली क्लासिफायर की कमी” को देखते हुए कार्रवाई या ध्वजांकित नहीं कर सका। व्हिसलब्लोअर शिकायत अमेरिकी प्रतिभूति नियामक के समक्ष दायर की गई।

शिकायत है कि फेसबुक की भाषा क्षमताएं “अपर्याप्त” हैं और “वैश्विक गलत सूचना और जातीय हिंसा” की ओर ले जाती हैं, फेसबुक की प्रथाओं के खिलाफ सिक्योरिटीज एंड एक्सचेंज कमीशन (एसईसी) के साथ एक पूर्व फेसबुक कर्मचारी, व्हिसलब्लोअर फ्रांसेस हाउगेन द्वारा ध्वजांकित कई में से एक है।

“एडवर्सेरियल हार्मफुल नेटवर्क्स-इंडिया केस स्टडी” शीर्षक वाले एक अदिनांकित आंतरिक फ़ेसबुक दस्तावेज़ का हवाला देते हुए, हॉगेन नोटों की ओर से गैर-लाभकारी कानूनी संगठन व्हिसलब्लोअर एड द्वारा यूएस एसईसी को भेजी गई शिकायत, “मुसलमानों की ओर से कई अमानवीय पोस्ट (पर) थे … हमारे हिंदू और बंगाली क्लासिफायर की कमी का मतलब है कि इस सामग्री में से अधिकांश को कभी भी फ़्लैग या एक्शन नहीं किया गया है, और हमने अभी तक इस समूह (आरएसएस) के लिए राजनीतिक संवेदनशीलता को देखते हुए नामांकन नहीं किया है। ”

क्लासिफायर फेसबुक के हेट-स्पीच डिटेक्शन एल्गोरिदम को संदर्भित करते हैं। फेसबुक के अनुसार, इसने 2020 की शुरुआत में हिंदी में अभद्र भाषा क्लासिफायर को जोड़ा और उस वर्ष बाद में बंगाली को पेश किया। हिंदी और बंगाली में हिंसा और भड़काने वाले क्लासिफायर सबसे पहले 2021 की शुरुआत में ऑनलाइन हुए थे।

अमेरिकी समाचार नेटवर्क सीबीएस न्यूज द्वारा हौगेन द्वारा कई शिकायतों वाले आठ दस्तावेज अपलोड किए गए थे। हौगेन ने समाचार नेटवर्क के साथ एक साक्षात्कार में सोमवार को पहली बार अपनी पहचान का खुलासा किया।

द इंडियन एक्सप्रेस द्वारा भेजे गए एक विस्तृत प्रश्नावली के जवाब में, एक फेसबुक प्रवक्ता ने कहा: “हम अभद्र भाषा और हिंसा को भड़काने वाली सामग्री को प्रतिबंधित करते हैं। पिछले कुछ वर्षों में, हमने ऐसी तकनीक में महत्वपूर्ण निवेश किया है जो अभद्र भाषा का सक्रिय रूप से पता लगाती है, इससे पहले कि लोग हमें इसकी रिपोर्ट करें। अब हम विश्व स्तर पर 40 से अधिक भाषाओं के साथ-साथ हिंदी और बंगाली में उल्लंघन करने वाली सामग्री का सक्रिय रूप से पता लगाने के लिए इस तकनीक का उपयोग करते हैं।

कंपनी ने दावा किया कि 15 मई, 2021 से 31 अगस्त, 2021 तक, उसने भारत में अभद्र भाषा की सामग्री के 8.77 लाख टुकड़ों को “सक्रिय रूप से हटा दिया” है, और सुरक्षा और सुरक्षा के मुद्दों पर काम करने वाले लोगों की संख्या को तीन गुना बढ़ाकर 40,000 से अधिक कर दिया है। जिसमें 15,000 से अधिक समर्पित सामग्री समीक्षक शामिल हैं। “परिणामस्वरूप, हमने विश्व स्तर पर अभद्र भाषा के प्रसार को कम कर दिया है – जिसका अर्थ है कि लोगों द्वारा वास्तव में देखी जाने वाली सामग्री की मात्रा – पिछली तीन तिमाहियों में लगभग 50 प्रतिशत तक और अब यह देखी गई सभी सामग्री के 0.05 प्रतिशत तक कम हो गई है। . इसके अलावा, हमारे पास 20 भारतीय भाषाओं को कवर करने वाले सामग्री समीक्षकों की एक टीम है। जैसा कि मुसलमानों सहित हाशिए के समूहों के खिलाफ अभद्र भाषा विश्व स्तर पर बढ़ रही है, हम प्रवर्तन पर प्रगति करना जारी रखते हैं और अपनी नीतियों को अद्यतन करने के लिए प्रतिबद्ध हैं क्योंकि अभद्र भाषा ऑनलाइन विकसित होती है, ”प्रवक्ता ने कहा।

फेसबुक को न केवल अपने प्लेटफॉर्म पर पोस्ट की जा रही सामग्री की प्रकृति के बारे में जागरूक किया गया, बल्कि एक अन्य अध्ययन के माध्यम से, राजनेताओं द्वारा साझा किए गए पोस्ट के प्रभाव का भी पता चला। “राजनीतिज्ञ के साझा गलत सूचना के प्रभाव” शीर्षक वाले आंतरिक दस्तावेज़ में, यह नोट किया गया था कि राजनेताओं द्वारा साझा की गई “उच्च जोखिम वाली गलत सूचना” के उदाहरणों में भारत भी शामिल है, और इसके कारण “आउट-ऑफ-संदर्भ वीडियो” का “सामाजिक प्रभाव” हुआ। पाकिस्तान विरोधी और मुस्लिम विरोधी भावना ”।

फेसबुक के एल्गोरिदम किस तरह से व्यक्तियों को सामग्री और “समूहों” की सिफारिश करते हैं, इसका एक भारत-विशिष्ट उदाहरण पश्चिम बंगाल में कंपनी द्वारा किए गए एक सर्वेक्षण से आता है, जहां नमूना शीर्ष उपयोगकर्ताओं में से 40 प्रतिशत, उनके नागरिक पदों पर उत्पन्न छापों के आधार पर थे। “नकली/अप्रमाणिक” पाया गया। उच्चतम व्यू पोर्ट व्यू (वीपीवी) या इंप्रेशन वाले उपयोगकर्ता, जिनका मूल्यांकन अप्रामाणिक रूप से किया जाना था, उनके L28 में 30 मिलियन से अधिक उपयोगकर्ता थे। L28 को फेसबुक द्वारा किसी दिए गए महीने में सक्रिय उपयोगकर्ताओं की एक बकेट के रूप में संदर्भित किया जाता है।

एक अन्य शिकायत फेसबुक के “एकल उपयोगकर्ता एकाधिक खातों”, या एसयूएमए, या डुप्लिकेट उपयोगकर्ताओं के विनियमन की कमी पर प्रकाश डालती है, और “अंतर्राष्ट्रीय राजनीतिक प्रवचन में एसयूएमए” के उपयोग को रेखांकित करने के लिए आंतरिक दस्तावेजों का हवाला देती है। शिकायत में कहा गया है: “एक आंतरिक प्रस्तुति ने नोट किया कि भारत के भाजपा के एक पार्टी अधिकारी ने हिंदी समर्थक संदेश को बढ़ावा देने के लिए एसयूएमए का इस्तेमाल किया”।

आरएसएस और बीजेपी को भेजे गए सवाल अनुत्तरित रहे।

शिकायतें भी विशेष रूप से लाल झंडी दिखाती हैं कि कैसे “गहरी साझाकरण” गलत सूचना और हिंसा को जन्म देती है। रीशेयर डेप्थ को रीशेयर चेन में मूल फेसबुक पोस्ट से हॉप्स की संख्या के रूप में परिभाषित किया गया है।

भारत को अपनी नीतिगत प्राथमिकताओं के मामले में फेसबुक द्वारा देशों की सबसे शीर्ष श्रेणी में स्थान दिया गया है। जनवरी-मार्च 2020 तक, भारत, ब्राजील और अमेरिका के साथ, “टियर 0” देशों का हिस्सा है, शिकायत से पता चलता है; “टियर 1” में जर्मनी, इंडोनेशिया, ईरान, इज़राइल और इटली शामिल हैं।

“सिविक समिट Q1 2020” शीर्षक वाले एक आंतरिक दस्तावेज़ में उल्लेख किया गया है कि “एफबी ऐप्स पर गलत सूचना को हटाने, कम करने, सूचित करने / मापने” के “उद्देश्य” के साथ गलत सूचना सारांश, अमेरिका के पक्ष में एक वैश्विक बजट वितरण था। इसमें कहा गया है कि इन उद्देश्यों के लिए 87 प्रतिशत बजट अमेरिका को आवंटित किया गया था, जबकि शेष विश्व (भारत, फ्रांस और इटली) को शेष 13 प्रतिशत आवंटित किया गया था। शिकायत में कहा गया है, “यह अमेरिका और कनाडा के ‘दैनिक सक्रिय उपयोगकर्ताओं’ के लगभग 10 प्रतिशत होने के बावजूद है।”

भारत फेसबुक के लिए सबसे बड़े बाजारों में से एक है, जिसमें फेसबुक के लिए ४१० मिलियन, व्हाट्सएप और इंस्टाग्राम के लिए ५३० मिलियन और २१० मिलियन के उपयोगकर्ता आधार हैं, जो दो सेवाओं के मालिक हैं।

मंगलवार को, हाउगन एक अमेरिकी सीनेट समिति के सामने पेश हुईं, जहां उन्होंने “इतने सारे लोगों पर भयावह प्रभाव” वाली कंपनी के लिए फेसबुक की निगरानी की कमी पर गवाही दी।

सीनेट की सुनवाई के बाद एक फेसबुक पोस्ट में, सीईओ मार्क जुकरबर्ग ने कहा: “यह तर्क कि हम जानबूझकर ऐसी सामग्री को आगे बढ़ाते हैं जिससे लोगों को लाभ के लिए गुस्सा आता है, बहुत ही अतार्किक है। हम विज्ञापनों से पैसा कमाते हैं, और विज्ञापनदाता लगातार हमें बताते हैं कि वे नहीं चाहते कि उनके विज्ञापन हानिकारक या क्रोधित सामग्री के बगल में हों। और मैं किसी ऐसी तकनीकी कंपनी को नहीं जानता जो ऐसे उत्पाद बनाती हो जो लोगों को नाराज़ या उदास करते हों। नैतिक, व्यापार और उत्पाद प्रोत्साहन सभी विपरीत दिशा में इंगित करते हैं”।

.