भारत में, फेसबुक अपनी समस्याओं के विस्तृत संस्करण से जूझता है

4 फरवरी, 2019 को, एक फेसबुक शोधकर्ता ने यह देखने के लिए एक नया उपयोगकर्ता खाता बनाया कि केरल, भारत में रहने वाले एक व्यक्ति के रूप में सोशल मीडिया साइट का अनुभव करना कैसा था।

अगले तीन हफ्तों के लिए, एक साधारण नियम द्वारा संचालित खाता: समूहों में शामिल होने, वीडियो देखने और साइट पर नए पेजों को एक्सप्लोर करने के लिए फेसबुक के एल्गोरिदम द्वारा उत्पन्न सभी सिफारिशों का पालन करें।

परिणाम अभद्र भाषा, गलत सूचना और हिंसा के उत्सवों की बाढ़ थी, जिसे उस महीने के अंत में प्रकाशित एक आंतरिक फेसबुक रिपोर्ट में प्रलेखित किया गया था।

फेसबुक शोधकर्ता ने लिखा, “इस परीक्षण उपयोगकर्ता के न्यूज फीड के बाद, मैंने पिछले तीन हफ्तों में मृत लोगों की अधिक छवियां देखी हैं, जो मैंने अपने पूरे जीवन में देखी हैं।”

रिपोर्ट भारत पर प्लेटफॉर्म के प्रभाव से जूझ रहे फेसबुक कर्मचारियों द्वारा लिखे गए दर्जनों अध्ययनों और मेमो में से एक थी। वे दुनिया भर में फैली कंपनी के खिलाफ मानवाधिकार कार्यकर्ताओं और राजनेताओं द्वारा लगाए गए सबसे गंभीर आलोचनाओं में से एक का स्पष्ट प्रमाण प्रदान करते हैं: यह स्थानीय संस्कृति और राजनीति पर इसके संभावित प्रभावों को पूरी तरह से समझे बिना एक देश में चला जाता है, और कार्रवाई करने के लिए संसाधनों को तैनात करने में विफल रहता है। एक बार होने पर मुद्दों पर।

फेसबुक के विभिन्न सोशल मीडिया प्लेटफॉर्म का उपयोग करने वाले 340 मिलियन लोगों के साथ, भारत कंपनी का सबसे बड़ा बाजार है। और उपमहाद्वीप पर फेसबुक की समस्याएं उन मुद्दों का एक विस्तृत संस्करण प्रस्तुत करती हैं, जिनका सामना उसने दुनिया भर में किया है, जो संसाधनों की कमी और भारत की 22 आधिकारिक रूप से मान्यता प्राप्त भाषाओं में विशेषज्ञता की कमी से बदतर हो गया है।

द न्यू यॉर्क टाइम्स सहित समाचार संगठनों के एक संघ द्वारा प्राप्त आंतरिक दस्तावेज़, द फ़ेसबुक पेपर्स नामक सामग्री के एक बड़े कैश का हिस्सा हैं। उन्हें फेसबुक के एक पूर्व उत्पाद प्रबंधक फ्रांसेस हौगेन द्वारा एकत्र किया गया था, जो एक व्हिसलब्लोअर बन गया और हाल ही में कंपनी और उसके सोशल मीडिया प्लेटफॉर्म के बारे में सीनेट उपसमिति के सामने गवाही दी। इस महीने की शुरुआत में एक शिकायत में हेगन द्वारा प्रतिभूति और विनिमय आयोग को दायर किए गए दस्तावेजों के बीच भारत के संदर्भ बिखरे हुए थे।

दस्तावेजों में यह रिपोर्ट शामिल है कि कैसे देश की सत्ताधारी पार्टी और विपक्षी हस्तियों से जुड़े बॉट और फर्जी खाते राष्ट्रीय चुनावों पर कहर बरपा रहे थे। उन्होंने यह भी विस्तार से बताया कि कैसे फेसबुक के सीईओ मार्क जुकरबर्ग द्वारा “सार्थक सामाजिक बातचीत” या दोस्तों और परिवार के बीच आदान-प्रदान पर ध्यान केंद्रित करने की योजना, भारत में विशेष रूप से महामारी के दौरान अधिक गलत सूचना का कारण बन रही थी।

अपने दस्तावेजों के अनुसार, फेसबुक के पास भारत में पर्याप्त संसाधन नहीं थे और वह वहां पेश की गई समस्याओं से निपटने में असमर्थ था। गलत सूचना को वर्गीकृत करने पर खर्च किए गए समय के लिए कंपनी के वैश्विक बजट का 87 प्रतिशत संयुक्त राज्य अमेरिका के लिए निर्धारित किया गया है, जबकि शेष दुनिया के लिए केवल 13% अलग रखा गया है – भले ही उत्तर अमेरिकी उपयोगकर्ता सोशल नेटवर्क के केवल 10% हैं। फेसबुक के संसाधनों के आवंटन का वर्णन करने वाले एक दस्तावेज़ के अनुसार दैनिक सक्रिय उपयोगकर्ता।

फेसबुक के प्रवक्ता एंडी स्टोन ने कहा कि आंकड़े अधूरे हैं और इसमें कंपनी के तीसरे पक्ष के तथ्य-जांच साझेदार शामिल नहीं हैं, जिनमें से अधिकांश संयुक्त राज्य से बाहर हैं।

संयुक्त राज्य अमेरिका पर उस एकतरफा ध्यान का भारत के अलावा कई देशों में परिणाम हुआ है। कंपनी के दस्तावेजों से पता चलता है कि फेसबुक ने म्यांमार में नवंबर के चुनाव के दौरान गलत सूचनाओं को कम करने के लिए उपाय किए, जिसमें म्यांमार सैन्य जुंटा द्वारा साझा की गई गलत सूचना भी शामिल है।

कंपनी ने चुनाव के बाद उन उपायों को वापस ले लिया, अनुसंधान के बावजूद उन्होंने दिखाया कि उन्होंने भड़काऊ पोस्ट के विचारों की संख्या को 25.1% और गलत सूचना वाले फोटो पोस्ट को 48.5% तक कम कर दिया। तीन महीने बाद, सेना ने देश में एक हिंसक तख्तापलट किया। फेसबुक ने कहा कि तख्तापलट के बाद, उसने देश में हिंसा की प्रशंसा और समर्थन को हटाने के लिए एक विशेष नीति लागू की, और बाद में फेसबुक और इंस्टाग्राम से म्यांमार की सेना पर प्रतिबंध लगा दिया।

श्रीलंका में, लोग फ़ेसबुक समूहों में सैकड़ों हज़ारों उपयोगकर्ताओं को स्वचालित रूप से जोड़ने में सक्षम थे, जिससे वे हिंसा-उत्प्रेरण और घृणित सामग्री को उजागर कर रहे थे। इथियोपिया में, एक राष्ट्रवादी युवा मिलिशिया समूह ने फेसबुक पर हिंसा के लिए कॉल का सफलतापूर्वक समन्वय किया और अन्य भड़काऊ सामग्री पोस्ट की।

स्टोन ने कहा कि फेसबुक ने हिंदी और बंगाली सहित विभिन्न भाषाओं में अभद्र भाषा खोजने के लिए प्रौद्योगिकी में काफी निवेश किया है, जो सबसे अधिक इस्तेमाल की जाने वाली दो भाषाओं में से एक है। उन्होंने कहा कि फेसबुक ने इस साल दुनिया भर में लोगों द्वारा देखे जाने वाले अभद्र भाषा की मात्रा को आधा कर दिया है।

“मुसलमानों सहित हाशिए के समूहों के खिलाफ अभद्र भाषा, भारत और विश्व स्तर पर बढ़ रही है,” स्टोन ने कहा। “इसलिए हम प्रवर्तन में सुधार कर रहे हैं और अपनी नीतियों को अपडेट करने के लिए प्रतिबद्ध हैं क्योंकि अभद्र भाषा ऑनलाइन विकसित होती है।”

भारत में, “निश्चित रूप से फेसबुक के लिए संसाधन के बारे में एक सवाल है”, लेकिन जवाब “समस्या पर अधिक पैसा फेंकना” नहीं है, केटी हरबाथ ने कहा, जिन्होंने सार्वजनिक नीति के निदेशक के रूप में फेसबुक पर 10 साल बिताए और सीधे काम किया। भारत के राष्ट्रीय चुनावों को सुरक्षित करना। उसने कहा, फेसबुक को एक समाधान खोजने की जरूरत है जिसे दुनिया भर के देशों में लागू किया जा सके।

फेसबुक के कर्मचारियों ने कई वर्षों तक भारत में विभिन्न परीक्षण और फील्ड अध्ययन किए हैं। भारत के 2019 के राष्ट्रीय चुनावों से पहले यह काम बढ़ गया; उसी वर्ष जनवरी के अंत में, फेसबुक के कुछ कर्मचारियों ने सहकर्मियों से मिलने और दर्जनों स्थानीय फेसबुक उपयोगकर्ताओं से बात करने के लिए देश की यात्रा की।

यात्रा के बाद लिखे गए एक मेमो के अनुसार, भारत में उपयोगकर्ताओं का एक प्रमुख अनुरोध यह था कि फेसबुक “ऐसी गलत सूचनाओं पर कार्रवाई करे जो वास्तविक दुनिया के नुकसान, विशेष रूप से राजनीति और धार्मिक समूह तनाव से जुड़ी हैं।”

शोधकर्ता द्वारा गलत सूचनाओं का अध्ययन करने के लिए फर्जी खाता खोलने के दस दिन बाद, कश्मीर के विवादित सीमा क्षेत्र में एक आत्मघाती बम विस्फोट ने हिंसा का एक दौर शुरू कर दिया और भारतीय और पाकिस्तानी नागरिकों के बीच आरोपों, गलत सूचनाओं और साजिशों में वृद्धि हुई।

हमले के बाद, फेसबुक-अनुशंसित समूहों में पाकिस्तान विरोधी सामग्री प्रसारित होने लगी, जिसमें शोधकर्ता शामिल हुए थे। उसने नोट किया कि कई समूहों में हजारों उपयोगकर्ता थे। दिसंबर 2019 में प्रकाशित फेसबुक की एक अलग रिपोर्ट में पाया गया कि भारतीय फेसबुक उपयोगकर्ता बड़े समूहों में शामिल हो गए, देश के औसत समूह का आकार 140,000 सदस्यों के साथ है।

एक पाकिस्तानी नागरिक का सिर कलम करने और जमीन पर सफेद चादर में लिपटे शवों को दिखाते हुए एक मीम सहित ग्राफिक पोस्ट, उन समूहों में प्रसारित किए गए, जिनमें वह शामिल हुई थी।

जब शोधकर्ता ने अपने केस स्टडी को सहकर्मियों के साथ साझा किया, तो उसके सहयोगियों ने पोस्ट की गई रिपोर्ट पर टिप्पणी की कि वे भारत में आगामी चुनावों के बारे में गलत सूचना के बारे में चिंतित थे।

इंडियन इलेक्शन केस स्टडी नामक एक आंतरिक दस्तावेज़ के अनुसार, दो महीने बाद, भारत के राष्ट्रीय चुनाव शुरू होने के बाद, फेसबुक ने देश में गलत सूचना और अभद्र भाषा के प्रवाह को रोकने के लिए कई कदम उठाए।

केस स्टडी ने फेसबुक के प्रयासों की एक आशावादी तस्वीर चित्रित की, जिसमें अधिक तथ्य-जांच भागीदारों को जोड़ना शामिल है – आउटलेट्स का तीसरा-पक्ष नेटवर्क जिसके साथ फेसबुक तथ्य-जांच को आउटसोर्स करने के लिए काम करता है – और गलत सूचनाओं की मात्रा को बढ़ाता है। इसने यह भी नोट किया कि कैसे फेसबुक ने “पीआर जोखिम को सीमित करने के लिए राजनीतिक श्वेतसूची” बनाई थी, अनिवार्य रूप से उन राजनेताओं की एक सूची जिन्हें तथ्य-जांच से विशेष छूट प्राप्त हुई थी।

अध्ययन में कंपनी को भारत में बॉट्स के साथ आने वाली भारी समस्या और न ही मतदाता दमन जैसे मुद्दों पर ध्यान दिया गया। चुनाव के दौरान, फेसबुक ने विभिन्न राजनीतिक समूहों से जुड़े बॉट्स – या नकली खातों में स्पाइक देखा, साथ ही गलत सूचना फैलाने के प्रयास भी किए जो मतदान प्रक्रिया के बारे में लोगों की समझ को प्रभावित कर सकते थे।

चुनावों के बाद तैयार की गई एक अलग रिपोर्ट में, फेसबुक ने पाया कि पश्चिम बंगाल में 40% से अधिक शीर्ष दृश्य, या इंप्रेशन, “नकली/अप्रमाणिक” थे। एक अनधिकृत खाते ने 30 मिलियन से अधिक छापे जमा किए थे।

मार्च में प्रकाशित एक रिपोर्ट से पता चला कि 2019 के चुनावों के दौरान जिन समस्याओं का हवाला दिया गया उनमें से कई समस्याएं बनी रहीं।

एडवरसैरियल हार्मफुल नेटवर्क्स: इंडिया केस स्टडी नामक आंतरिक दस्तावेज़ में, फेसबुक शोधकर्ताओं ने लिखा है कि फेसबुक पर “भड़काऊ और भ्रामक मुस्लिम विरोधी सामग्री से भरे” समूह और पेज थे।

रिपोर्ट में कहा गया है कि मुसलमानों की तुलना “सूअर” और “कुत्तों” से करने के लिए कई अमानवीय पोस्ट थे और गलत सूचना का दावा है कि कुरान, इस्लाम की पवित्र पुस्तक, पुरुषों को अपनी महिला परिवार के सदस्यों का बलात्कार करने के लिए कहती है।

अधिकांश सामग्री राष्ट्रीय स्वयंसेवक संघ, एक भारतीय दक्षिणपंथी और राष्ट्रवादी अर्धसैनिक समूह को बढ़ावा देने वाले फेसबुक समूहों के आसपास प्रसारित हुई। समूहों ने पश्चिम बंगाल में और पाकिस्तानी सीमा के पास मुस्लिम अल्पसंख्यक आबादी के विस्तार के साथ मुद्दा उठाया, और भारत से मुस्लिम आबादी को हटाने और मुस्लिम जनसंख्या नियंत्रण कानून को बढ़ावा देने के लिए फेसबुक पर पोस्ट प्रकाशित किए।

रिपोर्ट ने संकेत दिया कि फेसबुक जानता था कि इस तरह के हानिकारक पोस्ट उसके प्लेटफॉर्म पर फैल रहे हैं, और उसे अपने “क्लासिफायर” में सुधार करने की जरूरत है, जो स्वचालित सिस्टम हैं जो हिंसक और उकसाने वाली भाषा वाले पोस्ट का पता लगा सकते हैं और हटा सकते हैं। फेसबुक ने “राजनीतिक संवेदनशीलता” के कारण राष्ट्रीय स्वयंसेवक संघ को एक खतरनाक संगठन के रूप में नामित करने में भी संकोच किया, जो देश में सोशल नेटवर्क के संचालन को प्रभावित कर सकता था।

भारत की आधिकारिक रूप से मान्यता प्राप्त 22 भाषाओं में से, फेसबुक ने कहा कि उसने अपने आर्टिफिशियल इंटेलिजेंस सिस्टम को पांच पर प्रशिक्षित किया है। (इसमें कहा गया है कि इसमें कुछ अन्य लोगों के लिए मानव समीक्षक थे।) लेकिन हिंदी और बंगाली में, सामग्री को पर्याप्त रूप से पुलिस के लिए पर्याप्त डेटा नहीं था, और मुसलमानों को लक्षित करने वाली अधिकांश सामग्री “कभी भी ध्वजांकित या कार्रवाई नहीं की जाती है,” फेसबुक रिपोर्ट में कहा गया है .

पांच महीने पहले, फेसबुक अभी भी मुसलमानों के खिलाफ अभद्र भाषा को प्रभावी ढंग से हटाने के लिए संघर्ष कर रहा था। एक अन्य कंपनी ने मंच पर मुस्लिम विरोधी आख्यानों वाले पोस्ट प्रकाशित करने के लिए हिंदी राष्ट्रवादी राजनीतिक दल भारतीय जनता पार्टी से जुड़े एक चरमपंथी समूह बजरंग दल के विस्तृत प्रयासों की रिपोर्ट दी।

दस्तावेज़ में दिखाया गया है कि फेसबुक समूह को एक खतरनाक संगठन के रूप में नामित करने पर विचार कर रहा है क्योंकि यह मंच पर “धार्मिक हिंसा को उकसा रहा है”। लेकिन अभी तक ऐसा नहीं किया है।

“समूह में शामिल हों और समूह को चलाने में मदद करें; समूह के सदस्यों की संख्या में वृद्धि, दोस्तों, ”बजरंग दल के संदेशों को फैलाने के लिए फेसबुक पर रंगरूटों की मांग करते हुए एक पोस्ट ने कहा। “सत्य और न्याय के लिए तब तक लड़ो जब तक अन्यायी का नाश न हो जाए।”

.