फेसबुक ने भारत में विभाजनकारी उपयोगकर्ता सामग्री पर अंकुश लगाने में कोई कसर नहीं छोड़ी

एसोसिएटेड प्रेस द्वारा प्राप्त लीक दस्तावेजों के अनुसार, भारत में फेसबुक अभद्र भाषा, गलत सूचना और भड़काऊ पोस्ट, विशेष रूप से मुस्लिम विरोधी सामग्री पर अंकुश लगाने में चयनात्मक रहा है, यहां तक ​​​​कि इसके अपने कर्मचारियों ने कंपनी की प्रेरणाओं और हितों पर संदेह जताया है।

इस साल के मार्च के हाल के शोध से लेकर 2019 तक के कंपनी मेमो तक, भारत के आंतरिक कंपनी दस्तावेज़ दुनिया के सबसे बड़े लोकतंत्र और कंपनी के सबसे बड़े विकास बाजार में अपने प्लेटफार्मों पर अपमानजनक सामग्री को खत्म करने में फेसबुक के निरंतर संघर्ष पर प्रकाश डालते हैं। भारत में सांप्रदायिक और धार्मिक तनावों का सोशल मीडिया पर उबलने और हिंसा भड़काने का इतिहास रहा है।

फाइलों से पता चलता है कि फेसबुक वर्षों से समस्याओं से अवगत है, यह सवाल उठा रहा है कि क्या उसने इन मुद्दों को हल करने के लिए पर्याप्त प्रयास किया है। कई आलोचकों और डिजिटल विशेषज्ञों का कहना है कि यह ऐसा करने में विफल रहा है, खासकर उन मामलों में जहां प्रधान मंत्री नरेंद्र मोदी की सत्तारूढ़ भारतीय जनता पार्टी या भाजपा के सदस्य शामिल हैं।

दुनिया भर में, राजनीति में फेसबुक तेजी से महत्वपूर्ण हो गया है, और भारत अलग नहीं है।

मोदी को चुनावों के दौरान अपनी पार्टी के लाभ के लिए मंच का लाभ उठाने का श्रेय दिया गया है, और पिछले साल द वॉल स्ट्रीट जर्नल की रिपोर्टिंग ने इस बात पर संदेह व्यक्त किया कि क्या फेसबुक भाजपा से झटका से बचने के लिए अभद्र भाषा पर अपनी नीतियों को चुनिंदा रूप से लागू कर रहा था। मोदी और फेसबुक के चेयरमैन और सीईओ मार्क जुकरबर्ग दोनों ने मिलनसारिता का परिचय दिया है, जिसे फेसबुक मुख्यालय में दोनों के गले मिलने की 2015 की छवि द्वारा यादगार बनाया गया है।

लीक हुए दस्तावेजों में भारत में अभद्र भाषा और गलत सूचना पर कंपनी की आंतरिक रिपोर्टों का एक समूह शामिल है। कुछ मामलों में, इसका अधिकांश भाग अपनी “अनुशंसित” सुविधा और एल्गोरिदम द्वारा तीव्र किया गया था। लेकिन इनमें कंपनी के कर्मचारियों की इन मुद्दों के गलत प्रबंधन पर चिंता और मंच पर वायरल “दुर्भावनापूर्ण” के बारे में व्यक्त असंतोष भी शामिल है।

फेसबुक के चेयरमैन और सीईओ मार्क जुकरबर्ग। रॉयटर्स/कार्लोस जैसो/फाइल फोटो

दस्तावेजों के अनुसार, फेसबुक ने भारत को दुनिया में सबसे अधिक “जोखिम वाले देशों” के रूप में देखा और हिंदी और बंगाली दोनों भाषाओं को “शत्रुतापूर्ण भाषण के उल्लंघन पर स्वचालन” के लिए प्राथमिकताओं के रूप में पहचाना। फिर भी, गलत सूचनाओं को रोकने के लिए फेसबुक के पास पर्याप्त स्थानीय भाषा मॉडरेटर या कंटेंट-फ्लैगिंग नहीं थी, जिससे कई बार वास्तविक दुनिया में हिंसा होती थी।

एपी को दिए एक बयान में, फेसबुक ने कहा कि उसने “हिंदी और बंगाली सहित विभिन्न भाषाओं में अभद्र भाषा खोजने के लिए प्रौद्योगिकी में महत्वपूर्ण निवेश किया है” जिसके परिणामस्वरूप 2021 में “अभद्र भाषा की मात्रा को आधे से कम कर दिया गया है”।

“मुसलमानों सहित हाशिए के समूहों के खिलाफ अभद्र भाषा विश्व स्तर पर बढ़ रही है। इसलिए हम प्रवर्तन में सुधार कर रहे हैं और अपनी नीतियों को अद्यतन करने के लिए प्रतिबद्ध हैं क्योंकि अभद्र भाषा ऑनलाइन विकसित होती है, ”कंपनी के प्रवक्ता ने कहा।

यह एपी कहानी, अन्य प्रकाशित होने के साथ, सिक्योरिटीज एंड एक्सचेंज कमीशन को किए गए खुलासे पर आधारित है और कांग्रेस को पूर्व फेसबुक कर्मचारी-व्हिसलब्लोअर फ्रांसेस हाउगेन के कानूनी सलाहकार द्वारा संशोधित रूप में प्रदान की गई है। संशोधित संस्करण एपी सहित समाचार संगठनों के एक संघ द्वारा प्राप्त किए गए थे।

फरवरी 2019 में वापस और एक आम चुनाव से पहले जब गलत सूचना की चिंताएँ बहुत अधिक चल रही थीं, एक फेसबुक कर्मचारी यह समझना चाहता था कि देश में एक नए उपयोगकर्ता ने अपने समाचार फ़ीड पर क्या देखा, यदि उन्होंने केवल उन पृष्ठों और समूहों का अनुसरण किया जो केवल प्लेटफ़ॉर्म द्वारा अनुशंसित थे अपने आप।

कर्मचारी ने एक परीक्षण उपयोगकर्ता खाता बनाया और इसे तीन सप्ताह तक लाइव रखा, एक ऐसी अवधि जिसके दौरान एक असाधारण घटना ने भारत को हिला दिया – विवादित कश्मीर में एक आतंकवादी हमले ने 40 से अधिक भारतीय सैनिकों को मार डाला, जिससे देश प्रतिद्वंद्वी पाकिस्तान के साथ युद्ध के करीब आ गया।

नोट में, “एक भारतीय परीक्षण उपयोगकर्ता का ध्रुवीकरण, राष्ट्रवादी संदेशों के समुद्र में उतरना” शीर्षक से, जिस कर्मचारी का नाम फिर से लिखा गया है, उसने कहा कि वे समाचार फ़ीड में बाढ़ की सामग्री से “हैरान” थे, जो “ध्रुवीकरण का एक निरंतर बैराज बन गया है” राष्ट्रवादी सामग्री, गलत सूचना, और हिंसा और जमाखोरी।”

फ़ेसबुक द्वारा अनुशंसित प्रतीत होने वाले सौम्य और अहानिकर समूह जल्दी से पूरी तरह से किसी और चीज़ में बदल गए, जहाँ अभद्र भाषा, असत्यापित अफवाहें और वायरल सामग्री बड़े पैमाने पर चल रही थी।

अनुशंसित समूह फर्जी समाचार, पाकिस्तान विरोधी बयानबाजी और इस्लामोफोबिक सामग्री से भरे हुए थे। अधिकांश सामग्री अत्यंत ग्राफिक थी।

एक में एक व्यक्ति शामिल था, जिसके सिर के स्थान पर एक भारतीय ध्वज के साथ, एक पाकिस्तानी ध्वज में ढँके हुए दूसरे व्यक्ति का खून से सना हुआ सिर था। इसके “पॉपुलर अक्रॉस फ़ेसबुक” फीचर में बम विस्फोटों के बाद पाकिस्तान में जवाबी भारतीय हमलों से संबंधित कई असत्यापित सामग्री दिखाई गई, जिसमें फ़ेसबुक के तथ्य-जांच भागीदारों में से एक द्वारा खारिज किए गए वीडियो गेम क्लिप से एक नैपलम बम की एक छवि भी शामिल है।

शोधकर्ता ने लिखा, “इस परीक्षण उपयोगकर्ता के न्यूज फीड के बाद, मैंने पिछले तीन हफ्तों में मृत लोगों की अधिक छवियां देखी हैं, जो मैंने अपने पूरे जीवन में देखी हैं।”

इसने इस बात पर गहरी चिंता जताई कि इस तरह की विभाजनकारी सामग्री वास्तविक दुनिया में क्या ले जा सकती है, जहां उस समय की स्थानीय खबरें कश्मीरियों पर हमले की रिपोर्ट कर रही थीं।

“क्या एक कंपनी के रूप में हमें अनुशंसित सामग्री से होने वाले अखंडता के नुकसान को रोकने के लिए एक अतिरिक्त जिम्मेदारी होनी चाहिए?” शोधकर्ता ने अपने निष्कर्ष में पूछा।

अन्य कर्मचारियों के साथ परिचालित मेमो ने उस प्रश्न का उत्तर नहीं दिया। लेकिन इसने यह उजागर किया कि कैसे प्लेटफॉर्म के अपने एल्गोरिदम या डिफ़ॉल्ट सेटिंग्स ने इस तरह की दुर्भावनापूर्ण सामग्री को बढ़ावा देने में एक भूमिका निभाई। कर्मचारी ने नोट किया कि विशेष रूप से “स्थानीय भाषा सामग्री” में स्पष्ट “अंधे धब्बे” थे। उन्होंने कहा कि उन्हें उम्मीद है कि ये निष्कर्ष इस तरह के “अखंडता नुकसान” से बचने के तरीके पर बातचीत शुरू करेंगे, खासकर उन लोगों के लिए जो विशिष्ट अमेरिकी उपयोगकर्ता से “महत्वपूर्ण रूप से भिन्न” हैं।

भले ही शोध तीन हफ्तों के दौरान आयोजित किया गया था जो औसत प्रतिनिधित्व नहीं थे, उन्होंने स्वीकार किया कि यह दिखाता है कि “एक बड़ी संकट घटना” के दौरान इस तरह की “अनमॉडर्ड” और समस्याग्रस्त सामग्री “पूरी तरह से खत्म हो सकती है”।

फेसबुक के प्रवक्ता ने कहा कि परीक्षण अध्ययन ने इसकी सिफारिश प्रणालियों के “गहन, अधिक कठोर विश्लेषण को प्रेरित किया” और “उन्हें बेहतर बनाने के लिए उत्पाद परिवर्तनों में योगदान दिया।”

प्रवक्ता ने कहा, “अलग से, अभद्र भाषा पर अंकुश लगाने का हमारा काम जारी है और हमने चार भारतीय भाषाओं को शामिल करने के लिए अपने नफरत के वर्गीकरण को और मजबूत किया है।”

.