फेसबुक 2021 के चुनावों से पहले असम में अभद्र भाषा के उल्लंघन से चिंतित था

द वॉल स्ट्रीट जर्नल ने रविवार को अपने द्वारा समीक्षा किए गए आंतरिक दस्तावेजों का हवाला देते हुए, सोशल मीडिया दिग्गज के कर्मचारियों द्वारा अपने सामग्री नियमों को लागू करने में फेसबुक की सफलता के विश्लेषण से पता चला है कि कैसे कंपनी केवल अपने अभद्र भाषा नियमों का उल्लंघन करने वाले पदों के एक अंश को हटाती है। अपने प्लेटफॉर्म पर इस तरह की सामग्री को विनियमित करने में फेसबुक की अक्षमता के पीछे कारणों में से एक विदेशी भाषाओं पर अपने एआई के प्रशिक्षण की कमी है, रिपोर्ट में कहा गया है कि इस साल मार्च में, कंपनी के कर्मचारी जो भारत में क्षेत्रीय चुनावों के लिए कमर कस रहे थे। असम में अभद्र भाषा एक बड़ा जोखिम था, जहां मुसलमानों और अन्य जातीय समूहों के खिलाफ हिंसा बढ़ रही है।

एक आंतरिक फेसबुक योजना दस्तावेज़ के अनुसार, “असम विशेष रूप से चिंता का विषय है क्योंकि हमारे पास असमिया नफरत-भाषण क्लासिफायरियर नहीं है।” असम में विधान सभा चुनाव 27 मार्च से 6 अप्रैल तक हुए थे और भाजपा के नेतृत्व वाले राष्ट्रीय जनतांत्रिक गठबंधन ने सत्ता बरकरार रखी।

इस महीने की शुरुआत में, द इंडियन एक्सप्रेस ने व्हिसलब्लोअर और फेसबुक के पूर्व कर्मचारी फ्रांसेस हौगेन द्वारा अमेरिकी प्रतिभूति नियामक के साथ दायर की गई शिकायत का हवाला देते हुए रिपोर्ट किया था कि कंपनी को अपने प्लेटफॉर्म पर प्रकाशित होने वाली पोस्ट के बारे में पता था जिसमें गलत सूचना या अभद्र भाषा थी, लेकिन यह हो सकता है “हिंदी और बंगाली क्लासिफायर की कमी” के कारण इस सामग्री पर कार्रवाई या फ़्लैग न करें। क्लासिफायर फेसबुक के हेट-स्पीच डिटेक्शन एल्गोरिदम को संदर्भित करते हैं। फेसबुक के अनुसार, इसने 2020 की शुरुआत में हिंदी में अभद्र भाषा क्लासिफायर को जोड़ा और उस वर्ष बाद में बंगाली को पेश किया। हिंदी और बंगाली में हिंसा और भड़काने वाले क्लासिफायर सबसे पहले 2021 की शुरुआत में ऑनलाइन हुए थे।

फेसबुक को भेजी गई एक ई-मेल क्वेरी का कोई जवाब नहीं मिला।

डब्लूएसजे की रिपोर्ट में कर्मचारियों और कंपनी के आंतरिक दस्तावेजों का हवाला देते हुए ऐसी सामग्री के उदाहरण भी दिए गए हैं, जिन्हें फेसबुक के आर्टिफिशियल इंटेलिजेंस इंजनों को पता लगाना चाहिए था, लेकिन चूक गए। इसने कहा कि फेसबुक का एआई लगातार “पहले व्यक्ति की शूटिंग वीडियो, नस्लवादी रेंट और यहां तक ​​​​कि एक उल्लेखनीय प्रकरण में, जो हफ्तों तक आंतरिक शोधकर्ताओं को हैरान करता है, मुर्गा लड़ाई और कार दुर्घटनाओं के बीच अंतर” की पहचान नहीं कर सकता है।

जबकि रिपोर्ट में दावा किया गया है कि फेसबुक केवल अभद्र भाषा सामग्री के “कम-एकल-अंक प्रतिशत” को हटाता है, कंपनी के प्रवक्ता ने अखबार को अपनी प्रतिक्रिया में कहा है कि ये प्रतिशत उन पोस्टों को संदर्भित करते हैं जिन्हें एआई का उपयोग करके हटा दिया गया था, और इसमें शामिल नहीं था अन्य कार्रवाइयाँ जो कंपनी द्वारा अभद्र भाषा को देखने वाले लोगों की संख्या को कम करने के लिए की जाती है, जिसमें समाचार फ़ीड में कम रैंकिंग वाली पोस्ट शामिल हैं।

विशेष रूप से भारत के लिए, फेसबुक ने पहले कहा है कि उसके मानव समीक्षक 20 भारतीय भाषाओं – हिंदी, बंगाली, तमिल, मलयालम, पंजाबी, उर्दू, कन्नड़, मराठी, गुजराती, असमिया, तेलुगु, उड़िया, सिंधी, मिज़ो, मारवाड़ी, छत्तीसगढ़ी में सामग्री की समीक्षा करते हैं। , तुलु, मैथिली/भोजपुरी, कोंकणी और मैतेई।

एक आंतरिक फेसबुक योजना दस्तावेज़ के अनुसार, “असम विशेष रूप से चिंता का विषय है क्योंकि हमारे पास असमिया नफरत-भाषण क्लासिफायरियर नहीं है।”

.