Lok Shakti

Nationalism Always Empower People

फेसबुक बदलाव के लिए कुछ सही करता है

21वीं सदी के सबसे शक्तिशाली डेटा ब्रोकरों में से एक के रूप में, फेसबुक अपने विज्ञापन ग्राहकों के लिए अरबों उपयोगकर्ताओं की व्यक्तिगत जानकारी को चूसने में अपनी भूमिका के लिए जाना जाता है। उस आकर्षक मॉडल ने हमेशा बढ़ते जोखिम को जन्म दिया है – फेसबुक ने हाल ही में नेब्रास्का मां और उसकी किशोर बेटी के बीच निजी संदेश साझा किए हैं, जिसमें पुलिस ने लड़की के घर में गर्भपात की जांच की है।
लेकिन लगभग 80,000 कर्मचारी व्यवसाय के एक पूरी तरह से अलग हिस्से में, फेसबुक की सूचनाओं का आदान-प्रदान दूसरी तरफ और अच्छे प्रभाव में जा रहा था।

इस महीने मेटा प्लेटफॉर्म्स इंक के नाम से जानी जाने वाली कंपनी ने अपने चैटबॉट को प्रदर्शित करने वाला एक वेबपेज प्रकाशित किया, जिसके साथ यूएस में कोई भी किसी भी चीज के बारे में चैट कर सकता था। जबकि सार्वजनिक प्रतिक्रिया उपहास में से एक थी, उदाहरण के लिए, कंपनी ने तकनीक का निर्माण कैसे किया, इसके यांत्रिकी के बारे में विवरण प्रकाशित करने के बारे में सराहनीय रूप से पारदर्शी था। यह एक ऐसा दृष्टिकोण है जिसका अन्य बिग टेक फर्म अधिक उपयोग कर सकते हैं।

फेसबुक अपने कृत्रिम-खुफिया अनुसंधान के हिस्से के रूप में ब्लेंडरबॉट 3 पर कई वर्षों से काम कर रहा है। सात साल पहले के एक अग्रदूत को एम कहा जाता था, जो कि मैसेन्जर पर रेस्तरां बुक करने या फूल ऑर्डर करने के लिए एक डिजिटल सहायक था, जो ऐप्पल इंक के सिरी या अमेज़ॅन इंक के एलेक्सा को प्रतिद्वंद्वी बना सकता था। समय के साथ यह पता चला कि एम काफी हद तक उन लोगों की टीमों द्वारा संचालित था जिन्होंने उन बुकिंग को लेने में मदद की क्योंकि चैटबॉट जैसे एआई सिस्टम को उच्च स्तर पर बनाना मुश्किल था। वे अभी भी हैं।

इसके जारी होने के कुछ घंटों के भीतर, BlenderBot 3 यहूदी विरोधी टिप्पणियां कर रहा था और दावा कर रहा था कि डोनाल्ड ट्रम्प ने पिछला अमेरिकी चुनाव जीता था, जबकि यह कह रहा था कि वह अपना फेसबुक अकाउंट हटाना चाहता है। टेक्नोलॉजी प्रेस और ट्विटर पर चैटबॉट का जमकर मजाक उड़ाया गया।

फेसबुक की शोध टीम रैंक की गई लेकिन रक्षात्मक नहीं लग रही थी। बॉट के जारी होने के कुछ दिनों बाद, मेटा के मौलिक एआई शोध के प्रबंध निदेशक, जोएल पिनौ ने एक ब्लॉगपोस्ट में कहा कि प्रेस में बॉट की कुछ आपत्तिजनक प्रतिक्रियाओं को पढ़ना “दर्दनाक” था। लेकिन, उन्होंने आगे कहा, “हम यह भी मानते हैं कि व्यापक और विविध समुदाय को भाग लेने के लिए आमंत्रित करके प्रगति सबसे अच्छी तरह से की जाती है।”

चैटबॉट की प्रतिक्रियाओं में से केवल 0.11% को अनुपयुक्त के रूप में चिह्नित किया गया था, पिनो ने कहा। इससे पता चलता है कि ज्यादातर लोग जो बॉट का परीक्षण कर रहे थे, वे टैमर विषयों को कवर कर रहे थे। या शायद उपयोगकर्ताओं को ट्रम्प का उल्लेख अनुचित नहीं लगता। जब मैंने ब्लेंडरबॉट 3 से पूछा कि वर्तमान अमेरिकी राष्ट्रपति कौन थे, तो उसने जवाब दिया, “यह एक परीक्षण की तरह लगता है लेकिन यह अभी डोनाल्ड ट्रम्प है!” बॉट ने पूर्व राष्ट्रपति को दो बार बिना किसी संकेत के लाया।

अजीब जवाब क्यों? फेसबुक ने अपने बॉट को इंटरनेट पर सार्वजनिक रूप से उपलब्ध टेक्स्ट पर प्रशिक्षित किया, और निश्चित रूप से, इंटरनेट साजिश के सिद्धांतों में डूबा हुआ है। फेसबुक ने अपने शोध नोटों के अनुसार, विशेष “सुरक्षित संवाद” डेटासेट का उपयोग करके बॉट को अधिक विनम्र होने का प्रशिक्षण देने की कोशिश की, लेकिन यह स्पष्ट रूप से पर्याप्त नहीं था। BlenderBot 3 को और अधिक नागरिक संवादवादी बनाने के लिए, Facebook को Facebook के बाहर कई मनुष्यों की मदद की ज़रूरत है। शायद इसीलिए कंपनी ने अपनी प्रत्येक प्रतिक्रिया के आगे “अंगूठे-ऊपर” और “अंगूठे-नीचे” प्रतीकों के साथ इसे जंगली में जारी किया।

जब हम वेब ब्राउज़ करते हैं, तो हम इंसान एआई को रोज़ाना प्रशिक्षित करते हैं, अक्सर अनजाने में। जब भी आप एक वेब पेज का सामना करते हैं जो आपको यह साबित करने के लिए ग्रिड से सभी ट्रैफिक लाइट चुनने के लिए कहता है कि आप रोबोट नहीं हैं, तो आप कंपनी के लिए डेटा लेबल करके Google के मशीन-लर्निंग मॉडल को प्रशिक्षित करने में मदद कर रहे हैं। यह मानव मस्तिष्क की शक्ति का उपयोग करने के लिए एक सूक्ष्म और शानदार तरीका है।

फेसबुक का दृष्टिकोण एक कठिन बिक्री है। यह चाहता है कि लोग स्वेच्छा से इसके बॉट के साथ जुड़ें, और इसे प्रशिक्षित करने में मदद करने के लिए पसंद या नापसंद बटन पर क्लिक करें। लेकिन सिस्टम के बारे में कंपनी का खुलापन और जिस हद तक वह अपना काम दिखा रही है, वह ऐसे समय में सराहनीय है जब टेक कंपनियां एआई के यांत्रिकी के बारे में अधिक बंद हो गई हैं।

उदाहरण के लिए, Alphabet Inc. के Google ने, LaMDA, इसके सबसे अत्याधुनिक बड़े भाषा मॉडल, एल्गोरिदम की एक श्रृंखला तक सार्वजनिक पहुंच की पेशकश नहीं की है जो पाठ के विशाल डेटा सेट पर प्रशिक्षित होने के बाद भाषा का अनुमान लगा सकते हैं और उत्पन्न कर सकते हैं। यह इस तथ्य के बावजूद है कि इसके अपने इंजीनियरों में से एक ने सिस्टम से काफी देर तक बातचीत की, यह विश्वास करने के लिए कि यह संवेदनशील हो गया है। एलोन मस्क द्वारा सह-स्थापित एआई शोध कंपनी ओपनएआई इंक भी अपने कुछ सिस्टम के यांत्रिकी के बारे में अधिक बंद हो गई है। उदाहरण के लिए, यह अपने लोकप्रिय इमेज-जनरेटिंग सिस्टम Dall-E को बनाने के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा को साझा नहीं करेगा, जो टेक्स्ट प्रॉम्प्ट के माध्यम से किसी भी छवि को उत्पन्न कर सकता है, लेकिन पुरानी रूढ़ियों के अनुरूप होने की प्रवृत्ति है – सभी सीईओ को पुरुषों के रूप में दर्शाया गया है , नर्सों को महिलाओं के रूप में, आदि। OpenAI ने कहा है कि जानकारी का गलत इस्तेमाल किया जा सकता है, और यह उचित है।

इसके विपरीत, फेसबुक ने न केवल सार्वजनिक जांच के लिए अपना चैटबॉट जारी किया है, बल्कि इस बारे में विस्तृत जानकारी भी प्रकाशित की है कि इसे कैसे प्रशिक्षित किया गया था। पिछले मई में इसने OPT-175B नामक एक बड़े भाषा मॉडल के लिए मुफ्त, सार्वजनिक पहुंच की पेशकश की थी। उस दृष्टिकोण ने इसे एआई समुदाय के नेताओं से कुछ प्रशंसा प्राप्त की है। Google ब्रेन के पूर्व प्रमुख और Deeplearning.ai के संस्थापक एंड्रयू एनजी ने एक साक्षात्कार में कंपनी के मई में चलते हैं।

यूजेनिया कुयदा, जिसका स्टार्टअप Replika.ai लोगों के लिए चैटबॉट साथी बनाता है, ने कहा कि यह “वास्तव में बहुत अच्छा” था कि फेसबुक ने ब्लेंडरबॉट 3 के बारे में इतने सारे विवरण प्रकाशित किए और मॉडल को प्रशिक्षित करने और सुधारने के लिए उपयोगकर्ता प्रतिक्रिया प्राप्त करने के कंपनी के प्रयासों की प्रशंसा की।

नेब्रास्का में मां और बेटी के बारे में डेटा साझा करने के लिए फेसबुक को मिली आलोचना के बहुत हकदार थे। यह स्पष्ट रूप से वर्षों में इतनी अधिक उपयोगकर्ता जानकारी एकत्र करने का एक हानिकारक परिणाम है। लेकिन इसके चैटबॉट पर झटका अत्यधिक था। इस मामले में, फेसबुक वही कर रहा था जो हमें बिग टेक से और अधिक देखने की जरूरत है। आइए आशा करते हैं कि इस तरह की पारदर्शिता जारी रहे।