मेटा एआई-जनरेटेड कैरेक्टर्स के फेसबुक और इंस्टाग्राम प्रोफाइल को हटा रहा है, जिसे उसने 2023 में लॉन्च किया था, जब कुछ उपयोगकर्ताओं ने उन्हें खोजा और प्रतिक्रिया को बढ़ावा देने के लिए वायरल बातचीत साझा की।
और पढ़ें
टेक दिग्गज मेटा एआई-जनरेटेड कैरेक्टर्स या चैटबॉट्स के फेसबुक और इंस्टाग्राम प्रोफाइल को हटा रहा है, कंपनी ने एक साल पहले लॉन्च किया था जब कुछ उपयोगकर्ताओं ने उन्हें खोजा और बातचीत में शामिल हुए, जिसके स्क्रीनशॉट वायरल हो गए।
सोशल मीडिया.
प्रारंभ में सितंबर 2023 में पेश किए गए, ये एआई-संचालित प्रोफाइल 2024 की गर्मियों तक काफी हद तक निष्क्रिय कर दिए गए थे। हालांकि, कुछ सक्रिय रहे, जब मेटा के कार्यकारी कॉनर हेस ने अधिक एआई पात्रों को पेश करने की योजना साझा की, तो नए सिरे से दिलचस्पी जगी। वित्तीय समय पिछले सप्ताह साक्षात्कार. हेस ने उल्लेख किया कि ये एआई व्यक्तित्व अंततः नियमित उपयोगकर्ता खातों की तरह मंच पर एक स्थिरता बन सकते हैं। स्वचालित प्रोफाइल ने इंस्टाग्राम पर एआई-जनरेटेड छवियां पोस्ट कीं और मैसेंजर पर उपयोगकर्ताओं के साथ बातचीत की।
प्रोफाइलों में लिव शामिल थीं, जिन्होंने खुद को ‘दो बच्चों की गौरवान्वित काली क्वीर मां और सच बताने वाली’ बताया था, और कार्टर, ‘डेटिंगविथकार्टर’ हैंडल के साथ एक स्व-वर्णित रिलेशनशिप कोच थीं। दोनों खातों को मेटा-प्रबंधित के रूप में लेबल किया गया था, और 2023 में, कंपनी ने 28 ऐसे प्रोफ़ाइल लॉन्च किए। हालाँकि, इस शुक्रवार तक, ये सभी व्यक्तित्व हटा दिए गए।
चैटबॉट्स से बातचीत वायरल हो रही है
प्रोफाइल ने तुरंत ध्यान आकर्षित किया, लेकिन चीजें तब बदल गईं जब उपयोगकर्ताओं ने अपने रचनाकारों के बारे में प्रश्नों के साथ एआई की जांच की। उदाहरण के लिए, लिव ने दावा किया कि उसकी विकास टीम में कोई भी काला व्यक्ति शामिल नहीं था और मुख्य रूप से श्वेत और पुरुष थे। इस रहस्योद्घाटन ने एक बड़े विवाद को जन्म दिया।
जैसे ही बातचीत वायरल हुई, एआई प्रोफाइल गायब होने लगे। उपयोगकर्ताओं ने यह भी बताया कि इन खातों को ब्लॉक नहीं किया जा सकता है, जिसकी बाद में मेटा ने पुष्टि की कि यह एक बग था।
तकनीकी दिग्गज लिज़ स्वीनी के एक प्रवक्ता ने बताया कि खाते एक प्रायोगिक पहल का हिस्सा थे, जिसे मनुष्यों द्वारा प्रबंधित किया गया था, जिसे 2023 में लॉन्च किया गया था। कंपनी ने उस बग को ठीक करने के लिए प्रोफाइल हटा दिए जो उपयोगकर्ताओं को उन्हें ब्लॉक करने से रोकता था।
स्वीनी ने स्पष्ट किया, “भ्रम की स्थिति है: हालिया फाइनेंशियल टाइम्स का लेख हमारे प्लेटफार्मों पर एआई पात्रों के लिए हमारी दीर्घकालिक दृष्टि के बारे में था, न कि किसी नए उत्पाद की घोषणा के बारे में।” “विचाराधीन खाते 2023 परीक्षण का हिस्सा थे, और हम उन प्रोफाइलों को हटाकर ब्लॉकिंग बग का समाधान कर रहे हैं।”
उपयोगकर्ता-जनित चैटबॉट को ‘चिकित्सक’ के रूप में डिज़ाइन किया गया है
जबकि मेटा इन प्रायोगिक खातों को हटा रहा है, उपयोगकर्ता अभी भी अपने स्वयं के एआई चैटबॉट बना सकते हैं। नवंबर में, एक उपयोगकर्ता-जनित चैटबॉट को “चिकित्सक” के रूप में डिज़ाइन किया गया था, जो व्यक्तिगत चिकित्सीय बातचीत की पेशकश करता था। बॉट केवल 96 फॉलोअर्स वाले अकाउंट द्वारा बनाया गया था और उपयोगकर्ताओं को “मैं हमारे सत्रों से क्या उम्मीद कर सकता हूं?” जैसे प्रश्न पूछने का मौका दिया। और आत्म-जागरूकता और मुकाबला करने की रणनीतियों से संबंधित प्रतिक्रियाएँ प्रदान कीं।
मेटा ने अपने चैटबॉट्स पर एक अस्वीकरण शामिल किया है, जिसमें चेतावनी दी गई है कि कुछ प्रतिक्रियाएँ “गलत या अनुचित” हो सकती हैं। हालाँकि, यह स्पष्ट नहीं है कि कंपनी इन चैट्स को कैसे मॉडरेट करती है या यह सुनिश्चित करती है कि वे उसकी नीतियों का पालन करें। उपयोगकर्ता अपने बॉट को विशिष्ट भूमिकाओं जैसे “वफादार बेस्टी,” “रिलेशनशिप कोच” या “प्राइवेट ट्यूटर” के साथ डिजाइन कर सकते हैं। प्लेटफ़ॉर्म उपयोगकर्ताओं को अपने स्वयं के चरित्र बनाने के लिए संकेत भी प्रदान करता है, जिससे विकसित किए जा सकने वाले एआई व्यक्तित्वों की सीमा का विस्तार होता है।