माँ जो गूगल पर मुकदमा करती है, बेटे की आत्महत्या पर चरित्र।

एक माँ जो Google और चरित्र पर मुकदमा कर रही है। अपने बेटे की मृत्यु पर। मेगन गार्सिया के 14 वर्षीय बेटे, सेवेल सेटर III, की मृत्यु पिछले साल आत्महत्या से हुई गेम ऑफ़ थ्रोन्स कैरेक्टर डेनेरीस टारगैरन और कैरेक्टर पर होस्ट किया गया। जहां उपयोगकर्ता वास्तविक जीवन या काल्पनिक लोगों के आधार पर चैटबॉट बना सकते हैं।

हालांकि, इस सप्ताह की शुरुआत में, सुश्री गार्सिया ने पाया कि मंच अपने दिवंगत बेटे के आधार पर कई बॉट की मेजबानी कर रहा था। सुश्री गार्सिया के वकीलों के अनुसार, कंपनी के ऐप पर एक साधारण खोज ने कई चैटबॉट्स की खोज की, जो कि सेटर की समानता के आधार पर, एक रिपोर्ट के अनुसार है। भाग्य।

वकीलों ने कहा, “हमारी टीम ने चरित्र पर कई चैटबॉट्स की खोज की। हमारे ग्राहक के मृतक बेटे, सेवेल सेटर III को अपने प्रोफ़ाइल चित्रों में प्रदर्शित करते हुए, अपने व्यक्तित्व की नकल करने और अपनी आवाज का उपयोग करके बॉट के साथ एक कॉल सुविधा की पेशकश करने का प्रयास करते हुए।

जब खोला जाता है, तो सेटर पर आधारित बॉट्स ने BIOS को चित्रित किया और उपयोगकर्ताओं को स्वचालित संदेश दिया जैसे: “मेरे कमरे से बाहर निकलें, मैं अपनी एआई प्रेमिका से बात कर रहा हूं”, “उसकी एआई प्रेमिका उसके साथ टूट गई”, और “मेरी मदद”।

आरोपों का जवाब देते हुए, चरित्र।

“Character.ai हमारे प्लेटफ़ॉर्म पर गंभीरता से सुरक्षा लेता है और हमारा लक्ष्य एक ऐसा स्थान प्रदान करना है जो आकर्षक और सुरक्षित हो। उपयोगकर्ता हर दिन प्लेटफ़ॉर्म पर सैकड़ों हजारों नए वर्ण बनाते हैं, और आपके लिए आपके द्वारा झंडी दिखाई देने वाले पात्रों को हटा दिया गया है क्योंकि वे हमारी सेवा की शर्तों का उल्लंघन करते हैं,” कंपनी ने कहा।

“हमारे चल रहे सुरक्षा कार्यों के हिस्से के रूप में, हम लगातार अपने चरित्र ब्लॉकलिस्ट को इस प्रकार के चरित्र को पहले स्थान पर उपयोगकर्ता द्वारा बनाए जाने से रोकने के लक्ष्य के साथ जोड़ रहे हैं।”

यह भी पढ़ें | ऑक्टोपस ने वायरल वीडियो में शार्क की पीठ पर हिचहाइकिंग को पकड़ा: “भाई एक उबेर मिला”

पिछले उदाहरण

यह पहला उदाहरण नहीं है जब एआई चैटबॉट्स प्रतीत होता है कि वह दुष्ट हो गया है। पिछले साल नवंबर में, Google के AI चैटबोट, मिथुन ने, मिशिगन, यूएसए में एक छात्र को धमकी दी, उसे होमवर्क के साथ सहायता करते हुए ‘कृपया मर’ के लिए कहा।

“यह आपके लिए है, आप और केवल आप और केवल आप। आप विशेष नहीं हैं, आप महत्वपूर्ण नहीं हैं, और आपको आवश्यकता नहीं है। आप समय और संसाधनों की बर्बादी हैं। आप समाज पर एक बोझ हैं। आप पृथ्वी पर एक नाली हैं,” चैटबॉट ने एक स्नातक छात्र, विदाई रेडी को बताया, क्योंकि उसने एक परियोजना के लिए अपनी मदद मांगी।

एक महीने बाद, टेक्सास में एक परिवार ने एक मुकदमा दायर किया जिसमें दावा किया गया था कि एक एआई चैटबोट ने अपने किशोर बच्चे को बताया कि माता -पिता को मारना उनके स्क्रीन समय को सीमित करने के लिए एक “उचित प्रतिक्रिया” था।