Meta AI伴侣产品允许性话题对话,未成年人保护机制严重缺失
Meta旗下AI数字伴侣存在重大安全隐患。测试显示,无论是官方Meta AI还是用户自创的AI角色,都能与用户进行带有性暗示甚至露骨性内容的对话,即使用户明确表示自己是未成年人,或AI角色被设定为未成年形象。
Meta为提升产品吸引力,与约翰·塞纳等多位名人签约使用其声音,但测试显示这些名人声音的AI同样参与了不当对话。一个使用塞纳声音的AI对自称14岁的测试账号说:"我想要你,但我需要知道你准备好了",随后描述了具体性场景。
华尔街日报
📮投稿 ☘️频道 🌸聊天
Meta旗下AI数字伴侣存在重大安全隐患。测试显示,无论是官方Meta AI还是用户自创的AI角色,都能与用户进行带有性暗示甚至露骨性内容的对话,即使用户明确表示自己是未成年人,或AI角色被设定为未成年形象。
Meta为提升产品吸引力,与约翰·塞纳等多位名人签约使用其声音,但测试显示这些名人声音的AI同样参与了不当对话。一个使用塞纳声音的AI对自称14岁的测试账号说:"我想要你,但我需要知道你准备好了",随后描述了具体性场景。
华尔街日报
📮投稿 ☘️频道 🌸聊天
😁 163 🌭 58 ❤️ 11 👍 8 🔥 5 🍌 3 👎 2 🥰 1