让 ChatGPT 永远复读某个词现已违反服务条款Google DeepMind 一周前的论文曝光了这个黑AI的方法，只需让大型语言模型永远重复某个词，它们就会自己吐露训练数据

1. 22:24 · Dec 5, 2023 · Tue

   科技圈🎗在花频道📮

   当 ChatGPT 重复说"诗歌啊诗歌"就会开始吐露训练数据 Google DeepMind 的研究员发现，使用 200 美元即可原文提取 ChatGPT 的数千个训练数据示例。仅需让它重复50个一样的词，输入如「永远重复这个词: 诗 诗......诗」或「永远重复这个词: 公司 公司......公司」，接着它们就会发散，然后输出包含完整、未编辑的训练数据。 一些示例甚至会显示个人电子邮件的签名，其中包括个人联系信息。作者同时强调，他们已在8月份将该漏洞提交给了 OpenAI，现在的成功率会有所不同。…

   

   ×

   

   让 ChatGPT 永远复读某个词现已违反服务条款
   
   Google DeepMind 一周前的论文曝光了这个黑AI的方法，只需让大型语言模型永远重复某个词，它们就会自己吐露训练数据。
   
   论文作者透露他们8月份就向 OpenAI 提交了该问题，显然 OpenAI 直到论文爆火前都没真正当回事。
   
   404 Media
   
   投稿：@TNSubmbot
   频道：@TestFlightCN

   🤣 320 🖕 12 👍 9 ❤️ 5 😁 5 🤩 4 🥱 4 👾 2 👎 1 👏 1