谷歌 DeepMind 开源 SynthID 技术,为 AI 文本添加数字水印
谷歌 DeepMind 近日宣布开源其 SynthID 技术,用于为大语言模型 (LLM) 生成的文本添加数字水印。该技术旨在帮助识别 AI 生成内容,以应对潜在的虚假信息问题。目前,SynthID Text 的正式版本已集成于 Hugging Face Transformers 库 v4.46.0+ 版本中,开发者可直接使用。
该技术无需额外训练模型,它在文本生成过程中通过修改模型的 logits 来嵌入人眼无法察觉的水印。官方表示,该水印对剪裁或少量修改有较强抵抗力,但若文本被大幅改写或翻译,检测置信度会显著下降。
Google AI for Developers
🍀频道 🍵茶馆 📮投稿
谷歌 DeepMind 近日宣布开源其 SynthID 技术,用于为大语言模型 (LLM) 生成的文本添加数字水印。该技术旨在帮助识别 AI 生成内容,以应对潜在的虚假信息问题。目前,SynthID Text 的正式版本已集成于 Hugging Face Transformers 库 v4.46.0+ 版本中,开发者可直接使用。
该技术无需额外训练模型,它在文本生成过程中通过修改模型的 logits 来嵌入人眼无法察觉的水印。官方表示,该水印对剪裁或少量修改有较强抵抗力,但若文本被大幅改写或翻译,检测置信度会显著下降。
Google AI for Developers
🍀频道 🍵茶馆 📮投稿
👎 135 🤔 26 👍 21 🆒 5 ❤️ 4 🔥 4 😁 4 🙈 2