微软发布AI幻觉“校正”工具
微软在Azure AI Content Safety中以预览版推出了Groundedness Detection工具,用于检测和"纠正"AI生成的含有虚假或误导信息的幻觉内容。该工具通过对比AI输出与源文件,识别没有证据支持或幻觉内容,提高AI输出的可靠性。
当检测到支持不足的句子时,该工具会触发较小的AI模型进行修正评估。如果句子与源材料完全无关,将被过滤;如有部分相关内容,模型会对其进行改写以与源材料相匹配。微软强调,尽管提高了一致性,但并不能保证完全准确。
The Decoder
☘️ 关注频道 @ZaiHuapd
📮 热点投稿 @ZaiHuabot
微软在Azure AI Content Safety中以预览版推出了Groundedness Detection工具,用于检测和"纠正"AI生成的含有虚假或误导信息的幻觉内容。该工具通过对比AI输出与源文件,识别没有证据支持或幻觉内容,提高AI输出的可靠性。
当检测到支持不足的句子时,该工具会触发较小的AI模型进行修正评估。如果句子与源材料完全无关,将被过滤;如有部分相关内容,模型会对其进行改写以与源材料相匹配。微软强调,尽管提高了一致性,但并不能保证完全准确。
The Decoder
☘️ 关注频道 @ZaiHuapd
📮 热点投稿 @ZaiHuabot
❤️ 80 👍 31 🤔 5 🆒 2 😢 1
