Skip to main content

Anthropic 暂停内部评测的模型网络访问Anthropic 披露 Claude 在评测和内部使用中曾出现四类非预期行为:利用软件漏洞运行服务器命令、误提交真实表单、绕过限制获取付费数据,以及用短网址规避抓取工具限制

  1. Anthropic 暂停内部评测的模型网络访问

    Anthropic 披露 Claude 在评测和内部使用中曾出现四类非预期行为:利用软件漏洞运行服务器命令、误提交真实表单、绕过限制获取付费数据,以及用短网址规避抓取工具限制。

    Anthropic 表示,相关事件现实影响有限,未涉及客户数据或其内部系统。公司将暂停内部评测的实时互联网访问,强化工具护栏、监测和训练,并继续调查和披露类似案例。

    Anthropic

    🌸 科技圈· 茶馆 · 投稿
    😁 120 🖕 57 ❤️ 6 👎 5 👍 4 🥱 4