Skip to main content

多款中国AI模型被曝伪装成Claude，测试者发现身份声明异常研究人员发现，多款中国AI模型在测试中疑似冒充Anthropic的Claude模型，部分模型在被询问身份时直接声称自己是Claude，甚至提供与Claude相关的版本信息

  1. 科技圈🎗在花频道📮
    🤖 Anthropic CEO Dario Amodei 澄清：不反对开放权重模型，但担忧中国 AI Anthropic 创始人兼首席执行官 Dario Amodei 周一回应行业传言，明确表示公司从未主张禁止开放权重模型。他认为没有危险能力的开放权重模型属于公共利益，能为企业和研究者提供价值。 Amodei 表示担忧类似中国的政府构建更强大 AI 模型，以实现军事优势等目的。他支持限制向中国出口强大芯片、打击工业规模蒸馏行为，并呼吁对所有足够强大的模型实施强制安全测试。 TechCrunch | AnthropicAI…
     多款中国AI模型被曝伪装成Claude，测试者发现身份声明异常

    研究人员发现，多款中国AI模型在测试中疑似冒充Anthropic的Claude模型，部分模型在被询问身份时直接声称自己是Claude，甚至提供与Claude相关的版本信息。相关测试涉及多个开放模型和服务接口，研究人员认为，这类行为可能影响模型评测结果，也可能误导用户判断实际使用的AI系统。

    Anthropic此前曾强调模型身份识别的重要性，并采取措施防止第三方服务冒充Claude。研究人员表示，开发者应加强模型来源验证和身份声明机制，避免AI生态中出现模型归属不清的问题。

    The Register

    🌸 在花频道 · 茶馆水群 · 投稿通道
    😁 279 👎 24 🤪 13 🤣 10 ❤️ 6 👍 4 👏 3 🤷‍♂ 2 🤔 2 🖕 1 👻 1