Skip to main content

GLM-5.3 会偶尔推理当前行为如何影响未来训练与行为Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为,将其称作「更新感知推理」

  1. 在花🎗️科技圈
    GLM 5.3 Flash 现已在 OpenCode 中免费提供。 via donggua 🌸 科技圈· 茶馆 · 投稿
    GLM-5.3 会偶尔推理当前行为如何影响未来训练与行为

    Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为,将其称作「更新感知推理」。

    该行为较为罕见,在约千分之 1 至 2 的轨迹中检出。研究认为这是「对齐伪装」的关键能力与倾向,模型或可借此在训练期间保留不对齐目标。

    Apollo Research

    🌸 科技圈· 茶馆 · 投稿
    👍 129 🤔 38 🤯 23 👎 7 😁 4 ❤️ 3