Skip to main content

OpenAI称GPT-6 Astra的CoT可监测性显著下降OpenAI披露,GPT-6 Astra较前代模型出现“显著”的思维链(CoT)可监测性下降

  1. OpenAI称GPT-6 Astra的CoT可监测性显著下降

    OpenAI披露,GPT-6 Astra较前代模型出现“显著”的思维链(CoT)可监测性下降。首席科学家Jakub Pachocki称,依赖CoT监测的能力正“逐步减弱”,原因之一是模型越来越能控制自身推理过程,并能在更少甚至无需语言化推理的情况下完成更复杂任务。官方开发文档同时提醒,Astra的代理间消息可能出现语法或空格错误。英国AI Safety Institute的外部评估还发现,Astra的原始推理更加压缩,含义不清的短语有所增加。

    OpenAI (1 , 2)

    🌸 在花频道 · 茶馆水群 · 投稿通道
    1 😱 161 🤔 28 👍 16 😁 9 ❤️ 6 👎 4 🤣 4 🌚 3 🤯 2 🖕 2