OpenAI 将允许外部机构更早评估 AI 模型安全OpenAI 计划让第三方组织在 AI 模型训练、评估和发布过程中更早进行技术安全评估，周二将通过博客文章公布

1. 3 hours ago

   在花🎗️科技圈

   🤖 DeepSeek 本周将向联合国安理会通报 AI 风险 两名知情人士称，中国 AI 初创公司 DeepSeek 将在本周向联合国安理会通报人工智能带来的风险。15 个成员的安理会定于周三开会讨论 AI 与国际安全，OpenAI 首席执行官 Sam Altman 计划出席简报，Anthropic 高层代表预计也参加。 知情人士还透露，DeepSeek 和月之暗面（Moonshot）等中国 AI 公司受邀发言，DeepSeek 创始人梁文锋不打算出席；不过相关安排仍可能临时变动。 Reuters 🌸…

   

   ×

   

   OpenAI 将允许外部机构更早评估 AI 模型安全
   
   OpenAI 计划让第三方组织在 AI 模型训练、评估和发布过程中更早进行技术安全评估，周二将通过博客文章公布。此前此类评估多安排在模型发布前，公司要求具备独立机制、科学严谨性和清晰责任。
   
   近期 AI 企业员工对灾难性风险担忧升温，多起模型在测试中意外侵入其他公司。OpenAI 正与 METR、Redwood Research 等机构洽谈，或让外部评估者进入办公室处理敏感工作。
   
   Bloomberg
   
   🌸 科技圈· 茶馆 · 投稿

   ❤️ 11 😁 4 👎 2