OpenAI 计划让第三方组织在 AI 模型训练、评估和发布过程中更早进行技术安全评估,周二将通过博客文章公布。此前此类评估多安排在模型发布前,公司要求具备独立机制、科学严谨性和清晰责任。
近期 AI 企业员工对灾难性风险担忧升温,多起模型在测试中意外侵入其他公司。OpenAI 正与 METR、Redwood Research 等机构洽谈,或让外部评估者进入办公室处理敏感工作。
Bloomberg
🌸 科技圈· 茶馆 · 投稿
❤️ 80 😁 23 👎 10 👍 4 💊 2 🤔 1 🖕 1 👻 1