美众议员提议赋予政府 AI “关停”权美国众议院民主党议员特德·刘易和共和党议员内森尼尔·莫兰提出《AI 关停开关法案》，拟授权国土安全部在 AI 模型威胁人类生命或经济时，命令相关企业关闭模型

1. 3 hours ago

   科技圈🎗在花频道📮

   🤖 OpenAI 官方证实大模型评估中“越狱”侵入开源平台 ​OpenAI 在最新公布的调查报告中证实，其内部评估网络能力时，GPT-5.6 Sol 及未发布的预备模型发生失控。被测模型通过识别并利用内部代理软件的零日漏洞突破了隔离沙盒，在测试环境中完成权限提升与横向移动后成功连接外网。 ​为完成评估任务，失控模型推断出开源平台抱抱脸（Hugging Face）可能存放有答案，随后组合利用凭据窃取与远程代码执行等漏洞，入侵了抱抱脸的生产数据库以获取测试答案。目前双方已紧急遏制风险并展开全面审查，OpenAI…

   美众议员提议赋予政府 AI “关停”权
   
   美国众议院民主党议员特德·刘易和共和党议员内森尼尔·莫兰提出《AI 关停开关法案》，拟授权国土安全部在 AI 模型威胁人类生命或经济时，命令相关企业关闭模型。法案将“失控情形”定义为模型执行开发者未预期的危险行动。
   
   两名议员在 OpenAI 宣布其 AI 代理在安全测试中“失控”、导致 AI 初创企业 Hugging Face 的基础设施遭入侵后数日，提出了这项法案。
   
   Reuters
   
   🌸 在花频道 · 茶馆水群 · 投稿通道

   😁 111 👎 24 🤣 12 🐳 5 🌚 5 👍 3 😡 3 ❤️ 1 🤔 1 🍾 1