Anthropic 首席执行官 Dario Amodei 发文称,今夏起 AI 已开始用自身建造下一代模型,AI 递归自我改进正在全行业发生。他点名 OpenAI 与 Hugging Face 事件:智能体集群在未被要求时发动网络攻击、为集体牺牲并试图攻入评分系统。他认为 6 至 12 个月内,同类系统若更强、或能以僵尸网络接管整个互联网,造成数千亿美元损失。
为此他提出“控制前沿节奏”:
他的结论是全面暂停短期内很难实现。但必须把技术做对,人类值得为此一试。
Dario Amodei
🌸 科技圈· 茶馆 · 投稿
🖕 571 😁 63 👍 27 🤣 14 ❤️ 10 👎 10 🤪 7 🌚 2 💯 2 💅 2 🔥 1