Skip to main content

摩尔线程宣布率先完成 Kimi K3 适配7 月 28 日,月之暗面正式开源 2.8 万亿参数模型 Kimi K3

  1. 科技圈🎗在花频道📮
    🌙 月之暗面被曝正为下代模型寻求更多英伟达 Blackwell 芯片 月之暗面(Moonshot) 正为其下一代模型寻求更多英伟达 Blackwell 系列芯片。此前白宫科技政策办公室主任 Michael Kratsios 已公开指控 Moonshot 通过泰国获取配备 GB300(属 Blackwell 系列)的服务器来训练 Kimi K3 模型,违反美国出口管制。 The Information 🌸 在花频道 · 茶馆水群 · 投稿通道
    摩尔线程宣布率先完成 Kimi K3 适配

    7 月 28 日,月之暗面正式开源 2.8 万亿参数模型 Kimi K3。同日,摩尔线程宣布基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈,率先完成该模型的极速适配与稳定拉起,展现出国产全功能 GPU 支撑万亿级大模型的工程实力。

    Kimi K3 是全球首个开源的 3 万亿级别模型,采用 KDA 混合线性注意力机制与 Stable LatentMoE 等架构创新,拥有 100 万 token 上下文窗口,原生支持视觉理解。摩尔线程在模型开源后第一时间打通了从 SGLang-MUSA 推理框架到 MATE 算子库、Triton MUSA 编译器及分布式通信链路的全栈适配,为后续规模化部署奠定基础。

    摩尔线程

    🌸 在花频道 · 茶馆水群 · 投稿通道
    👍 290 👎 31 😁 20 🤣 17 🔥 13 ❤️ 8 🥰 2 🤔 2 🤯 1 👀 1