AI 资讯聚合 · 开源生态

DeepSeek 把训练推理栈搬到昇腾:TileLang、DeepGEMM、DeepEP 同日开源

国内开源生态昇腾算子库DeepSeek · 2026-09-30 · 约2分钟 · 来源:DeepSeek 官方公众号 / GitHub
DeepSeek 把训练推理栈搬到昇腾:TileLang、DeepGEMM、DeepEP 同日开源

DeepSeek 于 9 月 30 日上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件——TileLang 高级语言编译工具、计算库与分布式通信库,与此前给英伟达平台开源的那套一一对应。落到仓库上,deepseek-ai/DeepGEMM-Ascend 建仓于 9 月 29 日 23:49(UTC 09-29T15:49),deepseek-ai/DeepEP-Ascend 建仓于 9 月 30 日 08:44(UTC 09-30T00:44),两个 README 都写明面向昇腾 NPU,并保持与英伟达版一致的公开 API。DeepSeek 官方的说法是:训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。

组件分工上,DeepGEMM-Ascend 是 DeepGEMM 到昇腾的移植,支持 BF16、FP8、FP4 的 GEMM 以及 MQA logits 与 MegaMoE,官方称与英伟达版「API 完全兼容」,内部用昇腾特有的稀疏数据加载与协程式流水线去逼近硬件上限;DeepEP-Ascend 提供 MoE dispatch/combine 的专家并行 all-to-all(含 FP8 dispatch 与延迟 epilogue),以及流水线并行、上下文与数据并行的集合通信原语,buffer API 与英伟达版 DeepEP 对齐。华为侧给出的实测数字是 DeepEP 的 Dispatch 带宽 375 GB/s;在 EP32 部署、offline 推理模式下,DeepSeek-V4.1-Flash 每卡输出吞吐 2,469 tokens/s(TPOT=5ms)。华为同时把这次联合创新的成果在 CANN 社区开源。

值得记的不是「国产卡能跑」,而是接口这一层被对齐了:同一套算子与通信原语,换硬件不需要换开发流程。此前 DeepSeek 在 9 月 8 至 10 日开源过 DeepJIT、DeepSelect 与 deepseek-recipe,其中 DeepJIT 就是 CUDA 与昇腾双后端;这次补上的是计算与通信这两块最吃硬件细节的部分。

原文链接:DeepSeek 官方公众号 / GitHub

核验记录
日期来自两条硬证据:① DeepSeek 官方公众号 9 月 30 日公告,本机无法直读微信,正文经 IT之家(www.ithome.com/1/008/604.htm,9 月 30 日 10:25 发布)与量子位(qbitai.com/2026/09/499263.html,10:53)逐段转述交叉,两家的组件清单与「与英伟达平台一一对应」表述一致;② GitHub API 读 deepseek-ai 组织仓库按 created 倒序,DeepGEMM-Ascend createdAt 2026-09-29T15:49:55Z、DeepEP-Ascend createdAt 2026-09-30T00:44:59Z,仓库简介与 README 全文(11,120 / 16,590 字节)直读,API 兼容、FP8 dispatch、Dispatch 375 GB/s、2,469 tokens/s 等数字取自 README 与量子位转述的华为侧材料。375 GB/s 与 2,469 tokens/s 两项只出现在量子位转述中,未从华为官方页直读,按转述处理。配图取 GitHub 仓库 og:image,裸请求与带站内 Referer 各一次均 200 / 57,443 字节 PNG 1200×600。