发布于

在华为芯片上运行一个2万亿参数的模型将改写硬件叙事。

作者

Listen in English · 在华为芯片上运行一个2万亿参数的模型将改写硬件叙事。

0:00 / 0:00

Watch in English · 在华为芯片上运行一个2万亿参数的模型将改写硬件叙事。

来自中国的传闻称,DeepSeek 正在华为昇腾 950 芯片上预训练 V5——约两万亿参数、超稀疏 MoE——华为内核工程师在 DeepSeek 的办公室内工作。若属实,这将把瓶颈从芯片转移到编译器。

今天上午流传的一则传闻称,DeepSeek 已经在预训练 V5:大约两万亿参数,是一种超稀疏的混合专家模型,而且——真正关键的部分——这次预训练运行在华为昇腾 950 / 950DT 上,而不是英伟达硬件上。同一说法还称,华为的内核工程师正实地在 DeepSeek 办公室工作,以维持集群运行。

这里没有任何内容得到证实。没有论文,没有基准测试,没有硬件披露。请把下面每一个数字都当作被转述的说法,而不是被报道的事实。

2T
声称的参数——约为 DeepSeek 上一代旗舰的 3 倍,未经证实
950
华为昇腾芯片被指为训练底座,而非英伟达
0
公开基准、论文或硬件披露均未证实其中任何一点

为什么“超稀疏(ultra-sparse)”是个有意思的词

混合专家模型存储许多专家子网络,并将每个 token 只路由到其中少数几个。总参数量可以极其庞大,而每个 token 的计算量却保持适度——你付出的是内存和路由的代价,而不是把所有东西与所有东西相乘的代价。

V3(已发布)671参数(十亿)
V5(据称)2,000参数(十亿)
总参数量(十亿)。V5 的数字为传闻所称,并未披露。

在 2 万亿参数规模下,“超稀疏”不再是一个细节,而成为整个工程问题。模型不再符合通常的假设:专家必须跨多台设备分片,token 必须以低成本跨这些设备路由,互连而非算术单元成为上限。而这正是非 NVIDIA 技术栈历史上一直失败的层面。

  1. 模型决定了通信流量

    超稀疏路由把每个 token 发送给分散在集群中的少数专家——这是全对全通信,而非稠密矩阵乘法。

  2. 内核决定吞吐量

    注意力、路由、集合通信和内存搬运都需要针对特定芯片手工调优的内核。移植通常就败在这一步。

  3. 工程师与模型团队坐在一起

    传闻中的内核工程师驻场就是关键线索:这意味着软件栈并非交钥匙方案,而需要联合开发。

  4. 这次运行要么完成,要么没有完成

    前沿预训练运行是一场不容有失的单一测试。部分成功就是失败,所以没人会轻率宣称成功。

瓶颈已从芯片转移到编译器。

硬件声明才是真正的关键所在

  1. CUDA 的护城河是在软件层被侵蚀的,而不是在硅片层。 移植一次大规模训练运行是一个以工程师年计的编译器和内核项目。做过一次就证明可以再做一次。
  2. 人才同址办公成为产品本身。 把工程师派驻到客户办公室的芯片厂商卖的是集成,而不是硬件。这种模式更接近企业软件的部署方式,而不是芯片通常的销售方式。

大家都看到过中国实验室在受限硬件上训练,并取得出人意料的进展。这里的新意在于规模:不是微调,不是推理,而是在国产芯片上进行一次前沿预训练运行。

如果属实,随之有三点,且都不要求该模型击败任何东西:

出口管制有了新的反事实假设。 限制措施的部分依据是这样一个假设:前沿训练需要特定的供应链。如果在昇腾上完成一次前沿训练运行,就会削弱这一假设——反而会增强对工具和内存实施管制的理由。

我们实际会关注什么

这类传言成本很低;实打实的证据却不是。要关注是否出现点名该集群的技术报告、每芯片吞吐量数据,或一款只在昇腾上运行良好的推理版本发布。其中任何一项都会让它从一种说法变成一个数据点。

我们构建数据和推理系统,而无论这一具体传闻是否属实,实际教训已经很清楚:模型的可移植性是软件属性,而不是硬件属性。 把内核、路由和内存布局当作一等工程问题来对待的团队,可以跨不同底层平台迁移。把这些当作供应商问题的团队则根本无法迁移。

来源:一则于2026年11月12日流传的未经证实传闻,涉及DeepSeek V5和华为昇腾950/950DT。撰写本文时没有可用的第一手文件;所有数据均如该账号所称,且未经独立证实。

联系方式:[email protected]

请注意,中文版本是由 AI 辅助翻译的,因此可能存在细微错误。

作者

Ai-Banking-NetworkSecurity (ABN), ABN ASIA由具有深厚学术背景的人员创立,他们在美国、荷兰、匈牙利、日本、韩国、新加坡和越南等国家有工作经验。ABN Asia是学术界和技术相遇的地方。凭借我们领先的解决方案和优秀的软件开发服务,我们帮助企业提升水平,走向全球舞台。我们的承诺:更快。更好。更可靠。在大多数情况下:也更便宜。

无论您需要IT服务、数字咨询、现成软件解决方案,还是想向我们发送招标要求(RFPs),都请随时与我们联系。您可以通过[email protected]与我们联系。我们随时准备为您提供所有技术需求的帮助。

ABNAsia.org

© ABN ASIA