10 月 15 日，阶跃星辰开源新一代旗舰模型 Step 5 Preview。更值得关注的，是昇腾在模型权重发布当天基于 vLLM 完成 0Day 推理支持，并由 Atlas 950 SuperPoD 液冷超节点承接；在针对稀疏 MoE 与百万上下文负载的深度优化后，这套推理部署的性能看齐海外先进算力。这个动作把焦点从模型本身转向国产 AI 基础设施：当开源模型走向稀疏 MoE、长上下文和多模态，算力集群能否在发布当天完成工程化适配，正在成为新的竞争点。
0Day 适配：开源模型落地不再只等权重
对于开发者和企业用户，开源模型的价值不只来自参数和能力，还来自能否快速部署。Step 5 Preview 权重刚释放，昇腾已基于 vLLM 提供推理支持，这意味着国产算力平台开始把适配节奏前置到模型发布当天。相比“后续支持”，0Day 适配缩短了从模型下载到业务验证的窗口，也降低了开发者在异构算力上重新移植的成本。
Step 5 Preview 的规格进一步放大了部署难度。模型采用稀疏 MoE 路线，总参数 600B，单 token 激活 27B，上下文窗口达到 1M token，并支持图像、视频多模态输入；在 AI 编程、软件工程、专业工作、金融等方向达到前沿水准，主要面向 Agent、软件工程和金融等长任务。架构上，它使用新的 Sparse Attention：先由 Indexer 筛选 token，再在选中范围内执行 self-attention；为了避免 Index 成为瓶颈，系统以 Region 为单位，对 8 个 token 的 Indexer Key 进行压缩。此类设计提升了效率，但也对推理系统的内存、通信和调度提出更高要求。
稀疏 MoE 的瓶颈，从单卡算力转向集群互联
传统集群运行 MoE 模型时，常见问题不是算力不够，而是卡与卡之间等待数据。专家路由、All-to-All 通信、KV 搬运都会放大延迟。昇腾 Atlas 950 SuperPoD 的思路是把大规模 NPU 组织成一台完整机器：1024 张昇腾 950 NPU 在单域内互联，提供 1 EFLOPS FP8 和 2 EFLOPS FP4 算力，配备 256TB 全局统一内存编址，NPU 卡间带宽为 TB 级，时延低至 3μs。
底层依托灵衢高速互联，1024 卡可直接互访，减少 CPU 中转和交换机层级。对 Step 5 Preview 这类模型，All-to-All、MoE 路由和 KV 搬运是最容易拖慢推理的链路；单域互联让这些操作获得更高带宽和更低时延，从而把更多时间留给计算本身。
算子、通信、框架三层协同压缩非计算开销
昇腾对 Step 5 Preview 的优化并非单点补丁，而是围绕模型架构和硬件特性展开。公开信息提到三类关键路径：
- 算子层：IndexerLogits、SparseAttn 等模块使用 Ascend C 实现，并利用昇腾 950 的 FP8 算力；Triton 用于融合 qk norm、index key 压缩等算子，并通过 AutoTune 寻找 Tiling。MoE 路由中的 Hash TopK 专家选择也经过处理，减少跨层重复操作。权重采用 MXFP8 重排，由硬件单元直接反量化。
- 通信层：超节点同时使用 FullMesh 与 CLOS，提升 AllReduce、AllGather、ReduceScatter 等集合通信原语表现。Dispatch Server 级去重减少同一 token 被多个同机专家选中时的重复跨服务器流量；Combine 双缓冲让专家输出先本地归并，再交替回传与 Reduce，压缩等待时间。
- 框架层：通过 MoE 序列并行降低冗余计算，让 Vector、Cube 与通信多流并行；解码阶段纳入 NPU Graph，使用持久化 buffer 和输出复用；MTP 与 tiling 下沉用于减少主模型和草稿模型之间的断流；Prefill 阶段对 Indexer Key slot 进行预分配，减少层间动态搜索。
这些动作共同指向一个目标：把通信、调度和内存管理造成的空泡压下去，让 950 超节点的带宽和算力更多用于模型计算。对于百万上下文和稀疏 MoE 场景，这种全链路优化往往比单个算子提速更重要。
国产算力开始面对新的验收标准
这次事件的意义不在于一次模型发布，而在于国产 AI 基础设施开始展示承接前沿开源模型的工程能力。过去评估算力平台，外界更关注单卡指标；但 Step 5 Preview 这类模型把问题推向系统层：千卡互联、统一内存、低时延通信、推理框架、量化工具和部署文档需要一起工作。
昇腾在模型开源当天提供 vLLM 适配，并给出针对 Step 5 Preview 的量化版推理部署指导，说明国产平台正在把“支持模型”变成“支持模型工作负载”。接下来，更关键的检验是这种能力能否复制到更多开源模型、更多生产环境，以及在长周期运行、成本控制和稳定性上持续兑现。Step 5 Preview 与 Atlas 950 SuperPoD 的组合，提供了一个可被行业继续观察的样本。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/step-5-preview-kai-yuan-ji-pao-guo-chan-suan-li-ji-qun-ying
