StepFun 展示 Step 5 Preview 模型在 NVIDIA GB300 上的推理性能

OmniTools 10月15日消息，StepFun 近日公开 Step 5 Preview 模型的推理性能数据。该模型采用 600B 参数 MoE 架构，是 StepFun 迄今最大的开源权重发布。

模型支持最长 24 小时的 Agent 任务处理。在 NVIDIA GB300 平台上，使用 NVFP4 量化格式可实现近 8000 tokens/sec/GPU 的推理速度。官方已同步提供 NVFP4 格式 Checkpoint（Hugging Face 链接：https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4）。

此外，Step 5 Preview 兼容 SGLang、vLLM、NeMo Automodel 等主流推理框架，支持后训练，并可通过 NVIDIA NIM 实现一键部署。