OTRouterClaude、GPT 一个 Key 调用看价格 →
模型发布媒体报道 · github.com

DeepSeek 开源 DeepGEMM:统一高性能 GPU 张量核心内核库,支持 FP8/FP4/BF16 及融合 MoE

OmniTools 10月6日消息,DeepSeek 正式开源 DeepGEMM,这是一个统一的高性能 GPU 张量核心内核库。该库支持 FP8、FP4、BF16 等精度的 GEMM 运算,并深度集成融合 MoE、MQA 评分、HyperConnection 等大模型核心原语。所有内核均通过 DeepJIT 在运行时动态编译,安装部署无需依赖本地 CUDA 编译环境。官方测试表明,其在多种矩阵形状下的性能表现可匹配或超越专家级调优库。

返回快讯