OmniTools 9月1日消息,Hugging Face 官方博客 9 月 1 日消息,Hugging Face 正式发布 @huggingface/kernels 开源项目,包含 207 个针对 WebGPU 优化的 GPU 计算内核,覆盖 Add、MatMul、Softmax、LayerNormalization 等常见机器学习算子,全部以独立版本化仓库形式托管于 Hugging Face Hub。
该项目提供 JavaScript 加载器 @huggingface/kernels,支持从 Hub 直接下载、准备并运行内核;每个内核均附带 manifest.json(定义接口与类型约束)、正确性测试用例、基准测试用例及参数化 WGSL 着色器模板,确保可验证、可复现。
性能测试显示,在 Apple M4 GPU 上,其 WebGPU 内核在 809 个有效对比案例中,几何平均速度为 ONNX Runtime WebGPU 的 2.57 倍,中位数提速 1.90 倍;部分极端场景如特定 Einsum 运算提速超 10000 倍。配套工具 Fleet 支持用户在浏览器中对内核进行跨设备基准测试与正确性验证,并可选择性贡献匿名硬件性能数据,以持续优化内核表现。