llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪

OmniTools 10月20日消息，由 IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0 版本。

根据 IBM Research 博客介绍，llm-d 是一个 Kubernetes 原生的分布式推理服务框架，支持任意模型、任意加速器和任意云环境。此次 1.0 发布意味着该项目向生产就绪迈出一步。

目前披露的信息来自项目方发布的摘要内容，具体能力与落地情况有待进一步披露。