开源大模型推理引擎 TokenSpeed 自称达“光速”

OmniTools 10月15日消息，GitHub 上新出现名为 TokenSpeed 的开源项目，定位为大语言模型（LLM）推理引擎。项目简介中称其性能目标为“光速”（speed-of-light）。该项目由 lightseekorg 组织发布，目前代码仓库已公开。