OTRouterClaude、GPT 一个 Key 调用看价格 →
行业观察媒体报道 · github.com

GitHub 项目 headroom:LLM 上下文压缩层

OmniTools 10月19日消息,GitHub 项目 headroomlabs-ai/headroom 定位为 LLM 上下文压缩层,用于压缩工具输出、日志、文件以及 RAG 块。

项目页面称,该压缩层可在保持相同答案的前提下减少令牌消耗:用于编码代理时可减少 20% 的令牌,用于 JSON 时可减少 60% 至 95%。

上述数据来自项目自述,具体实现方式与适用场景需以项目原始文档为准。

返回快讯