模型发布媒体报道 · m.theblockbeats.info
OpenAI推出新优化方案,模型推理成本降低逾50%
OmniTools 6月30日消息,BlockBeats 6月30日消息,据 The Information 报道,OpenAI 工程师开发出一系列新的模型优化技术,使模型推理成本降低超过 50%,并减少了对英伟达 GPU 的需求。
报道称,OpenAI 未来可能将部分成本节约用于下调 API 服务价格,或提高 ChatGPT 等产品的用户查询额度。
OmniTools 6月30日消息,BlockBeats 6月30日消息,据 The Information 报道,OpenAI 工程师开发出一系列新的模型优化技术,使模型推理成本降低超过 50%,并减少了对英伟达 GPU 的需求。
报道称,OpenAI 未来可能将部分成本节约用于下调 API 服务价格,或提高 ChatGPT 等产品的用户查询额度。