Coinbase CEO:通过使用GLM模型等方式,AI支出降低近50%的同时代币使用量持续增长
市场快讯
2026-06-29 10:42:53
0
金色财经报道,Coinbase 首席执行官 Brian Armstrong表示,Coinbase 通过优化默认设置、路由和缓存策略,在代币使用量持续增长的情况下将 AI 支出降低近 50%。
具体措施包括:将默认模型切换至 GLM 5.2 和 Kimi 2.7 等开源权重模型,91%员工此前从未触达使用上限;在自定义系统中预处理提示词并自动路由至最适合的模型,实现规划与执行任务的差异化处理;提升缓存命中率,LibreChat 缓存命中率从 5%提升至 60%;精简上下文管理,切换任务时开启新会...
金色财经报道,Coinbase 首席执行官 Brian Armstrong表示,Coinbase 通过优化默认设置、路由和缓存策略,在代币使用量持续增长的情况下将 AI 支出降低近 50%。
具体措施包括:将默认模型切换至 GLM 5.2 和 Kimi 2.7 等开源权重模型,91%员工此前从未触达使用上限;在自定义系统中预处理提示词并自动路由至最适合的模型,实现规划与执行任务的差异化处理;提升缓存命中率,LibreChat 缓存命中率从 5%提升至 60%;精简上下文管理,切换任务时开启新会话并缩小文件上下文范围;增强支出可见性,工程师可自由选择模型但需承担相应影响预期。
文章版权声明:除非注明,否则均为本站 原创文章,转载或复制请以超链接形式并注明出处