Coinbase CEO:公司通过更优的默认设置、路由和缓存机制将AI支出减少近半

PANews 6月27日消息,Coinbase CEO Brian Armstrong 在 X 平台表示,公司通过基础设施优化(默认设置、路由和缓存机制),在代币使用量呈指数级增长的情况下,AI 支出减少了近一半。其措施包括:

  • 更好默认模型:默认使用开源/性价比高的模型(如 GLM 5.2、Kimi 2.7)。91% 员工原本从未达到用量上限。
  • 智能路由:根据任务自动路由到最合适的模型(前沿模型用于规划,廉价模型用于执行),让 AI 代替人工选择。
  • 高效缓存:大幅提升缓存命中率(例如 LibreChat 从 5% 提升到 60%)。
  • 精简上下文:新任务开启新会话、缩小文件范围、断开未用工具,减少浪费。
  • 更高可见性:允许自由使用,但让支出可见。
分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
Base主网两次短暂停机复盘:序列器状态管理Bug引发区块生产中断
PANews 快讯