看懂用量与缓存统计
在日常使用中,监控台用来排查某一次具体请求的来龙去脉,而左侧导航栏的统计则用于汇总查看一段时间内的整体调用规模。如果你想查清刚才那次报错的原因,请先看查看调用记录与管理网关;如果你想对比本周和上周的 Token 消耗趋势,请打开统计。
1. 选择统计范围并查看明细
- 打开左侧导航栏的统计。
- 在顶部切换时间粒度(日、周、月),并将日期定位到包含目标调用的时段。
- 查看页面展示的模型 Token 用量、调用趋势、网络搜索次数与缓存命中汇总。
- 点击支持下钻的统计条目,可进一步核对该项关联的具体调用时间与实际执行模型。
提示:如果图表显示为空,通常代表所选时间范围内没有任何可汇总的调用记录,并不代表“发起了请求但消耗为 0 Token”。遇到空图表时,请先核对日期范围以及该时段内是否确实发生过调用。
2. 用量记在“实际执行模型”名下
当你使用模型映射时,统计数字一律归属到最终实际干活的来源和模型上,而不会按别名重复记账:
- 例如:外部工具请求固定名称
chat,网关根据用途映射将其转发给“来源 A”下的具体模型。此时,Token 用量会记在“来源 A”的该具体模型名下,不会再给chat单独多算一份。 - 同理,如果多个不同的虚拟模型名称最终都指向同一个上游模型,它们在统计里反映的是同一个底层目标的消耗,请勿将不同别名当成多份独立的供应商账单。
阅读统计表格时,请严格区分以下三种显示状态:
| 界面显示 | 真实含义与正确理解 |
|---|---|
数值为 0 | 该次或该时段调用具备明确的计量返回,且已知消耗确实为零。 |
— 或 未知 N | 上游未返回可靠的 Token 计量信息(若整个时段均无计量数据,界面会提示“本时段没有可用 Token 计量”)。切勿将“未知”自行脑补或折算为 0。 |
| 没有记录 / 空白 | 当前筛选的时间范围内没有发生相关调用,请先核对日期选择器与监控台记录。 |
注:统计页中的 Token 是大模型文本处理量的计算单位,不等于人民币或美元金额。
3. 搜索次数与缓存节省口径
- 网络搜索计数:统计中的“搜索任务”与“上游来源调用”属于不同的统计维度。一次复杂的搜索任务可能会触发多次底层的上游来源调用,对比数字前请先看清表头名称。
- 缓存命中与“省”:当请求命中本地缓存时,网关会直接复用已有结果返回给工具,无需让上游供应商重新执行一次模型推理。页面上展示的缓存“省”及节省数字,是根据各条命中缓存记录中的 Token 数量累加得出的估算值——它代表少消耗的 Token 规模,不是人民币/美元现金,也不代表上游供应商账单里已经给你扣减了折扣。涉及真实资金结算时,请一律以供应商官方后台的账单为准。
4. 统计数字与预期对不上时怎么查?
如果觉得统计页的数字与监控台或供应商后台不一致,请按以下顺序逐项核对:
- 同一时间范围:两边的起止日期与时区口径是否一致。
- 同一运行实例:你查看的是桌面端 App 还是独立 CLI 的数据实例(两者数据互不互通)。
- 同一实际模型:是否把用途别名(
chat)和底层实际模型的数字混在一起比对了。 - 未知计量与缓存:是否存在未返回 Token 计量的调用(显示为
—或未知 N),或者部分请求命中了本地缓存而未发往上游。 - 历史正文清理:当日志体积达到上限(可在系统设置中调整)后,较早调用记录的请求/响应正文会被清理,但统计页的历史汇总数字仍会保留。请勿为了“让两边数字看起来一致”而去手动删除原始记录。
关于费用对账与导出: 当前版本的统计页不提供账单导出按钮或自动财务对账功能。如需核对实际花费,请登录上游供应商控制台,筛选相同的时间范围,对照实际来源、模型与调用记录进行核实(注意 Token 数量不等于账单金额,未知的 Token 用量也不能当作免费补零)。若需提取排错材料,请按查看调用记录与管理网关的说明复制并剔除敏感信息,不必在本页寻找不存在的导出按钮。