成本管理
Token 成本怎么算:人民币预算与汇率指南
用输入、输出、缓存和美元兑人民币汇率四个变量,建立可以复核的大模型 API 预算模型。
2026年7月12日8分钟阅读
一、基础计算公式
美元费用等于输入 Token、输出 Token 和可适用缓存 Token 分别乘以对应单价后求和。人民币费用再乘以合同约定的美元兑人民币折算汇率。单价通常以每百万 Token 表示,计算时需统一单位。
二、用样本估算单任务成本
从真实业务抽取一批脱敏任务,记录输入长度、输出长度、成功率和重试次数,计算平均值与高分位值。高分位预算能覆盖长文档等少数高消耗任务。
- 普通任务平均成本
- 复杂任务高分位成本
- 失败与重试额外成本
- 缓存命中后的成本变化
三、处理汇率变化
人民币结算项目应明确牌价来源、买入或卖出口径、取价时点和节假日规则。预算可使用基准汇率并增加合理波动缓冲,结算则以合同和账单记录为准。
四、建立月度预算
月度预算由各类任务数量乘以单任务成本,再加上测试、重试和增长缓冲。建议按项目、团队或凭据分账,及时发现异常增长。
五、降低成本但不牺牲真实性
通过缩短无效上下文、缓存稳定内容、按任务分配模型档位和优化输出长度降低成本。不要用供应商未经披露的模型降级换取表面低价。
