使用指南 / 成本控制

如何减少大模型 API 费用,少走弯路

从输入、输出、缓存到模型选择,一份实用的费用检查清单。

先看 token 比例

输入便宜的模型,在长输出场景中仍可能很贵。以输入 tokens × 输入单价 + 输出 tokens × 输出单价,再除以一百万。使用一周的代表性请求,而非只测一道题。

选择通过评测的合适模型

从实际任务中建立小型评测集,检查正确率、工具调用、延迟及成本。分类、提取等常规任务可选择表现达标的轻量模型,复杂推理再使用更强模型。

为输出设置边界

设置合理的 max_tokens 或 max_output_tokens,在机器处理流程中明确格式并减少无用解释。输出上限也能限制请求预留预算。

把缓存折扣当作有条件的优惠

缓存命中、写入和保留时长可能分别计费。保持可复用前缀稳定,测量真实命中率,并核对最终账单。公开缓存读取价不代表每次请求都会命中。

比较相同条件

对齐版本、上下文阶梯、量化、服务等级与计费单位。订阅与优惠额度不等于标准按量价格。Lexelane 的对比会保留条件,并标明非等价报价。