博客

便宜的 LLM API:每百万 token 低至 $0.06

用轻量模型、缓存输入价和上线前试算把推理成本压下来,逐步选择而不是一次性押注。

目标关键词: cheap LLM API

便宜的 LLM API 不能只是报价低。线路要稳、要能故障转移、要扛长上下文,计费还得是预付、封得住。否则省下的钱会从重试和超时里漏回去。

本文只算账:哪些模型真便宜、一次运行多少钱、多花的那一分该花在哪。

最便宜的模型与真实费率

模型输入 / 1M输出 / 1M上下文
Ling 3.0 Tiny$0.0195$0.058262K
GPT-OSS 20B$0.0234$0.117131K
Llama 3.1 8B Instruct$0.026$0.052131K
Gemma 4 26B A4B$0.046$0.123262K
DeepSeek V4.1 Flash$0.0503$0.5201.05M
Claude Haiku 5.5$0.130$0.6501M

输入低于 $0.03 是小模型区:分类、抽取、打标、短摘要和路由可以。过了 $0.05,模型才开始稳定扛住长指令和结构化输出。

真实跑量多少钱

$0.02/M 输入,一百万 token 两分钱,听着像免费,乘上去就不一样了。

工单分类,600 输入 / 30 输出,每月 200,000 条

  • 输入:120M token → $2.40
  • 输出:6M token → $0.35
  • 每月 $2.75

商品描述生成,1K 输入 / 300 输出,每月 30,000 条

  • 输入:30M token → $0.60
  • 输出:9M token → $1.05
  • 每月 $1.65

带 15K 历史的聊天,4,000 轮

  • 输入:60M token → $1.20
  • 输出:0.8M token → $0.19
  • 合计 $1.39

第三个例子最要命。高频聊天的成本来自重发历史,不是生成。该裁就裁,该摘要就摘要。

比换更便宜的模型更有效的做法

选模型是第二根杠杆。下面这些不换模型也能降本:

  • 缓存稳定前缀。 系统提示和文风指南在支持的模型上按缓存输入价计,保持逐字节一致,变量放最后。
  • 限制输出。 max_tokens 从 1,000 降到 200,最坏���况的输出账单砍掉 80%。
  • 批处理代替多轮。 一条请求塞 20 个条目,比 20 条各自带指令便宜。
  • 能不上模型就不上。 正则、查表、小分类器能免费接掉相当一部分流量。
  • 摘要历史。 聊天过了几千 token,就把旧轮次换成滚动摘要。

分层

耐用的做法是三层:

  1. 第 0 层,不上模型: 规则和查表。
  2. 第 1 层,便宜模型: 分类、抽取、短回复——表格最上面那些。
  3. 第 2 层,前沿模型: 长文推理、模糊需求、便宜层校验不过的。

按置信度路由,别凭感觉。便宜模型返回的 JSON 解析失败或缺必填字段,就在回退模型上重试一次。重试只留一跳,别让坏提示词把两层都烧穿。

第 2 层见 Claude Sonnet 5.5 或 DeepSeek V4.1 Flash Private。要无审查又要省,无审查页从 $0.156/M 起。

稳定性也是价格的一部分

每二十次就返回一次坏 JSON 的模型,实际比标价贵。上线便宜模型前:

  • 拿 200 条真实提示词跑一遍,数失败率。
  • 看失败形态:拒答、截断、格式漂移还是超时。
  • 把重试计入,和上一档比总成本。半价但 10% 失败,经常是亏。

盯住 429。便宜模型吸引流量,也更容易触发限流,退避策略见错误码。

计费控制

  • 预付余额。 小额充值,月底没有账单。
  • 按 Key 封顶。 每个应用一把 Key,带硬上限和到期日。
  • 使用日志。 控制台逐条记录请求、模型和 token 数,方便对账。
  • 缓存输入价。 重复前缀低于正常输入价。

扣费规则写了公式,价格试算用滑块推月成本。

什么时候不该图便宜

  • 法律或医疗文本,小模型漏一次就很贵。
  • 跨章节推理的长文档。
  • Agent 循环,一次畸形工具调用就能带偏整条链。
  • 必须像某个人的品牌文案。

这些场景用便宜模型做初筛、强模型做终稿。混用正是一个接口的意义,对比页在决定前就把价差摆出来。

常见问题

便宜接口能上生产吗?

能,但要加校验和回退。失败率比 token 单价重要。

能混用便宜和贵的模型吗?

能,按任务分流,校验失败重试一跳。

为什么输出比输入贵这么多?

生成是贵的那一头。max_tokens 收住,别让模型凑长度。

缓存输入真能降账单吗?

支持的模型能,重复前缀按缓存价计,前缀必须保持一致。

这里哪个最便宜?

Ling 3.0 Tiny,输入 $0.0195/M。适合短分类和抽取,不适合长推理。

有最低充值吗?

看控制台当前的最低额,余额是预付的,按 token 扣。

开始

打开 Ling 3.0 Tiny 看价目,用 DeepSeek V4.1 Flash 当可靠的中间层,按快速开始用封顶的 Key 跑第一批。

跑量前先设告警

便宜费率会让没有上限的重试循环看着人畜无害,其实不是。批量前:

  • 给 Key 设每日消费上限。
  • 到上限 60% 时告警。
  • 逐请求记 token 数,看分布;突然一条 20 万 token 通常是提示词 bug。
  • 写死 max_tokens 和请求超时。
  • 失败率超过 15% 就停任务,拿着坏提示词重试只是把同样的错买两遍。

盈亏平衡算法

比较两个模型时,公式是:

每次成功成本 = (输入 token × 输入价 + 输出 token × 输出价) / 成功率

$0.02、成功 90% 的模型,每次成功 $0.0222;$0.03、成功 99% 是 $0.0303。便宜的仍然赢,但只赢 27% 而不是 33%,算上重试时间还会继续缩。用实测成功率套公式,别拍脑袋。


相关阅读