便宜的 LLM API:每百万 token 低至 $0.06
用轻量模型、缓存输入价和上线前试算把推理成本压下来,逐步选择而不是一次性押注。
目标关键词: cheap LLM API
便宜的 LLM API 不能只是报价低。线路要稳、要能故障转移、要扛长上下文,计费还得是预付、封得住。否则省下的钱会从重试和超时里漏回去。
本文只算账:哪些模型真便宜、一次运行多少钱、多花的那一分该花在哪。
最便宜的模型与真实费率
| 模型 | 输入 / 1M | 输出 / 1M | 上下文 |
|---|---|---|---|
| Ling 3.0 Tiny | $0.0195 | $0.058 | 262K |
| GPT-OSS 20B | $0.0234 | $0.117 | 131K |
| Llama 3.1 8B Instruct | $0.026 | $0.052 | 131K |
| Gemma 4 26B A4B | $0.046 | $0.123 | 262K |
| DeepSeek V4.1 Flash | $0.0503 | $0.520 | 1.05M |
| Claude Haiku 5.5 | $0.130 | $0.650 | 1M |
输入低于 $0.03 是小模型区:分类、抽取、打标、短摘要和路由可以。过了 $0.05,模型才开始稳定扛住长指令和结构化输出。
真实跑量多少钱
$0.02/M 输入,一百万 token 两分钱,听着像免费,乘上去就不一样了。
工单分类,600 输入 / 30 输出,每月 200,000 条
- 输入:120M token → $2.40
- 输出:6M token → $0.35
- 每月 $2.75
商品描述生成,1K 输入 / 300 输出,每月 30,000 条
- 输入:30M token → $0.60
- 输出:9M token → $1.05
- 每月 $1.65
带 15K 历史的聊天,4,000 轮
- 输入:60M token → $1.20
- 输出:0.8M token → $0.19
- 合计 $1.39
第三个例子最要命。高频聊天的成本来自重发历史,不是生成。该裁就裁,该摘要就摘要。
比换更便宜的模型更有效的做法
选模型是第二根杠杆。下面这些不换模型也能降本:
- 缓存稳定前缀。 系统提示和文风指南在支持的模型上按缓存输入价计,保持逐字节一致,变量放最后。
- 限制输出。
max_tokens从 1,000 降到 200,最坏���况的输出账单砍掉 80%。 - 批处理代替多轮。 一条请求塞 20 个条目,比 20 条各自带指令便宜。
- 能不上模型就不上。 正则、查表、小分类器能免费接掉相当一部分流量。
- 摘要历史。 聊天过了几千 token,就把旧轮次换成滚动摘要。
分层
耐用的做法是三层:
- 第 0 层,不上模型: 规则和查表。
- 第 1 层,便宜模型: 分类、抽取、短回复——表格最上面那些。
- 第 2 层,前沿模型: 长文推理、模糊需求、便宜层校验不过的。
按置信度路由,别凭感觉。便宜模型返回的 JSON 解析失败或缺必填字段,就在回退模型上重试一次。重试只留一跳,别让坏提示词把两层都烧穿。
第 2 层见 Claude Sonnet 5.5 或 DeepSeek V4.1 Flash Private。要无审查又要省,无审查页从 $0.156/M 起。
稳定性也是价格的一部分
每二十次就返回一次坏 JSON 的模型,实际比标价贵。上线便宜模型前:
- 拿 200 条真实提示词跑一遍,数失败率。
- 看失败形态:拒答、截断、格式漂移还是超时。
- 把重试计入,和上一档比总成本。半价但 10% 失败,经常是亏。
盯住 429。便宜模型吸引流量,也更容易触发限流,退避策略见错误码。
计费控制
- 预付余额。 小额充值,月底没有账单。
- 按 Key 封顶。 每个应用一把 Key,带硬上限和到期日。
- 使用日志。 控制台逐条记录请求、模型和 token 数,方便对账。
- 缓存输入价。 重复前缀低于正常输入价。
什么时候不该图便宜
- 法律或医疗文本,小模型漏一次就很贵。
- 跨章节推理的长文档。
- Agent 循环,一次畸形工具调用就能带偏整条链。
- 必须像某个人的品牌文案。
这些场景用便宜模型做初筛、强模型做终稿。混用正是一个接口的意义,对比页在决定前就把价差摆出来。
常见问题
便宜接口能上生产吗?
能,但要加校验和回退。失败率比 token 单价重要。
能混用便宜和贵的模型吗?
能,按任务分流,校验失败重试一跳。
为什么输出比输入贵这么多?
生成是贵的那一头。max_tokens 收住,别让模型凑长度。
缓存输入真能降账单吗?
支持的模型能,重复前缀按缓存价计,前缀必须保持一致。
这里哪个最便宜?
Ling 3.0 Tiny,输入 $0.0195/M。适合短分类和抽取,不适合长推理。
有最低充值吗?
看控制台当前的最低额,余额是预付的,按 token 扣。
开始
打开 Ling 3.0 Tiny 看价目,用 DeepSeek V4.1 Flash 当可靠的中间层,按快速开始用封顶的 Key 跑第一批。
跑量前先设告警
便宜费率会让没有上限的重试循环看着人畜无害,其实不是。批量前:
- 给 Key 设每日消费上限。
- 到上限 60% 时告警。
- 逐请求记 token 数,看分布;突然一条 20 万 token 通常是提示词 bug。
- 写死
max_tokens和请求超时。 - 失败率超过 15% 就停任务,拿着坏提示词重试只是把同样的错买两遍。
盈亏平衡算法
比较两个模型时,公式是:
每次成功成本 = (输入 token × 输入价 + 输出 token × 输出价) / 成功率$0.02、成功 90% 的模型,每次成功 $0.0222;$0.03、成功 99% 是 $0.0303。便宜的仍然赢,但只赢 27% 而不是 33%,算上重试时间还会继续缩。用实测成功率套公式,别拍脑袋。