大模型 API 到底怎么计费？token、输入输出、缓存、Batch 一文说清

LLM API 按用量后付费，计量单位是 token，报价单位几乎统一成「每百万 tokens」（写作 $/M 或 ¥/M）。一次请求的费用 = 输入 token 数 × 输入单价 + 输出 token 数 × 输出单价——注意，是两个单价，分开定的。

输入（input/prompt）指你发给模型的一切：系统提示词、对话历史、用户消息、塞进去的文档。输出（output/completion）指模型生成的内容。输出几乎总是比输入贵，因为生成是逐 token 串行计算的，比并行读入 prompt 耗算力得多。但贵多少没有定数，几个例子见下表。

这个倍率决定了你该盯哪个数：RAG、长文档摘要这类「输入重、输出轻」的负载，重点看输入价；聊天机器人、代码生成这类「输出重」的负载，输出价才是大头。只比输入价就下单，是新手最常见的坑。

token 是模型处理文本的最小切片，由每家厂商自己的分词器（tokenizer，把文本切成片段的程序）决定，既不等于汉字数，也不等于单词数。常见英文单词可能整个算一个 token，生僻词会被拆成几段；汉字有的一字一个 token，有的一个字被拆成两三个。

更麻烦的是，中英文的折算差异很大，而且各家分词器互不相同——同一段话在 OpenAI 和 DeepSeek 那里数出来的 token 数可以差出不少。网上流传的「1 个汉字约等于多少 token」换算表别背，跨厂商基本不可比，拿它做预算会产生系统性偏差。

实操建议两条：做预算前，把你真实的 prompt 贴进 /estimate 实测一遍 token 数，比任何换算公式都准；上线后以 API 响应里的 usage 字段为准对账，那才是厂商真正用来扣钱的数字。

公式很简单：费用 = 单价 × token 数 ÷ 1,000,000。拿一次典型问答来算——1000 token 输入（一段系统提示词加用户问题），500 token 输出（一个中等长度的回答），两个模型的算式见下方。

两者相除：0.1357 ÷ 0.0012 ≈ 113 倍。单次看都不到两毛钱，无所谓；乘上调用量就是另一回事——1 万次这样的问答，Qwen3.5 Flash 约 ¥12，GPT-5.5 约 ¥1357。再注意一个细节：GPT-5.5 这笔账里输出只有 500 个 token，费用却占了约 75%（0.1018 ÷ 0.1357），印证了上一节「输出价才是大头」。

这不是说便宜的就该选——两档模型能力不在一个量级。比较稳的做法是先用旗舰模型把效果跑通，再逐档往便宜换，换到效果掉到不可接受为止。按价格排序的全量模型表见 /compare/cheapest-llm。

很多价目表还有第三列：「缓存命中」。原理是：如果这次请求的前缀部分——系统提示词、塞进去的长文档、前几轮对话——和近期请求重复，厂商不必重新计算这部分，命中的 token 按缓存价收费，而缓存价通常比输入价低一个数量级，对照见下表。

对 Agent 和多轮对话这种「每一轮都把全部历史重发一遍」的负载，缓存是最重要的省钱杠杆：历史越长、轮数越多，可命中的前缀占比越高，命中率高时输入侧成本几乎砍掉一个数量级。

细节各家差异不小：有的自动检测命中，有的要在请求里显式声明缓存断点；缓存写入可能另有费率，有效期长短也不同，这些以各家官方文档为准。工程上通用的做法是：把固定不变的系统提示词和参考资料放在 prompt 最前面，可变内容放最后，最大化前缀重合。

Batch 批处理：把不要求实时返回的请求打包提交，厂商在算力低峰期排队跑，通常若干小时内出结果。OpenAI、Anthropic 等对 Batch 提供折扣价，具体折扣比例和时效承诺以各家官方文档为准。批量打标、离线评测、全量文档摘要这类任务，没有理由不走 Batch——同样的活，账单能便宜一截。

思考 token（reasoning tokens）方向相反。带推理能力的模型（价目表里标「推理」的那些，如 GPT-5.5、DeepSeek V4 Pro、GLM-5.1）在给出答案前会先生成一段内部推理过程，这部分 token 一般按输出价计费——即使你在响应里看不到完整的思考内容。同一个问题开启深度思考后，计费的输出 token 数可能比答案本身多出数倍，预算时必须把这部分算进去，具体计费口径以官方文档为准。

一句话记住这对组合：Batch 是拿延迟换钱，思考 token 是拿钱换质量。账单突然超预期时，先查这两项。

海外厂商（OpenAI、Anthropic、Google、xAI）一律按美元定价，你看到的人民币价是换算出来的。以 GPT-5.5 为例：官方定价 $5 / $30 每百万 tokens，按本站当前汇率 1 USD = 6.7853 折算，就是 5 × 6.7853 ≈ ¥33.93、30 × 6.7853 ≈ ¥203.56。

这意味着海外模型的人民币成本会随汇率浮动——美元报价一分没动，你月底的账单也可能变。如果用量大，预算建议按美元口径做，或者留出汇率余量。本站的汇率会自动核对更新，各模型页（如 /models/gpt-5-5）同时展示美元原价和人民币换算价，方便两头对照。

国产模型（DeepSeek、智谱、通义、豆包等）直接按人民币计价，没有汇率噪音，对账省心，这是经常被忽略的一个小优势。完整价目见 /models，想把几个候选模型并排比，用 /compare。