AI 账单为什么总对不上:三层隐藏成本
价目表上的数字,和你月底看到的账单,中间隔了三层。这三层里任何一层没算到,估算就会和实付对不上,差出几倍是常态。这周读到两笔真实账单,一笔是被单位换算坑了 100 万倍,一笔是把价目表和实付的差拆到了每一层。两件事放在一起看,能拼出 AI 成本的完整账。
一、100 万倍的账单,错在一个单位
第一位是一位 AWS 工程师。他用一个文档摄取功能,把几十页带图 PDF 送进去解析、生成说明、切片、入库,一共跑了 5 次作业,其中 3 次中途取消。62 个对象,49 个 PDF,总共约 75 MB。
第二天他打开账单,当月成本 2,777,528 美元,折合成日元约 4.3 亿。
核对下来,问题出在计费单位。这项功能用一个视觉模型给图片生成说明,按百万 token 计价。但账单里记的使用量,是原始 token 数,没有除以 100 万。原始数字读成百万单位,就放大了一百万倍。
他把数字还原回来重算:输入 54.4 万 token、输出 85.3 万 token,按正确单位算,这一单的真实成本约 2.53 美元。和 277 万美元之间,差的就是那一次没做的除法。
更值得记的是一句话:这是他今年第三次遇到同类的高额账单。今年 2 月一次,约 1,400 万日元;7 月一次是显示层的问题,没影响真实扣款;10 月这次,约 4.3 亿日元。三起里,有两起真正扣了钱,而共同的根因都在单位换算这一层。
他的处理路径可以直接抄。先看云厂商的健康状态页,确认是不是平台侧的问题。再进账单明细,按服务拆开,把使用量乘上单位,自己算一遍,看和处理过的数据量是否匹配。然后用英文给客服开单,走在线聊天,不走异步工单。账号、区域、作业 ID、输入数据量、账单明细一起贴上去。最后提出四件事:查是否误计、纠正用量和税费、退回被消耗的额度、查清之前冻结自动扣款。这次他从 10 月 27 日开单到次日,用量就被修正成了百万分之一。
二、标价和实付,差在三层
第二位做的更贴近平时用的场景。他维护一个文字游戏,里面所有角色、主持、剧情都靠大模型生成。他从 9 月中旬开始给每一次调用记一行账:输入 token、输出 token、缓存命中 token、成本、耗时。53 天下来,约 5.1 万次调用,总花费 337 美元,日均 6.36 美元。
他没有用官方标价去估算成本,而是按每个模型真实的单次成本重新分档。这一改,立刻看到了标价藏不住的东西。
最直观的一条:同一个档位里,有的模型实付只有官方标价的一半,有的实付却是标价的 2.7 倍。标价告诉你一张牌的价格,实付才告诉你这一局真正花了多少。
差在哪里。第一层是推理。模型在输出你看到的那段话之前,会先输出一大段内部推理,这部分按输出计费,但你在界面上根本看不到。有模型每次调用写两三千个输出 token,其中九成是推理,真正给用户看的只有一百个左右。也就是说,你以为为一段短回答付钱,其实为后面那一长串看不见的思考也付了钱。
第二层是缓存。同一批上下文,第二次用能不能直接走缓存,取决于间隔多久,也取决于厂商。他实测,间隔在一分钟以内的调用,有的厂商缓存命中七八成,有的只有两三成;间隔拉到 30 分钟以上,多数厂商的缓存基本归零。缓存没命中,同样的输入就要重新完整计费。还有一笔反直觉的账。一家厂商的长期缓存,写入按两倍价收费,读回才打一两折。他那个主力模型开了长期缓存后,单次成本反而比完全不用缓存还高。
第三层是计数口径。同样一段内容,不同厂商切出来的 token 数能差出将近一倍。他举了个例子:同一类任务,一个模型平均每次调用约 1.35 万输入 token,另一个只要约 7,400,差在分词方式不一样。你以为输入相同、价钱相同,其实分母从第一步就不一样。
他还发现一条容易被忽略的规律:用户根本不在乎你用的是哪个模型。他早期把贵模型随机塞进去,后来改成围绕便宜模型做随机,账单就明显下来了。
三、落到我们自己机器上:先把账记起来
这两件事对我方场景的落点很具体。我方是单机、弱 GPU、本地代理跑自动化,模型调用散在各条流水线里,目前还没有一份逐次调用的成本台账。上面两个人最值钱的做法,是先把每次调用的输入、输出、缓存、成本各记一行,再按月跟平台对账。
这一步在 Windows 上加一个本地日志就够,不需要接任何新服务。先记满一个月,你才能回答三个问题:哪个环节在烧钱、缓存到底命中多少、标价和你实际付的差多少。在回答之前,任何关于 AI 成本贵不贵的判断,都只是看价目表,不是看账单。
四、接下来看什么
第一,单位换算这类计费错误,云厂商是改一处还是一类。这位工程师三起里两起真扣钱,第二起还伴随了一次被误判为账号入侵、服务停用 19 小时。计费层出错的代价,比它本身贵得多。
第二,推理 token 会不会开始单独标价。现在推理混在输出里计费,你看不见也控制不了。如果哪天厂商把推理拆出来单列,估算的成本结构就得重写。
三件事放在一起看:价目表是厂商想让你看到的数,账单才是你实际付的数。中间那三层,谁来算,就只能是你自己。
以上为开发者生态科普,基于两篇公开原文的实测数据与本机现状自查,不构成任何投资或买卖建议。
标签(话题,见下方发布设置清单):
#AI编程 #开发者 #AI工具