🔥 HN 热议

为什么AI账单难以预算:便宜模型也可能更贵

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
token(token)

AI读取或生成文字时使用的计数小单位。

模型(mó xíng)

执行某种任务的一种AI系统。

Hacker News(Hacker News)

人们讨论技术新闻的网站。

发生了什么

企业越来越难提前算准AI支出。《华尔街日报》(WSJ,一家商业新闻媒体)10月5日的报道介绍了一项调查。近400家企业中,只有11%能准确预测AI费用。Hacker News(讨论技术新闻的网站)上的这条链接得到49分和71条评论。这只说明社区很关注,不代表报道一定正确。

为什么费用会变化

AI的使用量按token计算。token是AI读取或生成文字时使用的小单位。模型,也就是执行任务的一种AI系统,不一定每次都用同样的步骤。报道说,AI不像普通软件那样只是等待人点击。它会采取行动、作出决定,也可能犯错。

因此,同一个要求可能走不同的路线。步骤越多,可能使用的token越多。同一个模型收到同一个提示五次,每次花费也可能不同。即使最后没有给出正确答案,已经使用的token仍然会产生费用。

研究看到了什么

来自斯坦福大学、卡内基梅隆大学、加州大学伯克利分校和Microsoft Research的研究人员,测试了6800多项任务。任务包括数学、编程和科学。在32%的情况中,价格较低的模型反而花费更多。

这不等于便宜模型总是更差。它说明每个token的价格不能代表整项工作的价格。便宜模型遇到难题时,可能需要更多步骤,也可能反复尝试。价格较高的模型有时能更快完成任务,所以最后的费用反而更低。

一个具体例子

报道比较了Google的两个模型。Gemini 3.1 Pro适合需要推理和判断的任务。价格较低的Gemini 3 Flash更轻、更快。在一个相同提示的例子中,Pro用了85个步骤并成功完成,费用是1美元。Flash用了接近1000个步骤,最后失败,却花了14美元的token费用。

报道也提醒,这个结果可能是特殊情况。但类似的费用变化可能出现在正常使用中。只看模型的标价,可能会低估完成任务的实际成本。

已经确认与仍待确认

这篇报道支持一个清楚的结论:AI费用会在不同模型之间变化,也会在同一模型的不同运行之间变化。Google表示,提示带来的波动是AI使用的一部分。在大量、不同类型的任务中,这些差异可能平均下来。Google和其他公司后来也发布了新模型,所以旧测试不能代表所有当前系统。

报道没有说明每家企业怎样定义准确预测,也没有证明所有便宜模型都会比所有贵模型更贵。11%的企业调查和32%的任务测试,回答的是两个不同问题。

接下来关注什么

企业可能需要培训员工,为不同任务选择合适的模型。企业也可以设置支出上限,使用更灵活的收费方式。真正值得关注的不是模型单次调用的价格,而是完成并通过检查的结果总共花了多少钱。接下来要看,AI公司能不能让这种费用更容易预测。

来源:《华尔街日报》报道/Hacker News讨论页

💬 为什么企业很难为 AI 支出做预算

Hacker News 的讨论认为,代币费用难以预测;企业可能需要集中管理工具和模型,同时还要衡量 AI 是否真正创造了价值。

  • 一位用户自述,整理好上下文和技能文档后,代理不必每次从头重建背景,因此代币消耗下降。相反,含糊、开放式的提示可能让模型反复推理和核验,推高费用。
  • 有人反驳说,AI 支出比燃油更难预测。卡车的路线大致决定耗油量,而 AI 任务的难度、所用模型和持续运行时间都会改变成本。
  • 另一位用户自述,团队把一部分运维流程交给代理技能后,一旦达到使用上限,工作几乎停摆。原本有缺陷且文档不足的脚本被代理用大量代币勉强绕过,而不是及时向人类报警。
  • 按任务选择模型和推理强度可能省钱,但有用户自述,这些设置缺乏清晰解释;每次新模型发布后,原来的评估标准也可能失效。
  • 因此,一些评论者支持建立类似云计算平台的内部 AI 系统,集中管理身份、MCP 工具、CLI 和模型路由。反对意见是,企业代理本来就需要专家制作的这一层软件,不能只把原始算力直接交给所有员工。
  • 一位用户自述,Copilot 的自动选模以前有时不够好,最近却经常够用。这支持一种看法:只要模型达到基本质量线,产品可能越来越像可替代的商品,价格会成为主要竞争点。
  • 有人认为,本地模型和自有硬件已经逐渐可行,可以用硬件与运维成本为目标能力建立价格参照。但企业还要考虑维护成本,以及把知识产权交给外部服务商的风险。
  • 成本不是唯一指标。评论者还提出应同时衡量效果、安全性、速度和自主程度;如果成果足够大,高成本或许可以接受,便宜但没有价值的使用仍然是浪费。

这是评论数为71时的初期(修订1)。获取72条,并从整体抽取72条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

为什么AI费用很难提前算准?

📰 完整报道: 为什么AI账单难以预算:便宜模型也可能更贵

AI的单次价格不等于完成一件工作的总费用。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
token(token)

AI读取或生成文字时使用的小单位。

Gemini 3.1 Pro(Gemini 3.1 Pro)

Google的一种AI模型。

模型(mó xíng)

一种可以完成任务的AI。

💡 一句话总结

  • AI用了多少token,会影响最后的费用。
  • 同一个任务,每次可能走不同的步骤。
  • 便宜模型有时反而会花更多钱。

企业正在把AI加入日常工作。报道介绍的调查显示,近400家企业中,只有11%能准确预测AI费用。

Hacker News(讨论技术新闻的网站)上,这篇报道得到49分和71条评论。这表示它很受关注。但受关注不等于内容一定正确。

token是AI读取或生成文字时使用的小单位。模型就是一种AI。模型可能需要很多步骤,才能完成一个任务。它也可能反复尝试,或者最后失败。每一步都可能增加token费用。

研究人员测试了6800多项数学、编程和科学任务。在32%的情况中,便宜模型的费用高于贵模型。原因可能是便宜模型完成难题时,需要更多步骤。

一个例子比较了Google的Gemini 3.1 Pro和Gemini 3 Flash。Pro用了85个步骤,成功花费1美元。Flash价格更低,却用了接近1000个步骤。它最后失败,花了14美元。

所以,企业不能只看模型的单价。它们还要看模型能不能较快完成工作。企业可以为每种任务选择合适的模型,也可以设置支出上限。新的模型是否会改变这些结果,还需要继续观察。

来源:《华尔街日报》报道

💬 为什么 AI 账单不好计划

评论者认为,AI 很有用,但不同任务的价格和效果可能变化很大。

  • 一位用户自述,提前写好工作说明和可重复使用的技能后,AI 不必每次重新理解背景,所以用了更少的代币。
  • 卡车走多远,大致能算出要用多少油。AI 的费用更难算,因为任务、模型和思考时间都可能不同。
  • 一位用户自述,团队用完额度后无法继续工作。AI 一直在勉强处理有问题、又没有写清楚的工具。
  • 选便宜模型可能省钱,但用户说模型设置不容易理解,新模型出来后,旧的经验也可能不再适用。
  • 很多人支持由公司统一管理工具,并自动为员工选择模型。也有人说,企业 AI 本来就需要专家做这样的系统。
  • 一位用户自述,自动选模最近已经够用了。如果很多模型都达到基本水平,价格可能比品牌更重要。
  • 本地模型和公司自己的机器也许更容易算成本,但还要考虑维护和数据保密。
  • 公司不应只看花了多少钱,还要看是否有用、是否安全、是否够快。

这是评论数为71时的初期(修订1)。获取72条,并从整体抽取72条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

AI做一次事情,要花多少钱?

📰 完整报道: 为什么AI账单难以预算:便宜模型也可能更贵

有时,便宜的AI反而会花更多钱。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
token(token)

AI读取的小块文字。

Gemini 3.1 Pro(Gemini 3.1 Pro)

Google做的一种AI。

Hacker News(Hacker News)

大家讨论技术的网站。

AI(帮人做事的小机器)会读文字。

文字会被分成小块。 这些小块叫token。 小块越多,花的钱可能越多。

同一个问题,AI每次可能走不同的路。 它走的步骤多了,钱也可能变多。 它失败了,也可能已经花了钱。

有一篇新闻看了近400家公司。 只有11%的公司猜对了AI费用。

研究人员还测试了6800多项任务。 这些任务有数学、科学和编程。 32%的任务中,便宜AI花了更多钱。

Gemini 3.1 Pro(Google的一个AI)用了85步。 它成功了,花了1美元。

Gemini 3 Flash(Google的便宜AI)用了接近1000步。 它失败了,花了14美元。

Hacker News(大家聊技术的网站)也讨论了这条新闻。 那里有49分和71条评论。 很多人讨论,不等于事情一定是真的。

公司可以给每个工作选择合适的AI。 公司也可以先定好花钱的上限。

💬 AI 要花多少钱,很难猜

AI 做不同的事情,可能用掉不同的钱。

  • 有用户说,把说明写清楚,AI 就不用一直重新想,可能会少花一些代币。但工作或模型改变后,费用也可能改变。
  • 也有用户说,团队用完 AI 额度后,工作停了下来。这只是该用户的个人经历。有人认为,公司应该把工具和模型一起管理。
  • 便宜的 AI 或自动选 AI 有时已经够用,但好用的选择会很快改变。让公司自己的机器运行 AI 也许更容易算钱,但需要维护,还要保护秘密。
  • 公司要看 AI 有没有帮上忙、安不安全、够不够快,而不只是看花了多少钱。

这是评论数为71时的初期(修订1)。获取72条,并从整体抽取72条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源