跳到主内容

AI 的真实成本在电上:为什么降价可能只是暂时的

2026-10-05 发布 来源:我告诉你AI导航 阅读

一家二十人的小公司,去年把客服问答交给 AI 之后,月度账单从四位数掉到三位数,老板一度以为这项支出可以不再看了。今年续费时发现单价没变,能用的额度却缩了一圈,忙时还要排队。这类变化跟模型聪不聪明关系不大,跟它背后那套持续耗电的设施...

一家二十人的小公司,去年把客服问答交给 AI 之后,月度账单从四位数掉到三位数,老板一度以为这项支出可以不再看了。今年续费时发现单价没变,能用的额度却缩了一圈,忙时还要排队。这类变化跟模型聪不聪明关系不大,跟它背后那套持续耗电的设施关系很大。下面把成本拆成三层,说清哪一层在降、哪一层降不动,也说明一条降价消息该怎么读。

账单只有一行,成本却分三层

调用一次模型,付费的只是那一小段输出,真正被消耗的东西散在三个地方:加速卡的折旧、机房用电与散热、以及把成千上万张卡串起来的网络和运维。第一层是一次性投入,采购那天钱就花完了,之后按三五年摊进每一次计算;第二层是持续支出,机器一通电就在走表,闲着也走;第三层随规模同步上涨,带宽、存储、备件、值班人手一项都省不掉。三层里只有第一层会随着产量增加被摊薄,另外两层不会。

这就解释了一种常见的错位感:模型能力一年上一个台阶,价格却只降了一截。能力提升靠更多参数和更多数据,两者都推高单次计算的耗电;效率优化在同一时间往回拉。看到的价格,是这两股力量相抵之后剩下的部分。想把这一层弄明白,可以先看算力到底指什么,它衡量的不只是卡的数量,还有这些卡在单位时间里的实际产出。

四个环节,AI 自己也在省电

行业里正在做的事,按动作拆开看,边界比宣传口径清楚:

环节能做不能做
硬件与集群用更先进的制程与封装,提高单位功耗下的计算量;把机房建在电价与气候更合适的地方绕过物理极限;在供给紧张时快速扩容
模型压缩降低数值精度、剪掉冗余连接、把大模型的能力蒸馏到小模型上在需要精细推理的任务上保持同等效果;压缩过头会明显掉点
任务调度把可延迟的批量任务挪到低谷时段,把零散请求攒成批以提高利用率处理对延迟敏感的实时请求;改变用户集中在白天使用的事实
散热与机房液冷、自然冷却、余热回收,压低制冷那部分开销在老旧机房上低成本改造;抵消持续上涨的机柜密度

压缩带来的省钱,常被高估。压缩确实能让同样的任务跑得更便宜,但收益有上限,任务越难衰减越快。精度从十六位降到八位,多数场景看不出差别;再往下压,需要细算的任务就开始出错。模型量化怎么把模型变小讲的是同一件事,代价那一面常被略过。

电费难降,是因为它跟着时间走

芯片的钱可以摊,电费不行。一块卡买回来,用不用都在折旧;一台机柜开着,用不用都在耗电。当推理请求的量超过训练的量,成本结构就从一次性投入为主,偏向持续消耗为主,后者没有规模效应那么听话。更麻烦的是时间分布:用户集中在白天提问,机房不能按平均负载建,得按峰值建,峰值之外那部分产能就是闲置,闲置照样耗电、照样占地方。

所以省电的努力大多集中在提高利用率:把能等的任务挪到低谷,把零散请求攒成批,把冷数据挪到便宜的存储。这些手段有效,但受制于一个前提,用户的习惯改不了。真正决定单位成本曲线的,往往是机房里那批卡的忙闲比,而非模型结构有多新。

降价有三种来源,只有一种撑得久

第一种是效率真的提升了,同样的活用电更少、用卡更少,价格降下来还能赚钱。第二种是规模摊薄,采购量大、机房利用率高,单位成本被摊低,这种降价也站得住,但会随规模见顶而停。第三种是拿钱换市场,价格低于成本,先用低价把用户圈进来,等竞争格局定了再调回去。三种在账单上长得一样,在财务报表上完全不同。

分辨的办法不复杂:看降价的同时有没有动别的东西。额度悄悄收紧、上下文变短、高峰期限速、便宜档位换成更小的模型,这些动作说明让利来自别处。规模定律为什么被反复引用讲的是能力随投入增长的关系,同一条曲线也适用于成本,读完就明白「又便宜又强」为什么很难长期同时成立。

它算不出你那张账单背后的真实数字

这一段说清边界。第一层是商业机密:某家厂商的电价、机房利用率、芯片采购价、折旧年限,都不会公开,任何精确到分的成本拆解都只能算推测。第二层是地域差异:各地的电价机制、气候条件、土地成本差得很远,把一地经验套到另一地常常失效。第三层是时间:基于上一代芯片做的推演,遇到新一代产品就要重算。所以能讨论的只有结构,也就是钱花在哪几处、哪几处有弹性,具体数字要以官方和权威机构发布为准。

再看到降价,先问三个问题

第一问,降的是哪个档位。旗舰模型和轻量模型的价格走势经常相反,前者涨、后者降,混在一起说会误导。第二问,同期有没有缩额度、限速度、减上下文。第三问,这家厂商的钱从哪来,是靠自身经营撑住低价,还是靠外部资金补着。三问过一遍,一条降价消息的性质大致就清楚了。对普通用户来说,短期该用还是用,只是别把当下的价格当成长期预算的前提,免费 AI 的天花板在哪说的也是同一层逻辑。

速查:判断一次 AI 降价能不能持续

  • 降价同时缩额度、限速度,多半是让利换结构
  • 便宜档位换成小模型,省的是算力不是效率
  • 三层成本里,只有硬件折旧会随产量摊薄
  • 能等的任务挪到低谷,是眼下最实在的省钱手段
  • 电价与能耗的具体数字,以官方和权威机构发布为准

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]