算力的边界：从 GPU 集群到电力约束

过去两年，关于人工智能的讨论几乎被一个词占据：算力。它像十九世纪的煤、二十世纪的石油，被当作新一轮产业周期的燃料。但“算力短缺”是一个过于粗糙的说法。真正值得追问的是：短缺发生在哪一层？是芯片、机架、光模块，还是更朴素的东西——电？

如果把一座智算中心拆开看，GPU 只是其中最容易被看见的部分。它需要主板、交换机、液冷管道、柴油发电机、变电站，以及一张足够稳定的电网。任何一个环节掉队，整座集群的有效产出都会下降。于是，行业的叙事正在悄悄换主角：从“谁买到了更多卡”，转向“谁能把电更稳定、更便宜地送到机架旁”。

一、短缺的叙事换了主角

在早期，模型训练是一次性的重资本投入：买卡、建集群、跑几个月，然后等待下一次架构升级。那时算力规划相对简单，峰值需求虽然惊人，但可以提前一年下订单。

推理改变了这一切。推理需求不是一座山峰，而是一条持续波动的河流。白天高、夜里低，工作日高、周末低；某个应用突然走红，流量会在几小时内翻十倍。它要求基础设施具备弹性，而弹性从来不是免费的。

更麻烦的是，推理的边际成本并不只由 GPU 决定。每多一次调用，就要多消耗一份电、多产生一份热、多占用一份网络带宽。当调用量从百万级走向百亿级，成本曲线会从“设备折旧”逐渐转向“电力与运维”。

图 1 · 需求与有效供给的缺口。曲线为示意，用于说明结构，不代表真实统计。

这张图里，最值得注意的不是两条线谁更高，而是“有效供给”为什么总是追不上“名义供给”。名义供给是纸面上的 GPU 数量；有效供给则要扣除故障、网络瓶颈、冷却不足和排队损耗。两者之间的差额，才是云厂商真正的利润空间，也是自建集群最容易低估的成本。

二、把推理成本拆开

我们可以把一次推理的粗略成本写成四段：设备折旧、电力、冷却与网络、运维人力。不同业务的比例差异很大，但方向是一致的——当模型效率提升、单位 token 价格下降时，电力和冷却在总成本中的占比会上升。

成本项	主要驱动因素	可控性	常见误判
设备折旧	GPU 价格、利用率、折旧年限	中	只看采购价，不看实际利用率
电力	电价、负荷曲线、需量电费	低	把平均电价当作边际电价
冷却	功率密度、气候、冷却方式	中	低估高密度机架的改造成本
网络与运维	东西向流量、故障率、人力	中	只算硬件，不算人

这张表解释了一个常见现象：同样规模的集群，放在不同地区、采用不同冷却方案，单位算力成本可能相差三成以上。云厂商的规模优势，很大程度上不是来自“买卡更便宜”，而是来自更细的调度、更高的利用率和更低的电力议价能力。

下面这段 Python 只是一个极简的估算模型，用来说明“利用率”如何影响单次推理成本。真实系统要复杂得多，但数量级的方向不会变。

# 极简推理成本估算（示意，不作为报价依据）
gpu_price = 180_000          # 单卡采购价，人民币
life_years = 4
hours_per_year = 8_760
power_kw = 0.7               # 单卡平均功耗，含部分配套
electricity_price = 0.65     # 元 / 度
cooling_factor = 1.35        # 冷却与配电附加系数
utilization = 0.62           # 实际有效利用率

annual_depreciation = gpu_price / life_years
annual_power = power_kw * hours_per_year * utilization * electricity_price * cooling_factor
annual_cost = annual_depreciation + annual_power

# 假设单卡每秒稳定输出 1_200 个 token
tokens_per_year = 1_200 * 3_600 * hours_per_year * utilization
cost_per_million = annual_cost / tokens_per_year * 1_000_000

print(f"年成本约 {annual_cost:,.0f} 元")
print(f"每百万 token 约 {cost_per_million:.3f} 元")

把利用率从 0.62 调到 0.38，单次成本几乎会翻倍。这就是为什么“建得起”不等于“用得起”。集群的真正竞争力，藏在调度系统、批处理策略、缓存命中率和故障恢复速度里，而这些都不太适合被写进发布会。

三、电力不是背景变量

当单机柜功率从十几千瓦走向几十千瓦，电力就从“配套”变成了“约束”。它至少有三重限制。

第一是接入容量。一个园区能申请到多少变电站容量，往往在选址时就已经决定。扩容不是拧开阀门，而是漫长的审批、施工与并网。

第二是负荷曲线。电网关心的是峰值，不是平均值。即使全年用电量不大，只要峰值过高，也需要为需量付费，或者被迫削减训练任务。

第三是冷却。高密度机架产生的热量，需要更复杂的液冷系统。冷却系统本身也耗电，而且对水质、运维和空间有额外要求。

这也是为什么“把数据中心建在电便宜的地方”只是第一步。电便宜的地方，未必有足够的并网容量；有容量的地方，未必有低延迟的网络；两者都具备的地方，未必能招到足够的运维工程师。基础设施从来不是单点最优，而是一组约束下的折中。

四、慢变量决定长期位置

在产业追踪里，我越来越在意“慢变量”：电网建设周期、土地审批、人才供给、供应链的交付节奏。它们不像模型发布那样有戏剧性，却决定了三五年后的竞争格局。

一个可以观察的信号是，云厂商开始把“能源”写进自己的核心能力叙述。有的签长期绿电协议，有的投资小型核反应堆，有的把数据中心搬到气候更冷、电力更充裕的地区。这些动作的共同点是：它们都在为“电”做长期准备，而不是为“卡”做短期准备。

另一个信号是调度软件的权重上升。当硬件差异缩小，谁能把任务排得更满、把空闲资源卖出去、把故障影响控制在更小范围，谁就能把同样的电变成更多有效算力。软件在这里不是附属品，而是基础设施的一部分。

结语

“算力”这个词太容易让人想到芯片，但芯片只是整条链条上最闪亮的一环。真正决定一个集群能跑多久、能跑多便宜的，往往是那些不发光的东西：变电站、冷却塔、调度队列，以及一份被反复修改的容量规划。

下一次看到“算力翻倍”的新闻，不妨多问一句：电从哪里来？冷却怎么做？利用率是多少？这三个问题没有出现在标题里，却决定了标题能不能成立。