作者:王林Lincoln | MindsLeap创始人 | Founders Space合伙人 | 企业家AI俱乐部创始人
一句话改变了数据中心的商业逻辑
"过去,数据中心是花钱的地方。AI 工厂是赚钱的地方。"
Kevin Darling 在台上说这句话的时候,台下刚有人用绿色激光笔在他的 PPT 上打了个光点。他笑了笑,说"台湾的朋友真友好",然后继续往下讲。
这是 2026 年 Computex,台北。Darling 是 NVIDIA 网络业务的高级副总裁,六年前 NVIDIA 收购了他工作的那家网络公司。他说,Jensen 当时告诉他们要"跨整个数据中心栈做优化"。他承认,当时觉得这话听起来很酷,但不知道是什么意思。六年后,他站在台上,用整场演讲来解释那句话的真正含义。
那个含义,比大多数人理解的要激进得多。
NVIDIA 不是在升级数据中心,它是在从根本上重新定义"基础设施"是什么东西。传统数据中心是成本中心,是跑应用的机器,是每个月看到账单时皱眉的地方。AI 工厂的逻辑完全不同——它的输出是 token,token 是收入,整个工厂的设计目标只有一个:以最低的成本、最高的效率生产更多 token。
这不是一次技术迭代,这是商业逻辑的替换。
摩尔定律死了,但需求在垂直拉升
要理解这件事为什么这么紧迫,需要先接受一个不舒服的事实。
Darling 在台上直接说:摩尔定律死了。准确地说,摩尔定律承诺的不只是"每两年晶体管数量翻倍",它还承诺这件事以相同的功耗和相同的成本发生。那个承诺在 2005 年就已经失效,到现在已经整整二十年。
与此同时,AI 对算力的需求没有放缓,反而在加速。模型参数规模每年增长 10 倍,这条曲线至今仍在持续。更麻烦的是,推理阶段的 token 消耗也在爆炸式增长。大约一年半前,混合专家模型(MoE)的出现带来了一次拐点——AI 开始为了生成一个输出 token,在内部生成上百个推理 token。这意味着算力需求的增速,远比外界感知到的更陡峭。
供给侧的物理定律失效了,需求侧还在垂直拉升。这就是为什么 NVIDIA 说自己在"疯狂奔跑",为什么他们要把数据中心的每一层都重新拆开来设计。
翡翠水库教会了 NVIDIA 什么
Darling 在演讲里用了一个出乎意料的比喻。
他展示了台北市历年的月降雨量图表,指出降雨不是均匀分布的,有的月份暴雨,有的月份几乎无雨。他说,正因如此,人类修了水坝——台北郊外的翡翠水库就是这个道理,丰水期存水,枯水期放水,把稀缺资源用好。
然后他说,AI 训练的功耗曲线,和这个降雨图长得几乎一模一样。
传统云计算的负载是平的,来自无数随机用户的请求叠加在一起,最终呈现为一条平稳的直线。但 AI 训练完全不同。几万张 GPU 作为一台整体机器协同运转——计算、同步权重、再计算——这个节奏会产生剧烈的功耗波峰和波谷。
这让电力公司非常不满。他们说:"你们在大量消耗功率,然后突然停下,变压器都被你们搞坏了。"
NVIDIA 的解决方案是 DSX,Jensen 在 GTC 主题演讲里称其为 AI 工厂的"操作系统"。它在功耗低谷时把能量存储在电容和电源系统里,在功耗峰值时释放出来,把整个工厂的能量消耗曲线压平。效果直接:同样一度电的预算,可以多部署 40% 的 GPU。
"40% 更多的 GPU,意味着 40% 更多的 token,也意味着 40% 更多的收入。"
这是 Darling 自己说的。能源管理不是 ESG,不是"绿色数据中心"的噱头,它是算力的乘数,是收入的乘数。理解这一点,是理解 AI 工厂逻辑的入口。
七块芯片和"铜材能用就用"
NVIDIA 现在同时在设计七块芯片,它们不是独立的产品,而是协同设计的一套系统。
Rubin GPU 和 Vera CPU 通过高性能缓存一致性链路紧密耦合,在机架层面用 NVLink 扩展,在数据中心层面用 Spectrum-X 网络结构连接。整个设计目标只有一个:让 72 块 GPU 表现得像一台计算机,像一台整体运作的机器。Darling 说,这种"极端协同设计"带来了 10 倍的 token 吞吐提升,以及十分之一的每 token 成本。
Darling 还提到了一个细节,是 Jensen 的一句原则:铜材能用就用。铜缆便宜、可靠、不耗电,但问题是速度越高,铜能有效传输的距离就越短。现在的速率下,铜只能在机架内部的几米范围内使用,一旦需要跨机架,就必须用光纤。
但即便用光纤,也有讲究。Darling 解释,信号从芯片出来是"漂亮的",但经过 PCB 走线传到光收发器前端,信号就变"丑"了。传统做法是重新整形信号再驱动光纤,这个过程本身就在耗能。
NVIDIA 的 Spectrum CPO(共封装光学)交换机,把光学器件直接集成在芯片封装内部,信号一出芯片就直接进入光纤,省掉了这个损耗环节。结果是:一座 AI 工厂可以因此节省几十兆瓦的电力。那些电力,可以拿去运行更多 GPU,生成更多 token。
"智能体是 AI 在吃自己的尾巴"
整场演讲密度最高的一段,是 Darling 谈到 AI 智能体的部分。
他的定义很直接:"智能体是 AI 在吃自己的尾巴。不再是人类生成提示词,而是 AI 把循环封闭起来,自己给自己输入提示词。"
这个"吃自己的尾巴"的比喻,说清楚了一件很多人还没想明白的事:AI 智能体不只是"更聪明的聊天机器人",它是一种拓扑结构的改变。过去的 AI 是人机对话,一问一答,人在环路里。智能体的架构是 AI 与 AI 之间在高速对话,人退出了实时循环,只在任务的起点和终点介入。
"人类很慢,AI 很快,AI 没有耐心。"
这句话不是在夸 AI,它是一个工程约束:当智能体之间高速通信时,网络带宽就成了瓶颈。NVIDIA 现在的 ConnectX 和 BlueField 已经做到 800 Gbps,正在向 1600 Gbps 迁移,驱动力正是来自智能体对带宽的需求。
Darling 还提到,AI 智能体需要两种记忆:短期记忆(KV 缓存)和长期记忆(文件、对象存储、向量数据库)。NVIDIA 为此开发了新的存储参考架构,用 CMX 处理 KV 缓存,用 STX 处理长期记忆,实现了五倍的 token 吞吐量提升和五倍的效率改善。
Vera CPU 在这个架构里扮演的角色同样值得关注。Darling 说,Vera 是专为智能体工具而生的 CPU——它规划任务、编写程序、汇总结果、压缩上下文。这和过去的 CPU 完全不同,过去的 CPU 是给 GPU 喂数据,现在的 CPU 是替 AI 智能体做"脑力劳动"。
Darling 最后说了一句话,我觉得值得单独放在这里:
"智能体把 token 当早餐、午餐和晚餐。"
这不是修辞,这是算力需求曲线的又一次拐点预警。
这张账单,最终落在谁手上
整场演讲有个反复出现的核心指标:每瓦特能产生多少 token,每一美元能产生多少 token。
这是 NVIDIA 内部的北极星,也是它用来审视每一个设计决策的标准。为什么用液冷?因为可以把 GPU 堆得更密,铜缆不用那么长。为什么做共封装光学?因为节省几十兆瓦,转化成更多 token。为什么要做能量平滑?因为同样的功率预算可以多部署 40% 的 GPU。每一个决策,都在服务同一个目标:压低每 token 的成本。
Darling 顺带提到了一条数据:DeepSeek 模型在 Blackwell 架构上实现了 30 倍的性能提升。这条信息他只说了一句,但它说明了一件事——模型与芯片之间的协同优化,已经能产生一个数量级的效率差距,而不是百分之几的改进。这个差距,最终会体现在服务定价上,体现在能不能比竞争对手更便宜地跑一个模型、更快地响应一个请求、更经济地支撑一批 AI 智能体。
对企业决策者来说,Darling 演讲里有一句话容易被当成口号滑过去:"每个企业都应该使用 AI 智能体,因为它能让你的人类员工更高效,远比你想象的更高效。"
我对这句话会更谨慎一点。不是每家企业今天都有条件直接部署 AI 智能体,但每家企业的负责人都应该回答一个更具体的问题:我的业务流程里,哪些环节是人类在执行那些本来可以高速循环运行的重复判断?那些环节,就是 AI 智能体最先会介入的地方。
不是因为 AI 更聪明,而是因为 AI 不需要休息,AI 没有耐心,AI 在你睡觉的时候还在跑。
这个世界正在搭建一座能产 token 的工厂,而不是一座能烧电的机房。理解这个差别的人,和不理解这个差别的人,接下来几年会站在非常不同的位置上。
关于 MindsLeap 心智悦动
MindsLeap 心智悦动是 AI原生组织转型加速平台。
我们与硅谷创新孵化器 Founders Space 深度合作,持续连接全球 AI 前沿认知、硅谷科技创业生态与中国企业家的真实转型场景。
围绕 AI 原生组织建设,MindsLeap 正在构建一个面向企业家、创业者、AI 工程师、产业专家和投资人的转型生态,帮助企业把 AI 从认知、战略和工具,真正落到组织能力、业务流程、产品创新和增长系统中。
