title: "为什么 AI 需求将长期跑赢算力供给"
source_url: "https://www.youtube.com/watch?v=FGC4ofTcg2k"
author: "a16z"
excerpt: "公共早报 a16z 投资人认为，推理需求和智能体应用的快速扩张将持续压紧 AI 算力、电力与数据中心供给，使基础设施经济性和企业编排能力成为下一阶段普及的核心。"

简介

本次对话探讨了为什么尽管普遍担忧 AI 基础设施泡沫，AI 需求可能在数年内超过可用算力供应。演讲者讨论了训练和推理的经济学、数据中心建设、融资、开放模型、Nvidia 在供应链中的地位、轨道计算，以及在企业内部使 AI 有用的实际挑战。他们的核心观点是，采用仍处于早期，计算的稀缺可能抬高而不是降低价格，赢家将是能够大规模构建、融资和将智能产品化的公司。

目录

• AI 需求、市场回撤和可能的多赢家结果

• 推理、训练和数据中心回报的经济学

• 采用仍处于早期且 token 需求正在加速

• 泡沫风险、物理约束和建设更多容量的理由

• 数据中心、再工业化和公众叙事

• 计算稀缺、开放模型和获取不平等

• SpaceX、轨道计算和超越地面基础设施的未来

• 多模型企业 AI 和抽象层

• Nvidia 的生态系统、融资优势和供应链地位

• 定制芯片、真正客户偏好和最终投资观点

AI 需求、市场回撤和可能的多赢家结果

对话从一个在 AI 中寻找真正看跌的定量信号开始。一位演讲者说，通过 7 月和 8 月，他没有发现恶化的业务指标。Anthropic 可能因为 IPO 相关的静默期显得安静，但 OpenAI、开源模型和 Grok 都被描述为在加速。这种加速值得注意，因为 AI 相关公共同比经历了先前几个月的显著回撤。

演讲者区分了指数级平静和个别 AI 名称的急剧下跌。市场可能平均看起来浅，但仍然包含大幅下跌的公司。然而他们看到的运营证据与市场悲观情绪不符。

他们拒绝零和框架，即只有一个实验室或平台可以成功。Anthropic、OpenAI、SpaceX、Meta、通过 TPU 销售的 Google、开源模型、neoclouds、推理提供商和执行良好的应用程序可能同时获胜。更有用的问题不是哪个参与者必须失败，而是每个参与者能否在快速变化的市场中创造足够的价值。

对 Anthropic 的披露谨慎解释。演讲者推测该公司可能在变得更加直接可比较 OpenAI 之前清理或重新设定了其会计定义。他们预计前沿实验室之间的竞争将保持战略性：公司可能持有高级检查点，围绕竞争对手安排发布时间表，并在成为上市公司时以不同方式管理公共沟通。公共市场波动可能影响招聘、留任以及在短期收入和长期研究之间分配资源。

推理、训练和数据中心回报的经济学

演讲者将前沿实验室描述为能够在推理和训练之间分配稀缺电力的企业。假设一家公司有十亿瓦电力，可能将其大部分用于推理，并以非常高的年收入货币化该容量。如果一个重大研究突破使训练更有价值，公司可以将电力从推理转向训练， sharply reducing annualized revenue even while improving its long-term position. 公开市场将不得不了解报告的收入部分是战略选择，由发布哪些模型检查点、如何定价服务以及分配多少容量给训练与推理决定。

他们不期望领先实验室很快产生自由现金流。相反，他们期望大量运营现金流被再投资于 GPU、其他加速器、研究和补贴的第一方产品。讨论对比了保持激进资本支出的公司与放慢速度后来看起来后悔的公司。声称的教训是，如果扩展规律和需求继续成立，投资不足可能和投资过度一样后果严重。

然而，物理基础设施可能有异常快速的回报。演讲者引用 Nebius 和 CoreWeave 的公开披露作为例子，表明在某些假设下大型集群可以在大约九或十个月内收回成本。客户预付款可以覆盖新部署的有意义部分，之后剩余容量可能通过现货市场货币化。SpaceX 被描述为可能有更快的回报，因为它可以快速上线非常大的集群并可能以更高的速率货币化。

他们认为，很少有企业能够部署数百亿美元同时获得不到一年的回报。GPU 基础设施也是可融资的。复杂金融机构不仅仅是接受一个循环故事；它们正在担保资产寿命、利用率和现金流。随着模型改进，可以使用寿命延长、token 支出的回报可以上升，每单位电力的货币化速率可以增加。在那个观点中，真正的股权回报可能比表面基础设施回报快得多。

采用仍处于早期且 token 需求正在加速

需求方被呈现为对过度建设担忧的最强答案。演讲者估计当前 AI 收入的大部分可能由令人惊讶的小部分高付费用户支持。他们质疑是否存在数千万这样的用户，注意到在公司内部，一小群高度活跃的工程师可能比普通工程师花费 10 倍甚至 100 倍的 token。

针对那个小用户基础，他们指出全球大约有 15 亿知识工作者。在他们看来，世界仍处于扩散的早期，已经严重供应受限。AI 原生公司可能花费人类薪酬的高个位数，或超过 10% 用于 token；做得好的老公司可能接近 1%。即使扩散步伐在某些行业令人失望，这也留下了很长的采用路径。

一位演讲者报告他公司内部的 token 消耗从 3 月到 8 月增长了 100 倍。在两个人开始使用企业版 Grok 后，他期望在一个月内花费再增长 10 到 20 倍。他强调这种使用是有效的而不是浪费的：有能力的用户获得足够的价值，增加 token 消耗是合理的。

讨论转向代际流利度。一位五十多岁的演讲者将尝试学习 AI 工具与他早期帮助父母采用智能手机和平板电脑的努力进行比较。年轻用户看起来对 AI 表现出某种可能是难以仅通过努力复制的本土性。他描述了用编码工具构建小产品，然后用代理产品更快速地重新创建或改进它们。总结播客、Substack 帖子、X 活动和情绪的个人工具都变得更容易组装。

关键转变是从为工作准备人的 AI 到推荐最终采取行动的 AI。一组机器人可能总结信息，而另一个机器人询问从这些工具学到的内容中应采取哪些推荐行动。当用户可以用简单指令批准自动化时，token 需求可能变得更加开放。

泡沫风险、物理约束和建设更多容量的理由

演讲者承认每个主要技术时代都会产生泡沫。铁路、汽车、收音机、电视、个人电脑、互联网和钢铁都在市场变得过于热情、估值涨得太远和投资过度的时刻产生了状况。债务融资的建设尤其脆弱，因为它们需要即时回报而不是稍后到达的回报。

尽管如此，他们认为当前建设的大部分是从运营现金流资助的，这使情况比高度债务融资的繁荣更有弹性。时机仍然至关重要：基础设施必须在需求需要时到达。但更大的风险，在他们的叙述中，是世界建设不足，因为物理约束的规模被低估了。

这些约束包括晶圆、电力、土地、铜、劳动、利率和法规。如果相对较少的重度用户群已经产生全球计算短缺，当数亿人大量使用 AI 时会发生什么？所需扩展将影响许多行业的生产产能，包括采矿和建筑。上升的实际利率被视为社会大量投资于稀缺实物资产的自然后果。

因此，他们通过 2020 年代末看到的可能宏观结果是供应不足而不是供应过剩。现有的预测建设似乎不足，政治动态可能进一步延迟它们。如果发生这种情况，智能访问的价格可能上涨，与 AI token 必须稳步变得更便宜的 conventional expectation 相反。

数据中心、再工业化和公众叙事

演讲者批评只关注保持领先中国的 AI 领导力的抽象论点。他们将那种地缘政治关切视为真实但对大多数人说太遥远。更令人信服的理由是显示实际的负担能力、工作、地方税基和公共服务改善。

他们将数据中心描绘为美国工薪阶层的重要机会。他们指出不一定总是大学才是最好的投资，电工、水管工、暖通空调技术人员和其他熟练 trade. 他们的描述中，带有身后电力发电的数据中心可以改变一个小镇：税收收入可以大幅增加，当地就业可以改善，在工业衰退中被抛在后面的社区可以重新获得经济活动。

他们引用弗吉尼亚州 Loudoun County 作为拥有密集数据中心集中和大量相关税收收入的高收入地方的例子。更广泛的主张是数据中心在与美国相对较低的天然气价格和更广泛的需要电力密集型制造业结合时可以为再工业化做出贡献。

演讲者还认为该行业未能讲出足够具体的故事。不要依赖关于治愈癌症或国家竞争的大声明，AI 公司应该识别已经受益的真实业务和真实人士，在需要时获得许可或匿名化。他们将 Meta 在财报电话会议上呈现具体小商业例子的历史习惯描述为该行业如何沟通可触摸影响的模型。

他们认识到，现在交付超越聊天和搜索替代品的日常利益的证明负担很重。提出的回应不是仅仅承诺突破，而是展示它们。他们将反对数据中心建设框架为可能自我毁灭的，如果它阻止了负担得起的、广泛可用的 AI 所需的容量。

计算稀缺、开放模型和获取不平等

如果供应保持受限，演讲者担心计算不平等。大型公司和富有的用户可能能够负担最强大的系统，而较小的组织和个人不能。如果这是由于阻止数据中心建设的结果，那将尤其荒谬。

广泛可用低成本的消费技术路径可能需要时间。广告支持了许多大众市场互联网产品，但广告业务不是一夜建成的。可能有一段时期 AI 的经济剩余很大，但消费者定价不能立即降至大众市场水平。

在这个讨论中开放模型很重要，但演讲者强调开放权重或开源 token 不是物理上免费的。可比推理需要可比计算，主要区别是在底层基础设施之上收取的利润率。一些许可证还为模型提供商保留收入份额。在一个计算意义上更便宜的模型可能消耗更多 token 每任务但在实践中更昂贵。

他们将低利润率开放系统视为计算提供商的补充，而不是威胁它们。如果利润率下降和使用上升，更多 token 被消耗，需要更多计算。他们还回到前沿系统尽管有更便宜的替代品却被购买的想法，因为用户从最强大的模型中获得大量剩余。

SpaceX、轨道计算和超越地面基础设施的未来

对话将 SpaceX 视为应对地面约束的可能答案。轨道数据中心被描述为不是漂浮在太空中的巨大建筑，而是具有芯片机架、太阳能翅膀和散热器的模块化航天器尺寸系统。太阳同步轨道可以使散热器保持在阴影中并辅助冷却。演讲者认为 SpaceX 的专家比随意在线批评者花费了更多时间评估这些工程权衡。

经济学在很大程度上取决于发射可重用性。它们将芯片成本与地面电力、冷却、劳动力和建设的成本分开。在地球上，随着对熟练劳动力和材料需求的上升，这些后者输入可能变得更贵。如果 Starship 发射成本通过可重用性大幅下降，轨道容量可能对某些工作负载变得有吸引力，尽管训练在地面上仍然更有优势，因为延迟和紧密连接的集群很重要。

他们的预测不是地面数据中心消失。更可能的是，全球计算的越来越大一部分可能进入轨道，可能从 swing 容量开始。它们讨论报告说 Elon Musk 和 Jensen Huang 共同设计了一个用于未来发射的机架，并建议即使时间表延迟仍然足以影响更广泛的基础设施画面。

它们还讨论 SpaceX 现有业务作为独立重要的：Starlink 宽带、移动连接、AI 相关增长、广告和可能的捆绑产品。这使得公司的 AI 位置看起来有利，即使人们不完全接受轨道计算 thesis。大型发射设施和高飞行频率可能创造难以让竞争对手复制的容量优势。

最投机的部分涉及小行星采矿、重工业在太空和火星。演讲者想象捕获富含资源的小行星，使用机器人进行处理，最终将一些重工业从地球转移。他们引用 Jeff Bezos 的想法，地球可能主要成为住宅，而重工业在太空进行。他们还想象 Starship 舰队，在最终人类定居之前，在火星上部署太阳能电池板、电池、计算和通信设备的机器人部署。这些被呈现为长期可能性而不是短期业务预测。

多模型企业 AI 和抽象层

演讲者转向微软，认为单一前沿模型不可能在每个任务上都最好。他们期望大型企业使用集成：一个适应专有数据的强大开放模型，一个或多个用于规划或困难任务的前沿模型，以及用于执行的低成本系统。这被描述为比仅由两个封闭实验室主导的更微软友好的未来。

公司可能希望保持对它们自己的上下文、知识产权、能力组合和成本结构的控制。与其将所有专有企业上下文发送到前沿实验室，它们可以从强大的基础模型开始，并在自己的数据上使用强化学习和监督微调。然后路由器可以主要透明地选择内部和外部模型。

演讲者引用 Fireworks Nexus、Cursor、Harvey 和其他代理系统等产品作为这种模式的早期例子。价值主张不仅是模型访问，而且是训练、路由、升级、治理以及安全地将它们应用于组织数据的能力。他们将 resulting role 描述为企业内部智能的抽象层。

那个角色有吸引力但困难。比较是运营大型美国零售商：成功需要协调数千个地点的气候和本地偏好，选择正确的库存和价格，好好配备人员并保持一致体验。描述听起来简单并不使执行简单。同样，无缝企业 AI 层必须连接数据、模型、权限、成本和持续升级。

编码被处理为异常有利，因为它被记录且比许多其他形式知识工作更易验证。法律工作可能分享其中一些特征。但触达更广泛的知识工作者人群将是混乱的。微软、Databricks、Palantir、推理提供商、专业应用公司、Salesforce、Workday、Snowflake 和其他公司可能都为此层竞争。垂直整合和计算所有权对于成为长期最低成本提供商可能非常重要。

Nvidia 的生态系统、融资优势和供应链地位

演讲者将 Nvidia 的策略描述为垂直整合同时保持横向开放。新兴加速器公司可能更好地在 Nvidia 生态系统中找到利基，而不是在每一层与公司直接对抗。他们使用体育类比：直接与 Jensen Huang 竞争比在 Jordan 准备好回应时激怒他。给半导体初创公司的建议是合作，找到有价值的优势并整合到主导生态系统中。即使加速器份额的一小部分也可以有价值，所以公司不需要在各处击败 Nvidia 来建立有意义的业务。

Nvidia 的关键优势不仅仅是芯片性能。其数据中心被视为最容易融资的。在假设的五十亿美元 Nvidia 数据中心中，相对较小的股权支票可能融资大得多的资产基础。剩余价值保证和收入分成结构可以使对贷方和 Nvidia 的经济有吸引力，只要担保剩余价值低于芯片销售产生的毛利润。TPU 也可能可融资，但可能需要更多 equity 和更高利率。

演讲者说 Nvidia 已经汇集了异常广泛的供应链地位：晶圆产能、DRAM、NAND、激光器、电容器、机架组件、土地、电力、shell、承购协议和融资关系。早在几十亿美元衡量的赌注已成为更大的协调承诺。竞争对手必须不仅与一个芯片而且与互联的硬件、软件、供应链和融资系统竞争。

他们将 Nvidia 对开放模型的支持解释为与其业务一致。如果开放模型利润率降低 token 上的 markup 但增加消耗，总计算需求可能仍然上升。具有许多模型和许多买家的碎片化市场也防止一小部分实验室捕获所有可用容量。在他们的叙述中，这使 Nvidia 的商业激励与更广泛计算获取一致。

定制芯片、真正客户偏好和最终投资观点

演讲者承认定制芯片可以工作，特别是当实验室控制模型和明确研究方向时。他们赞扬最近一个 ASIC 努力作为与 TPU 和 Trainium 并列的可信成就。尽管如此，他们认为模型架构在不同方向演变，包括在领先的中国开放模型中，所以通用能力保留很大价值。专业芯片可能与 Nvidia 堆栈的一部分竞争而不替换完整系统。

硬件以软件投资者可能低估的方式困难。芯片可能 tape out 成功，在模拟中看起来好，并在第一次插入时仍然失败。即使芯片功能正常，公司可能努力找到产品市场契合。一代失败可能需要数年和数亿或数十亿美元纠正，假设融资保持可用。这就是为什么演讲者对 Nvidia 以规模将土地、电力、供应链和资本汇集在一起的能力给予不寻常的重视。

在供应受限的市场中，每个可用芯片都售出这一事实不 reveal 真正客户偏好。演讲者提出检查商业交易结构代替。芯片公司可能投资客户，提供允许第三方融资的剩余价值保证，共享收入或发布与固定 token 价格挂钩的认股权证。这些安排的经济学可以显示提供商是捕获持久价值还是放弃太多。

他们结束观察到 Nvidia 似乎做有利交易 precisely because 复杂投资者愿意参与其中。更广泛的结论是 AI 基础设施应该不仅通过股价变动或关于泡沫的叙述来判断，而且通过真实需求、回报期、融资条款、物理瓶颈以及公司将丰富智能转化为持久产品和服务的能力来判断。