Why AI Compute Consumption Isn't Slowing Down
20:51 Share

谢谢。

欢迎回到 AI 每日简报头条新闻版，所有您需要的每日 AI 新闻，大约五分钟即可看完。快速说明一下，因为我知道你们都会想知道关于 OpenAI 的 GPT 4.5 的报道，它今天很明显要发布了，因为在东部时间上午 10:30，OpenAI 发布了 4.5 小时后的直播推文。无法想象这意味着什么。

当然，这大概会成为我们明天的主要节目。唉，我们在它发布之前录制了这个节目。而我们今天头条新闻的主要话题是亚马逊发布了期待已久的 AI Alexa。在这个演示中，Alexa 代理无处不在，亚马逊描绘了新的 Alexa，预订演唱会门票，预订餐馆，并给保姆发短信。

Alexa 的代理将能够与第一方和第三方应用程序交互，演示过程中重点介绍了 Uber、Grubhub、TripAdvisor 和 Ticketmaster。一个建议的用例是询问 Alexa 最近是否有人遛狗，代理能够检查安全摄像头录像来弄清楚。现场演示侧重于典型的对话。它展示了更新后的语音功能，允许比旧的 Alexa 更自然、更流畅的对话。

现在，我应该在这里说，我经常指出我不喜欢将代理的个人助理应用程序作为公司关注的事情。我认为对于像 Alexa 这样的家庭系统来说，这可能有点不同。考虑到 Alexa 已经安装在您的家中，并且是您系统的一个组成部分，与 Alexa 订购食物对我来说更有意义，而不是您将来会注册的某些其他通用代理应用程序。

尽管如此，最终这只是一个演示。当然，问题将是亚马逊在下一个月推出后是否能够提供一致的体验。您可能还记得，AI Alexa 经历了一个艰难的开发周期，在过去几年中面临多次延迟。就在一个月前，有报道称亚马逊不确定 Alexa 是否已准备好上市。去年十月，彭博社报道称，该团队发现 AI Alexa 容易给出冗长的答案。

并且在基本的灯控功能上遇到了麻烦。我们确实得到的演示很有前景，但大多数功能没有现场展示，新闻界也无法测试该设备。因此，最终我们必须等待并自己测试它。公告中一个有趣的部分是，它不是运行专用模型，而是实际上是模型无关的。系统可以根据最适合任务的模型，利用亚马逊的 Nova 系列模型以及 Anthropix 的 Qlod 3.7。

现在，如果还不清楚的话，这款新的 AI Alexa 对亚马逊来说是一场豪赌，非常重要。尽管运送了数亿台支持 Alexa 的设备，但该部门自 2017 年以来实际上已经亏损超过 250 亿美元。

最初的假设是，消费者将通过 Alexa 促进销售从亚马逊订购更多商品，但这从未真正实现。AI 升级被视为可以直接推动订阅收入的产品。亚马逊最初将 Alexa Plus 定价为每月 20 美元的订阅，但会免费提供给亚马逊 Prime 订阅者。

重要的是，升级将与几乎所有 Alexa 设备兼容。因此，朋友们，我们手头上的事情是，这将是家庭代理的第一次重大测试。我们将看到未来派语音激活智能家居的突破，还是一场令人尴尬的失败，表明我们还没有准备好进入黄金时段？

AI for Humans 节目的 Gavin Purcell 写道：“它花了很长时间，但亚马逊终于在消费者 AI 中露面了。迫不及待想试试这个。Alexa 是家中的语音设备。我们实际上有五个，但实际上只用于闹钟和提醒。如果这个有效，亚马逊将立即变得与 AI 更相关。”

投资者和建设者 Yohei 写道：

我对这一切没有什么要补充的，除了我认为将其免费提供给 Prime 会员非常聪明。我认为让用户为 Alexa Plus 的新订阅付费比亚马逊预期的要困难，但我确实认为，作为 Prime 订阅的附加值，它非常有价值。

这也会立即获得大量使用，而且它不需要对设备进行重大升级，这在我看来也增加了它成功的几率。基本上，如果他们可以使用已经安装的设备并且它与他们已经支付的订阅捆绑在一起，那么人们对它的好坏程度的容忍度会完全不同。我认为人们会更宽容，更愿意尝试，并且会成为亚马逊的合作伙伴，帮助他们找出在这里真正创造价值的地方。

今天接下来，Perplexity 继续其快速发展，宣布成立一个 5000 万美元的投资基金，用于种子和种子前创业公司。现在，大部分资金将来自外部投资者，尽管 Perplexity 正在利用其最近的增长资本来支持该基金。

一方面，一些人对看到像 Perplexity 这样年轻的创业公司参与这种游戏感到有些惊讶。但与此同时，我认为 Perplexity 将自己视为与一些最大的巨头竞争。它希望能够投资于自己的生态系统。它希望与开发人员保持密切联系。我的猜测是他们认为这是一种帮助该战略的方法。

最后，今天来自 Anthropic 的一个有趣的新闻。Claude 3.7 Sonnet 的训练成本可能很低。在分享了他对 Anthropic 新旗舰模型的测试后，Ethan Mollick 教授联系了该团队。他们告诉他，引用：

这似乎表明，仅仅几年时间，训练成本下降了多少。Sam Altman 曾表示，2023 年 GPT-4 的训练运行成本超过 8000 万美元，而谷歌在 2024 年 Gemini Ultra 的训练成本约为 1.9 亿美元。

当然，鉴于围绕 DeepSeq 的炒作，让这些数字公布出来对于美国实验室来说现在非常重要。该公司声称 DeepSeq V3 的训练仅使用了 600 万美元的计算资源。Anthropic 首席执行官 Dario Amadei 此前曾指出，苹果与苹果的比较表明，美国实验室能够以同样节俭的方式对领先模型进行训练。例如，上个月，他声称 Claude 3.5 Sonnet 也进行了数千万美元的训练。

尽管如此，Amadei 确实预计，下一代集群的未来训练运行成本可能高达数十亿美元，但也将带来改进以证明价格合理。

无论如何，朋友们，AI 世界正在发生有趣的事情。这就是今天的 AI 每日简报头条新闻版的全部内容。接下来是主要节目。今天的节目由 Vanta 提供赞助。信任不仅仅是赢得的，更是被要求的。无论您是应对第一次审计的初创公司创始人，还是经验丰富的安全专业人员正在扩展您的 GRC 计划，证明您对安全的承诺从未像现在这样重要或复杂。这就是 Vanta 的用武之地。

企业使用 Vanta 通过自动化超过 35 个框架（如 SOC 2 和 ISO 27001）的合规性需求来建立信任。集中的安全工作流程可以将问卷调查完成速度提高 5 倍，并主动管理供应商风险。Vanta 可以帮助您启动或扩展您的安全程序，方法是将您与审计员和专家联系起来，以便快速进行审计并建立您的安全程序。此外，由于平台中使用了自动化和 AI，Vanta 可以为您节省时间，让您可以专注于公司建设。

加入超过 9000 家全球公司，例如 Atlassian、Quora 和 Factory，他们使用 Vantage 实时管理风险并证明安全性。

在有限的时间内，这个观众可以在 vanta.com/nlw 获得 Vanta 1000 美元的折扣。即 v-a-n-t-a.com/nlw，可享受 1000 美元的折扣。如果 2025 年 AI 有一个明确的事情，那就是代理即将到来。按行业划分的垂直代理水平代理平台。

每个功能的代理。如果您正在运营大型企业，您将在明年尝试使用代理。鉴于这有多新，我们所有人都会回到试点模式。

这就是为什么 Superintelligent 在今年年初提供了一款新产品。这是一项代理准备情况和机会审计。在短短几周内，我们会深入研究您的团队，了解哪些类型的代理适合您进行测试，您需要哪些类型的基础设施支持才能做好准备，并最终获得一套可操作的建议，让您准备好弄清楚代理如何改变您的业务。

如果您对代理准备情况和机会审计感兴趣，请直接与我联系，[email protected]。在主题行中加上“代理”一词，以便我知道您在谈论什么。让我们让您成为 AI 市场最具活力部分的领导者。嘿，听众们，想用 AI 加速您的业务吗？

在我们快节奏的世界中，拥有一个可靠的 AI 计划可以产生巨大的影响。使组织能够创造新的价值、发展壮大并保持竞争优势，这才是最重要的。毕马威在这里帮助您制定真正有效的 AI 战略。不要等待，现在是领先的时候了。查看毕马威的真实案例，了解 AI 如何在其客户中取得成功，网址为 kpmg.us/AI。再次说明，网址是 www.kpmg.us/AI。

现在，回到节目。欢迎回到 AI 每日简报。如果您是长期收听 AI 每日简报的听众，您就会知道，只要有这个节目，华尔街就一直存在着一种暗流，寻找这种 AI 转变基础中的某些裂缝，在过去两年半的时间里，这种转变在许多方面完全支撑着市场。

这套盔甲的最新裂痕以及让所有人都在议论纷纷的事情是，微软可能会改变其战略，不再进行令人难以置信的计算消耗，这可能暗示某些人认为泡沫最终破裂了。现在，这场对话的具体直接催化剂是，上周五，TD Cowen 的股票分析师发布了一份研究报告，声称微软正在从其数据中心建设中撤出。

他们从哪里获得这些信息呢？所谓的渠道检查，基本上是对供应链中消息来源的询问。这些消息来源声称，微软已经取消了总计“几百兆瓦”的美国租赁合同，涉及至少两个数据中心运营。此外，该公司还减少了将资格声明转换为新租赁合同的行为，并将“相当一部分”的国际支出重新分配回美国。TD Cowen 分析师认为，这些行动“表明微软可能存在供过于求的情况”。

现在让我们来设定一下，我们在这里所做的事情，无论是我们在这个节目中，还是更广泛的市场，都在解释可能有多种解释的行为报告。当然，您选择相信哪种解释很可能与您对市场的先验知识和定位一样多，而不是与实际发生的事情有关。一种流行的解释与人们认为这是对 OpenAI 需求预期变化的看法有关。

对于这些人来说，这种逻辑是，在 2023 年和 2024 年上半年，微软一直是最活跃的数据中心承租人，尽可能多地获取容量来满足 OpenAI 的需求增长。微软不再扮演这个角色，这导致一些人认为，与去年相比，中期需求有所下降。

Zach Vaupin 在 Blue Sky 上总结了这里的一种解释，他写道：“……金丝雀死了。我认为我们可能还需要几个月到一年的时间才能完全发生 AI 崩溃，但数据中心是 AI 在短期和长期内唯一有利可图的方面。如果微软对其获利能力失去了信心，这标志着结束的开始。”

现在，您可能从我的语气中可以看出，我不属于持有这种解释的人，这并不是说，正如我之前明确指出的那样，我认为华尔街重新调整对 AI 的预期以及更好地校准基础设施建设过度支出的风险是不合适的。但当然，在我们生活的这个世界里，谈话永远不会那么细致入微。相反，谈话是泡沫还是不是泡沫。华尔街很长时间以来一直在寻找 AI 基础设施泡沫破裂的原因。你

您可能还记得去年夏天，事情变得无聊，高盛发布了报告“生成式 AI，支出过多，收益过少”。当然，其核心是对 AI 资本支出的盈利能力的质疑。红杉资本在其博客文章中重申了这一说法，该文章由 David Kahn 撰写，名为“AI 的 6000 亿美元问题”。然后是英伟达 Blackwell GPU 延迟的消息，DeepSeq 时刻，每一次都导致 AI 股票下跌。换句话说，市场参与者正在积极寻找做空大型科技公司的理由。

这是可以理解的。我还经常说的一件事，我仍然相信，那就是基本上在整个加息周期中，AI 叙事是唯一对抗的力量。这是与杰罗姆·鲍威尔在美联储公开市场委员会每次开会时都站起来加息相竞争的事情。在加息周期结束之后，市场似乎一直在寻找重新定价 AI 股票的借口，但英伟达等公司的巨大盈利能力并没有让他们这样做。

但是，让我们暂时搁置华尔街和市场的方面，只谈谈微软的具体战略是否正在发生变化。在过去几个月里，我们确实有一些公开声明表明，微软正在注意不要在 AI 建设方面做得过火。10 月份，《信息》报道称，OpenAI 的领导层认为微软在供应数据中心方面做得不够。公司之间潜在的决裂最终似乎得到了平息。然而，微软也让 OpenAI 从独家协议中解脱出来。

OpenAI 当然现在正在采购自己的计算资源，并与软银和甲骨文合作建设星门数据中心项目。

与此同时，微软首席执行官萨蒂亚·纳德拉重申，他的公司将在 2025 年在 AI 数据中心上花费 800 亿美元。再说一次，在 AI 资本支出周期的另一边，微软承认他们落后了。在过去两个季度的财报电话会议上，该公司预测其云部门的增长将放缓。虽然数据中心容量限制了增长，但首席财务官 Amy Hood 在 1 月份表示，他们预计到 6 月份财政年度结束时，容量限制将解除。

所有这些背景都与萨蒂亚·纳德拉上周在 Dwarkesh 播客中露面时发表的声明相吻合。他说：“……在某些时候，供需必须匹配。这就是为什么我要跟踪这两方面的原因。当您在供应方面夸大其词时，您可能会完全偏离轨道，而真正理解如何将其转化为客户的实际价值。”在播客的其他地方，他评论说，供应肯定会过剩，他很乐意成为租赁者。纳德拉甚至给出了一个时间框架，预计供过于求将从 2027 年开始压低计算价格。

许多气喘吁吁的分析师将这些声明视为纳德拉呼吁 AI 基础设施泡沫破裂，而对我来说，这看起来是对情况相当冷静的解读，旨在更好地解释微软是如何考虑所有这些的。现在，对于这份具体的 TD Cowen 报告，微软否认了它，或者至少反驳了其含义。在周一悉尼的一次投资者会议上，该公司重申了其 800 亿美元的资本支出承诺，并否认其数据中心战略有任何变化。

一位发言人告诉媒体：“由于我们迄今为止做出的重大投资，我们已准备好满足我们当前和不断增长的客户需求。仅去年一年，我们就增加了比以往任何一年都多的容量。虽然我们可能会在某些领域战略性地调整或调整我们的基础设施，但我们将继续在所有地区强劲增长。这使我们能够投资和分配资源到我们未来的增长领域。”

周一进一步的报道还显示，取消的租赁合同位于威斯康星州和佐治亚州，这表明决策可能存在区域因素。有了这一切，另一方面的分析也开始出现。AI 企业家 Shepel M 建议分析师们领先一步。他发布道：“我看到很多在数据中心经验不足的人都在谈论微软。这是我的分析。”

首先，让我们保持比例。我面前有数字，2 亿瓦的数据中心容量约占微软当前自建开发管道变化的 2.5%。更不用说他们的批发联合托管和定制建造场地了。其次，超级规模公司经常对数据中心方案采取认购期权，然后不触发这些期权。这样做只需花费他们几便士，并为他们提供极大的战略灵活性。第三，随着 AI 热潮持续了两年，超级规模公司微调其需求是有道理的。你不应该根据短期波动来做出长期预测。

AI 是否会持续存在，它是否会需要更多电力？是的。短期内对 AI 容量的需求是否可能会减少？也是的。第四，我不惊讶微软会将 IT 容量重新分配回美国，因为即将出台的巨额税收减免以及希望奖励国内支出增加的政府。

事实上，更进一步说，这个故事的一个方面是对正在发生的事情的选择性解读。上周，微软还提交了一份申请，以扩大其在德克萨斯州圣安东尼奥的业务规模，增加两个数据中心，每个数据中心的成本为 3.5 亿美元。Fired Up Wealth 认为这可能只是分析师在操纵市场，评论道：“……华尔街希望暂时推翻 AI 论点。这是拉低整个市场最简单的方法。”

半导体分析师 Fabricated Knowledge 在 12 月份向其订阅者通报了这些租赁取消情况，并发布道：“‘这一切都太累了。Blackwell 的延迟在媒体上的回声持续了比所需时间长得多的时间，我认为微软数据中心撤回也会如此。伙计们，这件事已经发生了，而且广为人知。不知何故，经纪人报告现在才发布？’更接近这件事的人都像是，‘这些报告在谈论什么？’很明显，这是一个被重新炒作的旧闻。”

因此，最终您所拥有的是潜在的旧闻，微软否认了分析师试图撰写的含义，那些最大声叫嚣的人已经做空了 AI，最终一切都以越来越快的速度层层递进。

事实上，有人可能会问，在数据中心建设方面，还有哪些其他故事表明大型科技公司的命运或战略正在发生变化？好吧，让我们看看 Meta。该公司显然正在商谈建设一个新的数据中心园区，这可能耗资超过 2000 亿美元。据《信息》报道，Meta 的高管已就该项目与数据中心开发商取得联系。他们据报道正在考虑路易斯安那州、怀俄明州或德克萨斯州的场址，高级领导人本月参观了潜在的场址。

如果这得以实现，这将是 Meta 资本支出的大幅增加，该公司计划今年在基础设施上花费 650 亿美元。Meta 的一位发言人否认了这一报道，并表示他们的资本支出计划已经披露，除此之外的一切都是“纯粹的猜测”。然而，在许多方面，AI 公司似乎分为两类。那些正在大力投资数据中心扩张的公司，以及那些不仅大力投资，而且更进一步规划多年期大型项目的公司。如果这项计划得以实现，Meta 将加入 OpenAI 的行列，成为后一类公司。

有趣的是，本周苹果还宣布将在未来四年内在美国投资 5000 亿美元，其中包括在休斯顿建设一个新的 AI 服务器制造工厂。目前尚不清楚这 5000 亿美元中有多少是新的支出，而不是已经承诺的资金。例如，苹果电视节目的开发成本被包括在内，以确保公告尽可能大。

然后，当然，我们必须谈谈英伟达的收益。这里的 TLDR 是，伙计们，如果 AI 基础设施建设正在放缓，英伟达还没有看到。至少现在还没有。在昨天的财报中，该公司报告了超出预期的第四季度收益。他们的预测也超出了预期。唯一真正的打击是预测不那么令人瞩目，英伟达不再超越华尔街最疯狂的预期。首席执行官黄仁勋表示：“……我们将在 2025 年强劲增长。对 Blackwell 的需求令人惊叹。”

该公司新芯片的供应链问题已经解决，全面生产正在加速。黄仁勋补充道：“我们对数据中心资本投资的数量有相当好的了解。我们知道，未来绝大多数软件都将基于机器学习。我们有顶级合作伙伴的预测和计划。初创公司仍然非常活跃。他们每个人都需要相当数量的计算基础设施。”

现在，最近，一个主要担忧是 DeepSeq 的廉价训练成本，或者说是报告的廉价训练成本，这意味着对芯片的需求减少。黄仁勋驳斥了这一说法，并表示：“……未来的推理模型可以消耗更多的计算资源。”

事实上，人们终于开始认识到，这些推理模型需要更多的资源，并且无论训练成本多么低廉，都可能是需求驱动因素。这一点很难夸大其词。推理模型的计算成本是在实际使用时（推理时）产生的，而不仅仅是在训练时产生的。每个人都纠结于计算需求下降，因为训练成本下降，这完全错过了这项技术实际向世界推广的方式。

黄仁勋还指出了一个显而易见但不知何故仍然未被充分认识的观点，即我们还有一波额外的 AI 即将来临，这不仅包括用于企业的代理 AI，还包括用于机器人的物理或具身 AI。我认为投资者尼克·卡特总结得最好，英伟达的业绩优于预期，因为它变得清晰明了，推理模型绝对会吞噬计算资源。

所以，朋友们，正如我在开头所说，我认为华尔街不断重新评估如何看待如何定价当前的 AI 收入，以及支出与收益之间可能存在差异，这是完全合理的。所有这些都是合理的考虑。我认为变得愚蠢的是这些故事在媒体中的放大方式，以及我们在 AI 炒作和 AI 泡沫之间来回震荡。

在这一点上，任何人都否认这是一场对经济产生根本性变革影响的结构性转变，都完全忽略了重点。然而，这就是今天的 AI 每日简报的全部内容。一如既往地感谢您的收听。直到下次，再见。