Why Microsoft's CEO Doesn't Believe in AGI
19:42 Share

今天在AI每日简报中，我们将探讨微软CEO萨蒂亚·纳德拉对AGI的不同看法。AI每日简报是一个关于AI最重要新闻和讨论的每日播客和视频。要加入讨论，请关注我们节目说明中的Discord链接。♪

大家好。今天的内容有点不同。微软CEO萨蒂亚·纳德拉刚刚接受了一次非常有趣的采访，谈论了一系列广泛的话题。鉴于他在人工智能领域的突出地位，这引发了大量的讨论。所以我们今天要做的是深入探讨这次采访，重点介绍一下，谈谈围绕它的讨论。事实上，这将是节目的主要内容。我们明天将恢复我们正常的标题和主要内容的格式。但现在，让我们听听他的说法。

欢迎回到AI每日简报。我们很少以另一个播客作为整集节目的背景，但这一个我认为你绝对会觉得值得。对于那些不认识的人来说，Dwarkesh播客在过去几年中已经成为新的“思想者”访谈播客。

它采用的是罗根或莱克斯·弗里德曼那种长篇访谈的风格，但嘉宾的级别极高，智商极高，主持人德瓦克什·帕特尔做了大量的研究。现在，德瓦克什非常年轻。他毕业才几年，但他仅仅通过做更多的背景调查就为自己赢得了名声

坦率地说，比其他播客主持人更认真。他也很聪明，能够在智力层面与人交流。总之，Dwarkesh播客有很多值得喜爱的地方。它很好地说明了为什么我的主要节目不是访谈节目。这是一种完全不同类型的格式，可以做得非常好。本周早些时候，德瓦克什发布了，“孩子们不要低估一封冷邮件的力量”。它讲述了他如何获得对微软CEO萨蒂亚·纳德拉的采访的幕后故事。

现在，纳德拉显然是人工智能领域的关键人物之一，因为他领导着微软，也因为微软与OpenAI的合作。这本来可能是一次非常基本、平淡无奇的采访，也就是说着你一直说的话。但事实并非如此。

媒体一直在报道这则新闻，因为萨蒂亚谈到了从AGI到资本支出泡沫等一切问题。所以我们今天要做的是深入探讨这次采访的重点。当然，我强烈建议你看看整个采访。我会在节目说明中添加一个链接。现在，这部分内容的背景以及他们似乎同意的原因（除了萨蒂亚只是德瓦克什的粉丝之外）是，微软发布了一些重大公告

特别是在一些量子计算方面的进展，这为采访创造了新闻背景或理由。但实际上，在一个小时的过程中，这是一次更宏大的模式趋势类型的对话，而不仅仅是试图推动这两项公告。现在，在网络讨论中受到最多关注的评论无疑是关于AGI的。Versace认为，AGI的检验不会体现在基准测试或某种任意的任务替代水平上，而是体现在全球增长上。

他说：“这需要一些背景知识，对于那些不熟悉增长统计数据的人来说。发达国家的增长率约为2%，或者在经通胀调整后基本上为零。因此，我们必须看到AGI带来10%的增长，这意味着全球模式将发生彻底转变。”

他明确地将人工智能革命与工业革命进行了比较，再次指出，成功的真正标志不是达到某个随机的基准，而是对全球经济产生范式转变的影响。从这个意义上说，他认为，从长远来看，人工智能的真正受益者将不是提供人工智能的技术公司，而是利用人工智能来推动巨大生产力增长的所有公司。

在播客快结束时，谈话再次回到了AGI。德瓦克什试图确定纳德拉是否相信AGI是可以实现的。德瓦克什用自己的话说，将AGI定义为，“自动化所有认知劳动的东西，就像任何人在电脑上能做的事情一样”。纳德拉回答说：“这就是我对人们谈论AGI的方式的定义有异议的地方。认知劳动不是一成不变的。今天有认知劳动。如果我有一个收件箱来管理我所有的代理，那是新的认知劳动吗？”

纳德拉声称，今天的认知劳动是可以自动化的，但他指出，在这个过程中会产生新的认知劳动。他继续说道：“这就是为什么我至少在我的脑海里做出这种区分。不要混淆知识工作者和知识工作。今天的工作可能可以自动化。谁说我的人生目标是处理我的电子邮件？让AI代理处理我的电子邮件。”纳德拉提出，这种级别的代理将让人们腾出时间去做更高层次的认知劳动，但不会完全消除他们的角色。

然后，德瓦克什假设AGI可以达到做更高层次认知任务的第二层。纳德拉声称会有第三层，并补充道：“他借鉴了赫伯特·西蒙的观点，即人类处于有限理性状态。”

也就是说，没有人有足够的带宽来完全优化他们的体验。相反，他们选择一个足够的结果。萨切假设，如果人类的有限理性实际上可以得到解决，因为存在外部的认知放大器，那就太好了。

现在，让我在这里停一下。这是我在这个节目和其他人的播客上多次谈论过的事情。我对模式将是什么的强烈感觉，暂且不谈AGI，只是随着代理变得越来越普遍，并且能够做更多我们今天做的事情。我认为不可避免地会出现第一阶段，公司会大幅削减人力，因为他们追求的生产力增长，所谓的生产力增长，只是以更低的成本做现在做的事情。

企业如此青睐代理的部分原因是他们的投资回报率是如此的隐性。他们工作，他们以更低的成本完成人类现在正在做的事情。我们知道市场是如何反应的。我们知道华尔街考虑的是季度，而不是数年和数十年。因此，当然，能够以一半的成本投入获得相同产出的公司将获得回报，至少在短期内是这样。然而，我也相信，这些公司不会是那些书写未来故事的公司。

如果你确实节省了一半的预算来获得相同的产出，那么你没有必要以某种确定性的方式来运用这些节省下来的资金。当然，你可以像一些公司那样回购股票，玩金融工程游戏，但其他公司会将这些节省下来的资金再投资于改变他们实际所做的事情，进行创新，提供以前不可能提供的新品种，提供更高水平的服务。

我相信，这就是你将开始看到人和代理在混合劳动力中不同关系的地方。我认为，这时你将开始看到公司尝试让每个人都成为一个代理团队的管理者。用萨蒂亚的术语来说，每个人的认知劳动将转变为一种更具管理性的体验，每个人都可以使用一支小型劳动力或坦率地说是一支代理大军来做他们以前做的事情，但规模要大得多。

显然，这不会是一个轻松的转变。这需要完全不同的思维方式、完全不同的技能，并且在此过程中会遇到反复试验和挑战。但关键是我根本不相信，所有目前认知劳动或知识工作的替代意味着不会留下任何认知劳动或知识工作。唯一的问题是转变需要多长时间，以及公司能够以多快的速度扩展视野，拥有足够大的雄心壮志，以利用人们与代理团队配对时所拥有的新能力。

现在，回到这次采访，人工智能是一种放大工具的概念贯穿了整个谈话。事实上，代理的问题贯穿了整个谈话。萨蒂亚将人工智能增强与20世纪80年代和90年代个人电脑和通信带来的转变进行了类似的比较。基本上，他指出，这些进步并没有简单地更新现有的工作流程，而是需要对工作流程进行根本性的重新设计。他说，这就是将人工智能引入知识工作时需要发生的事情。

当我们想到所有这些代理时，根本的问题是存在新的工作和工作流程，就像我刚才所说的那样。举例来说，他讨论了为这次播客露面做准备。他使用Copilot收集了他需要熟悉的文件，生成摘要，甚至将其转换成播客格式。然后，他与他的团队分享了这些资源。

总结一下，他说：“所以我认为我的新工作流程是利用人工智能与我的同事一起工作。”他做的另一个比较是在制造业中引入精益流程。精益流程最初是由丰田在战后时期引入的，它涉及到以最少的零件库存运行工厂，并且只完成足够的商品来满足订单。后来它发展成为众所周知的准时制生产，并专注于消除流程中的所有浪费和瓶颈。萨蒂亚说，这就是知识工作即将发生的事情。这就像知识工作的精益化。

为了加强我每个人都将拥有成群结队的代理四处奔走的想法，萨蒂亚解释说，他现在大约有10个代理为他处理一些小任务，例如整理电子邮件和起草回复。所以他已经转变了。他每天早上不再面对一个臃肿的收件箱，而是有一份等待他批准的代理任务清单。

纳德拉评论道：“我觉得会有一个新的收件箱被创建出来，那就是我与之合作的数百万个代理，这将不得不为我设定一些期望，为我发送通知，请求指示。这绝对感觉像是微软的目标要解决的问题。”萨蒂亚继续说道：“我认为这是一个新的支架，那就是代理管理器。它不仅仅是一个聊天界面。我需要比聊天界面更智能的东西来管理所有代理及其对话。这就是为什么我认为这个副驾驶作为人工智能的UI非常重要。我们每个人都会拥有它。”

所以基本上可以认为，存在知识工作和知识工作者。知识工作可能由许多代理完成，但你仍然有一个知识工作者来处理所有知识工作者。这就是必须构建的界面。

我们可以进行一次完全独立的对话，也许这将是我在某个时候会做的播客，关于我所看到的，或者坦率地说，我们在Superintelligent看到的代理的新基础设施以及它们所暗示的需要构建的混合劳动力。但是，这种代理管理工具是帮助人们从将自己视为完成任务的最终工作者转变为协调任务的管理者的一部分。

现在，尽管这种对未来的愿景如此宏大和不同，但纳德拉也指出，我们都严重低估了这种转变中将要出现的人为摩擦。例如，他说，假设人工智能可以自动化大约60%的全球工作。他说：“我认为，为了拥有稳定的社会结构和民主运作，你不能仅仅依靠资本回报而没有劳动回报。我们可以讨论这个问题，但这60%必须重新评估。”

他以护理工作为例，这可能会变得非常有价值，并补充道：“最终，如果我们没有劳动回报，并且工作中没有意义和尊严，那么这就是这些事情被部署的另一个速度限制因素。”

纳德拉提到的另一个重大速度限制因素是法律体系。我们正在谈论所有计算基础设施，但是法律基础设施如何发展以应对这种情况？整个世界都是由诸如人类拥有财产、拥有权利和承担责任等事物构建的。如果人类要将更多权力委托给这些事物，

那么这种结构将如何发展？除非这个问题真正得到解决，否则我认为仅仅谈论技术能力是不会发生的。他实际上将法律挑战与一致性挑战联系起来。他说：“除非有人以人类的名义为其提供担保，否则你不能部署这些智能。”

人工智能起飞问题可能是一个真正的问题，但在它成为一个真正的问题之前，真正的问题将出现在法庭上。任何社会都不会允许某些人说：“人工智能做了那件事。”事实上，这也是这次谈话的另一个重要主题，即人工智能的部署并非在真空中进行。基本上，萨蒂亚根本不相信先进的人工智能会突然出现并不受控制地扩散。

他指出，社会已经开发出能够造成极大危害的软件，但已经制定了保障措施来减轻风险。“我们不会仅仅编写软件然后就让它运行，”他说。“你拥有软件，然后你监控它。你监控它是否有网络攻击，你监控它是否有故障注入等等。”

今天的节目由Vanta赞助播出。信任不仅仅是赢得的，更是被要求的。无论你是正在应对第一次审计的初创公司创始人，还是经验丰富的安全专业人员正在扩展你的GRC计划，证明你对安全的承诺从未像现在这样重要或复杂。这就是Vanta的用武之地。企业使用Vanta通过自动化超过35个框架（如SOC 2和ISO 27001）的合规需求来建立信任。

集中的安全工作流程可以将问卷调查完成速度提高5倍，并主动管理供应商风险。Vanta可以通过将你与审计师和专家联系起来，帮助你启动或扩展你的安全计划，以便快速进行审计并建立你的安全计划。此外，由于平台中使用了自动化和人工智能，Vanta可以为你节省时间，让你可以专注于发展你的公司。加入超过9000家全球公司，例如Atlassian、Quora和Factory，他们使用Vanta实时管理风险并证明安全性。

在有限的时间内，本节目的观众可以在vanta.com/nlw获得Vanta 1000美元的折扣。网址是v-a-n-t-a.com/nlw，可享受1000美元的折扣。如果2025年人工智能有一件事是明确的，那就是代理即将到来。按行业划分的垂直代理、水平代理平台。

每个功能的代理。如果你正在运营一家大型企业，你明年将尝试使用代理。鉴于这有多么新颖，我们所有人都会回到试点模式。

这就是Superintelligent在今年年初提供新产品的原因。这是一个代理准备和机会审计。在短短几周内，我们会深入了解你的团队，了解哪些类型的代理适合你进行测试，你需要哪些类型的基础设施支持才能做好准备，并最终获得一套可操作的建议，帮助你做好准备，弄清楚代理如何改变你的业务。

如果你对代理准备和机会审计感兴趣，请直接联系我，[email protected]。在主题行中输入“agent”一词，以便我知道你在谈论什么。让我们让你成为AI市场最具活力部分的领导者。嘿，听众们，想用AI来增强你的业务吗？

在我们快节奏的世界里，拥有一个可靠的AI计划可以产生巨大的影响。使组织能够创造新的价值、发展壮大并保持竞争优势，这就是一切的核心。KPMG在这里帮助你制定一个真正有效的AI战略。不要等待，现在是领先的时候了。

在kpmg.us/AI查看KPMG的真实案例，了解AI如何帮助其客户取得成功。再次强调，网址是www.kpmg.us/AI。现在，回到节目。好的，我们有这么一大段内容，以及这次谈话中关于AGI和混合劳动力中新出现的混合劳动力中的代理的部分内容。

哪些非技术性障碍会减缓变化的速度？然而，这次采访中讨论最多的另一个部分可能是关于资本支出以及数据中心可能过度建设的风险。有趣的是，这就是让大家真正开始讨论的原因，纳德拉承认基础设施将被过度建设，就像在互联网泡沫时期一样，甚至可以追溯到铁路的建设。他评论道……

我很高兴成为一个租赁者，因为我建造了很多东西，我租赁了很多东西。我很高兴我将在2027年、2028年租赁大量的产能，因为我看着这些建筑，我说：“这太棒了。”所有计算建设的唯一结果是价格将会下降。

他引入了他在云计算建设过程中的经验，当时行业正从内部服务器转向云服务器，并表示：“一旦我们开始将服务器放在云端，人们突然开始消费更多，因为他们可以更便宜地购买，而且它是弹性的。他们可以按计量购买，而不是按许可证购买，这完全扩展了。”

随着深度搜索新闻周期仍然占据人们的思想，纳德拉指出，训练模型只是成功的一半。他说：“这不仅仅是构建计算。而是构建能够真正帮助我不仅训练下一个大型模型，而且还能服务下一个大型模型的计算。除非你做到这两点，否则你将无法真正处于能够利用你的投资的地位。所以这有点像不仅仅是构建模型的竞赛，而是创造一个在世界上得到使用的商品的竞赛。你必须有一个完整的思路，而不仅仅是你正在考虑的一件事。”

现在，对于所有这些，当德瓦克什建议如果微软认为机会如此巨大，那么增加其资本支出到8000亿美元而不是800亿美元可能更合乎逻辑时，纳德拉说：“……经典的供给方是，‘让我来建造它，他们就会来。’这是一个论点，在我们都这样做之后，我们已经承担了足够的风险去做这件事。但在某种程度上，供求必须匹配。这就是为什么我同时跟踪这两方面的原因。当你用供给方来炒作自己，而不是真正理解如何将其转化为客户的真正价值时，你可能会完全偏离轨道。”

对此的解读相当戏剧化。Adapai账户的Prakash写道：“萨蒂亚退出了。简而言之，微软不相信AGI，警惕过度投资，OpenAI合作已经结束。”Adapai指出：“对微软的资本支出非常悲观。”

Lin Alden写道：

我认为人们对这次资本支出对话的解读很有趣。我不确定它是否像人们所说的那样戏剧化，但很多人对此有类似的反应。

最终，另一个重要的结论是纳德拉认为人工智能不会是一个赢家通吃的市场。他回忆起在云计算建设过程中，人们评论说AWS拥有无法逾越的领先优势，这使得微软Azure成为一项毫无意义的努力。纳德拉说：“‘消费者市场有时可能是赢家通吃的，但任何买家是公司、企业或IT部门的地方，他们都会想要多个供应商。所以你必须成为多个供应商中的一个。’”他将这一想法扩展到了模型市场。

他的观点似乎是，开源将作为对闭源模型的制约，就像Linux在90年代和2000年代成功地制约了Windows一样。关于人工智能的商品化和缺乏护城河，纳德拉评论道：“大规模地，没有什么东西是商品。”他指出，世界上每家科技公司都有能力安装服务器，这意味着云存储从定义上来说是一种商品，但真正的护城河在于超大规模。换句话说，启动云服务业务是微不足道的，但在全球范围内以高速运行云存储并最大限度地减少停机时间是一个具有挑战性的难题。

他似乎认为类似的模式将在人工智能领域上演，他指出：“在模型层，模型最终需要在某种超大规模计算上运行。所以这种联系将永远存在。这不仅仅是模型。模型需要状态。这意味着它需要存储。它需要常规计算才能在代理环境中运行这些代理。最终，他明确表示，在他看来，人工智能竞赛远不像人们认为的那样简单。你不仅要把握正确的技术趋势，还要把握价值将在何处创造。这些商业模式的转变可能比技术趋势还要艰难。”

我认为，让这一刻如此有趣的部分原因是，你越深入人工智能领域，你就越相信我们仍然低估了潜在破坏的规模。我认为萨蒂亚说得对，指出将存在非技术性的限制因素、社会障碍、法律障碍、人为惰性，换句话说，这些因素会减缓技术所能做的事情。但我们仍在谈论一场根本性的转变，十年后的工作真的不像今天的。

对于大多数人来说，几乎不可能真正理解或领会这将有多大的不同。这就是为什么这类对话如此有价值。它们帮助我们了解至少一些推动事物前进的领域领导者的想法。无论如何，这是一次很棒的谈话，非常值得花时间去看看。现在，这就是今天的AI每日简报的全部内容。下次再见，和平。