The US Government Knows AGI Is Near
14:24 Share

今天在AI每日简报中，美国政府知道AGI即将到来。AI每日简报是一个关于AI最重要新闻和讨论的每日播客和视频。要加入讨论，请关注我们节目说明中的Discord链接。

大家好，欢迎回到AI每日简报。快速说明一下，我今天在旅行，所以我们会做一个稍微不同的节目。这将只有音频。它不包括标题。但明天我们将恢复正常的节目。外面有很多有趣的事情发生。我们明天甚至可能不得不做一个稍微扩展的标题节目。但现在，让我们深入探讨这篇文章，它开始引起很多关注和讨论。

今天我们将讨论Ezra Klein的一个非常有趣的播客和文章，该文章最初发表在《纽约时报》上。它被称为“政府知道AGI即将到来”，并且在整个互联网上引起了极大的关注。现在，关于此背景，在2023年，Chachapiti发布后，美国政府与这一新领域进行了大量互动。我们有Sam Altman在国会作证。

我们有拜登的行政命令。当然，这并没有提及世界各地所有围绕安全峰会等政府努力。

现在，在2024年，这场对话真的停滞了。很难将其归因于美国总统大选以外的任何事情。在2024年幕后，加速主义者（EACCs）和AI安全人士之间发生了一场战斗，具体的战斗围绕着加利福尼亚州的立法，该立法将对在该州运营的公司强制执行一套全新的规则。

现在，最终，这项立法通过了州立法机构，但被加利福尼亚州州长加文·纽瑟姆否决了。所以所有这一切都是说，在幕后，显然有一些高级别的政策讨论正在进行，但它们绝对没有成为焦点。即使在特朗普政府时期，大卫·萨克斯被宣布为AI和加密货币沙皇，到目前为止，更多的政府政策，或者至少是行政命令，都集中在该办公室的加密货币方面，而不是AI方面。

所有这些都是Ezra Klein这篇文章的背景，他在文章中采访了Ben Buchanan。Buchanan是拜登白宫的AI特别顾问。Klein的开场白是：“在过去的几个月里，我经历了一件奇怪的事情。人工智能实验室、政府的人一个接一个地对我说，它真的要发生了。我们即将获得人工通用智能。”

Klein认为，事实上已经发生了深刻的变化。那些最近还认为AGI还有5到15年时间的人突然更新了他们的时间表。现在大多数人认为AGI将在未来两到三年内到来，几乎肯定会在唐纳德·特朗普的第二任期内到来。Klein补充道：“……他们相信这一点是因为他们现在正在发布的产品以及他们在工作场所看到的东西。我认为他们是正确的。”

有了这个背景，Klein与Buchanan的讨论探讨了这对政府、个人和更广泛的社会意味着什么。Klein写道：

我们不知道劳动力市场将如何反应。我们不知道哪个国家会首先实现AGI。我们不知道这对战争意味着什么。我们不知道这对和平意味着什么。虽然世界上有这么多事情需要报道，但我确实认为，当我们回顾人类历史上的这个时代时，人工智能将是重要的事情。

在此退一步，之所以值得在这个节目中报道这一点的部分原因是，我一直在关注的一个重点不仅仅是技术进步，还有随之而来的元层面的社会转变。如果你现在花时间在媒体上，你就能感受到Klein这篇文章的共鸣。它绝对开始更深入地渗透到那些AI不一定是日常对话的讨论中，这可能产生一些有意义的影响。

所以更深入地探讨一下这次采访，其中一个主要主题就是强化了AGI即将到来，并且它代表着需要为此做好准备的重大变化这一观点。Buchanan指出，虽然有些人将其斥为仅仅是企业炒作，但在他看来，情况绝对并非如此。他指出的一个大问题是，那些可能只是稍微使用过ChatGPT的人与那些实际使用尖端工具（如编码代理或深度研究工具）的人之间，在理解AI改进速度方面的差距。

现在，从政府的角度来看，Buchanan将其与之前的权力斗争联系起来。他评论道：“我认为，获得AGI或变革性AI之后，将会产生深刻的经济、军事和情报能力。我认为，对于美国的国家安全而言，我们必须继续在AI领域保持领先地位。”

他提到了肯尼迪总统关于太空旅行的经典演讲，肯尼迪在演讲中说，我们做这些事情不是因为它们容易，而是因为它们很难。然而，他引用了演讲的另一部分，肯尼迪在其中说道，对于空间科学，就像核科学和技术一样，它本身没有良知。它将成为一股善的力量还是恶的力量，取决于人类。只有当美国占据主导地位时，我们才能帮助决定这片新海洋将是和平的海洋还是新的可怕的战争剧场。

Buchanan认为这种观点同样适用于AI，他说，他补充道，这并不是说我们不想与中国人合作。

到目前为止，所有这些都相当标准。这只是意见，也许是知情的意见，但仍然是意见。但随后他确实谈到了一些帮助他形成这种观点的例子。例如，Buchanan描述了一个最近的DARPA项目，该项目调查AI攻击竞争对手网络的能力。

他评论道：“我不希望生活在一个中国拥有进攻、防御和网络能力而美国没有的世界中。我认为这对许多对国家安全竞争至关重要的领域都是正确的。”Buchanan指出，在涉及美国政府参与时，挑战的一部分在于AI主要是在私营部门开发的。如果你看看之前的技术飞跃，互联网、核武器、微处理器、雷达等等，国防部在推动发展或至少资助发展方面发挥了根本性作用，

Buchanan指出，这使得美国政府能够塑造技术的发展方向，而我们默认情况下在AI领域并不具备这种能力。今天的节目由Vanta赞助。信任不仅仅是赢得的，它是被要求的。无论你是正在进行第一次审计的初创公司创始人，还是经验丰富的安全专业人员正在扩展你的GRC计划，证明你对安全的承诺从未像现在这样重要或复杂。这就是Vanta的用武之地。

企业使用Vanta通过自动化合规需求来建立信任，这些需求涵盖35多个框架，如SOC 2和ISO 27001。集中的安全工作流程可以将问卷调查完成速度提高5倍，并主动管理供应商风险。Vanta可以通过将你与审计师和专家联系起来，帮助你启动或扩展你的安全计划，以便快速进行审计并建立你的安全计划。此外，由于平台中使用了自动化和AI，Vanta可以为你节省时间，以便你可以专注于发展你的公司。

加入超过9000家全球公司，例如Atlassian、Quora和Factory，他们使用Vanta实时管理风险并证明安全性。在有限的时间内，这个观众可以获得Vanta的1000美元折扣，网址为vanta.com/nlw。这是v-a-n-t-a dot com/nlw，可享受1000美元的折扣。现在正在发生巨大的转变，从使用AI来帮助你完成工作

到部署AI代理来为你完成工作。当然，在这个转变中，有很多复杂的问题。首先，在这些看似数千个代理中，哪些实际上已经准备好投入使用了？哪些可以做到他们承诺的事情？除此之外，哪些代理实际上适合我的工作流程？什么可以与我们现在的工作方式集成？这些是超级智能代理准备审计的核心问题。

我们构建了一个语音代理，它可以扩展到你的整个团队，绘制你的流程，更好地理解你的业务，找出你目前在AI和代理方面的现状，以便提供真正适合你和你的公司的建议。

我们专有的代理咨询引擎和代理能力知识库将为你提供行动计划、建议和具体的后续行动，这将帮助你迈出进入新的代理员工世界下一步。要了解更多关于Super的代理准备审计的信息，请发送电子邮件至[email protected]，或者直接给我发送电子邮件，[email protected]，让我们为你设置我们一生中最具颠覆性的技术。除了国家安全之外，另一个重要主题是经济破坏。

Buchanan对即将到来的破坏的看法是，它将是混乱的、分布不均的和快速的。核心见解（对于所有在这里收听的人来说都非常熟悉，但对于外行人来说可能令人惊讶）是，智能即将成为商品，高能效的个人和团队将能够实现以前从未可能实现的事情。

然而，另一方面是，很多人将难以跟上。Buchanan说，虽然向由充满活力的公司和强大的竞争组成的AGI经济过渡不一定是坏事，但他补充道：“我想我和你意见一致，也许副总统万斯也同意，我们需要确保在这一过渡中保护个体工人和工人阶级。我认为我们应该诚实。这将非常困难。我们从未做得很好。”

谈话涉及到在我们向该经济体过渡时需要做的事情。讨论了诸如UBI之类的经济支持的优缺点、开源和闭源之间的权衡以及政府对技术的采用。顺便说一句，我将在本节目中反复提及的一点是，越来越多的我的基本情况是，我们不会像我们现在想象的那样看到UBI。我认为这在政治上是站不住脚的。我认为会有太多与之相关的经济挑战。我

我认为，相反，我们更有可能看到政府激励公司不裁员。也可能会有负面表达，即公司因裁员而被罚款。但我认为这感觉更严厉，A。而且B，我认为在这种情况下，你可能可以用胡萝卜比用棍子更有效地推动市场。

我认为，如果对不裁员有激励措施，它有助于增加思考如何利用AI技术的新收益的激励，不仅仅是作为一种节省成本的技术，而是作为一种超越竞争对手的方式。正如你之前听到我抱怨的那样，我认为这就是我们在AI经济破坏方面进入积极领域的地方。所以我实际上认为，在接下来的三到五年内，这将成为一个更重要的讨论。

如果文章中有一个关键主题，那就是AGI即将到来，讨论不应该围绕它是否到来，而应该围绕如何应对它。

正如我提到的，之所以值得报道这篇文章的部分原因是，这次采访似乎引起了极大的共鸣。《纽约时报》记者凯文·罗斯发帖说，现在，罗斯历来并不回避以轻信的方式处理新兴技术，所以他以这种方式来阐述这个问题有点令人惊讶。当被问及他指的是什么处罚时，他评论道：

这突显了围绕AGI的讨论，坦率地说，自从记者和科技界在五年多前发生重大决裂以来，我们所进行的讨论的一个根本性问题。因为大型科技公司已经成为敌人，引号中的“严肃记者”应该默认立场是反对，或者至少是不相信科技公司的说法。

然而，除此之外，记者，特别是标题撰写人和编辑，发现自己处于一个棘手的境地，在某种程度上，如果他们再写一篇关于一些新进展多么令人惊叹的文章，它要么让人感到厌倦，因为人们以前读过，要么让人难以置信，因为怎么可能在如此短的时间内发生如此巨大的变化？在这种情况下，发表一篇声称AI被过度炒作的文章会更容易点击，因此即使事实并非如此，也存在这样做的一种压力。

我指出，我们倾向于每年夏天都会看到这种情况，因为实验室的产出减少了一点，每个人都进入他们较慢的夏季季节。

老实说，如果你需要一个很好的例子来说明将这一讨论从理论转向可行性是多么困难，当伊桑·莫利克教授在推特上表示，他希望更多的人认真对待AGI在不久的将来到来的可能性时，他写道：“你不必自己相信，但领导者和政策制定者需要考虑这种可能性是真的。”他补充道：“需要明确的是，没有人知道AGI是否可能，更不用说短期内了。它可能不会。但相当多的严肃专家，包括许多该领域的领导者，似乎认为它即将到来。”

假设他们一定是错的，并且不考虑这种可能性，这似乎是一个错误。回复中绝对充满了人们说GPT-4.5的相对适度的进步证明AGI不会很快到来。而这些人是最关注的人。

我认为这是一个很好的例子，说明由于我们对这个术语的迷恋，我们已经完全失去了方向。当你近距离接触AI变化的能力时，你几乎不可能说服自己它不会从根本上扰乱工作方式。事实上，正如我在几天前关于奇异博士的文章中提到的那样，我发现我越接近它，我就越相信我们低估了它发生的方式。

即使那些正在接受代理取代目前发生的大部分工作的一对一现实的人，他们也同时没有考虑当你能够雇佣一千人去做一个人以前做的一份工作时会发生什么。当然，我不希望纠结于这个例子。关键是，从结构上讲，代理和AI将代表如此彻底的转变。

当然，问题是，我们是否称之为AGI是否重要？我认为显而易见的答案是从政策角度来看，一点也不重要。如果你需要证据证明这一点，我会问你，图灵测试通过时是否重要？当然不重要。新的能力上线了。人们开始使用它们。人们开始在它们之上构建。世界开始调整并继续前进，它根本不在乎是否有人正式宣布该测试已被击败。

AGI的发生方式也正是如此。你不会在一个早晨醒来，看到《纽约时报》宣布AGI已经发生。相反，你会观察你周围每一种类型的生产性知识工作都在以根本的、无法计算的以及在两年前不可想象的方式发生变化。

人们会醒来发现他们的工作已经完全改变了，他们十年来一直做的事情已经完全过时了，新的竞争力量正在彻底颠覆他们参与的市场。无论人们是否决定称之为AGI还是Lady Gaga的最新单曲，这都不重要。重要的是影响，而影响正在迅速而猛烈地到来。♪

我很高兴这场讨论引起了共鸣。我希望这场对话能得到更广泛的关注。但就目前而言，这就是今天的AI每日简报。一如既往地感谢您的收听。直到下次，再见。