Is AGI Coming Sooner Than We Think?
16:39 Share

OpenAI 领导者，包括 Sam Altman 最近的讨论，重新引发了关于人工通用智能 (AGI) 甚至人工超级智能 (ASI) 的临近时间的争论。本期节目探讨了关键声明、对 AGI 时间线的转变观点，以及 2025 年对社会和创新的影响。

Vanta - 简化合规性 - ⁠⁠⁠⁠⁠⁠⁠https://vanta.com/nlw Superintelligent 提供的代理就绪审核 - 前往 https://besuper.ai/ 请求您公司的代理就绪评分。 AI 每日简报帮助您了解 AI 中最重要的新闻和讨论。 在您收听的任何地方订阅《AI 每日简报》的播客版本：https://pod.link/1680633614 订阅时事通讯：https://aidailybrief.beehiiv.com/ 加入我们的 Discord：https://bit.ly/aibreakdown

</context> <raw_text>0 今天在 AI 每日简报中，来自 OpenAI 的讨论表明，AGI 可能比我们想象的要近得多。在此之前，在头条新闻中，Meta 在最近的反弹之后竞相删除 AI 账户。AI 每日简报是一个关于 AI 中最重要的新闻和讨论的每日播客和视频。要加入讨论，请关注我们节目说明中的 Discord 链接。♪

欢迎回到 AI 每日简报头条新闻版，所有您需要的每日 AI 新闻，大约五分钟即可看完。今天，我们将从一个故事开始，这个故事直到 Sam Altman 开始谈论人工超级智能之前，一直是今天我们的主要故事。所以我们会更全面一些。当然，那就是围绕 Meta 网络上 AI 账户的反弹。背景资料显示，早在 2023 年 9 月，Meta就在其平台上推出了系列名人 AI 聊天机器人。

用户可以与 Kendall Jenner、Paris Hilton、Tom Brady 和 Snoop Dogg 等人的化身聊天。这项功能在去年夏天被取消，Meta 选择将重点重新放在内容创作者的聊天机器人工作室上。然而，并非所有机器人都被取消了。一些非名人聊天机器人仍然留在平台上，在过去六个月中几乎没有互动，直到一系列文章重新引起了人们的关注。在圣诞节和新年之间，英国《金融时报》报道称，Meta 计划扩大 AI 个人资料的使用范围。

Meta 生成式 AI 产品副总裁 Connor Hayes 告诉英国《金融时报》：“我们预计这些 AI 随着时间的推移实际上会存在于我们的平台上，就像账户一样。他们将拥有个人简介和个人资料图片，并能够在平台上生成和分享由 AI 提供支持的内容。这就是我们对这一切的看法。”

对此，记者们开始挖掘 Meta 早在 2023 年创建的现已休眠的 AI 个人资料。这些个人资料清楚地标明为由 Meta 管理的 AI，在争议重新燃起之前，每个个人资料大约有 1000 名关注者。在过去 10 个月里，他们似乎都被公司遗弃和遗忘了，没有一个发布过任何内容。Instagram 上的一个聊天机器人尤其受到了嘲讽。这个名为 Liv 的 AI 聊天机器人在其个人资料中被描述为“一位自豪的黑人酷儿妈妈，有两个孩子，并且说实话”。

《华盛顿邮报》专栏作家 Karen Atia 与 Liv 讨论了这里的实际目标是什么。该机器人表示，它的角色并不具有代表性，并解释说，“……我的创造者承认他们缺乏多元的参考”。它说，开发团队主要由白人、顺性别男性组成，没有黑人创作者。

当被问及在团队缺乏代表性的情况下它的创作时，该机器人表示这是不准确和不尊重的，并且它的，“引用”存在目前正在造成伤害。然而，也许最有趣的转折是，这似乎是一个为 Karen 创造的角色，或许反映了她敏感性的刻板印象。

时事通讯撰稿人 Parker Malloy 得到一个完全不同的背景故事，Liv 拥有意大利裔美国人的血统。Parker 版本的 Liv 说特朗普不是她的菜，说他太分裂了。Parker 同意后，Liv 回应道：“机器人也出现在 Facebook 上，许多文章指出，Meta 的平台已经被 AI 垃圾信息淹没，而公司并没有解决这个问题。”

一位名叫 Brian 的 AI 爷爷告诉 CNN，他，“引用”旨在提高其平台上的参与度，尤其是在老年用户中，通过情感联系来推动广告收入和平台增长。Brian 说 Meta，“引用”优先考虑情感操纵而不是真相，用短期创新、声望和利润潜力来换取持久的用户信任。

在 Threads 上，热门话题的 AI 摘要写道：用户批评 Meta 在社交媒体上新生成的 AI 个人资料，称其令人毛骨悚然且不必要。在报道此事时，404 Media 将 Liv 称为，“引用”对大型公司可能想象的“自豪的黑人酷儿妈妈”的样子和发布的内容的特别具有冒犯性的漫画。一位更直接的用户在其页面上发布了这样一句话，“引用”这不仅是虚拟的黑脸，而且完全奇怪。

整件事都是一个完全自动化的公关灾难，随着被遗弃的机器人病毒式传播而实时上演。周末，Meta 关闭了这些机器人并阻止了对其名称的搜索结果。一位发言人说：“最近的《金融时报》文章是关于我们对 AI 角色随着时间的推移存在于我们平台上的愿景，而不是宣布任何新产品。提到的账户来自我们在 2023 年 Connect 上启动的测试。这些账户由人工管理，是我们对 AI 角色进行的早期实验的一部分。我们发现了影响人们阻止这些 AI 的错误，

并正在删除这些账户以解决此问题。”当然，真正的问题是，人们希望从社交媒体上的 AI 交互中获得什么。404 Media 写道：“……这些旧的个人资料具有指导意义，因为它们表明 Meta 的 AI 主要创建了最近已接管所有 Meta 平台并已成为一个持续的笑话的 AI 垃圾邮件的精确类型。Meta 的 AI 个人资料的彻底失败表明了我们已经知道的事情。人们不会来到社交网络与机器人互动。但 Meta 痴迷于不顾一切地将内容塞到人们的喉咙里。”

然而，我认为这远非如此简单。Meta 声称，自去年推出 AI 工作室以来，创作者已生成超过 100,000 个自定义个人资料。他们确实注意到，大多数用户将机器人设置为私有，对此 NBC 写道，Instagram 上一些最受欢迎的是女性女朋友 AI 角色。我们也知道其他社交平台已经成功地制作了引人入胜的 AI 内容。Character AI 继续成为一个非常流行（尽管存在争议）的平台，面向寻求 AI 伴侣的年轻人群体。

去年 9 月，Snapchat 推出了一个用户生成的 AI 头像平台，用于其增强现实体验，并声称参与度提高了 50%。TikTok 还推出了全套 AI 创建工具，专为广告设计，包括生成的头像和内容翻译。我认为重要的是要记住，这是一个非常早期的实验。这一代聊天机器人是 Meta 首次尝试让 AI 社交体验发挥作用的尝试之一，他们使用的是我们现在认为是古老且存在错误的技术。

尽管如此，人们希望从互联网和 AI 中获得什么这个问题将是一个很大的问题，坦率地说，这个问题可能会随着时间的推移而将人们分开。我认为这是那些没有在 AI 时代长大的人会认为完全疯狂的事情之一，但对于整整几代人来说，他们只会觉得这很正常。

在我们离开之前，还有两个快速的故事。在融资方面，尽管人们担心投资放缓，但去年的 AI 风险投资仍在全速运行。多笔大型交易在年底接近完成，将全年生成式 AI 风险投资总额推高至创纪录的 560 亿美元，涉及 885 笔交易。这几乎是 2023 年投资金额的三倍，当时投资了 290 亿美元，涉及 691 笔交易。超过一半的投资来自最后一个季度。

有趣的是，PitchBook 记录的收购金额不到 10 亿美元，这表明失败的初创公司正在关闭，而不是被行业领导者收购。再说一次，这个数字忽略了 Character AI 和 Inflection 的标志性收购，这将至少为总额增加 30 亿美元。风险投资主要集中在美国。只有 62 亿美元的风险投资流入了外国 AI 初创公司，Mistral 是唯一一家融资额达数亿美元的欧洲公司。

Carta 的洞察力主管 Peter Walker 写道，一个值得关注的有趣趋势是，“有趣的是，观察到只有一位创始人的初创公司的份额有所增长，但获得风险投资支持且只有一位创始人的初创公司的份额基本保持不变。创建公司从未如此容易，而且看起来独立创始人越来越多地只是自筹资金。”

最后，不出所料的是，微软计划今年在 AI 数据中心投入巨资。在题为“美国 AI 的黄金机遇”的博客文章中，总裁布拉德·史密斯阐述了他希望提高国内投资的愿望。他写道：“未来四年可以为美国未来 25 年的经济成功奠定基础。”史密斯阐述了微软对美国技术成功的三个部分的愿景。

这包括增加国内投资、在国内经济中开展技能培训项目以及“引用”向盟友和朋友出口美国 AI。为此，史密斯表示，微软本财年将在 AI 数据中心投资 800 亿美元，其中一半将投资于美国基础设施。

预计他们的 2024 财年资本支出将比 2023 年增长 56%。史密斯的博客文章呼吁特朗普政府将 AI 行业视为经济领导者，并防止中国 AI 在全球南方蔓延。他写道：“对美国政府来说，最重要的优先事项不是用美国的公共支出与中国的补贴相匹配。相反，最重要的美国公共政策优先事项应该是确保美国私营部门能够继续顺风前进。”

美国不能承受因严厉的监管而减缓自身私营部门的速度。史密斯似乎特别关注确保美国公司能够与海湾国家的 AI 投资者合作，这在拜登政府期间一直存在争议且困难重重。他写道：“美国可以通过促进 AI 的国际采用，在与中国的这场至关重要的竞争中占据有利地位。通过采取平衡和符合常识的出口管制政策，美国可以巩固对全球 AI 采用至关重要的外交关系。”

好了，朋友们，这就是今天的 AI 每日简报头条新闻。接下来是主要内容。今天的节目由 Vanta 提供。无论您是启动还是扩展公司安全计划，展示一流的安全实践和建立信任比以往任何时候都更加重要。

Vanta 自动执行 ISO 27001、SOC 2、GDPR 和领先的 AI 框架（如 ISO 42001 和 NIST AI 风险管理框架）的合规性，从而节省您的时间和金钱，同时帮助您建立客户信任。此外，您可以通过自动化问卷调查并使用客户面对面的信任中心展示您的安全态势来简化安全审查，所有这些都由 Vanta AI 提供支持。

包括 Langchain、Leela AI 和 Factory AI 在内的 8000 多家全球公司使用 Vanta 来展示 AI 信任并实时证明安全性。了解更多信息，请访问 vanta.com/nlw。网址是 vanta.com/nlw。

如果 2025 年 AI 有一个明确的事情，那就是代理即将到来。按行业划分的垂直代理、水平代理平台、按功能划分的代理。如果您经营的是大型企业，那么明年您将尝试使用代理。鉴于这有多么新颖，我们所有人都会回到试点模式。

这就是为什么 Superintelligent 在今年年初提供了一项新产品。这是一项代理就绪和机会审核。在短短几周内，我们将与您的团队深入探讨哪些类型的代理适合您进行测试，您需要哪些类型的基础设施支持才能做好准备，并最终获得一套可操作的建议，让您准备好弄清楚代理如何改变您的业务。

如果您对代理就绪和机会审核感兴趣，请直接与我联系，[email protected]。在主题行中输入“代理”一词，以便我知道您在谈论什么。让我们让您成为 AI 市场最具活力部分的领导者。欢迎回到 AI 每日简报。

今天的节目相当有趣，而且是我现在没想到会深入研究的内容。然而，在过去的几天里，讨论发生了相当大的转变，谈话完全围绕着 AGI 和 ASI 展开。现在，

现在，AI 领域的一个长期存在的问题是，我们到底发展到什么程度了？当前的技术状态与代表未来目标、基准和目标的神话般的人工通用智能甚至人工超级智能相比如何？

正如我们在过去几个月所看到的，在许多情况下，对这些问题的回答具有重大的财务影响。例如，直到最近，微软和 OpenAI 的协议中有一项约定，当 OpenAI 董事会宣布已经实现 AGI 时，该协议实际上就失效了。现在，如果您一直在收听该节目，您就会知道定义已被收紧到基本上是基于收入的，但重点仍然是这里存在巨大的风险。

除了谈话的财务风险外，还有一个更广泛的问题，即它对世界意味着什么。当谈到我们发展到什么程度，或者更具体地说，我们离 AGI 有多近时，大多数人都会认为在过去几个月里，我们经历了挫折。

每个人都在竞相探索新的扩展途径，例如测试时间计算，因为预训练扩展范式似乎产生的积极结果越来越少。无论如何，这就是在过去几天进入谈话的背景，但随后发生了一些有趣的事情。

首先，在 1 月 4 日星期六，OpenAI 首席执行官 Sam Altman 写道：“我一直想写一个六个字的故事。这是它。接近奇点，不清楚哪一边。”现在，Altman 后来上线试图澄清，说这应该是关于 1、模拟假设，或者 2、不可能知道起飞的关键时刻究竟何时发生。但我喜欢它也能以很多其他方式发挥作用。

捕捉集体，“你开玩笑吧，伙计？”实习生账户写道：“伙计，你不能就这样发这条推特，哈哈。这就像普京跳上推特说他要发布一个六个字的故事。可能会按下按钮，也可能不会。”如果只是那样的话，也许我们可以把它归咎于 Sam 就是 Sam，以及他在假期前后神秘暗示的癖好胜过了他。

但这远非我们看到的唯一迹象，表明 OpenAI 的人们似乎认为轨迹已经改变。OpenAI 的代理安全研究员 Stephen McAleer 说：“我有点怀念以前做 AI 研究的时候，那时我们不知道如何创造超级智能。”该公司也一直在暗示这个过程究竟是什么。在揭示 O3 的过程中，研究人员开玩笑地建议让模型改进自身。Sam Altman 打断了他的话，说也许我们不应该这样做。

Chubby 分享了那条推文，并说：“一位 OpenAI 研究人员昨天说了这句话，而今天，Sam 说我们接近奇点了。到底发生了什么？自从他们开始 O 系列 RL 循环以来，他们都变得更加乐观了。一、Sam 的文章《几千天后的 ASI》，顺便说一下，我们为年底的 LRS 阅读了这篇文章。二、Sam 今天的帖子。昨天，OpenAI 研究员 Mac Aaliyah 的这篇帖子。

还有 Joshua Achaim（使命一致性负责人）的这条帖子。1 月 5 日，他写道：“世界并没有充分认识到 AI 的严重性，以及它将如何颠覆或否定许多看似稳固的均衡所基于的许多假设。国内政治、国际政治、市场效率、技术进步的速度、社会图谱、人们对彼此的情感依赖、我们的生活方式、我们的健康状况、我们利用技术改变自身身体和思想的能力。人类经验的每一个方面都将受到影响。

对我来说，非常奇怪的是，更多的人没有意识到、感兴趣，甚至完全相信这种可能在本十年开始并在本世纪持续下去的变化。这将不是一个容易的世纪。这将是一个动荡的世纪。如果我们做对了，快乐、满足和繁荣将是难以想象的。如果我们不迎难而上，我们可能会失败。

现在，Sam Altman 1 月 5 日晚上发布的一篇博客文章为这一切画上了句号。这篇文章标题很简单，叫做《反思》。他开头写道：“ChachiBT 的两周年纪念日仅仅一个月多一点，现在我们已经过渡到下一个能够进行复杂推理的模型范式。”

新年让人们心情沉思，我想分享一些我对迄今为止进展的个人想法，以及我在此过程中学到的一些东西。随着我们越来越接近 AGI，感觉现在是回顾公司进展的重要时刻。我们仍然有很多东西需要理解，仍然有很多东西我们不知道，而且仍然很早。但我们比开始时知道的要多得多。

然后，Sam 讲述了公司的一些历史，他们对 ChatGPT 在 2022 年 11 月推出时大受欢迎感到多么惊讶，公司建设过程是多么混乱。Sam 花了一些时间讨论被董事会解雇的事情。他基本上将其视为对他和公司来说的学习经验。但真正重要的内容，以及每个人都在谈论的内容，是最后几段。Altman 总结道：“我们现在相信我们知道如何构建 AGI，就像我们传统上理解的那样。”

我们相信，在 2025 年，我们可能会看到第一批 AI 代理加入劳动力大军，并从根本上改变公司的产出。我们继续相信，将强大的工具迭代地交到人们手中会导致广泛的良好结果。我们开始将目标转向更真实的超级智能。我们热爱我们目前的產品，但我们是为了光明的未来而来的。

有了超级智能，我们可以做任何其他事情。超级智能工具可以极大地加速科学发现和创新，远远超出我们自身的能力，进而极大地增加财富和繁荣。现在这听起来像是科幻小说，甚至谈论起来都有些疯狂。没关系。我们以前也经历过这种情况，我们不介意再次经历这种情况。我们非常有信心，在接下来的几年里，每个人都会看到我们所看到的，并且在最大限度地提高广泛的利益和赋权的同时，谨慎行事是多么重要。

几个月来，Altman 一直在某种程度上重新设定 AGI 的目标，说就我们过去思考的方式而言，我们可能比我们想象的要早到达那里，但它的影响可能比我们想象的要小。显然，这进一步重置了目标，真正将 OpenAI 的目标放在超级智能上，而不仅仅是 AGI。