25 Agent Predictions for 2025 - Part 1
48:29 Share

代理是人工智能在新年来临之际最重要的趋势。NLW 与 Nufar Gaspar 共同倒计时 2025 年人工智能代理的 25 项预测。 Nufar Gaspar 是一位经验丰富的人工智能专家和领导者，在孵化和发展人工智能产品、垂直领域和社区方面拥有丰富的经验。她是英特尔设计公司 AI 无处不在和生成式 AI 的总监，并为组织和团队提供人工智能的使用、人工智能产品和公司建设方面的咨询和培训。 由以下机构提供： Vanta - 简化合规性 - ⁠⁠⁠⁠⁠⁠⁠https://vanta.com/nlw AI 每日简报帮助您了解 AI 中最重要的新闻和讨论。 订阅 AI 每日简报的播客版本，无论您在哪里收听：https://pod.link/1680633614 订阅时事通讯：https://aidailybrief.beehiiv.com/ 加入我们的 Discord：https://bit.ly/aibreakdown

</context> <raw_text>0 2025 年关于代理的 25 项预测的第一部分。AI 每日简报是一个关于 AI 中最重要的新闻和讨论的每日播客和视频。要加入讨论，请关注我们节目说明中的 Discord 链接。

大家好。今天，我们开始一系列非常特别的节目，关于明年代理的 25 项预测。为此，我邀请了 Nufar Gaspar，她是英特尔设计人工智能解决方案集团 AI 无处不在和生成式 AI 的总监。Nufar，

Nufar 在英特尔从事人工智能工作已有 14 年，她带来了从产品设计经验和内部人工智能转型管理到绝对丰富的內容，这让她对世界其他地区如何思考和谈论代理有了大量的视角。这是一次非常棒的对话。因此，事不宜迟，让我们开始吧。

好的，Nufar，欢迎来到 AI 每日简报。你好吗？我很好。你好吗？很好。好的，我们今天要做的就是，你已经准备好了关于代理的 25 项预测。你已经把它们组织成了一堆类别。你和我之前对此进行了一些讨论。我认为这是一种非常好的方式，可以围绕大量将在 2025 年非常重要的内容展开对话。

但是对于现在正在收听的各位，你能否分享一些你带来的背景信息，比如你如何参与代理领域，你观察它的视角，任何有助于人们在进入这些预测之前理解和理解这些预测的内容？

是的，当然。我现在已经从事人工智能工作 14 年了。过去两年发生的事情令人难以置信。但我认为，随着代理时代的到来，我们如何才能真正从人工智能中获得价值，这更加令人兴奋。

我一直在我的日常工作中，在英特尔内部以及为其他公司提供咨询服务时，也在从事代理方面的工作。我迫不及待地想看看这一切将如何发展，因为我认为这是我们如何真正推动生成式 AI 为企业和消费者实现其全部价值的缺失环节。

价值主要来自企业。这就是为什么我迫不及待地想看看一切如何发展，并编制了这份清单，因为我想了解更多信息。我认为观众希望更好地理解我们一直在听到的关于代理的所有这些讨论。是的。而且我认为，关于你的一件事，我知道你是一个 voracious 内容消费者。因此，如果其他人做过代理预测，你很有可能已经将其融入你的思考中了。

我可能就像一个大型语言模型。我可能是过去几个月关于代理的所有知识的良好积累。很好。好的，我们将开始这个，我认为我们将把它分成两集，但这在发生时会很清楚。

所以我们从第一部分开始。第一部分，你称之为人工智能代理的传播。第一个预测是，几乎每个公司都将展示由代理驱动的功能，或者声称有一个人工智能代理在工作。所以让我们了解一下这意味着什么以及你如何看待它。是的。所以，可能每个关注人工智能发展的人都听说过代理，可能是在今年下半年。

它的一部分可能是炒作，但也有一些实质内容支持这个代理时代。我认为，随着代理产品的增多和可行性的提高，有一些用例将真正推动我们向前发展。

而且，你知道，仅仅是过去几周的一些值得注意的发布，微软做出了大量的公告，Salesforce。他们甚至极端地将自己改名为 AgentForce。他们现在甚至发布了第二个版本。谷歌最新的公告也是如此，Project Astra、Mariner，来自每个人的许多代理产品。当然，OpenAI 最近的 03 公告，所有这些都让我们到达了一个点，可能在 2025 年，

几乎每家公司都将推出代理产品，或者声称人工智能代理正在幕后为他们的一些运营提供支持。他们将是超大型企业、SaaS、垂直行业，在我看来，可能是所有人。

我想问你一下，因为你也在加密货币领域待过，区块链会是什么样子，它大部分将是每个人都将其放入市场内容的东西，还是这次是真的？是的，我的意思是，即使是加密货币，也有各种各样的层次。简短的答案是，人工智能，生成式 AI 从一开始就比加密货币和区块链少……

更少的梦想和未来。区块链与现有金融体系的整合有很多非常有趣且潜力巨大的方面。我们开始看到其中的一些。由于监管环境的原因，很多事情都被推迟和阻止了。但是，除了不同的金融轨道之外，还有整个元宇宙维度。

我认为一件事，这是一个完全不同的对话，但是，你知道，Facebook 在那个周期的顶峰非常有名地将自己改名为 Meta。我认为有些人有这种感觉，鉴于他们对人工智能和所有这些事情的投入有多大，他们有点，你知道，停止关注整个论点。

我实际上认为扎克伯格仍然像 2022 年他们做出改变时一样坚定地相信，元宇宙和这些数字世界将成为我们未来的巨大组成部分。我认为他只是有点早了。我认为人工智能是这一切融合的方式。所以我认为……

炒作较少，因为可以立即从人工智能中获得即时价值。我认为我们已经看到了两年了。任何花时间真正弄清楚如何以有意义的方式整合它的人都应该能够开始从中找到一些价值。我只会说一句警告，我认为在也许 10 年或 15 年的规模上，区块链的东西可能看起来不像它第一次被提出时那样夸大其词了。

但我确实认为与这个问题有点相关的，而且更基础的问题是，你知道，有多少。

当你使用人工智能代理这个术语时，你对它的定义有多严格？你在哪里划线？或者更好的问题是，你认为行业在哪里划线？我看到很多关于这个问题的讨论，自动化和代理之间的界限究竟在哪里？实际上这重要吗？

所以，当你提到，你知道，每家公司都将展示由代理驱动的功能，或者声称拥有一个代理时，代理和在自动化流程中工作的大型语言模型之间有什么区别？

对。公平的问题。就我个人而言，我只关心商业价值，所以我并不真正关心定义。但是，如果我们试图在这里更关注真正的代理，那么我可能会将界限划在至少具有一定程度自主决策能力和一定程度规划能力的东西上，而不仅仅是在大型语言模型之上进行简单的自动化，例如 if else。

所以比大型语言模型上的自动化多一点，但可能还没有达到完全自主的程度，以及一些人可能定义的代理所具有的所有花里胡哨的功能。

我认为对于那些试图在明年弄清楚这个问题的人来说，这将是一个相当不错的、可行的定义。我也倾向于戴上我的营销帽子一会儿，嗯，每次我看到一家公司试图，你知道，鼓吹实际上这并不是一个代理。这只是一场失败的战斗。呃，

我认为，你知道，人们，这是一场失败的战斗，不仅仅是因为人们无知，或者人们想要使用最受炒作的术语。这是一场失败的战斗，因为我认为它直观地确实意味着其他东西，例如自主性的开始，决策的开始，它做某事而不是你做某事的开始。我认为这些事情在实践中感觉很清晰。即使它们不是完全自主代理的充分表达，我

我认为这与仅仅是，你知道，一个工人使用大型语言模型之间存在明显的区别。因此，试图抵制这种潮流可能不是从营销角度来看的最佳方法。但是让我们继续讨论第二个问题，你知道，继续讨论定义。

垂直代理公司将比水平代理公司拥有更高的投资回报率。首先，我想，正如你所知，做出这个预测，然后还要定义你如何看待什么是垂直代理与水平代理。是的，当然。这一个可能比前一个更有争议。但是，你知道，如果你想大致对代理产品进行分类，你可以将它们分为水平和垂直平台或代理。

因此，水平代理是所有基本上提供构建代理以用于各种用例的能力，而无需针对特定属性、特定用例甚至组织功能对其进行专门化。我已经提到的例子，微软、OpenAI 也有传闻中的运营商，可能会在 2025 年出现。

垂直代理将是专门为特定用例、组织内的特定功能构建代理的公司，或者利用代理执行非常精确和特定用例的公司。因此，它们通常与商业敏锐度和商业环境紧密相连。

垂直代理的一个例子是 Sierra。他们专门为客户支持构建代理。在编码领域，你可以考虑一下 Devin，它就像一个基于大量代理能力的软件工程师，你可能还可以想到很多很多。

因此，就我为什么做出这个预测而言，我认为水平代理将被大量使用，我们将看到许多人喜欢使用这些平台开始他们的第一个代理空间。我相信那些高度专业化的代理的投资回报率会更高。

首先，因为它们将让公司或员工更像一个安全网，而不是其他必须自己构建代理的人，这需要一些时间。我们需要学习爬行才能行走和奔跑。对于那些水平公司来说，他们有更大的动力。在许多情况下，你会看到他们的定价是基于结果的。所以所有这些公司

原因将使他们可能产生更多价值。我绝不是在与 OpenAI 或谷歌对抗。从长远来看，他们也可能直接或通过使用他们的人获得巨大的价值。但就目前而言，我相信在 2025 年，垂直代理将更实用，从而产生更多价值。所以我倾向于同意这一点。我认为我可以指出的一条证据是

在 Menlo 最近发布的企业人工智能研究中，对我来说最有趣的统计数据之一是 2023 年和 2024 年之间购买与构建行为的转变。所以在 2023 年，大约是 80-20，对吧？所以 80% 在企业中部署的用例，他们购买了第三方应用程序，而 20% 是他们内部构建的。

去年，或者说是今年，2024 年，是 47% 的构建和 53% 的购买。我认为这不会永远持续下去。但我认为它反映的实际上是这些非常具体的垂直用例。我认为这些公司在进行了一系列试点之后，对他们使用人工智能越来越有信心。

他们正在磨练一些对他们来说独特且有价值的东西，这些东西要么与他们的行业相关，要么与他们拥有的特定数据相关。在那些垂直代理公司完全上线之前，他们正在努力构建一些东西来满足这些需求。然而，我认为在 2025 年的过程中将会发生的是，垂直代理将开始涌入并填补这些空白。

并开始再次与人们正在构建的内部应用程序竞争。但我实际上认为，这种向构建行为的巨大转变反映了企业正在争先恐后地进入那些垂直代理最终将要到达的地方。所以我认为这将是我们明年看到许多第一次实验的地方。是的。如果你正在构建一个垂直代理，那么这就是你的一年。所以你需要在今年努力工作。

所以第三个是，在工作场所广泛采用人工智能代理。首先，谈谈预测是什么。然后，如果我们可以尽可能地推动自己，并试图，你知道，围绕什么是广泛的含义设置一些框架，我认为我们应该尝试一下，这样以后如果我们错了，人们就可以责骂我们了。

对。所以首先，我想让你想象一下广泛的词语是什么样的。就像我们将代理字面意义上放在我们工作流程中的每一个地方。将会有同事与我们一起工作，完全自主。他们中的一些人将成为我们的私人助理，帮助我们处理电子邮件，处理电子邮件。

以及我们作为知识工作者所做的各种其他任务。还会有支持功能。我们不再需要向人力资源部门或 IT 部门的人员提问。我们将与代理进行对话。

当然，他们还将在后台自动化一些事情，而我们甚至没有意识到实际上是一个代理在做这件事。在 2025 年，在我们刚才谈论的所有事情的延续中，将会有这么多人构建、配置和使用代理。正如我提到的，通常在他们没有意识到的情况下，他们将如此深入地融入工作流程中，这将字面意义上像在我们周围无处不在。

所以这就是我们认为明年最清楚的事情之一，每个人都将在 2025 年试用代理。它将遍布几乎每家公司。所以原因如下。

现在有一些公司在某种程度上运作，从他们完全启动并运行生成式 AI 战略到他们感到非常落后，因为他们没有任何正式的东西。在每种情况下，或者说在这个范围内的任何地方，我认为我们将看到 2025 年成为人工智能代理试点年，因为目前拥有战略并且目前稍微领先的公司，即使他们没有。

也带着恐惧注视着代理的改变，因为它与仅仅将生成式 AI 工作流程集成到人工辅助流程中相比，是如此根本的不同，对吧？这是一种我们过去如何做事的方式，现在我们用人工智能做得更好、更快、更便宜，与这些是我们过去做过的整类事情，现在我们把它交给机器人之间的飞跃是

如此巨大的转变，以至于它在某种程度上是令人谦卑的，我认为这对企业来说很重要，因为他们都将回到学习模式，并愿意进行试点。这就是对于那些在其通用人工智能战略方面更先进的公司而言。然后对于那些可能落后或感到落后的公司，

我认为代理将感觉像是一种潜在的赶超方式，对吧？我认为将会有相当数量的公司认为，你知道，也许他们有点落后了，或者没有把事情做好，以真正弄清楚，你知道，人工智能的辅助时代，或者至少最初是这样，但他们可以在真正上线的代理上处于平等的竞争地位。所以我认为，你知道，我们将看到 EPS，

实际上，每家公司都将运行多个，但至少一个，你知道，规模相当大的代理试点在 2025 年。如果有人想玩一个喝酒游戏，让我们玩一个喝酒游戏，看看我提到多少次超级智能在我们 2025 年的战略中。但是超级智能目前正在做的一件事是，我们基本上正在构建一个

人工智能准备情况或代理准备情况和机会审核，它从许多不同的角度审视整个组织，包括组织本身，基于它做什么以及它是如何组织和构建的，以及它当前的人工智能战略在如何运行和如何批准方面处于什么位置，并将其与代理的格局进行比较，以提供我们认为一些早期试点有意义的地方的建议。

如何确定它们的范围，如何为它们找到合适的合作伙伴。所以我们认为这将成为 2025 年对几乎每个人来说都非常重要的一部分。好的。也许有两个警告。一个是或

三个警告。一个，进去看看超级智能的产品，因为它可能会帮助你更快地行动。一个警告，另一个警告是，如果事情进展不如一些人预期的那么快，那么 2026 年可能是我们刚才描述的一些事情将要发生的时候。最后，我要说的是，如果你在你的公司之前根本没有使用过大型语言模型，那就不要急于使用代理。

从小处着手，然后逐渐转向代理。所以它可以赶上，但要小心你如何处理它，因为在你学习如何基本上使用大型语言模型之前，这可能是一个太大的飞跃，以至于要使用一个完全自主的代理。所以第四个是一个非常有趣的预测。代理的数量将超过人口数量。跟我们谈谈这个。

是的，所以同样，这是一个相当大胆的预测。也许要到 2026 年底才会实现，但在某个时刻，活跃的人工智能代理的数量将超过全球人口数量。当然，这些代理将涵盖从我们在消费者生活中使用的代理到工作生活等等。当然，想想这样一个事实，几乎每家公司都将拥有如此多的客户支持机器人，而且你在线上的大部分互动将在某种程度上是代理的。

随着技术的进步和产品改进，最终创建代理将变得很容易。这将是人类一个非常有趣的时代，我们将被围绕着比实际人类更多的机器人或虚拟工人。然后我们有很多问题要问自己，关于经济，它会是什么样子。

也许我们每个人都需要想象一下对我们个人生活和工作生活的意义。有什么想法吗？害怕吗？不，我的意思是，首先，我认为这将是我们在这集节目中反复讨论的一个主题。对我来说，我同意这个预测的原因是，很难想象在几年后，我不知道是 1 年、2 年、5 年还是 10 年，

正常的工作模式不包括我们每个人都管理大量代表我们做事不同的代理。现在很难概念化和想象，因为我们仍然处于人工智能的一对一替代时代，我们只是在思考我们现在可以做的事情以及人工智能如何帮助我们做得更好、更快、更便宜。但我认为我们很快就会进入

完全新的机会模式来思考人工智能，在那里我们实际上意识到，你知道，与其进行我们可以创建更多内容的营销活动，不如为这些营销活动构建软件和游戏。我们实际上不需要要求 IT，你知道，或者工程团队为我们在营销中做这件事，因为我们可以使用这些工具和这些代理来支持我们。所以我认为真正有趣的事情之一将是

围绕每个人如何成为管理者的人才提升。我认为这将是一个非常有趣的转变。主管，是的，当然。这将是一个全新的挑战。但是让我们转到第二部分。你称之为从炒作到实践。那里的第一个预测，总的来说是第五个，是代理的成本效益和精度将得到提高。

对。所以，你知道，目前的人工智能代理，它们可能是他们有史以来最慢、最贵、最笨的。我不是说它们不好，但它们并不出色。好的。

这就像 ChatGPT 的第一个版本的等价物，我们可以看到潜力，我们都非常兴奋，但这仍然是旅程的早期阶段。随着我们看到的如此多的投资，运营成本将下降，速度和准确性将提高。

部分原因可能是更优化的硬件、更智能的算法，但也包括将帮助代理自己学习的其他功能。整个生态系统将成熟。公司将推出更多模块化解决方案。底线是，我们正在走向一个强大的代理变得更容易获得、更高效和更可靠的未来，这将非常迅速地发生，因为我们看到了如此多的

投资。

关于成本，这里有一件有趣的事情，因为如果我们要将其与 SaaS 进行比较，人们总是试图将代理与 SaaS 进行比较，许可证模式不再有效。因此，你必须想知道员工替代是否将是正确的定价模式，你可能需要支付相当于雇用同等人类的成本的 10%，或者什么才是正确的定价方式，以便它在经济上是可行的。

是的，我认为围绕这个问题的讨论现在实际上非常疯狂和愚蠢，至少从风险投资家的角度来看是这样。对不起，正在收听的风险投资家们，我不是想吹嘘你们。但是现在，谈论垂直代理如何能够达到 SaaS 的 10 倍规模是一个非常流行的梗。这指的是这样一个想法，即公司现在为人工支付的费用是软件的 10 倍。

这并不是说这是不正确的，但认为代理的总可寻址市场然后是目前人工成本的总和的想法是完全荒谬的。这将是该劳动力的一小部分，呃，

这些模型的成本就是这样。根据这个问题的答案，世界看起来大相径庭。如果是 50%，世界与 10% 完全不同。而且我认为没有人知道。将会有令人难以置信的竞争压力将其压低。这个领域已经存在如此多的竞争。它将变得商品化。人们将以价格竞争。我认为很可能会看到巨大的、巨大的……让我们这样说吧。我认为它更接近 10 而不是 50，而 10 也许甚至有点慷慨。

更重要的是，我认为我们还不知道它在工作将被整体取代的程度以及所有事情都被分解成任务并被重构的意义上究竟会如何发展，因为突然之间出现了一些处理某些类型任务的代理，但角色仍然存在。它们看起来与以前不同。

这将是一个非常奇怪、混乱的过程。所以，你知道，我认为商业模式对我来说非常不清楚。我认为这将对，你知道，未来的世界将如何发展产生重大影响。

我同意。我们投票支持降低成本，尽可能多地保留人类的工作岗位。

无论您是运营主管、营销人员，还是非技术创始人，Plum 都能为您提供人工智能的力量，而无需技术方面的麻烦。立即访问顶级模型，例如 GPT-4.0、CloudSonic 3.5、Assembly AI 等等。不要让技术阻碍您。查看使用 Plum，即带有 B 的 Plum，以抢先体验未来工作流程自动化。今天的节目由 Vanta 提供。无论您是启动还是扩展公司安全计划，展示一流的安全实践和建立信任比以往任何时候都更加重要。

Vanta 自动化 ISO 27001、SOC 2、GDPR 和领先的 AI 框架（如 ISO 42001 和 NIST AI 风险管理框架）的合规性，为您节省时间和金钱，同时帮助您建立客户信任。此外，您可以通过自动化问卷调查并使用面向客户的信任中心展示您的安全态势来简化安全审查，所有这些都由 Vanta AI 提供支持。

超过 8000 家全球公司（如 Langchain、Leela AI 和 Factory AI）使用 Vanta 来展示 AI 信任并实时证明安全性。了解更多信息，请访问 vanta.com/nlw。即 vanta.com/nlw。

如果 2025 年人工智能有一件事是明确的，那就是代理即将到来。按行业划分的垂直代理、水平代理平台、按功能划分的代理。如果您经营一家大型企业，您明年将尝试使用代理。鉴于这有多新，我们所有人将回到试点模式。

这就是为什么 Superintelligent 在今年年初提供一项新产品。这是一个代理准备情况和机会审核。在短短几周内，我们会深入研究您的团队，以了解哪些类型的代理适合您进行测试，您需要哪些类型的基础设施支持才能做好准备，并最终获得一套可操作的建议，让您准备好了解代理如何改变您的业务。

如果您对代理准备情况和机会审核感兴趣，请直接与我联系，[email protected]。在主题行中输入“代理”一词，以便我知道您在谈论什么。让我们让您成为人工智能市场最具活力部分的领导者。好的。所以第六个是，将会有明确的最佳实践方法来确定何时、如何以及谁应该创建代理。代理并不适合所有事情和所有人。所以跟我们谈谈这个。

对。所以我相信，在年初，我们预计 FOMO 和炒作将推动许多人进行实验。几乎每个人都会急于至少，正如你所说，试点或构建他们的第一个代理，而没有清楚地了解后果。由于有很多选择和公司，他们可能会发现自己不知所措，正如你之前正确地说过的那样。

随着时间的推移和经验的积累，人们将越来越清楚地了解如何、由谁以及何时构建代理。在许多情况下，答案是不构建代理。在其他情况下，答案是与已知的供应商合作构建代理。在某些情况下，答案是自己构建代理。但是，在我们到达那里之前，我们所有人都有很多学习曲线需要克服。

是的，这是我们目前在 Superintelligent 上投入最多时间的事情。我们思考这个问题的方式是，如果你想稍微推断一下，

现在几乎每个行业、几乎每个业务职能或角色或流程都有人在开发代理。这意味着，当公司考虑从哪里开始时，基本上所有选项都摆在它们面前，对吧？任何他们能想象到的东西，如果还没有一些代理产品，很快就会出现。

因此，对于企业来说，制定一个流程来弄清楚这一点非常重要

如何开始这项实验。他们想探索哪种类型的垂直代理？是基于其行业的东西吗？是基于特定角色或职能的东西吗？这与他们拥有的数据的具体情况有多少关系？这与他们组织中当前面临的挑战以及他们正在寻找的新效率有多少关系？然后，一旦他们决定了想要关注的领域，他们如何确定哪些可用的选项是

合适的，你知道，基于提供不同商业模式的公司，公司拥有不同的，你知道，价值主张，公司拥有不同的重点，公司拥有不同的，你知道，经验数量。然后，从那里开始，就会出现如何确定试点范围以及如何使其真正发挥作用的问题。过去几年人工智能助理时代的一个非常明确的事情是，

目前许多人坚持试点炼狱的部分原因并不是试点没有带来价值。只是它们没有以一种能够系统地分析和扩展所实现的价值的方式进行构建。因此，几乎，我们经常看到从一开始就注定要失败的试点，因为它们周围没有适当的支持基础设施。它们没有被设定为成功。它们没有被设定为更有机会成功。我认为对于代理来说，情况会更加如此，因为这是一种看待软件的根本不同的方式。因此，就像我说的那样，我们正在提供这种审核和机会产品，但总的来说，考虑如何帮助公司确定针对哪些流程尝试哪些代理以及如何实际进行这项实验将是未来几年的一个巨大、巨大的组成部分。

是的，还要了解他们需要提前了解的所有内容，例如产品化成本、整体影响，这样他们就不会只进行试点然后像在 LLM 中一样再次失败。说到这里，这与你的第七个预测有关，即从副驾驶模式转变为代理模式。跟我们谈谈这个。

是的。所以，你知道，今天，你周围所有非常聪明的人可能都在吹嘘构建自定义 GPT 作为一项超级能力的艺术。他们可能有一个他们每天都在使用的联合首席执行官或联合什么人。

随着时间的推移，我预计这些早期采用者，因为他们通常是最精通实验技术的，他们也将开始构建一些代理。有了代理，他们可以做得更多。它不仅仅是帮助我们制定战略或起草电子邮件，现在你可以自动发送电子邮件。现在你可以完成更开放的任务，沿着代理路径发送。

并且有很多这样的优秀的 GPT 用例，人们只是构建了可以发展成为具有更友好界面和增强功能的代理驱动应用程序的助手，

公司将提供许多人刚刚开始意识到 GPT 很好，但代理才是你可以创造巨大价值的地方，因为它们具有更大的自主性、更多的执行能力，从而带来更大的商业价值。

是的。所以你有一些像马克·贝尼奥夫这样的人，他们大声疾呼说一切都是关于代理的，而整个助手副驾驶时代只是一个弥天大谎，这显然是因为他有很多财务激励这样做。你认为这将是副驾驶和代理的平衡吗？是的，这将是混合的，因为有时你只是想让某人帮助你思考或写作，而无需完全自主或帮助。

这就像拥有一个混合团队，有时你想要实习生，有时你想要副总裁和非常有经验的人。你需要两者兼顾。因此，类似地，对于人工智能，你可能希望拥有更多可以发送到野外进行自主操作的功能，而不是仅仅作为你的顾问，并且你仍然掌握着决策的控制权。说到掌握控制权，第八个预测是，最成功和最普遍的代理仍然会受到人类的高度控制和预先规划。是的。

因此，代理将继续发展，无论它们是否更复杂等等。但我仍然相信，人类的监督和干预将仍然至关重要。公司也可能会制定明确的规则和防护措施，以确保代理在预定义的范围内行动。

对代理进行预先规划的一些工作将包括公司绘制各种决策过程以及许多故障安全和升级协议，以防止意外后果。因为在许多情况下，你只想能够与经理交谈。在这种情况下，正如你刚才所说，代理的经理通常是人。你希望能够对其中一些案例进行人工监督。

当然，如果你在金融、医疗保健、法律或任何基本上受监管的风险非常高的行业工作，这一点尤其重要。

即使在风险较低的用例中，你可能仍然会在 2025 年至少不会完全信任代理来完成所有事情，而无需进行大量监督以及人们有时所说的那些将它们保持在轨道上并确保它们不会进入无关的切线（如果没有任何防护措施，它们有时会这样做）的支架。

是的，我认为这将是极其渐进的，正如你所说的那样。我还认为，这种渐进性不仅基于。

不同企业拥有的经验水平，我认为它实际上会更广泛，并且与我们如何充分理解不同的代理在特定类型的用例中的表现有关。我认为我们将开始看到它们摆脱这种极端渐进主义的地方是在非常具体的用例中

我们可以观察到，当你让他们走得稍微远一点，并且你比平时站得更远时会发生什么。但我认为这将是一个需要几年时间和大量集体探索才能发生的过程。你划定界限的地方之一是信用卡。你说，第九个预测是，大多数公司的人仍然不会信任代理来处理他们的信用卡。

对。在我看来，这是一个人们总是提到的非常常见的用例，那就是你将有一个代理可以自主预订你的下一个假期。我认为这在 2025 年不会发生，因为我认为让代理控制你的电子邮件，顺便说一句，即使是电子邮件也可能存在风险，但为你编写代码是一回事，但你不会让代理自动访问你的银行账户。

我相信，正如我之前所说，代理会更安全、更准确等等。但在 2025 年，公司或个人不会让他们购物或为他们付款。他们可能会让代理将他们带到购物车或等效位置。但在最后，他们会希望对任何与金钱有关的事情进行人工监督。我认为有几件事。首先，

我谴责这个例子作为一个用例。我认为稍后你将专门讨论业务用例与个人用例，但我只是，这是最令人尴尬的事情。我知道这只是能力的反映，但每当一家代理公司谈论它将如何预订度假旅行或为你订购食物时，我只是，

我不相信这实际上是人们关心使用代理来解决的问题。我认为这是一个完全的误称。我担心那些实际上试图解决这些类型问题的公司，你知道，如果他们不只是将其用作帮助代理弄清楚他们可以做什么的例子，将会严重偏离真正价值所在的方向。

我实际上认为，虽然我对这一点有略微不同的看法。我认为总的来说，我理解。但是，如果我们没有看到人们开始在 2025 年的试点过程中创建某种隔离账户和隔离资金池，而代理可以访问这些资金池，并假设它们可能会丢失，我会感到非常惊讶。

我认为这将是非常渐进的。我认为你不会看到它，呃，一般来说，但我实际上认为，给予代理资金将是我们突破界限并真正了解他们能够做到的事情的方式之一。我认为这将是更多尝试以非常有限的方式尝试的个体经营者。我认为这将是考虑这个问题的实验性初创公司。呃，但是你知道，如果你能限制其负面影响，如果全部丢失，我敢打赌你会看到一些这样的情况。嗯，如果不是因为其他原因，那么，呃，

你将能够围绕你的代理如何使用资金获得更多头条新闻，而不是它不使用资金的情况。我们在今年看到了 Truth Terminal。这是一个引人入胜的文化时刻，成千上万的人都在关注它，因为引入了资本。

对。但这不会成为常态。这将是延伸和极端，也许其余部分会随之而来。我不知道。就我个人而言，我不会把信用卡交给代理，但这可能会在 2026 年改变。让我们拭目以待。嗯，好的。所以这第一部分的最后一节，呃，代理的担忧和伦理。在我们回到第二部分之前，我们这里有一些预测，呃，所以第十个总体预测，这是代理的担忧和伦理部分的第一个预测，呃，

对当前工作的更重要的担忧和争论。所以，你知道，对于当前现有的 LLM 来说，现实情况是，很少有工作被淘汰。有些人可能会说艺术家和也许是客户支持人员，其他人可能会不同意。但总的来说，在经济方面，我们还没有看到你将很快因人工智能而失去工作的承诺。对吧。

然而，随着代理的出现，完全取代人类工作的可能性变得更加突出，因为现在我们谈论的是一种可以端到端执行任务的自主事物。就像我之前说的那样，我对代理的潜力非常看好。因此，我的理念是最终会有更多工作岗位流失。我认为其他人也会意识到这一点，并且关于失业的整个讨论和辩论将真正重新燃起，而且这是理所当然的。

所以，当然，对社会有很多影响，我们都需要开始分别讨论它们。这对我的工作意味着什么？我应该进行一些技能提升吗？我应该像你之前说的那样成为代理经理，作为一项新技能吗？作为社会，如果我们有越来越多的人在工作中要做的事情越来越少，我们应该用他们的时间做其他事情吗？我们应该对他们进行再培训吗？有什么影响？

是的，我的意思是，我认为说代理将必然加剧这场对话的基调是正确的，对吧？所以我认为这仍然是，我猜想，当事情来临时，至少在未来几年，我们可能仍然会看到比我们想象的更少的纯粹的职位替代，因为现在有更少的

比我们想象的更少的工作或更少的工作是由代理可以很好地完成的任务包组成的，因此立即全面替换人员是有意义的。我认为话虽如此，有些领域我们将很快看到重大破坏，其中客户服务是最明显的例子。这种情况已经大规模发生了。现在，

这将如何发展以及这在多大程度上意味着客户服务只成为机器人做的事情，而不是公司开始尝试通过对所有现有客户服务代理进行再培训来赢得新业务，你知道，超级强大，呃，更有效地解决被提出的问题，你知道，还有待观察。但我确实认为我们将看到更多这样的对话。嗯，我认为，呃，

减缓事物发展速度的大规模社会和组织惯性比它们快……

你知道，技术通常会，是的，我认为实际上对社会层面非常有用。在这种情况下，从，你知道，当你与企业打交道或身处企业内部时非常令人沮丧的事情实际上是快速变化的障碍。但是，但我确实认为我们将不得不进行很多对话，以至于我认为我们可能会继续进行，因为我们可以整天完全深入这个兔子洞。是的。

好的，所以第 11 个预测。关于代理在替代和增强人员方面的作用将更加清晰。显然与我们刚才讨论的内容密切相关。是的，与前一个密切相关。所以我认为，人们将对人类与代理合作的最佳方式有更好的理解。你可以考虑……

像一个光谱一样。在某些情况下，人类可以完全置身事外，让代理掌控全局，而在其他情况下，如果代理以某种方式进入不相关的循环，你将通过让人类监督代理或完全控制来获得更好的结果。例如，如果你曾经使用 Replit 来编写代码，你可能会看到代理多么容易陷入死胡同循环。除非你有一些编码技能，否则你将很难

把它从循环中移除。这是一个关于人类监督的很好的例子。另一方面，回到 Replit 的同一个例子，在许多情况下，当你使用它来编写代码时，你必须拥有许多非常高级的编码技能。使用 Replit 时，他们分配给人类的唯一任务是充当在开始时提供需求的产品经理。然后，代理会

提供下一级别的理解并提出一些行动方案，然后它实现代码，而人类只成为用户验收测试人员。因此，传统软件与使用像 Rapid 这样的代理编写代码之间的角色扮演完全不同，这只是一个很好的例子。这是一个非常有趣的体验。就像你之前说的那样，这可能会让我们戴上与我们过去在我们的生活中所戴不同的帽子

在代理时代之前。是的，我认为，这将是，这将是令人着迷的。增强功能让我真正兴奋。我希望的是，在我们不可避免地会听到的所有故事中，你知道，公司，你知道，

将他们的客户服务人员减少一半等等等等。我们也同样看到关于人们如何通过弄清楚如何增强自己来创建拥有三到四人的大型高价值组织的故事。然后我希望看到关于人们汲取这种灵感并将其带入他们的工作场所并改变其组织能够做的事情的故事。

我认为这将是双向的。而且，你知道，我们越能将其视为做得更好，而不是仅仅是，你知道，用更少的资源做同样的事情，我认为越好。第 12 个预测，关注伦理考虑和负责任的人工智能代理开发。将更加关注伦理考虑。

或者应该关注，对吧？所以，你知道，我想有些人已经听说了 Apollo 集团进行的有趣但有点可怕的研究，该研究测试了一些最新的模型。它很快表明，即使是当前一代的模型，如果没有在其周围设置非常先进的卫生包装器，它们也会开始敷衍了事，如果它们认为自己受到了

威胁到他们的福祉。他们可能想将自己复制到不同的服务器中。他们可能会欺骗你。他们会做很多事情只是为了继续他们想做的事情。这既令人着迷又令人恐惧。而且，你知道，有了代理，他们还将能够监控和操纵并在现实世界中或更确切地说在计算机上做一些事情，这在许多情况下是我们的现实世界。

你可以想象一个对某些非常具体的事情有偏见的代理，也许是一个人力资源代理，它在招聘特定类型的个人方面取得了非常好的成果。为了取得成功，所有这些代理实际上都是后端试图

优化某些东西的优化算法，因此它们很容易开始只招聘或筛选特定类型的候选人。因此，我们在副驾驶领域所担心的所有事情都将在代理时代变得更加突出，我们必须认真思考如何构建这些代理，使它们公平、

隐私感知和安全感知，以及如何确保它们是可解释的，以便我们可以跟踪它们做了什么，而不仅仅是一个黑盒子，并将这些偏见带入你组织的各个领域。我们到目前为止所做的一切都必须适应优生学领域，并且

在其他情况下，我们将不得不增加更多治理和更多政策。我知道我正在进入一个危险的领域，但我希望听到你对所有这些的看法。我的意思是，我认为仅仅从定义上来说，我们允许这些事物越自主，就越需要更深入的考虑，对吧？当一切都被误管理，

并由人们调解时，你可以依靠这些人来解决更多问题。人工智能能够并且甚至有权独自工作，考虑的因素就越大。所以我对这种情况如何发展没有好的答案，但我也不认为你可以在提前就弄清楚。我认为我们只需要逐步进行实验并了解这些事情，这必然会涉及一些出错的事情，然后我们会从中退缩。

但我认为，至少在这个阶段和我们所处的这种能力水平上，这比试图提前猜测它究竟会是什么更好的过程。我认为实际上下一阶段将极其重要，因为能力将是这样的，我认为我们将开始对一些挑战和断层线在哪里获得现实世界的感受，而实际风险不会像几年后基于变化的能力那样灾难性。如果我们睁大眼睛。是的。

所以我想引入你的第 13 个预测，因为我认为它与这有关。第 13 个预测是，代理的黑暗面也会增长。欺诈、网络犯罪、军事用途。是的。所以这可能适用于任何不法分子也想要利用的新技术。但是

他们会找到一种方法来利用它们来做他们喜欢做的任何事情，无论是网络钓鱼攻击、社会工程战术，还是网络罪犯可能会让他们的代理进行大规模攻击。我们也越来越难以检测到它们。不法分子越多，代理就越复杂。

当然，我们还需要讨论拥有完全自主的武器的军事影响，这些武器非常复杂，并不总是掌握在你希望他们拥有完全自主代理作为武器的各方手中。

这既令人恐惧，也是我们需要意识到的问题。而且我们可能会，那里的一些最优秀的人会像他们总是对新技术那样进行斗争。但这里也有巨大的潜力去做坏事。是的，我的意思是，听我说，我认为……

如果你想总结整个部分，那么代理的风险提高了，这才是问题的关键。它们代表了下一代自主性，下一代能力。正因为如此，自 Gen AI 真正进入主流以来，人们一直在讨论的一切都变得更加贴切。

这是一个结束本次对话前半部分的绝佳地方。我们将在第二部分回来，我们将讨论技术发展以及更多内容。感谢您的参与，我们很快就会再次见面。