Bucky Moore: The Next Decade of AI Infrastructure
48:17 Share

0 嘿，大家好。欢迎收听 Generative Now。我是迈克尔·米尼亚诺，Lightspeed 的合伙人。我非常兴奋能进行本周的对话，因为我有幸与 Lightspeed 的一位同事 Bucky Moore 坐在一起。

Bucky 是企业软件和人工智能领域最敏锐的思想家之一。从基础人工智能到基础设施再到网络安全，他拥有很早发现优秀创始人的天赋，并帮助他们将伟大的想法扩展成改变世界的公司。我们将深入探讨他关注的内容、他的投资理念是如何演变的，以及他对未来十年人工智能创新有何看法。让我们开始吧。

嘿，Bucky。嘿，Mike。你好吗？很好。感谢你抽出时间。随时欢迎。为了我的合伙人，什么都行。是的，很高兴你加入 Lightspeed，显然。嗯，多久了？一个月，两个月？是什么时候？大约一个月半。所以第一天是四月的最后一周，第二周在办公室。是的，时间过得真快。不错。

在你加入之前我就认识你了，所以我很高兴能直接了解你，而不仅仅是从互联网上了解你。我不是……我不是一个基础设施投资者。我喜欢做更多消费者，一些企业等等。但从远处看，即使你是客户，或者我一直认为你就像……

基础设施专家，像最好的基础设施风投之一。这是一个对我来说非常陌生的世界。所以，我不知道，我喜欢听听你是如何进入这个领域的，以及你如何看待人工智能时代之前的传统基础设施投资。我大约 11 年前开始了我的风险投资生涯。在我进入风险投资之前，我被 Cisco 聘用，担任其企业发展团队的成员。

我的工作基本上是寻找对 Cisco 未来目标具有吸引力和相关性的初创公司，

要么投资它们，要么收购它们，要么与它们合作。在那里我第一次结识了创始人。我认为，凭借这种优势，我从底层开始就对技术有所了解，因为这是我第一次涉足这个行业。所以我认为我在那里度过的时间确实让我从下往上看待事物，而不是从上往下。我在 Cisco 发现的是，以这种方式建立的公司，其影响力是令人难以置信的，因为它们在各个行业和不同规模的公司中的表面积都很大。我

我认为我被迷住了。因此，经验和对我来说很重要的因素相结合，就是这些公司有多么重要。我已经将我的职业生涯都奉献给了它。所以我会说这是一件事。然后我认为另一件事是，我看到一些实际上是基础设施公司的巨型上市公司被建立起来，这得到了进一步的强化。如果你看看纳斯达克和市值最高的十大公司，我们谈论的是 Datadog。我们谈论的是 Snowflake。我们谈论的是 CrowdStrike。这些都是基础设施公司。所以他们……

他们的发展需要更长的时间。他们有很多技术风险需要尽早规避，这是资本密集型且不确定的。但我认为，一旦你做到这一点，并且你真的找到了该技术可以独特应用的市场缝隙，

这些公司可以在几十年内持续增长，我认为这比一般的软件公司更难做到，除非是最优秀的公司，例如 ServiceNow 和 Salesforce。我认为基础设施的有趣之处在于，它对地球上的每个企业和每个行业都至关重要，尤其是在越来越多的企业转向在线和数字化之后，这些机会的规模是巨大的。你在加入 Cisco 时有这种观点吗？我想，是什么让你去了那里，也许你当时在并购方面或投资方面做的一些……

交易是什么样的？当我想到 Cisco 时，这可能非常愚蠢和过于简单，但我想到的是路由器和交换机之类的东西。就像，

当你来到 Cisco 并开始你的职业生涯时，你是否已经知道你将从事的基础设施公司和交易类型？让我们先谈谈我是如何来到 Cisco 的，然后我再回答这个问题。所以我实际上是在本科毕业后开始的，就像我大学毕业一样。我去一家私募股权公司做分析师，我非常讨厌它，原因有几个。其中一个原因是私募股权实际上是一场价值提取的游戏。我更热衷于参与价值创造，这正是我思考的方向，我关注技术，并认为这是所有价值创造的地方。所以是的，

所以我决定必须离开这个行业，并搬到海湾地区，成为我们现在都生活在这个科技行业的一部分，这就是促使我寻找最终在 Cisco 找到工作的原因。事情的发生方式是这样的，我通过人脉关系找到了一位与企业发展完全无关的人，他告诉我他们正在为他们刚刚完成的一项收购进行整合，该收购与企业发展团队有关。所以他们把我介绍给了那个团队。我立刻意识到这是

我可以运用我的经验的地方，而且还可以学习我们今天所生活的世界的速成课程。我当时非常天真。我不知道路由器和交换机的区别。除了他们做了一堆 IT 基础设施方面的工作之外，我对 Cisco 的业务知之甚少。而另一方面，我遇到了产品经理、销售工程师，

我了解了路由器和交换机的区别。然后为了回答你的问题，Cisco 就是从那里开始的。但这些行业已经很快商品化了。所以过去几十年来他们一直在努力尝试更多地转向软件业务。所以你会看到像 Splunk 这样的收购，你会看到像 Meraki 这样的收购，这些都是他们进入该领域的尝试。

所以我会说，今天的 Cisco 故事是这样的：他们拥有一个非常庞大、增长缓慢的传统硬件和系统业务。然后他们还有一套中等或高速增长的软件业务，这代表着公司的未来。所以。

所以说到基础设施，我认为这对我来说是一次非常、非常有趣的经历，在那里我……我看到了旧世界和新世界在 Cisco 同时碰撞，Cisco 同时拥有这套传统的激励措施和假设，同时也试图找到进入这个软件新世界的方法。天哪，我还记得在……的时候进行过一些疯狂的对话，我的意思是，我们过去常常争论 SaaS 是否会成为一件事，或者它是否会成为虚拟桌面。就像我们过去常常争论云基础设施是否仅用于测试和开发，以及是否会超过这个范围。而且，

我从所有这些经验中学到的是，对于像第一名这样的公司来说，卢德主义是不可避免的，第二，无论你是否是投资者，都应该朝着新的方向前进，朝着新的事物前进，未来通常发生得很快，通常比我们任何一个人都能理解的都快，我认为如果你朝着新的方向前进，你就在历史的正确一边，所以这对我来说在 Cisco 是一次非常重要的收获，

至于我在 CorpDev 团队参与的第一个项目之一，它的代号是 North Shore。North Shore 代表这家名为 Nicira Networks 的公司，它基本上是第一家将 Cisco 拥有的许多网络 IP 完全转移到软件中的公司，从需要带有定制 ASIC 的交换机转变为使用 x86 英特尔服务器来完成大部分工作。该公司创始人是一位名叫 Martin Casado 的人，他现在是 Andreessen Horowitz 的合伙人，也是我的好朋友和同行。

这是一个非常、非常有趣的第一个交易，因为他对将公司卖给 Cisco 一点兴趣都没有。事实上，Cisco 认为他们可以买下这家公司，然后把它放在一个角落里，让它消亡。

他很清楚这一点，对这种未来毫无兴趣。所以发生的事情是，我们，让我们这么说吧，我们没有支付最高的价格。VMware 支付了。他建立了一家令人难以置信的公司，现在是 VMware 内部名为 VMware NSX 的产品，它已经以多种方式改变了网络行业，并维持了 VMware 的业务。所以 Martin 是一位了不起的人，也是一位伟大的投资者。但是，你知道，对我来说，这是一种非常……我会说，这是一种具有形成意义的经历，让我看到了卢德主义在非常具有战略意义的时刻是如何展现的。

以及它是多么不可避免。最终，如果我们能像我们本可以那样快地朝着新的方向前进，而不是耍小聪明，我认为，让我们这么说吧，网络行业在过去几十年中的发展将会大相径庭。对。所以你，听起来你好像……

暗示 Cisco，至少在一段时间内，这是很常见的，对吧？对于所有现有公司来说，这就是创新者的困境，有点像坚持旧事物，他们显然拥有非常、非常主导的地位，拒绝接受他们的硬件实际上会数字化和基于软件。这些激励措施根深蒂固，对吧？你有销售代表靠销售这些产品赚钱。你有……

那些业务的领导者，他们的帝国是建立在这些产品是最重要的事情，并占据最多的预算的基础上的。所以我认为，在你看过的每家大公司内部，你都会看到这些激励措施，它可能不像在这种情况下那样清晰地划分硬件和软件，但你会看到这一点。我认为这就是为什么我们都很幸运能与初创公司共度时光，因为它们有机会……

更快地行动，并且不像大公司那样受到这些激励措施的束缚。所以我认为 Cisco 期间教给我的另一件事是，基础设施往往与技术周期同步发展，对吧？所以当我们回到拥有个人电脑的时候，这显然从根本上改变了基础设施的构建方式，因为你拥有所有这些需要联网的电脑，这样人们才能完成他们的工作。

然后我们有了互联网，这显然改变了计算机的连接方式，从局域网到一个完全……你知道的，全球分布式网络。然后我们有了移动和云，对吧？最近，以及最近的人工智能，它们实际上改变了基础设施的构建方式。所以通常你在基础设施中看到的是，出现了一种新的模式。这种新模式通常是由某种新的技术创新实现的。这种新模式解锁了新的工作负载，而这些新的工作负载需要新的基础设施。

所以我认为这通常是我们处理这个问题的方式，我们从这种自上而下的观点出发，例如，世界上正在发生什么变化？由此产生的新工作负载是什么？然后这些工作负载的新基础设施要求是什么？你会发现，至少如果你回顾历史，每个……

每十年左右就会有一次……一次新的变化和新的……新的巨变来推动这种新的工作负载。这些新的工作负载拥有新的基础设施。我认为现在不用说这是什么，它以人工智能的形式出现。但我认为，如果你回顾五到十年前，我们当时谈论的是如何……如何使世界成为云原生，可以说是这样。对。所以我认为这对我作为投资者来说，关于基础设施真正有趣的事情是，随着世界的变化，它也会变化。

因此，你必须每十年左右重新发明自己和你的思维方式，无论是作为投资者还是建设者，对吧？我记得遇到过很多创始人，他们来自这样一个时代，在这个时代，构建大型基础设施公司的方式是构建一些在企业数据中心内部使用的产品。这些人必须重新调整他们的思维方式，重新调整他们的……

他们的……他们的技术先验知识，并真正采取一种像云原生形状一样的当前世界观。我认为现在所有拥有云和分布式系统专业知识的人都正在发生同样的事情。我的意思是，他们……他们正在这个人工智能时代构建许多这些重要的基础设施公司，但他们真的不得不发展自己。所以我认为这是一个非常有趣的方面，当然作为投资者或建设者，事情变化得非常快。而且，而且，呃，而且当事情发生变化时，你必须随之变化。所以这个主题就像，你知道的，旧事物与新事物相遇，朝着新事物前进，我……我……

我觉得，你知道的，我的猜测是，这将是我们这次谈话中反复出现的主题。Cisco，你离开 Cisco。你直接从 Cisco 去 Kleiner 了。对吗？不。我实际上是在 Battery Ventures 开始我的风险投资生涯的。哦，对。好的。是的。对。在 Battery 和 Kleiner 的早期，我们已经从旧的交换机和路由器转向了新的云解决方案。

在你开始从事风险投资的时候，谈谈那个时候。当时正在建设什么样的交易和公司，这如何激励你并教你风险投资的业务？我认为当我还在 Cisco 的时候，主要的创新领域是围绕着允许拥有数据中心的大型企业使用更现代的存储、网络和计算基元来对其数据中心进行现代化改造。Cisco 显然在这方面的网络方面处于领先地位。

像 NetApp 和 Nimble Storage 这样的公司，其中许多实际上是 Lightspeed 的公司，包括 Nimble Storage，它们正在重新发明存储方面的内容。然后在计算方面，你显然拥有像英特尔 x86 这样的商品硬件。然后你拥有来自 VMware 的所有这些软件，这些软件用于确保所有这些东西协同工作。

所以这就是我们当时所处的世界。当我还在 Cisco 的时候，也就是 2011 年到 2014 年之间，有趣的是，世界开始迅速变化，而那些公司比以前不那么重要了，因为发生的事情是亚马逊网络服务出现了，亚马逊网络服务不仅说服了世界，这是一个你可以尝试和尝试构建新事物的地方，而且它是一个你应该实际迁移所有应用程序的地方。在企业眼中，它是一个你应该迁移所有应用程序的地方的原因是，他们能够拥有前所未有的敏捷性和灵活性。

同样的敏捷性和灵活性驱动因素，即能够按需启动计算和基础设施资源的想法，是实际上允许构建全新基础设施公司的新的基元。所以一个很好的例子就是 Snowflake，对吧？Snowflake 实际上是在追赶 Oracle，Oracle 与 Teradata 一起主导了数据仓库业务几十年。但是当云出现时，你可以采用一种全新的架构。我认为 Snowflake 真正说明了这在分析数据库中的样子。

我认为发生的事情是，至少在当时，我从未见过市场如此迅速地转向新产品。对。我的意思是，这是一个被 Oracle 深深根植的市场。我认为之前没有人真正认为这是你可以颠覆的东西，但 Snowflake 实际上推出了一个市场上价格便宜 10 倍、速度快 10 倍的产品。而且，嗯，整个市场都朝着它的方向发展。对。所以我认为从现场到云的转变教给我的一个教训是，再次强调，这个评论是：未来发生得很快。对。我认为，嗯，

你会开始看到，每一次后续浪潮，未来似乎发生得更快。我认为我们在现场时代和云时代之间看到了这一点。我认为我们在 PC 或移动时代看到了这一点。我认为我们现在在很大程度上在云时代和人工智能时代看到了这一点，这意味着人们正朝着这些技术的优势更快地发展，因为我认为在每一个后续浪潮中，它就像蛋糕上的层一样堆叠在其他层之上。

并且解锁了世界以前从未见过的经济转型。我认为 Snowflake 在数据仓库的背景下做得很好。我们现在实际上在围绕它构建的许多前沿模型中看到了这种情况，当然还有围绕它们的底层基础设施。在人工智能时代之前的基础设施中，还有一些其他的基元是什么？

云，我们已经讨论过一些了。像，还有一些其他的基元吗？好吧，我的意思是，事情是这样的，我们谈到了 Snowflake 作为分析数据库，但是，你知道的，数据库的另一面是事务数据库。所以这是……再次强调，这是曾经由 Oracle 主导的市场。好的。现在你看到的是，像 AWS 和 Google 这样的超大规模公司已经提供了托管数据库服务，这些服务现在已经开始主导市场，对吧？是的。

所以我认为这种类型的数据库是一个非常有趣的数据库，因为从某种意义上说，作为基础设施投资者，你可以将大型语言模型视为数据库，因为你可以查询它们并从中获取信息。在旧世界中，你会查询关系数据库，你必须非常仔细地考虑其中有哪些数据、数据的布局方式、获取数据的速度以及你编写的查询类型。

所以我认为一个非常、非常有趣的范式转变，我作为投资者现在正在感受到的是，如果我们将这些大型语言模型视为数据库，那么数据库在软件中无处不在，并且它们具有各种不同的形状和大小。我认为我们正在看到一种检索信息的新方法。对。虽然它们相比之下更随机，但我认为你……

你开始真正考虑，好吧，所以如果这些东西要像数据库一样无处不在，开发人员将以各种新方式使用它们，那么它们所具有的灵活性以及它们相比之下更加强大的原因就不难理解了，因为你甚至不必将数据放入其中。只是像，为什么这是一个如此巨大的机会，对吧？所以这就是我发现的一种情况，你开始看到这些东西在至少开发人员如何看待它们方面存在某种相似之处。我认为作为基础设施投资者，问自己以下问题非常有益：好吧，那么在任何给定时间点，开发人员的工具箱中有什么？

我认为长期以来，你拥有 Postgres，你拥有像 Kafka 这样的东西，这是 Confluence 的业务。你如今拥有像 ClickHouse 这样的东西，Lightspeed 显然是投资者。我认为正在发生变化的是，大型语言模型现在就在工具箱中。作为一项技术和提供该技术的公司，这是一个非常令人兴奋的地方。有人可能会说，基础设施游戏实际上是在寻找进入开发人员工具箱的方法。好的，让我们谈谈人工智能。所以我想在你 Kleiner 的时候，

人工智能真正占据主导地位，也就是 ChatGPT 时刻。我们谈到了大型语言模型，我们肯定会更多地讨论这个问题。我想谈谈你提到的这个随机的评论，但你在这波浪潮中看到的一些其他的现在人工智能优先的基元是什么，你可能……

无法预料，或者可能与我们在人工智能时代之前看到的基元不完全相同。在我直接解决这个问题之前，我想承认，我认为……我谈到了作为投资者，你真的必须非常迅速地过渡到这些新的范例中，确保你沉浸其中，真正理解并接受它们的潜力。我会说，在人工智能的背景下做到这一点可能是我作为投资者所经历的最具挑战性的努力之一。原因是……有两个方面。

一个是，我认为事情发生的速度比我以前见过的任何事情都快，这意味着感觉就像一个开关被翻转了，突然之间，所有开发人员都在花时间考虑这个问题。第二，它们似乎带有非常、非常大的哲学问题，尤其是在这项技术的生命周期早期，尽管我们仍然可以说我们还处于早期阶段，但让我们说非常早期，例如在 2023 年初，让我们说在 ChatGPT 成为家喻户晓的名字并且人们理解了它的

但是他们不必担心这个问题。因此，转向开源后，现在你突然有了这些需要作为开发者考虑的组件。因此，从投资的角度来看，这是一个机会。这就是你的意思吗？我认为是这样的。不过，关于成本点，我想说的是，我实际上并不会说成本是促使你放弃封闭模型的唯一原因，因为正如我们最近看到的，打开眼睛的价格，哦，大幅下降了。对。而且，呃，

鉴于令牌价格每年都在以多个数量级下降，我认为你将能够使用非常非常便宜且高效的封闭模型。那么问题是，为什么你需要开源呢？至少就我目前看到的而言，是的，在某些用例中，使用开源模型可能更便宜，但有时你希望使用更小的模型，因为你可以获得更好的延迟特性。或者有时你只是不想让数据离开你正在构建的环境，并且希望能够完全控制模型，而只有开源才能做到这一点。所以

我认为这些是我看到的一些更大的驱动因素。但是，这个领域变化如此之快。真正令人兴奋的是，我认为开源模型正在变得越来越高效。

随着它们变得越来越高效，我认为对于开发者来说，在数据库、中间件和所有其他类别中都能获得开源的好处，这一论点变得更加清晰明了。因此，我认为开源模型将继续存在是显而易见的。而且我认为，它们的使用率与专有模型相比正在上升，这一点更为明显。但我认为现在还为时尚早。你知道，在过去的几天里，而不是几周，也不是几个月，我一直思考的另一件事是，

你知道，苹果在 WWDC 上的公告中，他们透露现在他们将在 iOS 中拥有一个平台，开发人员可以在其中利用苹果提供的设备上模型，完全免费的设备上推理。这会如何影响

或者，你知道，像这样的解决方案会如何影响你刚才提出的动态？是的，我认为设备上的东西非常有趣。在 Lightspeed，我们有一家名为 Cartesia 的公司正在做一些非常了不起的工作。我的说法是，今天仍然有，

很多用例中，你可以提供的设备上模型的质量在性能和你可以向用户提供的智能水平方面还不够好，以至于值得跳过对某个大型模型的回调，而这个大型模型位于某个人的云中的某个服务器上，对吧？例如，在 CodeGen 中，你仍然可以看到大量使用大型前沿模型，而不是本地模型，原因就在于此，对吧？是的。

但另一方面，如果你考虑一下，比如，世界上每一个移动设备，无论是苹果设备还是三星设备，或者其他什么设备，都拥有一些具有非常强大的音频和语音功能的 AI 助手，你可以通过这种方式与之进行沟通。我可以想到各种原因，为什么在短期内，我们将看到设备上模型服务用例，其中延迟非常关键，并且性能足够好，可以达到你可以在设备模型上放置的模型的规模和质量。

所以我认为这是一个令人兴奋的范例。我认为它很可能会成为它自己的一种，我不想说利基市场，但让我们说，你知道，某种离散的市场。我认为前沿实验室现在可能不太关心这个市场，据我所知，因为他们的全部重点是构建这些能够提供最大智能并实现这些前沿属性的更大模型。这与我们如何缩小这个东西并将其限制在手机或笔记本电脑所代表的环境中有点背道而驰。

所以我的意思是说，我认为这是一个非常有趣的空白领域，让公司能够真正参与其中，而我不认为前沿实验室会那么积极。这可能会改变。但就他们似乎如何，它似乎如何与他们的商业目标相符而言，我不太清楚前沿实验室是否会想要玩这个游戏，因为他们如此专注于推动技术的最新水平、规模和性能。是的，这说得通。好的。所以我们有开源模型、闭源模型和本地模型。

我想你要谈到另一个我打断你的基本概念。是的，我的意思是，我认为测试时间计算和强化学习这种形式的真正令人兴奋的新型扩展范例正在出现。我认为当你与前沿实验室的人交谈时，你开始看到的是，他们会告诉你，他们所谓的“基础设施受限”。

他们这么说并不是说他们没有足够的 GPU。他们的意思是，必须构建、维护和扩展一套基础设施，才能在这些任务（如编程或数学，甚至可能是奖励模型不太清晰的更定性任务）上大规模地进行强化学习，你必须构建环境来实际模拟，以便你可以进行强化学习。一个例子是，假设你想训练一个代理来做一种

安全。所以你想训练一个代理来模仿黑客的行为，对吧？那么，为了训练这个代理来理解如何进行黑客攻击，你必须向它展示黑客攻击的含义，并且你必须帮助它找到漏洞并利用这些漏洞。为此，你必须启动一堆服务器，并且你必须，你知道，在这些服务器上放置漏洞，并且你必须创建一个代表你希望这个代理能够在其中蓬勃发展的现实世界用例的环境。

因此，就创建这些任意环境而言，代理实际上可以在其中以实用且可扩展的方式学习，这非常困难。因此，我们开始看到很多创新的一个领域是，那么，创建这些环境到底意味着什么？维护这些环境意味着什么？确保你从代理在这些环境中玩耍和学习中获得的结果是好结果，这意味着什么？

因此，我认为有效地为强化学习创建模拟环境的整个领域是肥沃的土地，我认为我们作为一家公司对此感到兴奋，当然也是业内许多非常聪明的人正在花费时间构建的领域。所以我想说，这是一个很大的领域，我认为如果你相信 RL 是某种意义上的下一个扩展范例，比如说在预训练和测试时间计算之后。

你很快就会开始看到，围绕进行 RL 并使其易于访问和易于企业访问的基础设施将变得非常非常关键。所以我认为这是一个非常令人兴奋的领域。当我们谈论代理时，我认为不用说，如果我们只看看最近的 Y Combinator 批次，那么押注在我们周围将会有代理，并且这些代理将需要基础设施、工具和各种基本概念来完成我们作为人类所做的工作的公司数量是相当清楚的。因此，你知道，从

代理需要使用网络时使用哪个浏览器？它如何连接到你的计算机和云上的工具？你如何将来自第三方应用程序的数据带入代理？我认为这些都是非常需要的难题，我怀疑我们将看到公司在其中建立起来，并且赢家将作为公司获得非常成功和有价值。所以我对这个代理做越来越多的工作的世界感到兴奋，不仅仅是如何教他们做这项工作，就像我之前谈到的那样，而是如何给他们提供他们实际执行这项工作所需的工具和基础设施？

对。所以这是另一个我非常兴奋的领域，我认为很多投资资金都流入了这个领域，并且有很多良好的创业活动。你会说现在围绕代理的一些不太明显的 infra 机会是什么？每个人都在谈论 MCP，对吧？

并且，你知道，将模型连接到，你知道，无限数量的，你知道，数据源或类似的东西是什么让你对代理感到兴奋的一些不太明显的事情？我认为在我意识到这一点的重要性之前，比如构建这些模拟环境肯定是一个不明显的，但似乎非常非常基本的东西。所以这是一个。我认为如果你在一个大型前沿实验室内部，这是一个非常明显的问题。但在外部，你对如何实际解决这些问题的细节了解较少。所以这是一个。

我要指出的另一个是，我认为你将开始看到的是，这些垂直软件公司实际上在形状上是 AI 原生的，以及那些并非在 AI 原生时代诞生的公司，但正在将 AI 引入他们的产品中，

他们必须做的很多事情是与客户的这些非常古老的、通常是在本地部署的软件进行交互。因此，如果他们想构建代理流程，那么如何将这些代理连接到医疗保健领域的本地 EHR，或者连接到在卡车仓库办公室的服务器上运行的物流管理软件，这是一个非常重要的问题。如果你考虑让这些代理在自动化价值非常高的更深奥的行业中发挥其全部影响，并且

所以我对此也一直非常感兴趣，那就是，存在了很长时间的这些交互点根本不是为了适应代理而构建的。你如何使它们能够以某种方式做到这一点，这种方式与以下方式相符，比如说，如果你是一家像 Samsara 这样的公司，他们的客户都是卡车公司。

例如，对吧？所以我认为存在着各种各样的行业和企业，它们拥有非常非常古老的技术，他们希望在其之上构建自动化。我认为你如何教代理实际使用这项技术是一个非常重要和有趣的问题。是的，我想如果你是，如果你是 Anthropic，

很明显，你添加了一个按钮来连接 Google Drive、电子邮件或日历，但对于如何将卡车数据输入模型，则不太明显。对。是的。我认为如果你是一个 Anthropic，你专注于，你知道，某种意义上最流行的应用程序，对吧？比如 Salesforce 和 Slack，鉴于最近关于数据共享的新闻，我们也应该谈谈 Slack。我认为这，这非常有趣。对。所以对于那些听到这个消息的人来说，还没有看到新闻，嗯，

Salesforce 最近表示，他们将开始对公司如何访问 Slack 中的数据进行更严格的限制。他们这样做的原因是，人们如何使用 Slack 数据来构建他们的 AI 系统，这是一个非常非常有价值的数据。Salesforce 也有雄心壮志来自己构建一些这样的东西。因此，他们决定他们想要让自己在能够以竞争对手可能无法使用的方式来使用这些数据方面获得固有的优势，而这些竞争对手可能会为他们路线图上的产品构建竞争性产品。对。

我认为这非常有趣，因为它似乎将由此设定一个先例。我认为这可能会以两种方式发展。第一种是客户，你知道，会站出来说，嘿，这，这不好。像我，我想确保我有能力将最好的技术应用于这些数据。如果我不能这样做，那对我来说是一个很大的问题。然后另一种情况是，这就像对 Salesforce 与客户的杠杆作用的罗夏墨迹测试一样。Salesforce 说不，就是这样。而且，而且，

我担心如果后者发生，我将对此进行警告，我认为不太可能，因为我认为在这些情况下，对客户最有利的事情往往会占上风，这是一件好事。但如果确实发生了，你可以想象 Atlassian，你可以想象 ServiceNow 和其他核心记录系统会很快开始说，好吧，我们也会这样做。

我认为如果这种情况真的发生了，我并不希望这种情况发生，那么将会发生的事情是，对于许多依赖于客户在这些系统中存储的数据来以他们想要的方式进行创新的 AI 应用公司来说，这将是一个非常非常具有挑战性的环境。所以我正在密切关注此事。我很想知道你对此有何看法。

是的，我发现它很有趣。我的意思是，我已经关注这种趋势在消费者方面有一段时间了。显然，你知道，许多大型出版商并不高兴他们的内容被通过 rag 刮取，并且存在一些服务可以帮助他们将其货币化。显然，我们已经看到像 Reddit 这样的事情，你知道，说，你知道，锁定他们的数据并进行这些一次性交易。感觉这个 Slack。

Salesforce 的事情就像第一双在企业方面掉落的鞋子。它与众不同，因为这些是企业和公司，在这些企业和公司中，通过 API 等方式交换数据是很常见的。现在就像，不，实际上墙壁正在升起。是的。对。所以，是的，我非常非常想知道这将如何发展。对我来说，它突出显示的是

如果你是一家实际上没有自己数据并且只是你依赖他人数据的企业，那么你现在可能处于一个非常不舒服的位置，因为你开始怀疑你依赖的数据明天可能会消失。所以，是的，我不知道。自从新闻出来后，我也一直在不停地思考这个问题。是的，Reddit 的类比很有趣，因为我想我对此的本能反应是，好吧，如果我是 Salesforce 的客户，那么我存储在 Salesforce 中的数据是我的。对。我认为这在合同上很重要。

我不知道这在多大程度上是正确的，但这是我的理解。而我认为如果是 Reddit，它是一个更全球性的语料库。它就像用户生成的，但可能不是用户拥有的。而我认为 Slack 中的消息是我们 Lightspeed 的所有物。因此，看看这将如何运作将非常有趣。

事情发展。我的意思是，我不知道 Reddit 的服务条款，但是，你知道，我构建了一个大型用户生成内容平台，你知道，数百万或数十亿小时的音频内容。我可以告诉你，你知道，我们的条款是用户拥有的。

你知道，我们的平台，我们有权代表用户分发它并将其货币化。但用户通常拥有用户生成的内容。我不知道 Slack 的情况如何。一方面，是的，是我写的文字，但它被包装在一个独特的专有格式中。所以我不知道。这实际上是一个非常非常有趣的问题。Slack 只是一个例子，对吧？是的。是的。我不知道。我认为这，我认为这很有趣。我们将，它，我们，

我们将看到一些东西，我们将看到某种新的时代，我认为是互联网，尤其是企业软件，我认为。完全同意。跟我们谈谈计算，对吧？就像你在 Kleiner 做 Together 的交易一样。这个领域有很多公司都在追求这个机会。我并不是，我说的不是 Nvidia。我说的是那些，你知道，转售和，你知道，供应和类似的公司，比如

跟我们谈谈这个领域在 ChatGPT 出现后的两年里是如何发展的，以及它将走向何方。对我来说，AI 计算是一个非常非常有趣的领域，有多个层面。我认为有趣的第一点是它有多么不被理解，对吧？我认为媒体使用了一个常见的术语来将这些公司称为 GPU 转售商和转售商。

好吧，从技术上讲，这是正确的，他们接收他们拥有或租赁的 GPU，然后他们在数据中心上运行软件，然后将其作为服务交付给客户。我觉得如果我把 GPU 换成 x86 服务器，我就可以描述 AWS 了，对吧？那么，这些被称为 GPU 转售商的公司与 AWS 之间的根本区别是什么？

AWS 现在已经拥有几十年的时间来在其核心产品（即他们转售的服务器）之上构建更高级别的 API 和服务。对。所以我认为这里发生的事情是，这些公司被误解了，并且不像他们实际上是云提供商那样被对待。

因为它们的生命周期还处于早期阶段，所以 AWS 发展到今天所做的许多创新仍在进行中。这就是我认为它有趣的第一点，我认为这些公司被误解了，因为从极限来看，获胜的公司将更像 AWS 或 GCP，而不是像托管服务提供商，我认为这是一种贬义的转售商说法。

所以这是第一点。第二点是，我认为在计算方面有两个非常重要的模式需要讨论，对吧？第一个是训练，第二个是推理。所以让我们先谈谈训练，对吧？所以训练通常倾向于，我的意思是，显然是训练模型的公司，这些公司往往是前沿实验室或资金非常雄厚的公司，它们处于与前沿实验室关注的领域不重叠的领域，比如音频，例如，对吧？

所以在那个领域，客户通常购买大量芯片，数量大约为数千个，有时甚至数万个，第一点。第二点，正因为如此，他们用来做决定的首要启发式方法是，我如何获得尽可能好的价格？第二个可能是，我可以确保我与这个合作伙伴一起上线的芯片是否可靠，对吧？也就是说，当它们宕机时，它们会恢复运行吗？我可以达到我需要的 SLA 吗？以确保当我运行我的训练作业时，我可以运行这些训练作业而不会出现过多的故障，对吧？

所以我之所以指出这一点，是因为我认为鉴于这是一个价格驱动的市场，今天使用软件来实现差异化的机会相对有限，因为如果你说是 SSI，或者你是 OpenAI，或者任何这些其他正在购买数万个芯片的前沿实验室，你实际上只是在考虑如何最大限度地减少资本支出，而不必一定牺牲对这些芯片的可靠性访问。所以这是模式一，对吧？而且我认为，再次……

如果你看看从超大规模公司到像 CoreWeave 或 Together AI 这样的新云的整个格局，今天可能比以往任何时候都更像商品，但仍然是一个增长非常快的市场，也是大部分资金所在的地方。但是，如果它在这个时候已经商品化了，那么是否存在创业机会呢？我认为创业机会在于，随着市场变得越来越软件驱动。

我认为这就是创业公司真正蓬勃发展的机遇所在，对吧？例如，如果你谈论 Together AI，那么在训练方面仍然存在相当有意义的软件层，这些软件层以这些自定义 CUDA 内核的形式存在。我所说的自定义 CUDA 内核是指，对于 NVIDIA GPU，它在其之上有一个编程语言，你使用它来编程 GPU，称为 CUDA，C-U-D-A。当我提到内核时，我的意思是编写模型实际如何与该 CUDA 代码和 GPU 本身交互的自定义软件路径。

使其更快，并从 GPU 中获得更高的利用率，因为 GPU 非常昂贵。从 GPU 中获得高利用率对于任何使用 GPU 的人都非常有利可图，对吧？像 Together AI 这样的公司，他们真正做的是，他们说，嘿，我们将编写许多这些自定义内核，这些自定义路径到 GPU，用于想要训练模型的公司。

就像 Anthropic 和 OpenAI 一样，对吧？因为许多真正了解如何做到这一点的人才都在前沿实验室内部。Together 的承诺是，我们已经将来自斯坦福大学和其他关键地方的许多这样的人聚集在一起，并说，嘿，我们将向所有人提供这种平台工程服务。

所以这有点像训练中存在的软件层。相比之下，在推理方面，第二个工作负载，第一，它增长非常快，对吧？因为直觉上越来越多的公司说，嘿，我已经训练了模型，或者我已经找到了如何使用其他模型的方法，我想将它们投入生产，并将它们指向我的客户和我的软件。所以这个市场增长非常非常快。有趣的是，第一，因为它更在线，这意味着你将这个推理端点嵌入到你的产品中。

你会有更多像运行任何生产软件一样的担忧，比如，它如何扩展？如果它失败了，我该如何确保它保持运行？我如何监控性能？我如何确保当我使用技巧来加快输出令牌的速度时，模型的准确性不会受到影响？所以有很多这种非常有趣的担忧会发生，你会开始看到的是，如果你是一个开放的空气 Anthropic，你有一个团队的人在服务团队工作，这实际上是推理基础设施团队。

他们确保所有这些东西都能以提供出色客户体验的方式工作。因此，与训练相比，这些下一代玩家在推理方面的机会在软件方面要丰厚得多，我认为。所以你开始看到的是，像 Together AI、Fireworks 或 Base10 这样的公司开始在这个领域成为领导者并快速发展，因为他们已经解决了在你想在你的应用程序中使用自定义模型或开源模型时存在的许多操作痛点。实验室有多少……

想要拥有该工作流程，推理机会，无论是开放的还是封闭的，对吧？所以像 Mistral、OpenAI 或 Anthropic 这样的公司。如果你从事为客户提供开源模型服务的业务，你希望拥有所有这些，对吧？因为我认为这是价值在基础设施层累积的地方，对吧？

现在，如果你销售闭源模型，例如 OpenAI 或 Anthropic，你必须自己解决所有这些问题，因为你的客户不需要推理运行时。他们需要的是一个可以调用并获得答案的端点，对吧？他们想要查询你的 LLM，并且他们想要获得答案。他们不想担心自动缩放。这是你让他们工作、保持运行和高效的原因，这就是他们付给你巨额款项的原因。所以我认为，如果你走在实验室的前面，你不想让你的客户考虑任何这些事情。你想要拥有所有这些。

你想要拥有所有这些，以便你可以提供尽可能好的客户体验。这是魔术。它在幕后。但如果你不是前沿实验室，而是一家从事推理业务的公司，你真正想要的是，你希望使其他公司能够向他们的客户提供这种体验，而无需拥有 OpenAI、Anthropic 或 DeepMind 所拥有的相同的推理和服务专业知识。是的，说得通。说得通。我们谈到了 LLM，但让我们只谈谈模型和一般意义上的新架构。你知道，显然我们正在谈论的事情，它们都是……

基于转换器的。作为基础设施或作为基础设施投资者，你对新架构的潜力考虑多少？我相信你听说过一些实验室正在采用或试图采用完全不同的方法来处理模型层。我的意思是，这是你正在考虑的、正在寻找的、正在关注的吗？所以我认为在研究界，替代架构之所以非常有趣，是因为前沿实验室

押注于转换器，并且主要是在创新如何扩展转换器以及如何将新数据和更多数据整理到其中，以及计算（这就是我所说的扩展）方面，现在存在一些空白，就像，好吧，如果这些替代架构中的一个真的成为未来的方向怎么办？或者如果将这些替代架构中的一个与转换器混合起来，成为行业以前从未见过的解锁方法怎么办？而且

所以我认为你开始看到的是，这实际上是创业公司的肥沃土壤。第一，正如我所说，前沿实验室没有关注它。第二，我认为你对计算的依赖性较小，这意味着你不必一定跟上大公司，这么说吧，并且购买 50,000 或 100,000 个 H200 或其他什么东西来证明替代架构实际上有效且可扩展。所以我认为这令人兴奋，因为它在某种意义上比说训练前沿转换器要少一些资本支出密集型。

但另一方面，我认为现在说这些替代架构中的任何一个都可能达到像Transformer那样普遍或标准化的程度还为时过早。是的。例如，状态空间模型就是一个例子，Cartesia公司因其在推进状态空间模型方面而闻名。而且，

我认为他们发现，当涉及到输入端具有长序列的情况时，它会解锁一些非常非常有趣的特性。因此，您希望向模型传递大量上下文，并且非常关心延迟，对吧？这就是基于状态的模型似乎非常特殊的地方。因此，他们所做的是，他们实际上说，考虑到这一点，让我们垂直化，让我们实际构建市场上最好的音频模型和开发音频代理和语音代理的最佳平台。因此，我认为替代架构可能导致的一种体现是，公司找到了一种垂直化的方式，对吧？

但我认为另一种情况是，嘿，也许，也许这些替代架构中的一个，如果不是SSM，会以非线性的方式开始发挥作用。并且，实际筹集大量资金以将其扩展到我们今天看到的LLM的水平是有意义的。我认为这对基础设施投资者来说是一个悬而未决但非常有趣的问题，您正在考虑这个问题。而且，

我要说的另一件事是，您实际上开始看到像扩散这样的技术，它在图像和视频方面变得非常流行，也应用于LLM。因此，我们开始看到这些技术在不同模式之间进行交叉传播，我认为坦率地说，这只会导致更令人兴奋的结果范围。我认为这对行业中的每个人，特别是这项技术的使用者来说都是一件好事，因为看到这些实验正在进行，因为我

我认为可以保证的是，最终，AI的开发者和消费者将获得最好的产品。您提到了电池，显然您在Kleiner工作过，现在您在Lightspeed工作。您已经看到，您已经看到，您已经看到了过去几年中的风险投资。

而且您已经看到它的发展。现在，显然，您在Lightspeed，这是一个大型平台。谈谈您对风险投资现状的看法，特别是它与AI的关系。谁是赢家和输家？从风险投资的角度来看，最好的位置是什么？什么地方不好？您对当前这批基金的展望是什么？

因此，我认为在这个对话的背景下有很多被抛出的传统观点，我实际上认为这些观点是正确的，这就是为什么它们是传统观点的原因。例如，公司私有化的时间更长，因此它们将在私人市场筹集更多资金，并且更多收益将作为私营公司产生。这是一个。我认为第二个是AI中的机遇规模比我们以前见过的都要大。因此，我认为这些公司将从投资者那里吸收更多资金，并且比以前的公司需要更多的投资者资本。

我认为，因此，您有更多资金流入这些公司，并且最终结果更大。我认为您可以看到一个世界，在这个世界中，风险投资回报在行业层面实际上开始看起来比过去更好得多。是的。因此，我认为这相当传统地是正确的。我深信不疑，那就是，我认为我们将看到首次上市的万亿美元公司，作为万亿美元公司。而且

我认为这最终回到了这样一种观点，即像Lightspeed这样的大型平台可能具有优势，因为它们拥有所谓的芯片堆栈，能够以我认为其他人无法做到、这些公司需要的方式来利用这些公司。我认为真正有趣的是，让我加入Lightspeed的原因是，我觉得现在站在历史正确的一方是在这些大型平台中的一个，这些平台能够满足这些真正雄心勃勃的需求。

AI创始人及其公司所在的地方，并成为他们从头到尾的记录合作伙伴，我认为这有很多好处。我还想说，我认为对于专家来说，空间越来越大，这意味着专注于特定阶段的人，无论是专注于完全处于形成阶段的AI公司，还是帮助建立垂直AI公司等等。

似乎专业化和更精品化是这个行业中真正脱颖而出的另一种途径，我认为这一点正在变得清晰。原因是，现在创始人比以往任何时候都有更多选择。

他们在构建公司时优化他们真正想要的东西的能力，尤其是在早期阶段，是无与伦比的。因此，如果我是一位今天在形成阶段开始创业的创始人，就像我可以选择从一个大型平台筹集种子资金一样，该平台能够随着时间的推移向我的公司投资数亿美元到数十亿美元，并一路陪伴我，并拥有全球平台Lightspeed的所有影响力和资源。但我也可以考虑，嘿，如果我想从只整天从事形成阶段AI公司建设的人那里筹集种子资金怎么办。我认为

这对企业家来说是一件非常好的事情，有时可能会让人不知所措。但我认为这对我来说意味着，您将看到这个行业中真正极端的二分法。这不是您第一次在这个上下文中听到“二分法”这个词。我之所以再次提出它，并不是为了说它很新颖，而是为了说，鉴于行业中正在发生这些制约，在我看来，它似乎比以往任何时候都更不可避免。因此，所以我相信二分法。我相信规模和专业化是目前在这个行业中真正与众不同的两条途径。

然后我要说的另一件事是，我认为由于我们行业现在在线程度如何，它越来越关注您与之合作的公司中的合作伙伴是谁。因此，通常您会看到，当然，公司有品牌，我认为这永远不会消失。但我认为个人及其品牌、他们的知名度以及企业家对他们的评价似乎在行业中具有很大的分量。我认为这是一件非常好的事情。我的意思是说它是一件好事，因为

我认为现在GP们不可能躲在他们公司的声誉后面。他们必须是优秀的投资者。他们必须是优秀的合作伙伴，并且他们必须通过做好工作并对他们合作的创始人具有高诚信度来建立良好的声誉。因此，当我想到管理行业和投资者的良好行为时，我认为这是一个非常好的动态，也是我正在看到发挥作用的动态。是的。

您提到将会有万亿美元公司，数万亿美元公司。那家公司是什么样的呢？我认为我们可以指出的第一个候选者是，谁赢得了AGI竞赛，很明显是一家万亿美元公司。我认为您可以争辩说，以最具新颖性和主导地位的方式向消费者交付AI的公司是一家万亿美元公司。今天，它看起来很像OpenAI，它拥有这种领先地位。可以想象，拥有Cogen并为

构建软件工程代理构建性能最高且使用最广泛的前沿模型的公司是一家万亿美元公司。我不难看到这一点。今天，人们可能会猜测那是Anthropic，例如，对吧？因此，我认为这些能够在企业或消费者方面找到市场缝隙并在这些细分市场中建立市场领先地位的基础模型实验室，在我看来是万亿美元公司。我认为如果您还可以查看其中一些

真正垂直整合的公司正在进军太空或国防等行业，我的意思是，这些行业的GDP如此巨大，以至于我很难看出如果没有一家公司进入并垂直整合并彻底颠覆现有行业结构，就没有机会扩展到这种结果。显然，SpaceX似乎正在稳步前进，对吧？所以，所以，

这些只是一些例子。而且我看看，我认为我提出的一个大问题是，我们应该始终问自己，未来是否有某种系统性因素表明将会有更多这样的公司？或者我们只是处于某个独特的时刻，我们将看到五到六家这样的公司，然后我们将回到过去的方式，也就是，你知道，我们过去会对200亿美元的公司感到非常兴奋。现在我认为200亿美元在很多情况下只是达到那个更高端的一种手段。

所以我不知道。我对不知道这个问题的答案感到谦虚。但如果我要，如果我要站在一边，我会说，人工智能的融合，拥有像普遍存在的太空旅行和我们触手可及的一些其他看似科幻的基本能力的融合，肯定存在某种系统性因素。我之所以对此感到兴奋，是因为，是的，我们看到现在正在建立这一组公司，看起来它们将成为万亿美元公司。

但我认为更有趣的是，一旦这些公司成为家喻户晓的名字，无处不在，并且基本上充当企业家进入并在其上建立新公司的平台。我认为这些技术的强大功能是如此无与伦比，以至于我可以想象，例如，我们将看到价值万亿美元的AI代理公司，因为它们不仅在自动化现有的劳动力支出，而且还在创造它们可以完成的工作周围的全新经济，而人类无法做到这一点。巴基，非常感谢你。我觉得我对基础设施的现状有了更清晰的了解。

以及人工智能和风险投资。我相信听众和观众也是如此。非常感谢您这样做。随时。谢谢，伙伴。感谢您收听Generative Now。如果您喜欢这一集，请对该节目进行评分和评论。当然，请订阅。这确实有帮助。如果您想了解更多信息，请在X、YouTube或LinkedIn上关注Lightspeed at Lightspeed VP。Generative Now由Lightspeed与Pod People合作制作。我是迈克尔·麦克纳诺，我们下周再见。到时候见。