Shifting Power Dynamics in AI-Focused Cloud
12:23 Share

您好，欢迎收听 Greylock 的播客 Gray Matter。这是 Greylock 合伙人 Jason Risch 和 Jerry Chen 撰写的一篇文章的音频版本。您可以在我们的网站 greylock.com 上阅读这篇文章，该网站链接在节目说明中。“四大时代：以 AI 为中心的云计算中权力动态的转变”。大型云计算终于被颠覆了。虽然对 AI 的推动使得初创企业对 AWS、Microsoft Azure 和 Google Cloud 的依赖比以往任何时候都高，但它也增加了整个生态系统对 NVIDIA 的依赖。

除了对 GPU 的控制（这可能是暂时的）以及其与各种规模的 AI 公司的众多投资合作之外，NVIDIA 还通过开发 AI 专用 DGX 云与三大巨头展开了正面竞争。总的来说，这些举措已将 NVIDIA 建立为当今 AI 革命中的核心力量。这代表着自云平台转变以来，云提供商之间发生的第一次真正洗牌。

NVIDIA 不仅能够利用优势与三大云提供商中的两家建立关键合作伙伴关系，而且还为中小型计算公司创造了公平的竞争环境。由于与 NVIDIA 建立了合作伙伴关系，这些公司能够占据或重新占据相当一部分云计算市场份额。正如我们去年所写的那样，NVIDIA 与 Oracle 的合作对于将这家传统公司带入现代化时代至关重要。Databricks 和 Snowflake，

已经是云转型时代成功典范的 Databricks 和 Snowflake，通过与 NVIDIA 的合作一头扎进了 AI，并成为 AI 计算生态系统中的强大参与者。Mosaic 在 Databricks 收购后继续扩展，将该数据平台确立为为客户培训定制语言模型和生成最先进模型（如 DBRX）的领导者。Snowflake 团队现在提供了一个完整的 AI 平台。

这些发展使 Databricks 和 Snowflake 都能够为 AI 初创企业提供有吸引力的分销合作伙伴关系，因为它们利用 AI 来继续挑战三大巨头。

此外，NVIDIA 的合作伙伴关系和巨额投资使越来越多的由风投支持的、专门从事 AI 的小型云计算公司蓬勃发展。来自 NVIDIA 的大规模融资和/或 GPU 分配使 CoreWeave、Together AI、Crusoe 和 Lambda Labs 等公司能够以比受限的 Big 3 云更灵活的计算选项和可用性来吸引客户。

所有这一切都表明，我们已经进入了云计算的“四大”时代。四大巨头共同驱动着整个 AI 生态系统，并且经常主导最大的融资轮次。它们都在争先恐后地与初创企业建立关键合作伙伴关系，以增强其在 AI 领域的优势。

创纪录的融资轮次严重倾向于大型语言模型提供商。仅 2023 年，微软就向 Open AI 投资了 130 亿美元。AWS 最近向 Anthropic 投资了 27 亿美元。Perplexity AI 的估值不断攀升，部分原因在于 NVIDIA 的支持。这些新的权力动态、融资模式、现有挑战者合作伙伴关系及其对潜在退出策略的集体影响意味着初创企业必须以不同的方式应对 AI 时代的竞争。

如今，初创企业在一些领域拥有优势，在一些领域仍然存在更多机会，而在另一些领域，我们认为现有企业更有可能获胜。

我们许多与超大规模云计算竞争的最初指导原则仍然适用，例如避免与现有企业直接竞争，向上移动堆栈，建立深层 IP，拥有开发者社区等等。我们通过我们作为投资者的日常工作、与创始人、企业高管和研究人员的对话以及我们对“云中城堡”项目的持续数据收集分析，汇编了一份我们观察到的趋势清单。“云中城堡”项目是 Greylock 用于绘制云生态系统中资金和机会的交互式数据项目。

如前所述，大部分投资都流向了计算和基础模型，这意味着初创企业必须寻找堆栈的其他层来创造持久价值。在这里，我们将概述初创企业如何通过工具、基础设施和应用层的各种方法（包括垂直和水平应用、安全、代码生成和机器人技术）获得牵引力。我们将从底部开始，向上移动堆栈。基础模型：云和大型语言模型的交集

虽然 AI 的引擎由四大巨头提供燃料和动力，但它是由初创企业提供的大型语言模型驱动的。凭借大规模的融资轮次和通常的独家分销协议，来自 OpenAI、Anthropic 和 Mistral 的模型已深深植根于四大巨头的 AI 战略中。微软和 OpenAI 以及 AWS 和 Anthropic 之间的合作伙伴关系突显了四大巨头和大型语言模型之间权力日益集中。

即使是 Google，作为唯一一家内部开发自身基础模型的云提供商，也已大力投资外部大型语言模型。

四大巨头与大型语言模型的必要交集造就了一个拥挤的领域。虽然我们在“云中城堡”项目中追踪了大型语言模型提供商类别中的 10 个新挑战者，但我们预计该领域不会增长太多。虽然我们看到一些特定领域模型以及可以作为 AI 工程师副驾驶或代理的基础的特定代码模型具有竞争潜力，但这些都是资源密集型的工作，仍然存在大量未知数。

同样，计算对于初创企业来说也是一项资本密集型工作，并且已经从四大巨头和风险投资公司获得了大量投资。如前所述，NVIDIA 的合作伙伴关系和投资使规模较小的 AI 专用云蓬勃发展，并且该领域的资金总体上出现了繁荣。在我们对“云中城堡”的年度更新中，我们追踪了 2023 年计算初创企业筹集的近 14 亿美元资金。这比 2022 年投资的 2.32 亿美元增长了六倍。

这一趋势一直持续到 2024 年，例如 Foundry。该公司刚刚以 3.5 亿美元的估值秘密推出，以继续开发其专为机器学习设计的公共云。目前，我们鼓励创始人关注堆栈中更高层的机会。开发工具和基础设施。

在 AI 转型中的这一点上，我们看到了构建基础设施的初创企业拥有巨大的机会。但是，初创企业必须专注于驾驭这一局面。随着基础模型提供的功能改进，云提供商开发了更多服务，从而改变了应用程序首选的消耗基础设施的方式。

因此，必须构建基础设施来应对这种变化，但同时也必须敏捷且以开发人员为中心，以避免陷入困境。例如，投资者和 AI 建设者都对独立向量存储的长期耐用性进行了辩论。Pinecone 和 Weeviate 等杰出公司去年共筹集了 1.5 亿美元资金，并吸引了许多客户，而其他客户则更喜欢现有数据库的附加组件，例如 PG Vector 和 MongoDB Atlas Vector Database。

随着基于大型语言模型的应用程序有望在未来十年成为主要的应用程序范例，我们认为堆栈的数据组件代表了构建重要产品深度和 IP 的最佳机会。开发人员需要一种连接到企业数据并根据其特定需求定制开源模型的方法，这催生了一类初创企业，例如 Lomit Index，它们提供数据框架以轻松构建自定义 RAG 应用程序。

鉴于开源模型提供的有吸引力的控制、性能和成本，我们还看到了对使开源模型更有效的工具的巨大需求。Predibase 等公司使开发人员能够通过微调开源模型来构建具有更好延迟和性能的较小模型。该公司最近发布了 Loraland，这是一个包含 25 个经过微调的 Mistral 7 模型的集合，据报道其性能始终优于基础模型。

初创企业还有机会解决使用大型语言模型应用程序的主要挑战之一。由于它们是非确定性的，企业无法可靠地预测其响应的质量，也无法预测由于使用专有数据而导致的提示中的微小变化是否会影响输出。

在 AGI 时代，可观察性工具已成为必需的产品，因为初创企业 IP 模式的强度与其性能一样好。最近，我们投资了 Braintrust，该公司为开发人员提供了一个用于检测代码和运行评估的工具包，使团队能够随着时间的推移评估、记录、改进和增强其 AI 驱动的产品。代理功能的出现是应用层许多机会的基础。许多领先的 AI 应用公司正在代理层构建其核心 IP，

编排许多第三方和微调模型，以及特定领域的工具来推断不同的任务。我们已经看到这种范例开始在多个垂直和水平领域以及安全、根本原因分析和可观察性、像 Devon 这样的 AI 工程师等等中发挥作用。这种方法导致了一些发展最快的公司，并提供了比过去一些大型语言模型顶部的包装器更深的护城河。虽然我们已经看到许多代理框架，但我们与之交谈的大多数公司最终都很大程度上构建了自己的编排系统。

Adept 正在为企业开发定制的 AI 代理，采用了这种策略。随着时间的推移，我们相信这种方法已经变得更加标准化，同时也可靠地提供了特定行业的效用。在此期间，在提供特定于代理的工具方面存在机会。应用层。垂直和水平位置。

延续去年垂直专业化程度提高的趋势，我们看到越来越多的初创企业正在为自身开辟空间，并使用 ML 应用程序。我们在“云中城堡”市场地图部分增加了 10 个新进入者，其中包括混合的垂直和水平应用程序。

正如我们的同事 Christine Kim 所写的那样，特定于垂直领域的 AI 方法已被证明是初创企业的一个有吸引力的选择，并且似乎不是三大云提供商关注的领域。例如，专注于法律的初创公司 Harvey 和 EvenUp 在 2023 年获得了资金，而 Adept、Ramp 和 Tome 等现有数据库公司也获得了新的资金。

我们预计，随着公司寻求补充或自动化这些领域中不太重要的任务，我们将看到更多针对所有企业组织的常见功能（例如销售和招聘）的水平应用程序。但是，目前尚不清楚 AI 初创企业将如何真正颠覆真正核心的水平类别。与过去几代难以适应云计算转型的现有企业不同，今天的现有企业似乎做得更好，能够随着最新的平台转变而发展。

安全。安全仍然是一个至关重要的问题，与 AI 相关的新的风险加速了新公司创建的速度。2023 年，我们在“云中城堡”数据库中增加了 13 家新初创企业，该行业从风险投资公司那里获得了近 8 亿美元的资金。

我们与数十位利用 GenAI 并结合多个云数据平台的 CISO 和数据团队进行了交谈。他们一次又一次地谈到需要一种新的云数据安全方法，以确保受保护的信息（例如受监管的数据和核心 IP）不会被摄取到 AI 模型中。我们孵化并投资了 Bedrock，该公司开发了一个针对 GenAI 时代的无摩擦数据安全即服务平台。

安全初创企业还在利用 AI 代理方法来彻底改变 SOC 身份并改进应用程序和基础设施中的补救措施。Greylock 去年投资的 Kodum 利用深度运行时智能来了解真实的应用程序风险。为了向用户提供可能存在的应用程序漏洞的完整视图，以及为了保护未来可能被利用的功能，该公司将其运行时智能功能与基于大型语言模型的技术相结合。

DAS 自公司成立以来一直与 Greylock 合作，提供了一个平台来最大限度地减少和监控整个开发管道中的安全风险。代码生成。当今初创企业最令人兴奋的机会之一是开发可以像人类工程师一样理解和编写代码的 AI 工具。我们的同事 Corinne Riley 正在领导我们在这一领域的工作，并专注于实现这一目标的三种主要方法。

增强现有工作流程的 AI 副驾驶、替代工程师的 AI 代理以及在代码和自然语言混合数据上训练的特定代码模型。2023 年，我们在“云中城堡”数据库中添加了 CodeGen 类别，并追踪了 9 家新初创企业。您可以在 Corinne 即将来临的文章中阅读更多关于 Greylock 对沉浸式领域论点的论述。机器人技术。

基础模型也为我们数据集中机器人技术的资金带来了好处，因为投资者认识到机器人技术和硬件进步与基础模型相结合的潜力。我们预计这一趋势将在今年进一步加速。FIGURE 最近从 OpenAI、NVIDIA、微软等公司筹集了 6.75 亿美元资金，并宣布与 OpenAI 建立合作伙伴关系，以开发允许它们处理和推理语言的机器人基础模型。

Physical Intelligence 筹集了 7000 万美元资金，以根据创始人斯坦福大学的研究成果将通用人工智能引入物理世界。如果您正在 AI 和机器人技术的交叉领域进行构建，我们很乐意与您聊天。AI 革命创造了一个新的世界秩序。

在日益竞争的市场中发展的初创企业无疑会转向四大巨头寻求资源和合作伙伴关系，但它们可以在不断发展的 AI 堆栈的更高层为自己开辟空间。从应用程序到代理，从安全到代码生成，再到机器人技术，我们渴望与那些在现有企业更倾向于将创新外包给挑战者的领域进行构建的创始人合作。