We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Bringing AI to the Masses with Adam D’Angelo

Bringing AI to the Masses with Adam D’Angelo

2024/3/20
logo of podcast a16z Podcast

a16z Podcast

AI Deep Dive AI Chapters Transcript
People
A
Adam D’Angelo
Topics
Adam D’Angelo:我认为人工智能和人类将在知识共享中发挥协同作用。未来将是多模型和多模态的,Poe平台旨在聚合来自不同公司和个人的AI模型,为用户提供多样化的AI服务。同时,Poe也为开发者提供开放API和收益分成计划,鼓励他们创建更多AI应用,形成一个繁荣的创造者生态系统。此外,Adam还分享了他对AI未来发展方向的看法,以及在公司发展中如何适应AI浪潮的经验。他认为,早期实验对于判断市场趋势和做出战略决策至关重要,而大型语言模型(LLMs)的优势在于能够以极低的成本即时生成答案。他还强调了人类知识和经验在可预见的未来仍然是不可或缺的,并对AI模型的改进和应用场景进行了展望。 David George:David George主要与Adam D’Angelo就AI技术发展、市场结构、以及Poe平台的运作模式等方面进行了深入探讨。他关注了AI模型的多样性、创造者生态系统的构建,以及大型科技公司与初创公司在AI领域的竞争格局。

Deep Dive

Shownotes Transcript

继续目前的景象。如果你继续发展下去,还有很多可以做的事情。我们正在为人们构建一个网络,让大家一起分享知识。

有时人们会从人工智能那里获取知识,有时人工智能需要从人类那里获取知识。人们的需求如此之大,可以结合的各种输入方式也如此之多,以试图满足这些需求。

人类将始终扮演某种角色。人们头脑中拥有的知识,互联网和任何书籍中都没有。因此,大型语言模型不会拥有这些知识。

大家好,如果你们之前没有认出声音的话,这是亚当·丹格罗。他是Quora的联合创始人,现在正在构建人工智能聚合器Poe,以及更多项目,包括担任OpenAI的董事会成员。我们今天有一个非常及时的节目,所以我不会再等了。

我们的合作伙伴谢拉·王对增长基金进行了广泛的讨论,并对即将推出的产品进行了介绍,你们还会听到她提到AI革命系列,但你们可以在a16z.com/ai上更深入地了解。提醒一下,此处的內容仅供参考;不应将其视为法律、商业、税务或投资建议,也不应将其用于评估任何投资或证券;并且不针对a16z基金的任何投资者或潜在投资者。a16z及其关联公司可能会对讨论的公司进行投资。更多详情,请参阅a16z.com/disclosures。

生成式AI已经开启了一个新时代,它正在以前所未有的方式改变我们的世界。在我们的AI革命系列中,我们与AI领域一些最有影响力的建设者交谈,讨论和辩论我们在哪里,我们将去哪里,以及AI领域中悬而未决的大问题。

本期节目的嘉宾是亚当·D·安吉洛。亚当创建并发展壮大了几家公司,这些公司将数十亿人连接到世界各地。在2008年创立Quora之前,他是Facebook的联合创始人。2009年,在对AI感兴趣几十年后,亚当于2018年加入了OpenAI的董事会,现在他正在利用他在全球一些最大的消费公司工作的经验来构建Poe,这是一个将AI带给大众的平台。

在这段对话中,亚当与a16z的普通合伙人兼我的同事大卫·乔治讨论了为创作者构建AI基础设施、AI的多模型多模式未来、AI将如何塑造互联网上的知识共享等等。这里有很多内容需要深入探讨。所以让我们从亚当的AI之旅开始吧。他将带我们回到2005年的大学时代。

在我的职业生涯早期,我对AI非常兴奋,记得在大学里尝试构建一些AI产品。但这非常困难。技术还没有达到能够制作出适合消费者的产品的程度。

与此同时,我看到社交网络开始蓬勃发展,实际上可以将许多社交网络技术视为AI的替代品。因此,与其让计算机做所有事情,不如将人们与互联网上的其他人联系起来,这些人可以以与全球化相同的方式做这些事情,全球化可以替代自动化。同样也不起作用。

我认为它让人们可以访问世界各地的人们进行娱乐、消遣、沟通,以及任何你想做的事情。我认为这是一项非常强大的技术。鉴于AI还没有完全到位,这是当时可以应用的所有技术的主要方向。

所以我首先对社交网络产生了兴趣。通过我在Quora的经验,我们从一个完全由人工驱动的产品开始。人们会来提问,他们会在问题上添加主题,其他人会注册回答问题,他们会通过用这些主题标记自己来告诉我们他们了解什么。

我们会尝试将问题引导给那些了解预测主题的人。这一切都是人工操作的,但我们知道,在某个时刻,软件将能够生成答案。我们想使用GPT-3进行实验来生成答案,并将它们与人类编写的答案进行比较。

在Quora上,很多时候,GPT-3无法写出比人类写出的最佳答案更好的答案,但它可以立即回答任何问题。对于Quora来说,一直以来限制因素都是高质量的答题者回答问题所需的时间。所以我认为大型语言模型真正的新颖之处在于:

能够以极低的成本立即回答任何问题。通过这种经验,我们意识到,一种聊天式的体验,你可以提出一个问题并立即从AI那里得到答案,更有可能成为与AI交互的最佳范例,而不是这种类似出版物的范例。因此,基于所有这些,我们决定将Poe作为一个新的聊天式AI产品来构建。

我想很多人可能熟悉,但为了我们,解释一下这个产品,以及你最初是如何想到它的。

你与Poe的交互方式与Quora从许多拥有知识并希望展示知识的不同人那里聚合知识的方式相同。我们希望Poe成为人们访问来自许多不同公司和许多不同人在AI之上构建的AI的方式。因此,你可以来到Poe并使用它来与当今可用的各种模型进行对话。

然后我们还有其他产品,人们在这些模型之上构建了这些产品。我们有一个开放的API。任何能够做到的人都可以使用。因此,任何正在训练自己模型的人,任何这些研究团队,任何正在进行微调的人,他们都可以获取模型并将其放在Poe上。我们允许他们快速接触到大量的受众。

所以我们作为一家公司,Quora,思考了我们在AI这个新世界中将扮演什么角色,以及我们拥有什么优势?我们在过去十年中构建和运营Quora中学到了什么?实际上,有很多这种类似消费互联网的专业知识对于将产品推向大众市场至关重要。例如,跨iOS、Android、Windows和Mac构建应用程序,本地化界面,A/B测试订阅,所有这些其他类型的微小优化都是你制作一款优秀的消费产品所需要的。我们希望成为任何创建AI的人的途径,无论是大型实验室还是独立研究人员,我们希望成为他们获取模型并将其提供给世界各地主流用户的途径。

你刚才说的很多内容我都想深入探讨。所以,你提到的一件事是,你列出了所有你提供的模型,有一种理论认为,一家公司的一个模型将为每个人提供他们需要的所有解决方案。还有一种理论认为,将会有大量的不同模型用于不同的用例。

世界将是多模型和多模式的。Poe背后的理念是,未来将是多模型和多模式的。你为什么认为是这样?

我认为没有人知道未来会如何发展,但我们认为人们在这些模型之上构建的产品种类将会非常多样化。在模型本身中,我认为制作这些模型涉及很多权衡。你必须决定要使用什么数据来训练它,要进行什么样的微调,模型期望你作为用户提供什么样的指令。

你希望对你的用户设定什么样的期望,关于如何使用该模型。我认为,就像早期的互联网出现了大量不同的应用程序一样,我认为我们将从AI中看到同样的情况。在早期的互联网上,网络浏览器出现了,它使得任何制作互联网产品的人都不需要构建一个特殊的客户端并将产品分发给世界各地的人们。

他们只需要构建一个网站。这个网络浏览器可以访问任何网站。当然。同样,我们希望人们拥有一个单一的界面,可以用来与任何模型进行对话。

我们押注多样性,仅仅是因为世界各地有如此多有才华的人能够微调这些模型。你今天可以使用开源模型。还有来自OpenAI和Anthropic的产品。

我认为谷歌即将推出一些东西,你将能够微调所有这些模型。每个人都有自己的数据集。每个人都有自己可以添加到模型中的特殊技术。我认为,通过所有这些的结合,我们将看到你可以用AI做很多非常多样化的事情。

有两件事我想深入探讨一下。一个是构成产品本身的概念,它今天是什么,以及它将变成什么;第二个是长尾的概念,对他们进行押注,给他们一个平台,抽象掉他们不知道如何构建的大量基础设施,并让他们专注于他们擅长的事情,对吧?

首先,什么是今天的产品?许多人可能认为AI模型在很大程度上就是产品。你预计会看到哪些进步会改变人们与这些模型的交互方式,并使构建新型产品成为可能?一种思考方式是,模型提供商本身将成为构建所有产品的人。如果你是一个大型模型创建者,并且你有数十名员工可以分配来构建消费产品,并且你拥有这样做的文化,那么你可以直接面向消费者,并且可以构建一个好的产品。我认为大多数正在训练这些模型的人都不处于这种位置。

如果你想获取你的模型并将其带给世界各地的消费者,你必须考虑ISP。那是顶级应用程序。你需要一个网络界面。

你需要在所有这些不同的国家进行构建。你必须考虑税收。还有很多工作要做。你筹集了一些风险投资资金。你可以将部分资金用于组建整个团队并发展所有这些能力,或者你可以将资金用于使你的模型变得更好。我认为不同的初创公司将选择不同的路径。但我认为,对于他们中的许多人来说,正确的路径将是只设置一个API,或者再次使用Poe API,并利用它来快速接触到大量的消费者。

是的,谈谈长尾创作者的作用,以及你如何与他们互动,以及他们为什么要在Poe之上构建的动机是什么?

是的。我们有一个收益分成计划,允许人们因为人们在Poe上使用他们的机器人而获得报酬,这解决了为这些模型提供推理的成本问题。因此,几乎没有其他平台在今天提供这种收益分成。

所以,如果你有一个需要大量GPU进行推理的模型,那么这里真的是你最好的去处。你可以拥有一个真正的业务。你可以支付你的推理成本并赚取更多。

我认为大量的创新将来自这些公司。还有一些公司正在一些大型模型之上构建东西,例如来自OpenAI的模型。在这种情况下,他们必须支付OpenAI的推理成本,这是另一个资金需求来源。

所以Poe的收益分成模式的工作方式与我们让你负担得起你随后支付给任何其他推理提供商的成本相同吗?是的,绝对是这样。

创作者在Poe之上已经构建的一些真正有趣的事情是什么?

现在人们对图像模型感到兴奋。我们有Stable Diffusion XL,然后我们让用户进行一些提示以对其进行自定义,以提供特定风格的艺术作品。所以Poe上有这种风格的SDXL机器人。

这些很受欢迎。有一家名为Playground的公司,他们正在为人们添加图像制作产品,但在这个过程中,他们训练了一个非常强大的模型。他们在这个模型在Poe上可用,并且最近非常受欢迎。

很酷的是,你可以让这些创作者的长尾制作他们自己这种有见地的这些基础模型的风格。但我认为,在某种程度上,你提供这种基础设施和支持,然后让用户或创作者去做……

他们擅长的事情。是的,现在还处于非常早期的阶段,但我认为在未来一年左右,我们将看到令人难以置信的事情。这将从现在对某些人有用转变为对许多不同任务至关重要的事情……

任何人都可以完成。我们俩都很了解,那就是机器人。在早期,创作者们正在构建游戏,而且这些游戏非常基础。在早期,很多孩子都在学习如何制作游戏。然后它最终发展到人们能够以此为生。所以我认为你的理想情况是,你建立足够的规模,他们可以建立足够大的受众,实际上可以成为他们所做工作的专业人士。是的。

我们已经在推理上花费了数百万美元。现在大部分资金都流向了大型模型提供商,但我们希望尽可能多地将这些资金分配给这些……

生成式人工智能引发了变革性的转变,以前所未有的方式重塑着我们的世界。在 a16z 的人工智能革命系列中,我们邀请了一些人工智能领域最有影响力的建设者,讨论和辩论我们身处何处、我们将走向何方以及人工智能中悬而未决的重大问题。在本集中,普通合伙人 David George 与 Quora 首席执行官兼创始人 Adam D'Angelo 进行了交谈,深入探讨了这个快速发展的人工智能领域,并特别关注了如何为创作者构建基础设施以实现人工智能的民主化。Adam 现在正在构建人工智能聚合器 Poe,并且是 OpenAI 的董事会成员,他长期以来一直关注着这波人工智能浪潮。他回顾了这种不断发展的迷恋,Adam 和 David 共同探讨了人类和人工智能之间的动态协同作用,强调了实验对人工智能领域创始人的关键作用。提醒一下,这次对话来自我们的 AI 革命系列,您可以在 a16z.com/ai 上更深入地了解。资源:观看完整访谈:www.a16z.com/AIRevolution在 Twitter 上查找 Adam:https://twitter.com/adamdangelo在 Twitter 上查找 David George:https://twitter.com/DavidGeorge83保持更新:在 Twitter 上查找 a16z:https://twitter.com/a16z在 LinkedIn 上查找 a16z:https://www.linkedin.com/company/a16z在您最喜欢的播客应用程序上订阅:https://a16z.simplecast.com/关注我们的主持人:https://twitter.com/stephsmithio请注意,此处的內容仅供参考;不应将其视为法律、商业、税务或投资建议,也不应将其用于评估任何投资或证券;并且不针对 a16z 基金的任何投资者或潜在投资者。a16z 及其关联公司可能会对所讨论的公司进行投资。更多详情请见 a16z.com/disclosures。 </context> <raw_text>0 独立创作者。酷。我想转换话题,可能更像一些概念性的 AI,你的 C 到当时的 Facebook,社交媒体正在兴起,然后平台转向移动端正在发生,对吧?所以我很想知道你对 AI 浪潮与向移动端的转变有哪些相似之处,以及有哪些不同之处?是的,你知道,我认为这很难说。我认为对于 Quora,我们在采用移动端方面有点慢。移动端是我们众多优先事项清单中的一项,而它需要成为第一优先事项。我们需要做出更艰难的权衡以优先考虑它。

我们需要做一些事情,例如雇佣一批不同的人,他们将专注于此,并且真正有一个时期,我们没有发布任何新功能。我们只是在简化事情,因为移动端 UI 需要不同的体验。当平台结构发生如此关键的变化时,你需要重新思考很多事情,只有当你拥有这种非常强大的自上而下的领导力时,它才会发生。

所以这次你处理的方式有所不同。

是的,是的,啊,是的。

谈谈一些组织上的变化,以及你做了什么来真正让你自己重新关注我们面前的重大事件。

是的。我认为首先要识别这种趋势,并尽早开始进行一些实验以学习。这不需要任何强有力的果断领导力,而只需要关注市场。

但随后,从那个实验中,我们获得了足够的信心,在我们看来,我们说,嘿,围绕这种出版模式构建了太多正确的产品,这种模式基本上是以专家时间将变得稀缺为前提的,而 AI LLM 时间并非同样稀缺。因此,我们需要重新思考这一点。我认为这是在 2022 年 8 月。

我们得出了这样的结论:聊天是正确的方向,我们需要一个新产品。我们不想尝试将所有内容都改造成 Quora。我们认为我们会进展太慢。所以我们组建了一个小型团队开始工作。

基于此,谈谈 Quora 和 Poe 之间的关系,你如何设想它在未来会发生变化?然后也许还有一个额外的立场,好的,Quora 和 Poe。以及人类专家和 AI 专家回答问题,他们是否在同一个地方,这是一种不同的互动方式。

是的,是的。我们希望所有这些都能尽可能地集成在一起。并且我认为,如果你考虑一下 Facebook 和 Facebook Messenger 之间的关系,这两个产品是由同一家公司构建的,但它们有很多共同之处。

我认为 Poe 和 Quora 可能会发展到类似的关系。我们希望将 Quora 的更多人性化方面融入 Poe。我们也希望将整个 Quora 数据集整合到 Poe 中。

但是,我们也在努力,我们已经启动了这项工作,以获取一些 Poe AI 生成的答案,这些答案可在 Quora 上获得。随着这些模型的不断扩展,质量会越来越高,以至于在很多情况下,它实际上会与人类的质量一样好。因此,随着推理成本降低和质量提高,Quora 应用程序实际上变得更适合 AI。

是的,是的,是的。所以我们将看看确切的正确关系是什么。但我们认为这是我们正在为人们构建一个网络,而 AI 则共同分享知识。

有时人们会从 AI 获取知识。有时 AI 需要从人类那里获取知识。我们希望尽可能成为这种类型的平台。

是的,在 Quora 或 Poe 中,取决于它们的互动方式,这是一个你获得答案的地方。有时你的答案来自专家。有时它来自 AI,是的,对。

你对互联网有什么看法,就像你刚才提到的那样?人们将与这组具有不同个性和不同专业知识的机器人互动,并且还会与真实的人类交织在一起。真实的人类将与 AI 交织在一起。你认为实际上会发生什么?

就我个人而言,我认为人类将始终扮演某种角色。人们头脑中有一些知识不在互联网上,也不在任何书中。因此,没有 LLM 会拥有这些知识。

所以,啊,Kandra Brophy 将 LLM 称为互联网的有损压缩。所以这是互联网。有一些专家知道很多东西。

并非如此。因此,我认为在人类和 LLM 之间的相互作用中存在很大的潜力。还指出了目前插图的问题。我认为随着模型的改进,这个问题会逐渐减少,但它永远不会达到百分之百完美的程度。因此,我认为人们会非常重视信息来源,是哪个人说的,或者最初是哪个出版物印刷的。我希望这将导致某种产品或某种用户体验,其中 LLM 帮助你筛选信息来源,并引用确切的专家或确切的来源,而不是完全进行综合总结,并给你一些你无法确切信任其来源的东西。

是的,这是一种在模型本身之外构建的新技术吗?或者你认为这是整合到模型内部的?

我认为这两种方式都有可能。我的意思是,如果你只看一个模型,原始模型无法访问这些其他数据库,在那里我可以获得确切的词语,所以它必须是对模型的一些增强。但是,我认为我们都知道,它与模型的集成程度有多紧密。

是的,同意。我认为这将至关重要。就像我们从这些用例开始一样,比如陪伴和创造力,以及波动是其中的一个特征,对吧?就像这使得它更有趣、更令人兴奋,尤其是在你进入商业用例或更多实用类型的产品时。

这显然是必要的。你对哪些其他重大进展感到兴奋?只是可能在大型语言模型领域。

我个人最兴奋的是规模,只是继续目前的轨迹。如果你只是将其向前推进,还有很多进一步发展的空间。

你认为规模法则会成立吗?

到目前为止,它们一直成立。我的预测是,有一些问题需要克服,但这个行业规模巨大,现在有这么多有才华的人试图让这项技术进步,并且背后有这么多资金。这种力量能够帮助克服任何障碍。规模是如此巨大。

所以我预计这种情况会持续下去。我认为会有道路上的颠簸和需要解决的问题。人们需要非凡的创造力才能取得突破。

我们拥有世界上最聪明的人,世界上最坚定的人,世界上最有才华的人,他们都专注于这个问题。我认为我们将继续看到我们迄今为止所取得的那种扩展、AI 增长和进步。我认为这种情况还会持续很多年。

我们谈到了最后一次转变,对吧,就像你提到的移动端转变,以及你从中吸取的一些教训?你认为在生成式 AI 领域最终的市场结构是什么样的?

为了训练这些前沿模型,你需要数十亿美元的资本,并且需要多年对基础设施的投资。只有一小部分人能够做到这一点。因此,这导致了一个世界,在这个世界里,只有少数参与者才能处于前沿地位。

所以现在,是开放的。谷歌、也许 Anthropic、也许 Meta 可以做到。那些能够做到的人。

我认为这是一个好生意。你将能够赚很多钱。你可以有良好的利润率,也可以非常努力地保持前沿地位以跟上步伐。

但这并不是商品。我认为当你落后于前沿六个月,肯定是一年,那就太残酷了。有太多人能够获得资本和资源来训练这些模型。

因此,它将要么完全开源,要么会有太多不同的竞争对手,以至于任何人都无法在这个阶段获得良好的业务。关于纯粹的技术,我认为在这个级别上会有非常好的业务,你不会使用前沿模型,而是将某种独特的东西与模型结合起来。所以你可能是提供模型可以使用的一些工具,或者你有一些独特的数据用于微调。

或者你可能会围绕模型构建一些独特的产品,然后这最终成为竞争优势的来源。所以我认为会有这样的选择,你要么通过处于前沿地位来争夺规模,要么你争夺某种功能差异化,而你不需要前沿模型。在某些情况下,你两者兼而有之,所以你知道你可以使用开放的 API,并将其与你提供的某些独特工具相结合,这也可以成为一个好生意。

然而,一旦你超越了基础模型,你就会采用更传统的商业形式,不同的竞争优势,如计算优势、数据来源等等,我认为……

完全正确。我认为有趣的是,它正在不断发展。事情发展得如此迅速。因此,每六个月,前沿都会向前推进。因此,前沿参与者必须投资更多资本,但随后他们拥有更强大的模型,这些模型打开了更大的市场。但是,落后于前沿一年甚至更久的开源模型,它们可以解决的市场也在变得越来越大。所以我认为,每过一年,技术和在其之上构建的所有产品都可以解决的市场规模都会更大。

是的,这让我想到另一个话题,与市场结构有关,即大型企业与初创企业之间的竞争。我们希望初创企业总是获胜。但在上一轮周期中,也许只是从 B2B 到 B2C 的转变,就像上一次 SaaS 和云计算一样,有一些事情使得大型企业很难真正进行创新。

存在一种商业模式、创新和所需的新人才技术,这为初创企业打开了大门。现在,在 AI 中,情况有所不同,大型企业是真正的赢家,对吧?因为这项技术可以通过简单的 API 获得。

你可以直接使用它,而且它们有分销渠道,所以它们应该是赢家。如果你只是总结一下微软和谷歌的商业应用程序以及所有这些东西,在未来一到两年内,它们的年收入可能在 100 亿到 200 亿美元之间。如果你必须面对这种情况,如果你持续看到这种情况,你会怎么看?或者你对它的看法不同?

是的,我认为这将非常……绝对是大型企业。他们将能够访问这项技术,并且他们将拥有分销渠道。因此,这是他们拥有的巨大优势。我认为在这波浪潮中,新参与者的机会更多地体现在你想要围绕这项技术构建的产品在某种程度上与之前构建的产品根本不同。

例如,幻觉问题在某种程度上对初创企业来说是一件好事,因为许多现有的产品对任何可能产生错误结果的东西都零容忍。我认为,你可以看到这一点,我认为,现在 Perplexity 从谷歌那里获得了份额。是的,谷歌不能只是将某些东西放在所有搜索结果上,而它有几率出错。

这对他们来说将是一个巨大的问题。Perplexity 可以将此作为使用该产品的预期。它几乎总是正确的,即使它有很小的几率出错。我认为同样的情况实际上会在许多其他情况下发生,你围绕它构建的承诺需要某种容错能力,并且用户需要预期并非一切……

都是完美的,而成本优势可能非常大,对吧?如果你雇佣一个高薪人士,比如律师,你通过分析师运行它,这可能是有意义的,而不是每小时一千美元,也许你只需要非常高的容错能力,你只需要这样做。这只是不同的参与方式。

是的。因此,你有一些公司可能拥有一个非常强大的品牌,从不犯错或从不搞砸,总是可靠的,而初创公司可以进来并说,好吧,这将是价格的十分之一或百分之一,但它有很小的几率出错。很多人会更喜欢这样,但这对大型企业来说是一个真正的问题。

关于 AI,我想最后总结一下,我相信这里有很多观众是正在构建的创始人,可能比你更早期的阶段,你对正在构建的人有什么建议?

在 AI 方面,如果我现在要创办一家新公司,我会做的是花大量时间玩弄这些模型,并玩弄将它们与不同事物集成。你可以向模型提供许多不同的输入。你可以制作抓取工具,从任何地方抓取数据,你可以从用户的本地屏幕获取数据,你可以从语音获取数据。

人们的需求空间巨大,可以结合的各种不同输入也极其广泛,试图满足这些需求。我认为很难自上而下地思考市场上的需求在哪里。我认为实验确实是产生想法、建立和启动公司、最终构建真正有价值的东西的途径。

是的,肯定有其存在的空间。

如果您喜欢这一集,如果您坚持听到这里,请帮助我们宣传节目,与朋友分享,或者如果您雄心勃勃,可以在 ratethispodcast 点 com 斜杠 basic CY 上给我们留下评论。坦白说,制作播客有时会感觉像是在对空说话。如果您喜欢这一集,如果您喜欢我们的任何一集,请告诉我们。下次再见。