波士顿咨询集团的研究表明,89% 的商业领袖认为人工智能是重中之重。做出正确的选择至关重要,这就是为什么财富 500 强公司的团队使用 Grammarly 的原因。凭借顶级安全资质和 15 年负责任的人工智能经验,Grammarly 帮助像您这样的公司提高生产力,同时保护数据安全和隐私。访问 grammarly.com/enterprise,了解为什么 70,000 个团队信赖 Grammarly。
本期节目由 Intuit 企业套件赞助播出。让我们与各位首席财务官和商业领袖谈谈。随着业务的增长,挑战也随之而来。这就是新的 Intuit 企业套件的用武之地。它是一个人工智能驱动的解决方案,将财务、工资单、营销和支付处理整合在一个地方。借助自动化的多实体会计和报告功能,您将减少手动工作,并获得更丰富的业务绩效洞察。
访问 Intuit.com/enterprise 了解更多信息。Intuit Payments, Inc. 提供的资金流动服务,经 NYDFS 许可。彭博音频工作室。播客、广播、新闻。♪
大家好,欢迎收听另一期《Odd Lots》播客。我是乔·魏森索尔。我是特雷西·阿洛威。特雷西,“深层搜索”抛售。没错,非常深。有人开过这个玩笑吗?我们陷入了“深层搜索”。是的,我想还没人开过这个玩笑。
我要说的是,你知道市场情况糟糕的时候,所有的头条新闻都在谈论标准差。然后你就会知道情况真的很糟糕,当你看到人们开始说,“这不是崩盘,而是一次健康的调整”的时候。这就是真正的应对机制。
但就真实的场景设置而言,你知道,我们最近做了一些非常及时的采访,内容是关于市场中的技术集中以及市场中有多少是押注于人工智能的大规模集中赌注等等。无论如何,星期一,我想人们会在星期二收听这个节目。市场遭到重创。英伟达,在我谈论此事时(星期一下午 3:30)的一大赢家,下跌了 17%。所以我们谈论的是整个科技领域的大规模亏损。
基本上,这似乎是由这款名为“深层搜索”的高性能开源中国人工智能模型的推出所触发的。据我们所知,它诞生于一家对冲基金。显然,它的训练成本非常低,构建成本也很低。你知道,目前的科技限制似乎并不是什么大问题。未来可能会成为问题。但是,是的,这就是整个市场押注于许多公司开发人工智能,现在却担心的事情。
当然,担心的是廉价的中国竞争对手。乔,我刚刚意识到,这实际上是你的错。
不是吗?是的。上周,你写道你是一个“深层搜索”人工智能兄弟。看看你做了什么。你让英伟达的市值蒸发了 5600 亿美元。是的,我的错。那是你干的。无论如何,一个有趣的问题是,这在 12 月份的一篇白皮书中就已经宣布了。为什么直到 1 月 27 日才真正让人们感到恐慌?大问题。无论如何,让我们直接进入正题。我们确实有完美的嘉宾。
有人在我们大选前夜特别节目中出现过,一个了解所有数字、人工智能和量化方面的人。他写了一个 Substack,对我来说已经成为每日必读,他每天写的东西都多得令人难以置信。我甚至不知道他每天是怎么写这么多东西的。我们将与兹维·莫舍维茨交谈。他是《别担心花瓶》博客或 Substack 的作者。兹维,你也是一个“深层搜索”人工智能兄弟。你开始使用它了吗?
我使用各种不同的人工智能。因此,我将使用 Anthropic 的 Claude。我将使用 OpenAI 的 ChatGPT 的 O1。我有时会使用 Gemini,并使用 Perplexity 进行网络搜索。但是,是的,我将使用 R1,即新的“深层搜索”模型,用于某些类型的查询,我想看看它是如何思考的,以及如何阐述逻辑。然后我可以判断,这有道理吗?我同意吗?
因此,似乎让市场感到恐慌的事情之一是,据称“深层搜索”v3 的训练成本非常低,大约为 550 万美元。尽管我看到有人错误地认为 550 万美元是其所有 R1 模型的费用,但这与技术论文中所说的内容不符。这只是针对 v3 的。
但无论如何,哦,我应该提到,它似乎也大量基于 Llama。因此,他们正在某种程度上搭便车,利用他人的投资。但无论如何,训练人员的费用为 550 万美元。
这 A,现实吗?然后 B,我们是否了解他们是如何做到这一点的?我们非常了解他们做了什么,因为他们非常开放,并向我们提供了技术论文来告诉我们他们做了什么。他们仍然隐藏了流程的某些部分,尤其是在从 V3(以 550 万美元的价格进行训练)到 R1(推理模型,额外花费数百万美元)的过程中,他们试图通过不分享他们的强化学习技术来使我们更难复制它。但是
我们不应该过分关注或被 550 万美元这个数字所左右。这并不是说它不真实。它非常真实。但是,为了获得以 550 万美元的成本获得模型的能力,他们必须获取数据。他们必须雇用工程师。他们必须构建自己的集群。他们必须对自己的集群进行彻底的优化,因为由于我们的出口管制,他们在芯片访问方面存在问题。他们正在使用 H800。
他们做到这一点的方式是,他们进行所有这些小型优化、微小优化,包括精确地集成硬件、软件以及他们正在进行的所有工作,以便以尽可能低的成本对 15 万亿个标记进行训练,并获得与其他公司使用更多计算能力获得的相同或接近相同水平的性能。
但这并不意味着你可以以 550 万美元的价格获得你自己的模型,即使他们告诉你很多信息。总的来说,他们花费了数亿美元来获得这个结果。等等,进一步解释一下。为什么仍然需要数亿美元?这是否意味着,如果需要数亿美元,那么他们能够做到的事情与美国实验室相比,差距可能并不像人们想象的那么大?那么……
“深层搜索”正在做的是,他们获得的芯片更少。他们不能像 OpenAI、微软或 Anthropic 一样购买英伟达芯片。因此,他们必须充分利用、非常高效地、杀手般地利用他们拥有的芯片。因此,他们专注于所有这些优化以及所有这些可以节省计算成本的方法。但为了达到这个目标,他们必须花费大量资金来弄清楚如何做到这一点,并构建必要的基础设施。
而且,你知道,一旦他们知道该怎么做,花费 550 万美元就能做到。他们已经分享了很多这些信息。这大大降低了想要效仿他们并训练新模型的人的成本,因为他们已经展示了许多他们可以做到的优化方法,或者人们没有意识到他们可以做到,或者没有意识到如何做到这些优化方法,现在可以很容易地被复制。但这并不意味着你距离你自己的 V3 只有 550 万美元。是的。
所以另一件让人们感到恐慌的事情是它是开源的,对吧?我们都记得 OpenAI 更加开放的日子,而现在它已经转向闭源。你认为他们为什么这么做?这有多重要?
所以这是那些他们有一个故事,你可以相信他们的故事或不相信他们的故事的事情之一,但他们的故事是,他们在意识形态上基本上赞成这样一种观点,即每个人都应该获得相同的人工智能,人工智能应该与世界共享,特别是中国应该帮助发展自己的生态系统,他们应该帮助发展所有的人工智能,以造福人类。他们将获得通用人工智能,他们也将开源它。
这是“深层搜索”的主要意义。这就是“深层搜索”存在的原因。他们甚至声称没有商业模式。他们是对冲基金的产物。对冲基金赚钱。如果他们选择这样做,也许他们可以做到这一点。或者也许他们最终会采用不同的商业模式。但是……
如果开源越来越强大的模型,从很多角度来看,这显然非常令人担忧,因为通用人工智能意味着像你我一样聪明和有能力的东西,甚至可能更聪明。如果你只是以开放的形式将其交给世界上任何想要用它做任何事情的人,那么我们不知道这有多危险,但在某种程度上,这是存在风险的。
释放比我们更聪明、更有能力、更有竞争力的事物,然后这些事物将自由地参与任何人类指示它们去做的事情。我有一个非常愚蠢的问题,但我听到人们经常说通用人工智能,AGI。这到底是什么意思?关于这到底是什么意思有很多争议。这些词语的使用并不一致,但它代表通用人工智能。一般来说,它被理解为
你可以完成任何可以在计算机上完成的任务,这些任务只能通过认知来完成,而且与人类一样好。我的意思是,这些东西中的大多数都比我做得更好。我不知道如何编写代码。但我明白,有些事情仍然存在。也许他们不如证明一些你是人类的测试那么好。每个人都在谈论杰文斯悖论。因此,我们看到英伟达和博通等芯片公司。他们的股票今天暴跌。其中一种理论是,哦,不,有了所有这些优化等等,研究人员只会使用这些优化,他们仍然会对计算能力有最大的需求。因此,它实际上不会改变最终的计算需求。你如何看待这个问题?
所以我现在绝对是一个杰文斯悖论兄弟,从这场辩论的角度来看。所以你认为它不会对计算需求产生负面影响?我今天早上发的推文是,英伟达盘前下跌 11%,原因是其芯片非常有用。我相信我们已经证明,是的,你可以从每一块英伟达芯片中获得比你预期的更多的东西。你可以获得更多的人工智能。如果只有有限数量的东西可以用人工智能来做……
一旦你做了这些事情,你就完成了,那么情况就会有所不同。但这绝对不是这种情况。随着我们朝着 AGI 迈进,随着这些 AI 变得越来越强大,我们将希望越来越多地、越来越频繁地将它们用于更多的事情。最重要的是,R1 和 OpenAI 的 O1 的整个革命是推理时间计算。这意味着每次你问一个问题,
它将使用更多计算能力、更多 GPU 周期来更长时间地思考,基本上使用更多标记或单词来找出最佳答案。这并非无限扩展,但它扩展得非常非常远。因此,OpenAI 的新 O3 能够思考几分钟。它有可能在单个查询上花费数百甚至理论上数千美元或更多。如果你将其降低一个数量级,
这几乎肯定会让你在获得给定结果时使用更多,而不是更少,因为这实际上开始变得令人望而却步。随着时间的推移,你知道,如果你能够花费非常少的钱,然后获得虚拟员工和回答任何问题的可能性。是的,基本上对这样做或随着价格下降而提高答案质量的需求是无限的。所以我基本上预计,英伟达能够制造芯片的速度有多快,
我们就可以将它们放入数据中心并为它们提供电力。人们将乐于购买这些芯片。冒着激怒杰文斯悖论兄弟的风险,为了进一步讨论英伟达,我的理解是,“深层搜索”之所以特别,其中一个原因是它不依赖于
专用组件、自定义运算符。因此,它可以在各种 GPU 上运行。是否存在这样一种情况,即人工智能变得如此自由和丰富,这理论上对英伟达来说是好事,但与此同时,因为它很容易在许多其他 GPU 上运行,人们开始使用更多像 ASIC 芯片这样的专用芯片?是的。
我的意思是,从长远来看,我们几乎肯定会看到专用推理芯片,无论是英伟达的还是其他人的。我们几乎肯定会看到各种不同的进步。今天的芯片几年后就会过时。这就是人工智能的工作方式,对吧?有很多快速的进步。但是,你知道,我认为英伟达处于一个非常非常有利的地位,可以利用这一切。
我当然不认为你可以只用你的笔记本电脑来运行最好的 AGI,因此我们不必担心购买 GPU 是一种糟糕的立场。竞争对手可能会推出性能更优越的芯片,这当然是有可能的。英伟达并没有垄断地位,但英伟达目前似乎处于主导地位。波士顿咨询集团的研究表明,89% 的商业领袖认为人工智能是重中之重。
但是,随着人工智能工具在各处涌现,你如何将有用的工具与炒作区分开来?做出正确的选择至关重要,这就是为什么财富 500 强公司的团队使用 Grammarly 的原因。Grammarly 拥有超过 15 年的构建安全可靠 AI 的经验,它不仅仅是另一个 AI 通信助手。它帮助像您这样的公司提高生产力,同时保护数据安全和隐私。
Grammarly 专为满足业务需求而设计,它拥有以用户为中心的隐私政策和行业领先的安全资质。这意味着您不必担心公司信息的安全性。Grammarly 还强调负责任的人工智能,因此您的公司可以避免有害的偏见。
访问 grammarly.com/enterprise,了解为什么 70,000 个团队和 3000 万人信赖 Grammarly。网址是 grammarly.com/enterprise。Grammarly。企业级人工智能。
我是高山滑雪运动员米凯拉·希夫林。我赢得了历史上最多的世界杯滑雪比赛。但成功对我来说意味着什么?成功意味着自律。是团队合作。这是我们内心深处在所有认可之前就存在的动力和激情。这就是为什么 Stiefel 是该国增长最快的全球财富管理公司之一。如果你正在寻找成功,那就围绕那些能让你成功的人。
在 Stiefel,我们对我们的顾问进行全面的投资,以便他们可以对他们的客户进行全面的投资。这意味着可以直接访问业内最大的股票研究机构之一和领先的中型市场投资银行。这就是为什么 Stiefel 连续两年获得 J.D. Power 员工顾问满意度奖的原因。
如果您是顾问或投资者,请选择 Stiefel。成功与成功相遇的地方。Stiefel Nicholas & Company, Inc. 成员 SIPC 和 NYSE。有关 J.D. Power 2024 奖项信息,请访问 jdpower.com/awards。使用奖项而非获得奖项的补偿。
在我看来,我知道还有其他公司,但在美国,似乎只有三家主要的人工智能模型生产商为人所知。一个是 OpenAI,一个是 Claude,还有一个是 Meta 的 Llama。值得一提的是,截至我谈论此事时,Meta 的股价上涨了 1.1%。快速浏览一下,看看“深层搜索”冲击如何影响它们的可行性以及它们今天的处境。
我认为你这个问题最令人惊奇的是你忘记了谷歌。哦,是的,没错。是的,这非常说明问题。但其他人也都忘记了它。
我知道,我从未使用过 Gemini。这并不令人惊讶。他们的 O1 和 R1 版本 Gemini Flash Thinking 几天前刚刚更新。有很多报道称它现在实际上非常好,并且可能具有竞争力。实际上,对于 AI Studio 上的许多人来说,它是免费使用的。但我认识的人中没有人花时间去检查它有多好,因为我们都沉迷于成为“深层搜索”专业人士。对。
是的。
从某种意义上说,当然,因为他们拥有推理模型,而现在他们的推理模型比以前更容易被复制。而且竞争对手的成本远低于 OpenAI 的收费。因此,它对他们的商业模式构成了直接威胁,原因显而易见。而且看起来,他们在推理模型方面的领先优势比你想象的要小,而且更容易被消除。因为如果“深层搜索”可以做到,那么 Anthropic 和谷歌当然也可以做到,其他人也可以做到。Anthropic……
它生产 Claude,但尚未生产自己的推理模型。他们显然在某种程度上缺乏计算能力。因此,他们完全有可能选择不推出推理模型,即使他们可以,或者不专注于尽快训练一个推理模型,直到他们解决了这个问题。他们不断地进行投资。我们应该期望他们随着时间的推移解决他们的问题。但是
他们似乎应该直接关注,因为他们在某种意义上来说,他们的产品竞争力较低。但他们也倾向于向更了解情况的人进行营销。因此,他们的人也会了解“深层搜索”,他们将做出选择。
如果我是 Meta,我会更加担心,尤其是我在他们的 Gen AI 团队中并且想要保住我的工作,因为 Meta 的午餐在这里被彻底吃掉了,对吧?Meta 的 Llama 拥有最好的开放模型,所有最好的开放模型实际上都是 Llama 的微调版本。而现在“深层搜索”出现了,这绝对不是 Llama 的微调版本。这是他们自己的产品。对。
而 V3 已经让 Meta 的所有东西都相形见绌了。关于 R1,有报道称它比他们现在正在训练的新版本更好。它比 Lava 4 更好,我认为这是正确的。所以没有……
发布劣质开放模型的意义,因为开放模型社区的所有人都认为,为什么我不直接使用“深层搜索”呢?特雷西,有趣的是,正如 V 所说,应该感到紧张的是 Meta 的员工,而不是 Meta 本身,因为 Meta 的股价上涨了。所以你得想知道,这就像,好吧,也许他们不需要,我不知道,也许他们不需要在自己的开源 AI 上投入那么多资金,如果那里有更好的 AI,而现在股价上涨了。无论如何,继续听。市场对 Meta 做出的不同事情的反应非常奇怪
从我的角度来看。有一段时间,Meta 会宣布,我们将在 AI 上投入更多资金。我们正在投资所有这些数据中心。我们正在训练所有这些模型。市场会说,你在做什么?这是另一个元宇宙还是什么东西。我们将打击你的股票,我们将把你拖垮。然后,随着最近宣布的 650 亿美元的支出,Meta 的股价上涨了。
据推测,他们将在很多情况下主要将其用于推理,因为他们有这些巨大的推理成本,想要将 AI 应用到 Facebook 和 Instagram 上。因此,如果有什么不同的话,我认为市场可能会推测这意味着他们将知道如何训练更好、运行成本更低的 Llama,他们的成本将下降,然后他们将处于更有利的地位。而这个理论并不疯狂。
既然我们都集体想起了谷歌,我有一个问题一直在我的脑海里萦绕。我认为乔之前也提到过这个问题。但是当谷歌推出……
人们花了数年时间才赶上搜索功能。实际上,没有人真正赶上。因此,谷歌多年来一直占据主导地位。为什么当涉及到这些聊天机器人时,这些企业周围没有更高的、更广泛的船只呢?原因之一是
每个人都在大致相同的数据上进行训练,这意味着整个互联网和所有人类知识。因此,除非你使用你自己的模型创建合成数据(OpenAI 现在可能正在这样做),否则很难获得如此持久的数据优势。另一个原因是,每个人都在尽可能快地扩展规模,并定期在所有事物上添加零。从日历时间来看,在你的竞争对手……
拥有比你更多的计算能力之前,并没有花费那么长时间,而且他们正在更积极地复制你的技术。秘密酱汁少了很多。算法只有这么多。从根本上说,每个人都依赖于缩放定律。这被称为“痛苦的教训”。这是指,你知道,你只需要扩展更多。你只需要使用更多的计算能力。你只需要使用更多的数据。你只需要使用更多的参数。“深层搜索”表示,也许你可以进行更多优化。你可以绕过这个问题,仍然获得一个更优越的模型。但是大多数……
是的,有很多只是我可以通过复制你所做的事情来赶上你。此外,因为我可以看到输出,对吧?我可以查询你的模型,并且可以使用你的模型的输出来主动训练我的模型。
你可以在大多数经过训练的模型中看到这一点。你问他们,是谁训练你的?他们通常会说,哦,我来自 OpenAI。互联网变得如此奇怪。互联网太奇怪了。兹维·莫舍维茨,非常感谢你来到《Odd Lots》,并帮助我们录制了关于“深层搜索”抛售的紧急播客。太棒了。好的,谢谢。谢谢。
特雷西,我喜欢和兹维交谈。我们必须把他变成我们的人工智能专家。老实说,我们可能本周还会让他再来一次,因为事情会发生,对吧?也许我们会。显然,我们可以说得更长一些。这是一个非常激动人心的故事。这是一个非常激动人心的故事。而这些日子事情变得越来越奇怪了。
这一切发生的速度之快真是令人难以置信。然后我要说的另一件事就是“痛苦的教训”。乐队名字很棒。哦,完全正确,完全正确。
也许当我们做我们的人工智能主题前卫摇滚乐队时。那可以是我们的名字。是的,让我们这样做。好的,我们结束吧?让我们结束吧。这是另一期《Odd Lots》播客。我是特雷西·阿洛威。你可以在 Traci Allaway 关注我。我是乔·魏森索尔。你可以在 The Stalwart 关注我。关注我们的嘉宾兹维·莫舍维茨。他在 The Zvi。此外,一定要查看他的免费 Substack。对我来说,这是必读内容。别担心花瓶。
每天都有非常棒的东西。关注我们的制作人卡门·罗德里格斯(CarmenArmond)、达希尔·贝内特(Dashbot)和凯尔·布鲁克斯(Kale Brooks)。有关更多《Odd Lots》内容,请访问 Bloomberg.com/OddLots。我们有文字记录、博客和时事通讯。你可以在我们的 Discord 中全天候讨论所有这些主题,discord.gg/OddLots。也许我们会让兹维在那里进行问答。
与人们一起。哦,是的。那太好了。如果你喜欢《Odd Lots》,如果你喜欢我们推出这些紧急剧集,请在您最喜欢的平台上给我们留下积极评价。感谢收听。
3 月 11 日,加入彭博社在芝加哥或通过直播参加“未来投资者,寻找机遇”活动。这个 2025 年活动系列将探讨公司如何投资于其业务以提高效率、创新其产品和服务以及改善客户体验。
本系列活动由 Invesco QQQ 赞助。在 BloombergLive.com/FutureInvestorChicago 注册。网址是 BloombergLive.com/FutureInvestorChicago。