Yes, DeepSeek IS Actually a Massive Deal for AI
20:13 Share

谢谢。

大家好,朋友们。在我们深入探讨之前,先快速说明一下。我原本计划做一个普通的节目,在新闻标题和新闻之间进行划分,但今天的一切都与这个重大的R1深度搜索新闻息息相关,以至于这期节目比平时长得多。我决定只关注这一点。明天我们可能会恢复正常的节目形式。但现在,让我们深入探讨一下每个人都在谈论的内容,那就是深度搜索以及它究竟有多重要。

欢迎回到AI每日简报。如果你在过去几天里花了一些时间上网,我想如果你关注任何AI资源,你可能已经看到了一些这样的情绪。Frank DeGods写道:“我已经使用了DeepSeek 20分钟了,但我敢肯定这是自最初的ChatGPT以来AI领域最好的东西。”

Signal写道:“我已经在本地运行DeepSeek几天了,它绝对与O1或Sonnet不相上下。我一直用它来进行编码和其他任务,而通过API本来要花掉我一大笔钱的东西现在完全免费了。这感觉就像一个彻底的范式转变。”投资者Nick Carter写道:“DeepSeek刚刚将AGI的时间线提前了五年。所以专注于健身吧。知识工作已经过时了。剩下的只有肌肉了。”

《超人通讯》写道:“DeepSeek的R1震惊了硅谷。中国新的DeepSeek R1模型震惊了硅谷,许多关于中国创新和人工智能的长期假设在一夜之间消失了。一些人称之为骗局,而另一些人则称之为对人类的馈赠。”

那么我们到底在谈论什么呢?好吧,如果你一直在仔细听,你可能已经听我说过DeepSeek了。在12月份,我们开始听到关于他们的模型的消息,这些模型的性能非常好,而且训练成本只是OpenAI等公司的大型模型的一小部分。上周一,该实验室发布了他们的推理模型R1。虽然该模型的优越性立即显而易见,其基准测试结果与OpenAI的O1和谷歌的Gemini 2.0相似,但随着一周的推移,一些更重大的事情开始变得清晰起来。

一篇关于匿名专业社交媒体网络Blind的帖子在周四流传开来。它的标题是:《Meta生成式AI组织处于恐慌模式》。文中写道:“工程师们正在疯狂地解剖DeepSeek,并尽可能地从中复制任何东西。我一点也不夸张。管理层担心如何证明Gen AI组织的巨额成本是合理的。当Gen AI组织的每一个领导者的薪水都超过训练DeepSeek v3的成本时,他们将如何面对领导层?我们有几十个这样的领导者。DeepSeek R1让事情变得更加可怕。”

所以这里发生的大事,以及AI行业如此恐慌的原因是成本。DeepSea声称他们的V3 LLM在三个月内以560万美元的成本进行了训练。美国实验室的前沿模型训练对于O1级别的模型来说接近5亿美元,而对于下一代训练运行来说可能高达数十亿美元。我们没有关于创建R1模型的后期训练成本的可靠估计,但认为预算同样紧张似乎是合理的。

一些科技高管公开轻视这些说法。Scale.ai首席执行官Alexander Wang在上周的一次采访中表示,据他了解,DeepSeq拥有一个由50000个顶级NVIDIA H100芯片组成的集群,违反了出口管制规定。V3论文声称该模型是在一个仅由2000个NVIDIA H800(允许出口的芯片降级版本)组成的集群上训练的。

本月早些时候,《南华早报》报道称,DeepSeq拥有10000个NVIDIA GPU,但没有详细说明芯片的具体情况。尽管这难以置信,但有一些理由可以相信他们关于超低训练成本的说法。量化交易员Jeffrey Emanuel在一篇博文中分析了他们训练方法中的创新之处。以下是一部分解释,尽管值得通读全文。

Jeffrey写道:

它不仅限于像普通整数那样获得的256个不同的等大小的量级,而是使用巧妙的数学技巧来存储非常小和非常大的数字,当然精度要比使用32位时低得多。主要的权衡是,虽然FP32可以在极大的范围内以令人难以置信的精度存储数字,但FP8牺牲了一些精度来节省内存并提高性能,同时仍然保持足够的精度以满足许多AI工作负载的需求。

如果这对您来说像希腊语一样,别担心。Y Combinator合伙人Jared Freeman写道:

粗略总结:使用8位而不是32位浮点数,这可以节省大量的内存。压缩键值索引,这些索引会占用大量的VRAM。进行多标记预测而不是单标记预测,这有效地将推理速度提高了一倍。专家混合模型将大型模型分解成可以在消费级GPU上运行的小型模型。

重点是,这并不是一个我们不知道为什么会发生这种情况的黑匣子。对这实际上是如何发生的有一些解释。尽管如此,无论他们的训练集群的真相如何,DeepSeek都以极低的成本提供该模型。R1的API访问价格约为OpenAI的O1的3%。周末期间,X上充斥着人们以几分钱的价格大量访问该模型的例子。Henry写道:“在过去的几个小时里,我已经向DeepSeek API发出了超过200000个请求。”

零速率限制,整个过程花费了我大约50美分。

周末期间,思想共享真正突破了。DeepSeek的电话助手在应用商店中排名第一,该模型从Hugging Face获得了大约150000次下载,并位居趋势榜首。更重要的是,由于该模型是开源的,并且具有新颖的有效推理设计,因此它可以在各种消费设备上运行。人工智能研究员Harrison Kinsley能够在他的(不可否认功能强大的)工作站上运行完整的模型,该工作站拥有1 TB的RAM。其他人则在手机和平板电脑上运行该模型的较小蒸馏版本。

现在,似乎硅谷的每个人都对DeepSeek取得的成就及其对人工智能行业的影响发表了自己的看法。Andreessen Horowitz的Mark Andreessen写道:“DeepSeek R1是我见过的最令人惊叹和印象深刻的突破之一,并且它是开源的,是对世界的巨大馈赠。”他在周末晚些时候再次声明:“DeepSeek的R1是人工智能的斯普特尼克时刻。”

我想这里几乎每个人都熟悉这个典故,但斯普特尼克当然是第一颗人造卫星。它在1957年的发射标志着俄罗斯在太空竞赛中领先美国,这令美国震惊,并启动了阿波罗计划。简而言之,这是冷战期间的警钟,美国不能在技术军备竞赛中自满。Y Combinator总裁Gary Tan写道:“DeepSeek的搜索感觉即使在几次查询后也更具粘性,因为即使看到推理,它对知道什么和可能不知道什么都非常认真,这大大增加了用户的信任度。”

事实上,查看思维链推理的能力似乎对许多用户来说是一个非常有共鸣的时刻,特别是对于那些从未付费访问O1的用户来说。Caspian在X上写道:“普通人认为DeepSeek很可爱,因为它分享了它的思维过程”,分享了一段对话,其他人在谈论DeepSeek“因为它分享了它的思维过程并自言自语,所以很可爱”。

正如你可能想象的那样,有些人认为正在发生一些不光彩的事情。Curieye首席执行官兼Vinod Kosla之子Neil Kosla写道:“DeepSeek是中国共产党国家在经济战中进行的心理战,目的是使美国人工智能无利可图。他们伪造了低成本的说法,以证明低价是合理的,并希望每个人都转向它以损害美国的人工智能竞争力。不要上当。”

现在,虽然许多人可能会发现这是一个合理的理论,但你可能指出的一个小的证据是这是一个入门价格。R1目前以约为R01十分之一的入门价格提供服务,但下个月成本将几乎翻三倍,达到R01的四分之一。尽管如此,外汇便宜也不是闹着玩的。

无论你相信关于DeepSeek的哪个故事,我们显然已经进入了一个人工智能竞争的新时代。现在,美国和中国的实验室都有多个模型在性能上基本相当。最大的区别现在是推理成本,而DeepSeek正在提供市场上最便宜的推理成本。

虽然市场的反应是,让我们这么说吧,非常害怕,我们稍后会谈到这一点,但大型科技公司的反应不是恐惧,而是机遇的兴奋。微软首席执行官Satya Nadella写道:“贾文悖论再次出现。随着人工智能变得更高效和更容易获得,我们将看到它的使用量激增,将其变成一种我们求之不得的商品。”

贾文悖论,这是一个你将在未来几天听到更多关于它的术语,指的是技术进步导致效率提高和成本降低的现象,但这并没有减少需求,反而导致需求大幅增加。例如,想想随着成本变得微不足道,对云存储的需求发生了什么变化。

作为一个开源项目,DeepSeek已经完全描述了他们的方法并提供了他们的数据集,因此理论上没有什么可以隐藏的。Hugging Face目前正在他们自己的训练运行中复制该模型,因此我们很快就会知道结果。如果成功,这些方法将很快被每一家大型科技公司和数百家初创公司复制。高效训练和极好模型的意义可能是人工智能的下一个时代将完全围绕推理展开。换句话说,公司不再仅仅在模型质量上竞争。他们正在竞争以尽可能低的成本交付模型。今天的节目由Vanta赞助。

信任不仅仅是赢得的,更是被要求的。无论你是正在进行第一次审计的初创公司创始人,还是经验丰富的安全专业人员正在扩展你的GRC计划,证明你对安全的承诺从未像现在这样重要或复杂。这就是Vanta的用武之地。企业使用Vanta通过自动化超过35个框架(如SOC 2和ISO 27001)的合规性需求来建立信任。

集中的安全工作流程可以将问卷调查完成速度提高5倍,并主动管理供应商风险。Vanta可以通过将你与审计员和专家联系起来,帮助你启动或扩展你的安全计划,以便快速进行审计并建立你的安全计划。此外,由于平台中使用了自动化和人工智能,Vanta可以为你节省时间,让你可以专注于发展你的公司。加入超过9000家全球公司,例如Atlassian、Quora和Factory,他们使用Vanta实时管理风险并证明安全性。

在有限的时间内,这个观众可以获得Vanta的1000美元折扣,网址为vanta.com/nlw。网址是v-a-n-t-a dot com/nlw,可享受1000美元的折扣。如果2025年人工智能有一件事是明确的,那就是代理即将到来。垂直代理购买行业水平代理平台。

每个功能的代理。如果你正在运营一家大型企业,你明年将尝试使用代理。鉴于这是多么的新事物,我们所有人都会回到试点模式。

这就是为什么Superintelligent在今年年初提供了一项新产品。这是一项代理准备和机会审计。在短短几周内,我们将与你的团队一起深入了解哪些类型的代理适合你进行测试,你需要哪些类型的基础设施支持才能做好准备,并最终获得一套可操作的建议,帮助你做好准备,弄清楚代理如何改变你的业务。

如果你对代理准备和机会审计感兴趣,请直接联系我,[email protected]。在主题行中加上“代理”一词,这样我就知道你在谈论什么。让我们成为AI市场最具活力部分的领导者。你好,AI每日简报的听众们。快速休息一下,分享一些来自KPMG最新AI季度脉搏调查的非常有趣的发现。

你知道吗,67%的商业领袖预计人工智能将在未来两年内从根本上改变他们的业务?然而,并非一切顺利。他们面临的最大挑战包括数据质量、风险管理和员工采用等问题。KPMG正处于帮助组织克服这些障碍的最前沿。他们不仅仅是在谈论人工智能,他们正在通过切实可行的解决方案和实际应用来引领潮流。

例如,超过一半接受调查的组织正在探索使用AI代理来处理行政事务和呼叫中心运营等任务。因此,如果你想在AI领域保持领先地位,请关注KPMG。他们不仅仅是对话的一部分,他们正在帮助塑造对话。了解更多关于KPMG如何推动AI创新,请访问kpmg.com/US。

现在,谈到市场反应,肯定有反应。标准普尔500指数期货市场在隔夜交易中下跌超过3%,一些恐慌情绪绝对正在蔓延。当然,令人担忧的是,大型科技公司在过去几年里已经向人工智能基础设施投入了数千亿美元,并且今年似乎可能会花费一万亿美元。

一个论点是,DeepSeq已经使所有这些美国的GPU变得毫无价值,因为中国的人工智能证明你可以通过完全不同的方式做到这一点,而无需所有这些昂贵的资本支出。回到Jeffrey Emanuel的那篇文章,他在那篇详尽的帖子中分析了英伟达的看跌情况。他探讨了英伟达近年来在软件、芯片网络和原始性能等众多领域取得的优异成绩。其逻辑是,竞争对手的芯片制造商正在多个方面迅速赶上。再加上训练成本的大幅下降,人工智能芯片很快就会成为一种商品。

英伟达是生产用于训练集群的顶级芯片的领导者,但如果重点转向提供廉价的推理,那么在这一领域,其他公司与英伟达的竞争力要强得多,而且很快还会有更多公司。

投资者Nick Carter写道:

然而,Nick也提到了反驳的观点。在他接下来的推文中,他说:“尽管如此,我并不太担心英伟达和人工智能数据中心公司的股权价值。”但他指出,他在这里有很大的包袱偏见。他写道:“为什么?当一种商品变得更便宜时,对这种商品的使用就会增加。因此,推理一夜之间变得更加丰富。”

DeepSeek的创新将被其他模型公司迅速采用,因此人工智能可以廉价地嵌入到任何地方。这可能会改变训练与推理以及人工智能资本支出的比率,使其有利于后者,但我认为这不会破坏生产推理投入(GPU、数据中心等)的公司的股权价值。只是加速了从前人工智能世界到完全嵌入式世界的转变。尽管如此,模型公司(OpenAI、Anthropic等)是股权价值将增加的地方这一投资者前提现在存在一个巨大的漏洞。

我一直认为,并且说过我认为模型公司将是资本焚烧器,因为高质量的开源模型和价格战。我认为现在这种情况更加真实。但总的来说,我不担心其余的堆栈,无论是生产商还是那些实际上捆绑计算并以更好的消费者体验的形式将其出售给最终用户的公司。简而言之,对你们大多数人来说,无需恐慌。尽管我认为市场需要一些时间来消化,并且短期内的波动将会很大。

White Commendator的Gary Tan也对此进行了回应,他回应了一位市场分析师,该分析师表示中国的DeepSeek可能对美国股市构成最大的威胁,并对投入该行业的数千亿美元资本支出的效用提出了质疑。Gary写道:“人们真的相信这一点吗?如果训练模型变得更便宜、更快、更容易,那么对推理(人工智能的实际实际应用)的需求将增长并加速得更快,这将确保计算的供应将被使用。”

Stratechery的Ben Thompson也指出了这一点。他写道:“从长远来看,DeepSeek所展示的模型商品化和更便宜的推理对大型科技公司来说是一件好事。微软能够以极低的成本向其客户提供推理的世界意味着微软必须在数据中心和GPU上花费更少,或者,同样有可能的是,鉴于推理如此便宜,使用量会大幅增加。”另一个大赢家是亚马逊。AWS基本上未能制作出他们自己高质量的模型,但这并不重要,因为有非常高质量的开源模型,他们可以以远低于预期的成本提供服务。

苹果,对我来说这是一个有趣的赢家,Ben写道。推理所需的内存大幅减少使得边缘推理更加可行,而苹果拥有最适合此目的的硬件。苹果硅使用统一内存,这意味着CPU、GPU和NPU可以访问共享内存池。这意味着苹果的高端硬件实际上拥有最好的消费级推理芯片。与此同时,Meta是最大的赢家。我已经阐述了Meta业务的各个方面如何受益于人工智能。实现这一愿景的一个主要障碍是推理成本,

这意味着大幅降低的推理成本和大幅降低的训练成本,考虑到Meta需要保持技术领先地位,使得这一愿景更容易实现。他说,谷歌的情况可能更糟。硬件需求的减少降低了他们从TPU中获得的相对优势。更重要的是,零成本推理的世界增加了取代搜索的产品的可行性和可能性。当然,谷歌的成本也会降低,但任何偏离现状的变化可能都是负面的。

尽管如此,正如Ben指出的那样,股价下跌的原因是,“市场似乎正在努力应对R1存在的冲击”。

这一时刻也具有不可否认的地缘政治影响。这不是中国实验室第一次展示尖端能力,但这是中国模型第一次获得这种程度的关注。重要的是,R1正在以与中国产业几十年来超越其美国竞争对手相同的方式在价格上竞争。这一时刻直接与特朗普政府实现美国人工智能主导地位的目标相冲突,并将开启这场竞争的新篇章。

投资者Chamath Palihapitiya发表了一篇长篇帖子,解释了在他看来棋盘是如何变化的。他阐述了转向推理并将这些芯片积极出口给盟友的必要性,并警告说风险投资家们一直在打瞌睡,需要提高他们的资本纪律。

他写道:

更多的支出、更多的会议、更多的监督、更多的周报等等并不等于更多的创新。减轻我们技术明星的负担,让他们发挥魔力。Jordi Hayes发表了一个更开玩笑的看法,他说:“你现在能做的最爱国的事情就是开发软件,使用如此多的DeepSeek推理,以至于你让中国共产党破产。”

一些人说,这场战斗实际上并不是关于中国与美国,而是关于开源与闭源。Meta的首席人工智能科学家Yann LeCun写道:“对于那些看到DeepSeek的性能并认为中国在人工智能方面超越美国的人来说,你们的解读是错误的。正确的解读是,开源模型正在超越专有模型。DeepSeek受益于开放式研究和开源。他们提出了新的想法,并在此基础上构建了其他人的工作。因为他们的工作以开源的形式发布,所以每个人都可以从中获益。”

这就是开放式研究和开源的力量。Menlo Ventures的Didi Das在整个周末进行比较后,发表了不同的看法。他将R1的性能与OpenAI的O3模型进行了对比,并认为它可能更好。再说一次,这种性能是在推理大幅增加的情况下推断出来的,所以谁知道呢?然而,他确实指出,“......中国正在碾压美国的言论完全忘记了Gemini 2.0的闪念。它可能更便宜、上下文更长,并且在推理方面更好。”

总的来说,我认为从这一点来看,抛开地缘政治影响,抛开股市影响,情报已经变得便宜得多。这不可能不会导致价格下跌。

Ethan Malek教授写道:“我认为市场将很快适应DeepSeq带来的任何每标记成本下降。在过去的18个月里,GPT-4级智能的成本下降了1000倍。推理模型价格下降95%似乎不会让实验室破产。”

事实上,一些人,事实上许多人,都在提醒说,这正是你想要远离主流媒体,更深入地与更接近新闻的人们进行交流的情况。英伟达的Jim Phan博士写道:“人工智能圈子里一个明显的‘我们又回来了’的时刻,不知何故变成了主流媒体中的‘一切都结束了’。令人难以置信的短视。O1的力量掌握在每个程序员的手中,可以学习、探索和迭代。想法会复合。复合速度随着开源而加快。馅饼变得更大更快了。”

我们作为人类正在更快地走向通用人工智能。零和博弈是失败者的游戏。在人工智能领域,很容易将重大新闻标题视为夸大其词。许多网络红人和YouTuber只是在寻找下一个改变一切的多巴胺冲击。但在这种情况下,我认为DeepSeek可能是一个像人们感觉的那样重要的时刻。不过,我的猜测是,这并不是市场正在反应的时刻,而是Jim Phan博士在这里指出的时刻。

无论如何,2025年都变得更加有趣了。所以,让我们拭目以待,看看接下来会发生什么疯狂的事情。现在,今天的AI每日简报就到这里。下次再见,和平。