Deep Dive
Shownotes Transcript
你想窥探未来吗?你想了解正在塑造你人生的无形力量吗?你想体验构成我们人类的极限吗?在《科技玩意儿》节目中,我们将从刚果的矿井到火星表面,从与诺贝尔奖得主的对话到TikTok的深处,提出关于科技的尖锐问题,从
从高科技到低俗文化,以及介于两者之间的所有内容,加入我们。在 iHeartRadio 应用程序、Apple Podcasts 或您收听播客的任何地方收听《科技玩意儿》。
大家好,欢迎收听第一期《更好离线》独白。这将是一个简短的每周播客,我将快速浏览一下科技行业正在发生的事情,这些事情并不完全值得做一个完整的节目。有人可能会说它们就像快速的内容片段,如果可以的话,这是一个已被证明屡试不爽的商业模式。本周,我将为您提供最近一个震撼了经济和人工智能领域的情况的精简概述,对于那些需要复习或拒绝两部分播客概念的人来说。
1 月底发生的事情不仅彻底颠覆了人工智能行业的现状,也对美国科技行业的统治地位提出了质疑。
我们的故事始于 1 月 20 日,当时一家鲜为人知的中国公司 DeepSeek 发布了其 R1 AI 模型,这令那些向数据中心和工业级图形处理单元(GPU,对其他人来说)投入超过 2000 亿美元的西方科技巨头感到恐惧,以支持 ChatGPT 和 Anthropix Claude 等生成式 AI 模型。
与 OpenAI 的 R1 模型一样,DeepSeq 的 R1 模型也是一个推理模型,这意味着它逐步解决问题,向用户展示其得出结论的步骤。
通常,当您向生成模型发出请求时,它会概率性地生成答案,这意味着它根据您提出的请求猜测下一个比特。在 OpenAI 的 R1 模型以及 DeepSeek 的 R1 模型的情况下,模型会思考。我使用这个词比较宽泛。这些模型一无所知。它们不会思考。它们没有意识。但它们会通过逐段生成并使用模型的不同部分逐段审查来思考每个步骤。
理论上,这种推理能力意味着它非常适合存在明确正确答案的任务,例如逻辑和数学。这也使其有别于标准的 ChatGPT 或 GPT-4-0,后者速度快得多,因为它不进行这种逐步思考,因此更适合更开放式的问题,例如“如果加菲猫有一把枪会怎样?”需要明确的是,这并不意味着答案有任何好处。
就在几周前,Deep Seek 发布了另一个模型,尽管宣传力度要小得多,这可能是因为它是在圣诞节后的第二天发布的。但无论如何,它被称为 V3,而且仍然非常令人印象深刻。
V3 与驱动 ChatGPT 的相同模型竞争,正如我刚才提到的,在录制本节目时,它被称为 GPT-4.0。这是一个更通用的产品。它可以编写代码和解决数学问题,但它更适合基于语言的任务。撰写学期论文、总结文档,无论您用它做什么。并且重要的是要知道,这是最常用的模型样式。您并非在所有事情中都能真正进行推理,至少目前还不能。我不知道它将来会有多普遍。
现在,DeepSeq 的技术不仅在功能上与 OpenAI 相匹敌,而且据称训练和运行成本也更低。据报道,OpenAI 的 GPT-4 模型的训练成本为 1 亿美元,一些专家估计,DeepSeq 的推理模型 R1 的成本远低于此,而他们的 V3 模型的训练成本实际上不到 600 万美元。这个数字存在争议。但这些模型的一大特点是它们的价格低廉得多。
它们可以在您的计算机上运行,尽管速度慢得多,或者它们可以在其他云基础设施上运行。对于与 ChatGPT 竞争的 v3 模型,它实际上便宜了约 50 倍。而推理模型 R1 便宜了约 30 倍,这太疯狂了。这些是在 DeepSeek 运行服务器上运行的价格,但我们将很快看到,随着其他人托管它们,它们到底便宜了多少。而且它们也更高效,这太疯狂了。它们高效得多。
并且重要的是要注意,他们使用老一代的英伟达芯片来训练这些模型,因为他们受到了来自中国的制裁。他们也通过奇怪的经销商获得了一些更新的芯片,但无论如何,这使得他们获得 GPU 变得更加困难。
因此,他们能够从这些芯片中挤出更多性能。他们不得不提出真正有趣的汇编语言级别的技巧,他们用 GPU 做了额外的事情,而那些养尊处优的科技高管从未想过。Sam Altman 和 OpenAI 的同伙也从未想过,因为,他们为什么要这么做呢?他们为什么要考虑这些呢?他们从超大规模公司那里获得了无限的资金作弊,例如,OpenAI 的资金来自微软,Anthropic 的资金来自亚马逊和谷歌。
这就是叙事开始崩溃的地方,因为所有这一切都使得这些公司建设新的数据中心和购买新的英伟达 GPU 变得更加难以证明。整个 AI 热潮都是基于这样的假设:构建强大模型的唯一方法是每年获得英伟达公司最大、最强大的芯片,而且根本不可能让这些模型更便宜。顺便说一句,OpenAI 在 2024 年亏损了 50 亿美元,他们所有的产品都无利可图。即使是他们每月 200 美元的......
Open AI,ChatGPT Pro 订阅。顺便说一句,我讨厌这些术语。它们都不同。尽管如此,每个人都认为永远不会有更高效的模型。我个人也犯了这样的错误,认为如果它能更高效,他们肯定希望它更高效。或者他们可以做到这一点,对吧?对吧?也许他们只需要做这些事情,即使这很愚蠢。事实并非如此。DeepSeek 证明了这一点。
至关重要的是,DeepSeek 在开源许可下发布了其模型,这意味着任何公司都可以重复使用和重新利用其技术,而无需向任何人支付任何费用,任何许可费或任何费用,或征求任何人的许可。相比之下,OpenAI 将其技术牢牢掌握在自己手中。尽管他们的名字是 OpenAI,但它是一个高度保密的组织,名义上是开放的。
总而言之,DeepSeek 创建了一种可行的替代方案,可以与 OpenAI 的技术以及 Anthropix 的技术相媲美,它功能同样强大,成本低廉得多,而且是开源的,并且证明了不需要最昂贵和最强大的芯片也能做到这一点。
他们是从无到有的。DeepSeek 并不是一家小型初创公司。他们也不是拥有数十亿美元风险投资或由市值达 3 万亿美元的众多不同公司之一支持的硅谷巨头。他们最初是中国对冲基金的一个副项目。不,我没有开玩笑。现在,仍然是一家管理着 80 亿美元资产的对冲基金。他们一点也不小。
太奇怪了。这是一种愤世嫉俗的“大卫与歌利亚”版本,大卫是一个对冲基金婴儿,歌利亚是几个不同的超大规模公司,用一个糟糕的想法粘合在一起。我们......
但无论如何,设身处地为 OpenAI 的首席执行官兼联合创始人 Sam Altman 考虑一下。你已经精心打造了你自己的公众形象,你不仅将生成式 AI 带给大众,而且你正走在实现通用人工智能的道路上,也就是说,一种与人类能力相当的人工智能。
你不仅为自己,也为你的公司和你将要做的工作创造了这个神话。这使得你实质上能够违反商业物理定律。你可以以任何科技公司历史上都无法比拟的速度烧钱,没有获利的希望,或者至少在短期到中期内没有获利的希望,也没有真正期望你会这样做,因为投资者仍然会排队给你更多钱,你的公司估值似乎每隔一个月就会达到更荒谬的数字。
你可以说出诸如此类耸人听闻的话,比如你需要 7 万亿美元来建设基础设施和芯片制造能力,让你的工厂运转起来,而你不会被赶出房间。如果我说这些话,他们会问我是否脑震荡了。你可以说诸如此类的话,比如我想建设价值 5000 亿美元的数据中心,人们不会翻白眼,世界上最大的科技公司和投资者会说,伙计,这太酷了。然后事实证明你是错的。
你总是认为人工智能一定很昂贵,用于为你的应用程序(如 ChatGPT 和 DALI,它们的图像生成器)提供动力的模型,它们的构建成本总是更高,运行成本总是更高,总是需要更强大的硬件。
或者也许你从未认真考虑过这个问题,因为你永远不必担心钱。为了发展,为了构建更强大的 AI 模型,你认为你将永远需要更多的钱,比任何人都多得多的钱。然后这家中国公司出现了。它不仅复制了你的模型的功能。顺便说一句,O1 是 OpenAI 的唯一护城河。这是人们喜欢他们的唯一一点。这是他们最先进的 AI 模型。
但这家公司以微薄的预算做到了这一点,无论是实际训练它,即使估计相差 10 倍。但这些东西也更高效。而这家公司甚至无法获得最强大的 GPU。他们没有微软、亚马逊或谷歌提供的服务器架构。哇。他们接下来用这个与唯一真正的护城河竞争的东西做了什么?他们把它送给了别人。哦,天哪,萨米,情况看起来一点也不好。
这就是 Sam Altman 的处境。这就是 OpenAI 和支持它的公司及其竞争对手的处境。他们曾经拥有的决定性领先优势,就像炎热天气下的水坑一样,消失了。你经常会在美丽的内华达州拉斯维加斯看到这种情况。别误会我的意思。OpenAI 仍在烧钱。但是现在,当 Sam Altman 掸去他的乞讨碗上的灰尘时,投资者可能会第一次问一个非常简单的问题。为什么?为什么?
你想窥探未来吗?你想了解正在塑造你人生的无形力量吗?你想体验构成我们人类的极限吗?在《科技玩意儿》节目中,我们将从刚果的矿井到火星表面,从与诺贝尔奖得主的对话到TikTok的深处,提出关于科技的尖锐问题,从
从高科技到低俗文化,以及介于两者之间的所有内容,加入我们。在 iHeartRadio 应用程序、Apple Podcasts 或您收听播客的任何地方收听《科技玩意儿》。
欢迎。我的名字是 Paola Pedrosa,我是一个灵媒,也是《鬼魂疗法》播客的主持人,它不仅仅是与已故的亲人联系。它还关乎通过他们及其新的视角来学习。我认为上帝给了我这份礼物,以便我能向世界展示它。最重要的是,我每天都在帮助人们。在 iHeartRadio 应用程序、Apple Podcasts 或您收听播客的任何地方收听《鬼魂疗法》播客。
诚挚邀请您......
《与 Tisha Allen 一起狂欢》是 iHeart Woman 体育制作,与 Deep Blue 体育和娱乐公司合作制作。
收听《与 Tisha Allen 一起狂欢》(P-A-R-T-E-E),在 iHeartRadio 应用程序、Apple Podcasts 或您收听播客的任何地方。
我们想大声疾呼,我们希望这种情况停止。哇,非常有力。我是 Ellie Flynn,一名调查记者,这是我深入成人娱乐行业的旅程。我真的很想在我的成年生活中成为一个花花公子。他说,我会带你到顶峰,我会让你成为明星。揭露一个所谓的掠食者和他工作的腐败行业。老实说,这比我预期的要糟糕得多。与他相比,我们是一支军队。
从小说开始,在 iHeartRadio 应用程序、Apple Podcasts 或您收听播客的任何地方收听《兔女郎陷阱》。