We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
People
N
NLW
知名播客主持人和分析师,专注于加密货币和宏观经济分析。
Topics
NLW: 2024年AI领域的重要事件层出不穷,从GPT商店的实际应用效果低于预期,到OpenAI的Sora视频生成技术预示着视频生成领域的巨大潜力,再到微软对Inflection的收购(或类似收购)反映了其对过度依赖OpenAI的担忧,以及Meta的Llama 3以及后续的Llama 3.1 405b模型缩小了开源AI与闭源AI之间的差距,这些事件都对AI行业的发展产生了深远的影响。此外,Ilya Sutskever离开OpenAI标志着OpenAI高管离职潮的开始,也预示着一种不同于传统AI实验室的新型研究模式的出现。Google I/O大会上展示的Notebook LM的音频概述功能,虽然当时未引起广泛关注,但后来证明具有重要意义。苹果公司进军AI领域以及英伟达成为全球市值最高公司,共同体现了AI市场规模的扩张。夏季媒体对AI发展放缓的报道,其论点并非完全负面,更多反映了基础设施建设投入巨大以及投资回报率难以评估的现实。加州SB 1047法案的讨论和最终否决,反映了AI安全和国家安全之间的权衡,以及AI政策的复杂性。OpenAI的O1模型预示着AI模型训练方法可能面临瓶颈,以及对未来发展方向的重新探索。Notebook LM及其音频概述功能的流行,以及Anthropic发布的计算机使用模型,都预示着AI技术未来的发展方向。美国总统大选结果对AI政策的影响,以及由此产生的不确定性,成为当年最重要的事件之一。AI模型训练方法可能达到瓶颈,预示着未来AI发展将转向新的探索方向。

Deep Dive

Key Insights

Why was the launch of the GPT store in January 2024 considered significant initially but less so later?

The GPT store was initially seen as a potential game-changer, akin to the Apple Store, but its impact diminished over time. While custom GPTs proved useful for personal workflows, the store aspect for sharing and monetization failed to gain traction. It became more about simplifying repetitive tasks rather than creating a new business model.

What was the impact of OpenAI's Sora preview in February 2024?

OpenAI's Sora preview in February 2024 showcased groundbreaking video generation capabilities, causing immediate industry disruption. Hollywood mogul Tyler Perry even paused an $800 million studio expansion after seeing Sora. Although Sora wasn't released until late 2024, its preview set the tone for significant advancements in video generation throughout the year.

Why was Microsoft's acquisition of Inflection in March 2024 significant?

Microsoft's acquisition of Inflection in March 2024 was a strategic hedge against its reliance on OpenAI. Inflection's IP, team, and leader Mustafa Suleiman (ex-Google DeepMind CEO) bolstered Microsoft's internal AI capabilities. This move also highlighted a trend of 'non-acquisition acquisitions,' likely driven by antitrust considerations.

What made Meta's Llama 3 launch in April 2024 a major AI story?

Meta's Llama 3 launch in April 2024 marked a significant milestone in narrowing the gap between open-source and closed-source AI models. By summer, Llama 3.1 405b achieved GPT-4 class performance, demonstrating that open-source AI could rival proprietary models, reshaping the AI landscape.

Why was Ilya Sutskever's departure from OpenAI in May 2024 notable?

Ilya Sutskever's departure from OpenAI in May 2024 was significant because it signaled a shift in the frontier AI lab approach. He later founded Safe Superintelligence, focusing solely on achieving superintelligence without a business model. This departure also marked the beginning of a trend of OpenAI executives leaving throughout the year.

What was the significance of NVIDIA becoming the world's most valuable company in June 2024?

NVIDIA's rise to become the world's most valuable company in June 2024 underscored the massive scale of AI infrastructure buildout. This milestone highlighted NVIDIA's dominance in AI hardware and set the stage for debates about ROI and sustainability in AI investments later in the year.

What was the key debate around AI in July 2024?

In July 2024, the key debate centered on whether AI investments were yielding sufficient returns. Reports from Sequoia and Goldman Sachs questioned the ROI of the $600 billion spent on AI infrastructure. While these reports sparked discussions, they were seen as less negative upon deeper analysis, with Goldman Sachs' chief economist's comments particularly criticized.

Why was California's SB 1047 legislation in August 2024 controversial?

California's SB 1047 legislation in August 2024 sparked national debate due to its focus on theoretical AI risks (X-risk) rather than immediate challenges. Critics argued it could harm California's competitiveness. Although it passed, Governor Gavin Newsom vetoed it, reflecting broader shifts in AI discourse from safety to national security and leadership.

What was the significance of OpenAI's O1 preview in September 2024?

OpenAI's O1 preview in September 2024 introduced a new class of reasoning models designed to 'think longer' before responding. This approach addressed emerging concerns about a plateau in AI scaling methods, setting the stage for future innovations in AI reasoning and problem-solving.

Why was Notebook LM's recognition in October 2024 a major story?

Notebook LM's recognition in October 2024 was significant due to its innovative audio overviews, which created personalized verbal discussions from uploaded materials. This feature, highlighted by former OpenAI leader Andrej Karpathy, marked a new frontier in LLM product formats, sparking widespread interest and discussion.

What was the impact of the US presidential election on AI in November 2024?

The US presidential election in November 2024 had a major impact on AI policy, with President Trump appointing an AI czar to oversee AI initiatives. Questions remained about whether Biden's AI executive order would be repealed and what new policies might emerge, making AI a central issue in national discourse.

What was the key takeaway from Ilya Sutskever's conference appearance in December 2024?

In December 2024, Ilya Sutskever declared the 'pre-training era' over, highlighting that AI labs were no longer seeing significant gains from traditional training methods. This marked a turning point, sparking renewed experimentation and exploration of alternative approaches like world models for achieving AGI.

Chapters
The launch of the GPT store in January 2024, while initially promising a revolutionary platform for custom GPTs, fell short of expectations in terms of its business model and widespread adoption. Its primary use became streamlining personal workflows rather than creating a widely used marketplace.
  • The GPT store's impact was less significant than initially anticipated.
  • Its main use was simplifying repeated workflows for personal use.
  • It did not develop into a substantial business model.

Shownotes Transcript

从定制GPT到NotebookLM再到SB-1047,NLW通过每个月最重要的新闻故事回顾了2024年的AI发展历程。 由以下机构提供: Vanta - 简化合规性 - ⁠⁠⁠⁠⁠⁠⁠https://vanta.com/nlw AI每日简报帮助您了解AI领域最重要的新闻和讨论。 订阅播客版本的AI每日简报,无论您在哪里收听:https://pod.link/1680633614 订阅时事通讯:https://aidailybrief.beehiiv.com/ 加入我们的Discord:https://bit.ly/aibreakdown

</context> <raw_text>0 今天,我们将按月回顾2024年,看看每个月人工智能领域最重要的事件是什么。AI每日简报是一个关于人工智能最重要新闻和讨论的每日播客和视频。要加入讨论,请关注我们节目说明中的Discord链接。好了,朋友们,在我们结束这个重要的2024年之际,我认为回顾这一年的一种有趣方式是按月查看我认为每个月最重要的事件是什么。

为此,我显然回顾了AI每日简报的节目。我确实查看了一下下载量,但这并不是主要标准。它实际上是当时看起来最重要的事情以及随着时间的推移证明最重要的事情的结合。

有趣的是,我们开始的地方当时感觉非常重要,但现在感觉不那么重要了,那就是GPT商店的推出。这当然是在2023年秋季宣布的,但直到2024年1月我们才能使用它。对许多人来说,这似乎是我们走向苹果商店下一个版本的方向。事实上,它的发展方式是,虽然定制GPT在个人使用层面非常有用,但它们的商店方面以及与他人分享却少得多。

这并没有转化为任何商业模式。总的来说,例如,我们在Superintelligent中谈论为我们的企业客户定制GPT的方式完全是关于如何简化重复的工作流程。因此,如果您反复使用某个特定的提示,您可以将其嵌入到自定义GPT中,而无需复制粘贴。就是这样。因此,虽然这是一个非常有用的功能,并且是我们全年一直在使用的功能,但它显然不像当时看起来那么重要。

这是在一个发展非常迅速的行业中发生的事情的一部分。有时,看起来极其重要的事情并非如此,有时甚至不值得注意的事情后来变得极其重要,我们很快就会看到。然而,OpenAI在2月份再次获得认可。人们一直对OpenAI是否正在失去其优势存在疑问,但随后它预览了Sora,当时它在视频生成能力方面完全让所有人震惊。

与大多数OpenAI产品不同,它并没有立即可用。事实上,正如我们现在所知,我们实际上要等到一年后才能访问Sora。尽管如此,它仍然非常重要,能力的提升如此显著,以至于它产生了立竿见影的连锁反应。一个非常值得注意的例子是,好莱坞大亨泰勒·佩里一直在建设一个价值8亿美元的制片厂,在看到Sora的预览后,他直接暂停了建设。

众所周知,视频生成将成为全年的一个关键主题,但直到Sora出现之前,Runway、Luma Labs、Pika等其他公司才是标准的引领者,之后谷歌的VO2问世并在12月最终可用。尽管如此,它还是奠定了今年将会有很多颠覆性创新的基调,在这方面,2024年并没有让人失望。在3月份,我相信最重要的新闻是微软对Inflection的意外收购/不完全是收购。

基本上,Inflection在不到一年前筹集了超过10亿美元的资金,实际上将其所有的知识产权和大部分团队都卖给了微软。而它实际上是对微软过度依赖OpenAI的一种全面对冲,这是继2023年11月OpenAI董事会发生的绝对灾难之后。在许多方面,那一刻几乎为Inflection在萨姆·奥特曼似乎将接管OpenAI的大部分业务并在微软内部进行扩展期间将会发生的事情设定了模板。

众所周知,那并没有发生。萨姆·奥特曼回到了OpenAI。但微软显然认为它仍然需要在内部做更多的事情。因此,通过Inflection,他们不仅获得了技术和人才,还获得了穆斯塔法·苏莱曼这位领导者,他还在创办Inflection之前担任过谷歌DeepMind的首席执行官。

除了这件大事因为它说明了微软和OpenAI之间的关系(这是全年一直讨论的重点)之外,它还开启了这些非收购式收购的趋势,这似乎与反垄断考虑有关。虽然它实际上能阻止多少此类调查,目前还不完全清楚。

在4月份,我选择的最大新闻是Meta的Llama 3的发布。实际上,这直到夏季Llama 3.1 405b发布后才完全实现。但基本上,Llama 3展示了开源AI与闭源AI的差距有多小。

到夏季我们获得405b时,这一差距几乎完全消失了。Lama 3.1 405b是一个GPT-4级别的模型。我认为,开源和闭源之间的差距缩小是今年的一个重要时刻。这就是为什么它被列为我4月份的头条新闻。在5月份,事情开始升温。我选择的头条新闻,尤其是在当时讨论的权衡下,是OpenAI首席科学家兼联合创始人伊利亚·苏茨克弗最终正式离职。

现在,在2023年11月董事会改组后的六个月里,没有人听说过伊利亚的消息。伊利亚最初是解雇萨姆·奥特曼的人之一,但后来改变了主意,又重新雇佣了他。许多人推测,他同意在正式离职前保持沉默六个月,但在奥特曼回来后,他一直打算离开。我认为这个故事值得一提的原因有几个。

首先,这是OpenAI许多高管将在全年离职的趋势的开始。但第二,更重要的是,伊利亚在他的安全超级智能公司中重新出现所做的事情真正代表了前沿实验室方法中完全不同的东西。

安全超级智能完全拒绝了拥有商业模式和发布产品的想法。他们只关心实现超级智能,他们已经筹集了10亿美元,不必处理诸如商业模式之类的烦人的事情。我认为这在未来几年可能具有重要意义,这就是为什么我将伊利亚离开OpenAI的故事列为5月份的头条新闻。现在,我没有将谷歌的I/O列为我的头条新闻,

当时,即使他们宣布了很多事情,但它们都感觉有点遥远。没有重大的新模型发布。他们发布了Gemini 1.5 Flash的轻量级版本,并且他们的1.5 Pro得到了改进。当时可能最大的公告是百万token上下文窗口。

但从品牌角度来看,谷歌仍在苦苦挣扎。它还没有摆脱它比OpenAI发展缓慢的想法。更重要的是,它今年的大部分时间都花在了围绕其图像生成器将多样性强加于历史图像的叙事斗争上,这最显著地体现在黑人纳粹身上。

我认为谷歌I/O感觉不像5月份最大的新闻,这真的很有趣,因为如果你回顾这篇博客文章“我们在I/O 2024上宣布的100件事”,第9条是“我们演示了Notebook LM的音频概述的早期原型,它使用上传材料的集合为用户创建个性化的口头讨论”。几个月后,人们才开始真正注意到它,但当他们注意到时,他们真的非常注意。继续到6月份,我有一个并列。

首先是苹果终于行动起来,宣布它将在人工智能领域做什么。当然,他们不得不改名。它不会是人工智能,而是苹果智能。这似乎是想成为普通人的AI,从苹果的角度来看,这非常有意义。他们拥有庞大的现有安装用户群,并且历史上擅长为用户简化复杂的体验。人们对苹果或许真的可以为大众简化人工智能的想法感到非常兴奋。

正如我们现在所知,这一愿景到目前为止尚未实现,并且是今年的一大失望。6月份发生的另一件大事,真正为人工智能的市场维度画上了句号,那就是英伟达成为全球市值最高的公司,超过了微软和苹果。英伟达当然已经连续两年强劲增长,但这确实进一步强化了AI建设的重要性。

然而,这也为7月份做好了准备,7月份最大的新闻实际上是一场辩论和讨论。

到目前为止,连续两个夏天,媒体都在炒作人工智能发展放缓的论调。2023年,这一切都与ChatGPT的第一个下滑月有关,这似乎是由于学生暑期放假造成的。而今年,它体现在两篇博客文章/报告中。一篇是由红杉合伙人戴维·卡恩撰写的,名为《人工智能的6000亿美元问题》。另一篇是高盛的一份报告,名为《生成式AI,支出过多,收益过少》。

我在夏天花了大量时间研究这些,并基本上认为它们并没有看起来那么消极。红杉文章的关键要点是,已经在这个基础设施建设上投入了如此多的资金,因此很难从其中获得投资回报。而高盛的报告实际上是对此进行了更全面的分析,只是他们首席经济学家的一些非常负面的评论我认为如果有人选择回顾这份报告(坦率地说,他们可能不会),这些评论将被认为是非常非常无知的。

欢迎收听The Plum Show节目。

无论您是运营主管、营销人员,还是非技术创始人,Plum都能让您在无需技术麻烦的情况下拥有AI的力量。立即访问顶级模型,如GPT-4.0、CloudSonic 3.5、Assembly AI等等。不要让技术阻碍您前进。查看Use Plum(带B的Plum),抢先体验未来工作流程自动化。今天的节目由Vanta赞助。无论您是启动还是扩展公司安全计划,展示一流的安全实践并建立信任比以往任何时候都更重要。

Vanta自动执行ISO 27001、SOC 2、GDPR和领先的AI框架(如ISO 42001和NIST AI风险管理框架)的合规性,为您节省时间和金钱,同时帮助您建立客户信任。此外,您可以通过自动化问卷调查并使用客户面对面的信任中心展示您的安全态势来简化安全审查,所有这些都由Vanta AI提供支持。包括Langchain、Leela AI和Factory AI在内的8000多家全球公司使用Vanta来展示AI信任并实时证明安全性。

了解更多信息,请访问vanta.com/nlw。网址是vanta.com/nlw。如果2025年人工智能有一件事是明确的,那就是代理即将到来。按行业划分的垂直代理、水平代理平台、按功能划分的代理。如果您经营一家大型企业,您明年将尝试使用代理。鉴于这有多新,我们所有人都会回到试点模式。

这就是为什么Superintelligent在今年年初提供了一项新产品。这是一项代理准备情况和机会审核。在短短几周内,我们将与您的团队一起深入了解哪些类型的代理适合您进行测试,您需要哪些类型的基础设施支持才能做好准备,并最终获得一套可操作的建议,让您准备好了解代理如何改变您的业务。

如果您对代理准备情况和机会审核感兴趣,请直接联系我,[email protected]。在主题行中输入“代理”一词,以便我知道您在谈论什么。让我们让您成为AI市场最具活力部分的领导者。再见。

到8月份,讨论已经转向政策和政治层面。加利福尼亚州立法案SB 1047已经从州级问题演变为全国性的辩论。包括加利福尼亚州的国会和参议院代表团在内的主要国家政策制定者开始发表意见。双方都有巨大的声音分享他们的观点。该法案最终在加利福尼亚州通过,但被加利福尼亚州州长加文·纽瑟姆否决。

我认为,最终最大的挑战在于,它花费了太多时间来处理X风险和理论上的未来问题,而不是处理当前面临的挑战。这当然也是反对该法案的民主党议员在其分歧中指出的。

当然,另一个关键问题是担心这会影响加利福尼亚州的竞争力。我们在年度长篇阅读节目中讨论的另一个重要主题是,我认为,从2023年的AI安全考虑转向2024年AI的国家安全和美国领导力考虑,总体上发生了一种转变。围绕SB 1047的辩论无疑体现了这一点。

在9月份,我们获得了OpenAI的O1预览版。他们称O1为一系列用于解决难题的新推理模型。正如我们不久后将了解到的那样,O1正在探索的方法(他们声称是“在回应之前花更多时间思考”)实际上将成为围绕我们先前扩展方法中潜在平台的更大讨论的核心。

我实际上会稍后再保存大部分关于这方面的讨论,但我认为O1预览是9月份的大新闻。继续到10月份,有两件事我认为非常重要。首先是认识到Notebook LM的强大功能,特别是它的音频概述。

前OpenAI领导人Andrej Karpathy在9月底发推文时实际上提到了这一点:“Notebook LM播客剧集生成可能触及了一个全新的、极具吸引力的LLM产品格式领域。感觉让人想起ChatGPT。”我在我的“顶级产品”节目中广泛讨论了Notebook LM有多重要以及为什么重要,但总而言之,10月份围绕Notebook LM有很多讨论。

然而,另一个真正重要的故事,我认为这个故事肯定更具有前瞻性,是Anthropic宣布了一种计算机使用模型。基本上,这是一个通用的预代理,它实际上可以使用一些非常巧妙的策略来控制鼠标,并指向我们的代理未来以及大型前沿实验室如何试图实现这一目标。它之所以不那么重要,并不是因为它改变了我们与Anthropic互动的方式,尽管您可以通过API使用它。它更像是一个对未来即将发生的事情的预览。

在所有这些中,11月份的呼声可能是最容易的,因为它涉及到最大的新闻。它在各个领域都是最大的新闻,人工智能也不例外。当然,这就是美国总统大选的结果对人工智能意味着什么。

即使现在已经过去了一个半月,围绕这个问题仍然存在很大的疑问。我们不知道特朗普总统是否真的会废除拜登的AI行政命令,如果他这样做,是否会有任何东西来取代它?然而,我们确实知道,人工智能显然是一个非常重要的问题。我们知道这一点,因为特朗普任命了一位AI沙皇,一位白宫级别的官员,他将对美国的人工智能政策进行全面监督。AI沙皇究竟做什么是一个2024年的问题,但毫无疑问,这是11月份的大新闻。

最后,在我们结束这一年之际,我们稍微回顾一下9月份,但真正理解了那次谈话的结果。事实证明,O1不仅仅是一类新的推理模型,而且是对所有实验室都明显出现的一个挑战的答案,那就是他们从训练运行中获得的收益 simply weren't getting as much out of their training runs as they had in the past. 当伊利亚·苏茨克弗在一个非常罕见的会议上发表讲话,称我们已经达到了数据峰值,并说预训练时代已经结束时,这一点得到了强调。

我认为这让我们在进入明年时面临着一个巨大的开放性问题,即下一个重大发展将来自哪里。坦率地说,这非常令人兴奋。你几乎可以感受到围绕一些曾经被认为正朝着明确方向前进的问题的实验和兴奋的重新出现。我们现在对世界模型以及它们是否是通往AGI的更好途径进行了所有这些探索。我认为2025年将以许多这样的探索为开端。