We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
People
E
Elon Musk
以长期主义为指导,推动太空探索、电动汽车和可再生能源革命的企业家和创新者。
J
Jeffrey Hinton
M
Meta
M
Miles Brundage
O
OpenAI
播客主持人
播客主持人,专注于英语学习和金融话题讨论,组织了英语学习营,并深入探讨了比特币和美元的关系。
Topics
OpenAI: OpenAI转型为营利性公共利益公司(PBC)是实现AGI目标的必要步骤,这将使公司能够获得足够的资金和资源来继续其研究和发展。此举是为了平衡股东利益和公众利益,非营利组织将继续存在并获得PBC的股份。公司认为,AGI的定义应基于盈利能力,而非哲学或技术能力。 OpenAI认为,最初的章程中关于AGI商业化的严格限制导致了与微软的合作问题,而新的AGI定义消除了这种潜在冲突。转型是公司发展的自然阶段,以确保其作为一家持久性公司的生存能力,并继续其使命。 Elon Musk: 对OpenAI的转型提出了法律挑战,认为此举违背了OpenAI最初的承诺,并对其他公司造成了不良影响。 Meta: 认为OpenAI的转型将对硅谷产生重大影响,并对这一举动表示担忧。 ENCODE和Jeffrey Hinton: ENCODE和AI安全倡导者Jeffrey Hinton认为,AGI技术应该由公共慈善机构控制,而不是以追求利润为导向的组织,OpenAI的转型违背了其最初的承诺,并对AI安全构成威胁。 MG Siegler: 认为OpenAI转型为营利性公司的理由是合理的。 Miles Brundage: 对OpenAI转型缺乏足够的治理细节说明表示担忧,认为需要更多的保障措施来确保公众利益。 播客主持人: 总结了各方观点,并分析了OpenAI转型背后的原因和潜在影响,包括法律挑战、利益冲突以及对AI安全和社会责任的担忧。

Deep Dive

Key Insights

Why is Google focusing heavily on AI in 2025 according to CEO Sundar Pichai?

Sundar Pichai emphasized that 2025 is a critical year for Google, urging the company to internalize the urgency of the moment and move faster. He highlighted the need to unlock the benefits of AI technology and solve real user problems, especially as Google faces antitrust lawsuits and competition from rivals like OpenAI's ChatGPT.

What challenges does Google face in 2025?

Google is dealing with multiple antitrust lawsuits, including a U.S. court ruling that it maintains a monopoly over search and a pending ruling on its advertising business. The DOJ has requested Google to divest its Chrome browser division, and the UK competition watchdog has raised concerns about its ad tech practices.

What is Google's strategy for its AI platform, Gemini, in 2025?

Google plans to scale Gemini on the consumer side, aiming to make it the next app to reach half a billion users. Executives see Gemini as a top priority, with DeepMind co-founder Demis Hassabis pledging to 'turbocharge' the app and build a universal assistant capable of operating across any domain, modality, or device.

Why did XAI fail to release Grok 3 as planned?

XAI missed its release schedule for Grok 3, which was intended to rival OpenAI's GPT-4.0 and Google's Gemini 2.0 Flash. Speculation suggests that scaling laws may have hit a wall, or Elon Musk may have overpromised. Instead, XAI is reportedly releasing Grok 2.5, indicating potential challenges in scaling or team size.

What is significant about DeepSeek V3, the new AI model from China?

DeepSeek V3 is an open-source ultra-large model with 671 billion parameters, outperforming Meta's Lama 3.1 405b and nearing the performance of leading models from OpenAI and Anthropic. It uses a mixture of experts architecture to reduce inference costs, with training reportedly costing only $5.5 million, a fraction of Western rivals' expenses.

Why is OpenAI transitioning to a for-profit public benefit corporation (PBC)?

OpenAI is converting to a PBC to balance shareholder interests with its mission to ensure artificial general intelligence (AGI) benefits all of humanity. The move allows the company to issue ordinary shares while maintaining a nonprofit arm. This transition is driven by the need for significant capital to scale AGI development, as donations alone are insufficient.

What are the legal and societal concerns surrounding OpenAI's transition to a for-profit entity?

Legal challenges include opposition from Elon Musk and Meta, who argue the conversion has seismic implications for Silicon Valley. AI safety advocates like ENCODE and Jeffrey Hinton warn that AGI should be controlled by a public charity prioritizing safety, not a for-profit entity. Critics also question governance details and guardrails to ensure public benefit.

How does OpenAI's AGI definition impact its relationship with Microsoft?

OpenAI and Microsoft have agreed on a straightforward definition of AGI: systems capable of generating $100 billion in profit. This agreement ensures Microsoft retains access to OpenAI's technology for years, avoiding the risk of OpenAI's board revoking the deal by declaring AGI achievement.

Chapters
Google CEO Sundar Pichai emphasizes AI as the company's focus for 2025, highlighting the urgency and importance of accelerating development to solve real user problems. This comes amidst antitrust lawsuits and a need to build new, large businesses, with Gemini as a key contender.
  • Google's focus on AI for 2025
  • Antitrust lawsuits against Google
  • Gemini as a key AI platform
  • Competition with OpenAI's ChatGPT

Shownotes Transcript

OpenAI has announced plans to transition into a for-profit public benefit corporation (PBC). This significant move has major implications for its AGI mission, its relationship with Microsoft, and the broader tech industry. From legal battles with high-profile figures like Elon Musk to debates about governance and societal priorities, explore what this shift means for the future of OpenAI and artificial intelligence development. Brought to you by: Vanta - Simplify compliance - ⁠⁠⁠⁠⁠⁠⁠https://vanta.com/nlw The AI Daily Brief helps you understand the most important news and discussions in AI. Subscribe to the podcast version of The AI Daily Brief wherever you listen: https://pod.link/1680633614 Subscribe to the newsletter: https://aidailybrief.beehiiv.com/ Join our Discord: https://bit.ly/aibreakdown

</context> <raw_text>0 欢迎回到AI每日简报头条版,所有您需要的每日AI新闻,大约五分钟即可看完。

当然,这是2025年的第一集,我原计划利用这个机会来回顾过去几周发生的所有新闻,但实际上几乎没有什么新闻。显然这是一个休假的好时机。尽管如此,还是有一些有趣的事情,这就是我们今天要报道的内容,首先是谷歌首席执行官桑达尔·皮查伊明确表示,人工智能是该公司在关键一年中的重点。CNBC获得了圣诞节前一周举行的战略会议的泄露音频,

据报道,会议上还出现了难看的节日毛衣。皮查伊告诉员工,引用:“我认为2025年将至关重要。我认为我们必须将这一时刻的紧迫性内化,并需要作为一家公司更快地行动。风险很高。这些都是颠覆性的时刻。在2025年,我们需要专注于释放这项技术的益处,并解决真正的用户问题。”

谷歌也正处于一个充满挑战的时刻。他们正卷入多起反垄断诉讼,美国法院已经裁定该公司垄断了搜索业务,预计今年初将对他们的广告业务做出另一项裁决。司法部已要求法院下令该公司剥离其Chrome浏览器部门。与此同时,英国竞争监管机构就谷歌的广告技术行为发布了异议声明。监管机构初步认定谷歌正在影响英国的竞争,

皮查伊说,皮查伊说谷歌需要专注于建设,“大型新业务”作为首要任务。

他们的AI平台Gemini是首选,高管们表示它可能是下一个达到5亿用户的谷歌应用程序。多年来,已有15个谷歌应用程序达到了这一里程碑。皮查伊说:“明年,我们在消费者端的Gemini扩展将是我们的最大重点。”

在这次会议上,首席执行官展示了一张Gemini竞争对手的图表,OpenAI的ChatGPT是排名第一的竞争对手。皮查伊承认谷歌必须迎头赶上,他说:“历史上,你并不总是需要成为第一,但你必须执行得很好,并且成为一流的产品。我认为这就是2025年的意义所在。”

执行团队回答了员工的提问,一名员工指出品牌是主要挑战之一。他们认识到ChatGPT正在成为AI的代名词,就像谷歌是搜索的代名词一样。DeepMind联合创始人德米斯·哈萨比斯介入回应,承诺“增强Gemini应用程序”。他表示,人工智能产品将在“未来一两年内发生巨大变化”。哈萨比斯描述了他的目标是构建一个通用的助手,可以“在任何领域、任何模式或任何设备上无缝运行”。

在回答另一个问题时,哈萨比斯表示他们没有计划像OpenAI那样提供200美元的超高级订阅服务。在整个演示过程中,皮查伊都提到了需要“保持精干”。这似乎是对首席执行官要求员工少花钱多办事的承认,因为自2022年以来,谷歌的员工人数减少了5%。他说:“在谷歌早期,看看创始人如何建设我们的数据中心。他们在每一个决策中都非常、非常精干。限制往往会带来创造力。并非所有问题都能通过增加员工人数来解决。”

所以最终,这一切都不太令人惊讶,但听到他们如何直接思考这组特定问题仍然非常有趣。

接下来,XAI加入了未能交付其最新前沿模型的众多AI公司之列。今年夏天,埃隆·马斯克表示Grok 3将于2024年底推出。他在训练了10万个H100后发布了Grok 3年底的消息,这应该会非常特别。Grok 3将是第一个在Colossus超级集群上训练的模型,也可能是世界上第一个在如此规模的集群上训练的模型。它旨在与OpenAI的GPT-4.0和谷歌的Gemini 2.0 Flash相媲美,成为第一个真正能够在尖端技术上竞争的XAI模型。

除了错过发布计划外,Grok 3似乎甚至不会成为XAI推出的下一个模型。Tibor Blaho找到了一段代码片段,表明Grok 2.5即将推出。

现在,最终,这对人们来说,与其说是XAI面临的特定挑战的某种指标,不如说是过去几个月来旗舰模型遭遇挫折的模式的延续。一些人甚至推测Grok 3可能证明了缩放定律已经遇到了瓶颈。直到最近,逻辑是,在训练运行中投入更多数据和更多计算能力将产生性能更高的模型。

作为第一家公开拥有10万个GPU的运营交易集群的公司,XAI可能正在证明我们之前对缩放的思考方式可能并不适用。再说一次,也可能是埃隆在说Grok 3今年会推出时言过其实了,这只不过是小型团队交付的困难而已。

我们预计2025年的另一个大主题是中国竞争。中国人工智能初创公司DeepSeek发布了他们的新型超大型模型DeepSeek V3。该模型是开源的,可在Hugging Face上完全使用。根据DeepSeek进行的基准测试,该最新模型的性能优于Meta的前沿模型Llama 3.1 405b。它的性能也与OpenAI和Anthropic的领先模型非常接近。DeepSeek的模型有6710亿个参数,但它使用新颖的架构来降低推理成本。

它不是使用整个模型,而是使用所谓的专家混合架构,仅在需要时激活某些参数。DeepSea声称在训练运行期间使用了多种硬件和算法优化。这导致总训练成本约为550万美元,如果属实,这将只是西方竞争对手支出的成本的一小部分。

尽管如此,围绕这一新公告仍存在一些怀疑。OpenAI的研究员卢卡斯·拜尔发现,DeepSeq v3在8个回复中有5个声称自己是ChatGPT 4,这表明该模型的超大型训练数据集是使用ChatGPT生成的。

山姆·阿尔特曼似乎也暗讽了这家中国实验室的帖子,他说:“复制你知道有效的东西相对容易。当你不知道它是否有效时,做一些新的、有风险的和困难的事情非常困难。个体研究人员理应因他们的成就而获得很多荣誉。这是世界上最酷的事情。”

尽管如此,在某种程度上,所有重要的都是结果。Menlo Ventures的Didi Das试用了这个新模型,并发布了:“新时代。”

最后,说到新时代,随着美国准备迎接白宫的新政府,Meta正在提前采取行动,任命新的政策负责人。全球事务总裁尼克·克莱格在任职六年后辞职。他将由公司最杰出的共和党高管之一乔尔·卡普兰接替。在加入Meta之前,卡普兰曾在乔治·W·布什政府担任白宫政策副幕僚长。克莱格在一篇解释他任期结束的帖子中说,卡普兰“显然是正确的人,在正确的时间担任正确的工作”。

然而,这就是今天的AI每日简报头条版的全部内容。接下来是主要内容。今天的节目由Vanta赞助。无论您是启动还是扩展公司安全计划,展示一流的安全实践和建立信任比以往任何时候都更加重要。

Vanta为ISO 27001、SOC 2、GDPR和领先的AI框架(如ISO 42001和NIST AI风险管理框架)自动化合规性,为您节省时间和金钱,同时帮助您建立客户信任。此外,您可以通过自动化问卷调查并使用客户面对面的信任中心展示您的安全态势来简化安全审查,所有这些都由Vanta AI提供支持。

包括Langchain、Leela AI和Factory AI在内的8000多家全球公司使用Vanta来展示AI信任并实时证明安全性。了解更多信息,请访问vanta.com/nlw。网址是vanta.com/nlw。

如果2025年关于AI有一点是明确的,那就是代理即将到来。按行业划分的垂直代理、水平代理平台、按功能划分的代理。如果您经营的是大型企业,明年您将尝试使用代理。鉴于这有多新,我们所有人都会回到试点模式。

这就是Superintelligent在今年年初提供新产品的原因。这是一个代理准备和机会审核。在短短几周内,我们会深入了解您的团队,以了解哪些类型的代理适合您进行测试,您需要哪些类型的基础设施支持才能做好准备,并最终获得一套可操作的建议,让您准备好弄清楚代理如何改变您的业务。

如果您对代理准备和机会审核感兴趣,请直接与我联系,[email protected]。在主题行中输入“代理”一词,以便我知道您在谈论什么。让我们让您成为AI市场最具活力部分的领导者。好吧,朋友们。今天我们讨论的是一件期待已久的事情。当然,我们正在回顾过去几周的新闻,每个人都在假期休假。圣诞节后几天,在圣诞节和新年之间的那个空档期,

OpenAI制定了将其转换为盈利公司的计划。这是长期酝酿的事情。正如我们稍后将讨论的那样,这其中有很多法律含义,以及一些正在进行的大规模斗争。

但作为背景介绍,如果您没有关注此事,目前OpenAI作为一个由非营利组织控制的盈利组织存在。投资者和员工通过利润上限计划获得补偿。该计划是将现有的盈利组织转换为特拉华州公共利益公司或PBC。这种结构将允许发行普通股,但要求公司在股东利益与利益相关者和公共利益之间取得平衡。

在这种情况下,公共利益将是OpenAI的使命,即“确保人工智能通用智能造福全人类”。非营利组织将继续存在,OpenAI打算将其打造成“历史上资源最丰富的非营利组织之一”。非营利组织将获得PBC的股份,其公平估值将由独立机构确定。假设允许其继续推进,这已成为讨论中的症结之一。为历史上最独特的初创公司之一确定公平价值非常具有挑战性。

他们上一轮风险投资对该公司的估值为1570亿美元,但与此同时,该公司目前正在大量烧钱,例如,去年运营亏损50亿美元。该提案似乎是一项全股票交易,这将避免需要筹集超过1000亿美元的资金来用现金收购所有非营利组织。总的来说,OpenAI将此举定位为使公司的每个部门都能充分发挥其潜力的方式。

他们写道:“在某种程度上,这一切都不是特别新鲜。”

更有趣的是他们如何开始阐述和论证。他们写道:“我们于2015年作为一家研究实验室成立,我们的愿景是人工智能通用智能可能真的会发生,我们希望帮助它尽可能顺利地发展。在早期,我们认为进步依赖于顶级研究人员提出的关键思想,而超级计算集群则不太重要。”

最终,很明显,最先进的人工智能将不断使用越来越多的计算能力,并且扩展大型语言模型是基于对人类的理解而通向人工智能通用智能的有希望的途径。为了实现我们的使命,我们需要比通过捐赠所能获得的更多的计算能力,因此也需要更多的资金。阿尔特曼过去曾阐述过类似的事情,基本上说这是实现其人工智能通用智能使命的必要条件,而不是对某些非营利理想的背叛。

而且现在在许多方面,他们将其定位为自然而然的发展步骤。他们继续写道:“2019年,我们不仅仅是一个实验室。我们也成为了一家初创公司。我们估计,我们将不得不筹集大约100亿美元来构建人工智能通用智能。为了继续非营利组织的使命,这种用于计算和人才的资金水平意味着我们需要与投资者合作。当我们进入2025年时,我们将不得不成为不仅仅是实验室和初创公司。我们必须成为一家持久发展的公司。”

现在,这种转变正在成为硅谷历史上最具争议的法律斗争之一。该公司最早的支持者之一埃隆·马斯克提出的法律挑战已被OpenAI驳回为毫无根据的酸葡萄行为。但马斯克并非唯一提起诉讼的人。Meta提出的支持性论点不太容易被驳回。12月,Meta致信加州总检察长罗布·邦塔,敦促他阻止此次转换。他们认为这将对硅谷产生“地震般的冲击”。

他们写道:

人工智能安全组织ENCODE也加入了反对此次转换的行列。该组织是加州命运多舛的人工智能监管法案SB 1047的共同发起者之一。ENCODE在提交给法院的一份拟议简报中写道:“OpenAI及其首席执行官山姆·阿尔特曼声称正在开发改变社会的技术,这些说法应该认真对待。如果世界真的处于人工智能通用智能新时代的边缘,

那么公众有强烈的兴趣让这项技术由一个在法律上受约束于优先考虑安全和公共利益的公共慈善机构控制,而不是一个专注于为少数特权投资者创造财务回报的组织。”现在,顺便说一句,这与马斯克或Meta提出的理由大相径庭。ENCODE正在就社会优先事项提出论点,而不是当前的法律状态。这是一个很好的论点,但我不知道它对眼前的案件会有多大影响。

支持ENCODE简报的是人工智能安全倡导者杰弗里·辛顿,他写道:“……OpenAI成立之初就是一个明确以安全为中心的非营利组织,并在其章程中做出了各种与安全相关的承诺。它因其非营利地位而获得了许多税收和其他优惠。当它变得不方便时,允许它撕毁所有这些内容,会向系统中的其他参与者发出非常糟糕的信息。”

现在,就回应而言,实际上并没有那么多。大多数人已经对这件事有了自己的看法,并且已经假设如果埃隆无法通过法院来对抗它,它会以某种方式发展。投资者MG Siegler写道:“OpenAI提出了转向盈利公司的理由。虽然你可能不喜欢它,但这个理由实际上是合理的。”

另一方面,一些其他人,如迈尔斯·布伦达奇,虽然很高兴OpenAI公开分享了更多想法,但“有一些需要紧急解决并公开更好地解释的危险信号,然后再进行过渡”。例如,布伦达奇说,尽管这可以说是关键问题,但对实际治理细节的讨论却出奇地少。布伦达奇想知道,除了董事会细节之外,还设置了哪些其他保障措施,以确保非营利组织的存在不会让PBC在维护公共利益方面过于轻松。

因此,对于那些在家跟踪的人来说,对此的反对意见是:埃隆生气了(无论你对这方面的解释是什么),Meta认为对初创企业行业的其他部分的标准和影响过于严重,以及安全倡导者认为人工智能通用智能不应该成为一家没有对世界其他地区承担任何特定义务的公司所有。

继续,OpenAI感到需要转换为盈利公司的一个主要原因是公司章程中关于实现人工智能通用智能的一些怪癖。该公司成立时,对其人工智能通用智能的商业化施加了严格的限制。非营利组织董事会被赋予了决定何时实现人工智能通用智能的专属权力,以及他们在如何做出该决定方面拥有很大的自由度。最重要的是,任何被认为是人工智能通用智能的技术都将免除OpenAI签署的许可协议。

虽然这种安排在2015年公司成立时在理论上似乎很好,但它最近却导致了很多麻烦。最值得注意的是,OpenAI与微软的协议中包含一项条款,如果实现了人工智能通用智能,则阻止该公司使用OpenAI的技术,实际上允许OpenAI的董事会通过宣布他们认为其最新模型是人工智能通用智能来撤销该协议。

我认为微软在2024年花费大量时间加强自身内部人工智能能力的部分原因,例如半水下收购Inflection,是因为在2023年末董事会丑闻之后,OpenAI的董事会可能会随机打出这张牌的想法似乎更有可能。

尽管如此,似乎在这段特定关系的背景下取得了进展。根据这些信息,两家公司现在已经就一个共同的人工智能通用智能定义达成一致,该定义允许该协议具有确定性。与其深入研究机器意识的哲学或处理训练集之外的问题的技术能力,不如说他们的人工智能通用智能定义非常简单明了。据报道,去年,两家公司签署了一项协议,声明当他们开发出能够创造1000亿美元利润的系统时,OpenAI就实现了人工智能通用智能。

实际上,这意味着微软将在未来数年甚至数十年继续可以使用OpenAI的技术。社区的反应几乎完全符合你的预期。Marco Anastasov说:“在去年年底,这里仍然有一些非常有趣的发展,我认为这为2025年将要发生的一场重大斗争奠定了基础。”