Episode 46: AGI Funny Business (Model), with Brian Merchant, December 2 2024
01:02:35 Share

欢迎大家来到3000号神秘AI炒作剧场，在这里，在这个AI炒作的时代，我们寻求宣泄。我们找到最糟糕的部分，用我们能找到的最锋利的针去戳它。在此过程中，我们学会了始终阅读脚注。每次我们都以为我们已经达到了AI炒作的顶峰，也就是废话之山的顶峰，我们都会发现还有更糟糕的事情即将到来。我是艾米莉·M·本德，华盛顿大学语言学教授。我是亚历克斯·汉娜，分布式人工智能研究所的研究主任。

这是第46集，我们于2024年12月2日录制，现在是谈正事的时候了。我们将讨论科技公司如何以获取投资资金的名义炒作自己，也许有一天还能从付费客户那里获得实际收入。谁能想到呢？这一切都借助于所谓的通用人工智能的虚无缥缈的承诺。

当我们都屏住呼吸，疲惫地等待AI泡沫最终破裂时，难道你不觉得对具有感知能力、解决问题能力和自我实现能力的智能的呼吁越来越多吗？然而，近十年前，OpenAI的创立就依赖于AGI的神话，并且一旦AGI发展起来，它就会弄清楚公司最终如何赚钱。

今天我们请来了布莱恩·默尚特，他是一位科技记者，人工智能现在研究所的驻所记者，也是一篇关于AGI如何成为OpenAI及其同类公司自AI热潮开始以来商业模式核心内容的新报告的作者。欢迎，布莱恩。是的，非常感谢你们的邀请。我很高兴来到这里。我喜欢你们在这里所做的一切。在我通常必须关注的这些事情中，这真是令人耳目一新。

我们玩得很开心。这里的一切都是为了宣泄。我认为，这是我们第二次挖掘过去。上次我们乘坐时光机回到1956年，回顾达特茅斯报告，在那集节目中我们还穿了一些有趣的服装。这次我们回到2015年12月，如果机器能正常工作的话，我将分享我们的第一个文物。就是这样。好的。

所以我们有一篇来自The Verge的文章，发表于2015年12月11日，也就是九年前的事了，或者说是一瞬间的事。记者是罗素·布兰德姆，标题是《埃隆·马斯克及其合作伙伴成立非营利组织以阻止人工智能毁灭世界》。我必须问，布莱恩，你当时在2015年就已经关注这些事情了吗？是的。

是的，你知道的，我关注了。它在我的雷达上。当时我是Motherboard的高级编辑，Motherboard是当时Vice的科技平台，安息吧。是我们出版物报道这些事情的。我认为，我们比大多数人更倾向于批判，我知道我们就是这样报道的。事实上，我四处寻找过。

你知道的，就像许多数字媒体公司一样，Vice被一家私募股权公司收购，捆绑在一起，出售零件，现在它正在自己生成AI废话。所以我找不到我们档案中的报道。但是

我认为这很能说明当时报道的情况。这并不是要特别批评The Verge或罗素·布兰德姆。我觉得这反映了当时每个人对OpenAI成立的报道方式。是的，它真的让人喘不过气来。我的意思是，所有的文物都没有批判的眼光。我想这先于所谓的科技反弹，但是

但是真的看看这些天才少年和他们正在做的事情。他们真的想为了社会利益去做这些事情。当你回顾过去时，这真的非常离谱。即使这件事并不久远，仅仅是九年前，但是……

对我来说，这有点早于我的时代，因为在这个时候，我还在忙自己的事情，做语法工程和一些老式的常规计算语言学，并开始与NLP的其他人员进行这样的对话：不……实际上，这甚至早于此，甚至早于语言模型接管我们的领域之前。我不得不这样说，不，他们不明白。所以对我来说，这是一种有趣的历史探索。

是的。我认为这确实，就像我说的那样，反映了这篇报道的发布方式。我认为，如果有批评或批判性的话，更多的是围绕马斯克的真诚或他的意图，或者他已经开始成为一个什么都插手的人，这有点荒谬。但是我……

我认为总的来说，科技媒体，科技界当然相信了他的话，相信了他的表面价值。你可以说这样的话，并期望得到报道。这只是当时的公告。周围几乎没有什么实质性的内容，但是埃隆·马斯克……

你知道的，特斯拉和SpaceX的创始人，当时这是他的两件大事，他与当时并非家喻户晓的萨姆·阿尔特曼会面了。我认为，正如我在报告中所论证的那样，这是阿尔特曼的一个精明之举，他开始播种这样的新闻，让自己与马斯克这样的知名人士联系起来，因为他正在攀登进入硅谷中心地位的阶梯。所以让我读一点这个，让大家知道我们正在谈论什么。所以前几段是，

特斯拉首席执行官埃隆·马斯克从来都不掩饰他对杀人机器人的恐惧，但现在他似乎正在为此做些什么。今天，马斯克和一群合作伙伴宣布成立OpenAI，这是一个致力于开源人工智能研究的非营利性企业。马斯克与Y Combinator首席执行官萨姆·阿尔特曼共同担任该项目的主席，许多强大的硅谷参与者和团体正在为该项目提供资金，包括我们最喜欢的彼得·蒂尔、杰西卡·利文斯顿和亚马逊网络服务。

我想那不是我们所有最喜欢的，而是一些。阿尔特曼将开源的本质描述为一种对冲人类对抗单一中心化人工智能的赌注。引述，“就像人类通过大多数人类是善良的，并且人类的集体力量能够控制不良因素来防止邪恶博士一样，我们认为许多人工智能更有可能阻止偶尔出现的不良行为者，而不是认为存在一个比其他任何东西强大十亿倍的单一人工智能，”阿尔特曼在与Back Channel的联合采访中说。

如果那件事出了问题，或者邪恶博士得到了那件事，而没有任何东西可以抵消它，那么我们就处于非常糟糕的境地。我必须说，这简直是胡说八道。它只是被引用和传播。记者并没有说，对不起？对我来说，当然这不是重点。但这只是对过去的一种回顾，想想邪恶博士仍然在公众意识世界中占据着足够的地位。

你知道的，来自奥斯汀·鲍尔斯，它在早期的零几年出现并消失了，为了让这一点成立，为了让这一点成立。如果你今天这么说，千禧一代会嘲笑你。嗯，但它，它只是无论如何，并不是重点，但是是的，我的意思是，这一点，这一点是一种，这一点是一种论点，

开源甚至被认为是一种纠正措施。我知道这在我们将要看到的另一篇文章中有所讨论。但是我的意思是，这种想法，这种坏行为者是问题的想法，但也会有许多所谓的“人工智能”来对抗它们。真是荒谬。正如艾米莉所说，这是胡说八道，但这是一种非常具体的……

某种科幻小说化的，你知道的，某种白话，它被表达的方式，对吧？就像它在那里一样，你知道的，现在事后看来，正如我在这份报告中所论证的那样，你可以把它描绘出来，对吧？这个最大的坏人工智能是谷歌。埃隆·马斯克最近在这个时候对谷歌感到沮丧，无论是在个人方面还是在专业方面。我认为因为他

个人投资于人工智能，并且即使从商业角度来看也对它感兴趣，在这个时候，你可以通过它作为对谷歌的防范措施来看待OpenAI的成立，所以如果你再次看到这句话，他说，哦，我们需要所有这些其他力量来对抗它，所以请关注我们，我们就像这些小家伙是好人，有一个

坏人，你知道的，他是一个坏人工智能。这一切都是，它真的像胡说八道一样，但它是一件，你知道的，再次，科技媒体的读者或科幻小说迷会立即抓住的东西。是的。我认为实际上，我想带我们去看下一个，因为这些都是如此丰富的文本。下一个文本包含了与他们两人进行的长时间采访。许多相同的主题都出现了。

所以这是《连线》，也是2015年12月11日。注意时间戳，凌晨12点。所以这是他们可以在那一刻发布的禁运新闻，对吧？记者是史蒂文。你知道他是莱维还是莱维吗？这是一个名字。是的，史蒂夫·莱维。他就像这些早期科技主管之一。

他写了《黑客》，这是早期书籍之一，它美化了第一波硅谷企业家，像沃兹尼亚克和乔布斯这样的人，并且非常早地写到了这场游戏。但从这个角度来看，这些人正在发起一场将造福人类的革命。是的。

是的，我认为莱维一直是，我的意思是，他一直有点是这个行业的粉丝，有点不友好。但我知道他，他现在是《连线》的主编吗？还是我，还是他，但他是一位高级编辑。他说他有点，你知道的，他写了一些畅销书。他写了一本关于谷歌的书。他写了一本关于iPod的书。我认为他已经赚够了钱，所以他真的……

不想或不需要担任《连线》的主编。他是这些永久性的特约编辑之一，他得到重要的任务，因为他长期以来一直非常出色地为科技行业加油鼓劲，所以他得到了，你知道的，他和首席执行官们很友好等等。所以他得到了这些独家新闻。好的。所以这是他在2015年12月11日凌晨12点发表的文章。标题是《埃隆·马斯克和Y Combinator如何计划阻止计算机接管》。

对不起，我不得不因为标题而翻白眼。副标题。是的。对不起，只是插一句。但是是的，就像这样，你可以购买禁运等等。他们几乎肯定像这样向他推销。我的意思是，我们必须问。但这就像，嘿，我们有这个故事。我们将拯救世界免受杀人机器人的侵害。你想，你知道的，《连线》独家新闻吗？这可能是这样发生的。

所以，副标题是，他们正在资助一个新的组织OpenAI，以追求最先进的人工智能形式，并将结果交给……我不知道这是因为，例如，《连线》在接下来的九年里改变了格式，但这只是副标题。是的。

填空。将结果交给人民。是的。好的。所以，好像人工智能领域还不够竞争激烈，像谷歌、苹果、Facebook、微软，甚至像丰田这样的汽车公司都在争先恐后地招聘研究人员，现在又出现了一个新的参与者，而且还有一个转折。这是一个名为OpenAI的非营利性企业，今天宣布它誓言将公开其成果，并将专利免费提供，所有这一切都是为了确保计算机超越人类智能的可怕前景可能不会像一些人担心的那样成为反乌托邦。是的。

资金来自等等。让我们看看。这里有一些我想读的东西，这很有趣，马斯克，一个众所周知的人工智能批评者，这并不奇怪。首先，太搞笑了。然后是阿尔特曼本人。对不起，那是上一段。但是为什么是Y Combinator？为什么是Y Combinator？

是的。这个十年前作为暑期项目启动的科技加速器，通过向创始人支付“方便面工资”并为他们提供美食建议来资助六家创业公司，以便他们能够快速发展业务。嗯，他们谈论了Y Combinator所做的一切。嗯，

但是，像Y Combinator这样如此亲资本主义的组织与埃隆·马斯克合作做一些开源的事情，真是太奇怪了，太疯狂了。我的意思是，这些人不记得90年代后期是什么样子吗？当时所有东西都是开源的，你不需要商业模式？当然不记得了。

是的。我的意思是，从一开始，他们给予参与这项事业的每个人如此多的赞誉，真是太疯狂了。再次，我认为这是一种非常具有启发意义的文物，它非常能说明问题，就像科技反弹之前的报道一样，至少在那之后，你至少必须，你知道的，

即使你仍然不会进行适当的批评，也要加上一两个警告。但是是的，看到它的形成，我们稍后会讨论更多，但这对于OpenAI的创立神话和运作神话来说确实至关重要，即使在今天，它现在也是一家价值1600亿美元的公司。

所以我想在这段话中提出异议，他们谈到这如何是一个研究实验室，他们试图对抗这些大公司。所以他们说，这听起来可能很唐吉诃德式，但该团队已经获得了一些知名人才，包括前Stripe首席技术官格雷格·布罗克曼，他将担任OpenAI的首席技术官，以及世界一流的研究员伊利亚·苏茨克弗，他以前在谷歌工作，并且是多伦多神经网络先驱杰夫·辛顿手下著名的年轻科学家团队成员之一。我想说的是，这……

让人非常恼火，他们在其他地方也这样做，他们会说顶级研究人员或世界一流的研究人员。在我看来，这里发生了几件事。一件是，对我来说，世界一流的研究人员是指那些通过良好的引用实践和将他们正在做的事情与其他人在做的事情联系起来，真正为研究界做出贡献的人。这里的情况并非如此。但我也想到，这种顶级科学家的概念是一种定位那些不拥有自己立场的人的方法。

与其说他们是谁，来自哪里，以及他们在做什么，不如说我们把他们定位在顶端。这在这些文章中以及在思考人工智能时非常普遍。就像，我们必须获得顶尖人才。

好吧，这也是一种天才的个人贡献者概念，对吧？我们在硅谷以多种形式拥有这种概念，10倍工程师，等等，随便你选。这种概念以多种形式存在。而且我认为这在另一篇文章中有所提及，它说人工智能公司的两个限制是

顶级研究人才和数据。我说，哦，那计算能力呢？那电力呢？那这些各种供应链呢？而且它，而且它，而且它真的，嗯，

对我来说，这是我一直强调的事情，但就像你把人工智能的真正劳动放在某种天才，所有来自全球北方的白人天才身上，而不是像那些即使使这些东西成为可能的大量劳动下层阶级一样，对吧？我的意思是，这真的是……

这，我的意思是，贯穿所有这些新闻报道。是的，它非常关注那些能够参与英雄叙事或天才叙事的人。艾米莉，我以前并没有想过那么多。这是一个很好的观点，太有趣了。因为，是的，它很少与他的实际成就或出版物联系起来，但是你阅读了过去十年中的任何这些文章，特别是苏茨克弗，你知道的，

人工智能科学家，顶级人工智能科学家，他只是，你知道的，对这些公司来说价值连城，而那些符合你所说的标准的精英阶层可以收取过高的费用或自己创业

对，并获得所有资金。是的。所以我们有这个采访，我想至少要谈到一些，因为它是一篇丰富的文本。这些人都是疯子。但我们也应该为几天后发布的另一篇《连线》文章节省时间。但是，所以这是莱维采访阿尔特曼和马斯克，不是同时进行的，

但我认为是问了同样的问题，然后将它们合并在一起。这是怎么回事？萨姆·阿尔特曼：“大约一个月半前，我们启动了YC Research，但我长期以来一直在思考人工智能，埃隆也是如此。如果你考虑对世界未来最重要的事情，我认为好的AI可能排在该列表中的最高位置之一。所以我们正在创建OpenAI。该组织试图开发一种对人类有益的人工智能，因为它是一个非营利组织，它将由全世界免费拥有。”

这不是非营利组织的含义。但有趣的是，他真的觉得有必要一遍遍地重复这一点，看到这个概念逐渐消失并最终消失，这种想法……

他们正在做的事情的成果将由全世界拥有。这确实是OpenAI的核心基础神话之一，而今天它几乎完全消失了。他偶尔还会说一些关于UBI或需要给予人们一些类似的东西的话，但是……

马斯克在这里的看法略有不同。所以，为了回答同样的问题，他说，由于进行了多次对话，我们得出结论，拥有一个501c3，一个没有义务最大化利润的非营利组织，可能是一件好事。而且，我们将非常关注安全。所以我们都在说，它将属于世界，它将由全世界免费拥有。马斯克说，我们将保护自己免受利润激励的影响，这就像，

我的意思是，这确实是对硅谷其他地方发生的事情的一种很好的评论。来自马斯克令人惊讶，但这完全没有发生，对吧？是的。我认为，你知道的，我认为他开始将其定位为这种，你知道的，再次，对抗谷歌的做事方式，谷歌已经开始被视为具有侵入性，如果……

谷歌要发布一些东西，他也会，我认为，我认为这就像，我认为在这个时候这是一种策略。这是一种，这是一种，这是一种对谷歌的防范措施。是的。因为，你知道的，有一个著名的传说，你知道的，在OpenAI成立之前，就在那之前，他和谷歌的联合创始人发生了一场大争吵。他们之间发生了个人冲突，而且是关于人工智能的，

而且他，谷歌正在做人工智能，我得到的潜台词，甚至像马斯克的传记作者之一指出的那样，这可能是由嫉妒所促成的。马斯克想参与这些大型未来项目，他觉得自己被排除在外，他做了他正在做的事情，现在我们知道，我们现在都知道他正在做的事情是发泄并惩罚他的竞争对手。是的。

是的，我们看到，我的意思是，这是什么？现在有一种这样的举动。我的意思是，我们正在抢先，但是OpenAI正在转向这种盈利模式，而马斯克现在正试图阻止这种模式。然后我们有了XAI的成立，并且这些举动表明，好吧，我会做得更好。我想成为那个这样做的人。所以很多事情都只是

融合在个性上，我们所有人不得不处理这些事情。聊天中有一条来自Black Angus Schleem的评论。当时的科技新闻报道确实轻信。难怪我们对这些混蛋毫无防备。

我的意思是，确实如此。我对此也负有一定的责任。我当时没有在《连线》上写文章。但是即使马斯克开始……

特斯拉，我当时在探索频道工作，在它的在线网站上写文章。我认为当时的普遍观点是，哦，他正在做电动汽车，因为这是一件值得称赞的好事。但是，他并没有创立特斯拉。他是不是用钱强行介入，然后声称自己创立了它？

是的，他突然出现，并成为它就像一个即将失败的，你知道的，创业公司，而且这些部分都在那里，他确实，是的，他突然出现，并排挤了其他创始人，成为了它的公众形象。是的。

所以，好的，让我们继续关注这两个小丑。我想我会跳过那个。虽然我必须说，所以记者说，如果我是邪恶博士，我使用了它，你不会赋予我权力吗？马斯克说，我认为这是一个很好的问题。这是我们多次讨论过的事情。

句尾。他们当时正在进行大二宿舍深夜谈话，听起来像是。我知道。每次我看到马斯克在辩论任何事情时，我都想起他吸了一口大麻，然后就开始发表意见的乔·罗根表情包。

是的。是的。所以我认为，让我们做这个。什么是坏人工智能的例子？阿尔特曼说，好吧，所有科幻小说中的东西，我认为这还需要很多年，比如《终结者》之类的。就像，再次，还需要很多年表明它实际上即将到来。对吧？

对吧？是的。他说，我不担心。它只是从科幻小说开始，对吧？是的。阿尔特曼说，我不担心短期内会发生这种情况。我认为一件确实会成为挑战的事情，虽然我不认为这是坏的人工智能，那就是即将发生的巨大自动化和失业。所以他已经开始向那些将要裁员的公司推销这个了，对吧？是的。然后是人们谈论的另一个坏人工智能的例子，类似人工智能的程序。

我不知道为什么这类似于人工智能——它入侵计算机的能力远胜于任何人类。这今天已经发生了。

所以他担心的事情……这是什么意思？我只是想读一下。类似人工智能，这仅仅意味着你只是让一个for循环遍历密码列表吗？他在想像Stuxnet这样的东西吗？也许吧。我不知道。这要复杂得多。但是是的，我甚至不知道这个参考是什么。是的。所以这里还有什么我们想确保要谈到的吗？哦，他们谈到了数据。是的。

所以这是阿尔特曼再次发言。所以问题是，你的初创公司能否访问OpenAI的工作？阿尔特曼说，如果OpenAI开发出真正伟大的技术，并且任何人都可以免费使用它，那么这将使任何科技公司受益，但更重要的是。但是，我们将要求YC公司提供他们愿意向OpenAI提供的数据。埃隆也将弄清楚特斯拉和SpaceX可以共享哪些数据。

然后是这件事。所以采访者要求举个例子。奥特曼说，例如，所有Reddit的数据将是一个非常有用的训练集。你可以想象所有特斯拉自动驾驶汽车的视频信息也非常有价值。海量数据非常重要。

如果你想想人类是如何变得更聪明的，你读一本书，你就会变得更聪明。我读一本书，我也会变得更聪明。但我们不会因为另一个人读的书而同时变得更聪明。但以特斯拉为例，如果一辆特斯拉学习到了一种新的情况，每辆特斯拉都会立即获得这种智能的好处。

想法？什么？我的意思是……有一个……是的。我认为他……聊天中有一个很好的评论，Homestar315说，这两个人实际上都不会写代码，这是显而易见的。这是一个很好的观点。看看这些想法是多么模糊。它们只是，像，模糊的科幻形状的想法，基于一些……我不……你知道，我……

他们可能读过，或者可能浏览过，或者，你知道，从几年前的科幻电影中记住的东西。像在这个时候，他们俩都没有真正与很多像人工智能技术或甚至建造这个的公司互动过。这一切都像，这是我在报告中提出的论点的一部分。它就像，它都是构想。它，它都是氛围。而且，而且，而且是战略性的市场定位。是的。

对抗谷歌。并且对人们的遭遇有着如此悲观的看法，对吧？是的。我读了一本书，我变得更聪明了。好吧，首先，为什么我们要谈论智力排名？但同样，我读一本书，我学到了一些东西。我与一本书互动，我学到了一些东西。所以奥特曼已经试图减少人们所做的事情，以便它看起来像机器学习一样。

是的。是的，我认为这对于语境也很有用。现在，其中一些电子邮件作为埃隆起诉奥特曼的一部分而被公开。但是你看看他们早期一起的邮件。对我来说，它看起来就像。

奥特曼知道埃隆在媒体上发表了一些关于人工智能的评论，并且他很担心，引用在这个，你知道，只有在这个，你知道，世界末日天网式的词义中。他写了这封介绍性邮件给他，表达了同样的担忧，但实际上只是把它看作是一个机会，就像，你知道，某种程度上，像，成为穆斯克权力上的一个附着物。而这正是他所做的。

他们只是在建造这个支架，这一切都是叙事，都是故事，在这个时候都与现实脱节了。我认为现在回想起来，这非常明显。所以他们关于特斯拉所说的事情，就像是在重新诠释它。就像，哦，是的，我们可以让特斯拉四处行驶学习东西。而马斯克说……

当然，特斯拉将拥有海量数据，即真实世界的数据，因为我们的车队每天积累数百万英里的里程。也许特斯拉拥有的真实世界数据比世界上任何其他公司都多。我的数据集比你的数据集更大。好吧，这也是一个奇怪的观点，就像，什么是数据？因为它有点像说，好吧，特斯拉的数据对构建任何一种合理的大型语言模型会有帮助吗？是的。

不。好吧，首先，亚历克斯，合理的语言模型，那是一回事吗？是的，我的意思是，我不知道它是不是一回事，但我的意思是，我不是说一个合理的大的语言模型。好的。我说的是，像，一个语言模型，我的意思是，一个语言模型正在做它打算做的事情，对吧？好的。我的意思是……

但你基本上到达了一个点，你知道，就像这种甚至不是，它是如此，这是一个如此有趣的观点。因为我认为它不仅是将人类简化为一种智力等级，而且还将数据简化为任何槽桶，你只需将更大的数据集放入机器中，它就会运行，然后他们就会说，数字上升了，或者其他什么。所以，就像，这就是这里的氛围。是的。呃，

好的，我认为我有点，我认为我们可能完成了这个。我只是检查一下这里还有什么其他的东西，你看到什么你想插话的。好的。哦，这个。埃隆，你是两家公司的首席执行官，也是第三家公司的董事长。人们不会认为你有大量空闲时间来投入一个新项目。

是的，那是真的。但是人工智能安全问题困扰我很久了。所以我认为我会在安心方面做出权衡。是的。我们现在知道它奏效了。他安心了，离开了公共领域，正静静地在一个山顶上思考世界。是的，或者像史克鲁奇·麦克达克一样跳进他的百万财富中。我希望所有亿万富翁都这样做。只要在你的金子里游泳。是的。

好的。所以我想最后一个也很好。所以让我们开始吧。这是凯特·梅茨在《连线》杂志上以标签或贴纸业务撰写的文章。

这里有一张很棒的图片。这是一张埃隆·马斯克戴着灰色西装外套的照片。

在……我想那就像一件黑色纽扣衬衫。他站在类似星云或火山爆发的东西前面。太阳耀斑，也许？或者我不知道。它只是……无论如何，只是其中之一……无论如何，作为一个……非常额外。

那个标题也是。就像，我们有一些，你知道，令人兴奋的标题……但是比拯救世界要多得多。所以，就像，拯救世界是，你知道，假设。那已经存在了。然后这是……而且它不仅更多，而且更多。就像，所以这是……

这就像，我不知道，像星际的。他们正在拯救宇宙。用那张太空图片。是的。然后同样，除了超人人工智能接管世界之外，还有更多力量在起作用。所以梅茨在这里没有采取任何批判性的距离。不。不。

而我们的制作人克里斯蒂说，标题是《哈姆雷特》。霍拉提奥，天堂和地球上还有更多的事情，是你哲学中梦寐以求的。是的。

好的，从这里开始，第一段。埃隆·马斯克和萨姆·奥特曼担心人工智能会接管世界。因此，这两位企业家正在创建一家价值数十亿美元的非营利性公司，该公司的目标是最大限度地发挥人工智能的潜力，然后与任何想要使用它的人分享。至少这是马斯克（电动汽车公司特斯拉汽车的创始人）……

更正，他不是创始人，而是继续，以及奥特曼（创业孵化器Y Combinator的总裁）在宣布他们的新努力时所传达的信息，这是一个前所未有的组织，名为OpenAI。在与Back Channel的史蒂芬·莱维的一次采访中，奥特曼表示，他们预计这个长达数十年的项目将超越人类智能，但他们相信任何风险都将得到缓解，因为这项技术将是，“每个人都可以使用”，而不是，比如说，仅仅是谷歌可以使用。

是的，它也让你了解了马斯克已经拥有的引力程度。这是一篇基本上只是以更宏大的术语重述几天前他们已经发表的内容的文章。所以这真的是，我确实记得这个新闻发布的时候。我们不在内部圈子里。我们没有与任何负责人进行任何采访。但这就像一周的新闻标题这样出现。

是的，这里有一句话，他们谈论的是采访，我不知道这是否在《连线》杂志的另一篇采访中，但还有一个名为Back Channel的Medium页面。我认为这是他们在《连线》杂志上重新发表的同一个页面。我认为我们刚刚读到的那篇，最初是在史蒂夫·莱维的特别节目Back Channel上发表的。是的。

并且只是强调这一行，因为我第一次没有注意到这一点，奥特曼说，就像人类通过大多数人类都是善良的，以及人类的集体力量可以控制不良因素来防止邪恶博士一样。然后聊天中有人，我认为是S.J. Lett，说，

哦，是的，因为奥斯汀·鲍尔斯电影就是这样运作的。善良的人类保护自己免受邪恶博士的侵害，而不是国际神秘人本人。哦，不，是的，SJ说，我不记得人类阻止了滴管邪恶，而是奥斯汀·鲍尔斯和糟糕的计划。对。

而聊天中的M. Mitchell AI说，最大限度地发挥人工智能的潜力。这是在第一段中。企业说法被当作正常的事情来说吗？所以同样，我们有记者在这里帮忙，对吧？帮助制造炒作，帮助我们其他人不得不处理这个问题，而不是以批判的眼光来看待它。我们仍然看到这样的事情发生。就像我一样，我的意思是，现在，它就像，为什么，像，

我们可以花一秒钟时间考虑一下他们为什么要这样做吗？就像，为什么不仅仅是说，我想拯救世界？像两个人给了我们很少的证据让我们相信他们。即使在那时，即使在10年前，我们也可以重新打印新闻稿上的内容。它确实，你知道，我们之前的评论员在聊天中是正确的，它确实说，

你知道，给他们这么大的余地确实以一种相当明显的方式使事情变得更糟。是的。是的。好的。所以我将再次进入这个开放的东西。所以越来越多的公司……哦，在此之前，我想进入迈尔斯所说的这个东西。哦，是的。迈尔斯，博士生迈尔斯。是的。所以这是迈尔斯·布伦布里奇在OpenAI担任高级政策人员的时候，

仍然是亚利桑那州立大学的博士生，呃，州立大学，他说这还不是一个可以轻易下结论的论点。嗯，

是的。

我实际上很好奇地想知道他什么时候被列为博士生，他是否完成了他的博士学位？他完成了。他拥有博士学位。他完成了，是的。所以，你知道，迈尔斯，完成学业，干得好。这是一项成就。但是也……但是对于你之后所做的一切，对不起。好的。所以越来越多的公司、企业家和投资者希望通过放弃他们的技术来与竞争对手竞争。谈论反直觉。再说一次，我就像，你错过了90年代吗？

因为那已经发生过一次了，对吧？新经济，如果你想做的事情不仅仅是放弃开源软件，那太老了。所以，你知道，我不认为这位记者这么年轻，但也许吧。好的。所以谈论开放的优势等等。

所以我们之前见过这个观点，对吧？是的。

我认为很有趣的是，现在谁是真正的开源参与者？是Meta。是Facebook。看到OpenAI获得如此多的，以及埃隆·马斯克获得如此多的，你知道，因为做了这件事而获得的媒体关注，这太有趣了。但这只是，我认为这只是表明了多少

像叙事和像建造这个支架一样重要。他们有，他们，他们不是其中一个，一个现有的科技公司的一部分。所以他们有机会将这种叙事构建成对谷歌当时Facebook所做事情的一种反应。而现在Facebook正在，

正在制作，他们试图提出这些论点，但没有人关心，因为这是Facebook。但他们也在撒谎，因为他们所说的开放并不是，他们说这是开源的，但他们所做的是他们正在发布模型权重。他们仍然没有提供任何关于数据的文件。他们没有提供训练软件。它实际上并不是开源的。我所知道的唯一一个正在做一些事情的群体

好吧，有整个堆和Luthier AI，但AI2也正在与Ulmo一起尝试开放。好吧，还有Hanging Face对Blooms所做的事情。是的，还有模型。但我的意思是，对于……但OpenAI现在正在撒谎。在这一点上，我们现在知道他们也在撒谎，他们得到了怀疑的好处，因为他们有一种……

而且我也想对这方面的生态系统元素表示感谢，因为这里有一条关于TensorFlow的评论。所以这场竞争可能比看起来更直接。我们不禁认为谷歌开源人工智能引擎TensorFlow是因为它知道OpenAI即将到来，等等。但即使谈论TensorFlow作为这种开放的生态系统也不是

不是真的。你是生态系统中最大的参与者。Android和Chrome也是如此。我想让读者或听众参考我们与Sarah West、Andreas Leisenfeld关于开源以及开源含义的第21集，包括我认为Sarah与Meredith Whitaker和David Witter合写的一篇关于开源以及某种……的论文，嗯，

这是什么词，不是封闭，而是一种捕获或虚假性，即开源本身以及开放实际上在这个时候没有任何意义的方式。是的，是的。好的，有一些，整篇文章都只是轻信的人工智能炒作。所以，你知道，相信他们的开放，然后是这里面的这段话，深度学习依赖于所谓的“神经网络”，这是软件和硬件的快速网络，它近似于人脑中神经元的网络。不，他们没有。

真的吗？仅仅因为我说过，你必须深入挖掘一下。然后情况变得更糟。向神经网络输入足够多的猫的照片，它就能学会识别猫。向它输入足够多的人类对话，它就能学会进行对话。向它输入足够多的关于汽车在路上行驶时遇到的情况以及驾驶员如何反应的数据，它就能学会驾驶。它就像，不。好的，所以是的，你可以创建一个程序，可以在某种程度上将图像分类为猫或非猫，对吧？但这并不是……

我甚至不会称之为识别，对吧？这里发生了一大堆拟人化。识别听起来像是认知。喂养它听起来像是一种生物学上的东西，对吧？但是，好的，ChatGPT会进行对话吗？它产生了对话的形式，对吧？这让我们陷入各种麻烦。特斯拉学会驾驶了吗？不，他们没有。所以，是的，好吧，是的。

谈论数据及其重要性。所以深度学习初创公司Skymind的首席执行官克里斯·尼科尔森，给予……一点也不令人毛骨悚然。是的，Skynet，最近被Y Combinator项目接受。我相信Airbnb拥有谷歌无法触及的优秀住房数据。

这很有趣，因为这是2015年，我们有完全轻信的访问新闻报道。这些人正在大声说出安静的部分，对吧？你的数据会让我们致富。是的。人们的反应不像我们应该的那样。

是的。它就在那里，更加公开。我的意思是，那个具体的例子，你的住房数据。就像，哦，我敢打赌Airbnb有很多关于你房子的优秀数据，我们可以将其插入大型语言模型中，以训练未来的任何东西。我的意思是，它也没有多大意义，但它也……

正是他们在想什么，以及发生了什么，对吧？正如你之前指出的那样，很多这样的事情，就像这个，对他们来说并不重要，它只是大小。就像特斯拉汽车收集数据，或者像文章中提到的Reddit帖子一样，无论哪个更大，更多，他们都认为他们可以

蛮力地把它变成一些有意义的东西。他们可以把它转化成一些有意义、有用和有利可图的东西。

是的。

我认为我们在播客中提到的巴黎智者，我认为两三集前，对卡拉·斯威舍和她对埃隆·马斯克的转变做出了非常好的批评，埃隆很好。然后反过来，然后他只想做并赚很多钱。不，不，你和他玩得很开心。然后他惹恼了你。然后，然后你现在在这里，没有办法让这些人承担任何责任。是的。

好的，我想在我们结束并前往新鲜的人工智能地狱之前，在这里加入这个悲观乐观的部分。所以副标题，悲观乐观主义者。但是不，这并没有减少马斯克开源项目的价值。他可能有自私的动机，也有利他的动机，但最终结果仍然对更广泛的人工智能世界大有裨益。

通过与世界分享其技术，OpenAI将促使谷歌、Facebook和其他公司也这样做，如果它们还没有这样做的话。这对特斯拉和所有那些Y Combinator公司来说都是好事，但对所有有兴趣使用人工智能的人来说也是好事。当然，在分享其技术的同时，OpenAI也将为谷歌、Facebook和邪恶博士提供新的弹药，无论他潜伏在哪里。

咚，咚，咚！哦！

这太令人难以置信了。再次提醒一下，OpenAI还不存在。它只是——这是宣布后的三天。这一切都只是预测的结合，以及对奥特曼和马斯克所说的话以及放入新闻稿中的内容的解读。这就是目前存在的一切。所有这些超级智能的东西都被平台化了，就好像它有意义一样。是的。

对。我的意思是，这就是他们与之交谈的人。我的意思是，这是尼科尔森这个人物，他谈论的是人工智能系统变得越来越“聪明”的“逃逸速度”的“逃逸哲学”。如果它真的这样做，那将是可怕的。然后他们谈论护栏，你知道，护栏是通过向好人提供好的人工智能，以及，

所以，真正让我恼火的是这篇文章的倒数第二段。是的，我也是。他们说，

基于他们之前的成功，马斯克和奥特曼有充分的理由相信进步的轨迹将继续向上弯曲。我只是想，首先……

把MLK的名言搞砸了，谈论技术进程。你知道，你可以利用，你可以利用MLK的坟墓的力量来为这些数据中心提供动力。但其次，其次，再次的想法，

伤害问题与技术突破有关，这当然荒谬可笑。这是一个类别错误。这是错误的。进步的轨迹将继续向上弯曲。正如你所说，亚历克斯，那不是那句话的意思。是的，它甚至不是——完全正确。首先，那不是弧线的意思。是的。

你是说进步的抛物线吗？我的意思是，也许你是指指数函数？你在说什么，伙计？是的。好的。所以所有这一切中的商业模式，我认为，我们是否对AGI会解决这个问题进行了足够的讨论？

是的，我可以做一个吗？看看这个，这个图表底部的引语，它认为人工智能是技术人员的可卡因。它让我们兴奋和不必要地感到焦虑。就像也许我们会给他们那个。是的。是的。

所以，你知道，我们制作这集节目是为了研究AGI的商业模式。而且，你知道，商业模式，我不知道它是否在这些文章中，但它在你的报告中。他们说的是商业模式是构建AGI，它会为我们解决这个问题。是的。对。这些文章甚至早于对商业模式的最早思考。我认为正如我们之前提到的那样，

之前提到的，我认为OpenAI的起源是这种战略性对冲，作为奥特曼的硅谷社会经济

阶梯攀登，然后像这个的总和产品，然后这个研究项目，他们实际上确实吸引人们为之工作。从一开始，它就是某种

我认为，你知道，我很想像任何记者一样身处房间，当他们实际上正在敲定OpenEye的早期步骤时。但那里有来自亚马逊的人。那里有其他科技公司。那里有风投。所以，远离这个，你知道，它是一个完全利他主义的、拯救世界的计划的起源故事。它在空气中，对吧？就像他们与……

巨额资本和硅谷一些最大的参与者相邻。所以从一开始，它就像，我们还不知道它是什么，但我们认为它可以对抗谷歌，并且从这里开始。然后，是的，你有很多年只是在构建神话，对吧？我认为还必须注意的是，所有这些都发生在某种程度上像0%利率时期……

在那里，很容易为初创公司获得资金，并为事情获得投资。然后你就会看到像Uber这样的公司出现，它们在十年或更长时间内都不盈利。它让每个人都相信这个想法，故事是最重要的，信念的力量，让投资者加入。然后你是否拥有任何类似可持续或有效的商业模式并不重要。

所以所有这些都在OpenAI成立时都在空气中，他们只是在几年里乱搞。他们得到了优秀的科研人员。有一段时间，他们在研究机器人。有一段时间，他们在研究电子竞技和游戏，他们就像，

做所有这些事情都非常迎合媒体，就像，哦，我们要，你知道，记住，你们两个是否记得他们发布的时候，他们宣布他们已经制作了一个过于强大的模型？哦，是的。我们是。是的。整个NLP社区都在嘲笑他们，哈哈哈哈哈。这是营销。是的，它就像……无论如何。我忘了他们称之为Q星还是其他什么。是的。

那是几轮之前的事情了。然后那是围绕董事会混淆和所有事情。我们必须让自己去新鲜的人工智能地狱。所以我会总结一下，是的，所以他们使用了所有这些，然后他们理解或至少对媒体如何回应他们的举动有一些反应性的理解。然后他们建立了这个神话。所以当ChatGPT出现时……

他们真的，他们没有商业模式。他们对他们一直在说的事情有一个模糊的概念，对吧？就像你说的，大约在中途，他们开始说，好吧，我们将要求AGI来解决这个问题。而且字面意思是，像，在技术会议上这么说，并且让人们，你知道，点头同意，投资者给他们更多钱。所以它真的是我们当时的一个快照，你只需要这么说就能获得数十亿美元，然后投资

你有一个人们喜欢的产品，就像，目前还不清楚它是否会像ChatGPT那样赚钱。然后从那里，你必须，过去两年一直是他们试图弄清楚如何利用他们为自己创造的这种世界末日炒作来创造回报的故事。是的。所有，所有，所有，所有吠叫，没有咬，所有，所有炒作，没有，

我想想其他以H开头的词。是的。我会炒作没有欧洽塔。欧洽塔。我完全没有想到这个。好的。所以亚历克斯，这是你的提示。我要让你……好的，但我有一个主意。我有一个我想做的音乐风格，但你给我提示。所以提示是，你是……

不是新鲜的人工智能地狱恶魔，而是这次对应的天使。啜饮一些欧洽塔。失望地发现OpenAI实际上并非利他主义。我知道。好的。我要做这个。既然我们在介绍中以Flight of the Conchords的参考开头，我将……这就是音乐风格。我只是……

我在人工智能天堂里喝着我的欧洽塔。我准备行善了。我打开报纸。我看到了什么？萨姆·奥特曼。不，会是AGI吗？

我喜欢听到我自己的回声，听起来像是一件事。无论如何，这就是我所拥有的。AGI是一个谎言。别这么说。我做了一个吐口水。欧洽塔到处都是。在我的对应天使的头发里。

这就是我所拥有的。好的。所以现在我们必须制作一本《神秘人工智能炒作剧院3000》食谱，其中包含用欧洽塔制作的天使发丝意面的食谱。是的。我对此很感兴趣。我已经在与我的女朋友一起组建乐队……

也许我们的副项目会变成老鼠屎。是的，太棒了。好的，我们有很多，但我们会快速进行。第一个来自今天的《金融时报》。记者是马胡米塔·穆尔吉亚、克里斯蒂娜·克里德尔和乔治·哈蒙德。标题是《OpenAI 加强营收驱动，探索广告业务》。所以，ChatGPT 的制造商正在从大型科技竞争对手那里招聘广告人才。

我在本书较早版本中开过这个玩笑，《AI 骗局》（将于 2025 年 5 月出版）。但它与在 ChatGPT 结果中投放 AI 广告有关，

猜猜怎么着？它正在发生。就在那里。是的。好的。下一个，TechCrunch，英格丽德·伦敦于 11 月 19 日撰写。标题是《想写书吗？AI 出版商 Spines 想达成交易》。这是一个自助出版平台，它声称由于人工智能的支持，它可以完成出版商的所有工作，并且速度更快，成本更低。

是的，这个任务列表包括编辑一篇作品，提供改进建议，并向用户坦率地预测谁可能会阅读已发表的作品，提供封面设计布局选项，以及以电子书或按需印刷的形式分发成品。天哪，想象一下得到一个……

这样生成的书的新闻资料包。噩梦般的场景。我认为这真正体现了这里的一切，对吧？他们只是试图，纯粹是为了降低出版业或特定领域（创意领域）中人们的工作和劳动条件。仅此而已。与此同时，信息生态系统，因为你会有所有这些东西充斥着这个区域。当然，因为他们会将 AI 生成的文本输入到这些东西中。

而且，你知道，作为一本书的合著者，我们正处于这样的状态，这本书已经写好了，但还没有面世，我们很着急，看到这个情况，心里很难受，因为我知道出版商正在做的事情，我们没有自出版这本书是有原因的。好的，这很好地引出了来自《商业内幕》的这个消息。Alistair Barr 的分析，更新于 2024 年 11 月 30 日。标题是《在无限 AI 的世界中，新的奢侈品可能是人类》。

是的，这实际上是把不方便说的话说出来了，那就是，嘿，对于你们其他人来说，你们将得到 AI 垃圾，而对于富人来说，你们将获得真正的人际交往。两级分化。是的。然后为什么图片是嘉年华游行的航拍图。2005 年 2 月 6 日，意大利维亚雷焦的居民享受嘉年华游行。哇。

有趣的选择。我不知道。也许是 AI 辅助的新闻报道。它应该有很多很多人。无限的。无限的人。

无限的人。好的，下一个实际上来自我的收件箱，略微做了些修改。主题行是 Andrew Ng 博士的验证头像，然后是这家公司的名称。它是在 11 月 22 日星期五中午发送给我的。

您好，Bender 博士。[已删除] 由 Andrew Ng 博士的公司 AI Fund 推出，专注于与领先的学者和思想领袖合作构建对话式代理/头像。想想提供办公时间或个性化学习计划的虚拟教学助理。我们已经构建了 Andrew Ng 和 Lawrence Moroney 的官方验证头像，并且刚刚开始与

Barbara Oakley、Terry Sanowski、Eric Brynjolfsson 和 Brian Green 合作。您是否愿意与我们讨论合作创建您的验证头像？然后这是星期五中午。11 月 25 日至 26 日（星期一至星期二）怎么样？谢谢您，[已删除]。在很多情况下，我都不会很舒服地说这个，但这些人知道我是谁吗？不。

没有做太多研究。他们可能看到你在 AI 100 上出现过，或者类似的事情。是的，我猜就是这样。他们没有得到回复。实验。我觉得应该在播客上记录一下。你可以在野兽的腹中进行。不，不，不，不。我永远不会有验证过的头像。所以如果你看到一个，那是假的。可怕的。未经验证的。未经验证的。未经验证的。是的。

你知道，你不能在商店里买到这个，伙计。这是未经许可的 MLEM 矢量聊天机器人。黑市。黑市。哦，天哪。好的。《TechCrunch》，公共服务公告，你不应该将你的医疗图像上传到 AI 聊天机器人。这是 Zach Whitaker 撰写的，发表于 11 月 19 日。他说，在你开始一天的工作之前，请快速提醒一下。在你将你的私人医疗数据上传到 AI 聊天机器人之前，请三思而后行。

因为人们实际上正在使用这些，你知道，Hatchimati 或 Gemini 或其他东西来询问他们的医疗问题。他们通过上传 X 光片、MRI 等来做到这一点。不要这样做。不要这样做。马斯克，马斯克曾要求 X 用户发送他们的医疗数据。他们只是在推特上发布。他们就像 MRI 扫描之类的东西。

哦，我的天哪。好的。我的上帝。让我们继续快速进行。这是我在周末多次听到的 NPR 文章。他们不断播放它，但最初是在 2024 年 11 月 26 日播放的。由 Lila Fidel 主持，介绍了佐治亚州使用“监狱机器人”追踪囚犯的试点项目。想法？

如果你曾经见过的话，这是一个折磨性案例，对吧？你为什么要渴望这个？巨大的、巨大的噩梦场景。我想知道他们是否必须让两个惩教署的人像他们对纽约市地铁达莱克所做的那样照看他们。是的。

我还，每次听到这个消息时，它都会让我很困扰。它以“六英尺高的机器人现在正在佐治亚州的一个县监狱监控囚犯”开头。他们以机器的高度开头，这 somehow 让我感到困扰。是的。就像它正在逼近。它必须对……它不能是一个可爱的小机器人。

你知道，那个机器人狗叫什么名字吗？哦，波士顿动力公司的那个？不。不，不。我说的是我之前认为更大众化的那一个。无论如何。哦，眼球。

AIBO，是的。他们必须赋予它一些具体的现实，对吧，就像……正如你们两位详尽记录的那样，很多都是炒作和短暂的。所以你必须说，比如，六英尺高。比如，坐直，注意，这东西实际上……

在某个监狱里，这更糟糕了，我同意，好的，然后让我们以一个积极的音符结束，我从 trans.bluesky.social 上的 Sage 的这个帖子中得到了这个精彩的评论，关于科技兄弟们如何说我们不可能小心地处理数据，Sage 说，如果一个 AI 科技兄弟经营坎贝尔的“准备”

上帝。

谢谢你，Sage。是的，Sage 在那里说得很好。这就是本周的内容。Brian Merchant 是 AI Now 研究所的驻所记者。Brian，非常感谢你加入我们。非常感谢你们邀请我。我可以宣传一下我和前面提到的 Paris Marks 的新播客吗？当然可以。是的。好的，是的。我们刚刚开始了一个科技疯狂的。

我们自己的批判性播客，名为《系统崩溃》。所以，是的，看看吧，我们以后会邀请你们两位参加。那将会很有趣。是的，我很兴奋。非常期待你们在实验室里做的事情。

这就是本周的内容。我们的主题曲由 Toby Menon 创作，平面设计由 Naomi Pleasure Park 完成，制作由 Christy Taylor 完成，一如既往地感谢分布式人工智能研究所。如果您喜欢这个节目，您可以通过在 Apple Podcasts 和 Spotify 上对我们进行评分和评论，以及向 dareinstitute.org 捐款来支持我们。那是 D-A-I-R-institute.org。

在 PeerTube 和您收听播客的任何地方都能找到我们和我们过去的所有剧集。您可以在我们的 Twitch 直播中观看并评论正在进行的节目。那是 twitch.tv/dare_institute。再次强调，那是 D-A-I-R_institute。我是 Emily M. Bender。我是 Alex Hanna。远离 AI 地狱，伙计们。