Word Watch: “Genocide,” and Do We Have to Care About OpenAI?
51:00 Share

<context>字词观察：“种族灭绝”，我们是否需要关心OpenAI？ 在为期七天的停火后，加沙的战斗再次恢复。本周的《媒体观察》中，讨论“种族灭绝”一词如何进入以色列-哈马斯冲突的讨论，以及该术语的法律含义。此外，为什么科技公司OpenAI的董事会戏剧获得了如此多的媒体关注。 1. 埃内斯托·维尔德哈（Ernesto Verdeja）[@ErnestoVerdeja]，圣母大学种族灭绝研究所的执行主任，谈论围绕“种族灭绝”指控的辩论和法律含义。收听。 2. 麦克斯·里德（Max Read）[@readmaxread]，记者和“Read Max”通讯的作者，谈论为什么OpenAI内部的戏剧引起了如此多的头条新闻。收听。 3. 迪帕·西塔拉曼（Deepa Seetharaman）[@dseetharaman]，华尔街日报的人工智能记者，谈论“有效利他主义”从牛津大学的大厅到硅谷董事会的旅程。收听。

<raw_text>0 将以色列-哈马斯冲突描述为种族灭绝的法律、政治和情感影响。

来自纽约WNYC，这里是《媒体观察》。我是布鲁克·格拉德斯通（Brooke Gladstone）。我是迈克尔·洛温格（Michael Loewinger）。本周节目中，我们是否需要关注最新的硅谷肥皂剧？对许多人来说，“OpenAI解雇了萨姆·阿尔特曼”这一短语就像“Zendaya是Michi”或“Bibme现在是Chegg的一部分”。一组没有情感或语义分量的词语。

此外，塑造AI研究者心灵和思想的小众哲学。EA的追随者们玩不同类型的游戏。我们遇到过一个变种的国际象棋，叫做Bug House。所有这些将在之后讨论。

《媒体观察》由ZBiotics赞助。厌倦了因为前一晚喝了几杯而浪费一天在沙发上吗？ZBiotics的预酒益生菌可以帮助您。ZBiotics是世界上首个基因工程益生菌，由科学家发明，旨在让您在饮酒后的早晨感觉像平常一样。

ZBiotics分解酒精的副产品，这正是导致早晨不适的原因。访问zbiotics.com/OTM，在结账时使用OTM可享受首单15%的折扣。ZBiotics提供100%退款保证，因此如果您因任何原因不满意，他们将无条件退还您的钱。

网址是zbiotics.com/OTM，在结账时使用代码OTM可享受15%的折扣。本集由Progressive Insurance赞助。

如果比较汽车保险费率像听您最喜欢的播客一样简单呢？使用Progressive就是这样。只需访问Progressive网站，获取您想要的所有保险覆盖的报价。您将看到Progressive的直接费率。然后，他们的工具将提供其他公司的选项，以便您进行比较。您只需选择您喜欢的费率和覆盖范围即可。今天就在Progressive.com报价，加入超过2800万信任Progressive的司机行列。

Progressive意外伤害保险公司及其附属公司。比较费率在所有州或情况下均不可用。价格因购买方式而异。♪

我是玛丽亚·科尼科娃（Maria Konnikova）。我是内特·西尔弗（Nate Silver）。我们的新播客《风险商业》是关于做出更好决策的节目。我们都是记者，像扑克玩家一样，我们将用这种视角来处理整个节目。我们将讨论从高风险扑克到个人问题的一切。比如我是否应该叫水管工，还是自己修理淋浴。当然，我们也会谈论选举。无论您在哪里收听播客，都可以收听《风险商业》。

来自纽约WNYC，这里是《媒体观察》。我是布鲁克·格拉德斯通（Brooke Gladstone）。我是迈克尔·洛温格（Michael Loewinger）。在录音时，以色列和巴勒斯坦之间的人质交换停火已结束。因为，以色列表示哈马斯通过发射火箭违反了停火协议。因为，哈马斯表示以色列在拒绝释放更多囚犯后开始调动部队。因为，以色列表示哈马斯仍在扣留女性，尽管承诺不再这样做。

事情就是这样。——再次，爆炸声震撼加沙，巨大的烟雾柱在天际线上升起。——对不断上升的死亡人数的愤怒日益加剧。根据哈马斯控制的加沙卫生部的数据显示，在不到两个月的时间里，几乎有15000人遇难，主要是平民。——与此同时，公众舆论的战争仍在持续，政府官员、名人、学者和倡导者们都在努力使用他们能想到的最强烈的词汇。

哈马斯将为其反人类罪付出代价。哈马斯将为屠杀我们的人民付出代价。战争罪并不构成，也不是对其他战争罪的适当回应。教皇方济各因他在梵蒂冈的言论面临反对。他表示，这场冲突已经超越了战争，成为他所称的恐怖主义。里士满市成为全国首个...

通过一项决议谴责以色列，指控其在与哈马斯的战争中在加沙进行种族清洗。媒体和社交媒体上的讨论逐渐被一个词主导：

所有罪行中的罪行。这是一名男子在10月20日对CNN的莎拉·西德纳（Sarah Sidner）报道时说，当时“种族灭绝”一词在网络的播出中仍然是一个罕见的词。

但随着死亡人数的增加，抗议活动也在增加，部分目的是将这一术语推入媒体报道。纽约时报杂志的获奖作家贾斯敏·休斯（Jasmine Hughes）在签署一封公开信谴责以色列在加沙的种族灭绝后辞职。

这一举动构成了对新闻室政策的违反。纽约人权事务高级专员办公室的主任因联合国对加沙局势的反应辞职，他将其描述为“教科书式的种族灭绝案例”。那个字，没错，种族灭绝。正是这个词，这个术语，这个爆炸性的指控，我们不能回避去审视。

而且，看看，这不是一个我们应该轻视的词。它是人类已知的最严重的罪行之一。这是犹太人在大屠杀中遭受的。

正如MSNBC的梅赫迪·哈桑（Mehdi Hassan）上个月所承认的，大屠杀的记忆可能有助于解释为什么新闻媒体的成员最初不愿将种族灭绝一词应用于以色列的行为。现在这个词无处不在。在意见专栏、黄金时段聊天节目和抗议口号中，不仅仅是用来描述加沙的破坏。

哈马斯在10月7日的攻击可能是种族灭绝。你无法忽视哈马斯对以色列国家的种族灭绝倾向。他们自1988年成立以来就对此非常公开和明确，他们的章程呼吁消灭以色列国家。哈马斯想要杀死犹太人，并从靴子里喝他们的血。路易斯安那州的共和党人约翰·肯尼迪（John Kennedy）在参议院发言时说。拜登总统需要向世界展示

美国将继续支持以色列，直到哈马斯的种族灭绝议程被放弃。种族灭绝乔必须走！种族灭绝乔必须走！

“在华盛顿特区和纽约的抗议者们，他们给总统起了个绰号。他们称他为‘种族灭绝乔’。你有来自白宫的回应吗？”“我们不担心绰号和车贴。”国家安全委员会发言人约翰·柯比（John Kirby）在11月的白宫发言。“但这个种族灭绝一词被许多不同的人以相当不当的方式使用。”

除了文化和政治影响外，种族灭绝还有法律影响，国际法庭遵循严格的标准。埃内斯托·维尔德哈（Ernesto Verdeja）是圣母大学种族灭绝研究所的执行主任，也是和平研究和全球政治的教授。

他说，要理解种族灭绝是否适用于巴勒斯坦或以色列的暴力，我们需要从其起源开始。种族灭绝一词实际上起源于1940年代，当时一位名叫拉斐尔·伦金（Raphael Lemkin）的法学家创造了这个术语，试图真正针对一种特定类型的大规模暴行，即针对平民群体进行的有针对性的毁灭。

种族灭绝在1950年代初期的联合国防止和惩治种族灭绝罪公约中得到了发展。联合国是如何准确定义它的呢？作为任何以下行为，意图部分或全部摧毁一个国家、民族、种族或宗教团体。平民必须基于其中一种特征被针对。

而且有一整套不同的行为可以符合条件。杀害该团体的成员，给该团体的成员造成严重的身体或精神伤害，给该团体施加计算以导致其身体毁灭的生活条件，

以及实施旨在防止该团体内出生的措施。因此，基本上是防止该团体随时间的推移而繁殖。最后，强制将儿童从一个团体转移到另一个团体。这里的想法是，随着时间的推移，这会破坏该团体的完整性。挑战在于意图部分。你如何证明意图？

仅仅说他们进行了大规模杀戮，创造了导致该团体毁灭的条件，如饥荒等，是不够的，而是通过这些行为，他们意图导致种族灭绝的结果。我还要补充，对于许多像我这样的社会科学家和其他分析师来说，我们实际上发现这种意图的定义过于限制，过于狭隘，并且在持续的暴行中，难以证明。

那么，你能举一个例子，说明你认为应该达到种族灭绝的高标准，但由于这个定义而无法达到的事情吗？一个例子是许多学者认为达尔富尔，苏丹的种族灭绝。

联合国成立了一个特别调查委员会。联合国对此进行了调查。他们有一组律师，非常高调且备受尊敬的律师，调查了政府及其代理力量对达尔富尔平民的暴力行为。他们发现没有令人满意的证据表明有意图摧毁平民群体。

然而，许多社会科学家基本上认为，发生在苏丹对达尔富尔人民的暴行实际上是种族灭绝。美国政府实际上也采取了这一立场，对吗？不仅仅是专家。确实如此。但再次强调，人们必须证明苏丹领导层有意图实施对平民的全部或部分毁灭。他们的论点是没有明显的计划。

如果我可以补充一点，种族灭绝并不是一个简单的事物。某一天它不是种族灭绝，某一天它就是种族灭绝。相反，种族灭绝往往在极度不安全的情况下出现，当施害者感到他们之前的政策未能实现他们的目标时。因此，他们加大了暴力，扩大了目标，继续将对手的平民群体去人性化，并将他们视为生存威胁。

种族灭绝是一个过程。它往往随着时间的推移而出现。之所以重要，是因为很少能找到一个预先存在的灭绝计划，然后再实施。相反，它往往是分阶段发生的。我想直接问你，你认为以色列国防军在加沙的军事行动可以在法律上被视为种族灭绝吗？我相信以色列正处于种族灭绝的边缘，他们在加沙所做的事情。

在法庭上证明这一点将是困难的，因为很难看出我们现在所看到的是否反映出一种日益协调的计划，旨在摧毁加沙巴勒斯坦平民群体的一部分。再次强调，如果我们在这里使用法律定义。

我认为毫无疑问，以色列国防军（IDF）实施了广泛的战争罪和反人类罪。我认为很难认真对待以色列国防军的主张，

考虑比例。等一下，你的意思是什么？他们愿意接受大量平民死亡和加沙人被残害，以实现狭隘的军事目标。很多事情都取决于无差别使用轰炸和空袭的事实，他们对加沙实施封锁，

限制对食物、水、电、医疗援助的获取，他们使用了国际法禁止的武器。比如白磷？没错，正是白磷。当以色列轰炸加沙人口稠密的地区时，他们常常说，哈马斯利用平民作为人肉盾牌。这一直是他们的辩解。

这是正确的，但这并不足以成为杀死大量平民的充分理由。你说过，证明意图将是困难的，但新闻媒体的成员和其他种族灭绝专家，包括大屠杀的多产学者奥梅尔·巴尔托夫（Omer Bartov），都指出了以色列总理本杰明·内塔尼亚胡、他的内阁成员和以色列议会成员的一系列公开声明，

在10月28日，内塔尼亚胡提到旧约《申命记》，当他说，你可能还记得亚玛力人对你们所做的事情时。没错。你必须记住亚玛力人对你们所做的事情。提到圣经中的一句话，正当屠杀男人、女人、婴儿和哺乳动物。

在10月9日，以色列国防部长说，我们正在与人类动物作斗争，我们正在相应地采取行动。第二天，正如巴尔托夫所写，以色列军队在该地区的政府活动协调员，一名少校，用阿拉伯语对加沙民众说，人类动物必须被如此对待。不会有电和水。只有毁灭。你想要地狱。你将得到地狱。

我理解的是什么使这在国际法庭上难以证明为种族灭绝的是，这一切是否符合意图。在你看来，为什么这不符合意图？让我稍微退一步。我想强调，对于大多数研究这个主题并关注此案的学者来说——

辩论实际上相当狭窄。辩论是关于种族灭绝是否正在发生或即将发生。这是非常非常狭窄的问题。这是一个将这些不同声明解析出来的问题，似乎开始凝聚成一种行为，似乎是对平民群体整体或部分毁灭的有计划的行为。

显然，有些人是例外，他们会说以色列国防军并没有实施种族灭绝。这根本不在讨论之中。这是冒犯性的，等等。但从行为上看，以及来自领导层和政府成员的许多语言，显然指向那个方向。种族灭绝的威胁已被以色列和哈马斯双方提及。例如，如果我们回到10月7日，哈马斯杀死了大约1200名以色列人，其中许多是平民，这被视为源于哈马斯宣称要对以色列犹太人实施种族灭绝的可憎行为。因此，根据你所提出的框架，我们应该如何定义那一天？10月7日的袭击是战争罪和反人类罪。我认为在法庭上会被认可为这样的。

哈马斯经常使用种族灭绝的言论，尤其是他们的领导人。他们不区分以色列国家和犹太人。通常是将犹太人视为本质上的敌人和威胁。这是一种种族灭绝的言论。哈马斯在10月7日的袭击之前就使用了种族灭绝的言论。

至少一些学者有时将其称为种族灭绝大屠杀。这种语言可以追溯到1980年代，来自早期的种族灭绝研究的开创性学者。这一概念意味着大屠杀本身具有内在的种族灭绝逻辑和意图。但例如，哈马斯并没有能力对以色列进行持续的大规模种族灭绝运动。这并不

让哈马斯领导人逃避使用种族灭绝言论的责任。这只是意味着它没有能力做到这一点。人们很少看到哈马斯的生存威胁不仅仅在于它发誓要继续这些攻击，而在于该组织似乎希望伊朗、真主党和其他伊朗支持的团体介入，为这场战争增添火力，这被视为哈马斯所构成的迫在眉睫的威胁的一部分。

有两种思考方式，对吧？一种是说，嗯，正因为这种逻辑，这是对继续...

对加沙平民的攻击的合理化，如果这就是摧毁哈马斯所需的，那就必须这样做。然而，另一种解读方式，我认为有点不同。那就是，如果以色列继续这样做，像哈马斯和其他极端主义团体将继续受到鼓舞，并将继续得到支持。实际上，您所拥有的是暴力的螺旋。这不会解决安全问题。这正是我们作为政治科学家所称的安全困境。

问题是有解决方案的东西。困境是某种行动在自身条件下似乎合理，但结果本身高度不理性。因此，合理的做法是增强自身武装，使用更多暴力来摧毁敌人。好吧，敌人也在使用完全相同的逻辑，对吧？而且得到了外部行为者的支持，无论是美国、伊朗还是其他任何人。

您会陷入困境，因为您会得到一个结果，即不断增加的不安全性，越来越多的杀戮，越来越多的伤害，越来越多的痛苦。因此，我倾向于将这种逻辑视为不是对大规模暴力的合理化，而是作为一个死胡同。这正是我们需要另一种逻辑来取代它的原因。

反诽谤联盟表示，种族灭绝、种族清洗或文化种族灭绝的指控不适用于加沙的巨大死亡人数，甚至提及这些术语会贬低它们，并对大屠杀、亚美尼亚种族灭绝、卢旺达种族灭绝的记忆造成损害。你怎么看待这个立场？我会说，

这并没有贬低那些历史。我们有义务记住大屠杀、亚美尼亚种族灭绝、卢旺达种族灭绝以及所有这些其他可怕的案例。但我们也不应该建立受害者的等级制度。我们不应该说，某些平民应该被铭记，而其他平民的死亡、灾难和种族灭绝则没有相同的道德地位。我认为这是错误的。我认为这并没有贬低它。如果我们认真对待

伦理和道德，如果我们认真对待人权作为普遍权利的理念，我们必须在任何地方、任何人犯下这些暴行时都予以谴责。

我确实想强调，这一点很重要，在这些辩论中存在大量反犹太主义，对吧？对此毫无疑问。这使得政治话语变得复杂，这也是媒体如此重要的原因。必须有空间，让我们能够理清这些不同类型的指控和不同类型的主张，以便我们能够真正谴责正在发生的反犹太主义，同时也意识到加沙平民的死亡需要被承认，对吧？

反诽谤联盟对此的看法是，相对于其他正在发生的人道主义危机，对以色列施加了不成比例的审查。如果我理解正确，这使得它变得反犹太主义，因为一个犹太国家的行为被置于不同的标准之下。

我认为一个犹太国家的行为应该遵循国际法的标准，对吧？我认为对以色列的关注确实很大。我认为这是绝对正确的。我还想进一步指出两点。第一，谴责以色列国家的行为

并不等于对所有犹太人的全面谴责。我们知道这一点，因为在过去的一年中，我们看到以色列犹太人对以色列国家进行了大规模动员，对吧？所以我会反驳这种观点，即谴责以色列国家和以色列武装部队的行为在某种程度上就是对犹太人的全面谴责。我认为这是错误的。

但更普遍地说，我们对其他国家所犯下的暴行关注不够。我们中有谁还在谈论缅甸对罗兴亚人的待遇？只有关注这个问题的人。我们中有谁关注埃塞俄比亚提格雷地区人民的待遇？我们不谈论它。我们不再谈论也门。我们不再谈论中非共和国。

我认为这是绝对正确的。我们应该关注这些其他案例。西方的强大领导人不关注这些问题，因为它们没有地缘战略利益。这就是问题的根源。

媒体在这里扮演什么角色？11月9日，发布了一封公开信。大约1500名媒体成员签署了这封信，倡导新闻专业人士开始使用“种族灭绝”等术语。我们现在在媒体中看到的方式是引用专家的论文。

像你一样，来自倡导者的引用。这不是一个规范性声明。它在新闻报道中并没有被直接使用。媒体应该使用它吗？我认为媒体绝对应该在讨论法律定义的局限性方面发挥核心作用。我们看到如此多的争论和辩论的部分原因是，法律定义是如此不足。不同的群体在不同的目的上进行讨论。法律专家使用的种族灭绝定义与活动家和倡导者可能使用的定义不同，与政策分析师可能使用的定义不同，与学者可能使用的定义不同，等等，反复如此。我们最终陷入了一种特定的辩论逻辑中，

我称某事为种族灭绝，如果你不同意我，如果你说这并不是真正的种族灭绝，而是这样、那样，那么你就自动成为种族灭绝否认者。或者如果你使用种族灭绝这个词，那么你就以某种方式成为恐怖主义的助长者。你称之为罗夏克测试。也许我应该在某种程度上说这是一个试金石。在某种意义上，这是一个罗夏克测试，因为你在其中看到你想要看到的东西。

而且

在为期七天的停火后，加沙的战斗再次恢复。在本周的《媒体之上》中，讨论“种族灭绝”一词如何进入以色列-哈马斯冲突的讨论，以及该术语的法律含义。此外，为什么科技公司OpenAI的董事会戏剧获得了如此多的媒体关注。 1. 埃内斯托·维尔德哈（Ernesto Verdeja）[@ErnestoVerdeja]，圣母大学种族灭绝研究所的执行主任，谈论围绕“种族灭绝”指控的辩论和法律含义。收听。 2. 麦克斯·里德（Max Read）[@readmaxread]，记者和“Read Max”通讯的作者，谈论OpenAI内部戏剧为何引起如此多的头条新闻。收听。 3. 迪帕·西塔拉曼（Deepa Seetharaman）[@dseetharaman]，华尔街日报的人工智能记者，讲述“有效利他主义”从牛津大学的大厅到硅谷董事会的旅程。收听。

<raw_text>0 这也发生在我身上。我收到了大量的警报。你说虽然OpenAI的骚动很有趣且有点搞笑，但这并不重要。但它出现在了演员和编剧罢工的报道中，人们担心他们的工作会消失。那么我们为什么不应该关心呢？好吧，归根结底，那个家伙仍然在那里。他们仍然在生产相同的产品。除了几个董事会席位，实际上没有什么变化。

但即便如此，OpenAI只是几家不同的AI公司之一，它们正在开发的技术在根本上是相似的。OpenAI可能是该领域的领先公司，拥有最先进的模型，当然也是消费者最熟悉的模型。

但我不清楚这家公司是否需要如此微观的关注。我的意思是，我认为重要的是要记住，这不是一家曾经盈利的公司。人们认为它所做的事情将对未来的商业非常重要。但这也建立在一系列关于开发这些模型和应用程序的研究人员能力的假设之上。

以与过去相同的速度推进模型，这些模型将达到可以在商业应用中无缝使用的准确性水平。我并不是说所有这些预测都不可能成真，它们是错误的。对我来说，这只是一组非常不稳定的假设，无法构建出一种周末叙事的最重要故事。

你说部分原因是，这家公司尚未盈利。但作为一个研究科技的人，你知道有些应用在盈利之前可能会产生改变世界的后果，因为风险投资者和其他人愿意支持它们。

是的，我的意思是，OpenAI在硅谷和任何行业中都是相当独特的，因为它是作为一个非营利组织成立的，致力于开发人工通用智能，也就是说，一个有意识的计算机思维。

有意识的计算机思维。是的，我的意思是，AI这个术语已经被定义得有点模糊了，不是吗？所以如果我们想象最纯粹的人工智能的真正定义，我们现在称之为AGI，人工通用智能。这个想法是你有一个

在计算机内部的思维，可以有意识地思考，可以进行理性思考，可以进行交流。你的意思是它是自我意识的？是的，自我意识。我只是想至少进入这个范围。这是一个有启发性的提问，因为在新闻故事的前三段中，没有人有空间真正定义他们所说的AGI。

尽管如此，在某些AI研究人员中，有一种感觉，甚至不清楚这是否是大多数人，我们可能正处于某种AGI的边缘。

OpenAI的推动力是将资金和资源投入到首先实现AGI的目标，特别是要在坏演员（敌对政府、贪婪的私人公司）做到之前达到这一点。没错。这在这个非营利组织的使命中写得很清楚，但我觉得这并不合理。

这就是关于原子弹的争论。我们会先到达。这是否意味着德国、俄罗斯或其他任何国家不会拥有它？

是的，你知道，我必须说，谈到叙事，OpenAI的故事中有很多情节漏洞。即使从外部的角度来看，非营利结构并不合理，但它对于优秀的AI研究人员来说是一个很好的招聘工具，因为他们可以对自己说，这里是一个我可以进行真正前沿的AI研究并赚取一些钱的地方，但我是在以一种好的方式进行。

在你的通讯中，你提供了一个你觉得很搞笑的OpenAI公司结构图。它以一种围绕非营利董事会的飞轮结构开始，然后下面是非营利组织，再下面是一个有限利润公司，允许赚取一些利润但不太多。那图表中还有什么？

你知道，你有这种永动机，一家有限利润公司赚取的钱被再投资到非营利组织中。你可以看着这一点并说，当然，这基本上是合理的。然后你稍微转过头，还有一个泡沫在这个组织图中。在那个泡沫里是地球上最大、最成功和最富有的软件公司之一，微软。

你开始想，为什么这家公司就挂在这里的角落，而那里有一个箭头，上面写着少数股东？这实际上意味着什么？

我的笑话是，当这一切首次曝光，结果发现董事会上的一个派系将山姆·阿尔特曼（Sam Altman）赶下台时，感觉有点像他们并没有真正考虑到这个组织图上的额外泡沫可能想要什么。但后来我们发现，微软想要的其中一件事就是山姆·阿尔特曼，他们迅速提出了聘用他。

我认为这并不是偶然，根据所有报道，解雇阿尔特曼的董事会成员在计划解雇阿尔特曼的会议前仅一分钟就打电话给微软，他们可能意识到微软会反对。然后微软似乎显然乐意为阿尔特曼和一些辞职的其他员工提供工作机会的杠杆，以对抗他的复职。

这种奇怪的公司结构和与微软的关系揭示了你所说的OpenAI内在的紧张关系。这个故事的简单版本，正如它在报道中常常被讲述的那样，是有一种悲观派，他们坚信AI

AI和AGI是存在危险的，因此这些技术的发展需要放慢。而另一方面，你有所谓的加速主义者，他们认为我们有某种责任，无论是对人类还是对我们可能创造的未来超级智能，去无视后果，看看会发生什么。

这是一个相当公平的描述，从非常广泛的意义上讲，说明人们如何看待这些事情。OpenAI是一个好奇的地方，因为正如你从其使命中可以看到的，它可以被视为一种悲观组织，因为它认为AGI可能足够危险，我们需要确保它不会落入错误的手中，但它也是一种加速主义组织，因为它试图快速创造AGI。

你写道，故事的关键基本上是，AI安全和伦理在妨碍投资者赚钱之前都是好的。这也是...

一些评论员和报道最终是这样表述的。伦理与利润之间的斗争，利润赢了。是的。对我来说，这个故事中真正有趣的方面是，山姆·阿尔特曼公开表示过关于AGI的危险，甚至是存在的危险。他在国会作证，基本上告诉一群参议员，AGI

AGI是极其危险的，确实需要进行监管。我认为如果这项技术出错，它可能会非常糟糕。我们希望对此发声。我们希望与政府合作，以防止这种情况发生。但我们努力保持非常清醒。

关于潜在的负面情况以及我们必须做的工作来减轻这种情况。我认为关于悲观故事的一个迷人之处在于，它往往是AI的良好营销。如果你到处告诉人们你正在开发一种可能会杀死每个人的技术，显然这会吓到一些人，但很多人也会说，哇，那一定是一种非常强大的技术。我敢打赌我们可以从中赚很多钱。

这个叙事在那些真正相信这个叙事或某种版本的叙事的人掌权并可以说，等一下，你走得太快的时候，真的很有用。显然，悲观叙事，如阿尔特曼等人所提出的，主要是一种营销策略，而不一定是一个害怕的人的深切信念。在这个故事中...

对我们这些普通人来说，风险是什么，你为谁写了专栏？我会说，如果你在退休账户中有一些微软的股票，那么这个故事可能对你有意义。否则，我认为你可以安全地忽略它。我们应该如何报道AI的风险？我对编辑和记者有很大的同情，他们面临选择一个引人入胜的董事会权力游戏故事和那种

更干燥的监管问题和担忧之间的挑战。但我确实看到公众利益的新闻报道，关于人工智能模型在外面如何被使用的真实世界影响。

举一个具体的例子，显然，我们看到的许多模型充满了各种偏见，因为它们基于从互联网抓取的文本和图像，而没有给予太多关注它们可能反映的偏见，这意味着也许AI将某些种族、某些阶级地位、某些性别与某些负面特质联系在一起。而一家保险公司购买了访问其中一个模型的权限，以试图确定应该收取什么保费。

对我来说，这是一个非常好的例子，说明AI所代表的实际可描述风险。而我非常强烈支持对AI的开发和运作进行民主控制，无论这意味着监管，还是意味着在这个领域更多的公众利益。

我非常担心，对末日存在风险的那种热情是对这种事情更平常、更官僚的风险的分散注意力。在你确保对OpenAI的报道以及对山姆·阿尔特曼在公司内外的地位的报道与这些问题和担忧相关联的程度上，你可能至少能给读者一些关于他们应该感兴趣的感觉。这是直接的关注点。这是我们应该开始的地方。

麦克斯，非常感谢你。谢谢你邀请我。麦克斯·里德是“Read Max”通讯的作者和专栏《感兴趣的普通人指南》的作者。接下来，山姆·阿尔特曼的解雇突显了硅谷一个小众信徒群体的存在。这是《媒体之上》。

本集由Progressive赞助。你们大多数人现在不仅仅是在收听。你们在开车、清洁，甚至在锻炼。但如果你通过切换到Progressive来省钱呢？

通过切换节省的司机平均节省近750美元，汽车客户平均可享受七项折扣。现在就多任务处理。今天在Progressive.com报价。Progressive意外保险公司及其附属公司。根据2022年6月至2023年5月期间调查的与Progressive合作的新客户的国家平均12个月节省744美元。潜在节省因州和情况而异。

我是玛丽亚·科尼科娃。我是内特·西尔弗。我们的新播客《风险商业》是一个关于做出更好决策的节目。我们都是记者，我们的光芒如同扑克玩家，而这就是我们将用来接近整个节目的视角。我们将讨论从高风险扑克到个人问题的一切。比如我是否应该叫水管工，还是自己修理淋浴。当然，我们也会谈论选举。请在您获取播客的地方收听《风险商业》。

这是《媒体之上》。我是迈克尔·洛温格。我是布鲁克·格拉德斯通。对于那些实际上能够并且确实跟随OpenAI的音乐椅游戏的人来说，你们很可能听说过这个术语。有效利他主义。这就是许多人认为导致山姆·阿尔特曼被解雇的原因。一些领导层遵循一种称为有效利他主义的信仰体系。这是一个在硅谷获得真正关注的伪哲学运动。

你甚至可能在几个月前听说过，当时其最臭名昭著的倡导者，世界上现任的加密之王，跌落了神坛。当山姆·班克曼·弗里德（Sam Bankman-Fried），这个最知名的有效利他主义者和该运动最大的捐赠者之一，失宠时，有效利他主义遭受了重创。山姆·班克曼·弗里德面临七项与洗钱和欺诈相关的指控。他很可能会在监狱中度过余生。

有效利他主义在被硅谷居民采纳之前，早在2000年代就在牛津大学的大厅中开始了它的生命。它主张我们有道德义务向那些致力于改善全球贫困的基于证据的慈善机构捐赠尽可能多的钱。

但它在硅谷展翅高飞，在其旗帜下，关于如何保护人类免受先进通用智能无限权力的辩论，仍处于初期阶段。迪帕·西塔拉曼为《华尔街日报》报道人工智能。那个房间里一些最响亮的声音是有效利他主义的信徒。嗯哼。

阿尔特曼并不是信徒。没错。他称其为一个极其有缺陷的运动，具有非常奇怪的涌现行为。像什么？

那些被称为EA的追随者。他们倾向于住在私人团体住宅中，在那里可以进行关于AI和全球健康的所有这些辩论。他们还玩不同类型的游戏。我们遇到过一个变种的棋类游戏，叫做“虫屋”。

他们在谈论这些重大全球AI问题时有自己内部的行话和俚语。很多外部人士觉得这有点让人疏远。

你确实说追随者倾向于住在这些团体住宅中。这无疑是一个小众运动。但追随者遍布世界各地，生活在各种学术社区中。我并不觉得这像某种奇怪的宗教。

没错。但在湾区，特别是在谈论AI社区时，它是一个俱乐部，确实比更广泛的运动更封闭。

你提到宗教。我听说过它被描述为一种宗教、一种价值体系和一种结构。在伯克利有整条街道，大多数房子里住着从事AI工作的人，他们也属于这个运动。称其为硅谷变种是公平的。是的，我认为这是公平的。那么，

EffectiveAltruism.org是推广这一哲学的主要网站之一，并发布了一份他们希望优先考虑的问题清单，其中包括防止下一次大流行。还有什么？

气候变化、动物福利。但在这些清单的顶部是人工智能带来的存在风险。因为在过去的12个月里，你看到AI系统的能力跃升，很多人没有预料到。

我遇到过一些人，他们真的相信人类在十年内面临80%到90%的危险。那些不想要孩子的人，因为他们认为人类将面临如此大的风险，几乎没有意义。

在AI领域的有效利他主义者相信，精心设计的人工智能系统赋予正确的人类价值观可能会导致一个黄金时代。那么他们最担心的是什么？

如果我们开发出一个如此聪明的系统，以至于它决定掌控局面，会发生什么？这是一个非常极端的例子。另一个是人类的毁灭几乎是我们给它的指令的副产品。所以你可能会对一个非常聪明的AI系统说，让我们解决气候变化。

然后AI系统会意识到，嘿，主要问题是人类。让我们把他们消灭。

还有很多其他担忧，关于人类可能如何使用这些系统。也许这会落入恐怖组织、流氓政府的手中，他们利用它来对整个星球造成破坏。不过我想说的是，这些担忧有很多批评，主要是我们目前的AI系统无法可靠地进行加法。它们怎么可能接管世界？

因此，AI引发的灭绝，如何可能发生，并没有真正解释。

很多这些都是假设，有些是基于研究的。有很多人真诚地试图理解这些危害可能是什么样子。你能多告诉我一点吗？这与有效利他主义者所称的对齐有关。没错。对齐基本上意味着，我们能否让这些系统与人类价值观保持一致？

不仅要理解我们给它的明确指令，还要理解它们不应该做什么。布鲁克，你听说过纸夹最大化者问题吗？没有。所以这是EA人士指出的一个极端例子，说明为什么对齐是如此重要。这个想法是，如果你教一个AI系统尽可能多地制造纸夹，

这个AI系统可能会决定，所有人类都应该被消灭，因为最大化纸夹的生产是最重要的任务。任何阻碍这一点的事情都是个问题。这有点像魔法师的学徒，我想。没错。

纸夹在AI社区中有点像厄运的象征。它包含了与这些AI系统相关的所有风险，尤其是那些意想不到的风险。这些AI系统需要与人类价值观保持一致。我们如何在技术上让这些系统理解人类意图？

不过，很多研究中没有回答的一个问题是，应该对齐谁的价值观。除了人类应该安全和事情应该好的价值观之外，还有什么？没错。一些关于对齐或超级对齐的研究是

由OpenAI董事会的一位科学家Sutzkeber领导的。他投票解雇了阿尔特曼，然后改变了主意。他的团队正在开发一个AI科学家，进行关于AI的研究。换句话说，就是对自己进行研究。没错。并找出与人类价值观对齐的方法。

这是有趣的工作，将在未来产生一些非常重要的结果。但在这些公司中，EA思想与非EA安全思想之间存在资源差距。

OpenAI最近雇佣了一位将研究OpenAI技术在明年选举中的作用的人，这距离选举还有一年。但他们将五分之一的计算资源（这很重要）用于解决一个尚不存在的问题，而选举将会存在。我认为这说明了紧张关系。

你说这些关于有效利他主义的分歧已经渗透到OpenAI的每一个角落。这是阿尔特曼被解雇的重要原因。

当他在感恩节前的那个星期五被董事会解雇时。他和他的联合创始人、公司的首席科学家兼董事会成员伊利亚·塞茨科沃尔（Ilya Setskovor）在商业化与保护OpenAI技术之间的紧张关系上发生了冲突。

另外两位董事会成员与有效利他主义本身有联系。塔莎·麦考利（Tasha McCauley）在一个名为有效风险的有效利他主义慈善机构的董事会任职。另一位投票解除阿尔特曼职务的董事会成员海伦·托纳（Helen Toner）是华盛顿特区一家智库的高管，该智库由致力于EA事业的开放慈善机构支持。

在十月，她发表了一篇学术论文，称赞OpenAI竞争对手Anthropic的安全实践。

她写道，通过推迟发布其聊天机器人，引用，Anthropic显示出其愿意避免正是ChatGPT发布所引发的那种疯狂的削减。幕后，OpenAI的领导层和员工开始越来越担心被描绘成一群有效利他主义者。

你知道，EA在AI社区中因很多原因而具有两极分化，但

但它在硅谷中让人疏远的另一种方式是，它似乎减缓或对增长和商业化等事物产生怀疑，而这些正是支撑硅谷精神的东西，已经持续了二十年。快速行动，打破常规。这不仅仅是Facebook的口号。我的意思是，这在硅谷本身就是一种真正的宗教。但尤其在科技领域，市场已被证明是

人类价值观和需求的非常糟糕的守护者。从社交媒体的毒性到全球变暖，所有这些事情，经过一些调整和深思熟虑，都可以得到改善。我的意思是，听着，我认为你所说的有很多证据，但在硅谷，他们仍然相信吗？金钱的诱惑。

最近，马克·安德森（Marc Andreessen）刚刚发布了他所描述的技术乐观主义者宣言。在其中，他写道，我在这里引用，我们相信，任何对AI的减速都会导致生命的损失。被阻止存在的AI所导致的死亡是一种谋杀。哦，天哪。是的。

我的意思是，这就是现在的紧张关系，对吧？你知道，有些人一方面说我们应该放慢一切，谨慎行事。另一些人则说，好吧，我们应该慢一点，应该考虑所有风险，而不仅仅是存在风险。

然后还有一群人认为这两组人都是完全的傻瓜。他们阻止人类拥抱AI带来的丰饶。

我认为很多有效利他主义者在这场辩论中处于中间，因为他们成为了AI社区中的一个核心力量，大家都对他们有意见。这是极具两极分化的，也是极具影响力的。因此，即使在硅谷圈子中，有效利他主义仍然是极其小众的，对吧？嗯哼。

为什么大多数不参与这一哲学的人应该关心它？如果你在过去一年里打开电视，听到有人描述可能源于人工智能系统的存在风险，或者有一天人类可能对机器的地位就像动物对人类的地位一样。

你正在听一个与EA思想或与有效利他主义社区相邻的思想相关的人。我们谈论存在风险的事实，这本身就是对有效利他主义社区的认可。与政策制定者交谈，上电视，写专栏，他们的声音被听到。他们在房间里。

这是一种小众哲学。没有人需要学习如何玩虫屋，但在影响塑造人工智能的讨论、规则和监管方面，它的影响力远超其规模。迪帕，非常感谢你。谢谢你，布鲁克。这真是太愉快了。迪帕·西塔拉曼为《华尔街日报》报道人工智能。

这就是本周节目的全部内容。《媒体之上》由埃洛伊丝·布朗迪奥、莫莉·罗森、丽贝卡·克拉克-卡伦达和坎迪斯·黄制作，肖恩·梅尔钦提供帮助。我们的技术总监是詹妮弗·曼森。我们的工程师是安德鲁·内尔维亚诺和布伦丹·道尔顿。卡蒂亚·罗杰斯是我们的执行制片人。《媒体之上》是WNYC Studios的制作。我是布鲁克·格拉德斯通。我是迈克尔·洛温格。</raw_text>