Weaponizing Uncertainty: How Tech is Recycling Big Tobacco’s Playbook
51:20 Share

当今，作为人类最难的事情之一就是应对不确定性。当我们看到专家们公开争论，情绪高涨时，很容易怀疑我们曾经确信的事情。这种不确定性并非总是偶然的——它往往是经过战略性制造的。历史学家娜奥米·奥里斯克斯（Naomi Oreskes）在其著作《怀疑的商人》(Merchants of Doubt)中揭示了从烟草业到化石燃料业等行业如何部署精心策划的策略来制造对其产品危害的不确定性。这些活动通过利用我们处理信息的方式，延缓了监管并保护了利润。在本期节目中，奥里斯克斯逐页剖析了这一策略，同时提供了抵制这些策略的实用方法。随着人工智能迅速改变我们的世界，学习区分真正的科学不确定性和人为制造的怀疑比以往任何时候都更加重要。您的 undivided attention 由人文科技中心制作。在 Twitter 上关注我们：@HumaneTech_推荐媒体《怀疑的商人》(Merchants of Doubt)——娜奥米·奥里斯克斯和埃里克·康威合著《大谎言》(The Big Myth)——娜奥米·奥里斯克斯和埃里克·康威合著《寂静的春天》(Silent Spring)——蕾切尔·卡森著《屠宰场》(The Jungle)——厄普顿·辛克莱尔著关于伽利略与教皇冲突的进一步阅读关于蒙特利尔协议的进一步阅读推荐的 YUA 剧集嘲笑权力：改变科技的麻烦制造者指南人工智能发展迅速。我们需要相应的法律。科技的大型资金活动正在受到玛格丽特·奥马拉和布罗迪·穆林斯的反击前 OpenAI 工程师威廉·桑德斯谈论沉默、安全和警告的权利更正：娜奥米错误地提到了在老布什总统领导下建立的全球气候研究计划。正确的名称是美国全球变化研究计划。娜奥米提到了已设立日落条款的美国机构。虽然已经制定了一些带有日落条款的法规，但没有联邦机构是这样。澄清：娜奥米提到美国汽车行业声称他们将被安全带法规“摧毁”。我们无法验证这种具体的措辞，但这与该行业对安全带法的反监管立场一致。 </context> <raw_text>0 大家好，我是特里斯坦。我是丹尼尔。欢迎收听您的 undivided attention。

丹尼尔，我经常思考的一件事是，纵观历史，社会需要很长时间才能应对某些行业造成的危害。你知道，我想到了厄普顿·辛克莱在20世纪初写的关于肉类包装业的文章。我想到了蕾切尔·卡森在20世纪60年代谈到的《寂静的春天》以及杀虫剂的问题，或者20世纪90年代的烟草问题。在社交媒体上，我们再次看到了这种情况。罐子总是被踢到路边。随着人工智能发展如此迅速，我们做出反应的正常时间似乎与及时采取行动不相容。

你知道，我们可以意识到严重的问题，但如果反应太慢，有意义的行动就不会随之而来。完全正确。我认为这与我们如何管理社会中的不确定性有关。你知道，对于任何新生事物，任何行业来说，重要的是，在我们发现正在发生的事情时，要保持不确定性。但是，不确定性也很可怕。当我们对这种不确定性感到恐惧时，很容易通过避免思考或谈论我们感到不确定的主题来应对这种恐惧。

然后，你知道，作为一个社会，我经常想到，当我们不确定什么是真实的或该信任谁时，我们很难做出集体知情的决定。当我们看到专家们公开争论，当我们听到相互矛盾的叙述和强烈的情绪时，很容易开始怀疑我们认为自己知道的事情。

重要的是要认识到，这并非偶然。这是因为拥有大量资金和权力的公司和个人想要掩盖日益增长的危害证据。他们通过专门设计用来制造怀疑和不确定性的复杂且资金雄厚的活动来做到这一点。

那么我们该如何应对呢？我们今天的嘉宾，历史学家娜奥米·奥里斯克斯对此比任何人都了解。她的著作《怀疑的商人》揭示了这种策略如何在不同的行业和时期反复使用。娜奥米的最新著作《大谎言》刚刚出版平装本。那么，我们如何在现有信息的基础上做出大胆的决定，同时对随着新信息的出现而改变我们的想法持开放态度呢？

我们应该如何应对无处不在且不可避免的不确定性，同时使自己免受武器化怀疑的影响？我们讨论了所有这些主题以及更多内容。这是一场非常重要的对话，我们希望您喜欢它。娜奥米，感谢您来到《您的 undivided attention》。感谢您邀请我参加节目，感谢您制作这个播客。娜奥米，15年前，你和你的合著者埃里克·康威写了这本书，《怀疑的商人》，这本书真正开启了关于不确定性如何被操纵的讨论。

让我们从一个简单的问题开始。谁是怀疑的商人？最初的怀疑的商人是一群物理学家。所以他们是科学家，但他们不是气候科学家。他们是冷战时期的物理学家，非常突出。他们在冷战期间因在美国武器和火箭计划中所做的工作而获得了权力、影响力，甚至在某种程度上获得了名声。因此，他们一直担任政府顾问的职位，

他们与权力中心非常接近。这四位物理学家一直积极攻击气候科学，事实证明，他们也一直积极攻击与烟草危害相关的科学。这对我们来说是第一个迹象，表明事情不对劲，因为这并非正常的科学。

通常情况下，物理学家不会参与关于公共卫生的辩论。他们甚至可能不会参与关于化学的辩论。我的意思是，如果它与他们的工作重叠的话。但这些人完全超出了他们的专业领域，很明显事情不对劲。另一个真正的迹象是他们使用的策略有点……

利用合法的科学问题，但以一种并非真正合法的方式来构建它们。在科学中提出问题是正常的。你的样本量有多大？你的模型有多可靠？你是如何得出这个结论的？这些都是合理的问题，但他们开始以一种并非真正正常的方式来追求这些问题。真正的迹象是在非科学的地方这样做。因此，我们期望科学家以不同的方式提出问题。

在科学会议上，在研讨会上，在同行评审期刊的页面上。但这些人并没有这样做。他们在《华尔街日报》、《财富》和《福布斯》的页面上提出问题，

所以他们在表面上看起来像是科学问题，但他们以一种不科学的方式和在不科学的地方这样做。因此，作为科学史学家，我们很明显地意识到有些地方不对劲，这就是我们开始调查的原因。对。但如果我对这个故事很天真，我可能会得出这样的结论——

你知道，这里有一些人可能是脾气暴躁的人，这里有一些人可能已经厌倦了，这里有一些人可能很生气。但这不是说法，对吧？说法比这更深，这些人实际上受到了强烈的激励。脾气暴躁的人在科学界很常见，他们并不一定不好。我的意思是，他们可能会很烦人。本身没有什么问题，尤其是在认识论上，脾气暴躁没有什么问题。但是，当你开始在《女性服装日报》上质疑气候科学时，那就有点奇怪了，对吧？所以……

我们开始调查。然后我们发现了与烟草业的联系。所以我们想，为什么任何一个人，任何一个人，更不用说一位著名的杰出科学家……

会与烟草业沆瀣一气。这里的一个关键人物是弗雷德里克·塞茨，他是一位非常著名的物理学家，与获得诺贝尔奖的人非常接近。他曾担任美国国家科学院院长，这是美国最高级别的科学机构，以及洛克菲勒大学院长，这是美国最负盛名的科学研究机构之一。

那么，为什么这位著名、受人尊敬、成功的男人会与烟草业沆瀣一气呢？这就是成为历史学家的好处所在，因为你可以进入尘封的档案，你可以找到人们用自己的话来回答这些问题的文件。我们发现这四个人

这样做基本上是出于意识形态的原因。也就是说，这与科学无关。他们私下里并没有进行深入的讨论，你知道，吸烟致癌的证据有多好？不，他们不是这么说。他们说的是，这威胁到自由。

他们说，如果我们让政府监管经济，如果我们让他们禁止吸烟甚至严格监管吸烟，比如禁止广告，这是一个非常重要的观点，我们稍后会回到关于言论自由的问题上。如果我们让他们禁止烟草广告，那么我们将失去第一修正案。如果我们让他们禁止在公共场所吸烟，接下来他们就会告诉我们住在哪里，做什么工作，开什么车，我们今天就会走上滑坡。

走向极权主义。所以对他们来说，这与他们在冷战中的工作密切相关。所以冷战故事并非偶然。它实际上是核心。他们害怕

如果政府通过环境或公共卫生法规更多地参与经济监管，这将是通往共产主义的捷径。所以在他们自己的论点中存在这种滑坡。他们指责他们的敌人走上了滑坡，但他们自己也走上了滑坡，从气候科学家所做的工作

这表明我们可能想要规范化石燃料，到指责他们基本上是共产主义者，并希望在美国看到某种共产主义政府。当然。老实说，这是科学中最古老的辩论之一。真正坚持下来的整个启蒙故事是伽利略与教皇的故事，教皇……

说，你知道，你基本上不能这么说，因为这会破坏很多关于世界的事情。所以科学一直存在这样一个问题，我们如何将真理与我们可能关心的价值观区分开来。如果我可以就此发表一下意见，虽然这其中有一个讽刺之处，我们在整个故事中都能看到这一点，这些人喜欢把自己描绘成伽利略。

他们是那些为真理而战的人。但当然，事实恰恰相反。他们站在像化石燃料行业这样非常强大的公司一边，但他们试图扭转这种说法，声称他们是殉道者，是被压迫者。我们今天仍然看到这种情况。

这就是我们想让你参加播客的原因之一，因为在当今的新闻环境中，作为一个普通人，要弄清楚谁受到了压制，哪些观点是真实的，哪些观点是人为制造的，这实际上是一段非常令人困惑的时期。因此，在我们讨论这个问题时，我们真的想一次又一次地回到这个主题，因为它与我们今天的处境如此相关。但在我们这样做之前，我想回顾一下关于如何播下怀疑的种子的一些机制。你能谈谈他们是如何做到这一点的吗？当然可以。谢谢。所以，

这本书的名称实际上试图传达关键内容。其思想是他们正在兜售怀疑。他们试图让我们认为我们并不真正知道答案，科学尚未解决，它太不确定，不确定性太大，无法证明采取行动是合理的。这是一个非常聪明的策略。这些人非常聪明，对吧？他们并不愚蠢。

因为他们意识到，如果他们试图声称与气候科学家的说法相反，那么如果气候科学家说地球正在变暖，这是由人类活动造成的，如果他们试图说，不，它没有变暖，他们将输掉这场辩论。他们已经输掉了这场辩论，因为科学证据是压倒性的。

但如果他们说，好吧，我们并不真正知道，你知道，我们需要更多的数据，我们应该做更多的研究，而且有很多不确定性。不确定性是这个故事的关键部分。对于科学家来说，这是一种更难反驳的事情，因为如果我说有很多不确定性，而你说，

好吧，我的意思是，是的，存在不确定性。当然，科学中总是存在不确定性，但它并没有那么糟糕。你知道，科学家现在处于被动地位。科学家现在处于防御地位，因为他们不能完全否认存在不确定性。

因此，科学家处于这种防御状态。这种策略如此巧妙的另一个原因是，他们说这是不确定的，科学尚未解决，存在很大的争议。然后他们说，事实上，我邀请你参加我的播客、福克斯新闻或《华尔街日报》上的辩论。现在，科学家经常同意，因为科学家相信自由和公开的对话。科学家认为，我没有隐瞒什么。为什么我不辩论呢？

但事实是，通过同意辩论，科学家在开口之前就已经输了，因为这场辩论的目的是让它看起来像一场辩论。对。只要存在辩论，他们就赢了。然后观众会说，哦，存在辩论。宾果。怀疑的商人赢了。没错。

没错。所以人们的脑海里留下了这样的想法，即存在争议，我们仍然不真正知道。而且，你知道，还有很多其他的策略，我很想让你谈谈，比如，保持争议的活力，比如，推迟，让我们委托国家卫生研究院进行一项研究或一项研究来找出真正的影响是什么。虚假宣传，这些虚假的组织得到了某种宣传。你谈到了“公民消防安全”或“烟草研究所”。你能给我们更多介绍吗？基本上，我们的信息环境

是如何被武器化的，以至于更难看到真相。因为基本上，除非我们有抗体来理解这些不同的策略，否则我们将容易受到它们的攻击。所以基本上，你在这里是一种疫苗，帮助我们拥有抗体来理解。是的。这很有趣，因为我的一些同事现在已经开始在错误信息的环境下谈论接种疫苗。但这当然是一个非常棘手的隐喻，因为我们有很多美国同胞现在对疫苗接种和接种疫苗持怀疑态度。所以这是

一个棘手的局面，但它是你刚才所说的所有事情。所以其中一种策略包括收买科学家。我不喜欢这么说，但这是事实。其中一种策略是说我们需要更多研究。现在说还为时过早。而且它……

不幸的是，很容易让科学家同意这一点，因为现实是，好吧，你知道，科学家喜欢做研究，总会有更多的问题可以提出。正如我已经说过的，总有一些合法的不明确之处，我们最好仔细研究一下。所以它

很容易让科学家无意中加入，只需说，哦，让我们开展一个大型研究项目。例如，在老布什政府时期，老布什总统建立了全球气候研究计划。现在，在19……

这并非一定是坏事或恶意行为，但这助长了这种说法，即现在说还为时过早，我们需要做更多研究，尽管在1992年，老布什总统签署了《联合国气候变化框架公约》，该公约承诺美国将根据当时已经相当可靠的现有知识采取行动。

你提到的另一件事是虚假组织。所以现在我们从不诚实到更不诚实。有一系列活动，其中一些活动是灾难性的不诚实、欺骗性和令人震惊的，甚至可能是违法的，而另一些活动则更具操纵性。

因此，虚假组织包括创建一些声称是公民团体或声称代表重要利益相关者（如消防员）的组织，并让他们为该行业做肮脏的工作。你提到了“公民消防安全”。这是一个由烟草业创建并完全资助的组织，

通过反击许多房屋火灾是由吸烟造成的这一压倒性证据来反对烟草管制，特别是吸烟在床上。因此，有各种各样的活动指出了这一点，试图劝阻人们吸烟，特别是劝阻人们在床上吸烟。烟草业……

声称真正的罪魁祸首不是香烟，而是床单和枕套，这些东西需要防火。因此，他们说服全国各地的人们、各州和联邦政府通过法规，要求睡衣中使用阻燃剂。

我记得当我还是父母的时候，很难为我的孩子们找到舒适的棉质睡衣，因为它们都是由这些令人作呕的合成织物制成的，里面充满了阻燃剂。“公民消防安全”这个团体大力推动了这一点，该团体由受雇于该行业的消防员代表。所以这就像真正的行业推销员。人们应该在这里停下来一会儿，认识到这是多么邪恶。这非常邪恶。你有一种产品，它实际上是，你知道，

导致房屋着火。而不是这种产品，因为他们不想改变它，他们实际上无法改变它，它实际上是不可改变的。所以他们想将这种危害的根源，这种正在世界上发生的事情，外部化，说，好吧，它来自另一个地方。它来自这些易燃材料。

更不用说这可能在我们所有的家具和床单中增加了更多的全氟烷基和多氟烷基物质（PFAS）和永久性化学物质。我们现在肯定知道它确实如此。对。但我认为大多数人不知道的是，存在某种不对称性。一个有动机的行为者会付出多少努力来启动大量或数十个

虚假组织、虚假机构，以播下对这件事的怀疑。这就是我如此兴奋地邀请你来的原因，因为我认为人们并不了解。因此，在社交媒体的情况下，他们可能会说，我们需要进行研究，或者让我们资助家长教育项目，以便家长更好地了解如何管理孩子使用屏幕时间，这当然不是他们创造的网络效应和锁定超级上瘾产品的实际解决方案，这些产品继续以比他们的父母所能做到的更强大的方式操纵人们

你知道的，受教育的。所以有一种常见的策略是，

转移人们对问题的真正根源的注意力。没错。而且，你知道，“邪恶”这个词在这里非常贴切，因为，你知道，现在这种超级美味的食物问题也正在发生，你知道，超级加工、超加工的食物真的很难停止食用。你可能太年轻了，记不得了，但当我年轻的时候，电视上有一个为乐事薯片做的广告宣传活动。它以一个年轻女孩为特色，一个金发碧眼的，非常漂亮的年轻女孩。她在和魔鬼说话。

魔鬼递给她一片薯片，说，我敢打赌你吃不了只有一片。我现在回顾这个广告，我的想法都被震惊了，因为在某种程度上，他们承认了他们在做什么。事实证明，他们正在进行研究，以弄清楚如何制造一种你吃不了只有一片、五片或十片的薯片，你会吃掉整包薯片。这是故意的，而且是明知的。他们甚至在广告中奇怪地暴露了自己的底牌，但我们没有人意识到这就是他们在做的事情。

好吧，这似乎也仅仅是为了再做几件事，还有一种策略是强调个人能动性，说，好吧，这取决于你个人对你有多少多力多滋负责。这取决于吸烟成瘾的人是否真的想成瘾。他们仍然可以选择。社交媒体，这取决于你。英国石油公司说，这是你的个人碳计算器，你可以计算你自己的个人碳足迹，这转移了人们对系统性问题的注意力，如果他们必须以任何方式改变，这将威胁到数万亿美元的价值。

是的，好吧，能动性是一个关键因素，它与更大的框架有关，即自由的框架。正如你指出的那样，在社交媒体和传统媒体上都有许多广告宣传活动，基本上试图将损害性产品的责任从生产者转移到消费者身上，并说，这是我们的错，因为我们开车太多。因此，英国石油公司开展了一场大型广告宣传活动，我们许多人都看到了，而且它非常成功，可以计算你自己的碳足迹。

我们有多少人现在甚至会考虑这一点？他们会说，哦，我旅行少了，因为我试图减少我的碳足迹，对吧？当然，减少你的碳足迹并不是一件坏事。如果你能做到，这是一件好事。但这最终的结果是转移能动性，将其从故意制造有害产品的生产者身上转移开，并说，这是我的错，因为我做出了这个选择。

但这并非完全是一个选择，因为与此同时，该行业正在反对限制化石燃料的法规。他们正在反对电动汽车的税收抵免。所以，你知道，我并没有真正做出自由的选择。我做出的选择受到了该行业所做事情的严重影响。这是我们可以追溯到烟草业的另一个策略。

早期，烟草业意识到，同样，这在文件中，我们可以找到他们用自己的话说出来，如果他们对美国人民说，是的，我们知道香烟会杀死你，但哦，好吧，你知道，享受它吧，他们将不会成功。不，这不是一个奏效的信息。很多人会说，哦，我应该尝试戒烟。但如果他们说这是关于自由的，

这是关于你决定自己如何生活的权利。你是否希望政府告诉你是否可以吸烟？我认为这是一个非常有力的信息，原因有两个。一是我们没有人希望政府告诉我们该做什么。我认为我们大多数人都觉得，是的，我想自己决定住在哪里，工作在哪里，是否吸烟。

但它也与美国作为自由灯塔的更大理想联系在一起，使美国成为美国的因素是这是一个自由的国家。因此，该行业开展了各种各样的宣传活动，使用了美国国旗、自由女神像，我们在我们的新书《大谎言》中谈到了这一点。我们实际上可以追溯到20世纪20年代和30年代。新闻短片和纪录片唤起了所有这些美国自由的象征，

这是一个非常有力的论点，因为它意味着你并不是在为一种致命的产品而战。你是在为自由而战。谁会反对呢？是的。所以我想到了，当我们谈论这个问题时，我们真正谈论的并不是怀疑本身。我们谈论的是某种不公平的对话策略，对吧？将事实对话变成价值观对话是不公平的。假装每个人都在这么说，而你却为此提供资金是不公平的。所以……

我想回来，因为我必须承认，我有点恼火，只是关注怀疑，因为科学和诚实的探究过程要求我们面对不确定性。这是我们在这个世界上行动的能力的一部分。我们不知道事情。有时纵向研究确实需要20、30、40年。人为制造的怀疑，这种极不公平的对话策略破坏了我们团结在一起的能力，与更明智地面对怀疑之间有什么区别？

是的，这是一个很好的问题。这是我们在书中最初讨论的事情之一，即怀疑策略非常巧妙，因为它是一种柔道动作。它利用了科学的优势，即科学家被它所激励，

怀疑，在不同的语境下，我们称之为好奇心。科学家确实会花很多时间担心不确定性以及如何准确、公平、诚实地描述它们。如果没有一定程度的怀疑，科学就不会进步。这是一件好事。但是怀疑的商人利用了这件好事，并将其变成了一个责任。他们想让我们认为，除非科学绝对、肯定、100%确定，否则我们什么都不知道，无法采取行动。

所以这实际上与你所说的完全一样，即我们作为公民必须理解，我们必须与不确定性共存。我曾经写过一篇论文，题目是《与不确定性共存》。现实情况是，我们在日常生活中一直都在这样做。我们结婚，我们买房子，我们买车，我们为退休投资，即使我们可能在此之前就去世了。所以我们一直在日常生活中与

不确定性共存。我们相信自己能够对日常生活中遇到的不确定性做出判断，因为我们认为我们拥有做出这些选择所需的信息。因此，这导致了我们尚未讨论的另一种策略，即对科学家的直接攻击。这种方法的部分运作方式也是试图破坏我们对科学的整体信任，并

说科学家是腐败的，他们是不诚实的，他们是为了钱，这对于烟草业来说，再次是相当具有讽刺意味的。非常普遍。这是我们在工作中追踪到的特别令人不安的事情之一，关于现在正在发生的事情。我们研究的许多事情最初是对特定科学的攻击，

这似乎表明需要进行监管，例如与烟草、臭氧层空洞、气候变化以及杀虫剂相关的科学。但随后它蔓延开来。我们在过去十年中看到的，实际上自从我们出版这本书以来，就是这种更广泛的扩张，试图对科学整体投下怀疑。因此，对科学和科学家的这种广泛攻击是为了让我们认为我们不再能够信任科学家，

但我们应该信任谁呢？正如你所说，现在我们身处这个信息饱和的媒体环境中，信息从四面八方涌向我们。对于任何人来说，要知道他们应该信任谁，这确实非常困难。我觉得，下意识的不信任是一个问题，而下意识的信任也是一个问题。我们正在寻找的是合理的值得信赖性。在这个领域，我最担心的事情之一是，我看到人们

科学家的回应，甚至是朋友和同事的回应，是试图争取更大的确定性。他们会说，不，不，我们知道这一点。我们更有把握。我必须承认，我有点怀疑这是否是正确的回应。我认为我们都需要面对更多的不确定性。我的意思是，如果有什么的话，我责怪营销团队。在烟草的例子中，我责怪香烟是安全的，十分之八的医生都同意这种说法。

它将我们提升到一个我们相信它们是安全的程度。那么我们该如何反击呢？因为我有点担心科学会变成一场竞赛，人们为了回应这种好斗的环境，喊叫并声称我们知道的事情是一种虚假的确定性。

是的，我同意。我认为科学家说，哦，我们绝对知道这一点，这是一个很大的错误。我认为最好说，当然，任何活生生的科学中都存在不确定性。科学的重点是学习，对吧？这是一个发现和学习的过程。当然，这就是科学史如此有帮助的地方，因为当然，我们学习新事物，这是好事。但是

我们现在面临一个问题。我们必须做出一些决定，在某些情况下，这些决定事关生死。在这种情况下，说“哦，好吧，我需要再等十年，直到我们更好地了解这种病毒”，或者说“我必须等到海平面涨到我的窗台上，因为那时采取行动就太晚了”，是没有意义的。我们根据目前掌握的最佳信息做出决定。

但我们也为将来可能需要改变做好准备。我们在科学中有一个术语来形容它，叫做适应性管理。它在臭氧层空洞案例中非常成功地得到了应用。

旨在解决臭氧层空洞问题的《蒙特利尔议定书》国际公约中包含了适应性管理的条款，因为科学家们知道他们仍然不了解臭氧层损耗的某些方面。因此，政治家们增加了一项条款，随着他们学习到更多信息，法规可以变得更严格，

或者可以变得更宽松。我们也可以对气候变化采取同样的做法。我的意思是，我们应该这样做。我们应该始终从我们认为能够完成工作的最少法规开始，但要准备好如果更多的科学告诉我们需要收紧法规，或者根据情况减少法规。

我喜欢你用《蒙特利尔议定书》的例子，它承认自身的局限性，即它并不总是准确的，法律的字面意义和精神可能会出现偏差。我们需要能够根据情况的需要快速更新法律的假设。

这建立了正确的的不确定性水平。是的，如果我可以插一句，你知道，很多人出于各种不同的原因批评了IPCC。但我认为，人们真正需要理解的是，联合国气候变化框架公约是根据臭氧层案例制定的。

因为臭氧层案例是科学和政策有效整合的一个例子，并且它已被证明是有效的，并且完成了它预期的工作，所以联合国框架公约是根据它制定的。现在，它并没有奏效，但我认为它没有奏效的主要原因是化石燃料行业的阻挠。而且，你知道，我们现在已经见证了30年来有组织的虚假信息和阻止污染的活动。

实际上是为了阻止各国政府履行他们在1992年做出的承诺。所以，Naomi，你在你的新书《大谬误》中写到，那些主张最大限度地不加监管的自由市场方法的人对历史的选择性解读。你有一个关于亚当·斯密的很好的例子。你能谈谈这个吗？是的。所以我们在书中谈到的一件事是，芝加哥经济学派是如何歪曲亚当·斯密的，以及我们有多少人认为亚当·斯密是

资本主义之父，是不受管制的市场的倡导者，企业人士应该只追求自身的利益，所有的好处都将来自人们追求自身的利益。这不是亚当·斯密在《国富论》中所写的。

事实上，他对银行监管的绝对必要性进行了广泛的讨论。他说，如果你把银行交给银行家，他们就会追求自身的利益，他们会摧毁经济，或者至少会使经济面临风险。你不能让工厂主只追求自身的利益，否则他们会给工人支付饥饿工资。他对此有很多例子，他在书中对此进行了相当长的描述

然而，所有这些都被从1945年以来亚当·斯密在美国文化中的形象中删除了。事实上，这是一种……

我教授的是谬误学，即无知的产生，对无知的学习。看到这是一个多么好的例子，真是很有趣，因为在20世纪20年代和30年代，即使在芝加哥大学也有人说，不，这不是亚当·斯密所说的。但到了20世纪50年代，这一切都被抹去了。它已经被删除了。他们正在出版亚当·斯密的卷集，编辑过的亚当·斯密的卷集，省略了他关于工人权利、监管需要等等的所有讨论，

所以我想带我们稍微转向一个不同的方向，这是科学可以被武器化的另一种方式。所以，Naomi，我们工作的另一个领域是关于人工智能风险。人工智能是人类历史上最具变革性的技术。智力孕育了我们所有的发明和所有的科学。如果你突然有了人工智能，你就可以孕育无限量的新的科学。

它是如此深刻，如此具有范式意义。我认为人们很难理解它。人工智能显然存在很多风险。我注意到的一件事是，一些主要的尖端人工智能实验室，比如OpenAI，在这些举报人离开OpenAI之后出来说，嘿，我们对安全问题表示担忧。他们回应说，我们相信基于科学的方法来研究人工智能风险。

这基本上意味着他们预先将所有对安全表示担忧的人都定义为科幻导向的，他们实际上并没有扎根于地球上的现实风险，而是生活在失去控制和科幻的终结者场景中。这就是我想要你的原因之一，我想考虑一下

我们的集体抗体如何能够检测到这种事情正在发生？因为这听起来像是一件相当合理的事情。我们希望采用基于科学的方法来研究人工智能风险，我们不想制造怀疑或假设性地思考各种情况。只是好奇你对此的反应。

我必须说，当我听到人们说我们想要一种科学的方法时，我有时会有点紧张，因为我想知道，好吧，这些人是谁？他们所说的科学方法是什么意思？因为我可以向你展示化学工业中的人这么说，烟草工业中的人这么说，并以此为借口推迟监管。所以我需要更多地了解这些人是谁，以及他们所说的科学方法是什么意思。但我猜我会说

你知道，作为一个历史学家，思考这有多么激进以及风险有多么严重，这很有趣，因为我同意你的观点。我认为这是激进的。我认为风险和潜在的回报都非常巨大。但这确实让我想起了化学革命，因为在20世纪早期到中期，人们对化学品，特别是塑料，但也包括药品和其他化学品，说了同样的话。化学品确实彻底改变了工业。

它们彻底改变了纺织业，塑料的影响巨大，你知道，各种各样的东西。同样，化学工业的许多方面对现代生活非常有帮助。也有一些方面真的很糟糕。

那么我们如何理解这一点呢？我认为我们从历史上知道的一件事是，它回到了我最喜欢的主题，硅谷的人们喜欢讨厌它，那就是监管。政府的部分作用是扮演这种在竞争利益之间的平衡行为。事实上，你可以认为政府的全部作用是处理竞争利益。

我们生活在一个复杂的社会中。我想要的并不一定和你想要的相同。在一个理想的世界里，我们都能得到我们想要的东西。在一个理想的世界里，我们可以成为自由主义者。我们自己决定。但这行不通，因为我的行为会影响你，反之亦然。所以这就是治理必须介入的地方。它不一定是联邦政府。它可能是公司治理。它可能是监督机构。但我确实认为，

人工智能行业的一些成员正在抵制监管的方式，这真的很可怕，也很糟糕。因为如果我们不对这项技术的发展制定某种合理的法规，理想情况下是采用适应性管理，我们可能会发现自己处于一个非常糟糕的境地。我们从化学工业的历史中学到的一件事是，

我认为可以公平地说，许多化学品监管不足。你几分钟前提到了PFAS。同样，杜邦公司很久以前就知道这些化学品可能是有害的，并且无处不在。所以业界知道这种情况正在发生，并大力反对改革。

披露他们掌握的信息，大力反对监管。我们现在生活在一个海洋中，一个化学汤中，几乎不可能弄清楚哪些特定的化学物质对我们有什么作用，因为它不再是一个受控的实验了。好吧，我认为这指出了这里的一个核心问题，那就是

尽管你想要好的科学，但好的科学需要时间，而技术的发展速度超过了科学。所以问题是，当技术发展和推广的速度远远超过科学时，你该怎么办？那么明智地规范这意味着什么？你谈到了一件事，那就是适应性管理。你还有什么策略可以确保，当你开始弄清楚如何推广这项技术时，监管实际上能够帮助我们适应，并帮助我们坚持科学？

是的，这是一个很好的问题。同样，好消息是，我们有臭氧的例子。我们至少有一个例子做得对，我们可以参考这个例子。我认为我们从这个案例中学到的一件事与让科学、工业和利益相关者的声音参与的重要性有关。因为我认为最近有人对人工智能说的一件非常糟糕的事情，我认为是埃里克·施密特，如果我错了请纠正我，但他说了类似这样的话，好吧，除了行业之外，没有人能够监管这一点，因为我们是唯一理解它的人。你记得吗？

我认为这是一件非常令人震惊和可怕的事情，一个否则很聪明的人会这么说，因为首先，我认为这不是真的。我的意思是，我可以对化学品说同样的话。我可以对气候变化说同样的话。但是愿意工作和学习的聪明人可以理解这些风险是什么。

你在你的书中谈到了这一点，对吧，作为认知特权。所有行业面临的一个根本性挑战是，塑料行业或化学行业内部的人确实比政策制定者及其政策团队所拥有的技术知识更多。这并不意味着你应该相信他们，因为他们的动机完全是给他们最大的权力和自由。我们已经讨论过这个问题

在我们之前的几集中。但这实际上是我们必须权衡的问题之一，好吧，我们希望监管能够明智地得到信息。我们希望它具有适应性，而不是一成不变的。我们希望利用那些最了解情况的人的见解，但我们不希望这些见解通过这些不良的动机来传递，最终导致我们实际上没有得到符合公众最大利益的结果。我觉得这就是我们试图一起穿过的针眼。

是的，完全正确。所以我认为这确实符合我想在这里提出的观点，那就是绝对的。技术人员最了解他们的技术，所以他们必须参与其中，他们绝对必须参与其中。但他们不一定最了解这些东西将如何影响用户。是的。

他们不一定最了解如何制定良好的政策。因此，为此，你可能想要，在这种情况下，你可能想要参与臭氧层调节的人，他们了解如何制定良好的政策或利益相关者。或者那些研究过其他背景下自动化的劳动史学家呢？我的意思是，对人工智能的一个主要担忧是，我们很多人将失业，这可能会造成严重的社会不稳定。好吧，有一些人是这方面的专家。

因此，你可以想象组建一个委员会，将技术人员、政策专家和能够代表利益相关者风险的人聚集在一起，甚至可能是一些研究儿童的心理学家。我的意思是，关键是这里需要不止一种专业知识。技术专业知识绝对是必不可少的，但它是必要的，但还不够。

是的，我当然同意你的观点，我们需要整个社会团结起来，弄清楚如何才能做好这件事。但是，你知道，经历了早期的互联网和泰德·史蒂文斯，“互联网是一系列管道”，以及国会无法理解他们正在处理什么，我对我们都在经历的这个学习曲线有一定的同情。我的意思是，特里斯坦和我甚至无法跟上新闻，而这是我们的全职工作。所以

所以我很想知道，不仅人们会说行业以外的某些人不懂，而且人们会说我们的社会已经过度监管，或者监管机构太慢了，这不仅来自右翼，也来自左翼。例如，人们会说，由于环境法规，建造新的住房过于繁琐。我很想知道你对此有何回应，因为你想把整个社会都拉进来。你想组建委员会。你想这样做。我认为从价值观的角度来看，我同意你的观点，我们需要更多社会参与到这场对话中，对吧？

但我不知道我们在这方面做得有多好。是的，不，你完全正确。我不想听起来像个天真烂漫的人，尽管我应该始终指出，你知道，《天真烂漫》的故事寓意是，世界因为她的乐观而变得更美好。我认为我们经常忘记这一点。我们认为称某人为天真烂漫的人是一种批评。但是……

我认为，我想说两点。首先，我想稍微反驳一下这样一种观点，即我们左翼和右翼都有反监管的人。我的意思是，是的，但是，我的意思是，我刚刚写了一本500页的书，讲述的是这个国家企业反对监管的历史。这几乎都是来自右翼的。有一些例子，

但即使是住房问题，我的意思是，我前几天刚和一位城市历史学家谈过，关于房地产行业是如何在很大程度上推动反对住房监管的，而不是社区。我的意思是，有一些例外，尤其是在加利福尼亚州，但是……

但是，你知道，已经有100年的历史了。我的意思是，这是我们在《大谬误》中讲述的故事，企业界坚持认为他们受到过度监管，他们利用这一点来对抗对童工、工人安全保护、烟草、塑料、杀虫剂、DTD的监管。

还说，如果政府通过这项法规，我们的行业将被摧毁。汽车行业声称，如果我们有安全带法，美国汽车行业将被摧毁，而这一切都不是真的。每次通过一项法规，行业都会适应，通常会将成本转嫁给消费者，这可能并不总是很好。也许有时我们为我们并不真正需要的法规付费。但总的来说……

对监管的反对通常来自企业界，他们想做他们想做的事情，他们想赚尽可能多的钱，并尽可能快地赚到钱。所以它回到了特里斯坦所说的关于激励机制的问题。我理解这一点。如果我是个企业家，我也许也想按照我想要的方式经营我的企业。但在民主社会中，我们必须权衡这一点与激励机制。

对其他人、环境、生物多样性、儿童的潜在危害。所以这又回到了另一件非常重要的事情，尤其是在硅谷，那就是对速度的迷恋。我们生活在一个这样的社会中，美国社会一直以来都对速度有一种迷恋，铁路、汽车、太空旅行。我们热爱速度。我们热爱新奇的事物。我们喜欢这样一种想法，即我们是一个快节奏、快发展的社会。

但另一方面，有时行动太快是不好的。有时当我们行动迅速并打破某些东西时，我们会打破我们不应该打破的东西。我认为我们现在正在大量地目睹这一点。我的意思是，我们的民主制度部分破裂了，在我看来，这是因为我们在电信放松管制方面行动太快了。本来应该具有民主化意义并为消费者提供更多选择的措施，却

最终给我们带来了更少的选择，为我们的流媒体服务支付巨额账单，并且由于媒体的碎片化而真正加剧了政治两极分化。我有一个主意。让我们在人工智能方面做得更快。

是的，完全正确。所以，你知道，这是一个非常好的时机来进行这场对话，因为我们现在看到的事情正是我们在上一本书《大谬误》中写到的内容，那就是企业试图拆除联邦政府，因为他们对联邦政府在监管这个国家的企业方面所扮演的角色感到不满。这是一个已经持续了100年的故事，但现在却以惊人的速度在我们面前实时展开。

这场争论的一部分与这样一种观点有关，即政府监管是对自由的威胁，任何对企业的限制都会让我们走上失去自由的滑坡。但这当然是不正确的，因为我们一直在做出选择。所以我喜欢引用一个例子，这个例子实际上来自20世纪30年代新自由主义者之间关于新自由主义含义的辩论，其中一位说，看，

反对监管是因为你认为它消除了自由，这就像说交通信号灯或停车标志或红灯是走向消除驾驶的滑坡。

没有人认为我们应该在道路上设置停车标志的人试图消除驾驶。我们试图使驾驶安全。世界上存在的大多数法规，或者我不知道，大多数，但可能大多数，都与安全有关，都与保护工人、儿童、环境、生物多样性有关，以对抗，你知道，其他利益。所以它总是一个平衡行为。当然，我们想要经济活动，当然我们想要就业，当然我们知道企业

在做这些事情方面发挥着至关重要的作用。但我们也不希望企业用危险的产品杀死人。我们不希望企业践踏工人的权利。我们不希望企业剥削儿童。绝对的。你知道，当我们谈到我们所有人都在感受到的紧迫感以及这些问题的紧迫性以及人工智能如何使这种情况变得更糟时，

我想补充一点，一切感觉都如此紧迫，其中一些紧迫感是真实的，因为我们正在达到这些真正真实的极限，并且正在破坏我们社会的部分。而其他部分则看起来像互联网创造的一个哈哈镜，每个人都无法放慢速度来思考问题，因为一切都如此紧迫，以至于我们必须立即采取行动，所以我甚至无法忍受我的不确定性和某些事情。

你认为这种对话空间或我们所有人都在感受到的关于可能需要十年时间才能解决科学问题的对话的压缩，你认为这如何影响这个问题？你会怎么做？是的，我认为这是一个很好的问题。我觉得在某种程度上，这是当前时刻的悖论之一。我们正面临着紧迫的问题。

气候变化是不可逆转的。所以我们等待行动的时间越长，情况就越糟糕，我们就越无法解决它。所以应该对此有一定的紧迫感。人工智能也是如此，对吧？我的意思是，正如我们整个小时都在讨论的那样，这项技术发展非常迅速。它已经在我们五到十年前甚至无法想象的方式影响着我们的生活。但与此同时，

我认为恐慌真的会很糟糕。恐慌从来都不是决策的良好基础。并且有一种方式，它的紧迫性确实要求我们停下来思考和倾听。特别是如果我们考虑适应性管理，适应性管理完全是关于不要在那一刻过度反应，根据你掌握的信息做出最合理的决定，但要准备好不可避免地进行调整。

将来。蒙特利尔议定书奏效的一种方式是设定具体的截止日期，即相关人员审查证据并决定是否需要调整的日期。我认为这是一个很好的模式，因为它既包含了根据我们现在所知采取行动，不拖延，不找借口拖延，但也认识到人类的脆弱性，认识到学习更多信息的益处，并能够在该利益环境中工作

并使其结构化。所以这不仅仅是一个承诺，哦，是的，我们下周再看看。但它实际上被纳入了法律。这感觉像是所有法律都应该做的事情，实际上，所有与新兴科学或技术有关的法律都是如此。这是一种常见的做法，还是蒙特利尔做的一次性行为？

是的，这是一个很好的问题。这将是一件值得研究的事情。我真的不知道答案。我当然知道，一些机构是带有日落条款创建的，尽管大多数机构不是。所以我确实认为，你知道，保守派在这方面是对的，我们应该有更好的机制，如果我们建立一个政府机构来思考，你知道，我们希望这个机构运作多久？是否应该有一些机制……

你知道，十年后决定是否要续约，就像你借图书馆的书一样，你知道，你可以续约。我认为这将是一件有益的事情。当然，你知道，埃里克·康威和我新书中写到的一件事是，在20世纪70年代，绝对是这种情况，即需要重新审视20年代和30年代的法规。我的意思是，有一整套卡车运输法规毫无意义，因为我们现在有了航空公司。

电信，在克林顿时代，我们重新审视基于无线电的电信，因为我们现在有了互联网，这是绝对正确的。但同样，没有一个好的机制来做到这一点。我认为克林顿政府行动太快，犯了一些非常严重的错误，并破坏了一些非常严重的事情。

所以我认为蒙特利尔是一个很好的模型，可以用来思考我们如何才能做类似的事情，你知道，也许对于人工智能，我们应该有一个关于人工智能安全的一些委员会，任期为10年，但如果国会或任何投票决定在那个时候续约，则可以续约，否则它将终止。

你知道，这真的很引人注目，因为这对我来说是一个新的想法，那就是你听到人们说，看，法规太多了，或者人们说，好吧，法规还不够。但你所说的意思是两者同时存在。我们总是有一些旧的法规需要取消，也有一些新的法规没有以我们所需的方式保护我们，我们需要制定这些法规。

而且我们应该预期总是这样，我们应该持续这样做。是的，我认为我喜欢这种说法。这有点像，你知道，有句谚语说将军们总是在打上一场战争。是的。我的意思是，历史的一个问题是，作为一个历史学家，我绝对相信历史的价值以及我们可以从中吸取的所有教训。但有时人们会吸取错误的教训，或者他们会延续过去的一些经验，这些经验现在可能并不一定相关。因此，在历史之间取得一些平衡

创造我们现在认为需要的东西，但也创造一种机制来重新审视它并从我们的错误中学习。人工智能也可以在帮助我们快速加快找到需要更新或不再相关的法律以及帮助制定这些更新是什么方面发挥作用，找到彼此冲突的法律。我并不是想成为一个技术解决方案主义者，或者说人工智能可以解决一切问题，但我认为

在法律实际上是我们解决一些多极陷阱的方式的程度上，如果我不这样做，我就输给了会这样做的人。法律是解决方案。但问题是，人们已经看到了很多坏法律、坏法规的例子，这是正确的。所以这是关于我们如何才能更具适应性、更具反思性的方法来做到这一点。我认为，当我想到数字民主时，人工智能实际上可以成为这一解决方案的一部分。

在这档播客中，我们谈论了很多关于现在如何难以理解世界的问题。这些相互竞争的怀疑、过度确定性和不同的邪教观点，社交媒体已经将我们的世界分裂成碎片。个人实际上如何保持脚踏实地并理解某些事情何时被歪曲？有哪些抗体可以防止人们如此容易受到虚假信息的侵害？

好吧，我认为，你知道，这是一个非常棘手的问题。如果我有一个简单的答案，那将是我的下一本书，对吧？10种不被废话愚弄的方法，或者类似的东西。也许我会写那本书。但我认为重要的是要意识到，你知道，我们都有大脑，对吧？

我们都有能力使用我们的大脑。所以我真的鼓励人们接受他们自己的智慧，然后提出问题。所以如果有人告诉你一些事情，最明显的问题是，好吧，这个人是谁？

谁从他们所说的话中受益？他们的兴趣是什么？而且，你知道，这可以用一种敌对的、怀疑的方式来使用，有时也确实如此。但总的来说，说“这个人从中得到了什么？”总是合法的。我坦率地承认，我希望你阅读我的书。

我的书能给我带来一些钱，但不多。大约每本书一美元。我不能辞掉我的日常工作。与化石燃料行业相比，化石燃料行业的利润高达数万亿美元。所以如果你问你将信任谁来谈论气候，气候科学家，他们中的大多数人获得的报酬是良好的中产阶级到中上层阶级工资，但他们并没有获得更多报酬。

如果他们说气候变化很严重，那么如果他们说它并不严重，或者化石燃料行业如果能够继续做他们正在做的事情，就能赚取数万亿美元的利润，那情况就大不相同了。因此，既得利益相当悬殊，你不必是天才或哈佛教授就能看出这种区别。

我记得当我们讨论人工智能困境时，谈到人工智能风险，人们说，这些人从谈论风险和末日论以及技术的所有问题中获利，就好像这才是我们担忧的动机一样。而且，如果我们从谈论这些担忧中以任何方式获利，这与坐在谈判桌另一边的人们可以赚取的数万亿美元相比如何？我认为，一个人如何证明自己是值得信赖的行动者，他们来自关心公益的地方？

这是随着时间推移而建立起来的。我认为，尤其是在人工智能时代，你基本上可以对任何事情都产生怀疑，人们不知道什么是真实的，那些始终以最深切的关怀和值得信赖的方式出现的人，将会在这个世界中获胜，因为我们正在逐渐失去信任。

是的，我认为这是对的。我认为这是科学家们可以做得更好的一个领域。许多科学家，我们接受过训练，成为天才，运用技术知识，选择数学。在我们的科学中，这些工具很重要而且很好。但我们也必须认识到，当你与更广泛的公众交谈时，这些工具并不一定是最好的。然后你必须在人际层面与人们建立联系。近年来，我一直思考的一件事是

我觉得在学术界，我们被教导要说话，对吧？我们被教导要表达我们的想法，要写书。这一切都是关于，你知道的，我把我的想法表达出来。我们并没有真正被教导要倾听。所以我真的认为，对于……

任何处于有争议领域的人，无论他们是作为科学家还是记者、技术专家，等等，都必须认识到倾听的重要性，并试图理解人们的担忧。因为，你知道，几年前我在内布拉斯加州花了一些时间与农民交谈，一位农民对我说，我只是不想我的燃料价格上涨。

我认为，这完全是合情合理的。如果我是个农民，我也不会。这意味着，如果我们考虑气候解决方案，我们必须考虑不会损害农民的解决方案。税收抵免，你知道，人们已经谈论过碳定价的收费和股息制度。但要记住，这对人们有什么影响，我们如何才能制定出考虑到这些因素的解决方案。

Naomi，非常感谢你来到《你全部的注意力》节目。你在《怀疑的商人》和《大谬误》中的工作非常重要，我非常感谢你在世界上所做的一切。是的，谢谢，Naomi。谢谢。这是一次很棒的谈话。《你全部的注意力》由人文科技中心制作，这是一个致力于催化人文未来的非营利组织。我们的高级制作人是Julia Scott。Josh Lash是我们的研究员和制作人。我们的执行制作人是Sasha Feagin。

本集混音由Jeff Sudeikin完成。原创音乐由Ryan和Hayes Holliday创作。特别感谢人文科技中心全体团队使这个播客成为可能。你可以在humanetech.com找到节目说明、文字记录等等。如果你喜欢这个播客，我们非常感谢你在Apple Podcasts上对它进行评价，因为它可以帮助其他人找到这个节目。如果你一直坚持到这里，让我再次感谢你给予我们你全部的注意力。