2024 Is The First ‘AI Election.’ What Does That Mean?
47:20 Share

就在一年前的今天，OpenAI 推出了 ChatGPT。这款程序迅速改变了人们对人工智能可能性的看法。在过去 12 个月中，我们看到了以人工智能生成的图像为特色的竞选视频、立法提案以及关于人工智能监管的国会听证会。从各方面来看，2024 年总统大选将成为我们的第一个“人工智能选举”。然而，人工智能影响的具体细节往往含糊不清。它究竟如何影响我们的选举政治？在本期 538 政治播客中，加伦与芝加哥大学哈里斯公共政策学院代理院长伊森·布埃诺·德梅斯基塔进行了交谈。布埃诺·德梅斯基塔的研究重点是博弈论、政治冲突和选举问责制，他最近与他人合著了白皮书《为 2024 年生成式人工智能选举做准备：基于学术研究的建议和最佳实践》。</context> <raw_text>0 本期节目由 Shopify 提供赞助。当您将业务切换到 Shopify 时，忘记选择商业平台的烦恼，Shopify 是一个全球性的商业平台，无论您在哪里销售，都能为您的销售注入活力。使用 Shopify，您将利用与世界领先品牌使用的相同的直观功能、值得信赖的应用程序和强大的分析工具。立即注册，享受每月 1 美元的试用期，网址为 shopify.com/tech（全部小写）。网址为 shopify.com/tech。

对我来说，几乎难以想象的是，我们不会有主要候选人拥有个性化的聊天机器人，这些聊天机器人可以与这位候选人进行对话，一个经过训练来代表这位候选人的聊天机器人。等等，事实上，我敢肯定，在我们录制这个播客的时候，我收到了妮基·黑利发来的自动短信。是妮基·黑利。加伦，你有时间谈谈吗？你看，现在是妮基·黑利，如果那是克里斯·克里斯蒂，那肯定不是他本人，因为他最近没什么事做。

您好，欢迎收听 FiveThirtyEight 政治播客。我是加伦·德鲁克。今天，我们将深入探讨一个在我们数字时代日益重要的主题，即人工智能在美国选举中的作用。随着我们接近 2024 年大选，人工智能在政治策略和竞选活动中的整合不仅仅是一种可能性，而是一种现实。

但这种现实伴随着无数的问题和担忧。人工智能可能会如何影响选民的行为或信息的传播？政治竞选活动中人工智能的伦理和规章制度又如何呢？如果你还没有说出来，

所有这些都是由人工智能撰写的，特别是 ChatGPT4。我们还要求 ChatGPT 创建一个包含统计数据的介绍版本。它引用了“58% 的美国人表示担心人工智能在政治中的整合”这一说法。但当我们追问这一统计数据来源时，它承认这是一个“为播客介绍的背景而创建的假设性例子”。

就是这样。这只是人工智能可能在政治环境中带来的一些问题的一小部分。

现在是人工撰写的介绍。ChatGPT 于一年前的今天，即 11 月 30 日公开发布。人工智能，特别是负责 ChatGPT 的公司 OpenAI，在过去几周一直占据新闻头条，这至少部分上是因为一场关于技术加速速度的辩论。所有这一切都发生在我们正准备迎接一场激烈的总统大选之际。而且

美国人确实对人工智能在政治中的使用表示担忧。据记录，我追踪到了 ChatGPT 统计数据可能来源。根据美联社芝加哥大学的一项民调，58% 的美国人认为，人工智能工具将在明年的选举中增加虚假和误导性信息的传播。

所以今天，我们将讨论这些风险。和我一起讨论这个问题的是伊森·布埃诺·德梅斯基塔。他是芝加哥大学哈里斯公共政策学院的代理院长，他的研究重点是将博弈论模型应用于政治冲突和选举问责制等领域。他最近与他人合著了白皮书《为 2024 年生成式人工智能选举做准备：基于学术研究的建议和最佳实践》。伊森，欢迎来到播客。

谢谢。感谢你们的邀请。很高兴来到这里。让我们从人工智能最新的戏剧性事件开始吧。正如大家可能听说过的那样，11 月中旬，OpenAI 的董事会解雇了其首席执行官山姆·阿尔特曼。几天后，阿尔特曼被重新聘用，董事会也发生了重大变化。根据你问的对象不同，这场来回争论部分上是关于

人工智能的加速主义与减速主义的争论，山姆领导着加速主义阵营，而董事会可能代表那些主张放慢采用速度和加强保障措施的人。在这种情况下，加速主义似乎赢得了胜利。我很想知道，这一事件告诉我们关于人工智能进入选举年状态的什么信息？

是的，我的意思是，我们并不完全知道发生了什么，但看起来这可能是分歧所在，或者至少是一些分歧。谁知道公司决策内部发生了什么。我认为这个问题，关于我们应该采取多么积极和激进的态度的广泛问题，与政治问题有关。尽管我认为加速主义辩论往往更侧重于。

我不知道，从我的角度来看，更像是科幻小说，你知道，世界末日之类的场景，世界末日之类的场景，而不是人工智能和选举。但我确实认为人工智能和选举在某种意义上是我们即将到来的 AI 紧急情况，我们迫在眉睫的 AI 紧急情况。这不是机器人接管世界的情况，而是我们在近期面临的情况。

我们将如何为人工智能可能以对民主至关重要的方式影响选举的方式创建保障措施或安全措施，而我们实际上只剩下几个月的时间来做出任何重大决定。所以我认为我们进行这场对话是一件好事。

是的，我认为我们上次在这个播客上谈论人工智能时，我们谈到了这样一个理论问题：如果你告诉一台机器把人类变成回形针，它能有多有效地完成这项任务？所以也许我们现在谈论的不是这个。但我确实很好奇，从选举的角度来看，最糟糕的情况是什么？你能想象在 2024 年大选中人工智能应用的最坏情况是什么？

人们担心的事情大致分为两类。两者都可能成为某种噩梦般的场景。我认为其中一种更严重，也更有可能发生。所以让我先关注这一点，那就是所谓的深度伪造问题。我认为最糟糕的情况当然可能是任意糟糕的。但让我们考虑一下现实中最糟糕的情况，那将是类似于深度伪造

人工智能创建的视频或图像，它描绘了一个主要候选人处于某种妥协地位，或者与恐怖组织领导人一起出现，或者比这更可信一些，但它是假的，并在选举日之前以十月惊奇的方式发布，说服了许多没有时间进行事实核查的选民，媒体也没有时间进行事实核查，并且

似乎左右了选举，似乎对选举结果很重要，让人们觉得选举结果在某种重要的意义上，呃，

被一种非常有说服力的方式由计算机生成的虚假信息所操纵。当然，我们已经看到一些深度伪造在选举中发挥作用的例子。因此，真正有理由担心这既是可行的，也是政治行为者开始这样考虑的。另一种用例，我认为是

不太可能造成严重问题，而且也很难想象它会彻底改变选举结果，那就是人们会大量转向 ChatGPT 或其他类似的人工智能聊天机器人工具来获取关于选举的硬性技术事实信息，而 ChatGPT 或任何你喜欢的聊天机器人，

给他们错误的信息，所以我问我的聊天机器人，你知道，我住在 60605，我的投票站在哪里，或者我如何登记投票？它告诉我一些不正确的信息。如果选民因此丧失投票权，那将非常令人担忧。我会说，还有一些其他的担忧已经被提出，我稍后会谈到，但让我们先关注一下这个深度伪造问题，因为你说这是更有可能发生的更严重的潜在威胁。

你说深度伪造已经被用于选举。这些例子是什么？它们似乎对任何事情都产生了实质性影响吗？选民能够确定它们是深度伪造吗？最终的影响是什么样的？然后也许更重要的是，我们将讨论解决方案，例如如何解决深度伪造的挑战？

让我给你举几个例子。在最近的土耳其大选中，深度伪造发生了一些有趣的事情。有一段视频显示，该选举中的一位候选人（最终没有赢得该选举）处于妥协地位，特别是与——与恐怖组织领导人一起出现。库尔德工人党，对吧？与库尔德工人党，没错，库尔德恐怖组织。

在土耳其政治中，这是一种具有破坏性的视频。这是假的。它是由政治对手发布的。我认为，它被揭露为假货的时间足够早，不太可能改变任何人的投票，而且似乎不太可能改变选举结果。但它确实是利用真实的深度伪造来真正试图误导选民的一个例子。这是错误的。

真正令人担忧的情况。我们在美国和其他地方也发生过几次类似事件。所以在刚刚结束的阿根廷大选中，出现了一些类似深度伪造的视频，这些视频更像是。这与美国的情况类似，例如，共和党全国委员会发布了一段视频，显示拜登总统和哈里斯副总统处于某种反乌托邦的未来情景中。

在一个政治广告中。这是一个深度伪造，因为它显示了看起来像拜登总统和哈里斯副总统的虚假场景。但在这种情况下，以及在阿根廷大选中类似的例子中，我认为没有任何意义上选民会被此所愚弄。我认为没有人看过这段 RNC 广告并认为，哦，拜登总统实际上就在那个反乌托邦的未来。也许我也是。嗯，

但是，你知道，这是朝着使用这种技术来描绘你的对手处于不利条件的方向滑坡。

好吧，让我们在这里玩一些假设性的游戏。让我们假设 2024 年大选最终是拜登对阵特朗普的大选。作为十月惊奇，一段视频出现了，比如说前总统唐纳德·特朗普的视频。这是人们在他 2016 年当选时谈论的“撒尿录像带”，对吧？也许在俄罗斯发生了一些事情，最终被拍了下来，无论如何。好的。

或者一段关于拜登的视频。他似乎在四处蹒跚，不知道自己在哪里，看起来他患有严重的痴呆症。人们会怎么做？我一开始要说的是，我们不知道这些视频是否是深度伪造的。这些是令人担忧的情况。它们令人担忧有两个原因，对吧，我们应该考虑一下。一个是选民可能会相信这些东西，而它们可能是假的。

这将是糟糕的。另一件事可能是它们是真的，候选人可能会说这是深度伪造，而选民。所以，无论它们是真是假，你我都正在进行这场对话，而且我们必须进行这场对话，这意味着选民的信息环境已经发生了真正的变化。他们不仅不知道虚假信息是虚假的，而且也不知道真实信息是真实的。

所以这改变了。我们实际上在土耳其大选中也看到了这一点，当时出现了一段关于一位候选人的性爱录像带，我们相信这是真实的。他声称这是假的。他说，这是一个深度伪造。所以信息环境现在确实处于这种不稳定的状态，而以前并非如此。所以问题是，人们会怎么做？我认为这是一个针对选民的问题，这是一个针对政治家的问题，也是一个针对媒体的问题。你如何报道这种视频？

你如何进行事实核查？所有这些都非常非常困难。而且没有简单的答案。我认为如果我是选民，我想做的事情是确保我开始关注值得信赖的媒体来源，也许我认为两派都有值得信赖的媒体来源，我不只是依赖一方或另一方。但我确实认为有一种……

一种说，与过去 10 年的社交媒体媒体格局相比，相对来说是一种积极的一面，那就是，如果你是一个选民，知道你无法知道虚假信息是虚假的，而真实信息是真实的，你可能会倾向于开始转向从专业记者那里寻求信息。

而不是仅仅相信你的 Facebook 信息流或你的 Twitter 信息流等等。在一定程度上，选民可能会更多地依赖至少经过审查并经过专业记者筛选的信息，这可能是好事。

我很想知道我们是否可以更多地谈论如何解决这个问题。根据我查看的一项同行调查，50% 的美国人实际上不知道什么是深度伪造。根据受教育程度的不同，也存在显著差异。所以如果我们从一半的人似乎甚至不知道什么是深度伪造的地方开始……

仅仅说，选民将不得不自己弄清楚，是一种方法。我认为可能有人会争辩说，是的，这正是我们必须采取的方法。其他人会认为，这里有更多监管的作用。这正是你在这份白皮书中讨论的内容。例如，除了说，选民转向传统媒体之外，还能做些什么实际的事情？因为让我们明确一点，许多选民不信任传统媒体，他们也不会在接下来的 12 个月内开始信任。

我认为有几个步骤，我想明确一点，没有灵丹妙药。我认为我们正在进入一场大选，在这场大选中，很难知道一些重要的材料是真是假。我认为我们应该对此保持警惕，没有灵丹妙药。但我确实认为我们应该采取一些实际步骤。

教育机构、民间社会，也许是地方政府等等，都需要在这方面做一些工作，进行人工智能素养教育。我认为，对于许多人来说，了解这些技术能做什么和不能做什么的最强大的工具是玩上半个小时。当你了解到它们编造事物的能力时，我认为世界上的每个学者都有过这样的经历：

要求 ChatGPT 为他们制作一份教学大纲。它制作了一份漂亮的大纲，其中包含所有这些漂亮的文章。你会想，在我的这个领域，我了解这么多，怎么可能会有我从未读过的完美文章？然后你发现它编造了所有文章的名称和一些作者的名字。这种体验非常强大，选民经历得越多越好。

我认为还需要做一些工作。我知道媒体信任度低，每个机构的信任度都很低，这是历史上信任度最低的时候。但我仍然认为，在考虑来源和事实核查问题，并试图对我们有什么理由认为是真实或不真实的东西进行某种认证方面，还需要做一些工作。因此，你可以想象一些学术界、民间组织、记者的联盟，

来自政治领域两派的人试图走到一起说，我们至少能够说，我们是否知道他们的身份，他们是否愿意在视频上签上他们的名字，并说，我拍摄了这段视频，或者我作证说我见过这件事发生。

所以我认为某些机构，有一些技术上的改进可以帮助追踪视频的来源，但也有一些由来自不同观点的善意人士创建的机构，他们愿意说，我们将对信息的来源提供一些认证，当然，并非每个选民都会相信。最阴谋论的选民当然不会相信。但有很多选民并没有非常积极地参与政治，他们也不是超级阴谋论者，他们可能正在寻找一些确凿的信息。我认为我们作为一个社会应该为他们提供这些信息，并在现在建立这些机构，这样到了十月，我们就可以为他们提供这些信息。我们不必仓促行事。

一些州政府已经涉足这个问题。我的意思是，我知道加利福尼亚州、德克萨斯州、明尼苏达州和华盛顿州是四个现在已经制定了法律来解决在选举前一定时间内发布与选举相关的欺骗性媒体的问题的州。例如，在 2023 年，明尼苏达州颁布了一项法令，禁止在选举前 90 天发布深度伪造媒体以影响选举。对吧。

你认为这些类型的干预措施有多有效？

正如我们所看到的，对什么是深度伪造、什么是误导性信息等等问题的裁决既非常困难又非常缓慢。所以我认为，认为这些类型的保障措施将保护选举的完整性，很难看出这将如何奏效。我们将在我们投票的那天投票。而且我将，你知道，视频发布了，它不是由竞选活动发布的，而是由政治行动委员会发布的。对我来说，很难看出这将对

在实际方面对政治的运作方式产生重大影响。那么，政府在这里是否有作用？这是一个好问题。

当你问人们他们支持哪种干预措施时，他们确实支持政府干预，尽管，你知道，当你谈到明尼苏达州法律的制定方式时，他们最支持，即政府干预以限制，你知道，欺骗性或误导性的深度伪造或欺骗性和误导性的人工智能生成内容。而且，你知道，问题当然在于对什么是欺骗性或误导性以及什么是深度伪造的裁决。对吧。

这里一个真正棘手的问题是，被人工智能触及当然不足以成为深度伪造，对吧？我们将人工智能用于各种事情。我们使用人工智能进行红眼消除。我们使用人工智能来去除图像中的背景人物。我们使用人工智能来润色文本等等。所有这些都不是人工智能的欺骗性用途。所有这些都是完全合理的用途。所以仅仅说政府将强制执行，你知道，如果你使用了人工智能，那就是违法的，因为这是行不通的

我们现在所做的一切都与人工智能有关。

政府当然可以在资助民间社会进行人工智能教育等方面发挥作用。对我来说，这不太清楚。我认为在法律上规定有些事情是违规的，我们稍后会进行裁决，这并不是一件坏事。如果你违反了规定，你将被罚款。你将入狱。这确实具有一定的威慑作用。但我认为这并不是，你知道，这并不是我们能够让政府能够快速将不良材料从流通中清除的那种强有力的措施。

水印是你在这篇白皮书中讨论的内容，我知道这是政府干预的另一个考虑因素，这将要求基本上任何由人工智能创建的图像都被标记为水印。你没有提到这一点。我很想知道。你认为这有效吗？是的。所以水印和标签在某种程度上，我认为，是讨论最多的工具。我认为它们被夸大了。

所以水印的基本思想是，硬编码到已经被人工智能更改或创建的事物中，将有一些东西，例如，社交媒体网站可以看到。因此，当他们在他们的社交媒体网站上发布该视频或图像时，它将获得一个标签，上面写着“人工智能生成”或“人工智能更改”或“人工智能编辑”等等。这是追踪来源的一种版本。

这不是一个糟糕的主意。它距离灵丹妙药还有很长的路要走。我认为存在几个问题。最大的问题是我已经指出的问题，那就是我们将人工智能用于很多事情。所以如果我要使用人工智能进行红眼消除，我要使用人工智能进行图片增强，我要使用人工智能去除背景物体，一直到我要使用人工智能生成深度伪造，所有这些事情都将获得水印。

如果所有这些事情都为用户或选民贴上人工智能的标签，那么该标签就毫无意义了，因为基本上每张图像都将获得人工智能水印和人工智能标签。然后他们将无法区分假货和完全无害的东西。

如果我们说，我的意思是标记那些具有有意义的、欺骗性的人工智能用途，而不是人工智能的无害用途，那么我就回到了那种灰色地带，例如，社交媒体网站必须说，这张图像的变化……

是否足够大或足够具有欺骗性，以至于值得贴上标签。这与我们一直在进行的关于在线内容审核和错误信息的辩论完全相同，在这些辩论中，社交媒体公司等一直在试图决定什么算数，什么不算数。它变成了一个政治足球，没有人知道谁应该负责。我们又回到了。一旦你创造了这些灰色地带，我们就又回到了所有这些关于内容审核的战争中。

你的结论是，解决方案是不进入灰色地带吗？我想说的是，在某种程度上，将会发生的事情是，当水印附加到基本上每张图像上时，

我不在乎我们是否这样做，因为它不会有任何作用。这不会帮助任何人。这被称为说谎者的红利。对吗？它对所有内容都产生了如此多的怀疑，认为所有内容都是人工智能生成的，以至于基本上没有人信任任何内容。

是的，我的意思是，可能发生两件事。我认为许多科技公司相信的事情是，这将是会发生的事情，选民或用户会说，哦，所有标有 AI 的东西都是欺骗性的，我忽略它，我不相信任何东西。另一件可能发生的事情是，人工智能生成的标签完全淡出用户的意识。每样东西都有这个标签，你像以前一样相信事情。就像，我不相信会发生的事情是所有信息的完全退化，而不是它们没有任何效果。

还有一个想法，与水印有关，但略有不同，那就是数字签名。也就是说，我可以，你知道，如果我生成一个视频，或者如果我是一个，你知道，专业新闻机构的记者，我生成一个视频，我可以通过某种方式对其进行加密签名。

并说，看，我，纽约时报的记者或诺克斯新闻的记者，我证明这件事是真的，我的加密签名附加在上面。无论何时在网上分享，它都会随之而来。你可以回去查看，我能将这件事的来源追溯到一个我可以追究责任的实际人物，或者如果事实证明是欺骗性的，我可以追究责任的实际新闻机构吗？这不如水印有前景，因为它在规模上更难实现，而且大多数内容永远不会有它。

但它比水印和标签更有前景，因为它具有真正的效果。如果你可以将问责制附加到一段内容上，那么就会有……有……有……有真正的证明，证明它是真实的。所以我们已经讨论了一些干预措施。我的结论是否正确，即你认为解决这个问题的最佳方法是通过民间社会和教育？

我认为这是——我认为我们需要采取多管齐下的方法。我认为制定一些监管保障措施是一个好主意，这样至少事后可以追究责任。

我认为民间社会进行人工智能教育是一个好主意。我要说的第三点，我认为实际上它比对话所暗示的更重要，那就是我认为政治家、政党和竞选活动在这里确实发挥着作用。我希望看到……

每个主要职位的主要候选人、政党、竞选活动等等，都公开承诺说他们不会使用具有欺骗性的 AI 生成材料，他们不会使用任何 AI 生成的材料来描绘他们的对手，诸如此类的事情。我认为，你知道，每个政治家都会遵守这样的承诺吗？当然不会。但是，你知道，肮脏的竞选活动并不是什么新鲜事。在民主的整个历史上，我们都经历过肮脏的竞选活动。但我认为公开声明，我不会这样做，

将使这样做变得更加昂贵。我认为这对民主来说将是一件好事，对于每个竞选活动和每个政治家来说，都会感受到压力，说我不会使用任何 AI 来描绘我的对手。

本期节目由 Experian 提供赞助。您是否正在支付您不使用的订阅费用，但找不到时间或精力取消它们？Experian 可以为您取消不需要的订阅，每年平均为您节省 270 美元，并节省大量时间。下载 Experian 应用程序。结果会有所不同。并非所有订阅都有资格。不保证节省。需要具有连接支付帐户的付费会员资格。

您是一位播客听众，这是一个播客广告。通过 Lipson Ads 的播客广告，接触像您这样的优秀听众。从数百个顶级播客中选择，提供主持人推荐，或在数千个节目中投放像这样的复制广告，以 Lipson Ads 接触您的目标受众。立即访问 LipsonAds.com。网址为 L-I-B-S-Y-N-Ads.com。

好的，所以还有一个噩梦般的场景，我认为，其他人也考虑过，你在你的白皮书中也提到了，但似乎泼了冷水。那就是人工智能基本上可以用来过度增强微目标定位。你可以基本上将你的竞选活动交给人工智能，并说，你知道，我们谈到过告诉机器，你的目标应该是创造尽可能多的回形针。

机器最终会把人类变成曲别针。如果你告诉机器，你知道，我想提高X或Y人口群体的投票率，或者可能对我们所认为的民主更有害，更具冒犯性。如果你告诉机器，我想尽可能减少黑人或福音派信徒的投票率，对吧？

你会看到什么结果？使用人工智能有可能做到吗？

这种微观定位和操纵的恐惧是真实存在的，正如你所说，它被广泛讨论。我们对此相当怀疑。这并不是说我们认为竞选活动会在某种程度上尝试，我们也不是说这些都不会发生。我们怀疑这对选举会有很大的影响。原因是，基本上是回顾了过去10、15、20年关于广泛的微观定位和操纵的社会科学研究。所以它

这些担忧已经存在很长时间了，但我认为它们变得尤其尖锐，特别是微观定位的担忧，当我们开始看到社交媒体上，政治广告出现在社交媒体上时。因为有了社交媒体，你已经可以进行微观定位了，对吧？你掌握了大量关于用户的数据，你可以将你的信息定位到非常具体的选民群体，不同的选民可以看到不同的东西。而且

我们所知道的在这个领域最好的证据表明了两件事。第一，操纵或劝说选民沿着这些路线走是极其困难的。根本就没有大问题。

任何这些微观定位方法的估计效果。竞选活动并不擅长操纵选民，这可能是因为选民实际上更聪明、更强大、比我们想象的更关注。也可能是因为他们比我们想象的关注度低得多，所以很难接触到他们。也可能是因为竞选活动是对抗性的。所以……

当你试图用虚假信息、微观定位等来操纵选民时，你会有一个在另一边反对你的竞选对手，并且有反驳信息的动机。所以你很难找到任何证据表明微观定位或更广泛的操纵是超级有效的。

事实上，反映这一点的是，当我们考虑政治广告和社交媒体等事情时，竞选活动在很大程度上放弃了它。他们并没有放弃政治广告和社交媒体，但他们在很大程度上放弃了微观定位。所以，

人工智能可能是如此新颖，如此彻底地优于我们以前拥有的任何东西，以至于它会有所不同。但过去的证据表明，你不能让任何选民丧失动员能力或操纵任何选民，而是很难让足够多的选民对选举结果产生影响。

让我们解决我提到的那些具体例子，指示人工智能尽可能减少黑人选民或福音派选民的投票率。这项技术存在吗？那会是什么样子？

我的意思是，让我们承认这里的不明确性，对吧？通过社交媒体进行微观定位可能最终并没有那么有效，或者我们在2012年和2016年夸大了它的有效性。

但我想，在这种情况下，我们真的不知道有什么可能。那么我们该如何为此做好准备或解决这个问题呢？或者你不同意这一点。是的，我的意思是，不，我们不知道。当然，我们不知道，不，不。就像，如果我扔下一个球，它会落到地球上，我知道这一点。但竞选活动实际上会做什么呢？我认为我们不应该，你知道，我们不应该想象我们刚才所说的曲别针场景，我们告诉机器，就像，

你自己思考并制定所有策略等等。竞选活动实际上会做什么？他们可能会告诉一个，呃，呃，你知道，一个AI程序，一个AI开始撰写广告，在网上发布或通过电子邮件发送给用户。他们会告诉机器自动进行大量的A/B测试，对吧？对。不同版本的广告，不同的图像，针对每个不同的选民，不断进行实验，看看哪些广告点击率高，哪些广告参与度高，哪些广告，无论什么，呃，

并开始，你知道，预测哪种类型的选民更有可能观看哪种类型的广告，更有可能做出回应，更有可能导致捐款等等。他们将能够自动化种族生成。从某种意义上说，我们已经能够做到这一点，因为竞选活动，你知道，至少从奥巴马总统的第一次竞选开始，他们一直在进行大量的政治信息A/B测试。但是

现在，他们不仅能够让他们的电脑预测哪些广告更有效，而且他们还能够让他们的电脑生成这些广告。你不需要人类来撰写它们。这节省了一些时间。你可以做得更快。你可以做得更高效。但这仍然是相同的基本技术。

你知道，电脑正在撰写文案，但这仍然是文案，它仍然是一封电子邮件或Facebook广告，或者任何发送给选民的东西，选民阅读它并做出回应。所以在我看来，这似乎并没有那么大的不同，不同之处在于我们可以以更高的规模、更低的成本做到这一点。

所以在我看来，过去的结果似乎很可能是正确的，那就是这样做并不那么有效。选民对这些事情的反应并不强烈。用这种技术（如广告和信息）来转移选民、操纵选民或使选民丧失动员能力的空间并不大，这对我来说似乎仍然很可能。我要说的是，对我来说更大的风险是——

选民可能会相信每个人都被操纵了。这种说法是，这是人工智能选举，我们都被机器操纵和去动员了，这对于合法性来说是一个令人担忧的说法。我们都认为自己被机器操纵了，而机器选择了选举结果，这种风险是我们应该担心的，对我来说，比我们应该担心我们实际上以这种方式被操纵更重要。

是的，我认为所有这一切的一部分，我们在Sam Altman的爆炸性事件中看到了这一点，那就是我们现在正在争论对尚不存在的技术的方法和监督。这种技术最终会是什么样子，目前还不清楚。就选举而言，我们只是在谈论这个问题。但OpenAI董事会和其他在网上和董事会会议上争论这个问题的人正在努力弄清楚如何处理一些未知的东西。

从你作为一名深入研究数据并思考民主的人的角度来看，你如何处理这样的事情？你试图围绕一项技术制定法规，这项技术实际上并不存在，至少不像人们担心的那样，有一天可能会存在。所以我会先说几件事。

第一，存在真正的权衡，我们应该谨慎。就像我们应该，你知道，我不想成为，我想成为扩张主义的壳，但我不是，我认为存在真正的权衡，我们需要考虑它，当然应该考虑监管。但是，即使在民主层面，也存在权衡。例如，对于大型限制。例如，我认为这项技术，即使是目前存在的技术，对民主有利的一个地方是

在帮助下级候选人、对根深蒂固的现任者提出挑战但没有大量资金并且无法雇用媒体主管等方面生成文案并传播他们的信息。所以

我认为有一些机会，你知道，对于下级选举和资金不足的候选人来说，这将以我们可能应该重视的方式增加选举竞争。即使对于社交媒体、政治广告等事情也是如此，资金不足的候选人和下级候选人大量使用它们，因为他们负担不起电视广告，也负担不起媒体主管等等，

所以我认为我们不应该只考虑负面因素。我认为存在潜在的积极因素。另一个潜在的积极因素是在选民方面。你知道，我认为美国民主中一个我们一直担心的长期问题是选民对他们的候选人了解不够，对政策了解不够。

聊天机器人很有趣，我认为它们在提供事实信息方面做得不好，但在综合信息方面做得相当好。所以如果你开始与聊天机器人交谈，并说，例如，这就是我认为的事情，我看起来像是共和党人还是民主党人？或者这是一个长期的政策，你知道，这是我从候选人的网站上获取的平台，你能把它总结成五个要点吗？它会做得不错。而且

你知道，你作为一个选民可能会学到很多对民主有用的东西。也许会有，你知道，一个虚拟的，你知道，一个聊天机器人，罗恩·德桑蒂斯，你将能够以比听他的演讲更引人入胜的方式了解他的政策观点。等等，我可以暂停一秒钟吗？我读了你白皮书中提到的关于人工智能对民主的这些积极方面的例子。

我有点像，我不知道，这感觉有点牵强，也许我们必须找到一些积极的方面。像选民是否会使用Chat GPT来更好地理解民主，或者这项技术最终是否会帮助弱势群体一样，大型竞选活动不会获得更好的技术访问权限，这是多么现实？

大型竞选活动绝对比小型竞选活动更容易获得这项技术，但这并不意味着它不会帮助公平竞争，对吧？所以大型竞选活动比小型竞选活动更容易获得一切。问题是，哪些会缩小差距？在我看来……

手工撰写真正引人注目的广告文案，这是一件非常昂贵的事情。如果你考虑一下资金充足的候选人和资金不足的候选人之间的差距，手工撰写文案对资金充足的候选人来说确实非常有利。而……

自动化就像，他们仍然会有写出更好提示的人等等，但我猜这会缩小差距。所以我认为这是真实的。我认为在线广告确实有这样的效果，有一些候选人以前没有人听说过。现在他们仍然几乎总是会输，对吧？你知道，根深蒂固的现任者几乎总是会获胜。但选民了解的一种方式

他们应该为州财务主管投票，这是一件他们一无所知的事情，要么他们看到广告，要么他们没有看到。他们不会学习其他任何东西。所以如果州财务主管候选人现在能够负担得起广告，而以前负担不起，我认为这是一件真实的事情。广告确实是选民了解候选人的方式之一。

这不是我们从政治哲学课上学到的理想版本，但这就是正在发生的事情。所以我认为这是一件事。是的。另一个是我实际上认为——我认为——我不知道这是否会在24年发生，但对我来说，在不久的将来，我们不会有主要候选人拥有个性化聊天机器人，这几乎是不可想象的，这些聊天机器人可以与这位候选人进行对话——

你知道，一个经过训练来代表这位候选人的聊天机器人，作为一种有趣的方式来吸引，特别是年轻选民，让他们了解，我认为这实际上似乎，这对我来说几乎肯定会发生。等等，事实上，事实上，我，

我敢肯定，在我们录制这个播客的时候，我收到了妮基·黑利发来的自动短信。是妮基·黑利。加仑，你有时间谈谈吗？问号。加仑，你听说过这个消息吗？我对我的竞选现状有一个重要的更新。我需要让你知道。妮基。看？

现在，对于妮基·黑利来说，这绝不是——如果那是克里斯·克里斯蒂，那可能真的是他，因为他现在没什么事可做。但对于妮基·黑利来说，这必须是自动化的，对吧？她很忙。所以我认为——就像我认为你可以想象——我不知道。我有一个17岁的孩子。就像我可以想象——

年轻选民与聊天机器人互动，但没有通过其他许多方式参与政治，并学习一些东西。我不知道，这对我来说似乎并非不可能。我会保持开放的心态。我会保持开放的心态。我不是想对你对人工智能在民主中的潜在见解泼太多冷水。但我打断你了。我认为你提到的是监管我们不知道最终会走向何方的其他方面。是的。所以，我的意思是，总有很多理由要……

呃，担心监管技术，其中最重要的一些方面与……任何对民主的承诺是分开的，当然这不会是人工智能的主要用例，那就是，呃，你知道，某些类型的监管。我认为例如萨姆·阿尔特曼所倡导的许多法规，例如，许可或限制，除非你的计算量超过一定数量，嗯，

对微软、OpenAI和Meta等现有企业来说非常有利，而对进入该市场的新企业来说非常不利。我认为这是一件需要担心的事情。我要说，我认为这是一件需要担心的事情。

在民主中。所以我们讨论过的一件事，这比24年的选举更长远一些，那就是如果，正如我们一直在讨论的那样，我们的大部分政治信息最终都由人工智能进行中介，那么这里可能真正发生的一件事。

随着时间的推移，人工智能的内容审核决策，例如允许哪些类型的输入以及不允许哪些类型的输入，哪些类型的输出被认为是越界的以及哪些类型的输出不是越界的等等，人工智能公司进行的这些内容审核决策将对民主、我们能够访问的信息类型以及我们能够思考的思想类型产生极其重要的影响。我不想听起来太像福柯之类的人，但人工智能过滤给我们信息的方式将塑造我们对政治的看法。

如果这由一两家大型科技公司控制，那对民主来说是极其令人担忧的。在我看来，当我们开始考虑人工智能的监管时，我们真正应该考虑的事情是，我们如何创建一个具有防护措施的环境，以防止几家首席执行官成为那些对我们在政治内部可以思考什么和不可以思考什么做出所有内容审核决策的人。是的。

基本上与我们在过去十年左右一直在进行的关于社交媒体的辩论相同，即我们的保守派声音在社交媒体平台上被削弱了。我们可以就人工智能进行同样的对话。

是的，所以这是一个版本。在社交媒体上，我们一直在进行这些对话，对吧，马克·扎克伯格应该成为决定在美国政治话语中允许什么或不允许什么的人吗？还是埃隆·马斯克应该成为那个人？对吧？这是一个版本。还有一些其他的版本，至少目前来说，可能不太明显地带有党派色彩，而更多的是对民主问题的担忧。

你知道，在多大程度上整合了新的想法？在多大程度上使用这些工具会阻止新的创造性思想迅速进入讨论，等等，因为它们是根据旧数据进行训练的，它们是无论什么。如果我们对政治信息的控制过于集中，可能会发生各种意想不到的后果，对吧？

正如你所说，我们不知道这项技术会做什么，但我认为政治信息可能变得越来越集中的方式，我们可能开始使用这些东西来过滤我们的想法、思维、写作等等的方式，有很多方式，不仅仅是Facebook的内容审核，保守派的声音被压制，左翼的声音被放大，等等。但还有其他的，我认为……

如果民主想要什么，那就是一种强大的信息流。如果人工智能确实朝着这个方向发展，那么一两家公司控制着产生我们大部分信息的东西，这将是非常令人担忧的。这个播客的主题在这里总结一下，特别是这次谈话，那就是不确定性。现在，就人工智能而言，我们知道未知数。我想，我们也有很多未知的未知数。是的。

由于未知的未知数是未知的，我无法问你未知的未知数是什么。我认为这是我在一句话中说“未知”次数最多的一次。但是，在哪些领域我们对人工智能的某些方面产生了流行的痴迷？作为更接近消息来源的人，你认为今天公众领域可能没有问到或没有真正谈论到的领域有哪些？是的。

我们没有谈论的一件事，尽管我们已经触及了与之相关的事情，那就是人工智能本身已经成为政治内部的故事，而不是政治成为故事，而人工智能成为工具。我认为这是不好的。如果一个人是某个办公室的候选人，比如说，不是在竞选的顶端，所以为了争取关注，他可以保证通过使用人工智能来获得关注。

我认为你会看到德桑蒂斯的人工智能广告或RNs之类的东西。这只是一个故事，并不是因为人工智能图像有什么引人注目的地方，而是他使用了人工智能进行选举，我们担心民主。所以我认为我们正在创造一些不好的激励措施，让我们走上这条不归路，让AI本身成为新闻。我认为不是你和我这样做，而是我认为……我们现在应该放弃整个剧集吗？是的，让我们把它扔掉。我们对撰写白皮书表示遗憾。我们向所有人道歉。但我认为……但我认为……

媒体思考什么使人工智能成为新闻，而不是激励人工智能噱头将是一件好事。所以我认为这不是一件大事，但我认为我们有点担心的是人工智能本身有多么具有新闻价值。

是的，我实际上认为这与你第一次开始谈论重点应该是我们的政治而不是人工智能时，我想让你走的那条路不同，就像，你知道，我已经报道民主制度相当长一段时间了。过去我的一些报道的一个主要焦点是选区划分。当你深入研究这条道路时，你会看到

我们喜欢假装选区划分是我们政治中许多问题的根源，但实际上根源要深得多。虽然选区划分可能导致一定比例的两极分化，但它可以量化到大约5%左右。而且我们自己比把自己划入隔离区更倾向于自我隔离，本质上是这样。所以，

所以我很好奇，就像在报道人工智能时，我们对人工智能的担忧最终是我们对参与我们政治的人以及他们行为或愿意行为的方式的担忧。

是的，我认为这说得很好。我的意思是，我认为这对我们对两极分化或任何初选、选区划分等的许多直觉都是正确的。对于这些事情中的许多，当你看看它们有多重要时，它们有点重要。也应该以这种方式考虑人工智能。你所说的一件事，我认为，确实让我明白了一件事，那就是，

我们对人工智能以及我们政治实践中担心的许多事情，微观定位和操纵选民，使选民丧失动员能力，散布关于对手的误导性信息或丑闻信息，这些都是我们政治的特征。政治是一件肮脏的事情。政治家在竞选活动中总是表现得很糟糕，一直如此，

永远如此。当一个政治家表现得很糟糕，然后赢得选举，他们使用人工智能来做到这一点时，我们不应该过于相信这意味着人工智能摧毁了选举或竞选活动，因为他们无论如何都会表现得很糟糕。

他们有了一个新的工具，也许他们可以做得更好一点，规模更大一点，成本更低一点。这不是好事。但是当我们看到一个候选人用人工智能耍阴谋诡计时，他们可能只是通过编辑一些音频来耍阴谋诡计，或者他们可能以许多不同的方式耍阴谋诡计。所以

这些影响很小，原因之一是这些技术有替代品。所以，你知道，他们会使用人工智能做坏事，但他们总是做坏事。选举以许多方式运作了很长时间。当然，民主远非完美，我们的民主当然也远非完美。但是，我们会看到人工智能被用于一些坏事，这并不意味着人工智能破坏了选举民主。

所以你在这里的信息部分是，不要完全放弃权力，这样做会使我们的民主丧失权力，只是耸耸肩说，人工智能搞砸了。

整个事情。绝对的。我的意思是，绝对的。就像这是我们的信息一样。我认为在我们的白皮书中，我们认为这种说法很危险，技术也很危险，选民应该，重要的是投票，对吧？重要的是作为一个参与者，但是，当然，各种坏事都会发生，人们试图操纵，有虚假信息等等。我们也投票给候选人。而且，你知道，你在美国经常在两个候选人之间做出选择，

你可以判断哪个更偏向你，或者你可以判断哪个更诚实，即使在这个过程中有很多欺骗性信息和噪音。我认为这是一个真实的信息。

好吧。所以我们必须同时记住两件事。第一，警惕人工智能，特别是深度伪造，如何在2024年大选中被用来操纵选民。但也不要过于悲观，以至于认为选举已经被人工智能接管了。非常感谢你，伊森。我真的很感谢你今天加入我。我很荣幸。非常感谢你。

我的名字是加仑·德鲁普。托尼·周在控制室。我们的制作人是谢恩·麦基翁和卡梅伦·特雷塔维安，我们的实习生是杰拉·埃弗雷特。你可以通过电子邮件联系我们，地址是[email protected]。你当然也可以在推特上向我们提出任何问题或评论。如果你喜欢这个节目，请在Apple Podcast Store上给我们留下评分或评论，或者告诉别人关于我们。感谢收听，我们很快再见。