You’ve Been Deepfaked
31:07 Share

当你的肖像被制作成AI生成的色情作品时，你会怎么做？——这是一个人们已经面临的问题。但正在国会审议的立法可能会造成比解决问题更多的问题。 嘉宾： 乔安妮·丘，洛杉矶的演员和视觉艺术家。 萨曼莎·科尔，404媒体的联合创始人及《性如何改变互联网以及互联网如何改变性》一书的作者。

播客制作：埃文·坎贝尔和帕特里克·福特。 了解您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 此消息由Apple Pay提供。忘记你的钱包，一切都没问题。因为有了Apple Pay，你只需轻触你的iPhone（你永远不会忘记的钱包），即可在全球数百万个地方付款，包括网站、应用程序以及任何你看到非接触式支付标志的地方。

Face ID内置安全功能，因此您无需担心卡片丢失或被盗。最棒的是，你仍然可以获得你喜欢的信用卡奖励、积分和返现。所以，告别钱包吧。将你的卡添加到Apple Wallet并开始以Apple的方式付款。适用条款。

在Sierra，您可以以令人难以置信的价格发现顶级运动装备，这可能会导致另一个发现。你的耳机一直没有连接。真尴尬。发现顶级品牌，价格出乎意料地低廉。Sierra，让我们动起来吧。在我们开始之前，先快速提醒一下。今天的节目是关于非自愿色情内容的。我们使用了几个生动的描述和词语。收听时请注意。

你是什么时候第一次意识到你的形象被深度伪造的？是在去年6月初。只是一个晚上。我晚上在网上很无聊。而且，你知道，有时像每个人一样，出于好奇会搜索自己的名字，看看会出来什么。

乔安妮·丘是洛杉矶的一位演员和视觉艺术家。前几条结果是我的网站，我的IMDb页面。然后我向下滚动，我说，这是什么？乔安妮看到的是自己被深度伪造的色情视频和图像。超过400件内容。

那是乔安妮·丘，娇小的亚洲女人被五个黑人拉伸或受孕，或者乔安妮·丘，愚蠢的中国妓女，诸如此类。但实际上都不是她。她被深度伪造了。乔安妮惊呆了。我认为我唯一能处理它的方法就是让自己与之分离，然后从上面观察它。但与此同时，我也感到非常愤怒，这只是……

怎么会有人这样做，然后在互联网上到处发布呢？我只是……我的意思是，我仍然不敢相信。乔安妮仍然不知道针对她的人的身份。他在多个平台上使用了几个不同的屏幕名称，但他对她的痴迷似乎一直持续存在。我在TikTok上发布了一些内容，说，你知道，在过去的几个月里，这种情况一直在发生。我向YouTube提交了报告，就像YouTube，你们在做什么？

在那之后几天，我注意到无论这个人是谁，他发布了一个奇怪的YouTube视频，说，我对乔安妮·丘表示歉意。我不是故意伤害你的。这里有一组庆祝你的图像，它们并非色情性质的，或者类似的东西。这太疯狂了。没错。这在某种程度上甚至比那些露骨的内容更糟糕，因为他编造了所有这些随机的幻想故事情节。然后他开始……

乔安妮·丘还是个小女孩，乔安妮·丘这样那样，我只是，哦，上帝，请不要参与制作关于未成年儿童的内容。在与各个在线平台取得有限成功后，乔安妮进行了反击，聘请了一位数字调查员来查找和删除滥用内容。但她的故事还没有结束，她仍然必须作为演员和艺术家在线存在。

我想如果我想和人们谈论这件事，首先，这不是我想让我最讨厌的敌人经历的事情。我想告诉人们，不要让这件事让你觉得你不再拥有自己的身体或自己的形象了，因为我有一段时间就是这样感觉的。这不是你的错。你不是孤单的。不要害怕说出来。

今天的节目，AI如何增强非自愿色情内容，让任何人都可以从手中掌控来针对另一个人。我是丽齐·奥利里，您正在收听《下一个待定》，一个关于技术、权力以及未来如何被决定的节目。请继续收听。♪

本播客由Progressive保险公司赞助播出。你是否发现自己一直在玩预算游戏，在这里挪一点钱，在那里挪一点钱，希望一切都能顺利进行？有了Progressive的“说出你的价格”工具，你可以成为一个更好的预算者，并有可能降低你的保险费用。

告诉Progressive你想要支付多少汽车保险费，他们会帮你找到符合你预算的方案。今天就访问Progressive.com试一试吧。Progressive意外险公司及其关联公司。价格和承保范围受州法律限制。并非所有州都提供。

此消息由Apple Pay提供。忘记你的钱包，一切都没问题。因为有了Apple Pay，你只需轻触你的iPhone（你永远不会忘记的钱包），即可在全球数百万个地方付款，包括网站、应用程序以及任何你看到非接触式支付标志的地方。

Face ID内置安全功能，因此您无需担心卡片丢失或被盗。最棒的是，你仍然可以获得你喜欢的信用卡奖励、积分和返现。所以，告别钱包吧。将你的卡添加到Apple Wallet并开始以Apple的方式付款。适用条款。我第一次从记者萨姆·科尔那里听到乔安妮的故事，我认为她是报道深度伪造的杰出美国记者。

萨姆是404媒体的联合创始人，多年来一直在报道深度伪造技术。深度伪造技术最早出现在2017年左右，但它们非常基础。它们看起来不太好，制作起来需要大量的工作。你需要多张图像、经过专门训练的算法以及大多数人都不具备的技术技能。但是现在，生成式AI的出现将深度伪造技术带入了大众市场。

你只需要输入一个提示。你可以说，例如，我想看看泰勒·斯威夫特做这样的事。你甚至不需要图像。你只需要使用文本。有一些应用程序可以做到这一点。你知道，我们看到中学生在做这件事。现在就这么简单。你不需要像以前那样需要编码技能才能做到这一点。我们现在所处的环境就是这样，通过你的手机就能很容易地做到这一点。

而你以前需要一台电脑，一台PC，你知道，一台相当好的游戏PC和一些技能才能做到这一点。这项技术是否有良性的用例？因为我们听到非自愿色情内容是一个用例，我甚至不想称之为色情内容。虐待。但有没有好的用例？这项技术是否以其他方式被利用？

所以当它第一次出现时，著名的例子是星球大战中的莱娅公主，在新的星球大战电影中，因为他们，比如，把她的脸放在她年老的身体上，或者，比如，他们把她换到新电影中，让她看起来像她年轻时的样子。所以好莱坞已经使用它一段时间了。我认为是罗伯特·德尼罗，他的其中一部电影，他变年轻了，这就像是一种深度伪造技术。是的。

电影已经这样做了相当长一段时间了，但是

它仍然不是一件非常普遍的事情，因为人们普遍对此感到反感。他们不喜欢看到它。我可以想象它被用于广告和营销中。如果你想改变广告中演员的外观，但又不想重拍整个镜头，这在广告中是一件非常耗时费钱的事情。而且经常发生这种情况，客户说，我不喜欢她的头发。我们可以换一个

你好。

为了让所有看到这段话的人都清楚，我是一个通过AI重建的克里斯·佩尔基版本，它使用了我的照片和我的语音资料。我想发表我自己的声明。所以，大家好。非常感谢你们今天来到这里。这对加布里埃尔·霍尔卡西达斯（枪杀我的人）来说意义重大。很遗憾我们那天在那种情况下相遇了。在另一种生活中，我们可能可以成为朋友。

我相信宽恕和宽恕的上帝。我一直如此，现在仍然如此。

他接受了他杀手的道歉，并说，我原谅你杀了我，来自坟墓。太……我笑了，因为它很荒谬。太可怕了。法官被感动了。法官说，我喜欢这个。我太感动了。我很高兴你这么做了。家人完全同意。就像他的家人，他的姐姐那样。家人完全同意。他们说，这与他会说的话很现实，但是，

谁又能真正说出他会说什么呢？对。我不知道。我的意思是，他们比任何人都了解他，但他仍然是他自己。所以我感觉就是这样。我不会，我不知道我是否会称之为技术的良性用途。但这是一种用途。这是一种不违法的用途。

乔安妮的故事中独特的一点是，它似乎来自一个人。当我想到深度伪造骚扰活动时，我会想到许多巨魔追逐名人，泰勒·斯威夫特就是一个例子。但乔安妮虽然是一位演员，但她并不是名人。这看起来真的完全来自这个人。是的。

你以前见过这样的事情吗？这很常见吗？你说得对。就像我，当我与深度伪造受害者交谈，当我看到这种情况在线发生在名人身上时，它通常就像一个社区，缺乏更好的词语。就像一群人正在努力制作他们所能制作的最好的斯嘉丽·约翰逊深度伪造作品，或者任何东西。所以，是的，

通常他们只是匿名的庞大的人群做这些事情。但是，是的，我认为她的案子非常独特，因为它似乎只是这个人非常可怕地痴迷于她，然后会来回回应她。因为通常如果你试图与这些人交谈，他们不会真的上钩。他们根本不会咬钩。

除了我设法与2017年制作深度伪造作品的第一人进行了非常简短的交谈。他说什么了？他说他们都会说的话，那就是如果他不制作这项技术，最终也会有人制作。技术可以用于善与恶。所以，谁又能说他所做的事情一定不好或不可避免呢？他们都说同样的话。

在被深度伪造后重新获得你的形象是极其困难的。

这通常涉及在平台（例如X或YouTube或色情网站）上查找视频，并发送请求将其删除。但平台通常反应迟缓，有时也不会贯彻执行，更不用说这个过程带来的情感负担了。

乔安妮最终聘请了数字调查员查尔斯·德巴伯来帮助她。当你有一位调查员时，这个过程是他们可以更进一步，并且真的开始为你做这件事，开始为你发送这些信件，为你发送DMCA请求。

这为你减轻了巨大的负担，但很多时候你仍然最终不得不找到所有这些链接，因为你知道，你受到了最大的影响。所以你很有动力去做。调查员的工具箱里肯定有更多工具可以做到这一点。他们还在试图通过向他发送链接来找到他，然后他会点击这些链接，并显示链接。

他的IP地址。所以直接与他交谈的一部分是，我们可以让他显示他在哪里，他是谁？你知道，我们可以让这件事继续下去吗？这对受害者来说是一个巨大的负担……

你知道，充当，再次，这有点像对他们的施虐者的活诱饵。这是一种会发生的事情，再次，这就像这在许多不同的虐待场景中很常见，但直接与这个人接触对于试图找到他是谁很重要。乔安妮从未报警。为什么？

她过去有过一次不好的报警经历，她进去试图举报一些事情，他们基本上告诉她走开。这在虐待受害者中非常普遍，就是犹豫要不要报警，因为很多时候警察会说，你没有足够的证据。他们会说，你做了什么才导致这种情况？这太可怕了。你知道，他们，我的意思是，很多时候，就像如果你

如果你是一个性工作者去报警，乔安妮不是性工作者，但她支持性工作，但她只是说，这不是我生活中的选择，所以我不想被推入这种情况。但性工作者很多时候会被警察自己虐待。你知道，你冒着从一个骚扰者变成另一个骚扰者的风险。这是一个在全国各地都存在的系统性问题。当……

警察很多时候都不相信你时，很难得到帮助。当我们回来时，国会刚刚通过了关于深度伪造的立法。萨姆对此表示怀疑。本播客由Progressive保险公司赞助播出。

你今天选择播放这个播客了吗？明智的选择。Progressive喜欢帮助人们做出明智的选择，这就是为什么他们提供了一个名为AutoQuote Explorer的工具，它允许你将你的Progressive汽车保险报价与其他公司的费率进行比较，这样你就可以节省研究时间，并且当你选择最适合你的费率时可以节省开支。在这一集之后，访问Progressive.com试一试吧，Progressive意外险公司及其关联公司。并非所有州和情况都适用，价格因购买方式而异。

本集由思科的OutShift赞助播出。虽然单个代理可以处理特定任务，但真正的力量在于专业代理协同解决复杂问题。但存在一个根本性的差距。这些代理之间没有标准化的基础设施来发现、沟通和相互协作。这就是Agency的用武之地。

Agency是一个开源集体，正在构建代理互联网，这是一个全球协作层，AI代理可以在其中一起工作。它将连接跨供应商和框架的系统，解决企业在发现、互操作性和可扩展性方面最大的问题。凭借思科、Crew.ai、Langchain和MongoDB等贡献者，Agency正在打破孤岛，构建互操作AI的未来。

网址是A-G-N-T-C-Y点O-R-G。

今天的节目由NerdWallet的Smart Money播客赞助播出。做出财务决策不应该感觉像是在和朋友一起选择吃饭的地方一样。选择太多，每个人对什么值得都各有看法。一个人说投资加密货币。另一个人说全力投资房地产。与此同时，你只是在试图弄清楚你的信用卡年费是否值得。这就是NerdWallet的用武之地。

NerdWallet的金融记者会为你做研究，这样你就不必做了，他们会分解细则，消除错误信息，并为你提供真实的基于事实的见解，这样你就可以自信地做出明智的财务举动，而无需群聊的混乱。NerdWallet的Smart Money播客可以帮助你更聪明地使用房屋净值，而不会过度杠杆化，以及何时再融资实际上可以为你省钱，而何时不能。

想知道股息股票还是成长型股票更适合你吗？听听NerdWallet的建议。他们还帮助你用通俗易懂的语言解释ETF和共同基金之间的真正区别。充满信心地做出你的下一个财务举动。在您最喜欢的播客应用程序上关注NerdWallet的Smart Money播客。请继续收听本集的结尾，以收听Smart Money的预告片。我们正在谈论乔安妮的故事，不久前国会通过了《撤下法案》，该法案……

将对非自愿图像的传播施加严格的处罚。它以压倒性的两党支持通过。你对这项立法有什么看法？这很难，因为我喜欢看到这类事情受到更严肃的对待。我喜欢看到网络虐待，非自愿图像总体上受到严肃对待，当然，任何时候都是如此。但这只是……

在我看来，这是更多审查制度的设置。《撤下法案》没有规定针对滥用撤下请求的条款，它使平台能够快速响应滥用请求。当我提到滥用请求时，我的意思是，你知道，人们经常滥用版权，说我不喜欢这个视频，所以我不想让它出现在那里，而实际上从法律上讲，他们根本没有

合法地允许将其删除的权限。所以这是一个巨大的问题。这对审查制度来说是一个问题，对记者来说是一个问题，当然也是一个言论自由问题。但《撤下法案》要求平台在48小时内删除任何违规内容。哇。这太短了。太快了。太快了。

特别是考虑到许多大型科技平台，如Facebook、X、Instagram以及所有其他平台上都有大量非自愿图像，说实话。他们都在削减其审核团队。所以他们认为审核在很多情况下不再是优先事项了，因为他们只是说，好吧，每个人都应该被允许说任何他们想说的话。尤其是在特朗普执政期间，就像，哦，好吧，你知道，我们正在摆脱特朗普。

那些说没有仇恨言论或什么的“觉醒规则”。我在描述中非常极端，但就像，你知道，扎克伯格说他，他不，他，他不打算再以这种方式审核言论了。现在越来越少的实际人工审核员在做这项本来就很费力且难以

而且耗时的工作，现在你又有了这项联邦法律，它说如果你不遵守48小时，我们将对你采取行动，你知道，联邦贸易委员会将追究平台的责任。所以将会发生的事情是，他们将把所有事情都推过去，然后稍后再解决。萨姆说，这种方法可能意味着走向另一个极端。因此，像母乳喂养的母亲这样的图像与非自愿色情内容的处理方式相同。

最重要的是，快速处理流程可能会让互联网巨魔和施虐者自己能够针对他们不喜欢的內容。

一旦你有了滥用这些法律的巨魔或任何人，平台就会说，哦，糟糕，我需要尽快遵守这项联邦法律。将会发生的事情就像大规模审查制度一样。平台将完全删除成人内容，这将是非常极端的。但是，你知道，就像我可以看到它肯定会发生一样。这只是说我们无法处理这个问题。这太多了。负担太重了。

雇佣更多审核员的费用太高了。费用太高了。所以完全没有成人内容了。没有更多不适合工作的内容了，因为它正在制造我们无法处理的风险。我认为这将发生在较小的平台上，特别是因为他们肯定没有能力遵守这一点。《撤下法案》还要求平台不仅要删除被举报的单个实例，还要求他们删除平台上所有其他实例，即

内容的副本，这将需要对每一件内容进行指纹识别，这在技术上既昂贵又耗时。小型平台无法做到这一点，更不用说大型平台是否愿意为此付费以及是否愿意付出努力了。所以我不知道。我只是认为，我认为这对成人内容来说真的很糟糕。我认为这对

每个人来说都很糟糕，因为最终对成人内容有害的东西对每个人都有害。我认为我们可能会看到很多AI审核员介入，并说只是扫描图像并说，好吧，这是合法的，这是不合法的。很难争辩说删除非自愿色情内容是一件坏事。

但萨姆说这是一个言论自由问题，并且法律的构建方式可能意味着任何被认为令人反感的內容都可以在没有公平审查的情况下被删除。我确实认为，尤其是在本届政府领导下，考虑到这项法律将落入联邦贸易委员会之手，这对于许多人的一个重要蓝图

现在政府和特朗普的支持者是想让色情内容完全从互联网上消失。他们根本不想在互联网上看到任何成人内容。这是非常流行的合法、有利可图的内容，而且遍布互联网。他们认为这是非法的。

这是困扰我们国家的道德和伦理邪恶，他们希望它消失。所以我认为《撤下法案》是这项计划中的一步。它让法律为许多讨厌色情内容的政客做了道德和伦理工作。他们讨厌同性恋者。他们讨厌性表达，他们不想在互联网上或公共场合看到任何这些东西。

总的来说，互联网现在是我们的公共空间。这有点让人想起FOSTA和SESTA。我将拼写出这些缩写词。它们太长了。FOSTA是《允许各州和受害者打击在线性交易法案》，SESTA是《停止协助性交易者法案》，因为……

这些听起来像是出于好意而产生的，但后果却相当严重。就像，你能解释一下这些法律发生了什么吗？就像你说的，这些法律是出于好意，如果你相信的话，如果你阅读的话。如果你阅读标题。是的。就像，是的，谁会反对呢？

呃，打击性交易或消除互联网上的性交易。这听起来很棒。每个人都想要这个。呃，你知道，色情表演者想要这个。成人产业的人们想要这个。每个人都想要这个。呃，但是，呃，

结果是，任何被解释或认为是“性交易”的东西，就像很多东西可以说，你知道，如果我们谈论的是当面见面，诸如此类的事情。那里有很多双方自愿的成人活动。

可以被解释为性交易。发生的事情是，平台说，你知道吗，我们不会处理这个问题，因为让联邦贸易委员会追究我们的责任，让我们承担这些巨额罚款和费用等等，太多了。所以他们在很多情况下先发制人地删除了

任何可能被广泛想象为性交易的东西。Craigslist删除了其成人部分的大量内容。较小的约会网站删除了其所有服务，因为他们只是说，我们再也无法处理这项法律了。它以多种方式影响了平台

我认为人们，你知道，像性工作者预期的那样，它即将到来，但普通人只是说，哦，我的上帝，因为这项法律，我无法访问我以前使用的大量内容。结果，它损害了许多人的生计。我不知道。它只是影响了我们在线交流的能力，我认为这很糟糕。那就像……

现在存在的一个巨大组成部分是能够彼此联系。你已经报道这个问题这么久了。我认为你是这方面的杰出记者。我想知道，看到技术是如何随着时间的推移而变化的，这将走向何方？所以我过去比现在更乐观。

在过去的几个月里，我过去对成人产业的看法要乐观得多，成人产业总是无论遇到什么垃圾都会生存和繁荣。非常适应性强的产业，非常有韧性的人。所以我认为只是谈论这个特定的产业，这再次是一个非小众的事情。这真的很重要，规模很大。它是产业的一个巨大组成部分。

在线生活。我认为现在不同和新颖的是，掌权的人现在正在控制这些法律是否通过。而且法律现在只是建议。就像法律在很多情况下似乎并不重要。我不知道。就像，显然我希望法律体系能够继续运作，但就像我希望……

我希望看到人们关心，你知道，像基本的宪法权利一样。我不知道现在很多领导层是否如此。所以我认为在特朗普政府执政期间，我们看到它完全被那些讨厌任何非异性恋、基督教性生活和一般生活的人所掌控。这对我来说真的很黑暗和可怕。我认为……

除非对他们试图通过的一些东西，以及他们大声说出来的一些东西进行巨大的反击，你知道，这只是，他们将继续践踏我们的权利。萨姆·科尔，非常感谢你的报道和与我交谈。是的，非常感谢你。萨曼莎·科尔是404媒体的联合创始人。特别感谢乔安妮·丘。

这就是我们今天节目的全部内容。《下一个待定》由埃文·坎贝尔、帕特里克·福特和莎娜·罗斯制作。Slate由希拉里·弗莱负责运营。而《待定》是更大的《下一个》系列节目的一部分。

如果您喜欢您听到的内容，支持我们独立新闻报道的首要方式是加入Slate Plus。您可以收听所有Slate播客（包括此播客）的无广告版本，以及访问独家额外内容。只需访问slate.com/whatnextplus注册即可。好了，我们下周将推出更多剧集。我是丽齐·奥利里。非常感谢您的收听。

为了纪念军人感谢月，Verizon 想出了许多不同的方法来表达我们的感谢。例如铺开红地毯，给你自己的个人军乐队，或者举办一场热闹的派对。

当您的肖像被制成人工智能生成的色情作品时，您会怎么做？——这是一个人们已经面临的问题。但正在国会审议的立法可能会造成比解决问题更大的问题。 嘉宾： 乔安妮·丘，洛杉矶的演员和视觉艺术家。 萨曼莎·科尔，404媒体的联合创始人及《性如何改变互联网以及互联网如何改变性》一书的作者。

播客制作：埃文·坎贝尔和帕特里克·福特。 了解您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 在Verizon，我们以特殊军方优惠的形式提供所有这些服务。这就是为什么本月我们只为军人和退伍军人家属提供200美元的Verizon礼品卡，以及一部我们提供的手机（需选择以旧换新，并在特定无限套餐中添加新线路）。您可以把它想象成我们在头顶上空飞过一队喷气式飞机，同时燃放烟花。这就是我们所说的庆祝活动，因为我们很荣幸为您服务。请访问您当地的Verizon门店了解更多信息。

我是莱昂·纳福克，我是《慢燃水门事件》节目的主持人。在我开始制作这个节目之前，

我对水门事件的所有了解都来自电影《总统班底》。你还记得它是如何结束的吗？伍德沃德和伯恩斯坦坐在他们的打字机前，噼里啪啦地打字。然后是一系列报纸报道的快速蒙太奇。关于竞选助手和白宫官员被判犯有罪行。关于证明尼克松参与掩盖事件的录音带。我们看到的最后一个故事是，尼克松辞职了。在电影中，这花了不到一分钟的时间。在现实生活中，这花了大约两年时间。