Deep Dive
Shownotes Transcript
上个月签署成为法律的联邦“删除法案”被誉为保护复仇色情和深度伪造受害者的重要一步。它几乎以全票通过了国会的两院，但第一修正案观察员对此表示担忧。我们将仔细研究这项新法令，以及同样将性暗示深度伪造定为犯罪的加州新法律。我们将了解如果您成为网络受害者，如何保护自己。
相关链接：
上个月签署成为法律的联邦“删除法案”被誉为保护复仇色情和深度伪造受害者的重要一步。它几乎以全票通过了国会两院，但第一修正案观察员对此表示担忧。我们将仔细研究这项新法规，以及同样将性暗示深度伪造定为犯罪的加州新法律。我们将了解如果您成为网络受害者，如何保护自己。
相关链接：
<raw_text>0 我还想补充一点，本周我试图从联邦贸易委员会那里得到关于他们如何推进实施工作的答案，但尚未收到回复。茉莉花说得很好。对刑事条款的资助也很重要。联邦调查局和其他刑事当局是否有权力和培训去调查这些罪行？是的。
是的，我们正在与《连线》杂志高级撰稿人Paresh Javeh和《第十九新闻》的数据和技术记者Jasmine Mittani讨论《删除法案》。你们是否怀疑政府能否有效执行法律或制止其滥用？你认为这项法律走得太远了吗，还是不够远？你们对《删除法案》有什么疑问或反应？茉莉花，你刚才想说什么吗？
是的。补充Paresh所说的话，你知道，这就是为什么拥有联邦法律和州法律都很重要的部分原因，因为这给了幸存者和受害者关于他们想要追求什么的选项。对。你知道，州法院可以更快地行动。但正如Paresh所说，如果它在海外，联邦当局在海外的影响力更大。
超过了这一点。而且，你知道，还有一些其他的法律已经被提出。AOC今年第二次向众议院提出了《蔑视法案》，该法案正在创造一项民事诉讼权。所以这是对于那些不一定想追求刑事权利的人
指控，但他们可以起诉索赔赔偿。而且，你知道，对于幸存者来说，其中一件事情可以产生非常大的影响，那就是获得赔偿，这理解了他们所经历的情绪困扰和伤害。是的。所以这就是接下来关于创造这种可能性可能的发展方向。是的。
Paresh，是否存在《删除法案》无法完全实施的可能性，因为你知道，科技公司确实有一些时间来制定他们在48小时内删除图像的系统？例如，你是否从第一修正案团体那里听说过他们担心可能会试图挑战其某些条款？
他们肯定担心他们是否会挑战它，我认为目前还不清楚。他们可能正在等待的部分原因是看看联邦贸易委员会的规则是什么样的，联邦贸易委员会实际上是如何朝着实施的方向前进的，科技公司是如何朝着实施的方向前进的。也许所有科技公司都说我们将手动审查每个删除请求，我们不会依赖人工智能，我们将确保它实际上是私密的视觉描述。也许那时就没有那么多的担忧了。
这似乎不太可能，但我认为这是这些团体可能正在等待的部分原因。我们已经看到本届政府之前忽视法律，机构也经常错过最后期限，即使是在之前的政府执政期间也是如此。因此，目前还不清楚他们是否会在一年后真正将它变成法律。
您可以通过发送电子邮件至[email protected]加入对话，在Blue Sky、Facebook、Instagram或Threads上找到我们在KQED Forum的社交渠道，或致电866-733-6786，866-733-6786。休息后更多内容。我是Mina Kim。谢谢。
论坛的支持来自旧金山大学管理学院。旧金山大学管理学院庆祝与海湾地区商业社区合作100周年，它将学生与城市充满活力的文化、实践实习和丰富的职业机会联系起来。
人工智能和可持续性被整合到商业教育的各个方面，学生们将创新、伦理和创业领导力带给一个需要帮助的星球。
旧金山大学管理学院。从这里改变世界。问候，繁荣小镇。Xfinity Wi-Fi正在蓬勃发展！Xfinity结合了互联网和移动的力量。所以我们在家和外出时都能获得闪电般的速度。这就是我们的制作人将我们的广播节目混合在一起的想法来源。
在6月23日之前，新客户可以获得400兆比特的Xfinity互联网，并获得一条无限移动线路，所有这些每月只需40美元，持续一年。访问Xfinity.com了解更多信息。使用无纸化账单和自动支付商店银行账户，适用限制。需要Xfinity互联网。德克萨斯州费用额外收取。一年后，费率将提高到每月110美元。两年后，适用常规费率。实际速度会有所不同。
这里是论坛。我是Mina Kim。我们这小时正在讨论《删除法案》，这是一项上个月签署的新的联邦法律，旨在保护复仇色情和性暗示深度伪造的受害者。但第一修正案观察员和一些其他人对此表示担忧。我们正在与《第十九新闻》的数据和技术记者Jasmine Matani讨论这个问题
这是一个非营利性新闻机构，报道性别政治、政策和权力，以及《连线》杂志的高级撰稿人Paresh Dave。我们还将与我们的听众讨论这个问题，电话是866-733-6786，电子邮件地址是[email protected]。您可以在KQED Forum的社交渠道上找到我们。
Bumi写道，平台有能力控制以防止列出此类图像并在发布前审查图像。为什么没有采取积极主动的方法来确保此类图像在上线前经过审查和授权？“删除”是一种被动的解决方案，当然也是必要的，但我们需要提前解决问题。
我们的平台承担了哪些额外的责任来防止这种情况？茉莉花，我想你可能熟悉这种担忧，这仅仅是那些再次被动的事件之一，将大量的责任强加给受害者，让他们不得不去寻找和举报等等。你对Bumi的回应是什么？是的。
有两部分。我想解决的第一件事是为什么我们对此不够积极主动？我想说，这是一个例子，在这个例子中，我们对任何类型的內容进行过度监管，尤其是在使用自动化工具时。你知道，网上有如此多的内容，正如警察所说。
Parsh说：“我认为没有人能够单独查看所有这些内容并批准它们。”我们知道这些自动图像识别系统经常将女性标记为性暗示，即使她们并非如此。它们也对任何肤色较浅的人都有偏见。所以这可能是扫描每段内容在网上发布前的问题的一部分。
然后是另一部分，其他公司能做什么？这是真的。有很多事情。我认为拜登白宫与
私营公司合作，就如何应对深度伪造滥用问题达成自愿协议。而且，你知道，其中一件事特别是在于，你知道，将这些应用程序下架。它们不应该可以访问，对吧？使它们更难以在谷歌等平台上投放广告，将它们下架。因此，如果您尝试在线搜索某些内容，它们就不会出现。此外，许多这些应用程序
创建这些明确的非自愿深度伪造，你知道，需要付费。支付处理器在这里扮演着角色，他们只是说，你知道，我们不允许你向这个网站或这些类型的应用程序收取任何费用。这些是一些更积极主动的事情。而且，再说一次，这些是在拜登政府领导下的自愿承诺。所以有点不清楚，你知道，
未来会是什么样子。那里不一定有联邦执行机制。而且，我想说，现任政府对上一届政府通过的任何人工智能政策都非常敌视。但是，在整个数字生态系统中肯定有很多机会来阻止这种滥用行为的发生。是的。这是否也会有效地……
并获取互联网中往往是匿名的部分，暗网、隐藏的、私人的。茉莉花？是的，所以其中一个担忧是，嗯，
人们认为受害者要举报此事负担很大。他们必须知道它在哪些网站上。他们必须追踪它。即使有了“删除法案”，现在有要求必须在48小时内删除，他们也必须知道它实际上是在网站上。而那些事情，暗网，更难知道。此外，它没有涵盖的一件事，我认为这是一个问题
我认为特别关注加密和隐私的团体已经提出来了。关于它是否涵盖例如私人消息传递存在一些争论。立法者在委员会讨论时表示，他们不认为这涵盖了加密存储或加密消息传递之类的东西。但我认为我们正处于一个时代，法律的字面意思和意图在执法中并不一定重要。对。
Discord上的一位听众写道，他们正在推动的这份宏伟的法案想要对规范生成模型和系统实施暂停，使规范人工智能实际上变得不可能，并为实际上将生成这些内容的软件打开闸门。“删除”只是禁止在互联网上发布输出。它留下了一个巨大的漏洞，几乎到了不再重要的时候。Paresh，这份宏伟的法案对规范这一点实施了暂停吗？
对生成式人工智能来说，是的。它呼吁暂停十年州法律，并表示这些州法律不能强制执行。对于许多倡导更多监管和更多安全措施的团体来说，这是一个很大的担忧，这些模型可以做任何事情，从写诗到生成有趣的图像，再到生成色情深度伪造。而且
这是一个，你知道，一个担忧。但是联邦立法者说，你知道，我们希望创新蓬勃发展。我们不希望出现州法律的拼凑。这就是为什么我们在宏伟的法案中看到我们所看到的情况。
好吧，我们的Discord说，为什么不至少将一部分责任推给能够检测到他们是否被用来生成色情内容等的人工智能模型提供商呢？这是常识。我看不出有任何理由排除它。茉莉花，你的想法？
是的，我认为这是一个我们正在看到一些变化的领域。我会说，这是新闻和问责制影响最大的地方。你知道，像独立的404媒体这样的出版物已经报道了那些拥有这些模型的公司。这是将它们关闭最有效的方法。这只是寻找公司的问题
特定的模型。也有一些问题。斯坦福大学进行的一项非常突出的研究发现，在图像生成器中，其中一些实际上是用儿童性虐待材料的图像进行训练的。因此，他们能够随后将这些模型关闭
并删除该训练数据。但它已经在世界上存在了这么长时间。而且，你知道，事物在互联网上的共享方式，一旦某些东西出现在世界上，就很难根除它。让我去伯克利的西尔维娅那里。你好，西尔维娅，你来了。
你好，妮娜。首先，非常感谢你的节目。它太棒了。而且我认为在联邦和州一级进行保护非常好。因为，你知道，我实际上是在观看梅拉尼娅·特朗普和这个团体，我想，政客们实际上正在就这个问题举行会议。
联邦法律。而且，你知道，那里有一位国会议员的儿子，他实际上没有公开自己是同性恋，实际上是因为一些年轻的孩子们放了一些他的图像而自杀。这非常悲惨。对我来说，这很重要，因为我确实有孙子孙女和年轻人，并且与很多孩子一起工作。
是的，非常感谢你。西尔维娅，谢谢。所以你对实际相反的情况有一些担忧，而不是监管那些也许右翼会认为是变态图像的图像。
图像本身，这是之前有人担心它们被分发出去的问题。塞斯纳仍然写道，为什么没有人意识到这是互联网审查法案？这是我们国家清教徒背景的延续。这只会压制我们的言论自由。它将赋予右翼一种工具来决定我们的在线内容并攻击他们的对手。
所以，茉莉花，对于那些有兴趣按照预期使用这项法律的人来说，他们应该从哪里开始，应该采取哪些步骤，这样我们才不会出现我们在节目中讨论过的和听众分享过的悲惨结果，如果他们是符合《删除法案》规定的网络虐待的受害者？
是的。所以，嗯，我确实想，嗯，很快地解决这个评论，因为我已经看到很多关于这被认为是互联网审查法案的内容。而且我理解这是，嗯，
我们不一定知道它将如何执行，但我还想强调，这对幸存者来说非常重要。你知道，对于那些以这种方式成为受害者的人来说，最重要的是他们私人的图像被分发给他们的同事，你知道，对于高中女生来说，在成千上万的同学中传播她们的深度伪造。他们希望图像停止。他们希望虐待停止。
这就是，《删除法案》试图做的事情。我认为，对这项法律存在非常合理的担忧，但我认为谈论对幸存者的影响也很重要。那么我们如何使用《删除法案》呢？正如我们之前所说，你知道，有一年的时间公司可以……
需要实施这项法律的删除条款。与此同时，包括搜索引擎在内的许多公司，包括，嗯，
社交媒体网站有办法让你请求删除图像。你知道，有时是一封电子邮件。有时是你填写的一个表格。此外，我想说，色情网站也提供了这种服务。要做的最重要的事情，首先要做的事情是记录图像。你想，你知道，创建一个强大、安全的记录，包括日期、时间。
时间、用户、某物发布的位置。你只想为自己这样做，或者如果有人明确授权你为他们这样做，但你基本上想要一份虐待记录，然后你可以向这些网站举报。如果这是一张你为自己拍摄的图像，例如，你自拍了一张照片，然后在未经你许可的情况下被分享，那么一条途径实际上是使用版权法
为了将其删除，因为这是你创建的图像，然后在未经你许可的情况下被分发。我还想说，有不同的，
专门帮助受害者的方式，特别是那些受虐待的年轻人，有专门的资源来帮助他们。国家失踪和受虐儿童中心运营着网络举报热线。任何人都可以向其举报。如果你看到一些看起来像儿童在网上受到虐待的事情，你可以向网络举报热线举报。他们还运营着名为“删除”的东西，
这与法律无关，但这就像专门为帮助那些图像的人量身定制的，你知道，年轻人，任何未成年人，18岁以下的人，他们的性虐待图像被分享。他们对这种内容共享有专门的支持。
嗯，你认为有很多事情会很快变得非常棘手，茉莉花，在这种情况下，人们应该寻求找到律师吗？是的，你知道，我认为，我与之交谈过的倡导者的建议是，这真的很困难。这真的很难以度过。而且我认为
网络民权倡议是一个非营利组织，它正在打击技术促成的虐待行为，在其网站上列出了律师名单。他们还列出了法律清单，以便您可以了解您在州内的权利，您可以采取哪些行动。他们有一份有经验的律师名单，你知道，在不同州工作。
使用这些类型的法律。而且，你知道，总是，你知道，如果你有能力，与律师联系是有用的，让某人指导你完成一个非常痛苦的过程。而且，你知道，很难驾驭法律事务。这就是为什么，而且拥有在这个领域有经验的人也很有用。再说一次，那就是网络民权倡议。
让我提醒听众，你们正在收听论坛。我是Mina Kim。好吧，我们收到了听众的很多评论。Discord上的Alex写道，第230条需要被废除。有了它，科技公司就可以避免因托管非法内容而承担责任。废除它将迫使公司真正审核其内容，而不仅仅是使用自动化系统。好吧，那将是另一个讨论，Parash，但你想谈谈这位听众与第230条的联系吗？绝对的。像，
多年来，它一直是国会、科技公司和互联网平台的讨论点。没有取得太大进展。感觉不会有太大进展。即使共和党人确实在第230条改革上有所行动，也会有
来自该行业的诉讼。这将被拖延数年。在我看来，我们离取消该责任条款还差得很远。
Discord上的Douglas写道，所以我们正在将应用程序下架以供公众使用，但允许大型公司随意构建和使用它们？因为我严重怀疑我们是否应该给予公司比个人更大的权力，鉴于互联网过去20年的历史。限制消费者使用，但允许企业拥有和运营它们，这似乎是朝着错误方向迈出的又一步。Paresh，让我回到你那里。是的，我只是想在这里做一个区分……
有色情内容，我们在节目中早些时候使用了这个词，复仇色情，这个词已经过时了，因为我们正在讨论的是，正如茉莉花提到的，技术促成的虐待。这是基于图像的性虐待。这与色情内容属于不同的类别，色情内容要么是自愿的，要么不影响真人内容。
因此，使用这些工具来生成色情内容，其中是自愿的，或者再次，没有描绘真人，这是一回事。这些法律试图解决技术促成的虐待的狭隘范围。我认为区分这两者很重要。是的，确实存在一种宗教运动，旨在消除所有色情内容和技术促成的虐待行为，但我们需要在这两方面之间划清界限。
你知道，早些时候，参议员Ayesha Wahab提到，我们对技术的监管往往落后，尤其是因为立法者并不一定是最懂技术的。你对这项特定法律的持久性有什么看法？你认为它能在相当长的一段时间内吸收技术的转变吗？
确实感觉是这样。我认为这与你之前讨论的部分内容有关，即缺乏积极主动的要求。你知道，讨论过的一个积极主动的想法是，你能否识别出什么是基于图像的性虐待，什么是合法的色情内容？
现在，科技公司会告诉你，很难区分两者，因为有时你可以在内容中看到胁迫的迹象，这表明它是非自愿的，你知道，
创建或分发的图像，但其他时候则不是。构建能够做到这一点的技术非常困难。而且，你知道，我去年对谷歌高管拒绝采用的某些积极主动的想法进行了全面的调查，因为这些担忧。并且因为，你知道，法律并不一定规定
科技公司使用特定技术来解决这个问题。我认为出于这个原因，这里有一些持久性。是的，这位听众写道，鉴于人工智能能够对看似正常的照片（如自拍照）生成明确的图像，我们能对人工智能做什么，就像那额外的一层一样？Paresh，这是否受到《删除法案》的监管？
现在还没有，除了，你知道，你作为肇事者试图使用这些“裸体”应用程序来做到这一点，如果你这样做是为了伤害他人，那么你就是在违反法律。
但同样，这是言论自由之间的界限。可能会有这样的情况，你可能是对总统的政治评论，你出于政治评论的原因将他置于赤身裸体状态，你想能够使用工具来做到这一点，这是否应该被允许。好吧，我相信你会关注这项针对非自愿性内容的法律的走向，以及它的结果。Paresh，非常感谢你与我们交谈。
当然。
使用，你可以如何使用《删除法案》。她是《第十九新闻》的数据和技术记者。一如既往，感谢听众。感谢Mark Nieto制作了这部分内容。这里是论坛。我是Mina Kim。
论坛的支持来自旧金山大学管理学院。旧金山大学管理学院庆祝与海湾地区商业社区合作100周年，它将学生与城市充满活力的文化、实践实习和丰富的职业机会联系起来。人工智能和可持续性被整合到商业教育的各个方面。
学生们将创新、伦理和创业领导力带给一个需要帮助的星球。旧金山大学管理学院。从这里改变世界。KQED播客的支持来自地球正义组织。作为一个全国性的法律非营利组织，地球正义组织拥有超过200名全职律师，他们为健康的地球环境而战。
他们运用法律的力量来保护人们的健康，保护壮丽的地方和野生动物，并推进清洁能源以应对气候变化。地球正义组织在法庭上斗争，因为地球需要一位优秀的律师。了解更多关于如何参与并成为支持者的信息，请访问earthjustice.org。
嘿，论坛听众们，我是Alexis。你们听说论坛要推出视频播客了吗？是真的！每周我们都会在KQED新闻YouTube频道上发布最近一期论坛节目的视频录制。我们迫不及待地想让你们进入演播室，与我们一起讨论海湾地区的文化、加州新闻以及其他内容。
我们前几集已经发布了。只需访问youtube.com/kqednews即可查看所有内容。网址是youtube.com/kqednews。