Black Lives Matter in AI, the Peril of DeepFakes and Fake Progress
23:06 Share

斯坦福AI实验室博士Andrey Kurenkov和Sharon Zhou讨论本周主要的AI新闻。 查看此处讨论的所有故事以及更多内容，请访问www.skynettoday.com 主题：深思熟虑 Kevin MacLeod (incompetech.com) 根据知识共享许可协议授权：署名 3.0 许可证 </context> <raw_text>0 您好，欢迎收听Skynet Today的Let's Talk AI播客，在这里您可以听到AI研究人员关于AI的实际情况以及哪些只是耸人听闻的标题。我是Andrey Karenkov，斯坦福视觉与学习实验室三年级的博士生。我的研究主要集中在机器人操作的学习算法上。和我一起的是我的联合主持人，

我是Sharon，机器学习小组的三年级博士生，与Andrew Ng一起工作。我的研究方向是生成模型，改进神经网络的泛化能力，并将机器学习应用于应对气候危机。Sharon，我相信你上周刚刚向NeurIPS提交了一篇论文，你之前提到过你在做这个。所以希望一切顺利，你一直在恢复。

是的，至少可以说这是一场过山车。而且一旦你已经走了这么久，可能过去一个月，睡眠很少，就很难减慢这种势头。但是，是的，我确实得到了我的论文，我想我这次实际上有三篇。

哇。这，我通常在一个截止日期前尝试一篇。所以，呃，这是值得称赞的。主要是一篇，但说到Nureps，我们的第一篇文章与……黑人生命攸关运动有关，以及Nureps如何回应，我认为……

所以这篇文章是《AI会议NeurIPS在BLM抗议活动中延长论文提交截止日期》。

所以在高层次上，向这个名为NeurIPS的AI大型会议提交论文的截止日期已被委员会延长了48小时。这是为了给受美国持续抗议活动影响的人们更多的时间来完成他们的工作。当然，在美国以外，也有许多抗议活动。

因此，在宣布延期时，NURPS董事会表示：“今天，NURPS为其因警察和治安人员暴力循环而遭受重创的非洲裔社区成员感到悲痛。今天，NURPS为乔治·弗洛伊德、布雷安娜·泰勒、阿霍马德·阿贝里、雷吉斯……

科钦斯基、帕奎特以及成千上万因暴力而丧生的非洲裔美国人哀悼。今天，NURB与这个非洲裔社区站在一起，肯定今天和每一天，黑人的生命都重要。”

为了进一步表明他们的支持，研究人员Aaron Grant和Nicholas LaRue创建了一个AI导师名单，从事论文研究的非洲裔美国人可以在NARF截止日期前联系他们寻求建议。对于每位提供帮助的人，LaRue和谷歌AI负责人Jeff Dean都承诺向Black in AI组织捐赠1000美元。

是的。因此，我认为延期、声明以及AI研究人员的一些额外举措都非常好。在某些方面，美国持续的抗议活动和问题与AI有些分离，但

对于可能不在美国的人来说，这很难理解，但如果你是一个少数民族，或者你认识人，或者你只是住在美国城市，你不可能不受现在正在发生的事情的影响。这对许多人造成了沉重的精神打击。因此，延期是对此的欢迎回应。我认为，声明是对此的欢迎回应。

是的，这项支持提议也很受欢迎。我想，Sharon，你也会发现这是一个受欢迎的惊喜或受欢迎的姿态。是的，当然。我认为这……

这主要是为了减轻如果发生类似事件时确实会发生的某些本质上不成比例的不平等。它会影响那些提交论文的非洲裔美国人，对吧？所以我认为这是纽伦堡方面的一个好举动。它还使人们

像我这样不是黑人但支持BLM的人可以花一些时间抗议。是的，再说一次，我想说清楚，很难集中精力。正如你所说，你必须非常专注地工作才能完成你的论文。

在抗议活动和事情发生的时候，专注于这些事情似乎非常困难。所以看到这个延期很好。事实上，另一个名为EMNLP的会议，也是一个大型会议，也延长了几天。是的，我认为这是一个受欢迎的迹象，表明AI作为一个社区正在成长。

能够处理这些问题，直接解决这些问题。它实际上遵循了一种趋势，即试图使社区多样化，试图更具包容性，试图帮助少数群体更被看到，并使他们的工作得到更多体现。

像Black in AI这样的实际组织专门解决少数民族和黑人在这个社区中取得成功的困难。因此，希望这仅仅是另一个迹象，表明需要为AI内部和更广泛的社会中的黑人代表性和机会所做的努力正在进行。

说到这里，我们可以继续我们的下一篇文章，它与同一个主题有关。它的标题是《AI社区表示黑人的生命很重要，但仍需付出更多努力》。这是在VentureBeat.com上发表的。

所以这篇文章也报道了新欧洲的截止日期延期和发表的声明。但它也更详细地介绍了AI领域的现状及其多样性问题。引用其中的一句话，它说，对于AI社区来说，

承认一项运动是一个开始，但研究表明，它与科技行业的其余部分一样，继续遭受缺乏多样性的困扰。根据纽约大学AI Now研究所发表的一项调查，截至2019年4月，谷歌只有2.5%的员工是黑人，而Facebook和微软各占5%。

除此之外，AI在代表性方面还有一些非常具体的问题需要处理。

例如，国家标准与技术研究所去年9月的一项研究发现，面部识别系统误识别黑人的频率高于白人。因此，当我们基于AI构建新技术时，我们冒着延续针对黑人的历史偏见以及基本上为白人服务的风险。

比黑人和其他人更好。为了解决这个问题，AI Now研究所建议AI社区需要在薪资和报酬方面提高透明度，需要骚扰和歧视报告，并且需要再次提高招聘实践的透明度。

呃，其他人也呼吁有针对性的招聘以提高员工多样性，并承诺加强AI公司领导层中少数民族、女性和其他代表性不足群体的数量。我认为这一切都很好。我很想看到它真正发生并得到实施。我在海湾地区待了几年，大约四年了，呃，

说实话，我还没有在科技界看到那么多黑人。这很糟糕。我喜欢看到更多样化。我想以许多不同的方式实现多样化。我感觉科技界有点一成不变。所以……

是的。

说一些话不如实际尝试做一些事情有效。事实上，当我你在我们实验室会议上谈到这个问题时，我感到震惊，我们的实验室相当大，但即使在这个小组中，代表性不足，我们中间并没有那么多黑人。

所以我想，一线希望是这提醒我们注意并实际尝试做一些事情。在过去的一两周里，我还看到许多其他杰出的研究人员通过Twitter表达了他们的支持和关心。所以。

当然，这是一个充满压力和情感的时期，但希望通过它，我们能够真正取得进步。我看到了社区中大量的团结，我还看到几位AI领导者公开表达了他们的观点和既定观点。

基本上是公开的。这非常引人注目。一个肯定来自我的导师Andrew Ng，另一个来自我见过的Joshua Bengio。我相信其他人也一样。由于NURFS的截止日期，我没有太多时间在社交媒体上，但是，是的，

是的，我很钦佩这一点。我希望人们意识到这不是一件他们必须……我看到了一些关于这不是一件你必须完全专业的事情，因为我想，与邻居友好相处并善待其他人类应该放在首位。是的，所以我发现这很有说服力。我也是。是的，实际上，我……

我没有提交，只是将欧洲的声明作为一个相当专业的、大型的会议来看待，在我看来，这是一个相当直接的、非谨慎的、非公关的、非常富有同情心的回应，这

一方面，它并没有做太多事情，但另一方面，它非常直接地解决了这个问题，这是值得称赞的。现在稍微改变一下话题，我们将讨论一篇名为《深度伪造将对社会造成严重破坏，我们没有做好准备》的文章。这是在福布斯上发表的。

因此，深度伪造已经非常可怕，它们是由AI的最新进展实现的。因此，深度伪造基本上允许合成各种人的视频，包括政治家，以及虚假的录音以及更多潜在的有害媒体。

因此，这种内容的数量正在增长。我们已经开始看到它如何被用于不良目的。一位印度政治家实际上在他的竞选活动中使用了深度伪造，唐纳德·特朗普最近转发了一段关于乔·拜登的深度伪造视频。

深度伪造越来越好，而且由于技术的易用性，它们至少可以被任何人或更多人创建，因此风险非常高。布鲁金斯学会总结了它们带来的社会和政治危险，其中包括操纵选举、破坏公共安全以及损害知名人士的声誉。因此，美国立法者开始关注这个问题。

虽然专家警告说，我们已经看到的它们的使用例子是煤矿中的金丝雀。那么我们如何才能真正对抗深度伪造的兴起呢？不幸的是，我们现在拥有的法律框架对于我们拥有的匿名互联网来说是有限的。最有效的短期解决方案可能必须来自主要科技平台采取措施限制其传播。

是的，为了进一步扩展，这篇文章在许多方面只是对深度伪造现状的精彩总结。但它也确实指出，基本上制定法律在这里是一个棘手的想法。例如，一个想法可能是尝试立法，以便公司必须合法地立法

反对深度伪造以及他们网站上的其他有害和误导性内容。但这与长期以来规范公司的法律框架相违背，在这种框架下，他们基本上不对用户在其平台上发布的内容负责。

所以这非常棘手。引用文章中的内容，它说，最终，没有一个单一的解决方案就足够了。第一步是简单地提高公众对深度伪造的可能性和危险的认识，知情的公民是抵御广泛虚假信息的关键防御。

因此，随着美国总统大选的临近，我认为我们都需要更加小心谨慎，因为可能会有更多深度伪造出现。是的。我认为这现在非常令人担忧，当人们非常相信他们看到的视频或听到的录音时，人们

我认为，如果随着时间的推移，深度伪造变得如此普遍，以至于人们几乎对它们免疫，或者至少……

不是免疫，而是受影响较小或对它们持怀疑态度，就像我认为现在书面文本、书面新闻一样，嗯，这可能稍微不那么令人担忧，但现在人们非常相信这些事情。所以，这可能是深度伪造最令人担忧的时期，也就是这个过渡时期。嗯，虽然这些法律框架正在努力适应这一点，呃，

我觉得深度伪造最终会变得司空见惯是不可避免的。但希望随着它们变得司空见惯，人们会从它们确实是真实的这种幻想中解脱出来。

是的，我想这涉及到一个更大的问题，尤其是在Twitter等社交媒体上，你可能会看到一些东西并阅读它或观看视频，然后认为它是准确的，而不是，你知道的，编辑它以使其具有误导性，或者在这种情况下，实际上只是由AI生成以具有误导性。

因此，正如你所说，希望这种更复杂的方法来欺骗人们会导致人们只是仔细检查他们偶然发现的任何东西的真实性，而不是仅仅相信它。这也是这篇文章指出的内容。

话虽如此，人们并没有真正仔细检查他们阅读的新闻文章或他们阅读的新闻标题。因此，这很可能只会加剧回声室和确认偏差。

是的，这很棘手。我们在斯坦福大学与一些参加过斯坦福大学教授的讨论过这个问题。解决方案的一部分是实际上拥有更多的事实核查员，并让报纸附加，比如说，各种文件的真实性证明，例如照片等等。

所以我们需要一些可以信任的机构，否则真相就会消失。希望，我想，我们作为一个社会的新闻业支柱也会随着这些挑战而增强。

但就此打住，我想我们会看看深度伪造是否真的会更多地出现。现在，我们将把注意力转向下一篇文章，标题是《一些AI领域的引人注目的进展并非真实》。这是来自《科学》杂志的。所以就像上一篇文章一样，这是对AI领域中的一种情况的概述。在这种情况下，这是对如何

很多时候我们看到一些大标题，一些大的结果出现，实际上它们可能比看起来要小得多。

因此，你可能会听到一种新技术在某种游戏中取得了超人的表现。虽然这看起来令人印象深刻，但它并没有带来多少实际进展。事实上，现有技术如果使用得当，可能同样好或更好。

更具体地说，这篇文章涵盖了一些发现，例如，2019年对搜索引擎中使用的信息检索算法的荟萃分析得出结论，高水位线设定在2009年。另一项2009年的研究，我们制作了七个神经网络推荐系统，这种系统被媒体流媒体服务使用，发现其中六个未能超越

更简单的非神经算法。总的来说，一些声称取得进展的论文，当你实际调整并适当地使用先前的工作时，你会发现这些论文同样好或更好。是的，我正在努力思考我们在这里还能说什么。不多。是的。

我想，是的，我的意思是，我们的过渡。我们之前已经讨论过这个问题，即存在一个问题，或者没有足够好的科学方法来解释许多AI论文中使用的研究方法不够强大。我们都急于休假等等。所以这并不特别令人惊讶，对于AI之外的人来说，了解这一点很重要。

Sharon，我认为我们之前讨论过这个问题时，你说你看到很多论文看起来很薄弱，并且认为研究方法应该更强大。所以我认为这些荟萃分析论文对你来说并不令人惊讶。

是的，这也让我想起了，你知道的，以前的方法已经被很大程度上放弃了，或者自从那时起只被触及了几次，因为现在如此关注AI。例如，遗传算法，我想知道那条研究线去了哪里。我认为我最近与一些正在做强化学习的人交谈过，他们仍然使用遗传算法作为某种基线，但不是……

但它们是一个非常基本的遗传算法。我知道正在进行将两者结合起来的工作，但这只是，很少关注这些先前的方法。我认为随着时间的推移，希望事情会结合在一起，我们会找到一些混合的方法来取得成功，但有可能这是炒作，也有可能，呃，

即使在不同的GPU、不同的机器上运行相同的模型也会得到不同的结果，或者模型的不同实现也会有所不同，因为它初始化略有不同或其他什么。我们发现的一件事是PyTorch ResNet 18与我想，TensorFlow不同。然后还有一个

其他实现都是不同的，但它们，但它们都具有来自谐振论文的相同的底层架构。所以，你知道的，就像，这是，这是非常有争议的，我们应该相信什么。嗯，很多时候，这里有很多东西都是经验性的。是的，完全正确。而且我认为这有点滑稽，嗯，

当你从事AI研究并从事AI研究时，你实际上会意识到，AI研究人员对AI进步最愤世嫉俗。例如，当你阅读一篇论文时，你可能会对精确的数字和所有内容持怀疑态度，并且可能只是对这个想法感到好奇。

因此，作为外部观察者，了解这些事情很重要，有很多调整，很多参数，很多偶然的改进可能不一定成立。因此，希望作为一个领域，我们正在随着时间的推移发现一些东西。但这是一个混乱的过程，个体的主张，个体的公告。

应该以健康的怀疑态度对待。是的，我完全同意。说到这里，非常感谢您收听本周Skynet Today的Let's Talk AI播客。您可以在skynetoday.com上找到我们今天在这里讨论的文章，并订阅我们每周的类似新闻通讯。无论您在哪里收听播客，请订阅我们，如果您喜欢这个节目，请不要忘记给我们评分。

务必在下周收听。