Mini Episode: AI Therapists, Facial Recognition in Detroit, Decolonialism in AI, and Deepfakes for Corporate Training
05:45 Share

您好，欢迎收听本周的SkyNet Today人工智能新闻。本周，我们将关注人工智能治疗机器人、底特律对人脸识别的抵制、人工智能中的去殖民化以及深度伪造技术如何成为一种新的企业培训工具。本周早些时候，James Deneen为OneZero撰写了一篇关于他使用Woebot的经历的文章，Woebot是疫情期间涌现的众多数字心理健康工具之一。

在一个用户越来越习惯于远程医疗和其他虚拟工具的时代，像Woebot这样的聊天机器人或许能够帮助许多不堪重负的治疗师。对此充满希望的联邦政府放松了对这些工具的限制。虽然Woebot等一些工具已经过与聊天机器人公司相关的研究人员的审查，但放松管制也使得未经验证且可能造成损害的数字工具蓬勃发展。

《自然·数字医学》2019年的一项研究发现，在所研究的73个心理健康应用程序中，只有一个引用了已发表的科学文献，尽管几乎一半的应用程序在声称其有效性时使用了科学语言。

即使对于那些被认为有效的工具，研究结果也是不确定的，正如Dineen发现的那样，这些工具会犯一些明显的错误，患者很可能会觉得令人反感。专家们一致认为，虽然聊天机器人不能完全取代治疗师，但它们可能有助于提高可扩展性，并在患者无法与治疗师见面时为他们提供一些缓解。我们生活在一个一些人转向治疗机器人，另一些人则反对种族暴力和人脸识别技术的时候。

7月24日，底特律与DataWorks公司的人脸识别合同即将到期。CNET报道称，自2017年合同开始以来，拥有美国最高比例黑人居民的底特律居民一直在努力阻止人脸识别服务的扩张。虽然底特律市议会预计将投票赞成续约，但公众的强烈反对推迟了投票。

活动人士指出人脸识别系统存在许多问题，包括证明种族和性别偏见的研究所得出的结论、底特律人脸识别系统将罗伯特·威廉姆斯误认为另一名黑人男子而导致其被错误逮捕，以及该技术并未全面降低犯罪率的证据。即使合同到期，也不意味着底特律的监控将结束。该市可以联系密歇根州警察等合作伙伴，利用人脸识别技术进行搜索，

但活动人士正在推动制定诸如关于政府监控条例的社区意见等政策，这将允许公众对底特律购买的任何监控技术发表意见。他们希望将底特律打造成反对使用种族主义技术的领导者，而不是允许继续对其公民进行监控。底特律等地的故事表明，在确保人工智能得到公平使用和部署方面，我们还有很长的路要走。

VentureBeat报道称，谷歌DeepMind和牛津大学的一个研究团队最近朝着这个目标迈进了一步。他们的论文建议人工智能从业者借鉴去殖民化理论来改革该行业，将伦理原则付诸实践，并避免进一步的算法剥削和压迫。该论文详细介绍了如何在考虑殖民主义的情况下构建人工智能系统，并认为权力是伦理辩论的核心。

为了设计人工智能系统以避免延续种族主义、阶级主义和异性恋规范等危害，作者认为我们需要认识到权力动态。VentureBeat重点介绍了论文中的一段引言：

文中写道：“全球人工智能治理话语中的权力失衡包括数据不平等和数据基础设施主权问题，但也超越了这一点。我们必须处理任何人工智能监管规范和标准都在保护谁、谁有权制定这些规范以及少数人继续通过剥夺机制从权力和资本集中化中获益所带来的风险等问题。”

这段话有点长。现在，您是否希望您的工作培训是由亚当·德赖弗而不是您的经理来进行的？这是可以理解的，而且这可能在将来某一天会发生。Wired报道称，由于新冠疫情的限制使得拍摄视频变得更加困难，公司正在转向合成媒体。

广告巨头WPP本月将向数万名员工发送企业培训视频。在这些视频中，一位演讲者将使用接收者的语言与他们交谈，并称呼他们的名字，同时解释基本的人工智能概念。

WPP使用了伦敦初创公司Synesthesia的服务，该公司专门从事合成视频的制作。鉴于围绕深度伪造技术的伦理问题，Synesthesia发布了伦理规则，表示会审查客户的视频脚本，在合成其外观之前需要获得本人的正式同意，并且不会处理政治材料。随着合成媒体进入企业主流，我们可能会看到更多类似的故事。

本周就到这里。非常感谢您的收听。如果您喜欢这个播客，请务必评分和分享。如果您想听到更多这样的新闻，请访问skynetoday.com，在那里您可以找到我们每周的新闻摘要以及类似的文章。