Mini Episode: Lessons in AI bias, Facial Recognition Policy and Effects, and Trump‘s Visa Freeze
04:48 Share

我们的第六个音频综述，回顾了过去一周值得关注的AI新闻！ 本周，我们将探讨一位深度学习先驱似乎仍在学习如何避免AI偏差，面部识别如何导致错误逮捕以及民主党议员推动实施的面部识别禁令，以及特朗普的签证冻结如何影响美国的AI前景。 查看此处讨论的所有故事以及更多内容，请访问 www.skynettoday.com 主题：Kevin McLeod（incompetech.com）的《深思熟虑》 根据知识共享许可协议授权：署名 3.0 许可证 </context> <raw_text>0 大家好，欢迎收听，我是丹尼尔·巴希尔，这里是Skynet播客，本周的AI新闻。本周的主题是伦理和不公正。在今年的计算机视觉和模式识别会议上，知名AI研究员蒂米特·杰布鲁（她的性别阴影研究揭示了面部识别中的种族和性别偏见）讲解了AI偏见远不止数据的问题。

另一位著名的AI研究员扬·勒丘恩最近的一条评论表明，即使是业内顶尖人士，杰布鲁的教训也并未完全被吸收。VentureBeat报道称，Pulse（一个有争议的计算机视觉模型，声称可以从像素化的照片中生成逼真、高分辨率的人物图像）展示了一些问题，例如将奥巴马总统的照片上采样成白人。

但勒丘恩坚称，仅仅是偏差的数据就可以解释机器学习系统的偏差。有很多资源和专家可以解释为什么AI中的偏差超出了数据范围，除了杰布鲁之外，还有其他人指出这些问题时与勒丘恩进行了对质。看来他并没有完全理解信息或参与杰布鲁的研究。

VentureBeat指出，鉴于勒丘恩在AI领域的突出地位以及他作为领导者可能发出的强大信息，这一点令人担忧。虽然AI研究人员仍在试图说服一些人机器学习系统是如何产生偏差的，但这些系统已经影响到现实中的人们。《纽约时报》报道称，在首例此类案件中，有缺陷的面部识别系统导致一名无辜者被错误逮捕。

今年早些时候，底特律警察局逮捕了非裔美国男子罗伯特·威廉姆斯。威廉姆斯先生被带到拘留中心并被拘留了一夜，因为面部识别系统将他误认为是监控录像中的另一名黑人男子。

如果这些坏消息还不够的话，我们还有更多。

6月22日，特朗普总统签署了一项行政命令，暂时停止工作签证，包括针对高技能工人的H-1B签证项目。这些限制措施旨在持续到今年年底。此举引发的强烈反弹是巨大的，其中包括许多通过这些签证来到美国的人的声明，包括Databricks公司的一位创始人以及科技行业的许多其他人。

《麻省理工学院技术评论》报道称，签证冻结将在已经讨论的许多负面影响中产生另一个负面影响，阻碍美国和全球在AI人才方面的竞争。智库Macropolo的最新分析发现，在美国机构工作的69%的AI研究人员本科是在美国以外学习的，

美国顶尖AI/博士项目中三分之二的研究生是国际学生，其中80%的学生毕业后会留在美国五年。虽然一些政府官员正在推动有害的政策，但另一些人正在采取措施回应对面部识别的反对。6月25日，美国民主党议员提出了《面部识别和生物识别技术暂停法案》。

《麻省理工学院技术评论》报道称，该法案将使任何联邦机构或官员在美国获取、拥有、访问或使用生物识别监控技术成为非法行为。

这项法案可能为活动家带来了更多希望，他们的工作在IBM、微软和亚马逊最近撤回面部识别技术方面发挥了重要作用，而这些举动本身也可能增加了对立法者的压力。

本周就到这里。非常感谢您的收听。如果您喜欢这个播客，请务必评分和分享。如果您想听到更多这样的新闻，请访问Skynetoday.com，在那里您可以找到我们每周发布的包含类似文章的新闻摘要。