We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
The Path to Facial Recognition Reform and Regulation
2020/6/19
Last Week in AI
A
Andrey Kurenkov
S
Sharon Zhou
Andrey Kurenkov：本周人工智能领域的主要新闻是IBM、微软和亚马逊停止向警方出售面部识别技术。近几个月来，执法部门使用面部识别技术引发了诸多担忧，并且越来越多的公司向警方及其他机构提供此类服务加剧了这一问题。2018年，近70个民权和研究组织致信杰夫·贝佐斯，要求亚马逊停止向政府提供面部识别技术，并向这些公司展示了2018年“性别阴影”项目的结果，该项目研究了人工智能在性别分类任务中的偏差。IBM停止开发面部识别技术；微软承诺在制定法规前停止；亚马逊对其面部识别系统实施为期一年的暂停使用。这些举措是对此前担忧的不同程度的回应。面部识别系统存在严重的偏差，例如在性别分类任务中，IBM系统对深肤色女性的分类准确率比对浅肤色男性的分类准确率低34.4%。即使准确的面部识别系统也可能被危险地部署，因此出现了呼吁禁止和规范面部识别技术的强烈声音，而不是仅仅在最终使用前改进它。需要研究人员和普通民众向这些公司施压，仔细审查这些技术，才能促成这些决定和行动。在“性别阴影”项目发布后，IBM率先联系研究人员，试图解决其系统中的偏差问题；而亚马逊则对该项目的结果反应冷淡。应该继续保持怀疑态度，并支持对此进行调查的活动家。亚马逊可能会等到抗议活动平息后，再恢复其向警方出售面部识别技术的做法，因此活动家和研究人员推动立法至关重要。作为人工智能研究人员，应该支持这些运动，例如签署请愿书或关注可能的立法，推动更多法规的通过。即使暂停或限制面部识别技术，也需要法规来确保其有效使用，因为这项技术无法完全消失。即使大型公司暂停使用面部识别技术，其他公司仍然可以提供此类服务，并且这项技术可能通过许可协议继续被执法部门使用。《真实身份法案》要求收集生物识别数据，包括面部照片，这使得面部识别技术的立法变得复杂。
Sharon Zhou：需要研究人员和普通民众向这些公司施压，仔细审查这些技术，才能促成这些决定和行动。YOLO的作者PJ Reddy退出计算机视觉研究，因为他看到他的系统被用于不良用途，这引发了对人工智能研究人员责任的思考。在安全与隐私之间存在权衡，需要在允许面部识别技术用于安全目的的同时，限制政府对其的使用。应该立法禁止公司允许任何人下载应用程序来识别他人。面部识别技术的监管类似于过去优生学或基因编辑的监管，需要谨慎处理，以避免负面后果。随着技术的不断发展，需要及时应对其使用方式和应用，特别是考虑到Clearview AI等公司已经向大量个人和组织出售技术。算法正义联盟对IBM等公司停止向警方出售面部识别技术的回应，呼吁关注算法正义和种族正义。研究表明，面部识别系统对深肤色女性的识别效果最差，突出了交叉性在人工智能中的重要性。算法正义联盟呼吁科技公司为种族正义事业捐款，并签署“安全面孔承诺”，以减少该技术的滥用。
Deep Dive
The episode discusses the recent decisions by IBM, Microsoft, and Amazon to halt the sale of facial recognition technology to police, highlighting the role of civil rights and research organizations in pressuring these companies.
Shownotes Transcript