We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
AI Setting Grades, ICE Pays Clearview, and Much More
2020/8/22
Last Week in AI
A
Andrey Kurenkov
S
Sharon Zhou
Andrey Kurenkov：本周新闻主要关注人工智能在执法、营销和预测中的应用，以及由此引发的伦理问题。美国移民与海关执法局（ICE）与Clearview AI公司签订合同，使用面部识别技术，引发了人们对其可能被用于负面用途的担忧。Clearview AI公司此前曾承诺停止向私营公司出售其应用程序，但此次合作表明其承诺并未完全兑现。此外，市面上出现用于种族识别的软件，引发了人们对其可能导致公司基于种族做出决策的担忧，即使是无意的，也难以检测。这些案例都表明，人工智能技术在应用中可能存在伦理风险，需要谨慎对待。
Sharon Zhou：人工智能技术在执法和预测中的应用也存在伦理问题。英国警方开发的用于预测暴力犯罪的AI系统存在严重缺陷，无法使用，这凸显了AI系统开发中可能存在的缺陷。此外，利用AI预测累犯的尝试可能加剧社会现有偏见，因为历史数据中包含的偏见会在大型数据集中被放大。在教育领域，使用AI预测学生成绩也可能加剧现有教育不平等。这些案例都表明，在使用AI技术进行预测时，需要特别关注算法偏见问题，并采取措施加以缓解。
Deep Dive
The Immigration and Customs Enforcement (ICE) has signed a contract with Clearview AI, a facial recognition company, raising concerns about the use of such technology in enforcing immigration laws.
Shownotes Transcript