We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
AI Fails to Diagnose COVID-19, Difficulties with AI Regulation, and more on Surveillance
2020/5/2
Last Week in AI
S
Sharon Zhou
Andrey Kurenkov和Sharon Zhou：许多用于诊断和预测COVID-19感染的AI模型存在偏差，数据质量差，且缺乏对照组，因此不适合临床使用。这些模型的缺陷包括使用不能代表病毒感染人群的患者数据、使用注释不良的数据以及缺乏与已建立的机器学习模型的基准测试。此外，这些模型仅预测已死亡或康复患者的结果，而没有预测仍有症状的患者的结果。同行评审期刊能够有效避免AI诊断模型中许多缺陷的出现，而许多快速发布的模型存在这些缺陷。高质量的同行评审研究，例如发表在《细胞》杂志上的研究，提供了更可靠的COVID-19诊断模型，但其发布需要时间。为了改进医学诊断预测模型，应该采用Tripod清单等最佳实践检查清单，以避免数据偏差等问题。
Sharon Zhou：当前的AI模型，特别是监督学习模型，需要明确定义的真实值才能有效运作，而法律和伦理判断的真实值往往难以定义和量化。由于法律具有情境性和灵活性，AI无法自动化公平性评估。法律中许多基本概念，例如弱势群体和优势群体的构成、遭受损害的严重性和类型以及证据的相关性和可采性要求，都需要司法机关在个案基础上做出规范性或政治性选择，这无法被AI自动化。以色列拥有大量的AI公司和新技术研发，这在一定程度上是由于其在AI领域的大量投资和学术合作。以色列在AI领域的产业活动非常活跃，这值得关注，因为它与西雅图的联系可能会影响美国AI的发展。
Deep Dive
The discussion focuses on a paper criticizing AI models for COVID-19 diagnosis, highlighting biases and flaws in data usage, and questioning the rush to deploy untested models.
Shownotes Transcript