What happened when AI went after welfare fraud
2025/3/13
On Point | Podcast
A
Amos To
B
Brant Fries
J
John Maynard
K
Kevin DeLiban
M
Meghna Chakrabarty
M
Mike Johnson
Meghna Chakrabarty: 本节目探讨了人工智能在福利系统中的应用，以及由此带来的潜在问题和挑战。我们采访了多位专家，就人工智能在福利系统中的应用，以及如何避免其负面影响展开了讨论。
Amos To: 低收入群体常常成为人工智能实验的“试验田”，其在低收入人群中试验的结果往往会被推广到更广泛的人群。
Kevin DeLiban: 阿肯色州使用算法决定医疗补助计划中的居家护理时间，导致残疾人居家护理时间被大幅削减，造成了严重的人道主义危机。算法的目的是削减福利，而非改善服务。
Brant Fries: 我开发的统计算法是透明的，经过同行评审，可以被其他科学家审查和改进。阿肯色州案例中出现的问题并非算法本身，而是实施该算法的软件公司改变了算法的部分功能。InterEye的算法已被许多州和政府使用，并有助于改善福利系统的整体运作。
John Maynard: 人工智能应该被用来辅助人类决策，而不是代替人类做出福利发放的决定。SAS公司不会开发用于代替人类进行福利决策的人工智能工具。人工智能可以帮助提高效率，减少错误，但不能代替人类的判断和关怀。我们应该关注以人为本的设计，确保人工智能工具能够公平公正地服务于社会。
Mike Johnson: 利用人工智能分析数据可以改变联邦政府运作方式，这是一个革命性的时刻。
Elon Musk: 我并不反对使用人工智能来检测欺诈和浪费，但目前我们并没有大量使用人工智能。
Deep Dive
The use of AI in welfare systems is explored, focusing on its potential to detect fraud and waste. Concerns are raised about the potential for AI to make incorrect decisions about who receives benefits and how much. The discussion also includes examples of AI-related scandals in other countries.
- AI is being used to detect fraud and waste in government programs.
- Concerns exist about the potential for AI to make incorrect decisions about welfare benefits.
- Examples of AI-related scandals in the Netherlands, Australia and Michigan are discussed.
Shownotes Transcript