We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode California seeks new guardrails on automated AI systems

California seeks new guardrails on automated AI systems

2025/6/23
logo of podcast Marketplace All-in-One

Marketplace All-in-One
AI Deep Dive AI Chapters Transcript
People
K
Kate Brennan
Topics
Kate Brennan: 作为AI Now Institute的副主任，我认为加州的人工智能法案（SB 420）旨在为自动化决策系统（ADS）建立合理的保障措施。我认为开发者在推出ADS之前，应该进行充分的评估，确保其技术不会对人们的生活产生歧视性影响。我强调了信息披露的重要性，如果银行使用高风险的ADS拒绝某人的贷款申请，申请人有权知情并要求人工复审。此外，我认为使用ADS的机构应该公开声明其使用情况，提高透明度。我进一步指出，持续的维护和更新对于确保ADS符合标准至关重要。虽然SB 420并非完美，但我认为它提高了各州消费者保护的标准。我同时认为，我们需要警惕那些以扼杀创新为借口，试图逃避责任的大型企业。我认为无论企业规模大小，所有人都应该受到保护，免受ADS的不公正影响。我强调了ADS已经在多个领域广泛应用，但很多时候，人们并不知情。我认为通过信息披露，我们可以让公众更好地了解这些工具，从而实现有效的问责。

Deep Dive

Shownotes Transcript

In California, the state Senate has voted in favor of a so-called AI Bill of Rights, which would establish new guardrails around automated decision systems. To learn more about them, Marketplace’s Nova Safo spoke with Kate Brennan, associate director of the think tank AI Now Institute.