California seeks new guardrails on automated AI systems
07:51 Share

在加利福尼亚州，州参议院投票赞成一项所谓的“人工智能权利法案”，该法案将为自动化决策系统建立新的监管框架。为了了解更多信息，Marketplace 的 Nova Safo 与智库 AI Now 研究所的副主任 Kate Brennan 进行了交谈。</context> <raw_text>0 招聘。对许多人来说，它可能是冷冰冰的、功能性的，或者缺乏人情味。但 LHH 认为它应该更好。通过将人们与机会联系起来，而不仅仅是将技能与职位联系起来，美好的事情就会在工作中发生。领导者激励人心。团队壮大。你招聘的人才发展成为你钦佩的人，让一生中 90,000 小时的工作变得物有所值。

招聘、发展、职业转型。LHH，一个美好的工作世界。在 lhh.com/beautiful 发现招聘解决方案。

在 WhatsApp 上，没有人可以看到或听到你的私人信息，无论是语音通话、信息还是发送密码。对 WhatsApp 来说，这一切都只是这样。因此，无论您是在家庭聊天中分享流媒体密码，还是交换那些基本上可以成为播客的深夜语音信息，您的私人信息都只保留在您、您的朋友和您的家人之间。没有其他人。甚至我们也不行。WhatsApp。私密信息。

人工智能已经被用于许多决策系统中。加利福尼亚州正试图建立保障措施。来自美国公共媒体，这里是 Marketplace Tech。我是 Novosafo。

人工智能部署在所谓的自动化决策系统 (ADS) 中。他们的行为会影响人们的日常生活。这些系统可能在决定某人是否有资格获得银行贷款或失业救济金索赔是否合法方面发挥作用。在加利福尼亚州，州参议院投票赞成一项所谓的“人工智能权利法案”。它将为这些系统建立新的监管框架。为了了解更多信息，我们转向智库 AI Now 研究所的副主任 Kate Brennan。

在启动之前，开发人员必须评估其技术，以了解 ADS 的社会和技术结果，然后才能影响人们的生活。换句话说，开发人员正在尽职尽责地确保他们的产品按预期工作，并具有有效的保障措施，防止歧视人们，这当然引出了一个问题，为什么开发人员一开始就不这样做呢？

其次，该法案制定了披露要求。例如，如果银行使用高风险 ADS 拒绝某人的贷款申请，则必须通知该人使用了 ADS，并提供机会向个人提出上诉以进行审查。该法案中的另一项披露规定是，使用 ADS 的公司或政府机构必须在其网站上公开使用 ADS 的情况。

然后是第三个方面，法律称之为治理计划，但我们可能认为是持续维护。因此，这些规定确保 ADS 定期审查、更新并继续符合现有标准。

现在这是一套相当广泛的要求。加利福尼亚州在为行业制定法规和保障措施等方面通常的做法往往会影响全国。我们能否看到同样的情况发生在这里，即加利福尼亚州的做法，全国其他地区在人工智能方面也会这样做？

是的，当然。正如你所说，加利福尼亚州长期以来一直率先制定消费者保护法，这些法律对各州产生了积极的连锁反应。如果我们退一步来看，鉴于我们目前所处的更广泛的立法背景，这一切现在都更加重要。目前，国会正在努力通过一项预算协调法案，该法案包含一项条款，禁止各州

通过任何关于人工智能的法规。它特别指出了关于自动化决策系统的州法律。因此，像 SB 420 这样的法案将被取消。即使暂停失败，国会也未能通过任何立法来保护公民免受 ADS 的危害。所以

如果像 420 号法案这样的法案提高了各州普遍规定标准，那就很好。同时，薄弱的法案与什么都没有一样有害。SB 420 并不完美。它还有很多不足之处。因此，我们应该始终努力确保最强大的消费者保护法案能够在各州通过。我们马上回来。

想象一下，当学习不会妨碍生活时，你的职业生涯中可能发生什么。在 Capella 大学，我们具有突破性的 FlexPath 学习模式可在部分商业课程中使用，并允许您在适合自己的时间和节奏下学习。

这意味着您不必在获得工商管理学位的同时暂停生活。相反，享受您自己的学习方式，并在不间断的情况下获得学位。Capella 大学让不同的未来比您想象的更近。访问 capella.edu 了解更多信息。您正在收听 Marketplace Tech。我是 Novosafo。我们正在与智库 AI Now 研究所的副主任 Kate Brennan 讨论加利福尼亚州拟议的《人工智能权利法案》。

加利福尼亚州州长加文·纽瑟姆在去年年底否决了一项全面的 AI 安全法案。否决的理由包括，例如，它走得太远了。它扼杀了人工智能公司的创新，而人工智能公司仍然是一个非常新兴的行业。而且，如果您只在一个州进行监管，人们可能会搬到另一个州。那么，这些相同的论点是否适用于该法案？在一个州对像人工智能这样广泛的全球现象进行监管是否有意义

监管像人工智能这样广泛的全球现象。

是的，你知道，纽瑟姆州长使用了这个论点，人工智能行业的公司也肯定会使用这个论点，这是一个连锁反应或拼凑式立法将使其对人工智能创新有害且困难的变体。但我认为我们真的需要将这些视为试图破坏消费者保护工作和逃避责任的尝试。而且，你知道，当涉及到 420 号法案时，我们可以具体反驳这些说法，你知道，

大多数法案往往会规定法律生效的阈值。因此，经常出现的“车库创新者将受到伤害”的论点直接来自游说者的

策略手册，那些想要以愤世嫉俗的方式使用这个论点的大型企业。但我认为更根本的是，如果您从事的是一项会实质性地影响人们生活的决策业务，例如拒绝某人租用公寓，那么您是大是小并不重要，每个人都应该享有这些保护，加利福尼亚人以及全国各地的人们都一样。我们具体了解这些自动化决策系统目前正在使用的哪些地方？

当然。这些系统已经使用了十多年了。这不是什么新鲜事。而且我们有超过十年的证据表明人们受到这些决定的影响。我给你举几个具体的例子。Medi-Cal（加利福尼亚州的医疗补助）、医疗保险，使用自动化决策系统来确定医疗保险索赔的资格流程、社会保障福利的资格。

通过加利福尼亚州的 EDD 进行失业救济金申请，设定保释金，甚至警察部门使用技术来预测犯罪。所有这些都是政府行为。我们也有私人行为者在部署 ADS 系统。例如，银行向人们发放贷款，住房租赁公司批准申请。我可以继续说下去，因为

人们在生活的许多领域都受到 ADS 的影响。随着人工智能行业大力推动将人工智能系统推向我们生活的各个角落，越来越多的人正在受到 ADS 系统的影响，而不是由我们自己使用。而且很多时候，这些系统的使用……

没有公开，对吧？人们不知道它被用来做出关于他们的决定。那是……

完全正确。ADS 如此危险的部分原因在于，我们往往 A、不知道它们何时被用于我们身上，B、我们对这些工具的工作原理知之甚少。私营公司和政府机构往往躲在商业秘密法后面，以保护他们的技术免受公众审查。因此，像 SB 420 和目前正在讨论的其他法案（甚至在加利福尼亚州）中规定的披露条款是

具有让公众（如记者、倡导者和民间社会）能够查看用于训练这些工具的数据的机制。这是一个非常有意义的问责制措施。这是 AI Now 研究所的 Kate Brennan。国家州立法机构会议表示，近几个月来，近 30 个州通过了某种形式的人工智能相关立法。Jesus Alvarado 制作了这一集。我是 Nova Safo，这是 Marketplace Tech。这是 APM。

大家好，我是 Ryan，我是 Million Bazillion 的联合主持人，这是一个回答孩子们关于金钱的大问题的播客。从灌篮到本垒打，一些职业运动员赚了很多钱。事实证明，如果你有一位明星球员，每个人都想付给你更多钱。本周的播客中，我们将对体育界的薪酬机制进行评分。在您收听播客的任何地方收听 Million Bazillion。