How insurance companies use AI to deny claims
47:20 Share

联合健康公司正面临一项集体诉讼，指控该公司滥用人工智能拒赔具体的保险索赔。

<raw_text>0 在家无聊？前往 Chumba Casino，加入一些严肃的社交赌场乐趣。数百款游戏触手可及，无需购买，您可以随时随地玩耍。注册时会有特别的欢迎奖金等着您。玩得开心，免费玩，您甚至可以兑换一些很棒的奖品。访问 ChumbaCasino.com，准备好享受乐趣吧。

Chumba Casino 赞助，无需购买。VGW 集团，在法律禁止的地方无效。18 岁以上适用条款和条件。Church 的粉丝保持真实，我们必须奖励这一点。Church 的真实奖励让您轻松快速地节省真金白银，就像实时一样。注册时，首次购买即可获得免费的两块鸡肉或三块鸡块。这是重点。我是 Meghna Chakrabarty。

Christine Huberty 是一位律师。她曾在威斯康星州工作，为医疗保险受益人提供免费的法律援助。2019 年，她注意到一些奇怪的事情。这是关于医疗补助优势计划的，在这个计划中，人们通过私人保险公司而不是联邦政府直接获得医疗保险。根据凯撒家庭基金会的数据，近 3100 万人使用医疗补助优势计划。

现在，Huberti 注意到她的一些医疗补助优势计划客户的熟练护理机构护理索赔被拒赔了。有一位病人特别让她担心。他遭受了严重中风。当他的医生说，你需要至少两个月。

在这种类型的护理环境中进行康复治疗。如果这个人拥有原始医疗保险或传统医疗保险，他们将获得 100 天的治疗，无需任何其他类型的审查。他们会得到医生开的药，他们都建议的。而这位客户，这位病人却被置于两周后才弄清楚的境地，我是否应该在不安全的情况下回家？我是否应该留在这里并自掏腰包？

所以，当这一切都在发生的时候，因为你正在实时收到拒赔通知，他已经失去了几周的护理。所以，虽然我们可以坐在这里讨论谁在为谁付钱，但他们停止了他需要的治疗，他可能失去了一些功能以及恢复到他以前功能水平的能力。这名男子参加了医疗补助优势计划，他的保险来自联合健康公司，

美国最大的私人健康保险公司。那时 Huberti 开始注意到更多来自联合健康公司的拒赔。有些病例是使用胃管的。有些病例是使用排球大小的管子

压疮，也就是褥疮，他们只是不明白为什么需要这种护理。他们的医生说他们需要这种护理，但他们的保险公司却说他们不需要。所以我们有，你知道，数百页的医疗记录支持他们应该获得这种护理，然后得知这一切都是由电脑启动的。我认为这，你知道，真是令人难以置信。

当她开始收集越来越多的被拒赔的索赔时，Huberti 得知医疗保险和医疗补助服务中心正在征求公众意见，了解医疗补助优势计划的运作情况。再说一次，这可以追溯到 2019 年。

所以 Huberti 发表了评论。这是截止日期的前一天晚上，而且很热烈，而且不是，你知道，现在我在医疗保险倡导中心工作时，它非常有条理。它非常，你知道，非常经过编辑。这更像是一股意识流。把它发布出去，你知道。所以我没有回头看它，因为我可能会感到尴尬。尽管如此，这条评论还是找到了受众。

所以，发生的事情是，Casey Ross 和 Bob Herman 来自 Stat News 发现了这条评论，并发现我已经确定了这个问题。Stat 是一家屡获殊荣的医疗保健和医学新闻机构。Casey Ross 是 Stat 的首席数据和技术调查记者。他现在和我们在一起。Casey，Christine Huberty 关于

在 CMS 上发表的意识流评论中，究竟是什么引起了你的注意？嗯，很难记住确切的词语，但我记得当时的愤怒。

对她认为病人被不公平地拒绝治疗的方式感到愤怒。可能有一些大写字母。语气和基调让我对自己说，我必须和这个人谈谈。好吧，我们应该说，那第一条评论导致了你，呃，

以及你的共同记者为 STAT 报道了关于人工智能在健康保险索赔中使用的这篇具有开创性的系列报道，特别是与联合健康公司相关的报道。所以告诉我，从克里斯汀关于所有这些她正在与之合作的人的索赔被拒赔的第一条评论，以及她如何说这是由一台电脑启动的，你采取的第一步是什么来深入挖掘？

好吧，我们开始打电话给任何愿意与我们讨论在其设施中或在其认识的患者身上使用这种算法的人。所以克里斯汀是一个非常早期的电话。我们开始获得文件。我们开始与其他熟练护理提供者交谈，只是为了了解一下

好的，这是如何使用的？它是如何被引用的？当他们向联合健康公司或其他使用该算法的保险公司询问问题时，答案是什么？对我们来说，一个有趣的答案是，好吧，这是专有的。我们无法告诉你它使用了哪些数据进行训练。我们无法告诉你它是如何做出决定的。

啊，好的。所以当记者被告知，我们不能告诉你时，这就像猫薄荷一样，对吧？你会发现的。你能给我举更多例子吗？我的意思是，你发表的第一篇文章，你从另一个真正令人不安但详细的例子开始，说明这种算法决定何时批准护理和何时拒绝护理的方式。这是弗朗西丝·沃尔特的故事，她是一位来自威斯康星州的 85 岁妇女，她的左肩粉碎性骨折。

是的，弗朗西丝·沃尔特是一个真正让我们脱颖而出的案例，而且与我们随后在全国各地听到的案例非常相似。

这是一个完美的例子，说明为什么不能应用算法来做出关于患者的决定，而不考虑其他信息，也不考虑他们的医生对该问题的看法。弗朗西丝·沃尔特在跌倒中遭受了非常严重的肩部骨折。她还对止痛药过敏。

当你同时出现这些情况时，康复时间会更长。这更难。她无法穿鞋。她无法照顾自己日常生活中的基本活动。然而，一个算法却说，在第 16 天，我认为实际建议是 16.6 天，她需要回家，她的保险公司在第 17 天切断了

第 17 天的护理。哇。这是该算法提出的建议吗？是的。而且它显然是逐字照搬的。问题是这让她家人陷入恐慌。我们把妈妈放在哪里？她去哪里？她不能照顾自己。她独自一人生活。我们该怎么办？我们如何支付这笔费用？

他们最终不得不申请医疗补助并减少资产以支付她的护理费用。当这种情况发生在这么多人身上时，可怕的事情是，几代人的财富都消失了。他们无法将其中的任何东西传给他们的孩子，因为他们所有的钱都必须花在被错误拒绝的护理上。

弗朗西丝的家人是否能够从她的保险公司那里得到任何关于为什么她的保险在第 17 天停止的答案？

只有通过漫长的申诉和调查程序，他们才最终了解了该算法。关键在于，患者和家属不知道该算法正在用于决策过程。所以一旦他们提出上诉并上诉……

在整个过程中，你必须多次上诉才能到达一个点，在那里你可以进行调查并找出，好的，使用了哪些工具，使用了哪些信息来做出这个决定。Christine Huberty 最终找到了这份报告，这份算法生成的报告预测了她的住院时间。但这需要采取法律行动，因为他说这是在申诉和调查中。对。

而且花了几个月的时间。是的，花了几个月的时间才达到这一点。好的。再次重申一下，我们谈论的是一位老年妇女，一位年迈的妇女，她非常痛苦，甚至无法自己穿衣、上厕所或在没有帮助的情况下推着助行器。然而……

该算法决定在第 17 天，她将不再获得在疗养院住院的保险。所以，Casey，让我们开始剥开你发现的这些层次。这个算法是什么，是谁开发的？

这个算法叫做 NHPredict，它是由一家名为 Senior Metrics 的公司在……

20 世纪 90 年代末和 21 世纪初开发的，它使用各种数据输入开发了这个算法工具。最终，它实际上是医疗保险和医疗补助服务中心的原管理员 Tom Scully，他正在寻找投资作为一家私募股权公司的一部分

在他任职之后，他看到这样一个事实带来了机会：如此多的老年患者在疗养院度过了更长的时间。他看到了这个算法，他成立了一家公司，并收购了它。该公司成为 NaviHealth。NaviHealth 开始将此算法应用于全国各地疗养院中所有

老年患者的护理多年，直到最终，通过一系列交易，联合健康公司（最大的保险公司和最大的医疗补助优势计划保险公司）收购了它，并开始将其用于自己的患者，并将其算法外包给其他保险公司使用。好的。所以这就是联合健康公司介入的地方。而且

当然，我们今天之所以讨论这个问题，即使你们的报道是在去年 3 月发布的，也是因为本月早些时候联合健康公司首席执行官布莱恩·汤普森被谋杀的可怕事件。

我只想明确地说，谈论联合健康公司的这一方面绝不意味着我们在 On Point 或者你，Casey，在纵容任何形式的谋杀。我只想非常非常清楚地说这一点。但再说一次……

但再说一次，这一事件，这一行为，已经让很多人再次关注联合健康公司，它是美国最大的私人健康保险公司。正如你所说，它基本上是医疗补助优势计划中最大的参与者。那么，我们对 NHPredict 算法为联合健康公司带来的优势了解多少？我的意思是，它在做决定方面有多好？

好吧，它在准确做出关于患者护理的决定方面并不出色，但它确实有效地为联合健康公司和其他使用它的保险公司节省了大量资金。急性期后护理，即在因严重疾病或受伤住院后在疗养院进行的护理，是一种非常昂贵的选择。

许多健康保险公司的成本中心。因此，健康保险公司正在瞄准

试图降低成本的特定领域。这不仅仅是联合健康公司，其他保险公司也在这样做。好的。所以，Casey，请稍等片刻。回来后，我想更多地了解你的报道发现了什么。此外，还有一起诉讼仍在进行中，涉及在决定健康保险索赔时使用人工智能的问题。所以我们也会谈谈这个。这是重点。Indeed 为 On Point 播客提供支持。

你在招聘吗？有了 Indeed，你的搜索就结束了。Indeed 不仅仅能帮助你更快地招聘。93% 的雇主同意，与其他求职网站相比，Indeed 提供了最高质量的匹配。听众可以获得 75 美元的赞助职位积分，让你的职位在 Indeed.com/onpoint 上获得更多关注。这是 Indeed.com/onpoint。适用条款和条件。需要招聘？你需要 Indeed。

你回到了 On Point。我是 Magna Chakrabarty。今天我们正在与 Casey Ross 谈话。他是 STAT 的首席数据和技术调查记者。他报道了一个名为“人工智能拒绝”的系列报道，与 Bob Herman 共同报道。它是 2024 年普利策奖调查报道的入围者，Casey 和 Bob 在其中揭露了人工智能在批准或拒绝健康保险索赔中的使用，以及

以及在全国最大的私人健康保险公司联合健康集团中的具体应用。Casey，就在前几天，我们告诉听众我们今天会和你谈谈，我们想知道听众是否有类似的经历。我们收到了 Deborah Dolinsky 的来信。她是一位前护士。

在过去的四年里，她对自己的髋关节进行了一系列手术，她告诉我们，她不得不为自己争取在您一直在谈论的那种熟练护理机构中停留更长时间，因为她的保险公司经常拒绝她的索赔，即使过早回家对她来说可能是灾难性的。如果你独自一人生活……

有楼梯，情况就完全不同了，你必须在浴缸里放一个滑椅，这样你才能洗个澡，你必须拥有所有这些东西，而且

你知道，你必须能够站立，这真的很难。经过所有手术，我损失了很多血，血细胞计数非常低。我因为努力而筋疲力尽。他们没有考虑这些事情。这是 On Point 听众 Deborah Dolinsky 的说法。

所以，Casey，告诉我更多关于你发现的这个软件、这个算法 NHPredict 的信息，它使用了什么来决定何时应该批准或拒绝护理？

所以它使用关于你的许多不同类别的数据来进行计算。不同的数据包括你的生活状况、你因何种疾病住院、你可能有哪些其他疾病会加重病情、

从导致你住院的伤害或疾病中恢复的难度、其他人口统计细节、

它获取这些数据，以不同的权重对数据进行加权。通过计算，它会输出关于你住院时间的预测。所以我们从未真正得到关于进入模型的所有数据片段甚至数据来源的明确答案，因为他们只是联合起来。NaviHealth 不会回答这些问题。

有趣。现在，你与一位名叫 Amber Lynch 的人交谈过，对吧？她是 Navahealth 的前个案经理？是的，没错。好的。但她告诉你，根据她的说法，很多事情，例如合并症，并没有被纳入算法的分析中。我认为公司内部许多人的担忧是

他们正在运行这个算法，他们正在查看患者。他们必须实际去该设施并直视患者的眼睛。他们看到了他们。他们看到了他们所患的不同疾病对他们的影响。他们可以看到他们。他们会查看患者的情况，而算法的预测与他们在与患者会面时作为护理人员所感受到的情况并不一致。所以我认为这种差距导致他们中的许多人想在进行报道时与我们交谈，因为这对他们来说感觉不对。嗯哼。

好吧，这很有趣，因为正如你所说，他们拥有这个算法，这项技术可以访问至少多少患者的数据库，600 万名患者。它正在利用所有这些信息来提出这些建议或做出这些决定。

但是，如果某些内容未包含在决策中，当然，问题是为什么。但我了解没有人会……联合健康公司实际上会和你谈论这个吗？他们会详细告诉你任何事情吗？

他们会。他们接听电话来回答一些问题。我们与他们进行了长时间的交谈，但他们总是处于后台。他们拒绝让一个人公开露面，以便我们能够实际引用他们的回应和解释。他们没有。

我们得到的大多数解释都是，好吧，这不是最终的决定因素。我们让其他人审查算法预测，以查看该人是否需要更多护理或是否应该拒绝护理。但了解这些部分是如何组合在一起的非常重要。所以，一线使用该算法并直接与患者打交道的人

必须做出决定，这个人必须决定，好的，这个病人应该被拒绝吗？如果是这样，我是否应该向医疗主管推荐，然后由医疗主管审查此案？发生的情况是，那些一线人员会感到有压力做出应该拒绝的决定，因为他们的绩效是根据此决定的。嗯哼。

好的。所以他们转发了这个案例，他们觉得很多这些案例在他们向上级提交后只是被简单地盖章拒绝了。好的。所以让我们更详细地讨论一下，因为这是一个关键部分，对吧？因为人工智能实际上可以是一个非常有用的工具，对吧？如果部署——

正确且周到地，因为你知道，当我们谈论医疗保健数据时，有很多数据可以用于善事。但问题是，最终的人类决策是什么？好的。所以如果我理解正确的话，Casey，你的报道发现，例如，当覆盖范围被拒绝时，

通过联合健康的流程。有一个内部申诉流程。如果我理解正确的话，超过 90% 的拒赔都被撤销或正在撤销。这是根据目前针对联合健康公司未决的诉讼提出的，这意味着如果这些申诉如此成功，则该算法正在错误地拒绝保险范围。

是的，你可以肯定得出这个结论。不幸的是，很少有人提出上诉并完成整个流程。所以大约只有 2% 到 3% 的人实际上对拒赔提出上诉。鉴于这种差距，你可以推断，保险公司正在逃避许多拒赔，如果提出异议，这些拒赔将被推翻。好的。但有人正在告诉那些个案经理……

从技术上讲，对保险范围或拒赔做出最终决定的人，他们应该与算法的确定结果保持多近，对吧？我在这里看到，在 2022 年，NaviHealth 告诉其个案经理，将疗养院的患者住院时间保持在算法预测天数的 3% 以内。随着时间的推移，这个范围是变宽了还是变窄了，Casey？是的。

它变窄了。这是我们报道中真正令人震惊的部分，因为你看到

这些护理人员，而不是有权决定他们所看到的所有信息，而是被告知你必须遵循这个算法及其预测在 1% 以内。所以如果他们作为护理协调员有 10 名患者，而这些患者总共被分配了 100 天，如果这组患者的住院时间超过 101 天，

那么他们就错过了他们的绩效目标。当你想到每个人在使用人工智能时总是会说些什么时，这尤其令人不安。他们总是说，好吧，我们将让合格的专家来查看这个人工智能，并决定是否应该应用人工智能的建议。

在这种情况下，情况恰恰相反。他们被告知无论如何都要遵循算法，几乎在 1% 以内。在 1% 以内。这只是去年的事情。目标叙事是，你不能偏离人工智能建议的 1% 以上。现在，从技术上讲，细节在这里很重要，个案经理并不是保险范围或拒赔的决定者，对吧？这取决于医生医疗审查员。

对。这就是我之前试图说明的重点。所以个案经理基本上只能批准额外的护理，他们必须去找他们的经理说，我认为这个人需要更多护理。经理会说，好的，给他们多几天，或者不给。但如果涉及到拒赔，拒赔只能由查看此案并决定好的医生的医疗审查员做出。

好的，这个人被拒绝了，或者没有被拒绝。但他们正在接受这些个案经理的建议。但他们也正在考虑算法的输出。所以这里存在一种担忧，即某种程度上

你知道，流程自动化和某种自动化偏差。一旦它出现在你面前，它就被审查过了。许多专家对此都感到担忧，即你只是在某种程度上开始自动盖章确认算法的预测。因为在许多情况下，这似乎是正确的。但随后会出现两三个案例，等等，它不是。而且是，

然后这种自动流程可能会导致不公平和不公平的决定。对。但当你谈论的是美国最大的私人健康保险公司时，这种情况就会扩大，对吧？它可能只是极少数案例，但我们谈论的是数百万人的情况。

他们的护理正在通过这个算法进行处理。现在，我之前提到过，在你的报道发布后不久，Casey，针对联合健康公司的一项重大集体诉讼也被提起。顺便说一句，我们应该说联合健康公司已经提供了一份声明，

我认为这是他们也提供给你的声明，Casey，其中联合健康公司表示，引用，“保险范围决定是基于 CMS 保险范围标准和会员计划条款做出的”，结束引用。联合健康公司还表示，引用，“该诉讼毫无根据，我们将坚决为自己辩护”。

好的。所以联合健康公司在这份声明中声称的内容，Casey，我知道你很熟悉，与你所描述的内容或你所描述的他们使用该算法的方式完全不同。他们只是说，嘿，这是向提供者、家人和护理人员提供信息，说明患者可能需要什么样的帮助和护理。

是的，完全正确。但如果不是因为这个 1% 的目标，情况就会是这样，对吧？我的意思是，这个算法和类似的算法确实非常有用，因为它们确实提供了可以在决策过程中考虑和使用的一些信息。但是，如果你将决策者的双手绑在算法上，那么你就会消除他们偏离算法的自由裁量权。我要提出的另一个重要点是，我没有在前面提到，

当算法对你的情况做出预测时，它所做的是在前面我谈到的数据类别之间进行计算，并将你与该数据库中与你相似的患者进行比较。

这就是它如何得出关于你住院时间的结论。但是，如果数据库中的那些患者实际上与你并不那么相似呢？如果他们在某些方面有所不同，而这些方面最终是无法计算的呢？这就是我们发现的，它真的不可能完全掌握所有这些细微差别，以可靠且一致的方式进行准确的比较。我是 Meghna Chakrabarty。这是重点。

好吧，Casey，我们联系了 Ryan Clarkson。他的律师事务所正在代表原告对联合健康公司提起这项大型集体诉讼。他还以类似的方式起诉健康保险公司信诺使用人工智能。Clarkson 说，他们发现信诺在两个月内拒绝了超过 30 万份索赔，他认为这突显了使用人工智能评估保险索赔的问题。如果你计算一下，

在这两个月内，在 30 万份索赔中，医生审查每份拒赔索赔的时间大约是 1.2 秒。我认为地球上没有人会认为 1.2 秒是审查某人健康保险索赔情况的足够时间。

Clarkson 还表示，这项集体诉讼的目标之一是，他想就人工智能在医疗保健中特别是健康保险中的使用展开更广泛的讨论。

为此，他希望法官允许此案进行审判，这将导致一轮调查。如果我们能够继续进行，那么我们也将有机会进行调查，并真正打开人工智能算法和代码的黑匣子，以准确了解

人工智能是由什么构成的，以及它是如何被用来我们认为不公平地拒绝我们的客户和其他类似处境的健康保险索赔的。Casey，你是否知道这项集体诉讼目前的状况？

集体诉讼正在通过非常漫长的动议程序进行。我对信诺的案件不太熟悉，因为我没有报道过，但涉及 NaviHealth 和该算法使用的案件目前正在审判前的调查程序中。尚未安排审判日期，但它正在通过该程序进行。现在，该诉讼声称

联合健康公司和 NaviHealth 做了一些事情，例如违反合同、违反诚信、公平交易、不正当得利以及许多美国州的保险法违规行为。关于不正当得利部分，你是否能够找到任何……

关于联合健康公司通过使用 NHPredict 节省了多少钱的具体数字或估计？因为很难想象这个工具的目的不包括成本节约。

是的。我的意思是，棘手的是，你只能根据你在这一特定护理类别中看到的拒赔率以及典型护理事件的成本进行粗略计算。但是当你进行这些计算时，你会得到每年数十亿美元。

我要指出的是，在我们的报道之后，美国参议院的常设调查小组对此进行了调查，并从保险公司传唤了数十万份文件，事实上，在这些文件中发现，保险公司预测使用这些算法每年将为他们节省数十亿美元。他们的决定，重要的是，是根据

直接的财务影响进行校准的。如果它会让他们花钱，他们就不会推荐使用它。如果它能为他们省钱，他们就会使用它。Casey Ross 今天与我们在一起。他是 Stat 的首席数据和技术调查记者，他正在向我们介绍他关于人工智能在健康保险中使用的调查系列报道。还有很多。这是重点。

On Point 中对人工智能报道的支持来自 MathWorks，它是用于技术计算和基于模型的设计的 MATLAB 和 Simulink 软件的创建者。MathWorks，加速工程和科学领域的发现速度。了解更多信息，请访问 mathworks.com。

联合健康公司正面临一项集体诉讼，指控该公司滥用人工智能拒绝具体的保险理赔。

<raw_text>0 欢迎回到《On Point》节目。我是梅格纳·查克拉巴蒂。在我们回到与凯西·罗斯的谈话之前，我想先提醒大家一件我们正在为新年准备的事情。它很快就要来了。但在2025年初，我们将欢迎两位我们最喜欢的人回归，那就是《On Point》节目的“理财女士”。你们认识她们。她们是《华盛顿邮报》的米歇尔·辛格莱塔里和《金融时报》的拉娜·福鲁哈尔。她们将一起讨论所有与金融相关的宏观和微观问题。她们将讨论……

我们想听听你们的意见。你们有什么与经济相关的疑问或担忧吗？也许你们对即将上任的特朗普政府如何影响经济和你们的底线有一些想法或希望。或者，这是否与住房有关——住房始终是一个大问题，贷款也始终是一个大问题。你们对这两位不可替代的“理财女士”有什么总体问题吗？所以，你们可以通过我们的《On Point》Vox Pop应用程序向我们发送问题，网址是……

如果你还没有下载，请在任何你下载应用程序的地方搜索《On Point》Vox Pop。你也可以打电话给我们，617-353-0683。号码是617-353-0683。我们将在一月初欢迎这两位“理财女士”回归。凯西，我想问几个关于联邦政府如何参与……

人工智能在健康保险理赔和承保中的使用问题。据我了解，联邦检查员确实审查了2019年的拒绝理赔，并发现这可能不仅仅是人工智能的问题，而是私人保险公司偏离了医疗保险的实际规定……

或拒绝理赔，他们使用内部制定的标准来延迟或拒绝医疗服务。鉴于你对NaviHealth和联合健康公司如何使用人工智能的描述，这是有道理的。是的，卫生与公众服务部内部的监察长办公室一直非常积极地关注这个问题，这就是他们的发现。他们发现这些内部标准和决策工具，这些算法基本上被用来……

被用作已公布的医疗保险规则（关于人们何时应获得和需要医疗服务）与关于患者是否符合这些标准的决定之间的中间环节。因此，你在实际规则和关于患者的决定之间插入了一个过滤器，并且你使用这些算法工具来……

做出这些决定或以某种方式解析它们。但是，再一次，我的意思是，这就是联邦政府可能产生巨大影响的地方，因为即使医疗保险优惠计划最终是通过联合健康等私人保险公司管理的，资金仍然来自医疗保险，对吧，凯西？对。

是的，联邦政府在这里制定了关于使用这些技术的规则。他们提供资金。因此，所有进入这些计划的资金都来自纳税人和这些联邦计划。这是联邦安全网发挥作用的地方，医疗保险和医疗补助服务中心负责此事。

因此，他们可以做一些事情。最近还发生了一件事。我认为这就是你之前提到的。今年10月，美国参议院常设调查小组委员会发布了一份报告，他们发现……

医疗保险优惠计划的保险公司故意——这是报告中的原话——

所以，凯西，在所有这些事件之后，包括正在进行的诉讼，联合健康公司、NaviHealth公司或参与在理赔裁定中使用人工智能的其他公司是否表示他们可能会改变方向？

我们没有看到任何证据表明他们计划减少算法的使用，或改变他们的做法，或欢迎任何额外的监督。事实上，联合健康公司的问题算法……

由其子公司NaviHealth拥有，NaviHealth不再以该名称作为子公司存在。它现在只是Optum的一部分。因此，你实际上甚至不知道存在这种特定品牌的算法，也不知道它是由这个特定的子公司使用的。它只是联合健康集团Optum业务集团的一部分，这使得人们更难以理解它何时以及如何被使用。好的。

好吧，凯西，请稍等片刻，因为我们联系了我知道你熟悉的人，齐亚德·奥伯迈尔。

他是加州大学伯克利分校公共卫生学院健康政策与管理副教授。他也是一名急诊医学医生，他多年来一直在研究人工智能在医疗保健领域的应用。他还研究了偏差问题以及人工智能是否有效。

他甚至创立了一家公司，为想要为医疗行业构建有用算法的人提供临床数据。顺便说一句，奥伯迈尔博士几年前曾在我们屡获殊荣的为期一周的系列节目《更智能的医疗：人工智能如何改变医疗保健》中出现过。各位，如果你还没有听过，你真的应该听一听。在我们的播客节目中查看，或访问onpointradio.org，你就可以找到它。只需搜索即可。

但无论如何，我们与奥伯迈尔博士重新联系，讨论了人工智能和健康保险。他告诉我们，公众实际上不应该太快地谴责人工智能，因为拥有更好的方法来比较和评估承保需求对于保险管理至关重要。

但是，将其转化为一种指令性的事情，然后将报销决定、理赔拒绝等置于其背后，这在我看来简直是疯狂的。从伦理和科学角度来看，这都是错误的。换句话说，让AI……

最终决定理赔决定消除了人类监督这一关键步骤，这就是凯西向我们介绍的联合健康公司允许的1%的差异。

这就是为什么奥伯迈尔说联合健康公司使用人工智能是有缺陷的，因为个案经理得到了指示，并因遵守算法而不是他们自己的专业知识而受到奖励。奥伯迈尔博士说，这类似于奖励教师学生的考试成绩，例如。你可能希望激励对学习的承诺，但你只是激励教师教授考试中的内容。

选择这个指标非常重要，以一种智能的方式围绕它设计激励制度也超级重要。我认为在这种情况下，指标的选择不好，围绕该指标的激励制度的设计也不好。然而，奥伯迈尔博士说，在健康保险中仍然有空间可以道德地使用人工智能。

联合健康公司本可以使用该算法来确定患者的住院时间是否比正常时间长得多。然后，这些信息实际上可以用来确定需要额外护理（不一定是更少护理）的地方，这将使患者和公司都受益。即使你是一家保险公司，实际上也有一些非常有用的事情可以做，那就是说，好吧，这些人有很多未确诊的疾病。

如果你参加医疗保险优惠计划，未确诊的疾病是很好的。就像，去诊断这些疾病，然后你将从医疗保险获得更多资金。所以这甚至不是说，这需要人们唱《库姆拜亚》并做正确的事情，即使这对业务不利。我认为有很多地方，对患者有利的事情对业务也有利。奥伯迈尔博士说，一些保险公司没有考虑如何真正最大限度地发挥人工智能改善保险承保和患者健康的潜力。

例如……所以我想，你知道，很多人做了膝关节置换手术，效果很好。但是有一小部分人的膝关节置换手术失败了。

提前知道这一点对每个人都非常有价值。这对患者来说非常有价值，对保险公司来说也非常有价值，因为这样他们就不必为膝关节置换手术和康复支付巨额费用了。为什么我们没有算法来做到这一点？为什么我们只是预测住院时间这些愚蠢的事情？但即使在奥伯迈尔博士提供的这个清晰的例子中，

使用更复杂的人工智能的最大障碍是保险公司本身。构建这些人工智能工具的主要保险公司和公司坚持将专有数据保密。凯西几分钟前向我们谈到了这一点，这意味着他们确实可以访问这些庞大的数据集，如果共享这些数据集，则可以……

可能会产生更好的工具，但保险公司和科技公司拒绝这样做。我认为我们在这一领域受到了阻碍，因为只有少数几家不同类型的公司的人员可以访问数据。这对社会不利，对经济不利，对除了少数几家可以访问数据的公司之外的任何人都不利。然而，一方面，奥伯迈尔博士仍然对人工智能在医疗保健中的潜在用途持乐观态度……

我应该说，如果保险公司从他们的错误中吸取教训，那么他的乐观情绪就会遇到障碍。如果我们看到足够多的灾难性失败，那么每个人都会做出非常合理的反应，那就是关闭整个事情，然后说，这些东西很糟糕。它们无法挽救。而且……

我认为这将是一场悲剧，因为我认为，正如我提到的，我真的很乐观，我们可以用算法做很多非常有用的事情。但是，这些不良案例曝光得越多，而且比已经公开的要多得多。你知道，在未来几年，还会有更多例子曝光，这将是一场丑闻。

这是齐亚德·奥伯迈尔，急诊室医生，加州大学伯克利分校公共卫生学院健康政策与管理副教授。凯西·罗斯，你对此有何反应？

是的，我的意思是，我认为这些观点都很有道理。我认为问题在于，关于算法、选择的指标以及围绕它的激励措施的许多决定都是在我们无法看到且没有任何监督的企业防火墙后面做出的。目前，保险公司可以自由地做出这些决定……

他们如何构建算法，使用什么数据，在评估患者的过程中选择使用什么指标，然后他们如何围绕算法的使用给予员工激励。所有这一切中最大的讽刺之处……

当我想到它的时候，是当他们推销这些工具并谈论它们的使用时，保险公司和其他使用这些工具的人说，好吧，我们正在使用它来对患者做出更好的个性化决定。

但是，当算法以如此严格的方式应用时，它会遗漏关于患者的关键细节，这与仔细做出的个人决定恰恰相反。它导致了一种概括，在完全错误的时刻切断了护理。我是梅格纳·查克拉巴蒂。这是《On Point》节目。凯西，我们一直在讨论……

理赔拒绝，最具体的是在养老院护理或急症护理机构领域。但这些技术在整个行业、整个医疗保健领域都有使用。我想知道，在报道这些故事的过程中，它如何改变了你对美国健康保险的个人看法或个人体验？因为你不仅是一名记者，你也是一名使用这个系统的美国人。

是的，绝对的。我的意思是，当我看到它时，我只是觉得在保险公司做什么、他们如何使用这些工具以及他们如何向监管机构和公众沟通这些工具方面存在完全的沟通失败。我的意思是，保险决策是关于应用数学和统计数据来计算风险。

然后制定政策来保护各种利益相关者免受这种风险的影响。这是精算科学。当你将这些算法工具插入到这个过程中时，人们就更难理解了，而且感觉非常不透明，因为这些计算正在进行。当你处于计算和决策的另一端时，它会让人感觉很冷酷。

而且感觉不公平。而且感觉像是剥削。我认为你最近几周看到的这种非常情绪化、发自内心的强烈反应，是这种差异、这种脱节以及对保险公司做什么、如何做以及对患者日常生活的影响的完全缺乏理解和沟通的结果。嗯哼。

对他们实际的生活，对吧？所以，你知道，我想播放克里斯汀·胡伯蒂的最后一句话，她是在你的客户经历被拒绝承保后发表所有这些评论的律师。

她现在是医疗保险倡导中心的律师，我们实际上问她是否认为可以采取具体的措施来改进人工智能在评估健康保险理赔中的使用。唯一应该引发拒绝的是患者病情变化。

这将是第一点。第二点是，主治医师必须对任何类型的拒绝拥有某种否决权，如果他们仍在使用它的话。然后第三，我认为他们应该能够停止自动拒绝。因此，再次应该有一些病情变化来促使另一次拒绝或审查，而不是自动发生。

因此，这些是可能做出的潜在的系统性改进，我应该说。但在我们剩下的最后一分钟里，凯西，我的意思是，收听节目的听众是个人。如果他们面临这些拒绝，个人能做些什么呢？

我认为个人唯一能做的事情就是了解他们的权利，提出问题，并知道要问什么问题。我认为重要的是要询问使用了哪些信息来做出这个决定，使用了哪些工具来做出这个决定，并理解保险公司做出的任何决定都不能仅仅由你的医生上诉。你可以上诉。

你可以收集你的记录。你可以提交一封信，直接向保险公司提出上诉。如果你在感觉拒绝不公平的情况下这样做，我们已经看到，推翻率非常高。80%到90%的上诉被推翻，但你必须上诉。你必须采取这一额外步骤。当你是一个家庭成员时，这可能非常难以做到……

在你生命中最糟糕的时刻之一，因为也许你爱的人正在垂死或正在受苦。这真的很困难。并努力与倡导者和护理人员合作，确保这个过程以帮助做出正确的决定来帮助你和你的家人。

好吧，凯西·罗斯和鲍勃·赫尔曼共同报道了这个名为《被人工智能拒绝》的特别统计调查系列。它在2024年获得了普利策奖调查报道奖提名。凯西，非常感谢你的报道，感谢你今天来到这里。谢谢你，梅格纳，非常感谢你邀请我。这真是荣幸。我是梅格纳·查克拉巴蒂。这是《On Point》节目。《On Point》节目。