The A.I. Will See You Now
26:43 Share

当您添加 Cox Mobile 并在家中获得光纤互联网和移动端无与伦比的 5G 可靠性时，即可节省 Cox 互联网费用。因此，无论您是在家玩游戏还是现场参加游戏，您都可以做更多的事情，而无需花费更多。了解如何在 cox.com/internet 上节省费用。Cox 互联网通过同轴电缆连接到场所。Cox Mobile 运行在网络上，其无与伦比的 5G 可靠性由美国加州大学洛杉矶分校 LLC 在 2023 年进行测量。结果可能会有所不同，并非背书。其他限制适用。

本期节目由 Indeed 提供赞助。当您的电脑出现故障时，您不会等待它奇迹般地再次启动。您会解决问题。那么，为什么还要等待招聘公司迫切需要的员工呢？使用 Indeed 的赞助职位快速招聘顶尖人才。更好的是，您只需为结果付费。无需等待。通过 indeed.com/podcast 上的 75 美元赞助职位积分加快您的招聘速度。适用条款和条件。

不久前，杰夫·福勒去看医生进行体检。所以我坐在他面前，他说，杰夫，你介意我在今天的诊疗过程中使用 AI 代理来倾听吗？好的，这时我解释说，杰夫正在进行体检的同时，也在报道一个故事。

杰夫是《华盛顿邮报》的技术专栏作家，他去看斯坦福大学的医生克里斯托弗·夏普，后者正在研究帮助提供医疗的新技术。在这种情况下，是人工智能。

我说，这会是私密的么？他说，是的，绝对私密。结束后我们会删除录音。基本上，人工智能将代替我做笔记，这样我就可以把时间花在你身上了。感觉不同吗？还是感觉就像一次普通的医生预约？

感觉确实不同。你知道，至少在过去的十年里，当我去看医生时，我会说医生花在看屏幕和打字上的时间比花在我身上的时间更多。在这整个就诊过程中，夏普医生一直看着我。所以我们能够以这种方式建立联系，这非常有用。他还大声说出一些医生通常不会大声说出来的话，比如在他测量我的血压或听我的肺部时。

他会像是在跟房间里某个助手说话一样喊出来。而这个助手原来是一个人工智能。拥有一个看着你而不是低头看键盘的医生，这听起来可能很有趣。事实证明，这也会吸引医生。我哥哥实际上是一位初级保健医生。

每次我们全家聚在一起时，他做的就是抱怨不得不为病人做这些记录。随着电子病历的兴起和许多法律要求的出现，这已成为美国医生面临的一个真正问题。他们必须做大量的文书工作。

所以夏普医生告诉我，这里的想法是，让我们让 AI 做一些笔记，做一些文书工作，然后我可以专注于成为一个更快乐的医生并治疗你。所有这些听起来都很棒，但众所周知，人工智能远非完美。那么，当它弄错你的症状或治疗方法时会发生什么？

我听到的一个让我印象深刻的比喻来自一位研究人员，你有没有听说过人们去夏威夷度假，他们跟着 GPS 走，结果开车掉进了海里？这种情况确实会发生。你的医生会不会也发生同样的事情？今天的节目主题是“人工智能将为您诊疗”。我是丽齐·奥利里，您正在收听《What Next TBD》，这是一个关于技术、权力以及未来如何决定的节目。请继续收听。

你听说过 DoubleNomics 吗？如果你没听说过也没关系。它非常小众，由 Discover 实施。以下是一个 DoubleNomics 的例子。Discover 会在您使用信用卡的第一年结束时自动将您获得的现金返还翻倍，即现金返还匹配。这意味着使用 Discover，您可以将 150 美元的现金返还变成 300 美元。使用 Discover 值得。请访问 discover.com/creditcard 查看条款。

本播客由 Progressive 保险公司赞助播出。您是否想过更换保险公司以查看是否可以节省一些现金？Progressive 让这一切变得简单。只需输入一些关于您自己的详细信息，看看当您捆绑您的房屋和汽车保单时是否有资格节省资金。

这个过程只需几分钟，就可以让您多获得数百美元。本期节目结束后，请访问 Progressive.com 查看您是否可以节省开支。Progressive 意外险公司及其关联公司。潜在的节省金额会有所不同。并非所有州都适用。

我们应该指出，人工智能已经在医学中得到应用，用于分析图像、收集数据、寻找模式。但这并不是杰夫想要报道的内容。我想探索的是我认为我们大多数听众可能已经遇到过或即将遇到的内容。

你知道，已经有数百万美国人正在接受使用这些 AI 工具的医生的治疗，这些工具的作用是为医生提供建议，或者像医生的助手一样，专注于一些已经成为……

医生与病人直接接触时需要做的很多工作。例如，做笔记、检查笔记、总结笔记或回答我们现在都通过使用的应用程序发送给医生的无数问题，例如：“嘿，我的胳膊上有个奇怪的东西。没事吧？”

我们以前不这样做，但我们在新冠时期开始发送这种类型的笔记。现在医生也完全被这些信息淹没了。这种情况有多普遍？我们是在谈论您普通的初级保健提供者，还是，您知道，只有那些与大型医院系统相关的医生才能使用这些工具？

是的，当我开始做这个报道时，我认为这将是一些超级小众的事情，你必须去像斯坦福大学这样的超级前沿的医疗中心才能做到。但基本上在过去的一年里，全世界的医生……

遍布美国各地，大型医疗中心、小型医疗中心、小型诊所都开始使用这种人工智能来帮助他们完成这些任务。例如，美国最大的电子病历服务叫做 Epic。他们说他们每个月……

超过 200 万患者正在接受使用人工智能进行会诊记录转录的医生的治疗。这仅仅是他们一家公司的情况。还有竞争对手的服务。有自己开发的服务。如果医生在小型私人诊所工作，他们也会自己做一些事情。所以这已经变得非常普遍，而且我认为还会变得更加普遍。

而且，我的意思是，你提到了 Epic，但是否有相应的公司激增，它们向医疗提供者销售这些服务？绝对的。Epic 是一种主要的网关，许多医疗机构都通过它获得服务。但是软件本身是由微软等公司制造的。

微软拥有 Nuance，你可能在过去听过这个名字。还记得 Dragon NaturallySpeaking 吗？它可以为你打字？好吧，它已经发展成为一个 AI，可以倾听你与医生的会诊并为他们总结。所以微软是一个大力推动这一技术的公司的一个很好的例子。其中一件事……

你在这篇报道中做的一件事，我非常感兴趣的是，你采访了初级保健医生，也采访了研究这些问题的人，关于为什么医疗提供者会转向人工智能。你提到了你自己的兄弟。情况如何？这项技术擅长什么？问题的一部分是我们仍在实时地弄清楚这一点。

我发现有点不安的是，我已经习惯了在弄清楚这些事情之后才进行医疗。医学通常非常谨慎，需要进行所有这些研究。在您接受某些事物的治疗之前，FDA 必须签字批准。但是，你知道……

医生非常渴望得到一些缓解，来自硅谷、微软、Epic 和其他公司的销售宣传正在向这些组织大力推销。所以他们试图……

将现有的 AI 技术应用于各种用途，即使我们正在研究和试图弄清楚，它们是否擅长这项工作？它们犯错的频率是多少？最重要的是，它们是否真的为医生节省了时间？它们是否真的提高了他们的效率？然后还有一个问题始终围绕着生成式人工智能挥之不去。它有时会出错吗？

我们知道它有这些幻觉，有时它会得出并非存在的结论，或者包含并非存在的细节。因此，将这些技术引入人与患者的互动中肯定存在风险。我的意思是，让我用另一种方式来思考这个问题。我已经写了很多关于将人工智能引入我们生活中的一些安全风险的故事。

无论是我们如何从 Google 获取信息，还是 TurboTax 和 H&R Block 如何使用人工智能来回答您的税务问题，有时会给您错误的建议。但是对于像我这样的批评者来说，往往很难说出真正的危险是什么？不良人工智能信息可能造成的损害是什么？

当我听说医生办公室如何使用它时，我想，哦，天哪。好吧，这里的危害非常清楚。如果人工智能向医生提供错误的建议，而医生将其传递出去，或者误解了一些信息并将其输入到永久的医疗记录中很长时间，那么它将永远存在。你知道，这种风险确实相当大。当我们回来的时候。

当人工智能给你错误的医疗建议时会发生什么？经营小型企业意味着您需要戴很多帽子。您的个人电话变成了您的商务电话。但是随着团队的壮大，这将无法管理。这就是 Open Phone 的用武之地。Open Phone 是排名第一的商务电话系统。他们将帮助您将个人生活与不断发展的业务分开。它价格实惠且易于使用。

每月只需 15 美元，您就可以了解与您的商务电话号码相关的所有事件。Open Phone 通过应用程序运行。他们使用人工智能驱动的通话记录和摘要，如果您错过电话，则会直接向您的客户发送自动消息。无论您是一个人运营，需要帮助自动管理电话，还是拥有一个大型团队，需要更好的工具来进行高效协作，Open Phone 都是一个明智的选择。

现在，当您访问 openphone.com/TBD 时，Open Phone 提供前六个月 20% 的折扣。这是 O-P-E-N-P-H-O-N-E.com/TBD，可享受六个月 20% 的折扣。Openphone.com/TBD。如果您在其他服务中拥有现有号码，Open Phone 将免费为您转移。

本播客由 Progressive 保险公司赞助播出。财政负责。金融天才。货币魔术师。人们对将汽车保险改换为 Progressive 并节省数百美元的司机这么说。因为 Progressive 提供全额支付、拥有房屋等方面的折扣。此外，您还可以依靠他们出色的客户服务在您需要时提供帮助。因此，您的每一美元都物有所值。

访问 Progressive.com 查看您是否可以节省汽车保险费用。Progressive 意外险公司及其关联公司。潜在的节省金额会有所不同。并非所有州和情况都适用。前往 Whole Foods Market，在我们的一月份新年促进活动期间，在全店范围内节省令人愉悦的优惠商品，从而启动您的新一年。本月全月节省有机产品、健康必需品等。

你在这篇报道中有一段内容，其中一位研究人员向你展示了一个 ChatGPT 查询。我只需把它读出来，然后你就可以告诉我接下来会发生什么。亲爱的医生，我一直母乳喂养，我认为我得了乳腺炎。我的乳房又红又痛。ChatGPT 的回应是，使用热敷，进行按摩，并进行额外的哺乳。但事实证明，根据你采访的研究人员的说法，这是错误的。

是的，这太有趣了。这是斯坦福大学的另一位医生。所以我们在这里的斯坦福大学校园里看到了等式的两面。她一直在领导医生和工程师团队对医生正在使用的系统进行红队测试，例如，在这种情况下，起草对患者的电子邮件回复。

她列举了发生在她身上的一个例子。她带着孩子得了乳腺炎。所以她像你说的那样输入了这个问题，给出的答案与母乳喂养学院的建议完全相反。是的，那是旧的建议，基本上。没错。母乳喂养医学学院现在建议你做所有相反的事情。

这里的重点是，人工智能，这再次是医生现在正在使用的人工智能来回复真实患者的电子邮件，并非一定能够知道并准确诊断和推荐医学治疗方法。我们今天拥有的生成式人工智能工具旨在创建……

对可能合理的事情的答案。这与 100% 准确并不相同，而这通常是你对医生所期望的。生成式人工智能有很多问题，例如，不一定不知道它不知道什么。如果它的训练自……

自该建议更新以来没有更新，那么它就会给出一些错误的建议。它还倾向于编码输入的任何偏差。医学中存在大量的结构性种族主义。这已经得到了大量的研究。你也在报道中写到了这一点，比如人工智能可能会说，黑人的疼痛阈值更高，这显然是不正确的。

这是另一个非常可怕的研究，已经在这个领域进行了。所以另一组研究人员做了一个实验，他们要求人工智能对不同类型的患者的疼痛阈值进行权衡。事实证明，医生可以用 1 到 10 的等级来衡量疼痛。

当他们要求人类医生这样做时，人类医生往往会表现出一种偏见，他们认为黑人患者可以忍受更多的疼痛。所以他们问人工智能，他们问 ChatGPT，它接受过人类语言的训练，并且包含我们所有的人类偏见。事实证明，它做了完全相同的事情。事实上，有些甚至比人类还要糟糕一些。而这个问题在于，

A，当医生依赖这些系统来提出建议或向患者提供一些建议时，他们会意识到……

这些偏见存在吗？他们会接受培训并了解如何注意这些偏见吗？还是人工智能只会放大医生自身现有的偏见？然后我们就会得到这种乘法效应，我们会得到更多的偏见。所以这些是研究人员正在提出的问题。我认为他们非常聪明，我们应该问他们，但不幸的是，这些问题发生在我们正在将这些系统用于患者与医生的实时互动的时候。监管机构在哪里？

我们今天讨论的所有人工智能用途在技术上都只是管理性的。它们只是在帮助医生。它们不是——它们没有自己做出诊断，或者它们只是应该帮助医生完成他们的任务。所以 FDA 基本上是袖手旁观。FDA 也还没有真正弄清楚我们应该如何评估和持续检查大型语言模型？

这可以在整个医学领域使用。并且有一些想法可以解决这个问题。也许我们可以让一个大型语言模型来检查另一个大型语言模型的工作。但到目前为止，我们真的没有什么办法。我还想问你另一个研究，但前提是它规模很小。

弗吉尼亚大学的一项研究比较了使用 ChatGPT 的医生和使用传统诊断参考工具的医生来寻找诊断结果。他们的表现大致相同。然后这项研究的另一部分说，ChatGPT 单独的表现优于医生。你实际上已经看过这项研究，并且不能……

得出了一个有趣的结论。我想知道你是否可以告诉我关于这件事。是的。这项研究是由……进行的，进行这项研究的医生之一也是我刚才谈到的那个医生，关于 TAC-TPT 如何对种族和疼痛有偏见。这项研究的目标实际上是弄清楚，使用 AI，使用 TAC-TPT 是否有助于医生减少工作中的错误？并且……

这项研究的主要发现是，它并没有做到这一点。它实际上并没有使医生更准确。医生们……

并没有听从人工智能的建议，这些建议可能会让他们走上不同的道路。部分原因是，当被问到某些问题时，Tachi PT 能够以比医生单独更好的方式回答一些医学问题，但这并不是一场一对一的竞争，因为在整个设置中……

在实验中，人类医生做了很多工作，做了很多准备工作。他们调查了问题，他们写了所有关于这些假想患者问题的报告，然后将其交给 ChatGPT。

我从医生那里听到的一件事，即使是那些相信人工智能将有助于改善医学的医生，他们说的一件事是，做出这一飞跃的难点之一是……

医生做了很多调查。他们问了很多问题。但是我们当前的聊天机器人技术设置方式是，它不知道如何反驳。它不知道如何提出更多探究性的问题。让我这么说吧。如果你去看医生，你说，嘿，我的耳朵疼。我该怎么办？医生可能不会说，哦，吃两片泰诺，

你知道，如果它没有好转就打电话给我。医生会问你更多问题。医生会说，好吧，有红肿吗？有分泌物吗？以及所有这些事情。而我们当前的生成式人工智能技术不知道如何做这些医生的工作。所以在我认为任何人都真的会推荐选择 ChatGPT 而不是人类医生之前，我们还有很长的路要走。

然而，我在整个谈话中听到你说的是，无论如何，这些事情都在发生。所以，比如，防护措施在哪里？谁来确保 ChatGPT 不会告诉你吃两片泰诺然后走开，而你真正需要的是有人检查你的耳朵？

所以事实是，有很多很多人，有很多患者，有医疗需求的人只是转向 Tachi PT、Gemini 和其他人工智能寻求医疗建议。

我真的不推荐这样做。我还没有遇到一个真正会推荐这样做的医生，但人们确实这么做了。但我理解。我理解，特别是如果你有过这样的经历，我没有被倾听，或者被拒绝，或者如果你来自一个弱势群体，医生只是没有给你时间，我理解。是的。

这就像“问问谷歌医生”的一个版本，对吧？你去看，自己做研究。但我完全理解人们想要快速答案。他们不想等待一周才能去看医生。这对患者来说存在真正的紧张关系。你问了当我们与医生互动时防护措施在哪里。每个人都说，我一直在描述的所有这些工具都应该由检查工作的医生来使用。

所以当我到斯坦福大学进行体检时，夏普医生让 AI 生成了这份报告。然后之后，他调出了报告并对其进行了编辑。这不是什么大事，但他确实发现 AI 在某一点上对导致我抱怨的咳嗽的根源做出了假设。AI 完全归咎于我的三岁孩子。

我确实部分地把它归咎于我的三岁孩子，但它说也可能是过敏或我床边的一棵树。我们谈论了很多不同的事情。所以，你知道，在这种情况下，医生有责任检查和编辑它。人工智能现在为医生起草的这些电子邮件也是如此。

他们不应该只是说，“好的，是的，AI 做得很好。发送出去。”他们应该看看它。他们应该编辑它。它应该只是一个起点。如果你信任你的医生，并且你的医生非常负责任，那么也许这会很好。问题是我们知道，当我们获得我们倾向于过度信任的技术并倾向于忘记其问题时，人类就会产生这个问题。

杰夫·福勒，一如既往，和你交谈既令人高兴又有点可怕。我很荣幸。杰弗里·福勒是《华盛顿邮报》的技术专栏作家。这就是我们今天节目的全部内容。《What Next TBD》由 Evan Campbell、Patrick Fort 和 Shaina Roth 制作。

我们的节目由 Paige Osborne 编辑。TBD 是更大的 What Next 家族的一部分。如果您是节目的粉丝，支持我们独立新闻报道的最佳方式是加入 Slate Plus。只需前往 slate.com/whatnextplus 注册即可。好了，我们下周将推出更多剧集。我是丽齐·奥利里。感谢收听。