Insight 2: Safer by Design: Nurses at the Helm of AI in Healthcare
04:50 Share

随着人工智能越来越多地融入医疗保健领域，安全性取决于谁来塑造这些工具。护士必须参与 AI 开发的每个阶段，从设计到部署。他们的临床专业知识、实时监督和持续测试对于确保 AI 系统不仅智能，而且安全、以患者为中心并值得信赖至关重要。要收听此洞察片段的完整剧集，请访问 SEE YOU NOW 播客第 121 集：AI 在行动：更智能的护理：Apple：https://podcasts.apple.com/us/podcast/121-ai-in-play-smarter-care/id1488523483?i=1000681179458Spotify：https://open.spotify.com/show/3ocmOaZHNDyPJ9x1yn5Wt5YouTube：https://www.youtube.com/watch?v=s2gdzvu6hMo或您最喜爱的流媒体平台。有关播客套装的更多信息，请访问 ANA 的创新网站：https://www.nursingworld.org/practice-policy/innovation/education。对 SEE YOU NOW 团队有任何疑问或反馈？未来的剧集想法？请联系我们：[email protected]。</context> <raw_text>0 欢迎收听《与您相见》洞察，我们每周都会回顾我们的资料库，为您带来来自全球领先护士 100 多次访谈中的智慧片段。我是丽贝卡·麦克恩罗伊，《与您相见》的执行制片人。本月，我们将重点关注从始至终的安全，以及真正确保医疗保健各个方面安全的措施。随着人工智能越来越多地融入护理服务，确保患者安全是

方法是在 AI 开发的每个阶段都让护士参与其中。在第 102 集“AI 在行动：更智能的护理”中，

希波克拉底人工智能公司的首席护士官艾米·麦卡锡和产品总监斯科特·科拉多谈论了为什么护士必须从早期设计到实时监督的整个过程中都参与其中。他们解释了护士如何带来关键的专业知识和以患者为中心的视角，使这些工具不仅功能强大，而且真正安全并以患者为中心。正如斯科特所强调的那样，在这个过程中，护士不是锦上添花，而是必不可少的。

所以我们实际上有两组不同的护士。我们有一组 4000 名护士，他们不断与代理人交谈，并确保代理人学习如何与患者交谈。但我还有一个内部护士团队，由我们的护理总监领导。大约有 30 到 40 人负责监督和评估，并确保我们自己进行

对该产品外观的内部测试。因为我们与这些代理人合作了这么久，并且我们使用了不同的脚本，所以我们知道我们在寻找什么，对吧？因此，这是一个额外的安全功能。但是当我们开始进行这些电话时，我们总是有护士在线。原因是他们正在监督，他们再次确保，

代理人正在说他们需要说的话，对话中没有任何缺口。整个过程中没有任何奇怪的事情发生。因此，我们会这样做一段时间，直到我们自己感到满意，我们的医疗系统合作伙伴也感到满意为止。

然后，一旦这段时间结束，我们就进入我们所说的半监督阶段，这意味着我们仍然有人工监督。我们的内部护理团队会审查通过该电话的每个记录，每个摘要，以确保没有任何异常情况。没有异常情况，

这种情况我们称之为升级。如果患者呼吸急促，它会立即升级给护士，所有这些都在运行。我们会在整个过程中这样做。我的意思是，有时我有 800、900 个电话要确保再次测试所有不同领域，甚至我们的眼睛始终关注此产品。

然后在那之后，我们就进入更自动驾驶的阶段。但即使那样，在我们的医疗系统中，我们也可以访问我们的记录。我们有参与此系统并检查以确保如果需要处理升级（无论是立即还是在 4 到 6 小时内），始终存在人为因素的护士。

因此，当您考虑从头到尾的这个过程时，从代理人交付到公共领域开始，一直到我们开始将其发送到自动驾驶阶段，您都会有一名临床医生参与其中。对我来说，这只是增强了我们的安全组件以及我们对患者和临床医生的承诺。这对我们许多人来说都是未知领域。所以我们想把它做好。

在我们做出产品和工程决策时，我最谨慎的一件事就是不听取我们房间里临床医生的意见。这真的是我最谨慎的事情。在构建产品时，特别是像医疗保健这样的领域，我该如何确保倾听房间里专家的意见？也许在医疗保健领域更是如此。因此，这是一个我们非常谨慎的领域。我们如何确保我们不会做出诊断和临床决策，

正如艾米之前所说，我们将这些决定留给专家，那些了解他们的患者并知道如何应对这些情况的人。我们将这些信息准确地传达给患者。希波克拉底人工智能公司的产品总监斯科特·科拉多和首席护士官艾米·麦卡锡摘自第 102 集《AI 在行动，更智能的护理》。

查看我们“AI 在行动”系列中的更多内容。订阅《与您相见》，并与您从任何地方获取播客的朋友分享。我是丽贝卡·麦克恩罗伊。感谢收听。