We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Insight 2: Safer by Design: Nurses at the Helm of AI in Healthcare

Insight 2: Safer by Design: Nurses at the Helm of AI in Healthcare

2025/6/19
logo of podcast See You Now

See You Now
AI Deep Dive AI Chapters Transcript
People
A
Amy McCarthy
S
Scott Collado
Topics
Amy McCarthy: 作为首席护理官，我带领团队深度参与人工智能代理的开发与应用。我们设立了两组护士团队，一组负责与AI代理进行日常对话，确保其能够准确、自然地与患者沟通，不断学习和优化沟通技巧。另一组是由护理主任领导的内部团队，负责对AI代理进行严格的监督、评估和内部测试，确保产品在实际应用中的安全性和有效性。我们积累了丰富的经验，熟悉各种应用脚本，能够准确识别潜在风险，从而为患者提供更可靠的保障。在AI代理与患者的每一次通话中，我们都安排护士在线实时监督，确保对话内容完整、准确，避免出现任何遗漏或不当信息。只有当我们和医疗系统合作伙伴都对AI代理的表现感到满意时，才会进入半监督阶段。即使在半监督阶段，我们的内部护士团队也会对每一次通话记录和总结进行全面审查，及时发现并处理任何异常情况。对于患者出现的紧急情况，例如呼吸困难，系统会立即升级给护士进行处理，确保患者能够得到及时的医疗干预。我们进行了大量的通话测试，覆盖各种不同的应用场景，确保AI代理在各种情况下都能表现出色，并且始终处于我们的严密监控之下。即使在AI代理进入自动驾驶阶段后，我们的医疗系统仍然可以随时访问通话记录，护士也会持续参与系统监控，确保任何需要处理的紧急情况都能够得到及时响应和有效处理。从AI代理的最初设计到最终应用，临床医生始终深度参与其中，这充分体现了我们对患者和临床医生安全的高度重视和坚定承诺。我们深知人工智能在医疗领域的应用仍处于探索阶段，因此我们将始终秉持严谨负责的态度，确保每一步都走得稳健而安全。 Scott Collado: 作为产品总监，我始终将临床医生的意见放在首位。在产品和工程决策过程中，我最担心的事情就是没有充分听取临床医生的专业意见。尤其是在医疗保健这个特殊领域，确保倾听专家的声音至关重要。我们始终保持高度谨慎，确保AI系统不会做出任何诊断和临床决策，而是将这些关键决策权留给那些真正了解患者、具备专业知识的医生和护士。我们的目标是准确地将信息传递给患者，帮助他们更好地了解自己的病情和治疗方案，从而做出明智的决定。我们坚信，只有充分尊重临床医生的专业知识和经验，才能开发出真正安全、有效且以患者为中心的人工智能医疗产品。

Deep Dive

Shownotes Transcript

As artificial intelligence becomes increasingly embedded in healthcare, safety hinges on who shapes these tools. Nurses must be involved at every stage of AI development, from design through deployment. Their clinical expertise, real-time supervision, and ongoing testing are essential to ensuring AI systems are not only intelligent but also safe, patient-centered, and trustworthy.    To listen to this Insight clip’s full episode, visit SEE YOU NOW Podcast Episode 121: AI in Play: Smarter Care at:  Apple: https://podcasts.apple.com/us/podcast/121-ai-in-play-smarter-care/id1488523483?i=1000681179458)  Spotify: https://open.spotify.com/show/3ocmOaZHNDyPJ9x1yn5Wt5)  YouTube: https://www.youtube.com/watch?v=s2gdzvu6hMo)   or at your favorite streaming platform.    For more information on the podcast bundles, visit ANA’s Innovation Website at: https://www.nursingworld.org/practice-policy/innovation/education).    Have questions or feedback for the SEE YOU NOW team?  Future episode ideas?   Contact us at [email protected]).