Why AI Could Be the Key to Better, Faster, and Cheaper Healthcare with Dean of Stanford Medicine, Dr. Lloyd Minor
53:23 Share

斯特雷耶大学杰克·韦尔奇管理学院帮助你从“我知道路”转变为“我已到达”,我们提供排名靠前的在线MBA课程。掌握你今天可以学习并在明天应用的技能。准备好从“实现它”转变为“已实现它”,并不断努力。访问Strayer.edu/JackWelchMBA了解更多信息。斯特雷耶大学经Chev认证可在弗吉尼亚州运营,其众多校区包括弗吉尼亚州阿灵顿北15街2121号。

你知道什么很聪明吗?在家享用您无需烹饪的新鲜美食。认识Factor,您在用餐时间方面的漏洞。由厨师精心制作的餐点,只需轻触即可送达,只需两分钟即可准备好。你知道什么更聪明吗?在不违背目标的情况下犒劳自己。Factor经营养师批准,由厨师准备,并由您摆盘。很聪明,对吧?使用Factor刷新您的日常活动并聪明地饮食。访问factormeals.com了解更多信息。

这是Smart People Podcast,一个面向聪明人的播客,我们与聪明人交谈,但不一定是由聪明人制作的。大家好,欢迎收听Smart People Podcast,与您好奇的心灵产生共鸣的对话。我是克里斯·斯坦普。感谢您的收听。今天,我们将与医学界最有影响力的人物之一一起深入探讨医疗保健的未来。我们将与劳埃德·迈纳博士进行交谈。

他是一位科学家,一位外科医生,顺便说一句,他还是斯坦福大学医学院的院长。在本集中,我们将特别探讨人工智能与医疗保健的交叉点,它如何重塑患者护理、简化诊断,甚至彻底改变药物开发。您将听到迈纳博士分析美国医疗保健系统中最大的挑战。

解释为什么我们拥有世界上最好的疾病护理系统之一,但不一定是最好的医疗保健系统。最重要的是,我们将讨论人工智能如何潜在地改变这种情况。我们将涵盖从人工智能辅助诊断到实时临床文档以及隐私问题和偏见等方面的好处、坏处和炒作。

在我们能够信任这项技术之前,还有很多事情需要发生。迈纳博士作为斯坦福大学医学院的院长,是领导在医疗保健系统中伦理使用人工智能的杰出人物之一。因此,无论您是患者、医疗保健专业人员,还是仅仅对健康、保健以及人工智能可能带给我们的未来感到好奇的人,您都将想收听。

与往常一样,您可以做的最好的事情是分享这一集。如果您喜欢它,如果您从中学习到东西,或者我们还有其他剧集,请与他人分享。通过短信发送给他们,同事,合作者。帮我们一个忙。好了,让我们开始吧。我们将与劳埃德·迈纳博士讨论人工智能与医疗保健的交叉点。享受。享受。

作为科学家、外科医生、学术界领导者和斯坦福大学医学院院长,请告诉我您一天的生活是什么样的。每一天都略有不同,但我的工作基本上包括三个部分。一个是传统生活。

组件,如果您愿意的话,与担任教育和研究机构的院长有关。因此,我们有31个系。我们有很多研究所和中心,大约有2800名教职工。因此,

进行研究,他们正在教育优秀的学生,并且他们正在提供患者护理。因此,确保我们在各系、研究所以及斯坦福医学院和斯坦福医学的其他实体中拥有杰出的领导者是

我角色的一个非常重要的部分。第二个部分与我们拥有的医疗保健系统的战略有关,包括我们的成人和儿童医疗保健系统。那么,我们如何规划这些企业的未来呢?我们将在哪里提供服务,以及我们应该在哪里建立卓越领域,例如,不仅为我们地区的人们服务,而且更广泛地为

国家和世界服务。第三个组成部分与对外事务有关,那就是我如何帮助代表我们在斯坦福医学和斯坦福大学在我们企业边界之外所做的事情,以及我如何为慈善筹款以及通过基金会和其他组织为我们的人们做最好的工作做出贡献。

在日常生活中,每一天都略有不同,但没有一天是无聊的。听起来像是。而且,正如您所说,我意识到,您知道,我不完全理解例如在与大学相关的医疗机构接受护理与仅仅是医院系统本身相比有什么不同。有什么区别和细节......

与您所做的事情相比,例如,如果我只是去我当地的医院之类的。- 克里斯,我们的很多重点都放在复杂的疾病上。因此,严重的急性疾病或慢性疾病的表现。我们以及一般学术医疗中心所做的一件事是推动医疗保健交付的未来。因此,我们一直在寻找如何将最好的科学进步用于造福我们的患者。

我们还在研究如何从每一次患者接触、我们提供的每一方面的护理中学习,如何学习和改进,然后更广泛地传播这些信息。学术医疗中心的一个作用确实是帮助定义医疗保健的未来。很多工作都集中在严重的急性疾病上,但通过我们所谓的精准健康计划,越来越多地

我们希望研究如何应用技术、应用基因组医学、应用数据科学来改善我们提供的预防性护理以及其他人提供的预防性护理。因此,理想情况下,正如我们对癌症和其他严重疾病有个性化治疗一样,

我们希望看到有一天,我们可以为我们每个人制定个性化的方法来保持健康。我们已经知道我们应该做的事情,锻炼身体,确保我们拥有健康的生活方式,但我们如何才能使其更具体呢?特别是,我们如何评估我们每个人作为个体患病的倾向,然后我们如何预防疾病发展或更早地诊断疾病。

这些都是学术医疗中心正在从事的事情。当然,在日常生活中,我们希望确保我们提供的每一方面的护理都非常出色,并且以患者为中心,并且真正认识到我们对那些将护理托付给我们的人负有的责任。

现在,我们在斯坦福大学的另一个优势是,我们的学术医疗中心非常融入大学。我们的两家主要医院都在大学校园内。我们的大多数教职工都在校园里。

我今天坐在我的办公室里,离我坐的地方只有五分钟的路程。我可以去工程学院院长办公室,也可以去生物系或化学系。我们都是斯坦福大学一个生态系统的一部分。这些合作真正有助于推动

科学和技术,这将决定生物医学研究的未来和医疗保健的未来。是的。我想很多创新都来自像您这样的地方,因为您有能力

创新能力。您有动力去创新,对吧?您获得资金进行创新,而许多其他地方则仅仅是为了治疗而获得激励。这似乎是很大一部分区别。公平吗?克里斯,这是公平的。我认为这是一个非常敏锐的观察。当然,创新在斯坦福大学的血液中流淌,遍及所有学科。

当然是在生物医学领域,而且实际上是从人文科学到社会科学,再到自然科学,再到工程学,各个学科都是如此。人们都在思考,好吧,我们如何

在有意义的情况下进行不同的思考?我们如何从新的角度看待问题?我们如何通过创新贡献新的知识?让我们称之为美国医疗系统,它经常受到很多批评。我最近刚和某人谈过,他们也意识到,我们引领世界医疗创新、制药创新。

我们如何保持创新水平,同时开始了解成本正变得难以承受?当我们查看健康跨度时,我们似乎并没有获得必要的好处。这是一个很好的问题,而且正是应该问的正确问题。

在美国,对于那些能够使用该系统的人来说,我们拥有一个伟大的疾病护理系统。

在我看来,对于那些能够获得这种护理水平的人来说,在美国医疗保健系统中接受严重急性疾病治疗没有比这更好的地方了。但我们没有一个很好的医疗保健系统。我们没有一个真正以保持人们健康为导向的系统。我们正在这方面取得进展,并且有很多关于我们如何能够

能够并且应该做得更多。但总的来说,我们做了很多事后护理,而不是专注于如何预防疾病发展的护理?或者,如果我们无法预防疾病,则尽早诊断并因此更有效地治疗疾病。此外,我们如何更有效地让每个人参与到

拥有自己的健康并保持健康的生活方式,做我们知道有充分证据表明将帮助我们拥有更好、更高质量的生活方式和更长时间生活的事情。这有很多方面,但我认为其中一件会产生影响的事情是,我们如何应用相同的创新

这导致了对最复杂癌症的护理的进步,这导致了在心脏病各个阶段的治疗方面取得了令人难以置信的进步。我们如何将这种创新方法应用于前端

克里斯,这也许是我们现在或在我们谈话中的任何时候进行过渡的时候了,讨论一下,人工智能可以做些什么来解决您刚才提到的关于我们在美国医疗保健方面花费很多钱,远超过其他经合组织国家的事实的一些挑战。虽然有一些限制

或者过去在这些成本的增长速度方面有一些限制,但我们仍然看到很多开支。我们还

推动创新,正如您提到的,在开发新的治疗方法方面。新的治疗方法对诸如疾病等疾病产生了如此令人难以置信的影响,好吧,让我们举一个我认为今天许多人都在关注的例子。前总统吉米·卡特最近去世。重要的是要记住,前总统卡特

正如媒体报道的那样,在2015年被诊断出患有广泛转移性黑色素瘤,脑转移。由于当时新开发的免疫调节药物,他能够额外生活大约十年,其中大部分是高质量的生活,而无需

你知道,没有广泛转移性黑色素瘤的负担。在这类我们称之为检查点抑制剂的药物出现之前,这是不可想象的。因此,我们已经看到了进步,但这些进步的代价很大,而且过去我们并不像治疗严重急性疾病那样专注于保持人们健康。

Mint Mobile的瑞恩·雷诺兹在这里向所有支付过高无线费用的人发送一条消息。为了世界上所有美好的事物,请停止吧。使用Mint,您每月只需支付15美元即可获得优质无线服务。当然,如果您喜欢多付钱,我们不会评判,但这很奇怪。好吧,一个评判。无论如何,请访问mintmobile.com/switch试用一下。需要支付45美元的预付款,用于三个月的计划,相当于每月15美元。仅前三个月为入门价,然后提供全价计划选项。税费另计。请访问mintmobile.com查看完整条款。

本集由Indeed赞助播出。当您的计算机出现故障时,您不会等待它奇迹般地再次启动。您会解决问题。那么,为什么还要等待招聘公司迫切需要的员工呢?使用Indeed的赞助职位快速招聘顶尖人才。更好的是,您只需为结果付费。无需等待。使用indeed.com/podcast上的75美元赞助职位积分加快招聘速度。适用条款和条件。

您刚才给了我一个我认为没有充分讨论的视角,那就是,您知道,经常会有这种批评,就像您刚才说的那样,关于医疗保健与疾病护理。为什么我们不更关注医疗保健?这让我意识到,

让我们以斯坦福大学为例。他们做得对。你们都在做,但你们也必须照顾病人,而且只能做这么多。对吧?所以我们说,看,我们正在努力在各个方面进行创新,但是像

吉米·卡特这样的人被诊断出患有这种绝症。他们现在已经过了医疗保健阶段。我们为疾病护理做了哪些创新?因此,当我们听到关于公共上市的机构或公司总是专注于疾病护理的消息时,这可能是因为这有利可图或其他原因。还有一个因素是它正在应对现代疾病和生活的挑战。

我想,这让我意识到,事情永远不像看起来那么简单。你必须两者兼顾。而且你们这样的人并不多。

据我所知,每一项研究都表明,随着我们人口的老龄化,在美国和世界范围内,几乎所有类型的癌症的发病率和患病率都将增长。需要为癌症患者提供护理,需要更早地诊断,更有效地治疗,

长期照顾那些癌症“治愈”、缓解或得到控制的患者,这种需求将会增长。它不会减少。因此,除了应用同样的科学方法(这使得像

前总统卡特接受治疗的检查点抑制剂或我们拥有的许多其他显示出真正希望的新型癌症疗法(不仅是希望,还有结果)等进步成为可能之外,我们还必须跟上这些,如果您愿意的话,疾病护理需求。我们必须跟上这一点以及其他疾病,例如神经退行性疾病,这些疾病的发病率和患病率也会随着人口老龄化而上升。

我们不能忽视这些需求,但我们必须同时关注生活方式、疾病预防、早期检测,而这些在过去并没有像严重急性疾病领域那样受到重视。

您对当今这种常见的论调有什么看法,即研究界或科学界、医疗保健界(无论您想称之为哪一个)往往过于狭隘地关注,而不是关注整个身体?有一个很大的推动。我的意思是,我相信您很清楚,而且我是它的粉丝,就像整体关注一样。

护理。然后他们说,这是因为主流或其他什么只关注一部分,而不是整个身体。您认为这是真的吗?这方面的轨迹是什么?在斯坦福大学这样的地方是如何看待的?我认为它被赋予了很大的可信度、开放性和渴望学习更多并产生更大的影响。那是,

我们如何真正考虑,正如您所描述的那样,整体护理?我们如何考虑营养?我们如何考虑运动的作用?我们如何考虑我们的心理健康在我们整体福祉以及疾病预防方面的作用?我们知道,我刚才提到的每一个组成部分都在

预防疾病或改善一个人患病后的预后方面发挥着重要作用。将此作为

作为我们在医疗保健系统中提供的护理的一部分,这包括强调心理健康,包括强调营养,接受这一点也极其重要,以及对它进行研究。那么,我们如何才能更有效地,例如,我们可以谈论很多关于营养、它的重要性,我们理解它,我们教授它,但我们如何真正改变

或为人们提供改变其营养状况的机会,以便他们

促进他们的健康。这在我们国家一直是一个真正的挑战。我们已经知道多年来肥胖与碳水化合物摄入有关。在过去20多年里,我们已经看到美国饮食发生了转变,转向更高比例的碳水化合物,更少的蛋白质。那么我们如何

研究,您知道,我们如何研究可能导致我们饮食改变的干预措施,或者我们如何使健康饮食更容易获得,或者教育人们如何实现更健康的饮食。这随后也成为我们作为学术医疗中心的任务的一部分,以及推动癌症治疗和其他严重急性疾病治疗的最新发展。好的。

您将如何向普通人推荐,对吧?他们试图破译,例如,他们如何知道该做什么,该相信什么,以及在哪里获得更多信息?实际上变得更难了。实际上,尽管由于这些进步,我们应该拥有更好的信息,对吧?

我们也有更多。鉴于我们目前掌握的信息,我们如何知道什么是最好的?这是一个很好的观点。首先要意识到我们一直在学习。

我认为对于我们向公众发布信息的人来说,无论是像斯坦福大学这样的学术机构还是联邦机构,都应该具有很大的谦逊成分,即我们今天所说的应该代表我们今天的最佳知识,但也意识到今天的知识和理解

可能会并且很可能随着时间的推移而发展,以及我们如何沟通关于某个事实或某种特定方法的“确定性”水平,以及对于某些事情来说,这代表了我们目前最好的理解

但它很可能会在未来发生变化,我认为沟通这种不确定性以及继续推进知识和传播知识的愿望是那些参与产生研究、产生知识以及更广泛地传播知识的人的非常重要的责任。现在,就具体的网站和来源而言,

您知道,有很多国家组织,美国癌症协会、美国心脏协会、联邦机构,您知道,他们每个人都有网站,联邦机构、FDA、NIH都有网站,我发现它们通常经过精心策划,并且在发布时所包含的信息代表了当时的最佳知识,但同样可能会随着我们的学习而改变,并且

这种参与,这种沟通,这就是我们今天所知道的最好信息,但它可能会在未来发生变化。我认为我们这些参与产生知识和传播知识的人需要做得更好,向公众表明

这就是我们现在所知道的最好信息,但我们对未来的理解可能会不同。这个播客让我了解到的一件事是,那些真正从事这项工作的人,例如,将他们的生命奉献于此的人,他们总是用“这就是我们所知道的”来表达每一个答案。当我们谈论人体、食物和营养或最新创新等复杂性时,没有确定性。所以

这对于消费者或普通人来说也是一种辨别力,如果您愿意的话。我还认为

如今,人们对大型机构不信任。我不知道这有多少是合理的,但同样,它确实很吸引眼球。它很响亮。它就在那里。因此,我认为人们只是喜欢抓住这一点,但这确实会让人感到困惑。确实如此。对于我们这些在机构工作的人以及我们这些

将我们的生命奉献给确保机构以负责任的方式为公众服务的人来说,重要的是,我们在沟通中要明确,我们在生成我们正在发布的信息的方式上要透明。

然后,当我们发现自己犯了错误,或者我们发现之前认为的情况并非如此时,我们会尽快并尽可能透明地纠正它。当然。是的。劳埃德,正如我们在开头提到的那样,我们想谈谈人工智能及其对医疗保健的影响以及即将发生的事情。我必须告诉你,我过去一年以来,自从人工智能真正出现以来,我一直说的一件事是,我不能说

技术或技术创新总体上使人类受益,除了健康和生活质量之外,也许是健康和寿命。当您考虑食物供应时,对吧?较少的人面临粮食不安全问题,或者,嗯,不一定是寿命,但也许是应对一些非常严重的疾病的能力。对。

所以我要说,如果我对人工智能能够做些什么感到兴奋的领域,那就是医疗保健。您对这项技术的潜力以及它如何真正帮助人类生活最兴奋的是什么?我认为有三个领域,三个广泛的领域,我对生物医学研究中人工智能的应用、部署感到非常兴奋,所有

一直到医疗保健的交付。首先是提高我们提供的护理的效率和有效性。克里斯,您之前在一个问题中提到了这一点,我们很多在美国提供的护理、医疗保健并不一定客观有效,如果

如果我们根据生活质量和一个人保持生活质量的时间长度来衡量有效性。那么,我们如何才能获得更有效的护理,以及我们如何才能获得更高效的护理呢?同样,如果我们没有在正确的时间向正确的人提供正确的护理,那么它就不会有效,而且它也不是医疗资源的有效利用。我认为人工智能

提供了提高医疗保健效率和有效性的前景。其次是获取。让我举一个例子来说明我认为人工智能如何以及将如何改善获得高质量医疗保健的机会。如果农村地区的人患有罕见的肿瘤,它可能并不罕见,它可能只是在他们被诊断出的该国地区罕见。

该地区的医生今天不一定能够获得,好吧,关于该肿瘤治疗的最新知识是什么?

人工智能可以在这方面提供帮助,通过审查肿瘤的切片或审查放射学扫描或由人工智能支持的肿瘤委员会来做出诊断,以决定

证据表明,对于该患者来说,在那一刻,最好的治疗方法是什么。因此,通过远程医疗和其他相关技术的部署,获得高质量的护理也是人工智能可以产生深远影响的另一个领域。然后,第三个与获取相关的方面是健康公平,以及人工智能如何打破一些传统的获取障碍,并确保每个人都获得

他们应该接受的护理类型,并且这种护理以公平的方式提供,因此这些是主要与医疗保健交付相关的广泛类别,还有整个领域,整个方法,关于人工智能将如何改变生物医学发现科学以及

以及从发现到新的治疗方法、新的诊断方法或改进我们提供的医疗保健。在这个领域,例如,我们已经看到了这一点,例如通过AlphaFold预测蛋白质的结构。现在,这些方法正在扩展到核酸。就在眼前,我预测,我不知道就在眼前是三年、五年还是更长的时间,但我怀疑是

在三到五年内,就在眼前,我相信我们将看到一个更高效、更有效的

一系列发现新药、新疗法以及能够专门为个体患者及其疾病在那一刻设计疗法的过程。这一切都在我们的掌握之中。克里斯,就像很多这些进步一样,您知道,在生活中,我们倾向于高估我们在短时间内能够完成的事情,而低估我们在长时间内能够完成的事情。

那么,在与医疗保健、生物医学发现相关的领域,人工智能是否被过度炒作了呢?在某些情况下,也许吧。但我认为从中期到长期来看,这些影响和应用将是深远的。本集由Shopify赞助播出。Shopify。

当您将业务切换到Shopify时,忘记选择商业平台的烦恼,Shopify是一个全球商业平台,无论您在哪里销售,它都能增强您的销售能力。使用Shopify,您将利用世界领先品牌使用的相同直观的特性、值得信赖的应用程序和强大的分析功能。今天就注册,享受shopify.com/tech(全部小写)上的每月1美元试用期。网址是shopify.com/tech。

您认为目前有哪些新的AI技术正在造福人们?例如,我们可以指出什么例子来说明,看,这有帮助,这有效,这是新的,这是很酷的。这实际上正在今天实施。有几个,但它们都是,每一个都处于早期阶段。我将提到这些例子。然后我们还可以讨论

每个例子中的一些问题,因为我今天不知道与人工智能及其在医疗保健交付或生物医学发现中的部署相关的任何事情不会带来一些相关的挑战。但我先谈谈几个。

一种是使用环境人工智能,即语音识别转录人工智能,来准备患者与医疗保健提供者会面时产生的临床记录。

这是每一位医生、每一位医疗保健提供者的存在之痛,当然对患者来说也不是一件好事,因为今天,当您走进房间去看医生时,他们首先开始做的事情是输入计算机终端,记录描述会面的记录。

当他们与您交谈时,他们并没有看着您,看着您的眼睛。您甚至可以质疑他们对您所说的话、您所转达的内容的关注程度,以及他们对确保记录下来的内容的关注程度,因为记录很重要,因为他们一天要看10、15、20个其他患者,他们想确保自己不会错过任何东西。现在,

今天已经存在一些技术。我们今天正在我们的交付系统中部署其中一些技术,其中

患者之间的对话被转录,然后通过环境人工智能进行组织。在会面结束时,医生和患者可以查看记录,进行更正。而且通常需要更正,因为这项技术远非完美。但在会面期间,

医生专注于病人。医生正在进行眼神交流。这种联系在医疗保健的提供中非常重要,不幸的是,当我们转向完全电子技术时,技术无意中切断了这种联系。

健康记录以及对文档的需求增长。所以这是一个今天正在部署的例子。其他使用人工智能来帮助解释放射影像的例子今天正在使用,并且越来越多地用于解释病理切片,当

当例如制作肿瘤切片时,知道这是癌症还是不是癌症,或者

手术切除是否真的获得了完整的边缘?即使对于熟练的病理学家来说,这些也可能是棘手的判断。这是一个非常适合用人工智能进行改造的领域,因为人工智能可以从比任何一个人在其职业生涯中所能看到的更多病理切片中学习。所以这是另一个例子。第三个例子是

每天都会发生的情况,凌晨三点,病人来到急诊室,他们有多种慢性疾病,他们带着抱怨而来,要么发烧,要么胸痛,急诊

急诊室医生可能以前从未见过这位病人。现在是凌晨三点。他们可以尝试联系初级保健医生,但他们必须很快做出一些决定。还有一个巨大的电子病历,他们要么必须花半个小时、45分钟甚至更长时间来查看该病历,以试图从中提取

与导致病人来到急诊室的抱怨最相关的因素。现在,借助人工智能的帮助,我们能够从该电子记录中提取与导致病人来到急诊室的抱怨相关的关键点。这今天正在使用,并且是一个巨大的帮助,再次强调,不是替代

实际上查看病历,而是将医生和其他医疗保健提供者需要立即注意的关键信息放在首位,以便他们决定如何最好地治疗病人。这些只是一些例子,还处于早期阶段,但我认为人工智能今天正在产生影响。我们知道这些技术将会改进。用于转录诊所笔记的环境人工智能从每一次

从它做得不好的事情中做出的每一次更正中学习。然后,这些知识会提高算法的性能。这些还处于早期阶段,但我认为已经非常令人鼓舞了。是的。你知道我注意到很多事情,尤其是在这一点上,是

对普通人来说是未知的,但在医学界可能非常受欢迎。当我想到笔记记录部分并查看时,大多数接受医疗专业人员治疗的人最大的抱怨是他们没有把我当人看。他们没有试图了解事情的深度。

病人并非不理解挑战。只是,他们处于脆弱状态。因此,现在在人工智能的帮助下,首先,我不必记录笔记。其次,我可以更容易地了解您的病史,然后专注于今天做出最佳判断。这是一个非常,你知道,我认为这是一个积极的展望,嗯,

人和机器走到一起,如果你愿意的话。是的,我也是。再说一次,我们必须非常清楚地认识到挑战。我们可以更具体地讨论这些问题,但首先要认识到

现在,这项技术并不是万能药。它仍处于开发和部署的早期阶段。我们必须睁大眼睛看待它的局限性,以及与它的部署相关的一些挑战。我知道你在Raise Health的联合领导人中扮演着重要角色,所以负责任的人工智能用于安全和公平的健康。

从你的背景来看,你不需要做更多工作。所以我很想知道,比如,关于那个具体的想法是什么,对吧?负责任地使用人工智能进行医疗。关于那一点是什么?

抓住了你,说,这是我想关注的领域?克里斯,我们在2023年夏天启动了Raise Health倡议。这是生成式人工智能及其部署的早期阶段。对于当时正在使用

当时使用ChatGPT的人来说,这一点很清楚。当然,从那时起,其他模型和系统也上线了。但只是随意地使用它来查看它为我们提供了什么类型的信息,很明显,这是一个技术拐点。这不是渐进式进步。这是一个真正的拐点。它将对医疗保健、生物医学研究以及我们所做的一切产生影响。

并且与我们之前讨论的内容相关,斯坦福大学几十年来在信息科学、信息技术和计算机科学方面一直非常强大。斯坦福大学的许多计算机科学教师都在关注医疗保健生物医学主题,因为那里存在有趣的挑战和问题。优秀的教师会被问题和挑战所吸引。

因此,在2023年夏天,生成式人工智能技术的领导者之一李飞飞教授和我决定是时候启动一项倡议了。我们斯坦福大学应该成为开发和部署人工智能的领导者,但我们应该以负责任的方式进行。所以,是的。

负责任的人工智能用于安全和公平的健康源于这些对话。它不是一栋建筑。它不是一个研究所。它是一个召集者。它是人和思想的召集者。Race Health的职能之一也是传播有关人工智能如何部署以及它如何的信息,你知道,它的负责任部署和开发如何被取消偏见

将来会受到影响。这些是Race Health的目标。我们在24年5月举行了第一次会议。实际上,这是我们在斯坦福大学举办的“人工智能与医疗保健周”期间举办的一系列会议。我认为

Race Health的思想汇聚部分发展得非常好,我们还有一些种子基金项目,使教师能够进行一些真正有创意的工作。我们一直在不断地关注我们如何学习

人工智能在我们系统内部以及其他系统中的部署,以确保它被负责任地使用并不断改进。是的。有了你拥有的专家,我知道李飞飞博士,对吗?是的。好的。我知道世界知名的计算机科学家,是生成式人工智能领域的先驱之一。你们认为人工智能在这一领域面临的最大挑战是什么?就像,为什么我们不能说,好吧,我们拥有这项技术。它很棒。它拥有世界上所有的知识。让我们使用它。我认为有三大类挑战,克里斯,我们必须直接面对,并且睁大眼睛看待这些挑战如何被认识到,然后克服。首先是隐私,我们稍后会讨论。第二是这些系统可以

可以并且确实会出错。我们必须认识到这一点,并且始终对我们从生成式人工智能方法中看到和学习的内容持一定的怀疑态度。然后第三个是

人工智能,生成式人工智能不如训练它的数据好。很多数据都存在偏差。因此,我们将从生成式人工智能获得的结果将是有偏差的。所以实际上是这三类,首先,隐私类别,我们必须意识到,特别是当信息来自多个不同来源时,我们必须

意识到即使以完全“无辜”和非故意的方式,隐私也可能受到损害,让我举个例子,如果有一个人工智能,如果有一种生成式人工智能方法正在引入社交媒体信息以及人口统计信息

你可以看到医疗保健提供者可能会输入一个简单的查询,例如,关于一个35岁的男子刚刚前往哥斯达黎加,高烧,并且有肾衰竭和糖尿病病史的问题。这个问题,

查询本身没有任何受保护的信息。好的。这不是名字。没有出生日期。我们不会认为有任何东西是

正如我们在医疗保健中所说的那样,HIPAA 受保护的信息。然而,如果该查询与社交媒体相关联,并且该人在社交媒体上谈到了他们最近的旅行地点,那么你突然就从查询中识别出了病人,即使你并非有意这样做。

因此,保护这些系统,将它们隔离起来,这样它们就不会,你知道,这样它们就不会超出非常受保护的环境。

对于保护隐私非常重要,以及我们在生成式人工智能之前甚至已经关注的与遗传信息相关的以及我们的健康信息如何超出我们自己和我们的医疗保健提供者范围的问题

现在与生成式人工智能能够比过去更深入地了解我们健康的点点滴滴及其对未来的影响有关。因此,隐私是一个很大的担忧,保护隐私至关重要。关于错误的第二个担忧,生成式人工智能的一个特点,当然生成式人工智能专家可以比我更好地解释,但是

对于传统算法,我们确切地知道我们给算法的查询结果是如何得出的。让我举个例子。我们现在使用算法来计算药物的剂量。因此,医生会输入病人的年龄、身高、体重和肾功能。然后,将有一个算法根据大量证据计算

该药物对该病人所需的剂量是多少。你将这些信息输入算法一百次,你每次都会得到相同的答案。如果你没有,那么算法中就存在需要修复的问题。生成式人工智能,由于其设计方式和工作方式,

你可以问同一个问题,或者只是稍微改变一下问题,你每次问它时可能不会得到相同的回应。所以,

并且将响应映射到你的查询的精确机制非常复杂,以至于设计算法的人将无法像我刚才向你描述的药物剂量算法那样将其分解。

好吧,我们必须对从与科学点相关的、与医疗保健交付方面相关的生成式人工智能查询中获得的每一个结果都睁大眼睛,它可能出现幻觉,它可能并不完全准确,我们必须真的,对它如何影响我们做出的治疗决策持高度怀疑态度。

现在,这并不一定意味着我们不应该使用它,或者我们不应该从中学习。但是我们确实必须保持,你必须睁大眼睛,保持一定程度的怀疑态度。然后是第三个偏差领域,我们需要做得更好,并且已经取得了改进,确保临床试验广泛代表我们国家的人口统计数据,或者更广泛地说,世界各地的人口统计数据。

因为当我们用只包含一小部分人口的数据来训练生成式人工智能算法时,从该数据中得出的建议实际上不会比用于训练算法的数据更好。

意识到这一点,解决方案部分来自算法的设计,但也更根本地来自训练算法的临床数据的生成方式。解决方案是要非常清楚地认识到这些偏差,并不断修改数据集,或者至少具体知道偏差在哪里,并且

例如,在我们斯坦福大学的急诊室,我们有一位教职工真正研究过,并且能够根据某人因胸痛而就诊的情况修改算法,以及

病人的种族、民族可能对病人描述的胸痛是否预示着心脏事件或不太严重的事情有重大影响。因此,如果我们意识到偏差确实存在于算法提供建议和步骤的方式中,那么我们通常能够克服这些偏差,并设计出实际上相当准确的方法,并根据算法接收到的信息适当地提出建议。这些是我们前进过程中需要牢记的三个主要关注领域。

当你认为斯坦福大学是这方面的领导者,以及你创建的联盟时,除了意识之外,问题是如何解决的,以便病人最终能够信任这项技术?我认为首先是沟通。我很高兴我们今天能够进行这次谈话。我对人工智能的潜力感到兴奋,但所有

也希望睁大眼睛看待复杂性和挑战。因此,沟通是首要任务,而我们作为医疗保健专业人员、医疗保健提供者、科学家以及公众参与我们所知道的改善健康和医疗保健交付的机会以及我们所知道的挑战方面负有很大责任。

很少有技术会说,好吧,我们根本不使用它,或者我们将完全关闭它。效果更好的是了解局限性并主动纠正它们,并确保我们负责任地部署这项技术。好的。

我喜欢。好吧,劳埃德,非常感谢你来到这里。这非常有帮助,也很有启发性。我对未来感到兴奋。对于那些正在收听的人,如果他们有兴趣了解更多信息或斯坦福大学的建议或正在发生的事情,你是否有任何我们可以去的地方?是否有网站或任何我们可以了解更多信息的地方?

当然,我们的斯坦福医学网站链接到我们今天讨论的许多倡议。RAISE Health 倡议,人工智能部署以及放射影像和其他医学信息的解释中的一些其他倡议。因此,浏览我们的网站或搜索斯坦福大学或其他机构参与的各种事情,

是一个良好的开端。我喜欢。好吧,劳埃德,非常感谢你参加节目。谢谢你,克里斯。很高兴和你在一起。感谢本周的嘉宾劳埃德·米纳博士。本集节目照例由克里斯·斯坦普主持,由我本人约翰·罗哈斯制作。

现在是一些快速的收尾工作。如果您想联系节目组,您可以发送电子邮件至[email protected]或在Twitter上向我们发送消息@smartpeoplepod。当然,如果您想了解Smart People Podcast的所有最新信息,请访问网站smartpeoplepodcast.com并注册新闻通讯。好了,本周就到这里。请务必继续关注,因为我们有很多精彩的采访即将到来,我们将在下一集节目中与大家见面。