The industry playbook to combat public health, and FUTURE-AI
34:03 Share

本周,Rebecca Coombes将再次带来一项大型食品调查,这次是关于快餐巨头麦当劳如何破坏阻止其在学校附近开设门店的企图。 继续关注行业的不良行为,爱丁堡大学的May van Schalkwyk想知道,在应对其他危害健康的行业时,我们为什么没有从控制大型烟草公司的尝试中吸取教训。 最后,关于医疗保健中的AI——巴塞罗那大学的Karim Lekadir解释了新的指南,这些指南可以帮助评估哪些AI应用程序是值得信赖的。

麦当劳战胜地方议会对新分店的反对 FUTURE-AI:医疗保健领域值得信赖且可部署人工智能的国际共识指南 </context> <raw_text>0 欢迎收听BMJ医学科学播客。我是主编Cameron Abassi。本周我们将了解快餐巨头麦当劳如何破坏阻止其在学校附近开设门店的企图。

麦当劳的论点,他们声称,顾客可以通过得来速点沙拉。他们可以骑自行车或步行前往。他们还强调该公司对当地足球队的赞助如何促进健康和福祉。继续关注行业的不良行为,我们将从控制大型烟草公司的尝试中吸取教训。

永远不要低估这种策略的复杂性。它不仅仅是否认危害。它影响研究、研究方式、谁进行研究、谁使用研究、提出什么问题。最后,医疗保健中的AI。如何判断哪些应用程序值得信赖?

为了让这些编辑值得信赖,我们需要全面地生成关于不同方面的证据,以便它们日后能够被接受和采用。今天,在演播室里与我一起的是BMJ新闻主管Rebecca Coombs。你好,Bex。你好。还有Mae Van Schelkwyk。

来自爱丁堡大学。你好,May。但你刚换工作了,是吗?是的,是的,我刚换工作。所以我现在已经与伦敦卫生与热带医学学院的同事们一起担任研究员好几年了,但最近搬到了爱丁堡大学。你在伦敦大学学院撰写我们即将讨论的论文时,你在那里工作。是的,没错。

Bex和May在这里讨论行业对健康的影响,这是BMJ和我们的播客中经常出现的一个主题。所以我将从Bex开始。现在,你刚刚发表了一篇关于麦当劳的调查。跟我们说说吧。是的,没错。所以,BMJ的一个重要主题是主要行业如何影响健康,无论是好是坏。

我们称之为健康的商业决定因素,May,我知道你是这方面的专家。我们最近进行了一系列调查,研究跨国公司的经济力量如何被用来影响食品方面的公共政策,从而极大地影响健康结果。

而这篇最新发表的文章则直指这个问题的核心。它是关于人尽皆知的快餐巨头麦当劳,以及它如何挫败地方议会创造更健康环境的企图。

他们实际上非常成功地推翻了议会阻止新门店开设的企图。他们通过使用一系列论点来赢得规划上诉来做到这一点。所以你是说申请被拒绝了?是的,被地方当局拒绝了,包括那些拥有非常重要的反肥胖计划的地方当局。这只是其中一部分。他们不希望新的快餐店开业,尤其是在学校附近。是的。

嗯,但是麦当劳在推翻这些......上诉决定方面非常成功,其中一些成功的上诉发生在英格兰一些最贫困的地区,一些最脆弱的地区,是的,像公共卫生结果最差的曼斯菲尔德和诺丁汉郡,那里有28%的小学生......

患有肥胖症。所以他们在英格兰的肥胖率是最糟糕的之一。麦当劳的论点,他们声称,顾客可以通过得来速点沙拉。他们可以骑自行车或步行前往。他们还强调该公司对当地足球队的赞助如何促进健康和福祉。

他们甚至部署了一名专科医生来辩称,肥胖是由超过100种因素造成的,而不是快餐,而且麦当劳的菜单包含营养丰富和低卡路里的选择。这听起来相当愤世嫉俗和令人失望。是的,没错。我很感兴趣,May,想听听你的看法。你知道,这些事情有哪一样让你感到惊讶吗?我们以前在哪里见过这种策略?是的。

好吧,首先,谢谢Bec,这是一篇非常重要的文章。我想说的是,读到这篇文章让我震惊,但一点也不让我感到意外。你知道,这些是我们在许多这类行业中看到的经典教科书策略,这些行业的产物可能对健康有害。

我认为这里对我来说引人注目的是,它真正揭示了许多这类策略以及这些行业运作方式的核心矛盾。一方面,他们会宣称自己是在为客户的最佳利益行事,或者是为了保护儿童,并且是解决肥胖问题的一部分解决方案。但是

但另一方面,却投入大量资源来阻止或延迟我们已知的实际上需要解决这个问题的法规。所以,May,我只是想插一句,那就是

说我们的菜单上有健康的选择是一回事。好吧,可能是健康的选择。你可以骑自行车去麦当劳。我的意思是,我想你只是从学校走过来,或者它就在学校旁边。如果他们是在这些地方引用的。但是。

这很好,但证据不支持这一点,不是吗?我的意思是,证据告诉我们一些非常不同的东西,它告诉我们,例如,如果你在学校附近有这些门店,那么这对儿童的健康有害。是的,那是绝对正确的。我认为,在许多这些问题的核心,我们知道,增加消费的是什么?广告、供应、在你的环境中随处可见这些选择。我们知道这些环境因素是驱动消费的因素。绝对的。

Bex,当你进行这项调查时,嗯,

当你提到这些是麦当劳给出的回应时,这些是他们给你的回应,还是他们,大概这些是他们在规划申请中使用的回应?是的,为了准确地揭示他们上诉的基础,我们不得不向处理规划上诉的规划督察处提出信息自由请求。好的。

我们发现的是,好吧,我们确定了自2020年1月以来,麦当劳反对地方当局提出的禁止在学校附近和肥胖率高的地区开设快餐店的15个案例。

他们在绝大多数这些上诉中胜诉,回到May之前所说的巨额资源。顺便说一句,这对地方当局产生了巨大的寒蝉效应。如果你要拒绝一项申请,你知道上诉正在进行中,你最终可能不得不支付上诉的费用。你可以想象这对你的决策会产生什么影响。不,我有点理解。

我在想,当议会似乎正在尝试做正确的事情时。所以当他们说,你知道,我们不想创造这些我们没有任何快餐店的区域时。是的,这实际上是正确的做法。是的。

他们为什么不强硬一点呢?我理解存在法律诉讼的威胁,以及不得不承担费用的威胁。麦当劳大概有巧妙的论点、精明的律师和精明的营销人员来为他们提出这些论点。但是,为什么议会在这方面不强硬一点呢?最终,是议会决定是否允许该规划许可申请通过。我的意思是,我认为这是一个财政挑战。

本质上。May,你可能比我更了解这一点,但我认为这很有趣,因为,你知道,这个新的工党政府正在发出所有正确的信号,不是吗?它表示希望阻止快餐店在学校开业,并希望创造更健康的饮食环境。但你不知道他们在做什么来更好地支持这些议会?May,你怎么看?是的,我的意思是,我认为你不能低估需要花费多少时间和资源来解开许多这些论点。

我很幸运地花了数年时间学习这些类型的策略和实践,但它们极其复杂,而且表面上非常有吸引力。正如Bex所说,我们不能低估证据。

地方当局面临的障碍是什么,鉴于他们在资源非常有限的情况下不得不处理的其他许多事情。我想我还对中央政府受到这些跨国公司施加的压力类型感兴趣。

你知道,这是我们一次又一次看到的现象。我们对游说活动了解一些,我们能告诉你的。他们只能实际获得部长会议的信息自由。显然,与公务员一起进行的活动还有很多。是的,我想如果中央创造了一个环境,说增长是当前的主题,增长是最重要的事情,那么......

那里就有一种向下压力,不是吗?而且议会也在努力平衡预算和控制成本,不是吗?你会把所有这些指控都告诉麦当劳吗?是的,我们做了。他们实际上告诉BMJ,他们为自1974年在英国开设第一家餐厅以来对国民经济贡献的945亿英镑感到非常自豪。而且

他们说,你知道,我们通过在未来四年投资超过10亿英镑,在英国解锁了更多机会。这是他们的计划,创造24000个新的就业岗位。所以这与你刚才所说的增长思维有关。而且,我们稍后在讨论赌博和烟草时会再次讨论这个问题。认为,好吧,我们为经济贡献了多少,或者我们为国库创造了多少,是一回事。

这些公司很少计算,这些行业很少计算负面影响、危害、对人们健康和福祉的影响。May,我们可以谈谈你的论文吗?我认为现在是介入的好时机。我的意思是,你正在研究赌博行业的作用及其造成的危害,以及它可以从

烟草行业那里学到什么?好吧,不是烟草行业,而是他们从烟草行业那里学到了什么,以及我们如何才能对抗这种现象。是的,绝对的。好吧,我想,你知道,我们论文背后的驱动力或想法是,作为一个研究小组,我们研究行业实践及其如何影响公共卫生。但我们知道的是,有压倒性的证据表明我们一直在本播客中讨论的内容。

到目前为止的播客表明,存在这种行业,这些跨行业实践不仅被烟草公司使用,而且被一系列危害健康的行业或其产品使用,这些产品可能对健康有害。

我们真正想要强调的是,虽然我们已经看到在烟草方面采取了行动,重新思考这个行业作为危害的载体,并采取行动来解决这些做法。我们没有看到的是行动,你知道,证据正在影响我们如何与其他有害行业互动和监管它们,特别是。

特别值得注意的是,一个非常重要的例子是英国赌博行业。我认为你可以看到,在2005年到2007年期间,我们是参与例如《烟草控制框架公约》的领先国家之一,真正采取行动来解决烟草行业问题,但在同一时间却完全放松了对赌博行业的监管。

我们想在两个行业之间画一些平行线。-是的,我的意思是,首先,这些行业之间存在共同的策略,不是吗?所以你有大型烟草公司、大型石油公司、大型食品公司,

100%。那么我们称赌博为?大型赌博?是的。这很难。但我真的,实际上你刚才捕捉到的,Cameron,是完全正确的。你所说的“大型赌博”而不是“赌博”。我们需要谈论产品,而不是人们的赌博行为。所以正是,你知道,大型赌博产品。是的。是的。好的。但是,

我想说的是,这里有一个共同的策略。是的。它的要素是什么?我认为,你知道,其中一个就是永远不要低估这种策略的复杂性。它不仅仅是否认危害。

它影响研究、研究方式、谁进行研究、谁使用研究、提出什么问题,影响政策过程的每个阶段,从我们如何定义问题、我们认为合理的回应是什么、谁负责、谁该承担责任以及政府的作用是什么,到影响青年教育。

通过影响媒体来塑造公众舆论,甚至期刊也受到影响,然后重要的是,将行业描绘成危害的驱动者,而不是解决方案,并且往往能够自我监管,并促进他们青睐的政策回应,并且重要的是,将自己描绘成他们实际上正在促成的健康问题的专家。

是的,我认为我们所有人面临的一个问题是,如果你以烟草为例,

我认为人们可以想象吸烟与肺部损伤之间的明确联系,并且可能不会那么强烈地想象吸烟与心脏病和其他问题的联系,但肯定与呼吸系统问题有关。当你查看其他一些行业时,赌博就是其中之一,证据表明它们对

有害,但作为一个个人,你可能看不到它们,除非你破产了或者其他什么。你如何尝试......

克服这个问题,因为我认为这是一个挑战。我认为这是一个明确的挑战,而且我认为这也非常有利于许多这些行业,要么责备人们因其出现的问题,要么掩盖正在发生的危害的负担,要么通过质疑联系来不断延迟对某事的行动,这

与食品行业的情况相同,我们也看到了这一点。另一个重要的例子是间接危害。化石燃料完全相同。例如,很难将你自己的石油消费与极端天气事件联系起来。但这就是为什么在那个

在那个人口层面看待这一点如此重要,并且真正从根本上重新思考是什么驱动了这些危害,并思考我们如何通过以一种非常不同的方式思考这个问题来防止这些危害从一开始就发生,并反驳这种想法,即这完全取决于个人的责任和选择,特别是如果你看

你知道,我们看到的健康结果,赌博危害,肥胖。这些都是应用程序。它们实际上是旨在让人们赌博和让人们消费不健康产品的环境的完全合乎逻辑的结果。是的。我的意思是,关于个人责任的这一点,我们经常会谈到,Bex,不是吗?绝对的。我们一直在与一个名为Frameworks的组织进行一些培训,以重新构建我们的思维方式。

呈现肥胖症,其中一件事是他们建议我们谈论与食物相关的疾病,而不是肥胖症,而且他们实际上给了我们一个非常棒的免费图片库,这样当我们......试图说明这些类型的文章时,我们不会使用超重儿童的照片,而是使用儿童在不健康食物环境中的照片,例如在超市的早餐谷物过道是的,这些都是我们正在尝试在BMJ中调整的事情,正如你所说的那样,专注于问题好的,对不起,我只是想说,我认为另一件事也是谈论,你知道,关于系统,你知道,我们有一个食物系统,这是一个

问题或一个不健康的食品系统,你知道,我们有一个极其不必要的、有害的赌博系统,它是由行业、其产品驱动的,你知道,缺乏监管。May,你提到的一件事是关于......的作用,好吧,行业倾向于对科学产生怀疑的方式。

这是所有这些行业的一个共同主题。我的意思是,大型石油公司、大型烟草公司、大型食品公司,无论哪个行业都有例子。赌博也是如此吗?是的,我认为重要的是要认识到,怀疑的产生有很多不同的方式。所以它可以质疑其他独立的、可靠的证据。但是还有其他方法可以产生怀疑或更多......

影响有利于该行业的研发议程。但我认为,你知道,我们知道......

你知道,这是跨行业的策略之一。你知道,每次石棉公司都声称会警告公众。你知道,烟草......人们忘记了烟草行业实际上资助了英国和其他国家的健康促进活动。而且,你知道,我们知道他们最终不会告知公众。这是在他们说吸烟有益健康之后。对你有好处。是的,是的,绝对的。而且,你知道,即使是细微的事情,你知道,吸烟然后可能是有害的。这根本行不通。然而我们看到......

这在赌博领域中已经显现出来,它已经成为赌博研究的主要资助者超过40年了,这导致了整个国际证据基础,这在他们的利益中是压倒性的有利,这意味着不是太多地质疑这种联系,而是

而是首先完全避免研究它,而不是没有像我们看到的那样能够建立吸烟与肺癌之间联系的纵向研究,而是完全将人们问题化。所以真正关注的是人们有什么问题,他们为什么那样赌博。这是关于行为而不是......绝对的,关于个人层面的干预。

所以这是一种微妙的方式,在这种方式中,对危害的不确定性得到了培养。是的。May,我想谈谈自我监管。通常情况下,无论是早期的烟草行业,还是赌博行业,还是食品行业,无论哪个行业,通常都会被允许,他们主动提出自我监管。制药行业,我们将自我监管。

我认为我们三个人都会完全同意,没有任何证据表明这在任何地方都有效。即使你以警察、医生或律师为例,无论是谁,即使是一个专业团体,自我监管总是有问题的,尽管这个原则似乎是好的。

我们如何摆脱与行业的这种循环?是的,如果你不介意,Cameron,我只是想说,我认为这不仅仅是没有证据。这不仅仅是没有有效的证据。这是有害的。我想说的是,有足够的证据表明它实际上是有害的,因为它延迟了采取行动。

以防止危害。所以我认为所有这些,其他学者真正称之为延迟的话语,这确实很重要,记住它不仅无效,我认为公平地说,这是一种有害的倾听方式,并允许它继续下去。

好的,我们对此达成一致。就其他教训而言,我最后要问你一个问题,我们还能从烟草中学到什么?简而言之,我们能从烟草中学到什么,我们可以将其应用于我们如何解决在赌博方面面临的问题?

是的,我的意思是,我想在我之前所说的话的基础上,那就是思考,你知道,证据告诉我们行业如何影响政策、科学和公众辩论?所以我们需要重新获得和重申

并保护我们已知的许多必要的核心机构和职能来保护健康。因此,考虑保护政策制定过程免受不当的行业影响对于在烟草方面取得进展至关重要,例如,保护和维护科学和证据的完整性。但其他事情,如

青年教育、医疗专业人员的培训,需要独立于行业影响。但要说的另一件事是,从烟草控制中学到的核心内容是,没有必要在这里做一点,在那里做一点。然后,行业就会规避这一点,并找到新的影响方式。

它需要全面,并且需要基于这种类型的证据。你是说像《烟草控制框架公约》那样吗?绝对的,是的。这不是选择一个选项。虽然这并没有,让我们诚实地说,我认为这可能是帮助我们控制行业行为的最有效的工作。但即便如此,它也没有阻止烟草行业。不,我认为在我看来,这是关于理解,你知道,这不是你可以打勾的事情。它一直在警惕行业如何适应你的政策,并确保,这是另一个非常重要的观点,那就是

那就是你评估你正在做什么。你需要了解,这是否有效地防止了行业影响和有害行为的类型?并紧跟行业,这是一个,你知道,你必须长期参与其中。长期游戏。你提到了游戏。我的意思是,

如果我说一件事,我认为我们应该停止赌博行业对英超联赛比赛、英超联赛球队的球衣赞助。绝对的。你认为这会有影响吗?绝对的。我认为全面限制他们的广告是根本性的。我们从烟草中知道这一点,我们也知道这一点,因为他们在这类极其复杂的广告活动中投入了多少资金。还要停止免费投注。

是的。这确实吸引了人们。好吧,没错。首先吸引他们。是的。我可以看到我们还有更多工作要做,Bex。如果你想了解更多关于我们麦当劳调查的细节,你可以在bmj.com在线阅读完整报道。May与其他人合著的文章,关于从烟草控制中吸取教训,是时候解决赌博行业危害问题了,也可以在bmj.com上找到。

我们本周的最后一部分是关于AI的。我们不需要向你解释这有多么热门和重要。甚至国家也参与其中,美国和中国都在争夺AI技术的领导地位。在所有这些创造货币化AI的压力下,我们如何在医疗保健中知道哪些工具值得信赖?

一个国际科技研究团队提出了FUTURE-AI指南,Karim Lekadir向我们的英国研究编辑Navjot Lada讲述了评估人工智能的六项指导原则。

是的,我是一名巴塞罗那大学的核研究教授。我属于数学和计算机科学系,所以这就是我的背景。但我关注的重点是医疗保健应用的人工智能研究。那么你非常适合领导你的论文,这就是我们与你讨论的内容。

从广义上考虑在医疗保健中使用AI工具,不仅是如何研究它们,还包括如何设计和部署它们。你能告诉我们一点,只是给我们一个关于你的论文内容的简短总结吗?

我的论文源于这样的观察:我们需要一种几乎全面的方法来解决值得信赖的AI问题。这是一个很大的难题,难题的每一部分都很重要。但不可能只关注开发而忽略验证的其他方面。不可能在没有在设计阶段采取一些......

一些最佳实践的情况下关注开发和验证等等。因此,值得信赖的AI和道德AI的问题涵盖了AI的整个生命周期。我们的想法是,我们需要从

第一天到最后一天,甚至更久,都需要最佳实践。目前还不清楚我们究竟如何才能在医疗保健AI中实现值得信赖。这就是为什么我们开始认为,也许我们需要某种行为准则

一些最佳实践,我们需要定义一些原则,这些原则将有所帮助,将提供指导。是的,因为当我们在医疗保健中考虑

你知道,我们使用的工具、医疗设备、药物,你知道,所有这些在我们在医疗保健中使用之前都必须经过相当严格的评估。据我所知,AI工具没有类似的东西。所以这就是你试图填补的差距吗?没错。所以如果我们以药物开发领域为例,正如你正确指出的那样,

指南已经相当完善,它们已经得到不同重要机构的批准,我们相当了解如何在这一领域工作。背后有很多经验。

这就是为什么例如在COVID-19疫苗开发阶段取得如此大的成功。这非常迅速和高效。在AI中,尤其是在医疗保健应用的AI中,风险很高,这可能会影响所涉及个人的健康和生命,我们没有等效物。这就是我们开始的方式。我们需要行为准则。我们需要一些指导方针。

尽可能清晰,尽可能切实可行。当然,这里的挑战是做一些可以在不同的医学专业、不同类型的应用中应用的东西,因为即使是医疗保健,它仍然很广泛。

所以这正是我们开始着手这项工作时的目标。在这个行为准则中,你开发的框架,我说的是你,我的意思是包括你和你的合著者,因为确实有很多,你知道,这看起来确实是你与许多合作者一起完成的一项巨大的工作。但你概述了这六项原则,你知道,当我们处理如何思考AI时,我们应该考虑这些原则。

那么FUTURE-AI代表什么?

所以我们有这六项原则,它们是公平性、普遍性、可追溯性、可用性、稳健性和可解释性,因此是FUTURE。我们建议对AI工具进行多方面的评估,不仅要关注性能、技术性能、准确性、稳健性,还要真正超越,当然,要关注公平性、评估可解释性、可用性、可接受性,

还要关注随着时间的推移评估工具。所以我们提出的确实是评估这些AI工具的一种更深入的新方法。我们也向监管机构提出这些建议。随着时间的推移,这将是......

被采纳,因为就目前而言,我刚才描述的许多这些要素实际上还不是监管流程的一部分。所以我们现在才开始说我们需要评估公平性,但我们没有说具体如何,这意味着什么,哪些属性非常重要,如何定义应该包含在公平性评估中的这些属性,例如。我甚至没有谈论评估可解释性

可信度等等。所以,我认为这正是我们这里的创新之处,为了让这些人工智能技术值得信赖,我们需要从整体上对不同方面产生证据,这样才能在以后被接受和采用。

我在阅读这篇论文时有一个问题,那就是在撰写和开发这篇论文时,你们心中理想的用户是谁?因为我认为这篇论文的潜在读者范围很广。是的。

是的,指南的用户首先是广义上的开发者。开发者可以是工程师,也可以是参与开发过程的临床医生。数据科学家可以是参与该过程的任何人。参与开发团队的伦理学家。

所以,这可能是开发团队中负责工具认证的监管方面的人员。

因此,这个人也应该了解这项指南,并应用它来预测,例如,监管要求。所以范围很广。不仅仅是工程师。我认为这是参与工具共同创建的利益相关者。好吧,我的意思是,我认为这对很多人来说都非常有用,并且填补了这一空白。

但是,我知道有很多关于如何确保我们正在使用的这些工具适合其用途并具有质量保证的问题。只是想想,你知道,它触及到我们经常思考的问题,关于人工智能可能对医疗保健,更广泛地说对社会的影响。但是我们,

谈到运营 OpenAI 的 Sam Altman,他只是在谈论重绘社会契约,以及科技行业中,当然,这种感觉,人工智能如此重要,如此具有变革性,它可以重塑世界。有时,这种科技文化与医疗保健领域普遍存在的文化相冲突。那么,您认为这些态度如何适应医疗保健?您对此有何看法?

所以,当然,在医疗保健中引入人工智能会带来变化,例如,工作关系的变化,劳动力技能或去技能化的想法,临床环境中护理模式的定义方式等等。所以,从我们的角度来看,

它应该从第一天起就与参与者合作,他们应该帮助设计这些人工智能工具,使其成为能够帮助他们并改善事物的东西。

而不是彻底改变医疗保健的组织方式。我认为我们认为这是我们产生影响的方式。是的。所以它是一种辅助技术,由不同的参与者共同设计,包括医疗专业人员、医疗保健管理人员和医疗保健提供者,以一种能够增加价值并可以集成到当前护理模式而不是

彻底改变它们的方式。它完全颠覆了它,是的。没错。我们认为,当然,事情会逐步发生变化,但这确实是一个过程。这真的是一个过程,而不是会完全扰乱当今事物组织方式的事情。这篇文章可在 bmj.com 上找到。

本期节目到此结束。我们两周后再见。医学与科学播客可在您收听播客的任何地方收听。在此之前,我是 Cameron Abassi。感谢收听。