117｜AI时代的女性健康会何去何从？四位医生与哲学家如是说｜亘新科技
49:02 Share

Hello 大家好,我是南希 Hello 大家好,我是思佳我们是万象更新身体不舒服,你会先咨询谁?小红书,杜娘,甚至是人工智能 AI 助手然而,信息技术的进步真的可以帮助我们更快捷地找到有效的答案吗?当大数据应用于医疗领域时,会带来什么样的变化?在更新《女性健康跨界磁场》科技场中四位来自国内外的顶级女性健康专家

以及复旦大学哲学系的尹洁教授和我们一起聊了他们所见所感带我们一起探讨人工智能时代医生和患者会面对怎样的机遇和挑战属灵女性又该如何打破算法减防找到有效且适合自己的信息源

马上就要过年了大家是不是也期待可以好好放松一下如果你和我一样在享受美食的时候总是忍不住担心大块朵衣过后肠胃不舒服老犯困而且体重增加快来关注 Miso Study 为熟龄女性量身定制的 21 天激活代谢运动计划一起进行有科学实证和路人实测有效的敏捷性力量训练恢复性训练还能收获饮食指导

与其盲目节食减肥让肌肉白白流失不如联合荷尔蒙一起让新的一年身体和心态都更轻盈

跟我们一起来探讨女性健康和科技的这个话题可能这一个专场是大家内心最多疑问的是我们聊女性健康的时候为什么要聊科技以及在聊科技的时候我们在聊些什么南希你来给大家介绍一下我们对女性健康的理解其实它并不是我们说的乳腺加上生殖器官和与男性性征不同的部分而是我们认为从头到脚都是女性健康女性的大脑和男性是不一样的从头到脚其实都有这样的分别

那我们希望带着这样的概念呢也就是说我们在看整个的医药研究还有医疗管理的时候其实很多也应该是不一样的但是很多看不见的数据呢其实是我们大众女性不知道的在美国的 NIH

在 2016 年才强制地要求说在做 clinical trial 的时候做临床研究的时候必须要有这个性别这一个 variable 我当时第一次了解到这个点的时候我是非常非常的惊讶的我说我们这都 21 世纪了竟然性别没有被放在医药研究中强制要的那也就是说我们之前做的很多的医药研究其实我们也不知道是不是

真的有我们女性在里面从这个源头开始医药的说明书或者是这个医药指南所以我们今天就很想要请来我们这么多的相当于女性健康天团包括我们这个陈荣老师今天在下面支持我们然后这是我自己一个小愿望因为尹洁老师是我们丰山大学康德哲学家

我们也是在一个 AI 的活动上认识的我当时其实就非常的印象深刻我就觉得说我们一定要让医学和哲学有一个碰撞然后尹杰老师也是在 AI 哲学领域在国内非常知名的专家我希望透过今天的这个 panel 可能大家不会说真的知道怎么样医药里面用 AI 我们会希望大家可以有这样的意识

其实在医药的数据中或者是我们说的这些算法当中我们希望给自己提一个醒在我们的这个注意力里面也可以去关注到这一点对 我们可能是希望今天从女性健康数据科学出发作为第一个起航点

然后我们去思考生活当中方方面面的其实我们和科技我们和数据的关系因为可能对于我们女性本身来讲健康是生活的一个维度然后我们今天聊艺术是一个维度还有其他很多的方方面面那可能我们现在处于一个 AI 时代我们一直在产生不同的数据那我们可以从这点作为一个思考的原点有更多的去探索那咱们先给新朋友尹洁老师一个跟大家打招呼的机会也问问您如何被我们这个跨界磁场吸引过来的

谢谢两位主播的邀请尤其是南希非常坚持不懈地问我的行程对 我觉得这个很难得我现在主要的工作不是研究康德我在学校里教康德但是我主要的工作呢是做生命医学伦理和人工智能伦理神经科学相关的伦理的问题

那我除了做科学研究之外还做教学做行政管理工作然后还做一些公共服务工作所以这个整个的就是伦理观念的推广也是我们高校的职责之一谢谢大家

其他三位嘉宾因为今天有很多新来的朋友也跟我们快速地打一个招呼我是北京大学第一医院金鸿燕我们那边有一个更年期一入门诊所以我对更年期一关注的会比较多一些因为我的患者我觉得 50%左右都是更年期患者包括我们的新患者和老患者所以我们在这个领域也

也有十多年的经历了嘛所以在这方面的话也希望通过南西还有私家的这个平台有机会向更多的女性传递一些更年期正确的联络我是蔡阳我是新加坡的妇产科医生也是亚洲太平洋更年期会的前任主席这次是被南西所抠来的

但是我对更年期特别有感情因为从年轻看更年期到我自己经过更年期所以我是以一个过来人的方式来与我自己的病人沟通借打通了语言通道我是盛明我是新加坡的全科医生在主角医院工作也是现在的国际更年期协会的准主席对

谢谢

其实下面也有一个特别嘉宾今天协和医院的陈荣主任要不也介绍一下各位万象更新的朋友们大家好我是来自北京协和医院复科内分泌与生殖中心的陈荣大夫可能有一些老师看过我的书更好更年期女人不老但我更核心的身份就是一名医生

同时我也有另一个身份正在经历更年期的女性所以在我的门诊诊疗上就像刚才蔡阳大夫说的我们是有机会用更好的同理心去跟我们的患者朋友去沟通特别棒 欢迎

非常荣幸非常开心能跟这么多医生朋友们一起来讨论这个话题刚才我也在咱们线下场开场之前跟线上的朋友们互动了一下大家特别关心一件事情就是说现在正在处于这个时代科技 AI 可以给我们的女性健康带来什么了比如说可能很多朋友身体出现了一些症状她不会先去看医生她会先问国外叫 Dr. Google 然后我们国内就是杜娘杜娘

就跟杜娘先聊一聊我还挺好奇这个事就是在各位看来我们女性朋友先去问杜娘再来看各位医生对你们的诊疗她是帮了正忙还是倒忙其实这件事比较普遍就是像我们以前没有这些辅助工具的时候

我们也会问其他的人就说我这不舒服你是不是有类似的情况你是不是看过谁谁看得好也会问一句所以这种探索心的话是很符合人性的问题就在于什么呢就是在于如果我们的媒体能够第一时间传递一个非常准确的信息

这是没有问题的但是在这个媒体里面我们是不是能够最早的看到的东西都是有帮助的比如说我们碰到一些没有经常使用的药我们也会去查百度但是我们会选我们不会拉了一条我们就看我们会选择一个我们认为有可信度的然后我们进去看一遍然后我们再找两三个去对比一下看看大家说的是不是一样甚至如果我们觉得有可能有指南我们会拉指南出来这是医生比较专业的一个角度

老百姓可能就是从第一条往后看有可能会看到了一些比较惊悚的刺眼比如说绝经以后出现阴道出血他首先就会说癌然后大家就会说癌这很恐怖啊就很恐慌或者 HPV 感染以后就是癌这件事也很恐慌所以我们其实有的时候碰到患者的话他是很焦虑的因为他已经第一时间被洗了脑

他没看到一个就是疾病进展过程中有可能出现的问题当然这个需要有些专业的医生给一些合理的科普但是我们有可能患者在看的过程中就会把一些可能是小概率的事件扩大了扩大了以后引起来的问题就是群众的恐慌然后如果你说的跟患者不一致他会很质疑为什么人家都说是这么严重的到你这儿来就这么不严重了

所以这个过程中的话可能会让我们在沟通中增加一些成本但是好处在哪呢比如像陈老师做了一些科普然后很多人去看病的时候他有了这个前期铺垫就是在规范那个科普的状态下患者得到了一些铺垫的时候你再去跟他沟通的时候其实更容易所以这件事情的话我觉得是个双刃剑不能说不好你不能说人家寻求帮助是错的

但是我们怎么能够提供一个正确的帮助让他们更有机会更接近我们的真实状态让他们更容易去接受医生的一些建议可能是我们需要去改进的一些地方

我有另外一个想法来找我们已经看过那对我们是一个正面的因为好像你说的他已经有一点知识那么你跟他沟通当中他可能就正是我读的也是这样那就增强他的信心这是好的但是问题是那些没来看你那些人就单纯只是去百度或者去 Google

然后他并没有来他已经下定论了或者自己治疗或者在网上买药那种那怎么办那是我担心的问题那洪教授您怎么看

您的患者当中是什么样的他们是什么样形式出现在您身边的我就以用药来治疗来做一个比例吧通常我们的病人如果有什么那个药对他有什么好处的话他不会上网发表上网发表的都是药的坏处它的副作用所以如果他真的去上网查看这个药对我好还是坏全部都是坏的嘛

对吗因为网上好的东西只有这个地方的食物好吃或者是那边好玩很少有说这个药对你很有帮助你会什么什么的那些都是广告所以我们可能没有那种正面跟负面的那种平衡所以多数都是坏事传万里不是吗所以当你没有这个平衡的时候有时候我们的病人就会被吓着了所以

所以如果能得到正当的知识是很好的不过有时候在网上的知识可能偏那一边当然现在有我们所谓的人工智能 ChatGPT 或者是其他的商家的产品它也有本身自己存在的一些问题这个当成是我们昨晚谈的金教授说的是这些人工智能是一个工具

那工具我们有没有教导他们去怎么用这个工具不过到现在为止好像我们没有教导你上网的时候要怎么了解这些信息是对的呢 错的你要找哪一个网站是给你正确的信息可能我们缺乏的就是教育吧

我感觉在原来金教授说当我们有一个事情会问身边人那个时代的时候收集信息的能力是最重要的然后咱们现在这个时代以后收集信息能力不是最重要真别对所以可能就是我们今天也可以在这个聊天过程当中向各位老师学习怎么去找到适合自己的这个健康信息聊到辩证应该没有人比哲学家更会辩证所以

我觉得可以听一听我先讲一下不是那个辩证的层面因为现在其实也有很多做科技传播医学科普传播的这些平台的而且有很多专业人士在做那我知道除了医生在做因为医生真的是一个资源非常稀缺的行业对吧因为大家没有时间去做这些事情要做教学要做科研要带学生要搞课题

就基本上是一个多面手那你很多的科技传播现在当然也有一生在做做得非常好我记得有一个我不知道大家有没有看过在那是复苏中山院有一个漫画系列它就是用一个叫猫大夫系列这个很有意思连我都会去看因为实在太好笑了就是

就他以一种很好笑的方式跟你说你千万不要去信那些邪他倒不是说你一定要去相信那些正面的观点而是说你千万不要去信那些负面的观点就是那些顽固的要求你这么做的那种观点它是去除偏见的这个层次来讲的所以我觉得这个可能是一个相对可以操作的层面就是去除偏见这个层面是医生可以做以及医疗科普工作者可以做的层面

而不是正面地跟他讲你看你现在遇到了这样的 condition 你应该怎么样去处理因为这个事情事实上牵涉到非常多的这种个体的差异性那就是在过去呢为什么医生被当成是一个权威呢是因为医学知识真的是一个非常高度专业化的东西而且它取决于病人本身

所以你没有看到病人之前医生是不会下这个判断的这个责任实在是太大了所以没有医生会说你来发一个消息给我我就跟你说这件事情应该怎么做没有医生会不专业到这种程度对吧那就说如果我们在网上筛选这样子的东西的时候你就会发现

我们看一下如果百度的话你发现的这些这些有很多出现的东西它都有两又不齐的层次但是你要看比方说你完全上 Google 去看的话这个我没有在挑衅的意思我就是说你从 Google 来看的话 Google 筛选出来的很多的是官方的网站 NIH 网站美耀诊所的网站那你看美耀诊所的网站它的整个的陈列它的整个 display 是非常清楚的

而且他只是说什么样的类型是可能是这样的 symptom 这样的症状对吧然后呢就说如果有什么情况你一定要去问医生你一定要去看急诊他不会有说你一定会出现什么样的情况所以我就说从 AI 的角度来看一开始的算法可能设置的是比较 general 的这种类型就是我们做一个初步的分类

但是不会给他特定的 specific 的建议说你一定会好或者会吃这个药或者是应该不吃这个药那其实现在的 AI 诊疗当中已经出现了这种趋势比方说可能大家觉得匪夷所思的是像中医这样一个非常看重个体辩证的这种东西他为什么也会采用 AI 的方式来做其实有很多中医的医院已经在做了

中医导诊其实就是让你伸出舌头来看你的舌苔因为图像识别它用计算机做是非常精准的然后它识别了之后它初步筛选之后然后再把你分到各个科室去那从某种意义上来说第一步这个步骤它节约了很多的人力它把原来的护士导诊的工作其实也省掉了所以我觉得这个其实是大大的解放人类跟医疗资源的一个行为我觉得是好事情

取决于我们怎么来设计这个知识的不同图谱的它的一个层级结构然后当然医疗传播是很重要的一个层面我觉得

我觉得刚刚尹洁老师聊到了一个点就是说 AI 有这样的能力也许可以帮助到医生和护士但是我不知道在场的医生有没有什么样的 concern 呢忧虑不是一个 concern 也不是一个忧虑但是我刚刚想到你提的那一点但我在想我们人口越来越多为什么越来越想减少人力什么道理呢医生和护士比普通人的这个比例是不是也在越来越

应该有怎么样的趋势可能就让它有怎么样的趋势吧如果人口越多对 但总体上来说我觉得医护人员的资源是一种稀缺资源这个大家都承认的对吧就是它不是一个铺出来的有剩余的量的东西就像您说的它其实需要一个很长的训练过程的你要花很大的成本来训练医生

那想请问各位医生您是愿意花时间去训练数据训练 AI 还是去训练一个年轻的医生或者是护士或者我们也知道其实各位医生教授都也在做一些关于 AI 的研究或者是数据的一收集的一些研究不如大家也聊一聊自己的经验我们都在收集什么样的数据可以做什么想做什么我觉得其实很多时候我们不是先有答案而是我们在不断地努力去探索答案

那在这个过程当中刚才您提的那两种情况训练学生和训练 AI 数据这两者是不矛盾的我在训练学生的同时我就训练了数据

同时我也想就刚才说的一个话题我想也再说一下我的看法因为刚刚尹洁老师说医生太忙了真的是太忙了我自己应该说是在中国可以说是最好的医院工作但我

确实压力很大需要做医疗看门诊做手术带学生也会承担一些管理的工作但是越做越觉得做科普实际上是我们的责任所以在过去几年当中我其实还是花出了不少的时间和精力来做科普

我自己觉得科普不是医生的额外的事情是我们必须要承担的责任这是把我们的诊疗病人的场景拓展

而且科普做好了我们可以减少很多的弯路我自己做更年期管理已经很多很多年从 03 年开始这样粗略一算 21 年了我自己的一个特别突出的感受最近几年我在诊室跟我的更年期

患者朋友们交流的时候我变得特别的轻松甚至我们有静修老师来跟我门诊的时候陈老师说你的这个门诊就是一个粉丝见面会

怎么理解这个话题其实呢就是说我的患者朋友们他很多都是已经先做了功课甚至读了书以后他自己把他的病情梳理好了化验装在那个文件夹里整整齐齐然后就跟学生求表扬一样陈老师你看我做得好不好然后我就会表扬你真的就这种正能量的这种沟通我觉得是

是半工备的那说到 AI 在这个科普领域的应用其实我最近正在被邀约我有点忐忑因为我也看到已经有一些医生我们的科普已经把这个 AI 用进来了其实就是这背后的大公司跟我们合作他就是说你看你已经做了这么多的科普你也有别的那些东西我们可以帮你生成哎呀

我是还是相对保守我现在还没正式跟他们见我最怕的是以我的口吻说出去的话大众是不能识别实际上是 AR 出去我又没有能够来得及去一一审核万一出去的是错的怎么办

所以我是相对保守我觉得我会愿意慢一点点或者等这个 AI 技术更成熟一点我再来拥抱它

对感谢陈荣老师分享我其实有很多在硅谷做 AI 的朋友有做教育的有做汽车的他们很喜欢因为我一直在医疗领域工作他就想要问这个在医疗什么时候我就会说一个点就是除非这个自动驾驶的车出现事故了我们能够知道是谁去坐牢是

坐这个车的人去坐牢还是说他的生产商谁要用这个车所以看我们现在聊起来都不是很清晰我在想说医疗是一个更佳我们需要负更大的责任的所以在我们没有解决那个问题之前医生是很难很难被替代的其实

其实南希讲到的就是我们在人工智能论理里面一直讨论的问题叫 accountability 就是你要负责任有的时候他用 responsibility 有的时候用 accountability 事实上就是说人工智能算法这个最麻烦的地方是它不透明大部分的情况不透明它的算法如果可以透明的话它也比较难解释可解释性和透明性这些都是它的一个固有的特征

然后在这种情况下我非常同意刚刚陈医生讲的这个觉得不仅仅是医学工作者会比较顾虑的那教育工作者也会非常顾虑因为我们也收到这样的邀约跟我们说我们把你们所有知名的这个哲学老师的论文爬下来然后你答应让我们授权给我们我们来做一个数据库然后让他来生成这种专业的哲学的 opinions 然后我们都说这个事情很不靠谱为什么因为我们没有人愿意为这样的事情负责

没有人会说这话是我说的对吧这个观点不是我的呀你想我们每次即便我们写一个新闻稿我们都要自争拒着对吧就是在想这句话到底是不是应该从我的立场来说是不是我应该说出来的话它是不是符合真实性的要求它是不是对社会会产生不良的影响这些都是要审查的东西

你想这样的句子很多人觉得你想一个语言表示也不算什么更何况是这种医学医生的诊断对不对所以我非常同意陈老师刚刚讲的然后跟南希讲的其实是一样的就是当你要确定人工智能这个就是无人驾驶这个问题的时候

我们其实当然有一个策略是这样的当我们没有办法确定哪一个东西是唯一的这个 accountable 的一方的时候我们其实有一个策略就是说你做分布式的责任的配置比方说算法设计的人程序员管理者监管者法律制定者政策制定者那所有的人在这其中所谓的 all stakeholders 在这其中都有他的这个分量

那这个东西其实是需要一个很复杂的研究的过程而且它是我也同意刚刚陈医生讲的你一定要在实践中去摸索这个责任的确认到底是怎么样的在这个出现之前大家都很谨慎只能把这个所谓的人工智能的这个无人驾驶的这个层级放得很低比方说在一个没有人跑的这个场域里边让它自转运行它最多就会撞到柱子或者树之类的东西

对吧就是这个风险可控的情况下我们都认为没问题但是我觉得医学这个东西应该是所有的事业当中这个风险程度要求最高的这个是毫无疑问的所以我其实也在这点上非常保守但总体上来说我觉得 AI 还可以做一些相对来说释放劳动力的事情就回到刚才蔡医生讲的这个问题因为我觉得最好的医生肯定是最稀缺的资源你肯定不能让他做那些非常 routine 的事情这种事情是一定要解放出来的比方说填表大家都懂的对吧

我相信体制内的医生都很懂这个问题填表包括这个莫名其妙的一些文书的工作我觉得这些事情其实现在 CHATGPT 已经可以帮我们完成这样的事情了这是很好的事情而且它也可以帮我们训练学生有些基本层面的操作这个以前已经可以实现我就把话筒再留给两位老师再继续

我觉得你说的对就是有一些根本不需要人去做的东西就太无聊太乏味的东西应该就让 AI 去处理那我也有一个信心就是说下一辈子的小朋友成长之后他们对这个就很拿手就很自然就不像我们就 old school 我们就有点保守的那个感觉好像我觉得在新加坡比如说我们银行什么的它已经没有人在那边就必须在网上做

那我们可以学到我们可以来啊但是我父亲那一辈很难的有很多老人家去那边门面找不到人他恐慌我的钱怎么拿出来就有些时候是卡在这个阶段就继续在很迅速在发展的时候有些人就被落后了所以下一代的人肯定没问题

因为现在好像北欧国家他们从小学生就在训练他怎么样变正怎么样变正我们的小学生应该也有这种教育方式对所以下一代的人肯定没有问题问题是我们现在卡在这边这些人我们怎么样去活着下半辈子对

跟得上对 我觉得这个点很有意思因为一方面可能蔡昂医生讲到说好像所谓的年轻一代貌似有更多的跟 AI 接触的能力但是我其实在我们刚刚结束的澳洲的国际更年期大会我其实去听了洪教授的关于 AI 的话您当时讲到了一个点是我觉得比较意外的您可不可以分享一下呢

他们有几项研究我一个朋友也是在十年前做同样的研究他们发现你们觉得是比较有经验的医生会运用 AI 还是年轻的医生呢

年轻的其实应该是有资深的经验的医生他们会比较讲相信他会运用那个 AI 因为他们的知识已经足够了所以 AI 能让他更有效率可能看诊会比较快不过比较没有经验的医生他们运用 AI 的他不能辩判出他

所给的讯息是正确的还是不是正确的所以他们在做这项研究我们都觉得很奇怪因为我们都会想年轻人应该会拥抱 AI 不过反而是我们资深的医生会比较会相信怎么运用那个 AI 所以有时候我们觉得就是我们怎么训练我们去用这个这个是一个工具嘛

所以当你要用一个工具的时候就好像你要开车的话你要去学怎么开车不可能只是把那个工具丢在那边这个就会帮你做全部的事情而你没有了解到它的可能有一些不足之道了

所以我就会很好奇这个中间的我们看到两端年轻没经验的和有经验那是怎么从年轻没经验变到有经验那这个是谁来界定的因为我们用或者不用的话咱们在这个医疗上都会有指南是不是如果我们要真的想大规模运用 AI 那也得说谁可以用谁不可以用在什么情况下可以用那这个时候我们又是怎么来界定这个呢尤其我觉得在场的全都是制定指南的专家所以我更加好奇制定指南的专家怎么去思考这个问题的

我们觉得教育真的是很重要虽然我们已经开始在给予一些教育从小就应该开始学到怎么了解到 AI 是怎么运用的它是哪一种模式不过有时候完全真的是不知道我记得有时候在墨尔本我就把我们的国际

跟年輕的白皮書放進去 AI 然後就播出來哇 很厲害喔你就放在那邊 15 分鐘它就好像一個 Podcast 博客有兩個人在那邊所以他們要被替代

不过开始的时候他很正确他照理只跟着那个你所放进去的文章讲不过讲到最后的时候他就开始 hallucinate 就开始幻想了就拿别的东西进来所以如果你没有去聆听的话就发进去就发这个 podcast 播出去的话这样可能有些人会得到不正确的信息

这就是陈老师刚才担心的执行者要负责任然后你必须要核查就像我们经常跟患者沟通的时候患者就说你这个医生为什么从头到尾都是可能也许大概啊你怎么就没有一个一定呢我说因为这事太复杂了你就不是一个一定的人对吧你也许可能大概的这么一个概率存在所以我经常跟患者说你百分之多少的概率你大概率是什么你小概率是什么他们都非常反感这个词

我是怎么样的我说就是你放在里面你也有一个概率值因为现在这些事没有发生对没有发生的事情我们只能给你推一个概率如果你大概率的话我们都紧密观察小概率的话你就不要放在心上你就溜达着走就行其实医生说话的时候就我觉得其实我挺佩服陈老师的勇气的就是你面对媒体即便你说一个正确的话也可能会被理解成一个错误的话

或者是你用一个医学的语言说出来以后患者未必能理解你里面的真正的含义这有可能就是医患之间有可能出现问题的

但他敢于去说像我这种懒人我就说其实你说完了以后的话很多人过来就会跟你阿丢然后去讨论然后你每说一句话的时候你都查好多的文献或者后面打好了备注就是这个东西是专家的指南里或共识里面或者行政医学里面提供证据的而不是说我说的假设我是陈老师我就不代表陈荣个人观点

这是一个行政医学的证据然后我提供给大家供大家参考有这么个逻辑在里面其实要做这个科普的话就是要花很多的心思不是说随便一说像朋友之间随便一说我们其实也很谨慎我们跟朋友之间有越熟的人我们在给问诊意见的时候其实我们越会斟酌我们的用词因为

对你太信任了完全不质疑的情况下如果出了问题的话很麻烦有可能不是我们的诊疗方案出问题而是说他在理解的过程中会有歧义就包括我们妇科内科秘义用那个药你告诉他怎么用你说得很清楚这话我觉得旁边的人都听明白了当事者不明白

他就会很糊涂的在给你复述啊就这个东西就是你复个内分泌门诊的话就很纠结的事就在这那你就想吧你面对面的沟通都会有这个问题如果你通过一个屏幕说出去了以后底下的人想成什么样了你都不知道

对吧所以这个事情的话如果你用一个 AI 再去帮你的话再给你重新导一遍再出去的话可能逻辑上或者是你传播的内涵上又发生了改变所以就是说说话的人要对自己说的话负责这是很重要的是的我觉得我特别有感触刚才金教授说的这个其实在我开始做科普做自媒体的时候其实是很忐忑的

所以我给自己采取的原则一定是我只说成熟观点只说明确的事情有争议的事情尽量不碰其他领域的事情哪怕是医学领域的有很多观众或者是这样听众他会觉得你是医生所有关于健康的事情你都应该知道

但我从来不去碰热点我只说我最熟悉的我最明确的事情还有如果是直播因为时间就足够我会跟他解释而且一定告诉他我在直播在科普的时候我们只是说的一个普遍现象但是不能代替你当面诊疗我觉得这些都是我们的原则

但我们今天因为说的是 AI 我总体上我觉得 AI 已经不是我们要不要应用允不允许它应用的事情是我们怎么应用所以我觉得刚才尹杰老师提到的分布是我们逐步逐步地来应用先让它

有限度的让他先做那个最 stupid 的事情把我们从繁琐的工作中把他解放出来但是一些要去扩展的事情至少我们现在一定要在严格的监控下去让他做不能就想着说他是他能生成

生成了一万字的东西我都看都不看就把它发出去这不可以我觉得今天特别好因为我也觉得今天来参加的人我为大家感觉特别幸运因为我们好像走进了医生的脑子里面因为我和斯嘉我们两个人一直会比如说跟我们的就是一千多位女性还有她们的家人交流的时候我们时不时终归会有人跟我们说北京协和的那个医生说了

没有 clinic 那个医生说了而且他们会把这个医生的话当做一个证据给其他人去传播所以就是医生的话其实是非常非常有分量的但是我们与此同时也看到了其实医生就像我们昨天讲的

医生也是人然后我们要尊重医生是人的一面然后其实也是也有担忧遇到像这样一个有冲击性的这种技术性的变革其实我们昨天有探讨这个话题两年前你跟我说 AI 可以是工具我信

现在我觉得它其实不是一个特别容易控制的东西了其实技术发展到现在这个阶段尤其是我在看国际前沿的这些 AI 模型尤其最新的这些 chain of thoughts 这些东西其实连最最权威的 AI 专家都不知道这个黑盒子是怎么运作的我们其实没有那么大的掌控性

对吗我觉得南希说的是对的虽然我们现在比较实用的策略是让 AI 来帮我们做一些比较常规的事情但是不可否认的是这个 AI 所谓拐点的到来有可能还是会来的就是有一天它的智能会超越你的想象然后它能做的事情会超越你的想象

还有一个就是我刚才还是想回应一下刚才金教授讲的这个我觉得他讲了一个很重要的一点就是在患者的一生之间是有一个不同的视角的就是患者想要寻求确定性这个对他来说信心的来源对吧

因为他要的其实不是知识他要的是 assurance 他要的是这个东西但是医生是求知出身的就是他是一个 professional 对他来说求知这件事情真这件事情是很重要的他不是真的代言人也不是真理的化身而是他其实去实践这个真的人所以他其实是在这个问题上非常纠结的就对他来说 uncertainty 这个非确定性才是一个常态

所以这两者之间的 gap 是这样的一个对比在这种对比下面不仅仅是说你跟他讲一句话他懂不懂这件事情不是一个 understanding 的问题而是本质上他这个态度是不一样的我希望寻求的是你告诉我我这样就会好了或者我这样就没事了但是医生告诉你的是这件事情我其实是你不能找我来寻求这件事情的这个结果我不能预测这个东西的结果那我们现在其实想要找 AI 确定的也是这个我们认为 AI 能带来的

的 certainty 远过于人类预测的 certainty 其实你想要寻求的是这种 assurance

我觉得这里头可能还有另外一个层面就是我们刚才也说到了数据那其实刚才我们跟现场朋友互动的时候大家也聊到现在有很多新的科技比如说这种手环去 check 我们睡眠的数据运动的数据可能大家有另外一个想法或者是一个希望就是我们能不能通过更多的数据带给医生更多的辅助来增大我们这个 certainty 的空间是不是有这一方面的思考就可能它对于我们普通女性来讲

至少今天的我们是不想取代医生的我们觉得医生太重要了但我们可能想给医生更大的加成帮助我们跟医生更好的沟通那从数据的角度来讲是不是可能新的科技带来更多的是希望但同时可能也有隐患

这会儿这各位医生怎么看我们现在的话其实也是在拥抱 AI 但是不是通过把我的语言编成了以后发出去那种方式而是希望我们可以看到一些数据背后我们没有办法通过常规方式获取的信息

比如说一个人的遗传背景一个人的生活经历包括他的生活习惯还有他的用药习惯还有他现在的一些临床数据我们整合在一起我们能不能够有机会去通过这种算法获取一个他有可能的一个风险评估

那么我们其实在更新期的管理过程中我们会发现有些人的基线值其实是很干净的那这样的人我们通过经验就判断他有可能未来在管理过程中是不需要频繁随访的但是有可能因为患者在我们沟通过程中的一些隐含信息或者是有一些我们没有认知到的东西的话可能会有疏漏

所以这种概率的话就是说不发生则已发生的话对我们来说都是一个心灵冲击嘛所以我们其实还是希望有一个方法去可以把这些数据放进去然后通过我们的一些技术手段嘛然后让他有可能在这个患者在随患过程中出现风险事件的时候给予提醒当然对于有经验的医生来说这件事可能医生自己就能做虽然高级医生也有镂空脸嘛

但是对于一些年轻医生来说的话这就是更有帮助因为他可以通过这种管理的过程中提高更多的自信因为就是自我学习和他人学习的一个共同的一个结合可能成长的会更快一点然后也可能更早的成为一个可以驾驭这个我一直认为是工具虽然未来的时候它有可能成为一个

类似于伴侣一样的关系类似于伴侣一样的关系但目前来讲的话它还处于一个工具阶段包括尹老师刚才不是你们刚才说那个黑盒子的问题我觉得输入是人为的输出是人可以确定的所以中间不管发生什么两头我们是可以管的

就是你中间你甭管怎么算你出来的东西总要给我看我确认了还是用人类的智慧先去确认了以后然后再去发布出去所以其实我们不是说我不知道啊因为科幻片里面的 AI 会失控吗甚至于统治人类啊或者是悲观呀或者是这种阴谋乱也好啊总而言之就是人类思维的一部分

我是一个乐观主义者所以我一直认为如果是底层的工作是人做的那么这件事情就是在人的掌控之中只要它的输出是被人类掌握的我们就不用担心 AI 对我们造成这种毁灭性的伤害也许我这一代等不到毁灭性的伤害未来不清楚那我们来问一问哲学家我看尹洁老师在思考你吗

我觉得因为有专业从事人工智能伦理的专家他其实最担心的就是这个可解释性问题因为我们有可能会面临一个结局就是说你当然可以控制输入端对吧但你当你不可以控制输出端而且你有大程度依赖于这种输出端的数据的时候你其实是没有办法评价这里边的机制的你没有办法评价这个机制在哲学意义上来说也就是我们不知道一个结果的生成是不是 reliable 的

它是不是一个可靠的结果你说这个过程本身是不是可靠的很重要我讲一个很简单很简单的认输论的例子如果我说今天要不要下雨我问你今天要不要下雨思佳然后你说当然不会下雨了我说好那你告诉我你是怎么判断的你说因为南西抛了个硬币然后你又特别信南西抛硬币的这个技能对吧对

然后你想我就很无语了对不对为什么因为这是一个很不可靠的机制因为我们现代人都不太会相信这种灵机动德或者是直觉的东西对吧可能有的年代有人会信那我就是举个例子来说当一个东西它的生成机制我们不知晓的时候其实你是怎么会信任它的结果的这个过程本身它应该是能够被 justified 的才可以所以

所以不管是从求知的角度还是应用的角度我都会比较担心这种可解释性的问题因为现在在某种意义上很多人工智能伦理专家都在研究可信任的问题可信任的问题很大程度上就取决于这个生成过程本身是不是在我们可理解的范围之内它是不是极大的扩展了我们认知的范式它是不是对于我们认知的一种偏离还是说它扩展了我们的认知的这个疆域

以一个用者的身份担心是担心控制权在哪

跨国际不只是我们有这个思想背景或者有那个就是以对跟错来判断但是跨国际有很多不同的要求有很多不同的 agenda 也有不同的方向那我现在认识陈荣我知道他可能有些东西他肯定不是他说的

但是很容易以 AI 的方式放成荣的影像在那边以他的女生去说东西然后再卖药那怎么办呢我如果不认识成荣我可能认为陈老师都在用推荐这个药这是权威所推荐的药那我就

很幸运了 对不对那是已经很容易办到的一件事情那谁来控制有没有人真正在控制这还是我在担心的问题 OK 我就说一点像金销售现在在研发的那个 AI 所以我们发现到很多 AI 的项目可能完全都没有医生在里面那是工程师在那边搞你给我大数据我就帮你解决出来就给你一个出口

所以我就觉得这个就很危险因为他们没有医药的知识他就会觉得我这样做出来就能达到你所要的那个

结果了嘛就好像我就讲我们在做一个研究就用那个 HRV 心力的跳动嘛来探测一个人的那个血糖的风险然后那个 AI 我们就有两个他就用一个 AI 来看 OK 从这个心力跳动那个图我们可以找出几个数据他就可能讲 244 个 variable 然后从从那就用 AI 去找他就说这个可以 99%能

断定你有没有糖尿病风险我讲 99%是骗人的因为不可能有 99%的嘛我们做这么多研究都了解到所以我们就拿这个 244 克我就叫我的那个数学家他就用基本的那些数学的算法他讲大概可能 80%这样就百分之八十的啦然后就讲百分之八十就

OK 至少还可信一点而且你是有经历过我们看探

探讨的时候会了解到你在画那条 ROC 的时候你只是用你的 demographic 就大概 70%再加上那个指环的数据的话就增加到 80%这样的可信度就比较好然后最近他们又再放了一个研究我们现在就看个人的会怎么样他就把那个个人的数据收集了三天然后讲三天后我们就把那个

准确性增加了我讲你怎么把它增加的他说我把他个人的资料放进去我讲一个人的数字可以改换几百个人的数字那你的程序有问题了吗对就本身是非常 skill 的

对其实我和斯嘉我们两个节目当中有聊过我之前很喜欢研究就比如说睡眠监测这个事情因为它很难然后我其实对比了很多不同的这种 wearables 对吧包括是还各种各样的

对其实相对来说比较高的可靠性 79%已经很高很高了可能我觉得带这个监测有些时候也是一个行为认知那我有一个问题就是说这些大数据会不会就把那些 exceptions

给忽略了对不对比如说以你刚才说的这个例子来讲我想到另外一个 analogy 就是说我们在建造那个医院的一个新 block 的时候很多工程师啊什么的那些 administrators 他们就输入他们想要的东西然后就建造这个东西

但是你如果一问那个产房的那个护士长他会跟你说不行有些时候我们需要这样这是经验之谈你如果不去问那个人的话你可能就那一巴掀出现的时候你就惨了所以这些人为的那个输入可以带给你那个 exception 你不会忽略忽略到

是 我刚刚想到一个例子因为这个刚才讲到这个医院设计的例子就是其实我之前因为跟有一些设计医院的团队谈过一些事情我问他们在做什么样的设计他们就是做

做一个 VR 的模拟然后模拟就是让这些患者和医护人员直接去在这里边行动然后用他们行动的这个轨迹再做一个模型按照这个模型再来做医院那这种医院它其实就相当于在 input 就是 data 的这个数据的这个输入上尽可能多的整合了来自于医护人员的这种视角包括患者的视角那这个就跟从管理者角度的都不太一样嗯

我觉得这是一个很好的一个设计医院的例子然后我也同意刚才讲的这个数据的偏移因为我们在做统计的时候大家都知道 AI 它现在整体的一个底层逻辑仍然是做这个叫什么按照我们的科学哲学的模型叫预测加工模型事实上它还是一个基于统计学的东西基于统计学的东西一定会把 outlier 扔出去的这个是没有办法的事情因为它要拟合那个曲线它肯定会把 outlier 扔出去那其实很多人都是 outlier 因为

因为在医学哲学的定义上来说,我们定义什么叫正常,这件事情大部分是按照这个生物统计的模型来定义的。生物统计模型的定义就是把大部分的人放在这个一个范围,这个 average 的这个范围之内,对,让正态分布,那很多人其实都做不到这个正态分布的这个中间这一段的呀,那你其实就从这个里面被抹去了,对吧?

我觉得这个就说回到我们最开始想说的我们说了女性不在数据里头我们是被当 outlier 扔出去的我们被当作一个例外扔出去但是我们是 51%的人口 51%的例外

所以我们跟这个 AI 我感觉跟他聊的这一路下来其实是一种相爱相杀的关系上上说了我们不能拒绝它会到来那我们不能拒绝 AI 的到来我们怎么办我们只能冲进去主动去找我们不能被动因为被动我们就被 outlier 忽略掉了然后在这过程当中我们要去想我们需要构建什么样的然后我们要去考虑到我们在把我们融进去同时我们又没有忘掉我们的伙伴我们怎么去构架伦理我们今天打开了一个一个磨合

我觉得有很多话题我们可以继续去讨论我会希望大家可以真的是我们说的那个我不知道我不知道的圈子这个是我知道我知道的我知道我不知道的我不知道我不知道的我希望大家可以把我不知道我不知道的变成我知道我不知道的我们可能大家不会那么的舒服说我不是所有的东西都知道了

但是我们至少站在了不同的视角哲学家的视角不同医生的视角不同国家的医生的视角我们看到了这个事情是很复杂的而且我们可能会在比如说去看医生的时候我们会更加珍惜那些愿意承认说这个是一个可能性而不是说你就这样听我的就完事了其实这样是更加负责任的一种说法然后我们可以去

尊重它的一个复杂性然后我们也珍惜好的医生给我们个性化的这样的诊疗其实今天没有时间去聊我们的这个最后的话题其实就是一个 population health 和 precision medicine 的一个区别但是这个我们可能留到下一次我们节目里可以继续再展开我们今天这个嘉宾互动就先聊到这儿

不知道听了这期节目,你有怎样的感受?如果你对于医疗科技感兴趣,欢迎告诉我们你的想法。