We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode AI linked to boom in biomedical papers, infrared contact lenses, and is Earth's core leaking?

AI linked to boom in biomedical papers, infrared contact lenses, and is Earth's core leaking?

2025/5/28
logo of podcast Nature Podcast

Nature Podcast

AI Deep Dive AI Chapters Transcript
People
L
Lizzie Gibney
N
Nick Petridge-Howe
S
Sharmilee Bundell
Topics
Sharmilee Bundell: 我认为目前可能存在大量由AI生成的低质量论文,这些论文使用特定的公共数据集。人们担心AI会被用来大量生产论文,但这很难证明。也许有人会用AI来帮助他们写作,但统计问题在于,你可以用AI来产生大量的分析。这些论文似乎都遵循一个模板,即某个变量与一个复杂的疾病相关联。如果你有一个开放的数据集,理论上你可以进行大量的测试,直到找到一个有积极关联的。也许AI或某种自动过程被用来大规模地搜寻信息并生成这些公式化的论文。这个问题在于,这个数据集是公开可用的,可以随时插入AI并进行分析。你可以不断地寻找,直到找到积极的关联。可能是因为使用完整的数据集无法得到想要的结果,或者可以通过将数据分成多个部分来发表多篇论文。将数据分成多个部分,其中一部分更有可能产生统计上的积极结果。如果你查看每个变量与其他变量的关系,并将数据分成小块,那么你的发现毫无意义。如果随意增加问题,只保留答对的,删除答错的,那么你的考试结果毫无意义。论文数量的迅速增加似乎与AI的可用性有关。使用这个特定数据集的关联研究论文数量在迅速增加。这似乎是一种轻松发表大量论文的方法。开放数据是一项宝贵的资产,但现在却被滥用了。公共数据库应该要求研究人员在访问数据之前注册他们的研究计划。应该阻止人们大规模挖掘这些数据集,因为当它们被这样滥用时,会淹没任何有意义的发现。这些研究可能导致错误的信息,或者人们浪费时间在这些研究的基础上进行研究。应该对论文的质量进行过滤,以避免误导该领域。 Lizzie Gibney: 我同意Sharmilee的观点,AI生成论文的问题确实值得关注。我们需要认真思考如何平衡开放数据和科研伦理,避免AI被滥用导致低质量论文的泛滥。

Deep Dive

Shownotes Transcript

您知道吗?外国投资者正在通过一种名为“第三方诉讼融资”的做法秘密资助美国法院的诉讼?隐秘的海外资助者正在支付费用,在我们法院起诉美国公司,如果获得判决或和解,他们一分钱的美国税都不用交。他们从我们的法律体系中获利免税,而美国公司则被困在法庭上,美国家庭为此付出了每年5000美元的代价。

但是有一个解决方案。国会面前的一项新提案将堵住这个漏洞,并确保这些外国投资者纳税,就像实际原告必须纳税一样。这是一个常识性的举动,可以阻止轻率和滥用的诉讼,并将资源重新导向美国的工作、创新和增长。只有特朗普总统和国会共和党人才能为美国带来这场胜利。

并追究这些外国投资者的责任。今天就联系您的立法者,要求他们采取立场,结束外国资助的诉讼滥用行为。

NetSuite 将会计、财务管理、库存、人力资源整合到一个套件中,帮助您了解哪些环节卡住了,这些环节给您带来了多少成本,以及如何快速调整。如果您的收入至少达到七位数,请下载免费电子书《全球贸易导航:领导者的三大见解》,网址为 netsuite.com/tech。♪

欢迎回到《自然》播客。本周节目中,我们将做一些与众不同的事情。今天,我们有两名才华横溢的主持人与我一起讨论《自然简报》中重点介绍的两篇论文。我是您的主持人尼克·佩特里奇-豪,今天和我一起的是沙米莉·邦德尔。是的。

我在,准备谈论一些科学。还有丽兹·吉布尼。你好,很高兴来到这里。很高兴你们两位也来到这里。那么今天谁先来呢?我们有很多令人兴奋的科学发现。沙米莉看着我。我,我,我看起来很渴望,我看起来很渴望。我真的很喜欢这篇论文。虽然它没有发现什么好东西,但我认为这是一项非常有趣的研究。我在《自然》杂志上读到过这篇文章,它发表在《公共科学图书馆生物学》杂志上。它讲的是……

嗯,它讲的是人工智能可能被用来……嗯,很难证明,对吧?人工智能写了一堆论文吗?他们并没有说,“是的,看看这些明显的迹象。这绝对是人工智能。”但他们正在观察一些模式。他们分析了300多篇使用特定数据集的论文。他们正在观察一些模式。

他们提出了一些理由,他们认为我们目前看到的可能是使用这个特定公共数据集的大量低质量人工智能论文的爆炸式增长。这总是让人担心,对吧,人工智能将被用来大量炮制论文。丽兹,我想你以前写过这方面的内容。

但我认为很难证明,也许有人只是用人工智能来帮助他们的语言,或者,你知道,帮助他们更简洁地写作等等,这也许是可以的。而且,你知道,也许他们看过的有些论文是由查看相同数据集并做了同样事情的人制作的。但这里存在一个统计问题,即您可以使用人工智能来生成大量分析。是的。

所以这是关于美国国家健康和营养检查调查。这是一个关于健康记录的开放数据集。它考察了饮食、睡眠和生活方式等各种因素,以及医疗健康状况。作者将其描述为使用此数据的“极其公式化”论文的发表率突然激增。它们似乎都遵循这种模式:会有一个特定的变量,例如维生素D水平或睡眠质量。然后他们会将它与心脏病或抑郁症等非常复杂的疾病联系起来,这些疾病有多种原因和促成因素。但他们正在寻找这种关联。统计学上的问题是,如果您拥有这个开放数据集,

理论上,您可以进行大量的测试,直到找到一个具有正相关性的测试。所以这是人工智能,它不是用来写论文的,不是找到那些暗示有人用人工智能写东西的明显的词语。实际上,可能是人工智能或某种自动流程参与了实际的信息挖掘

这些数据并以更大的规模生成这些公式化的论文?是的,我的意思是,它也可能在写作。但我认为,是的,问题在于数据分析。问题在于这个数据集是公开的,并且可以随时插入您的AI并对其进行分析。

它。这意味着理论上您可以不断寻找,直到找到一个正相关性。例如,他们发现的其中一件事是,许多这些论文没有使用完整的数据集。他们使用了子集。所以它可能就像,“我们将研究这种情况,但在这些年龄段内”。

在这些年份内或类似情况。而且论文中通常没有给出选择它的特定原因。例如,他们研究了14篇论文,这些论文将血液炎症的特定标志物与包括糖尿病、听力损失在内的各种疾病联系起来。在这14篇论文中,有4篇使用了完整的数据集。那么为什么其他论文会限制他们研究的范围呢?可能是因为人们

被故意省略了,因为如果您使用完整的数据集,您就不会得到那个结果。或者可能是,如果您选择,比如说,将所有数据分成五个不同的年份范围,那么您也许可以从中得到五篇论文。

或者可能是,如果您将其分成五个块,其中一个更有可能产生统计上的阳性结果。是的,这就是统计学的问题,对吧?这就像,你是否正在寻找特定的事物实际上非常重要。如果您认为维生素D和睡眠之间存在联系,并且您去寻找它并找到结果,那就太好了。但是,如果您查看每个变量与其他每个变量,并将数据分成您想要的小块……

您的发现毫无意义。您可能会在那里找到一些似乎相关的東西。典型的p值篡改。没错。其中一位作者在这里做了一个很好的类比,他说,想象一下,您正在尝试通过一项具有特定及格率的考试,您可以随意添加尽可能多的问题,看看您答对了哪些问题,然后删除您答错的问题。这基本上就是他们在做的事情。他们为什么要这样做呢?他们得到了……

很多,我说他们,这不是,没有,这里没有阴谋集团。但是,我应该说,有很多出版物。而且,这些作者之所以这样想,另一个原因是,论文数量的快速增长似乎与人工智能的可用性有关。他们发现,这种出版率在2022年开始显着增加。

在2024年,使用这个特定数据集发表的关联研究超过2200篇。到今年5月初,已经有超过一半的论文发表了,同样是使用这个特定数据集。而且

您发表的论文发表在一系列期刊上,包括《前沿媒体》、《爱思唯尔》、《施普林格》和《自然》。他们研究过。所以这几乎是一种轻松获得大量论文的方法。没错,我的意思是它正在发表,我应该说他们研究的出版商之一是施普林格·自然,因此需要注意的是,《自然》的新闻和播客团队

在编辑上独立于我们的出版商。这太难了,不是吗?一方面,这个数据库对于研究人员来说是一项宝贵的资产。我们拥有所有这些开放数据,多年来开展了如此多的运动来使数据公开,以便人们可以利用它,不会浪费,每个人都可以使用它并找到所有可以找到的东西。但现在却在利用这一点。

那么你该怎么办呢?他们的建议之一是,像这样的公共数据库应该要求研究人员在获得数据访问权限之前注册他们的研究计划。

因此,您可以对其进行审核并阻止他们所说的“人们大规模挖掘这些数据集”的行为。因为当它们被这样利用时,其中一位作者说,它会淹没任何有意义的发现。当然,需要做些什么,因为所有这些单一关联,你知道,A与B相关,并且只是这种关联的激增。它们都值得怀疑,因为这些都是复杂的事情。而且你不会

真正从中获得非常有用的信息,而且这并不是那种“啊,我们找到了证据,所以这将导致治疗”的事情,因为在所有这些情况下可能都没有证据,是的,但这可能只会导致错误信息或人们浪费时间建立在这些研究的基础上,因为如果您没有看到它在这个大的背景下,您可能只会认为,“哦,是的,这是一个合理的关联,我现在将我的未来几个月的研究建立在这个基础上”,而我

他们可能完全是在浪费时间。是的。我认为这也提出了一个问题,即这里的问题是这类研究的激增吗?它们被发表的事实是否存在问题?在判断论文质量和哪些信息应该公开方面,过滤器应该在哪里?不,正如丽兹所说,这很重要,不要误导

该领域,但当您谈论确凿证据时,我在想烟雾,很明显这是一件可怕的事情,但我知道这是一个过渡,这是一个过渡,过渡警报,但我知道丽兹一直在研究一些与视力有关的东西,用一些隐形眼镜,没错,给播客带来一点科幻色彩,所以这些是让你看到红外线的隐形眼镜

所以人类通常看不到红外线,除非你没有注意到这一点。有些动物可以,但不太好。它们更像是感觉它。所以这在某种程度上是超人的视力。这有点像戴夜视镜,因为它们也能看到红外线。但这些是隐形眼镜。红外线有不同的种类,不是吗?因为有些动物……

例如,我认为蛇非常善于感知热量,所以你可以得到热成像,这会让你看到人们发光,这略有不同,如果你认为,因为我们,你知道,我们关于这方面的大部分信息可能来自关于军队的电影,是的

所以你有夜视镜。你有那些你只能看到那种绿色单色图像的夜视镜。那只是在晚上看。这可能非常有用。然后你还有热成像,如果你正在执行一项任务,你需要,有一个人质或其他什么,你可以看到他们的热量,他们的体温。那是红外线的远端。这也很有用。

这种方式更难看到。所以我们谈论的是近红外。所以更像是普通的夜视。你如何制作能让你拥有超级夜视的隐形眼镜?你使用一些纳米粒子。正如其名称所示,它们非常非常小,大约45纳米宽。它们内部含有一些稀土金属。它们吸收进入的红外光。

这是一个较长的波长,它们吸收它,然后发出我们可以看到的波长的光。所以它们可以发出绿色、蓝色和红色的色调。它们实际上也可以分层。因此,它们可以输入三种不同的红外波长并输出三种不同的可见光波长。所以这只是一个小的转换过程。

但正如您可以想象的那样,有一些小的警告。我提到夜视镜是因为这是一个很好的比较,对吧?但存在很大的差异。夜视镜又大又笨重,原因是有电源在里面。它们里面有电池。部分原因是它们会放大进入的光线。

隐形眼镜完全被动地做到这一点,所以这很好。不涉及电池,但它们只是将进入的光线转换成可见光。问题是并不总是有很多红外光。因此,他们能够看到或研究中的参与者能够看到的是非常明亮的光源。我说的是非常明亮的LED光源。所以如果你在晚上在黑暗的房间里看,你不会

看到任何东西,但如果有一个小的红外LED闪烁,你通常不会在没有隐形眼镜的情况下看到它,你会戴上隐形眼镜看到它,你说了参与者,他们在人身上尝试过,他们确实在老鼠和人身上尝试过,所以对于老鼠来说,有两个盒子

一个用红外线照亮,一个黑暗。戴着隐形眼镜的老鼠总是跑到黑暗的那个。而没有戴隐形眼镜的老鼠,对它们来说两个都看起来很暗。所以它们同样跑到任何一个。在人身上,当戴上隐形眼镜时,人们能够检测到足够多的LED光及其方向,从而获得莫尔斯电码信号。

是的。所以他们。没错。是的。哦,另一件事是,它们也会使事物变得有点模糊,因为纳米粒子是,团队非常努力地使它们尽可能无缝。所以不会改变,你知道,镜片的透明度,所以你仍然可以看到可见光。绝对没问题。是的。

但当光线进入时,它们仍然会散射光线。所以当你戴着它们时,视力不是很清晰,但他们也找到了一种解决方法。他们可以将镜片放入更传统的眼镜框架中,然后他们可以重新定向光线。然后参与者能够阅读否则不可见的字母。你说了这只能与非常明亮的光线一起工作。它可能用于什么?因为你不能做你所说的那种事情,比如透过墙壁看到人,然后救出人质等等。是的。

没错。所以,正如你在开头提到的视觉和烟雾,如果你处于搜救情况,空气中可能会有很多灰尘。红外线比可见光更容易穿透灰尘。出于同样的原因,实际上,即使你闭上眼睛也能戴着这些隐形眼镜看到东西,因为红外线会穿过你的眼睑,而可见光不会以同样的程度穿过。所以这与你获得更好的红外线穿透力类似。

所以这是一个可能性。你也可以有,再说一次,它很快就会变成间谍活动,但你可以在,我不知道,现金或产品或其他你可以阅读的东西上贴上防伪标记,你知道,你可以看到红外线中的发光墨水,你可以戴上隐形眼镜看到它们,而没有墨水你却看不到。

实际上,我为这个故事采访过一个人,我应该说这是我的故事。我不确定我是否说过。我在《自然》杂志上写过这篇文章。它发表在《细胞》杂志上。我采访的一个消息来源建议它也可以用于手术。所以你有了,再说一次,一种你可以放入癌性病变中的发射器,然后它会在红外线下发射。外科医生可以戴着隐形眼镜,这可能会帮助他们很容易地引导,取出正确的部分

所以有很多用途,它们可能需要改进很多,但这确实是一个令人难以置信的原理证明,它甚至可能是可能的,而且我应该说,除了写新闻故事之外,你还制作了一个短视频,它将在《自然》的YouTube频道上播放,我将在节目说明中添加链接,所以你没有戴隐形眼镜,但你正在谈论它们,你可以在视频中看到隐形眼镜,没错,没错,是的,我希望我能尝试一下隐形眼镜,那将非常酷,而且显然它们

制作成本大约为200美元。所以我当时想,这还不错。虽然我不知道它们是否是相当昂贵的隐形眼镜。也许然后它很贵。我觉得这是小孩子喜欢用来传递秘密信息的那种东西。不。

不是最好的用途,但这就是我在想什么。是的,还有隐形墨水。是的,完全正确。潜力巨大。潜力巨大,不仅用于搜救,也用于儿童派对。非常酷的故事,我将在节目说明中添加链接。最后,在本集中,我本周有一个故事,它提出了一个问题……

地球的核心正在泄漏吗?听起来很令人担忧,不是吗?这正是我所想的。等等。不,地球的核心正在泄漏。火山不就是这样吗?哦,这是一个很好的观点。不,那是地幔。是的,我本来想说那是地幔。你可能会认为地球的核心被很好地包裹起来,并很好地包含在地球的中心。我要说,不,不是。

是这样吗?答案可能是。我在《自然》杂志上读到的这篇文章,实际上是关于一篇《自然》论文的文章,是由经常出现在节目中的达维德·卡斯特尔维奇写的,它显示了迄今为止最强的证据,表明地球的核心正在泄漏。哇。

泄漏是什么意思?核心中的东西与通常泄漏的东西有什么不同?地球核心的不同之处在于它是在其他所有东西之前形成的,所以它位于地球的中心意味着它是在地球形成的早期形成的,所以太阳系本身是在大约45亿年前形成的,然后核心是在之后形成的,然后是地幔,它位于核心和地壳之间,是在之后形成的,然后最后是地壳,当它

最后冷却下来。所以不同之处在于,核心中的原子同位素会更类似于早期太阳系中存在的同位素,而不是地幔和

地壳。所以要回答你的问题,沙米莉,这并不令人担忧。如果它确实正在泄漏,那么它已经泄漏了很长时间,到目前为止一切都很顺利。它泄漏的方式将是,正如你所说,通过火山,但通过一个似乎延伸得很深的非常特殊的火山。所以这是一项研究,研究了夏威夷的火山岩,在那里已经知道

那里有一股来自非常深的地幔的岩浆流,现在有了这个证据,他们认为它也来自地核本身。所以地核的某个地方一定有裂缝,正在泄漏到地幔中,然后地幔正在通过地壳泄漏。它一定与其他物质混合了。这不像有一根吸管直接通到底部,而且所有……

一条直接的管道。是的。所以在边界处,地幔和地核之间存在某种泄漏。我不知道它是一个特定的地方还是遍布整个核心。但根据这项研究,至少有很好的证据表明地核正在泄漏。所以在这个分析中,他们研究了一种叫做钌的特定元素。这是一种非常稀有的元素,但人们认为它在地球矿物中大量存在。

核心,或者至少数量更多,它仍然相当稀有,所以他们所做的是,他们开发了一种方法来分析他们在夏威夷收集的岩石中可能获得的极少量钌,因为在过去的分析中,他们研究过,它们不够灵敏,无法捕捉到您期望从

然后他们研究了不同的同位素,发现实际上他们在夏威夷这些岩石中发现的同位素似乎是您在地核中期望发现的同位素,这很好地证明了地核存在泄漏。这发生在很久以前,足够长的时间让这些岩石从……

火山喷发形成。是的,夏威夷群岛很久以前就形成了,在地球历史上不算很久以前,但对我们人类来说很久以前了。所以它已经出来,通过火山等等,形成了这些岛屿。所以已经过了相当长一段时间了。是的,它应该是来自地表以下约3000公里处的物质,所以相当远。我们能从中学到关于地核的任何东西吗?

因为显然它定义上是难以接近的,但你知道,我很想知道地核里发生了什么,它是否只是证实了我们已经知道的东西?嗯,有一种观点认为地核可能泄漏了一段时间,但证据还不够令人信服,所以过去的研究也研究了钨,它应该具有某些来自地核的同位素,但是

这基本上,如果它是真的,将会颠覆我们教科书中的理解,因为这种理解是地核是一个独立的东西,然后是地幔,在这些点上没有任何东西会交叉。但实际上,也许确实存在一些交叉,这意味着什么,还有待确定,而且……

再说一次,这是迄今为止最强的证据。不能肯定这是正在发生的事情。所以还需要做更多的工作来了解这是否真的正在发生,然后我们可以开始扔掉教科书,并开始思考这一切意味着什么。我喜欢一些高中生听到这个并向他们的老师抱怨教科书不正确。它正在混合。卡斯特尔维奇不是告诉我们了吗?我一直都喜欢扔掉教科书。

这就像,你知道你在科学上取得了成功,你就像,扔掉教科书。它们已经过时了。我已经做了新的科学。这是一个非常有趣的问题。我很高兴我们免受混合的影响,但这可以告诉我们一些关于地球形成和中心的有趣地质事实。

毫无疑问,节目说明中会有关于这个故事的链接。本周节目说明中将包含我们讨论的所有故事和视频的链接。此外,我们还将提供一个链接,您可以通过该链接注册简报,以便直接将更多此类故事发送到您的收件箱。但就目前而言,我想这就是我们所拥有的一切。太棒了。别忘了,你也可以在Instagram上关注《自然》播客。

X和蓝天和电子邮件。我们在社交媒体或[email protected]上的自然播客。如果你想给我们发邮件。如果你喜欢听我们谈论科学,那么你可以在你获取播客的任何地方给我们留下评论。我很感谢五星评论,但你知道,你对播客的任何感受都完全没问题。但就目前而言,非常感谢您的收听。我是尼克·佩特里奇豪。我是沙米莉·邦德尔。我是丽兹·吉布尼。

您知道吗?外国投资者正在通过一种名为“第三方诉讼融资”的做法秘密资助美国法院的诉讼?隐秘的海外资助者正在支付费用,在我们法院起诉美国公司,如果获得判决或和解,他们一分钱的美国税都不用交。他们从我们的法律体系中获利免税,而美国公司则被困在法庭上,美国家庭为此付出了每年5000美元的代价。

但是有一个解决方案。国会面前的一项新提案将堵住这个漏洞,并确保这些外国投资者纳税,就像实际原告必须纳税一样。这是一个常识性的举动,可以阻止轻率和滥用的诉讼,并将资源重新导向美国的工作、创新和增长。只有特朗普总统和国会共和党人才能为美国带来这场胜利。

并追究这些外国投资者的责任。今天就联系您的立法者,要求他们采取立场,结束外国资助的诉讼滥用行为。嗨,大家好。我是Giggly Squad的Hannah。夏天就要到了,我想告诉你们我如何保持舒适和安全。

时尚。Lululemon是我的秘密武器。外面有很多模仿者,但没有什么能比得上Lululemon的面料和合身性。我从大学时代就一直穿着我的Lululemon紧身裤,我已经大学毕业了。我知道我不像那样,但我确实毕业了。质量是顶级水平。我尤其喜欢Lululemon Align系列。它采用这种轻盈、柔软的Nulu面料制成,感觉就像什么都没穿一样。太柔软了。它

无论您穿着Align裤子、短裤、胸罩、背心、裙子还是连衣裙,您都能在各个方向上获得不间断的灵活性,因此您可以充分发挥夏日的活力。Align甚至可以吸汗。作为一个爱出汗的女孩,我喜欢这个。我知道当我今年夏天打网球时,它将成为我最好的朋友。在lululemon.com或您最近的Lululemon商店在线选购Align系列产品。