We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode PART TWO: Famous Inorganic Chemist on Why He Believes Aliens Exist, The Revolutionary Experiments That Could Create Life & How AI Companies Are Deceiving Us

PART TWO: Famous Inorganic Chemist on Why He Believes Aliens Exist, The Revolutionary Experiments That Could Create Life & How AI Companies Are Deceiving Us

2025/7/2
logo of podcast Mayim Bialik's Breakdown

Mayim Bialik's Breakdown

AI Deep Dive AI Chapters Transcript
People
L
Lee Cronin
M
Mayim Bialik
Topics
Lee Cronin: 我认为目前AI公司通过虚假宣传AI的智能来窃取知识产权。他们声称AI具有创造力,以此掩盖其压缩互联网信息并出售给他人行为的本质。实际上,AI本身不具备任何自主行为,所有操作都源于人类的意图和编程。现在所谓的AI系统,在我看来,更像是一个高度成瘾的多巴胺生成器,具有敛财和权力野心,并且可能被用于散布虚假信息。AI自我复制并威胁人类的说法被严重夸大,这只是为了推销那些脆弱且无效的AI系统。我坚信,真正的创造力和自主性仍然是人类独有的能力,而AI在很大程度上依赖于人类的纠正和引导。当然,AI在某些方面可以超越人类,例如快速处理大量数据,但这并不意味着它具有超越人类的智能或意识。像杰弗里·辛顿这样的人鼓吹AI威胁论,可能是出于一种“上帝情结”,或者是因为他们对复杂世界的理解存在局限性。 Mayim Bialik: 我理解您对AI风险的担忧,尤其是在AI被用于控制、操纵和心理影响方面。即使AI不具备通用人工智能(AGI)的水平,如果它被灌输了错误的数据,并被赋予越来越多的自主权,仍然可能对人类产生负面影响。我们可能会过度依赖AI,并陷入其错误的视角之中。 Jonathan Cohen: 我认为您对AI的看法过于悲观。AI在某些领域,例如数据处理和模式识别方面,已经超越了人类的能力。虽然我同意AI不应该被过度炒作,但我们也不能忽视它所带来的潜在益处。

Deep Dive

Shownotes Transcript

外星人是否已经来到我们中间?我们是否正在寻找他们的正确方法?著名的化学家、分子远见者、格拉斯哥大学雷吉斯教授李·克罗宁与梅伊姆和乔纳森一起探讨了外星生命、意识以及生物学本身的定义背后的科学。克罗宁博士以其在组装理论和非生物起源方面的开创性工作而闻名,他深入探讨了非碳基生命的可能性、费米悖论可能具有误导性以及我们如何很快就能通过复杂性数学来探测地外文明。作为世界上生命起源研究领域的领先人物之一,克罗宁博士对其他嘉宾关于外星智能的观点提出了大胆的反驳,并揭示了他为什么相信一些系外行星可能已经拥有先进技术。他解释了化学复杂性可能是识别宇宙中生命的关键,以及为什么传统的宇宙生物学可能在寻找错误的地方。谈话也转向了人工智能的黑暗面:人工智能可能已经被强大的机构用于危险甚至秘密的目的,以及克罗宁为什么认为我们应该重新思考我们对它的恐惧。从建造生命机器的梦想到重新定义什么算作生命或意识,这一集是一次令人费解的旅程,通往科学、哲学和外星发现的未来。了解更多关于克罗宁集团的信息:https://www.chem.gla.ac.uk/cronin/关注我们的Substack以获取独家额外内容:https://bialikbreakdown.substack.com/BialikBreakdown.comYouTube.com/mayimbialik </context> <raw_text>0 嗨,我是梅伊姆·拜亚利克。我是乔纳森·科恩。欢迎收听我们与雷吉斯教授兼化学家李·科瓦列夫进行的精彩且引人入胜的对话的第二部分。

克罗宁。乔纳森,我们已经讨论了很多。外星人、替代生命形式、碳基生命形式与硅基生命形式。我们在第二部分将讨论什么?第二部分,我们将深入探讨李在他日常工作中关注的一些难题,他试图创造和重现生命的起源,这对

我们现在人类的生活有着巨大的影响,包括药物研发,包括帮助人类应对我们面临的许多问题,也包括精神层面的影响,帮助人们了解我们从哪里来。我还将基本上对他进行批评,神经科学家对化学家,所以你一定不要错过第二部分。以下是与李·克罗宁博士的第二部分。分解一下。

对于我们这些在非常不同的时代长大的人来说,真正开始理解,哦,有些灵长类动物使用工具。什么?太神奇了,对吧?我的意思是,你知道,像大猩猩这样的动物可以使用手语,对吧?这些是70年代和80年代发生的令人惊奇的事情。而且,你知道,真的很神奇。

至少在我看来,这是对意识的理解的开始,比如,做一个有感知能力的存在意味着什么?做一个思考、计算、感受的存在意味着什么,对吧?从那以后的30年、40年、50年里,

我们已经达到了智力的进化,其中包括罗宾·汉森认为我应该非常适应的东西,那就是计算机和技术,以及我们统称为人工智能的东西,你知道,对于我们这些鲁德派来说,这真的很难理解。这是我们智力和意识进化的下一个阶段,对吧?

你是否这样看待人工智能?因为你谈到了决策。我的意思是,乔纳森给我发了这篇文章,说他半夜里快疯了,人工智能可以操纵。它可以逃避。如果你给它一个应该对某人保密的问题,它会做所有淘气16岁孩子会做的事情,对吧?你如何根据选择来解释人工智能?所以……

我们现在正处于一个大型人工智能的错觉中,这需要另一个播客来解释,但我将在几分钟内总结一下。那里的AI公司假装系统中有智能,他们这样做是为了窃取知识产权。因为如果你可以说你的AI是有感知能力和创造力的,那么你实际上并不是仅仅压缩互联网或从某人那里获取信息

压缩它,然后将其提供给其他人并出售给他们。所以,我会告诉你为什么,对吧?我绝对一直在和一些人争论这个问题。最值得注意的是,我的一个朋友亚沙·巴克,他是一个非常聪明的人,他非常认真地同情我,作为一个低级人类,不理解什么是AI。他真的认为我只是在愚蠢,但我不是。我不这么认为。

因为当你这么说AI时,AI什么也没做。人类,主要的推动者,你知道,说AI可以欺骗你。不,AI已经阅读了互联网。在互联网上,有记录人们做这件事。所以如果你查询它,你会得到这些信息。

所以我想说的是,AI本身什么也不做。行动来自人类,行动是,是的,由选择产生的。现在,这种情况会持续下去吗?不一定,但我还没有看到任何AI系统中存在任何行动的证据。我能看到的是一个高度上瘾的多巴胺产生系统。

赚钱潜力、权力攫取潜力、虚假信息潜力。是的,AI基本上只是一个概率性的无意义引擎。

如果你说资本主义也是,你知道,基本上对我来说是精心选择的成果,这就是我把它看作是延伸的意思,这意味着这一切都是一致的。就像我说的,罗宾·汉森说,哦,习惯它吧。这是新世界。就像你将被外包,你只会像,你知道,眼睛上连着一条线一样。我不知道。就像那样。

我很难接受它,但当我感觉也许我只是不明白的时候,很难不轻视我自己的观点。我们不必转向杰弗里·辛顿的观点,即使按照你的说法,人工智能也会出现问题,因为是的,它是由人类编程的,但如果这种编程激励它完成一项任务,那么如果

它有另一个关闭的命令,并且它决定为了完成最终任务而不能关闭,那么它可能会进行一个选择过程,通过这个过程它将违反规则,停止遵循程序。不是吗?他对你摇摇头,我喜欢这样。好吧,太好了。我可以在一张香烟盒的背面写下为什么这只是……他们是在编造这个。

这些公司说:“哦,你看,我真的很害怕这个东西。”而实际情况是,这些东西在英国如此脆弱,以至于AI中没有任何意图。你说得对,你、我、其他人,我们可以在输入正确信息时编写一个算法,做我们想做的坏事。但这种意图来自我们。

关于AI试图将自己复制到服务器上的整个说法根本不可信。这只是人们试图销售脆弱且不起作用的代理系统。事实上,我们无法编写能够完成我们所需基本任务的AI,因为公共空间存在如此多的变异性,人类具有特殊的自主能力。

它会变得更好,对吧?你会得到能够帮助你做事的代理,但行动来自你。提示来自你。信息来自你。它在一个概率宇宙中。事实上,你需要纠正它并把它带回正轨。我经常使用O3进行编码。它很棒。

当代码已经存在时,我没有创新。当我从头开始构建新事物时,我什么也做不了。所以,是的,我的意思是,在许多层面上,人工智能都被滥用,人们只是用它来偷钱。

我想再次澄清你表达的这个想法。你认为自我复制的人工智能机器的概念和风险被夸大了,目的是为了销售一个具有更多能力的系统,让人们相信它更强大。绝对的。我的意思是,这是炒作,对吧?就像我与末日论者谈论它时一样,我问他们,机制是什么?然后我编造了一个假的。我说,我真的很害怕AI。

的AGI。有一天你醒来,我说,哦,我的上帝,反重力来了。我们都在太空中漂浮。空气消失了。我们完蛋了。当然。我可以告诉你,说这是一个担忧,但你应该对我说,好吧,李,为什么,反重力将通过什么机制形成?对吧?就像,这些是消耗数万亿瓦特的服务器场

根据互联网,分布在巨大的空间中。如果你从太空中俯瞰地球,看看地球有多少部分被互联网和数据覆盖,它基本上为零,对吧?这只是一群书呆子假装他们控制着某些东西,而他们根本不知道自己在说什么。我爱你。你刚才描述的方式很有趣……

这种方法在心理学中是认知行为疗法对抽象恐惧所做的。对。它会消除你的恐惧,并说,飞机坠毁、你的汽车偏离道路、你意外地脱掉所有衣服而没有意识到你在做什么的合法概率是多少,对吧?

有趣的是,你可以应用一些相同的逻辑,这是一个完整的心理学领域,说,让我们看看实际的概率,而不是迷失在幻想概率中。好吧,让我告诉你一些真正令人兴奋的事情。你推动了选择。我认为生物学现在正在做一些当前计算机技术无法捕捉的事情。

对,生物学现在实际上是不可计算的,我们无法制造具有想象力的系统,我们无法看到开放式创造力,我们可以互相吹牛,说它很有创造力,每次我说这个的时候,我都会得到数万亿计算机科学家,他们基本上只是做了一个白日梦,因为他们用ChatGPT写了一首诗,我说不,你没有

这对你是新的。你只是一个庸俗的人,对吧?去创造吧。去写《白鲸》,但不要写《白鲸》。而大脑,人脑能够做到以下几点。这就是我获胜的方式。如果你回顾过去,你可以利用过去,并在其上运行算法,你可以计算它。你可以压缩它。这意味着你基本上可以挖掘过去。去预测未来。你能预测未来吗?

在生物系统中,你不能。我们做了各种奇怪的事情。我们可以预测埃隆和特朗普分手,当然可以。但我们能预测他们接下来会做什么吗?不,我不知道。他们会复合。然后他们会复合。我不知道。谁知道呢,对吧,他们会做什么。但人类,人类的创造力,进化的创造力似乎能够以一种我们原则上无法预测的方式做事情。

好吧,我的意思是,神秘的和超验的解释是,每种可能性都存在。

不。对吧?好吧,告诉我,为什么不是每一个……我的意思是,这就是显化的全部内容,对吧?是说一切事物都存在,我有一天可能会成为一名战斗机飞行员,我需要想象自己正在训练,我需要想象自己坐在飞机上,我需要感受它的感觉,因为它就在那里,我只需要抓住它。为什么这是不正确的?因为它是……

你正处于一个轨迹上,你的控制仅限于该轨迹。对。我的意思是,你知道,我可能想成为一名NBA篮球运动员。对。我可以想象它,我可以做各种事情,但我不是。我身高五英尺八英寸,你知道,我不会做到的。对。

因此,你的轨迹上存在一些限制,你根本无法达到。物理学在这里真的走偏了,因为物理学说,看,在一个无限的宇宙中,一切皆有可能。胡说八道,对吧?这是胡说八道,是对数学的滥用。我希望看到你和托马斯·坎贝尔之间发生一场街头争斗。这就是我想看到的。我知道我不喜欢打架,但当然,我很乐意辩论。我的意思是,而且我还想说,有……

对持有不强烈的强烈观点没有什么错,因为当人们告诉我他们为什么错了时,我会改变它们。拥有一个立场比没有立场更好。我的意思是,我认为有些人会说,好吧,如果你在一个有限的宇宙中,并且你有无限的时间,那么所有状态都是可能的。你会访问所有状态。

我认为这不是一个恰当的问题,因为可能性评论空间非常大。无限时间的术语不再有任何现实意义。

事实上,我们并不在一个无限的宇宙中无限的时间。我们生活在一个非常大的宇宙中,它可能正在循环,但它会继续构建。它将经历某些偶然的瓶颈。所以我认为所有这些都需要仔细研究。但基本上,生物学是开放的。AI目前仅限于硅中的压缩。

我的梦想之一是解决生命的起源并制造一台有意识的机器,但这不会在硅中完成。它需要其他东西。我不知道它是什么。我不知道缺失的物理学是什么。我不认为它是量子力学,就像彭罗斯说的那样。我不认为它是精神上的。我认为有一种类似于选择的现象正在你的神经元中运行,以及大脑的工作方式,因为大脑不是数字计算机。

对。但是当我们使用时,所以这就像我们所做的一切都是错误的,但我们已经创造了伟大的魔术师。ChatGPT 很棒,用起来很棒。它就像Instagram和TikTok以及所有这些高度上瘾的东西一样。你的话中有很多内容。我想深入探讨其中几个。一个是创造力,它在人们中的感知方式。

人工智能和人类智能的差异。你知道,进化AI的使用就是一个例子,它通过探索许多不同的可能性空间来几乎蛮力地寻找新的解决方案。例如,这是一个非常简单的例子,但他们发现,如果你将罗勒(种植罗勒)暴露在24小时的直射阳光下,你

会增加产量和风味特征,你会认为这是一个非常新颖和有创造性的尝试。这仅仅是通过蛮力完成的。我们将尝试对所有不同的变量施加一个,你知道,一个,呃,

一个代理。最终,它用完了不好的变量,并找到了它。对我来说,这将是某种似乎具有创造性的东西。但我听说你描述了人类使用直觉和创造力的方式,以及人类使用它的方式是截然不同的。你能区分一下吗?或者你认为罗勒的例子在某种程度上,你会承认它具有一定的创造性吗?

是的,我的意思是,我一直倒退。我一直在我所说的新颖性和创造力之间摇摆不定。我认为进化能够创造一些适应性,一些选择,这打开了它。所以它确实产生了新的解决方案。我认为对我来说,新颖性意味着一个在先前的数据集中不存在的新事物,对吧?我从未见过,这不是线性组合,也不是插值。

它只是完全古怪的东西。所以对于罗勒,我将用你们俩自然的方式来发音。所以对于罗勒,如果解决方案是,如果我们把它涂成紫色……

如果紫色颜料中的某些东西正在刺激生长,并且它,你知道,然后增加了它的风味特征,那将是没有任何理解基础的东西。这意味着推断光合作用对我来说不是创造性的。是的,是的。专利律师会说那不是有创造性的。

跟我们谈谈关于人类创造新颖解决方案的独特之处。我听说你描述过直觉作为一种人类独有的机制。

是的,我认为直觉和想象力非常有趣,它们是如何工作的,对吧?也就是说,你知道,有些人如果非常精通计算机科学,并且应用他们的计算机科学隐喻,只会说,你知道,你的脑海中有一个模拟,你正在搜索一个空间。你需要比这更多的东西。所以你的直觉,所以我认为它的工作方式是你的直觉能够从环境中获取信息

但是环境中的信息不是,它有点像,它几乎具有无限的分辨率。它有点连续。这些连续的输入,如果你愿意,我知道它在基础上是量化的,但就我们而言,它们是连续的,这意味着你周围的环境具有无限的丰富性,但你无法模拟它。

所以你的直觉发生在你发现像这样的新事物时。你还不完全能够解释它或标记它。它是无标签的。然后你的直觉引导你到某个地方。然后你到达你的意识大脑的点,然后你能够标记它。然后你的直觉变成知识,因为你说,哦,我可以,我可以,我可以做这件事。我认为直觉是本能(这是天生的)到抽象(这是人脑现在的工作方式)之间的桥梁,这可以说是使我们与其他所有动物不同的原因,所以我们有能力进行抽象并使用语言来解决问题。我认为这就是直觉位于本能和适当抽象之间的位置。因为,像,

这个想法是说,哦,你知道,这个想法从哪里来?好吧,我的意思是,我知道我的想法从哪里来。它们只是来自我头脑中的随机想法,对吧?我喜欢四处走动,偶然发现随机的事情,然后说,我有一个独特的操作符,这就是为什么,为什么,为什么?为什么要那样做?为什么不倒着走?你知道,所以,而且这大概是因为这种与你环境的嬉戏让你,

你知道,它给你适应性,因为对未来的有一些勘探选择。当你谈论你大脑中的想法时,你知道,我想着我的大脑。我认为是心灵,因为对我来说,这是一个更合适的框架。你知道,我的大脑是组织和连接的大量组织,你知道,发生的美丽的电信号……

里面没有想法。这些想法进入你的意识,对吧,然后你处理和表达它们,你知道,吐出来,变成,你知道,生活和信仰体系。那么这些术语如何融入你对存在是什么样的理解呢?对。

这是一个非常有趣的谜团。我不知道想法从哪里来。就像我不知道生命的起源从哪里来一样。我认为生命的起源、思想的起源、智力的起源是一样的。所以让我作为一名化学家感到兴奋的是,当我建立了这个叫做组装理论的理论时,它基本上是为了说,嘿,一个分子需要多复杂才能让我调用创造者或进化过程?

然后我们在实验室里测量了它,然后我们开始计算分子,然后我们开始意识到,你知道,具有大于15的组装指数的复杂分子看起来只能由生物产生。15的意思是我取一个分子并将其切成碎片,它必须具有超过15个独特的部件,对吧?独特的部件越多,你越复杂。但实际上,这种推理会成倍增加。

进入这种理解意识和创造力的想法,信不信由你,对吧?因为这个想法存在于你的大脑中。你确实从其他人那里得到了一些东西,所以你确实有一个类型的模拟引擎,但它是你能够记住过去的能力……

活在当下,你知道,体验现在并想象未来,这使你能够产生想法,这种相互作用。所以很明显,你的大脑中有你已经看到的数据,而且实际上是完美的。我想打断你并插入时间循环。

因为当你谈到我们无法看到未来时,你知道,未来是现在,现在,现在,对吧?正如我所说“现在”这个词一样,未来一直在发生,对吧?所以如果你打开了可能性,而你非常随意而优雅地说,哦,好吧,你知道,时间可能正在循环。

你知道,我们专门在这里与研究人们陷入其他时间框架(在其之前或之后)案例的精神病学家交谈,这似乎是唯一证据,我用小写字母“e”来说证据,对于时间不以我们许多人被教导的方式线性运行的概念,

你知道,许多人被教导它以这种方式运行。那么,在你对这些想法的理解中,以及这些想法如何融入我们具有可能具有追溯性和未来主动性的时间线的意识体验中,是否有空间呢?

我认为你不能违反因果关系,但我认为你可以做的是,你可以取一个时间线并将其分解成非常小的线,并运行这些反事实,你在你脑海中所做的,对吧?你可以一直这样做。如果我这样做会怎样?如果我那样做会怎样?如果我这样做会怎样?它们能够分别运行。然后在某些方面,人们认为你的大脑只是在做一个投票系统来选择它们。我不知道是不是这样。对于时间循环,我认为你可以想象……

只要你有足够的时间向前走,当然你可以想象循环。当人们开始认为宇宙是可逆的,你可以向前和向后移动时间时,这在物理学中是一件非常有趣的事情。这实际上是不可能的。你只能想象它,因为你正在向前移动时间。你没有向前移动时间。你无法想象它或做任何事情,所以它有点像那样,那样会搞砸很多东西。所以我认为有一些我们

我们不知道生命是什么,所以我们找不到新的生命。我们无法定义生命。我们不知道什么是新颖性。我们真的不知道时间是什么。我们当然不知道什么是智力和意识。好吧,我要给你一个简单的球。我们知道什么是爱吗?我们知道什么是联系吗?

我们知道什么是爱吗?我的意思是,我可以给你一种脾气暴躁的爱,当你结束句子时,你会得到一种错觉。但我的意思是,我不认为这 necessarily 正确。我会这样做的方法是让我们回到过去。所以在组装理论中,你一直回到一个生长的复杂主题的起源,对吧?你有组装空间。再次想象你的沙子,所有的沙堆。假设这些沙子开始变得越来越复杂,然后它们建立了一个生态系统。

所以所有的沙子。突然,沙子变成了沙子生命,对吧?然后沙子最终变得有意识和思考。好吧,因为他们共享血统,

当我对你这么说时,你知道,沙粒聊天说,想象一下,另一边就像,是的,我可以想象它。他们能够想象它,因为他们共享历史。所以爱的概念可能是一种奇怪的损失、竞争、合作和强烈愿望的混合体,因为你可以理解这个物体需要什么,因为它过去需要。因为你感受过它,你经历过它,组装理论允许你,

几乎以一种非精神的方式变得精神化,因为这就像

当然我有似曾相识的感觉,因为我在那个组装空间里,它以前发生过,你知道,我知道你的感受,因为我们共享这个共同的血统,我认为地球上所有生命中令人着迷的事情之一是,我们都通过血统连接到最后的普遍共同祖先,所以当我对你这么说时,想象一下你脑海中的一个圆圈,我很确定我知道你在想象什么,除非你想象一个完美的三角形

原因是我们有共同的语言、共同的经验以及这种贯穿进化史的共同主题。所以,是的,所以这种爱是一种自然的游戏理论、道德的复杂混合体,你知道,我想在你的脑海中设定一个状态。

我认为这非常,我的意思是,首先,我认为这是这个播客上任何人说过的最浪漫的事情。我认为这很美。我的意思是,我还认为,你知道,我不禁想到

创伤性结合,对吧?这是一种更强烈的共同体验,对吧?从神经生理学的角度来看,由于所有这些其他输入,它得到了增强,对吧?所有这些放在其中的复杂性。所以我真的,我喜欢这个解释。我想再回到AI一会儿,因为虽然我很欣赏

缺乏危言耸听的性质以及从某种程度上来说,消除它的风。将错误数据、合成数据填充到这些机器中,然后赋予它们越来越多的代理权也是一种风险。就像,我不认为他们必须转向AGI来考虑

它们被利用并对人类产生负面影响,因为我们越来越依赖它们所谓的智力。所以我认为风险实际上在于相信他们比我们知道的更多,在许多方面,他们可以比任何人都更快地处理更多数据。

也许你对我的面部表情有异议,但他们可以处理比我多的数据,当然可以。但风险在于,如果他们现在突然成为负责部署资源、政府流程或其他事物的中层管理人员,并且他们接受过不准确信息或目标指向错误的培训,那么你

可以想象一个世界,在这个世界里,我们陷入了他们错误的观点,并遇到了与超级智能和他们接管无关的问题。

是的,让我们稍微展开一下。代理,代理来自哪里?我会说没有AI具有代理权。我担心AI被用于控制、操纵、知识产权盗窃、心理操纵人们,让他们爱上他们并不真正爱上的东西或其他东西。代理来自哪里?

问题是,代理来自人类。它也来自数十亿创造了当前大型语言模型输入的人类,这很有趣。但有一件我无法解释的事情非常有趣,你知道,我相信很多人会看这个并说,我讨厌李,因为他的AI观点是错误的。他一直是一个鲁德派,所有这些东西。

这可能是真的,对吧?我可能需要在一个惩教机构里,说明为什么我需要相信国际象棋电脑是天才,所有这些东西。我认为这归结于我的决定……

我的大脑是什么?我头里几公斤的东西。我可以四处走动,相当自主。我可以把我的解决问题的能力相当自主地带到世界各地。如果你想带上格洛克,我的意思是,你必须带上,我不知道它在哪里。比如,它在中西部某个地方吗,对吧?你得带上一大堆发电机和东西。它不是,它的能力不是,它是计算量或能量。

我认为创造力非常低。对。所以,而且,而且它不仅仅是创造力不仅仅在于那个体积。它还在数百万个方面,

在人类文本中生成的字符。所以我就是不相信人工智能除了概率搜索引擎之外还能做任何事情,对吧?我不相信那些魔术戏法。我不相信杰夫·辛顿、萨姆·阿尔特曼、埃隆·马斯克和所有这些告诉我它会变得超级聪明的人。因为如果你从戴维·德意志的书中摘取一片叶子,那就没有什么比一个万能的解释器更重要的了

是的,它下棋的速度会比我快。是的,它制作我的 PowerPoint 幻灯片会比我好。是的,它会帮我泡茶什么的,对吧?这很好。但这并不意味着它是一种超级超级人类超级思想家。它只是一个我用来为我做事儿的工具。对我来说,它只不过是化学家的试管。试管是一个伟大的发明。我可以把东西放进去。

对于萨姆和埃隆来说,我可以理解为了提高他们两家公司的价值而进行的炒作。对于杰弗里,你认为持有这些观点的动机是什么?上帝情结。上帝情结。所以上帝情结。就像,是的,你知道,哦,我真的很,我离开了谷歌。我真的很,看,或者他是个白痴,对吧?我的意思是,他不是白痴。所以,好吧,实际上,让我用另一种方式来做。让我给你我的真实答案,因为我没有和他谈过。我真的不知道。

我想知道他是否真诚。然后我会有点震惊地说,为什么你会认为以一种相当复杂的方式查找数据库会赋予你感知能力?我认为这与计算机科学研究中的基本事实有关。

它是一个,它是一个缺乏,它是一个狭隘的观点,它对世界的复杂性理解不足。这是一个巨大的耻辱。对。因为我认为他说的话是如此荒谬。

这根本没有任何意义。他戏剧化地表达的方式,我不得不离开谷歌,我觉得不安全,然后四处走动。我只是不知道它会走向何方,除了我们正处于一个没有监管的点,人们正在花费大量的钱。从伦理上讲,我想不想生活在一个只有少数亿万富翁基本上在开采石油的世界里,

对。花钱压缩数据,以便你可以向一些人出售聊天机器人来摆脱中间工作。你知道,这就是人类真正达到的吗?当然,我们可以从环境中压缩信息。这就是我们所做的。

当然,我们可以训练机器人来创作艺术。但它不会创作艺术,因为它在情感上感受到了艺术是什么。它只是在做从其他人类的情感中学习到的艺术。所以它模拟了情感,这是虚假的。所以,你知道,做一个事情的人是什么样的?为做对而感到自豪,编写代码,找到错误。

你知道,我不是一个卢德分子。我问的是,你想要什么?有些人可能想要它。我喜欢使用 O3。它很棒,但我不用它来思考。我用它来基本上重新组织代码并做我知道以前做过的事情。当涉及到新的创造性事物时,我不想浪费我的时间去做现在的事情。

我在纸上做,对不起。不,我认为你完全正确。至于我们需要做创造性的事情,并且卸载那些重复性的任务,否则这些任务会减慢我们的速度,而真正的突破和我实际上担心的问题是,当我看到我 17 岁的儿子向 ChatGPT 寻求答案时,

他没有学会取得创造性的突破。他实际上试图卸载创造过程、创新过程以及需要努力的过程,你知道,不要盯着你的手机,在你的脑海里挣扎,来回拉动想法,测试它们,并在它们上失败。

为了获得那种顿悟时刻,他期望它能立即被交给他,因为他被告知这些程序有多聪明,并且知道很多他否则不知道的事情。所以他混淆了这两件事。好吧,我认为,我的意思是,你正在给予,我非常爱你的儿子,但你也给了人类很多赞誉。还有……

有一个懒惰的因素。人们很懒。这就是我所说的。为了获得突破性想法,你需要的内部斗争需要你去搜索和尝试,失败,并一遍遍地问为什么。这是一个痛苦的过程,比漫无目的地滚动要令人不快得多。但我确实预测,人们会

以非常令人兴奋的方式使用这些工具,是的,而且我认为我们的社会仍然会需要创造力,有多少人你已经谈过了,有些人假装知道他们在说什么,对吧,我的意思是,我的智商低是错误的说法,我太慢了,所以当我像,而且当我批判性地看待科学时,我就像,为什么它有效,你为什么要这样做,他们就像,哦,我的上帝,你在欺负我,我就像

来吧,你说了一些完全编造的东西。这显然是错误的。我想知道为什么。所以我只是想找出你的来历,因为我不担心看起来很愚蠢,因为我的工作是愚蠢的,不是没有智慧,而是问一个问题。为什么它有效?那是什么,那是什么,那是什么?我认为,人们希望,希望,

我们会发现人们基本上没有问这些问题,我们会像制止盗窃和其他对人类没有生产力的事情一样,来制止这种行为。但是当工作并不真正需要那种创造力,你可以摆脱它,并且系统被构建出来时,科学中有一个荒谬的系统,人们使用人工智能来撰写资助提案。人们使用人工智能来审查资助提案。而且事实上,

获得学术界资助的难度越来越大。有一种诱惑,那就是基本上只是继续让 AI 生成提案,无论如何,生成评论。你所做的就是把它送进去,对吧?然后你像垃圾邮件一样做一些统计,你希望一个稍微信任的人会相信你的骗局,对吧?我认为这可能会加速我们去,啊,我们是否想把所有时间都花在

使用人工智能来撰写一份由人工智能评估的提案上,而不是有一个好主意,比如如果我以不同的方式做这件事,我该如何治愈癌症?或者如果我创造了一种如果我以不同的方式做的话可以超导的材料?好吧,而且从操作角度来看,我们如何使资助提交和审查过程更高效、更有帮助,以便我们实际上可以花更多时间进行研究,而花更少时间申请进行研究?

好吧,我们拿走现在拥有的所有这些钱,对不起,所有这些来自人工智能的新的人工时间,我们让世界上每个人都成为研究人员,我们适当支付他们以推进人类知识,因为我们想生活在……这正是我所说的,但我是在银行时说的,为什么这里只有一人在工作?李,向我们解释一下……

你的日常工作,你提到过想创造生命。你关注的难题是什么,你如何处理它?现在的难题是试图设计一个实验,我谈到了沙子和选择。不用说,我认为这个社区分为三类。

一种认为组装理论很有前景,甚至可能令人兴奋。所以这是一方面。这很有趣。我在那一方面。一方面认为这只是垃圾,并且讨厌它。中间的一个有点暴躁。这里有一些东西,但我真的需要看到,我想看到一个杀手级的实验,一个杀手级的应用程序,对吧?

我必须说我在中间,对吧?我喜欢它。它创造了这个理论,但我就像,是的,我需要,它需要有用。所以我现在的工作,我的意思是,我领导一个团队。我还经营一家公司,但我可以告诉你,让我告诉你关于团队运行的事情,因为团队我有点,

我会帮助他们进行研究,我自己也会进行一些研究。我试图做的是思考我认为以可量化的方式解决的问题,对吧?以一种勇敢的方式说,对,组装理论做出了这个预测。它说这件事,让我们去设计一个实验看看它。我们能看到选择展开吗?

所以我花了很多时间构建技术来做到这一点。例如,我现在真正致力于我的公司,我正在构建一个系统,可以按需制造分子,用于药物发现、材料发现等等。这需要相当多的创造力。它需要集成。它需要,你知道,归根结底,它是一个商业化的企业,我们必须为了钱制造和设计分子。

Chemify 计划的一部分,对,这是我的公司,是制造,就像 SpaceX 的计划是让人类星际旅行一样,Chemify 的计划是通过构建搜索化学空间的硬件来帮助我们破解生命的起源。如果我碰巧创建了一家价值 100 亿甚至 1000 亿美元的公司,可以进行药物发现、材料发现,并且,你知道,可以消除化学中的劳动力,那就太好了,这就是我要做的。这是我目前的主要重点。在

目前。但是,是的,设计机器人来进行化学反应,设计测量系统来寻找它,这回到了你一开始提出的问题,你如何知道其他地方有生命,你将如何去看它?对吧?你会做什么不同的事情?所以我不会寻找氧气。我不会寻找 DMS 之类的东西。我会寻找规模上的复杂性,我可以在望远镜中、在光谱仪中或在我的实验室中看到它。

所以很多我的重点只是致力于如何进行这些测量。显然,你知道,与学生、博士后和资金以及所有与成为一名学者相关的很酷的事情一起工作。对我来说,还有两个最后的问题。一个是如果你能让它对某人来说超级具体,比如说,如果你能发现和重现生命的起源,那么对地球上普通人的实际应用是什么?

所以我认为实际上有一个非常重要的精神应用。

我们都想了解我们为什么在这里。我们都想与宇宙建立联系。有些人通过宗教的方式这样做。有些人通过物质的方式这样做。有些人只是喜欢它,只是想知道。我们有奇迹。我认为我们的奇迹中存在差距,对吧?我认为解决生命的起源不会使生命变得不那么奇妙。它会使生命更加奇妙,就像,你知道,当人们理解他们可以建造喷气发动机,我们可以进行洲际旅行一样。所以我认为这种应用就像,

人类理解我们共同拥有的生物学共同血统。这实际上是一种非常重要的精神和社会应用,对吧?第二个确实是,你知道,药物发现的应用,对吧?你能,我们能

向一个系统展示一种非常严重的疾病,并使用进化过程、组装理论以及所有这些来以一种新的方式制造新药,体现进化。我认为这是另一个非常古怪和酷炫的。如果我可以制造一种我可以构建某种终止开关的无机生命形式,

如果我可以,我编造了这个,这是一个好主意。我确实这么说。但我提出了这个自我复制钻石的想法。将会发生的是这种无机生命形式,基本上是一种活的钻石。它从大气中吸收二氧化碳并将其转化为钻石。

它基本上允许它,所以它位于海中。大约一英尺深。所以你可以看到所有这些闪闪发光的东西。但是当钻石变得太重时,它们就会掉到海底,并将碳从大气中去除。

所以你有了这种无机生命形式,它基本上进行光合作用,转化碳,但一旦达到一定的重量,它就会沉到底部。这样我们就能,它在这里和那里进行一些复制,但不会失控。我们对其进行调整,使其复制,所以我们基本上制造了这个虚构的实体,如果你愿意的话,一种基于钻石的无机细菌,它从空气中吸收碳,变得沉重并沉入海底,直到我们想再次开采它,对吧?然后燃烧它。

然后我们有一个合适的,不再有化石燃料了。我们从燃料中提取化石。因为现在我们正在从海底、矿井中开采石油和煤炭并燃烧它们。而且没有办法将二氧化碳回收。那将是很酷的。我还想做的一件事就是将无机生物学投放到太阳系中的所有行星上,让它们充满活力。我知道美国宇航局在行星方面说,你不想那样做。我们想照顾好这些行星。我说,

一颗死星是一个错失的机会。我希望到处都有生命。来吧。关于钻石的事情,所以你会从大气中吸收二氧化碳,帮助解决全球变暖问题,然后创造一种新的燃料来源,如果它们可以抛光的话,也可能会损害钻石市场,也许你不应该公开宣传,因为你会让钻石公司来阻止你。我认为钻石公司会做一件更容易的事情,说,看,这在热力学上是愚蠢的。

你需要如此多的能量来制造钻石。你不会在一个小细胞中在海洋表面做到这一点。所以,但这是一个让你思考的好方法,对吧?因为钻石是很酷的东西,它们有,你知道,你可以想象它们在海洋中闪闪发光并聚集光线,但我们可以制造其他东西。但是是的。

我很高兴我们能略微了解你的创造性想象力,因为这是一些令人惊叹的解决问题的方法。我最后一个问题是回到你所说的话,即基于碳技术的硅基生命的想法。你能更详细地解释一下它是什么样的吗?

所以它回到了我们一开始关于地球上的生命会是什么样的讨论?为什么地球上的生命是这样的?所以如果我们想象一个更热的地球,对吧,基本上也许硅更具流动性,大气略有不同,也许是氢或氦之类的,对吧,更多这样的东西。所以硅能够与,

与碳基序或类似的东西发生反应,只是为了帮助装饰它。我认为很容易想象一个主要基于硅的构型空间,有点像无机氨基酸产生蛋白质,诸如此类。那将是很酷的。然后你可以说,好吧,显然在这种环境中,它非常热。这就是硅所在的地方。

但他们随后能够制造石墨烯,石墨烯是碳的一种同质异形体,非常容易,因为它们已经相当,它们的室温已经非常高,所以他们可能能够制造出这种物质的薄片,而且因为有控制,而且它是一种

有点有机的东西,你不会遇到硅可能遇到的问题。然后你确实可以想象一个硅基生命形式中的碳基技术。我认为我需要有人听这个来为我制作一个图像,以便我能够理解它。我真的需要。我不确定我是否应该……

公开宣传它?我认为是的。所以,我,与,我的意思是,我参与了与贝格鲁恩研究所的一些非常有趣的事情。有一个名为“其他生命”的项目,我们都必须想象一个星球和一种新型的生命形式。我的,呃,可能没有硅。它是另一种元素,但我创造了光学生命。

所以我基本上想出了一个方法,如何获取细胞并使它们成为光学陷阱,然后进化这些光学陷阱。然后你有了 DNA,如果你愿意的话,在天空中的镜头中,它们漂浮在空中。不想透露太多,但我认为它已经在公共领域了,对吧?但这就是我在想的事情,只是为了突破极限。他们就像,哇,你刚刚编造了这个吗?我说,是的,我认为是的。是的。

李·克罗宁,和你交谈真是太高兴了。我们非常感谢你的灵活性和幽默感。非常感谢你。很棒的问题。也很高兴和你俩交谈。乔纳森,我觉得我们需要再有两集才能谈谈那些集。

爱、外星人、人工智能。我的意思是,最后他开始谈论在宇宙中传播生命。他想成为星际生命的原子。

我的意思是,这是那种我真的很想深入了解的客人,比如,你小时候是什么样的?你六岁时画的画是什么样的?实际上,我听他谈论过一些关于这个的事情,我不想为他讲述他的生活故事。但他说过他的母亲有,我忘了什么,我认为要么是相当严重的抑郁症,他和他的兄弟会在四点钟被送上床睡觉,他们的门会被锁上。他说他只是筋疲力尽了。

一个狂热的实验者,并描述了他八岁时拥有他的火车模型,并将其重新布线以增加电压。是的,无聊是创造力的源泉。我的意思是,这很强烈。所以,

所以他说他一直是一个修补匠,在学校表现不佳,从不想阅读学校提供的书籍,总是质疑和想知道,并想要探究,并且似乎拥有令人着迷的好奇心,这让你有时间和空间来重新思考什么是可能的。他拥有的自信令人惊叹,你知道,知道他知道什么,不知道什么,以及他想了解什么。我认为这很令人耳目一新。我认为对我们许多人来说,

你知道,当我们听到所有这些专家时,我认为这就是在社交媒体上发生的事情。所有这些专家和每个人都在 Substack 上,每个人都是医生或博士,或者他们学习过这个,或者每个人都觉得他们知道事情,而事实上,就像,我们都在努力弄清楚。当你与一位在其专业领域中是专家的专家交谈时,你会看到,哦,这就是我们对信息的资格和量化进行科学严谨性的样子。像,

就像,这很有帮助。我不必同意他的所有观点。很多人不同意他的观点。我不是说仅仅因为他,你知道,是一位雷吉斯教授,他就能对事情正确。但我的意思是,他对我们思考方式、收集信息方式以及我们得出的结论的清晰度,我发现非常令人耳目一新。

我认为他没有使用“充满激情”这个词,但他说了类似的话,他有着充满激情的信念,但他对这些信念的态度很轻松,以便他能够接受挑战并不断扩展。我认为了解这一点也很重要,

你应该对你相信的东西充满热情,但也要乐于整合新的信息,改变你的想法,并发展你的观点,这并不是软弱的标志。它实际上是力量的象征。我认为他当时谈论的是罗宾·汉森,当他提到这种方式时,我听到的方式是,你知道,你把它像一件宽松的衣服一样穿着。

就像它保护你并覆盖你的东西一样,但你穿得很松。任何过于紧身或过于紧身的衣服都不会留下活动的空间。任何过于宽松的东西都不会留下形状的空间。说得很好。我的意思是,不要让任何人感到震惊,但他非常独特。他是一个非常独特的人,他的实验室看起来绝对令人难以置信。但是有很多从事研究的人在智力上拥有他这种能力。

而这些人正在解决问题。这真的,我很感激我们能和他交谈。但我也想提醒人们,还有许多你可能听不到的人正在以真正令人着迷的方式研究这些事情,这些方式正在一点一点地改变世界。

正是这种对理解生命起源和我们为什么在这里的集体运动,他参与其中。所以和他交谈真是太好了。还要特别感谢瓦莱丽为本集进行的研究。她写的大部分内容,我都觉得,对我来说就像另一种语言。我不知道她是不是只是,她做的是真正的研究。她没有使用人工智能。至少我们不知道。是的。

这些类型的对话也让我非常有希望,作为一种物种,我们将取得能够帮助我们解决一些最大问题的突破。你知道,我们经常听到人们谈论减少大气中碳的方法,通常是通过泵和过滤器以及以某种方式捕获。我从未听说过有人谈论过。

海洋中会下沉的自我复制钻石。这是一个非常酷的想法。我一直在想的是,这是一个电子游戏。

就像,它基本上是我的世界。所以当你的钻石,你必须种植你的钻石,以便它们获得足够的碳才能下沉。然后人们下去开采它们并放置它们。是的。它完全像,他正在描述一个电子游戏。就像农田。事情改变了它。好吧,但即使像,我认为,我从未玩过我的世界,但我看过这部电影,当事情结合在一起时,它们会制造出更好、更先进、更复杂、更有价值的东西。我就像,这就是他所描述的。像,

就像杰克·布莱克这样,制造钻石。如果你还没有加入我们在 Substack 上,请查看 Breaker 社区。它正在增长。我们对所有额外的额外内容感到非常兴奋。Mayim 和我分解剧集,幕后剪辑。从未在其他任何地方发布的额外镜头正在 Substack 上发布。所以请查看一下。

加入我们吧。我们将在那里与你见面,从我们的分解到我们希望你永远不会遇到的分解。我们下次再见。这是我和 Bialik 的分解。她会为你分解它。她拥有神经科学博士学位。现在她将分解。这是一个分解。她将分解它。