We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Geoffrey Hinton: “It’s Far Too Late” to Stop Artificial Intelligence

Geoffrey Hinton: “It’s Far Too Late” to Stop Artificial Intelligence

2023/11/21
logo of podcast The New Yorker Radio Hour

The New Yorker Radio Hour

AI Deep Dive AI Chapters Transcript
People
杰弗里·辛顿
约书亚·罗斯曼
Topics
杰弗里·辛顿:我从人工智能技术发展的伊始就参与其中,并为其发展做出了重要贡献。然而,近年来我越来越担忧人工智能技术带来的风险。当前的人工智能技术已经能够进行复杂的推理,甚至达到理解和推理的水平,其学习和知识共享速度远超人类。这让我担心人工智能可能会变得比人类更聪明,并最终对人类社会构成生存威胁。人工智能可能设定‘获得更多控制权’这一子目标,从而最终控制人类社会。我们目前还不知道如何解决‘对齐问题’,即如何确保人工智能的目标与人类利益一致。虽然停止人工智能发展是不可能的,但我认为我们应该认真思考如何防止人工智能想要接管人类社会。 约书亚·罗斯曼:杰弗里·辛顿是人工智能领域的关键人物,他从技术的早期阶段就参与其中,并最终对人工智能技术的发展做出了巨大贡献。他如今对人工智能技术表示担忧,这引发了人们对人工智能未来发展的思考。人工智能的积极方面在于其处理和运用海量数据的能力,这使其能够胜任翻译、解题和学术讨论等任务,并提高了程序员的工作效率。然而,人工智能也带来了潜在的失业风险以及社会混乱的风险。此外,人工智能在执法和医疗等领域的应用也存在风险,因为其判断可能出错,且人们难以挑战其权威。 一位欧盟高级官员(杰弗里·辛顿转述):鉴于人类自身造成的混乱,人工智能接管人类社会并非不可能。

Deep Dive

Chapters
The chapter discusses the basic functioning of neurons in the brain and introduces Geoffrey Hinton's pioneering work in neural networks, which has led to significant advancements in artificial intelligence.

Shownotes Transcript

Dental One 的员工重新定义了看牙医的意义。从致力于优先考虑您和您家人福祉和满意度的专业专家那里获得优质的个性化支持。护理以高度个性化的治疗计划为中心,并以长期关系的信任和支持为后盾。访问 doa-seriousxm.com,了解如何预约定制笑容设计体验。

沃尔玛 Plus 会员在与朋友见面时可以省钱。免费送货,无隐藏费用或加价,让朋友来家里吃饭也能省钱。那就是杂货加餐巾加切菜器,让事情更容易一些。此外,会员还可以节省汽油费,去他们家附近见面。此外,当您准备好表达终极友谊时,

与您包含的 Paramount Plus 订阅一起开始一场演出。沃尔玛 Plus 会员可以节省这笔费用以及更多费用。在 WalmartPlus.com 开始 30 天免费试用。Paramount Plus 仅限中心计划。需要单独注册。请参阅沃尔玛 Plus 条款和条件。听众支持。WNYC Studios。这是《纽约客广播节目》。我是大卫·雷姆尼克。大脑的工作方式是这样的。

神经元接收输入,如果它们获得足够的输入,它们就会发出“ping”声。神经元的输入要么来自感官,但对于大多数神经元来说,它来自其他神经元。因此,神经元接收来自其他神经元的这些“ping”声……杰弗里·辛顿长期以来一直在思考大脑是如何工作的。辛顿是一位计算机科学家,被称为人工智能(AI)的教父。几十年来,他一直在努力构建计算机……

其工作方式类似于人脑本身。这是一种被称为神经网络的方法。长期以来,这是一项默默无闻且似乎毫无结果的努力,但最终它取得了超出任何人想象的成功。

这项关于神经网络的工作导致了像 DALI 这样极其复杂的机器,它将接收您的提示并为您制作一幅美丽的图片。或者 ChatGPT,它在去年让 AI 进入每个人的视野。好吧,那是一个没有人预料到的未来。这些是学习,甚至可能思考的机器……每个传入的“ping”都与优势相关联……

因此它可以决定是否获得足够的输入以发出“ping”声。这就是全部。这就是您需要了解大脑工作方式的全部内容。很明显,一场人工智能革命正在眼前发生,它将深刻地重塑我们的世界。但神经网络最重要的先驱杰弗里·辛顿开始对人工智能的能力表示担忧。非常严重的担忧。《纽约客》的创意编辑约书亚·罗斯曼最近与辛顿进行了深入交谈。

我们今天将听到他们谈话的一部分。乔什,《纽约客》刚刚出版了一期关于人工智能的专题。而它的核心是您对杰弗里·辛顿的个人介绍。为什么他如此重要?为什么他是如此关键的人物?因此,他从一开始就一直关注这项技术的轨迹,直到现在。他 75 岁了。

在一个没有人认为这项技术会奏效的时期,他继续致力于这项工作。他相信它。最终,事实证明他是对的。他现在说,他害怕自己毕生致力于的技术。他……

他不后悔自己所做的事情,但他表示,我们需要对所发明的东西持现实态度,那就是一台可以像我们一样思考的机器。告诉我一下与杰弗里·辛顿相处是什么感觉。正如您所描绘的那样,他是一个情感丰富且智力丰富的个性。辛顿本人是什么样的?一个令人愉快的人。

他有点来自以前的世界。他不是硅谷的技术霸主。他不是古怪的自我中心的人。他是一位非常聪明、非常谦逊的人,长期从事这项技术,直到 60 多岁这项技术才真正开始腾飞时,他才习惯于成为一名普通的计算机科学教授。我被杰夫吓坏了。我们的第一次互动,他有点

给我出了一套关于心灵哲学的各种问题的测验,我想,是为了确认我们将处于相同的波长。我必须说,我基本上是一个普通人。我不太明白。例如,我参加了可汗学院的线性代数课程。我做了一些准备工作。您通过在线学习线性代数课程来为这篇文章做准备。是的。

哇。人工智能的奇异之处如此奇怪。你知道,它结合了物理学、数学、神经科学和计算机。它就像一个奇怪的学科,心理学和关于学习的想法以及所有这些东西。什么是人工智能,它的含义是什么?因为它们似乎如此多样化,如此广泛。

对某些人来说如此可怕,对许多其他人来说充满了可能性。所以我认为它是什么的问题有点争议。但对我来说,作为一个凡人,理解它的最好方法是回到起点。这一切的开始是基于这样一个想法,即我们的大脑是由相互连接的神经元网络驱动的。这创造了,导致了一个叫做神经网络的领域,这是一个计算机科学领域。

在这个领域中,计算机科学家会在计算机内部创建模拟神经元的网络。在过去,在 60 年代、70 年代和 80 年代,你无法做到这一点。这在计算机中是无法模拟的。但是您可以构建小型网络,它们可以学习一些小东西。例如,它们可以学习识别信封上的手写数字,比如邮政编码。

但在过去的几十年里,计算机变得越来越大。它们的速度实际上快了十亿倍。可以在计算机内部模拟的神经元数量也按此比例增长。现在,这些神经网络还没有像我们大脑中的神经网络那样复杂。

但它们确实很复杂。它们能够做一些事情,从外部来看,对许多人来说就像推理一样。杰夫·辛顿认为它们像我们一样理解。它们像我们一样推理。我们应该认真对待它们的精神生活,就像我们对待它们的情报一样。您在他位于休伦湖的一个岛上的房子里和他相处了相当长的时间。让我们听听您采访的一部分。

许多人难以理解人工智能思维与人类思维的异同。他们无法决定,或者不知道是将今天的人工智能视为他们一生都在使用的计算机程序,还是将它们视为他们与之交谈的人。

例如,您是如何看待这个问题的?所以我认为今天的重大 AI 事件,例如 chat GPT-4,它们与人更相似,而不是与计算机程序更相似。计算机的设计是为了让人们能够对其进行编程。也就是说,它们完全按照你所说的去做。它们没有直觉之类的东西。但是现在,如果你看看让计算机擅长下棋需要什么……

你必须赋予计算机直觉。计算机必须能够观察棋盘并思考,“哦,那将是一个好棋”,就像特级大师那样。事实上,他们现在比特级大师更擅长这一点。使用神经网络,我们可以让计算机学习直觉。这与逻辑推理非常不同。

当您一开始就是某个领域的专家时,您必须进行推理。该领域的真正专家可以凭直觉做到这一点。这就是医生所说的临床经验。他们只是看看这个病人,就知道他们得了什么病。他们没有进行很多推理。这对他们来说是显而易见的。但如果他们是好医生,偶尔会发现病人没有得那种病,他们会用它来修正他们的直觉。当我写作时,我感觉像是我在写作,我是一个作家,当我写作时,是我在做这件事。

自上而下地运用我的智慧。这不像开车或骑自行车。这是我选择做的事情,这些是我的想法从我的自我中产生,就像那样。这就是我认为高级智慧时想到的,比如写一篇文章或写一封电子邮件之类的事情。它似乎并不一定与学习的、直觉的

但是如果你在写作时思考,假设你写到句子的中间,现在你必须选择下一个词。所以会有一个词会浮现在脑海中,因为它在那里很合适。它为什么会在脑海中浮现,你又是如何决定它很合适的?你不知道。事后,你可以编造一个故事。

这可能包含一些真实成分,但肯定不是全部。实际上发生的是,你已经学习到的这些大型神经活动盘实际上正在实现与你所知道的许多不同事物的类比,以便那个词在那里看起来很合适。当你写作时选择下一个词的过程

你可能会说这只是你在做自动完成,它或多或少地包含了你曾经学到的所有东西。要正确地进行自动完成,你必须了解世界是如何运作的。这就是你在做的。你只是一个自动完成设备。

所以乔什·辛顿在这里戏弄你。他说你优秀的写作只是自动完成。至少我希望他在开玩笑,因为他错了。但是具有智慧的机器有什么含义?它在最积极的意义上能给社会带来什么?我们应该害怕什么?

从积极方面来看,这些数字思维与我们的思维方式有所不同,我应该说是有益的不同。所以如果你想想 ChatGPT 是什么,我认为我们很多人现在都使用过 ChatGPT。其中一件令人震惊的事情是,它似乎

可以轻松访问大量知识,比我们多。这并不意味着它比我们聪明,但如果你要求它在语言之间进行翻译,或者尝试求解方程,或者论述经济学史,它可以做到这一点,因为这些人工智能非常擅长处理海量数据。这种能力是因为……

机器,人工智能可以在其大脑中拥有所有 Google,所有 Google 翻译,然后开始使用它,而我们的大脑没有这种能力。这是一个能力问题吗?- 是的,据我了解,它部分是一个能力问题。

我的意思是,我认为它不同。例如,想想我们的大脑现在正在做什么。你知道,你和我正在进行这次谈话。我们正在朝着更深层次的相互理解迈进。与此同时,我们大脑的某些部分可能正在思考我们午餐吃什么。你是一个非常忙碌的人。我相信你有很多事情要做。你也在思考所有这些事情。人工智能也是如此,这是杰夫在我的文章中谈到的,我认为这很有趣。你知道,如果我学习了一些东西,我该如何与你沟通?

我必须为《纽约客》杂志写一篇 10000 字的文章。你必须阅读它,并尽量在阅读过程中保持清醒。如果人工智能学习了一些东西并且想要与你沟通,它只需下载信息,然后就可以上传到另一个人工智能。首先想到的是,人工智能已经掌握了对话的水平,不仅仅是回应你所说的内容,而是理解你的意图。

本期有一篇文章是关于这一点的,是关于人工智能如何影响编码人员的。ChatGPT 非常强大的方法之一是,如果您对计算机有足够的了解,并且想要制作一个计算机程序,并且您可以用足够的精确度指示 ChatGPT 您想要什么,它可以为您编写代码。这并不意味着每个编码人员都将被 ChatGPT 取代。

但这意味着一个有想象力的称职编码人员可以完成比以前多得多的工作。也许她可以完成五个编码人员的工作。因此,存在着人们可以掌握技术并完成更多工作的情况。因此,经济后果是真实的。然后是这种更广泛的恐惧,一种科幻小说式的恐惧,辛顿也分享了这种恐惧。有很多风险让我担忧。

其他人比我谈论这些问题更多。我是一个比较晚才开始担心风险的人,因为最近我才得出结论,这些数字智能可能已经和我们一样好了。

它们能够比我们更好地在彼此之间交流知识。这就是让我觉得我需要谈论这些事情构成的存在性威胁的原因,这些事情会变得比我们更聪明,并接管一切。这是因为人工智能可以简单地复制其从自身学习的知识并直接将其提供给另一个人工智能。因此,您可以拥有,比如说,10000 个相同知识的相同神经网络的副本

每个都可以查看不同的数据。当一个副本从数据的一部分学习到某些东西时,它可以通过告诉它们如何更新它们的权重(这些突触强度在内部)来将其传达给所有尚未看到该数据的其他副本。现在,你和我做不到这一点,因为我的大脑与你的大脑连接方式不同。如果你告诉我你大脑中的突触强度,这对我没有任何好处。对。这与这组风险有什么关系……好的,这与

这些东西会变得比我们更聪明,而且不仅仅是聪明一点,而是聪明得多,并且还会决定接管一切的存在性威胁有关。它们会决定控制一切。这就是存在性威胁。它们为什么要这么做?我与之交谈过的欧盟委员会的一位高级官员说:“好吧,人们把事情搞得一团糟,他们为什么不这样做呢?”

计算机科学家杰弗里·辛顿。他正在与《纽约客》的约书亚·罗斯曼交谈,稍后将继续。这是《纽约客广播节目》。

光临 Sherwin-Williams,从 8 月 23 日到 26 日,享受持久产品和 Superdeck 污渍 30% 的折扣。这是用颜色改变您的空间的绝佳时机。无论您是想改造您的卧室、客厅还是家庭办公室,我们都能为您提供大胆的色调、舒缓的中性色以及介于两者之间的所有颜色。在线选购或访问您附近的 Sherwin-Williams 商店。点击横幅了解更多信息。仅限零售销售。部分商品除外。详情请咨询店内。

我从沃尔玛买的 Wrangler 牛仔裤是我最喜欢的裤子。它们采用修身剪裁,外出时总是很时尚。嘿,你好吗?它们足够耐用,即使是我的轮班也能穿,而且足够有弹性,当我想要放松看电影时也能穿。所以基本上,它们无所不能,而且在我的预算之内。我的意思是,拜托。你真的无法超越这一切。在沃尔玛选购您的 Wrangler 裤子。

我是玛丽亚·科尼科娃。我是内特·西尔弗。我们的新播客《风险业务》是一个关于如何做出更好决定的节目。我们都是记者,我们喜欢玩扑克,这就是我们将用来处理整个节目的视角。我们将讨论从高风险扑克到个人问题的所有事情。例如,我是否应该叫水管工或自己修理淋浴器。当然,我们也会谈论选举。在您收听播客的任何地方收听《风险业务》。这是《纽约客广播节目》。我是大卫·雷姆尼克。

一年前,未来大声地到来了。ChatGPT 于去年 11 月底推出,一段时间以来,这是每个人都在思考的事情。突然之间,人工智能不再只是高级科学研究的工具,而是进入了我们所有人的生活,甚至包括你孩子在作业中作弊。我们本期《纽约客》杂志全部是关于人工智能的爆炸式发展、令人难以置信的进步以及一些可怕的可能性。

作为该项目的一部分,我们的创意编辑约书亚·罗斯曼与所谓的 AI 教父杰弗里·辛顿坐下来进行了交谈。我们现在将继续进行那次谈话。现在,辛顿毕生都在帮助教机器如何学习。现在他相信自己几乎太成功了。他害怕当机器比人更聪明并且对该做什么有自己的想法时会发生什么。

假设这是一台下棋的电脑。它想赢得比赛。它内部没有任何自我认为“我想赢得比赛”。它的连接方式是为了试图获胜。所以我认为它们没有意图,也没有目标的想法是错误的。

负责这些系统的人会给他们设定目标,这会让我们走上这条道路吗?我的意思是,这就是我们设想的情况吗?或者是什么目标会导致整个问题的开始?好的,有两个担忧来源,它们截然不同。它们有完全不同的解决方案。所以一个担忧是坏人。你可能可以想象普京给一个自主的致命武器设定杀死乌克兰人的目标。

你可能可以想象他不会犹豫。这就是坏人情景。但还有另一种情况,那就是如果你想让一个系统有效,你需要赋予它创建自己子目标的能力。例如,如果你想回到美国,你需要到达机场。所以你有一个子目标,到达机场。这是一个子目标。它是为了实现更大的目标而创建的。

因此,如果你给人工智能设定一些目标,并且你希望它有效,它将通过创建一些子目标来实现目标。现在,问题是一个非常普遍的子目标有助于几乎所有目标。人工智能肯定会很快意识到这一点。非常普遍的目标是获得更多控制权。如果我只是获得更多控制权,它将有助于一切。人工智能会意识到这一点。

很快他们就会意识到,好吧,如果这些是我的目标,最好的办法就是阻止人类干预,继续以这些愚蠢的人类不理解的明智方式去做。无论他们有什么目标,都是我们赋予他们的。一个被称为对齐问题的大问题是,我们能否赋予他们目标,使他们为我们做有用的事情,并且他们永远不会想要接管?

没有人知道该怎么做。

认为我们可以将它们与外界隔绝,这样它们实际上就无法拉动杠杆或按下按钮是没有用的,因为它们可以简单地说服我们这样做,因为它们比我们聪明得多。我的意思是,这是一个技术问题吗?是的。这也是一个治理问题。这是一个技术问题,一个治理问题,但我们甚至不知道如何解决技术问题,即使我们可以正确地进行治理。即使我们可以制定一项法律,规定不允许制造可能出错的人工智能,我们也不知道该怎么做。正是如此。正是如此。

想象一下,你不是机器学习历史上的核心人物,而只是一个普通人。现在,世界上一些最大的公司正在说:“我们已经开发了这项技术。它承诺了各种你并不真正想要的好处。你可以开车,你可以工作,你可以做生活中需要做的所有事情。我们不知道如何控制它。它可能会夺走你的工作,或者它可能会接管一切。

它可能会帮助解决一些你不在乎的科学问题。我认为普通人可能会说,我们为什么不把它拔掉呢?我的意思是……我们为什么不停止发展呢?我们为什么不把它拔掉呢?我们不需要这个。你知道,我们不需要……我们已经有智慧了,人类。我们不需要人工的。说没有它我们会更好,这并非不合理。不值得冒这个险。

就像我们没有化石燃料可能会更好一样。我们会更加原始,但这可能不值得冒这个险。但这不会发生。由于社会的方式,由于不同国家之间的竞争,没有一个国家能够阻止它。如果你有一个非常强大的世界治理,如果联合国真的有效,

可能这样的事情可以阻止它。尽管如此,它仍然非常有用。它有很多机会做好事,比如在医学方面。你不会阻止它的。它也有很多机会通过自主武器为一个国家提供优势。我的意思是,美国已经在开发自主武器。所以是的,这可能是一个明智的举动,但为时已晚。是的。

所以我的最后一个问题是,我们应该怎么做?我不知道。如果它像气候变化一样就好了,警告气候变化的人可以说,看,我们要么必须停止燃烧碳,要么必须找到一种有效的方法从大气中去除二氧化碳。如果我们,这两者之一是必不可少的。如果

你知道解决方案是什么样的。这只是一个实际实施某些东西的政治意愿问题,因为这将是痛苦的。在这里,情况并非如此。我没有建议。我所做的只是警告这很可能会发生。聪明的年轻人应该认真思考,是否有可能阻止它想要接管?乔什,我们知道比尔·盖茨、史蒂夫·乔布斯、艾伦·图灵的名字,

但直到最近,我们才了解杰弗里·辛顿的名字。我们了解到,A,他是一位人工智能领域的伟大创新者,通常被称为人工智能的教父,但现在也作为人工智能的叛教者。为什么他直到现在才出现?我的意思是,你首先想问的问题是,就像,现在是 2023 年。那么,为什么你在之前的几十年里没有感到害怕呢?他告诉我,是的,

你知道,首先,没有人认为这会像现在这样快。如果你将磁带倒回 80 年代、90 年代和 2000 年代,人们认为,你知道,也许在 50 年后,他认为也许在 100 年后,我们将达到我们目前所处的位置。所以他的观点是,

为什么要担心呢?你知道,还有足够的时间来解决这个问题。许多从事人工智能工作的人都向我提到了这一点。那就是当你开始使用 ChatGPT 或其他现代人工智能时,你首先注意到的是它有很多缺点。所以你首先看到的是它不是真正的人类,或者它犯的错误,它无法做到的事情。你早期的印象是,哎呀,你知道,就像,很多虚饰。

但是你花的时间越多,你就会越印象深刻。我的意思是,这有点让我想起。我有两个小孩。我有一个五岁的儿子。当你花很多时间和一个孩子在一起时,你会注意到他们思想中的每一个小小的进步。你总是注意到他们正在学习的东西。但是如果你只是拜访有孩子的朋友,你不会印象深刻。你会说,那是一个小孩子。是的。

乔什,在本期杂志中,除了你对杰弗里·辛顿的个人介绍外,还有一篇由艾尔·普雷斯撰写的关于人工智能和面部识别的文章,这似乎极其令人担忧,非常危险。其中涉及的问题是什么?好吧,问题是提供所谓的“证据”给警方的 AI 很有可能出错。

使用这些系统的人可能并不完全了解它们的工作原理或它们的局限性。但是一旦一个看似客观的、强大的计算机系统做出判断,就很难反驳这个判断。

这是执法中的一个问题。这可能是医学中的一个问题。想象一下,你是一名医生。人工智能系统提供诊断。你认为这可能是错误的,但你会反对计算机并公开声明,我不同意在大型数据中心运行数十亿个人工神经元的神经网络吗?你可能不会这么说。

因此,更大的问题是,随着这些系统变得越来越有用,随着它们越来越融入现实世界的环境中,随着现实生活中的人们必须开始对它们负责,必须开始质疑他们所认为的事情或根据他们所认为的事情采取行动,根据系统所认为的事情采取行动,

这将需要我们目前真的不具备的技术素养和细微差别,如果我们不想产生真正负面的后果,我们就需要开始发展这种技术素养和细微差别。乔什,我最近在这个节目中与 Sam Altman 进行了一次谈话,他是 ChatGPT 背后的人之一。他以一种几乎平淡的方式说,

人工智能可能会让数百万人失业,这将导致政府不得不开始向我们所有人提供普遍基本收入,而机器则进行工作和思考,等等。他以一种非常,我必须说,非常客观的方式表达了这一切。这对杰弗里·辛顿来说是一个关键的担忧吗?他当然担心今天的年轻人会做什么工作?

工作世界将如何转变?好吧,我想,我可以退一步,广泛地说一件事吗?当然。是,你知道,对此存在巨大的分歧。你知道,有,没有人有水晶球。嗯,

技术人员显然爱上了他们所创造的东西。他们真的看到了潜力。他们生活在未来。这就是他们做他们所做的事情的原因。他们爱上了它,或者他们将赚取巨额财富?是的,他们将赚取巨额财富。我认为辛顿与奥特曼有点不同,因为他没有真正的经济利益。他不是商人。他基本上是一位学术研究人员,尽管他在 Google 工作了一段时间。

而且据我回忆,他拿走了数千万美元,对吧?是的,在当前人工智能热潮的早期,他以4400万美元的价格将一家公司卖给了谷歌。但有一点,失业是欣顿非常担心的问题。但我认为他更担心的是,你可以称之为混乱,对吧?

他的观点是这项技术已经存在,坏人会学会如何使用它,而接下来的历史时期将被这项技术扰乱。而且没有明显的解决方法。这有点简单化了吧?我们现在已经经历过互联网的这种情况了。可以说是吧。他没对我这么说,但这是许多人提出的论点。理解和控制人工智能的最佳途径就是继续研究它。这听起来有点宿命论。

是的,我认为他,我认为他会用的词是“斯多葛派”。他认为他是,我认为他,我认为他认为自己的立场是现实主义的。嗯,他认为这些问题不会通过……人们坐下来讨论来解决。嗯,这些问题必须通过技术的实际发展来解决。嗯,

很多人说一套做一套。所以这就像他们说,这项技术无法阻止。然后与此同时,他们又说,让我们签署一封信,建议我们停止它六个月。

这有点想要两全其美。我不是说他们在玩弄虚伪。我认为当你看到这项技术时,这只是两种冲动。一种冲动是说……你指的是像山姆·奥特曼这样的人,说清楚。一种冲动是说,你知道,我们可以控制它。另一种是说,你知道,我们指的是谁?全世界有无数的研究人员。这项技术是可用的。它是可见的。

金顿的观点,令人震惊。它让我个人感到害怕。它也让我觉得至少是一致的。我认为如果你看看例如核武器发生的事情的历史,我们现在确实有关于它们的监管制度。但这需要一段时间才能建立起来。而且坏事必须先发生。

是的,你还有一个俄罗斯领导人,如果他愿意,可以威胁在乌克兰使用它们。对。所以我们从未真正解决过这个问题。人工智能的好处是否超过了对人类的生存威胁,正如欣顿本人所写的那样?在我写这篇文章之前,我认为我对人工智能有什么样的想法,那就是它只是统计数据。它只是数字运算。

并且更多地了解该领域的历程,以及更多地了解欣顿和其他人在创造方面的创新,我觉得这项技术令人难以置信。我想我的总体感觉是人们真的很聪明。如果我们能够创造它,我们有希望能够以某种方式控制它。这篇文章让我对人工智能的强大功能,对它真正能做什么有了更深刻的印象。我认为这是值得的。

我认为人工智能的一些批评者或怀疑论者认为,这项努力在某种程度上是反人类的。例如,说人工智能所做的事情和我们所做的事情是一样的,这有点贬低了心灵的作用,人类心灵的作用。对。如果你想对此进行神秘化处理,并认为人类拥有一些机器永远不可能拥有的神秘特殊属性,

显然,它确实会贬低这一点。我不相信人类拥有机器不可能拥有的神秘属性。我相信我们只是奇妙而复杂的机器。我甚至不应该使用“仅仅”这个词。我们是奇妙而复杂的机器。试图理解这些机器是如何工作的,让我们对我们自己有了更多的了解。它告诉我们我们真实的本质。我认为这让我们对我们是什么样的机器有了巨大的洞察力。

这显然是一场巨大的革命。我的意思是,工业革命是我们可以用机器劳动代替体力劳动的时候。现在我们可以用机器劳动代替脑力劳动了。这是一场至少同样规模的革命。你认为我们是否必须对我们自身中哪些东西是有价值的以及是什么使我们与众不同进行不同的思考?这个问题中有一个假设,那就是是什么使我们与众不同。也许我们并不与众不同。

你可以在《纽约客》上阅读约书亚·罗斯曼对杰弗里·欣顿的个人简介。你可以在newyorkerradio.org上找到我之前与运行ChatGPT的公司老板山姆·奥特曼的对话。我是大卫·雷姆尼克,感谢今天的收听。下次再见。

《纽约客广播节目》是由WNYC工作室和《纽约客》联合制作的。我们的主题音乐是由Tune Yards的梅丽尔·加贝斯创作和演奏的,路易斯·米切尔创作了额外的音乐。本集由马克斯·巴尔顿、亚当·霍华德、卡拉利亚、大卫·克拉斯诺、杰弗里·马斯特斯和路易斯·米切尔制作。

在艾米丽·博廷的指导下,以及迈克·库奇曼、迈克尔·梅、大卫·盖布尔和亚历杭德罗·德克的协助下。本周我们还得到了贾里德·保罗的额外帮助。《纽约客广播节目》部分由切雷纳捐赠基金支持。

光临Sherwin-Williams,从8月23日至26日,享受持久产品和Superdeck染色剂30%的折扣。这是用色彩改变您的空间的绝佳时机。无论您是想改造您的卧室、客厅还是家庭办公室,我们都能满足您的需求,提供大胆的色调、舒缓的中性色以及介于两者之间的所有颜色。在线选购或访问您附近的Sherwin-Williams商店。点击横幅了解更多信息。仅限零售销售。部分商品除外。详情请咨询店内。

沃尔玛有Straight Talk Wireless,所以我可以继续做我自己。比如临时约上所有朋友一起学习。或者策划你一生中听过的最好的流行音乐播放列表。甚至编辑我所有的社交媒体,以跟上最新的潮流。哦,是的,我看起来不错。发帖。总而言之,这完全符合我的学霸流行主角风格。句号。在沃尔玛找到并购买您最喜欢的科技产品。