#88 走向AGI：通用人工智能（AGI）必须像人类智能吗？
31:05 Share

那么未来的 AGI 它一定需要像人吗还是说它可能会以一种我们现在完全想象不到的方式来实现所谓的通用智能甚至超越它

AGI 到底会不会是我们熟悉的样子科技慢慢拍的听众们大家好啊这是我们走向 AGI 的第二期节目本期呢我们将会接着上期在节目末尾两位主播给我们留下的问题来继续探索也就是说我们今天会聊一聊 AGI 的所谓的这种智能形态是否必须跟人类的智能形态是一致的

也就是说在达到超人类人工智能之后那是不是会产生一些非人类的这种智能形态那本期节目呢我们依旧是我和 Google Notebook 的两位主播相配合他俩来负责主聊我来补充和完善那好我们有请二位主播

你好,今天咱们来聊一个挺有意思的话题就是通用人工智能,AGI 这种超聪明的 AI 它是不是一定得像我们人脑这么想事对,这个问题现在讨论挺多的我们手头正好有些资料,从各种角度来看这个问题咱们今天的目标就是帮你快速梳理一下为什么?

为什么我们老拿人来做比较然后不同的学科像哲学啊心理学啊他们又是怎么看的让你能抓住核心观点对就是说一开始大家可能更关心机器能不能干活的吧是的但现在技术发展特别那个深度学习出来以后感觉机器智能跟人好像路子越来越像了对是有这种感觉

但这真的是唯一的路吗还是说只是我们一厢其愿这就带出了第一个问题了咱们为什么下意识的总是用人的智能来当标杆来衡量 AGI 呢这里面最关键的是什么对为什么老跟自己比说到底啊就是一个词通用性通用性

通用性对你想啊像黑猩猩乌鸦章鱼这些动物都挺聪明的对吧各有各的绝魂它们会用工具解决个谜题什么的甚至海豚那个回升定位海龟能感知磁场这些能力很厉害特别厉害但这些都是专才就是在特定领域强哦明白了咱们目前看下来呢好像

只有人类是具备广泛通用能力的就是说能在好多不同的地方都能学习能创造对就是

就是这个意思像个全面发展的学生而不是偏科生这么一说我就懂了就像我们发明了飞机潜艇它们在天上飞水里游肯定比任何鸟啊鱼啊都厉害那是但它们还是工具对吧它们是专门干这个的得靠我们人去设计去操作对极了它们自己没有那种就是说广泛的通用的智能所以我们追求的 AGI 关键还是那个通用不光是强大没错

对于这一部分我想做一些补充说明地球上的具有智能的物种确实并不只是人类 1984 年哲学家亚伦斯洛曼就曾经认为人类的思维虽然是多种多样的但并不是地球上唯一的智能类型

地球上很多的其他动物也都表现出了一定的智能比如说黑猩猩这种为代表的灵长类动物它们就能够使用工具能够学习语言的基本的符号甚至能够进行一定的程度的一些规划或者自我意识的展现

乌鸦也能够使用树枝来作为调沟来获取一些食物大象也能够通过一些镜面反射来识别到自己能够记住复杂的一些社交网络和地理的信息

章鱼也可以通过一些观察学习到一些新的行为模式很多动物都表现出了一些非人类智能的认知的能力比如这种大家常知道的这种海豚利用回生定位来构建周围世界的这种三维形态海龟可以在长途的奔袭中感应到地球的磁场那一些鸟类也可以看到人类不可见的一些紫外线的光谱那像狗鲨鱼都具有远超人类的这些嗅觉

所以我们可以看到其实这种非人类的生物的智能也展现出说我们这个地球上各种生命的一种多样化的环境也是非常的让我们惊讶的但是两位主播也谈到了我们在地球上唯一见过的或者具备这种所谓通用能力就是 general 这种能力的动物或者生物就是我们人类自己

所以还是要回到上期节目中我们关于 AGI 的定义中特别谈到的 general 也就是通用性的特点

如果我们将所谓的智能的定义我们是指一种衡量一个主体在各种环境下实现目标的一般性的一个能力那么我们可以看到今天的地球上不存在任何接近于人类智能水平的自然生物或者人工制品也许整个宇宙中可能会有类似的其他的一种生命形态或者智能的形式存在因为地球和其他宇宙星球的进化方式不同的

他们可能那种形态我们是没有见过的但至少我们从我们人类所见的这种范围来讲我们能够看到的这种通用的智能的能力那就是人类

那为了更形象的理解 AGI 可能会是什么样子我们可以借鉴一下借鉴什么就是认知人工技学学有个教授他们不是有个思路吗画一个二维坐标系坐标系有意思怎么说你想象一下横轴代表 AI 的能力水平左边是不如人右边是超越人能力轴对然后纵轴呢代表 AI 跟人的意识或者说思维方式像不像

下边是不像上边是非常像明白了能力和相似度两个维度没错这样一下就能分出好几个区域了你看啊左下角能力又不行又不像人那就是咱们以前那种传统计算器或者计算器最基础的对然后往上走一点左边中间能力可能还不如人但有点像人像什么呢

可能像早期的阿发购或者刚出来的 chatgpt 嗯他们在下棋聊天这种特定任务上很强但综合来看通用性还是弱对还不是全能的然后你看坐标系中间那条线代表能力跟人差不多往上走就是能力达到人类水平思维方式也像人这个是不是就是大家最想要的 AGI 理想中的很多人是这么想的对但你看中间线往下呢能力到了人类水平但是

思维方式不像人对这个就有意思了穆拉维克他们预测过一种可能叫心灵儿童能力超强但想法思路可能跟我们完全不一样哇这个有点难想象是再往右边看能力超人了右上角能力超强思维方式也像人这个可能我们还能理解还能跟他共存至少能沟通也许吧但是

但最让人嗯浮想联翩的是右下角能力超强但是思维方式完全不像人对就是那种我们可能完全无法理解的外星智能就像那个科幻小说索拉里斯星里面那个有智慧的海洋啊那个我知道就是个完全无法沟通的存在对一种嗯完全意志的智能这么

这么看来好像往右上角这是能力更强思维更向人这边发展感觉上更稳妥一点是很多人觉得这样更符合我们的期外而且也涉及到那个对齐的问题对对齐就是确保 AI 的目标跟我们人类一致

刚才二位主播谈到的那张二维坐标系图它是基于伦敦帝国学院认知机器学教授麦瑞香农的一个研究成果这篇研究的文章叫做意识的意欲风情从算法到外星人人类能否理解与我们截然不同的心智所以这是这篇文章里面谈到这个二维的坐标系所以我们也把这张二维图放到了 show notes 里

这里边谈到了几个概念我们再稍微做一些补充说明那里边谈到了一个叫做心灵儿童那关于心灵儿童的这个概念是科幻作家莫拉维克的一种预测这个心灵儿童意思讲的是既然人类可以把自己的未来的基因传递给自己的亲生的孩子那他们也可以把同样的这种意识或者知识或者思维

传递给某种智能的机器也就是说我们通过人工的方式产生我们人类的后代这个也就代表了在坐标系中 AI 的这种能力达到了人类的智能的同等的水平的一个情况

第二个谈到的是索拉里斯索拉里斯是科幻小说家斯坦尼斯瓦夫莱姆在小说索拉里斯中描述的一种故事这讲的是一个遥远的行星叫索拉里斯被一种巨大的神秘的海洋所覆盖而这个海洋就是一种智慧的生命形态

能够创造出人们的深层的心理的幻想引发人类面对过去的罪恶和遗憾其实这就是一种我们不能够感知或者不能够体会的某一种异类的一种形式的智能这就代表了说 AI 系统的智能发展成为了一种人类难以理解的某一种的外星智能

所以从发展路径上来看这个二维曲线如果向上弯曲可能会更加稳妥一些就是向往人类的方向走而向右下弯曲也就是上着未知的这种方向我们可能就要承受更多的所谓的考验

所以作为人类的我们一是不了解什么是超人类或者非人类的智能二是人类也几乎不能够接受这种非人类的这种新型的智能所以刚才两位主播才说我们 AGI 的发展在过程中必须要和人类对齐这个才是最有意义的而且也是必须的所以回到今天的节目主问题的一个回答就是 AGI 必须朝向人类智能的方向发展

要想对其首先得能理解对吧不过呢咱们要比较 AGI 和人类智能就不能光看 AGI 还得好好看看人类智能本身到底是怎么回事呢对得先了解自己这方面不同学科应该有不少说法吧那肯定我们可以简单看看几个主要的比如哲学哲学家们怎么看机器有智能这事这个争论可就长了

早期挺怀疑的像那个约翰·斯尔他不是有个著名的中文房间思想实验吗听说过他就认为机器就算能处理符号能给出正确回答也不代表他真的理解了中文他觉得机器缺少

真正的意识和理解力就是说只是在模仿没有内在的懂对他的意思是这个但后来也有更乐观的看法比如古德他提出过智能爆炸的假说智能爆炸就是说一旦机器智能达到某个临界点它就能自我改进然后智能就会飞速增长把我们远远甩在后面听起来有点吓人还有像库兹威尔他老说那个起点

预测技术发展到某个点会带来翻天覆地的变化这些都是比较大方向的预测对 哲学思考它能提出深刻的问题但预测具体科技发展总归是有局限性

这里我再补充一些细节其实关于哲学维度的观点一直有两派也就是我们在之前 65 和 66 期谈到的 AI 反动派里以及 67、68 期谈到的 AI 乐观派里边的节目也有所谈到过但是反对 AI 的这种观点大体都出现在人工智能不存在或者人工智能比较早期能力有限的时候

比如说像康德就认为人类是通过感官来构造获取信息的并经过意识来创造事物所以并不是真实存在的所以康德是认为物字体不可知的这样一个观点其实就包括自我的不可知人连自己的这种智力都不可认知那么模拟人脑的这种人工智能更是不可认知的了

这是康德的观点那歌德呢在 1797 年也写下了一首诗叫做《魔法师的弟子》他讲述了一个巫师的徒弟学会了某种咒语来自动的打扫打水和扫地但他呢既无法控制水量也不知道如何让扫除停下来最终呢地板被水淹没房间呢也被水淹没了所以呢他在这首诗的结尾引用了老巫师的一句话说只有大师才能召唤出强大的灵魂

包括像科学家维纳他也对这种 AI 持有反对的观点在 1950 年他写了一本叫做人有人的用处的这样一本书里边就谈到了著名的麦达斯国王的问题那麦达斯呢是古希腊中神话中的一位国王他拥有了将任何的东西都变为金子能力然而呢最后他发现他连自己的食物和水甚至自己的家人都变成了黄金那个时候呢他早已经悔恨不已了啊

所以这也体现了说人工智能不可控或者这种非人类的能力的一些难点那哲学家休伯特·德雷夫斯他提出了说人类是特殊的生命体的这样一个变体的理论在 1986 年他的《计算机不能干什么》这本书里面就讲到身体在人类认知中起到了核心的作用认为我们的身体和感官的经验对于理解世界是至关重要的

那行为和认知呢其实嵌入到丰富的背景和情景中的所以人类是在世界互动中自然而获得的而不是通过明确的规则和事物集合来去学习的那智能呢不仅仅是大脑的功能而是整个身体与环境互动的一个结果

所以人工智能是难以复制人类这种情境化背景化的认知方式的也难以模拟人类的这种常识以及日常生活中的直接性的知识所以他也觉得人工智能无法达到人类的智能

那类似的情况呢对于哲学家数学家计算机科学家希拉里普南特在 1981 年他写到的这种叫理性真理和历史的这本书也提到了刚中脑的概念就是把脑子放到一个刚中然后来去思考的这样的一个思想实验

后来其实包括这种黑客帝国盗梦空间这种电影都受到了刚中脑的这样思想的一个启发他就认为说人类的智能不仅仅是算法和计算过程其中还涉及到很多的背景知识文化和情感方面的内容所以这是 AI 最难以复制的地方以上这些都是对 AI 持有这种悲观的想法的一些人

而对于乐观的人比如像马文明斯基他在 1986 年就提出了心智社会的这样一个理论他相信通过理解人类智能的工作原理人们能够构建出一种智能的机器乐观的科学家还包括像雷库兹维尔刚才两位主播已经谈到了他的起点理论

以及斯图尔托罗素这些人都体现出对 AI 的一个乐观的观点其实到了今天其实我们看到各方其实大致已经认同了我们能够去实现人类通用人工智能的观点所以这个也是我们今天能够看到的一个从哲学观点上比较乐观的一种走向或者趋势

那心理学呢心理学应该能告诉我们人类智能不是那么简单的吧没错心理学就揭示了人的智能其实是呃

很多维度的很复杂的比如比如那个加德纳他提出人有好多不同的智能什么语言智能逻辑数学智能空间智能音乐智能等等多元智能理论对还有卡尼曼他区分了我们大脑里两种思考模式一个快的直觉的系统一一个慢的理性的系统二快思慢想是的他还指出了我们思维里各种各样的认知偏差

就是那些不那么理性的思维捷径我们自己也不是完全理性的对啊所以这就提醒我们你想完全模仿人类智能太难了因为我们自己就不是一个纯粹逻辑的机器嗯有道理

对于人类智能到底是什么在心理学方面除了刚才二位主播谈到的加德纳的多元智能和卡尼曼的思考快语漫之外其实早在 1905 年法国心理学家比内和西蒙他们就认为智能是人类判断复杂判断能力的一种体现所以他们共同开发了世界上第一个实用的智力测试工具也就是比内西蒙智力量表

虽然他们没有系统的定义智能的构成但这个量表基本也测试覆盖了人类的各项的能力比如说记忆能力注意力想象力和解决问题能力等等的所以在 1905 年其实这种智力测验表就已经诞生了到了 1980 年代现代的心理学认为无法单凭一个智商的测试的分数就来理解人类智力的全部所以专家们那个时候认为智力就应该是有不同维度的

所以美国心理学家罗伯特斯登伯格使用了心理处理和数学模型来解构人类的认知的任务他提出了智能的三个主要的因素就是分析创造和实践也被称为了三元智能的理论

那到了 1990 年代呢心理学家继续的研究发现尽管一个人的智能可能是足够的但是有可能他仍然无法进行理性的思考和行动所以呢加拿大心理学家基斯斯坦诺维奇首先提出了理性障碍的概念他认为呢智能和理性是不同的概念

智能和认知能力是相关的而理性则更多的关注于思维过程的优化和决策的质量包括批判性思维概率推理科学思维以及避免思维偏差等等一些问题所以他认为在人类的智能里面要和理性来共同的发生作用

同样像美国心理学家雷蒙德尼克森也强调了认知过程的复杂性包括这种知识的获取信息的处理问题的解决和创造性思维等等方面所以他们两个人都强调了人类的认知偏差在人类的思维和决策中能够取到的作用所以人类在处理信息和做决策的时候经常容易受到一些认知偏差的影响导致一些所谓的非灵性的一个行为

所以智能使得人类能够理解复杂的情境,能够创造和使用工具,以及进行抽象的思维而理性是基于人类的智力,智能,能力,从而做出判断和决策的基础所以理性让我们能够超越直觉的反应,能够用更深层次,更系统化的方式来去处理信息

但是人类的很多决策过程中也充满了非理性所以解决非理性的方式就是使用所谓人类的这种反思的能力所以现在的心理学家都普遍认为说反思能力也是超越人类理性的一种能力它既包含理性又大于理性除了反思能力之外人类其实还有一种不思的能力也就是说我到时候不去思考所以它是需要保护思维的一致性的时候需要我们不去思考某些事情

那什么让人类拥有了反思和不思的能力以前的观点可能都来自于说人是有自主意识的所以这就又涉及到说当我们需要有智能我们需要有理性我们同时还需要有反思和不思的能力是不是人工智能也需要必须构建出意识来呢

如果大家想要细致了解关于意识和人工智能的关系这个还是比较复杂的大家可以回去听听我们的第 71 期节目也就是说人工智能是否可以拥有自由意志我们在今天的节目就不再追溯了

那更底层的比如神经科学和认知科学呢他们怎么看神经科学当然它启发了最早的人工神经网络就是模仿大脑神经元连接那个思路对 连接主义但说实话我们对人脑这个可以说是宇宙中最复杂的器官之一吧了解的还是

相当有限确实啊认知科学呢它就试图把心理学神经科学语言学人工智能哲学这些都整合起来用计算模型来理解心智是怎么运作的

刚才两位主播谈到了各种学科比如心理学 神经科学以及认知科学很多听众可能不太理解这几个学科之间的相互的区别所以这里边我们也正好做一个比喻帮大家深刻的理解一下这些不同学科的差异

比如心理学大家可以想象为它是一种侦探负责解开人类的行为和心理过程的各种谜团他们主要使用这种观察或者实验或者访谈的工具来去搜索这种搜集线索分析人类的思维情感和行为模式所以他们要解决的问题主要是说为什么人们在特定的情形下会表现出某种特定的行为以及心理疾病是如何发展的以及如何治疗所以这是心理学家

而神经学家我们可以看作是一种工程师他们深入大脑的这种电路板线路板来研究神经元之间是如何传递信号的以及这些信号是如何构造起一个复杂的认知功能的

所以他们利用的是电生力学神经成像的技术以及分子生物学等等的一些工具来探索大脑的结构和功能他们要解决的问题主要是大脑中特定的这些神经网络是如何支持感知记忆和思维的这种神经退行的疾病又是如何发生的我们将要如何治疗和防御他们所以这是神经科学

而认知科学更像是一个构建心智的一种建筑师他们设计和分析心智的一个建筑的蓝图他们研究心智的计算模型试图理解心智是如何通过信息处理来实现认知功能的

他们主要使用的是逻辑算法和计算模拟来去构建这些理论来解释人类和其他智能生物是如何理解语言解释问题和做出决策的他们要解决的问题主要是心智的基本工作原理是什么智能行为背后的计算过程又是什么我们将如何能够创建模拟人类的认知的人工智能的系统

所以我们可以看到认知科学家的很多人都是来自于人工智能的研究领域的认知科学也是伴随着整个人工智能的领域的发展而发展起来的它的核心理论和思想也是在不断的完善的过程中所以这就是这三位学科的主要的一个差异

那从这些角度看现在的 AI 跟人脑比差距在哪儿差距还挺大的比如学习效率 AI 现在特别是深度学习需要喂给它海量的数据才能学好但人呢小孩子看吉尔猫就能认识猫了还能举一反杀对人学得快多了还有适应性 AI 模型训练好了基本上就相对固定了但人呢我们能不当根据新环境新信息调整自己非常灵活嗯

持续学习和适应再有就是能耗我们的大脑功耗极低但运算能力超强现在搞 AI 能耗还能有大问题这个确实 Server 耗电惊人对啊毕竟人脑是几百万年进化出来的

这个效率目前的机器还差得远好这么一圈聊下来感觉思路清晰多了你看我们之所以老拿人类智能当掺造主要是因为它的通用性对吧这是我们目前唯一真正了解和拥有的通用智能范本没错而且从合作和安全的角度考虑我们也确实更希望未来的 AGI 能

在某种程度上像人一点对至少能理解我们能跟我们沟通行为模式别太离谱这样才好合作也相对安全可控是这个道理但同时呢刚才聊的哲学心理学神经科学这些又反复在提醒我们提醒什么人类智能这东西它本身就超级复杂是深深扎根在我们的进化历史我们的身体我们所处的环境还有我们的意识里面它不是个简单的计算问题绝不是

它不是单一维度的计算能力那么简单有很多特性比如尝试推理情感创造力自我意识目前的 AI 还差得很远甚至不知道路在哪理解了所以虽然我们以人为目标但必须认识到这个目标的复杂性和独特性对这就给我们留下了一个挺值得琢磨的问题什么问题就是

就是说如果如果有一天我们真的创造出了超级智能就是能力远超我们的那种那会是什么样的一种情景我们又该怎么去面对这样一个既强大又陌生的存在呢这确实是个需要好好思考的问题那好今天节目的主要内容就到这里

下一节目开始我们将围绕着两位主播给我们留下的话题也就是说当我们走向 AGI 或者我们达到 AGI 这个节点之后会发生什么样的一个情况我们也来聊聊说各路专家学者对于如何走向 AGI 以及它的时间节点以及后续会发生什么一些预测的一些内容这样的内容我们大概会分成三期节目来聊来自于不同专家的一个观点

那好如果您对我们的节目内容感兴趣也希望您能评论订阅和转发好我们下次节目再见

奔赴著一個個悲劇 用人靈聖劍的暴力偶然重複成命運 又有什麼陪你擦身而過的瞬間我的孤獨忍住你的孤獨

嘿 原來春天這麼美幸好沒有負能再冰解偏偏在最好的年紀失去愛的能力多麼愛不釋手的遊戲都感動不了自己

我奔赴著一個個悲劇用難聽成天的暴力當了那麼多的道理還不是輸給上帝嘿 你擦身而過的瞬間我的孤獨忍住你的孤獨

嘿 原來春天這麼美幸好沒撫冷在冬天

黑擦身而过的世界我的苦就染出你

的孤独原来春天这么美幸好不能再冬天