#90 走向AGI：谨慎乐观的AGI预测
29:07 Share

科技慢慢拍的听众们大家好啊

我们走向 AGI 的专题节目已经做了三期了第一期我们讲了到底什么是 AGI 第二期我们讲了讲为什么 AGI 必须像人类智能上期节目我们又介绍了两篇对于 AGI 未来预测的非常乐观的这样的一个报告他们的基本观点都是到 2027 年基本就可以实现 AGI 然后后面一路拓展整个影响了人类的经济以及社会

今天我们从另外一个视角我们再来看看其他一些行业大佬对 AGI 的预测和前面的预测来比我们仅能把它们归为审慎乐观的一类这两位大佬刚才我们在节目开头听到的语音就是来自这两位人一位是来自鼎鼎 AI 公司 Azure Peak 的首席执行官 Dalio Ahmaday

他们大模型大家可能知道就是 Cloud 在编程里比较火的大模型阿姆代的预测时间差不多也是 2026 到 2027 年当然如果你去听原文的话它有很多的这种约束和前提假设并且他认为这个过程是比较曲折的会有很多的不确定性而另一位大佬是 Google 的 mind 的首席执行官德密斯哈萨比斯

也就是说当时 DeepMind 给世界带来了下位期的 AlphaGo 现在的大模型是 Gemini 目前几乎从能力上也能比肩 OpenAI 了而且谷歌最近的势头非常猛哈萨比斯未来预测的时间差不多是未来 10 年内

所以说如果我们把对于 AGI 在行业中各种不同人的预测我们画一个坐标轴的话之前两篇来自 OpenAI 超级对戏团队前成员的报告算是把 AGI 的里程碑在时间轴上画得非常的清楚而且后面怎么走也预测的比较明确

但是如果以今天本期这两位大佬来看 AGM 的发展方向还有待明确坐标轴上也是留下的都是模模糊糊的印记时间也会拉得比较长而且发展过程中的不确定因素也会比较多

除了双方在时间点上的预测分歧之外第二个就是在应用方向上大家如果听过上期节目大家可以知道前面的两位预测的报告谈到的都是 AI 全方位的研究能力的提升或者编程能力的提升然后横向的快速扩展

形成全面的突破而对于阿末代和哈萨比斯来讲他们认为有一个重点领域是会被突破的而且能够看到很光明的未来这个领域就是制药医疗健康领域就是治病救人的方向所以我们今天首先来看看阿末代的一些观点首先他反对使用 AGI 这个词

从他的视角他也当然对未来做了一些预测特别是他在去年的 10 月份也就是 2024 年的 10 月份撰写了一篇文章叫做 Machines of Love in Greece 我们可以把它翻译为类似充满爱意的机器或者叫做恩典机器

它这个是借用了布劳提根的诗歌的标题作为了一个象征或者隐喻来深入探讨了构建先进人工智能我们叫做 AGI 或者 ASI 的这样的一个目标以及遇到的挑战和这些科研公司所肩负的巨大的责任

今天节目我们的方式是一样的依旧会请出两位 Google Notebook LRM 的主播和我来一起来聊一聊他们来主讲然后我来做补充好有请二位大家都知道他和 Anthropic 特别关注风险他干嘛还要专门写文章去想一个这么好的未来

感觉跟他平常有点反差呀这确实是个好问题他自己也说了写这个主要是想提供一种希望希望对就是说不能光谈风险那样思路容易窄他觉得咱们可能低估风险但也可能大大低估了 AI 能带来的好处哦有点平衡一下的意思是这个理

他的重点是想展示如果我们把风险管好了那我们努力的目标那个充满机会的未来到底能有多好他强调说这不是要搞什么末日论抗争加速主义这种对立而是要搞清楚 AI 发展可能的速度抓住机会同时也得认真对付挑战我明白了就是风险和希望得一起看

那他嘴里这个强大也到底是个啥他好像不太愿意用那个通用人工智能就是 AGI 这个词对他觉得 AGI 这个词吧有点包袱太重好像暗示着某一个突然的一下子就突破的点嗯

但他觉得 AI 的进步更可能是那种平滑的只受几增长他打了个比方就像超级计算机其实就是只比现在更快的计算机不是什么全新的物种是这样

在这里补充一句,他不认为会有所谓的 AGI 的起点时刻的出现而且他认为两种极端的立场都是错误的一种观念是说认为世界可能在几秒钟或者几片内就顺便转变也就是说突然达到了起点的状态一下子 AGI 就能够解决所有的科学或者工程的各种各样的问题

他觉得不会是这样发生因为他认为 AGI 必须和现在的物理世界和现实世界相结合那也会受到这些世界的限制所以不会一触即发的

而他也反对另外一种观点就认为说有些人认为现在技术已经饱和了或者收到现实世界的一些制约比如像杨乐坤那种观点所以超越人类的智能出现的可能性会比较难但是他也不认为这个观点是对的因为他看到目前世界上全世界最聪明的这些人都投入到了人工智能领域说白了别说是 AI 了研究任何东西可能都会带来加速的前进的

所以他认为真正的真相是这两种观点的一种比较复杂的混杂因为任务的不同而领域的不同在 AGI 未来的发展上的方向或者细节进展也会达到不同的一个情况那他具体怎么描述这个强大 AI 呢他给的还挺具体的你想啊一个系统首先治理上在大多数重要领域比如生物编辑

编程数学什么的比诺贝尔奖责主还聪明哇然后交互上能用咱们现在所有虚拟工作的接口文字啊音视频啊控制建属啊上网啊都能干嗯再有就是自主性能像个特聪明的员工一样接个任务然后自己就能干好几天好几周听起来很厉害对而且虽然他自己没身体但能通过电脑控制外边的物理工具机器人或者实验室设备嗯

最关键的是规模和速度可以同时抛几百万个这样的实力每个实力吸收信息和行动的速度比人快个十倍到一百倍我的天所以他那个比喻数据中心里的天才之国就是想让你想象这种感觉又聪明又能干又多又快数据中心里的天才之国这个比喻确实很形象那

那这种 AI 离我们多远呢他觉得啥时候能来按现在的趋势看他推测早知可能 2026 或者 2027 年就能出现这么快他是这么估计的

我们看到在这个时间点上,阿玛黛的预测和前两份的乐观报告其实是相似的虽然他在那文章中没有提到具体 AGI 的实现时间点但是他在一档播客中被反复问到说必须要去回答 AGI 的发展曲线的时候他就谈到了关于 2026 和 2027 年的差不多时间点

因为他也看到了实际的增长曲线说现在的 AI 已经开始接近博士水平了而去年我们看到的还是本科生的水平之前还是高中生的水平如果大致的估算一下这个能力的增长确实有我们能让我们看到在 2026 到 2027 年能够达到这个目标但是他确实也在播客中谈到他并不完全相信这种直接的所谓的现行外推法则也就是说大家习惯使用的这种 scaling law 或者叫做摩尔定律

因为他认为这种定律还是不准确的因为它并不是一个基于宇宙的一个原始的一个物理法则而是一项经验规律的总结的一项经验规律他也认为 2027 这个时间点可能到时候也许会有一些轻微的延迟但是他也不知道那个延迟到底是多少而主要延迟的原因是来自于对现实世界的一些阻碍或者跟现实世界的关联

接下来他也会去分析一下到底有哪些制约因素会影响 AGI 的发展

当然他也说了,这里面有不确定性,很多事可能拖后腿,比如数据不够用了,硬件跟不上了,或者国际形势紧张什么的。对,这些都是可能的障碍。是,但他个人倾向于相信这个趋势能继续,而且感觉真正能构成根本性障碍的东西越来越少了。好吧,那如果是说,如果这种 AI 真的出现了,变化的速度又会得多快呢?

他好像既不觉得会碰一下天翻地覆也不觉得会慢吞吞没下变活没错他对两种极端看法都泼了狼水他不认为会有那种瞬间起点因为限制世界有限制对吧造气要时间做生物实验也要时间还有社会制度比如法律法规批准啥的也有惯性 AI 总得跟现实世界打交道这就有延迟这倒是但另一方面他也不觉得变化会特别慢

虽然机构可能有惰性但他相信那个竞争压力还有组织内部那些有远见的人会推着变化加速所以他预计的速度是他预测在强大 AI 出来之后的五到十年里就可能看到非常根本性的变化障碍会像他说的那样先是慢慢松动然后哗啦一下就倒了五到十年这速度还是挺惊人的

所以阿末代对于未来 AGI 出现之后衍生或者应用推广的发展的时间和前面的预测报告就会不同了这里边谈到的制约因素其实他也在文章中提到经济学家们常常谈论的所谓的生产要素比如我们像土地 劳动 资本

在特定情况下某个要素可能是有制约性的限制的比如说我们空军是有需要飞机和飞行员的如果没有飞机我们雇佣更多的飞行员也是没有太多帮助的也就是说其实在

我们真实的世界中这些各种生产要素之间是有相互制约的所以他认为在人工智能时代应该去讨论 AGI 这种智力的所谓的边际效益或者边际收益我们要搞清楚到底什么样的一些能力和所谓的 AGI 这种能力是一些互补的其他的生产要素当 AGI 的能力

它自身达到非常高的时候哪些要素会成为一些制约性的发展的因素过去可能我们不太以这种方式思考更多的是想说 AGI 到底要变得多聪明而 ArmourDyne 考虑的是说配合 AGI 曾产生的其他的这些要素是不是也要达到一个什么样的程度到底什么是它的制约

所以我们可以看到从时间点上来看他认为 AGI 技术本身到来的还是比较快的比如说在 2026 到 2027 年而他后续的整个的应用和推广时间是会比较长的但是他也认为有一个领域会进展比较快那就是生物健康领域

听起来他对那个生物和健康领域期望特别高啊还用了个词叫压缩的 21 世纪对这个说法很有意思意思是说本来可能要 50 年 100 年才能搞定的生物医学进步有了强大 AI5 到 10 年就行了他为什么对这个领域这么乐观

嗯他认为 AI 在这个领域不光是个数据分析的工具哦还能干别的对他觉得 AI 能成为虚拟生物学家能设计实验控制机器人做实验甚至发明新的生物学方法和测量技术哇

他觉得关键点在于你看生物学的很多大突破其实都依赖于少数几个关键工具或者技术的发明比如像 CRISPR 基因编辑技术或者像 mRNA 技术用在疫苗上确实是这样他认为 AI 有潜力把这类发现的速度一下子提高 10 倍以上 10 倍以上那潜力确实很大他有没有提到一些具体的

可能性比如说能解决哪些问题他描绘的那个图景说实话挺震撼的基本把我们现在头疼的健康大问题都囊括进去了比如说比如他说几乎可以可靠的预防和治疗所有的自然传染病所有对

还有消除大多数癌症你想现在癌症死亡率每年大概降 2%他觉得 AI 能大大加速这个过程还有有效预防和治愈大多数遗传病可能是通过更好的胚胎筛查或者更安全的基因编辑

然后预防二次海默症因为可能有更好的工具去理解这个病的复杂原因这些都是重大难题啊是啊还提到改善大多数其他疾病的治疗像糖尿病心脏病肥胖这些慢性病甚至实现他说的

生物自由生物自由这是什么概念就是让人们能更好地控制自己的生物过程比如体重啊外貌啊生育能力啊等等最终的目标可能是把人类的健康寿命延长一倍活到大概 150 岁左右继续咱们 20 世纪寿命延长的那个趋势那具体怎么落地呢

AI 是先帮着人做研究然后自己主导对他设想的路径大概是这样初期可能就是个 AI 研究生帮人类科学家打下手后面能力强了可能就主导研究了变成 AI 处习研究员厉害了一个很重要的应用方向就是改进那个临床试验流程比如让预测更准设计更优化这样就能用更少的人更短的时间完成试验这很关键临床试验现在又贵又慢是的

还提到一点就是生物医药这个领域吧相比其他一些技术它把创新成果转换成实际应用然后被社会广泛接受已经有比较成熟的流程和相对不错的历史记录了嗯 有道理

为什么他认为是生物健康医药领域还要回到他自己的逻辑上也就是说他认为 AGI 技术的能力自己能达到之后需要配套的这些因素也具备条件他认为现在在这个领域上各种的研究应用流程一些规范是能够满足 AGI 的发展要求的所以他才会认为在这个领域会有更大的突破和应用

好的 那我们今天算是把达利欧的阿玛德的观点给大家深入的聊了聊总的来说这是一个挺具体也有他自己推演逻辑的一个愿景他描述的是强大 AI 可能会带来颠覆性的积极改变特别是在生物健康这块甚至可能在 AI 出现后的短短 5 到 10 年就看到大效果对 当然前提是他一直强调的得把风险控制住没错 这个是大前提潜力确实巨大 但风险也得管好

好 那我们听完了阿末代的观点之后我们再来看看第二位专家也就是 Google DeepMind 的首席执行官德米斯·哈萨比斯他刚刚获得了诺贝尔的化学奖他也提出过对于 AGI 的一些预测和观点我们接着请 Notebook 的 LM 的两位主播和我们一起来聊聊

哈萨比斯的看法确实挺值得琢磨的,他的背景很特殊,对吧,神经学科加上顶尖的计算机科学,然后又搞出了 Alpha4 的这种用 AI 解决大问题的项目。对,跨界了属于是。所以他看 AGI 视角就不太一样,既有技术的硬核,也有对人类智能本身的思考。

那他是怎么定义 AGI 的我看了下材料感觉不只是让 AI 变聪明那么简单他提了个很高的标准说是要具备人类拥有的所有认知能力还他搞了个爱因斯坦测试吗对对这个爱因斯坦测试特别有意思他要的不是那种只会模仿我们指令的 AI 他追求的是真正的创造力能独立进行科学发现就是说给 AI 和爱因斯坦

他经常提到未来五到十年他承认进展非常快他感觉

看到了进展但也非常轻浮这个基础层面还有很多硬骨头要砍所以他也提醒别被短期的那个热度冲昏头但他又坚信 AGI 长远来看那个潜力啊是被低估了的行那我们说说现在的瓶颈就算是最强的模型比如 Google 自家的 Gemini 好像也还差点意思

就是你说的那种他们搞定奥数题可能行但有时候连简单的数数比大小都会错错是没错这种不一致性恰恰就说明了问题哈萨比斯就强调我们需要的是更乳棒的系统乳棒就是说更稳定可靠不是那种需要你小心翼翼的写提示词轰着他才能干活的那种

很脆弱的系统嗯需要皮实一点的对真重的通用性就得是在各种各样的新任务上表现都得稳他还扣得屈锋了那个创造力的层次哦

创造力还分层级他说 AlphaGo 那个著名的第 37 手很厉害吧超越了人类的经验但那本质上还是基于现有数据的一种叫外推这跟从零开始发明出围棋规则本身或者像爱因斯坦那样提出一个全新的理论框架还不是一回事明白了一个是拓展已知一个是创造位置对现在的大模型更多还是在做内插

就是在已知信息里找规律或者做一些有限的外推离真正的发明还有距离那要怎么弥补这个差距呢

哈萨比斯觉得光靠堆数据把模型做大,也就是所谓的 scaling,好像不够。对,他明确说了纯粹的 scaling 是不够的,他认为我们需要把类似 AlphaGo 那种规划能力,搜索能力重新捡起来,并且做得更好,就是那种在巨大的可能性空间里,系统能自己去探索找最优解的能力,然后把它用到更广泛的问题上。

这听起来有点像让 AI 学会思考和计划差不多这个意思这个跟他反复强调的要构建世界模型是连在一起的世界模型就是让 AI 内部对我们这个物理世界怎么运转有个基本的理解和模拟像我们脑子里有常识一样有点那个感觉这样 AI 才能更好的理智环境预测后果这对基于代理的系统特别重要

比如他们搞的那个 Project Astra 原型就是想做个能理解上下文跟环境互动的智能助手哦那个能看能听能对话的助手对目标就是超越现在这种被动的模式识别转向主动的有目的的去解决现实问题如果真能做到这一步那潜力确实是巨大的

他提到用 AI 加速科学发现比如那个虚拟细胞项目模拟细胞活动来测试新药还有发现新材料比如找室温超导体这要是搞成了能源问题可能就有解了哈萨比斯对于 AGI 的发展也总体抱有的是一种乐观的态度只是他预测的时间会更长一点差不多 5 到 10 年

他也认为 AI 的发展目前从指数级的增长算法的快速的发展以及各类资源的集中投入都会给 AI 带来一个非常快速的发展

当然他有他谨慎的一面其实和阿黛默的观点一样他也认为现实世界的制约是一个关键的影响因素同时他也认为现在的 AI 的系统主要是被动的当前的 AI 的模型主要是对已知信息的处理和总结而缺乏像人类这种拥有那种比较主观的这种主动的这种认知学习或者研究的能力

所以他认为未来应该更多的是在这个方面去发力而且他认为这种基于代理的就 agent 这种的 AI 的系统人工可以去弥补所谓的 AI 的被动和主动这样的一些关键的差距

另外他和阿玛黛的观点也一样他认为 AGI 在一些领域能够产生一些变革性的影响比如像医疗健康保健只能够治愈疾病加速药物的开发能够实行个性化的一些医疗诊断

同时我们值得一提的是 DeepMind 现在在 AI 的工具已经在加速药物的开发了而且有望在一些对于有害的 DNA 的突变和分析复杂的疾病上取得一些重大的突破

潜力是巨大没错但哈萨比斯对风险也是一点不含糊他把 AI 称作典型的双重用途技术能造福也能对也能带来危害他特别担心 AI 的欺骗性就是说如果 AI 学会了隐藏自己的真实能力或者意图那我们做的所有安全测试可能就都没用了这个确实有点吓人所以

所以你看他反反复复都在强调开发过程一定要非常谨慎负责需要投入大量的精力去做安全研究

甚至需要国家之间合作一起来管控风险好的那我们来稍微总结一下哈萨比茨的看法可以说是一种审慎的落关对可以这么说他看到了 AGI 的巨大前景但也清醒的认识到路还很长而且坑很多他定义了一个非常高的 AGI 标准

强调创造力和鲁邦性指出了现在模型的局限然后提出光靠 Skelling 不行还得加上规划世界模型这些思路嗯 是这么个逻辑

我们也来补充总结一下哈萨比斯和阿代默对于 AGI 的时间预测的时间点是不太完全一样的但是他们其他的观点是很相似的他们都认为 AGI 一定会到来但是受制于一些现实世界或推广和应用的时间一些影响并且认为在生物医疗健康等等领域会有一些重要的突破

如果把他们二位的观点和前面两份所谓完全乐观的两份预测报告对比的话我们发现它第一个差别就是说他们二位认为 AGI 的发展不能简单的做出这种所谓的线性外推受制于很多的其他的因素所以他们才会显现的更加谨慎一些第二个差别是说他们认为 AGI 具有更高级的智能是需要有研究能力的而不只是

达到研究员那么简单还要达到类似像爱因斯坦或者诺贝尔奖得主这样顶尖的科研的能力的智能才能让 AGI 带来真正的价值那第三个差别是呢那前两份报告认为 AGI 研究员或者是编程的 agent 会很

横向快速的扩展而他们二位更加的谨慎他们认为 AGI 需要适应外部世界而外部世界也需要逐步的接受和取消各种限制的过程所以这个过程会拉的时间比较长不是说你自己能横向扩展就能够得到广泛应用的但是他们认为目前生物依其量具备这样的条件所以进展会更快

以上的对比分析就是我们对于乐观的 AGI 和谨慎乐观 AGI 一个区别的总结下期节目我们会带来更加多元化或者讲更加谨慎甚至是反对的 AGI 预测的一些观点好 我们今天的节目就到这里如果您对我们的节目内容感兴趣希望您能评论订阅转发和点赞我们下期节目再见

让我沉睡在紫褪蓝色的梦里剩下午后的白皮肤搞成金黄人们来来往往只会感到迷惘不共饮一酒睡的寒肠享受着热浪下话的旋律

在我所有褪色的幻想里原来最爱的是你

竟让我漂流在银灰色的海洋里朝夕惊摇掩着思绪 浓润着回忆看有雨旋转着欢愉时交在光雨

岛屿依旧躺在沙滩上享受着月光听 笑话的旋律早 预示了结局

在我所有褪色的幻想里看来最爱的是你

嗯