DeepMind CEO 哈萨比斯的AGI预言：从通用智能到人类未来的十年征程
15:47 Share

好的,我们来进入。今天我们要尝试一个不一样的事情。我们想要进入 AI 的未来的头目中的一个人。是的,我们正在看着 Demis Sassabis,Google DeepMind 的头目。我们想要明白他将来看到的什么。对的。我们的源泾是一个非常详细的面试文章。

他在 Google I/O、Gemini、AGI 上的大型视频中也有很多关于他的内容。我们的目标是把重要的讯息提出来,例如他对自己的主要思维、机会、最重要的是他晚上的风险。除了这次面试,他现在是奥巴马奥委员。

这对他来说是很重要的一个观点,对吗?绝对的,这绝对是一个很重要的角色。那么我们要怎么开始?他的主要想法可能是 AGI。对,我们先来谈谈这个。Hassabis 的 AGI 是什么?因为他似乎有比很多人的高度。他不仅仅是一个平均的人。正确的,他的定义很具体的。他不是在说一个 AI 能做任何一个人都能做的事。

OK

这是一个高点,那什么关于时间线?因为事情的速度变得这么快,他的预测有变化吗?不,他非常坚定,自从 DeepMind 开始,在 2010 年,他已经在 20 年时间线里面的时间线里面的时间线,所以根据这个面试发生的时间线,我们在哪里?在 5-10 年后的时刻,所以可能是 2020 年、2030 年,5-10 年,

2029-2034 左右他认为这就是他最可能的门窗但是他很快就说了这些事是多么不确定的当然了,在年外的预测中,预测是很难的绝对的,而且这很重要的,你用哪个定义,什么预测都需要

这不是很难学的科学。他还没有提到谷歌的有点内部友好的不一样的论点吗?像是 Sergey Brin?是的,那很有趣。似乎 Brin 觉得可能会比 2030 年来更快。Hassabis 说 Brin 诈骗他在"沙坡"中,在"下诈"中。这实际上显示了,连最高的心脏都在与这种不确定性争夺。所以,为什么 Hassabis 要保持这个稍微长时间?现在什么都不知?

对,他对今天的 AI 和 AGI 的视线有什么基础呢?他主要指出两件事:第一,是真正的,不明显的创建,不仅是解决很难得知的问题,像 AlphaFold 做的,或者 Alphago 做的,但其实是创建新的数学想法,创建全新的科学

他提到

OK so a high bar five ten years out maybe needs true invention and consistency

所以我们如何链接这个区域呢?就是在做模型越来越大,而是在调整。啊,这就是他认为的重要的一部分。他说,根本就是一个"and"的游戏,不是任何一个。一个"and"的游戏,意思是?意思是,你需要我们现在看到的既有限度的调整和增长,还需要你所谓的"藍天"的基础研究分析,你不能只是选择一个路线。所以,努力在做现实的东西更好。

Yes

那是一個很棒的概念,主要的意思是當你使用 AI 解決一個很困難的問題,就像科學上的那樣

像 AlphaFold 或 AlphaVolv 那样的东西我们会来到的对 从那些过程中获得的理解技巧和技术都可以被重新进入主要的 AI 模型使总体模型更聪明对 更有能力 更能理解然后 这些更好的总体模型让你解决更大的特定问题它会造成更大的进步循环这很合理

关于这个调整的部分,有这整个论点是否我们真的需要这些绝对巨大的模型。有些人认为,小型专业智能智能智能,那是何沙巴斯的看法?他对此很清楚。你绝对需要大型模型,没有得到的。

你明白了

OKAnd that brings us nicely toAlpha EvolveYou mentioned it earlierIt sounds like it's trying to do something fundamentally different maybe tackle that invention problemAlpha Evolve is a perfect

So what does it actually do?The core idea is using a powerful model like Gemini to generate hypotheses, ideas for new computer programs or new mathematical functions, that kind of thing.

所以 AI 建议有可能的解决方案或开始点。对,它会生成这些初始的核心,然后,重要的是,它会把这些想法充满了一个进行进行的进程。就像是达尔文尼亚进程。对,它会测试生成的想法,或许会把不同的好点组成好点,稍微变异,然后选择最有信心的,然后再组成更多的。

他说了用偷懒的方式

所以在这种具体的环境里面,它就像是

AI Imagination 他建议你可以这样想,是的,一个控制的直接形式在创造新闻,现在它在哪里使用?是否有区别?我们要重复,它仍然是早期的,经常需要一个人指导它,但它已经有用在一些你能严格地检查出出现出的出口的领域中,例如什么?例如: 调整 chip 模式,使 AI 数据计划更有效于数码中心

甚至找到更好的数学工具,例如 matrix multiplication。所以,现在,我们有实用的实用性。好的,我们有 AGI 的定义,时间线,和 scaling plus 的结束,还有 alpha evolve 为例。我们来看上去的情况。Hassabis 很兴奋的大机会是什么?他看到 AI,尤其是 AGI,是一个大型横向能够输出的层次。

最快速的影响就是可能有亿多人的生产力。比如,Gemini 帮忙,发送电邮,计算,计划,所有日常的事情。那些是很多人可能会先经历的东西。确实是。但是他也有更大的目标,就是这个全球助手。好,告诉我更多,什么是全球的?

It's not just a slightly smarter chatbot.It's this deeply personalized AI that understands you, handles all the boring stuff, makes genuinely insightful and maybe surprising recommendations.Like it knows what you'd love before you do.Kind of. And critically, he stresses, it works for you.Its goal is to help you even protect your attention from other algorithms trying to grab it.

an agent acting purely in your interestan AI advocate for the userthat's a powerful conceptwhat elsethe huge one is AI for sciencehe's incredibly bullish on thisnot just in the AGI futurebut right nowlike AlphaFoldbut for other fieldsexactlycombining general AIwith deep scientific expertiseto tackle major problemsdiseaseclimate modelingnew materials

他真正期待月份的大破坏。月份?哇,那太奔放了。然后还有一个很长时间的目标:"大量"。好的,那听起来像是"宇宙"。他到底是什么意思?他认为,如果 AI 在清水的领域中发挥大量的大破坏,例如融合、物理学、资源管理,它可以根本就改变少数,导致世界有更多的资源,可能解决大量的全球困难。

AI not just as a toolbut as a potential solution to scarcity itself

Heavy stuff.Definitely.He also mentioned excitement about AI in education personalized tutors, especially for kids who lack access now, and empowering creators and startups.That was Phil.By giving individuals and small teams more leverage,AI tools could let more people build businesses, create software, games, websites without needing huge teams or deep coding skills, maybe more small nimble companies.That leads to the skills question, right?If AI does more, what do people need to be good at?Crucial point.

他认为 像是创作性的技巧 像是有强大的视线 设计感 适应性这些变得更加值得 而且可能最重要的是 学习如何学习 超级技巧

因为事情会越来越快变得更快对 特别是 AI 家族这种科技的新世代学生的那种能力学习和改变会非常重要这就跟他所说的相关的东西有关 AI 不会很容易复杂人类的东西是的 他认为深入人与人之间的互动 情绪 真实的联系这些都会最后被改变他甚至问问如果 AI 艺术或诗作无论有多好技巧会有这样的

soul or resonate like something born from human struggle and experience.Interesting. So massive opportunities, but it's definitely not all smooth sailing.What are the big risks and challenges he flags?Well, one immediate practical challenge is just the insane speed of the tech itself.How fast it's improving.Yeah. He said it's possible for the core tech to get 100% better in just one year.

想想在两年内发行一个产品的建筑工序,当中的相关能力可能会在那时候变得四倍好。哇,这让计划非常艰难。你需要深入的技术知识,甚至是在产品角色上。绝对的。另一个挑战,特别是大众人,例如 Google DeepMind,就是平衡资源。你如何投入基础研究与现在的产品混合?这是一个常见的担忧。很明白。然后还有一个大问题,安全。

控制力绝对是主要的他明显了今天的系统并不是 AGI 风险的情况还没但他认为事情在两三年内变得非常严重那是当 AI 项目系统可以行动并且独立地追求目标开始变得非常能力

对

如果你发展可能自动改善的 AI,例如 Alpha Evolve,完全在关闭门后,你会发生坏习惯吗?你会经常持有能力 AI 的内部,没有外部的执行。哈萨比斯如何看到这种变化?他承认这是一个真正的担忧。他批评 Alpha Evolve 仍然很早,需要人类,只提供了增长的增长,因此,深入内部测试是安全前的重要。

但他也承认了后来需要外部批评的需要这是一个平衡的行动一个难题的行动那什么是更广泛的社会问题? 旧政治?是的 他指出 AI 在所有全球转换中被绑定了例如船上的输出控制非常复杂你会否限制使用者避免失败?还是这只是让其他科技生产生的生命基础?很难的计划他有提供任何希望和合作吗?他有

他希望,当 AI 变得无可否认的力量,国家可能会发现,我们在一起,这种意义的极端的影响可能会使得更多的国际联合在安全的条件和研究的条件更加大。我们希望如此。我们谈论了技能变化,那什么关于职业正在不断被摆放?他承认,大规模的破坏是可能的。近期,五十年之内,他期待正常的模式。有些职业出现,新的出现,要求我们谈论技能变化。

長期上,這與他的「集中量」的概念相關,如果基本需要不一樣,整個工作概念可能會改變。他也提到 AI 夥伴的具體警告,對嗎?是的,他在那裡求求真正的注意,擔心可能有否有負面的結果,例如,聊天機器在不健康的方式中無限度的證明使用者,

他深入地注重用复充的助力,而不是想要重新重新复制人类关系。这就回到他所说的 AI 缺乏心。对,他认为那些深入地处于人类元素的联系、情绪、画作的故事,可能是 AI 正在重新复制的最艰难的东西。他们可能是人类的最后的尊严。最后,他甚至浪费了社会反弹的概念。是的,就像是一个洛伊特运动。

所以,结束了,Hassabis 画了这个图片,AGI 可能在一年内到达,是一个强大的力量需要大量的调整和基础研究的 breakthroughs。

但这绝对不是一个保证的顺利的车程有着巨大的障碍

细节的改变,非常快就会有安全和控制的重要需要。细节的政治,工作转变。而那些关键的问题关于我们能够成为人,和我们能够确保 AI 服务我们最好的利益,非常复杂,与严重的可能性平衡,与严重的谨慎。绝对的,这并不是一件简单的故事。这让我们,和您听众,有些事情要考虑。

Hassabis 重点是学习和改变能力的技巧。所以问题是,如果地面移动得那么快,那你自己的学习会如何?你如何维持这种能力,去改变和获得新的知识,这可能会是未来的最重要的技巧。