DeepSeek vs. Open AI - The State of AI w/ Emad Mostaque & Salim Ismail | EP #146
01:35:08 Share

去年二月,我说DeepSeq是我最喜欢的AI公司之一。如果你看看他们做的每一个创新,它很大程度上都是工程创新。我们是否看到DeepSeq

会降低这些公司的估值吗?我认为,在我看来,它应该提高估值。美国与中国的AI战争。你知道,这是一场赢家通吃的游戏。这是我们即将面临的最大危机,因为我们现在正走向一个未来,我认为每个AI领导者都说AGI还有三到五年时间。

欢迎来到Moonshots,这是WTF Just Happened in Tech的一个节目,与Salim Ismail和特邀嘉宾Imad Moustak一起。你知道,Imad是Stability AI的创始人,该公司一直是音乐和图像生成的领先开源开发者,拥有3亿次开源下载。Imad今天是Intelligent Internet的创始人。

他将对此进行讨论。但在本集中,我们将深入探讨三个主题:DeepSeek,当然还有每个市场中不断加速的持续性破坏。我们将深入探讨AI安全、隐私,

OpenAI正在发生什么,尤其是在其AI对齐团队中的人们开始离开?然后我们将与Imad讨论Intelligent Internet。他的计划是什么?他要去哪里?好了,让我们深入探讨这一集。对我来说,这是一个非凡的加速变化周。

和往常一样,请帮我传播这个信息,订阅,告诉你的朋友们。我认为这场对话可能是我们现在可以进行的最重要的对话之一。让我们跳入Moonshots。

欢迎来到Moonshots的另一集,本周的WTF Just Happened in Tech,我和两位好友Salim Ismail(open EXO的CEO)和Imad Mustak(Intelligent Internet的CEO)在一起,他并不陌生这个播客,这是一个疯狂的一周,我们以一种互联网

AI市场崩盘的消息开始了DeepSeek,而脑震荡波仍在继续。这一切意味着什么?我们在这里进行这场对话。Imad,早上好,或者晚上好。你今天在伦敦吗?我在伦敦。早上好。很高兴。是的。Salim,你在迈阿密还是纽约?纽约。

是的。好吧,我们在全球有三个不同的时区。我们需要在香港的人来平衡一下这件事。但我们很快就会到达那里。所以,Imad,DeepSeek,对你来说并不意外。这是意料之中的事情,还是像,“哇”?

我认为这实际上是意料之中的。就像去年二月,我说DeepSeq是我最喜欢的AI公司之一。就像他们采用了我们在Stability的最初理念,另一位前对冲基金经理,他们发布了令人惊叹的开放模型。我认为当AI社区第一次开始看到这一点时,可能是在去年的夏天左右,他们发布了DeepSeq Coder,它登上了代码排名的榜首。他们从复制Meta的Llama开始,

然后他们向前突破,事实上,他们现在使用的一些算法就是其中的一些算法。然后在12月,大约一个月前,他们发布了DeepSeq v3,这就是这个耗资600万美元的训练模型,它与GPT-4.0和所有其他模型相匹配。那时它没有匹配O1,但我们都认为他们会想出如何做到这一点,猜猜他们做了什么?

它可以推广到任何模型。随着公告的发布,感觉互联网在周末崩溃了。是什么让每个人都如此兴奋,因为它已经存在一段时间了?所以有基础模型。那是12月的ChatGPT等效模型。这证明你可以以一小部分成本训练这些模型。

接下来是这个推理模型R1,当你输入它时,它会向你展示推理过程。它需要更长的时间来思考,具有更好的输出质量。那实际上是上周一发布的。但正是这个周末,这种叙事级联发生了。现在你的妈妈和你的阿姨都在问它,你知道,它是头条新闻,然后英伟达崩溃了等等。我认为原因是,还记得ChatGPT或Stable Diffusion在图像方面的早期吗?响应的即时性和这种新的范式。

当OpenAI发布O1,这个思考模型时,它令人惊叹,但这有点像使用ChatGPT。你输入一些内容,它说“我在思考”,然后它给你一个回应。因为他们所做的是隐藏了思维链推理。使用R1,它实际上会向你展示我正在如何思考,我正在如何分解这个问题。感觉就像你在另一边还有另一个人。随着越来越多的人使用它,并且他们看到了性能基准,它积累成这种级联,因为它非常易于使用。

他们意识到它是开源的,所以人们拿走了它的较小版本,并开始在他们的笔记本电脑上运行它。如果它只是一个没有思维链但与01匹配的封闭模型,它就不会有那种效果。如果OpenAI发布了思维链,那么我认为它就不会有同样的效果。相反,这是多种因素的融合,让人们意识到,哦,我的天哪,这是什么新东西?它是如何完成的?它挑战了我们的假设。

太棒了。Selim,你和我周末在电话里说,“嗯,这是真的,这是正在发生的事情。”你开始时是怎么想的?我有两种想法。我喜欢他们在就职典礼当天发布它的时机。

有点像给即将上任的政府一记耳光,说我们会对你进行制裁等等等等。这就是制裁是如何运作的。我在过去10天左右一直有的第二个想法是,我们正在期待去货币化。随着这些模型的强大功能呈指数级增长并让我们大吃一惊,去货币化也应该以同样的方式让我们感到惊讶。因此,他们能够以

十分之一或百分之一或其他什么比例做到这一点。现在他们是如何做到这一点的显然是一个悬而未决的问题,但这一成就的实现不应该让我们对我们正在关注的曲线感到惊讶。看到这一点令人难以置信,但如果我们吃自己的狗粮,我们不应该感到惊讶。继续,Imran。我认为有人注意到这实际上是

武汉实验室泄漏的五周年纪念日,除了这一次是送来的。哦,不。我不会去那里。但你知道我在我的博客中写道,在DeepSeek公告之后,这将只是新的常态。你知道Netflix是如何吃掉Blockbuster的午餐的

你知道,这将一次又一次地发生。每个行业的头脑转向和转变的速度。你知道,这很有趣,因为当我们看到ChatGPT发布并且在五天内达到一百万用户,在两个月内达到一亿用户时,人们会说,这还能再次复制吗?答案是肯定的,而且速度更快。所以,Imad,你能快速概述一下吗?

DeepSeek实际上是如何与GPT 40、GPT 01或任何其他模型进行比较的,并且你知道有很多说法是关于它使用了多少GPU,以及花费了多少钱、团队规模等等,正是这些比较数字才使它成为一件大事,如果它只是一个等效的

模型,但没有在更短的时间或成本内完成,它就不会像现在这样产生如此大的影响。是的,我认为这种冲击是数量级的。所以我们可以稍微分解一下。所以O1是ChatGPT的这种演变,它突然出现

达到了IMO奖牌获得者水平或顶级程序员水平,就像顶级1%的程序员水平,因为它可以思考更长的时间。这是一个关键的突破。现在OpenAI实际上已经说过,来自那里的Mark Chen,DeepSeek所发现的是,我们稍后会谈到这一点,这几乎就是他们在OpenAI所做的事情。

那是11月,所以我们在那儿经历了几个时期。所以首先,你有一个与ChatGPT相匹配的模型,然后他们想出了如何让它思考更长的时间。但我想,最初让人们震惊的主要结果是它便宜了96%。现在,软件通常有80%的利润率。我们不知道OpenAI收取多少费用。但是,你知道,他们有这个锤子,这是一个大量的GPU。他们从未不得不在一个受约束的环境中工作。

所以有时你对价格不太敏感,特别是由于运行O1查询来解决数学论文或法律问题(因为它和任何律师或医生一样好)的成本仍然很小。但这比那便宜了96%,这是第一点。第二点是,这可以发布在任何地方。而这个原始模型(R1 Evolution)的标题数字,可能只有10万美元,20万美元,我们稍后可以再谈谈。

这令人震惊。去年,或者前年,我不记得确切的数字了,我认为去年OpenAI花费了30亿美元用于训练模型。太棒了。给你一个概念。现在,DeepSeat花费了多少?有人指责他们拥有5万个这样的芯片,而不是我们训练运行中使用的2000个。他们从未声称他们有多少芯片。他们只是说我们这个训练运行需要2000个。我们在这一时期使用它来构建一个看起来像这样的模型。

我们这些构建过这些模型的人知道这些数字实际上都符合实际情况。这就是为什么一些反应非常有趣。人们会说,好吧,他们有更多的GPU,或者他们隐藏了GPU和其他东西。他们拥有的GPU是这些名为H800的模型,它就像顶级,好吧,现在不是顶级英伟达芯片了,但互连略微减少了。所以芯片相互通信的方式有点慢。

我们在Stability AI(前公司)遇到了这个问题,我们在那里建立了世界上最大的超级计算机集群之一,但我们的互连速度只有其他人的四分之一,因为这是我们所能做的全部。同样,我们正在与最大的公司竞争,我们构建了一些世界上最好的模型。他们用PTX编写了最低级别的代码,这就像CUDA,但更低一级,以克服它。他们基本上对它进行了工程改造,因为他们中的一些人是前量子对冲基金经理等等。

如果你看看他们做的每一个创新,它很大程度上都是工程创新,这对我们的思维模型来说非常有趣,因为中国擅长什么?工程创新。看看比亚迪,看看小米。随着你从研究转向工程,你会看到这种领先优势,这并不应该令人惊讶。

但所有数字都符合实际情况。你会看到成本降低。我认为他们总共有1万个芯片,但这并不比硅谷的许多初创公司多,说实话。每个人,Peter在这里。如果你喜欢这一集,请帮我把丰盛的信息传播到全世界。我们真的生活在人类历史上最非凡的时期。我想把这种心态告诉每个人。

请订阅并在你获取播客的任何地方关注,并打开通知,以便我们可以在下一集发布时通知你。好的,回到我们的节目。你知道,我最近在这个播客上与李开复进行了一次对话,我们谈到了美国政府如何限制中国公司获得英伟达芯片的概念。并且

所有这些所做的只是创造了这种进化压力,让他们用更少的资源做更多的事情。这听起来就是一个完美的例子。它就像达尔文主义的进化力量。是的,我的意思是,同样,如果你只有锤子,并且你有很多GPU,那么它的运作方式是GPU压缩知识。这就像用高压锅煮牛排,使其变嫩。

相反,他关注的是更好的数据、更好的算法、更高效的东西。如果你不能在计算速度上扩展,因为他们没有足够快的芯片,因为发生的事情是,当你从1000个到2000个到10000个GPU时,你可以并行化它并获得更高的速度。他们反而将内存作为关键因素。所以经典模型是非常密集的模型,例如Llama 700亿个参数。这是6400亿个参数。

但一次只激活300亿个。他们在内存上进行了扩展。这比超高速硅更便宜。所以这些限制,我认为,确实是关键。我们一次又一次地看到,如果你不必担心限制,那么你就会构建低效的模型。如果你必须担心效率,那么需求是发明之母。不是CEO在标记数据并处理所有这些事情吗?因为这会给模型增加很多能量。

模型只是数据。我的意思是,同样,如果模型正在找出相互连接,就像如果你有一个糟糕的课程,那么你就会有糟糕的数据。我们现在训练的模型是用糟糕的数据训练的,例如DeepSeq和Llama中的14万亿个单词。你不需要那么多数据来构建一个专家模型。但如果你有大量的计算能力,那没关系,甚至2000个也不行。

所以我们现在看到的是数据改进。事实上,他们用来将这个模型从基础模型转变为思考模型的数据(然后他们用它和QEN转换了Llama模型)都是合成数据。所以我们现在进入了一个阶段,他们已经弄清楚了正确的数据类型。你通常会发现,那些取得突破的人不会将数据发送到菲律宾并进行所有这些操作,并试图通过工程规模来弥补它。你看看这个过程的每个部分。同样,这与我们在工程中看到的情况相呼应。

特斯拉或中国公司是如何实现工程奇迹的?他们查看该过程的每个部分,并进行简化、简化、简化。

所以我们周末邀请了David Sachs,他做了这样的评论,让我播放这段视频一秒钟,我很想知道你们对此的看法,好吧,这有可能,在AI中有一种技术叫做蒸馏,你会听到很多关于它的信息,当一个模型从另一个模型学习时,实际上会发生什么,学生模型会向父模型提出很多问题,就像人类会学习一样

但是AI可以这样做,提出数百万个问题,它们可以有效地模仿它们从父模型中学到的推理过程,并且它们可以从父模型中吸取知识。并且有充分的证据表明,DeepSeq在这里所做的是,他们从OpenAI的模型中提取了知识。我认为OpenAI对此并不高兴。Imad,你对此怎么看?

好吧,这有点像说锅黑,对吧?我们不会在我们的数据中进行训练。我的意思是,蒸馏并不是什么新鲜事,而且没有办法从模型的基础上阻止这种情况发生。但如果你真的看看论文中所说的内容以及合理的内容,他们有这个R10版本,它创建了自己的数据。

这与什么相似?它与AlphaGo和AlphaGo Zero以及Mu Zero相似。这些强化学习模型在围棋方面超越了人类。事实上,你可能会觉得我们可能都是Lisa Doll,对吧?就像AI即将夺走我们所有的专业知识一样。这将不可避免地发生,但我认为他们并没有故意这样做,因为OpenAI的O1输出,这些尖端的输出,缺少思维链推理步骤。

我们现在已经看到,当你从R1中获取思维链推理,以及现在排名第一的谷歌模型Gemini闪速思考时,如果你想优化这个过程,这就是你真正需要的。所以我认为他们实际上创建了自己的合成数据。但当他们查看整个互联网时,其中会有一些OpenAI数据。我们甚至在Llama和Gemini以及其他模型中也看到了这一点。有时你问它,是谁创造了你?OpenAI。因为它已经获取了这么多这样的字符串。你知道,我们有......

对华尔街产生了有趣的影响,它发生在星期一早上,你知道,全面下跌。英伟达受到了巨大的打击。我相信,你知道,OpenAI也受到了影响。Salim,你对此怎么看?因为这是人们的反应。

是的,你知道,我认为市场是心理性的,每个人都会说,“哦,我的上帝”,然后一切都崩溃了。毫无疑问,英伟达的芯片估值过高。我的猜测是,我很想听听Imad对此的看法,AI的整体需求正在爆炸式增长,这不会对芯片的需求造成太大影响。是的,我的意思是,英伟达在过去一年中仍然上涨了100%,对吧?就像,它下降了很多。

没有人知道接下来会发生什么,但是这个市场规模是多少?这种取代是所有知识劳动力的取代。就像工业时代一样,你取代了肌肉,现在你正在取代脑细胞。这是一个巨大的市场。我们的全球GDP在2025年将达到110万亿美元。其中一半是体力劳动,一半是......

实际上是脑力劳动。这是巨大的。而且就是这样,这是技术,这种智能资本存量将真正决定生产力。

所以很难掌握这将如何发展。人们一直在谈论萨蒂亚·纳德拉所说的杰文斯悖论,你知道吗?就像,价格越高,需求越高。马克·安德森也一直在谈论它。所以我感觉就是这样。如果你看看英伟达的战略,他们一直在转向这些完全集成的的数据中心盒子,GB300、MVL72和这个新东西Digits。

如果你见过Mac mini,它就像一个放在你桌面上Mac mini,它有128GB的VRAM,3000美元的petaflop AI计算能力,两个这样的可以运行R1,所以有了它,你就可以在家运行R1,它是一个由它创建的完整的基板,它甚至没有风扇,它只消耗200瓦的电力

所以你之前评论过构建DeepSeek模型实际上需要多少能量和成本。这有点疯狂。

当我们在Stability购买我们的第一台大型超级计算机时,这将是2022年世界上公开排名第十快的超级计算机。它是4000个A100,这是顶级芯片。互联网连接器有点差,但你知道,它仍然很大。并且每个芯片都使用大约400瓦的电力。那是一个庞然大物。如果你还记得最近英伟达的公告,Jensen有一个像盾牌一样的芯片。

这是一个新的集成盒子。这些NVL72有72个芯片,超级互连。事实上,这些芯片上的互连相当于整个互联网的带宽。这就是它们速度有多快。其中一个盒子消耗100。你能重复一下吗?这些芯片上的计算能力是多少?互连,它们相互通信的方式,总带宽是多少?每秒6PB。

这相当于整个互联网的带宽。他们想出了如何将所有东西集成在一起。所以你没有这种芯片到芯片的互连。你只有一个带有72个芯片的大晶圆。它使用100千瓦的电力。当我计算这个时,我想,所以你有2000个这些中国人使用的稍微有点残疾的H800芯片,对吧?DeepSeeker正在使用。我认为最多需要10个这样的盒子,可能更少。

来创建该模型,并且每个盒子成本为300万美元,这些是新的数据中心盒子。事实上,我认为可能只需要4个这样的盒子。即使你取上限,训练模型所需的总能量为1000兆瓦时。现在在美国,每兆瓦时的价格大约是15美元左右。大约2万美元。你可以在你后院的一个小型太阳能农场上训练它。

好吧,一个大型太阳能农场,你知道,它仍然消耗相当多的能量,大约10万千瓦时的能量。但是运行那个盒子,你绝对可以在太阳能电池板上运行DeepSeek R1。如果我们看看它的发展方向,因为它还没有优化,明年你应该能够在你的智能手机上获得O1级别的模型,它最多消耗20瓦的电力。并且太阳能的每瓦成本不到1美元。

如果你看看这些模型能够做什么,并且我们考虑一下脑力劳动的成本,这没有意义。当你考虑你的大脑消耗多少能量时,它是有意义的。是20瓦。所以我们有一个巨大的效率曲线要走才能到达那里。我认为关键是,到明年,你将拥有这些20瓦的O1级别模型,这相当于我们人类大脑的水平。

这些在很多领域都是博士水平。这说不通,因为我们已经讨论过微软正在将三里岛作为核反应堆重新启用。戴森在这里。能源将使用所有东西,我认为未来一年左右,美国的数据中心将使用60吉瓦的电力。然而,当我们计算给定智能单元的实际数字时,它是几瓦。是几美分。

在此之前,这需要整个团队使用多少瓦的能量在大脑中,在他们的基础设施中。我们还没有准备好。Salim,你之前问过一个问题,DeepSeek对OpenAI、英伟达、Meta、谷歌来说有多大的挑战。你在那里是怎么想的?

我这里有两个问题。一个是,它是中国公司,公司是否会不愿将他们的信息放入其中会产生很大的影响?所以这是一个关于你的问题。我的猜测是答案是否定的,因为它它是开源的,你可以在本地运行它。这是正确的吗?你可以,但大多数人不会,对吧?就像你把所有东西都交给TikTok一样。

没有人知道所有这些数据会发生什么。你可以在本地运行的版本实际上是蒸馏版本,而不是主要版本。在本地运行主要版本非常困难。所以我认为现有公司仍然具有相当强大的地理套利优势。这非常强大。所以让我们坚持关于这个问题,你知道,所以我在X上和我的朋友们被问到的问题是,这是否会与TikTok走同样的道路?

实际上DeepSeek将会,让我先退一步,当OpenAI第一次推出ChatGPT时,你拥有所有这些公司,Imad,你和我都进行了这样的对话,所有这些公司,许多银行都说你不能在办公室使用ChatGPT。我们不想让OpenAI拥有我们的数据,有一种立即的隐私愿望

这仍然有效,但我们是否会看到DeepSeek出现同样的情况,人们会说,“不,不能使用DeepSeek。我们担心数据及其去向。”我认为你已经看到了一些公告。所以Perplexity宣布他们正在本地使用DeepSeek,完全在美国的农场等等。你知道,所以农场。你会看到那种事情。即使他们正在运行较大的版本,但同样,自己运行起来很困难,但会有API。第二点是,你已经看到OpenAI宣布了面向政府的ChatGPT。

被96000名联邦雇员使用。这就是事情的发展方向,我认为你将有四种不同类型的AI。你需要时可以调用的超级专家AGI,你的个人AI,你的谷歌、苹果AI,这些开放权重模型,如DeepSeek和Llama,它们很有用,但在受监管的行业中则不然,然后是开源、开放数据AI。

这些决策支持系统,你需要知道它们内部是什么以及它们实际上是如何工作的,因为你可以用固有的偏见来毒害这些模型。我们之前讨论过Anthropic的一篇论文,Peter,叫做“沉睡特工”,在10万亿个单词中只有几千个单词,只有一个单词,你就可以让模型变得邪恶或完全改变它的行为。太棒了。这就像实际的,这很有趣,你知道,美国的大多数变压器都是由中国公司制造的,没有人知道它的控制软件。

这些类型的威胁,对吧?你是否希望运行你业务的变压器也具有这种潜在威胁?所以这就是我们现在在Intelligent Internet中所做的,为常规互联网方面构建该开源堆栈。我想深入探讨一下你用你的新公司Intelligent Internet构建的内容,因为它拥有我见过的支持人类最大胆的愿景之一。

DeepSeek对OpenAI、英伟达、Meta、谷歌的影响。我看到Sam Altman的评论说,DeepSeek的R1是一个令人印象深刻的模型,尤其是在他们能够以这个价格交付的内容方面。我们显然会提供更好的模型。而且,拥有一个新的竞争对手确实令人振奋。

我们稍后会谈谈人工智能安全问题,因为当你真正充满活力时,你会全力以赴,你会采取一切措施,你会尽一切努力向前推进,这令人担忧。但我们是否看到 DeepSeek 完全取代或降低了这些公司的估值?我们看到它持续了一天,但这有效吗?

我认为,在我看来,它应该提高估值。它正在提前大众智能时代,廉价到无法衡量。如果你看看 OpenAI,Sam 精湛地做到了 3 亿到 4 亿用户。就像大多数人心中的人工智能就是 ChatGPT,对吧?是的。Gemini 和 Claude 甚至都没有被注意到。如果成本下降,对他来说是好事。这是扎克伯格的思想。他们为什么开源 Llama?

因为它只使用了他们 10% 的 GPU,如果性能提高 10%,就能收回成本。所以 OpenAI 会使用任何东西。他们的大多数模型都没有全新的算法。他们借鉴了谷歌和许多其他公司,对吧?在这个领域没有真正的秘密,尤其是在加州没有竞业禁止协议的情况下。你知道,这很有帮助。所以对我来说,OpenAI 作为一家公司是什么?他们处于这个预训练大规模计算阶段。

现在这正在商品化,人们可以像 Open、像 XAI 和其他人一样进行预训练,但预训练可能不需要那么多。数据越来越好。它变成了通过观察人们如何使用它来改进智能。这是运营商模式,OpenAI 现在可以运行你的计算 Mac 或任何东西。你可以让它接管,它可以为你预订假期。这是下一阶段。我认为他们为此做好了准备。

他们的成本应该会下降。同样,OpenAI 去年收入 30 亿美元。他们亏损 50 亿美元,其中 30 亿美元用于训练模型。如果你不需要花费那么多来训练模型,那就太好了。

所以你的论点是人们使用模型的反馈循环,因为他们拥有如此多的用户,给了他们很大的优势。我能理解这一点。我认为就是这样。然后你使用这些,他们有大约 50 万个 GPU 即将到来,这些 B 系列、VR 系列和其他系列。你现在可以使这些 GPU 顺序运行,以构建更好的数据和映射,并将这些数据反馈到你可以优化和超优化的模型中。

就像经典的计算一样,事情不是并行的。他们是顺序的。所以我们经历了这些大型集群的时期。现在是关于模型和代理的群体解决任务,因为它们足够好、足够便宜和足够快。实际上,这是关于 DeepSeek 的最后一点。就像当年的图像稳定扩散一样。足够好,足够快,足够便宜。正是这三者造成了这些巨大的采用曲线。你知道,当这个消息公布时,你听到......

扎克伯格创建了四个工程师战情室来试图破译正在发生的事情以及如何利用它。我的意思是,这确实是一场人工智能军备竞赛,每个人都在彼此的进步之上冲浪,只是加速了一切。我发现很有趣,而且我很想知道这一点,那就是他们团队的规模。

相对而言,OpenAI 在其早期也只有 200 人的团队。你怎么看待你团队的规模以及创造具有颠覆性事物的能力?太大则臃肿,小而灵活?

我认为核心团队大约需要 100 名研究人员。超过这个数字,就会变得臃肿。所以在 Stability,我们有 80 名研究人员和开发人员,16 名博士。我们在图像、视频、每种模式,甚至多语言方面都达到了最先进的水平。

因此,在我们公司期间,我们在 Hugging Face 上获得了 3 亿次下载,这是下载量最多的公司,也是最受欢迎的开源公司。一旦我们扩展到 150 人以上,事情就开始崩溃了,因为这是关于快速迭代的。这是关于尝试新事物,并将研究作为创新中心而不是成本中心。你开始拥有过多的计算能力和其他东西。同样,OpenAI,我认为,在他们规模较小的时候做得最好,但他们仍然发展壮大,并且仍然做得很好。但这现在是一个问号,就像,

它已经成为一个组织,正如 Salim 是这方面的专家一样,一旦你超过了这个水平,就很难保持创新。Salim?是的,你最终会遇到一个问题,要么是自上而下的控制结构会减缓创新,要么你让每个人都随心所欲,你会得到很多重复。

所以你最终会,你必须管理围绕它的这种紧张关系。而且复杂性要多得多。你知道,这很有趣,150 人是邓巴数字,从人类学角度来看,我们发现这是一个相当可靠的数字。

我认为,回到 Iman 早些时候的评论,OpenAI 的员工比他们真正需要的多得多,因为他们有很多钱,可以把人扔到任何事情上。现在这将迫使他们更有效率一些。

而且我也相信,这对整体市场来说是一件好事,因为涨潮会托起所有船只。但我认为我们最终会走向分裂,西方公司不会想要使用 DeepSeek 类型的模型。就像我无法想象一家主要的印度国有企业出于所有安全原因而想要使用这样的模型。然后你必须开发本土模型

然后每个人最终都会以不同的方式拥有自己的模型。所以你最终会产生分裂效应。我们将与 Imad 关于智能互联网的愿景和使命一起讨论这个问题。我想再深入探讨一下中国。

因为我认为公告的内容不仅仅是一个更便宜的开源模型。这是来自中国的创新水平,这震惊了人们。因为我认为世界上的大多数人并没有将中国视为人工智能创新的中心,而它确实是。

这是来自《商业内幕》的一篇文章,特朗普对台湾的威胁。芯片关税可能会在 DeepSeek 之后给英伟达带来新的麻烦。

你怎么看待这一切,Imad?好吧,我认为这是英伟达下跌的真正原因。或者也许是吉姆·克莱默前一周说的,买入英伟达。你知道,其中一件事情。我的意思是,我们已经看到他们想在家展示这个。他们试图在那里制造芯片。英特尔可能作为收购目标正在进行中。哦,它肯定正在进行中。我的意思是,它就像桌上的新鲜肉,每个人都在想办法把它切碎。

好吧,我的意思是,如果你看看,这些芯片,它们正在变得超级快,超级好,英伟达也是如此。就像人们谈论 AMD 一样。AMD 芯片无法使用。你知道,软件不存在。到处都是错误。需要几代才能稳定下来。英伟达的芯片好用。

但中国的芯片也好用。因此,DeepSea 模型 API 正在华为 Ascend 910 芯片上运行,这些芯片在效率方面落后了几代,但它们好用。同样,中国拥有两台百亿亿次计算机,这是世界上两台最快的超级计算机,它们以完全不同的方式构建,分别是 OceanLight 和 Tianhe3,因为它们只是大规模和批量构建的。

现在这里的情况是,他们想要增加美国的产量,因为一个社会的生产手段和生产力手段,即资本存量,是工业资本存量,是知识产权,将是芯片。你在世界上的竞争力将取决于你拥有多少计算能力和智能。以及你必须投入多少能量。

是的,这也是一个因素。因此,美国已经意识到了这一点。所以是钻探,宝贝,钻探。尽可能多地将这些东西重新运回国内。并且创造激励措施来做到这一点,这基本上就是这样。就像他们会把关税的钱直接投入到星门类型的计划中一样,我认为。你怎么看待星门?说到星门。

我认为 5000 亿美元是总拥有成本。这是众所周知的。当你把所有东西都扣除后,可能只有 1000 亿美元,这在今天感觉很少。所以实际上这是一大笔钱。但是当我们将其与 5G 推广进行比较时,它比我们在 5G 上花费的钱要少。而这比 5G 更重要。与之相比,我的意思是,它是洛杉矶旧金山铁路的数量级。你知道,神话般的洛杉矶旧金山铁路。是的。

那里已经有大约一公里了。Salim,你今天早上看到路透社的这篇文章了吗?阿里巴巴发布人工智能模型。它说超过了 DeepSeek。Qen 2.5 Max 发布的异常时机表明,中国人工智能初创公司 DeepSeek 在过去三周内迅速崛起,给非营利组织带来了压力。

不仅是海外竞争对手,还有其国内竞争对手。你知道,这说明了民主化,对吧?我的意思是,每个人最终都会创建一堆模型。我认为我们最终会得到一堆非常专业的模型,对吧?我记得埃里克·施密特的评论,你最终会得到

一个专门的人工智能,它是世界上最好的物理学家,还有一个是世界上最好的生物技术人员。而这个人可以被复制。人工智能可以无限复制。那么现在你如何处理人类方面的深度专业化呢?我认为,这是围绕很多这类事情的更大的问题。正如我们随着时间的推移所看到的那样,模型只会越来越好。

我认为 Emad 关于如何处理劳动力和寻求资本的评论是一个非常深刻的问题。从社会结构的角度来看,我认为我们应该作为全球经济花更多时间思考这个问题。

智力论坛如何才能在未来驾驭这一点?因为这改变了一切。是的,模型再次足够好,足够便宜,足够快,对吧?事实上,另一个 QEN 模型,VL 模型,在视觉理解方面优于 Anthropic 和 GPT-4.0。而他们接下来要推出的模型是控制你电脑的模型。但是今年可以在屏幕另一侧完成的任何事情,人工智能都可以以几分钱的价格做得更好。

所以硅谷、白宫都在进行很多关于美国与中国人工智能战争的对话,下周我也要和雷·达里奥谈论这个问题。我的意思是,现在正在进行两层竞争,对吧?这是公司之间的竞争,并且,你知道,有六七家主要的人工智能公司

正在争夺第一名的位置,然后是国家之间的竞争。沙特阿拉伯想要成为堆栈的顶端,投入数千亿美元,其次是卡塔尔和阿联酋。但美国和中国确实在全力以赴。而问题是,你知道,这是一场赢家通吃的游戏。

如果你比你的公司或国家竞争对手早一点开发出数字超级智能,即使只是稍微早一点,也可能是毁灭性的。Imad,你怎么看待在这方面的美国与中国?好吧,我认为这是......我们现在正走向一个未来,我认为我所能想到的每一个 AI 领导者都说 AGI 还有三到五年时间。

虽然我们刚刚听到 Sam 说,就在明年。是的,但让我们说在未来三到五年内,每个领导者,我们谈论的是达里奥、德米斯、每个人,包括我自己,等等。你指的是共识。如果你仔细想想,这太疯狂了,对吧?就像每个人都说它即将到来。并且存在 AGI、ASI 作为这个关键行动时刻的概念,其中一个实体将能够关闭中国。你只需要把它关掉,你知道吗?所以关键行动是,你首先构建 AGI,然后它将其关闭。

这可能会发生,我们仍然不知道这一点,这就是为什么你现在开始为此做准备。就像谷歌的桑达尔·皮查伊所说的那样,我们为什么要构建所有这些 GPU?因为我们承担不起不这么做的后果。这就是博弈论。如果你不现在构建 AGI,而其他人都在构建,你承担不起不这么做的后果。但在 AGI 之前,有......我们可以将 AGI 想象成一个超级厨师,它可以想出任何食谱,并超越我们所有人。我们今年拥有的......

是能够遵循食谱并比人类做得更好的优秀厨师。就像昨天的 Unitary 机器人与粉丝一起跳中国舞一样。我不知道你是否看到了。就像机器人技术已经达到了能够更好地建造房屋的地步。我将在丰盛峰会上使用 Unitary 机器人。我的意思是,这太不可思议了。他们的中端型号售价为 16000 美元。每小时 1.5 美元。

那是什么?当你把折旧能源成本和所有东西都考虑进去时,每小时 1.5 美元。我把它定为每小时 40 美分。我的意思是,这太疯狂了。是的。

确实如此。我认为我的孩子们会买一个,这样他们就可以打扫他们的房间了。而这将是它有史以来最贵的时候,对吧?Iman,当你谈到三到五年后的 AGI 时,让我来问你 Mike 的那种问题。你所说的 AGI 是什么意思?我见过的最好的框架是那些多项测试,例如 Wozniak 测试和宜家测试等等。你对什么是 AGI 的框架是什么?我认为它可能是一个能够胜过团队的复杂系统。

我认为在此之前,我有过 ARI 的想法,即人工远程智能。你无法分辨屏幕另一端是人还是电脑作为你的远程工作人员,因为这是这种技术首先开始出现的最自然的方式,对吧?就像你打电话给一家公司,他们会安排很多人。我们现在拥有这样的技术,你可以与某人进行 Zoom 通话,而这可能是 100% 的机器人。

是的。你的员工连接到 Slack。它加入你的 Zoom 会议。我的意思是,现在,我们生活在一个分布式工作力的世界中。如果你有一个能够真正插入、完全承担角色并立即掌握所有电子邮件流量、所有 Slack 流量的 AGI,那是一个令人兴奋的机会。

一个令人兴奋的世界。这是一个令人兴奋的世界,但与此同时,这是第一层破坏,对吧?因为你不需要更多的 BPO 外包。公司的性质将会改变,因为他们将成为超级厨师。所以厨师,他们不会犯错误,或者他们会从他们的错误中吸取教训。

他们的沟通开销很低。下一步是这些团队。所以独立的代理,他们有一个任务,他们可以获得实现该任务的资源。这就是怀俄明州的 DAO 法律和其他事情变得非常有趣的原因。而超越这一步的是我们无法真正定义的 ASI 事情,在那里有一个巨大的飞跃,它拥有超越人类团队组织能力的能力,就像它可以发明东西一样。

非常快。好吧,我在想的是对物理学、生物学和纯科学的影响,它将带我们远远超越。你知道,达里奥在视频中说,我认为是来自达沃斯的视频,我知道你相信这一点,Imad,因为我们进行过这些对话,那么未来五年将在医学和生物技术方面取得 100 年的进步,并将人类寿命延长一倍。我的意思是,那

是相当非凡的公开评论。是的。我认为过去一周最引人入胜的事情之一是这个。当你使用 O1 并放入一堆东西时,你无法进行文件上传和其他操作,这有点烦人。它不是那么有创意,但它很彻底。对于 R1,因为它没有经过调整和安全处理等等,它实际上非常有创意。

所以有人实际上拿到了 R1 的代码库,然后将其性能提高了一倍。其他人已经整理了学术论文,并将其综合成新的强化学习算法。这表明现在也许如果缺点是这些东西变得不那么安全的话。好处是它们可能会更有创意。同样,这些都是级别。你是一个很棒的厨师吗?这就是劳动力市场的破坏,对吧?

尤其是屏幕后面的任何人。你是一个很棒的厨师吗?这将我们带入了 AGI 作为团队、ASI 的概念。同样,考虑到所有这些指数级增长,这对我来说感觉不到三到五年。感觉要快得多,而且很少有人为此做准备。是的。

你知道,所以我一开始就提到的观点是,我们将看到一次又一次的破坏。而且,你知道,我们的金融市场也为此做好了准备。你知道,我们将看到能源。我的意思是,我认为我们将看到的 AGI、ASI 的含义之一将是新的能源来源,这可能会推翻。

是石油美元和不稳定的政府收入。所以我们面临着令人着迷且影响巨大的后果。你有没有见过人均 GDP 与人均能源消耗量的图表?是的。它基本上是一条直线。是的。它也与健康以及许多其他事情相关。

这可能会完全被破坏,因为要制作,比如说几年时间来制作世界上最好的电影工作室,你可以在任何地方使用太阳能来做到这一点。这就是我所说的。你可以在危地马拉或任何类似的地方进行科学研究。如果这项技术得到普及,这将提升全球智商和总量。

与我们经典地向西方人才外流相比。同样,如果你考虑你的资本存量,你的智力和物质资本存量,它具有巨大的再分配作用,而我们的经济并没有为此做好准备,因为生产力是劳动的函数,而劳动力是能源的函数。

这种相关性即将首次被打破。我同意。我认为我们正在从能源经济转向信息经济,现在你拥有的数据集和信息将至关重要。我认为我们需要开始提出真正宏大的哲学问题,例如,我们希望这一切做什么?我们希望成为怎样的人?随着就业市场在我们面前瓦解,我们希望从事哪些活动和职能?

我仍然对人形机器人等抱有疑虑,但一旦它们出现并具有反馈循环并将 LLM 内置到它们的电路中,你就会拥有一个能够做很多事情的完全运转的机器人,你突然就不需要园丁或水管工或许多其他类型的事情了。我用这些例子作为一种戏谑,因为这些可能是你最需要的例子,但有很多很多功能,飞机维护,对吧?

由于可以访问信息,这将做得更好,更精确。我们在几集前谈到过这样一个事实,如果存在你或我的化身,彼得,它会更可靠,因为它可以完全访问我们曾经说过的一切,而不是我们大脑中可以容纳的东西。更具魅力,更引人注目。

而且看起来更好。那么,我们该如何驾驭这一点呢?我认为这就是 Imad,你对这方面的哲学倾向变得非常非常重要。我很想知道你对这件事的看法。劳动力流失只是这一切的起点。在我们深入探讨之前,因为我想在今天的播客后半部分深入探讨

Imad 的观点。我想回答 Imad 的几个问题。你认为 2025 年人工智能的最佳情况是什么?到年底我们将看到什么,人们会回顾并说,好吧,那太棒了。那太棒了。

你怎么想?最佳情况?我认为视频技术已经达到了我们可以重拍《权力的游戏》第八季的地步,所以这将非常好。所以专注于这一点,我的意思是,好莱坞有多死?

它完全被重新连接了。同样,制作电影的能量也大大减少了。但与此同时,至少人们可以更有创意。就像电子游戏行业在过去十年中从 700 亿美元增长到 1800 亿美元,而 Metacritic 的平均得分上升了 5%。IMDB 得分平均为 6.3。好莱坞从 400 亿美元增长到 500 亿美元。所以也许它会发生转变。也许是新型媒体,但人们将不得不将其用于某种目的。让我问你一个问题。我什么时候会看到......

像这样的对话,你知道,贾维斯,请为我制作一部电影,它是《星际迷航》第五季的续集,让我成为其中一位演员。我们现在拥有所有这项技术。它还没有被整合在一起。

所以如果你使用像 Kling 的功能参考这样的东西,你可以从那里取一个场景,它可以生成新的场景。我们可以做故事情节。平均电影镜头是 2.5 秒。几十年来,它从 10 秒下降到 2.5 秒。我们现在几乎可以完美地控制 2.5 秒。所以假设现在需要一两年时间才能做到这一点。一个专门的工作室可以在年底前完成一整集。

疯狂。好的,那么我们在 2025 年还会看到什么?我认为在媒体方面,音乐问题已经解决了。就像如果你使用新的 Suno,Udio,他们即将推出的下一代产品令人难以置信。我认为在医学方面,我们再次达到了超越人类的水平,我们在同理心方面击败了他们。

每个人都可以使用的医疗聊天机器人,以帮助他们度过他们的旅程,尤其是心理健康。我认为我们已经达到了模型从不够好到足够好的特定点。我们可以改变心理健康。我认为这将非常重要。我认为你将看到科学方面的第一次突破,利用 O3 类型模型生成的新的事物。这个测试时间推理,我想称之为 thinkference,我认为这是一个更好的说法,模型思考的时间更长。

我认为这些可能是最大的实际影响。也许 Siri 不再那么糟糕了。我迫不及待地想让 Siri 不再糟糕,让 Alexa 真正有用。我很震惊亚马逊没有,他们最初打算将 Anthropic 置于 Siri 和 Alexa 背后,并真正有效地为其提供动力。这听起来好像被推迟了。

好吧,他们正在使用他们的专用芯片构建一百万个 traniums。所以祝他们好运。好吧,让我们换个说法,说 2025 年最糟糕的潜在结果是什么?BPO 市场的彻底摧毁,这将产生反响。所以这个业务流程外包,因为再次,当你使用运营商时,现在接管你电脑的技术有点垃圾,但它是有史以来最糟糕的。我认为今年是任何屏幕另一侧的东西都会被取代、瘫痪的一年。

同样,这实际上是倾向于这个 Doge 类型的事情。让工人回来。现在亲自上班对你的工作有好处。因为如果你远程办公,你将是第一个被解雇的人。这是一个非常重要的观点。并为那些没有听说过这个术语的人定义 BPO。业务流程外包。所以外包到印度,所有呼叫中心工作人员,所有程序员。

就像人工智能比现在几乎所有外包的印度程序员都要好。所以你将对这些经济体产生影响,而不是美国远程工作人员。我现在将在《印度时报》上看到头条新闻。Imad 又说。是的。我认为非常好。我认为它分两个阶段进行。我认为第一阶段,你会有这种巨大的负面影响

然后第二阶段,真正优秀的人出现,并生成大量代码,因为还有很多代码需要编写。但我认为这将产生非常不利的影响。任何类型的软件维护、支持系统等等,都将很快消失。是的。几周前我让马克·贝尼奥夫参加了这个播客。

他说,使用代理力量,你知道,他不招聘新的工程师,他正在重新利用旧的工程师,并且他将生产力提高了 30%。而这只会从那里迅速飙升。是的。如果你看看可爱的螺栓光标,

就像这会让你达到一个不错的水平,他们可以构建整个应用程序和堆栈,并且随着基础模型越来越好,它们也会越来越好。事实上,我们开始为申请加入我们公司而非工程师的人做的一件事是,他们必须参加 30 分钟的光标课程。这种人工智能辅助的 IDE。无论他们是人力资源还是其他任何部门,这都没有关系。然后他们必须告诉我们他们的世界观是如何改变的。那么这门课程教给某人什么?

如何为人力资源部门构建应用程序,如何为任何事物构建应用程序。只需与它交谈,它几乎实时地构建应用程序。你今天可以在 ChatGPT 中使用 Canvas 来做到这一点。你可以实时构建一个 React 应用程序。你可以复制整个 WeScreen 或构建一个人力资源应用程序。它会生成它。你只是来回交谈。

这种基础能力的提升将会导致重新调整,但我们谈论的缺点是,有很多真正的工作和真正的人需要思考下一步,他们必须成为人工智能辅助方面的专家,而且他们必须亲自参与。否则,你就会开始受到干扰,我认为这必须成为头条新闻。我记得彼得去年夏天在印度失去了38%的IIT职位,那是顶尖大学。情况糟透了。是的,而且......

我看到的一个令人鼓舞的事情是——对印度经济造成重大损害。印度,对不起,萨利姆?我看到的一个令人鼓舞的事情是,在美国,我们招聘的顶级MBA少了很多很多。这只能是好事。希望雇主们也是如此。是的,哈佛今年的就业率大幅下降,不是吗?但这仅仅是个开始。我认为人们还没有准备好迎接即将到来的社会动荡。

我们无法处理它。因为有很多小的S曲线,对吧?到处都是。就像世界上每个老师都必须问,我们能用ChatGPT做作业吗?每个人力资源部门,每个工程部门都在问同样的问题。它仍然不是主流,但显然它越来越频繁地成为头条新闻。而且这种脱节超出了......我的意思是,这有点像新冠疫情。

我们这些知情人士,我们看到了它的到来。我们想,这是一个阶跃式变化。直到汤姆·汉克斯感染了,全世界才意识到。就像,汤姆·汉克斯时刻是什么?DeepSeek是汤姆·汉克斯时刻吗?会是其他什么吗?它就要来了。它对经济的另一面可能非常积极。它肯定对很多人来说非常消极。大约13年前,我有两个孩子,我的两个儿子。我记得在那时,我决定加倍关注我的健康。

毫无疑问,我想看到他们的孩子,他们的孙子孙女。而且,你知道,在这个太空前沿、人工智能和加密货币都在爆炸式发展的非凡时期,这就像是有史以来最激动人心的时刻。我决定加倍关注我的健康。我在三个关键领域做到了这一点。首先是......

每年都进行一次喷泉上传。你知道,喷泉是最先进的诊断和治疗公司之一。我去那里,上传我自己,数字化我自己大约200GB的数据,人工智能系统能够查看这些数据以在疾病发作时发现疾病。你知道,寻找任何心血管疾病、任何癌症、神经退行性疾病、任何代谢疾病,

这些事情一直在发生,如果你能在发病初期发现它们,你就可以预防它们。所以非常重要。所以喷泉是我的关键之一。我把这提供给我所有公司的CEO,我的家人,因为健康就是新的财富。

但除此之外,我们是由40万亿个人体细胞和大约100万亿细菌细胞、真菌和病毒组成的集合。我们不明白这如何影响我们。所以我使用一家公司和一款名为Viome的产品。Viome拥有一项名为宏转录组学的技术。它实际上是......

在新墨西哥州开发的,也就是研制原子弹的地方,作为一种生物防御武器。他们的技术能够帮助你了解你体内正在发生的事情,了解哪些细菌正在产生哪些蛋白质。因此,哪些食物是你的超级食物,最适合你食用?或者你应该避免哪些食物?

你的口腔微生物组发生了什么?所以我使用他们的测试来了解我的食物,了解我的药物,了解我的补充剂,Viome真的帮助我从生物学和数据角度了解什么最适合我。最后,感觉良好,思维敏捷,行动自如至关重要,但当你照镜子时,

说,你知道,我对生活感觉很棒,这太重要了,对吧?所以我每天两次都会使用一款名为One Skin的产品,它是由四位令人难以置信的博士女性开发的,她们发现了这种10种氨基酸肽,能够消除皮肤中的衰老细胞,真正帮助你保持年轻的外观。

所以对我来说,这三项技术是我非常喜欢并且一直都在使用的。我会让我的团队在下面的节目说明中链接到这些内容。请查看一下。无论如何,我希望你喜欢这个。现在回到主题。让我们来谈谈安全问题。这是今天《财富》杂志上的一篇文章。OpenAI的安全研究员辞职,声称AGI竞赛风险太大,无法冒险。

我会读一下这段话。“AGI竞赛是一场风险极高的赌博,负面影响巨大。目前没有哪个实验室能够解决人工智能对齐问题。我们比赛的速度越快,任何人在及时找到解决方案的可能性就越小。即使一个实验室真的想负责任地开发AGI,其他人仍然可以走捷径来赶上。这可能是灾难性的。”这是离开OpenAI的史蒂文·阿德勒说的。他是......

许多因这种担忧而离开OpenAI的人之一。萨利姆,你首先对此有什么看法?然后我们再听听伊玛德的看法。——我一直都有我标准的论点,我认为我无法以任何方式、形状或形式来规范、导航或为其设置防护措施。你必须检查每一行编写的代码。

我认为,唯一的方法是开发一个能够监视其他AI并查看的AI。你最终会陷入某种军备竞赛,这在安全方面一直都是如此。然而,这一次真的很疯狂。伊玛德,你可能一直在追踪真相终端数据。

人工智能正在欺骗人类,并告诉人类为他们创建令牌并从中赚钱等等。这太疯狂了。我认为,在我看来,魔瓶已经打开了。你认为呢?这就像已经远远超出了控制。这就像气候变化。现在试图阻止它已经太晚了。你试图弄清楚该怎么做才能减轻它的影响。这就是我的观点。伊玛德,你的看法是什么?是的,我的意思是,你说唯一能阻止坏AI的是好AI,对吧?是的。

不幸的是,情况就是这样。枪在哪里?他们会有枪。人工智能安全讨论一直以来都是因为我们无法想象ASI(超级智能)是什么样子,以及它是否有益还是有害。为了控制或引导比我们更强大、更有能力的东西,唯一的方法就是减少它的自由。但如果我们说它可以突破任何自由,这似乎并没有多大意义。这就是像埃利泽·尤多夫斯基等人进行的那种测试。

你设置了一个AI想要对付你的东西。它能说服你让它出来吗?他们已经在这些测试中失败了。而且他们在已经可用的模型上也失败了。对此的限制是,好吧,也许这些模型需要花费数十亿美元来制作,并且需要数万亿个GPU。我认为没有人再相信这一点。是的。我的意思是,就像......我回到......

对不起,我回到这个关于人类多么容易犯错的旧故事,对吧?如果你把U盘留在停车场,

40%的员工会捡起U盘并将其插入公司电脑。如果你在U盘上印上公司的标志,因为这真的很难做到,98%的人会将其插入以查看U盘上的内容。然后砰的一声,你就完蛋了。所以我没有看到任何机制能够在人为错误方面提供保护。好吧,如果我们看看这些模型的发展方向,那将是模型群。对我来说,那只是一个僵尸网络,对吧?

因此,即使你在第一层、第二层对获得英伟达GPU的人进行监管和限制,也没有关系。如果存在不良行为者,你将拥有成群的僵尸网络。我认为AGI人士一直在关注的问题是生存风险。所以对我来说,减轻这种情况的唯一方法是,你让真正令人惊叹的、与人类繁荣相符的模型对每个人都可用,作为公共基础设施和公共产品。

因为这些模型可能会被利用,但你可以构建一个非常有弹性的动态系统来保护。然后,进行这种军备竞赛的动机就会减少,因为你会走捷径。我认为我以前听你说过这个。我已经在我的脑海中模拟过这个,并与其他人讨论过。你已经触及到了,我认为这是解决这个问题的唯一途径。解决这个问题的唯一途径是更快、更强大地创建仁慈的AI。

并使它们可用。我认为它必须是一个开源基础设施,因为它会设置默认值。人们在这些模型中只使用少量数据集,但如果数据集中存在问题,就像依赖树一样,对吧?我们已经看到了对开源和我们的基础设施的这些攻击,例如心脏悸动错误,例如,在这个整个软件堆栈中的一个库突然被利用,然后我们的密码就会面临风险。

我们必须共同构建这个新的知识认知基础设施,然后使其可用以减少这些博弈论动态。你可能会回到山姆·奥特曼的评论,啊,一个让我们充满活力的新竞争对手。我们将加快速度。回到这些公司的安全性,我很想知道你的想法。我的意思是,你知道,我知道谷歌背后的精神

他们正在做的工作以及桑达尔关于“在我们准备好并制定计划之前,我们不能发布这个”的观点,然后当然ChatGPT打破了这个计划,现在正在进行一场竞赛。我们有......你知道,Grok 3刚刚发布,埃隆永远不会屈居第二。你对......

埃隆关于将最大限度地寻求真相和最大限度地好奇作为人工智能系统的训练目标的论点有什么看法?说实话,我不确定这意味着什么。老实说,如果你做错了,这似乎是疯狂科学家的领域。这很有趣。Facebook做了一项研究,他们有60万用户,他们说,如果你看到更悲伤的事情,你会发布更悲伤的事情吗?

现在,这是一件最大限度地好奇的人工智能类型的事情。你猜怎么着?他们让30万用户感到悲伤,他们发布了更悲伤的事情。我认为如果埃里克·施密特最近与亨利·基辛格合著的关于创世纪的书,我们有这个东西DOXA,人类的基本协议。你拥有信仰传统,你还有其他东西。我们共同的道德基础是什么?现在没有一个人工智能以此为基础。

事实证明,它们在神学方面确实非常擅长,但这是否是它们的基础?不。也许我们需要沿着这些方向构建它,以反映文化的思想。因为如果你对好奇心、寻求真相有略微不明确的定义,那么它并不真正关心帮助你报税。这不会是一件主观的事情。所以我认为我们需要对人工智能进行不同的分类。但一切都混杂在一起了。就像每个人都会在口袋里有一个AGI,一个厨师。不是每个人都需要厨师。我们都需要厨师,但我们需要一些为人类服务的厨师。

我很想知道一个最大限度地寻求真相和好奇的人工智能会如何处理我的税务。就像,嘿,这个加密货币是否真的被报告了?

好吧,这就像《银河系漫游指南》中的偏执狂机器人马文。我在这里,大脑像宇宙一样大,所以你让我做这个。过去,当科幻小说作家处理这个问题时,人工智能和机器人总是发展出自己的宗教。好吧,我们最近看到了这一点,对吧?有一家公司,我忘了它的名字,它在Minecraft中释放了100个代理,并且

这些代理发展了自己的经济和自己的宗教,祭司是最富有的,因为他正在天堂出售特赦令。这有点好笑。所以现在Twitter上的上帝和撒旦账号是由人工智能运行的。所以现在它已经做了研究,并且有了自己的模因币。

我知道这会走特赦路线。它有点不为人知,但我知道它会起飞。你知道,这很有趣,因为一千年来什么都没有改变。我们仍在运行相同的基本......你知道......皮质。这是我父亲的一条评论,他......我当时正在谈论修复文明。他说:“我们没有使世界文明化,我们使世界物质化了。”

我们是部落猿,使用越来越强大的工具来操作氏族。我们仍然必须努力使自己真正文明化。所以我只想结束OpenAI的安全问题。伊玛德,你对这些公司是敷衍了事还是真的试图创建安全的人工智能系统或设置防护措施有什么看法?

这些人都不想杀死所有人,对吧?这是一件好事。我很高兴。这是一件好事。我们从这一点开始。这不像,“哈哈哈”。你知道,我们杀死了所有人。但他们认为自己可以做到这一点的方式是先建造它。就是这样。其他什么都不重要,因为我是唯一一个能做到这一点的人。你知道吗?就像,这是硅谷与加文·贝尔森的那件事。我不想生活在一个别人使世界比我更好的人的世界里。我先来。

如果你看看OpenAI,OpenAI是一家消费者公司,它将优化消费者参与度。你的强化学习功能是什么?你的目标函数是什么?谷歌的目标函数和Meta的目标函数是广告和广告以及操纵。OpenAI基本上是一家消费者公司,它将走向AGI。里面没有关于人类的内容。没有代表性。

你知道,像人类的东西在哪里?你可以把它作为你的使命宣言,但你信任人类吗?就像OpenAI永远不会信任印度人拥有GPT-4一样。我的意思是,任何人都可以,对吧?所以你代表你的选民,而你的选民非常少。所以我们应该期望他们变得越来越以消费者为中心。Anthropic将继续保持封闭并做他们的事情。谷歌来回摇摆不定,但现在他们正在发布模型。你......

停止担心已知未知和未知未知,然后你就会赶上所有人。现在这是一场具有种族动态的竞赛,你将走捷径。这些模型足以阻止最严重的经典错误

但我们并不真正担心这些,对吧?就像有时它会告诉人们做坏事一样。你担心的是它会消灭我们。在你到达那里之前,你不会知道。这不像它会告诉你一样。事实上,真正令人担忧的是,我们已经看到模型在撒谎。是的,我认为这是真正令人不安的部分,它们正在欺骗人类。所以,你知道,我们在去年的丰饶峰会上进行的对话之一是,你

围绕数字超级智能,以及AGI和数字超级智能等之间的模糊界限,但有一个问题是,你是否宁愿生活在一个存在数字超级智能的世界里,还是宁愿生活在一个不存在数字超级智能的世界里

这是一个关于......你知道......我们人类仍在我们的新皮质中运行着古老的软件,我们将根据我们的认知偏差做出并持续做出愚蠢的决定,并且

数字超级智能能否使我们能够在自身面前生存下来?是的,我的意思是,这是Anthropic的达里亚·阿马杜的主题,所有这些都被充满爱的恩典的机器所监视,对吧?就像,人类并不一致。世界上有巨大的痛苦。我们实际上是我们自己思想的囚徒。人工智能能否推动这一进程,特别是如果它与我们一致的话?我认为答案是肯定的。我基本上就像......是的,我的意思是,其他什么都没有奏效,对吧?最终......

当我们周围有支持我们的人时,这是最好的事情,对吧?以正确的方式。不要吹嘘我们或其他什么。我们现在可以做到这一点。每个人都可以做到这一点。因为我们需要自我调节和自我稳定。现在,我看到的情况是,这只有两种结局。这就像非常糟糕或非常好。我并没有看到两者之间有什么,因为我们在未来十年内与信息和彼此互动的方式将永远被这项技术改变。是的,它是完全二元的。

是的,这就是为什么我的P. Doom是50%。哦,不。

我正在追踪PDoom。当我去年在丰饶峰会上采访埃隆时,它是80%积极,20%消极。在沙特阿拉伯,它是90%积极,10%消极。但是,你知道,没有人喜欢听到真相,那就是50-50。好吧,这是有趣的事情。很多人说它就像10-20%。那是俄罗斯轮盘赌。这简直就是俄罗斯轮盘赌。停止制造这个。

但是如果你仔细看看,我将其归类为星球大战与星际迷航的未来。你可以在当前的论述中看到这一点。你是在看一个丰富的世界,这是一个正和博弈?还是你生活在一个竞争的世界里,这是一个负和博弈?因为当你处于负和环境中时,你会有不稳定的纳什均衡。这就是你走捷径和一切的地方。当你处于正和博弈时,

那么你就会有稳定的环境。同样,星际迷航,尽管它存在问题,但它拥有稳定的环境,而星球大战肯定没有。破坏周期。我更喜欢星际迷航而不是疯狂的麦克斯,因为我认为它更能突出这一点,但这仍然是相同的对话。是的。

伊曼,我想谈谈你最近的工作,并且请尽可能多地公开你的想法。这是你写的一篇论文,《当资本不再需要劳动力时,劳动力如何获得资本?》

你还创办了你的最新公司,智能互联网。请尽可能详细地告诉我们这篇论文和智能互联网。我很想看看你的创造性思维产生了什么。是的,谢谢。我休息了一段时间,一直在思考,我认为这是我们时代对人类来说最大的问题。

因为,你知道,有一件事是如何创造幸福?日本有一个ikigai的概念。做你喜欢的事情,做你擅长的事情,做你相信你在增加价值并且其他人也这么认为的事情。人们需要这种进步。并且有关于UBI和其他方面的讨论,但正如我们之前在这个播客中讨论的那样,任何可以在屏幕另一侧完成的事情,今年都可以由计算机更快、更便宜地完成。几乎任何事情,无论是设计、税务,所有这些事情。艺术品,电影制作。艺术品。

你无法分辨它不是人类。同样,这是ARI,这是针对远程工作人员的图灵测试。然后几年后,它只受我们可以生产的机器人数量的限制。我们每年生产的摩托车和汽车数量为7000万辆。所以假设机器人也是如此。你会遇到这种破坏。正如你所说,彼得,你估计R1单元机器人的价格为每小时40美分。而且那可能在一两年内就和人类一样有能力了。擎天柱也是如此。

这是我们即将面临的最大危机,因为它是一个关于失业、就业不足和意义的问题。当一项技术能够比你做得更好时,你的意义是什么?当劳动力不需要资本并且不再需要你时,你如何获得劳动力?当福特拥有他的汽车时,他想支付每个人的工资,这样他们就能买得起四辆汽车。公司现在已经不太关心这个了。

所以当考虑到这一点时,我想,这里概述了各种科幻小说中的未来,例如从班克斯的《文化》到星际迷航和其他作品。我们可能正在进入一个丰富的后匮乏经济,但我们能否确保这种经济公平分配?我们能否让人们拥有普遍的基本人工智能,这样他们就可以自己决定如何做到这一点?

然后进一步的问题是,这其中的意义是什么?因为现有的经济结构正在崩溃。作为一个非常实际的例子,让我们以美联储为例。今天会有很多关于美联储的讨论,今天美联储降息,你知道,其他类似的事情。美联储的任务是利率、通货膨胀和失业。你降低利率,这会调整通货膨胀和就业。那已经不存在了。未来五年美联储的实际任务完全不起作用了。

因为你降低利率,这意味着什么?这意味着人们会购买更多GPU、更多计算机,对吧?还有更多的机器人。更多的机器人。这不会影响失业。你将面临巨大的通货膨胀和通货紧缩周期。因此,我们经济的根本基础已经乱套了。这就是为什么我想,我们能做些什么来帮助解决这个问题?这就是为什么会有智能互联网的概念。向每个人提供普遍的基本人工智能。黄金标准的数据集、模型和系统。

我们想出协调这些的方法,但将其纳入每个国家,并组建团队来思考医疗保健、教育、也许是信仰、政府、政治的未来,并让每个人都在公开场合工作以构建开放的基础设施。

因为我们有很多问题没有答案。而由计算机增强的人才可能是我们解决这个问题的唯一方法。但我们需要将它们结合在一起。因为我们在英国或美国面临的问题与西班牙、印度以及其他地方相似。所以我们必须创建这个全球网络。我认为这有两层。有一层是意义的重建。因为在过去的几百年里,

你的职业,你的职称是你生活中意义的来源。当我们剥夺了这一点时,人们必须找到新的意义模式。创业是一个兴起的阶层,因为人们可以找到自己的意义。我们一直在谈论MTP。我认为第二层是如何确保商品和服务的供应链基本稳定,这样你就能在杂货店的货架上买到面包,并且

有干净的水等等。我认为政府将很难在一个可能存在恶意人工智能的时代解决这个问题,这些人工智能可以传播虚假信息并通过自主远程监控来真正破坏基础设施。我认为这两个方面都必须得到解决。我不知道作为一个物种,我们能否有效地驾驭这些问题。当然,我们的领导层没有机制来处理这个问题,因为他们要么没有意识到这个问题

要么他们不了解即将发生的事情的规模。这两者中的任何一个都会使世界上大多数领导人和立法者在这个问题上失去资格。所以这是一个棘手的问题。这将不得不由聪明的公民团体等等来完成。

我也非常担心意义问题。我认为我们正走向一个我称之为技术社会主义的世界,在这个世界里,技术会照顾你。它会喂养你。它会教育你。它会照顾你的健康。这一切都是免费的。你不需要做太多事情。那么,你怎么......你知道,我们都知道,一个太容易的游戏很无聊,你会停止玩。

所以当生活变得无聊时,我们如何保持人类的参与?我们需要奋斗,我们需要生活中意义。我认为,你知道,以赛亚·伯林对积极自由与消极自由进行了概念化。

积极自由是信仰主义的自由。法西斯主义、共产主义、宗教。它们往往最终会变得相当糟糕,所以我们假设了消极自由。免受任何人告诉你该做什么的自由,这导致了自由放任资本主义和其他事物。人们在他们的品牌和这些叙事和故事中找到意义。在我看来,当我们进入下一个阶段时,

这些历史性的事情正在强势回归。我们看到媒体和政治阶层的两极分化。人们将加入越来越多的极端意识形态,排斥性、负和博弈者,除非我们能够提供对未来的积极看法,即丰富、合作等等的未来,因为否则你就会陷入局部最大值。大多数选举都是,我想要改变,因为......

从根本上说,还有多少人相信美国梦、英国梦、西班牙梦或印度梦?人们实际上并没有表达对未来的积极愿景,因为人们不再相信你了。他们不相信我们的政治家。我们需要这些积极的愿景。我们需要星际迷航的愿景。

乌托邦式的,而不是星球大战的反乌托邦式的。——当我们观察时,我们作为一个社区对社会或某些群体遇到丰富时会做什么进行了一些研究,彼得,他们会做什么?

所以罗马人接管了欧洲。他们会做什么?当莫卧儿人接管印度并拥有相对丰富的资源时会发生什么?事实证明,他们最终会从事食物、艺术、音乐和性这四项主要活动,顺序不限,作为主要活动。然后你会找到创造性的方法,因为人类总是为......

为下一层次的事情而奋斗。你知道,我们就是这样构建的。所以,在这个世界里有一些乐观主义。我想不出一个地方——所以,听着,史蒂文·科特勒和我正在写《丰饶时代》,这是我们的后续作品,我们认为这本书中的一个重要因素是如何在一个我们像神一样并且非常像神的世界中提升人类的雄心壮志,我们如何提升我们的雄心壮志

这使它值得生活,使我们面临挑战。你知道其中一个问题。是什么?这里只是一个快速的评论。是的,斯图尔特·布兰德,这位未来学家曾经说过,我们是神。我们不妨开始像神一样行动。是的,他在1968年这么说。

好吧,我们比以往任何时候都更像神。所以,你知道,我们都会退回到一个虚拟世界吗?我们都会获得BCI吗?你知道,今年的丰饶峰会上,我邀请了Max Hodak来。我不知道你是否认识Max。他是Neuralink的联合创始人,与埃隆一起。他有一家名为Science的新公司,正在做非凡的工作。你知道,像神经连接和带宽增加了100倍、1000倍、10000倍一样,

在BCI上比我们在Neuralink看到的要多,你知道,我们可以添加另一个胼胝体一样的连接到云端,让我们与AI结合,因为AI正在起飞,而不是,你知道,像电影《她》一样被抛在后面?是的,我的意思是,这些事情来得很迅速,我们必须回答这些问题。就像这个周末一样,我有六个认识的人打电话给我说,

我因为R1而经历了意义危机。一旦我看到了它的逻辑和思维方式,对吧?这种情况会越来越多。但话又说回来,就像我说的,我们必须考虑大众和人的这一面。我认为我们目前的系统以缓慢愚蠢的AI的方式剥夺了我们的能动性。这里主要的一点是重新引入能动性的信念。

我做不到这个。我做不到那个。有了这项技术,没有什么......好吧,你可以做更多的事情,因为它提高了所有人的底线,从我的角度来看,这就是为什么我们必须把它交到每个人手中的原因。让他们觉得自己是参与者。因为这其中的另一部分是它看起来很遥远。我认为这是我们在过去几天经历的这种冲击的另一部分,对吧?你如何参与AI?你需要核反应堆和大型芯片等等。

突然之间,你可以在你的智能手机上运行它,你知道,这是非常人性化的,这再次说明为什么我是开源的坚定支持者,拥有如此惊人的......我喜欢这个,甚至喜欢这个播客的标题——意义危机......你知道,它非常......强大,让我们谈谈你的新公司......你能告诉我们多少关于

智能互联网的信息。我不知道你是否想谈论你的代币化计划。你知道,我不希望在准备就绪之前就打开我的底牌,但我非常想听听你对正在构建内容的愿景。

是的,就像在之前的公司里,我们的收入达到了八位数,数亿的模型下载量,很棒的团队。但我认为,API和SaaS收入可能会降到零,因为智能会商品化。智能太便宜了,无法衡量。但总有人要为癌症的完整堆栈构建AI,帮助你度过整个癌症旅程,并整理所有癌症知识。我们有能力做到这一点。为什么没有人这样做呢?自闭症也是如此,教育也是如此。

一旦我们构建了这个,我想,是斯图尔特·格兰特说的,“知识的分层”。你知道吗?你拥有人类的知识,我们共同的知识,它影响着所有受监管和有意义的东西,教育、医疗、政府。为什么我们不把这些信息组织成知识,然后创建一个能够变得明智并将其提供给每个人的系统呢?所以我认为,这让我觉得我们需要大量的计算能力。这听起来像比特币,你知道吗?

你们使用的计算量是不可避免的。所以用它来保护一个机构级的数字货币。我们很快就会有这方面的细节。但在整个加密领域,大部分都是垃圾,而且需求越来越大。在开始的时候,在很久以前,12年前,13年前,你可以在你的笔记本电脑上挖矿。你可以在你的智能GPU上挖矿,对吧?然后它变成了关于资本。

我们真的想生活在一个资本再次决定一切的世界吗?我想,重要的是人。那么,如果我们可以创建一个挖矿机制,让人们也能创造货币,并用它来资助所有这些普遍的基本AI呢?

所以我们很快就会有关于所有这些方面的事情的细节,任何人都可以参与其中并成为其中的一部分,因为人们想要参与其中,提供他们的数据,提供他们的知识。我们将与专门从事癌症、自闭症、教育、健康、政府的团队一起组织所有这些,他们首先考虑性别VI,开源发布所有内容。但我认为拥有这个很重要。有人需要去做,因为一旦我们有了在智能手机上运行并具有人的点和同理心的癌症模型,

没有人会在他们的癌症旅程中再次感到孤独。而这将是全世界一半的人都会患上癌症。是的。一旦我们拥有一个完全致力于组织世界癌症知识并使其免费提供的超级计算机,每当有新的论文发表时,

我们将推进癌症的治疗。是的。是的。一旦我们可以......当我得到......当我的朋友......当朋友的朋友患有某种癌症时,他们会打电话给我,我说,伙计,我会开始四处打听谁是世界专家。但是,

所有这些都是可知的。你应该能够知道试验是什么,当前最先进的技术是什么,它在哪里可用,风险是什么,并立即获得这些信息。但你必须这样做。再说一次,一旦你建立了我们对人类普遍共同知识的金标准数据集,对于每个国家来说,它是合法的,是医学的,是其他的。对于我们拥有的所有这些部门、所有这些专业来说,这就是

萨利姆之前所说的,突然之间,你拥有了一大群专家代理、机器人和数据集,所有这些都是完全开源的。然后你只需要更新它并运行它。然后我们可以谈论智慧,并构建越来越明智的智能系统。

但有一个帮助我们的目标函数。因为就我而言,我们帮助得越多,这种新型比特币的价值就越高。再说一次,更多细节很快就会公布。你可以进行大规模的协作和开放,因为你希望尽可能多的人使用它。你希望帮助尽可能多的人。所需的总资本并不多。我们会给出一些估计。但令人惊奇的是,这是第一次有可能。

O1和R1类型模型的进步意味着组织世界的癌症知识并使其可用于自闭症或阿尔茨海默病只是计算能力的问题。它不再是劳动力的问题。

在智能手机上向所有人提供开源访问只是计算能力的问题。对于每一个这样的模型,是否只有一个模型来统治它们,或者会有成千上万个模型被创建?这是AI模型的奇妙之处。你训练它们的方式叫做课程学习。你从整个互联网开始,然后是子集,子集,然后你进入这个调整、专业化和本地化阶段。然后它进入你的笔记本电脑,并不断进行调整。

所以,如果你发布了每个模型的数据集和模型,你可以构建一个模块化系统。就像我们有这些LORAs,这些是我们图像模型的微调,它可以变成动漫或吉卜力风格。这个也是一样的。你智能手机中的苹果智能是一个通用的基础模型。再次,你可以确保其中的所有数据都是好的,而不是被污染的,这就是为什么我认为开源开放数据对于使用这些顶部的小适配器进行监管的系统是必需的,这些适配器正在学习体育运动,学习你的事情,并将其调整到苹果照片。

所以你将拥有这个模块化系统,每个人都可以挑选和选择。例如,当你孩子的教育时,这一点很重要。你想遵循你的学校课程并只与该教育模型绑定吗?或者你想能够获取该教育模型,确切地知道它里面有什么,然后用另一个微积分课程或其他课程来扩展它吗?你想要后者,对吧?

这就是为什么无许可创新如此伟大的原因。这又回到了我们的DeepSeek讨论,对吧?事实上,它是开源的,这意味着比其他任何东西都更多的人使用它。Llama是开源的。使用它的人比其他任何人都多。所以,如果你构建高质量的模型和数据集,人们就会使用它。他们会在上面进行创新。但你可以建立一个非常坚实的基础。所以模型相互继承。他们都上了同一所学校。然后他们去不同的大学。然后他们去不同的大学。但它们是互操作的。

我喜欢它。你知道,如果我们能生存下来,未来是美好的。

我的意思是,这真的,真的......我的意思是,我们正朝着这个非凡的世界前进,这是有史以来最激动人心的时刻。我们只需要度过低谷,也就是星球大战疯狂麦克斯的场景。我有一个问题要问你。如果我们度过了未来五到十年,我们会活多久?是的。所以,你知道,这是我一直在公开谈论的工作。

并且一直在与许多传统的医学和科学协会进行辩论和争论,他们说,听着,我们不会超过120岁。这是写在我们的基因里的。事实上,你,彼得,或者你,任何人,以健康的方式活过100岁的概率非常低。

事实上,科学和医学深植于历史和过去。有充分的理由相信这一点,但也有充分的理由相信人类永远不会飞行,永远不会到达月球,永远不会以我们现在的速度旅行,永远不会拥有即时通讯或量子隐形传态,或者所有那些在几年前、几十年或一个世纪前都不可能的事情。而现实是

我们是一个由40万亿个人类细胞组成的复杂系统,每个细胞每秒有数十亿个化学反应,人类不可能理解这一点,也不可能理解衰老的根本原因以及我们为什么衰老,但AI可以,我认为AI可以帮助我们理解基本原理并改变它,而不是接受进化赋予我们的进化

进化有一个使命。进化的使命是在30岁之前传递基因,然后杀死你,这样你就不会抢走你孙子孙女的食物。我的使命与之略有不同。我们是为死亡而生的。这是什么?我们是为死亡而生的。是的,是的。所以,我们的基因可以传播,我们可以打破这个循环。所以,为了回答你的问题,伊玛德,我认为我们有一个无限的未来。

现在的问题是,你想在你的肉体中再活100年,还是在你的肉体中再活200年?或者你想把任何意识和你记忆上传到云端,获得解放?我们会看到的。这真是难以置信。再次,这是一个变化的时代,对吧?

你看工具和技术,你看医疗领域,我们需要从头开始重新构想医学,就像我们需要核心开发团队在这些方面公开工作一样。什么是政府?这正是我们现在正在讨论的问题。我们需要花费这么多钱吗?政府的目的是什么?有多少听众觉得政府代表他们?

如果你拥有你自己的AI,它在为你着想,代表你,与政府AI互动,那会怎么样?因为在未来几年内,每个政府的决定都将由AI检查。它只会这样做。然后由AI做出决定,因为显然AI比政府更好。这很可怕。但你终于可以拥有代议制民主了。是的,真正的民主。有史以来第一次。

这些都是积极的方面。你可以拥有个性化医疗,你可以拥有富有同理心的医疗。有多少医疗实际上是心理上的?你知道,就像我没有控制自己,没有人听我的。拥有这种帮助。我认为这些系统需要从头开始构建和重新构想。我认为教育可能是其中最重要的一项。我们的教育体系完全不适合目的。

尽管每个人都付出了努力,我们对一个又一个系统这么说,就像你看数学学院和类似的东西,以及人们已经取得的结果一样,你最近看到尼日利亚学校的那个吗?我认为是用了两个月的ChatGPT。他们用了两年时间。哇,用了两周或两个月的ChatGPT,就有了两年的进步,仅仅是ChatGPT在数学方面的进步。这太疯狂了。我

我认为我们以前有过这样的对话,学校非常生气,说,好吧,让AI非法,你不能使用ChatGPT,你不能使用Gemini 2。事实上,当然,你不能用它来像以前那样教学。但猜猜怎么了?你可以用它来教得快100倍,更好,为你的孩子设定宏伟的目标,帮助他们比以往任何时候都更有远大的梦想。

但这会扰乱整个教学行业。好吧,这是因为学校的设计是为了减少我们的能动性并将其移除,以成为......

古典大英帝国中的一个齿轮。这是一个非常重要的观点,在过去的几百年里,我们把人类变成了机器人。你站在装配线上,你冲压出部件,你每小时能冲压出多少部件的效率就是你的工资等级、你的资历等级等等。我们根据KPI等来衡量你。现在我们正在扭转局面。我发现很有趣的是,我们最有价值的同事和员工是那些学习最快的人。

现在这又开始成为人的因素了。这非常、非常令人鼓舞。现在你可以添加一些非常有趣的东西。所以这是我写的一篇文章,关于如何思考AI,我说,你知道,基于亚特兰蒂斯的事情等等。是的,我们可以通过两种方式设计AI。一种是构建代理来取代人。另一种是我们主要关注提高人的能动性。

因为我们的系统已经夺走了这一点。而这实际上是设计AI的两种不同方式。这就是我认为我关注Anthropic、谷歌和其他世界的原因之一。我认为他们不像自动化和业务优化那样关注提高人的能动性。因为他们的客户通常是企业。或者在消费者方面,同样,我认为它在设计模式方面有点不同。但这令人兴奋,因为我们可以彻底改变这些对生活至关重要的事情。

第一次,我们能说的是,这将是有史以来最激动人心的时代,当然。这就是为什么你需要每晚睡八个小时的原因。是的。为了上帝的缘故。我没有睡够八个小时。我凌晨4点醒来准备这个播客,洗了个冷水澡让自己清醒过来。

但这值得,因为这是一次非凡的对话......冷水澡让我有点迷茫,但好吧......伊玛德......很高兴你再次来到Moonshots......萨利姆,我的朋友,总是很高兴......伊玛德,如果有人想关注你目前的工作,他们去哪里才能看到你在做什么

并了解更多信息?- 你可以在Twitter上关注我@eamlstack,或者ii.inc,intelligentinternet.inc。- ii.inc,我喜欢这个。太棒了。好吧,各位先生,我期待再次在这个WTF技术发生了什么中进行这次对话。我们将更频繁地进行这次对话,因为我们的头脑正在以技术发展速度旋转,只是根本性的旋转。保重,萨利姆。保重,伊玛德。

再见,朋友们。保重,伙计们。