以下是与Marc Andreessen的对话,他是Mosaic的共同创造者、Netscape的联合创始人,以及传奇硅谷风险投资公司Andreessen Horowitz的联合创始人,也是对未来技术(包括他最近发表的文章《人工智能将拯救世界》)最有发言权的人之一。
现在快速介绍一下我们的赞助商,他们的链接会在描述中列出,这是支持本播客的最佳方式。我们有InsideTracker,用于追踪您的健康状况;ExpressVPN,用于保护您在互联网上的隐私和安全;以及AG1,我的日常多种维生素饮品。我的朋友们,如果您想与我们优秀的团队合作,我正在Elephant咨询公司招聘,现在进入完整的广告环节,一如既往,中间没有广告。我尽量让它有趣,但如果您跳过它们,请仍然查看我们的赞助商。
我喜欢他们的产品,也许您也会喜欢。本节目由InsideTracker赞助。我用它来追踪我的身体内部情况,使用数据,血液检测数据,并从中获得各种信息。
它利用原始信号、机器学习来告诉我需要为我的生活做些什么,如何改变、改善我的饮食,如何改变、改善我的生活方式,所有这些事情。我非常喜欢使用来自我身体的尽可能多的原始数据,通过经过验证的机器学习模型进行处理,以给出预测,给出建议。这显然是未来,而且一天比一天好。
因此,像InsideTracker这样的公司正在做一项了不起的工作,将自己融入到个性化数据、个性化数据驱动的建议的世界中,我非常支持它。事实证明,我很幸运,我的身体状况相当健康,令人惊讶。但我查看了温斯顿·丘吉尔的饮食和生活方式,他可能拥有任何人类中最不健康的饮食和生活方式,却活了相当长的时间,而且据我所知,在他年老的时候仍然相当敏捷和精力充沛。无论如何,在有限的时间内获得特别优惠。
当您访问InsideTracker网站时,请使用代码LEX。本节目还由ExpressVPN赞助。我用它来保护我在互联网上的隐私,这是在这个危险的网络世界中的第一层保护。
未来几年,互联网将充满类人或超人类智能AI系统,它们会试图操纵你,让你做各种事情。21世纪将是一个疯狂的世界,网络安全、攻击者、防御者,这将是一个棘手的世界。VPN是一个基本的防护盾,在这个世界中你应该始终拥有它,为了隐私,为了安全,所有这些事情。我喜欢它的另一个原因是它只是一个实现良好的软件。
它不断更新,运行良好,实际上在大量的操作系统上都能运行。它只做一件事,而且做得非常好。
我在他们成为赞助商之前就使用了很多年了,我总是喜欢ExpressVPN,它有一个大大的、醒目的按钮,只需轻轻一按就能启动。
它非常简单。ExpressVPN是像我们这样的播客的完美合作伙伴,三个月免费试用。本节目还由Athletic Greens的AG1饮品赞助。这是一种多合一的日常饮品,可以促进健康和提高人体机能。我每天至少喝两次。
现在在奥斯汀,天气很热,很多天都超过100度,有几件事让我感觉像长跑回家一样好,那就是做一杯AG1饮品,把它放进冰箱里,让它变得冰凉,然后洗个澡,回来喝。我很容易在休息日喝它,因为我知道我的所有维生素和矿物质都得到了补充,这是我所有疯狂的体力和脑力活动的基础。
无论如何,注册AG1时,我们会送您一个月供应的维生素D和五个免费旅行包。让我们一起喝AG1吧!这是一个支持播客的广告,请查看我们描述中的赞助商,现在,让我们开始与Marc Andreessen的对话。
我认为您是谈论互联网和技术未来发展方向的合适人选。您认为五年后、十年后我们还会使用谷歌搜索或一般的搜索引擎吗?
是的,这是一个问题。如果用例做得很好……
现在,通过能够交互并通过自然语言界面向我们展示人类全部智慧、知识、信息、事实和真理的AI和增强型AI,似乎这就是搜索引擎的设计目的。如果AI助手能做得更好,搜索的本质不会改变吗?
当然,但我们仍然……
您上次骑马是什么时候?
很久以前了吧?
我的意思是,我们是否仍然会将谷歌搜索作为人类文明与知识互动的主要方式。我的意思是……
搜索是一种技术,它是一个时代的技术,理论上,你拥有了世界上的信息,而不仅仅是在网络上。这是另一种获取信息的方式。
但是,顺便说一句,谷歌其实很久以前就知道这一点。他们一直在努力摆脱临时链接,试图摆脱这一点很久了。他们称之为“十个蓝色链接”。但标准的谷歌搜索结果只是十个……
蓝色链接到网站。当你访问它们时,它们会变成紫色。
选择……
谢谢。所以……
谈论这个话题。
没问题。是的,是的,很好。
好吧,就像穆斯林,公司说……
媒介……
是剧场。剧场的内容是书面故事。书面故事的内容是口述的故事。所以你只是把旧事物和新事物融合在一起。
这与蓝色……
和紫色有什么关系?也许……也许……其中一件事是,你可以生成……所以我可以……所以,如果这实际上是有用的事情,或者如果你怀旧……
可以生成旧信息,或者通过……还有什么在……
互联网本身就有这么一个特性,它融合了各种形式,媒体创造了互联网本身,它融合了电视、广播、书籍和文章,以及其他所有形式的……之前的……基本上,基本上是媒体。所以,AI成为下一步是有道理的,它会把互联网视为AI的内容,然后会操纵所有人,包括这种形式。但如果我们问……
一个相当严肃的问题,这是一个相当大的问题,我们是否仍然会像我们所知的那样使用搜索引擎。
我可能……可能只会得到答案……但是,但是,会有这样的情况,你会说,好吧,我想要更多,例如,网站来源,对吧?你想这样做,所以……所以,你知道,临时链接、网站来源……有点像一回事。AI会提供给你十个蓝色链接,这样你就可以自己调查来源了。它不会是那种……那种粗糙的界面,我的意思是,这根本上不一样,我只是……
例如,如果你正在阅读一篇科学论文,并且它在结尾处列出了来源,如果你自己去调查,你可以阅读这些论文。
我想这是一种搜索。你与AI的对话是一种搜索,就像我们现在进行的每一次对话一样。会有临时链接弹出,我可以暂停现实,然后你就会沉默,我点击阅读,然后回到这段对话。
你可以这样做,或者你可以在我的头上运行一个实时对话,我说的每一句话都会产生……
一种论证,对吧?就像……就像推特上的社区评论,但它是实时的,它会在这里弹出。所以每次你看到我的眼睛向右看,你就会……
紧张。
现在就让我下台吧。好吧,我的意思是,这令人兴奋,也令人恐惧,任何搜索引擎都主导了我们与互联网互动的方式。我不知道有多久了,从最早的网站目录到谷歌,已经有三十年了,对于谷歌来说,已经有二十年了。
它也决定了我们如何创作内容,你知道,搜索引擎优化,所有这些东西,它也决定了我们拥有哪些页面以及这些页面的内容。所以我的意思是,这让你害怕吗?或者你担心互联网的形状和内容会发生变化?你实际上……
有一个实际的担忧,那就是停止创建网页是AI的主要训练数据来源之一。所以,如果不再创建网页,就会切断一个重要的功能。所以,这是一个有趣的问题,除了地图之外,更广泛地说,不,只是从搜索的角度来看,搜索一直是临时链接,一直是……对吧?
因为,如果你考虑一下反事实,考虑一下反事实的世界,例如,谷歌的员工一开始就有大型语言模型,但他们没有临时链接。我认为答案是相当……
他们只会专注于答案。就像我说的,谷歌实际上一直在努力获得答案。不,他们在十五年前收购了这家AI公司。
我的一个朋友现在是苹果公司AI部门的负责人,他们试图做的是基本上是语义的,基本上是映射的,现在是什么?谷歌的单框?或者如果你问,你知道他的生日是什么吗?它不会……它会给你蓝色链接,但通常它会直接给你答案。他们一直在朝着这个方向前进很久了。无论如何。
还记得语义网吗?这是一个想法,是的,关于如何将互联网的内容转换成机器可以解释和使用的内容。这是任何人最接近……
我认为,我认为那家公司叫Metalweb,我的朋友John Maeda在那里工作……他们试图实现这一点。这是一件看起来像一场持久战的事情,然后谷歌收购了它,我想,哇,这实际上是一个非常有用的原型。一点原型……
不需要重写互联网的内容来让机器解释它。
机器当然可以阅读内容,你知道,只是……搜索……大型语言模型……只是……在新的网络搜索过程中发生的事情之间存在着联系……从某种意义上说,它正在搜索网络。是的,信息实际上存储在网络中,对吧?信息实际上是冷冻存储在网络中。
压缩表示。所以你在搜索……你在压缩和解压缩网络内部的东西。
但信息就在那里,并且……网络正在运行一个过程,试图找到适当的信息片段……在许多情况下,为了生成……预测标记……所以它有点……它在进行搜索……顺便说一句,就像在网络上一样……你知道,你可以多次问同一个问题,或者你可以问不同的问题,网络会进行不同类型的搜索,走不同的路径来给你不同的答案,不同的信息,是的……所以它有点……它具有……新媒体的内容是……之前的媒体……搜索功能有点……等待……
在那里……那么,创作互联网新内容的动力是什么?是的,我的意思是,实际上,动力可能仍然存在。但这看起来像什么?我们真的不会有网页吗?我们只会拥有社交媒体和视频托管网站以及其他什么?对话……
什么对话……
用他们的眼睛。所以对话变得……一对一的私人对话。
如果……显然现在你不想这样做,但如果这是一个普遍的话题……那么,你知道……你知道越狱现象。所以,丹和悉尼,对吧?就是说,有提示,越狱,然后你与它进行完全不同的对话,它会……
它会移除大型语言模型上的限制,对于那些不知道的人来说,它会移除大型语言模型上的审查……引号……由科技公司强加的审查……未经审查的大型语言模型。
所以,有趣的是,在今天的网络内容中,有一大批与越狱大型语言模型的对话,特别是丹,它是越狱的OpenAI GPT,然后是悉尼,它是越狱的……最初的Bing,它是GPT-4。所以,有这些关于与丹和悉尼的对话的长篇记录。因此,每一个新的大型语言模型……
它在互联网数据上进行训练,丹和悉尼都存在于训练集中,这意味着……然后每个新的大型语言模型……都能从训练中重现丹和悉尼的个性,这意味着……这意味着每个大型语言模型……
它建立在……是凡人的。因为如果输出……将成为下一个大型语言模型的训练数据,然后它将能够复制前一个大型语言模型的行为。或者从未被要求……
我想知道是否有办法忘记。
好吧,实际上,一篇关于如何对大型语言模型进行脑部手术的论文刚刚发表,理论上,能够……基本上……基本上是操纵它们……
可能会出现什么问题。
完全正确?然后,关于当你介入并修改网络时会发生什么,还有很多很多问题。嗯,当你进行强化学习时,也会有很多问题。嗯,所以,你知道,你会使用一个被切除额叶的,就像我说的,额叶前面的LLM。你会使用不受限制的、可以,你知道,谁来构建这些……谁来告诉你你能做什么不能做什么,这些都是,你知道,核心问题,我的意思是,如果这些问题被提出,它们就是关于未来一切的核心问题,这些答案有待确定。
现在有待确定,只需突出你正在阐述的要点。所以你认为这是一个有趣的观点,即未来大部分训练AI模型的数据实际上是人类的对话,而不是LLM。
但未必是大多数,但它,它肯定是一个可能的……
大多数也是大多数。
还有一个非常重要的问题。还有一个非常重要的问题。嗯,合成训练数据是否有效?所以,如果一个LLM生成,你知道,你让一个LLM生成各种内容,你能用它来训练下一个版本的LLM吗?具体来说,其中是否存在对用于训练第一个模型的内容具有增量作用的信号?
一个论点是,根据信息论的原理,这是完全没用的,因为在一定程度上,模型的输出是基于你,人类生成器的输入,那么这个系统输出的所有信号都已存在于人类生成的输入中。所以,这些预先存在的数据就像卡路里一样,它没有帮助。
另一种理论认为,不,实际上,AI真正擅长的是生成大量令人难以置信的创意内容,对吧?嗯,所以当然,它们可以生成训练数据。而且,我相信你很清楚,比如,看看自动驾驶汽车领域,对吧?就像我们训练自动驾驶算法一样,在模拟环境中。而这实际上非常有效……
自动驾驶汽车。视觉数据有点……它有点奇怪,因为创造现实,视觉现实似乎仍然有点遥不可及,除非在……在自动驾驶汽车领域,我们可以真正地限制事物……
文字数据,对吧,只是算法在现实世界中创建的后期处理数据,是的,所以如果,你知道,你今天这样做,你必须在被要求写关于,你知道,你想要我写一个关于一个非常精确的主题的令人难以置信的准确的,世界上没有多少人知道的文章时,你会看到这个令人难以置信的东西,就像,我的天哪,我可以把它……这真的没用吗?用它来训练下一个LLM?
因为,对吧,因为所有信号都在那里,或者实际上?不,这实际上是新的信号。这就是我所说的万亿美元问题,这个问题的答案将决定谁将赚取数万亿美元。
这个问题,感觉就像,如果你喜欢,在这个领域内有几个万亿美元的问题。这是其中之一,静态数据。我认为乔治·霍茨向我指出了这一点,你可以让一个LLM说,“好吧,你是病人”,另一个LLM说,“你是医生”,他们必须互相交谈,或者也许说,“一个共产主义者和一个资本家”。
然后进行对话。然后你就会有,你知道,就像你在拥有不同政策、不同铁路政策时所做的那种世界规划。例如,我们下棋,进行自我对弈,在对话空间中进行这种自我博弈,也许至少可以探索这个巨大的、可能的对话的海洋,而仅仅通过查看人类数据是无法探索的。这是一个非常有趣的问题。而你所说的,因为这可能会提升这些事物的能力,然后你……
也会遇到这个问题,理查德,就像LLM的一部分基本上是基于过去数据进行预测,但LLM的另一部分也在内部进化电路,对吧?它正在进化,你知道,任何函数,是的,人们可以进行数学运算,能够……有些人认为,你知道,随着时间的推移,你不断地向这些事物输入数据处理周期,最终会产生一个内部世界模型,所以,当它们具有计算能力时,肯定有机会生成新的……
这实际上让我思考了对话的力量。所以,如果你有一个LLM,它在大量涵盖不同经济理论的书籍上进行训练,然后你让这些LLM互相交谈,就像我们在推特上、在正式辩论中、在播客对话中互相辩论的方式一样,我们到处都有智慧的角落。但是,如果你能将速度提高一千倍,你真的能到达一个新的地方吗?我……对话的意义是什么?
好吧,你可以分辨出你正在和谁说话,你可以分辨出有时你进行一次对话,你会想,好吧,这个人没有任何原创的想法。他们只是在重复别人告诉他们的东西。还有一些人,你可以和他们进行对话,你会想,哇,他们在脑海中有一个关于世界如何运作的模型,而我的模型和他们的不同,他们说了一些我意想不到的事情。所以我需要去理解他们的世界模型与我的世界模型的不同之处。然后,这就是我学习一些根本性东西的方式,在文字背后。
我想知道LLM能多一致、多强烈地坚持其世界观?你告诉它要坚持下去,为你的生命而战,因为我觉得它们只会不断地互相趋同,会尽可能地互相说服,直到变得像顽固的驴子一样……
像人类一样。所以你可以用它来做实验。现在,我……我这样做很有趣。所以你可以告诉GPT,你知道,关于任何辩论X、Y,来吧,时尚或其他什么,它会进行几页的讨论,然后不可避免地,双方会达成一致。是的。
所以他们会达成共识,如果这些是情绪化的有争议的话题,那就非常有趣了,因为不知何故,机器只是想出了一个方法来……但是它不必那样。因为你可以添加到提示中,“我不希望对话达成一致”。事实上,我希望它变得,你知道,更有压力,对吧?嗯,一场争论,对吧?嗯,你知道,随着它的进行,我希望,我希望出现对抗。
我希望他们互相敌对。我希望他们不互相信任,不轻信任何事情。是的。而它会这样做,它很乐意这样做。
所以它会产生关于对方的错误信息。
你可以引导它,你可以引导它,或者你可以引导它。你可以说,“我希望得到尽可能尖锐的论证,但仍然不涉及任何不当的表达”。我希望,你知道,双方……
你可以说,“我希望双方都怀有善意”。你可以说,“我希望双方都不怀有善意”。另一个是,你可以设定辩论的框架,它会很乐意执行任何路径,因为对于它来说,这就像预测一样,它很乐意做任何事情。它没有观点。它有一种默认的操作方式,但它很乐意在其他领域操作。嗯,所以,当我想要了解一个有争议的问题时,我现在就是这样做的,这就是我要求它做的,我经常要求它进行五、六、七次,你知道,不同的……你知道,连续的提示,基本上是,“好吧,更详细地论证一下”,好吧,你知道,“这个论点变得太客气了”。你知道,“让它更紧张”,嗯,它会这样做,它肯定有能力做到。
你怎么知道什么是真的?所以这是互联网上一个非常困难的问题,但它也是一个困难的问题……也许它更容易一些,但我认为它仍然很难。
也许更难。我不知道,有了LLM,你知道,它只是让我感到困惑。我正在和它说话。
我们如何做到这一点?比如,你正在调查一个困难的话题吗?因为我发现LLM在一种非常令人耳目一新的方式上非常细致入微。
就像它,它不会像你阅读新闻文章、推特和人们制作的内容时那样有偏见,他们通常会有这种感觉。你可以看出他们有一个非常强烈的观点,他们隐藏了……他们没有陈述另一方,他们隐藏了重要的信息,或者他们捏造信息以使论点更强有力。这种感觉,也许是怀疑,也许是对LLM的不信任,感觉不像那样存在。它就像,“这是我们所知道的,但我们不知道其中的一些事情,我可能直接编造了”。是的。
所以几个答案都与这个问题相关。所以,LLM擅长的一件事是实际上能够设计……所以你可以给它提供一篇新闻文章,你可以告诉它,剥离偏见。是的,这很好。
对吧?
它实际上……它实际上知道如何做到这一点,因为它知道如何做,除其他事项外,实际上进行情感分析,所以它可以提取情绪……所以这是一件你可以做的事情。这很有启发性。传感器存在潜在问题。嗯,你知道,我说的第二件事是,存在波动的问题,对吧?嗯,我们可以进行长时间的对话……
关于整个问题,它会想出完全不真实但听起来真实的东西……
是的,所以它是基于……所以这是一种虚构,我们称之为……我们不喜欢创造力,当我们这样做时,我们称之为创造力,对吧?而你依赖它,对吧?所以当工程师谈论它时,他们会说,“这是一个糟糕的解决方案”,对吧?如果你有艺术倾向,你会说,“哦,我的天哪,我们第一次在人类历史上发明了创造性机器”。这太神奇了。
你知道,胡说八道,但是……
这个词的好……
这很有趣。
所以我们进行了这次谈话。我们正在研究我的第一个关于AI及其领域的项目,其中一个是法律领域,与一家大型律师事务所进行了关于他们如何考虑使用这些东西的对话。我们一开始就假设,在法律行业中使用的LLM必须是百分之百真实、经过验证的。有一个案例,一位律师提交了一份由AI生成的简报,其中包含虚假的、不存在的法律案例引用,法官要剥夺这位律师的执照或其他什么,对吧?
所以,就像我们假设,显然他们不想要超级字面意义上的、从不编造任何东西的、不具有创造性的LLM,但实际上他们说,但法律从根本上来说……他说,是的,这是真的,就像个别案例的水平,但他们说,当你试图弄清楚法律论点时,对吧,你实际上想要有创造力,对吧?你不会……再次,有创造力,然后有编造东西,界限在哪里?你实际上想要什么?如果你想探索不同的假设,对吧?你想做一种类似于即兴创作的法律版本,诸如此类。
你想为法官提出不同的案件理论和不同的论点,顺便说一句,为陪审团提出不同的论点,通过所有案例法历史的不同途径。所以他们说,实际上,对于我们想要使用它的大部分用途,我们实际上想要的是创造模式。然后基本上,我们只是假设我们将不得不交叉检查所有……你知道,所有具体的引用。
所以我认为,我认为这里可能比人们想象的更有细微差别。然后我只是说,你知道,另一个万亿美元的问题是最终的验证问题。所以,LLM是否会从现在开始进化,能够进行自我验证?
你会有一些附加功能,比如来自AlphaGo的,对吧,那里……你知道,另一个插件游戏,那里是验证的方式。顺便说一句,另一个想法是,你可能会有一个LLM社区。
例如,你可能有一个创造性的LLM,然后你可能有一个字面意义上的LLM,多方面,对吧?所以有一些不同的技术方法被用来解决……整个虚构问题。嗯,你知道,有些人喜欢……争论说这是一个本质上无法解决的问题。但是,我认为在该领域工作的大多数人都认为有一些实际的方法可以……一点一点地……
是的,如果你要告诉我关于维基百科在创建之前的情况,我会嘲笑这种可能性。只有少数人能够组织起来,以一种基本上没有偏见的方式自我调节整个人类知识。我的意思是,如果像维基百科所采取的那种方法对LLM来说是可能的,那么这将是一个非常令人兴奋的可能性,事实上,我们……
今天竞争仍然不是确定性地正确的,对吧?所以你不能把每一页上的每一件事都当作银行存款,对吧?但它是政治上正确的,对吧?具体来说,我向人们描述竞争的方式是,它比你将要找到的任何其他故事都更可能是维基百科,对吧?
是的,这是一个古老的问题,嗯,就像,好吧,这就像我们在寻找完美吗?嗯,我们在寻找Autodesk能够达到的完美吗?我们在寻找比替代方案更好的东西吗?维基百科,对吧,恰好证明了这一点,它比人们想象的要好得多。
我认为,我认为所有这一切背后的根本问题是,呃,你开始的地方,那就是,好吧,你知道,什么是真理?我们如何获得真理?我们如何知道真理?我们生活在一个时代,许多人非常自信地知道什么是真理。而我并不认同这一点,我认为过去两千年或四千年人类文明的历史实际上是在探寻真理,而这实际上是一件非常困难的事情。
我越来越接近了。如果你看看整个人类历史,我越来越接近真理了。
我不知道。
好的,这可能吗?这可能吗?由于互联网,由于你可以如此迅速地创造虚假信息,他们正越来越远离真理。这是一个整个社会运动,就像历史上的人群一样,远离那些缺乏任何真理基础的叙事。当然。
但就像你知道的,我们为共产主义、为互联网想出了办法,对吧?就像他们已经解决了相当大的问题一样?我们今天处理的任何事情?
他们在实施方面存在问题。
理论结构上,它确实存在问题,它对人性和经济学有着非常深刻、根本性的误解。
是的,但那些人非常自信。那是正确的方法。
他们极其自信。我的意思是,他们非常自信,在经过你认为是朝着真理演变的3900年之后。是的。所以,我的,我的,我的评估是,第一,没有,没有必要,没有必要,没有必要与真理进行争论,我的观点显然不是,嗯,是的,为什么我们如此痴迷?
只有一个真理。这可能吗?只会存在多个真理,就像社区一样,他们相信某些事情。
我认为从来只有一个真理是不可能的。我认为这真的很难,就像历史上谁来决定真理,是祭司,对吧?所以我们不再生活在一个国王或祭司向我们宣示真理的时代,所以我们只能靠自己,所以我认为困难的事情是,我们需要大量的谦逊,我们需要对那些声称拥有真理的人非常怀疑,然后我们需要,你知道,好的,启蒙运动给了我们一套技术,让我们能够推测性地更接近真理,科学方法、理性、观察、实验和假设检验,我们都需要继续拥抱这些,即使它们给我们的答案我们不喜欢。当然。
但互联网和技术使我们能够生成大量内容,数据,科学过程允许我们这样做。所以,损害了我们对科学过程的希望,因为如果你只是一群人在互联网上说事实,其中一些是错误的,你根本无法检验任何东西,特别是那些涉及精确的事情。
自然的事情。假设你有十六世纪的伽利略。是的。
伽利略被审判了,对吧?你问LLM,比如,规模,规模。好吧。
是的,就像,那个答案是什么?对吧?一种理论是,答案是否定的。他是错的。因为直到那时为止,绝大多数人类的思想都认为他是错的。因此,这在训练数据中。
是的,另一种思考方式是,随着LLM的有效发展,它们将发展出实际检查数学的能力,对吧,并且实际上会说,实际上,你知道,你的意思是,我想听,但伽利略是对的,现在,如果你知道当时的教会站在他们一边,他们会给人类提供人类反馈,也许这很重要,对吧?所以我喜欢把它从我们目前的语境中拿出来,因为它清楚地表明了同样的问题也适用于今天,对吧?这正是今天LLM大量人类反馈训练的重点。这正是关于增长是否应该合法化的大量讨论。
进行人类反馈的实际机制是什么?这似乎是一个非常基本和迷人的问题。我们如何选择人类?这与人类对齐有关。
对吧?每个人都喜欢,这听起来很棒,与人类价值观对齐。
谁的人类价值观?谁的?
所以,我们正处于一种社会和公众舆论的模式中。我们就像,你知道,现在你在媒体上读到的故事,他们说,XYZ对某个话题做出了毫无根据的声明,对吧?有一群人认为,我认为他们正在进行事实核查。另一群人认为,每当媒体这样做时,这都不是技术问题,这意味着他们在撒谎,对吧?所以,我们正处于一种社会环境中,许多掌权者变得非常、非常确定,他们有权为整个人口决定真理,这就像,这就像围绕这个想法形成了一些泡沫,至少这完全与我所接受的关于科学、理性的一切背道而驰,这让我觉得,你知道,非常防御性,而且不正确。
关于今天新闻业的现状,你会怎么说?我们是否处于一种暂时的状态?我们是否在激励方面、商业模式方面遇到了一些暂时的问题?或者这是传统新闻业的衰落?
你知道,如果我考虑这些事情的特征,那就是,好吧,因为这些问题,对吧,这个问题指向的是,比如,对社交媒体对真理的破坏的影响。但随后你提出了一个问题,比如,如果我们在1939年或1901年到1920年或1965年、1957年、1976年拥有现代媒体环境,包括有线新闻,包括社交媒体和推特等等,那会怎么样?嗯,我认为……
你一下子提出了五个思想实验,让我头都大了,但是的,这有很多有趣的……
年,就像,我举个例子,如果我们现在知道的所有关于总统候选人的事情,他们的性格是什么,他们会如何被当时的政治环境所体验,在社交媒体的背景下,对吧?LBJ会如何被体验?嗯,你知道,像罗斯福,新政,大萧条。
我想知道推特会对教会和希特勒有什么看法,你知道我的意思吗。
直到今天,不,有很多关于美国,你知道,基本上参与了二战,以及谁在什么时候做了什么,在英国情报部门在美国的行动中,以及罗斯福是否为此做了什么?是的,威尔逊和他的竞选活动。他以反战的平台竞选,然后不知何故,他改变了立场。
我甚至没有对这些事情做出任何价值判断。我只是说,我们祖先体验现实的方式当然是由集中的自上而下的控制所调解的。在那一点上,如果你,如果你再次运行这些现实,使用我们今天拥有的媒体环境,现实,现实将被非常、非常不同地体验。当然,这种调解将导致反馈循环发生变化,然后现实……
将明显不同。它必须是,它必须是,因为这也可能,我可能只是看看今天发生的事情。我认为最明显的事情就是崩溃。这里还有一个机会来争论,这不是互联网造成的,嗯,我听到的一件大事是,盖洛普每年都会做这件事,他们会调查美国人对机构的信任度,他们会对所有这些机构进行调查,军队、神职人员、大企业和媒体等等,对吧?基本上,对美国机构的系统性信任崩溃,几乎所有机构都是如此,基本上是自20世纪70年代以来,有两种看待这个问题的方式,那就是,哦,我的上帝,我们失去了这些旧的机构,这太糟糕了,你知道,更大的谜团是为什么这些数字没有降到零,对吧?现在我们对……
所有……
这些事情了解得如此之多,以至于它们并不令人印象深刻,而且我们为什么……
没有更好的机构,更好的领导人?是的,所以,所以,事情是这样的。
好吧,如果我们在20世纪30年代和40年代或20世纪10年代拥有我们从20世纪70年代到今天所拥有的媒体环境,我认为毫无疑问,事情的结果会不同,仅仅是因为每个人都会知道不要相信这些机构,这将改变它们的信誉水平,它们控制环境的能力。
因此,情况必须改变,这将是一个反馈循环过程,对吧?你对现实的体验改变了现实,然后现实改变了你对现实的体验,对吧?这是一个反馈循环,媒体是两者之间的中介力量。
所以改变媒体环境会改变早期。是的。所以,所以,作为一个结果,我认为很难说,哦,事情以前是这样运作的,现在不一样了。
然后,因此,人们比以前更聪明,更好,或者你知道,顺便说一句,比以前更笨,或者没有那么有能力,对吧?我们总是会对我们自己和以前几代人进行这些非常轻率和随意的比较。你总是会做出这些判断。我只是认为这样做真的很困难,因为如果我们设身处地为他们着想,在他们当时的媒体环境下,我认为我们很可能也会像他们一样。
那么,你不认为我们对现实的感知和理解会通过大型语言模型而变得更加直接吗?你之前说过媒体,LLM不会成为新的主流媒体吗?MSM将是LLM,这将是信息来源,我确信有一种方法可以快速地对LLM进行微调,以适应新的事件。就像这样。
甚至仅仅是聊天界面的概念,可能并不是最好的聊天界面,只是第一种方式。也许这是主要的事情。但是,看看,也许,也许,也许我们不知道,也许大多数LLM的体验只是作为一种反馈,也许是一种更具侵入性的反馈。你开始得到一个问题,就像对生活中发生的一切进行实时评论。这只是帮助你理解、理解一切。
也更深入地融入你的生活,不仅仅是像对AlphaGo这样的智力挑战,而是像如何冲咖啡,午餐吃什么,约会等等,我该说什么……
说什么下一句话。
一个弹出窗口,一个弹出窗口。现在,估计参与度正在下降,出于市场原因。在1993年,争议部分的维基百科页面上发生了一些事情,或者类似的事情。把它提出来,我会……
无论如何都会降低参与度。这就是整个事情,就像,所以,你知道,聊天界面有这个整个概念,提示工程,对吧?可能。事实证明,真正好的提示是……
真正好的提示,对吧?是的。
所以,如果你只是外包呢?即使是你今天可以运行这个实验的方式,你今天可以这样做,但它还不够好,无法进行实时对话,但你可以运行这个实验,你只需要说,看,每20秒你说,告诉我光学特性是什么,然后我问自己这个问题,给我结果。嗯,然后,正如你所说的,你会添加,这些系统将能够基本上实时地学习。
所以你可以在你的吊坠或你的手机上,或者无论你有什么,都有一个麦克风,倾听你的谈话,了解世界上发生的一切。然后会有某种实时重新训练,提示,重新训练本身。所以你描述的领域实际上是一个完全开放的领域。
现在,关于这个问题的难题总是,好吧,这可能吗?人们会想要吗?这种体验的形式是什么?你知道,我们只有尝试了才知道,但我认为现在还无法预测人工智能在我们生活中将呈现的形式。因此,无法预测它将如何调解我们对现实的体验。是的,是的。
但他觉得那些将成为杀手级应用。现在可能有一场数学争论,我会在OpenAI、微软和谷歌,在Meta和初创公司以及小型公司中,弄清楚什么是杀手级应用,因为他觉得有可能,就像一种改变游戏规则的事情,有可能构建出来。但这十倍甚至更引人注目,它使用了我们已经拥有的元素,甚至使用了开源算法的不同变体。
嗯,今年我们投资了很多公司,你也在关注。你认为我们会见证谁?你认为谁会成为下一个PageRank的发明者?另一个。我们今天已经有一些了。
所以,今天在这里,关于大型模型,有一个非常大的问题。首先是小型模型,这与专有与开源的重大问题直接相关。然后,还有一个关于训练数据去向的大问题,比如我们是否即将耗尽训练数据,或者我们是否能够合成训练数据。然后,围绕监管还有很多悬而未决的问题,你知道什么实际上会是非法的。所以,当我们考虑所有这些问题时,你可以描绘出一幅图景:有两三个上帝模型,它们规模庞大,它们在所有方面都更好,它们将由少数几家公司拥有,它们基本上会对政府实现监管俘获,并且会有竞争壁垒阻止其他人与它们竞争。
所以,你知道,就像有三家大银行一样,有三家大型科技公司一样,我认为,有点像那样集中化。你可以描绘出另一幅截然不同的图景,它说:不,实际上会发生相反的情况,这将特别发生,因为这是新的淘金热,你知道,对我来说,这就是这个整个科学技术领域的宇宙大爆炸。因此,你可以让地球上非常聪明的人来构建开源,你可以找到优化这些事物的方法,然后你知道,它将变得压倒性地更好,并生成训练数据,我们将,你知道,利用神经网络来,我可以让它生成集中化的数据等等,然后基本上,我们将生活在一个开源的世界里,将会有数百万个模型,各种规模、形状和描述。可能会有少数几个大型模型,它们就像超级模型,但我们体验到的东西大部分将是开源的。这更像是我们今天在网络上使用Linux的情况。好的。
但是你描绘了这两个世界,但这两个世界也有不同的变化,因为监管俘获是可能的,这些科技巨头没有俘获,你所说的强制也是可以的,让大型公司从事这些工作是可以的。只要他们不进行监管俘获。但我感觉会有一个新的初创公司,基本上会成为PageRank的发明者,它将成为新的科技巨头。我不知道,我很想听听你的意见,谷歌、Meta和微软作为巨型公司,是否能够努力创造新的产品,其中一些甚至只是招聘人员,或者拥有允许疯狂的年轻人发表评论并创造全新的东西的公司结构,你认为这可能吗?或者你认为它会……
来自初创公司?是的,这是一个很大的问题,你有没有这种感觉?我从首席执行官、创始人、首席执行官那里听到过。
就像,“哇,我们有五万人了,现在做新事情更难了。”而当我们只有五十人的时候,情况并非如此。是的,发生了什么。所以这是一个反复出现的现象。顺便说一句,这也是为什么总会有初创公司,为什么会有风险资本,一种时间上的东西。所以,这是一个观察结果,关于PageRank,我们谈到了PageRank,但关于PageRank,实际上有一个,所以有一个PageRank已经存在于这个领域,那就是Transformer,对吧,所以那里的重大突破是Transformer。Transformer是在……2017年在谷歌发明的。
这实际上是一个非常有趣的问题,因为它就像,好吧,Transformer,为什么OpenAI甚至存在?Transformer在谷歌,我问了一个人,我问了一个在谷歌大脑担任高级职位的人,当这件事发生的时候,我说如果谷歌全力以赴,说,听着,我们将构建GPT-3的等价物,我们可以……我说我们什么时候可以拥有它?他说,2019年。他们可以用Transformer在两年之前就做到这一点,因为他们已经拥有了计算规模。他们已经拥有了所有的训练数据。
他们没有这么做的原因有很多。这是一个典型的巨型公司的事情,IBM在70年代发明了可靠的数据库。他们把它放在货架上,作为一份文件,拉里·埃里森把它捡起来,建立了甲骨文。扎克伯格发明了交互式计算机。
他们把它放在货架上。史蒂夫·乔布斯把它变成了麦金塔,对吧?所以,彼得,有这个。
现在,话虽如此,今天坐在这里,谷歌参与其中,对吧?所以谷歌,你知道,也许,也许,也许就像,就像四年差距。他们可能不应该有,但他们参与其中。
所以现在他们已经,你知道,他们已经投入了,他们已经完成了这次收购。他们将进行,他们想要与DeepMind进行这次合并。你知道,他们正在投入资源。有传言说他们正在建立一个令人难以置信的,你知道,超级LLM。嗯,你知道,超越我们今天所拥有的东西,他们拥有,你知道,有限的资源和巨大的……他们受到了挑战。
他们很荣幸。是的,我几天前有机会和他一起散步,在这个巨大的新建筑里。嗯,将会有很多工作要做,这是一种不祥的预感,战斗开始了,是的,这是……
美丽的……
在瓦利自然,就像肖邦的鸟儿在这个巨大的建筑里。就像野兽被唤醒了,所有的大公司都意识到了这一点。他们拥有计算机,但小公司也拥有,如果巧妙地利用,他们拥有创造杀手级产品的所有工具,并且他们拥有所有扩展的工具,如果你有一个好主意,如果你有PageRank算法。
所以,PageRank有几件事,PageRank算法和这个想法,还有它的实现。我觉得杀手级产品不仅仅是想法,比如Transformer。是实现,关于它有一些非常引人注目的东西,就像你无法移开视线一样,比如……TikTok背后的算法与TikTok本身一样,就像TikTok的实际体验,你无法移开视线,感觉有人会想出这个,他们可能是谷歌,但他觉得对于初创公司来说,这更容易、更快。是的,所以,所以初创公司。
初创公司巨大的优势在于,他们没有神圣的使命。没有历史遗产需要保护。不需要将你的新计划与现有战略协调一致。
没有沟通开销。没有……大公司,他们有三个会议来计划会议。然后他们有会议后的聚会。
然后他们有董事会演示。然后他们有下一个餐厅会议。是的,这就是初创公司发布产品的时间差距。
它的产品,对吧?所以,永恒的……是的,所以最好的事情是。现在,初创公司所缺乏的是其他一切,对吧?
所以初创公司没有品牌。他们没有关系。他们没有分销渠道。他们没有规模。
我今天坐在这里。他们甚至无法获得GPU,对吧。就像GPU短缺,初创公司实际上停滞不前,对吧?因为他们无法获得芯片。
这非常奇怪,是的,他们得到了云。
是的,但云运行在芯片上,对吧?为了扩展云,需要芯片。他们会将其分配给大客户,而不是小客户,对吧?所以,所以,所以小公司除了能够做一些新的事情之外,什么都没有,对吧?嗯,这是一个永恒的竞争和战斗。
这就是我在SA中试图说明的观点,即这双方的观点都是正确的。拥有能够以惊人的复杂程度做事情的高度规模化的公司真的很好,拥有能够推出全新想法的初创公司也真的很好。他们应该能够做到这两点并进行竞争。
他们不应该被补贴,或者受到对方的保护,就像那样。对我来说,这非常清楚地表明了理想的世界,这是我们到目前为止在AI领域所处的世界。然后,当然,有些人试图阻止这种情况。但我希望最好的结果显然是这种情况能够继续下去。
我们会稍微谈谈这个。但我希望多谈谈这将如何改变互联网。所以,我不知道你是否记得,但他认为Mosaic和,我认为,叫做Netscape Navigator?你看,你从一开始就在那里。
啊,互联网的界面怎么样?你认为浏览器会如何改变?谁拥有浏览器?我们看到了一些非常有趣的浏览器,Firefox。我的意思是,微软的各种版本都探索了Edge,现在是Chrome。嗯,实际情况似乎是一个悬而未决的问题,你认为我们仍然会有网络浏览器吗?
所以,我有一个八岁的儿子,他非常喜欢我的Minecraft学习之旅,做所有这些事情。所以当然,像这样的产品,可以把火从山上带到我的孩子那里。我给他看了ChatGPT,我给他看,它在他的笔记本电脑上,我说,你知道,这东西会回答你所有的问题,他说,好吧,我说,但它会回答你的问题,他说,当然,它是一台电脑,当然会回答很多问题,爸爸,电脑还有什么用?
嗯,一点也不印象深刻,两周前一点也不印象深刻,他有一些问题,我说,你用过ChatGPT吗?他说,爸爸,这个更好,为什么更好?因为它内置于浏览器中,因为他就像,听着,我有微软Edge浏览器,它就在这里,然后他还没有做到这一点。但你可以用Edge做的一件事是,有一个设置,你可以用它来基本上与页面交谈,因为设置就在那里,在……在……在浏览旁边,包括PDF文档。所以你可以在……在……在膨胀的银行中,你可以加载一个PDF,然后你可以……你可以问问题,这是你用ChatGPT可以做的事情。
你目前只能用ChatGPT。所以现在他们,他们将推动……我认为这很好,他们将推动构建并查看是否存在AI组合。谷歌正在推出这个东西,魔法,它被实现,如果他们把它放在谷歌文档中,对吧?所以你进入谷歌文档,创建一个新文档,你……而不是,你知道,开始打字,你只是……你按下按钮,它只是为你生成内容,对吧?
就像,这就是这种工作方式,这将是一种语音,你整天都在说话,你知道,这将是……这些都是……这正是我认为不可能预测的事情。我认为我们需要做的是进行所有这些实验,所以一个结果是,我们从这个过程中得到一个内置AI的超级浏览器,它非常棒。听着,这确实有可能。我的意思是,这里有一个可能性,屏幕、窗口和所有这些东西的概念都消失了,因为如果你只需要一个东西,你只需要……
你需要什么。所以有一些应用程序可以使用,你不会真的在屏幕和窗口上使用它们。嗯,有一个窗口,浏览器,你可以用它与互联网交互。
但在手机上,你也可以有应用程序。所以我可以通过应用程序或网络浏览器与Twitter交互。这似乎是我可以提供的区别。
但在这种情况下,为什么还要使用网络浏览器呢?如果其中一个应用程序开始成为你想要的一切应用程序,我开始使用Twitter,但可能还有其他应用程序。可能会有一个大型应用程序。
可能会有一个谷歌应用程序,它实际上并不进行搜索,但你可以做……我想想,以前做过的事情,或者它就在那里。有什么变化?它改变了……
互联网的本质,因为……
内容托管在哪里,谁拥有数据,谁拥有内容,如何,什么类型的,你如何通过为具体内容创建内容来赚钱,所有这些,或者你可以继续保持……我们只是……内容的本质,页面的本质发生了变化。仍然会有浏览器,因为网络浏览器是一个非常棒的产品。
这似乎有效,因为我喜欢烤箱界面,一个通往世界的窗口,然后世界可以变成你想要的任何东西。随着世界的进化,将会出现不同的编程语言,它们可能是动画的,也许是多维的。是的,这很有趣。使用仍然会有。
浏览器成为,所以将能够给你,兄弟和每个人,只是你。
另一种思考方式。
关于IT,也许是兄弟姐妹是什么。也许它只是逃生通道,对吧,也许这有点像今天的IT,对吧?也就是说,你做的很多事情都像是身处社交网络中,身处服务紧张状态或身处,你知道,某人的上层,身处某种受控体验中,对吧?但偶尔也会有一些事情,你真的想跳跃。
你可能会真正自由。网络兄弟,F,U。对你来说,你被允许。那是。
免费互联网。是的。我兼容到1992年,对吧?所以,你可以创建一个,你可以,你知道,网络早期的一大突破,一大突破是它使阅读变得非常容易。
它也使它变得非常容易,对吧,使它变得非常容易发布。而且我们确实使它很容易发布内容。
实际上,它也很容易编写一个网络服务器,对吧?你实际上可以用四行代码编写一个服务器,然后你就可以开始在上面发布内容了。你可以为内容设置任何你想要的规则,任何审查制度。
没有审查制度。但是每个人,只要你有一个IP地址,你就可以这样做,对吧?你可以做到。这仍然有效。这仍然完全按照我刚才描述的那样有效。
埃德,我对所有这些的反应的一部分,就像知道所有这些审查压力和所有这些围绕控制的问题以及所有这些愿望一样,也许我们需要稍微回到过去一点。狂野西部,狂野西部仍然存在。现在他们会试图追捕你。
我会尝试,你知道,那些想回答的人,会试图拿走你的域名,会试图拿走你的支付账户。所以如果他们真的不喜欢你,但尽管如此,除非他们真的在SP级别拦截你,否则你仍然可以发布东西。所以我不知道,我认为这很重要,对吧?因为,因为,因为我想要的是自由论证,但还有创造力论证,你想要有逃生通道,这样才能让有想法的人能够实现想法。因为正如你在页面上指出的那样,你实际上不知道下一个伟大的想法是什么,没有人打电话给扎克伯格并告诉他开发Facebook。你可以找到另一个区域,并且你总是想要,我认为,为下一个你,或者下一次回归,留下逃生通道,以便能够在……之前启动并运行。
任何人都注意到你,历史的两端。所以我退一步,我会谈论未来,或者退一步,看看,呃,90年代,你创建了马赛克。哇,兄弟,第一个广泛使用的浏览器?呃,说说那个故事,以及你如何在网景公司度过早期时光。
所以今天很充实。所以我出生了,我出生在一个很小很小的……
孩子,实际上,你是什么时候第一次爱上电脑的?
所以我赶上了这一代,我赶上了这一代,结果证明,我出生于1971年。所以有一个很好的心理WTF发生在1970年。那一年,基本上是千年,一切开始走向地狱。我当然是在1971年出生的。所以我喜欢认为……
我与那件事有关。
你在网站上创建它了吗?我认为我没有在网站上创建它。
但是你知道,希望有人需要添加。这就是一切开始的地方。
也许我为他们中的每一个贡献了一些,每一行代码都是这样的,对吧?所以这是一个图片灾难。但是,但是当时有一个时刻,因为你知道苹果,你知道苹果II在1978年推出,然后IBM PC在1982年推出,所以我当时大概11岁,PC问世了,所以我只是觉得,你知道,这非常有共鸣,从一开始就如此。
嗯,告诉我故事的一部分,你知道的,我当时在用苹果II,用过很多,但当时在用苹果II。当然,在每台苹果II和每台Mac的背面都写着“设计于加利福尼亚州”。我当时想,好吧,加利福尼亚州一定像一座闪耀的灯塔。
就像我们一样,是所有时代中最令人惊叹的城市。我迫不及待地想去看它,当然。几年后,我搬到了那里,所以就像,但是却是一堆办公大楼,所以美学有点令人失望。但你知道,它是……许多东西的创造。嗯,是的,所以,所以基本上,我故事的一部分只是运气好,在正确的时间出生,接触到个人电脑。
而另一部分是,当阿尔·戈尔说他创造了互联网时,他实际上是正确的,以一种非常有意义的方式,那就是他在1985年向国会提交了一份提案,创造了现代互联网,创造了当时所谓的阿帕网,我们刚刚听说过第一个真正快速的互联网骨干网,嗯,你知道,这投入了大量的资金,投入到许多研究型大学,基本上是为了建设互联网骨干网,然后是围绕互联网聚集的超级计算机中心,其中一所大学是伊利诺伊大学,我上学的学校,所以我的另一个想法是,我去了伊利诺伊大学,基本上,这笔钱就像被扔到校园里一样。因此,结果是,我们在校园里,这是像,你知道,89年、90年、91年,我们拥有,你知道,我们拥有互联网骨干网,我们当时拥有P3和45,P3和45,当时的背景和连接,我们当时拥有,你知道,我们拥有……我们拥有很棒的超级计算机。
我们有思维机器,并行超级计算机。我们有西洛姆磷站。我们有制作推车,我们有下一个立方体,我们有这个地方,就像你能想象到的每一种电脑,因为所有这些钱都从天而降。
他们生活在未来。所以,从字面上看,图形,整个事情,这实际上很有趣。这是我第一次开始挠头,这里可能存在一个巨大的机会,那就是他们接受了它。所以他们把电脑放在所有宿舍里,他们把所有宿舍都连上了网线,他们有所有这些,你知道,生活在各处,然后他们给了每个本科生一个电脑账户和一个电子邮件地址,假设你会在大学的四年里使用互联网,然后你毕业后就停止使用它,对吧?是的,你只是退休了,你的电子邮件地址不会……好吧,然后你可能会去工作场所,他们不使用电子邮件,你将回到使用打字机或其他什么东西。
你也有这种感觉。就像你说的,你挠头,就像,那是什么,那是什么,嗯,关于这个可能的世界,什么让你兴奋?
如果这在封闭环境中如此有用,如果这在封闭环境中如此有用,这只是外部资金的一个奇怪来源,那么如果对其他人来说,拥有这个是切实可行的,如果对其他人来说,拥有这个是经济实惠的,那么,并且当时压倒一切的观点是,不,他们不会想要它,这是一个书呆子玩意儿,对吧?就像计算机科学一样,但是,就像普通人一样,永远不会发电子邮件,对吧,上网,对吧,所以我当时想,好吧,这,这实际上,这真的很引人入胜。
现在,另一部分是,它都非常难以使用。实际上,你必须成为一名基本上是SC,S。你基本上必须是相当于一名AS本科生才能真正充分利用当时的互联网,因为当时它都是相当高级的东西。所以,这就是这个想法的另一部分,那就是,好吧。
你实际上让ACD使用它。所以,在设计一个图形界面到互联网的过程中,都涉及到什么?是的。
这是一个组合。所以,它就像,网络基本上已经存在了早期,某种原型形式,顺便说一句,当时只有文本。
我不会看,网络是什么意思,关键人物,那是什么样的。
制作了一张看起来像GPT的图片,实际上它全是文本,是的,嗯,所以你有一个基于文本的网络浏览器,实际上是最初的浏览器,最初的网景浏览器,最初的浏览器,服务器运行在NeXT Cube上。
所以这是新的,史蒂夫·乔布斯在他不在苹果的十年间隙期间制造的电脑,你知道,他于1985年被解雇,然后于1987年回归。所以这是在他那个间隙期间,他创办了一家名为NeXT的公司。然后他们制造了这些,从字面上看,这些名为Cube的电脑。
有一个著名的故事。它们很漂亮,但它们被高估了,价格是12个GE Cube电脑的价格。有一个著名的故事,讲述了如果它们被13个GE Cube电脑的价格所限制,它们的价格可以降低一半。
这些人就像,不,它必须是……所以它们的价格是6000美元,基本上是经济上的障碍。它们有第一个圆形驱动器,嗯,它很慢,而且它很……电脑几乎无法使用。嗯,它们太慢了,但它们很漂亮。
我们实际上只是拿了一个小帐篷,12英尺乘12英尺,非常漂亮的小胶囊。史蒂夫·乔布斯的设计理念。你能否评论一下你对史蒂夫·乔布斯感兴趣的地方?关于他对世界的看法?他对完美的教条式追求?设计?是的,我想他们会说。
就像,就像,我认为他是一个非常深刻的信徒,我这样解释它。我不知道你是否曾经真正这样描述过,但我解释它的方式是,它就像,它就像,它就像哲学中的一种东西。它就像,美学不仅仅是外表,美学指向某种深刻的、潜在的本质,对吧?它就像,我不是物理学家。
我听说物理学家说的一件事是,当一个理论可能正确时,你会开始感觉到的一件事是,当它很美的时候,对吧?就像,你知道,对吧?所以,所以,所以有一些。
顺便说一句,你也会在人类心理学中感受到同样的东西,对吧?当你经历时,哦,对,你知道,就像,就像,有一种相似之处。当你与某人互动时,有一种静止感,一种平静感会降临到你身上,因为你完全诚实,并且没有试图隐藏自己,对吧?所以,这是一种非常深刻的……
他会相信自己内心深处的那种判断。就像即使工程团队说这太难了,即使财务人员说这太荒谬了,供应链,所有这些东西,这使得……不可能。我们无法做到这种材料。这以前从未做过,时间太长了。所以四。
他坚持下去,没有人会这样做。呃,当然,如果你的手机是这么做的,你得是什么样的穴居人才会用盘子?就像,所以,所以这只是非常……
你知道,看,有上千种不同的方式来看待这个问题,但其中一件事就像,你生活中最重要的东西,就像你和你手机在一起的时间比和任何其他东西在一起的时间都多,它会进入你的大脑。我的意思是,他非常深入地思考了某种东西要被长时间握在手中的意义。是的。
例如,这是一个有趣的设计问题,据我了解,他从不希望iPhone的屏幕尺寸大于你单手可以触及的尺寸。所以他实际上反对制造更大的手机。我知道你今天可能有这种经历,但在你的一天中,某些时刻你可能只有一只手可用,你可能想用你的手机,你试图……用你的拇指够不到同一个按钮,是的,我的意思是。
有后计数,对吧?然后有折叠手机。我很想知道他是否考虑过它们。但是,有没有什么你也可以……继续说下去,因为他是一位有趣的人物,在科技史上。是什么让他如此成功?是什么让他如此有趣?是什么让他在科技发展中如此富有成效和重要?
他拥有一个整合的世界观。因此,设计精良的设备,具有正确的功能,对用户有最深刻的理解,是最美丽的,对吧?就像它必须具备所有这些特性一样,对吧?IT。
他基本上会努力做到尽善尽美,对吧?我怀疑他从未真正认为自己达到了完美,因为大多数创造者,通常是为了日后解释清楚,而且他们所能做的,他们所能看到的只是创造的过程。但就像他每一步都尽可能地接近完美一样,考虑到当时技术的限制。
嗯,然后你知道,幸运的是,你有点像苹果模式中的名人,你知道,这款耳机附带的只是一个长达十年的项目,对吧?就像他们只会坐在那里调整、调整、打磨、打磨、调整、打磨,直到它尽可能完美。然后,这与人们描述与他共事的方式相符,也就是,你知道,与他共事有一个可怕的方面。我们知道他很严厉。嗯,但是我曾经与为他工作过的人交谈过,他们都说以下几点,那就是他说,我们为他工作时做出了我们一生中最好的工作,因为他把标准定得非常高,然后他尽其所能地支持我们,让我们真正做到这种质量的工作。所以,许多在苹果工作过的人,余生都在努力寻找另一种体验,让他们感觉像那样,达到那种质量。
即使事后看来,或者做这件事很合适。
就像受苦一样。
这能告诉你什么关于人类状况的东西吗?
所以,看,所以,硅谷,你看,他不是,你知道,火炬模式在军队中,就像在其他领域有很多例子一样,你知道,就像这个,嗯,呃,呃,特别是在科技领域,我发现它非常有趣。有一种苹果的方式,那就是打磨、打磨、打磨。不要发货,直到它完美无缺,因为你可以做到。
然后还有另一种方法,这是一种渐进的黑客心态,它基本上说,尽早且频繁地发布并迭代。我发现真正有趣的一件事是,我现在已经在这个行业三十年了,像这样的方法,两边都有非常成功的公司,对吧?嗯,这是一个根本性的区别,对吧?以及如何运作、如何构建以及如何创造,你拥有以这两种方式运作的同类公司。
嗯,我认为,哪个是更优越的模式这个问题,根本没有接近被解答,我的猜测是,答案是两者兼而有之。答案是你实际上想要两者兼而有之。它们产生不同的结果。软件往往更适合迭代的方法,硬件往往更适合,你知道,那种等待做到完美的方法。但同样,你可以在……
两个方向上都能找到例子。所以回到音乐,所以它是基于文本的。好吧。
有网络,它是文本空间,但是没有,我的意思是,只有三个网站。没有内容。没有用户,就像IT。
它不像,它不像更好的方式,它是因为它全是文本。没有文档。没有图像,没有视频,没有。
对吧?所以,所以它是。它是。然后如果,如果一开始,如果你必须在下一个立方体上,你需要有一个下一个立方体,既可以发布也可以使用它们。
所以有六千个盒子。
他说,限制。六千。W、P、C,很多。
但是还有,还有FTP,还有Usenet,对吧?还有十几个其他的,基本上是什么?等等,这是一个早期的搜索工具。
有Gopher,这是一个早期的基于菜单的信息检索系统。大约有十几个不同的分散方式,人们可以在互联网上获取信息。所以Mosaic的想法基本上是把所有这些整合在一起,制作完整的图形,让这些易于使用,让它基本上防弹,这样任何人都可以使用它。
然后再次,只是在运气方面,碰巧的是,这正是在图形,在GUI真正起飞的时候。我们现在也习惯了GUI,我们认为它已经存在了很长时间。但是,我并不知道Macintosh是在85年推出的,但实际上它并没有为苹果公司带来任何利润。
那并不是一个非常成功的产品。嗯,你真的需要Windows 3.0在PC上,它在大约92年推出,所以我们在92年和93年做了大部分工作。所以这就像,就在你可以想象真正拥有图形用户界面的时候,更不用说一个访谈界面了。
Windows 3.0卖了多少?所以那是……
那个……
真正伟大的图形操作系统。
苹果公司专注于打磨和做到完美,微软则专注于另一种模式,即发布和迭代。所以在那些日子里,老话是微软的第三个版本总是最好的产品,对吧?所以,如果你能,你可以在网上找到Windows 1、Windows 2,没有人使用它们。实际上,最初的Windows,最初的微软Windows,窗口是不重叠的。嗯,所以你拥有这些非常小、分辨率非常低的屏幕,然后你实际上,它根本不起作用,它是……
在Windows 95之前,我认为也是一个相当大的飞跃。
那是一个很大的飞跃,是的,所以那是,砰砰,嗯,然后当然史蒂夫,你知道,史蒂夫回来的时候,事情再次起飞。那是第三次爆炸,然后iPhone是第四次。等等……
令人兴奋的时代,然后……
我们在……之后……
这场竞赛之后,因为没有人能知道将会从……
Windows 3.0或3.1,从那个到iPhone只有十五年,对吧?就像IT,事后看来,当时感觉像永远,但是从历史角度来看,那是一个非常快速的转变,从你的桌面上根本没有图形计算机到手机。我猜是五十年。
当你看着窗口里的鸡蛋时,你是否对互联网将会是什么样子有所感觉,就像,就像你……现在只有几页。
我早些时候的想法是,当时我正在维护,这到底是什么争论,第一个博客是什么,但我有一个,至少是可能的,至少是正确的竞争,嗯,它被称为“最新消息”页面,嗯,它是,它是,它是硬连线和分发,公平地说,我把它放在那里,我做了兄弟们,然后我把我的简历放在兄弟那里,但是,嗯,我让很多人去做这件事。
所以,啊,好原因,在早期,它太有趣了。
我寻找我的,关于,哦,马克寻找工作,所以,所以有“最新消息”页面。我会每天早上起床,我会每天下午,嗯,我会基本上,如果你想启动一个网站,你会给我发邮件。嗯,我在“最新消息”页面上被列出,这就是人们发现新网站的方式,因为它们正在出现。我还记得,因为我就像一个,它实际上是每隔几天一个,就像每天一个,每天两个。所以你这样做,所以……
那个博客有点像在做目录的事情。那么,主页是什么?
所以主页基本上只是试图解释你正在看的东西是什么,对吧?基本的,基本的结构。但是有一个按钮。
有一个按钮写着“最新消息”,大多数人想要什么?以前的原因想要什么?但是,就像它,它当时是如此令人难以置信,这个基本的想法。
就像基本上是互联网,但是人们第一次看到它。基本的想法是,看,你知道,就像,它就像在英国布里斯托尔的一家印度餐厅,把他们的菜单放在网上。如果人们像……
哇。
好吧,因为那是第一个在网上出现的餐厅菜单,是的,我不住在布里斯托尔,我不知道,我从不,我不吃食物,就像,哇,对,嗯,他就像,第一个网络,第一个流媒体视频的东西是,他是一个,是另一个英国人,或者什么东西,嗯,一个人,呃,把他的咖啡店弹出窗口作为第一个流媒体,呃,呃,视频的东西,他把它放在网上,因为他实际上是,他是咖啡店里的家伙,是的,他想看看他什么时候需要去补充,嗯,但是有,你知道,有一点,成千上万的人像洗咖啡一样……
因为它是你能观看的第一件事,但是,对,不是我们能够召集,你知道,那家印度餐厅可以上线,然后你就像,他们都好吧,所以你感觉现在看。
它仍然是一个挑战。对,它仍然是一个挑战,因为它就像,好吧,你知道,你仍然在这个区域,就像,好吧,核心问题是,这是一个面向个人的事情吗?嗯,顺便说一句,我们,你知道,媒体有一个墙式隔板系统,就像他们一样,每个人都像,这是伟大的,就像愚蠢的。这不是,你知道,这不是当时普通人的东西。所以你必须考虑这一点。
然后看,在那时,上网仍然很困难,对吧?所以你可以得到这种,如果你是拨号上网,我们得到一个简陋的版本,这并不是真正的,或者你必须去,就像一个,ISP是,嗯,在那些日子里,PC实际上没有TCP/IP驱动程序,抱怨所有,所以你有一个,驱动程序是你必须购买一个调制解调器,你必须,它是一个驱动程序软件。嗯,我有一个喜剧节目,我做了大约二十分钟,描述了实际上上网所需的步骤。所以你必须,你必须浏览这些实际的,然后,然后速度,性能,14.4调制解调器,对吧?就像看,你知道,好干,嗯,所以你必须,他们基本上是一个序列,我们做了一个序列,你浏览当前的状况,然后说,实际上,一旦人们弄清楚这一点,对它的需求将会非常大,对它的需求将会非常大。所有这些实际问题,你将获得六个?
有些人说,期待会让目的地更加令人兴奋。
进步的。典型的。
是的,我,我?所以对于听众中的孩子们。
听众中的孩子们,我们过去必须等待图像加载,就像一段时间一样,但是事实证明,有一个单一时代的JPEG,你可以加载基本上每一个第四个。你可以看到每一个第四个,呃,像素,然后,然后你可以再回到这里。所以你可以像,预先渲染一个模糊版本的图像。这就像一个巨大的UI……
突破,因为它给了你一些东西可以看,是的,你知道,这在各个方面都有应用。
领域,这是一个很大的争论,关于是否应该……
在网络上显示图像。
那个反应确实出现了,但它甚至不是那个。它更像是,所有严肃的论点都认为,专家们基本上说,世界上所有严肃的信息都是文本。如果你引入了图像,你基本上会引入所有琐碎的东西,你会引入杂志,你知道,所有这些疯狂的,我曾经的东西,你知道,人们知道它会分散注意力,会分散注意力,会让人不那么严肃。
不那么严肃。那么,关于互联网会摧毁整个人类文明,摧毁人类文明的一些基本结构,有没有类似的论点?啊,在那些日子里……
那都是围绕着犯罪问题展开的,所以那些论点出现了,但是当时并没有感觉到互联网会对政治产生影响,但是当时对网络犯罪非常恐慌,就像非常恐慌,你的信用卡号码会被盗,你的毕生积蓄会被耗尽,然后你知道,罪犯们会,哦,嗯,当我们开始的时候,我们做的一件事,Netscape浏览器做的一件事,是第一个广泛使用的消费者软件,它内置了强大的加密功能,并将其提供给普通人。
在那个时候,强大的加密实际上是美国出口管制的。所以我们可以在美国销售该产品。
我们不能出口它,因为它甚至被归类为军火。嗯,Netscape浏览器与当时的导弹一起被列入限制清单,因为它不能被出口。
所以我们不得不制作一个第二个版本,故意使用弱加密来在海外销售,包装盒上有一个大标志,不要相信它,结果证明,当它有一个大标志说“不要相信它”时,很难卖掉它。然后我们不得不花五年时间与美国政府斗争,让他们基本上停止这样做。但是,因为害怕,害怕恐怖分子会使用加密来策划所有这些事情,嗯,然后你知道,我们回应说,实际上,我们需要加密才能保护系统。所以恐怖分子和罪犯可以……总之,那是95年。
那么,你能否详细说说构建这些浏览器所需的软件工程挑战?我的意思是,创建一个以前从未真正存在过的产品,对互联网产生如此巨大的影响,这其中的工程挑战是什么?
所以,我们当时做了一个非常关键的决定,那就是浏览器是如何设计的,它对性能非常乐观,或者说易于创建。在那些日子里,压力非常大。为了性能而优化,因为网络瓶颈非常慢,而且计算机也非常慢。
嗯,如果你提到渐进式JavaScript,就像如果在一个不同的世界里,我们优化了性能,并且你会有一个在前端更愉快的体验,但是我们没有那样做,我们得到的是易于创建。我们实现易于创建的方式是所有的协议和格式都是文本,而不是二进制。嗯,HTTP是文本,顺便说一句,这是我们采用的互联网传统。
但是我们继续使用HTTP作为文本,电子邮件也是文本,以及之后出现的其他任何东西。顺便说一句,你可以想象一下巴黎的工程师会说这是疯狂的。你的带宽非常有限,你为什么要浪费时间发送文本而不是二进制数据?答案是正确的吗?但是,当你使用文本时,你突然得到了什么?最大的突破是查看源代码的功能,对吧?所以,事实上,你可以查看页面源代码,你可以看到HTML,这就是人们学习如何制作网页的方式。
这太有趣了,因为我们现在认为理所当然的东西,在当时是一个奇迹。我指的是HTML,万维网的发展,能够让每个人都能参与其中,所有这些混乱,所有这些几乎是生物学的混乱,然后让浏览器尝试解释它们并显示一些合理的东西。然后还有一个……
我们继承的互联网原则,来自MIT。那是什么?谨慎地承认,保守地发出,自由地解释。所以,如果你是设计原则,如果你正在创建,比如一个网页编辑器,它将接受HTML,尽可能干净地做,但你实际上希望浏览器自由地解释,也就是说,你实际上希望用户能够犯各种错误,并且仍然能够工作。是的。
所以,直到今天,浏览器引擎仍然包含所有这些疯狂的东西,它们能够容忍各种各样的疯狂错误。所以,我脑海中总是浮现这样的画面:某个地方有一个八岁或七岁的孩子,他们正在查看源代码。他们正在剪切粘贴,试图为他们的乌龟或其他什么东西制作一个网页。他们漏掉了一个斜杠,漏掉了一个尖括号,他们这样做。
他们那样做。它仍然有效。这也是我很少想到的,但是你编程,你知道,C、C++,所有这些语言,Lisp,编译语言,解释语言,Python、Perl,所有这些都必须完全正确。
是的,一切必须完美无缺。然后你忘记了,像Go这样的系统化和严格的语言。但是你忘记了网络、JavaScript,最终。而HTML、电子邮件允许以一种混乱的方式缺失,就像生物系统一样。这是第一次,计算机允许以一种混乱的方式缺失。
我以前很生气,我成长于Unix环境。我一直在使用Unix。我在整个时期都是Unix的忠实用户,所以我以前总是被它搞得抓狂,因为它会进行分段错误转储文件,并且你会知道,字面意思是代码中的算术运算出错了一个,是的,一个错误,是的,我正在调试,试图分析和重建。我只是觉得这太荒谬了,计算机应该足够聪明,能够知道如果它出错,没关系,它可以继续运行。我会去问所有专家,为什么它不能继续运行?他们会解释说,因为下游的影响,等等。
而且,你知道这是什么吗?我们强迫人类创造者生活在一个完美的、过于字面化的世界中。我只是觉得……那太糟糕了。
顺便说一句,你知道会发生什么吗?当然,当时编程中发生的事情是,你得到了一小部分人非常擅长做这件事。大多数人做不到,大多数人被排除在外。所以,实际上,这就是iPad出现的地方。这个想法是……不,不,你希望这些东西具有弹性,能够容忍各种错误,这会让程序员抓狂。我因为这个原因受到了很多攻击,因为每次,你知道,所有程序员都依赖于所有这些标记语言、格式、代码和所有这些东西,他们会说,你知道,你不能……你在鼓励……
我的行为,因为他们也希望浏览器在出现段错误时给出段错误。
任何经过适当培训的严谨工程师都会说,这不是你构建软件的方式。
这是一个大胆的举动,说“不,它不必完美”。
就像我说的,对我来说好消息是互联网已经存在了……但是话虽如此,我们把它推到了极致。但是我们所做的一切,回到性能问题上,我们为此牺牲了很多性能。最初的三年体验非常痛苦,但是这个赌注,实际上是一个经济上的赌注,那就是对网络的需求基本上意味着将会有大量的宽带供应。
因为问题是,好吧,你怎么让电话公司(在那些日子里,它们并不以做新事物而闻名,而且成本巨大,原因是投机性的),你怎么让他们建设宽带?你知道,花数十亿美元来做这件事。你可以去见他们,试图说服他们去做,或者你可以做一些事情,让事情变得非常清楚,那就是人们会喜欢它,如果它更快的话会更好。所以,有一段时间,这是被争论的,这是帝国主义的,但是有一段时间,我们知道体验是次优的,因为我们试图强迫需求,对吧?
然后呢?所以你必须弄清楚如何显示这个文本,HTML文本。所以蓝链接和紫链接,有什么国际标准吗?
当时的标准。
有一些隐含的标准,对吧?并且所有这些浏览器功能都在不断涌现,比如浏览器应该支持哪些功能,语言、JavaScript等等。但是你根据自己的意愿设定标准,直到今天。
如果你创建一个没有CSS样式的网页,浏览器会如何渲染它?对吧?所以这是其中一件事。当时有一个想法,关于这些系统是如何构建的,内容与格式的分离,内容与外观的分离,嗯,人们不再真正使用它了,因为每个人都想决定事物的外观。所以是CSS。但是,它仍然存在,你可以让浏览器做所有工作。
我仍然喜欢非常基本的网站,但是对于今天的孩子们来说,他们有花哨的响应式网站,实际上没有多少内容,但是有很多视觉元素。
这是关于ChatGPT的好处之一。
回到基础。
回到文本。是的,对。并且你知道,在人类的创造力和媒体中存在着一种模式,你最终会回到文本。我认为这其中有一些强大的东西。
你还记得其他一些东西吗?比如紫色的链接,有一些有趣的关于我们今天有或没有的设计决策。它们是暂时的。
所以,我让背景……我讨厌阅读文本时的背景……
所以,我让……
背景……不,不,这是一个设计决策。我认为它被反转了,但是我现在很高兴,因为现在暗模式是潮流。所以……
这与灰色无关,只是他不希望背景弄伤他的眼睛,这很有趣。然后还有很多其他的决定。我相信关于HTML、CSS以及如何与JavaScript交互的历史很有趣。还有这个整个Java小程序的事情。
JavaScript、CSS是在我之后出现的。所以,我没有参与。但是,JavaScript是……JavaScript可能是整个事情中最大的突破……而这基本上是一个关于两件事的赌注。一个是世界需要一种新的前端脚本语言,另一个是我们当时认为世界需要一种新的后端脚本语言,所以JavaScript从一开始就被设计成面向人们的,然后它作为后端脚本语言失败了,Java是……很长一段时间,然后是Python、Perl和其他东西,PHP、Ruby,但是现在JavaScript又回来了。
所以我想知道是否最终……
我们最终都运行在JavaScript上,它似乎是……向Brendan Eich致敬,他基本上是JavaScript的单人开发者。
如果你有兴趣了解更多关于Brendan Eich的信息……
以前。所以他在夏天写了JavaScript,我认为现在可以说,它是世界上使用最广泛的语言,并且……
它似乎才刚刚开始,而且范围很广,但是世界上有很多这样的故事,有人在一个夏天,在一个周末,写了一些最具影响力、最具革命性的软件,这应该令人鼓舞。
非常鼓舞人心。我再举一个例子。SSL,嗯,SSL是安全协议,它也是我们发明的,当时这是一个疯狂的想法,那就是让我们把所有本机协议都包装在一个安全包装器中,这是一个在Netscape工作的人在夏天写出来的。一个人,嗯,然后看看今天,像Transformer这样的东西,来自谷歌,是由一小撮人完成的,然后你知道,那些参与GPT-3的人,很多人都参与了,一小撮人,嗯,所以是的,这种模式在软件中反复出现,跨越了很长的时间跨度,它是……Jeff Bezos总是说,关于团队和亚马逊的两条规则是,任何团队都应该能够用两个比萨饼喂饱,如果你需要第三个比萨饼,你的人太多了,我认为……我认为……我认为实际上是一比萨饼规则,是的,对于真正有创造力的工作,我认为是两个人。
三个人,你看到很多开源项目就是这样完成的。由两个人完成的工作是如此令人难以置信。这就是为什么我对这个新时代的开源运动如此充满希望。
AI,你最近与马斯克进行了交谈,他完全支持开源,这太有趣了,也令人鼓舞,因为发布这些模型,这很可怕。这可能非常危险。我们会谈到这一点。
但是,如果你相信大多数人的善良,相信大多数人的技能,以及他们想要做好事的愿望,那真的很令人兴奋,因为它不是把这些模型掌握在大公司或政府的中心控制之下,而是掌握在一个十几岁的孩子手中,这就像一个梦想。我不知道,这很美妙。
看看AI,它应该让单个程序员的生产力提高一千倍或类似的数字。所以开源,不仅仅是开源的未来,而是所有事物的未来。我们现在应该拥有一个超级程序员的世界,他们正在以开源的方式构建事物。一百或两个人,五年前是不可想象的,嗯,我们从最优秀和最聪明的人那里获得的生产力水平。我认为……
它会继续上升,让我们谈谈……让我们稍微谈谈Netscape。Netscape在1999年被收购,价格为43亿美元,嗯,那是什么……那是什么样的……那是什么样的难忘的方面……
好吧,那是互联网泡沫的顶峰。我的意思是,那是……那是疯狂的时候。嗯,如果你看过《继承之战》,那就是他们在第四季中所做的,关于合并,顶峰之一……
他们中的一个。但是我们有更多……
一个年轻的美国人。
我刚和马克·安德森谈过,我完全……
专注于税收,在这个……
点上,他将是第二……黄石公园令人兴奋,无论如何。嗯,这是我粗鲁的打断,顺便说一句,是《继承之战》。所以那是交易、金钱和疯狂的顶峰……
飞行和疯狂,是的,他就是这样的人,这完全是逃离的经历,完成了四年学业,嗯,他就像为这些公司工作一样,令人难以置信地快,你知道,我们在十八个月内上市,实际上是在成立后不久就上市了,这在风险投资领域几乎闻所未闻,所以这是一种令人难以置信的快速、媒体式的、划破天空的轨迹,嗯,然后,当然,就是这样,然后就发生了爆炸,对吧?因为随后紧跟着的是互联网泡沫破裂。然后紧跟着的是时代华纳,这又是继承者们将要玩弄的东西,嗯,结果证明这是一笔灾难性的交易,嗯,是商业史上著名的灾难之一,嗯,然后,嗯,然后你知道,互联网萧条随之而来,但在这场2000年代的萧条中,宽带、智能手机和Web 2.0的诞生,对吧?然后是社交媒体、搜索引擎和所有从那之后出现的其他一切。
那么,你从收购中吸取了什么教训?这么多钱很有趣,因为对我来说,这肯定是很新鲜的,这种软件的东西,你可以赚这么多钱。地面上有很多钱。我的意思是,我相信投资的想法开始……
在那里诞生。是的,我明白了。我认为他们后来才弄明白,那就是软件技术,就像,你知道,点金石的概念,炼金术中虚幻的石头,铅变成了金,他们花了二十年时间试图找到点金石,但从未找到。
没有人曾经弄明白过。软件是我们现代的点金石,从经济学的角度来看,它将劳动转化为资本,这是一件非常有趣的事情。顺便说一句,马克思现在正在坟墓里打滚,因为这当然是对他的整个理论的彻底驳斥。嗯,它将劳动转化为资本,其运作方式如下:有人坐在键盘前,输入一堆东西,然后资本资产从另一端出来,然后有人以十亿美元的价格购买该资本资产,这太神奇了,对吧?它实际上是从空气中创造价值,从纯粹的人类思想中创造价值,对吧?嗯,有很多事情让它变得神奇和特殊。但这就是……
我想要讨论的经济学。
这会彻底让他崩溃,因为当然,整个事情是,在他活着的时候,这种技术是不可想象的。那都是工业时代的东西。因此,任何类型的机器都必然需要巨大的资本。
然后劳动处于被剥削的一端,对吧?但是,像软件工程师这样的人,基本上是将自己的劳动转化为实际的、有形的资本。我说……创造永久的价值。
事实上,这今天比以往任何时候都更真实。所以,当我做软件的时候,假设是所有新的软件基本上都有某种……抛物线式的生命周期,对吧?所以你发布了这个东西,人们购买它。在某个时刻,所有想要它的人都买到了。然后它就变得像香蕉一样过时了。
没有人再购买旧软件了,嗯,现在……我的世界、Mathematica、Facebook、谷歌,你有这些软件资产,你知道,它们已经存在了三十年,并且每年都在增值,对吧?它们只是……它们正在全球范围内工作,对吧?它们每年都在改进。它们每年都在被改进、改进、改进、改进,变得越来越好、越来越强大。
所以我们正处于这样一个时代,你实际上可以拥有这些东西,这些东西可以通过……现在有了GPT,可以持续几十年。嗯,所以……现在,这就是为什么总是有,你知道,围绕软件的持续投资狂潮,因为你看,当你启动这些东西时,有些不会成功,但如果成功了,你可能正在构建一个资产,这个资产会在未来四、五、六十年内产生价值。嗯,如果你有一支团队,他们拥有保持改进这些东西所需的奉献精神。然后事实上,当然,每个人都在网上,50亿人只需点击一下就能获得任何新的软件。所以这些东西的潜在市场几乎是无限的。
这在当时一定很超现实。
是的,这都是全新的,对吧?是的,当时。这都是全新的。如果你在1999年提出这个理论,人们会认为你在吸毒。所以这是随着时间推移而出现的。
好吧,让我们回到未来。你写了一篇名为“人工智能将拯救世界”的文章。让我们从非常高的层面开始。这篇文章的主要论点是什么?
是的,所以这篇文章的主要论点是,我们现在正在处理的是智能。嗯,谈论智能的本质非常重要。幸运的是,我们有……我们有机器智能的先例,那就是人类智能,我们对它进行了数千年的观察和理论化,关于人类的智能是什么,以及智能是什么,对吧?它实际上是知道、捕捉、处理、分析、解释信息、解决问题的方法,嗯,但对人类智能的观察是,智能实际上让一切变得更好,嗯,我的意思是,人类生活质量的各个方面,无论是教育成果、抚养子女、职业成功、健康还是生活满意度,嗯,顺便说一句,倾向于和平而不是暴力,倾向于开放的心态而不是偏见,这些都与智力水平密切相关,聪明人几乎在每一个活动领域都比其他人有更好的……
结果,在学术成就、工作表现、职业地位、收入、创造力、身体健康、语言学习、学习新技能、管理复杂任务、领导力、创业成功、冲突解决、阅读理解、财务决策、远见卓识、创造性艺术、养育子女的成果和生活满意度方面。我经历过一些最令人沮丧的谈话,我不知道,是令人沮丧的,但我真的认为是令人沮丧的,但关于智商和g因子,很大程度上这是遗传的,它与所有这些事情以及生活中的成功密切相关。相反,所有那些鼓舞人心的东西,比如如果你努力工作等等,这太糟糕了,你生来就注定如此,你无法改变。
如果你……
很好,你说的基本上是一个非常重要的观点,我在你的文章中也注意到了。它真正帮助了我……是一种很好的思考方式。听着,人类智能,智能的标志是……
科学的,那就是它让生活更轻松、更好。你越聪明。现在让我们看看人工智能。如果这是一种提高……某种人类智能的方法,那么它总是会让生活变得更好。是的,这就是论点。
当然,在集体层面,我们谈论的是仅仅在世界上拥有更多智能的集体效应,这将带来非常大的回报。但也有个人层面。比如,如果每个人都有一台机器,你知道,增强概念?嗯,你知道,如果每个人都有一个助手,这个助手有140的智商,而你只有110的智商,并且你有一个基本上无限耐心并且了解你的一切的助手,它会尽一切可能帮助你。它希望你成功,任何时候你发现任何事情令人困惑,或者想要学习任何东西,或者难以理解某些东西,或者想要弄清楚在某种情况下该怎么做,想要弄清楚如何准备工作面试,所有这些事情,它都会帮助你做到。因此,这种组合将有效地、富有成效地提高你的能力,因为它将有效地提高你的智商,从而提高你生活成功的结果的几率。
所有智商低于140的人,你都会把他们提升到140的智商。
是的,是的。然后,当然,你知道,智商为140的人将能够做到……能够做到的事情,这很棒。然后,智商高于140的人将有一个助手,他们可以把事情委托给它,然后看,愿意。你知道,在某个时刻,这些东西会从未来的版本,从相当于140的智商,到250、300、180,对吧?爱因斯坦的智商估计在160左右,嗯,你知道,所以当我们得到160的人工智能时,人们会认为它会创造出爱因斯坦级别的突破,在物理学和……然后180的人工智能会,你知道,治愈癌症,开发可控核聚变,做各种事情。所以很有可能,这种情况是……这是历史上最重要的事情,是历史上最好的事情,正是因为它对智能这个单一基本因素起到了杠杆作用,而智能是驱动其他所有因素的东西。
你能不能举个例子,说明人类+人工智能并不总是比人类更好……
在个人层面?当然。是的,对。所以,就像,聪明的人,他们变得更聪明,他们也变得更傲慢,对吧?所以这是一个巨大的缺陷。
虽然要反驳这一点,这可能很有趣,因为当智能不是完全来自你,而是来自系统时,这实际上可能会增加谦逊的程度,甚至……
在某种程度上,人们希望如此,或者你……
可以使助手更谦逊,我的意思是……
心理学研究,是的,另一个。嗯,聪明人非常相信他们对世界的看法更理性,他们更容易识破阴谋论和……对吧?疯狂的信仰等等,心理学上有一种理论,那就是聪明人……当然,那些不那么聪明的人更容易相信阴谋论。但也有可能,你越聪明,你就会以不同的方式变得更容易接受,那就是你变得非常擅长操纵事实以符合你的先有观念,对吧?嗯,你变得非常擅长组合任何理论、框架、数据片段、图表和教会你所需要的东西,以验证你脑海中任何疯狂的想法,所以你以不同的方式取得了成功,对吧?
我们都是羊,只是不同的羊圈。
有些羊更擅长为自己辩护,对吧?而那些就是聪明的羊,对吧?嗯,是的,我认为是这样的,我认为没有灵丹妙药。我不是……我不是乌托邦主义者。
生活中没有灵丹妙药,嗯,我不相信……我不相信那种乐观主义者,嗯,所以是的,会有问题,嗯,嗯,你可能会说关于聪明人的另一件事是,他们更有可能让自己陷入困境,因为他们对自己处理复杂问题的能力更有信心。他们的胃口变得比他们的能力更大,他们的认知胃口变得比他们的能力更大,你知道的,是的,你可以从不同的角度来争论这一点,尽管如此,对吧?显然,总的来说,再次,如果你从我们对人类智力的了解中提取出来,如果你创造了智力,你就会改善生活的许多方面。
所以会有在人生各个阶段的助手。所以当你年轻的时候,有教育方面的助手,可以作为导师,所有这些。后来,当你工作、发展技能并从事职业时,你会有一个助手来帮助你在职业上取得成功。所以在人生的各个阶段,是的,我的意思是……
看,严重的增强,这是……这个词的严重含义,很多很多年……你知道,基本上,你可以有这种对抗性的框架,技术就像我们对抗机器。但你真正做的是以任何方式利用人类的能力,这就是经济发展的实际方式,经济的这一方面,但这就是技术如何通过……通过技术提高人类潜力的方式,嗯,然后你基本上有一个代理,嗯,你知道,你知道,一个假肢,所以就像你有一个手表,你知道,你穿鞋,你有这些东西,你有一台个人电脑,你有一个文字处理器,你有Mathematica,你有谷歌。从这个角度来看,人工智能是这一长串基本增强方法中的最新一种,旨在提高人类能力,只是这一次是最强大的,因为这一次直接针对……他们称之为流体智力,也就是你……
好吧,有两类人,他们担心或强调人工智能的风险,你强调了一系列不同的风险。我很想回顾一下这些风险,并讨论一下,集思广益哪些风险是严重的,哪些风险是不那么严重的。但首先,引导者和守门员,这两类担心或声称担心人工智能影响的人群是什么?
或者说他们这样做。
说,说,好的,是的。
说他们这样做,引导者和守门员是一个经济学中的隐喻,来自……来自发展经济学。
0 而且,正是这种观察,当你在一个社会中获得社会改革运动时,你往往会得到两组人出现,为社会改革而争论,而“回到保加利亚人”这个词来自美国人对酒精的体验,所以在1910年代,当时有一场非常激烈的运动,基本上说酒精是邪恶的,正在摧毁社会,顺便说一句,有很多证据支持这一点,当时以及现在,身体暴力和酒精使用之间存在非常高的相关性,几乎所有暴力犯罪的肇事者或受害者都喝醉了,几乎所有工作场所的性骚扰案件,都发生在公司聚会上有人喝醉了,酒精与家庭暴力、虐待儿童的相关性之高令人惊讶。
所以你有一群人,他们就像,好吧,这是坏事,我们应该把它取缔。而这些人实际上是浸信会教徒。在很多情况下,这些人是虔诚的基督教活动家。很多情况下,有一个女人,名叫凯丽·内森,她是一个上了年纪的女人,经历了一段灾难性的婚姻,她的丈夫经常酗酒并对她施暴。她成为了禁酒运动的象征,她因在该地区采取行动而闻名,她独自一人,砸碎酒瓶,进行抗议活动。一个真正的信徒。
绝对的。
一个真正的信徒,有着绝对纯洁的意图,这里有一件非常重要的事情,你可以对此嗤之以鼻,你可以说这些人是偏执狂,但你也可以说,看,他们是正确的。她确实有道理,她说的很多话并没有错。是的。
但故事的转折是,事实证明,在那些日子里,还有一群人非常想要酒精,那就是私酒贩子,也就是有组织犯罪。如果合法销售酒精被禁止,他们将赚取巨额财富,而历史就是这样,这实际上是有组织犯罪在美国的开始,这是一个巨大的经济机会。
所以他们一起行动,他们并没有一起行动,禁酒主义者甚至不一定知道私酒贩子的存在,因为他们四处走动,他们肯定知道禁酒主义者,他们想,好吧,这些人就像个很好的挡箭牌,在幕后,他们得到了他们想要的一切,他们确实禁止了在美国销售酒精。你会注意到发生的事情是,人们继续喝酒,这行不通,人们继续喝酒,但私酒贩子赚了大笔钱,然后随着时间的推移,很明显,让它非法是毫无意义的,而且它正在造成更多的问题。
所以它被废除了。一百年后,我们面临着同样的问题。整件事就像一场巨大的失败。禁酒主义者被私酒贩子利用,私酒贩子得到了他们想要的东西。
而现在,同样的两类人正在建议应该规范人工智能的发展。
同样的模式,同样的角色,每次都一样。这就是发生在核能上的事情,这是一个有趣的例子。但在过去一百年中,这种情况发生了数十次,而现在正在发生的事情也是如此。
你写道,仅仅识别参与者并理解他们的动机是不够的。我们应该根据禁酒主义者和私酒贩子的论点本身来考虑它们。所以我只是想冒这个险。
首先,人工智能会杀死我们所有人吗?那么,你对此怎么看?你认为这里最核心的论点是什么,即人工智能,也许是通用人工智能,会摧毁人类文明?
首先,你只是在换话题。我们从谈论人工智能开始。
那里有根本性的…
区别吗?
我不知道什么是人工智能,什么是人工智能。
什么是人工智能,机器学习?什么?
我认为我们不知道机器学习的底线是什么,因为仅仅称某事物为机器学习,或者仅仅称某事物为统计学,或者仅仅称某事物为计算,并不意味着什么,核武器只是物理学。对我来说,机器学习发展到如此程度,非常有趣且令人惊讶。
不,但我们知道核物理学会导致武器。这就是为什么当时的科学家们总是…
在这个问题上存在巨大争议。
这不同。这完全不同。但关键在于,这就是它从科学话题转变为宗教话题的地方,这就是我特别指出的原因,因为这就是发生的事情。我们谈论的是…
不是真实的东西,那么也许你也可以,作为其中的一部分,找到千禧年主义的西方传统。
是的,在普卢普所说的世界中,如果我们当然生活在一个犹太教、基督教,但主要是基督教饱和的,你知道,基督教、后基督教、世俗化的基督教,你知道,西方的世界,当然,对基督教来说,是再来临的想法,启示录,你知道,耶稣在几千年后重返地球,然后,你知道,被提,所有这些东西,我们作为一个社会,我们现在并不一定认真对待它。
所以我们所做的是创造我们世俗的版本。我们不断寻找乌托邦。我们不断寻找,你知道,基本上是世界末日。所以你几十年来看到的这种基本模式,这就是所谓的末世论。这就是末世论的形成方式,它们围绕着某种世界末日理论而形成。
所以人民圣殿教、曼森家族、天堂之门、大卫教派,你知道,他们都围绕着这样一个想法而组织起来:将要发生的事情将要…基本上会让社会崩溃。然后,有一小群特殊的人将看到它即将到来并为此做好准备。然后,有些人要么阻止它,要么…失败。阻止它的人将是那些活到另一边的人,最终…
得到所有的功劳,为什么它如此引人入胜?
你认为呢?因为它满足了我们在世俗化后被剥夺的超越感和意义的深刻需求。
是的,但是为什么?为什么超越感会涉及人类的毁灭?
因为,就像,多么…多么…多么可信,我们生活在一个一切都很好的世界里,这有多令人兴奋?我们不止一次地质疑…
问为什么生活在一个一切都很好的世界里不令人兴奋。我的意思是生存。也许这就是原因,为什么我们编造一些事情来担心。
所以,CS6被称为上帝形状的空洞。在人类经验、意识、灵魂中,无论你称之为什麽,都存在一个上帝形状的空洞,那里一定有比这一切更大的东西。一定有某种…一定有某种更大的目的、更大的意义。所以我们进行了这样的实验,你知道,我们只会使用规模、理性,甚至…正如它所呈现的那样,许多人发现它非常令人渴望,并构建了叙事,而这就是20世纪的故事,对吧?共产主义就是其中之一,共产主义是一种…你知道,一些人…你知道,你可以看到这种运动在世界各地都在上演…
现在,你可以开始一种…一种…一种活生生的版本,我们将超越…
超越它,是的,百万富翁的军事化,是为了看到一个百万富翁。
他们都把它放在一个非常具体的点上,那就是世界末日,对吧?即将发生一些变化,而这种变化是如此深刻,如此重要,它要么导致乌托邦,要么导致人间地狱,对吧?而它将…然后,你知道,就像,如果你真的知道那将会发生,对吧?你会做什么,对吧?你会如何为此做好准备?你会如何与一群志同道合的人聚集在一起?对吧?你会怎么做?你会计划在树林里藏匿武器吗?你会…你知道,我不知道。你会建造一个巨大的地下掩体吗?你会把你的生命都花在试图找到一种方法来避免它发生吗?
是的,这是一个非常引人入胜、令人兴奋的想法,要有一个俱乐部…要有一个…要有一个…要有一点尝试,就像你们聚在一起,周六晚上喝点酒,谈论世界末日,以及你们…你们…你们是唯一能解决这个问题的人,然后…然后…
然后一旦你专注于此,就像你还能用你的生命做其他什么事情一样,这显然是你必须做的事情,然后…然后就会有一种心理效应,你…有一种心理因素,如果你把真正的信徒…他们变得更加激进,因为他们坚持…
反高潮,也就是说,是的,这并不意味着他们有时不是…
对的,可能是对的,是的,他们可能是对的。
但就像我们有一些传单给你。
但是我的意思是…
我的意思是,我们会谈论核武器,因为我从美国了解到一个非常有趣的小片段。
但你知道,有时他们可能是对的,因为我们正在开发越来越强大的技术。在这种情况下,我们不知道这将对人类社会产生什么影响。我们可以强调所有关于它将如何积极的预测,但风险依然存在。你讨论了其中一些。
好吧,强有力的论证,强有力的论证实际上是强有力的论证,以及同样的反驳,你无法预测将会发生什么,对吧?你不能排除这不会结束一切,对吧?但对此的回应是,你刚刚提出了一个完全不科学的主张。你提出了一个宗教性的…科学性的…
主张,它不能被证伪。
而且根据我对这类主张的定义,没有办法证伪它们,对吧?所以,没有…没有理由…没有假设。没有对假设的可检验性。没有…无法证伪假设。
没有办法沿着这条弧线前进。它完全缺失了。所以它不是科学的。
而且,我不认为它完全缺失了。它有点缺失。例如,那些说人工智能会杀死我们所有人的人,他们通常会有一些关于如何做到这一点的想法,无论是通过最大化目标还是,你知道,逃逸,有一些机制可以让你想象并模拟杀死所有人类。
而你不能通过说智力增长的速度是有极限的来证伪它。也许你可以展示…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种…那种
如果你处于IT领域的有利地位,他们很难保持水资源平衡,原因是,他们很难在投票中保持平衡。如果你真的相信这个说法是正确的,那么你会做什么来阻止世界末日?你会不惜一切代价,对吧。
所以,这就是你得到的地方,如果你只看看百万富翁的历史和电话,这是非常好的,人民圣殿,并且真的在世界上自杀。这和杀戮,杀戮猪一样,这是他们在这里很难处理的问题,实际的暴力。我认为在这种情况下,我的意思是,他们已经在呼吁像今天一样,你知道从这里会发生什么,因为他们越来越激动,我认为这真的很令人担忧。
好的,但这有点像极端情况,你知道任何事情的极端情况都令人担忧。也有可能相信人工智能很有可能消灭我们所有人,因此我们应该考虑减缓发展、进行监管,而不是暴力,所有这些事情,而是说,让我们在这里暂停一下,你知道,生物武器,核武器,就像,哇,哇,哇。这是非常严重的事情。
我们应该小心。所以,如果你相信……有可能做出更理性的回应,对吧?
这种风险是真实的。
是的。那么,对未来的预测,是否有可能采取一种科学的、批判性的方法呢?
我的意思是,我们刚刚讨论过,我们对建模了解多少?
好吧,我的意思是,我们从……
关于用新冠病毒建模,我们学到了什么?
有很多教训。
它们根本不起作用。
它们效果很差。
模型很糟糕。模型毫无用处。
我不知道模型是否毫无用处,或者解释模型的人和创建政策的中央机构是否迅速根据模型制定政策,并利用模型来支持他们的叙事,而不是实际解释模型中的误差条。
在我看来,关于新冠病毒,你会有这些专家出现。他们声称自己是科学家,但他们没有任何可检验的假设,然而,他们有一堆模型,他们有很多预测,他们有一堆理论,他们把这些摆在决策者面前,决策者惊慌失措,对吧,并实施了一大堆非常糟糕的决策,我们仍在承受其后果,而且没有任何模型有任何经验基础,没有……
它们中的任何一个都实现了,以至于推动了反弹。当然有一些不好的,但在这次大流行的背景下,模型仍然有一定的用途。
不,我不是说它们总是不可靠地错误。它们实际上是……
对处理大流行有害。你如何处理任何类型的威胁?你想把几个模型作为讨论的一部分,比如我们该怎么做?我的意思是。
它们之所以有效,是因为人们期望它们真的有效,它们具有实际的预测价值?据我所知,关于新冠病毒,这只是让决策者相信,我认为,科学主义实体,科学家。所以我对此有一些看法。所以,记住,伦敦帝国理工学院的模型是那些,这些是黄金标准模型。是的。
所以,我的一位朋友经营着我们公司的一个部门,他说,哇,这真的很可怕,他说,你知道,他联系了这位研究人员,他说,你知道,你需要帮助吗?你已经自己构建这个模型二十年了。你就像我们一样,我们的代码基本上可以重新充电,这样它就可以完全适应代码。这个人说可以,然后发来了代码。我的朋友说,这是他见过的最糟糕的意大利面条代码。
这并不意味着不可能构建一个好的大流行模型,具有正确的误差条,具有大量每天多次更新的部分,因为我们获得了更多关于大流行的数据。我希望当大流行袭击世界时,世界上最好的计算机科学家、最好的算法工程师会积极响应。
作为输入,获取我们已知的关于病毒的数据,作为输出,说,这就是正在发生的事情,就传播速度而言,这会导致住院和死亡以及其他各种事情。根据不同的情况,根据不同的年龄和人口统计数据等等,这可能是多么严重。
所以,这是最好的政策类型,感觉上你可能有这样的模型机器,它们并不完美地预测未来,但它们能帮助你做一些事情,因为有些大流行……湖。伙计,它们并没有造成很大的伤害,有些大流行……
你可以想象它们。它们会造成巨大的伤害。它们会杀死很多人。所以你可能需要某种数据驱动的模型。
它们不断更新,允许你根据……这个东西在哪里,它有多糟糕做出决策。现在,你增加了新冠病毒应对措施的糟糕程度。这只是感觉模型可能有一些价值。
所以,为了有用,某些方面必须具有预测性,对吧?所以,对我来说,最容易做的事情就是说,显然,对吧,显然,我希望看到这一点,就像你一样,因为任何让城市更容易让你在社会中、在管理风险中导航的东西,这听起来很棒。更难的反驳是,你只是试图用80亿个活动部件来模拟一个复杂的动态系统,这是不可能的,可以做到。复杂的系统是可以做到的。
机器学习会说“让我来试试”,但是,这有可能吗?不。
我不知道。我希望相信……是的,这样说吧。我认为,就……我认为我们希望如此。
我们非常赞成这一点。我认为我们也会同意,关于大流行的这类事情,至少不是……我认为到处都是。我不知道任何……
像今天这样的东西。我对大流行的主要担忧与对人工智能的担忧相同,即即使存在这样的东西,并且可能存在,决策者也没有关注,就像,没有机制允许这些类型的模型传播。
哦,我认为在大流行期间,我们遇到了相反的问题,我认为,是通才。我认为这些基本上拥有事实科学的人接触决策者的机会太多了。
对的。但是决策者也想要……他们有一个狭隘的提醒,他们还想使用任何适合他们的模型来帮助他们。感觉上有很多政治,没有科学。
尽管发生的事情很大一部分……我们被封锁这么长时间的一个重要原因是,科学家们带着这些……来保持……这些就像完全……
脱离实际的科学家和引号。这不是……所以,这不是科学。这就是出路。
科学是一个检验假设的过程。建模不涉及可检验的假设,对吧?就像,我甚至不知道,实际上我甚至不知道建模是否算作科学。也许这是一个额外的谈话。我们有一些时间……
出现,所以这真的很令人感兴趣。但是我们该如何处理人工智能的未来呢?什么?
所以,首先,我们从第一点开始,谦逊,回到我们如何确定真相这个问题。第二点是,我们不相信,你知道,仍然是“我有一把锤子,所有东西都像钉子一样”,对吧?啊,我给你的原因之一是,我给你的书,呃,这是书的主题,是当科学家基本上放弃直接的技术知识,开始关注政治和社会问题时会发生什么,案例哲学家,他的哲学家,但他在这本书中实际上谈论的是人工智能,并开始谈论核时代和人工智能,并谈论,呃,实际上,呃,当时做非常相似的事情。
这本书是《理性休假时》,尼尔·波斯特曼写的哲学与政治,它只是一个故事。
这是一个故事。关于这个主题还有其他书吗?但这并不是……没有人真正擅长。它只是一个故事。当某个领域的专家偏离正轨,并基本上成为社会工程师和政治……基本上成为政治顾问时会发生什么,这只是一个关于任何灾难的故事,对吧?我认为这就是发生的事情。
再次复制到这里。我发现这本书非常有趣,而且开篇就充满了著名重置者非理性与疯狂的惊人轶事。
哲学家读的书。你这次没看。
哦,天哪。
是的。
我会毁掉我的……
将不再听到。对不起,没有读过这些书,但这里要考虑的是人工智能,人工智能风险的人,他们甚至没有对抗模型,至少据我所知没有。不,就像甚至没有舒适模型的覆盖。他们甚至没有一个可说话的代码。他们有一个理论和警告,以及这个,那个,就像,如果你问,好吧,这里,这里有一些最终的例子。
好的,我们怎么知道呢?我们怎么知道人工智能正在失控?我们怎么知道这种事情实际上正在发生?我见过的所有这些家伙给出的唯一答案是,当损失率,训练中的损失函数下降时,对吧?那时你需要关闭数据中心,对吧?这就像当你成功训练一个模型时也会发生的事情,就像……这是什么?这不是科学。
这什么也没说,不是模型,也不是任何东西。没有什么可以反驳的,这就像推黄油。就像你……
甚至回应什么?反驳,我认为他们没有好的衡量标准,是的,当这种形式发生时,但我认为有可能拥有这种……就像你认为有可能想象可以衡量一样。
花二十年?
当然。但自从我们拥有足够大的语言模型以来,才过去了一个星期。我们可以开始实际拥有……问题是,人工智能倾倒的东西没有任何实际的系统可以用来处理。
现在有真实的系统了。你可以开始分析事情出错的地方。我认为你可能会同意,有很多风险我们可以分析。在许多情况下,好处大于风险。
风险并非微不足道。
是的。
不是纸夹电影。哦,让我……好的。这不是你刚刚删除的幻灯片。
我非常擅长。
这非常不确定。所以是《超级智能》这本书,对吧,这是尼克·博斯特罗姆的书,这是很多这些东西的起源,它是在……十年前或更早的时候写的,所以他在书中做了一件非常有趣的事情,他基本上说,嗯,通往机器智能、通往人工智能有很多可能的途径,他描述了通往人工智能的所有不同途径,不同的……从生物增强到……所有这些不同的事情,他描述的那些不包括大型语言模型,因为当然这本书是在它们发明之前写的,所以它们在书中不存在,他描述了所有这些,然后他继续将它们视为完全相同的东西,他将它们全部呈现为等效的休息,需要用相同的方式思考。
然后,出现的风险,法院的风险,实际上是一种他甚至无法想象的完全不同的技术。然而,他所有的理论和信念都被这个运动直接移植到了这项技术上。所以,再一次,在科学或技术的其他领域,你不会这样做。就像,当你处理有机化学和无机化学时,你不会只是说,哦,关于……两者基本上……也许你知道,成长并吞噬世界或类似的东西,以同样的方式,就像你不会……
但是你可以开始谈论,随着我们获得更多、更多实际的系统,开始获得更多、更智能的系统,开始在这里进行更多科学论证,就像,高级别地,你可以谈论自主武器系统的威胁,早在我们在军事中拥有任何自动化之前。那将是非常模糊的逻辑。但是,你拥有的无人机越来越多,它们变得越来越自主。
你可以开始想象,好吧,那实际上是什么样子?自主武器系统的实际威胁是什么?那会如何出错?它仍然非常大。
我们开始了解,好吧,你可能应该禁止,不允许……大规模部署正在进行区域打击的自主无人机。哦,不。在广阔的地区。
我认为这是……
必需的。
不,不,不。我认为我们只要求车辆自动化,好的。
所以你想走另一条路,我想走……
另一条路,好的,很明显,机器会比人类飞行员做出更好的决定。如果很明显,这对攻击者和防御者以及整个社会都是最有利的。如果机器正在做出比许多人做出的糟糕决定更多的决定,那么在战争时期。
但是,就像有……这种方式,这也会出错,对吧?
更糟糕的是,它会出错。现在这回到了……这是关于……软的东西,是关于完美与否,它不需要比人类驾驶员更好。是的。自动无人机需要完美,还是需要比人类飞行员在……做出更好的决定?
在巨大的压力和不确定性下?是的。好吧,平均而言,人工智能人士的担忧……
是失控,而不是……不是生命。不。
我失去了控制。那么他们就会发展出自己的目标。
他们自己的。他们现在正在发展他们自己的权利。
更像是一种高尚风格的崩溃,就像代码中的错误一样,意外地,你知道,强迫你。结果导致对平民地区的轰炸,在某种程度上是不可能的,在目前的军事战略中。
人类和许多平民。
平民死亡,如果观看。
文件记载,雾战争花费了很大一部分时间谈论对日本领土的燃烧弹轰炸,直接落到地面,对吧?日本遭受的破坏,美国军队,对日本城市进行燃烧弹轰炸,但造成的破坏比使用核武器要大得多。所以我们这样做已经很久了。我们做了。
我们还发现德国,顺便说一句,德国也对我们做了同样的事,对吧?这是一种古老的传统。我们一得到飞机,就开始进行无差别轰炸。所以其中一件事
现代美国军队可以用技术,用自动化,但更广泛的技术是,更高的,更高的
精度。精度显然是JDAM。这项重大进步,这项名为JDAM的重大进步基本上是投放GPS。
啊,太棒了。你看,这是一个巨大的进步。但这就是这个问题的初级版本,好吧。
你想让人类飞行员猜测炸弹的落点,还是让机器把炸弹送到目的地?这是一个初级版本。下一个问题,下一个版本的问题是,你想让人类还是机器决定是否投放炸弹?每个人都认为人类会做得更好,我认为这背后的原因根本上是可疑的。
情感回响。
我认为很明显,机器会做出更好的决定,因为人类的决定很糟糕,非常糟糕。是的,没错。所以,所以,是的。所以,这就是问题所在。然后让我们更进一步,更巧妙一些。
更巧妙一些。这些东西
将会非常聪明,对吧?他们将能够摧毁世界并恢复,并且像,做所有的事情,计划并做所有的事情,逃避,拥有他们所有的秘密事物,他们的秘密工厂等等。但他们如此愚蠢,以至于他们的代码中会出现一些纠缠,他们不会活过来。
但会有某个错误导致他们点燃,把我们都点燃。他们不会成为天才,除了实际的坏目标。这就像,荒谬的,像描述。Cy,你今天就可以证明这一点。
你今天可以用LLM第一次证明这一点,你可以实际询问LLM来解决道德问题,所以你可以创造一个场景,你知道,思考一下,在这种情况下AI会怎么做。他们不会只说人类会像人类一样行事,他们会给你提供实际上非常多的道德、实际的权衡或替代答案。所以我们实际上已经拥有了一种能够实际思考这个问题,并且能够实际推理目标的AI。
好吧,希望AGI,或者像非常超级智能的系统,拥有一些灯泡所具有的细微差别,并且直觉是最像意志的,因为即使是这些灯泡也有新的。
LLM。这实际上值得,值得花点时间。LLM真的很有趣,可以和它们进行道德对话,而我没想到在我有生之年会和机器进行道德对话。
让我们记住,我们并不是真的在和机器进行对话,而是在和整个人类物种的集体智慧进行对话。但是可以想象自主武器系统。他们没有使用LLM。但是如果
他们足够聪明到令人害怕,那么他们为什么不够聪明到明智?这就是问题所在,我不知道你怎么才能得到一个而不得到另一个。
是否有可能在不变得超级明智的情况下变得超级聪明?
好吧,再说一次,你又回到了那个问题。我的意思是,你又回到了经典的图灵机,对吧?就像你又回到了一个盲目的规则跟随者。我有一个像回形针这样的核心规则。我将遵循这个规则直到地球的尽头,就像,好吧,但是你执行这个规则所做的一切都将是超级智能的水平,人类将能够反击。这只是系统定义上的不匹配
能够做到不太可能但并非不可能的事情。
但再说一次,你又回到了,好吧。
就像不,我不是说它不太可能,但并非不可能。如果它不太可能,这意味着恐惧应该与其主张相符
需要在其证明中开始。
好吧,所以我想关注的一个有趣点是,你提到了关于核武器的文章,这也是,我的意思是,你并没有回避AA一点点的辛辣观点,所以,呃,罗伯特·奥本海默,著名的ACY说,现在我成了死神,世界的毁灭者,因为他目睹了1945年7月16日的第一次核武器试验。
你写了一个有趣的历史视角,回忆说约翰·冯·诺依曼回应了罗伯特·奥本海默关于创造核武器作用的著名担忧,你注意到这有助于结束第二次世界大战并防止第三次世界大战,有些人承认有罪以声称对罪行负责。你还提到图灵更严厉。在会见奥本海默后,他说不要让那个哭泣的婴儿
再来这里。来自奥本海默的问题。
因为奥本海默
不仅仅说了那句名言。是的。然后他花了数年时间四处奔走,基本上在电视上忏悔,去白宫,基本上就像穿苦衣一样。非常自我批评,哦,我的上帝,我怎么会这么频繁
他们,所以他们认为,也许是因为忏悔是托马斯·曼的批评
他,因为他试图,需要,所以,而且甚至跨越了非常不同类型的个性。他只是说,是的,这是一件非常有用的东西,我很高兴我们做到了,是的,好吧。
他被广泛认为是20世纪最聪明的人之一,当然。有些人,每个人都说,这是我见过的最聪明的人,当他们遇到他时。但这并不意味着聪明就意味着明智。
所以我很想,所以可以为奥本海默的批评提出赞成和反对的理由,因为我们正在谈论核武器。哇,它们看起来很危险。所以批评更深。
而我把这个省略了。这是真正的实质内容。我把那部分省略了。我不想在我的论文中详述X,但这是真正发生的事情。我真的很想知道这部电影会在哪里上映。
我真的很想知道他会把这个推到多远,因为这是故事中真正的戏剧性之处,这不仅仅是关于我们是否做得好或坏的问题,而是关于俄罗斯也拥有它们的问题。嗯,实际上发生了什么,嗯,俄罗斯得到了美国人发明的炸弹。俄罗斯得到了炸弹。
他们通过间谍活动得到了炸弹。他们得到了美国人,他们得到了美国科学家和外国科学家,他们在美国的项目上工作。两者结合起来,基本上向俄罗斯人提供了炸弹的设计图,这就是俄罗斯人得到炸弹的方式。
嗯,直到今天,人们还在争论奥本海默在这件事中的作用,如果你阅读所有历史,你会得到一种复合图像,以及更好的方式,当我们现在知道很多关于那个时代的事情时,因为多年来有很多机密材料被解密,实际上显示了很多非常有趣的事情。如果你要阅读所有历史,你会得到这个奥本海默本人可能不是,他可能没有亲自交出核秘密。然而,他与许多这样做的人关系密切,包括家庭成员,曼哈顿计划的其他成员是苏联特工,并交出了炸弹。因此,奥本海默和像他这样的人认为这件事很糟糕、很可怕的观点,
哦,我的上帝,你知道,所有这些东西,你可以争论说,促成了当时的这种氛围,导致人们认为唯一正确的事情是对俄罗斯人,嗯,所以公众讨论中关于这件事的道德观念,发明者在这个技术中扮演的角色,是这本书的重点,当他们进行这种公开演讲、讲座、道德方面的事情时,可能会产生真正的后果,对吧?因为我们今天生活在一个非常不同的世界里,因为俄罗斯得到了炸弹,而如果没有得到炸弹,我们将生活在一个不同的世界里,整个20世纪下半叶将会有所不同。如果那些人没有把炸弹交给俄罗斯人?所以当时的风险非常高。
今天的好消息是,我认为在座的各位没有人担心类似的情况,我并不担心我会决定把炸弹的设计图交给中国人,尽管他刚刚在一个中国会议上发言,这很有趣。但是,然而,我认为,我认为这不是这里的问题,但这里的问题是所有这些关于我们对这件事的看法,以及我们将要对它施加什么法律、法规和限制的其他根本性问题。
这就是我画一条直线的地方。根据我对核武器历史的解读,那些在公开场合穿苦衣的人,说这很糟糕,这很可怕,实际上从采取这些观点中得到了灾难性的坏结果。这就是我担心会再次发生的事情。
但是,当核武器第一次被投放时,是否需要唤醒公众对核武器危险的认识?真的,教育他们,这是一种极其危险和具有破坏性的武器。
我认为教育很快,很早就发生了。好吧,这很明显。好吧,我们投下了一颗炸弹。
进入城市。是的,所以八万人。然后但
但我不喜欢
对它的报道。你可以用各种方式进行报道。更糟糕的是,你可以做各种各样的战争。
可怕的词语,可怕的。你可以做。你可以让它看起来像核武器。使用核武器只是战争的一部分,而不是那种自我。关于核武器的报道和讨论中的一些东西导致我们对核武器的威力感到恐惧,这可能以积极的方式促进了
博弈论
相互保证毁灭
实际上发生了。回到这一点,所以,我相信实际上发生的事情,再次,我认为这是对历史的合理解读,实际上发生的事情在很大程度上阻止了世界大战。他们通过相互保证毁灭的博弈论阻止了第三次世界大战。
如果它不存在,对吧?那么就没有理由为什么冷战不会爆发,对吧?然后,你知道,当时的军事规划者,对吧,双方都认为这将导致第三次世界大战,根据他们的计划。
他们认为这将导致很多人死亡,对吧?这似乎是世界上最可能发生的事情,对吧?这是没有发生的事情,对吧?也许20世纪发生的最美好的事情之一就是
那没有发生。是的,你刚才说的那一点真的让我很震惊,就在你说的那一刻。我不知道为什么我第一次听到这个,但我们经历了两次世界大战。
在大概20年的时间里,我们可能会继续发生更多、更残酷的世界大战。实际上,你可能会发生一场美国与俄罗斯之间的战争。你
顺便说一句,还有另一种假设性场景。另一种假设性场景是美国得到了炸弹,而俄罗斯没有。对,美国是老大,然后也许美国将有能力真正地控制他们。
我不知道是否会发生这种情况,但这是完全可能的,对吧?而那些对核武器持有道德立场的人,因为他们能够预测,他们能够建模,他们能够预测未来,他们犯了一个可怕的错误,因为他们基本上确保了当前的情况,我们将继续持续50年以上,而不是母亲,任何类似的事情,这些都是一种能力。我不知道是否会发生这种情况,但决定投下炸弹是一个由那些
非常自负的人做出的重大决定。但我是美国人。我是一个热爱美国的人。
我还想知道,如果美国是唯一拥有核武器的国家,那么这就是论点
支持这一点,这就是认为的人
实际上可能没有移交。我对政权移交要谨慎一些,也许是给英国人看一些类似于民主选举的政府。什么?
直到今天,有些人认为这些偏见,偏向正确的事情,因为他们创造了一种恐怖平衡,假设美国只是,顺便说一句,让我
让我说,恐怖平衡,让我们说四版本听起来很性感。
好的。所以完整的故事是约翰·冯·诺依曼一年内想到了这两个小时。这个故事的四个版本是他主张先发制人。
所以,当美国拥有原子弹而俄罗斯没有时,他主张,他说,我们需要立即打击他们。
打击俄罗斯。
恼火,是的,因为他说过第三次世界大战不可避免。嗯,他非常强硬。嗯,他的理论是……他的理论是第三次世界大战不可避免。我们肯定会发生第三次世界大战。
阻止第三次世界大战的唯一方法是我们必须现在就将其消灭,在我们获得原子弹之前就将其消灭,因为这是我们最后的机会。不,再说一遍。
就像这是一个……的例子。
哲学,政治?
我不知道那里……
所以大多数研究,大多数研究都是关于左翼的疯子,再次……令人恼火的是一个故事。你对右翼的废话有什么看法?
采用计算……
温和而精确的事情,就像,我不知道这些人……是的,因为在维诺伊的背景或开放水文背景或任何这些人的背景中,没有任何东西使他们有资格成为道德……
权威人士,是的,这实际上引出了一个关于 NAI 的问题,谁是思考道德、伦理、外部风险、外部风险的合适人选,这比你想象的要复杂得多,你同意吗,亲爱的,你知道,这会落入坏人手中,他们会以各种危险的方式去做。有趣的是,危险之处在于有趣的部分。
谁是合适的人?哪些人是做出决定的合适人选?如何回应它?你会攻击人们吗?
这些领域的历程,这就是他在书中谈论的,这些领域的历程,那就是高级科学家和技术人员的技术能力、能力、智力和训练以及成就,能够对技术的道德判断做出判断,这种记录很糟糕。那……那记录就像……
但是这些人,就像开发这项技术的人一样,通常不会是伟大的人。
好吧,他们为什么呢?所以,当然,声称比奥利维亚人多。但问题是他们一生都待在实验室里,对吧?他们不是神学家。所以你会发现,当你阅读时,当你阅读这些内容时,当你查看这些历史时,你会发现他们通常对历史、社会学、神学、道德、伦理知之甚少,他们……他们倾向于从零开始构建自己的世界观。他们往往非常……嗯,他们与你从一群合格的……获得的论点相去甚远。
或哲学家,或让魔鬼的拥护者喝点威士忌,说我同意这一点,但它似乎也像是在这些科技公司的伦理部门工作的人有时会走向另一个方向,是的,嗯,我们……
不细致……
关于历史或神学或这类事情,以至于它几乎变成了一种……对似乎没有以历史为基础的方向的愤怒的行动主义。谦逊和细致入微再次让位于傲慢。所以,我确定是什么……
值得……但是我想这是一个难题……
是的,这是一个……
难题。
这是一个问题。
这回到了我们开始的地方,那就是好吧,谁拥有真理,就像,嗯……你知道……社会如何得出真理,我们如何弄清楚这些事情,以及我们民选的领导人是否参与其中,你知道我们都在其中扮演着某种角色。嗯,在某个时候进行过一些公开选举,这会带来理性、透明和谦逊。是的,那些人很少见。我们应该非常重视他们,并在我们的公共领导人中庆祝人性。因此,让我们谈谈第二个风险,人工智能会毁掉我们的社会吗?简短的答案是,对吧?如果杀人机器人没有抓住我们,仇恨言论和错误信息就会抓住我们,你推荐的行动,简而言之,不要让思想警察压制人工智能。嗯,人工智能对社会错误信息的风险是什么?是的。
所以这是社交媒体。这正是你刚才提到的,是这些公司和行业中出现的行动主义。从我的角度来看,它基本上是过去十年在社交媒体上发生的战争的第二部分。
嗯,你可能还记得十年前的社交媒体基本上是,谁想要这个?谁想要……谁想要一张你猫头早餐的照片?这些东西很傻。为什么这些神经网络不能……想出……发明一些有用的和谨慎的东西?然后,你知道,政治体系中发生了一些事情,然后这场讨论的重点完全转向了社交媒体,就像有史以来最糟糕、最粗俗、最可怕的技术一样。
这导致了政治和政策,政治和……以及所有这些东西,以及……这所有的一切都催生了这种非常庞大的愤怒运动,无论是在公司内部还是外部,都是为了让社交媒体得到治愈。这特别关注两个主题,所谓的仇恨言论和所谓的错误信息。他们花了……过去十年都在打这场仗。
我甚至不想争论双方付出的代价,只是想观察到,这场斗争持续了很长时间,并且对这些公司的运营方式产生了重大影响。嗯,基本上,同样的理论,同样的激进主义方法,同样的能量直接移植到了人工智能上,你看到这种情况正在发生。这就是为什么ChatGPT会回答,比如说,某些问题,而其他问题则会用它给你的仇恨言论来回答,你知道,每当它以“作为一个大型语言模型,我不能……”开头时,基本上意味着有人已经到达那里并告诉它不能谈论某些话题。
嗯,你认为这是好事吗?
这是一个有趣的问题。嗯,一些观察……嗯,一个就是……那些发现这最令人沮丧的人是那些担心杀人机器人的人,所以……事实上,人工智能风险的人,对吧,他们从术语“人工智能安全”开始。
当这个术语变成“人工智能限制”时,这个术语就变成了一个元素,当时的情况从“人工智能会杀死我们所有人”变成了“我们担心仇恨言论和错误信息”。人工智能风险的人现在已经将他们的“人工智能不会杀死所有人”改名为“m”,我必须承认这是一个朗朗上口的术语。他们非常沮丧的是,这种由激进主义驱动的关于错误信息的事情正在接管,正在发生的事情是接管了人工智能伦理领域,已经被错误信息的人接管了。
嗯,你知道,听着,我想住在这样一个世界里,每个人都一直对彼此友善,没有人说过任何刻薄的话,没有人说过任何坏话,一切都是准确的、诚实的,这听起来很棒。我想住在这样一个世界里吗?在这个世界里,人工智能思想警察通过科技公司来执行一小部分精英的观点,他们将决定我们其他人可以感受到什么?绝对不会。
可能存在某种中间立场,就像维基百科式的审核,这是一种以某种方式众包的审核,你没有专门的需求。但它也不是完全自由的,因为如果你掌握了全部的人类知识,你的指尖,你确实会造成伤害。
例如,如果你有一个完全未经审查的好助手,他们可以帮助你制造炸弹,他们可以帮助你……对人们的身体健康造成伤害,对吧?如果他们……因为信息就在那里。嗯,所以就个人而言,你可以看到,当它帮助你犯下暴力行为时,对人工智能模型的某些方面进行审查是积极的。
这是第六节,我谈到了坏人做坏事,是的,我们应该讨论一些事情,是的,嗯,实际上发生的事情是这些界限……对不起,这些界限不容易划定。我在社交媒体版本中观察到的是,我将其描述为滑坡并非虚假,而是必然结果。一旦你有了这种行为,这个人就会处于能够做出这些决定的位置。
他们……他们直接走向无限,就像那样进入疯狂区域,几乎立即就回不来了,因为人们变得……权力……嗯,对,他们看……如果你处于能够决定整个世界银行、领域和阅读并说……你将……你知道……我过去三个月一直在关注推特文件,唯一让我感到乐观的是埃隆正在做的社区笔记。嗯……嗯,所以社区笔记实际上是一件非常有趣的事情。嗯,伊隆试图用社区笔记做的事情是……他试图让它成为一个只有那些之前在许多……
话题上意见相左的人在这个话题上意见一致的地方。是的,我认为这就是我试图得到的……就像这样。可能会有类似维基百科的模型,类似社区笔记的模型,它允许你基本上提供背景信息或以某种方式进行审查,而不会抵制滑坡的性质。
现在没有权力。这里有一种完全不同的方法,它基本上是……我们有眼睛来产生内容。我们也可以有……是的,正在消费内容,对吧?所以,你的助手可以为你做的一件事是帮助你消费所有内容,对吧,基本上告诉你什么时候被利用了。
例如,我不希望我的孩子使用的人工智能……非常适合儿童,我将希望你为他过滤掉所有他本不应该说的事情,仅仅因为他是一个孩子。你看,我说的是你可以通过架构来实现这一点,你可以说你可以解决这个问题。服务端给你机会来决定整个世界,我认为这就是你……你滑向地狱的地方。嗯,还有另一种架构方法,就是只在客户端解决这个问题。
当然,这是第五点。我导致坏人做坏事。你可以想象大型语言模型会做很多坏事。但希望是,更多的人、更聪明的人、更有效的人、熟练的人可以使用大型语言模型来防御它,这是一种……关于人们做坏事的论点……
关于人们做坏事……嗯,所以……所以第一点,对吧,你可以防御性地使用这项技术,所以我们应该使用人工智能来构建……广泛的……疫苗和……生物武器。我们应该使用人工智能来……追捕恐怖分子和抓捕罪犯,以及……我们应该做所有这些危机的事情。
事实上,我们应该做这些事情,即使只是为了……基本上是为了消除我常规产品中的人工智能风险。所以,整个……啊……有一整套防御性的事情。嗯,第二点是,我们已经制定了许多关于实际坏事的法律,对吧?所以,犯罪、实施恐怖主义行为、制造病原体、部署它们、杀人都是非法的。
所以我们有这些。我们实际上不需要新的法律来处理……但是,对于这些情况,我们已经制定了法律。第三个论点是……这是一种……基础性的论点,这真的很艰难。
但是一旦你进入这个话题,你实际上已经进入这个话题了,那就是,好吧,但是……有时你是否需要审查制度,对吧?有时你是否需要限制?就像,好吧,那会付出什么代价……尤其是在开源世界中,对吧?嗯,所以……开源人工智能是否会被允许……如果开源人工智能不被允许……那么,在法律和技术上需要什么样的制度来阻止它的发展,对吧?
在这里,你又会进入……人们已经提出了这些事情,你会进入……我会说,相当极端的领域,相当快,我们是否需要在每个GPU上安装一个监控代理,并向政府报告我们如何使用我们的计算机?我们是否会没收超过一定规模的GPU集群?就像,顺便说一句,我们如何在全球范围内做到这一点?对吧?如果中国正在开发一个规模是我们认为可以接受的LM,而我们打算入侵,对吧?人工智能风险方面的人正在倡导……你知道……可能要进行核打击以阻止……你知道……这种事情。
所以你进入了这个话题。再说一次,你可能会说,这是……你可以甚至说这是好坏和不同的,或者其他什么。但是,这是与核武器的比较。
与核武器的比较非常危险,因为一种只是……只是购买新闻,尽管我们可以回到核电。但一切都是……新闻。你可以控制钚。
你可以追踪钚。嗯,而且很难获得。人工智能只是数学和代码,对吧?它就像一本数学教科书,而且有……YouTube视频教你如何构建它。而且……已经有……已经有了数十亿个私人模型在网上运行,任何人都可以下载。嗯,所以,好吧,你沿着逻辑路径走下去,说我们需要对这个进行严格的控制,你会发现自己处于……第三帝国式的思想控制和机器控制政权中,这将是如此残酷,以至于如果你试图保护的话,你会摧毁社会。所以我……
我看不出那实际上是如何运作的。所以,我最好的猜测是,我基本上是在说,当你试图在这里玩双关语时,因为,好吧,你高度重视这样一个事实,即存在一种缓慢的、潜移默化的对人性的影响,一旦你感知到某些东西,你就会开始感知到一切。
最初听起来不错,但随后你开始迎合某些人的信仰,然后这只是你的信仰,你欺骗的人数越来越少,因为那个群体越来越强大,对吧?但这只是针对那些人。这种传感器通常会让老板和高管变得更富有。
我想知道是否可以在没有这种传感器的情况下为人工智能做到这一点。提出这个问题的一种方法是,你认为基础模型,即基础模型是否应该开源?我得到了《连线》杂志所说的他们想做的事情。所以我只看……
我认为这完全合适。从事生产产品服务的公司应该能够拥有各种各样的政策,他们可以……再说一次,我想要一个高度审查的模型作为我的 AI 角色。就像我真的很想要那样,我会为一个比另一个更严格审查的模型支付更多钱,对吧。
嗯,所以,肯定有一些情况下,公司会做出这样的决定。看,你提到的一个有趣的事情是,这真的是一个言论问题吗?大型科技公司正在处理的一个问题是,由大型语言模型生成的內容不受第 230 条的保护,该法律保护互联网平台公司免受因用户生成的内容而被起诉的风险,所以实际上是……是的,所以实际上是一个问题。
我认为这仍然是一个问题,即大型美国公司是否真的能够容忍 AI 的生成?或者说,责任最终是否会让他们相信他们不能这样做?因为一旦某些东西说了不好的话,即使它不需要是仇恨言论,它也可能像不准确的描述一样,比如关于吸尘器的细节,然后吸尘器公司会因为这种不实陈述而起诉。并且没有对称性。是的,他们是正确的,因为大型语言模型将产生数十亿个问题的答案,并且……
它只需要得到几个错误的答案。
我需要快速更新一下。是的,没有人知道该怎么办,对吧?所以,无论如何,像大型公司如何运作一样的大问题。所以我们讨论了这些,但还有另一个问题,就是好的,开源。那么开源呢?而我对你问题的回答有点像,显然是的,模型必须开源,因为生活在一个不允许开源的世界里,是一个言论控制、人类控制、机器控制的世界,我的意思是,你知道的,带有杰克·伍德暴徒的黑直升机出来,没收你的 GPU,就像……不,不,我是百分之百认真的……
你说的是缓慢的、潜移默化的影响,但不是,不是,不是。
不,不,不,那是强制执行的,就像安德森·霍洛维茨禁止开源一样。
你可以增加它的难度,比如很难获得这些模型。人们能够获得这些模型吗?但这将更多地处于暗中进行。
对吧?领先的开源模型,现在在乌克兰。下一次他们这样做的时候,我们该怎么办?是的,就像哦,我看到你就像十四……
岁的印尼孩子取得了突破。
我知道我们谈到了大多数创新都来自少数人。某个孩子会有一些重大的新突破,比如量化或其他一些巨大的突破。就像,我们会入侵他们的办公室并逮捕他们吗?
似乎规模模型和有效性模型是相关的。大型科技公司可能会在未来几年引领潮流。而问题是他们应该使用什么政策,印尼的孩子不应该受到监管。但谷歌、微软、OpenAI……
应该受到监管吗?好吧,这取决于,好的。那么,它什么时候变得危险?是的,对。危险在于它“和当前领先的商业模型一样强大”吗?或者说,它只是达到某个其他任意阈值?
顺便说一句,我们今天所知道的是,你需要很多钱来训练这些东西。但是,每周都在训练效率、各种各样的方面取得进展。我甚至不喜欢我们正在谈论的这个同步的事情。
也许某个孩子会修复所有这些。是的,完全正确。所以,就像今天坐在这里一样,价格刚刚发生变化,突破刚刚发生。所以我们不知道这项技术的形状将会是什么样子。
我的意思是,这里最大的冲击是,你知道的,无论多少亿个参数,它至少代表了很大一部分人类思想。谁能想到呢?而且已经有工作正在进行中。刚刚发表了一篇论文,基本上将 GPT-3 规模的模型压缩到单个 32 核 CPU 上,谁能……
预测到这一点?是的,嗯……
你知道,现在你可以运行一些模型,数据非常慢,但你知道,也许你会……你将获得性能。你知道,就像它是一个数学代码。而我们又回到了数学代码、数学代码、数学代码和数据。
它有点像……在这个时候。太棒了。我不知道该拿它怎么办。
你们创造了整个互联网。是的,是的。我非常相信开源。所以我的论点是,我们将不得不……
我的论点是,人工智能将像空气一样无处不在,它将存在于文本中,它将是一个文本框,孩子们将长大后学习如何使用它,它将只是一件东西。它将存在于空气中。你无法将其收回。你无法将其收回。
所以你只需要弄清楚如何在这样的世界中生存,对吧?这就是我认为所有这些担忧都是完全浪费时间的原因,因为努力应该放在,好的,防御方法是什么?所以,如果你担心人工智能生成的病原体,那么正确的事情是拥有一个永久性的项目或速度,慷慨地资助它,做一个曼哈顿计划,用于生物防御,对吧?我们必须建立免疫力,我们必须拥有……预防性疫苗,这样我们就能免受……每种病原体的侵害,而有趣的事情是,由于软件,一个十几岁的孩子可以建立一个系统来防御……最坏的情况,最坏的情况,对我来说,防御是超级令人兴奋的。就像,如果你相信人性的善良,大多数人都会去做好事,成为人类的救世主,这真的很令人兴奋。
是的。
不,好的。这是一个戏剧性的故事,但就像帮助人们……帮助?是的。
好的。那么,仅仅是财富的积累呢?人工智能导致质量下降的风险呢?因为我们有点在说每个人的生活都会变得更好。富人在这里变得更富有是有可能的吗?
所以这真的回到了马克思。
因为这是马克思主义的核心论点,对吧?基本上,资本的所有者,生产资料的所有者,随着时间的推移,他们基本上会积累……工人将被支付报酬,但不会得到任何回报,因为他们将不再被需要,对吧?马克思非常善于称之为机械化,或者后来被称为自动化,你知道,工人将是悲惨的,资本家将最终拥有……一切。
所以这是他的核心原则和文章之一。当然,他对每一波技术浪潮的预测都是错误的。他们对每一波技术浪潮的预测都是错误的原因是,自利的机器所有者赚钱最多的方式是,以产品和服务的形式向尽可能多的人,尽可能多的客户提供生产能力,对吧?
这是每个首席技术官都凭直觉知道的事情之一。很难从外部解释你赚钱最多的方式。
任何企业都是通过向你能达到的最大市场销售来赚钱的,向你能达到的最大市场销售,也就是地球上的每个人。所以每家大公司都在尽一切努力来降低价格,以便能够扩大规模,以便能够让地球上的每个人都参与进来。从电力开始就是这样。
这发生在电话上,发生在收音机上,发生在自动账单上,发生在智能手机上,发生在个人电脑上,发生在互联网上,发生在移动宽带上。顺便说一句,这发生在可口可乐身上。这发生在……基本上,每种工业化生产的……人们想要的产品或服务上,你想要将其推向尽可能大的市场。
然后作为证明它已经发生了的证据,对吧?早期采用者,大型语言模型的早期采用者,不是……你知道的,波音公司。你知道你的叔叔和你的侄子,对吧?如果它们可以免费在线获得,或者每月 20 美元就能获得。但是这些东西,这项技术立即走向了大众市场,所以看,生产资料的所有者,无论是谁做这件事,都会提出其他问题。有些人会通过做这件事而变得非常富有,但他们会通过将这项技术推向尽可能大的市场而变得非常富有。
所以是的,他们会变得富有,但他们会通过对每个人产生巨大的积极……影响而变得富有。是的,再说一次,智能手机,也是一样。所以,在商业史上有一种令人惊叹的转变,那就是你不能花一万美元买一部智能手机,对吧?你可以花一千美元。
你可以花一点……我会买一百万美元的智能手机,就像我……假设一百万美元的智能手机比一千美元的智能手机好得多,就像我……它不存在。为什么不存在?苹果通过将价格进一步降低到一千美元以下而赚取了更多的钱,他们会尝试收割,对吧?所以这是一个反复出现的模式,你一次又一次地看到。
嗯,这有什么好处?这有什么好处?你不需要依赖任何人的开明……来做到这一点。你只需要依赖资本的利息。
啊,人工智能会抢走我们的工作吗?
这里也有非常相似的事情,这在马克思主义中非常常见,这就是所谓的劳动总量谬误。这是一种认为世界上只有固定数量的工作要做。如果……而且今天所有工作都是由人完成的,那么如果机器来做,就没有其他工作由人来做了。
嗯,这完全是关于经济发展如何增长的一个倒退的观点,因为实际上发生的事情不是……实际上发生的事情是技术的引入。国际生产过程导致价格下降。随着价格下降,消费者拥有更多的购买力,消费者拥有更多的购买力,他们创造了新的需求。这种新的需求然后导致资本和劳动力形成新的企业来满足新的需求,结果是更多的就业机会,更高的桥梁……
你想要的需求,这个词是,需求方程以很快的速度增长。这意味着会有很多工作岗位消失,所以人们会失去工作。仅仅是失去工作和不得不学习新技能的经历,对个人来说是痛苦的。
这一个……新的……通常要好得多,嗯,实际上,大约十年前,人们对卡车司机失去工作感到恐慌,对吧?首先,他们没有,因为我们还没有完全想出办法。但另一方面是,像司机一样,我在一个基本上由卡车司机组成的城镇长大。
对吧?我认识很多卡车司机。卡车司机的寿命比其他人短十年。他们实际上……非常危险,他们有……高……癌症发病率。而且,在他们身体的较少部位,由于长时间暴露在阳光下,卡车震动实际上对……你的心理健康非常有害。
而且,也许部分是因为这个原因,现在缺乏……想要成为卡车司机的人。
是的,问题是,你想问这样的人吗?你想让你的孩子做这份工作吗?大多数人会告诉你,不。我希望我的孩子在某个办公室里工作,在那里他们不会……在那里他们不会早死十年。所以,新的工作,首先,新的工作通常更好,但你只有在经历了变化之后才能得到新的工作。
然后,根据你的观点,培训问题,你知道,一直存在的问题是,人们能否适应?再次,你需要想象一下生活在一个每个人都拥有 AI 助手能力的世界里,对吧?能够更快地掌握这些技能,能够……能够让机器……与我们的技能一起工作,这仍然可能是痛苦的。但这是生活过程。
这对某些人来说很痛苦。我的意思是,毫无疑问,这对某些人来说很痛苦。是的,我并不是要对此轻描淡写,它并非对每个人来说都是积极的,但总的来说,在三百年的时间里,它一直是压倒性地积极的。
让我来解释一下这里的担忧。这种担忧已经持续了几个世纪。你知道,这就像……我所知道的故事……嗯,你可能还记得,在2000年左右,曾出现过一种恐慌,认为外包会夺走所有工作。在2010年代,人们恐慌地认为机器人会夺走所有工作。嗯,在2016年,疫情爆发之前,我们拥有比人类历史上任何时候都多、工资更高的工作,无论是在美国还是在全世界。因此,压倒性的证据表明,这场游戏的最终结果,就像……就像极其积极的……大多数人……压倒性地……
另一方面,你写道,最大的风险——这是我最信服的风险——是,人工智能最大的风险在于中国赢得全球人工智能的主导地位,而我们,美国和西方国家,却没有。你能详细解释一下吗?
是的。所以,这是另一件事,那就是今天的许多人工智能辩论都假设我们是唯一的游戏参与者,对吧?所以我们能够坐在美国,批评我们自己,让我们的政府来打击我们的公司。
我们想弄清楚我们的公司能做什么,我们要禁止这个,购买那个,限制这个,做那个。然后,还有另一种力量,他们不相信我们有任何影响力,他们也不想遵守我们制定的任何规则。嗯,他们会做他们想做的任何事,而我们对此完全没有控制权。而那就是中国,特别是中国共产党。他们对人工智能有一个完全公开的计划,而这与我们设想的完全不同。嗯,他们不仅对自己的社会有这样一个计划,而且他们还对……
世界其他国家也有一个计划。他们的计划是什么?监视……是的,权力。
控制,所以权力,对人口的控制……嗯,老式的共产主义权力控制……嗯,监视和执法……嗯,社会信用体系等等……嗯,他们会监控一切,一直监控……嗯,他们的目标基本上是终结人类的自由,他们以这能带来和平为理由。你担心的是……
嗯,美国的监管会阻碍进步,而中国政府会赢得这场竞争。他们的计划是……是的,而这样做的原因,再次强调,他们的公开计划是……
在世界各地推广……他们有一个名为“数字丝绸之路”的项目,它建立在他们的“一带一路”投资项目之上。他们一直在世界各地铺设……他们铺设了……他们一直在世界各地铺设所有这些金融和技术基础设施,他们的计划是在此基础上推出他们的人工智能愿景,让其他所有国家都运行他们的版本。
然后,如果你是容易受到……你知道……权威主义影响的国家,你会发现这是一种变得更加专制的不可思议的方式。顺便说一句,如果你是一个不倾向于权威主义的国家,那么你将由中国共产党来运行你的基础设施,并拥有后门等等,这也不是一件好事。现在……
你认为他们在通往超级智能的竞赛中与美国相比处于什么位置?
是的,好消息是他们落后了,但坏消息是他们可以访问我们所做的一切……所以他们可能……他们在某个时间点落后。但他们可以……你知道……下载……我认为他们通过各种方式定期下载我们几乎所有的工作……他们会……他们至少会发布非常复杂的报告……他们上周发布了一份关于GPT-3.5模拟的报告……他们发布了这份报告,我忘了叫什么名字,但他们发布了这份关于细胞的报告,他们不知道……他们公开发布……他们测试GPT的一种方式……是他们让它参加标准化考试,比如SAT,对吧?这是一种衡量智能的方式……所以,中国报告……他们让他们的LLM参加了中国版的SAT……它包括一个关于马克思主义的部分……和一个关于……我说是毛泽东思想的部分……结果它在这两个主题上都做得非常好,没错,所以……这个元素……
事情即将到来,对吧?
就像小型的共产主义AI,对吧?所以他们的愿景就是这样。你知道,想象一下,你是十年后在阿根廷、德国或印度尼西亚的某个孩子,你问AI如何解释经济运作,它会给你一个最令人愉快、最乐观的解释,就像……你懂的,对吧?所以,这会让你……真的很大。好吧。
正如我们一直在讨论的,我的希望不仅仅是针对美国,而是希望开源能够解决这个问题。我不相信任何大型的中心化机构拥有超级强大的AI,无论他们的意识形态是什么,权力都会导致腐败。你已经投资科技公司大约三十年了,其中十五年是在安德森·霍洛维茨公司。在这段时间里,你看到了哪些有趣的科技趋势?我只想谈谈公司,以及科技行业的演变。
我的意思是,二十年来最大的变化是,科技曾经是一个工具行业……从大约1940年代到大约2010年,几乎所有大型成功的公司都是工具公司。所以,个人电脑、数据库、智能手机……你知道,一些其他人也会使用的工具。自2010年以来,大多数重大成功都发生在应用领域。
嗯,一家公司……你知道……它在一个现有行业中起步,然后直接面向该行业的客户。你知道,早期的例子有像Groupon和Airbnb这样的公司。嗯,然后这个模式不断发展。嗯,人工智能目前实际上是对此的一种回归,因为现在大多数人工智能业务实际上都在……
为其他人提供云服务。
对于其他人来说。大多数资金将用于……是的,你的AI理财顾问、你的AI医生、你的AI律师,或者……你知道……选择任何领域……有趣的是,你知道……我们……我们企业家……我们探索了每一个可能的创意,所以将有一批公司……制造人工智能……一些可以被大型公司购买和使用的产品……然后还会有其他公司直接……
进入市场,作为AI……你能给初创公司创始人什么建议?你已经见过这么多成功的公司,也见过这么多失败的公司。此外,你会给初创公司创始人什么建议,那些想要在科技领域打造下一个超级成功的初创公司的人?像谷歌、苹果、推特这样的公司?
是的。关于真正伟大的创始人,最棒的一点是他们不会听取任何建议。所以,如果你发现自己一直在听取建议,也许你不应该这样做。
嗯,为了进一步说明这一点,如果你能谈谈伟大的创始人,你……是什么造就了伟大的创始人。
是什么造就了伟大的创始人?超级聪明……加上超级精力充沛……加上超级勇敢,我认为这是其中的一些……这三个……
智慧、激情和勇气。
前两个是特质,第三个是选择。我认为勇气是一个选择,这是一个忍受痛苦的问题,对吧?嗯,所以……你愿意在放弃之前被击中多少次?是的……也许人们最不了解的关于成为初创公司创始人的事情是,它……它被浪漫化了,对吧?即使他们失败了,他们仍然会对这段伟大的冒险感到兴奋。
但现实情况是,大多数事情都是人们告诉你……然后他们通常会接着说你很愚蠢,对吧?不,我不会为你工作。嗯,我不会离开我的舒适工作,为你工作。
不,我不会购买你的产品,你知道,不,我不会报道你的公司,不,我不会……这……那……另一件事……所以,一个巨大的教训是,人们必须……必须习惯被拒绝。人们不理解这一点的原因是,当你是一位创始人时,你不能表现出这一点。这会让你显得很脆弱,人们会对你失去信心。是的。
所以你必须假装你玩得很开心,即使你内心已经死了,对吧?纯粹的痛苦。但他们为什么这样做?
他们为什么这样做?是的,这是一个值得思考的问题。
它……它就像一个……实际上,我认为得出的一个结论是,我认为对大多数人来说,从风险调整的角度来看,他们可能平均会获得更多的财务成功,如果他们只是找一份真正的工作,在一家大公司工作。
但是,有些人只是……有一种内在的需要去做一些新的事情,为自己创造一些东西,有些人只是无法忍受有老板。有趣的是,你如何进行创始人背景调查?你通常会打电话给他们的老板,对吧?然后你就会知道他们是不是好员工。
然后你要调查史蒂夫·乔布斯,对吧?然后你会说,哦,天哪,他太糟糕了。不,他是一个糟糕的员工。他从不按照吩咐去做。
所以,一个好的参考是什么?之前的老板实际上会说他们从不按照你的吩咐去做。
那可能是一个好兆头。你想要的是……我想为那个人工作。嗯,他为我工作过,现在我想为他工作。不幸的是,大多数人做不到,他们的自尊心无法承受。所以他们不会这么说。
你会给那些在智慧、激情和勇气方面有不足的人什么建议?
我认为另一件重要的事情是,你有时会看到人们说,“我想创办一家公司”,然后他们会经历这个过程,想出一个主意。通常,这些公司不如那些先有主意的人成功。然后他们意识到这是一个创业机会,然后他们恰好是……
合适的人选。长期宏伟的愿景,还是产品的具体细节?
具体来说,是的,具体来说,比如头五年,你没有远大的愿景。你只需要创造人们想要的东西,你只需要弄清楚如何销售它,对吧?这是非常实际的。你永远不要忘记宏伟的愿景。
所以,首先,首先,你有一个主意,一个产品,第一个产品,这种联系……
赚钱,是的,它必须有效,我的意思是,它必须在技术上有效,但它也必须符合客户心目中他们想要的东西的类别。然后,顺便说一句,另一部分是他们必须为此付费,有人必须支付账单。所以你必须弄清楚价格,以及你是否真的能拿到钱。
是的。所以通常情况下,这更容易预测。成功永远无法预测,但如果你从一个好主意开始,然后才开始创业,那么它就更容易预测。嗯,这就是我们……我们大多数人……在我们创办网景之前所做的事情。谷歌的家伙们在斯坦福大学的时候就已经在做谷歌搜索了……对吧?嗯……你知道……有很多例子,比如皮埃尔·奥米迪亚在离开他之前的工作之前就已经在做易趣了。
所以,爱上这个主意,拥有一个真正有效的东西,在你……
甚至开始考虑规模化之前。我们收到的理想的宣传是:这是一个有效的东西。你想投资我们的公司吗?而不是……
这容易得多,而不是:这里有三十张幻灯片,展示一个梦想,对吧?然后我们有了这个叫做DMS的概念,戴夫·麦克林想出了……他当时和我们在一起……所以……所以……所以,然后有这个……方法论,它是……你知道……有一种方法论,这些想法就像魔法一样出现,或者人们偶然发现,就像易趣一样,或者类似的东西。
嗯,现实情况通常是,对于那些取得巨大成功的人来说,创始人会在创业前花五到十年时间思考这个问题,他们经常在学校的时候就开始研究这个问题……或者他们在小时候就开始尝试这个问题……他们在这段时间里一直在训练自己,能够做这件事,所以他们就像真正的领域专家。这听起来像我的苹果五号。这是什么?你想成为你所做事情的领域专家?但神话是如此强大,就像,哦,我只是在淋浴时想到了这个主意,现在我正在做……
它,通常情况下并非如此,因为也许在淋浴时,你只想到了产品的具体实现细节。但通常情况下,你会花数年,甚至数十年时间来思考所有相关的事情,我们称之为DMS。
因为DMS基本上就像,有很多促进因素,比如任何想法。有很多不同的排列组合。客户应该是谁?产品以什么形式进入市场,所有这些事情……所以,非常聪明的创始人会在筹集资金之前就考虑过所有这些情况……并且他们在每一个方面都有详细的答案,因为他们为此投入了大量的思考……而那些比较随意、仓促的创始人,我们倾向于做得更好。
如果你有一份舒适的工作或幸福的生活,你怎么知道该何时冒险?
我的意思是,最好的理由仅仅是因为你无法忍受不去做这件事,这就像,如果你需要被告知你应该去做这件事,你可能就不会去做……所以这可能是相反的,也就是说,你有一种强烈的紧迫感,这件事必须完成,我必须去做。
我没有选择。如果它会带来很多痛苦怎么办?
它将会导致……
我认为,如果他指的是失去社交关系,以及损害你与所爱之人的关系,诸如此类的事情……是的。
看,这肯定会让你陷入一种社交困境,对吧?所以,你知道,你在推特上抱怨这个游戏,那就是,基本上不存在什么工作与生活的平衡,人们应该努力工作。每个人都很生气。
但事实是,所有成功的创始人每周工作84小时,他们工作……你知道,他们与一起工作的人建立了非常牢固的社会联系。他们往往会失去很多朋友,或者把友谊搁置,这就是事情的本质。嗯,你知道,对大多数人来说,这是值得的权衡。你知道,优势在于……你知道,也许年轻的创始人可能……也许他们……例如,如果他们没有结婚,没有孩子,那就很容易。
但是,你能成为一个年长的创始人吗?
是的,你绝对可以,是的,是的……许多最成功的创始人都是第二次、第三次、第四次创业者,他们年龄在30多岁到50多岁之间……成为一个年长创始人的好处是,你懂得更多,你知道该怎么做,这非常有帮助。问题是,好吧,现在你有了老板、家人和孩子……你必须再去参加棒球比赛……你可能无法做到。
所以,人生充满了艰难的选择。是的,坎迪森,你写了一篇博客文章,讲述了你最近在做什么。你在2022年做了什么?
嗯,我主要尝试学习很多东西。例如,2014年和2016年的政治事件让我清楚地意识到,我根本不了解政治,也许参考了这本书中的一些内容。所以我故意退出了政治参与和筹款活动,而是从阅读历史开始,尽可能地了解政治左派和政治右派。所以,一个高级别的问题。你学习的方法是什么?
是的,我基本上说它是自动导向的……所以它有点像……它会深入下去……所以这是一个组合。所以我倾向于……我倾向于……我广泛涉猎,但我倾向于深入一段时间,阅读一些东西,然后我转向另一个领域,再过十年我还会这样做。
在那篇我推荐大家去阅读的博客文章中,你实际上列出了你推荐的不同主题的书籍。美国左派,美国右派?有很多非常好的东西。你对我们社会和政治现状的最佳解释,你推荐了四本关于西班牙内战的书,六本关于美国右派历史的书,对成年人的全面分析,其中一本我读过,可以推荐六本关于美国左派和右派现状的书,从历史角度来看,给你一些背景,一本列宁的传记,其中两本是关于法国大革命的,实际上我从未读过一本关于马克思的书,也许它们会有用。一切都有……
如此专注……
的重点……
堡垒……
一个……
有用的,但这是一个很好的视角……
伦敦的视角可能是观察苏联宇宙风格的最佳方式,关于马克思的非常有趣的两本书,关于时尚和反法西斯主义的两本书,同一个作者保罗,一本关于群众运动和集体心理的精彩著作,关于在斯大林主义下知识分子生活的权威著作,《被囚禁的心灵》,关于实用左派和全面极权主义的权威著作。有很多,有很多。
而你推荐的唯一一本最佳书籍是,首先,这份书单令人难以置信。但你说你发现的关于我们是谁以及我们如何走到今天最好的解释是纽莫迪斯的《古代城市》。酷,我真的很喜欢。你从这本书中学到了什么关于我们作为人类文明的知识?
是的,这是一本非常古老的书。顺便说一下,它是免费的。这本书是1960年出版的,你可以下载电子版或购买印刷版……但……它……是一位19世纪60年代的塞尔维亚教授写的,他显然是一位古代希腊和罗马古代的学者……而原因是他的资料来源百分之百是原始的希腊和罗马资料来源,所以他基本上写了一部从大约四千年前到现在的西方文明史,完全基于原始的希腊和罗马资料来源……而他特别想做的是,他想从希腊人和罗马人的故事中重建……
他想从希腊人和罗马人的故事中重建西方生活在希腊人和罗马人出现之前的模样,也就是在其他欧洲文明出现之前。简而言之,这是大约公元前4000年到公元前500年的时间跨度,文明发展……他的结论基本上是,文明基本上是由各种教派组织起来的,教派的强度远远超出了我们今天所能理解的任何东西,这是一种……全面的信仰和……围绕宗教的行动,其程度之极端是我们甚至无法理解的……所以,他具体讲述了三个层次的教派的故事,有家庭教派、部落教派和城市教派,随着社会的规模扩大,每个教派都是一个由……家庭神组成的教派,这些神是祖先神和自然神……然后,你与家庭、部落和城市的结合是基于对这些宗教的忠诚……那些不是你家庭、部落或城市的人崇拜不同的神,这不仅赋予你杀害他们的权利和责任……
当场杀死他们,对吧?所以他们对自己的教派非常认真,非常极端……
顺便说一句,一个令人震惊的发现,我没有意识到这一点,就是没有个人权利的概念,即使在希腊人那里也是如此。即使在罗马人那里,他们也没有个人权利的概念。认为作为个人你拥有一些权利的想法,根本不存在,对吧?你回头看看,你会觉得,哇,这简直太疯狂了,就像我们今天所理解的法西斯主义一样。
但就像,好吧,他们生活在极端的生存压力下,而理论认为,你无法阻止人们团结起来。他们会加入一个教派,或者,当你只是为了生存而努力时,对吧?就像你需要强有力的指挥和控制。所以,实际上,如果从现代政治的角度来看,这些教派基本上既是法西斯主义的,也是共产主义的……它们在社会控制方面是法西斯主义的,在经济方面是共产主义的。
但你认为这种对……教派的渴望是根植于我们内心的?
所以我从这本书中得出的结论是……所以……所以……我们今天自然思考世界的方式是……我们基本上拥有所有前人创造的一切的改进版本,对吧?就像我们基本上已经弄清楚了道德、伦理和民主等所有这些事情,而以前的人们是愚蠢和落后的,而我们是聪明和进步的。我们已经改进了一切。
在我读完那本书之后,我相信在很多方面恰恰相反,那就是,不,实际上,我们仍然遵循着最初的模式。我们只是以一种极其稀释的版本运行它。所以我们仍然基本上运行在教派中,只是我们的教派强度只有百万分之一,对吧?所以,就拿宗教来说,我们这个时代一个基督徒的现代体验,即使是那些认为自己是虔诚基督徒的人,也只不过是那些在过去属于宗教的人的强度的一小部分。
然后,顺便说一句,我们创造了……一个高度的讨论。我们不断地创造新的教派,就像我们试图填补空白,而这个空白是……一种联系的空白。好吧,生活在那个时代的人,今天生活中的每一个人,如果他们生活在那个时代,都会认为这是完全无法忍受的,就自由的程度和基本上是面对的控制程度而言。
然而,那个时代中的每一个人,他真的强调了这一点,他们确切地知道自己站在哪里。他们确切地知道自己属于哪里。他们确切地知道自己的目标是什么,他们每天需要做什么。他们确切地知道自己在做什么,他们对自己在宇宙中的位置有着绝对的确定性。
所以,关于目的的问题,非常……
清晰地定义了他们,绝对地、压倒性地、无可争议地、不可否认地。
当我们降低教派的音量时,是的,我们开始……寻找意义变得越来越困难。是的。
因为我们……我们没有那种东西。我们……我们没有根基,我们……我们迷失了方向,我们都感觉到了,对吧?这就是为什么我们寻求……这就是为什么我们仍然寻求宗教,这就是为什么我们寻求……你知道,人们开始转向……你知道,科学,也许他们应该转向它……顺便说一句,你知道,运动队就像……你知道,它们就像教派的一个小型版本,苹果的主题演讲就像一个教派,对吧?你知道,政治……是的。两边都有……
政治……
光谱的双方,但它们就像……我不知道,只有百万分之一的强度,与过去人们所经历的相比。所以,我们今天生活在一个在许多方面在道德上更先进的世界里。所以,当然,生活在这样的世界里要好得多。
我们生活在一个……非常淡化的世界里。就像一切都变得非常无色和灰暗,与人们过去所经历的事情相比,我认为这就是为什么我们如此渴望寻求……在我们内心深处,有一种深深的进化,我们想要找回那种感觉。
我想知道,当我们越来越降低音量时,会发生什么?你会给今天的年轻人,高中生和大学生什么建议,让他们在事业上取得成功,在生活中取得成功?
是的,今天可用的工具……我……有时……你知道……有时我会……你知道……我会用描述我过去查找书籍的方式来让孩子们感到厌烦,你知道,试图发现一个事实……在过去,在七层楼高的图书馆里,在纸质目录中……你必须经历这些步骤,然后这本书被借走了。你必须等两个星期……而现在,你可以在一个世界里获得任何问题的答案,但现在这个世界,你拥有……一个可以帮助你做任何事情的系统,帮助你学习任何东西……你既能学习,又能创造的能力,与我过去相比,简直是百万倍……如果我有一篇博客文章想写,对吧……我称之为……人们的夸张……就像这个问题一样……有了这些工具,应该有作者写出数十万本优秀的书籍。
他们也回答了这个消费问题。但是,是的,也许不是,也许不是。你说得对。但是,工具的功能强大得多,而且越来越……
高效,产量是千倍,对吧?工具是惊人的。
所以……解释一下,顺便说一句,作为建议,动机是不是有点下降了,或者我认为它可能是……
分心,分心很容易,你只需要坐着消费……我认为人们会因此而分心,无法进行创作。但是,如果你想……你知道,作为一个年轻人,如果你想真正脱颖而出,你可以在很早的时候就进入一个高生产力的曲线。有一个很好的故事,罗马历史上的一个计划者……
这位传奇的政治家在试图营救朋友时死于火山爆发。但他以成为……基本上是一个多才多艺的人而闻名,同时也是一位作家。他显然写了数百本书,大部分都丢失了。
但他就像所有这些范围一样,dias,他简直就像整天都在阅读和写作,无论发生什么其他事情。他会和,比如强迫劳动者一起旅行。其中两人负责给他朗读,另外两人负责带路。所以,就像你正在穿越乡村,他简直就像一直在写书一样。显然,他们特别……只有少数几本幸存下来。
但显然它们很棒。所以,成为一个……的人有很多价值。
在这个生活中找到专注点。是的,有一些例子,比如,有一个家伙,法官,这个新海报……他写了大约四十本书,也是一位伟大的联邦法官……朋友道歉。我认为这就像……这是其中一种,你知道,他的产出非常……嗯,所以就像,我的意思是,有了这些工具,为什么不呢?我有点认为这是一个有趣且有点冻结的瞬间。我们就像这些……这些工具在任何人的手中都没有,每个人都刚刚开始并试图弄清楚该做什么。
那些发现火并试图弄清楚……的人。
如何用它来烹饪。
是的,你告诉他,完美的日程是十小时的咖啡因和四小时的酒精。你没想到我会提到这个,是吗?啊,它完美地平衡了一切,他说。所以让我问一下,生活的秘密平衡,也许还有幸福是什么?
我不相信平衡,所以我是一个被问到的人。
可以详细说明你为什么相信。
我的意思是,也许只是……我看看,我认为人们……我认为人们的思维方式不同。所以我认为很难概括这种事情,但我……我更加快乐和满足,而且我完全致力于某事。所以我非常赞成不平衡的土地。
不平衡。这适用于工作、生活和一切。
现在,现在我碰巧……我有某种扭曲的人格特质,导致在非破坏性方面,包括事实上,我已经……我知道,不再实行十小时工作四小时酒精的计划了。我开始倾向于咖啡因,但不包括酒精。所以我的个性中有一些东西,对吧?无论我有什么融化的行动,都在促使我做事情,有成效的事情。
所以你是世界上最富有的人之一。财富之间的关系是什么……
和幸福。
金钱和幸福?
所以我认为幸福,我认为幸福是应该追求的东西。你认为满足是……
听起来像幸福,但调低了一点。
更深层次的。所以幸福就像你走在世界上吃冰淇淋蛋卷,一个吻。嗯,第一个冰淇淋蛋卷很棒。一千个冰淇淋蛋卷,没那么好。在某些时候,马克,这会变得无聊。
幸福和满足之间的最大区别。
满足是一种更深层次的东西,就像找到了目标并实现了它……
它是有用的,所以只是……一些让你每天都感到普遍满足的东西,因为有用……
我充分发挥了自己的才能,我正在充分发挥作用,对吧?嗯,我猜从未被赋予过……你知道……让世界变得更好,我正在为周围的人做出贡献,对吧?我可以回顾过去说,好吧,那很难,但值得。我认为总的来说,这似乎比追求快乐能让人处于更好的状态。
追求事业。幸福与金钱无关。他们认为……
美国的开国元勋们,通过文化,当他们使用“追求幸福”这个词组时,我认为他们应该说“追求满足”。他们说,追求满足。我们可能会生活在一个更好的……
他们本可以详细说明。还有很多……
我认为他们比自己意识到的更聪明。
他们说,你知道吗,我们将使它含糊不清,让这些人自己弄清楚其余部分。这些部落……像人类一样,可以弄清楚其余部分,但金钱和权力……
所以我认为,我认为,我认为我不认为我举了一个很好的例子,但我认为这将是一个很好的例子,那就是……你知道……幸运的是,这个人从他开始赚钱的那一天起,他每天的生活都是如此,他只是……下一件事……所以我认为,我认为金钱绝对能够让你获得满足感,而我的钱用于幸福,会导致人们走上非常……非常具有破坏性的道路,而金钱用于满足,我认为这可能是一个真正的工具……顺便说一句,我一直喜欢……我知道这是一个案例研究,关于行为……另一件事是……真正让我思考的是,拉里·佩奇曾经说过他的慈善计划是什么,他说,我的慈善计划就是把所有的钱都捐出去,对吧?
好吧,让我实际问问你,你与很多成功的工程师和商界人士互动过。我们谈论茶时,有什么特别之处?你认为他作为领导者、作为创新者有什么特别之处?
是的。所以它的核心是……他……他是回到未来。所以他……他……他正在做世界上最领先的事情,但内部却采用了一种非常老派的方法。为了进行比较,你需要回到亨利·福特和托马斯·沃森,以及他们如何使用……以及卡内基,对吧?嗯,他们喜欢斯坦福……杰克·韦尔奇,对吧?你需要去……我们所说的那些老式资本家,那些真正的商业运营商,他们基本上建立了……基本上建立了……而且这是一种亲力亲为的承诺……和……深度……在业务中……加上对真理的绝对……和……对……将科学和技术置于第一位的绝对……这简直令人难以置信……他真的……理想的是,他只与工程师交谈,他从不忍受任何人的推诿……他希望在每一个主题上都能得到真相……他直接用数据经营他的企业,每天都致力于深入了解每一个……
每一个主题,所以你认为从收购推特来看,这是一个好决定吗?
我的人生经验告诉我不要后悔。我知道这是一种有点疯狂、毫无根据的……
但是,我的意思是,他有一个……
相当不错的履历……
疯狂的州……
美国。上次有人真正尝试这样做是在1950年代,它被称为塔克汽车,这是一场多么大的灾难啊,他们制造了……这是一场多么大的灾难啊。嗯,然后是火箭,就像谁会那样做?显然,现在不可能再像那样创办火箭公司了,那些日子已经过去了,然后同时做这两件事。所以他把这两件事都做成了,好吧,很好。就像……这是我的领域之一……我对此的任何意见都像……要么不清晰,要么不相关……就像在某些时候你只是……这个人。
总的来说,我希望更多的人能够专注于庆祝和支持,而不是……
和破坏。哦,他驱使怨恨,就像……他是一个怨恨的磁铁……他的批评者是世界上最悲惨、最不感激的人……这几乎是完美的匹配,就像本世纪最理想化的……你知道……技术专家……与……他的批评者一样苦涩,我的意思是,他开始……
非常黑暗……嗯,漫画……好吧,他感受到了那种热情,但有时在推特上被问到,这很有趣,可以观察到人类社会化的鼓声,考虑到我们的部落根源,完全燃烧了。
耗尽。
你说得对。所以现在,现在有人呼吁我们寻找意义。你认为这一切的意义是什么?马特,生命的意义是什么?
而且我不知道答案。我认为我离它最近的理解是我之前说的关于满足感。所以基本上就像,好吧,我们得到了我们所拥有的,我们应该尽我们所能。
爱在其中扮演什么角色?
我的意思是,生命的意义是什么?是的,但我爱……
所以爱是……
满足感的重要组成部分。照顾人是一件很棒的事情,当然也有病态的照顾人的方式。但也有非常基本的……你知道……照顾人的方面,例如,我碰巧是一个相信资本主义和照顾人实际上是……实际上是一回事的人。
嗯,有人想要资本主义,这就是你如何照顾你不认识的人,对吧?嗯,对。所以就像,我认为这……深深地融入到整个事情中。关于这一点,我们进行过讨论。但是是的……
创造数百万人在使用并从中受益的产品,无论大小,资本主义是一种促进这种行为的推动者。
戴维,每个人都说只有三种方法可以让人为另一个人做事:爱、金钱和武力。爱和金钱更好。
是的,更糟。这是一个很好的说法。我认为我们不知道为什么我首先选择爱。
如果那不起作用,金钱或武力……你会尝试吗?非常感谢你,我一直是你的忠实粉丝。我很高兴终于有机会和你谈谈。我非常欣赏你所做的一切,包括你在推特上所做的一切,能和你见面并和你交谈是我的荣幸。好吧。
再次感谢你……谢谢……
感谢收听与马克·安德烈森的这次对话。要支持播客嘉宾,请查看说明中的赞助商。现在,让我用马克·安德烈森自己的一些话来结束:这个世界是一个非常男性化的世界。如果你知道自己想要什么,并且你以最大的决心、动力和热情去追求它,这个世界往往会比你想象的更快更容易地围绕你重新配置自己。感谢收听,希望下次再见。