Superagency: The Bull Case for AI | Reid Hoffman
01:07:50 Share

你能保证我杀手机器人永远不会被制造出来吗?对人类来说,存在的风险不仅仅是杀手机器人。还有流行病、小行星、核武器、气候变化,等等。所以你必须把生存风险看作一个投资组合。

也就是说,它不仅仅是一件事,而是一系列事情。所以当你审视任何具体的干预措施时,你会说,好吧,这会如何影响投资组合?我的非常强烈的主张是,即使完全不修改,人工智能对生存风险投资组合的净影响我认为是非常积极的。

欢迎来到Bankless,今天我们将探索人工智能的前沿领域。我是Ryan Sean Adams。我和David Hoffman在这里,我们将帮助你变得更加去中心化。今天的问题是,人工智能会赋予我们超级代理能力,还是会被用来奴役我们?

今天我们邀请了Reid Hoffman来到播客节目。他阐述了他对人工智能的乐观观点,为什么它是有益的,为什么我们应该加速人工智能的发展,以及它将如何把我们每个人都变成超级代理。对他来说,这等于每个人都拥有更多自由。

我认为去中心化的旅程完全是关于成为一个更主权的个体。这是David和我自成立以来一直在讨论的。越来越难以想象在没有加密货币的情况下成为一个主权个体,我们已经讨论了很多关于加密货币的内容,但也包括人工智能。就像加密货币赋予你拥有事物的能力一样,人工智能似乎赋予你掌控自己命运的能力。

这就是为什么我们今天要和Reid Hoffman一起做一个关于人工智能的节目,以帮助我们走在人工智能曲线的前沿。我们讨论的一些事情包括超级代理、末日论者、乐观主义者和积极分子,什么事情可能成功,如何使用人工智能,美国的超级智能,最后,我们向Reid提出了一个问题:如果这整个AI的事情被过度炒作了呢?

敬请期待答案。超级代理是Reid Hoffman的书名,如果你在发行时收听,这本书本周就要出版了。所以这一切都是基于此。Ryan,Bankless的两位联合主持人之一,读了这本书。我没有。所以我更多的是跟着走。我处于倾听模式,在这里或那里提出一些问题,但这确实是Ryan在主持这期节目。所以我希望你们喜欢与Reid Hoffman的这一期节目。但在开始之前,让我们先花一点时间谈谈一些使这个节目成为可能的优秀赞助商。

你准备好更智能地进行交换了吗?Uniswap应用程序是简单、安全和无缝的工具,加密货币用户都信任它。Uniswap协议已经处理了超过2.5万亿美元的总交换量,证明它是交换的首选流动性中心。随着对越来越多的链的支持,包括以太坊主网、Base、Arbitrum、Polygon、ZK-SYNC,Uniswap应用程序是为多链世界而构建的。Uniswap会同步其网络界面、移动应用程序和Chrome浏览器扩展程序中的交易,因此你永远不会被绑定到一个设备上。

并且通过对你的资金进行自我保管和MED保护,Uniswap会在你随时随地进行交换时确保你的加密货币安全。今天就连接你的钱包并使用Uniswap网络应用程序更智能地进行交换,或者下载Uniswap钱包,现在可在iOS、Android和Chrome上使用。Uniswap,在多链世界中进行交换的简单、安全的方式。

凭借超过15亿美元的总锁仓价值,METH协议是METH的所在地,METH是第四大ETH流动性抵押代币,在十大LST中提供最高的APR之一。现在,CMETH更进一步。这个重新抵押的版本在CARAC、Eigenlayer、Symbiotic等多个方面获得了多种收益,使CME成为市场上最高效、最具组合性的LRT解决方案。变形记第一季向METH持有者发放了770万美元的Cook奖励。第二季目前正在进行中,允许用户赚取抵押、重新抵押和AVS收益,以及Cook(METH协议的治理代币)等奖励。不要错过抵押、重新抵押和利用Cook塑造METH协议未来的机会。

今天就参与meeth.mantle.xyz。Celo正在从一个移动优先的、与EVM兼容的Layer 1区块链过渡到一个基于OP stack、EigenDA和单块终结性的高性能以太坊Layer 2。所有这些都将很快通过硬分叉实现。凭借超过6亿笔总交易量、每周1200万笔交易量和每日75万活跃用户,Celo的迅速崛起将使其跻身于为现实世界而构建并针对快速、低成本的全球支付进行了优化的顶级Layer 2之列。

作为稳定币的所在地,Celo拥有13种跨7种不同货币的原生稳定币,包括Opera MiniPay上的原生USDT,并且仅在非洲就有超过400万用户。11月份,稳定币交易量达到68亿美元,实现了无缝的链上外汇交易。此外,用户可以使用ERC-20代币(如USDT和USDC)支付gas费用,并可在几秒钟内将加密货币发送到电话号码。但是,你为什么应该关心Celo向Layer 2的过渡呢?Layer 2统一了以太坊,而L1则支离破碎。通过成为Layer 2,Celo为其他与EVM兼容的Layer 1树立了榜样。关注Celo的X账号,见证伟大的Celo事件,Celo在其Layer 2时代将通胀减半,并继续其环保领导地位。Bankless Nation,非常高兴向你们介绍Reid Hoffman。他是一位创始人兼投资者。他共同创立了LinkedIn,我相信你们很多人过去都使用过。在过去的几十年里,他一直非常活跃于硅谷,尤其是在过去的几十年里。最近,他与我们所说的这场人工智能热潮非常接近。因此,他从2018年开始担任OpenAI的董事会成员。值得一提的是,每当有人谈到OpenAI的董事会时,很多事情都会出现,但他实际上是在Sam Altman和罢免风波之前离开去专注于人工智能投资的。你们都记得这一切。

他也是一位天才作家,一位沟通者。我读过他几本书。我认为科技创始人最经典的书籍之一就是这本名为《闪电式扩张》的书,它对于如何发展互联网规模的业务非常出色。现在,所有这些前言都是为了说,现在他写了一本关于人工智能的书,名为《超级代理》。我几乎可以把这描述为Reid Hoffman对人工智能的论点。

关于人工智能及其在未来几十年对我们的影响。Reid Hoffman,欢迎来到Bankless。很高兴来到这里,我也期待着未来的对话。是的,我的意思是,我认为我们将真正关注人工智能,因为这是你书的主题,但在未来的节目中,我们可能会谈到加密货币,因为我知道你对这方面有很多想法。是的,不,事实上,我在2014年买了我的第一个比特币。恭喜你。有点晚了,但你知道。比大多数人都早。

是的,这是一个购买比特币的好时机。那么让我们谈谈这本书吧。让我们谈谈你对人工智能的论点。当我听说你要写一本名为《超级代理》的书时,在我没有阅读任何进一步内容之前,我的第一个问题是:

好的,超级代理,Reid指的是谁?超级代理是谁?是人类吗?他们会成为超级代理吗?还是他在谈论人工智能本身?机器人会成为超级代理吗?所以也许你可以从那里开始。你能定义你所说的超级代理是什么,以及谁会得到它吗?是的,让我们从代理开始,然后进入你提出的优秀问题,什么是代理?代理是制定计划、在世界上做事的能力,

你知道,根据你的意图和愿望来创造世界的一部分,并在你周围世界的秩序中表达自己。很明显,没有人拥有完美的代理能力。你知道,这是,你知道,一种理论上的,类似神一样的生物。上帝可能有这个能力,也许吧。是的,也许吧。这甚至取决于你具体的宗教信仰是什么。这就是我今天在这个播客中有点含糊其辞的原因。今天在这个播客中不谈宗教。是的,没错。

所以超级代理,这个精确的术语是指当数百万人类能够获得一种提升性技术、一种变革性技术时。超级大国不仅是他们作为个体获得的,而且社会也会发生转变。例如,一个典型的例子是汽车。所以你会说,它给了我超级大国,因为我可以走得很远。我可以开车。我可以到达更远的地方。对。

但是当社会上的其他人也拥有汽车时,你知道,突然之间,你必须去诊所预约。现在医生可以来找你。很明显,后来的例子是你可以获得Instacart送货服务等等。所以超级代理就是我们如何获得超级大国。所以回到你开头的问题,是人类是超级代理还是人工智能是超级代理,在某种程度上两者都是。

但重要的是要强调,我们人类和人类并没有失去我们的代理能力,而是在获得代理能力。顺便说一句,这与当你们也拥有汽车时我获得代理能力的方式非常相似。

对。这不仅仅是我自己拥有汽车才能获得代理能力。当你们也拥有汽车时,我也会获得代理能力。这就是代理能力的提升,也就是超级代理能力。我几乎是在考虑你的书名。如果你使用超级代理之外的其他同义词,如果你只是把书命名为超级大国。

对。以及谁会得到它们?这几乎是相同的讨论。就像当我们谈到这个代理术语时,超级大国和超级代理这两个术语是同义词吗?这个简短的版本是,我们获得了所有这些额外的选择表面积?我们有了以前几代人无法想象的新能力。

对我来说,这感觉就像一种超级大国。在你的脑海里,它们是一样的吗?好吧,超级大国,它与之密切相关。维恩图的重叠度很高,因为能力的提升就是超级大国。而且每一个,你知道,主要的新的技术都会给我们带来新的超级大国。现在,其中一些是具有超级大国,并且随着许多人获得超级大国,你知道,个人、机构、社会、政府等等,

你的代理能力会发生一些变化。例如,那些驾驶马车的人的代理能力就不是这样。随着

随着汽车的出现,这种情况发生了变化,因为那时的情况是,街道不再为你而设置。你不再能够做你一直在做的事情,并且计划要做的事情,例如,马匹运输业不再是中心。顺便说一句,甚至像火车这样的早期技术,这些技术也发生了变化,因为

在人们表达其代理能力和能够在其上工作的方式上。所以超级大国是你扩展代理能力的一种方式。但是当它发生在超级代理的背景下时,它也会改变和改变它。这就是为什么它不是100%相同,但密切相关的原因。我读到了一些我们共同的东西,我们实际上都有播客。你有一个名为Possible的播客。我认为Ryan和我偶然发现了你的播客,我们注意到你做了一个

一集,对你自己的采访。但是你自己,我们可能会在加密货币领域称之为人工智能代理。现在,也许这说明了你所说的超级代理的意思。也许你可以把这个比喻完全带回家。但是我们怎么知道我们实际上是在和真正的Reid Hoffman说话,而不是

你的AI联合主持人机器人现在和我们在一起,实际上。而真正的人类Reid Hoffman则在其他地方做着不同的工作。我们怎么知道你是真正的Reid Hoffman?好吧,这个问题会越来越复杂。

目前,视频化身实际上并不是实时的。因此,Read AI的讨论必须稍微预先设定好,即使它看起来像是在一个播客上,它是一个完全实时的事件。实际上,它正在运行经过训练的ChatGBT实例,该实例经过了我20年的写作训练,然后更具体地以正确的质量生成音频和视频。

并没有真正地,你知道,使今天的完全实时堆栈能够实现。但是,你知道,部分原因当然是因为,你知道,我做了,把它放在Possible上,因为可能发生什么好的事情是开始让人们熟悉未来的宇宙,就像你们在做的那样,你知道,在广泛的技术中,当然也包括加密货币,以及主权和身份等等意味着什么。

这有点像,这里,这里是一个通往未来的镜头。我们不知道未来究竟会走向何方,但我们正试图让每个人,你知道,参与其中,做好准备,很好地进行导航等等。这就是我做Read AI的部分原因。但是有一些,你知道,在某些时候,

人们可能会把这作为一个有趣的问题。我自己的冒险答案在这里有点像,好吧,加密签名和身份当然正在发生。但是,当然,鉴于我可能同时拥有我的和Read.ai的加密签名,这可能仍然是一个悬而未决的问题。

是的,这真的很有趣。你的Read AI实验有一些非常有力的东西,因为它通向一个有希望的未来,例如,如果个人拥有他们自己的人工智能代理双胞胎的主权,那么人工智能代理双胞胎可以在他们闲逛的时候去工作。他们正在做一些他们喜欢的事情。也许他们在看电影,他们在做艺术,他们在锻炼身体,诸如此类的事情。然后Read AI在做播客,所有这些都在进行中。你知道,真正Reid Hoffman某种程度上

拥有它,这感觉非常民主化。不过,我想回到这次谈话的主题,当我们谈到超级代理时。所以你的论点是,我们理解超级代理是什么,以及它与超级大国有何异同。你非常肯定地说,获得超级代理的不是机器人。人工智能确实获得了超级代理,但人类也获得了超级代理。你在这里的观点是,这将是人类被

被人工智能放大。这是真正的突破。但是,在我获得超级代理能力的人类子集中,我有一个问题。我们指的是哪些人类,Reid?在你的论点中,我们指的是硅谷精英吗?我们指的是,你知道,1%的人吗?那些控制着社会大部分资本的人?我们指的是政府吗?还是我们指的是个人?因为这种分配似乎与我们如何看待这是否是一件好事密切相关。所以......

我认为我们已经走上了这条道路,数亿人正在使用Chat GBT,并且接触到其他环境中的代理,无论是Anthropic、Gemini、Copilot等等。所以我认为我们已经看到了数亿你所说的个人,但是,你知道,称之为个人访问。

至少是大部分中产阶级西方人。尽管如此,我从一位最近去摩洛哥旅行的朋友那里听到的一件非常酷的事情是,出租车司机正在使用Chat GBT作为翻译,你知道,对于游客来说,你想去哪里?所以,你知道,它确实非常广泛。现在,话虽如此,我不想掩盖这样一个事实,即我们生活在一个拥有,你知道,财富差异、权力差异、地位差异的人类社会中,不仅在国家之间,而且在国家内部,

而且,你知道,这不会消失。所以我不会感到惊讶,你知道,如果你说,好吧,但实际上,富人能够获得的人工智能有一些改进和优势,也许是实时性,你知道,可用的GPU数量等等,比,你知道,低收入者。

现在,话虽如此,我真正乐观的部分原因有点像,你知道,智能手机,也就是今天世界四分之三的人拥有手机。但是蒂姆·库克、杰夫·贝佐斯或桑达尔·皮查伊拥有的智能手机与优步司机拥有的智能手机相同。所以我认为技术的自然驱动力,包括人工智能,是

是为大众市场,即数十亿人而构建的。所以我认为我可以自信地断言,超级大国将非常广泛地可用,即使,你知道,由于国家、财富和,你知道,获得途径的不同,超级大国也存在一些差异。但我认为民主化将是游戏的名称。

所以在你的世界里,人工智能是一种真正具有民主化意义的技术。它非常像,你知道,当然,你知道,如果你处于早期采用者的曲线中,也许你会早一点得到一些东西。但总的来说,它将采取与手机相同的方式,在20世纪80年代,有一个大型的,你知道,大砖块。

它要花费数千美元,直到那时技术才民主化,或者互联网使事情民主化的方式。这并不是因为存在这样的恐惧,Reid,人工智能将被超级大国控制,比如说,政府,政府。

或者硅谷的一个小集团,他们将拥有这项技术,而我们其他人,也许不会。但你说它更类似于,我想,互联网或手机的传播,因为它将被广泛传播,实际上是一种可供公众使用的技术?是的,简而言之。部分原因也是因为,你知道,相同的......

称之为硅谷生态系统,它构建了智能手机,构建了互联网。很明显,这不仅仅是硅谷,但硅谷做出了很多贡献,也同样构建了人工智能,无论是在超级计算中心还是大型模型中,而且在这一点上,有成千上万的初创公司,他们有点像,你可以开始绘制各种加密货币,

数量级相似。

让我们谈谈存在的人工智能宗教,因为我认为这是你书中一个相当精彩的框架,也是我的主要收获之一。所以你谈到,我使用的是宗教这个词,你可以说意识形态,你可以说哲学,但关键是这些类别中的每一个,我认为它们都有一个预期的结果或信仰条款,因为当然未来是未知的。但无论如何,你书中的四个类别是

对人工智能有想法的人。我认为对它们进行分类有助于更好地理解世界观。一个是末日论者,好吗?第二个是悲观主义者。第三个是乐观主义者。第四个是积极分子。

好的,现在这是四个不同的类别,具有不同人工智能观点的群体子集。你能为我们定义这四个类别吗?当然可以。我将按照这个顺序依次介绍它们,末日论者基本上就像,人工智能是人类的毁灭。而且,你知道,这非常像终结者机器人或其他类型的,你知道,好莱坞流行的主题,以一种有点像的方式争论,好吧,

它将比我们更聪明。它想统治地球。它会把人类看作是敌对的或蚂蚁或等价物。人工智能应该被阻止。

悲观主义者本质上是,看,我认为人工智能的未来不会特别好。我认为它会,你知道,夺走很多工作,并扰乱社会秩序。它可能会导致更多虚假信息和不平衡的民主制度。它将拥有大量的信息,你知道,监控。因此,他们的隐私会更糟等等。

所以,就像,我认为它无法阻止,因为,你知道,世界上的多个国家和多个公司都在建造它。而且,你知道,这就是人类的运作方式。而且,你知道,公司将因此变得更有生产力。但我认为这将是一个不幸的结果。顺便说一句,它是悲观主义者,因为他们只看到了悲观的一面,如果这对人们有帮助的话。没错。没错。

实际上,我会在乐观主义者之前介绍积极分子,因为我想花更多的时间在乐观主义者身上,因为我自认为属于这个类别。积极分子本质上是,不,不,不,这项技术很棒。这与末日论者相反,

而且它就像,我们将用它来构建的一切都将非常棒。就可能创造的东西而言,天空甚至都不是极限。或者,你知道,也许人工智能将发明聚变,而不是我们发明聚变。而由此产生的一切都非常壮观。积极分子,积极分子指的是踩油门。是的。全力前进,快速前进。没错。然后是乐观主义者,我把自己描述为,是一种积极分子,但它应该只是......

就像在任何情况下都最大限度地踩油门一样,你会说,明智地驾驶,比如避开坑洼,在弯道处减速,你知道,看看,这是一个有点危险的区域。让我们更小心地通过这里。仍然是加速主义者,我们将来可以构建的东西,无论是医疗成果、气候变化成果,还是,你知道,在工作和教育方面的人类赋能,对吧?

所有这些东西都很重要。但是,你知道,让我们确保我们没有让流氓国家、恐怖分子或不平衡的犯罪浪潮或其他此类事情成为实现这一目标的方式。

让我们确保我们不会,例如,无意中创造终结者,你知道,因为这有点像我们如何驾驶的问题。这不是不可避免的。这就是乐观主义者类别,也是我所在的类别。很明显,如果你说,你不能选择乐观主义者,我会更接近积极分子,比悲观主义者或末日论者更接近积极分子。但这也是为什么《超级代理》的副标题与播客相呼应,是这里可能发生什么好的事情的原因。

是因为我们作为人类,总是会遇到这样的新技术,哦,我的上帝,世界末日就要来了。我的意思是,还记得围绕加密货币的所有那些讨论吗?也许我们仍在进行这些讨论,对吧?而且,你知道,顺便说一句,互联网,顺便说一句,汽车,顺便说一句,印刷机,它总是从哦,我的上帝,这是社会的终结开始。然后当我们开始导航时,我们会说,哦,等等,如果我们这样做,

我们使社会变得更好得多。顺便说一句,到目前为止,我们在历史上每一次技术实例中,

都做到了这一点,并通过所有这些获得了超级代理能力,有人可能会争论说人工智能技术是新的和独特的,无论它在这个特征上是否新颖和独特。这就是,当然,为什么写这本书并走出去与人们交谈等等的原因,以表明。实际上,事实上,创造积极未来的唯一方法是想象它并朝着它前进。所以这就是我们应该做的。让我们确保我们理解这些四个类别的例子,也许可以通过波的例子。

所以,在积极分子方面的人,再说一次,我们这里指的是积极分子,而不是Z世代。我在脑子里想,Bankless听众可能熟悉另一个术语是EAC。如果你听说过这个词,Reid有效的加速主义者,我们邀请过Beth Jaysos来参加播客。他基本上就像全速前进一样,

就像,让我们利用能源,让我们利用人工智能,并像征服宇宙一样全速前进。Marc Andreessen,你知道,他编制了一份技术乐观主义宣言,其中有一些EAC的特征。积极分子基本上是EAC群体。对吗?没错。尽管我认为你可能会说积极分子和乐观主义者是......

某种程度上是EAC群体的两种变体。因为我也,顺便说一句,我认为,你知道,我几年前开始使用技术乐观主义这个词。就像EJ一样,我是一个技术乐观主义者,而不是技术乌托邦主义者,这意味着你可以用技术创造伟大的事物。这并不意味着你用技术做的一切都是伟大的,对吧?所以,你知道,小心地去做。我会说积极分子是,嘿,任何人都用它做的事情,最终都会是好的,

而令人乐观的是,大部分事情最终都会变得很好。让我们试着稍微引导一下。我很难把像马克·安德森这样的人归入某个类别。我不知道他是否完全认为,所有技术、科技都是好的,或者这其中有多少是某种,你知道的,一种个人选择,只是为了放大这种极端立场,以便......他可能需要竖起一面旗帜,以便改变奥弗顿窗口。改变奥弗顿窗口。对。我认为这是......

人们像贝丝·耶稣和安德森所做的那种迷因游戏的一部分,但这很难推测。好的,这就是Z世代。现在,末日论者就很容易理解了。我认为我们也在Bankless节目中邀请过客人。伊莱亚斯·尤德科夫斯基,他非常明确地认为,我们现在在人工智能方面所做的一切,基本上,我们只有几年,也许几十年可以生存,然后人工智能就会取代我们。他真的这么认为。这就是末日论者的类别。所以你不必在那里详细说明。但是,关于......

悲观主义者类别呢?在我看来,这有点像是主流媒体对事情的看法。它甚至可能是围绕人工智能的流行叙事。如果你问普通美国人,他们对人工智能有什么看法?我认为在2020年代,在当前时代精神下,我认为人们会对人工智能持一些怀疑态度。他们会对人工智能持一些悲观态度。这绝对是半杯水类型的......

我认为这是流行的想法,但是这个悲观主义者类别的原型人物是谁呢?所以我确实认为,总的来说,你知道的,这是一种论述,因为现在的论述,就像历史上早期技术出现的时期一样,往往集中在所有可能出错的事情上。对。

因此,许多记者,绝对是好莱坞绝大多数人,他们会说,“哦,我的上帝,这是内容制作行业的毁灭。”而且,你知道,当Sora和VO出现时,你知道,我们的工作都将不保,很多都集中在工作岗位流失上。所以。

所以担心和担忧工作岗位流失。所以,你知道,我认为或多或少就像,如果你不能把这个人清楚地归入另一个类别,他们可能就在悲观主义者类别中。这可能有点像主流媒体。这是其他人所在的类别。

从政治格局的角度来看,你会这样看待这个轴线吗?因为我认为很多听众会说,“好吧,民主党人更倾向于悲观主义者一方,而共和党人更倾向于......也许不是Z世代一方,而是乐观主义者一方。”你认为这也是一个起作用的轴线吗?好吧,我认为这取决于具体情况,对吧?因为也有很多现代共和党人有点反大科技,

认为大科技太大了,应该遵守规定。所以,你知道,我认为,就其本身而言,悲观主义者存在于双方......

所以,里德,我认为在本播客的其余部分,我希望你能为乐观主义辩护。人工智能为什么对人类来说会发展得很好?人类真正被人工智能放大,并导致真正积极的结果的想法。

你书中早期章节中谈到了一些我实际上不熟悉的历史。也许这是一个对某些人有帮助的类比。这对我有帮助。所以这是大型计算机的历史。你回到20世纪60年代。

显然,我不知道这一点,也许一些Bankless听众也不知道这一点,在20世纪60年代,当大型计算机作为一项新技术进入公众文化视野时,我们拥有能够完成当时令人难以置信的事情的计算机,媒体歇斯底里爆发了。

好的,人们担心这种新型计算机能够在几秒钟内回忆起每一个相关的行为,包括你一生中所有的失败、尴尬或犯罪行为。有很多与乔治·奥威尔创作的西方经典著作《1984》的比较,就像这个由这些大型计算机建立的奥威尔式社会一样。甚至还有国会听证会,伙计们。

所以一位立法者警告了“电脑人”的危险,这是一个将失去所有个性、隐私,基本上是自主权的公民,他们将被简化为磁带。当然,那是当时编程计算机的技术。就像字面意义上的磁带一样。所以,让我们了解一下大型计算机的历史以及这种歇斯底里。你认为这与今天发生的事情有什么相似之处?所以,好吧,你已经讲得很好了。

非常感谢你阅读这本书。现在这种情况并不常见。所以......

我认为问题是,每当我们遇到一项新技术时,在这种情况下,大型计算机,他们都在考虑,“好吧,可能出现什么问题?”他们会想到,“好吧,事实上,这可以追踪一切,做出所有决定,通过将其置于政府的集中控制之下,来剥夺人们的自主权。”这与今天某些圈子里对人工智能的讨论有点相似。

然后让我们作为人类

基本上是无力和没有自主权的。当然,这是很多......我们在《超级代理》中对此进行了大量讨论,其中很大一部分是乔治·奥威尔在《1984》中表达的担忧,这种集中技术成为对个人的控制,而个人通过这种对信息的控制、对权力的控制,成为机器中几乎无关紧要的齿轮。

而且,你知道,如果你以同样的方式看待它,那么人工智能对我的数据做了什么?哦,我能否做出决定,因为人工智能将非常有说服力,并且会操纵广告系统和信息系统?你知道,我能否控制我的生活和工作?还是人工智能将完成所有工作?所有这些都非常相似,不仅显然与大型计算机的讨论有关,而且......

紧密相关,而且我认为我们至少已经从穿孔卡过渡到磁带,然后我们才开始担心,所以我们是磁带而不是穿孔卡,这本意是一个笑话,所以无论如何,这基本上就是当时的对话内容,而人们现在已经忘记了,因为回顾过去,这似乎很荒谬......

对此。我的意思是,这有点像,“好吧,我不知道为什么那些人会这么想。”我的意思是,看看我们现在拥有的所有计算机,看看每个人口袋里的智能手机,它的功能比那些大型计算机强大数千倍,对吧?而且,你知道,它在整个地方运行。顺便说一句,我认为每个人也将拥有一个代理,你知道的,使用人工智能。所以我认为这就是为什么讨论的相似之处在于,你......

我们正在付出所有这些努力来想象所有可能的不良后果,而将更多精力投入到我们应该努力实现的良好结果以及哪些具体的不良结果更好,你知道,这些不良结果在我们深入研究时并不容易纠正。例如,你可以把一辆没有保险杠的汽车开上路。稍后安装保险杠比较好。你可以把一辆没有安全带的汽车开上路。稍后安装安全带比较好。但你不会试图在你把汽车开上路之前想象出所有可能出错的10000件事。

你必须把车开上路,然后边走边学。这就是人工智能的事情。因此,对于大多数悲观主义者来说,说服他们从所谓的对人工智能持怀疑态度转变为对人工智能感到好奇,在乐观主义者类别中,就是说,开始使用它,并且不要仅仅为了,“嘿,我的冰箱里有这些食材。我能做什么菜?”完全好的用例。或者我的亲戚要举办生日派对,我想为他们创作一首十四行诗。很好。但对于真正的事情,例如,

实际上,我将举一个个人例子,因为我认为这对于Bankless社区来说可能特别有用。所以当我第一次接触到GBD-4时,我坐下来说,里德·霍夫曼如何通过投资人工智能来赚钱,作为我用GBD-4有多少工作被取代的替代指标?它给了我一个写得很棒、引人入胜但完全错误的答案。

因为它给了我一个非常聪明的商学院教授(不了解风险投资)会说的答案。首先,你分析哪些市场拥有最大的PAM。然后你分析,你知道,可能的替代产品是什么。然后你去寻找可能能够构建这些替代产品并将其建立起来的团队,以便投资于它们。你会说,“是的,任何有能力的风险投资家,任何成功的风险投资家都不会那样运作。”是的,这就像商学院的废话,我想,对吧?是的,完全正确。完全正确。

所以这就像,“好吧,那么它与投资完全无关吗?”答案是否定的,事实上,我在第二天想通的一件事是,“嘿,我可以输入PowerPoint演示文稿或输入商业计划书。然后我说,回答尽职调查的最佳问题是什么?虽然作为一名经验丰富的投资者,我可能知道所有这些问题并都解决了它们。

它帮助我意识到,“哦,是的,第三个问题,我将在三天后意识到这是应该问的正确问题。”现在拥有它是有用的,同时也在制定尽职调查计划。因此,这种加速或这种放大,你知道,或者这种代理,超级代理是人类代理的一部分。所以

所有这一切都是一个个人故事,回到Bankless社区,说,“好吧,开始将它用于对你来说重要的事情。”即使第一个,比如你如何投资加密货币,没有给你任何有用的东西。

继续尝试不同的东西,你可能会发现一些东西,“哦,这有助于我如何快速准确地运作。”然后这会给你一个切入点,开始学习,你知道,你如何能够获得超级能力。Arbitrum门户网站是进入以太坊生态系统的单一中心。Arbitrum拥有超过800个应用程序,为每个人提供了一些东西。

深入DeFi的核心,先进的交易、贷款和抵押平台正在重新定义我们与金钱互动的方式。探索Arbitrum快速发展的游戏中心,从沉浸式角色扮演游戏、快节奏的奇幻MMO到休闲的运气战斗手机游戏。

通过Arbitrum广泛的桥梁和链上网络,轻松地在链之间移动资产并轻松访问生态系统。进入Arbitrum蓬勃发展的NFT和创作者空间,艺术家、收藏家和社交在这里汇聚,并在链上支持你最喜欢的流媒体。查找新的和热门的应用程序,并了解如何通过你最喜欢的项目的限时活动在Arbitrum生态系统中赚取奖励。用Arbitrum赋能你的未来。访问portal.arbitrum.io,了解你的Web3旅程的下一步是什么。

如果Web3游戏的未来不仅仅是幻想,而是你今天可以探索的东西呢?Ronin区块链已经被数百万玩家和创作者所信任,它正在开启一个新的创新时代,从2月12日开始。对于玩家和投资者来说,Ronin是蓬勃发展的游戏、NFT和Axie和Pixels等实时项目的中心。凭借其无许可的扩展,该平台即将在游戏、DeFi、人工智能代理等方面释放新的机遇。

立即注册Ronin钱包,加入其他1700万人一起探索生态系统。对于开发者来说,Ronin是你的构建、发展和扩展平台。凭借快速交易、低费用和成熟的基础设施,它针对大规模创造力进行了优化。今天开始在测试网上构建,并准备启动你的想法,无论是游戏、迷因币还是全新的Web3体验。

Ronin数百万活跃用户和钱包意味着可以进入一个蓬勃发展的生态系统,该生态系统拥有300万月活跃地址,随时准备探索你的创作。在wallet.roninchain.com注册Ronin钱包,并探索可能性。无论你是玩家、投资者还是构建者,Web3的未来都始于Ronin。

我完全同意。我使用ChatGPT等工具的亲身体验是,当我以正确的方式使用它时,它确实提高了我的生产力。我必须花时间弄清楚如何将它应用于我自己的工作放大。我想当我阅读关于20世纪60年代和大型计算机的这一部分时,我当时正在设身处地为当时的人们着想。你可以......

看到当时计算的运行方式,它实际上是由少数几家公司和政府控制的。这有点像,我的意思是,计算机有建筑物那么大,对吧?所以你可以采用20世纪60年代的心态,并推断出这一点,然后变得非常害怕。最终发生的事情当然是个人电脑革命。

每个人都在自己的家中拥有了这些建筑物大小的计算机,作为他们自己生产力的放大器,社会完全忘记了20世纪60年代围绕大型计算机的歇斯底里。但我也不禁想知道,一些批评是否正确。你回到20世纪60年代,他们谈到了监控和缺乏隐私。

他们并没有完全错。我们没有得到他们预测的最坏情况,但我们确实得到了一些好的和一些坏的结果。这就是为什么我有点想问你关于你对这个问题的看法,你是否真的认为末日论者和悲观主义者完全错了?或者你认为末日论者风格的结果甚至悲观主义者风格的结果有一定的概率,即人工智能并非如此......

阳光明媚和彩虹般美好,它实际上对社会有害。你从概率分布的角度来看这个问题是怎么想的?他们有道理吗?所以我认为聪明人总是有道理的。所以我认为这个问题很好,因为它总是要倾听他们在想什么?我认为末日论者和悲观主义者之间的两个答案大相径庭。让我们从末日论者开始,你知道,Bankless社区可能熟悉的一件事是,你知道,X风险。

所以他们往往是存在性风险,特别是尤德科夫斯基和其他人。现在,思考是这样的。它说,你能保证我永远不会制造杀人机器人吗?无论是在人类手中还是自主制造。你会说,“好吧,你不能保证这一点。”有很多事情你无法保证。你会说,“啊,那么我们面临着存在性风险。”我们应该阻止这种存在性风险,因为你为什么要增加任何存在性风险?完毕,我的论证结束了。好吧,除非你考虑到存在性风险并非一成不变,人类唯一的存在性风险并非杀人机器人。

有流行病、小行星、核武器、气候变化,等等。所以你必须将存在性风险视为一个投资组合。也就是说,它不仅仅是一件事,而是一组事情。因此,当你查看任何特定的干预措施时,你会说,“好吧,这如何影响投资组合?”现在,我的非常强烈和有力的论点是,人工智能,即使没有修改,我们稍后会谈到为什么引导是好的,

但完全没有修改,我认为,对存在性风险投资组合来说是净正面的。因为当你遇到,例如,流行病时,这是我们一生中经历过的事情之一,而且显然,如果它更致命,其他一切都会更糟,它可能比死去的数千人还要严重得多。

问题是说,“好吧,你如何看待它,检测它?你如何分析它?以及你如何快速进行治疗和预防性疫苗接种以应对这种情况?”人工智能是对此的主要答案。如果没有人工智能的速度,这些都无法实现。

然后你就会想到,“哦,那么小行星呢?”好吧,识别哪些小行星可能会撞击我们,能够尽早干预它们。你会想到,例如,气候变化。你会说,“好吧,事实上,无论是加速聚变的发明,还是如何更好地管理我们的电网,在所有这些方面都有积极的贡献。”所以你会说,“好吧,鉴于所有这些,我认为人工智能,即使是......

未经修改。只需让业界知道它将要做什么。我认为它在存在性风险方面将是强烈的积极因素。如果在此之前你有......

异议,我会暂停一下,然后我再谈谈悲观主义者类别。不,我只是用另一种方式来说,你只是说最完全的Z世代,最快的引擎进入人工智能革命,它撞上了每一个坑。它在转弯时是两轮行驶的。即使在这种情况下,它为所有替代存在性风险提供的解决方案在你看来仍然是净正面的。没错。是的。是的。

这就是为什么我与末日论者相距甚远的原因。好的。那么悲观主义者呢?他们有道理吗?是的。顺便说一句,我认为末日论者也有道理,也就是说,你会说,“嘿,顺便说一句,我们应该尽量减少杀人机器人的风险。”是的,这是我们应该做的事情。

我们可以回到这一点。我想你的答案是通过使用人工智能来帮助我们。是的,完全正确。好的。是的,完全正确。这感觉有点递归,但是......嘿,每当技术成为问题的一部分时,它几乎总是解决方案的最佳部分。好的。对。好的。这是乐观主义者。我认为这是EAC的观点。好的。但我认为我的历史站在我这边,这很好。是的。我们可以回到隐私问题,你知道,从大型计算机的事情开始。但是悲观主义者呢?所以关于悲观主义者。

我认为我非常同情悲观主义者的地方是,如果你观察,我们在《超级代理》中对此进行了一些讨论,正如你所知,

如果你观察这些技术对人类社会的影响,我们人类会非常痛苦地采用和适应新技术,就像这种破坏一样。所以你会说,“啊,印刷术。如果没有印刷术,我们就不会拥有现代世界的一切。你不可能有科学、科学方法。你不可能有识字能力。你不可能有......你知道的,强大的中产阶级。然而,由于印刷术,发生了一个世纪的宗教战争。当我们人类......

遇到这种情况时,过渡时期几乎总是非常痛苦的。我认为即使是人工智能,我们在这个过程中也会感到痛苦。不幸的是,我认为没有任何办法可以避免这种情况。我写《超级代理》并进行这些对话的部分原因是说,“好吧,让我们比以前做得更聪明一些。让我们试着使过渡尽可能轻松和优雅一些。但这仍然会很痛苦,就像......即使你说,“嘿,大多数人类工作将由使用人工智能的人类取代”,你......

这个过程本身仍然很痛苦。人们必须学习人工智能,也许是新人,也许是无法学习人工智能的人感到格格不入,你知道,因此而受苦。我认为悲观主义者正在用直觉来指明这一点,那就是,“嘿,看,所有这些转变,他们会将其投射到无限大,但所有这些转变,天哪,这将非常困难。”而你......

而你就像,“是的,确实如此。”对吧?不是。不,不是。我们将努力使其尽可能好。这再次是我争论我们应该在这里有意识地考虑什么可能成功的原因之一,你会说,“好吧,这回到了技术是解决方案的问题。这就像,“好吧,所以我们将有一些工作转变。我们将进行转型。我们将有一些信息流和错误信息流的转变。我们将对隐私的期望进行一些转变。我们应该做什么?

答案是,“好吧,我认为人工智能在所有这些情况下都可能有所帮助。”就像其中之一,我写《超级代理》的部分原因是,你知道,拐点和派是......你知道的,某种东西,我帮助每个人成为你的代理,为你服务,你知道,而你就是能够帮助你的人之一,这对于你来说很重要......

因为它可以是,“好吧,你如何帮助我驾驭这个新世界?”我认为这是我们应该尽早提供的一件事,这完全可以追溯到你的民主化问题。而我认为这很重要的一点是,要确保能够广泛地使用它。好的,让我们强调这一点,因为我认为悲观主义者现在在叙事战争中获胜的部分原因是,当然,恐惧更具病毒性,更容易想象。在20世纪60年代或2020年代,想象一个奥威尔式的未来比想象一个更乐观的未来要容易得多......

一旦你开始谈论这个乐观的未来,它听起来就太乌托邦了。它甚至听起来都不真实,对吧?但我们的想象力是有限的。但是你刚才提出的那个问题,那个提示,就像你书中的一章。这是关于什么可能成功的问题。悲观主义者很少问什么可能成功。我认为,公平地说,他们的想象力有一些局限性。所以我想问你,作为一个技术远见者,

你会如何回答这个问题?所以如果人类,如果美国的每个公民都拥有一个能够放大他们所做事情的人工智能代理,而我们在整个社会中都拥有这项技术,这项技术得到了广泛部署,那么什么可能会成功?例如,普通美国人的好处是什么?视线,即没有技术创新。这只是一个我们如何构建和部署它的问题。一个比你平均水平的医生更好的医疗助理,全天候可用,而且就在每个人的口袋里。

所以你有一个健康问题。现在是晚上11点。你对你的孩子、父母、祖父母、宠物有任何健康问题。你可以开始解决它。它可以帮助你,包括,“哦,为此,你应该立即去急诊室。”对吧?所以这是可以实现的。每个年龄段每个科目的家教。从2岁到82岁。就像,“嘿,你想学习这个。你想了解更多信息。顺便说一句,这显然也有一些经济影响。

我认为这是可以实现的。然后回到你的民主化观点,有很多服务,不仅仅是医疗和看医生的机会。你知道,有些人有私人医生。大多数人必须通过......你知道的,他们的医疗计划。有些人甚至没有医疗保险。即使在美国,也有很多人没有保险。

还有什么其他的事情呢?这就像,“好吧,事实上,我正在阅读我的租赁合同。我该如何理解它?关于它,哪些是重要的?好吧,代理也可以帮助你。这都是当今的视线。这甚至还没有涉及到,“嘿,它如何帮助你更好地编写代码?它如何帮助你......更好地制定营销计划?它如何帮助你更好地销售?它如何帮助你?所有这些事情也即将到来。但是,就像这三个基本要素一样,

对每个人来说都是改变人生的。那么社会层面呢?当这些个人的事情聚集和复合时,我们拥有更好的医疗保健,我们拥有更好的学习能力,我们在生活的各个领域都有更好的东西。从美国的社会角度来看,这会带来什么?作为一个社会,我们会有更多空闲时间吗?我们的幸福感会增加吗?我们的GDP会翻倍或翻三倍吗?我们也会得到这些东西吗?好吧,我绝对认为......

GDP应该衡量的等价物应该会增加。现在,GDP面临着一个挑战,那就是它以某种工业美元的方式来衡量事物。例如,你从维基百科获得的所有好处实际上都会导致GDP通缩。但是,这种......人们对人工智能的另一个担忧是,“哦,我不会花时间与人交谈。我会把所有时间都花在与代理交谈上。”

因此,孤独感会增加而不是减少。我认为在某种程度上,这是一种设计,你知道的,一种选择。我认为我们既想看到,也希望得到,并且我们想推动的是,你知道的,就像你问一样,你知道的,inflections pie,嘿,你是我最好的朋友。它说,不,不,我不是你的朋友。我是你的AI伙伴。让我们谈谈你的朋友们。你最近见过他们吗?你想怎么和他们说话?你知道的,也许你可以安排一个午餐约会,你知道的,诸如此类的事情。

我认为这可能会带来更大的幸福。而且我确实认为,实际上,你知道的,我热爱不丹,你知道的,福音概念的一部分是,我实际上认为衡量,你知道的,国民幸福总值也是一件好事,我们应该,你知道的,作为一个社会去追求。我认为这可以,你知道的,通过这种方式来提高。但我认为我们会看到的地方是,

更像是一种充实的生活。充实的生活可能是,你知道的,就像,嘿,我有更多时间去做我的爱好。我喜欢钓鱼,我会花更多时间钓鱼,因为我可以更快地完成我的工作。或者对于那些人来说,因为,你知道的,美国社会倾向于喜欢工作,就像,哦,我可以完成更多工作。我可能仍然工作相同的时间,但是

但与花费大量时间进行表单录入相反,我现在可以做那些不仅仅是表单录入的部分,并以更充实、更有能力和更高效的方式完成工作的其他部分。是的,我认为其中一种思考方式是,从现在起 100 年后,美国或部署这项技术的任何地方的普通人是否会拥有更好的生活质量?我想到了,你知道的,2020 年代,我把它与 1920 年代进行比较。我会毫不犹豫地说,

更喜欢生活在 2020 年代,尽管它有很多问题,而不是生活在 1920 年代。但在抗生素出现之前,你知道的,看看那个时候的死亡率,看看有多少社会基本上必须做艰苦的农业类型的农场工作才能生存,对吧?现在对大多数人来说比以前好多了。我们可以深入研究很多统计数据。但是

让我们停下来,回到另一种悲观主义者的反对意见。所以他们会说,里德,你说的所有事情听起来都很棒。但是,是的,我们以前听过。这是硅谷的又一次诱饵和转换。好的。

他们承诺,还记得 2020 年代吗,Facebook 的出现,更不用说 LinkedIn 了,他们承诺我们将连接世界。最终发生了什么,硅谷变得富有。他们剥夺了我们的注意力。你知道的,这个词“提取”经常被用来形容这件事。他们把我们卖了产品。

他们把我们作为产品卖给了出价最高的人。现在我甚至在考虑我与 ChatGPT 相处的时间。现在感觉真的很好。太棒了。我花在 ChatGPT 上的时间比花在 Google 上的时间还多。因此,我认为 ChatGPT 比 Google 更了解我。我的搜索历史可以透露很多关于我的信息,但 ChatGPT 更是如此。我每天都在使用它,就像,谁比 ChatGPT 更了解我?也许我的妻子知道

也许是少数其他个人,但它了解我,这感觉很好,因为它增强了我的能力,好吗?但是如果事情变得黑暗怎么办?如果我们得到这种诱饵和转换?如果突然 OpenAI 或任何你的硅谷公司,

开始说,哦,你知道的,所有这些 AI 东西都很贵。我们将不得不开始利用我们所知道的关于瑞安的所有数据来做一些事情并将其出售给出价最高的人。剑桥分析 2.0。是的,或者也许他们把它卖给了政府或其他什么东西,或者他们通过推荐那些不符合我最大利益的事情来控制我。符合他们的最大利益或某些政府的最大利益。好的。这是诱饵和转换的关键。

所以直接解决这个问题,里德。我们怎么知道这不是硅谷的诱饵和转换?因为感觉以前社交媒体也发生过这种情况。好吧,这有点取决于你所说的诱饵和转换是什么意思。因为我认为,例如,让我们以你在 Google 和 AdWords 中的例子为例。

是的,Google 从你那里获取大量数据,并可以更好地向你做广告。而且,顺便说一句,希望这意味着你看到的那些产品,你知道的,实际上是你可能感兴趣的东西,我认为她认为这是一个特性,而不是一个错误,就你可能想要购买的东西而言,并且到目前为止,它拥有世界上发明过的最好的商业模式,当然是在媒体领域,也许在当今世界的任何地方。

他们说,那么你从你的数据中得到了什么?好吧,你得到了一系列令人惊叹的免费服务,你知道的,免费搜索,免费电子邮件,以及其他一些东西。所以这是一个自愿的,你知道的,你参与的事情,你知道的,因为你得到了一堆价值,你知道的,交易。

顺便说一句,你可能宁愿让它弄清楚如何从你的数据中获利,而不是说,哦,为了获得我们的 RPU,你必须每月向我们支付 50 美元,对吧?为此。不,不,不,我宁愿,你知道的,获得广告,并免费给我所有这些东西。因此,有可能,你知道的,AI 代理最终会陷入类似的事情中,他们会说,好吧,嘿,看,我们可以像 Google 为我们的搜索收取 50 美元一样向你收费。

但实际上,事实上,找到一种透明、自愿并与你互动的方式,因为它不应该具有欺骗性。它应该以你意识到的方式参与和使用它,这对你来说将成为一种积极的,你知道的,经济交易。但它也可能是其他事情。它可能是一种订阅模式。它可以集成到您正在使用的各种生产力应用程序中。它可以是任何数量的东西。我认为对话在

这,你知道的,在这个引人注目的口号中得到了很好的体现。监控资本主义具有误导性,因为它就像,好吧,但是我喜欢监控医学。我喜欢,你知道的,我的手表正在跟踪我的睡眠和健康状况,它帮助了我,它是积极因素的一部分。

这些数据在这些互联网系统中的许多用途都是为了让你免费使用,他们有经济能力来扩展和改进免费产品。

所以,你知道的,我认为这将挑战诱饵和转换的方法。而且,你知道的,我想说的最后一件事是,例如,你说,好吧,无论是社交网络,你知道的,而且我,顺便说一句,显然认为 LinkedIn 在所有这些方面都处理得最好,无论是 Google,还是这些东西。

这些都是自愿参与的问题。你可能会说,如果没有以这种方式被告知,我很难参与现代社会。就像,好吧,你知道的,就像,是的,我自己经常使用搜索,但我认为我可以以一种方式来做,也许你应该说,嘿,Google 应该提供一个付费的替代方案。

另一方面,为了让它在经济上可行,至少 2% 或 3% 的观众必须选择它。对。我甚至不确定 2% 或 3% 的人会选择它。对。我的意思是,你会得到一些我会这样做的人,但这可能不是,你知道的,除非至少 2% 或 3% 的人在做这件事,否则在经济上可能不相关。所以无论如何,所以我认为这是一个对挑战的挑战。是的。

我认为悲观主义者对这个问题的看法很有趣,对吧?这就像承认有一些坑洼和一些成本,对吧?也许对社会和个人来说,但也说好处远远超过成本。你强调这一点的一种方式是,你说过这个,我想让你证明这一点,因为当我读到它的时候,它让我大吃一惊。即使大型语言模型没有比今天更好,也没有比今天更好,对今天生活的 20 岁平均消费者的剩余价值在其一生中将达到数百万美元。是的。

好的,所以你实际上是在说,对于一个真正的 Z 世代人,所以是 Z 世代的人,你认识那个年龄段的人吗,他们将能够利用大型语言模型,它将为他们带来数百万美元的价值。这甚至没有谈论未来的大型语言模型和人工智能。这是在谈论今天的人工智能。

怎么样?有些人考虑这个问题,他们就像,这怎么能为某人带来数百万美元的终身价值?好吧,让我们从一些非常简单的事情开始,那就是,你知道的,法律援助。所以你会遇到雇佣合同,你会签订租赁合同,你会,你知道的,你可能会参与的产品和服务。而今天,你的普通人基本上负担不起律师的费用,对吧?因为律师每小时收费数百美元。

好吧,现在,即使是今天的 GBD-4,你也可以把它放在那里,并获得有用的分析,有用的参与。所以,如果你只是把所有你可能参与的合同都放在那里,并使用它,那么这将为你带来数百万美元中的很多美元。

然后你说,好吧,那医疗方面呢,对吧?就像咨询医疗或其他事情,或者特别是如果我喜欢,你知道的,在这个国家,我们倾向于以具有挑战性的方式进行保险,主要是通过雇主,对吧?

就像,好的,所以获得医疗建议。好吧,这是你可以获得很多东西的另一个领域。然后你说,好吧,那如何增强我寻找和从事经济工作的能力呢?这是另一个地方。所以当你把所有这些加起来,并把它加起来,希望是更长的寿命,因为如果你得到所谓的

预防性医疗建议,关于如何预防性地保持健康,并预防性地避免某些类型的灾难性健康状况,或者以你可以在危重症之前就能做到方式来应对早期症状。这不仅具有巨大的经济意义,而且还应该导致更长的寿命。所以所有这些都是我们如何做到这一点的一部分,你知道的,我们得到了,嘿,今天它对你来说已经值数百万美元了。

所以里德,这让我们谈到了监管。我认为悲观主义者阵营对我们如何监管人工智能以及电子行为者、繁荣者和 Z 世代人有不同的看法。但总的来说,我从政府机构那里看到的是,

它不会在这件事上加油。全是刹车。他们有这个预防原则,这就像他们考虑可能出错的地方以及如何防止所有可能出错的事情。你提出了不同的论点。我认为你的论点是创新实际上是安全。所以你正在提出论点,我想听听这如何说得通,但你正在提出论点,我认为,实际上加速人工智能是我们使这件事安全的方式。这感觉非常违反直觉,对吧?

这个说法基于什么?你为什么认为创新是安全?例如,当你谈到现代汽车如何能够以这些速度行驶,并且比早期的汽车更安全地行驶时,这是因为当你迭代和部署它们时,你会意识到,哦,实际上......

我们可以安装防抱死制动器。哦,我们可以安装安全带。哦,我们可以有褶皱区。哦,我们可以有保险杠。这是一条将汽车变得更安全的创新途径。然后汽车可以更快地行驶并应对各种情况,因为你已经将安全作为汽车创新的一部分创新到了汽车中。

与此类似的是基本上做,你知道的,就像,好吧,人工智能的未来特性是什么,以及我们可以做些什么

使它们在这些对齐的情况下更安全。你就像,好的,那么我们能否让人工智能真正地使那些试图弄清楚他们的健康和其他事情的人能够做到,但也使,你知道的,任何恐怖主义行为都变得更加困难和更加困难。顺便说一句,这当然就是,你知道的,微软、OpenAI、Thropic 和其他公司已经做到的红队和安全与对齐小组的工作,你知道的,

你知道的,因为他们意识到这些安全问题,但这种创新在

未来,这是非常重要的事情。你发现它的方式是通过迭代部署,通过实际让它上线,然后看看需要修改哪些东西。现在,显然,对于像,好吧,制造大规模杀伤性武器的恐怖分子这样的极端事情,我们想要确保在任何领域中尽可能少地发生这种情况。

而且,你知道的,例如,安全小组或多或少地使用他们的最低基准,让我们确保这些代理不会比今天的 Google 搜索更能够做到这一点,对吧?显然,我们希望将两者都降低到最低。

但这就是,你知道的,创新到安全的意思,在一个历史悠久且易于理解的汽车例子中,以及它在构建未来软件的技术特性方面的含义。这里最后一个我认为出现的反对意见是,这种人工智能会扼杀人类自主性的想法。这是一种控制技术。它基本上不是一种自由技术。所以,在这个我们都在走向的人工智能世界中,

我的自主性在哪里?我的意思是,你把这本书命名为,里德,你知道的,超级代理,对吧?就像,但是如果人工智能为我做所有决定,我觉得我的自主性更少了。我也想让你解决这个问题,因为它与自由的概念有关。我有点想知道这有多少也是温水煮青蛙,我们只是习惯了它。也许没关系,但也许不行。所以如果你回到 20 世纪 60 年代,把那些同样的人拉出来,你告诉他们,嘿,在 2020 年代,

大多数成年人实际上会通过计算机算法遇到他们未来的配偶、伴侣或伙伴。基本上是计算机决定。这实际上是大多数人今天相遇和结婚的生活体验。就像他们在某种社交网络上相遇一样。他们在 Tinder 或他们订阅的任何约会网站上相遇。这几乎是算法在匹配他们。这听起来很反乌托邦。

在 20 世纪 60 年代,现在就像,哦,我已经习惯了。我认识很多处于健康关系中的夫妇,他们通过计算机的方式在网上相遇。无论如何,回到这个话题。

这种人工智能代理做出决定并将这部分智能外包实际上会限制我们自由的论点。你对此有什么看法?或者你认为这个论点有一些道理吗?所以我认为我一开始就说的一件事是代理会发生变化。它不仅仅是新的超级大国,而且随着你获得超级代理,它也会改变周围的一些事情。例如,把它想象成不同的代理。

对作为人类和人类参与生活意味着什么的触觉感知。就像当你第一次制造一项技术时,它感觉有点陌生,比如火和农业,眼镜和电脑和手机。就像,你知道的,开始感觉像,你知道的,日常生活。就像我们的祖父母现在也使用手机一样,尽管在智能手机时代的开始,它就像,哦,这是那些新奇的东西之一。我宁愿,你知道的,接通固定电话,然后打电话给我的孙子或其他什么人。

所以它确实会带来变化。迭代部署和了解它的一部分是如何使这些变化变得如此,以至于当我们到达未来状态时,我们会说,哦,是的,这个更好。你说,我们的现状只是在适应吗?实际上,先前状态的判断是正确的,是

好吧,如果你这样看待它,就像你的 1920 年代和 2020 年代一样,你知道的,你真的了解过去的世界吗,你知道的,青霉素和抗生素以及所有其他东西真正的样子,以及所有这些的后果是什么,以及为什么它的组合如此之好?

所以你实际上必须接受你学到的那种状态。这就像,把它想象成,你知道的,你小时候做出的判断,你成年后做出的判断。你会说,好吧,看,儿童时期有一种天真,但随着我们学习和获得经验,我们变得更聪明,我们用它来做出良好的判断。这就是为什么我认为,是的,你会说,嘿,你知道的,

你现在在互联网服务上遇到你的生活伴侣。哇,这似乎真的很疏远。但实际上,事实上,这是,好吧,我们如何使它比大学或工作场所的彩票好得多,这非常有限。是的,以及你以前拥有的东西。同样,这是一个迭代过程。这并不意味着互联网生态系统中仍然有一些东西坏了。

你知道的,约会之类的事情。但这是我们说的一件事,我们知道如何不断改进它。这是我们继续努力的事情之一。里德,在我们结束之前,我想问一个关于美国和美国的问题。我们,你知道的,根据你对人工智能的不同宗教偏好,你可能会决定以某种方式来规范这件事。问题就变成了,好吧,我们如何有效地实施这项技术?

遍及美国,遍及整个社会。有些人到了谈话的这个阶段,他们就像,好吧,末日论者的观点甚至悲观主义者的观点都是不可持续的,因为我们生活在一个多极世界中,有很多不同的参与者,这是一场人工智能竞赛。所以如果不是我们,那么我们的对手就会使他们的 GDP 翻倍,而我们却停滞不前,这会导致一个我们可能不喜欢的世界。所以我想问你这个问题。你认为美国应该怎么做?我们的 AI 方法应该是什么?

好吧,我开始做的一件事是出于这个原因称人工智能为美国情报,那就是我们拥抱这场认知工业革命非常重要,因为那些拥抱工业革命的社会是

为他们的社区、他们的孩子、他们的孙子带来了繁荣,并创造了,你知道的,现代世界。我认为认知工业革命与人工智能、增强智能或美国情报也是如此。我们想要美国价值观的繁荣,美国梦,

个人的赋权,能够,你知道的,做好你的工作,并,你知道的,从你在社会阶梯上的任何起点取得进步,以更好地控制你的命运。我认为这就是为什么美国价值观深深植根于此,并且它是美国社会的赋权,这一点特别重要。这就是为什么我认为我们的监管立场是

需要更加悲观、乐观和加速主义,而不是踩刹车,因为我认为这是我们可以帮助创造的世界未来的部分。在我们结束之前,最后一个问题。在你看来,所有这些人工智能的东西有没有可能被过度炒作?

我们基本上,就像,我们在这里停滞不前,我们有 ChatGPT-4,创新真的慢了下来。这,就像,这一切都没有那么重要,因为它会随着时间的推移而非常缓慢地发生。我认为这种情况的可能性为零。所以我认为我们已经在这些规模计算和学习系统中看到了足够的东西,这些系统只是......

才刚刚开始部署。2025 年将成为这一年的一部分,我们将看到软件编码在各方面的加速。这种软件编码将同时启用许多其他事情,例如我们所有人作为专业人士都将拥有一个编码副驾驶,以帮助我们以各种方式完成工作。但它也是,它是如何推进许多其他功能的模板。

所有这些工作。所以即使你说,嘿,GBD-5 只会比 GBD-4 好 10% 或 20%,我认为它也会比 GBD-4 好得多,并且认知能力的提高速度会慢下来。我认为在整个认知工业革命中,这项技术的意义已经显而易见,并且

这只是我们如何构建它、配置它、部署它和集成它的问题。我认为这就是为什么,你知道的,美国情报。就是这样,伙计们,来自里德·霍夫曼,所有这些事情放缓的可能性为 0%。所以我们一起走向前沿。

我们和你们一起,Bankless Nation。里德·霍夫曼,非常感谢你今天加入我们。很高兴。我也很高兴。我期待下一次。是的,我们下次必须谈谈加密货币。所以所有收听的人,这本书叫做《超级代理》。它现在已经出版了。我们将在节目说明中添加一个链接。里德关于这方面的全部论点都写在这本精彩的书中。必须让你知道,当然,加密货币是有风险的。人工智能也是如此。你可能会损失你投入的东西,但我们正在向西前进。这是前沿。并非适合所有人,但我们很高兴你与我们一起踏上 Bankless 之旅。非常感谢。

♪