E124: AutoGPT's massive potential and risk, AI regulation, Bob Lee/SF update
01:33:07 Share

欢迎收听《All In》播客的第124集。据我了解，将会有很多全球粉丝见面会。如果您去推特搜索“All In 粉丝见面会”，也许就能找到第125集的链接。

但需要明确的是，这些活动并非官方的《All In》活动。它们是由粉丝自发组织的，这相当令人难以置信。但我们无法为任何特定组织投票。

对吧？没人知道这些活动会发生什么。可能会被抢劫，也可能是陷阱，我不知道，但我还是参加了，因为有31个城市的听众们聚集在一起，庆祝世界上最好的商业科技播客。

这真是太疯狂了，你知道，这让我想起了90年代初期，Rush Limbaugh成为一种现象的时候。那时有一些叫做“Rush Rooms”的地方，比如餐厅和酒吧，会在他们的扬声器里播放Rush Limbaugh的节目，比如从早到午饭时间的广播，人们会去这些“Rush Rooms”一起收听。

那是什么时候？你当时大概十六七岁，你喜欢这样吗？

我当时……我的意思是，这真是太疯狂了。我们这里出现了一种现象，人们正在自发组织。

你已经三次提到“现象”了，他说，“现象，现象”。

为什么？有什么新鲜事吗？

在你去俄罗斯的排队时，有一个特定的秘密仪式。

我想你对不同的通风口感到困惑。

我们可以提供。

我们将开源给……

粉丝们，我们……

世界上有很多真实的新闻。而生成式AI正在接管对话，其发展速度是我们任何人都从未在科技行业见过的。我想我们都会同意，发布产品的公司数量以及这项技术的复合效应是惊人的。

我认为我们都会同意，本周发布了一款名为AutoGPT的产品，人们对此都为之疯狂。基本上，它的作用是让不同的GPT相互对话。因此，您可以让代理在后台工作，我们之前在播客中讨论过这个问题，但它们基本上可以相互对话，然后在无需太多干预的情况下完成任务。

所以，假设您有一个销售团队，您对销售团队说：“寻找具有这些特征的潜在客户，用于我们的销售软件，将它们放入我们的数据库中，找出它们是否已经在数据库中，向销售人员发出警报，根据该人的资料（LinkedIn或Twitter等）撰写信息，然后撰写电子邮件并发送给他们，如果他们回复，则邀请他们进行演示，然后将该交易安排到销售人员的日程表中。” 您可以运行很多工作，但这些工作本质上将永远在后台运行。它们可以实时与其他元素交互。我只是在这里举一个例子。但是当您看到这种情况发生时，请谈谈您对这个转折点意味着什么的看法。

让我尝试用一种略微不同的方式来解释一下，并不是说你的解释是错误的，我只是认为可以用更具体的东西来解释。当然。所以，我有一个朋友，他的开发人员一直在玩AutoGPT。

所以你可以看到它在GitHub上。它是一种开源项目。它是一个业余项目。

看起来像是有人把它放在那里。它已经发布了大约两周。它在GitHub上已经有4.5万颗星，这是一个巨大的数字。

请向听众解释一下GitHub是什么。

这是一个代码库，您可以创建……你知道……开源项目的代码库。所有开发人员都在那里检查他们的代码。所以，你知道，对于像这样的开源产品……

任何人都可以去看它并玩它。它就像Pornhub。

它更像是业余照片，因为你贡献你的场景……你的代码……

这件事有很多星。而且显然，就在昨晚，它一夜之间又获得了1万颗星。这件事在流行度方面就像爆炸一样。

但是你所做的是给它一个任务。AutoGPT与众不同的地方在于它可以将提示串在一起。如果您使用ChatGPT，则一次只能输入一个提示。

而人类所做的是，你得到答案，然后你想出下一个提示，然后你可以继续，最终进行长时间的对话，我想，直到你到达你想要去的地方。所以问题是，如果AI可以基本上自己提示自己呢？那么你就有了自主性的基础，而这个项目就是为了做到这一点而设计的。

所以，我的朋友做了什么。他说，好吧，你是一个AI活动策划师。我希望你为我计划一个本周末在纳帕谷的葡萄酒品尝之旅。

我希望你找到……我应该去的最佳地点。而且必须适合儿童。不是每个人都会喝酒，而且会有孩子在那里。

我希望有其他人也在那里。所以我希望你为我计划这个。所以AutoGPT所做的是，它将这个分解成一个任务列表。

而且每当我完成一项任务时，它都会在列表底部添加一个新任务。所以它的输出是，它搜索了很多不同的葡萄酒品尝场所。它找到一个有保龄球区的场所，适合孩子们。

它制定了一个时间表，它创建了一个预算。它为活动策划者创建了一个清单。它做了所有这些事情，我的朋友说他实际上在本周末会预订这个场所并使用它。

所以我们超越了人类仅仅对AI进行提示的能力。AI现在可以承担复杂的任务，而且它们可以根据从之前的提示中学到的知识递归地更新其任务列表。所以你现在看到的是个人数字助理的基础。

这才是未来发展的方向。您可以告诉AI为您做一些相当复杂的事情。它能够做到，它能够创建自己的任务并完成相当复杂的工作。所以这就是为什么每个人都为此而疯狂。

弗里德伯格，您对自动化这些任务以及让它们运行并将任务添加到列表中的想法是什么？这似乎是具有开创性意义的时刻，它实际上正在发挥作用。

我认为我们已经看到了开创性的时刻……

在过去的……

几周和几个月里，我们每次聊天时都会有新的发布，这些发布正在改变格局，并揭示了新的应用，也许还有我们以前在没有看到一些演示之前没有很好理解的结构性概念。ChatGPT就是这种情况。

然后所有这些进化……感觉真的……改变了我们思考与数字世界互动的方式以及数字世界可以发展到什么程度以及如何与物理世界互动的方式。这真的非常深刻。我认为我看到AutoGPT的一些应用中一个有趣的方面是，这些几乎像是游戏模拟中的自主角色，它们可以相互互动，或者这些自主角色可以相互对话，其中每个实例……

有其……

自己的预定义角色，然后它会探索一些发现、应用或提示，与另一个代理来回互动，而这种代理与代理互动模型，也许是多代理互动模型的递归结果，再次揭示了一个全新的范式。你知道事情是如何完成的，在模拟方面，在发现方面，在参与方面，其中一个代理……每个代理都可以是房间里的一个不同角色。

你也可以看到一个团队如何通过告诉每个代理具有不同的角色背景或不同的数据集、不同的经验或不同的个性特征来协作地创建一个新产品，以及这些多代理系统输出的演变。你知道一些非常新颖的东西，也许任何独立运行的代理都无法揭示自己。所以，再次，就像与这些模型互动的另一个维度，而且它……再次，就像每周一样，它都是洋葱的另一层。这超级令人兴奋和引人入胜。变化的速度和……你知道……这里定义的新模式……我认为，这使得追赶变得非常困难，尤其是在监管方面，在这个阶段很难介入并尝试设定标准和规则，因为我们甚至还不知道我们现在拥有的是什么，而且……很难把基因放回瓶子里。

是的。而且我认为你指的是本周发表的斯坦福大学和谷歌的论文。他们做了一篇研究论文，他们创建了……如果你还记得那个电子游戏的话，就像模拟人生一样，他们放了一堆你可能会认为是NPC（非玩家角色）的东西，你知道，游戏中的商人等等，然后他们说这些代理应该相互交谈，把它们放在模拟中。

其中一个决定举办生日派对，他们决定邀请其他人，然后他们有了记忆。所以随着时间的推移，他们会产生这样的回应：“我不能参加你的生日派对，但生日快乐”，然后他们会与每个玩家进行后续交流。这种模拟中似乎出现了涌现行为，当然，现在每个人都在想，好吧，当然，我们作为人类，这是模拟，我们生活在模拟中。

我们都被放在了……而我们现在正在经历的就是我们正在经历的。这项技术是多么令人印象深刻，或者它……哦，哇。人类认知，也许我们认为它非常特殊，但我们实际上可以模拟我们作为人类所做的大部分事情。所以我们正在让意识的光芒黯淡。

我不确定是不是这样，但我想要说两点。我认为这是一个非常重要的一周，因为它开始显示递归的速度有多快。所以在其他技术和其他突破中，递归的世代需要数年时间，对吧？如果你想想从iPhone 1到iPhone 2我们等了多久，是一年，对吧？我们等了两年才有了应用商店。

一切都是以年来衡量的。也许当事情真的非常激进和具有颠覆性的时候，是以月来衡量的，但现在这些令人难以置信的创新突破是以天和周来衡量的。这非常深刻。

我认为这对这场游戏中的三大参与者有着非常重要的意义，对吧？所以，我认为这对这些公司来说意义重大。我不清楚你该如何再创办一家公司。

我不明白为什么你需要一个拥有40或50人的公司来尝试获得MVP。我认为你可以用三四个人的团队做到这一点。这对公司来说意义重大。然后是这场游戏中的第二个参与者，即通常资助这些事情的投资者和风险投资家。

因为我们所有的资本配置模型总是围绕着向这些吸收大量资金的企业开出数百万美元、数亿美元和数十亿美元的支票。但现实情况是，你知道，你看到的是像Midjourney这样的东西，它们可以用很少的资金扩展到巨大的规模，其中许多可以自举。所以它只需要非常少量的资金。

所以我认为这是一个巨大的影响。所以对我个人来说，我正在关注以完全不同的方式进行的公司组建。而我们的资本配置模型规模完全错误，但对我来说，用10亿美元……

这有意义吗？不，在未来三四年内。不，正确的数字实际上可能是未来四年投资5000万美元。

我认为风险投资的工作正在发生变化。我认为公司的创建方式正在发生变化。我想提醒大家一件事。

我和Under Armour的负责人有过一次会面。我在播客中谈到了这件事，我说，我向他提出了挑战。我说，听着，真正的目标应该是利用这些工具来颠覆现有企业。

剔除所有销售和营销工作，直接交付产品。我用Stripe颠覆Stripe的例子来说明，Stripe用十分之一的员工和十分之一的成本推出了同等的产品。令人难以置信的是，AutoGPT正是解决这个问题的答案。

为什么？因为现在，如果你是一个年轻的企业家，如果你看到任何臃肿的组织正在构建企业软件，你可以将一堆代理串在一起，这些代理也会构建你构建更便宜得多的产品所需的一切，然后你可以部署这些产品供其他代理使用，所以你甚至不需要销售团队了。这就是我所说的这种疯狂的递归的可能性。

是的。所以我真的很好奇这将如何影响所有这些……所有这些……产品公司……以及其他方面。最后我想说的是，关于我的推文，我认为这正是我们现在必须就监管进行真正对话的时刻，我认为这必须发生，否则将会是一场灾难。

让我们先搁置一下。但我想要得到一些回应。所以，是的，我们以前见过这种情况。过去，商业化一个基于网络的软件产品或应用程序需要两三百万美元。然后下降到50万美元，然后是25万美元。

我不知道你是否看过这些报道，但如果你还记得你iPhone上的热门游戏Flappy Birds，你知道，它曾风靡一时。数亿人玩过这款游戏。有人通过与ChatGPT对话，在一个小时内就做出了一个主要版本。

所以这是一个完美的例子，听着，这是一个游戏。所以它有点傻。但我这个周末跟两位开发者聊过，其中一位是还不错的开发者。

另一位是一位真正的资深开发者，他创建过非常成功的公司，他们上周一起编程。由于ChatGPT和其他服务为他们编写代码的速度有多快，他看着她说：“你知道，你基本上是一位10倍速的开发者。我的超能力消失了。”

那么，这会让你相信公司成立会走向何方呢？这会是，你知道的，大规模的通货紧缩吗？像Stripe这样的公司会在很短的时间内拥有数百个竞争对手吗？或者我们只是会走很长一段时间的创意之路，用软件解决一切问题？这在创业领域会如何发展？David Sacks。

好吧，我认为开发人员，尤其是初级开发人员，可以更好地利用他们的时间。因此，小型团队更容易获得MVP，这本来就应该是他们用种子轮融资应该做的事情。你不应该需要，你知道的，五十个开发者来构建你的第一版，这应该是，你知道的，创始人真正应该做的事情。所以，我认为这已经发生了，而且这种趋势将会持续下去。我认为我们距离AI能够取代整个团队还很遥远，我现在只是……我认为现在，AI主要是一种利好力量，而不是造成，好吧，大量混乱的东西。

到几年，几个月，几年。

几十年，是几年。我肯定这么认为。我说这话的原因是，很难完全取代任何这些常规工作职能的100%工作内容，一个销售代表的100%工作内容，一个市场营销人员的100%工作内容，甚至一个程序员的100%工作内容。

所以现在，我认为我们正处于这样一个阶段，在这个阶段，它是一种赋予人类能力的工具。我认为我们距离，你知道的，人类完全脱离循环还很遥远。我认为现在，我主要把它看作是一种利好力量，而不是造成，好吧，大量混乱的东西。

Freedberg，你的想法呢？

如果我们遵循你提到的趋势，那个你分享的电子游戏可能花费了几百人年，然后是几十人年，然后，你知道的，随着其他工具的出现，可能是几个月的人工，而现在这个人用这些工具在一天内就完成了它。所以，如果你考虑一下它的含义，我可能去年就提过这个了。我真的相信，在某个时刻，出版商和出版的概念可能会消失，你知道的，就像我们今天看到互联网上的大部分内容都是用户生成的，大部分内容都是个人制作的，发布在YouTube或Twitter上。这就是我们现在消费的大部分内容，或者Instagram或TikTok。

在视频内容方面，我们可能会在软件本身看到同样的情况，你不再需要一个软件创业公司或软件公司来渲染或生成一套工具，特别是针对用户，而是用户可能能够向代理、AI代理定义他们想单独使用或创建的一套工具，让他们做一些有趣的事情。因此，购买或订阅软件的想法，或者甚至购买或订阅电子游戏、电影或其他形式的内容，随着这些工具的杠杆作用的提高，可及性也随之提高，就会逐渐减少。你不再需要计算机工程学位或计算机科学学位来利用或使用它们。

个人也许能够用简单明了的英语表达他们想要一本什么样的书或一部什么样的电影，或者一款什么样的电子游戏。所以当我打开我的iPhone时，它可能不是一个屏幕上有几十个电子游戏的屏幕，而是一个界面。而界面会问你今天想玩什么。然后我可以非常清楚地，特别地说明我想玩什么。我可以即时为我渲染那个游戏、渲染代码、渲染引擎、渲染图形和所有东西，然后我可以使用它。

所以，你知道，我认为这有点像一个升级，所有技术都从中心开始，随着时间的推移向网络边缘移动，这可能是现在计算机编程本身正在发生的事情，使用计算机为我们生成东西的工具包不再是由一组中心化出版商控制和使用的工具包。但它变得分散，并由像任何人一样的用户在网络边缘使用。然后网络边缘的技术可以为你渲染软件，它真的会彻底改变软件和互联网的整个商业格局。我认为，你知道，我们才刚刚开始看到我们的头脑围绕着这个概念旅行，并试图把它与旧的范式联系起来，那就是所有创业公司。创业公司会变得更便宜，团队更小，但也许你甚至不需要创业公司，甚至不需要团队，甚至不需要公司来生成和渲染软件。

为你做事情了，Chamath。当我们看到它时，它是一种模式增强，就像我们一直在讨论的那样。我们正在增强人类智能，然后我们替换这种复制或这种自动化，我想，这可能是一种很好的说法，是这种增强而不是自动化，然后可能是贬值。你对Sacks认为这需要数年时间，而Freedberg认为内容或其他方面可能很快就会发生的事情，你对这个增强、自动化、贬值过程的看法如何？

我认为人类有判断力，我认为代理要取代优秀的判断者需要几十年时间。我认为这是我们有一些立足之地的地方。我要说一些有争议的话。

我不认为开发人员……现在优秀的开发人员要么得到答案，要么得不到答案。这就是代理所做的，因为10倍速工程师比普通工程师有更好的判断力。但通过让每个人都成为10倍速工程师，你正在剥夺判断力。

你正在获取现在显而易见的代码路径，并让每个人都能使用它。这实际上就像你在国际象棋中，AI创建了一个求解器。所以每个人都理解了在每个位置上做最有效的事情，做最期望值积极的事情的最有效路径。

编码非常相似。通过这种方式，你可以减少它，并以非常非常简化的方式看待它。所以代码中没有差异化。

所以我认为Freedberg是对的。例如，假设你今天要创办一家公司。你为什么还要关心你使用哪个数据库？

你为什么还要关心你构建的云平台？为什么这些事情重要？它们不重要。这些曾经是重要的决定，当时人们有一份工作要做，你付钱给他们来进行判断。

哦，好吧，我们认为GCP对于这个特定的工作负载更好，我们认为这个数据库架构对于那个特定的工作负载更好。我们将在美国运行它，但在司法管辖区内。

你认为代理是否关心你告诉代理找到执行这件事最便宜的方法，如果它变得比你自己去某个地方更便宜，也为我做这件事。你知道ETL，所有数据，把它放到另一件事中。我并不真的关心。

所以你是说你会用代理或亚马逊网络服务来替换Stripe。这将是残酷的。

这将是残酷的。我认为这一点，这正是AI的完美之处，AI是残酷的，因为它没有情感。它没有被带去吃牛排。

它没有被带去看篮球比赛。它没有被卖给CEO。它是一个代理，它查看了一堆API端点，弄清楚如何编写代码来完成手头的任务，这个任务是在预算内交给它的，对吧？另一件重要的事情是这些代理在预算内执行。

所以另一个很好的例子是，这是一个更简单的例子，但一个人说，我想要七天的饭菜。从饮食的角度来看，这是我的限制。这也是我的预算限制。然后这个代理所做的是弄清楚如何使用当时的互联网卡插件，然后是这些其他的东西，并在预算内执行。

当你是一个筹集了50万美元并说我需要一个完整的堆栈解决方案来做X、Y和Z，预算为20万美元的人时，这有什么不同？这是完全相同的问题。所以我认为，我们开始蚕食这些极其昂贵、僵化的、大型的组织只是时间问题，这些组织依赖于非常复杂的市场营销和销售营销策略。

我不认为你需要。更多的是代理和GPT的世界。我认为对我来说这很有趣，因为它创造了一套明显的上市公司空头。

然后B，你实际上想武装叛军，用托比·卢基的类比来说，这意味着要养活数百个单人团队，数百个，然后说，用一堆代理重新构建整个堆栈。是的。我认为递归地，你将在不到一年的时间内得到答案。

有趣的是，当你谈到做出这些决定的情感时，如果你看看好莱坞，我刚在我的另一个播客上采访了创始人。

你还有另一个播客。

我刚……你已经……

四次了，借口插播广告。

我不会插播广告，本周是关于创业公司的，可用的……一点……演员们……YouTube……这个周末。Runway是这家公司的名字，我采访了他们。而关于这一点，令人着迷的是，他告诉我，在《万物皆可》这部获奖电影中。

他们有七个视觉特效人员，他们正在使用他的软件。深夜选择像科伯。所以之后都在使用它。他们在创造疯狂的视觉效果方面非常残酷，现在没有，你可以使用文本提示来获得视频输出。而它的输出相当不错，但你也可以用现有的数据集来训练它。

所以他们将能够获取Sacks喜欢辛普森一家或南方公园或星球大战或漫威的东西，获取漫画书、电影和电视节目的全部语料库。然后让一些人输入，让钢铁侠做这个，让卢克·天行者做那个，它就会输出东西，我说，嘿，这什么时候会达到《曼达洛人》电视剧的水平？他说两年内。现在他在谈论自己的书。但很有可能，从工业光魔到其他所有这些视觉特效人员都将被导演取代，他们目前正在使用这项技术来做，他们称之为图像，就像他们去写剧本、故事板一样。

谢谢。他们现在正在做故事板，对吧？故事板、行为和输出之间的差异在接下来的30个月内正在缩小。

我会这么说。我的意思是，也许你可以谈谈这里的时间范围，因为这是一个完美的例子，这个……AI，我的意思是，你可以让工业光魔的整个团队或皮克斯的整个团队变得不必要。

好吧，我的意思是，你已经看到很多部分了。所以你有稳定扩散。你可以输入你想要的图像。

它会输出一个版本或十个不同的版本。你可以选择你想用哪个。你可以创建角色，你可以创建声音，你可以复制名人的声音。

然后我们认为这还没有实现，据我所知，能够将静态图像串流在一起形成一部电影的能力。但这似乎很快就会到来。所以同样，理论上，你应该能够训练模型，你只需要给它一个剧本，它就会输出一部动画电影。

然后你应该能够微调它，选择你想要的声音和角色，以及你知道的那些东西。所以是的，我认为我们现在已经接近了。我认为问题是，你知道，每增加9%的可靠性都是一个巨大的进步。所以，在两年内达到90%可能很容易，但从90%到99%可能需要再花两年时间，然后可能需要再花两年时间才能达到99.9%，依此类推。所以要真正达到能够发行电影的阶段，我敢肯定需要更长的时间。看看这个Sacks，我只是想给你看一张图片。

这是输入，是一个山脉的无人机镜头。这就是我想到的。现在如果你在看电视。

八十年代或九十年代在非高清电视上，这看起来与你所见过的任何东西都难以区分。所以，这是一种疯狂的速度。这里也有机会，对吧？免费汉堡。如果我们看看《辛普森一家》这样的节目，它已经播出了三十年，如果年轻的《辛普森一家》观众可以创造他们自己的场景，或者使用AutoGPT，想象一下你告诉辛普森一家稳定的维度实例，阅读新闻中发生的事情，让辛普森一家对它做出回应，让南方公园的角色模仿今天新闻中发生的任何事情，你就可以自动生成《南方公园》的实时剧集，然后发布到某个网站上。

在你继续之前，你看到了Wind Studio的演示。我们可以调出来。真的很酷。是的，请，这是一家使用这种技术的初创公司。它的工作方式是，你用普通的演员拍摄一个真人场景，但随后你可以直接拖放一个动画角色到上面，它会将该场景转换成包含该角色的电影。

就像土星环一样，很多环，对吧？所以就这样。

机器人放置人类之后。哇。你可以想象，这其中的每一部分最终都会被AI取代，对吧？就像你可以告诉AI，给我一张人类离开建筑物的照片，比如纽约的一座维多利亚时代建筑，它当然可以给你一张静态图像。

所以没那么远。然后给你一段视频，对吧？是的，我认为我们非常接近于让业余爱好者使用这些工具制作出相当好看的电影。但同样，我认为要达到完全整合的程度，还需要一个巨大的飞跃。

我要说的其中一点是，我们仍然试图将其与过去人类探索和创作媒体叙事的方式联系起来。非常线性的讲故事方式，你知道，两小时的电影，三十分钟的电视片段，八分钟的YouTube剪辑，三秒钟的Instagram剪辑，等等。

但是，这套工具的一个赋能功能是，这些故事，它们呈现的方式以及个人探索它们的方式，可以相当动态。你可以观看一部讲述相同故事的电影。我们四个人都可以观看一部讲述相同故事的电影，但视角完全不同。

我们中的一些人可以在八十分钟的版本、两小时的版本或三季剧集的版本中观看它，这开启了创作者的潜力，而且不仅仅如此。所以现在我有点改变了之前的说法，之前我说的是，嘿，个人可以制作出糟糕的电影和视频。这将是令人难以置信的。我认为这里还有一个单独的创意产出，那就是……

发生的提升。

对于那些以前可能无法实现的创作者来说。所以也许创作者写一个短篇小说，一个短篇故事。然后这个短篇故事被渲染到一个系统中，可以让每个人都能以不同的方式探索和欣赏它。

而我作为创作者，可以定义这些不同的视角。我作为创作者可以说，这里有一点这种个性，这种角色特征。所以我现在可以做的是，创作出我以前从未想过能创作的东西。

想想老式摄影师用针孔相机拍摄黑白照片。然后他们接触到Photoshop，他们可以做的事情，用Photoshop做的事情，是他们在过去那些日子里无法想象的。我认为未来创作者将会发生的事情，这又回到了我们一两周前谈到的那个家伙，他说，我失业了。

我实际上认为，以新的方式创作新事物的机会正在如此深刻地扩展，以至于个人现在可以创作出整个大学课程，然后可以被数百万人从完全不同的角度、观点和模型中欣赏。它们可以是交互式的，可以是静态的。

它们可以是动态的，可以是个性化的，但你作为创作者现在拥有的工具，你可以选择你想要定义的角色。你可以选择你想要创作的内容。你可以选择你不想让AI为你填充的内容，并说，嘿，在这个村庄里再创作五十个其他角色，然后当观众阅读作品或观看电影时，让他们探索或与这组村民进行不同的互动，在这个村庄里，或者你可以说，嘿，这是每个人都必须见到的一个角色，这是我想让他们说的，你可以定义对话。所以创作者开始利用他们的创造力，为内容和探索创造新的模式的方式，我认为将会如此美丽和令人难以置信。

我的意思是，免费汉堡。

是的，你可以选择你希望个人从你的内容中获得多少乐趣的限制。这就是你希望多精确地定义它。我猜想，那些将获胜的创作者将是那些能够创造更大动态范围和更具创造性产出的创作者。然后个人会更深入地参与其中。然后他们会对静态内容进行更多处理，每个人都会观看相同的内容，因此将会有一个全新的创作者世界，他们可能拥有一套不同的工具，建立在你所说的基础上……

更好的东西。非常有见地。想想围绕詹姆斯·邦德这样的特许经营的两个方面所产生的争议。第一，你最喜欢的邦德是谁？我们从小就喜欢罗杰·摩尔，然后我们发现肖恩·康纳利，然后我们发现蒂莫西·道尔顿，然后你看到皮尔斯·布鲁斯南，你知道，最新的一个，他非常出色，丹尼尔·克雷格，你会说，你知道，这是我最喜欢的。

如果你可以拍摄任何一部电影，给我《雷霆万钧》，把丹尼尔·克雷格放进去，现在它就可以使用了。然后想想下一个争议，那就是，哦，我的上帝，丹尼尔·克雷格。詹姆斯·邦德需要是一个白人吗？

来自英国的家伙，当然不是。你可以周游世界，每个地区都可以让他们的头号明星来扮演主角，并引发争议。

你知道，《吉尔伽美什史诗》，对吧？所以，这个故事是用几十种不同的语言讲述的，它是通过古老的传统讲述的。它就像在篝火旁用口头讲述的。所有这些故事都是用不同的角色、不同的名字和不同的经历来讲述的。有些故事只有十分钟长，有些故事则很长。

我们的传奇故事通过故事来解释，但最终，这个故事的道德、故事情节、这个故事的创造者的意图，圣经是另一个很好的例子，其中圣经中许多潜在的道德和伦理观都通过不同的故事、不同的人、不同的语言来体现。我认为这可能是我们的发展方向，就像我的孩子们想看一个十分钟的彼得·潘故事。好吧，让我给彼得·潘十分钟。

我想为我大女儿做，你知道，一个为期一周的《彼得·潘》章节。现在我可以做到了。所以我消费内容的方式变得不同了。

所以我想说的是，我认为整个内容领域可以通过AI重写，有两个方面。首先是内容的个性化创作，用户可以创作自己喜欢、自己感兴趣的内容。第二，我可以参与创作的内容比我们今天想象的要多方向得多，现在的中心化内容创作者现在拥有一整套工具。从商业模式的角度来看，我认为出版商不再是主角了，但我认为平台将成为主角，而使个人能够做到这一点的平台工具以及使内容创作者能够做到这一点的平台工具绝对是全新的行业和模式，可以创造数千亿美元的成果。

让我来谈谈大卫·萨克斯，因为在海湾地区，尤其是海湾地区，一直有一个梦想，那就是一个英雄来拯救……

这座城市。

这终于实现了。戴夫和萨克斯，我自己做了一个小小的推特AI标签，我对推特AI说，如果可以的话，请生成一张大卫·萨克斯作为蝙蝠侠坠落在金门大桥上的照片，由此产生的创造力是惊人的。你知道，如果我们是在五年前谈论这件事，这将需要……

十美元的艺术家。这些人能够利用平台工具来生成这些令人难以置信的新内容。我认为这说明了未来的机遇，顺便说一句。

你在第一局比赛中，对吧？所以当你把自己想象成蝙蝠侠时，你是否想过你应该拿出你巨大的财富和资源，把它用来建造一个位于你……下面、金门大桥下面的洞穴，这样你就可以去打击犯罪了。所以，萨克斯，你想去金门大桥打击犯罪吗？

我认为CCS公司有很多类似的品质。我认为数十亿美元比英雄更真实。财富中没有多少英雄。

但我们有很多小丑。

是的，是的，这是一个完全不同的主题。

这是一个我们将在某个时候讨论的单独主题……

今天，你们都在谈论所有这些愚蠢的废话，比如有数万亿美元的软件公司，你们谈论的是制作儿童读物和安全图片，这太愚蠢了，没有人关心任何事情，所以你们教人们什么，哪里会发生实际的经济破坏。

令人惊叹的经济破坏……

和机会，你们把所有时间都花在了最愚蠢的……话题上。

这是一个说明性的例子。

不，这是最新的例子……

你在谈论……

Cira……

细胞。

我认为，我认为美国票房大约是每年两万亿美元。我记得当PP的支付额达到每年一千亿美元时。

现在它已经达到了数百亿美元，是美国……

媒体和娱乐产业的规模。七千七百万。好吧，这并不重要。

电子游戏几乎达到了每年五千亿美元。

是的，我的意思是，这数字并不重要。但是让我们看看特里奥的推文。当然，独裁者想在这里发号施令。

所有这些令人难以置信的创新正在发生。一个新的英雄诞生了，Chamath Palihapitiya。一条在推特上疯传的推文，浏览量已经超过120万次，这是给观众的一条读者推文。

如果你发明了一种新药，你需要政府进行审查和批准，FDA在商业化之前。如果你发明了一种新的空中旅行方式，你需要政府进行审查和批准，FAA。我只是要稍微编辑一下。

如果你创造了一种新的安全措施，你需要政府进行审查和批准，ACC。更一般地说，当你创造出具有重大影响（积极的）的东西时，如果政府创建一个层级来审查和批准它，AI将需要这样的监督机构。FDA的审批流程似乎最可靠，并且可以改编成一个框架，以了解模型的行为及其反事实。

我们的政治领导人需要尽早而不是晚些时候站出来，在最终发生重大、可避免的错误之前建立一些监督机制。工程师们已经把瓶子里的精灵放出来了。试试看。

你真的希望政府介入。然后，当人们构建这些工具时，他们必须将其提交给政府批准。这就是你在这里所说的，你希望这能开始。

以下是另一种选择。另一种选择将是第230条修正案的辩论，我们知道这一点。所以，如果你试图写出一部脆弱的法案，或者试图使用旧的法案来处理新事物，它将无法很好地完成工作，因为技术发展得太快了。

所以，如果你看看第230条修正案的例子，我们把自己置于何地？政客们完全有能力通过一个新的框架来处理社交媒体，来处理错误信息。所以现在我们都在猜测一群七八十岁的最高法院法官在试图改写科技法时会怎么做，当他们必须适用第230条修正案时。

所以这条推文的重点是阐述备选方案。没有一个世界会不受监管。所以我认为我们需要问自己的问题是，我们是否想要一个新的机构？FDA就是一个完美的例子，为什么？即使FDA的专员是由总统任命的，这是一个准官方机构，但它仍然与他们聘请的主题专家保持一定的距离。

他们有很多审批途径。有些途径需要几天时间。有些途径需要数月甚至数年。有些途径是针对突破性创新的。有些途径是针对设备的。

所以他们有广泛的方式来仲裁，什么可以商业化，什么不可以。我的预测是，我们将有一部非常糟糕的法案，它不会起作用。这将类似于商务部和联邦贸易委员会试图对某些旧法案进行操纵。

然后会发生的事情是，它会升级到最高法院。我认为他们是最后应该决定这个对社会极其重要的话题的人。所以我一直在倡导我们的领导人，并且我将继续这样做，不要试图将这件事交给现有的机构。

这太重要了。值得创建一个像FDA这样的新组织。并建立一个框架，让你能够审视模型，审视反事实判断，评估其好坏、重要性和破坏性，然后适当地将其发布到现实世界中。否则，我认为这些KS GPT之类的东西将会无限扩展。因为正如弗里德伯格所说，在一个资产中，你谈论的是一个人可以创造这种混乱，而每个人都是一个祖先，每个人都只想播下混乱的种子。我认为这一切都是可以避免的。

我认为规范人们可以编写的软件是一项几乎不可能完成的任务。首先，我认为你可能可以制定一些关于商业的规则和限制，对吧，这当然是可以实现的，呃，就人们如何获利而言。但就编写和使用软件而言，呃，这将与试图监控和要求对人们如何编写和使用基因生物学、呃、探索的工具进行监督和监管一样具有挑战性。

当然，你想把产品推向市场，向人们销售可能影响他们身体的药物。你必须获得批准才能这样做。但就你在实验室里进行的工作而言，这非常困难。

我认为这里的另一个挑战是软件可以在任何地方编写。它可以在任何地方执行。因此，如果美国

试图监管或试图阻止开发美国可以从中获得巨大经济利益和巨大经济利益的工具，那么毫无疑问，其他地方将会取得进展。

而那些市场和那些地方将受益匪浅，正如我们刚才提到的，这里有如此巨大的经济利益可以实现，如果我们不是，如果美国呃，没有领导世界，我们将追随，我们将被颠覆。我们将损失难以置信的价值和人才。因此，任何试图进行监管、减缓速度或告诉人们他们不能做某些事情的尝试，当他们可以轻松地跳上飞机，在其他地方做这件事时，我认为这是危险的。

所以你不同意监管。萨克斯，你支持跳板还是冻结？

我认为就像电脑黑客一样，非法侵入他人的电脑，非法窃取他人的信息。有一些法律是绝对简单明了、不容置疑的。

很多这些通过制作一件沙发就能创造十万个工作岗位。

没错。所以我认为，与其故意限制我们做事的方式，不如故意限制我们想要阻止发生的结果。我们当然可以尝试阻止我们想要发生的结果，并通过法律。并在机构中，管理机构有权监督这些关于窃取数据的相关法律。

但你可以跳上飞机去墨西哥、加拿大或任何你到达X的地方，你去哪里？

关于这一点，是的，我说的是有一些方法可以保护人们。有一些方法可以保护社会，而不是通过使之成为非法的法律来保护社会。做一些事情作为结果。

你对KS GPT有什么看法？解释一下你的例子。

你谈论的是记录。它是一个递归代理，基本上试图自我毁灭。

毁灭人类，是的，但我猜。

首先变得无所不能，毁灭人类，然后自我毁灭。是的，这是一个带有讽刺意味的Auto GPT，但它不是一个带有讽刺意味的Auto GPT，创造它的人。

把它放在那里，说，就像你试图向所有人证明你的观点，这里可能出现什么意图，哪些是消极的。

意图？我认为任何人都认为这与可能对你造成伤害的东西不相等，这非常天真。例如，如果提示是，嘿，这是我们在Windows中发现的一个安全漏洞。

那么你为什么不利用它呢？所以，看，现在黑客必须非常熟练地使用这些Auto GPT。黑客不需要成为技术专家来利用。

这个Windows中的零日漏洞已经进入这个飞机并将其击落。哦，好的，GPT会做到这一点。那么谁会告诉你这些事情是不允许的呢？谁会真正地，vt，不允许将其发布到现实世界中呢？

例如，如果你与亚马逊、谷歌和微软合作，并说你必须在一个沙箱中运行这些东西，我们必须在允许它在现实世界的裸机上运行之前观察输出，那么这似乎是一件合理的事情。人们认为这是一个自由市场，这太天真了。所以我们应该能够随心所欲地做任何事情。这将很快以糟糕的方式结束。当第一架飞机坠毁时，当第一件该死的东西被炸毁时，你们所有人都会喜欢。

对不起，谢谢。chh在这里提供了一个非常有说服力的例子。有人将KG发布到现实世界中。

搜索引擎并说，嘿，电网的漏洞是什么？编译这些并进行一系列攻击，并编写一些代码来探测这些漏洞，直到我们在这个任务中取得成功。每次你改变时，你都会得到一百分和星星。

这是一个很好的例子。但更严重的是，嘿，这是一个试图入侵我们系统的敌人。

所以你需要入侵他们的系统并将其击落，就像你可以很容易地欺骗这些GPT一样，对吧？是的，他们没有判断力。他们没有判断力。正如你所说，他们在达到结果方面是无情的。

对吧？

那么，为什么我们都认为这些事情不会发生呢？我的意思是。

这简直就是科幻小说的例子。你说，嘿，听着，确保没有人患癌症。然后，好吧，确保没有人患癌症的逻辑方法是杀死所有人。所以你认为你在监管什么？你在监管代码吗？对吧？

如果你看看FDA，不，你可以制造任何你想要的化学药物。但如果你想将其商业化，你需要进行一系列试验，这些试验要有高度合格的可衡量的數據，并且你需要像你一样受过训练的专家来评估其可行性。但部分，并且有一些途径可以让你在紧急情况下几天内完成这项工作。

然后有一些途径可能需要数年时间，这取决于手头任务的难度。而我建议的是，进行一定程度的监督并非坏事。在这个快节奏的例子中，我明白你的意思。

但我从战术上问，你在监督什么？你在监督ChatGPT，你在监督模型。

你在做什么。

芯片？

好的。看，我以前在Facebook平台上，我们过去常常创建沙箱。如果你向我们提交，我们会

我们会运行它。我们会观察它。我们会弄清楚它试图做什么，我们会告诉你它允许在孩子面前运行。苹果在你提交应用程序以供审核和批准时也会这样做。谷歌也是如此。在这种情况下，所有裸机提供商，所有提供GPU的人，在我看来，都将被迫由政府实施某些措施。而我建议的是，它应该是一个新型机构，基本上进行观察，拥有博士学位，拥有受过这方面培训的人员，来开发你需要的测试和输出，以确定我是否应该被允许在裸机上运行。

对吧？但你认为模型需要由这个机构审查。而这些模型，如果它们在第三方的服务器上运行，对吧。所以如果计算机t可以在你的计算机上运行。

如果要使用GPT，它实际上会爬取互联网。它实际上会接触其他APS。它试图然后基本上发送一个推送请求，抓住它得到的反馈，传递j，弄清楚它需要做什么。所有这些都是允许的，因为它是由某人发布的，对吧？该代码不是在本地运行的。

但主机变得确定。

如果你想在本地运行它。

你可以做任何你想做的事情。但邪恶的代理会这样做，对吧？所以，AL。

我怎么能用V。

PS，I，I，the，and是开放的开放市场。人们在另一个道路国家。

他们可以对每个人都这样做。我认为你会看到，例如，如果你试图使用VPN并将其从to giga运行到美国，我们不需要数年时间就能弄清楚我们需要IP阻止随机船只从各种by pizer推送拉取请求。我们不再信任他们，因为我们现在不信任他们对从这些IPS运行的代码进行监管。不是美国。

Da sti的立场。

其次，我认为最终如果如果番茄所说的是国会的观点。如果如果tuatha有这个观点，那么国会中肯定会有其他人会采纳这个观点。最终实现这种程度的监管和限制的唯一方法将是限制开放互联网，它将对互联网进行监控，因为你可以在任何服务器上运行一组模型，位于任何物理位置。只要他们能够移动数据包，他们就能学习。

铁的活动。让我仍然意味着你的自由。我认为，是的，你是对的。互联网一直以非常开放的方式存在，但有一些组织和一些地方，例如国家公路交通安全管理局。

如果我仍然匹配max的位置，如果你想制造一辆汽车，你想在你的后院制造一辆，并把它放在你的轨道上，在你的土地上，在某个地方的napper，你不想让汽车有刹车，你不想让汽车有速度限制或安全气囊或安全带，你想在引擎盖上驾驶汽车，你可以这样做。但一旦你想上开放的道路，开放的互联网，你需要获得，你需要提交一些安全标准，如NHT，SA，就像特斯拉或福特必须做的那样。你坐在这个位置上的性行为是，让我们假设人们将使用越来越强大的模型做非常糟糕的事情。

亚马逊今天表示，他们将切换，他们将提供大量的LL，ms和其他模型，这些模型可在彭博社m、Facebook、谷歌barred和当然还有ChatGPT opening I以及所有可访问的东西上使用。你需要对谁可以大规模访问这些强大的工具进行一些监管吗？应该有一些FDA或NHTSI吗？我不认为我们。

知道如何监管。我两个都是。我认为我们推测的危害，我们使AI比它更强大。

我相信它会变得那么强大。但我认为现在谈论监管一些实际上还不存在的东西还为时过早。以chao GPT场景为例，它的发展方式将是，你将拥有Auto gp的未来版本。

T，有人说，好的，所有GPT，我希望你成为，你知道的，WMD AI，并找出如何造成大规模破坏，你知道的，然后这会创建一个计划清单，诸如此类的东西。所以这基本上是我们正在谈论的场景。我们还远没有达到那种程度。

我的意思是，cow GPT有点像个笑话。它不会产生。它不会产生一张支票可以给一个。

举一个实际上完全可笑的例子。

cw GPT清单上的第一件事之一就是遵守法律的界限。我不想。

被起诉，所以这样做的人有一定的良好意图。但我现在可以举一个例子，这可以通过ChatGPT来完成，以便GPT可以摧毁社会的大部分地区，造成巨大的破坏，几乎是重新说它在这里说，嗯，我会说，然后也许我们必须删除它，但如果有人创建了它，他们说找出一种方法来破坏尽可能多有权势的人，人和尽可能多的系统密码，然后进入那里并删除他们所有的文件并关闭尽可能多的系统。ChatGPT和Auto GPT可以很容易地创建钓鱼账户，创建数十亿个网站来创建数百万个登录，让人们登录到它们，获取他们的密码，登录到他们所做的任何事情，然后删除他们账户中的所有内容。而这今天就可以做到。

我知道。

你和平的IT可以。

今天创建。

但你，你在加速进展。

是的，你也可以在钓鱼和其他日子里，是的，就是这样。但我正在几周内加速。你为什么不直接启动银行账户并窃取资金呢？这甚至很简单，人们会做这些事情，因为他们今天正在尝试这样做。

首先，这是一个工具，如果人们以各种方式使用一个工具，你会起诉他们。其次，将这些工具商业化的平台确实有信任和安全团队。过去，信任和安全一直是审查的UFOs m，它不应该这样。

但你知道，我有一个安全团队。他们试图检测人们何时以不当的方式使用他们的技术。他们试图阻止它，你呢？好吧，不是审查制度，但我认为有一些。

可能人们正在使用警察。你是否愿意增加你的或社会的责任来向OpenAI施压，让他们信任并说……

我的意思是，我想看看我们在你想……方面能走多远。

看看错误。你想看看错误在哪里，以及错误有多严重。

我的意思是，现在实施监管还为时过早。我们甚至不知道该监管什么。所以我认为我们必须继续跟踪这一点，以了解它可能如何被滥用，以及行业将如何发展安全防护措施。

好的，然后你可以谈谈监管。你看，你现在就创建一个新的FDA，好吗？首先，虽然我们知道会发生什么，但看看药物审批流程。

一旦FDA介入，速度就会大幅下降。现在，获得药物批准需要数年时间，很多年。是的，但至少对于药物，我们知道黄金标准是什么。

你进行双盲研究，看看它是否有害或是否有益。我们还不知道AI的标准是什么。我们毫无头绪。

你可以做一些……

双盲测试。

在……你让某人审查代码。

你有……

两个实例。

在同一点。

Auto-GPT，它很强大。我的意思是，我的朋友用它来写一本关于葡萄酒品鉴的书。

那么谁来审查这段代码呢？然后推测说，哦，好吧，在99.9%的情况下，它完全没问题，而且很不错。但我可以想象一些人可能会做的事情。你怎么解决这个问题？很简单。

我认为有两种类型的监管你可以同时进行：你可以效仿电影业的做法，即自我监管，并制定自己的评级系统；或者你可以效仿FDA和汽车行业的做法，即外部监管机构。我认为现在是自我监管的时候了，这样我们就可以避免政府不得不进行大规模干预。

但是这些工具今天可以用来制造巨大的麻烦。它们发展的速度是我们从未见过的。每48小时就会出现一些新的东西。

这令人难以置信。以前从未发生过这样的事情。你可以使用这些工具。在Chamath举的一个例子中，她在一瞬间就想到一个主意。

你可以创建钓鱼网站，入侵人们的银行账户，取出所有钱，删除所有文件，并造成大规模的破坏，其规模是以前一系列俄罗斯黑客或中国黑客在“锅炉房”工作所无法比拟的。这可以扩展，这就是根本的区别。我没想到我会坐在这里，为三方的论点进行辩护。

我认为人们不理解复利。这是一个很好的例子，当你开始以24小时或48小时的速度叠加技术时，这是我们从未真正承认过的，大多数人的大脑都会崩溃，他们不明白六个月后会是什么样子。而六个月后，当你以48或72小时的速度叠加时，就像其他技术解决方案中的10到12年。

这是复利，这是……这是不同的，因为复利。

我同意，这场技术革命非常迅速。我们正乘坐一辆高速列车驶向某个地方，我们不知道那是什么。这令人不安。但是，让我告诉你，如果我们创建一个像FDA这样的新的监管机构来监管这个，他们将不知道如何仲裁一项技术是否应该被批准。开发速度基本上会慢到像药物开发一样缓慢。

没有双盲标准。没有双……

现在还没有AI的标准，每个人都能同意，以知道是否应该批准某些东西。而将会发生的是，让软件开发如此神奇并促成过去25年所有创新的东西是无许可创新。任何开发者，任何大学辍学生，都可以创建自己的项目，然后将其变成一家公司。

这就是在过去25年中推动我们经济所有创新和进步的动力。所以，你将用去华盛顿参加一些审批流程来取代无许可创新。而那些与政治有联系的人，那些大捐款人，他们的项目将会获得批准。而下一个试图在他的宿舍里做一个小项目的马克·扎克伯格将不知道如何去做，将不知道如何在高度政治化的过程中竞争。我认为你……

把一堆东西混在一起了。首先，无许可创新今天也在生物技术领域发生，这就是杰森所说的，当你想要把它纳入社会的轨道并让每个人都能使用时，你实际上必须做些什么。这些药物审批中的补贴并不是什么标准化的事情。

你实际上要和FDA坐在一起。你必须决定什么要点，作用机制是什么，我们将如何衡量这个东西的有效性？认为你今天可以在AI中做到这一点是可笑的。

是的，你可以。我认为聪明的人，例如，如果你让DeepMind团队与OpenAI团队对抗，双方都同意一个模型是好的是正确的，我敢打赌他们会找到一种系统化的测试方法。这很好。

我只是想指出这一点。

好的。所以基本上，为了做到你所说的，好吧，对于那些刚大学辍学来做他们项目的年轻人，他们将学习如何与监管机构坐在一起，与他们交谈，经历一些复杂的审批流程。而你试图说的是，这不会变成一场政治……

关系的游戏。

当然会。

当然，这中间有一步，那就是自我监管。

是的。好吧，让我们谈谈这个。等一下，让我们看看药物审批流程。

如果你想创建一家制药公司，你需要筹集数亿美元。这非常昂贵。这是非常资本密集型的。

没有哪家制药公司是由两个在车库里的人创办的。就像许多最大的公司一样。就像许多最大的公司一样，时间很长。

我之所以这么说，是因为你谈论的是服用一种化学或生物化合物，并将其注射到数百或数千人身上，这些人无论是在种族、性别、年龄方面，都在全球范围内进行了高度分层，至少是在全国范围内。大卫，你这里说的不是这个。

我认为你可以有一个更简单、更便宜的方法，你有一个互联网版本在一个巨大的沙盒中运行，这个沙盒与互联网的其他部分隔离开来，另一个互联网版本也与其他所有东西隔离开来。你可以在一个并行路径上运行，就像这个代理一样。在我看来，你可以很容易地弄清楚这个代理是好是坏。

你可能几周内就能做到。所以我认为审批实际上并没有那么复杂。在这里这样做的原因是，我明白这可能会给一些小型公司带来一些摩擦。

但是，如果你考虑一下让最坏的结果发生，AGI类型的结果发生，会产生什么样的社会和后果，我认为这些后果非常糟糕，值得放慢一些人的速度。我认为，仅仅因为你想用100美元买杂货，你应该能够做到这一点。我明白。但是，如果人们没有意识到并联系到让飞机坠毁之间的联系，那是因为他们不明白这东西能够做什么。

我并不是说我们永远不需要监管。我的意思是，现在还为时过早。我们甚至不知道我们在拉什么。

我们不知道标准是什么。而我们通过急于创建新的FDA所做的事情，是在破坏美国在这个领域的创新。而其他国家不会放慢速度。他们会抢在我们前面。

明白了。我认为这里有一条中间道路，即这些大规模提供这些工具的人的自我监管和深思熟虑。举一个例子，这条推特是五分钟前发的。所以看看这个速度，五分钟前这条推特出来了，一个AI开发者说，AI代理继续让我惊叹不已，我的GPT正在访问并学习如何构建具有经过身份验证的用户可以构建设计良好的网络应用程序、创建后端并处理身份验证、日志记录和低代码以启动和部署的应用程序。在我们交谈的时候，他实际上正在部署网站。

现在，如果这个网站是一个钓鱼应用程序，或者Chamath谈到的那个，他可以制作无数个不同版本的美国银行、富国银行、花旗银行，然后找到互联网上的每个人，然后开始发送不同的垃圾邮件，确定哪些垃圾邮件有效，对这些垃圾邮件进行迭代，并制造全球金融崩溃。这听起来很疯狂，但这正在发生。每天都有1%、2%、3%的人被黑客攻击。

税务欺诈现在正在以个位数百分比发生。身份盗窃正在以个位数百分比发生。这项技术发展如此之快，以至于坏人可以相对轻松地做到这一点。

所以，我们中有10%的人想被黑客攻击并遭受信用打击。这可能会造成混乱。我认为自我监管……

是……

解决方案。很好。

不，我同意。

和……

我……

检查点。你说了八分钟。

所以，如果你有什么要说的，你应该在八分钟内说完。

我的天哪，你们领先了。我说的是，这些大型AI公司，这些大型基础模型公司，如OpenAI，都有信任和安全团队。就像我过去说过的那样，信任和安全被误认为是审查制度，这就是人们不信任它的原因。但我认为，这些平台公司应该对如何使用他们的规则施加一些防护措施是合适的。根据我所了解的一切，他们正在这样做。

这个家伙刚刚为政府网站发布了网站，使用ChatGPT。它必须自动完成。

你基本上是在填充尚不存在的功能。我刚刚发推文说这个人正在这样做。

他有一个自己做这件事的视频。你……

认为这与运行一些钓鱼网站，这将摧毁整个银行系统，相差甚远。

实际上是一个钓鱼网站，而且所有这些都是一回事。

很好。我认为这是违法的。如果他入侵电脑，入侵人们的电子邮件和银行账户，那是违法的。

你知道很多人都这样做。所以这种行为违法。这个人可以因这样做而被起诉。

一个人可能用来做这件事的工具可以以很多不同的方式使用，就像你可以使用Microsoft Word伪造信件一样，就像你可以使用Microsoft Excel创建虚假的财务报表一样。我认为，平台技术的应用需要与技术本身区分开来。虽然我们都感到非常害怕，因为这些AI工具提供了令人难以置信的杠杆作用。

再说一次，我要提醒你，根据一些估计，ChatGPT 4或GPT 4模型只有几TB大小，你可以存储在硬盘驱动器上，或者你可以存储在你的iPhone上，然后你可以在任何你可以物理设置的任何服务上运行它。所以，你知道，说我们可以继续前进，你知道，监管平台，我们可以监管工具，这有点天真。当然，我们应该继续打击使用新工具以不当、非法方式行事的恶意行为者。

你知道，我还认为，我们应该观察一下，当事情带走了我们每天都感觉到的控制感时，我们想要多快地关闭这些事情。你知道，对许多拥有大量资产或有大量东西要失去的人来说，这种真正的恐惧感似乎相当普遍，那就是，你知道，你正在完全放弃它，全新的颠覆性商业和经济模式。对许多人的机会需要被监管以减少，你知道，我们声称的一些潜在缺点，而我们已经有法律来保护我们，呃，另一方面。

所以，你知道，我还想考虑一下，这套工具创造了非凡的机会。我们举了一个关于创作者机会的简单例子，但我们谈到了如何用一两个人启动新的商业模式、新的企业。你知道，可以用少数人来构建全新的工具，或者全新的企业。

这是一个令人难以置信的经济机会。再说一次，如果美国试图监管它，如果美国试图介入并阻止模型的普遍应用并普遍监管模型。

你肯定会看到这些模型会继续发展，并继续以非常强大的方式被利用。这将有利于美国以外的地方。地球上有超过180个国家。你们不会一起监管。在全球范围内协调金融系统、协调气候变化、协调任何事情已经够难了，试图协调正在开发的软件模型，我认为这相当不错。

甚至不想有一个全球组织。我认为你需要有一个保护美国的国内组织。

我认为欧洲也会有他们自己的东西，就像FDA对EMA一样。

加拿大也有自己的。日本也有自己的。中国也有自己的。而且它们有很多重叠之处，有很多共同点，以及它们使用的防护规则。我认为这将有助于……

这只会对那些基本上能够获得项目批准的政治内幕人士有利。而且有一些应用程序获得了批准，它们拥有巨大的每日减肥系统，因为创新将完全减缓，但不会建立在自由堡垒点上，那就是我们之后记住人工智能不仅仅会被不法分子使用，它也会被积极分子使用。因此，将会有新的工具，不幸的是，现实会被利用。

如果有人正在大规模创建钓鱼网站，那么执法部门很可能会很容易检测到。所以，让我们不要忘记，将会有为我们的执法部门编写的副驾驶。他们将能够利用它来检测和打击犯罪。

一个很好的例子是在加密货币领域。我们过去一周看到这篇文章，说Chainalysis已经找到了如何追踪比特币交易的方法。现在正在对非法使用比特币的行为进行起诉。

如果你回顾比特币刚起步的时候，有很多关于丝绸之路的讨论。那时比特币唯一的好处就是进行非法交易，勒索和贩毒。因此，我们必须阻止它。

记住，这是主要的论点。而反驳的论点是，比特币就像我们用于好或坏的任何技术一样？然而，将会有技术出现来对抗这些邪恶的非法用例。

果然，像Chainalysis这样的公司出现了，现在已被执法部门用来打击比特币的非法使用。如果有什么不同的话，它极大地清理了比特币社区，我认为它消除了这样一种观念，即比特币唯一用途是进行黑市交易。恰恰相反。

我认为现在用这种方式使用比特币非常愚蠢。它实际上已经变成了……比特币现在成了一种诱饵，因为如果你将其用于非法交易，你的交易记录将永远保存在区块链上。

它正等着Chainalysis找到它。所以，再次强调，非法使用比特币真的很愚蠢。我认为，类似地，你会看到这些大型人工智能平台公司进行自我监管，并结合使用新的工具，新的AI工具将会出现，以帮助打击恶意用途。在我们让这些力量发挥作用之前，我并不是说永远不要监管。我只是说，在我们创建一些甚至不了解其任务是什么的新监管机构之前，我们应该让这些力量发挥作用。

排放量将是……这个故事……

是三个一般的故事，令人难以置信，非常史诗般，花了数年时间。

但基本上，这个人正在丝绸之路下面购买，并将钱存入他的比特币。然后当他提取时，出现了一个错误，给了他两倍的比特币。所以他不断创建更多账户，投入更多资金，获得更多比特币。然后几年后，当局利用链分析之类的东西发现了这一点。

看看詹姆斯·宋在那里。看看，詹姆斯被指控……

拥有一辆兰博基尼、一辆特斯拉、一栋湖边别墅，并且过着美好的生活，直到联邦调查局敲响了他的门，并在他的浴室里的爆米花桶和储物柜里找到了通往财富密码的数字钥匙。

所以他们有……原因，我发布这个的原因是，如果这种声称你可以进行所有这些匿名交易实际上会填满整个市场？因为它看起来这种匿名性已被有效地反向工程，根本没有匿名性。因此，比特币迅速成为的是，就像一个最独特的交易信息诱饵，完全公开可用。我认为这篇文章谈论的是Chainalysis等公司如何多年来，几乎十年来，与执法部门合作绘制所有这些信息。因此，现在每次资金从一个钱包转移到另一个钱包时，他们实际上都知道发送者……

和接收者。我只是想在这里做一个快速的更正。它实际上并不是爆米花。它是奇异口味的爆米花。而且他还有一个电脑主板……

持有……是关键证据，证明这个项目……

实际上是由……或网络引入的，中央情报局参与其中。如果你不知道TOR，它是一个匿名的点对点网络浏览系统，人们认为它是CIA的诱饵，一个故意为罪犯设置的陷阱，让他们陷入其中……正如我们在这里谈论的。这是一场令人惊叹的讨论，我从未想过我会……

我想说一件事，是的，我们看到有人因谋杀……而被捕，大概是在今天早上，事实证明，旧金山警察局的逮捕报告是……他认识的人，也在……

攻击行业中的人，是的。

有可能。但我……我想说两件事。首先，显然，根据这次逮捕和故事的线索，与我们所有人假设的情况大相径庭，那就是某种无家可归的抢劫事件，这在旧金山已经变得司空见惯。

对我来说，这是对两件事的评论。一是我们所有人多么迅速地进行判断和假设，你知道，一个无家可归的抢劫犯会在旧金山这样做，我认为这反映了旧金山目前的状况，也反映了我们的习惯，即我们所有人都不愿意进行这样的对话，也许这个人是被他认识的人谋杀的，因为我们想很快地填补我们自己关于旧金山有多糟糕的叙述，而不仅仅是我在今天早上读到这篇文章时真正感受到的东西。

我当时想，伙计，我甚至没有考虑过这个人是被他认识的人谋杀的可能性，因为我现在被旧金山有多糟糕的叙述所左右。一定还有另一个数据点可以验证我的观点。

所以，你知道，我不能……我想承认……承认我们现在都这样做，但我确实认为它确实不幸地反映了旧金山的情况有多糟糕。因为我们所有人都有这样的经历，感觉自己一直处于危险之中，一直受到威胁。我们在旧金山的许多地方……

我应该说，事情变得非常糟糕的地方。我认为这两件事都是真的，我们可以感到有偏见，并填补我们自己的叙述……我有点跳到我们对某些事情的假设上。但……但这确实告诉我们很多关于旧金山正在发生的事情。

我认为现在是时候让你说明这一点。在这个节目中，我极其谨慎，总是会在有突发新闻时避免做出判断，无论是特朗普案还是杰西·斯莫利特案，或者介于两者之间的任何事情，让我们等待……所有事实，事实上，引用萨克斯的话，我们还不知道确切发生了什么。

对吗？

萨克斯一开始就是这样说的。我们在这个节目中每次都这样做。当有突发新闻时，我们知道要避免做出判断。但你也可以知道，两件事可能是真的，容忍是必要的。

但我……我一……

听到这个消息，我就……我采取了行动。这是一个很好的……

断言，假设。听着，你做出了这个假设……

为了保护你自己。

我们有所有这些记者，他们基本上是宣传机器，试图淡化旧金山的情况。他们今天早上都在向我寻求评论，发送电子邮件，试图……我们，因为我们基本上以这种方式谈论了鲍勃·李的案件。听着，我们说我们不知道发生了什么。

但如果我们必须下注，至少我说的是，我赌这个案子看起来很像钢琴男案，这是合乎逻辑的，而不是条件反射或偏见，而是逻辑。你需要看看那周还发生了什么。好的。

所以……就在……鲍勃·李被杀害的那一周，对我来说，还有三个其他例子发生在哥谭市，也就是旧金山。首先，前消防局长唐·哈蒙尼被一群无家可归的瘾君子用……在码头区殴打，其中一人接受了采访，谈论了发生的事情。

唐从他母亲的房子下来，告诉他们离开他母亲的门廊，因为他们妨碍了她进出公寓。他们认为这是不尊重，于是他们用轮胎或金属管殴打了他。参与其中的一名无家可归者承认了这一点，是的，播放视频。

有人……像那样……袭击……

他是不尊重的。我们……

是谁做的？

做的。所以他是不尊重的，但这足以殴打他吗？

上帝，我的意思是……

所以这是案例编号……显然，对那个人的报道……他的采访。他在码头区，有点恐吓人们，也许不是身体上的，而是言语上的。

所以你有……一群无家可归的人在人们的房子前面扎营，唐下来……被殴打……受伤。然后是市场街上的Whole Foods商店关闭。这不是像我们看到的其他商店关闭那样，是由于偷窃造成的。

他们说他们关闭商店是因为他们无法保护员工。浴室里装满了针头和管子，是吸毒者的天堂。你看到吸毒者……

他们正在使用它。他们与商店员工发生冲突，Whole Foods不得不关闭商店，因为他们无法保护员工。第三个例子，主管委员会不得不推迟他们自己的会议，因为他们的互联网连接被破坏了。

提供他们互联网的电缆光纤连接被破坏了。他们的会议主持人宣布了这一点。你看到对此的回应，是的，我……当它在网上疯传时，很多人说，我经营着一家小企业。

光纤、铜线，无论是什么，都被破坏了。在很多情况下，我认为这基本上是吸毒者，偷走他们能偷走的一切。他们偷走价值10美元的铜线，卖掉它来吸毒，这会导致4万美元……

的财产损失。这是旧金山的疯狂之处，当发生暴力事件时，正确的回应是……嘿，我们需要让这个地方不那么暴力。

有没有可能这些人互相认识？当然，在任何发生的犯罪中，这都是固有的，需要时间来调查。但实际上，媒体现在正在利用这一点来说，旧金山没有犯罪，他们表现得像……

我刚在播客期间收到《纽约时报》的电子邮件，他们从《纪事报》那里得到了消息……《纪事报》在鲍勃·李被杀害之后，似乎是一场私人纠纷。她仍然不知道，对吧？我们没有所有的事实，另一个科技领导者。你认为科技界是否草率地下结论？为什么这么多科技领导者将旧金山描绘成……这个家伙……一个破坏者……与现实脱节，现实是……更细致入微的东西……

是的。

我的意思是，当然，现实是细致入微的。当然，这是一个复杂的局面。走在大街上也是如此。

我可以提出你的理论吗？

我认为……

这是最明显地体现在伊朗如何拆除……处理BBC记者的方式。

哦，我的上帝，那太有成效了。

这是一个小型显微镜。我认为媒体是……所以我过去认为媒体有自己的议程。我现在实际上认为他们没有特别的议程，除了要保持相关性，因为他们认为赢得相关性……

所以，我认为，每当有一堆文章将公众舆论导向某种叙事时，他们突然都非常专注于反驳这种叙事。即使这意味着他们必须……他们会这样做，对吧？所以，你知道，我认为几个月来，我认为人们已经看到Twitter上的讨论质量越来越好。

每个人都在用机器人做很多事情，清理它。这个人必须试图建立反叙事，并且愿意为了做到这一点而撒谎。然后他被拆穿了。

你们，我没有太多要说的，只是推断。我认为我对这个话题保持相对沉默。但你们是居民……

和前任居民，我认为，对这座城市的质量有既得利益。你们一直非常直言不讳，但我认为你们并不是唯一的人。米歇尔·坦德勒……在我们的Shelburne……有一群聪明、有思想的人一直在敲响这个警钟。

杰里·滕。所以现在我认为记者不想写一篇以旧金山为主题的正面文章，所以他们必须站在另一边。所以现在你会……提出反叙事，他们可能会歪曲事实，并进行重新导向以做到这一点。

所以我认为你看到的是，他们最初会讲述一个关于……的故事，然后真相太多了。他们会转向另一边，因为这是获得点击量和被关注的唯一途径。所以我认为这就是你们现在参与的一部分。

他们从事的是保护叙事的工作。但我确实认为叙事中存在巨大的意识形态成分，无论是在马斯克的案例中，他们试图声称推特上的仇恨言论大幅增加。他们之所以这么说，是因为他们希望推特进行更多审查。

这就是这里的病因议程。这个议程是这个激进的议程，亲爱的默化。他们实际上相信应该让越来越多的人出狱。

因此，他们有动机否认犯罪的存在。服务器运行，犯罪率上升，服务下降。如果你让大多数人在服务公司工作，绝大多数服务公司。

相信犯罪正在上升，因为他们能听到它。我想说的是，我认为存在一种活动金字塔，一种犯罪或反社会行为的金字塔，服务下降，我们都能看到。基础层面是，你在街上有一层混乱，那里有公开的毒品市场，人们吸毒。

有时你会看到，你知道，有人做一些令人作呕的事情，比如在大街上排便，甚至更糟。然后是更高一层，他们追赶你或骚扰你的人。我经历过这样的事情，然后是更高一层，那里是小偷小摸，你的车被砸了之类的。

然后是更高一层，你被抢劫了。最后，金字塔的顶端是发生了谋杀案。确实，大多数时候，事情不会一直发展到金字塔的顶端，也就是有人被谋杀，好吧，但这并不意味着下面没有一个巨大的基础，基本上是生活质量问题。

我认为这个术语“生活质量”最初被用作某种方式来淡化正在发生的行为，说它们并不是真正的犯罪，我们不应该担心它们。但如果有什么不同的话，你在旧金山看到的是，当你忽视生活质量犯罪时，你实际上会看到生活质量的巨大下降。而生活在这些城市就像什么样，生活质量是真实的，这就是问题所在。我认为你现在试图做的是说，因为可能并非如此，我们认为整个金字塔不存在。

我们都能体验到，我的上帝。

而且是不真诚的。我们能够看到、听到、感受到并每天体验到的那个金字塔的存在，这就是我们愿意下注的原因。我们称之为关于鲍勃·李案就像布莱恩·库珀案的赌注。

并附带免责声明，附带免责声明。我们总是会附带免责声明。只是为了乔治·哈姆，《金融时报》的记者，他详细地问我，

最近有很多公众关注的问题是，旧金山的现状是否对美国顶级商业和科技公司构成风险。显然，在疫情之后。

我想知道你是否有时间谈谈这个问题，以及旧金山负面印象是否会损害其未来对创业公司创始人的声誉。所以基本上，结尾说，显然有很多歇斯底里的潜力，而这次谈话渴望避免这种情况。就像，你走过街吗？我问他们，你走过街吗？

给出最好的回应。给他发信息说，旧金山可用的办公空间数量在下降，公司正在用脚投票。所以，如果生活质量不是那么糟糕，他们就会留下。

这就是煤气灯的本质，他们所做的是，那些实际上创造了这种情况的人，服务下降，他们的政策，他们取消警务的政策，使警察更难完成他们的工作，将低于950美元的盗窃行为非刑事化，允许公开的毒品市场。现在创造了这种政策矩阵的人创造了这种情况。

他们接下来会转过身来说，你知道，创造问题的人是那些观察到这一点的人。我们所做的只是观察和抱怨它。他们试图做的是说，好吧，不，你正在贬低旧金山。

我们不是造成问题的人。我们正在观察它。就在本周，另一个数据点是市长办公室表示，他们缺少500多名警官，服务下降。

没有人会成为这里的警官。你疯了吗？

好吧，就在本周还有一篇文章，关于有很多猜测。谣言四起，关于警官的非正式罢工，那些通常在警队工作的警官，他们厌倦了冒着生命危险。然后，你知道，他们基本上冒着与无家可归者发生肢体冲突的风险。他们抓到一个人，然后他们又被释放了。

所以很多人辞职，离开这份工作，就像这种习得性无助一样，因为为什么要冒险呢？然后警察委员会似乎并没有支持你，似乎只有当你起诉的时候，你才有检察官，而不是这些惯犯。看，看。

《纽约时报》的Motherboard刚刚给我发邮件，然后你们有没有说，监事会没有解决这些问题，而是处理了一个疯狂的父母？

那是什么组织？

那个被暂停的会议？

他们已经，或者是的，他们已经安排了会议，投票决定野兔是否成为旧金山的官方动物，所以这就是被暂停的会议。

也联系我。我只是想澄清一下，在一次采访中，一位BBC记者采访了马斯克，并说推特上的信息流中存在更多的种族主义和仇恨言论。

他说，你能举个例子吗？他说，好吧，我没有例子，但人们这么说，他说，哪些人这么说？BBC记者说，好吧，只是不同的人群这么说，你知道，我当然看到过，好吧，你看到了，他说，不，我不再看信息流了，他说，所以。给我举一个你在信息流中看到的仇恨言论的例子。现在，我们不谈论任何内幕消息，我没有多少内幕消息，他们一直在有意识地从像信息流这样的地方删除仇恨言论。

当你有一个开放的平台时，这是一个非常复杂的问题。但人们可能会说一句话，但这不会传到很多人那里。所以，如果你要说一些非常好的话，不需要天才就能阻止它，而且不会让理查德·布兰森这样的人看到。这位记者不断坚持认为，这在没有事实依据的情况下正在上升，其他人这么说，然后他说，但我没有看信息流，他说，所以你告诉我，你看到的仇恨言论更多了，但你刚刚承认你三个月没看过信息流了，这就像一件完全……

奇怪的事情，我刚刚……母亲。

这就是说，如果你是记者，就把它一分为二，准备好，然后开始采取立场。无论哪种方式。

我想连接一个点，那就是他编造了自己的叙事，即使数据并不一定存在，就像，你知道，我们对旧金山的叙事感觉一样。婴儿谋杀案是另一个例子，我们为此添加了一个……

免责声明。

我们第二，我们说我们知道，我们不知道，此外，我们本周正在非常努力地纠正记录，并解释我们现在知道的内容，报道它……

到目前为止。说实话，这只是诚实。诚实。

软件弗里德伯格正在被所有这些人加油。

有人站起来吗？我认为，伙计们，完全，我完全没有数据。顺便说一句，当你是记者时，你应该报道……

数据和证据。所以他当然……故事，是的，这就是唐……唐碰巧活了下来。

伙计们，我爱你们。

我从我的……关于旧金山未来的讨论很多，而这起死亡事件很快就被政治化了。你所看到的有什么分歧或分歧吗？或者情况并非如此？

价格是正确的。

现在你就像，哦，我的上帝，就像右派对米利特法官被打或自己设置……对，每个人都为科学苏丹欢呼，他目前正在海滩上进行实验，看看他可以用……SPF 200，在遮阳伞下，穿着防晒衫和裤子。

弗里德伯格在海滩上也是一样。只有两次太空行走。

嘿，稳定扩散，给我一张图片。戴维·弗里德伯格，穿着全身防晒服，所以全身都涂满了SPF 200，在三个遮阳伞下……

在周日的海滩上。

为独裁者特里波利而分裂，绝望，创造规则和规则……

监管者。你可以分辨出常客。

拉图尔，今晚我们会吃我们的果园。剩下的？

四强……

或五个现存的果园，雨人本人，诺玛甚至没有……

在诗句上运行更多哈。我认为你……

应该问问AutoGPT，你怎么才能吃更多濒危动物，制定一个计划给你？是的。

然后没有去杀死世界上那些动物，在暗网上发布一些东西去杀死剩下的犀牛，然后把它们带到混乱之家吃烤肉之夜。

我不吃老鼠或尝起来不好的东西，不像……

问题电影。它是，哦。

你们看到可口可乐桶了吗？

这是一部马特·达蒙和马克·沃尔伯格的电影，对吧，他们在……

对《教父》的模仿……

是《新鲜王子》吗？这就像一个吃濒危动物的阴谋，《新鲜王子》于1990年上映，马克·沃尔伯格和马特·达蒙一起拍的，还有我的布鲁诺·科比。他们实际上……

那是唯一的事情……

实际上，他们在吃濒危动物。

你认为他也不会好吗？萨克斯，我知道，热力。你最喜欢的电影之一。

我也是，太棒了，是什么类型的……你要做什么。

《热力追击》的小说已经出版了……

亚当的小说。

是的，他……

令人惊叹的，转移到……最好的银行……

抢劫/……

电影史上最精彩的枪战。

你知道这简直是史上最好的电影，就像《小丑》一样，《落水狗》、《小丑》和蝙蝠侠电影，他抢劫了……

我的意思是……

我爱你们，伙计们，我爱你们，在第124集之后，如果你想加入家庭，拜拜，我的背。雨人给……

它我们……

开源给……

粉丝和……

疯狂。

所有。

性。

注意释放那里。