The AGI Company of the Future
20:11 Share

NLW审视了最近对真正AGI公司面貌的预测。我们是否低估了潜在颠覆的规模？灵感来自：https://www.dwarkesh.com/p/ai-firm有兴趣赞助节目吗？[email protected]获取无广告AI每日简报：⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://patreon.com/AIDailyBrief⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠由以下机构提供：毕马威——访问 ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠ https://kpmg.com/ai⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠了解更多关于毕马威如何帮助您利用我们的AI解决方案创造价值的信息。Blitzy.com - 访问 ⁠https://blitzy.com/⁠ 在几天而不是几个月内构建企业软件。来自Superintelligent的代理准备情况审核——访问 ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://besuper.ai/ ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠申请贵公司的代理准备情况评分。AI每日简报帮助您了解AI领域最重要的新闻和讨论。订阅播客版本的AI每日简报，无论您在哪里收听：https://pod.link/1680633614订阅时事通讯：https://aidailybrief.beehiiv.com/加入我们的Discord：https://bit.ly/aibreakdown </context> <raw_text>0 今天，我们将探讨对未来AGI世界中公司面貌的预测。AI每日简报是一个关于AI领域最重要新闻和讨论的每日播客和视频。要加入讨论，请关注我们节目说明中的Discord链接。♪

大家好，欢迎回到AI每日简报的长篇阅读节目。今天，我们将关注一篇我不知何故错过的精彩文章，它来自Dwarkesh的Dwarkesh播客，发表于一月份。这篇文章名为《全自动公司将是什么样子》。文章描述是：每个人都低估了AI的集体优势，而这些优势与原始智商无关。它们可以被复制、提炼、合并、扩展和进化，这是人类根本无法做到的。因此，我喜欢这篇文章的原因，简单来说，就是它非常、非常

它对于人们来说，要真正想象并推断出指数级发展的未来是极其困难的。这篇文章试图在商业的背景下做到这一点。虽然我相信，当你听到我，或者在这种情况下，我的11 Labs克隆朗读这篇文章时，你不会频频点头表示同意，因为其中有很多是推测。你可能对事物如何发展会有不同的想法。

但至少它为对话创造了一个语境，并提供了一些方法，可以从那里倒推到现在，以了解我们现在可能希望如何发展事物。因此，我将再次把这篇文章交给我的11 Labs AI语音化身，然后我会回来讨论它。

即使是那些期待很快出现人类水平AI的人，也严重低估了当我们拥有它时世界将会有多不同。大多数人关注的是他们期望单个模型有多聪明。也就是说，他们在问自己，如果每个人都有一个非常聪明的助手可以全天候工作，世界会是什么样子？每个人都低估了AI将拥有的集体优势，这些优势与原始智商无关，而是与它们是数字化的这一事实有关。它们可以被复制、提炼、合并、同步、

扩展和进化，这是人类根本无法做到的。一个完全自动化的公司，所有员工，所有管理人员都是AI，会是什么样子？我认为，这样的AI公司将以前所未有的速度增长、协调、改进和被选择。这篇文章并不是对GPT-5将做什么的预测，也不是对现有人的模拟。相反，我试图想象当我们真正拥有AGI时世界会是什么样子。

那些已经变得如此优秀，能够基本上完成任何人类能够完成的任何事情的LLM的后代。目前，公司在招聘和培训人才方面受到了极大的限制，但如果你的员工是AI，你可以将其复制无数次。如果谷歌有一百万名AI软件工程师会怎样？不是未经训练的无定形工人，而是Jeff Dean和Noam Shazier的AGI等价物，拥有他们所有的技能、判断力和隐性知识。这种将资本转化为计算能力，

并将计算能力转化为顶级人才等价物的能力是一场根本性的变革。由于你可以将培训成本分摊到数千个副本中，因此你可以合理地为这些AI提供更深层次的专业知识。每个相关领域的博士学位、数十年的商业案例研究、对公司依赖的每个系统和代码库的深入了解。复制的力量不仅限于个人，还扩展到整个团队。

小型、先前成功的团队，想想PayPal黑帮、早期的SpaceX、交易员8人组，可以被复制来同时处理一千个不同的项目。这不仅仅是复制明星个人，而是复制已知能够很好地协同工作的互补技能的完整配置。复制的单位变成了任何已被证明最有效的才能集合。复制将比劳动力更彻底地改变管理。它将实现一种微观管理水平，使创始人模式显得古朴。

人类Sundar根本没有带宽直接监督20万名员工、数百种产品和数百万客户。但AI Sundar的带宽仅受你提供给他运行的TPU数量的限制。谷歌的所有3万名中层管理人员都可以被AI Sundar的副本取代。AI Sundar的副本可以制定每个产品策略、审查每个拉取请求、回复每条客户服务信息并处理所有谈判，所有这些都源于一个单一的连贯愿景。

不存在代理问题，即员工并非为了谷歌的底线而优化，或者根本缺乏做出判断所需的判断力来决定什么最重要。像谷歌这样规模的公司可以更像是一个人的产品，一个论点的表达，而不是现在这样。章节合并

想想看，CEO今天的知识是多么有限。Sundar Pichai对谷歌庞大帝国中发生的事情到底了解多少？他得到的是经过筛选的报告和仪表板，参加重要的会议，阅读战略摘要。但他不可能完全理解每个产品发布、每次客户互动、数百个团队做出的每个技术决策的全部背景。他对谷歌的心理模型必然是不完整的。

现在想象一下Megasundar，这将指导我们未来AI公司的中央AI。正如特斯拉的完全自动驾驶模型可以从数百万驾驶员的驾驶记录中学习一样，Megasundar可以从所有由提炼的Sundar看到的知识中学习。每一次客户对话、每一次工程决策、每一次市场反应。与特斯拉的FSD不同，这不必是一个简单的梯度更新和平均过程。

Mega Sundar将通过明确的摘要、共享的潜在表示，甚至对权重进行外科手术修改以编码特定见解，从而更有效地吸收知识。不同AI实例之间的界限开始模糊。Mega Sundar将不断产生专门的提炼副本，并重新吸收他们在自己身上学到的东西。模型将通过潜在表示直接进行通信，类似于GPT-4等神经网络中数百个不同层已经交互的方式。

因此，几乎不会再出现任何误解。MegaSundar及其专门副本之间的关系将反映我们已经在诸如推测解码之类的技术中看到的情况，其中较小的模型进行初始预测，而较大的模型则验证和改进这些预测。合并将成为组织如何积累和应用知识的重大变化。

人类的巨大优势是社会学习，我们能够将知识代代相传并在此基础上进行构建。但人类的社会学习有一个可怕的缺陷。生物大脑不允许信息被复制粘贴，因此你需要花费数年，在许多情况下是数十年时间来教人们完成工作所需掌握的知识。看看各个领域的顶级人才年龄越来越大，这可能是因为达到积累知识的前沿需要更长的时间。

或者考虑一下，人才在城市和顶级公司中的聚集是如何产生如此巨大的效益的，这仅仅是因为它能够在聪明人之间实现略微更好的知识流动。未来的AI公司将通过两大优势来加速这种文化进化：庞大的人口规模和完美的知识转移。拥有数百万个AGI，自动化公司将获得更多机会来产生创新和改进，无论是来自幸运的错误、有意的实验、从头开始的发明，还是某种组合。

正如约瑟夫·亨里奇在《世界上最奇怪的人》一书中解释的那样，“……累积的文化进化，包括创新，从根本上来说是一个社会和文化过程，它将社会变成了集体大脑。人类社会的创新能力各不相同，这在很大程度上是由于信息在参与者群体和几代人之间传播的流畅性差异造成的。”

追溯到数千年前的历史数据表明，人口规模是你的社会产生更多想法速度的关键因素。AI公司的人口规模将比当今最大的公司大几个数量级。而且每个AI都能够与其他AI完美地心灵感应，从组织结构的底层到顶层。从外部来看，AI公司看起来像是一个统一的智能，能够立即在整个组织中传播思想，同时保留其完整性和上下文。

来自数百万个副本的每一比特隐性知识都得到了完美的保存、共享和充分考虑。今天的节目由Super Intelligent赞助，更具体地说，是Super的代理准备情况审核。如果你已经收听了一段时间，你可能已经听我说过这个了，但基本上，代理准备情况审核的想法是，这是一个我们创建的系统，可以帮助你对机会进行基准测试和规划

在你的组织中，代理可以具体帮助你解决问题，创造新的机会，这种方式再次完全为你量身定制。当你进行这些审核时，你将进行一次基于语音的代理访谈，我们将与你的一些领导和员工合作，以

绘制组织内部的情况，并找出你在代理旅程中的位置。这将产生一个代理准备情况评分，其中包含一组深入的解释、优势、劣势、关键发现，当然还有一组非常具体的建议，然后我们可以帮助你找到合适的合作伙伴来实际履行这些建议。因此，如果你正在寻找一种启动你的代理策略的方法，请发送电子邮件至[email protected]，让我们把你连接到代理时代。

今天的节目由Blitzy赞助，Blitzy是一个具有无限代码上下文的企业自主软件开发平台，如果你还不确切知道这意味着什么，别担心，我们将解释一下，而且它很棒。因此，Blitzy与你最喜欢的编码副驾驶一起用作你的企业批量软件开发平台，它适用于那些寻求在大型代码库上实现显著开发加速的人。传统的副驾驶可以帮助开发人员完成逐行完成和代码片段，

但Blitze在IDE之前工作，首先记录你的整个代码库，然后部署超过3000个并行工作的协调AI代理，为大型软件项目批量构建数百万行高质量代码。因此，无论是代码库重构、现代化还是产品路线图的批量开发，Blitze的整体目标都是为企业提供显著的速度改进。

简单来说，对于最终提供给人类工程团队的每一行代码，Blitzy都会编写数百次，使用不同的代理验证输出，以便为企业批量提供最高质量的代码。然后，通常需要数十名开发人员工作数月的项目现在可以用少得多的团队在几周内完成，使组织能够显著缩短开发周期，并将产品更快地推向市场。

如果你的企业希望加速软件开发，无论是大型现代化、重构，还是仅仅提高STLC的速率，请联系Blitzy，网址为blitzy.com（B-L-I-T-Z-Y.com），预订自定义演示，或者直接点击“开始使用”即可立即开始使用该产品。章节规模让AI承担特定角色的成本将仅为AI消耗的计算量。这将改变我们对哪些角色稀缺的理解。

未来的AI公司不会受到人类技能分布中稀缺或丰富的因素的限制。他们可以优化任何最有价值的能力。想要Jeff Dean级别的工程人才？没问题！一旦你拥有一个，边际复制成本只有几美分。需要一千名世界一流的研究人员？只需启动它们即可。限制因素不是寻找或培训稀有人才，而是计算能力。

那么在这个世界中什么变得昂贵呢？那些需要大量测试时间计算的角色。CEO职能也许是最明显的例子。

谷歌每年花费1000亿美元用于Mega Sundar的推理计算是否值得？当然。只需考虑一下这能为你带来什么。数百万个主观小时的战略规划、不同五年轨迹的蒙特卡洛模拟、对每一行代码和技术系统的深入分析以及详尽的场景规划。想象一下Mega Sundar在思考：如果我们收购eBay来挑战亚马逊，FTC会如何回应？让我模拟未来三年的市场动态。

啊，我看到了可能的结果。我的数据中心时间还剩五分钟。让我评估1000种替代策略。决策越有价值，你就会想投入更多的计算能力。Mega Sundar的一个战略见解可能价值数十亿美元。一个被忽视的风险可能会造成数百亿美元的损失。谷歌应该为Mega Sundar的推理投入多少数十亿美元，这肯定不止一笔。蒸馏。

AI Sundar或AI Jeff的提炼副本可能是什么样的？显然，让他们高度专业化是有意义的，尤其是在你可以分摊该领域的成本时。所有副本中的特定知识。例如，你可以让每个提炼的数据中心运营商深入了解集群中每个组件的技术细节。我怀疑你会看到很多功能、隐性知识和复杂技能的专业化，因为就参数数量而言，维持这些技能似乎很昂贵。

但我认为不同的模型可能比你想象的共享更多的事实知识。诚然，水管工GPT不需要了解物理学中的标准模型，物理学家GPT也不需要知道排水管为什么漏水。但存储原始信息的成本如此之低，而且还在不断下降，LAMA7B已经比任何非专家更了解标准模型和漏水的排水管。如果人类水平的智力超过1万亿个参数，

保留在极限情况下远小于70亿个参数以使大多数已知事实都包含在你的模型中，这算不算是一种强加？另一个有用的数据点是，良好且精选的Wikitext不到5兆字节。我不明白为什么除了深奥的模型（数字等价于缓步动物）之外，所有未来的模型为什么至少不会掌握Wikitext。章节。进化。

AI公司和人类公司之间最根本的区别在于它们的进化能力。正如Gwern Branwen所观察到的那样，为什么我们没有看到杰出的公司克隆自己并接管所有细分市场？为什么公司不会进化，以至于所有公司或企业现在都是50年前某个早期公司的效率极高的后代，所有其他公司都在破产或被收购中灭绝？为什么公司很难保持其文化完整性？

并保持其年轻精干的效率，或者如果避免衰老是不可能的，为什么不克隆自己或以其他方式进行复制以创建像自己一样的新的公司？他的答案是：公司当然会根据各种适应性进行选择，并且确实差异很大。问题似乎在于公司无法复制自己。公司是由人组成的，而不是可互换的。

易于复制的小部件或DNA链。公司甚至可能无法随着时间的推移复制自己，从而导致僵化和衰老。目前存在的人类公司与全自动公司之间的差异规模将类似于原核生物和真核生物之间复杂性的差距。原核生物，如细菌，不仅非常简单，而且在其30亿年的历史中几乎没有变化，而真核生物则迅速增加了复杂性

并产生了所有其他令人惊叹的有机体，数万亿个细胞紧密合作。这种进化能力也是AI公司和人类公司之间的关键区别。正如Guern指出的那样，人类公司根本无法有效地复制自己。它们是由人组成的，而不是可以复制的代码。他们无法克隆他们的文化、他们的机构知识或他们的卓越运营。

AI公司可以做到。如果你认为人类埃隆·马斯克在创建硬件公司方面特别有天赋，你根本无法创造100个埃隆·马斯克，让他们每个人都承担不同的垂直领域，并给他们每个人1亿美元的种子资金。无论埃隆·马斯克可能是多么微观的管理者，他仍然受到他单一人类形态的限制。但AI埃隆·马斯克可以拥有自己的副本，设计电池，担任经销商的汽车修理工，等等。

如果埃隆·马斯克不是这项工作的最佳人选，那么最合适的人也可以被复制，以创建新后代组织的模板。章节。接管。

那么问题就变成了，如果你可以为任何你需要的任务创建米西克斯先生，为什么你还要为另一家公司支付溢价，而你可以自己内部复制它们呢？为什么还会存在其他公司？能够想出如何自动化一切的第一家公司是否会形成一个垄断整个经济的企业集团？

罗纳德·科斯的公司理论告诉我们，公司存在是为了降低交易成本，这样你就不必每天早上在自由市场上重新雇用所有员工并租用新的办公室。他的理论指出，公司内部的交易成本越低，公司规模就越大。

500年前，在数千人以及数十个办事处之间协调知识工作实际上是不可能的。因此，你不会得到非常大的公司。现在你可以启动一个任意大的Slack频道或人力资源数据库，因此公司可以变得更大。AI公司将使交易成本相对于人类公司大幅降低。对于沟通效率而言，向你的精确副本发送无损潜在表示很难被击败。因此，公司可能会比现在大得多。

但这并不一定意味着这将以一家吞噬整个经济的巨型公司告终。正如Guern在他的文章中解释的那样，任何内部规划系统都需要以某种外部损失函数为基础，这是一个成功的客观衡量标准。在市场经济中，这来自利润和亏损。从短期来看，内部规划可能比市场竞争效率更高，但它需要受到某种更慢但更无偏见的外部反馈循环的约束。

一家规模过大的公司可能会面临其内部优化与市场现实背道而驰的风险。也就是说，随着AI系统的改进，这种平衡可能会发生变化。随着公司变得越来越像软件，成功组件的完美复制和更快的反馈循环，我们可能会看到比以前更大的、更高效的公司。市场继续作为基础的外部循环。

公司如何将每天来自客户、市场、新闻等的数万亿个数据标记转换为未来的计划、新产品等等？

董事会是否以政治局的方式做出所有决策，并使用100亿美元的推理来对不同的年度计划运行蒙特卡洛树搜索？或者你是否对不同的部门运行某种进化过程，根据它们的绩效给予它们更多资本和计算劳动力？这些都是我们今天所说的文化。市场促进了一个进化过程，它不仅选择商品和服务，还选择最擅长将世界转化为有价值的商品和服务的机构。

我认为这种情况会持续下去。

好了，回到现实中的NLW。所有这一切的一个重要问题将是人为摩擦。人为摩擦将持续存在，并将改变AI进化的性质。例如，文章中阐述的大量进化可能会因监管而减慢速度。我之前说过，而且我仍然认为，我们可能会看到政府为了让人们就业而提供的激励措施，这将让人们对他们如何设计组织有不同的看法。

其次，人为摩擦将是价值优先级。再次强调，这种情况存在于纯粹的资本主义模式中，效率和供应成本以及所有这些事情都是唯一重要的价值。但这不是我们生活的这个世界。即使是最纯粹的资本主义制度也具有来自其他类型价值体系的其他类型价值，这些价值相互作用和竞争。我认为未来我们会看到更多这样的情况。

最后，还有处理和服务人类客户的人为摩擦。最终，即使是完全由AI组成的公司也必须处理具有所有缺点和不规则性的人。我认为这将影响这一切的结果。然而，我仍然认为我们可以从这里倒推一些非常有趣的事情。

例如，我们将管理数万名代理或数字员工的团队这一想法，我之前已经讨论过很多次了。而且我确实认为，即使人类仍然参与其中，可以复制、提炼、合并、扩展和进化的AI的几乎所有这些概念的部分内容都将发挥作用。

总的来说，这是一篇非常有趣的文章。我真的很感谢Dwarkesh分享它。如果你还没有，请查看Dwarkesh播客。它基本上是思想者的乔·罗根，拥有更深入的研究烤面包和对AI的关注。不过，就目前而言，这就是今天的AI每日简报的全部内容。一如既往，感谢您的收听。直到下次，再见。