Should AI Be Open-Sourced? The Debate That Will Shape Everything w/ Mark Surman | EP #136
01:02:56 Share

对于那些没有真正理解开源概念的人来说，开源意味着什么？你今天使用的许多东西，无论是谷歌、亚马逊、Meta，还是一些初创公司、某个古怪的艺术家，甚至是你表哥做的，

在大多数情况下，其背后都有一堆开源代码。人们构建开源代码的动机是什么？神话般的早期开源动机是“解决自己的痒点”。我正在使用一个软件，它不能满足我的需求，所以我将修改它，或者我将构建一些东西，就像我是一个书呆子一样，我会构建我想要的东西并与其他书呆子分享。

我认为这仍然是其中一部分。你相信我们真的拥有隐私吗？哦，这是一个非常棘手的问题。我们现在正在努力解决什么是隐私。我们认为隐私的含义必须不断发展。

欢迎来到Moonshots。今天我们将与Mozilla基金会主席Mark Sermon讨论开源运动。作为主席，他领导着推动更开放、更公平、更值得信赖的互联网的努力，重点是推进道德AI。这意味着什么？开源意味着什么？这就是我们的谈话内容。

我们将深入探讨他们刚刚发布的一篇名为《公共AI，让AI为每个人服务》的论文。我会在节目说明中添加链接。他还最近发表了一篇关于值得信赖的AI的论文。我也会把那篇论文的链接放在节目说明中。

所以，如果你想知道开源意味着什么，如果你想知道它将如何影响AI，Llama是否真正开源？来和我一起深入探讨吧。好了，让我们开始与Mark的对话。如果你喜欢这个播客和我带来的嘉宾，请订阅。好的。欢迎，Mark Sermon。在我们开始之前，我想告诉你，在健康跨度和长寿方面即将出现令人难以置信的突破。

这些技术使我们能够延长寿命和健康寿命。事实是，许多方法实际上是廉价的，甚至是免费的。我想和你分享一下。我刚刚写了一本书，叫做《长寿指南》，概述了我一直在做的事情，以逆转我的生物年龄，以及我一直在做的事情，以增强我的健康、力量和精力。我想以成本价向我的社区提供这些信息。所以，longevityguidebook.com，你可以获取信息或查看下面的链接。

好了，让我们进入本集。Mark，很高兴在现实中见到你，或者说，在我们生活的这个虚拟世界中。有点像在现实中，是的。就像大多数生活一样，这些日子都是虚拟的。太疯狂了，对吧？我们忘记了虚拟生活有多方便。对我来说，过去和你见面并进行这次谈话……

我必须真的跳上一架飞机，飞到多伦多，在这种情况下，是纽约，你就在那里。但我们生活在这个非凡的世界里。所以，对我来说，这次谈话很重要。我认为……

我想深入了解你对开源运动的看法。它意味着什么？它为什么存在？它的优势和劣势是什么？对。我们经常听到开源这个词。我过去曾与Imad Moustak、Elon Musk和其他人就此事进行过对话。

作为Mozilla基金会的主席，这是你正在倡导的一个领域。让我们直接进入主题。对于那些没有真正理解开源概念的人来说，它意味着什么？我认为在最高层次上，

这意味着在过去的20年、25年里，无论你想怎么称呼它，随着我们数十亿人开始构建这个数字世界，

有一套乐高积木，任何能够使用它们或想要学习如何使用它们的人都可以用它们来构建一些东西。我认为这是一个……我稍后会定义开源，但我认为关键在于，你今天使用的许多东西，无论是谷歌、亚马逊、Meta，还是一些初创公司、某个古怪的艺术家，甚至是你表哥做的，

在大多数情况下，其背后都有一堆开源代码。而这些底层的开源代码就是乐高积木，它让如此多的创意人士、如此多的初创公司能够快速发展，因为他们可以免费获得大量东西来开始构建一些东西。然后，在它的基础上，他们可能会构建一些封闭的东西，或者他们出售，或者其他什么。所以，我认为……

而这套乐高积木，我的意思是，最近哈佛大学的一项研究谈到了过去20年来开源创造的8万亿美元的价值。因此，数字经济的一个关键部分是

与创造力部分和来自我们拥有这套乐高积木的事实而来的金钱部分一起生活。就像……好吧，继续吧。是的，我本来想说，所以你有了这个……我认为乐高积木是一个很好的描述，软件块可供任何人免费使用

它总是免费的吗？它有四层含义，它并不总是像免费啤酒一样，用一个古老的开源术语来说，它是“自由如言论”。因此，使软件成为开源的四个要素是：你可以不受任何限制地使用它；你可以免费使用它；你可以研究它，这意味着你可以查看内部，它是透明的，你可以看到它是如何工作的；

你可以修改它，所以你可以把捡到的东西变成别的东西，你也可以再次分享它。所以，分享它也意味着你可以从中赚钱，只要你不收取该事物本身的费用。

所以，你知道，这就是构成开源的基础。现在关于AI的讨论有很多，我们也可以谈到这一点，但这就是基础。Mark，谢谢。但让我更深入地挖掘一下，因为在深入探讨AI之前，我真的很想了解开源的核心动机和核心原则，这在AI领域同样重要。那么，人们构建开源软件的动机是什么？

仅仅是好奇心和助人为乐的愿望吗？然后我还有一个问题，即使是有人正在构建的开源软件，现在的这些乐高积木，也是使用非开源元素构建的，对吧？我的意思是，在某些时候，你会发现，有人在支付带宽费用，有人在支付计算费用，有人在支付DARPA所做的事情的费用。

衍生出来，然后微软接管了，对吧？所以它不是旧的原则，它不是一直都是乌龟。它不是一直都是开源的。它是

所以有一些开源层，对吧？所以帮我理解一下，然后是参与者们玩耍的核心动机。好吧，我认为重要的是，我们一定会谈到这一点，区分成本和开源。所以，一直到底，都有花钱的东西。我们的时间是有价值的，即使我们没有得到现金补偿，或者带宽、计算、DARPA，所有这些东西。事实上，在某些方面，这种成本……

在某些方面，构建它的成本可以被私有化，也可以变成公共产品。这就是DARPA和互联网历史的妙处，对吧？这是一项巨大的公共投资，它变成了这些开放协议，不是开源，而是开放协议，它们运行着互联网，它们是公共产品。因此，它们实际上是利用公共资金、税款，变成了每个人都能从中受益的开放事物。

所以我认为我们应该小心。关于动机是什么，它们确实各不相同。所以，如果你考虑一下这些构建块是什么，Linux、Apache、Firefox或维基百科，它不是软件，但让我们称之为开源。我的意思是，它是开源的，它不是软件。或者像艾伦研究所的Ulma这样的开源AI模型。那些

有很多动机。我认为神话般的早期开源动机是“解决自己的痒点”。我正在使用一个软件，它不能满足我的需求，所以我将修改它，或者我将构建一些东西。就像我是一个书呆子一样，我会构建我想要的东西并与其他书呆子分享。我认为这仍然是其中一部分，对吧？就像，我只需要为自己制作一样东西。

才是它的核心。我认为Linus Torvalds在启动Linux时，是出于某种结合：我想要一个按照我想要的方式工作的Unix版本，我将制作它。

但是，当你继续下去时，它绝对可能是更集体化、公司化甚至商业驱动的效用。它是“解决自己的痒点”，但在Meta、谷歌或AWS的层面上，这是我需要一个软件堆栈来运行我的云计算平台，我可以在其上构建社交网络。降低成本并提高其可靠性

是我的绝对目标。我不关心那件事，我只想确保它能工作，并且成本尽可能低，并且尽可能灵活。这就是为什么，比如说，像Linux这样的东西，它实际上是我们使用的互联网上大多数东西的基础，就云计算而言，

我刚才提到的所有这些公司都投入了大量的资金或工程师到Linux中，因为它是管道。如果他们都基本上集体化管道的成本，它就会成为标准。它只是起作用。它比购买……

你知道，Solaris或Windows NT便宜得多，它们现在都不存在了。过去的专有事物或自己构建的东西。所以我认为还有一个层次的“解决自己的痒点”，那就是以一种适合我的方式更便宜地获得我想要的东西。集体努力是实现这一目标的方式。

然后，你知道，有人真的在将开源作为一种商业策略来构建。所以，你知道，我是Red Hat，我利用了已经构建的许多东西，并利用其他人解决痒点。我正在构建一些其他的开源软件来将它们粘合在一起，以便更容易使用Linux，

然后我收取软件费用。这不是软件费用。我不收取软件费用。我收取支持费用。我收取其他类型的服务费用，这些服务使人们能够更有效地使用免费的东西。所以我认为你有点像个人宣传。

你有集体主义者或某种基础设施游戏，然后你有一个开源业务。当我们深入探讨围绕AI的对话时，这将很有趣。我知道我很想听听你的想法。你最近写了一篇名为《公共AI，让AI为每个人服务》的论文。我想深入探讨一下，因为在AI领域，一直有很多关于开源和透明度的倡导。

与此同时，也有很多……我该怎么说呢，数十亿美元投入到这个领域。大量的资金涌入。这是一个昂贵、能源密集型的领域。所以我想了解这两种方法如何共存。你知道，你如何让它足够快、足够安全，并具有适当的动机，

以及你如何让最聪明的人，某种意义上的精英人才，以正确的激励措施来从事这项工作？对于那些想要了解我们将走向何方的听众来说，这将是我们的谈话内容。如果可以的话，Mark，我会扮演粉丝和怀疑论者的双重角色，在等式的两边。好的。所以，你知道，我多年来已经启动了七个或八个非营利组织。

我发誓我再也不会启动另一个非营利组织了。原因是我认为非营利组织的效率低下。而且，你知道，我经营着……我是XPRIZE的执行主席，我认为这是一个

高效的杠杆，你知道，我们启动了30多年来的30个奖项，6亿美元的竞赛，但我们必须日复一日地努力筹集资金，说服某人通过实物、时间或捐款来资助我们，而不是……建立一个正在产生收入的企业，我将其再投资，并且

多年来我一直争论说，谷歌，即使它是一个营利性企业，也为人类带来了非凡的好处，使知识普及化、公平化、在世界范围内易于获取、民主化和非货币化，如果你试图在一个非营利组织中创造这种能力，我认为这将是……我认为这是不可能的

考虑到所需的资金量。那么你如何……顺便说一句，你可以首先指出开源并不意味着非营利性，只是为了……只是为了开始。你为我做了，Peter，你为我做了。所以，我的意思是，开源并不意味着非营利性。我们回到你最初的问题，比如，你知道，如何……

也许我会认为，开源在计算成本如此之高、我们需要最优秀人才的世界中竞争或提供价值等等，是隐含的。

我认为答案是双重的。首先，我们对开源的愿景，当然还有公共AI，这是一个更广泛的概念，我们稍后会谈到，并不是说它排斥专有或封闭的东西。开源在作为对立面、补充的时候一直做得很好，对吧？

或者实际上是稍后出现并取代一些商业创新的事物。所以Linux确实是服务器操作系统，你没有Solaris和Windows NTEs。这是因为它变得如此普遍，以至于它作为开源商品化了。所以这并不是说只有开源。

然后关于这个问题，比如它是如何获得资金的，或者它是如何产生的？因为它不会仅仅是某个地下室里的人，他将创造AI时代的Linux，尽管许多这样的人正在做很酷的事情。

例如，你已经看到Llama，Meta对帮助他们的NVIDIA以及其他许多参与开源AI领域的公司（IBM、我们）都有非常明确的兴趣，即……

尽早将实际上正在商品化的基础设施商品化和集体化。就像很多……我的意思是，我认为你会看到变压器和LLM的核心创新将变得非常普遍。它们变得商品化了。世界最强大的技术实际上是免费的，这难道不疯狂吗？

是的，我的意思是这让我震惊。我的意思是，如果你十年前说，听着，你将拥有这些叫做大型语言模型的东西，你将能够提出任何问题，要求它创建视频剪辑、图像，而且它是完美的。它就像世界上的知识触手可及，而且它有……像Meta这样的公司实际上正在免费提供它，或者其他公司正在免费提供它。

十年前，你会猜测个人使用它的许可证要花多少钱吗？

我的意思是，这太疯狂了。它是免费的。好吧，实际上有趣的是，十年前，如果我设想过这项技术，我会认为它是免费的。两年前，我不会这么认为。所以我认为当ChatGPT爆炸时，我们实际上正处于一个时刻，看起来所有这些东西都将被放在API的后面。没有人会发布它。因为有很多开源，今天仍然有很多。

在AI中一直如此，创新发展如此之快，是因为研究人员、科学家们互相交流，撰写论文，分享他们的代码。所以十年前，五年前，我会想象有很多。我认为我们到达了一个时刻，事情真的被封闭和锁定了。你考虑一下OpenAI采用变压器论文，进行创新，真正将所有东西都打包起来，将其产品化，这对最终用户的价值是有好处的，并且

并且真的快速发展，你知道，Llama能够在那里出现，并且，你知道，提供基本上相同的东西，因为我认为你会看到Meta正在扮演该版本的Linux或Linux游戏。我想说的是，扎克的动机是什么？是赶上吗？只是采取一种……

这会给他带来更大的粉丝群或不同的用户群的邻近性。他为什么要这么做？我认为扎克的动机与我投资Linux的动机相同，那就是如果我是Meta，在LLM业务中，我不想成为OpenAI。我从事元宇宙业务或社交媒体业务，或者他们将从事的任何业务。

我需要这一代技术尽可能可靠且成本尽可能低。所以他们前期投入了大量资金。这是一个很大的风险。

成为……你知道，试图让Llama成为LLM时代的Linux。但我刚刚看到Jensen和Zach的采访，你知道，NVIDIA据说正在将200名工程师投入到Llama中。所以我认为这个想法是，如果它成为标准，每个人都会参与其中，这是一种Linux游戏。这就是动机。我认为Llama和Meta棘手的地方在于，他们加入了这个东西，这使得

使Llama在我们看来不是开源的，这是一个奇怪的许可条款，它说在7亿用户时，它不再对你是免费的了。它不再是开源的了。开源许可证没有这些上限。它破坏了开源的约定。想象一下

如果扎克在Linux上构建了Facebook，当他达到7亿用户时，Linus Torvalds出现在帕洛阿尔托，敲响他的门，说：“对不起，但是钱……”一个巨大的袋子。对吧。它不是那样运作的。所以我确实认为其他东西将会出现，这实际上回到了你关于非营利组织的问题。

这将是纯粹的开源游戏，这实际上将成为主要的架构。你看过《奥本海默》这部电影吗？如果你看过，你知道除了在洛斯阿拉莫斯国家实验室制造原子弹之外，

他们还花费数十亿美元用于生物防御武器，即通过读取病毒和微生物的RNA来准确检测病毒和微生物的能力。一家名为Viome的公司独家获得了洛斯阿拉莫斯实验室的这项技术许可，以构建一个可以测量你的微生物组和血液中RNA的平台。现在Viome有一款我已经使用了多年的产品，叫做“全身智能”，

它收集你几滴血液、唾液和粪便，可以告诉你很多关于你健康的信息。他们已经测试了超过70万个人，并使用他们的AI模型为会员提供重要的健康指导，例如你应该吃什么食物，你不应该吃什么食物，以及你的补充剂和益生菌、你的生物年龄和其他深入的健康见解。

这些建议的结果非常出色。据《美国生活方式医学杂志》报道，在仅仅遵循Viome的建议六个月后，会员报告了以下情况：抑郁症减少了36%，焦虑症减少了40%，糖尿病减少了30%，肠易激综合征减少了48%。听着，我已经使用Viome三年了。我知道我的口腔和肠道健康是我的首要任务之一。

最重要的是，Viome价格实惠，这是我使健康民主化的使命的一部分。如果你想加入我的旅程，请访问Viome.com/Peter。我已经要求我的朋友Naveen Jain（Viome的创始人兼首席执行官）为我的听众提供特别折扣。你可以在Viome.com/Peter找到它。

在我们进一步讨论之前，我希望你能向我们简要介绍一下Mozilla基金会。这是你所处的背景，是你正在做的工作，我认为人们应该了解一下背景。

好的。这很有趣，因为我们回到了动机的问题。Mozilla成立于1998年。我不在现场。我是一个局外人粉丝。作为Netscape浏览器源代码之上的开源项目。所以，你知道，Netscape输给了Internet Explorer。在Mosaic之后，它们是第一个大型浏览器。我记得很清楚。所以他们想，好吧，如果我们把它放在那里，也许其他人会使用它。而且你确实有……

Red Hat、Sun和IBM，以及其他许多人对Netscape的开源版本（称为Mozilla）做出了贡献。但真正推动它的是，在Mozilla基金会成立之前的五年里，它实际上只是一群来自世界各地的黑客试图击败微软。所以实际上动机问题是，这些人从我们这里偷走了网络。比尔·盖茨甚至不想……

拥有网络。他们不相信它。然后现在他们拥有98%的浏览器市场份额。他们有ActiveX，所以你只能在Windows或Internet Explorer中使用网页。而且，你知道，所以有一群非常愤怒的极客说，微软，你并不拥有互联网。我们将向你展示。最终，这需要他们五年时间。他们从这个笨重的Mozilla浏览器（它只是一个……

Netscape的轻微和邪恶版本）到Firefox。而Firefox就像……让我们让它变小。让我们让它对人们更有吸引力。让我们加入弹出窗口拦截器，让我们确保它能很好地执行JavaScript，这在今天听起来很无聊，但在当时是激进的，因为它……

它成为允许人们开发交互式网络应用程序而不是愚蠢的网页的东西。这个笑话是这样的，Firefox有史以来发布的最佳版本是什么？

Internet Explorer 7。因为那个版本有JavaScript。在所有浏览器都使用JavaScript和Ajax之前，你无法使用Gmail，你无法使用Facebook，你无法使用Twitter。所以这就是真正希望网络开放的那群人。所以Firefox出现了，它从Internet Explorer那里获得了市场份额。

但是Chrome出现了，并开始占据主导地位。是什么原因导致Firefox没有占据主导地位？是什么让Chrome如此猛烈地进入？

好吧，关于Firefox的俏皮的第二个答案是Firefox有史以来最好的版本是Chrome。好的。因为Mozilla的目标是整个系统都是开放的。当然，我们需要拥有足够的市场份额（如果你问我，我们今天在Firefox中没有），才能在我们所倡导的价值观方面发挥影响力。所以Mozilla的另一个特点是，它不仅仅是那些希望对抗微软的充满激情的人。

只关注浏览器。他们有一个更大的梦想。他们有Mozilla宣言。这实际上是关于互联网为全人类服务的。所以，你知道，这个想法是，我们有足够的开放性来将市场转向开放，并转向为人们服务的技术。

我会说Chrome是继Internet Explorer和Firefox之后的第三个真正的平台。这是一个福音。我们有一段时间真的失去了保持技术领先地位的机会。如果你的目标是确保技术具有某些价值观，那么现在在AI领域也是如此，你必须始终保持技术的领先地位，这是一个教训。

而我们并不总是能做到这一点。难道你不需要为垂直化做好准备吗？我的意思是，Chrome已经成功了，Gmail也成功了，Android和成千上万的其他东西，地图也成功了，因为谷歌足够大，可以垂直化并在这些东西上建立相互依赖性，这使得人们使用起来非常方便。

我可以想象，在AI中，我们将看到更多这种垂直化，这种上下用户体验的深度堆叠。关于垂直化（这是一种自然趋势）和最终的垄断（这是我们不希望的，并且在我们的社会中是非法的）是一个有趣的问题。

这是一种趋势，它将来自那些试图获得尽可能多的市场份额和尽可能多事物的公司。破坏性相互作用，因为微软在其时代也被发现是垄断者，已经完全垂直化了，对吧？他们拥有服务器机房、数据库，他们试图拥有内容，他们当然拥有浏览器，他们拥有办公套件，所有这些东西。他们被网络打败了。

所以一个有趣的问题是，网络时代和智能手机时代也是垂直化的。在AI时代，这种垂直化趋势确实存在。我的意思是，Gemini实际上即使是后来者，我认为它有一个真正的优势，那就是它被构建到所有谷歌套件中。

什么会来破坏它，以及我们已经走得这么远了吗？破坏垂直化变得如此困难或几乎不可能。这是一个非常关键的问题。你知道，你可以叫我愤世嫉俗，但我认为每个公司和每个产品最终都会被破坏，因为这就是它们变得舒适的方式，对吧？我永远不会忘记大约六年前，杰夫·贝佐斯在投资者电话会议上说，我

是的，30年后亚马逊将不复存在，或者类似的引言，对吧？他说，我不……他试图吓唬他的员工或只是压低他的股价，但一切都会被破坏，对吧？联邦快递。我的意思是，正如我们所看到的亚马逊所构建的，主要的……你知道，隔夜快递公司是

现在，问题之一是，存在这样一种情况，一家营利性公司，拥有伟大的领导者、积极的员工，只是做得更好，他们可以再投资，他们可以作为精英人才，继续提高他们的能力，并且

是的，我不是说垄断行为和垄断之间没有区别，对吧？如果你拥有世界上最好的产品，每个人都喜欢它，而且，猜猜怎么着？你知道，你的市场份额达到了99%，这是垄断行为还是垄断？或者说，你只是提供了一种很棒的产品和服务？我

这是一个棘手的问题，目前在许多主题上都在法庭上审理。对。这是一个很棒的产品。嗯，

呃，我的意思是，我认为这在我们发展垄断法时，对我们来说，最终要弄清楚的是，你想要的反托拉斯监管是什么？是竞争，以及人们进入并扰乱市场的机会。当然，这就是我知道你在说反话的地方，我认为当你最终说每家公司都会知道时，你是怀着希望的，我相信这一点，因为每家公司都会在某种程度上变得肥胖、愚蠢和快乐。

而且新技术不断涌现，我的意思是，这是物理或技术的规律。我们只是不断地，你知道，我们正处于一个超级指数增长的时期。我想说的是，在某件事真正取得突破的前一天，它是一个疯狂的想法。

我们被一家按季度报告的公司不愿意接受的疯狂想法所扰乱。但某个地方的一些企业家愿意这样做，他们没有什么可失去的。所以他们会冒险一试。哦，我的上帝，这太不可思议了。

好吧，可能是在五到十年之前，而不是前一天。这将它从2015年推到了……但我认为你的观点是正确的。我想提出的一点，它回到了我之前没有回答的一个问题，但也在这个问题上，比如公司会想要以这种方式发展，还有一个破坏性问题，对吧？所以有些人会进来破坏，因为他们有一个好主意。他们想建立一家公司。就像……

资本主义和公司擅长解决某些问题，创造公共利益，甚至是公共产品，一些共同分享的东西，为Linux做出贡献，所有这些东西。但也有你的问题中没有提到的东西，即公司永远不会擅长的事情。

所以，当我们谈论公共人工智能作为一种对策时，我认为一家公司永远不会擅长Linux所发生的事情，它是一种集体公共产品，所有在其上构建的公司、研究人员和政府中的每个人都在其之上构建。尽管Linux基金会努力争取足够的成员，这很痛苦。

这是一种社会组织形式，适合成为一个独立的第三方。

除非你想彻底摆脱政府，我的意思是，这是另一种具有其目的的社会创新。我会称自己为自由意志资本主义者，这就是我倾向的方向。是的，我是一个老派的无政府主义者，所以有时我们会有一些共同的事业。但我认为问题是，哪些社会形式或社会组织对哪些创新以及加速哪些创新有帮助？所以我们是否高兴

除了NBC、ABC、CBS之外，我们在广播时代也有PBS。我认为它承担了一个商业播放器永远不会承担的角色。所以对我来说，在任何时候，创新都会出现，YouTube上线了。很好。你不需要PBS、BBC或CBS。所以当我们有一个政府组建的平台时，

提供商，对吧？我宁愿让任何人完全自由地提供他们想要的任何东西。但这在流程的后期才会出现。我认为始终要问的问题是，如果你只把它留给市场，什么事情不会发生？当然。

我认为这对人类的利益来说是一个非常公平且非常重要的问题。大家好，我想短暂休息一下，谈谈一家对我来说非常重要的公司，它实际上可以拯救你的生命或你所爱之人的生命。这家公司叫做Fountain Life。

这是一家几年前我和托尼·罗宾斯以及一群非常有才华的医生一起创办的公司。我们大多数人实际上并不知道我们体内发生了什么。我们都是乐观主义者。直到有一天你侧腹疼痛，你去急诊室看医生，他们说，听着，我很抱歉告诉你，但是你……

这个三期或四期正在进行中。而且，你知道，它不是那天早上开始的。这可能是一个已经存在一段时间的问题。但因为我们从不检查，所以我们没有发现。所以我们在Fountain Life建立了世界上最先进的诊断中心。我们今天在美国有四个。

我们正在全球各地建设20个。这些中心为您提供全身核磁共振成像、大脑、脑血管造影、人工智能辅助冠状动脉CT（寻找软斑块）、DEXA扫描、Grail血液癌症检测、完整的行政血液检查。这是您将获得的最先进的检查。150 GB的数据随后将发送给我们的AI和医生，以便在疾病的早期阶段发现任何疾病。

当它可以解决的时候。你最终会发现的。最好在你能够采取行动的时候发现。Found Life还有一个完整的治疗方面。我们在世界各地寻找最先进的疗法，这些疗法可以为你的生命增加10到20年的健康时间。我们在我们的中心向您提供这些疗法。所以如果这对您感兴趣，

请去看看。访问fountainlife.com/Peter。当托尼和我撰写我们的《纽约时报》畅销书《生命力》时，有30,000人联系我们寻求Fountain Life会员资格。如果您访问fountainlife.com/Peter，我们将把您列入名单的首位。真的，对我来说，这是我最重要的事情之一，我把它提供给我的整个家庭、我的公司首席执行官、我的朋友、我的

这是一个真正为我们的健康寿命增加几十年寿命的机会。访问fountainlife.com/Peter。这是我能为我的听众之一提供的最重要的事情之一。好了，让我们回到我们的节目。所以我想进入你的公共人工智能，让AI为每个人服务。我列出了五点，我很想深入探讨一下。我认为

你知道，正在收听我们对话的企业家们，这是，你知道，人工智能领域正在进行几场不同的辩论，一场是，你知道，数字超级智能是否会毁灭人类。这是一个伟大的辩论，现在不会进行这场对话。它会抢走工作吗？是的，人工智能会抢走我们的工作吗？它们会帮助我们创造，你知道

长寿和融合吗？答案是肯定的，但我们稍后再讨论。但是，我们如何确保安全和透明度，谁对此负责？我的意思是，这些都是根本性的问题。所以这是我写下的第一点，让我们讨论一下这意味着什么。因此，人工智能的发展主要由商业利益驱动。这是坏事还是好事？

好吧，我认为商业利益是推动创新的一个重要因素。而且，你知道，如果你考虑互联网的整体情况，你经常会看到这些舞蹈，在

非商业研究，如深度创新之间。所以无论是DARPA和互联网还是CERN和网络，然后你实际上弄清楚如何使用它。从那里开始，有很多商业驱动的创新。然后之后，商业参与者没有做什么，这是一个角色

你以Firefox、维基百科或Linux为例，非营利参与者在那里扮演着非常巨大的社会和经济效益的角色。所以快进到今天的人工智能方面，我认为正在发生的商业创新数量非常棒。

商业主导与商业创新是不同的。所以我们看到并想要加速的是，也存在一个补充它的公共选择。不是，你知道，只是那种老生常谈，而是因为它在做我们之前谈论的事情时非常重要。市场本身不会做什么？

所以市场本身不会做的一些事情是，我认为它不会以足够广泛的方式关注安全，以确保我们的安全。我认为试图垄断安全市场的人实际上是危险的，我的意思是，你可能会得到一些好东西，对吧？但如果我们真的想保护人类，那么只有一个或两个供应商或十个供应商的想法，就像垄断安全市场一样，是

对人类来说是一场危险的游戏。在一个开放的环境中，许多不同的参与者可以参与安全工作，了解内部的工作原理。我认为市场不会自行推动这一点。这是一个关键部分。我同意你的观点。这是一个关键部分，但这是否是政府与开源或任何特定公司之间的角色，

你知道，当我想到为什么政府应该存在以及它们在哪里没有过度扩张时，这是一个微妙的平衡，它代表的人口的安全，对我来说，无论是来自武装部队、警察还是监管的安全，都是我认为政府应该提供的最基本的事情。你同意吗？

绝对同意。虽然我认为我们实际上正在朝着这个方向发展，但如果美国政治体制运作良好，就会更容易。制定这项法规是政府的职责。什么是护栏？而且，你知道，你以交通运输的演变为例。我很高兴有交通法规和安全法规，这是政府应有的职责。制造汽车是私营部门应有的职责。而且

公共交通是一种介于两者之间的存在。所以，我同意，提供安全，绝对是政府的职责。规范安全护栏，绝对是政府的职责。但是跳到人工智能，我相信的一件关键事情，我们相信这些法规的运作

是透明度，以及人们集体解决安全问题以遵守这些法规的能力。因此，开放科学的整个历史以及每个人一起努力推动人工智能发展，你知道，人多力量大，所有错误都很浅显，你知道，那个古老的开源原则，对我来说，这实际上更有可能产生符合该法规的结果。政府的职责不是执行。

另一方面，让一些人试图垄断这些法规的合规性以及什么是安全，并将其全部锁定，其中一些可能是有效的参与者，但我认为这不足以保证我们的安全。我的倾向再次是让企业家来解决问题。你提到了交通运输。我想到的是航天工业，这是我早年生活的一部分，

你知道，是洛克希德和波音等大型国防承包商将人类送入太空，然后来了，你知道，他们遥遥领先，对吧？政府正在通过承包商建造航天飞机，并且

然后埃隆作为破坏者出现，并占据了99%的市场份额，对吧？其他公司将继续存在，这些公司存在的原因仅仅是因为政府喜欢有一个第二供应商到位，但我们将看到相对论空间和贝索斯与蓝色起源进入，这些将成为第二供应商，并且

但我认为你永远不可能在一个政府项目或……

政府驱动的项目中获得这种创新和才华的水平。这就像只是让地球上最优秀的人，强迫他们或集中他们的注意力去承担巨大的风险和创新。所以问题是，你可以在开源中获得这种速度和能量吗？或者只是开源的某些部分，而不是其他部分？好吧，我认为开源和政府是不同的。所以我认为政府的作用要么是创造护栏，要么是资助公共产品。

所以，如果你考虑DARPA资助公共产品，我的意思是，你获得了大量的创新，并在某种程度上获得了速度，尽管这是一个长期游戏。政府正在扮演资助公共产品的角色。你可以在开源中获得这一点。但我确实认为开源的作用通常是

在一些高速创业创新发生之后。所以，你知道，你会看到Linux在Solaris或Windows NT之后大约10年，半个世代之后出现。它就像，我们想要不同的东西。我们想将它集体化并创建一个基础设施。Firefox在Netscape之后10年出现。维基百科在Encarnate之后10年出现。但如果你仍然拥有其中一张CD-ROM，你知道，你会得到一个奖品。但是，你知道，我认为开源的作用实际上是创造

通常是商业创新所驱动的东西的更易于改变的公共产品版本。所以关于第一点，人工智能的发展主要由商业利益驱动。呃，D存在，所以，那是事实，并且还在继续。嗯，这应该被劝退吗？这应该，呃，你知道，所以答案是那么又怎样，我们该如何处理这个问题？对。

是的，“那么又怎样”是，你不会获得在保持市场对小型参与者开放、研究人员以及安全方面所需的公共产品。我认为你需要开源，真正开放的开源，以一种我们都能访问的方式运行，并且不会在700或200处被切断。但是如果开源电影没有……但让我解释一下为什么。是的，请。所以我认为在“那么又怎样”……以及如何，如果你愿意的话，以及这应该如何解决。

所以原因是，也许我已经谈到了它们，我们有这个时代乐高积木盒。我们可以对安全进行透明化。如何，你知道，也许公司参与者实际上甚至会推动这一点。然后我认为公司参与者，我有一个小的二乘二矩阵，它就像开放、封闭、私有、你知道，商业、公共。你会看到不同的人，你知道，在商业领域但开放，你有……

Meta试图发挥作用。我认为这是好事。从长远来看，我还想确保有一些东西是共同拥有的。所以你有一些人，比如艾伦研究所，它是在保罗·艾伦去世前由他建立的，艾伦人工智能研究所。他从垄断活动中赚取了资金来资助它。在美国，你有一个支持慈善事业的税收制度。所以这就是应该发生的事情。是的。

所以，你知道，他真的相信开放人工智能。他真的相信开源人工智能。你有一个很棒的人，亚历克·法拉迪，领导着它。我认为这可能会成为这个时代的Linux或Linux基金会。所以，你知道，这两者都是有用的参与者。

我确实认为我们现在缺少的一件关键事情是，在每个西方国家，你都会看到大量的资金投入到计算或大型项目中，这些项目关注我们如何处理人工智能的能源问题。对我来说，我们真的应该确保这些政府资金用于公共产品。所以如果我作为研究人员甚至作为一家公司给你大量的计算能力，我

这应该在流程的另一端产生开源。如果公共资金为此买单，那么公共产品应该从另一端出来。是的。我的大多数演讲都发表了一个声明，我很喜欢，那就是，这是基础设施。这是根本性的。计算能力是每个国家的根本性基础设施，每个国家都应该拥有自己的模型和自己的基础设施。我的意思是，它将成为国家的氧气和电力。是的。

我百分之百同意他的观点，它是一种基础设施，它不仅仅是计算机，它还是模型，它是整个堆栈。我们去年或今年早些时候与包括Yann LeCun在内的一群其他人一起就此撰写了一篇大型论文。

我想特别注意的一点是，不要认为这是国家主权，而是实际上，你知道，我认为世界各国民主制度正在构建一个由它们开放和控制的系统。你将拥有西班牙语法律。你可以拥有西班牙语。

大型语言模型或意大利语或法语或任何其他语言，建立在一个共享的基础设施池之上，这实际上是构建的人工智能，它是开源的，并且是为民主服务的。但我实际上认为，作为一组

世界各国，拥有特定的一套价值观。我们希望集体拥有它，我们可以依靠它。你在讨论中得出什么结论？就像我们需要尽快行动一样，因为我们正在与中国进行一场根本性的竞争。而我们能达到的速度将是，你知道，政府和投资者向那些雇佣了地球上最聪明的人的营利性公司投入资金。这是一场争夺

自由原则的竞赛。所以，我同意，我们必须尽快建立一个技术社会，包括一个由自由、多元化和我很珍视的价值观驱动的AI堆栈。我认为私营公司是其中一部分。我还认为公共人工智能是其核心。我的意思是，我们谈论的是公共导向、公共用途、公共产品，而公共导向是

你知道，你如何将多元化和民主的意图融入这些产品的设想中，并随着时间的推移对其进行测试，这与安全有关，与谁可以贡献所有这些事情有关，有一本很棒的书，我的意思是，它只是一本数字书籍，也许这就是现在唯一重要的东西，由Audrey Tang撰写，她是台湾的数字部长，谈论你实际上

可以建立。我的意思是，他们基本上有，你知道，非常关注私人财富和中国的人，它非常关注一种特定的极权主义方法，以他们自己的形象塑造人工智能。而我们所没有的是一种高速、快速的方法，即我们如何构建民主的、多元化的人工智能？我有点，有点相信，是的，要快，要快，不仅仅是为了支持人们。

你知道，有人拥有西方市场，而是要快速走向一些参与者正在构建的东西，这些东西支持民主和多元化，你从中赚钱。很快，我最近收到了一些关于我皮肤的最不寻常的赞美。

事实是，我每天早晚都会虔诚地使用一种叫做One Skin的乳液。它是由四位拥有博士学位的女性开发的，她们确定了一个由10个氨基酸组成的序列，这是一种衰老抑制剂，可以杀死皮肤中的衰老细胞。这实际上可以逆转你的皮肤年龄。我认为这是最令人难以置信的产品之一。我一直都在使用它。

如果您感兴趣，请查看节目说明，我已经要求我的团队在下面链接到它。好了，让我们回到节目。我的意思是，有一种情况是，公司和最好的精英制度正在吸引拥有最多资本、最多计算能力或正在构建最佳系统的人才，然后政府成为这些系统的用户，以支持其人民。

就像NASA没有建造星舰一样，祝贺埃隆完成了第五次飞行，但它将成为星舰的最大用户之一，所以我们能否通过私有模型和私营公司来实现公共利益？是的，并且

总有一些私营公司不做的事情。有些私营公司完全在黑盒中运作，比如OpenAI，有些私营公司以符合自身利益的方式运作，同时也造福公众，创造公共产品，就像Meta与Llama一样。所以我认为你必须采取一种细致入微的观点来看待如何获得这些东西。我们的观点是，你既需要商业公司

以及政府和非营利组织或开源社区参与者，所有这些都朝着这种多元化开放、你知道，以及公共人工智能选择的方向努力，而不是太排斥，你知道，与其他一切并存。它不是排他的。我，我，我明白了。我同意。嗯，

只要你知道，政府不是强制性的，而是促进了这些资源、这些开源团队和观点等的出现。我的意思是，这完全符合逻辑，我可以问另一个问题吗？因为我认为隐私是Mozilla的主要驱动力之一。是的，我

绝对同意。你认为我们真的有隐私吗？哦，这是一个如此棘手的问题。所以隐私是核心，你知道，它就像个人的隐私和安全是神圣不可侵犯的。它并没有完全说神圣不可侵犯，但它在Mozilla宣言中。这是核心之一。我知道。我们正在努力解决什么是现在的隐私，因为我们，对我们来说，隐私就是制作一个不收集任何关于任何人的数据的浏览器，并尽可能减少数据

尽可能多。我们都知道，现在你无法在没有数据的情况下制作数字产品。我的意思是，它与代码一样基本，甚至比代码更基本。这就是人工智能。对。那么在这种情况下什么是隐私呢？而且，所以这是一个需要解决的问题。我确实认为它是为了回到公共导向或构建价值观的问题，并且

并研究如何构建不会过度暴露你的信息或让你选择更私密事物的AI技术。你可以在Apple Intelligence中看到这一点，它试图在设备上做更多的事情，并朝着这个方向倾斜，这并不意味着我是一个完全私密的人，但我有一些事情想保密。

我们实际上通过Mozilla Ventures资助了一家公司，该公司正在构建Apple Intelligence的开源等效物，称为Flower AI。所以我们认为隐私，它的含义必须发展，必须与某种程度上的事情有更多关系

你如何看待你现实生活中的隐私，那就是，哦，我要关上百叶窗，或者我要小声一点说话。就像我们必须有一些方法可以表达我们希望在正在构建的数字世界中被看到和不被看到的愿望。我只是，你知道，它击中了我，我有，你知道，窃窃私语。所以她还没有活过来，你知道，Alexa一直在听，她一直在听。

对吧？我有Siri一直在听。你可以用一个带摄像头的AI从100米外读懂我的嘴唇。你可以和我握手，抓取一些皮肤细胞并对其进行测序。所以，你知道，我认为在某种程度上，你知道，隐私是一种我们喜欢相信的幻想。问题是……这也是我们谈论人工智能信任的原因之一。因为你可以把它融入到技术中……

东西是本地的，或者摄像头是关闭的，或者其他什么。你是否信任或有足够的控制权来相信这是真的？所以可以对您刚才谈到的所有事情施加约束。很多时候，要么我完全控制它，这在当今互联的世界中非常困难，因为你非常技术娴熟，并且愿意把自己放在一个非常，你知道，在一个岛屿上。

或者你信任提供它的各方。这就是Apple擅长的地方。这就是Mozilla历史上擅长的地方。我认为我们希望在人工智能时代擅长。我们没有过多地谈论我们自己的AI工作将走向何方，但它确实处于值得信赖的空间和开源空间，因为我们认为对这些事情有很多需求。

假设下一任美国总统来找你，说，你希望白宫颁布哪些政策？你有一套明确的建议吗？是的。我的意思是，在高层次上，它们非常清晰。你会分享吗？实际上，有趣的是，尽管你无法完成任何事情，但我来自加拿大，所以我可以取笑美国的政治体制，尽管你无法通过法律，但我认为你在这些主题上有很多两党共识。所以我认为

首先，你知道，反托拉斯法在这个时代有效。我们还没有弄清楚它是如何运作的。但我认为，所以企业家有空间，创新也有空间。我认为这是至关重要的，你知道，在这个时代需要弄清楚的关键事情。第二点是我们弄清楚什么是正确的AR和隐私护栏。这就是欧洲没有做到的地方。

完美，但他们在那里有点正确，他们将人工智能法规集中在人工智能的使用上。这不是让我们规范所有人工智能。就像，如果我要将它用于可能敏感、危险或有害的事情，让我们为此设置护栏。所以我们必须做得更好，这是全人类需要弄清楚的事情。但我认为监管这一点。然后第三点是

是确保创新资金用于公共产品，用于每个人都可以使用的产品，坦率地说，也用于加利福尼亚州和华盛顿州以外的地区。

因为，你知道，开源的另一件事是人们可以从任何地方进行创新的想法。我认为你看到的不仅仅是少数几家公司的企业集中，还有少数几个地方的地理集中。我认为，如果政府正在投入资源，这是一个机会，可以广泛地传播它们。是的，我的意思是，但我再次回到我的航空航天领域。我记得，你知道，NASA的

太空项目将分布在30个国会选区和公司中，你知道，战略政策是迁入没有航空航天供应商的国会选区，以便他们能够获得合同，这导致了很多低效率是的，当然。好消息是，我们谈论的是比特，而不是原子。是的。是的，当然。很多事情都变了。

从那里开始。还有什么其他的政策？你怎么知道？所以最终的问题是如何规范它以确保我们不会有你知道的灾难性后果，以及我们如何，你知道，我们如何偷偷地对抗AGI，无论那是什么，也许我们已经超越它了，或者数字超级智能以如此迅速的速度扰乱我们的生活方式，以至于让我们头晕目眩。我

你有什么建议吗？

对此有两个答案。我的意思是，我认为一个就是密切关注。而且，你知道，你在围绕SB 1047（纽森最近否决的AI安全法）的辩论中看到了这一点，那就是推动我们建立一种基于证据的方式来了解真正的风险在哪里，而风险又在哪里。它回到了，就像，我们应该针对风险进行监管，而不仅仅是普遍地针对，你

你知道，无形的恐惧。所以这是紧急的。重要的是要制定能够做到这一点的法规。它需要以证据为基础。实际上更难解决的事情，而且我不知道该如何解决，那就是我们有一个官僚机构。我们有为工业时代甚至前工业时代设计的政治制度。让我们，你知道，谈谈你对开源的预测是什么。你对

这件事将走向何方有什么希望？好吧，我的预测和我的希望是一样的，我希望我的预测成真。所以，你知道，我的预测是会有一个公共选项，一个开源选项，而且你会看到两者共存。但我同时也认为，基础设施层，那些只是试图做商品化基础工作的人

不会是那些在商业上获胜的人。网景已经不复存在了。Sun，我不知道他们是否还存在，但肯定他们不再是他们曾经的生态系统定义者了。所以我确实认为，基础设施，回到那个乐高积木的构建块将是开放的。我认为如果它能从安全角度、创业角度来看是真的，那将使我们所有人受益。

从安全角度、创业角度、一般创造力创新角度来看。所以这既是我的希望，也是我的预测。我想我在上面加上的希望是，我们可以足够聪明，如果我们无论如何都在计算等方面花费公共资金，

政府在之前的时代扮演了推动作用。而且它，你知道，这是它有意为之的事情，而不是一种限制性的角色，试图对事情进行微观管理。最后一点题外话。我刚从印度回来，你知道，这是一个拥有14.1亿人口的国家，是地球上最大的国家，也是我认为需要人工智能的国家

为了生存，你知道，你无法向……你知道，有一亿人是国家的税基，其余的人都在某种程度上处于贫困状态，你唯一可能大规模地向他们提供医疗保健和教育的方式将是人工智能，建立在……你知道，现有的5G网络之上，而且

然后我去希腊，在那里会见了一些领导人，他们说，你知道，帮助我们发展人工智能。所以对于许多今天并非以人工智能为中心的国家来说，他们正在寻找、感受并知道他们需要在其国家中使用人工智能来竞争、生存和繁荣，

开源运动如何支持他们？我认为这实际上是公共人工智能的核心，以及为什么我们在谈论超越开源的内容，对吧？这三件事是公共用途、公共方向、公共产品。公共用途就像使用这些东西来提供医疗保健和教育。我们必须弄清楚如何才能做好这一点。

这就是公共方向的来源。就像，以一种能够赋能人类的方式来构建它。达伦·阿卡莫格鲁，我总是记不住他的名字，他刚刚获得了诺贝尔经济学奖，谈论的是机器的效用。对吧？所以，就像，我们如何才能真正让它对人类、对公众有利？

然后是第三部分，公共产品。这就是开源的用武之地。就像，当我们做这些事情时，让我们构建一个共享资源。当然，政府应该这样做，以便印度所做的事情能够帮助希腊，而美国所做的事情能够帮助印度。良性循环开始了。而且，你知道，我认为最好的那种人类进步来自希腊。

你知道，所有这些事情都汇聚在一起。马克，在我们结束之前，人们在哪里可以找到你，关注你，并找到Mozilla基金会，他们如何参与？他们如何支持你的工作？很容易在X、Twitter或现在无论你称之为什么的平台上找到Mozilla。你可以在LinkedIn上找到我们。你可以在mozilla.org找到我们，我们在那里已经存在了

25年了。而且，你知道，我在Twitter和LinkedIn上只是M·瑟蒙。我在这两个地方都不经常出现，但你可以在那里找到我。我认为你可以参与的方式，实际上只是看看公共人工智能，这种为人类服务的AI概念是如何改变的？

即使自私地弄清楚它也会使你受益，然后如果你正在构建软件，你能否让它开源；如果你是一位政策制定者，我们能否确保公共资金用于公共产品等等。令人惊叹的马克·瑟蒙，一位开源战士，为了造福人类，这是我的新……这是我为你准备的新品牌，谢谢，我现在就印制T恤，感谢你的工作，马克，很高兴见到你，感谢你的谈话，同样，感谢你邀请我，彼得

你