Punk Rock, the Peace Movement, and Open-Source AI: The Mozilla Foundation’s Mark Surman
34:31 Share

*新！在有限的时间内，请参加我们简短的听众调查。我们重视您的反馈！*当马克·瑟曼在20世纪80年代作为一名自称的“朋克摇滚少年”为当地电视台制作了一则支持和平的公益广告时，他并没有想到自己未来的职业生涯会致力于为每个人宣传公平、公正和值得信赖的技术获取。但如今，作为Mozilla基金会的主席，他正专注于此。马克后来学习电影制作，并将其传播方面的专业知识转化为技术领导角色，在那里他继续努力“通过说实话来改变人心”。在本集中，马克分享了他对大型科技公司和初创公司在负责任的人工智能对话中所扮演角色的看法，并描述了Mozilla基金会最近发布的一份关于值得信赖的人工智能的报告。在此处阅读剧集文字记录。嘉宾简介：马克·瑟曼是Mozilla基金会的主席，这是一个全球性的非营利组织，其工作内容从开发Firefox网络浏览器到倡导更开放、更公平的互联网。他目前的工作重点是推动Mozilla努力投资负责任的技术初创公司（通过Mozilla Ventures）并为更值得信赖的人工智能创建基础技术（通过Mozilla.ai）。在加入Mozilla之前，瑟曼花了15年时间领导促进互联网和开源技术用于社会赋权的组织和项目。我和人工智能是我和人工智能是一档来自麻省理工学院斯隆管理评论和波士顿咨询集团的合作播客，由萨姆·兰斯博瑟姆和谢尔文·霍达班德主持。我们的工程师是大卫·利尚斯基，协调制作人是艾莉森·莱德和索菲·鲁丁格。通过加入我们的LinkedIn小组“AI for Leaders”（mitsmr.com/AIforLeaders）或关注我和人工智能的LinkedIn页面，与我们保持联系。我们鼓励您对我们的节目进行评分和评论。您的评论可能会用于我和人工智能的材料中。</context> <raw_text>0 今天，我们播放的是由我们的朋友Modern CTO Podcast制作的一集节目，他们最近很友好地邀请我作为嘉宾参加。我们讨论了生成式人工智能的兴起，成功运用技术的意义，以及领导者在指导技术实施工作时需要考虑的一些因素。您可以在Apple Podcast、Spotify或您收听播客的任何地方找到Modern CTO Podcast。

开源技术平台如何才能保证人工智能的可靠性和安全性？在今天的节目中找出答案。我是来自Mozilla的马克·瑟曼，您正在收听我和人工智能。欢迎收听我和人工智能，这是一档关于人工智能和商业的播客。在每一集中，我们都会为您介绍一位在人工智能领域进行创新的个人。我是萨姆·兰斯博瑟姆，波士顿学院分析学教授。我还是麻省理工学院斯隆管理评论的人工智能和商业战略客座编辑。

我是谢尔文·科多班德，BCG的高级合伙人，也是我们人工智能业务的领导者之一。麻省理工学院SMR和BCG自2017年以来一直在研究和发表关于人工智能的文章，采访了数百名从业人员，并对数千家公司进行了调查，了解构建、部署和扩展人工智能能力以及真正改变组织运营方式需要什么。

大家好。今天，谢尔文和我很高兴能邀请到Mozilla基金会主席马克·瑟曼。马克，感谢您抽出时间与我们交谈。让我们开始吧。谢谢，萨姆和谢尔文。马克，也许让我们先听听关于Mozilla基金会和你在那里的角色的一些信息。请您为我们描述一下好吗？

Mozilla已经存在25年了。这是我们的25周年纪念日，真正确保互联网掌握在公众手中，我们如何构建互联网是平衡商业利益、公共利益以及在设计技术时将人类利益放在首位的问题。在第一个时代，我们专注于网络。我们构建了Firefox。现在，我们真正专注于确保这些价值观体现在人工智能时代。

我们真的希望在人工智能时代体现出诸如人的能动性、对技术构建方式的问责制等方面。

当我们听到人们谈论负责任的人工智能时，我们经常谈论到这一点，但这并不是我们看到为我们构建的东西的方式。通常，人们只是急于将产品推向市场。在过去的一年中，我们已经看到了这一点，所有GPT-X和其他一切都是如此。这些东西在没有充分考虑它们可能对人们造成的影响的情况下就推向了数十亿人。因此，我们真正想要做的就是确保这种情况发生改变，并且

努力确保通过倡导来改变它，努力确保通过构建新的开源人工智能来改变它，并且通过将人工智能缓慢地构建到Firefox等产品中来改变它，但要以一种真正记住人们、保护他们、赋予他们权力的方式。我认为记住人们很重要。你经常使用“人的能动性”这个词。我个人最讨厌的一件事是，当我们谈论人工智能做X、人工智能做Y时，

人们使用这些工具来做某事。而且，你知道，当我们使用诸如“人工智能做某事”之类的短语时，我认为我们放弃了任何责任，好像，哦，不，是机器在做这件事。我们必须保留一些能动性，即我们负责，或者至少在一段时间内负责。那么，你刚才谈到的这些举措是什么呢？例如，你

但是基金会和Dressworthy AI以及你在Mozilla Ventures取得的进展，告诉我们一些这些举措。嗯，你知道，我认为这是对的。人们需要负责。正是人工智能在做事情。有时实际上是拥有大型人工智能的公司在做事情。因此，我们正在努力的很多事情是如何将人工智能掌握在个人、小型公司或开发人员手中。其中一个例子是围绕开源大型语言模型。

你经常听到关于开源大型语言模型的讨论，但是我们中有多少人实际上将它们用于某些事情？将它们用于构建个人助理，将它们用于帮助进行敏感研究，将它们用于我们的工作或日常生活。因此，我们已经启动了一家公司，Mozilla AI，

其目标是采用开源大型语言模型，并使其易于使用，使其值得信赖，让你能够以你控制的方式使用你自己的个人数据。你将在今年年初看到Mozilla AI推出的一些产品。我们正在做的其他事情包括研究如何采用当前的人工智能浪潮并将其融入新的事物中

例如在浏览器中，但不是以向你推销产品的方式，而是在帮助你保护自己或帮助你做出更好选择的方式。因此，在接下来的几个月里，我们将推出一个名为Fake Spot的产品，这是一家我们收购并整合到Firefox中的公司，它使用人工智能来帮助你发现诈骗，帮助你发现虚假评分。因此，就是这样一些事情，将当前的科技浪潮掌握在人们手中，让他们自己做出决定。我喜欢这一点，让我们说一下推动人工智能

使人工智能的基础设施易于人们使用。否则，它将由能够负担得起部署这些模型的大型科技巨头主导。你提到了大型语言模型，显然它们非常引人入胜，而且令人惊叹，但它们也是由大型科技公司开发和交付的，这些公司并没有将我的个人目标函数放在心上。我，

也许你谈到的这个模型，当你获得这个基础设施并向其他人开放时，那么我们就可以开始拥有一个人工智能。它的优化算法是关于萨姆想要什么，而不是随机科技公司想要什么。我们距离能够做到这一点还有多远？

我认为我们距离能够为我们优化人工智能还有很长的路要走，但并没有我们想象的那么远。所以我们现在所处的位置我认为类似于Linux发布时的情况，它当时是微软的替代品，但它并不是大多数人都可以使用的一种替代品。然后它发展到开发人员可以使用它的地步。然后你开始看到像用户友好的桌面Linux这样的东西。

我们现在所处的位置是，越来越多人正在推出开源大型语言模型。如何部署它们，如何将它们用于你想要的目的，现在这很难。我想说的是，在今年，你将看到越来越多的人推出一些东西，让开发人员可以使用开源大型语言模型，而不是转向大型云托管模型。然后在接下来的几年里，这些将变成我们所有人可以用来做的事情，我们可能会称之为开源个人人工智能。

与Linux的类比，我之前没有真正想过这一点，但从几个角度来看，它似乎很有趣。首先，我们大多数人现在甚至没有在我们的桌面上使用Linux。所以，你知道，如果这是模型，那么我有点担心我们不会有这种渗透率。另一方面，如果我换个角度考虑Linux运行整个互联网的程度，那么我将非常乐观。因此，也许你关于如果我们能够让开发人员的工具问世，那么这就是

市场将决定该目标函数。如果我们有竞争对手开发人员在那里使用这些工具，那么也许市场将对此有所帮助。嗯，你知道，Linux发生的事情是……

它成为了Web 2.0的基础。Linux、Apache、Firefox和Web堆栈，对吧？开放技术使开发人员能够创建微软的替代品，创建全新的软件类别、网络服务。我的意思是，如果没有出现一些网络标准，我们今天使用的许多社交媒体就不会存在。如果他们不能建立廉价的Linux服务器等等，这些公司就不会起步。所以我认为这正是正确的。

我们有机会创造一个比我们看到围绕大型老牌公司及其拥有的新型人工智能实验室而出现的那种更加分散的数字经济。我认为有机会创造一些比那更丰富、更开放的东西。

但是，你关于Linux的观点很好，那就是它确实改变了开发人员的情况。真正改变人们情况的是网络。如果你回想起90年代中期，你会发现突然之间任何人都可以创建一个网页。突然之间，任何人都可以拥有数字存在，而这在当时感觉像是成为一名出版商，只有富人才可以做到的事情。

然后我们确实稍微回退了一点，微软试图将整个网络吸回Windows。到90年代末，98%的浏览器都是Internet Explorer，它们都倾向于与微软和Windows生态系统绑定。然后在2003年、2004年，Firefox出现了。它再次转向了人们。

我认为在人工智能时代，我们将看到的是，你从大量的开放科学、大量的开放研究开始，就像你考虑导致大型语言模型的Transformer论文一样。那是一个时代，当时存在着一种完全的开放性，人们分享他们在人工智能方面所做的事情。你现在看到许多大公司、许多大势头试图将其关闭并据为己有。

我认为人们不会只想接受这种情况。当然，那些大公司将继续存在，但我认为你将看到像Firefox和开放网络那样的一种回摆，更多的人希望自己控制人工智能。我认为这是一个乐观的观点，或者说是我们的一种观点，但我有点担心会遇到两家反大型科技公司，因为我认为大型科技公司在

这个生态系统中的所有参与者。但我认为你最后一点关于担心一些土地争夺是很重要的。即使较小的语言模型最终不会变得巨大或流行起来，我认为它们的存在也确实有帮助。因为否则，我们将围绕这些大型科技公司进行不受控制的开发，而且它们不必在市场上占据主导地位，我想这就是我的意思，因为这些举措具有价值。

绝对的。在我看来，开源与开放市场和竞争之间存在着真正的联系，如果开源运作良好，它可以为许多人提供构建模块来创建他们自己的东西。

而这正是你想要的，你只是想要多样性。你不想关闭那些事情，只是土地争夺变成了几家公司控制一切运作方式的情况。这只是找到平衡点。我们在去年年底发布的关于人工智能的美国行政命令中非常高兴看到的一件事是，推动联邦贸易委员会尽早考虑人工智能领域的竞争。

我认为这是我们在Web 2.0时代没有考虑的事情。有很多土地争夺，可以说有很多反竞争行为。因此，在人工智能时代尽早关注这一点是件好事。也许我们从上次吸取了一些教训。

我看到最近有一些论文研究了有多少人工智能来自工业界而不是学术界。这也是我好奇的另一件事。谁有资源来整合这些模型？也许Mozilla基金会和其他机构在这里是必要的，因为萨姆独自一人在晚上在他的黑暗房间里整合一个竞争性的大型语言模型的想法实际上不太可能实现，考虑到它所需的资源。那么，Mozilla支持这些的模式是什么？

我认为公共选项是我在考虑人们进行实验和尝试事物时想到的。正如你所说，并非所有的人都拥有资源。事实上，他们中的大多数人都没有资源来构建我们自己的人工智能系统或训练我们自己的模型。你看到像西雅图的艾伦研究所这样的人在谈论构建一个完整类型的开源大型语言模型池。你看到像Luther AI这样的社区项目，人们正在投入他们的资源来训练这些模型。

这就是Mozilla真正想要支持和参与的事情。因此，我们正在与艾伦和卢瑟在这方面进行合作。然后你看到政府，我很高兴看到这在去年来自欧洲和美国，说我们将构建研究人员和其他人可以使用公共基础设施。这是我们希望看到的持续趋势。

它与开源非常一致。开源是关于一组公共构建块。我们希望在人工智能中看到这些。然后是共享基础设施或公共资助的研究基础设施，以便人们可以玩弄这些开源，这也是至关重要的。总而言之，这些事情可以推动一些不同于大型公司将要推出的创新，也许是不同类型的创新。

你提到你正在支持Eleuther和Allen。这是通过Mozilla Ventures吗？这是如何运作的，或者机制是什么？

谢尔文，这是一个好问题。我们实际上正在通过多种不同的方式与这些社区合作伙伴合作。因此，Mozilla AI，这是我们的研发实验室，其目标是采用开源并将其转化为人们可以使用的东西，基本上。商业产品、非商业产品，人们可以使用这些产品来自己控制人工智能。我们与其他开源项目密切合作，就像我们过去在Firefox中所做的那样。因此，像Eleuther和Alan这样的人是我们合作的对象。

我们还通过Mozilla Ventures为许多开源人工智能公司提供资金。其中一家公司名为Flower，它正在研究所谓的差分隐私的标准。然后，我们为人工智能领域、值得信赖的人工智能领域、开源人工智能领域的人们提供大量的赠款和奖学金。像Deb Raji这样的人，她是开源人工智能系统审计的真正先驱。

你已经描述了，我认为，到目前为止是一种非常市场化的做法，但你也提到了监管部分。你认为监管在这一切中扮演什么角色？

我们正处于这些技术发展的早期阶段。我指的不仅仅是人工智能。我指的是互联网。我的意思是，将数字融入我们的生活。我们可能要与数字或数字的下一个阶段共存数百年甚至数千年。我的意思是，我认为这是人类的一大转变。当出现新事物时，你总是从这个时代开始，在这个时代你没有监管这些东西，因为你甚至不知道它存在。然后你不知道它是什么。

我认为我们现在已经与数字共存足够长的时间，以至于每个人都同意是时候弄清楚公共利益和私人利益之间的平衡了。我只是看到我们正处于这个阶段。这个阶段意味着进行技术监管。在我看来，这意味着进行技术监管，而不是仓促行事。

而且要谨慎。因此，在即将到来的浪潮中，你看到欧盟出台的《人工智能法案》，你看到来自华盛顿的行政命令（希望今年能够付诸行动），你看到世界各地每个国家的情况。关键是首先解决重大问题，然后学习。所以我认为这些重大问题是隐私，

竞争，以及真正确保消费者受到保护。我认为，如果你正确地处理了消费者保护、竞争和隐私问题，你将拥有治理人工智能所需的基础。

然后我认为还有一些我们处于早期阶段的事情，那就是确保我们将例如人权或公民权利与这些技术联系起来。我认为这是我们想要确保将其纳入政策框架的事情。但我认为我们还不完全知道如何为此制定法律。也许欧盟围绕风险框架所做的事情是一个良好的开端。我认为这将需要我们数年时间，可能几十年时间，才能弄清楚如何正确地做到这一点。

主要的事情是，我们在政府内部以及政府与产业和公众之间的关系中建立能力，以便随着时间的推移进行谈判、适应、理解我们正在成长以适应新的事物。只要我们平衡公共利益和私人利益，我认为我们在食品安全、汽车安全等方面已经尝试过这样做，我们就会找到正确的道路。这很乐观。我对你说的有点惊讶。

哦，我们正处于互联网的早期阶段，你知道，它感觉好像已经存在了很长时间。但是，不，我们在这个方面仍然相当新。但是你把它与隐私联系在一起，我不知道，当你这么说的时候，这有点困扰我。因为我考虑的是，也许我们到目前为止在这方面做得有多糟糕。当我们考虑有多少，比如说，互联网中缺乏值得信赖的基础设施时。我的意思是，我们只是……

费尽千辛万苦地让世界从HTTP迁移到HTTPS，对吧？当只有DARPA连接在一起的16台计算机时，我们不需要那里的安全S，但是当我们连接整个世界时，我们就需要了。但是我们发现，一旦这些事情根深蒂固，那么要将其撤回并进行改造就非常残酷了。

所以当你提到隐私时，我开始担心，因为如果这是类比，那么我担心我们将永远无法控制我们打开的潘多拉魔盒。给我更多乐观的想法。

嗯，你知道，关于隐私，我特别指的是隐私法规，也许，你知道，我指的是美国境内的隐私法规和消费者数据保护法规。很明显，隐私有很多方面，我们做得并不好，正如你所说。好的。

我认为，由于我们知道我们做得不好，我们需要做的一件事是制定良好的消费者隐私法规，作为我们在数字时代社会契约的基础。你在欧盟的GDPR中看到了第一次尝试。我认为这并没有真正奏效。它不太实用，尽管许多原则都是正确的。

你在过去几年中看到了一次尝试，即加利福尼亚州消费者隐私法案（CCPA），这只是美国的一个司法管辖区，但实际上有一些更好的想法，也许是一些尚未完全被采用的想法，例如

我们能够拥有数据中介或数据代表，他们代表我们行事以保护我们的利益，隐私如此复杂。难道你不想能够将其委托给一个你信任的人吗？也许是未来的Mozilla？我认为从政策角度来看，进入这个话题很重要、紧迫，而且感觉是我们在这个数字时代前进所需的基础。是的。

你是Mozilla基金会的主席。我猜那不是你的第一份工作。告诉我们一些关于你的历史、你的职业生涯以及你如何对这些主题感兴趣以及你的背景。

当人们问我这个问题时，我的回答总是，因为这是真的，那就是朋克摇滚和和平运动。当我80年代还是个十几岁的孩子时，我非常像一个朋克摇滚少年。朋克摇滚与我们身处冷战时期的事实密切相关，或者至少朋克摇滚的一个分支与之密切相关。这很可怕。和平运动在那里说，减少核武器。所以我当时对这两件事都很感兴趣，都很关心。我关心音乐。我关心政治。

我碰巧住在一个非常小的城镇，在那里我高中时晚上可以在一个网络电视台工作，播放节目，播放广告。

他们有一个规定，我们可以播放我们自己的公益广告。例如，如果商业时间没有售出，你可以决定播放红十字会的广告或当时的重大公益广告。我想，为什么我不为我的和平组织制作一个广告呢？而且，你知道，我有这段空闲时间。我可以播放它。我做了。这非常俗气。这是我制作的第一个视频。后来我又制作了许多视频。

有一天，我来到这里播放那则公益广告，但我找不到磁带。我去找电视台经理，我说，你知道磁带在哪里吗？他说，哦，电视台老板说我们不播放当地的公益广告。

当然，这是完全武断的。他不喜欢我的朋克摇滚和和平运动的信息。我想那是我早期的一个教训，虽然很幸运，但这是关于审查制度以及媒体所有权如何与审查制度联系在一起的早期教训。从那以后，我的整个职业生涯，你知道，去电影学校，一直围绕着让人们通过沟通和技术拥有自己的声音，并且

当互联网在90年代中期出现时，我想，哦，你知道，我开始做的这种激进的电影制作，我敢打赌你实际上可以用这个互联网做更多的事情。而且，你知道，从那以后我就没有回头了。所以，当你考虑Mozilla是如何组织的时候，是两个人在考虑人工智能吗？是七个人在考虑人工智能吗？是有人在午休时间考虑它吗？你如何将这些信息传达给整个基金会？

Mozilla最初显然是通过考虑网络来启动的。这是定义那一刻的技术，定义了从90年代中期开始的一二十年将要发生的事情。而且

几年前，我们中的一些人聚在一起说：“看，我们不能只考虑网络。人工智能、数据驱动计算，这将定义未来几十年。我们需要秉持我们的价值观，开放性、人的能动性、隐私，并确保这些价值观塑造人工智能时代的发展方向。”

因此，我们在三、四年前写了一篇论文，阐述了我们对值得信赖的人工智能的愿景，并逐渐开始提供更多赠款，做慈善方面的工作。但随着时间的推移，Mozilla的每个人都开始说，我们需要做更多的事情来确保人工智能朝着某种程度上反映我们所拥有的价值观的方向发展。因此，我们建立了这家AI研发公司Mozilla AI。我们建立了Mozilla Ventures，大约三分之二的

我认为现在有30家公司，专注于值得信赖的人工智能。而且在我们包括Firefox在内的核心产品中，我们正在研究如何融入值得信赖的人工智能。所以也许四五年前，我们中的一些人在午休时间考虑过这个问题。

现在我们已经到了这样一个地步，Mozilla的每个人都开始考虑我们如何在人工智能时代扮演我们在网络时代所扮演的角色，即改变事物的发展方向和权力下放。马克，Mozilla基金会即将发布一份关于值得信赖的人工智能的报告。你能告诉我们一些关于该报告的重点吗？报告中有四件事。

我们研究的第一篇论文。如果你想要值得信赖的人工智能，如果你想要更多的能动性，你想要在人工智能时代有更多的问责制，你会寻找什么？我们谈到了改变行业规范、如何构建事物、改变人们实际可以使用技术和产品的方式、改变消费者需求，然后改变政策环境。

因此，我们在最近的报告中研究了所有这些事情，并说，我们做得怎么样？有趣的是，我们在其中一些方面做得不错，而在其他方面却做得非常糟糕。我的意思是，也许这并不令人惊讶。在政策方面，情况比我们预测的要好。你知道，三、四年前，当我们撰写那篇论文时，我们谈到的是确保政策制定者拥有制定良好人工智能法规的专业知识。

你确实看到政策制定者走到了前列。我们还没有解决所有问题，但你看到了更多能力。你看到了像《人工智能法案》和去年白宫发布的行政命令这样的东西。所以这是很有希望的。它还没有解决，但这是很有希望的。

另一方面，如果你转向行业规范，我们几年前看到了一种趋势，即大型公司内部有更多的人工智能伦理人员。这种情况已经逆转。我们看到许多这样的团队被解雇了。

但另一方面，你看到Mozilla Ventures的人说，好吧，如果大公司不做这件事，我将自己创业。我们看到更多专注于审计或甚至专注于具有更多人文色彩的社交媒体的值得信赖的人工智能初创公司。

然后我想说的是中间的那一部分，比如消费者需求以及我们使用和选择的主要产品是否反映了更人性化、更值得信赖的人工智能的愿景。我认为这可能是2024年关注的一个真正合适的切入点，因为公众已经意识到人工智能中有一些值得担忧、值得关注的事情。

但你还没有办法让人们采取行动。例如，这些将有所不同的产品是什么？这是我们希望填补空白的地方，我们希望初创公司填补空白的地方。这种对不同事物的萌芽式消费者渴望，这种对人工智能的萌芽式消费者担忧开始被人们可以信任的产品所填补。我喜欢这一点。我的意思是，是的，你是对的。我确实看到了意识与拥有这些东西之间的区别，并且

当然，拥有它们而没有人意识到这一点没有任何好处。但正如你所说，我认为意识正在增强。但是，当然，我们有点像嘉年华的叫卖者，我们承诺了一些东西，并激起了对某些事物的需求。现在我认为需要迅速满足这种需求，否则我们将面临另一种反弹。那么，在你第一篇论文中，有没有什么你感觉自己错过了，而你真正希望这份新报告能够解决的问题呢？

我认为我们在第一份报告中没有足够关注开源，它确实已经成为一个关键的机会，也是一个关键的战场。机会在于，正如我们所看到的，人工智能中的权力更加集中，比我们三年前想象的要多得多，因为我们当时还没有进入生成式人工智能时代。

我认为开源可以成为对抗这种权力集中、让小型参与者分一杯羹的一个因素。当然，这必须与竞争监管和更直接地打破权力竞争等措施相结合。但在土地争夺发生时，开源似乎至关重要，可以用来对抗它。我们第一次没有谈到这一点。

与此同时，随着监管讨论的升温，你会看到各种参与者，我认为这其中可能有一些相当自利的参与者，他们质疑开源和人工智能的安全性，说如果开源落入坏人之手，人们以可怕的方式使用开源人工智能怎么办？当然，这是值得担忧的事情。任何技术都可能被恶意使用，而这很可能是一种非常强大的技术。

但一次又一次地，我们看到专有方法和开源方法都是如此，它们都可能被滥用。坦率地说，在许多情况下，开源方法使我们能够审查正在发生的事情，并比专有技术更快地解决问题。我们有一个环节，我们会问你一系列问题。这些是快速问答题。所以只要想想你脑海中首先想到的东西。你认为人工智能目前最大的机遇是什么？

我认为人工智能最大的机遇是，将仍然难以驾驭的数字世界变得消失不见，感觉自然而然，成为我们生活中的一部分，而现在它还不是这样。

并以我们拥有控制权和代理权的方式做到这一点。所以答案可能是我们今天拥有的许多网络浏览器、智能手机、界面都消失了，取而代之的是个人代理，这些代理是我们与各种数字事物、其他人、其他组织互动时自然表达自己的方式。

我喜欢“消失”的味道，我希望它是消失，因为我们不必担心它，而不是因为我们不知道我们需要担心它而消失。我想这就是我们刚才谈到的意识的一部分。你认为人们对人工智能最大的误解是什么？

当然，人们认为人工智能是一件事。人工智能不是一件事。没有任何人工智能。这只是一个计算时代，一系列学科，它们是关于利用数据来使计算机系统具有适应性，预测事物。

使事情感觉像自然发生一样。所以我认为我们不应该把这些东西看作是人工智能或任何形式的智能，而应该把它们看作是我们应该找到方法来使用、控制和塑造的东西，以便我们的生活更加轻松。这听起来对我来说很棒。我准备好享受更多轻松了。在你结束朋克摇滚生涯和你的“反核”生涯后，你想要的第一份职业是什么？

我一开始绝对想成为一名纪录片制作人，你知道，想通过讲述真相来改变人们的心态。也许我现在仍然在以不同的方式尝试这样做。也许现在软件比电影更有力，我想。我们什么时候在事物中投入了过多的AI？什么时候AI太多了？当我们谈论到

那些做出生死攸关决定的事情时，AI就太多了。当我们谈论到我们需要人性化感觉的事情时，AI就太多了，我们需要某种人性化的情感来做出良好的判断，或者实际上是在彼此之间建立联系。

所以，你知道，我们真的不应该使用人工智能来做一些需要有人为此负责的危险的事情。这仍然是人们的职责所在。当我们试图创造深刻的人际联系并让它模拟这种联系时，我们不应该使用人工智能。这就是我们彼此存在的意义。那么，你希望人工智能现在就能做到但目前还做不到的一件事是什么？我们有什么局限性？

我希望今天的人工智能真的能为我工作。我认为我可以在我的手机、我的笔记本电脑，甚至在云端拥有一个人工智能，我知道它真正对我的利益负责，并且能够以我自然地训练并随着时间推移而信任的方式与我们周围的所有其他自动化系统进行交互。通过我们的讨论，你谈了很多关于

科技巨头和市场力量之间这种相互作用，以及这些因素是如何结合在一起的。我认为思考这一点非常有趣。我们可以拥有过多的市场，就像我们可以拥有过多的监管一样。但从你的讨论中真正体现出来的一点是，这种平衡以及这些力量协同工作，将我们带到我们想要达到的目标，而不是被其中一种力量所支配。感谢您今天抽出时间与我们交谈。感谢您与我们交谈。谢谢，Sam 和 Shervin。

感谢大家的收听。我们刚刚完成了播客的第八季。我们将于3月19日回归，推出新的剧集，并在今年冬天为您带来几集特别剧集。我们希望您能加入我们。

感谢收听《我和AI》。我们相信，与您一样，关于AI实施的对话不会仅限于此播客。这就是为什么我们在LinkedIn上专门为像您这样的听众创建了一个小组。它被称为“AI for Leaders”。如果您加入我们，您可以与节目创作者和主持人聊天，提出您自己的问题，分享您的见解，并了解更多关于AI的信息。

并获得来自MIT SMR和BCG关于AI实施的宝贵资源，您可以访问mitsmr.com/AIforLeaders来访问它。我们将把链接放在节目说明中，我们希望在那里见到您。