How Microsoft’s AI Chief Defines ‘Humanist Super Intelligence’
43:00 Share

很少有人工智能开发者像微软人工智能首席执行官穆斯塔法·苏莱曼那样在这个领域拥有如此丰富的经验。他联合创立了DeepMind，帮助谷歌开发其大型语言模型，并在其之前的创业公司Inflection AI设计了具有个性的AI聊天机器人。现在，他的任务是领导微软在其消费者AI产品上的努力。在最新一期的《Bold Names》播客中，苏莱曼与《华尔街日报》的克里斯托弗·米姆斯和蒂姆·希金斯谈论了为什么AI助手是他对微软AI未来计划的核心。此外，他们还讨论了该公司与OpenAI的关系，以及苏莱曼对“通用人工智能”的真实看法。

布兹·艾伦首席执行官谈硅谷转向国防科技：“我们需要所有人。” 风险投资家郭莎令人惊讶的押注于不性感的人工智能 里德·霍夫曼表示人工智能并非“军备竞赛”，但美国需要获胜 Salesforce首席执行官马克·贝尼奥夫与人工智能“梦幻乐园”

阅读蒂姆·希金斯的专栏。 了解您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 无尽的等待时间、千篇一律的回复、奇怪的机器人声音。我们重视您的业务。请稍候。忘记旧的客户服务方式吧。借助 Google Cloud，您可以让每一次客户互动都充满个性化。我们的 AI 代理可以跟踪问题、提供不同的解决方案并随着对话的进行而调整。在 Google Cloud 和 Gemini 模型的帮助下，您可以更快地解决问题。谁不想要呢？

所以忘记旧的方式吧。了解如何在 cloud.google.com/AI 上让每位客户都满意。米姆斯，我们采访了一位身处当前最大科技新闻中心的人物。没错。穆斯塔法·苏莱曼联合创立了DeepMind。他曾在谷歌工作。现在他在微软工作，负责通过Windows、Copilot和所有微软产品将人工智能及其与OpenAI的合作带给消费者。

是的，这是一个巨大的角色。它也是一个复杂的角色，需要处理与OpenAI非常不寻常的关系。AI初创企业的宠儿，一家拥有自身巨大抱负的公司，我们正在实时见证它的发展。我们深入探讨了这一点以及这场快速发展的人工智能竞赛中的许多其他主题。接下来就是这些内容。

在我们进入正题之前，需要快速说明一下。《华尔街日报》的所有者新闻集团与OpenAI达成了内容许可合作关系。人工智能在科技领域一直很热门，但现在对整个行业和今天的嘉宾、微软人工智能主管穆斯塔法·苏莱曼来说，这是一个特别充满挑战和令人兴奋的时刻。微软很早就参与了生成式人工智能的热潮，并在2019年对OpenAI进行了首笔10亿美元的投资。

快进到今天，近140亿美元之后，我们《华尔街日报》的同事报道说，微软现在与其主要人工智能合作伙伴OpenAI不和。

我们与苏莱曼讨论了这场戏剧，这可能是科技行业目前最大的戏剧之一，以及苏莱曼为什么说微软需要自己独立于ChatGPT之外的人工智能。尽管我们是一家基于合作关系的公司，是一个平台的平台，但我们也必须在许多方面实现人工智能自给自足。

我们在今天的谈话中深入探讨了所有这些以及更多内容。苏莱曼对人工智能对战争的影响以及人工智能的真正用途进行了特别深思熟虑的思考。我认为，我们有责任设计真正服务于人类、为人类工作的、并以此为目的而设计的技术形式。对我来说，技术的目的是推动我们文明的进步，减少痛苦。

苏莱曼认为，人工智能不会取代我们，而是会成为我们最好的伙伴，或者至少是最亲密的知己和最值得信赖的顾问。要做到这一点，我们需要让人工智能访问尽可能多的数据，这需要信任。你的人工智能将学习你的……

你数据历史的本质。这本身仍然是个人身份信息。因此，它将是有价值的和个性化的，但它不一定需要完整的原始形式。

来自《华尔街日报》，我是克里斯托弗·米姆斯。我是蒂姆·希金斯。这是《Bold Names》，您将听到《华尔街日报》上刊登的知名公司领导者的声音。今天，我们问的是，在一个人工智能能够做我们几乎所有事情的世界里，人类还剩下什么？

穆斯塔法，欢迎。你已经多次谈到聊天机器人将成为每个人都会拥有的个性化AI助手。我很想知道，你为什么认为技术应该朝着这个方向发展？我认为每一次新的技术浪潮本质上都是一个界面，一个翻译层，使你能够与某个环境互动、从中学习，然后采取行动。例如，即使是一本书，

也像是一种界面层。我认为，随着我们几个世纪以来增加了新的功能，它们使交互层变得更加动态、更加个性化。这正是这条轨迹的顶峰。你的人工智能伙伴将成为你与数字世界之间的界面，帮助你

预订东西、购买东西、计划、学习、行动、与其他人联系。当然，由于技术现在如此强大，它们允许这种非常个性化、自适应的体验。我的意思是，就像我们不再观看向客厅里所有观看者播放相同电视频道的电视一样，我们在TikTok或Instagram或其他地方拥有个性化的内容推送。你的人工智能也会感觉非常个性化。

因此，这既是对技术自然可能发展方向的预测，也是一种设计意图。我喜欢这里的愿景。而且，就我个人而言，我很乐意得到你刚才提到的所有帮助，对吧？就像我的日常生活一样。我很乐意让AI助手真正了解我到那种程度。但是，如果我们消除了我们已经负责的所有事情，

那么作为人类，我们还剩下什么？它只会留下最困难的事情吗？因为我们已经消除了所有，你知道，正如程序员所说的那样，“剃牦牛”。但当然，我们中的一些人暗地里喜欢这样做。“剃牦牛”。我不得不说，我甚至不知道这是什么。这很酷。什么是“剃牦牛”？是的。

这是小事。就像当一个开发者说，“我要重构这个单元测试”，而不是我现在应该构建的程序架构一样。这就是“剃牦牛”。生活中无聊的日常琐事，对吧？或者工作。我明白了。我明白了。

听着，我不认为技术会那样运作。我认为技术主要创造了更多机会去做更多的事情，种类更多。

是的，其中一些事情消失了，但实际上很少。我的意思是，我们仍然在Excel上进行计算，即使我们不再使用计算器了。我相信你们现在写得更多了，因为你们可以在飞机上使用iPad工作，或者在走路或开车时可以进行口述。它是累加的，而不是减少的。

现在，你可以争辩说它不会总是这样。仅仅因为它大多是这种情况并不意味着它将永远如此。我认为，我们有责任设计真正服务于人类、为人类工作的、并以此为目的而设计的技术形式。对我来说，技术的目的是推动进步。

推动我们文明的进步，减少痛苦。我的意思是，这听起来很俗气，而且很尴尬，因为它就像一个典型的硅谷陈词滥调，但我感觉我可以这样做。我承认这一点，因为我从2010年就开始说这句话了，这基本上就是我的背景，但这正是我相信的。我认为这是，你知道，

我正在努力做的工作是尝试阐明拥有一个真正与你的兴趣一致、在你团队中、在你身边、为你辩护、有时推动你、向你学习、与你一起学习的副驾驶会是什么样子。对我来说，这就是我们真正想要并且肯定正在微软人工智能公司追求的那种超级智能。我很好奇，在一个从谷歌到苹果的每个人似乎都在试图开发AI个人助理的世界里……

你的微软战略的一个重要部分似乎是通过AI聊天的个性来进行区分。也许是人格工程，我想，这就是我听到你所说的。对于用户来说，日常工作是什么样的？这仅仅意味着对细节非常敏感，并且知道

AI回应中的一点犹豫实际上会让它感觉更熟悉，更值得信赖。声音中的一点“嗯”或“啊哈”实际上是一个非常强大的暗示，让它感觉不像，

像是在向你重复信息。像机器人一样。是的，像机器人一样。而且，你知道，这就是我们拥有的这种新的数字粘土的美妙之处。我们可以塑造以前从未存在过的新的形式。而且，是的，

你知道，在技术方面，我们有这种拟物化的想法，你知道，我们基本上只是直接复制物理模拟对象。所以，你知道，当他们30年前发明联系人数据库软件时，它有文件效果和活页夹，你可以翻阅数字卡片等等。所以它总是从简单开始，你知道，因为我们只是复制物理世界中的事物，但是，

这项技术比这强大得多。当我想到人格工程时，它比“啊哈”和“嗯”或那种兴高采烈的“当然可以”和“当然，我可以为你做到”要细致得多。我们都习惯了人工智能的公式化。

而且有点令人恼火。你可能不想要一个过于兴高采烈和热情的人。你可能想要一个更简洁、更精确、更高效的人。我觉得你这么说是因为你是英国人。我当然喜欢……如果你不对我凶，我不确定我们能不能成为朋友。就像……

这基本上是默认设置。我想，哦，他取笑我了。这意味着我们相处得一定很好。所以更像《安多》中的邪恶机器人，而不是C-3PO或WALL-E或最初的ChatGPT助手，对吧？

每个人都喜欢，“这太有魅力了”。然后我想，哦，我的上帝，我不能再听了。但这几乎就像汽车品牌或鞋子品牌一样，品牌的个性将是你的互动方式，是你看待世界的方式。没错。这就是品牌一直以来的样子，除了品牌可以使用的工具是静态的，并且

很少使用且非个性化的。就像你每周向相同的人发送相同的杂志一样。现在根本没有借口。我的意思是，我们将根据你的查询生成动态用户界面，这不仅仅是一个文本答案，而是整个用户界面、表格、图形、图像，所有内容。

整个事情都会为你展开。然后你会说些什么，整个事情会在你眼前重新配置。但是，为了达到这种个性化水平，它必须了解很多关于我们的信息，对吧？我觉得技术的历史就是我们分享越来越多的数据，错误被纠正，我们再次感到舒适。我的意思是，最近的一个例子，对吧，是在微软，你推出了

这个功能，就像，我们要每隔60秒或其他时间截取一次屏幕截图，如果你想让与这个设备的交互历史可搜索，这是一个完全合理的事情。这样我就知道一周前我查看的是哪个网页，而我又找不到它了。人们对此反应消极。这是一个暂时的状况吗？你将如何说服人们信任你

到能够保存个性化这种体验所需数据的程度？听着，我认为很多数据最终将是短暂的。当然，无论如何它都将是端到端加密的。所以我并不认为会有这些持久的大型历史个人锁。你的人工智能将学习你的……

你数据历史的本质。这本身仍然是个人身份信息。因此，它将是有价值的和个性化的，但它不一定需要完整的原始形式。而且，你知道，好消息是，它不会以传统方法存储，这些方法可能会泄露。它将以不同类型的数据表示形式存储，这实际上在AI的内存中更抽象。我听说你谈到确保这些机器人……

反映用户的价值观。我很想知道，你指的是什么？你知道，我认为你应该把这些算法看作是内容的重新构建者，就像你的报纸一样，你知道，它本质上是为每个人构建和重新构建内容，并带有视角。我认为这些算法和这些AI将做同样的事情。

而且我们显然在数字领域一直在努力应对的挑战是，它们是全球平台，呃，你知道，由我们美国公司建立，呃，

所以我们正在努力解决集体价值观的集合，以及反映个人群体或个人偏好的那些价值观。这是一件很难做到的事情。我认为我们才刚刚开始弄清楚如何做到这一点。我认为我们从社交媒体中看到出现的一件事是

用户开始生活在回音室里，对吧？他们受到的信息会迎合他们的偏见或观点。这是否会与用户选择反映其世界观的AI聊天一样，是一种回音室效应，他们只是在不断强化它？你知道，我认为这绝对是一种风险。我认为这次略有不同的是

在某些地方发生回音室的部分原因是，算法能够收集的反馈信号非常非常抽象。它实际上就像，你是否点赞了什么？你是否分享了它？你是否点击了它？你是否观看了X秒？这些维度非常非常简单，因此导致创建了简单的推荐算法。

而现在我们通过情感获得了纯自然语言的反馈。实际上，你知道，Copilot会问你，这是一个有帮助的答案吗？它有用吗？它有趣吗？因此，它不仅可以更详细地理解你想要什么以及你感兴趣的东西，而且还可以更详细地回复和回应。作为一个平台，我们的动机是创建一个公平、平衡、周到、你知道，

通常是公平的人工智能，而不是可能在其他地方出现的那种高度专业化的利基人工智能。因此，这就是我们作为人格工程师所承担的平台责任，因为策划这一点显然非常敏感，而且我已经思考了很多年了。是的，你刚才描述的内容中包含了更多力量，即使是在当今AI介导的社交媒体信息推送中也是如此。

你知道，我最近与一家情绪AI初创公司的创始人交谈过。而且，你知道，他说他非常担心聊天机器人会利用用户的感情，对吧？因为正如你所知，我们不仅仅是文本到语音和反之亦然。而且，你知道，现在所有前沿模型都真正理解你的语气、情感内容。你知道，你是否处于困境？通过说，“嘿，你知道吗？”很容易就能提高参与度。

我认为这个用户有这种依恋风格。让我们，让我们用负面评价让他们更频繁地回来，或者他们真的很喜欢被奉承。就像我们要确保会发生那样。对。嗯，

你如何应对这种情况？因为我认为普通人还没有意识到，一旦这些AI成为许多计算的默认界面，它们将拥有多大的情感力量。是的，我的意思是，听着，我认为这是一个真正的风险，你完全正确。你知道，从我之前的公司Inflection开始，

我就创建了一个名为Pi的AI，它被设计成富有同情心、善良、尊重，并且是一个伟大的倾听者，并且非常支持。今天一些更主流的AI会在你特别种族主义或其他任何事情时关闭。

我一直相信，积极的对话、认真对待人们、尊重和探索人们的非规范性判断是一件健康的事情，我们应该更多地鼓励它。好处是，这些AI将非常擅长倾听和尊重。现在，你可能会争辩说，在某种程度上，这就像建立信任以进行操纵的先决条件。

而且，你知道，我认为有很多方法可能会出错。同时，我认为我们当然，微软和Inflection，我在DeepMind所做的工作，

积极地欢迎更多的监督和监管。我认为这是一个比以往任何时候都更加紧迫的时刻，因为人们会想知道它在实践中是如何运作的？它实际上有什么观点？我认为这就是我们必须在与公众分享这些对话方面大胆和开放的地方。我认为我们还没有找到如何做到这一点。

我的意思是，这些模型实际上，当它们第一次发布时，有很多恐惧。我参与了谷歌的Lambda项目，我们基本上没有发布它，因为我们太害怕它会犯错误。而且，你知道，事实证明，实际上它们很快就变得更好。它们现在非常擅长遵循指令，并且擅长遵守风格控制等等。我认为，当考虑如何使它们安全时，这是一件非常好的事情。

谷歌没有回应我们的置评请求。我们刚刚听到，比我们自己更了解我们的人工智能将对我们拥有前所未有的权力。接下来，我们将听到苏莱曼为什么对即将出现优于人类的人工智能的愿景持怀疑态度。我认为，如果你正在筹集资金等等，显然有很多动机推理。而且，你看，有很多我非常尊重的聪明人认为它即将到来。所以，你看，我

我想，就像我之前说的那样，对我来说，目标不是为了超级智能本身。超级智能被定义为人工智能在所有任务上都与所有人类一样好。不仅仅是一个人在一个任务上，而是我们所有人集体放在一起，控制和包含像这样强大的东西。

你知道，这似乎是难以想象的复杂，并且将其与我们的利益相一致，并使其真正关心我们到足以不踩到我们，你知道，压碎我们。我认为，

我开始从事技术工作的原因以及我所热衷的事情是解决棘手的社会问题。我关心医疗保健。我关心能源。我关心粮食系统。我关心教育。这些工具将改变这些行业，并真正带来一个充满丰富的世界。就像，你知道，

这即将到来。在未来10到20年里，我真正相信我们将把能源生产成本降低到接近零边际成本，这决定了所有事物的成本。我真正相信，我们将在未来两到五年内拥有医疗超级智能，这意味着一个特定领域、受控、一致的医疗专家，能够诊断任何疾病，并能够在真实的临床环境中协调护理。

对我来说，这就是真正的奖赏。这就是我们努力工作的目标。这就是我所说的“人文超级智能”。这可能是你发现我更关注这些事情而不是超级智能本身的原因。这让我想起了你的一个同事以及他如何谈论眼前的未来，当然，那就是萨姆·奥特曼。你知道，我们《华尔街日报》的同事报道了……

在微软感觉像是健康的竞争，你的一些团队参与其中，你知道，与OpenAI的合作，你知道，有很多重要人物参与其中。风险非常高。我们是否看到了过去其他合作关系中出现的相同类型的创造性摩擦？

或者，你知道，在那里发生了什么，你与领先的人工智能实验室建立了合作关系，但你同时也在构建人工智能并使用它们的工具？这似乎非常复杂。是的。

我的意思是，首先，这种合作关系将被载入史册，成为双方在科技史上最成功的合作关系之一。在过去的六年里，两家公司都蓬勃发展，并且将在未来许多年继续下去，至少到2030年，希望远远超过这个时间。

听着，我们是一家价值3万亿美元的公司，在一个层面上，人工智能无疑是微软在过去50年里形成和塑造的技术产业的未来。

所以，你知道，尽管我们是一家基于合作关系的公司，是一个平台的平台，但我们也必须在许多方面实现人工智能自给自足。所以，你看，这是一个伟大的合作关系。它将继续下去。总会有创造性的摩擦。他们构建和销售API，你知道，以及显然的聊天机器人。我们也这样做。所以有一些紧张关系，但是

从根本上说，你知道，我们都在努力与谷歌和Meta以及所有其他公司竞争。

这意味着构建你自己的前沿基础模型吗？我不了解前沿，但我们多年来一直在开发我们自己的模型。它们往往是SLM，中等规模的模型，所以是小语言模型和中等规模的模型。但是，拥有能够为我们的产品、为我们的用例构建模型的专业知识，这对我们来说是一个重要的优先事项。我对……之间的关系非常着迷

OpenAI和微软。我很想知道，你多久与OpenAI的首席执行官萨姆·奥特曼谈一次话？非常频繁，一直都在。我的意思是，他是微软生态系统的重要组成部分，我们都在不断联系，包括萨蒂亚和团队的其他成员。他最让你印象深刻的是什么？最让你沮丧的是什么？

我认为他是一位杰出的有远见的人，ChatGBT取得了令人难以置信的成功。我认为他非常擅长让许多花朵盛开，然后确保他押注正确的花朵。在2020年之前的几年里，

他们押注游戏、模拟和机器人技术以及许多不同的方法，他们以正确的速度迅速放弃了这些方法，以便押注GPT-2和GPT-3。我认为他们做得非常好。是的，你知道，我前几天读到信息。他们最近有一份报告说OpenAI正在努力开发自己的工作场所程序，如Word，以允许用户进行协作。这感觉像是现在正在进入微软的领域。

你对合作伙伴的这种举动有什么看法？

我认为这很好。他们是一家独立的公司。我们碰巧拥有他们很大一部分股份，但我们与他们竞争。当他们成功时，他们与我们竞争。我们之所以成功，是因为我们拥有他们很大一部分股份。因此，我们对他们生产或不生产哪些产品没有任何影响。他们是完全独立的，他们可以自由地构建任何他们想要的东西。也就是说，OpenAI与你签订了这份非常有趣的合同

我从未理解过这一点。显然，它规定，如果他们实现了AGI，那么他们就不再与你独家合作了。嗯，这是真的吗？是的。

就像，你等着他们实现AGI，然后就是说再见？听着，这是一个复杂的结构。你必须了解它在当时是多么有远见和超前。你知道，在2019年、2020年，很难预测这会发展得有多快。

很少有人工智能开发者像微软人工智能首席执行官穆斯塔法·苏莱曼那样在这个领域拥有如此丰富的经验。他联合创立了DeepMind，帮助谷歌开发其大型语言模型，并在其之前的创业公司Inflection AI设计了具有个性的AI聊天机器人。现在，他的任务是领导微软在其消费者AI产品上的努力。在最新一期的《Bold Names》播客中，苏莱曼与《华尔街日报》的克里斯托弗·米姆斯和蒂姆·希金斯谈论了为什么AI助手是他对微软AI未来计划的核心。此外，他们还讨论了该公司与OpenAI的关系，以及苏莱曼对“人工通用智能”的真实看法。

布兹·艾伦首席执行官谈硅谷转向国防科技：“我们需要所有人。” 风险投资家萨拉·郭对非性感人工智能的惊人押注 里德·霍夫曼表示人工智能并非“军备竞赛”，但美国需要获胜 Salesforce首席执行官马克·贝尼奥夫和人工智能“梦幻乐园”

阅读蒂姆·希金斯的专栏。 了解您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 所以，我认为有很多事情需要处理，我认为团队一直在努力研究合同的后续版本。我相信我们会克服的。——我们联系了OpenAI征求意见。它没有回应。——我们刚刚了解到微软与OpenAI和萨姆·奥尔特曼之间密切但复杂的关系。但微软也是一家国防承包商，在人工智能改变武装冲突的方式中发挥着作用。

苏莱曼比他所在同类人工智能实验室中的大多数人更深入地参与了人工智能的这一方面。如果它没有让你感到害怕，也没有让你停下来思考，那么我认为你没有抓住重点，因为它将降低发动战争的成本和努力。即使是在民族国家行为者之间，这也只能是一件坏事。接下来是这个。

现在，一位科学家正在使用人工智能分析蛋白质，从而加快药物研发速度。一家大型零售商正在创建成功的营销活动。全球捕鱼船队正在绘制海洋未知深度的地图。人工智能不是未来的事情。它是现在的事情。谷歌云随时准备提供帮助。从预测性订购到定制旅行再到精确的医学影像，

谷歌云的AI优化平台可帮助您成就大事。这就是云计算的新方式。访问cloud.google.com/AI了解更多信息。你知道，如果你关注人工智能，你会发现埃隆·马斯克在那里

谈论世界将拥有比人类更多的人形机器人。萨姆·奥尔特曼正在谈论他最终想要建造戴森球，这是一种假设的结构，将围绕恒星建造以收集能量。一位Anthropic首席执行官表示，我们所有的工作都将在两年内消失。是的，很多人谈论人工智能就像谈论上帝一样。是的。

我只是很好奇，当我听你说话时，你对消费者以及我们现在如何使用它听起来非常务实。在这个人们试图谈论最疯狂梦想的时代，尝试将现在商业化是什么感觉？

你感到压力吗？我的意思是，我也对这些事情感到兴奋。而且，我，我绝对，我的意思是，我应该知道你的书名是《即将到来的浪潮》。我的意思是，你，你，你有一些，呃，你有一些兴奋。呃，是的。嗯，

是的。我的意思是，我，你知道，我一直追求丰富，你知道，在2010年到2020年之间，当我们艰难地度过指数函数的平坦部分时，这听起来很荒谬，除了游戏或论文之外，没有什么真正有效。而且我们的应用程序很少。尽管如此，你知道，对我来说一直很清楚的是，这，这，

增加更多数据和计算的复合方法

显然是在小规模学习结构。而且它显然显示出，随着规模的增长，它正在学习更多结构的迹象。所以我绝对相信，有一条路径可以无限地学习更多底层信息的结构，足以做出完美的预测。我只是更专注于这对我们这个物种来说实际上有什么用，对吧？

这应该是技术的任务。如果不是这样，那就出问题了。因为到目前为止，在人类历史上，这始终是技术的考验。它是否真的为我们服务？它是否真的使事情更便宜、更高效，改善了所有人的福祉和健康？到目前为止，它确实在几个世纪以来一直这样做。如果它没有做到这一点，那么我们就必须称它为其他东西，并以不同的方式管理它。

我不知道那东西将被称为什么。也许它只是赤裸的超级智能。但在我的世界里，我们必须构建人文主义超级智能。我认为这是一个重要的区别，让它感觉它真的站在人类一边。它确实给了你一个选择，不仅仅是消除你的收入，而是一个选择和自由，而进步和文明已经为

你知道，在过去的两个世纪里，至少有一半的女性不再被迫，你知道，至少在我们现代社会，许多女性更有机会接受教育，而不是被迫洗碗和照顾孩子等等。所以我们取得的进步确实改变了我们的世界。我认为，这就是我们在这里努力实现的伟大愿望。人工智能显然是经济学家所说的通用技术，对吧？

就像电力、汽车一样。有时它也让我想起火药，对吧？我总是回想起诺贝尔和平奖具有讽刺意味的起源，对吧？炸药。他真的认为，哦，这将成为和平的工具。战争将是如此可怕，它将永远不会再次发生。人工智能，直接的对应是……

它是武器系统中极其强大且日益必要的组成部分，对吧？就像我们正迅速走向未来，我认为如果你没有人工智能驱动的无人机在你身边，你将在战场上失败，就像在另一个时代如果你没有空军一样肯定。

你知道，一群领导人签署了，你知道，认可了禁止致命自主武器的禁令。显然，微软作为国防承包商发挥了作用，许多其他公司也是如此。我并不是在这里特别针对你。但是你认为你在那个世界中的角色和责任是什么？这是一个好问题。我认为早在2017年我就签署了那封信，还有埃隆·马斯克和其他人。

而且感觉比以往任何时候都更加紧迫。你知道，我在我的书中写过这个，看看成本曲线真是非同寻常。你知道，就像这些无人机显然会减少造成冲突和发动战争的努力和摩擦。

而且，随着我们在信号干扰器和阻断器方面的每一次进步，都有一种方法可以解决它。你知道，今天，连接到无人机的光纤电缆现在可以在战场上运行五公里，留下大量的纤维光缆网格覆盖整个景观。这有点像，你知道，有点像第一次世界大战战壕的版本。

仅仅是由于技术导致的景观变化。而且，嗯，

如果它没有让你感到害怕，也没有让你停下来思考，那么我认为你没有抓住重点，因为它将降低发动战争的成本和努力。即使是在民族国家行为者之间，这也只能是一件坏事。但是，如果你只考虑非民族国家行为者、小型团体现在将更容易扩展他们在世界上的影响力，我认为这将变得相当成问题。

我认为这是有趣的事情之一。我认为你回到几年前的最初想法，我认为当时的理念是人类应该始终参与其中。

但正如你所说，我们在乌克兰-俄罗斯战争中看到了限制无人机操作员通信能力的干扰技术，我们听到过像大卫·萨克斯这样的人说，他认为这会强烈激励无人机战争尽快实现自动化。所以这就像终结者技术，对吧？机器人正在那里试图执行任务。我想……

先把他说的话放在一边，但你认为应该有哪些保障措施？你在未来几年看到这场辩论将走向何方？就像，毫无疑问，自主性将更加危险。因此，你赋予它更多自由度，就会有更多机会让多人。

在战斗中发生冲突的人工智能陷入这种相互反应的循环。当你向系统中添加额外的自主性块时，会出现各种涌现效应。因此，我们应该谨慎和怀疑地对待它，因为我们最不想做的事情就是释放我们真的、真的无法控制的技术。我的意思是，那不是

人类进步的追求。所以我们都应该在这个问题上达成一致。我也理解反驳的论点，那就是它们应该更精确，减少平民伤亡等等。而且，你知道，我们，我们希望这是真的，但我认为我们中的务实者只是，你知道，知道，那，那并不是事情总是会发生的方式。我们已经接触到人工智能的许多不同部分，对吧？从生成式人工智能到，

到经典人工智能、媒体到战争。我的意思是，我认为这体现了微软在这个领域的雄心壮志，以及你经验的广度。你如何看待你在全球五大最有价值公司之一担任人工智能主管的角色？除了少数个人之外，你拥有比其他人更多的人工智能资源。

你认为微软在这个宏大的生态系统中扮演什么角色？我认为微软在过去50年中做得非常出色，每十年左右都会根据下一波技术浪潮调整其核心业务。

我认为使其成功的原因实际上是谦逊。这在萨蒂亚和凯文·斯科特（首席技术官）以及这里的许多其他领导者身上都非常普遍。有一种

对接下来会发生什么的开放心态，但也始终关注我们如何实际上不是为了技术本身而发明技术，而是将它们构建到真正为我们服务的人们和企业的产品和体验中。这就是我思考的方式，在我加入微软之前我如何思考，萨蒂亚也一直这样思考。所以

这实际上是一种哲学上的良好统一，而不是我的特定愿景，如果有的话。好吧，我认为在《Bold Names》节目中，我们已经用完了今天分配给我们的所有时间。所以这是一次精彩的谈话。感谢您抽出时间。非常感谢您邀请我。我很享受。很棒的问题。很有趣。我们联系了大卫·萨克斯征求意见。他没回应。

这就是《Bold Names》。我们的制作人是丹尼·刘易斯。本周我们得到了阿里安娜·阿斯帕鲁的额外帮助。迈克尔·拉瓦莱和杰西卡·芬顿是我们的音效设计师。杰西卡还创作了我们的主题音乐。我们的主管制作人是凯瑟琳·米尔索普。我们的开发制作人是艾莎·阿尔穆斯林。斯科特·萨洛韦和克里斯·津斯利是副编辑。法拉纳·帕特森是《华尔街日报》新闻音频主管。

更多内容，请查看我们网站WSJ.com上的专栏。我们在节目说明中添加了链接。我是蒂姆·希金斯。我是克里斯托弗·米姆斯。感谢收听。

无尽的等待时间、千篇一律的回复、奇怪的机器人声音。我们重视您的业务。请稍候。忘记旧的客户服务方式。借助谷歌云，您可以使每一次客户互动都感觉个性化。我们的AI代理可以跟踪问题，提供不同的解决方案，并随着对话的进行而变化。在谷歌云和 Gemini 模型的帮助下，您可以更快地解决问题。谁不想要呢？

所以忘记旧的方式吧。了解如何在cloud.google.com/AI上让每个客户都满意。