How AI is Changing Warfare ? Live at Web Summit Lisbon 2024
55:30 Share

本期节目由Indeed赞助播出。您刚刚意识到您的企业昨天就需要招聘员工。您如何快速找到优秀的候选人?很简单,只需使用Indeed。在招聘方面,Indeed就是您所需要的一切。停止在其他求职网站上苦苦挣扎以获得职位发布的关注。Indeed的赞助职位可帮助您脱颖而出并快速招聘。

使用赞助职位,您的职位发布会跳到相关候选人页面的顶部,以便您可以更快地找到想要的人。这会产生巨大的影响。根据Indeed的数据,直接在Indeed上发布的赞助职位比非赞助职位多获得45%的申请。

当我们最近为一个职位空缺使用Indeed时,反响令人难以置信。凭借如此高水平的潜在候选人,快速招聘和优秀招聘变得容易得多。此外,使用Indeed的赞助职位,没有月度订阅费,没有长期合同,您只需为结果付费。Indeed的速度有多快?根据Indeed的全球数据,在我与您交谈的这一分钟内,Indeed上完成了23次招聘。

无需再等待。立即使用Indeed加快您的招聘速度。本节目的听众将获得75美元的赞助职位积分,以便在indeed.com/intelligencesquared上获得更高的职位可见度。

是的,当然。

嘿,你把那辆车卖掉了?是的,卖给了Carvana。哦,我以为你卖给那个人了。那个想用外币支付我,36个月免息的人?是的,没有。Carvana几分钟内就给了我报价,取走了车并当场付钱给我。太方便了。就这么简单?是的。没有麻烦?没有。这太方便了。将您的汽车卖给Carvana,用便利代替麻烦。可能需要支付取车费。

欢迎收听Intelligence Squared,在这里,伟大的思想相遇。我是制作人Mia Carenti。在今天的节目中,我们将探讨人工智能如何改变战争的面貌。

自主武器、面部识别技术和工业规模的虚假信息系统已经在中东和乌克兰部署。随着各国竞相利用人工智能的军事潜力,我们面临着深刻的道德困境和关于人工智能在现代冲突中地位的严峻监管问题。为了讨论这个问题,Intelligence Squared在里斯本的网络峰会上举办了一个现场小组讨论。

研究员兼高级政策顾问Adam McCauley与大赦国际秘书长Agnet Kalimard和《经济学人》杂志副执行主编Kenneth Kukie一起,探讨了人工智能如何改变21世纪战争的面貌。让我们加入我们的主持人Adam McCauley,了解更多信息。大家好,欢迎。

这是Intelligence Squared播客,“人工智能如何改变战争”,我们正在里斯本的网络峰会上现场直播,我是您的主持人Adam McCauley。在本周的峰会上,我们探讨了技术发展的近乎无限的前沿,从折叠衣物的机器人到利用人工智能改进个人和职业生活的先进应用。

本周的对话和演示也带我们来到了技术与政治的交叉点。认识到技术的应用方式具有深远的社会和社会影响。这引出了我们今天的讨论:人工智能及其在战争中的影响。我们生活在一个有趣而不确定的时代。在我们所谓的日益加剧的地缘政治和强国竞争的时刻,

出现了,或者这个时代与围绕变革性人工智能的言论兴起同时出现。在这种背景下,对改变世界的人工智能能力的追求越来越被视为军事和政治视角,助长了一种说法,即这场下一场伟大的军备竞赛的赢家,可能会统治这个世界。

但这个难题的核心实际上是如何人工智能技术与人类制度和这些制度中的决策者发生冲突,以了解这些工具如何已经影响我们看待、理解和行动的方式。所以今天我很高兴能与我的小组成员一起。

在我右边的是Kenneth Kukie,他是《经济学人》杂志的副执行主编,也是《大数据:一场将改变我们工作、生活和思考方式的革命》和《制定者:人工智能时代的人类优势》等科技与社会类畅销书的作者。

在他右边,我有幸欢迎大赦国际秘书长Agnes Calamard,她是一位终身致力于人权事业的倡导者。她是前联合国法外处决问题特别报告员、前第19条组织执行主任和纽约哥伦比亚大学全球言论自由主任。很高兴今天能邀请你们两位来到这里。

所以我打算先打开这个话题。我认为这样一场对话的目的是将这样一个宏大而深刻的话题扎根在我们所看到的现实世界中。所以对于我们的专家,也许首先是Agnes,我想知道你是否可以带我们进入人工智能正在展开的故事,也许是在乌克兰或中东。

非常感谢。很高兴来到这里,并参与这场极其重要的讨论。我认为乌克兰战争证实了无人机造成的战争转型。我将特别关注无人机的使用,这表明未来的战争

将是关于最大限度地使用无人机和最小限度地使用人类,当然受害者除外。受害者将仍然是人类。所以我担任特别报告员时研究过无人机,我不会

反对当时无人机的扩散。那是六年前,五年前。从那时起,我们已经看到无人机使用的加速,越来越复杂,包括蜂群,

无人机将转向致命蜂群无人机。我们从我们听到的关于乌克兰局势的情况中知道,并非因为你使用无人机,你就不会攻击平民和民用基础设施。我认为我们需要记住

不断地,当我们处理人工智能时,我们需要回忆战争是为了什么,以及战争的本质是什么。我们需要记住,绝大多数战争不仅仅是在

士兵的尸体上和通过士兵的尸体进行的。它们主要是在平民、男人、女人和儿童的尸体上进行的,这些人与战争的进行无关。我们需要记住

多年来,在我们所谓的“人类文明”中,战争的目标是由于他们的种族、种族、政治异见以及一系列其他种族标志而消灭人民。我们需要记住,人工智能将使这种战争更有效。

它不会使它更人性化。它不会......好吧,它可能会使它更有目的性,也可能会使它更准确,但不是在针对可以被描述为合法目标方面。它将在针对那些在我们人类文明的漫长战争岁月中一直被针对的人方面变得更准确。

所以不要被那些告诉你“哦,但通过人工智能,我们将更准确”的人所愚弄。准确为了什么?让我们永远不要忘记我们的战争是为了什么。它们不仅仅关乎士兵。第一次世界大战是我们人类历史的一个巨大例外。所以乌克兰的无人机证明了这一点。

利比亚的无人机证明了这一点。在加沙使用面部识别技术清楚地表明了人工智能是如何被所谓的用来基于一组非常成问题的数据来瞄准个人的。

而且这些数据不透明,几乎没有问责制。

在大赦国际,我们非常关注这些我们所知的发展。在过去的一年中,我参加了许多会议,这些会议向我表明,世界各地的军队、世界各地的军事思想家目前正在关注乌克兰和加沙,以此作为学习的方式。

接下来的战争将会是什么样子。所以Agnes,感谢你的发言。这是一个重要的提醒,也许战争的本质并没有改变。但我们在这里要谈论的也许是战争的特征是如何改变的。关于这一点,我很想请Kenneth来谈谈他对技术进步,特别是当这些进步应用于这个领域时,是什么样子的看法。你对我们也许应该在这个活动中思考和谈论什么有什么想法?当然。

让我们首先同意战争是令人憎恶的,我们应该竭尽全力避免战争。对于那些家庭经历过第二次世界大战的残酷和可怕破坏的人来说,这并非一句空话,在欧洲,在世界任何地方的战争,他们都知道这在他们的DNA中,我知道我确实如此。

如果我们要发动战争,军事力量将试图获得技术优势,这只是一个事实。人工智能是这一迭代的下一个阶段。五角大楼的教条是应该有人在回路中或有人在回路中。他们同时使用这两个术语,这让我觉得那里不仅含糊不清,而且可能是一个短暂的教条。

因为如果你考虑人工智能技术的工作原理,其全部目的是取代人类认知,就像你不会让一位拥有图书馆科学博士学位的专家查看每个谷歌查询并接受它,然后将其提供给实际提出该请求的人一样。因此,在致命情况下,你总是会有人在回路中的想法,

没有多大意义。那么问题就变成了,我们如何约束或引导这些技术,使其在军事使用的有效性方面

军官认为它需要有效,同时最大限度地减少其不会给你带来军事优势的伤亡或意外后果。我完全同意Agnes的说法,即实际上是最近100年、150年来的转变,战争从军事对军事转变为军事对平民,这是我们应该努力根除的,

以一种非常令人厌恶的方式,你实际上更喜欢一个世界,在这个世界中,军队与军队作战,他们不会出于显而易见的原因轰炸平民。但如果你考虑一下二阶效应,我们仍然会进入一个机器对机器作战的世界,这并不是军队对军队,而是机器对机器作战。这随后变得有点更有趣,因为首先它将避免对双方都如此可怕的流血事件。

而且,如果你要发生冲突,至少它将是——它有可能更人道。尽管这听起来有些荒谬,但让我们记住,在过去的150年中,

我们一直在制定日内瓦议定书及其各种不同的版本,以便可以有一些战争法。事实上,看看冲突,无论是越南、阿富汗、伊拉克,还是现在的乌克兰,化学武器和生物武器以及核武器都没有被使用。化学武器在叙利亚内战中被悲惨地使用过。

但这就是说,在乌克兰的情况下,正在采取某种程度的克制。这不是全面战争。

这给了我们短暂的安慰,因为关键是战争的性质正在改变。它正在经历摩尔定律时刻,我们将对所有武器进行数字化,像坦克和飞机这样的大型武器可以被像无人机这样的小型武器击落,这将改变军队的性质、采购、当一名士兵意味着什么以及冲突本身的性质。

本期节目由NetSuite赞助播出。商业的未来是什么?问问九位专家,你会得到十个答案。通货膨胀上升或下降,利率将上升或下降。有人能发明一个水晶球吗?好吧,在此之前,超过40,000家企业已经通过Oracle的NetSuite为其业务的未来发展做好了准备。

排名第一的云端ERP将会计、财务管理、库存和人力资源整合到一个流畅的平台中。使用一个统一的业务管理套件,只有一个真实来源,为您提供做出快速决策所需的可见性和控制力。通过实时洞察和预测,您可以利用可操作的数据来窥探未来。

如果我需要这个产品,我会使用它。Oracle的NetSuite对于希望采取主动措施并充分利用未来机遇的企业来说,只是一个非常智能的工具。无论您的公司收入是数百万美元还是数亿美元,NetSuite都能帮助您应对眼前的挑战并抓住最大的机遇。

说到机遇,请在netsuite.com下载《首席财务官人工智能和机器学习指南》。这份指南可在netsuite.com免费获取。网址是netsuite.com。你会在每个场合都穿同样的鞋子吗?或者一周七天都穿同样的衣服吗?

当然不会。有了选择,你的风格会更好。你的投资也可能如此。SIBO指数期权使您可以访问各种合约规模、全球交易时间和潜在的税收优势。对于任何投资组合来说,这都是一个不错的选择。如果您准备好以风格投资,请访问betterwithoptions.com。SIBO公司产品存在风险。请查看SIBO.com/US_disclaimers上的披露和免责声明。

现在在Home Depot购物,精选家电最高可享35%的折扣。此外,精选家电(如Frigidaire)还可额外节省高达400美元。从带有保鲜抽屉的不锈钢法式对开门冰箱(可延长农产品的新鲜度),到五眼电灶(可让您一次烹饪更多食物,并更快地将饭菜端上餐桌)。

现在,精选家电(如Frigidaire)最高可享35%的折扣。Home Depot。能干的人做得更多。价格截止日期为1月9日至1月29日。仅限美国。请查看店内或在线了解详情和最低购买要求。

本期节目由亚马逊赞助播出。有时,生病最痛苦的部分是康复的部分。等待预约电话、坐在拥挤的候诊室、在药房排队,这些都很痛苦。亚马逊One Medical和亚马逊药房通过24/7虚拟就诊和送货上门等方式消除了康复过程中的痛苦部分。感谢亚马逊药房和亚马逊One Medical,医疗保健变得不那么痛苦了。

我的意思是,正如您所看到的,类似事情的影响是广泛的,但它也对我们大多数人提出了挑战,即试图理解这些变化的影响是什么样的。

因此,在这种情况下,一个有用的比喻是将其视为硬件和软件。您知道,Agnes在这里的例子是无人机的使用或无人机的扩散,以及这些无人机如何导航它们遇到的世界,在某种程度上是我们在技术方面看到的硬件创新的功能。

但它也有一个重要的软件方面,我的意思是更广泛意义上的软件。我们作为人类在拥有已发展流程的机构内,试图理解这些工具所实现的功能、它们允许我们看到的内容、它们如何塑造我们所看到的内容以及我们仍然在哪里,希望能够对它们的使用方式进行有意义的控制。在这种情况下,

我的意思是,我认为区分这一点很重要,我认为Agnes在这里有很多话要说,例如,在目标定位或识别潜在目标方面使用算法或机器学习程序意味着什么。

这让我们进入了一个关于冲突中区分和相称性等广泛话题的讨论,也许我们今天没有时间充分讨论。但这里的想法是,有一些重要的事情,不一定与军方在做什么有关,而是与他们如何去做有关,以及他们是否以同样的应有的考虑去做,以及道德和伦理影响和责任是否对那些拥有这种权力的人足够清晰,

但我希望从Agnes开始,也许可以解开一些我们看到这些工具在世界各地部署的方式的更具体的例子,以及至少乍一看似乎的影响。非常感谢。好吧,自从反恐战争开始以来,我们已经看到在世界各地使用了所谓的精确定点清除。

我想强调几点。首先,是的,直接目标可能是某人,你知道,可能是引号中的罪犯。但这并不能使他们蓄意的杀戮合法化。

特别是如果没有宣战或没有进行战争。所以在过去20年或更长时间里,我们已经看到在没有战争的情况下,通过使用无人机在境外蓄意针对个人。这是完全非法的。

所以第一点。第二点:这些武器的准确性问题很大程度上是有待商榷的。事实上,对于我们大多数监控这些武器的人来说,我们发现它们实际上不如

其他更主流的武器被使用。我们已经看到大量平民在所谓的附带损害中丧生。我们已经看到许多错误,因为定点清除和无人机所依赖的数据并非

准确的。只有在数据准确、数据实时收集、没有发生变化以及收集数据的基础足够好的情况下,目标才能准确。如果你根据年龄、性别和职业来收集数据,你很可能会瞄准那些没有犯罪的人。

我不会提及这样一个事实,即人们头顶上不断飞行的无人机是巨大的压力、精神疾病等等的来源。这就是无人机的现实,我们现在正在使这些武器更有效。我们正在朝着它们变得更自主的方向发展,甚至可能自主

摆脱人类控制,这是我们大赦国际强烈反对的事情,幸运的是,许多国家

正在反对致命自主武器系统。这就是可以完全自主地确定何时以及如何瞄准的武器系统,摆脱任何形式的人类控制。对我们来说,这是一条绝对的红线,原因有很多。我还可以谈谈

例如,在加沙使用面部识别技术来瞄准记者。

通过定点清除,瞄准可能多达15,000名年轻男子,据说是因为他们的年龄,因为他们的性别等等,他们一定与哈马斯有关联。这些根本不是我们应该追求所谓的军事对军事战争的方式。所以我将邀请Kenneth在这里回应。是的,Agnes,让我问你一个问题。

你反对人工智能武器还是反对武器?我反对那些被非法使用和违反国际法的武器,第一点。我反对那些被宣传和宣传为所谓的更精确的武器,而事实上证据表明它们不仅不更精确,而且更致命。所以如果人工智能武器更精确,

让我们先把杀伤力放在一边。如果人工智能武器更精确,并且有宣战声明,那么就可以了。不。

因为我们所说的准确性是什么意思?如果你使用人工智能来根据种族、种族、性别来瞄准人们,这就是战争一直以来的样子,那么对不起,但人工智能武器对我们整个人类都极其危险。所以我将给Kenneth一个机会来回应。他问我问题,所以我回答。我质疑

战争是否总是与种族和性别相关的问题有关。有时是关于领土的,可能只是关于民族主义的激情。但是

我担心谈话正在朝着一个方向发展,在这个方向上,我们都会同意战争是糟糕和令人遗憾的。我们需要宣战才能使冲突在某种程度上变得光明正大,这种想法很奇怪,因为我认为没有,我认为没有宣战了。这是一种非常19世纪的外交礼仪,在21世纪实际上已经不再存在了。

人工智能武器将成为生活中的一个事实。所以问题将是,我们能否使人工智能武器更人道,尽管这听起来很令人憎恶,但我们可以用任何方式来定义它。我们可能定义它的一种方式是说武器应该更精确而不是更不精确,因此它实际上攻击的是目标而不是非目标。

很多人可能记得维基解密的早期泄密事件之一,阿帕奇直升机射杀了在阿富汗似乎是武装分子的人,但实际上是记者。它被认为是一种武器,实际上是一个摄像机。那里有孩子,你可以听到录音。

个人的声音说,好吧,这就是你把孩子带到战争剧场时会发生的事情。从未想到这些人实际上是完全误认,一场悲剧正在发生。

在这种情况下,你可以从概念上想象一下,如果有一个小型人工智能哨兵,我们称之为联合指挥官,正在观察正在发生的事情会发生什么。人类仍在做出决定,他们可以行使仁慈。他们必须有一些判断力。他们有道德责任。

但它可以说,“检查一下。稍等一下。停顿一下,考虑一下这可能是误认。”你可以想象,摄像机的像素比人眼更好,会说,“嘿,这是一个摄像机。

这不是卡拉什尼科夫。你甚至可以想象面部识别会说,“哇,这是新闻界的一员。我们已经让他获得了认证。他参加我们的简报会。这不是武装分子。他可能与武装分子在一起,但看起来,不,不,这些是平民。这些是平民。后退。停止。”我认为我们很多人都会说,“嘿,如果我们要面临令人遗憾的战争环境,那就是我们可能想要减少战争伤亡的事情。”

所以我将从Kenneth的观点出发,给Agnes一个机会来回应,因为我认为问题是,如果冲突是不可避免的,对吧,如果它以某种重要但不有益的方式根植于我们作为人类社会相互交往的方式,那么我们可以更精确地做到这一点的想法确实提供了一些希望。

我认为你将要告诉我们,然而,让我们说,目前的模型和当今面部识别的使用可能会为此提供反驳论点和证据。但我不知道你是否可以谈谈我们发现的具体情况,我们看到这些类型的技术在哪里部署,它帮助我们了解我们在战争中对环境了解多少的程度,因为战争是那种非常不确定的情况。

好吧,我可以告诉你,在战争之外,面部识别技术不成比例地针对种族社区、穷人,而且绝对没有证据表明面部识别技术本身就天生不侵犯隐私权。

如果你说的是现在最常用的那种,它依赖于搜刮数百万、数万亿张你面孔的数据。我相信这件事正在发生。

你没有授权给他们,这就是这项技术的发展方式。因此,它天生就是一种设计上的侵犯人权的行为,通过它的创造方式,通过它的应用方式,

我们大赦国际监测的每一次实施都突显了其实施的种族维度,非法使用该技术来支持非法使用武力等等。我们已经记录了该技术的用途

在约旦河西岸和加沙被占领土。在所有这些情况下,我们都看到它被用来侵犯巴勒斯坦人的权利,包括在约旦河西岸的行动自由。它目前在加沙被用来侵犯那些仅仅因为他们是特定年龄的男性,因此似乎与所谓的恐怖组织有关联的个人的生命权。

面部识别技术没有任何东西可以用来尊重人权,因为它们的设计本身就不尊重人权。因此,对于大赦国际来说,这种大规模的监控技术正在为大规模侵犯人权打开大门。

你知道,准确性问题,能够根据一个人的脸来挑选一个人,尽管反复提出了关于准确性的问题。我又回到了战争的本质。我的意思是,在一个理想的世界里,我们可以让机器对抗机器,而现在在这个世界上,

在未来,我们在哪里会发生这样的战争?即使在俄罗斯、乌克兰,这可能是技术最先进的所谓的战争,乌克兰人每天都在死去,平民每天都在被杀害。所以,你知道,战争可能是为了领土而进行的。那是什么意思?你不会杀死那些领土上的平民吗?当然,你会这么做的。

除非我们改变人性,这是极不可能的,把这种武器交到我们人类手中就是杀死人类。我们已经在用战争杀害人类了。所以问题是,如果我们拥有一种比人类速度快得多的技术,

这将对其能力的外围产生未知的影响,实际上将能够比我们更快地玩更复杂和更远的战略游戏,不仅仅是更快,而且更远。同样,如果你要下棋,一位特级大师可能可以考虑所有不同棋子的五个步骤,但如果这可以考虑50个步骤,那么它在未来会获得更大的优势。

如果我们要使用这些工具,当然我甚至没有提到杀伤力,杀伤力将大得多,尽管实际上人工智能并没有改变杀伤力。杀伤力是一个不同的问题。人工智能只是改变了这种杀伤力的交付时间、地点和方式。

人工智能正在改变战争的面貌。自主武器、面部识别技术和工业规模的虚假信息系统已经在中东和乌克兰部署。随着各国竞相利用人工智能的军事潜力,我们面临着深刻的道德困境和关于人工智能在现代冲突中地位的严峻监管问题。在里斯本网络峰会上现场录制,主持人亚当·麦考利与大赦国际秘书长阿涅斯·卡拉马德和《经济学人》副执行主编肯尼斯·库克一起讨论了人工智能如何塑造21世纪的全球战争。如果您想成为会员并访问我们所有完整的对话以及我们所有仅限会员的内容,只需访问intelligencesquared.com/membership了解更多信息。每月4.99英镑,您还将收到:- 无广告的完整版Intelligence Squared剧集,无论您在哪里收听播客- 奖励Intelligence Squared播客、策划的Feed和仅限会员的系列- Intelligence Squared所有活动的直播和现场门票享受15%的折扣......或者在Apple上订阅,价格为4.99英镑:- 无广告的完整版Intelligence Squared播客- 奖励Intelligence Squared播客、策划的Feed和仅限会员的系列......已经是订阅者?感谢您支持我们促进诚实辩论和引人入胜的对话的使命!访问intelligencesquared.com探索您所有的福利,包括无广告播客、独家奖励内容和抢先体验......在此订阅我们的新闻通讯,了解我们最新的活动、折扣等等。https://www.intelligencesquared.com/newsletter-signup/了解您的广告选择的更多信息。访问podcastchoices.com/adchoices了解您的广告选择的更多信息。访问podcastchoices.com/adchoices</context> <raw_text>0 如果我们要拥有这项技术......如果无人机可以携带大规模杀伤性武器,它确实会产生影响。它仍然是一件基础设施。它在飞行。无论它是因为人类操作员把它带到那里还是人工智能把它带到那里,它都在飞行,并且投下它的有效载荷。除了有一些

关键在于,如果我们要拥有这些——是的,有很多。明年将有200架。后年将有300架。他们没有超大型飞机。他们有无人机。对不起。更广泛的问题是,如果我们要拥有这些武器,

那么我们就必须找到一种负责任地管理它们的方法,要知道,在某些方面,以一种奇怪的方式,它们比我们更聪明。它们做得更好、更快,等等,比我们做得更复杂。那么这些规则是什么呢?因为我认为仅仅说战争是坏的会把我们带入死胡同,因为我们仍然会发生战争,但我们将要进行一场拥有AI武器的战争,而我们将无法应对。

现在我确信,由于沟通并不总是存在,因此“人机环路”不可能是这个问题的全部答案。你仍然会有所谓的“徘徊弹药”。它仍然会看到目标列表上的基础设施、人员或穿着制服的士兵,并且它会想要俯冲下来对其采取行动。委婉地说,它会想要杀死它或炸毁它。

别用委婉语,让我们谈谈真实情况。因此,如果我们要拥有这种增强的能力,而我们的对手也在制造武器,并且我们感到有必要(因为不这样做是不负责任的)来匹配这种能力,以便我们可以拥有力量均势,希望避免冲突,

我们现在陷入了困境,而困境在于我们没有一种理论来理解人工智能武器,它与20世纪核武器的情况看起来非常不同。核武器很大,需要一个国家来制造。它们很大,因此它们是可见的。首先......

你在核武器谈判条约中做的第一件事就是计数,然后说:“如果你给我看你的,我就给你看我的”,你看到了百万吨级当量。然后你开始讨论,嗯,百万吨级当量的形式是什么,距离是多少,需要多长时间,你有多少?你开始尝试限制它们。通过披露你的能力,你实际上可以试图降低战争的威胁。

但人工智能不同,它是隐形的,它是软件创建的,它是在人们的笔记本电脑上作为模型创建的,然后它在数据中心使用,而披露你的能力就是放弃优势,这与核武器谈判世界不同,所以

我们如何应对一个拥有AI武器的世界,要知道我们将需要与我们的对手匹敌,因为我们不想成为他们的受害者?我们以乌克兰战争为例,看到了受害者和侵略者。所以我们陷入了困境。人工智能战争时代的理论会是什么样子?有了FanDuel,NFL季后赛更精彩,因为现在新客户可以下注5美元,获得200美元的奖金投注。保证。这是200美元的奖金投注。输赢皆可。

FanDuel,NFL的官方体育博彩合作伙伴。21岁以上,且在特定州提供。仅限首次在线真钱投注。需要5美元的首存。奖金以不可提取的奖金投注形式发放,在收到后七天内过期。适用限制。请访问sportsbook.fanduel.com查看条款。有赌博问题?请致电1-800-GAMBLER。

如果您需要新的电器,现在是购买的好时机。全行业的价格上涨即将到来,但Bray & Scarf现在可以为您提供所有门店的最后一刻节省。次日和两天内送达库存畅销商品。在所有库存的KitchenAid洗碗机和Whirlpool洗衣机和烘干机上节省大量费用。购买其他商品?别担心。您仍然可以通过Bray & Scarf的最佳价格保证获得最低价格。访问我们任何便利的地点或在线访问BrayAndScarf.com进行购物。在那里,获得更多并不意味着花费更多。

我认为我们可以让这场对话更贴近现实的一种方法,让我们说一下这些技术的直接影响将在冲突背景下产生影响的方式,那就是真正理解它们如何改变我们作为人类决策者参与这些问题的方式。因此,我们已经谈到了一些关于预期未来环境的速度和复杂性。这些正是军队思考下一步行动的主要驱动力。

我们不能不竞争的想法,这种竞争是什么样子,我认为还有待确定。但我们认识到,它将具有极其复杂的科技元素。但这也会带来一个问题,尤其是在这样的环境中,我们越来越多地谈论今天的人工智能比昨天好多少,以及我们可能离成功实现明天的能力有多近,

当我们试图理解未来这种复杂性、人类已知处理能力有限的数据程度时,这意味着什么,因为它确实让我们想起或至少

它集中了一系列关于如果我们认为冲突和冲突的速度实际上正在增加,那么在围绕冲突的决策中,有意义地参与意味着什么的问题。所以我想从肯尼斯那里开始,因为我认为它最终会带我们去理解这在国际体系中更普遍的意义。对。这是一个重要的问题。我认为很多人都不明白。所以我将尝试简化它。我简短地说。

有一种叫做计算机的东西。计算机是你编程并赋予指令的东西,你定义你想要什么,它就会产生输出。你实际上可以回到代码中,因为是你编写了代码,所以你可以看到它为什么这样做,因为你要求它这样做。这是指令。这是明确的。但对于人工智能来说,它正在进行预测。这是一个推论。因此,数据进入。它自己创建规则、权重,输出变得明确。

一些隐含的东西。这不是明确的指令。这是它做出的推论。这是一个预测,这张脸是我而不是你,这笔字迹表明这是一张100美元而不是90美元的支票,等等。所以,如果我们生活在一个拥有这些结果的世界中,

当我们拥有更多数据时会发生什么?好吧,机器学习和深度学习已经发展到这样的程度,它可以发现我们无法发现的东西,因此知道。有很多研究,但一个例子是,如果你拍摄眼睛的视网膜扫描,并将其放入机器学习算法中以识别视网膜的非眼部疾病,而是像心脏骤停这样的心脏病,

事实证明,仅仅从眼睛本身,它就可以识别某人发生心脏病的可能性。现在,它在看什么?很难解释这种可解释性,但它可以做到这一点,并且可以以令人难以置信的准确性做到这一点。因此,在某些情况下,它能够识别我们实际上不知道的事情

因果关系知识,为什么它在识别和执行它,然而在某些情况下,它几乎100%准确,它95%准确。因此,如果你愿意,人工智能已经在某些领域超越了我们的认知能力。

我们可以验证它是准确的,但我们不知道为什么。这就是为什么它可以击败世界上最好的围棋选手,并且可以走一步,第38步,这似乎是荒谬的和所谓的“错误”,结果15步、25步之后,它实际上是使它获胜的关键一步。如果愿意,这在围棋世界,也是在人工智能世界中,是一个“我的天哪”的时刻。

每个军事规划者都看到了这一事件,并意识到,好吧,如果就像在国际象棋游戏中一样,你牺牲了你的王后,但你赢得了比赛。如果我必须牺牲一个完整的营,因为人工智能系统告诉我我会赢得战争,会发生什么?我该怎么做?好吧,作为指挥官的压力一方面是人道的。我不想牺牲我全体战友的整个营。

另一方面,如果人工智能系统是对的,那么通过将对手的所有注意力都吸引到那里来进行这种牺牲,允许我做其他事情,但这可能非常复杂而且遥远,以至于我看不到,但机器看到了,我能够获胜。我这样做有很大的压力。

好吧,如果人工智能错了,我会有更大的问题。但这就是我们面临的困境。一项技术超越了我们理解其工作方式的能力,在许多情况下,它确实准确无误。因此,关于这一点,我认为我会把阿涅斯带回来。我认为这里的一个挑战是

模型设计,或者准确地理解我们认为我们知道的关于社会空间的东西,然后设计算法来以比我们个人可能拥有的更大的灵活性来导航它,这也使我们对我们可能在暴力和伤害的使用问题周围,以及暴力和伤害在我们社会以及更普遍地在世界各地出现的道德和伦理要求的理解复杂化。

这还使我们间接地进入关于自主性的这个问题。因此,至少从你的角度来看,谈谈我们应该如何理解我们可能通过技术获得的这种增强型决策能力,以及它适合什么地方。我们应该问什么类型的问题,关于它何时被使用以及使用它的后果可能是什么?所以我们需要记住的第一件事是

人工智能技术已被反复发现可以开发自己的计算机模型。因此,它具有修改自身的能力

而人类并不完全理解所谓的“黑盒”现象的原因。因此,我们永远不应该忘记,我们拥有一种我们可能无法控制的技术,或者实际上确实无法控制。使用,包括,现在将这项技术置于武器系统的核心,我认为我们需要充分意识到

事实上,仅仅由人工智能驱动的武器具有巨大的潜力,可以完全自主地掌控自己的生命。因此,最关键的因素是人为控制,因为,你知道,

如果我们要朝着这个方向发展,就需要对这种人工智能驱动的武器进行有意义的人为控制。这是什么意思?关于有意义的人为控制意味着什么,有很多讨论。

因此,对于大赦国际来说,我们已经在许多方面采用了国际红十字会倡导的两级制度。这意味着不能设计成允许有意义的人为控制的自主系统必须被完全禁止。这是第一点。

这包括以无法充分理解、预测和解释其影响的方式设计或使用系统。我会说这是第一层。其次,自主武器系统

即使它们具有有意义的人为控制,也必须受到监管。它不是对一切敞开大门,当然,这种监管必须以国际人权法、人道主义法以及关于国际法本身将要制定的任何原则为前提。第三,国家必须承担积极义务,在所有情况下保持

对武力使用的有意义的人为控制。这就是

现在大多数思想都集中在哪里,所有在该领域工作的人都在走向哪里。这也是我们要求作为一项目前正在讨论的条约的基础。有129个政府接受了该条约的理念,即有意义的人为控制的理念。关于“有意义”的含义仍然有很多讨论。

我想再次强调,只有一条道路,那就是围绕维护人的尊严和人的自主性,包括对可能使用的最致命武器的自主性。

它可能会保护我们,或者如果这些武器确实掌握在我们信任的政府手中,我们可能会产生保护的概念。我们需要再次理解,我们生活在一个我们无法预测谁将成为我们下一任首相的环境中。

我们无法预测谁将能够使用这些武器。我们需要了解,无人机技术现在掌握在许多我们不希望出现在我们自己领土上的武装团体手中,并且无人机技术很容易出口、复制和

被个人使用,个人,而不仅仅是团体或军队。他们不会受到我正在谈论的条约的影响。这就是为什么现在监管绝对是关键。

这绝对是关键。它不能是一个无法无天的世界,每个人都可以随心所欲地做任何事情。因此,鉴于我们剩下的时间,我确实希望我们还有两天时间来解开这些问题中的许多问题,

我想转向,特别是对于我们这里的观众来说,关于这个问题的公共和私人伙伴关系方面的问题。我们谈论了很多监管。国际体系中的执法非常难以执行。当参与者数量增加时,它就更加困难。正如我们在这里所知,从某种意义上说,技术已经使参与暴力或使用暴力(正如你所看到的)的能力民主化了。

因此,对于小组成员来说,在我们剩下的不幸的两分钟时间里,我想知道我们能否讨论一下监管的主要障碍是什么?例如,在我们在这个领域做出有意义的改变之前,我们必须看到哪些事情发生?然后我将向观众开放,提出任何剩余的问题。

是的,我先开始。所以在基本层面上,你需要双方都认识到他们将要开发这些武器,但他们需要互相交谈,并分享一定程度的能力信息和所谓的理论使用。理论非常重要。冷战是......

冷战始终保持冷战。它从未变得激烈,很大程度上是因为这种理论的概念。这意味着双方军队都有一个战略,并且它是成文的,所有军官都接受过这方面的训练。他们总是知道它是什么。所以这就像一个华尔兹,这些是规则,而且是一报还一报。因此,当一艘潜艇进入其他人的领海时,另一艘潜艇会做其他事情。它以一种非常有礼貌的方式进行管理。这是一场冷战。所以......

那种程度的

20世纪,很难想象它今天在我们当前的民主制度中存在,无论是在美国、中国等等,我们都在言语上互相辱骂。然而,我们仍然需要军队在一定程度上能够坐下来互相说,这就是我们拥有的,这就是我们想要使用它的情况,我们实际上可能彼此强烈反对,但是

在某种程度上,双方都有和平的利益。因此,军队之间会发生肌肉弯曲,但也存在一定程度的军事信息共享,因此,当美国的侦察机紧贴中国海岸时,当来自北京的气象气球(这是一个侦察气球)盘旋在美国本土上空时,它不会升级成截然不同的事情。

可怕的。因此,这种国家间的沟通至关重要。美国曾试图与中国建立热线,并试图测试它,但中国没有接听。这是一个大问题。如果你如果人是如果你的对手实体甚至没有这种外交上的“对话”,你就无法开始在危机中需要的那种情绪缓和。

所以阿涅斯,我会把最后的评论留给你,然后我们会转到问题。所以你问的是在寻找前进道路方面有哪些困难。我的意思是,第一个问题前面已经强调过了。那就是我们生活在一个世界中,谁主导、谁控制、谁理解人工智能主导世界。因此,现在几乎没有动力

来结束任何类型的人工智能驱动的研究,包括与武器相关的研究。几乎没有动力,因为任何寻求自我监管的人都可能面临落后于其他竞争对手(包括其他政府)的风险。因此,在一个技术发展如此迅速的时代,

几乎每六周就会出现一项新技术,很难找到令人信服的方法,说服政府和私人行为者寻求监管。第一点。第二个问题是,虽然至少在西方世界,可能有一种理解和控制的方式,包括通过仍然存在的民主进程,

军队中发生了什么,但对私人行为者的控制要少得多,其中许多私人行为者非常强大且非常富有,富到可以把人送上火星。所以这个

人工智能的力量,私人行为者的发展必须受到监管。欧盟正在试图这样做,但到目前为止还没有取得很大的成功。在过去的三四年里,美国

事实上是三年,试图至少规范这个行业的技术的一个方面,即对间谍软件和监控的担忧,并且已经相对成功。但我们不知道几个月后会发生什么。

就私人公司而言,以及监控技术、间谍软件、武器等等的发展而言,现在是一个狂野的西部。这是第二个主要问题。但我认为,政府应该,也许这很天真,但是,你知道,

归根结底,我们也需要被某种形式的自我保护所激励。这是一种想要控制和主导世界的方式。如果你最终主导了一个巨大的黑洞,那就什么也没有了。所以我希望人们和

公司和政府在不久的将来会明白,自我保护必须接管,并且只有一条前进的道路,那就是监管、监管、监管,好吧,谢谢,我想感谢我们今天的小组成员的对话,感谢观众提出的所有问题和你们的关注,再次感谢Intelligence Squared和网络峰会邀请我们,请享受峰会的剩余时间

感谢收听Intelligence Squared。本集由我自己Mia Sorrenti和Leila Ismail制作。它由Bea Duncan编辑。您一直在收听Intelligence Squared。感谢您的收听。

但我告诉你一个小秘密。它不必如此。让我指出一些东西。你现在正在收听播客,这很棒。你爱这个主持人。你会主动寻找并下载它。你在开车、锻炼、做饭,甚至上厕所时都会收听它。播客是一个非常亲密的伙伴。

这是一个播客广告。我引起了你的注意吗?您可以通过Libsyn Ads联系像您一样优秀的听众。从数百个顶级播客中选择,提供主持人推荐,或在数千个节目中播放像这样的预制广告,以在他们最喜欢的播客中通过Libsyn Ads接触您的目标受众。访问LibsynAds.com。这就是L-I-B-S-Y-N ads.com,今天就来吧。