Horacio Rozanski表示他痴迷于速度。作为Booz Allen Hamilton的首席执行官,该公司帮助政府机构利用私营部门使用的最新技术进步,他深入了解了全球人工智能发展竞赛,尤其是在战争领域。Rozanski如何看待美国政府与硅谷之间关系的演变?他在最新一期的《Bold Names》播客中与《华尔街日报》的Christopher Mims和Tim Higgins进行了交谈。
这位首席执行官表示全球贸易已崩溃。接下来会发生什么? 风险投资家Sarah Guo对非性感人工智能的惊人押注 这位前美国国际开发署负责人对埃隆·马斯克和DOGE有何评论 Palmer Luckey的“我告诉过你”巡回演出:人工智能武器和证明
阅读Tim Higgins的专栏。 了解您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 无尽的等待时间、千篇一律的回复、奇怪的机器人声音。我们重视您的业务。请稍候。忘记旧的客户服务方式。借助 Google Cloud,您可以使每一次客户互动都充满个性化。我们的 AI 代理可以跟踪问题、提供不同的解决方案并随着对话的进行而变化。在 Google Cloud 和 Gemini 模型的帮助下,您可以更快地解决问题。谁不想要呢?
所以忘记旧的方式吧。了解如何在cloud.google.com/AI上让每位客户都满意。嘿,Mims,在我们与今天的嘉宾交谈之前,您是否想过如何在太空中疏通马桶?说实话,这个问题并没有让我彻夜难眠。但当然,我现在必须知道了。我也是。
但在今天的节目中,我们与Booz Allen的首席执行官一起解决了这个难题以及更多问题,还讨论了该公司如何处理与Doge和特朗普政府的裁员以及与中国人工智能的竞争,以及为什么它要与Meta和Palantir等大牌公司合作。这次谈话有很多惊喜。您一定不想错过。接下来就是。
在我们开始谈话之前,快速说明一下。我们在以色列和美国袭击伊朗核设施之前录制了这次采访。现在,让我们开始节目吧。特朗普政府的到来以及对寻找政府效率的强调影响了许多人的生活。但有些人确实感受到了这一点,比如Booz Allen的首席执行官Horacio Rosansky。
该公司98%的收入来自美国政府。它所做的许多工作都是如此秘密,以至于Rosansky甚至无法谈论它或透露这些巨额合同的用途。这项工作,就像孩子们说的那样,神秘而重要。
Rozanski告诉我们,他总体上同意使政府更高效的努力。我们在监管方式和政府做事方式上存在如此多的重复,以至于可以节省大量资金。Rozanski称Booz Allen是一家科技公司,它帮助政府机构利用私营部门使用的最新技术进步。
他的角色使他能够独到地了解全球人工智能发展竞赛,特别是与中国的竞赛。如果我们都相信,就像我相信的那样,人工智能是未来20到25年的主导技术,我们需要美国领导地位走在前列。对我来说,这又回到了速度上。我们有货,我们只需要更快地交付它们。
来自《华尔街日报》,我是Tim Higgins。我是Christopher Mims。这是《Bold Names》,您将听到《华尔街日报》上刊登的知名公司领导人的声音。今天,我们询问的是,政府咨询公司Booz Allen如何应对特朗普政府的削减以及在硅谷转向国防科技中寻找机会?
欢迎,Horacio。期待讨论您如何看待Booz Allen作为一家科技公司以及中国人工智能发展对美国的威胁。但首先,让我们讨论一下与贵公司和华盛顿特区当前局势相关的棘手问题。当
该公司98%的收入来自与美国政府相关的业务。特朗普政府的效率努力确实针对贵公司和其他公司。政府效率的现状如何?我认为对许多人来说,埃隆·马斯克挥舞着链锯的形象浮现在脑海中。现在他已从Doge退出。现在对您来说一切都好吗?是的,您被Doge骗了吗,然后他退出了?是的。
你知道,让我首先说,我认为我们都应该赞成效率。每个大型机构都必须不断寻找提高效率的方法。如果您是联邦政府,也许一种思考方式是您的董事会拥有535名成员,众议院435名,参议院100名。实际上很难做到尽可能高效。所以
坦率地说,很久以前我们就站在变革和效率一边了。我认为我们都可以争论的是这种特殊的方式吗?那种特殊的方式吗?什么更好?我认为这是公平的游戏。
但我认为我们不应该——任何人都应该反对一个在财政赤字严重的时候寻找效率的大型政府。对。绝对的。我们在谈论埃隆挥舞着链锯时有点开玩笑。但这对你们来说是一个真正的问题,对吧?
不得不处理这个问题,你们已经提出了很多削减方案。帮助监督联邦政府采购的总务管理局一直在推动你们这些公司提出削减方案等等。你们提出的削减总额是多少?你知道,我们提出的方法是不同的工作方式,以及联邦政府与我们签订合同以提高效率,并
能够将节省的资金转交给联邦政府。如果您所在的行业受到严格监管,那么很大一部分成本以及该行业中每个人的成本
都来自这种监管。我们在监管方式和政府做事方式上存在如此多的重复,以至于可以节省大量资金。所以你们正在与GSA合作,但你们也在与Doge合作吗?这些现在是一样的吗?我们正在合作……Doge正在各机构中努力解决这些问题,我们与各机构各级人员互动。
包括Doge的成员。你知道,我们的许多工作和技术都经过了审查。我很高兴地说,很多都以优异的成绩通过了审查。所以我们,你知道,我有一个个人理念,那就是我会和任何愿意和我说话的人说话。
这就是Booz Allen的理念。我们希望参与其中,我们希望成为解决方案的一部分。我的意思是,我认为这里的情况很有趣。我们从埃隆·马斯克和Doge那里听到的很多事情,我认为你可能认同寻找更好、更高效地做事的方法,并利用技术来改进流程的想法。我的意思是,听着埃隆·马斯克谈论他发现的一些可怕的故事,
他总是指着宾夕法尼亚州的一座旧矿,政府工作人员在那里手工用铅笔处理退休手续,并说这需要更高效。这需要现代化。是的,蒂姆,我要说的是。我的意思是,我认为所有这些流程的一个重要附加值以及Doge带来的价值是,我们现在正在进行这场对话。
人们发现并感兴趣的许多事情,我们已经知道了很多年。多年来,我们一直在争取这些事情的变革和现代化。直到现在我才被邀请参加播客来谈论它。我认为这对美国人民了解政府运作方式是一个好过程。好吧,让我们深入探讨一下,因为我认为很多人认为你们是一家咨询公司,但你们谈到该公司实际上是一家科技公司。我前几天听到你谈到人工智能……
已经越来越成为政府运作的基础。我很想知道更多关于这一点的信息,贵公司是如何开发人工智能的,以及您如何看待政府实际部署这项技术。让我快速地告诉你Booz Allen在21世纪的轨迹。这是一家拥有百年历史的公司。这是一家拥有百年历史的公司。我不会带你回到一开始。
但我们是管理咨询的先驱。顺便说一句,我于1991年作为暑期实习生加入该公司,在我们的私营部门担任顾问。我在那项工作中学到了很多东西。我认为我增加了很大的价值。哇。所以大学毕业后直接来。大学毕业后直接来。我当时在读研究生。是的。我想我写简历或面试可能不太擅长,因为我留了下来,坦率地说,我很喜欢我的时间。
在Booz Allen,但在9/11事件后,我们变得更加关注这些国家安全任务,反恐、在伊拉克和阿富汗击败简易爆炸装置、围绕网络安全的大量工作。我们越接近这些任务,政府和国家安全机构的需求和权益
往往与您在世界各地私营部门可能进行的一些工作相冲突。例如,我个人受到伊朗和俄罗斯的制裁,世界上有很多地方我无法去。我们许多同事也有同样的情况。因此,在2008年,我们实际上将两项业务分开,大多数人所熟知的商业咨询业务,我们在20世纪10年代开始的业务,
与在联邦政府中进行越来越多的任务技术工作的业务分开。如果你看看我们现在的业务,我们大约75%的工作是面向国家安全的。我们所做的一切几乎都是关于获取技术,无论是我们开发的技术还是我们的商业合作伙伴开发的技术,并确保该技术能够用于这些任务。
蒂姆,关于你的观点,在这段旅程中,我们一直在开创新技术,因为它们已经出现。我于2014年开始对人工智能的投资。2014年。2014年。我已经在关注这些事情了。我的一部分学位是统计学,我看过神经网络,我看到了一些东西。
我对此非常感兴趣。你知道,如果我晚出生20年……所以你看到了向深度学习及其广泛应用的转变,尤其是在国家安全方面。绝对正确。你知道,如果我晚出生20年,我会成为一名数据科学家。当我真正酷的时候,我们没有像那样酷的名字。对。当你上学的时候,就像精算师?是的。我不想那样。所以我获得了工商管理学位,但我学习了所有
可能让我成为精算师的课程。而且,你知道,当我看到这段旅程时,我们对此非常感兴趣。我们的一位科学家讲述了一个故事,她说她在一次会议上发言,谈到了ChatGPT-1,我认为是在2018年左右。人们看着她,好像她有两个脑袋。然后,你知道,当大型语言模型最终进入公众视野时,
我们已经准备好了。如果你现在看看我们,我们正在研究Gen-Tic。我们已经做了一段时间了。我们正在研究物理人工智能。这包括从自主性到类人机器人到数字孪生的一切。
然后我们还在研究对抗性人工智能。这是科幻小说中的东西,对吧?我们认为科幻小说,无论是机器人汽车还是在空中飞行的无人机,进行战斗或类人机器人做类似人类的事情。我的意思是,这是您正在投资的尖端技术。我们是。这对于这些模型以我们理解的方式理解物理世界、能够与之互动、能够变得
真正有用至关重要。如果您考虑一个我们想要重塑制造业的世界,如果您考虑一个我们想要确保我们的军队在战场上安全并且我们想要无人机群而不是单个无人机等等的世界,我们将需要物理人工智能能力。有很多投资正在投入其中。我们当然不是唯一一家。但在国家安全领域,我们真的了解它。
我们刚刚听到Rosansky如何将Booz Allen视为一家科技公司。接下来,为什么科技领域的人们开始对国防感兴趣,直到最近,国防领域在硅谷绝对不酷。许多公司和许多杰出人才对我们的国家安全政策感兴趣这一事实
我们欢迎他们,我们希望与他们合作,因为我们最终需要作为一个国家更快地发展。我们需要作为一个国家在这些新技术面前取得更大的成功。我们需要所有人。请继续收听。
现在,一位科学家正在使用人工智能分析蛋白质,从而加快药物研发速度。一家大型零售商正在创建成功的营销活动。全球捕鱼船队正在绘制海洋未知深度的地图。人工智能不是未来的事情。它是现在的事情。Google Cloud 随时为您提供帮助。从预测性订购到定制旅行再到精确的医学影像,
Google Cloud 的 AI 优化平台可帮助您成就大事。这就是云计算的新方式。访问 cloud.google.com/AI 了解更多信息。还有很多其他公司也在投资这里,你知道,你们也与其中一些公司合作,对吧?所以 Palantir、Shield、Meta 的 AI 和 Space。你们在这些伙伴关系中扮演什么角色?是的。
在物理方面,我们与 Shield 合作。我们与 Scout AI 合作,后者在地面基地。然后,当我们将他们的能力应用于此时,我们也与 NVIDIA 合作。在所有这些事情中,我们扮演着多种角色。其中一个角色是我们实际上是在他们的堆栈之上构建我们自己的技术,而不是从头开始。我相信当我们更多地谈论人工智能时,我们会谈到这一点,但我痴迷于速度。
重新发明轮子不是我们的目标。因此,我们与这些公司合作,利用他们的成果,并帮助对其进行转换,使其对这些任务更有价值。你知道,Shield 是独一无二的,因为他们首先拥有国家安全足迹,但许多公司都是双重用途的,对吧?我认为政府需要利用的许多投资是这种双重用途投资,即某些东西是为商业应用而构建的,但实际上可以用作国家安全应用。但是帮助我理解一下,你的,我的意思是,Shield,对吧?他们开始制造无人机。他们非常关注国家安全。Palantir,他们对国家安全并不陌生。Meta 目前显然是。
那么你的角色是什么?你是中间人吗?你是翻译吗?你是集成商吗?这取决于情况,但总的来说,我们是共同开发者。许多这些技术并非设计用于在当今存在的战场上使用。因此,您谈到的许多这些令人惊叹的技术和一些伟大的公司
他们的技术是在考虑商业环境中存在的云的情况下构建的,在这种环境中,您将始终拥有连接性,该事物不必弄湿或弄脏,该事物不必从太空运行。因此,我们通过构建能够实现这一目标的技术来弥补这些差距。举个例子,很多边缘应用。
即使是今天的商业用途,也假设持续连接。为了向我们的听众解释,边缘只是意味着有一个设备在那里进行计算,而不是像一个与云通信的哑终端。是的,对。所以你有了这个设备,它想要连接到云。当它连接到云时,它很漂亮。
如果它失去连接,则可能需要45分钟才能重新同步。如果您是巡航导弹或士兵,这可不是什么好事。战场上的士兵,或者如果您是一名指挥官,试图做出决定并确保您的信息与总部的信息同步,他们无法等待45分钟。45秒就能让他们丧命。因此,我们已经开发了能够解决这一特定差距的技术。
在最近的一次演习中,这项技术在军事演习中有两个实例运行。想象一下一场战争游戏。一个建立在我们的堆栈上,另一个建立在传统的堆栈上。好吧,猜猜怎么了?当电源中断时,当带宽下降时,当他们模拟电磁攻击时,我们的技术仍在运行。
另一个相同的底层系统停止工作,因为它从未准备好以这种方式运行。想想太空。我们刚刚与META合作将LAMA送上了国际空间站。这非常酷。那么宇航员就不会感到孤独了吗?他们有人可以聊天吗?所以这是在研究方面。但这东西所做的是它吸收了所有东西的维护手册。
所以现在你可以查询模型,说,嘿,我如何在空间站疏通马桶?
而不是不得不去阅读一本厚厚的说明书。这与我在家做的一样,但它是在太空中实现并使其发挥作用。你在家里用人工智能疏通马桶吗?我会问GPT,我该如何解决这个问题?我该如何做到这一点?我自己知道如何疏通马桶。非常感谢。但这些问题……所以我们真正想做的是确保我们理解
在太空中将拥有的计算环境中,这在定义上将永远是旧的,对吧?因为你发射了一些东西,而地球上的芯片每六个月就会发生变化。那将在那里待20年。你如何使新技术在这些环境中运行?这就是我们提供的,因为,你知道,Meta 的人非常出色,他们用 LAMA 构建的东西非常出色。但他们从未想过,好吧,我该如何让它在20年前的计算机上运行?
因为这里没有人拥有20年前的计算机。所以这就是我们在国家安全环境中使这些东西具备任务能力所弥补的差距。所以为了明确一点,就像你让Lama在相当于Commodore Amiga或类似的东西上运行一样?没那么糟糕。486?但我们正在努力使所有这些东西能够真正跨越在不同时间点发射的卫星运行。
因此,您将拥有完全不同的计算机基础设施。与此同时,您需要确保它可以工作,您可以修补,您可以更新,您可以保护这些系统,这些系统非常多样化,再次,如果我将Booz Allen视为一家公司,并且每家公司都是一样的,对吧?我的意思是,你们有一些旧服务器和一些新服务器。
但这些东西可能已经不同步三、四、五年了。当它不同步20年时,您几乎必须重建这项技术才能以不同的方式运行。如果你考虑一下我们做什么,我们确保这些东西可以在我们的战斗人员需要的环境中运行,以便在战场上取得成功。这很有趣。你们有一个风险投资部门,所以你们一直在寻找要投资的初创公司。而且
我只是好奇,当涉及到国防和国防合同时,这些年轻科技公司的氛围是什么样的。因为我认为几年前,
那将很难推销。我的意思是,你听听Andral的创始人Palmer Luckey,他真的是那里最热门的科技国防初创公司之一。他谈到它就像在荒野中,不受欢迎,并且有点被排斥。但现在他正在与马克·扎克伯格合影,他们也在合作。我的意思是,这似乎现在是一个热门领域。你发现了什么?
这是一个热门领域,我很高兴它是。当我受到伊朗制裁时,不幸的是,我的孩子们不得不带着安保人员去上学,所有这些科技公司都说,好吧,不是我们,不感兴趣。我们很高兴开发游戏等等。我认为事实上——广告技术或其他什么。是的。许多公司和许多杰出人才对
对我们的国家安全感兴趣,我们欢迎他们,我们希望与他们合作,因为我们最终需要作为一个国家更快地发展。我们需要作为一个国家在这些新技术面前取得更大的成功,我们需要所有人。但是发生了什么变化?我的意思是,这是什么样的
我不知道你是否称之为新的爱国主义或某种新的美国与其他国家对抗的感觉。你认为这些人的想法发生了什么变化?我认为这是来自双方。我认为从政府和国防部来看,你知道,当他们建立国防创新部门时,他们开始证明
他们真的有兴趣与这些公司合作,并且他们有机会为国家服务。然后另一方面,现在有很多退伍军人正在创办这些公司,并带着这种心态来做。他们也在关注大公司的情况。与五、八、十年相比,超级计算公司也对国家安全更感兴趣,并看到了真正的机会。我认为机会的结合,任务非常重要。以及一些进来的人,带着这种服务的心态,以及
所有这些都汇聚成一股巨大的科技浪潮涌入政府,这再次既出色又非常必要。所以作为一个显然是边缘计算书呆子的人——你在说我吗还是你?总是在谈论吉姆。我们肯定把思想汇聚在一起了。
嗯,而且,而且,你知道,为战斗人员提供技术等等。你一定发现最近对俄罗斯内部的袭击,包括在西伯利亚的一次袭击,是由乌克兰策划的,乌克兰确实公布了细节。你一定觉得这令人兴奋,因为我的意思是,这就是你刚才谈到的所有内容。我的意思是,这些卡车打开了,而且是无人机,所有这些都是边缘人工智能,呃,
已经被训练用来寻找和摧毁飞机。像我这样很多人都在说,这感觉像是战争的新时代,因为我们从未见过像这样使用现成的 AI 和计算机视觉。你同意吗?你感到惊讶吗?这是一个新时代吗?乌克兰已经证明……
再次,需要是发明之母。他们已经将原本应该作为商业技术结合在一起的东西结合起来,来打一场并非他们选择的战争,但这是一场生存之战。所以他们所做的,我认为,是使用无人机、自主性、协调火力和许多使用所有商业技术的事情,因为那是他们可以使用的
对他们来说,我认为这令人印象深刻。因此,我们现在正在谈论诸如可治疗质量之类的事情,这意味着您可以发射大量无人机,并且您会失去大部分无人机,这没关系,这是一种关于防御的新思维方式。我认为这将非常强大,全世界都在关注。当我上次去台湾和日本旅行时,
呃,他们从一开始就密切关注乌克兰发生的事情,他们密切关注以色列发生的事情,并试图了解这些教训以及这些教训如何适用于他们,我们作为一个国家当然需要关注,我们需要学习,我们需要领导,特别是台湾很感兴趣,因为担心中国,对吧,以及那里正在发生的问题,以及下一个什么样的
可能的威胁,我想。没错。没错。因此,他们受到潜在入侵的威胁,他们正在努力弄清楚如何保卫自己,这是一个靠近一个非常强大和强大的超级大国的较小的国家。因此,他们一直在思考很多这个问题。然后这再次是,我的意思是,回到我之前提到的国家安全
观点,许多公司因为在中国拥有大型业务,所以不会满足台湾的国家安全需求。在我们配置公司时,我们希望确保我们永远不会因为不同的商业利益而犹豫与美国的盟友做某事。我们联系了日本和台湾的外交部。他们没有回应。
现在更多科技公司对国防感兴趣,Rozanski认为他们需要考虑政府将如何使用他们的产品来加快部署速度,他认为这目前更多的是事后考虑。相反,一旦技术得到验证,政府就会介入。而且,你知道,这最大限度地降低了风险,但也减缓了我们的速度。接下来就是。
现在,一位科学家正在使用人工智能分析蛋白质,从而加快药物研发速度。一家大型零售商正在创建成功的营销活动。全球捕鱼船队正在绘制海洋未知深度的地图。人工智能不是未来的事情。它是现在的事情。Google Cloud 随时为您提供帮助。从预测性订购到定制旅行再到精确的医学影像,
Google Cloud 的 AI 优化平台可帮助您成就大事。这就是云计算的新方式。访问 cloud.google.com/AI 了解更多信息。你过去曾发出警告,警告中国在人工智能方面的进展。感觉上,美国和中国在这方面的差距正在缩小,就像在电动汽车、能源生产等许多其他技术领域一样。
你担心什么?为什么?让我从几个不同的方向来解决这个问题。但具体到人工智能,如果你看看正在发生的事情,再次,需要是发明之母,中国正在专门研究功能可能较弱、较精致但运行在更便宜、更简单的硬件上的模型。
DeepSeek,我认为,使这件事浮出水面。但如果你看看阿里巴巴在Quinn方面所做的工作,看看百度在Ernie方面所做的工作,看看腾讯在做什么,最终,他们正在构建可以更便宜地运行的商场。为什么这很重要?因为如果你看看世界其他地方,在某些时候想要使用这项技术,需要这些技术,
他们有时负担不起大型数据中心的电力需求。他们没有可靠的电力、可靠的通信等等。因此,即使不太好,更便宜的占地面积模型也是必要的。我不想生活在一个中国人工智能模型来源可疑的世界,这些模型可能
我们已经看到,那些总是“回家”的应用程序,它们的API中包含可能会让它们做某些事情的代码,这些代码可能会影响公众舆论,从世界各地吸收海量数据等等。我认为我们都认为互联网是一个充满活力和开放的系统,但这只是因为美国按照自己的形象创造了它。
我不想生活在一个我们都在中国互联网上运作的世界里,在那里政府决定我们能看到什么,不能看到什么,以及何时能看到。
如果我们都像我一样相信人工智能是未来20到25年的主导技术,那么我们需要美国领导力走在前面。对我来说,这又回到了速度问题。我们拥有优势,只需要更快地交付它们。让我们快速谈谈速度,如果你愿意的话,就几秒钟。你在2月份为福克斯新闻撰写的一篇文章中写道:
我将在这里引用它。“加快军队对人工智能的负责任使用并非威胁,而是当务之急。在快速变化的地缘政治和技术环境中,速度是我们最重要的武器。”这实际上是对人们或许应该放慢人工智能步伐这一想法的回应。美国军方如何才能在人工智能工作方面领先?
同时评估风险,避免灾难,确保安全,对吧?我的意思是,我认为我们都同意我们希望它安全。百分之百。我认为,在交付给作战人员之前放慢速度是可以的。在交付给作战人员之前,我们需要绝对确保技术完全按预期工作。对我来说,这是我们永远不应该冒的风险。
想要承担的风险。但在那之前,我们可以尝试多种方法吗?我们可以认识到有些方法会失败吗?事实上,我们可以寻找这些失败并从中学习,而不是像瘟疫一样避免它们吗?这将加速我们作为一个国家的进步。这种想法是,越来越多的公司将争夺这些东西。我已经提出过这样的想法,如果你把美国政府视为早期采用者,
而不是作为规模购买者迟来,他们可以帮助加快不仅是国防需求,而且是更广泛的需求。这将加速市场和市场本能更快地发展,而且它还会在更早的对话中加入国家安全的一些独特要求。
对吧?我的意思是,如果你知道政府将成为你最大的买家之一,并且很早就与你合作,你就会创建这样的架构,这样你就不会出现脱节的问题,这样你就不会出现一些云提供商面临的一些网络安全问题。你会尽早解决这些问题,因为这将是与政府做生意的要求。相反,政府是在技术得到验证后才介入的。而且,你知道,这最大限度地降低了风险,但也减缓了我们的速度。
好吧,你知道,这很有趣。我听说你谈到你的公司不与中国做生意,因为你的业务很大一部分与国家安全相关的东西有关,实际上是机密的东西,你甚至不允许谈论,我认为有时这是对公司的批评。如果你愿意的话,这有点像黑匣子。你认为这些美国人工智能公司是否应该考虑他们正在获取资源的地方,无论是
投资还是他们正在开设商店,是否担心他们面临的国家安全风险?绝对的。我认为每家公司都需要考虑这个问题。我认为,特别是年轻的技术公司,如果你考虑一下它们是什么,你就会有一群聪明人,一个伟大的想法和一些知识产权。然后,如果你看看他们运行网络安全的方式,例如,
在许多情况下,它有些原始,这会将他们的知识产权(他们最大的资产)暴露给例如来自民族国家的间谍活动,产业间谍活动。再说一次,我的意思是,还有一个关于对抗性人工智能的完整主题,例如,这是我们投资的,我相信我们在这方面处于领先地位,那就是如何确保你的模型没有被对手破坏?
如果你可以访问模型权重或训练数据或两者兼而有之,你可以对模型做很多事情,直到为时已晚,没有人会知道。例如,如果你影响模型的训练数据,你可以教模型不识别,比如说,坦克。
你可以教他们都认为武器不是武器。无人机不会将其视为坦克或类似的东西。对。完全正确。或者,你知道,提供给你安全的摄像头不会看到有人,我们实际上已经在我们的实验室里展示了这一点。你有一个应该检测某人是否有武器的摄像头。然后你在这件武器上涂上几乎是斑马一样的标记。突然间,这件武器对……
不是对摄像头,而是对算法来说变得不可见了。所以如果一个人在看它,这个人肯定知道这只是一把涂了油漆的枪,但算法不再将其识别为这样。如果你有6000个摄像头同时工作,你将无法同时查看所有摄像头。所以这些都是简单的例子。现在想想,如果我们的算法突然变得不可信,因为我们不确定它们是否受到了对手的影响,对吧?
那么,现场指挥官必须三思而后行,他或她获得的信息是否有价值,是否有帮助。向总统提供行动建议的人必须说,如果这些算法中的一些已经通过了它,我有多信任我收到的信息?这种犹豫会浪费时间。
在国家安全环境中,时间就是生命。因此,这些都是我们正在考虑、研究并试图确保在这些技术的早期开发阶段就开始嵌入所需保护措施的事情。你知道,每个建造过房子的人都明白,在你安装石膏板之前为它布线报警器要容易得多。
这是一个类似的概念。我的意思是,我们能否在编写方式、管理方式等方面将安全性嵌入到源代码中?我认为这是一个感谢您的想法并感谢您光临的好地方,Horacio。感谢您的时间。谢谢你们。很高兴与你们交谈。
中国驻华盛顿大使馆的一位发言人表示,中国政府从未也不会要求公司收集或提供违反当地法律的位于外国的数据。他还表示,中国政府根据当地法律法规管理互联网,中国网民享有充分的互联网自由。
这就是本周的大胆人物。我们的制作人是丹尼·刘易斯。迈克尔·拉瓦莱和杰西卡·芬顿是我们的音效设计师。杰西卡还创作了我们的主题音乐。我们的主管制作人是凯瑟琳·米尔索普。我们的开发制作人是艾莎·阿尔穆斯林。斯科特·萨洛韦和克里斯·因斯利是副编辑。法拉纳·帕特森是华尔街日报新闻音频主管。更多内容,请查看我们网站上的专栏文章。我们在节目说明中提供了链接。
我是蒂姆·希金斯。我是克里斯托弗·米姆斯。感谢收听。