We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode A Military Contract Tests Google's Open Culture

A Military Contract Tests Google's Open Culture

2021/3/16
logo of podcast Land of the Giants

Land of the Giants

AI Deep Dive AI Chapters Transcript
People
C
Chewy Shaw
F
Fei-Fei Li
J
Jeff Dean
K
Kate Conger
K
Kent Walker
L
Lieutenant General Jack Shanahan
L
Liz Fong-Jones
M
Meredith Whitaker
R
Robert Work
S
Sergey Brin
主持人
专注于电动车和能源领域的播客主持人和内容创作者。
Topics
主持人:本集探讨了Google的开放文化与其与国防部签订的秘密合同Project Maven之间的冲突,以及由此引发的员工抗议和公司内部的伦理辩论。该项目旨在利用AI分析军事图像和视频数据,引发了员工对技术被用于伤害他人的担忧,并对Google的'不作恶'原则提出了质疑。 Chewy Shaw:Google的企业文化一直以开放透明著称,员工可以自由地获取信息并参与到公司的决策中。然而,Maven项目的秘密性质与这种文化相冲突,引发了员工的不满。 Meredith Whitaker:Whitaker作为Google内部的伦理倡导者,在发现Maven项目后,积极组织员工反对,并撰写请愿书,呼吁公司不要参与战争业务。她认为Google应该承担更高的道德责任。 Liz Fong-Jones:Fong-Jones也对Maven项目表示担忧,认为该项目与Google的'不作恶'原则相冲突,并对中东和穆斯林员工造成了负面影响。 Lieutenant General Jack Shanahan:Shanahan作为Maven项目的国防部负责人,解释了该项目的目的是提高军事图像和视频数据的分析效率,并强调AI不会做出杀人的决定。但他承认项目缺乏透明度,导致谣言四起。 Fei-Fei Li:Li的邮件显示Google高管更关注如何避免负面评价,而非Maven项目的伦理问题。 Kent Walker:Walker试图解释Google终止Maven项目的原因,并强调Google仍然愿意与国防部合作,维护国家安全利益。 Jeff Dean:Dean作为Google的AI负责人,阐述了Google的AI原则,强调公司不会参与开发主要用于伤害人类的武器或技术。 Sergey Brin:Brin认为Google参与全球军事合作有助于维护世界和平。 Robert Work:Work认为Google员工与Maven项目领导之间的沟通不够直接,并指出AI技术既可以挽救生命,也可以造成伤害,这构成了一个道德困境。 Kate Conger:Conger作为记者,报道了Google参与Maven项目的消息,并指出Google员工对该项目的沉默反映了他们对公司的信任和期望。 主持人: Google的开放文化在公司规模扩大和政治环境日益两极分化的情况下,面临着严峻的挑战。近年来,越来越多的Google员工感到被排除在公司重大决策之外,这与Google一直以来承诺的开放性相冲突。

Deep Dive

Chapters
The episode explores the historical culture of openness at Google, highlighting the TGIF meetings and various internal communication tools that fostered a collaborative environment. This culture is contrasted with the current climate where employees feel increasingly excluded from major decisions, leading to a significant loss of trust.

Shownotes Transcript

谷歌一直以来引以为豪的一个方面是其开放、协作和透明的公司文化。但许多谷歌员工感到这种文化正在逐渐消失。在接下来的两集中,我们将讲述谷歌内部信任崩溃的故事——管理层与员工之间的信任。故事从谷歌与国防部签署的一份秘密合同开始。 主持人:Shirin Ghaffary (@shiringhaffary) 和 Alex Kantrowitz (@kantrowitz) 喜欢这一集吗?给我们评分 ⭐⭐⭐⭐⭐ 并在 Apple Podcasts 上留下评论。 想要联系?在 Twitter 上 @recode。 免费订阅。通过在您喜欢的播客应用中订阅,成为第一个听到下周节目的听众。 了解更多关于您的广告选择。访问 megaphone.fm/adchoices 了解更多关于您的广告选择。访问 podcastchoices.com/adchoices</context> <raw_text>0 硅谷银行仍然是您所熟知和信任的 SVB。SVB 为客户提供以人为本的专业贷款和金融解决方案。SVB 可以帮助您从初创企业成长为规模企业。SVB 可以帮助您的资金链实现腾飞。唯一的不同是?硅谷银行现在得到了第一公民银行的实力和稳定性的支持。是的,SVB。了解更多信息,请访问 svb.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com.com。

当您经营一家小企业时,有时没有言语可言。但如果您希望保护您的小企业,那么肯定有一些词可以帮助您。像一个好邻居,State Farm 在这里。就这样,State Farm 的代理人可以帮助您选择适合您需求的保险。无论您的小企业是正在成长还是全新成立,您的 State Farm 代理人都会提供帮助。无论是通过电话还是面对面。像一个好邻居,State Farm 在这里。

还记得我们在第一集中看到的那份在谷歌山景校园张贴的清单吗?因为 COVID 而取消的所有那些好东西?按摩室、游戏室、健身房、游泳池、淋浴室……这些都是谷歌以其生活方式福利而闻名的。它们容易让人羡慕,也容易被嘲笑。但根据我的经验,当你问谷歌员工是什么让他们公司的文化脱颖而出时,他们开始列出一份非常不同的清单。

直到最近,TGIF 通常会位于这个清单的顶部。TGIF 是谷歌称其全员会议的名称。谷歌曾在每个星期五举办 TGIF。它们始于 1999 年,当时所有员工都可以容纳在一个会议室里。拉里和谢尔盖通常会出席。多年来,您几乎可以提出任何问题。从地图上的自行车导航出了什么问题,到公司在消除招聘过程中的无意识偏见方面做了什么。TGIF。

对于 Chewy Shaw 来说,他在大学时作为暑期实习生加入谷歌,TGIF 感觉就像是工作在谷歌的完美缩影。除了,您知道,您可以参与到影响数十亿人的产品中,并且可以解决世界上最大的难题。我们每个人都是一大群多元化、聪明的人聚集在这里,这是一个强烈的原则。

因为这些都是困难的问题,我们正在尽快行动,但我们能够正确解决这些问题的唯一方法是让更多的声音参与进来。因此,每当有人认为某些事情朝着错误的方向发展时,拉里和谢尔盖都会明确鼓励这种行为。而不仅仅是理论上,谷歌还建立了实际工具来鼓励辩论的精神。谷歌不是一个需要知道的文化,而是一个想要知道的文化。

以谷歌云盘为例,谷歌员工在内部使用它。默认情况下,如果您在谷歌,您可以随意查看同事的工作。他们的备忘录、幻灯片、代码、电子表格等等。除非它是竞争性商业机密,否则您可以查看。这适用于您甚至没有直接合作的团队,甚至是高管。

谷歌还有很多电子邮件列表。它们很容易创建,容易加入,并且通常非常活跃。有一个政治主题的,有一个为即将成为新父母的人准备的,还有一个简单称为 MISC 的,供任何主题使用。然后还有谷歌的内部网站。

还有一个大家最喜欢的,MemeGen。MemeGen 是一个内部谷歌页面,任何人都可以发布 meme。

您可以调侃管理层或对最新的技术争议进行即兴发挥。MemeGen 实际上只是一个员工的志愿项目,他说,我喜欢制作 meme。我们应该有一个地方来制作内部 meme,因为,您知道,有些主题我们无法在外部讨论,但我想制作 meme。

考虑到谷歌的规模,这些开放渠道,从 TGIF 到 MemeGen,都是显著的。我们谈论的是一家价值 1 万亿美元的公司。尽管如此,谷歌以允许员工深入了解几乎所有业务的细节而闻名。

与苹果形成鲜明对比的是,苹果以其 notoriously 秘密的公司文化而闻名,以至于不同的产品团队往往甚至无法相互讨论他们正在做的事情。多年来,这种想要了解的文化对谷歌来说运作得非常好。员工能够快速协作并迅速跟上进度。但随着公司不断壮大,员工的意见在日益两极化的政治气候中变得不同,谷歌理想化的文化与一些严峻的现实发生了碰撞。

因为在谷歌雇佣几百或几千人的时候,举办一次极其透明的 TGIF 是一回事。当谷歌的员工超过 100,000 人时,新闻爆出一项秘密项目,这让一些谷歌员工质疑公司的核心使命,这又是另一回事。

这是巨人的国度。我是 Alex Kantrowitz。我是 Shireen Ghaffari。像任何一个巨人一样,谷歌如今面临着关于其在传播虚假信息或声称以可能伤害消费者的方式中和竞争的角色的艰难问题。但谷歌面临着另一个根本性的问题,而其他巨头则没有同样程度的问题。谁

谁在这里掌权?因为多年来,谷歌似乎向员工传达了一个强烈的信息,即他们掌握着权力。或者至少,他们对公司的流程有了解,并且在决策桌上有一席之地。但这种情况已经改变。尤其是在过去几年中,越来越多的谷歌员工感到被排除在谷歌公司做出的重大决策之外。由于谷歌的开放承诺对其业务至关重要,因此这种潜在的丧失感觉像是一次具有生存意义的巨大转变。

在接下来的两集中,我们将讲述谷歌曾经备受喜爱的理想化开放文化的局限性。恰如其分的是,我们将从谷歌的一个秘密开始。谷歌秘密决定与国防部开展业务。

梅雷迪思·惠特克于 2006 年开始在谷歌工作。到 2017 年,她已成为云计算部门的项目经理。但除了这个角色,她还创立了公司的开放研究小组,一个旨在解决数据隐私和网络中立等棘手问题的团队。我以对伦理问题相当批评而不迎合公司立场而闻名。

惠特克是一个不怕挑战谷歌和整个科技行业以审视其对社会影响的人。因此,她成为了同事们的非正式活动家。很多时候,人们会来找我说,嘿,我的团队发生了一些奇怪的事情,或者,我对这个决定感到不舒服。你能给我建议吗?2017 年秋天的某一天,一位同事给她发了消息。嘿,你应该知道这个,她记得便条上写道。

这真的很令人担忧。惠特克的同事提到了一份已经签署的合同,只有谷歌内部的少数人知道,项目名为 Maven。这是与国防部的明确合作关系。因此,您需要知道关于 Maven 的一件事是,它是国防部为跟上尖端技术并在与中国等国家的人工智能军备竞赛中取得领先而发起的一系列倡议的一部分。国防部与谷歌签订了合同来进行这项工作。我有一个非常具体的问题集。

这就是,我们面临的是一场数据的雪崩,我们无法充分利用。杰克·香农中将负责国防部的 MAVEN 项目。他在 2017 年 11 月的华盛顿 GPU 技术大会的主题演讲中解释了该项目的目的。香农点击了一张卡车被一团雪流吞没的幻灯片。因此,更多的人并不是解决问题的办法。更好的工具、技术和算法才是解决问题的办法。

这就是我们今天面临的情况。这就是我们生成项目 MAVEN 的原因。这里是愿景。这里是我们的目标。我的任务是:在 2018 年底之前向战术无人机系统提供基于 AI 的算法。换句话说,国防部对 MAVEN 的目标是利用 AI 更有效地分析由远程飞行员操作的空中飞行器收集的大量图像和视频数据,远比人类能够做到的更高效。通过这种分析,军方可以更好地识别地面上发生的事情。

香农对 Maven 的意图持开放态度,但他从未提到谷歌。两个月前,谷歌悄然赢得了合同,但没有公告。公司明确告诉国防部,他们不想进行任何媒体宣传。因此,项目 Maven 是一个公开项目,但谷歌的参与并不公开,甚至对大多数员工来说也是如此。

但在 2017 年底,一小群员工之间开始形成一个耳语网络。他们感到担忧:这个项目会被用来伤害人吗?谷歌后来告诉员工,他们对 Maven 的技术贡献将仅用于“非攻击性目的”——也就是说,用于收集地面情报,而不是针对人类。但特别是因为该项目仍然如此保密,耳语网络中的谷歌员工对此表示怀疑。

当时,莉兹·方-琼斯是谷歌云部门的一名站点可靠性工程师,而该部门正是为 Maven 工作。因此,谷歌的参与对她来说是个人的。吸引我加入谷歌的原因之一是“不要作恶”的政策。这是我认为每个我交谈过的人都相信的事情。我也想相信这一点。

与惠特克一样,方-琼斯以其在谷歌内部的倡导工作而闻名。她在调解高管与员工之间的关系方面有着良好的记录,以使产品更加包容,比如她推动在 Google+ 上提供匿名选项,以保护弱势群体。对于方-琼斯和许多其他员工来说,谷歌可能越过了一条非官方的红线。那些在谷歌云中从事基础设施项目的人员

希望他们的努力用于商业目的,比如帮助电子商务网站扩展,帮助 Snapchat 等等?让某人参与武器系统的工作与参与民用应用是截然不同的。需要明确的是,并非所有谷歌员工都反对参与将用于战争的技术。

此外,硅谷与美国军方合作并不新鲜。冷战时期来自 DARPA(美国国防部的一部分)的研究资助基本上资助了互联网。您可能还记得,拉里甚至会参加 DARPA 的活动来招募人才。但特别是在中东反恐战争的阴影下,以及对无人机技术的争议性使用,一些工程师不想与美国军方或战争有任何关系。

他们之间的想法是:只要您避开洛克希德·马丁或雷神等主要国防承包商,您的才能就不会被用于此。这就是为什么 Maven 对一些早期了解到它的谷歌员工来说如此令人不安。方-琼斯、惠特克和一小部分知情员工开始提出担忧。一个名为九人小组的基础设施工程师团队也如此。他们的任务是为该项目构建一个关键的安全认证功能。

但即使这些不同的团体提出了他们的担忧,大多数员工仍然不知道谷歌赢得了 Maven 合同。您无法判断某件事情是否邪恶,如果您对此一无所知。因此,我认为莉兹在内部 G+ 上发布了一些内容。

好吧,这太重要了。在 2018 年 2 月,莉兹·方-琼斯在她的内部 Google+ 页面上发布了一条消息——是的,那仍然为员工保留——这条消息改变了一切。她解释了她对项目 Maven 的了解,更重要的是,提出了她不知道的问题。该消息对谷歌的 100,000 多名员工可见。

我需要在这里给您一个快速的免责声明。根据所有的说法,方-琼斯是这个故事的重要部分。但她无法谈论她便条的具体内容,因为她在离开谷歌时签署了保密协议。因此,我们知道方-琼斯在 Google+ 上的便条是当更多员工开始质疑 Maven 时,势头开始积聚的时刻,这一切都是基于外部报道和我们与其他谷歌员工的采访。

接下来是黛安·格林,当时她是谷歌云计算部门的负责人。请记住,该部门正在为 Maven 工作。而且,这一点很重要,该部门在巨头之间的竞争中也面临着更大的挑战。谷歌云的最大竞争对手是亚马逊的网络服务和微软的 Azure。谷歌排名遥遥领先第三。确实非常遥远。但无论如何,在方-琼斯的 Google+ 便条之后,

格林发布了自己的便条,向员工保证 Maven 只是一个 900 万美元的合同。小钱。这是根据《连线》杂志的报道。然而,对于惠特克来说,这个微不足道的价格标签引发了更多问题。正是在这个时候我感到非常非常担忧。因为到 2018 年 2 月底,惠特克表示她联系了她在华盛顿国防界认识的人,

她发现了一份国防部的技术合同,其规模比 Maven 大几个数量级,正在等待竞标。一个名为 JEDI 的合同,价值高达 100 亿美元。

JEDI 是一个赢家通吃的项目,将把几乎所有五角大楼的云计算基础设施的构建工作交给一个供应商。如果您在行业中排名遥遥领先第三,这是一笔好生意。实际上,从我与之交谈的人那里,Maven 显然是一种试用合同,因为谷歌在那时并不是一个经过验证的军事承包商。

需要明确的是,没有证据表明 Maven 合同明确使谷歌有机会参与 JEDI。但对于那些反对谷歌在 Maven 上工作的员工来说,这确实是一个真实的恐惧。随着越来越多的员工在公司内部了解到 Maven……我得到了一个我认为非常糟糕的线索。

那个人告诉我,我应该调查一个叫 Maven 的东西。凯特·康格是《纽约时报》的科技记者。在 2018 年初,她在为 Gizmodo 报道网络安全时收到了这个神秘的线索。她开始向谷歌内部的消息来源询问此事,发生了一些非常有启发性的事情。

我认识的很多消息来源已经很久了,其中一些人非常健谈且很自在。我在这个故事上很难取得进展。因此,我想,这一定是一个非常重要的事情。如果不是,请告诉我。这对我来说很有意义,因为我在关于谷歌的大故事中经历过同样的事情。康格所遭遇的犹豫不决在很大程度上反映了当时谷歌员工对公司的信任。许多员工希望给予公司怀疑的好处,并等待

在公开这些事情之前,因为我认为有一种感觉,

当然我们没有完整的画面,或者你一定是困惑或误解,或者像领导层中的某个人会过来解释发生了什么。这是一种奇怪的谷歌式天真和自我关注的混合。就像一定会有解释,有办法将这一切保持在家庭内部并解决它。这与我们对公司的认知和对公司的愿景是完全对立的。总会有人在某个时刻出现,能够解释这种认知失调。

但管理层的解释并不足以阻止人们担忧。因此,在谷歌内部,惠特克在 2018 年 2 月加大了压力。您知道,我们不能继续询问,对吧?我们不能继续礼貌地询问。因此,我主导撰写了一份请愿书,然后请愿书就这样,您知道,把事实传播到谷歌的血液中。

与其他几位谷歌员工一起,惠特克使用谷歌云盘起草了一份反对 Maven 的请愿书,当然,谷歌云盘是开放的。因此,任何拥有链接的员工都可以在文档仍在撰写时查看它。我记得当我们完成 Maven 信的时,看到肯特·沃克出现在文档中,我很快关闭了所有评论,想,天哪,快把它藏起来,因为肯特刚刚发现了它。

肯特·沃克是谷歌的首席律师。所以这里有一个支持该项目的高级人士。由于谷歌的开放文化,他可以在他的更年轻的同事们对其提出反对意见时随意插入。惠特克知道他们最好快点把请愿书发出去。当他们完成请愿书时,他们将其寄给了首席执行官桑达尔·皮查伊。信中写道,亲爱的桑达尔,我们认为谷歌不应该参与战争。

信中进一步阐述了 Maven 可能会损害谷歌品牌及其吸引人才的能力,可能会将公司置于像 Palantir 和 Raytheon 这样的国防承包商之列,并且谷歌因其“独特的历史”、座右铭“不要作恶”和直接影响数十亿用户的生活而与其他主要科技公司不同。

基本上,这封信要求谷歌在道德标准上高于其竞争对手,如微软或亚马逊。它迅速收集了数百个签名,最终达到了 4000 个签名。对于惠特克来说,一方面这很好,但另一方面却令人恐惧。

我记得我和朋友们在一起时突然崩溃大哭,因为我刚意识到我所做的事情就像是,我刚刚踩到了蜜蜂窝。因此,这是军方和谷歌,正是帝国的核心。您知道,有些时刻是纯粹的恐惧。而且,很明显,您不能轻描淡写地处理这个问题,对吧?如果您已经出手,就必须继续下去。

随着事情的升级,肯特·沃克和其他管理人员与惠特克及几位反对 Maven 的同事坐下来倾听他们的意见。因此,每次会议,像是“我们对这一复杂问题集非常深思熟虑”。所以,您知道,我们正在非常深思熟虑地处理这些复杂的问题。你们等着,我们不能急于求成,因为急于求成意味着我们没有深思熟虑。这是经典的,对吧?这太复杂了。只有高管职位的智者

才能够对整个领域进行评估。因此,我们听到了你们的担忧,但你们隐含地并不在一个能够真正理解一切的立场。我们在,所以我们会把你们的担忧带回去。我们会采取行动。我们将有能力说我们听到了你们的声音,而没有义务去采取行动。

我想指出,谷歌的领导层并不需要主持任何这些讨论。它确实表明了公司对其开放文化的承诺,甚至与 Maven 的反对者举行了这些会议。这感觉像是谷歌承认这个项目的命运远不止 Maven。它将为谷歌未来与军方的合作设定先例。

当时,管理层在 TGIF、倾听会议和内部备忘录中提出了几个明确的论点来为 MAVEN 辩护。其中一个重要的论点是:这项技术不会被用来帮助无人机瞄准实际的人类。

他们表示,您无法深入到个人层面进行监视。这实际上只是基本的侦察,没什么好担心的。但随后,惠特克表示,求知欲强的谷歌员工进入了 Maven 的代码库,发现了似乎与高管所说的相矛盾的证据。正如惠特克回忆的那样,确实存在一个代码类,名为“人员”。员工们在邮件列表上讨论他们的发现。

因此,这也是一个代码更加开放的时期。这就是谷歌的工作方式。管理层的另一个重要辩护是:他们表示谷歌并没有为美国军方量身定制任何东西。它只是让他们访问已经存在的代码。

高管们试图通过声称“这实际上不是一个定制模型。我们只是向他们出售现成的软件”来抢先一步。因此,有人写了一份关于“为什么定制模型这个术语不能被信任”的文档。这有点像打地鼠游戏。但如果你问前国防部副部长罗伯特·沃克,最初发布项目 Maven 指令的五角大楼官员,这也有点像打电话游戏。

我找不到任何证据表明员工要求 Maven 项目的成员直接与他们交谈。这是罗伯特·沃克在一个名为《政府事务》的网站上说的。这是员工与公司领导之间的间接对话。我必须说,我认为他们的立场提出了一个道德困境,因为 AI 有可能拯救的生命与其可能伤害的生命一样多。

因为,理论上,AI 可以使无人机更精确,造成更少的附带损害。谢尔盖本人在 Maven 争议展开时的 TGIF 会议上提出了相关论点。

根据《纽约时报》中引用的几位谷歌员工的说法,谢尔盖表示,如果谷歌与世界各国军方在一起,这将使世界变得更加和平。根据沃克的说法,国防部表示,AI 永远不会做出杀死某人的决定,始终会有人类介入做出这个决定。但对于许多反对 Maven 的谷歌员工来说,任何涉及无人机技术的事情都是极具争议的。

因为无论是否有 AI 驱动,无人机战争都会造成伤亡,并在杀戮者与被杀者之间造成距离感。

方-琼斯表示,她感到有责任为她的同事发声。我知道许多中东和穆斯林员工在听到项目 Maven 时感到震惊。我们从公开报道中了解到,监视中东的艾德蒙·阿里尔无人机正在监视那些只是走动、开车的平民,甚至无人机还在婚礼上发射导弹。我认为这就是许多谷歌员工划定界限的地方,他们说:“我不想参与其中,我对你让我参与其中感到不满,无论我想不想。”不久,这场关于无人机战争和谷歌的辩论将不再仅仅是内部的。广告后,媒体直面谷歌争议时会发生什么?

《巨人的国度》的支持来自 Quince。夏天还没有结束,但逐渐将您的衣橱转向寒冷的月份现在可以开始,一点一点地。您可以在不破产的情况下更新您的衣橱,Quince 提供各种永恒的高质量商品。Quince 的开司米毛衣售价从 50 美元起,适合各种场合的裤子,以及可洗的丝绸上衣。

不仅仅是衣服。他们还有优质的行李选项和高质量的床上用品。Quince 的奢侈品价格比类似品牌低 50% 到 80%。我自己查看了 Quince,给我妈妈买了一个手工编织的意大利皮革手拿包。她一看到就评论说皮革多么柔软和漂亮,并告诉我这是她在快速购物时需要携带的完美大小。

通过 Quince 的高质量衣橱必需品,让季节转换变得轻松。访问 quince.com/giants,享受订单免运费和 365 天退货。那就是 Q-U-I-N-C-E dot com slash giants,获取免运费和 365 天退货。quince.com/giants

在 9 月 28 日,全球公民节将聚集数千名采取行动结束极端贫困的人。观看 Post Malone、Doja Cat、Lisa、Jelly Roll 和 Raul Alejandro 与世界领导人和活动家一起登台,击败贫困,捍卫地球,要求公平。下载全球公民应用程序以观看直播。了解更多信息,请访问 globalcitizen.org.com。

在 2018 年 3 月,凯特·康格和她的 Gizmodo 同事 Del Cameron 报道了谷歌与 Maven 的合作。现在,世界知道谷歌内部正在发生的斗争。这变得越来越激烈。梅雷迪思·惠特克记得谷歌员工在 Memegen 上愤怒不已,在 TGIF 上提出关于该项目的敌对问题,签署请愿书。因此,在 2018 年 4 月,大约在惠特克发现该项目六个月后...

谷歌管理层宣布了一场关于 Maven 的全球内部市政厅会议。在我们应该上台的前 36 小时,我收到了黛安·格林的电子邮件,内容是:“我们想参与这个。”黛安·格林是领导 Maven 的高管之一。谷歌还邀请了 Vint Cerf,一位著名的计算机科学家,被认为是互联网的创始人之一。Cerf 拥有很高的声望。惠特克表示,最终有四个人为 Maven 辩护,而她和另一位同事则反对该项目。

惠特克几乎在一夜之间准备了反对 Maven 的案例。这是一场狂热。我晚上到达加利福尼亚,住在一个奇怪的酒店,早上 6 点醒来。是的,这是一场与高管的对峙,我只是...

<context>谷歌的军事合同考验开放文化 谷歌一直引以为傲的一个长处是其开放、协作和透明的公司文化。但许多谷歌员工觉得这种文化正在逐渐消失。在接下来的两集中,我们将讲述谷歌内部信任崩溃的故事——管理层与员工之间的信任。故事从谷歌与国防部签署的秘密合同开始。 主持人:Shirin Ghaffary (@shiringhaffary) 和 Alex Kantrowitz (@kantrowitz) 喜欢这一集吗?给我们评分 ⭐⭐⭐⭐⭐ 并在 Apple Podcasts 上留下评论。 想要联系吗?在 Twitter 上 @recode。 免费订阅。通过在您喜欢的播客应用中订阅,成为第一个听到下周节目的听众。 了解更多关于您的广告选择。访问 megaphone.fm/adchoices 了解更多关于您的广告选择。访问 podcastchoices.com/adchoices</context> <raw_text>0 他们继续在我面前交谈,所以我记得我不得不几乎像是采用拖延战术一样不停地说话。她谈到了训练数据、测试的问题,以及如何保证技术的伦理使用会有多困难,因为所有这些都将被分类。将我们的底线与一个国家的军事目标联系起来的问题,当我们是一家跨国公司时,关于无人机战争的非法性以及平民伤亡人数的问题。

提供这种基础设施的道路上存在的问题。就像我们一样,这是一场针对这一点的论点的攻击。然后回应的论点是,嗯,锤子也是一种工具。它可以用于好事,也可以用于坏事。我当时想,等等,什么?这就是我们现在的状况。我是说,从优点上看,我们赢了。

根据惠特克的说法,市政厅会议是内部对Maven反对意见迅速增长的转折点。我不想独自承担这个责任。我认为这背后有很多工作。而且对我们来说也很幸运,我认为在那时谷歌认为我们所做的事情有点勇敢和古怪,对吧?他们没有意识到我们对此事的严肃性或建立真正工人权力的目标。

这次市政厅会议在惠特克看来可能是谷歌对Maven反对意见的漠视的标志,但在另一方面,这也是谷歌管理层忠于其辩论精神的表现。谷歌邀请惠特克上台向整个公司阐述她的论点。这种事件在微软或亚马逊可能永远不会发生。但如果目的是通过开放辩论的空间来缓解对Maven的紧张局势,实际上发生的情况几乎是相反的。

在市政厅会议一个多月后,数百名谷歌外的技术研究人员签署了一份反对Maven的请愿书。名单上包括该领域一些最受尊敬的学者,包括拉里的老斯坦福顾问,特里·温诺格拉德。

但随后又出现了另一个公关危机,以及谷歌持续的风暴。2018年5月底,《纽约时报》发布了谷歌高层讨论Maven的内部电子邮件。如果你想的话,我们可以阅读其中一些。凯特·康格也报道了这些电子邮件。在这里,她正在阅读2017年9月由当时谷歌云首席科学家李飞飞撰写的一封邮件。

她写道:“我们快要获得Maven了,这真令人兴奋。这将是一个巨大的胜利。我认为我们应该从普通云技术的角度做好国防部与GCP合作的公关故事,存储、网络安全等。但无论如何都要避免提及或暗示人工智能。”

谷歌在人工智能和数据方面已经在与隐私问题作斗争。我不知道如果媒体开始传播谷歌秘密构建人工智能武器或为国防工业提供武器的人工智能技术的主题会发生什么。这些电子邮件显示谷歌领导层似乎在策划如何避免批评。但许多人问的问题是:他们是否充分考虑了谷歌可能制造用于战争的技术的伦理?

我无法访问谷歌内部发送或接收的每一封电子邮件。但从我看到的通信中,我没有看到关于技术伦理的很多辩论,无论是为国防部制造武器是否合适。辩论实际上是关于公众感知以及公众对此事的高度关注。

因此,这应该保持安静。但我没有看到任何深入探讨公众为何会感到担忧的讨论。李飞飞没有回应我们的评论请求。2018年,她向《纽约时报》发表了一份声明,称“我认为参与任何我认为是武器化人工智能的项目是深深违背我的原则的。”在2018年6月1日,《纽约时报》发布电子邮件的两天后。我在我的桌子上。

当时有一个全员会议。我实际上并没有在看,对吧?我在做其他工作。然后我的私信和信号等突然都亮了起来,大家都在说,他们要放弃Maven。然后我突然查看推特,发现这已经在推特上了。我想,哇。

最终的决定是什么并不完全清楚,但在几个月的压力之后,谷歌宣布不会续签与国防部的Maven项目合同。这是一个有趣的时刻,我想,我当时在想,是的,这是一个重要的转折点。但这一切都是通过其他一切发生的平凡渠道进行的。所以我起身走动,心想,天哪,他们做到了。合同并没有完全取消。谷歌履行了对国防部的义务,延续了一年。

但即便如此,这也是一个历史性的时刻。相对较少的技术员工阻止了可能成为美国军方与世界上最强大的科技公司之一之间重大合作的开始。这是我感觉到许多科技工作者开始讨论技术的第一次。

他们在工作中所做的事情是否对社会有净好处,对吧?你知道,构建感觉非常普通且似乎没有社会影响的云产品的人突然开始想,等等,我在构建什么?这有什么更广泛的影响?

是的,如果你要求我们作为工程师违反我们的行为准则,那么我们将拒绝参与这个项目。如果你想解雇我们,你可以解雇我们。对方琼斯来说,这是一个科技员工意识到自己权力的时刻。熟练的工程师拥有杠杆。他们可以选择离开。如果他们没有取消合同,谷歌的业务实际上面临着重大风险。

我们之前提到的那九名关键基础设施员工?根据彭博社的报道,他们在某个时候拒绝参与该项目。最终,大约十名谷歌员工因抗议Maven而辞职。特别是那些辞职或威胁辞职的员工主要是拥有非常长的任期和大量操作经验的员工。

高管们最终似乎倾听了员工及其关切。在宣布Maven重大决定不到一周的时间里,谷歌发布了一份文件,为公司未来的发展确立了新方向,制定了一套关于如何在人工智能项目上进行伦理工作的指导方针,称为AI原则。制定这些指导方针的谷歌员工之一是名为杰夫·迪恩的顶级工程师。

随着我们的谷歌故事展开,您将听到更多关于迪恩的消息,但现在您只需要知道他是谷歌的人工智能负责人。在谷歌的员工等级系统中,从1到10,迪恩实际上被评为11。因此,这个人的话语具有分量。

在Maven争议的高峰期,他实际上在谷歌的一次会议上反对将机器学习用于自主武器。当我们采访迪恩时,他与我们讨论了AI原则。我们有四个领域,包括自主武器的发展,这是我们绝对不会作为公司参与的领域之一。

原则规定谷歌不会帮助构建武器或其他“主要目的是造成或直接促进对人类造成伤害”的技术。我认为这是我们向世界传达的一个非常重要的信息,因为其他人也开始考虑在越来越多的地方使用机器学习。

他们至少可以看看我们在思考这个问题时所提出的内容,并说,好吧,是的,这有道理。不要低估谷歌发布这些AI原则的重要性。这是关于谷歌如何处理未来人工智能开发的伦理声明。这并不是没有风险。首先,这一明确声明使谷歌在争取重大军事合同时处于竞争劣势。其次,退出Maven使谷歌面临着不爱国的指控。

这让一些政治家感到愤怒,他们认为谷歌应该毫不动摇地支持自己的国家。而当你面临潜在的监管时,这不是你想要冒犯的群体。

黛安·格林拒绝对此集发表评论。通过谷歌,肯特·沃克也拒绝接受采访。谷歌对其处理Maven项目的指控或批评未作评论。它确实提供了一份关于项目结束的一般声明,称:“在2018年,我们宣布不会续签与美国国防部有关Maven项目的图像识别合同。”

该合同于2019年3月到期,我们与国防部密切合作,以符合我们的AI原则和合同承诺的方式进行过渡。公司的云部门继续为美国军方提供技术支持,参与培训空军飞行员和使用无人机检查海军舰艇等项目。这些是谷歌前首席执行官埃里克·施密特长期倡导的政府技术合作伙伴关系。我和我的两个好朋友一起。

我可能是全世界唯一一个可以这样说的人。我为他们两人工作。这是施密特在2019年11月的国家安全委员会人工智能会议上主持的一次谈话。施密特那时已经离开谷歌,但在Maven交易签署时,他仍是谷歌母公司Alphabet的执行主席。

施密特在这里采访的两位好朋友是谷歌的总法律顾问肯特·沃克和负责Maven项目的杰克·沙纳汉中将。这次谈话发生在谷歌宣布不再续签Maven合同约一年半后。但这仍然是关于Maven的。现在施密特似乎在舞台上试图修复Maven对谷歌在国防行业声望造成的损害。或者说,让肯特·沃克来尝试修复这个损害。沃克确实努力了。

今天小组讨论的主题,公私合营,对我来说极其重要。我在这个社区长大。我的父亲在军队服役了24年。我出生并在美国军事基地度过了生命的头几年。沃克显然知道他的听众。他在一群军人面前。这不是谷歌的TGIF。关于国家安全和我们参与MAVEN项目的更一般问题,

这是一个我们决定按下重置按钮的领域,直到我们有机会制定自己的一套AI原则,关于内部标准和审查流程的工作。但这是一个专注于特定合同的决定,而不是关于我们与国防部和国家安全局合作的意愿或历史的更广泛声明。

我们继续这样做。我们致力于这样做。这项工作建立在硅谷在国家安全方面的长期传统之上。我们是一家自豪的美国公司。我们致力于美国、我们的盟友以及世界和平、安全和安保的国家防御事业。我们期待未来更紧密的合作。

沃克在这里是为了澄清事实。谷歌仍然愿意与美国军方合作。施密特还为沙纳汉提供了发言的机会,让他反思Maven。沙纳汉对从他的角度看Maven发生的事情更加坦诚。我们从谷歌的Maven项目获得了巨大的支持。然而,我们发现,这实际上是双方的批评,我们很快失去了叙事。

沙纳汉去年从国防部退休,但同意在本集节目中与我们谈谈Maven从与谷歌合同开始时发生的事情。我们真的很震惊,谷歌愿意与我们合作这个项目,因为我们知道当时公司拥有世界上最高比例的人工智能人才。我们希望世界上最优秀的人才来解决这些问题。我们需要它,因为其他国家也在这样做。沙纳汉对Maven项目在谷歌工程支持下能够取得的成就持乐观态度。

所以当它在争议中爆发时,他特别失望。透明度不足。当存在真空时,谣言填补了真空。我认为在这种情况下,谣言变得恶性。人们假设这个项目比实际情况要复杂得多。

例如,员工担心谷歌的工作被用于致命目的。现在,这里有一个灰色地带。沙纳汉重申,当时谷歌的工作并没有用于指导武器。但他确实承认,确保项目收集的情报永远不会被用于造成伤害是很困难的。你可以使用的信息链条是什么?它最终会在哪里?也许六个月后它会被使用。但这就是与谷歌的持续讨论。

沙纳汉表示,他实际上建议可以与Maven的反对者交谈,以更好地解释该项目,但谷歌告诉他这是个坏主意。当他得知谷歌不再续签合同时,他说:“我对这个决定感到非常失望。”

但它已经 spiraled 到一个地方,继续下去对任何人都没有帮助。所以我不知道这是否是正确的术语,但他们需要在公司内部有喘息的空间。他们需要在公司内部讨论这个问题。一方面,沙纳汉觉得谷歌应该从第一天起就对员工透明地谈论Maven。另一方面,他想知道谷歌是否应该在某个时候对所有这些讨论施加更多控制。

我心里有一部分在想,看看,谁在管理公司?是100名员工,还是首席执行官将决定公司的运作?这是一个重大决定。

他们变得复杂。这就是他们最终撤出的原因。他们本可以直接说,我们要这样做。如果你不喜欢,你可以自由离开公司,或者你不必参与Maven项目。所以我们的感觉,我在这里给你我的国防部的世界观,是你在开玩笑。现在谁在管理公司?这就是我们看待它的方式。就说它是什么。

但谷歌当然一直喜欢拥有不同的世界观,一种辩论应该是值得的观点。

在Maven之后的几个月里,谷歌的员工行动主义将激增。一群越来越多的热情员工将对其他内部争议发声,从高层的性行为不当到与美国移民机构的合同,再到与中国政府的秘密项目。管理层将开始限制其宣传为成功关键的员工沟通的自由环境。

格林和李在Maven之后的几个月将离开谷歌。惠特克和方琼斯也将在接下来的年半内离开公司,但在此之前,他们在其他问题上进行了组织。你在开头听到的长期谷歌员工Chewy Shaw,将成为新成立的Alphabet工人联盟的领导者之一。未来还会有更多的斗争。

在过去,谷歌面临的最大挑战来自其竞争对手,尤其是来自微软、苹果和亚马逊等其他科技巨头。但Maven帮助开启了一个新时代,在这个时代,谷歌似乎与自己处于战争状态。下周,我们将讲述一些关键谷歌员工在意想不到的情况下离开公司的故事,包括曾是谷歌伦理人工智能团队共同负责人的蒂姆尼特·盖布鲁博士。

谷歌表示她在2020年12月辞职。盖布鲁说她被解雇。我不知道该如何描述我的感受。我不记得了。我只是觉得我必须采取行动。将这些前员工的故事汇聚在一起,描绘出公司逐渐收紧开放文化的时间线。我知道这听起来很糟糕,但事实是,每次他们解雇像这样的员工时,这只会增加...

更多证据来证明,这种情况是孤立的还是系统性的。特别感谢凯特·康格,她引导我们与埃里克·施密特的谈话。感谢彼得·W·辛格帮助我们更好地理解故事的国防背景。

谢谢。

阿特·钟是我们的节目制作人。尼沙特·库尔瓦是我们的执行制片人。我是亚历克斯·坎特罗维茨。您可以在您喜欢的播客应用中查看我的每周访谈系列《大技术播客》。我是Shireen Ghaffari。如果您喜欢这一集,请在Apple Podcasts上给我们评分和评论,并告诉朋友。并订阅以在下一集发布时收听。