今天,我们播放的是由我们的朋友 Modern CTO Podcast 制作的一期节目,他们最近很友好地邀请我作为嘉宾参加。我们讨论了生成式 AI 的兴起,技术成功的意义,以及领导者在指导技术实施工作时需要考虑的一些因素。您可以在 Apple Podcast、Spotify 或您收听播客的任何地方找到 Modern CTO Podcast。AI 应用涉及许多不同级别的风险。
当我们与该公司首位首席技术官 Mark Mayberry 谈话时,了解 Stanley Black & Decker 如何在其业务中考虑其 AI 风险组合。欢迎收听《我和 AI》,这是一档关于人工智能在商业中的播客。在每一期节目中,我们都会向您介绍一位正在使用 AI 进行创新的人。我是 Sam Ransbotham,波士顿学院信息系统教授。我还是麻省理工学院斯隆管理学院 AI 与商业战略大创意项目的客座编辑。
我是 Shervan Kodabande,BCG 的高级合伙人,我与人共同领导 BCG 在北美的 AI 业务。麻省理工学院 SMR 和 BCG 合作研究 AI 已有五年时间,采访了数百名从业人员,并对数千家公司进行了调查,了解如何在整个组织中构建、部署和扩展 AI 能力,并真正改变组织的运作方式。
今天,我们与 Stanley Black & Decker 首位首席技术官 Mark Mayberry 进行了交谈。Mark,感谢您的加入。欢迎。非常感谢您邀请我,Sam。我们不妨从您的当前职位开始吧?您是 Stanley Black & Decker 的首位首席技术官。这是什么意思?
好吧,早在 2017 年,我很高兴地接受了我们的首席执行官 Jim Lurie 的邀请,领导 Stanley Black & Decker 的极端创新企业。因此,我参与的一切都包括从新企业到加速新公司发展,再到促进我们业务内部的创新,以及总的来说,成为公司极端创新的倡导者。
您最初并非 Black & Decker 的首席技术官。请告诉我们您是如何最终来到这里的。如果您回顾我的历史,这确实是一个非常……您是如何对 AI 感兴趣的呢?我的意思是,
AI 的开始可以追溯到我 13 岁的时候。我清楚地记得这件事。这是一段令人难忘的回忆。1977 年,我看了《星球大战》。我记得走出电影院时,受到了对话机器人 R2D2、C3PO 以及人和机器之间人工智能的启发。当时我不知道,但我对增强智能和环境智能很着迷,他们拥有这些聪明的机器和聪明的机器人。
然后,这转变为对真正理解人类思维的热爱。在大学里,我作为 Holy Cross 的 Femmick 学者与许多神经心理学家一起学习,还与一些波士顿大学的教师一起工作。我们在 1986 年构建了一个诊断脑部疾病的系统。那是很久以前的事了,但这让我了解了贝叶斯推理等等。然后
当我开始我的职业生涯时,我接受了真正的全球化培训。因此,我在高中时在委内瑞拉学习。作为一名本科生,我在意大利学习了八个月的意大利语。然后我去了英国剑桥,学习英语。真正的英语。
真正的英语。C-3PO 会为此感到骄傲的。C-3PO,没错。没错。的确,我的硕士学位是语音和语言处理。对不起,你编不出这个。我和那里的 Karen Spark-Jones 教授一起工作,她是计算语言学的伟大教母之一。
但后来我转而成为一名空军军官。我立刻对安全、国家安全、计算机安全、AI 安全产生了兴趣。当时我不知道,但我们正在开发基于知识的软件开发。我们思考如何确保软件安全?快进到 20 年后,我被要求领导一个联邦实验室,即 MITRE 的国家网络安全联邦资助实验室。
支持 NIST。我作为一名 AI 人员晋升,将 AI 应用于许多领域,包括计算机安全、构建内部威胁检测模块、构建渗透测试、自动化代理、对恶意软件进行大量机器学习,与 MITRE 和联邦政府及其他机构的优秀科学家合作,
以及商业公司。因此,这确实改变了我的想法,例如,我永远不会忘记与一些科学家一起努力,首次能够保护医疗输液泵,这是医院中最常用的设备。这就是安全思维和风险管理的基础。
由此而来。我有幸与 NIST 的伟大人物 Donna Dodson 和其他伟大的领导者一起工作。因此,这些确实是塑造了我安全思维的理论和实践基础。
好的,但这不会让你感到疯狂吗?世界上有这么多人采用先构建后保护的方法?我觉得这在……好吧,在一般的软件中很普遍,但在人工智能应用中尤其如此。总是先考虑功能,然后再考虑安全性。这不会让你发疯吗?我们该如何改变这种情况?有一些方法。
和良好的实践、最佳实践,用于在系统中构建弹性。事实证明,弹性可以通过多种方式实现。例如,我们提到了多样性。这只是一个策略。另一个策略是松散耦合。宝塔
之所以在日本能持续数百年的原因是,它们是用诸如非常坚固的中心结构以及松散耦合的悬挂结构等结构建造的,这些结构可以吸收例如地震时地球的能量。
因此,如果您考虑一个松散耦合的网络或软件系统,甚至当然还有解耦事物,那么这些设计原则,这样您就可以分解功能,以便如果电力系统或软件系统在本地发生故障,它不会影响全球所有人。需要应用其中的一些原则。它们是系统安全原则。
但它们绝对可以应用于 AI。令人惊奇的是,人们在发生事故时效率有多高。他们可能骨折了。他们可能……器官受损。但他们仍然活着。他们仍在运作。这是怎么回事?因此,大自然是我们的良好灵感来源。
我们不能忘记,最终,我们的公司有一个目标,那就是为那些让世界变得更美好的人服务。这意味着我们必须在理解这些技术将进入的环境方面具有同理心,并确保它们直观、透明、易于学习、能够适应这些不同的环境,以便我们有效地为那些世界创造者服务。
Mark,当您描述创新时,我认为您的品牌非常知名,我们的许多听众都会知道。但是,您能否快速介绍一下 Stanley Black & Decker 是做什么的,以及这些创新中的一些如何使公司变得更好?
这是一个很好的问题。来到这家公司后,了解它所做的事情是一件令人高兴的事情。因此,我和许多听众一样,都知道 Stanley Black & Decker 是一家生产 DeWalt 工具、手动工具或电动工具或存储设备的公司。
这些都是您非常熟悉的工具。但事实证明,我们还有一个数十亿美元的工业业务。因此,我们使用机器人将紧固件插入汽车中。事实证明,今天道路上每 10 辆汽车或轻型卡车中就有 9 辆是由 Stanley 紧固件固定在一起的。同样,我之前不知道,但在 1930 年,我们发明了电子门,即滑动门。
因此,下次您走进 HomeGoods、Home Depot 或 Lowe's,甚至医院或银行时,如果您抬头向左看,您会注意到有二分之一的几率会看到 Stanley 的标志,因为我们制造了北美每两扇电子门中的一扇。
还有其他例子,但这些都是创新,无论是通过我们的医疗保健业务保护 200 万婴儿的实时定位服务,还是生产环保铆钉来减轻电动汽车的重量。这些都是我们不断开发的创新的一些例子,因为基本上每秒钟都会在世界各地售出 10 件 Stanley 工具。
每秒钟。因此,无论是 Black & Decker、DeWalt 还是 Craftsman,这些都是我们有幸影响其创新未来的家喻户晓的品牌。是的。您真的无处不在。每次我坐在我的车里时,我都会记住,就像将原子核结合在一起的强力一样。您将我的汽车固定在一起。太棒了。您能举一个极端创新与非极端创新的例子吗?
当然。极端创新是指在一切中创新、在任何地方创新、每个人都创新。有趣的是,在公司内部,我们区分了六个不同的创新级别。
在过去的六个月里,我们整个公司都在使用通用的标准来表征事物,这让我们变得更有条理。所以这是一个很好的问题。第一级和第二级,这些是增量改进,例如对产品或服务的改进。一旦我们达到第三级,我们就开始谈论对产品进行一些重大改变。当我们达到第四级时,我们谈论的可能是三个或更多主要的新功能。这是您会明显注意到的东西
当我们谈论第五级时,这对于我们来说是首创。这是我们可能从未在市场上经历过的事情。我们经常称这些为突破性创新。最后,我们的第六级,即激进创新。这些都是世界首创。
举个具体的例子,我们刚刚向市场推出了首个使用软包电池技术的应用,这是 FlexVolt 电池的继任者,它本质上是一种使用软包技术使工具电池的功率翻倍、功率提高 50% 的能力。
重量和尺寸减轻了两倍,使用寿命也延长了两倍。这是一个极端创新的例子,它将彻底改变电动工具。这被称为 PowerStack。
我们在 Black & Decker 推出的另一个例子是 PREA。PREA 是第一个对话式家庭医疗保健伴侣。这是一个使用语音和语言以及对话技术来支持药物分发给那些我们希望在家中养老的人的例子,但也使用 AI 来检测异常并提醒护理人员注意个人。这些都是可以真正改变现状的例子。
第一级到第六级意味着存在一个投资组合,并且存在关于如何构建、管理和发展该投资组合的意图。您能否评论一下您是如何考虑这个问题的,以及第一级与第六级之间有何不同,以及您考虑过哪些权衡?这是一个非常好的问题。基本上,它是由市场驱动的。
它甚至将进一步由产品和细分市场驱动。如果您销售软件服务,您将希望几乎实时地对其进行修改。但当然,在几个月内,您将希望改进该服务。因此,可能会发生这种增量修改。我们能够上传我们网络物理末端执行器的最新版本,无论它是什么。
但要回答您的问题,公司通常会随着时间的推移,如果他们不关注他们的第一级到第六级,也就是从增量到激进,他们最终会得到一个偏向增量主义的投资组合,只关注微小的修改。这些很容易做到。您会在市场上获得直接的好处,但您不会获得长期、中期或长期的转变。因此,我们有意地以经验的方式衡量
我从第一级到第六级获得了多少增长、多少利润和多少客户满意度?因为任何组织在资金、时间和人才方面都会受到资源的限制。
您需要做的是理想地进行优化。如果市场奖励您,例如,拥有第四类的新产品和服务,这些产品和服务具有……重大改进,但它们会因为您进行了激进的改进而惩罚您,因为他们只是……
存在认知失调。你说家庭健康伴侣是什么意思?我不知道那是什么。我只想要一个更好的压舌板。因此,在这种情况下,您确实需要了解市场愿意采用什么。我们必须考虑,如果您确实进行了激进的创新,您将如何进入渠道?最后我要说的一件事是,因为您的问题关于投资组合是一个非常好的问题,我们实际上更进一步,这不仅是我们查看这些类别的分布,
以及随着时间的推移对这些投资的响应。但对于任何一项具体的投资,我们实际上都会将其放入一个投资组合中,该投资组合描述了技术风险和商业风险。我们实际上使用了技术成熟度等级,这些等级来自 NASA 和空军,我的前职业生涯,现在在商业界使用。然后我们发明了,实际上,在我为联邦政府工作时,我们创建了商业成熟度等级
我已经将它们引入了 Stanley Black & Decker。现在,我们实际上第一次为公司的每个业务都拥有一个投资组合。我们非常高兴最终能够为公司带来这种能力,即能够查看
我们的投资作为一个投资组合,因为只有这样我们才能看到我们是否试图实现不可能实现的目标,因为从技术上讲这是无法实现的,或者同样糟糕的是,这个目标没有市场?您可能会发明一些非常好的东西,但如果客户不在乎,它就不会具有商业可行性。因此,这些是在投资组合分析中需要考虑的重要维度。
是的,我很高兴您提到了风险,因为这将是我的后续问题。即使这必须是一个风险范围,以及如何决定多少风险是合适的风险水平,以及您要等待多久才能知道市场是否真的喜欢某些东西。我不会把话放在你嘴里,但我只是想从你的话中推断出,你是在说这是一个
杠杆和决策,你们根据市场和公司的经济状况以及何时想要承担更多风险或更少风险来管理。
绝对的。许多声音都有机会影响市场动态。如果您考虑波特的五力模型,经典地,您有您的竞争对手、供应商、客户和您自己。所有这些竞争力量都在发挥作用。因此,我们试图做的一件事是衡量、倾听。我们公司运营模式中的领导力模型是倾听、学习、互动。
和领导。倾听和学习部分非常、非常重要。如果您没有倾听正确的信号,如果您没有客户信号,如果您没有技术中断信号,如果您没有经济信号,您的制造和供应信号,您需要所有这些信号
然后重要的是,您需要吸取教训。您需要在创意生成阶段尽早采用良好的实践。您是否在使用设计思维?您是否在使用多元化团队?您是否正在有效地收集见解?然后,当您开始创造机会时,您是否开始进行我刚才谈到的竞争分析,因为您开始研究这些具体的商业案例?
您是否正在尝试使用概念车或概念验证,然后可能……也许我们没有解决方案。也许我们应该在公司外部进行一些开放式创新。然后最终在我们的商业执行中,他们是否有合适的销售团队、合适的渠道、合适的合作伙伴来实现规模化?因此,挑战在于,无论是在制造产品方面,
我们可能会陷入试点炼狱。我们可以创造一些对市场看起来非常令人兴奋和充满希望的东西,但它却无法制造、不可持续或无趣或不经济。这真的不好。您真的必须采取一种整体方法。
在整个过程中都要牢记意图,然后重要的是要进行测试和衡量,快速失败,然后最终准备好快速扩展,当某些东西确实击中了市场上的最佳点时
因此,这些级别上有很多不同的东西。您能否将它们与人工智能联系起来?例如,人工智能在市场风险方面风险更大吗?它在技术风险方面风险更大吗?这如何影响您的不同级别?该矩阵与人工智能的交集是什么?
好问题。我们的 AI 真正应用于整个公司。我们有机器人流程自动化,它是现成的、低风险的、可证明的,我们自动化了财务、人力资源方面的 IT 元素。我们今天实际上已经有近 160 名数字员工。
他们只是执行自动化流程,这使得我们自己……我们称之为不仅是 AI,有时也是增强智能,而不是人工智能。我们如何增强人类以提高他们的效率?因此,根据您的问题,什么是风险?这似乎风险较小。风险非常低。RPA 风险非常、非常低。但是,
如果我要将 Priya 推向市场,或者 Insight,这是我们 Stanley Industrial 业务中用于物联网测量、预测分析、剪切机或对大型挖掘设备的扩展等功能。在这种情况下,风险可能非常高。
因为可能存在用户采用风险、传感器相关性风险、确保您的预测能够正常工作。这可能是安全风险,也可能是经济风险。因此,您需要非常小心地确保这些高风险领域的这些技术能够真正发挥作用,因为如果要向患者提供建议或向大型机械的操作员提供指导,它们可能是危及生命的。
因此,我们的整个业务都使用了 AI,包括顺便说一下,在我们的工厂和自动化中。我们在那里减轻风险的一种方法是合作。我们与其他人合作,以便他们实际上已经降低了许多技术的风险。因此,您会看到来自第三方的移动机器人。您会看到来自第三方的协作机器人,我们正在对其进行定制并将其应用于我们的工厂并降低其风险。因此,在这个矩阵上,它们在风险范围内分布得更广泛。
Shervin 和我讨论过几次的一个问题是,人工智能的想法可能会引导人们进行这些增量改进。也许这些算法改进现有流程的能力可能会以某种方式引导人们走向第一级而不是第六级。您是否看到了这一点?您能否将人工智能应用于第五级、第六级类型的项目?
我们绝对在各个方面都使用了 AI。对于 AI 而言,技术商业风险较低的东西往往是商业上可行的。因此,你知道,它往往有多个用例。其他人已经部署了这项技术。它已经过实战考验。但现实情况是存在一系列风险。我们最近刚刚发布了
公司的一套负责任的 AI 政策,并将其公开发布。因此,任何其他多元化工业或科技公司或其他中小型企业都可以看看我们做了什么。我将给您一个非常简单的例子。它有点涉及到您的观点,即他们是否会倾向于更容易解决的问题?不一定。风险领域之一是确保您的 AI 传感器或分类器实际上没有偏差和/或具有弹性。
确保它们具有弹性和无偏差的一种方法是确保您拥有更多样化的数据。这意味着,如果您有更多用户或更多使用 AI 系统的情况,并且正在进行主动学习,也许是机器运行时的强化学习,很可能是在人类的监督下,因为您希望确保您不会发布任何可能对操作员产生不利影响的东西。
或用户、最终用户,实际上,您获得的数据越多,越好,效果越好,您可以降低的风险越高,但实际上您可以获得的性能越高。这有点违反直觉。因此,在某种意义上,您实际上可以变得更有创新性,或者只是在 AI 方面更聪明。
因为您有更多的接触。就像那些从高中到大学再到研究生院的人一样,因为挑战在这些级别上有所增加,他们的学习能力、沟通能力随着他们接受培训而变得更加有效。机器也是如此。您可以为其提供更简单的示例,因此它们可能是对该系统更增量、更简单的挑战。随着我变得越来越困难,所以我从消费者到专业消费者再到专业人士,
我的系统智能,因为专业人士知道得更多。她已经工作了 20 年,从事建筑工作或在工厂工作了很长时间,并且知道机器可以利用哪些学习内容,并且可以向机器展示更复杂的学习内容。例如,对于预测分析,如果我想预测停机,
如果我只见过一种停机,我就只能处理这种停机。如果我见过 30 种不同的停机,我就会好得多,也更具弹性,因为我知道我所知道的东西,但同样重要的是,也许更重要的是,我知道我所不知道的东西。如果我第一次看到某些东西,而我已经见过 30 件不同的东西,这是一个全新的东西,我可以说这与我以前见过的任何东西都不符。
我什么都不知道。等等。让我们联系一个人。告诉他们这是一个异常情况。让我们让机器重新训练。这些负责任的原则来自哪里?这是您内部开发的东西,还是您从其他地方采用的东西?
首先,动机。为什么我们关心负责任的 AI?这始于我在公共部门工作的 31 年,了解 AI 的一些风险,曾在政府部门工作,资助许多初创公司、许多大公司和小公司,建立伙伴关系。
国防应用、室内医疗保健应用、AI 的国家应用,我们认识到存在许多失败。我认为导致负责任的 AI 的失败方式是,如果您考虑 OODA 循环,对吧,观察、定向、决策和行动,
观察,您可能会有坏数据、感知失败、偏差,就像我之前建议的那样。因此,机器实际上可能会相信它们看到的是让路标志,而实际上它们看到的是停车标志。因此,实际上已经进行了一些研究证明了这一点。没错。对抗性 AI。
您还可以通过偏差选择、错误标记或错误归因来混淆 AI,因此它们可能会以错误的方式定向。查看我之前谈到的分类。您可以强迫他们看到不同的东西或错误分类。同样,
他们可能会做出错误的决定。他们可能会有错误信息。可能会有错误的线索或混淆。我们实际上在闪崩中看到了这一点,当时 AI 被训练进行交易,但他们的模型实际上并没有识别出事情何时变糟,并且做出了错误的决定。最后,实际上可能会有物理世界的行动。我们已经有一些
自动驾驶汽车由于 AI 的人为监督失败、过度信任 AI 或低估 AI 而发生故障,然后发生错误的决定。这就是动机。然后我们研究了欧洲、新加坡和世界经济论坛的工作。
在美国,关于 AI 原则和算法问责制以及白宫关于 AI 监管的指导意见,有很多工作。我们已经与所有这些事物联系在一起,并且还与世界各地的微软、IBM 和谷歌联系在一起,了解他们在负责任的 AI 方面所做的事情。作为一家多元化的工业公司,我们表示,我们在各个领域都有这些非常复杂的领域应用。
在制造业、航空业、运输业、工具业、家庭医疗保健产品或家庭产品中。那么,我们如何确保在将 AI 构建到这些系统中时,以负责任的方式进行呢?这意味着确保我们对 AI 所知或所不知的内容保持透明,确保我们保护我们收集到的关于环境的信息的隐私,也许是关于人们的信息。
确保我们的决策公平公正且没有偏见。确保系统更具弹性,它们更具共生性,因此我们可以实现我们之前谈到的增强智能。所有这些都是动机,因为我们是一家真正坚定地相信企业社会责任的公司。
为了实现这一目标,我们必须将其融入我们正在生产的产品以及我们正在采取的方法和途径中,这意味着确保我们正在对它们进行压力测试,我们正在适当地设计它们。这就是负责任的 AI 的动机。那么,您对 Stanley Black & Decker 感到兴奋的是什么?有什么新鲜事?您提到了过去参与过的项目。您能否分享一些即将到来的令人兴奋的事情?
是的,我不能详细说明,但我现在可以对您的听众说的是,我们在 ESG 领域进行了一些极端创新,特别是当我们谈论净零排放时。因此,我们公开声明,我们的工厂将在 2030 年实现碳中和。我们有 120 家工厂和配送中心,遍布世界各地。这并非易事,而且这并非……没有政府要求我们这样做。这是我们自己强加的。
顺便说一句,如果您认为,这是一个未来的事情,我们永远不会做到。我们已经超前于目标,即将达到 2030 年。但我们也将在 2025 年之前更进一步。我们将取消包装中的塑料。对。因此,我们将摆脱我们都习惯使用的那些泡壳包装。为什么?因为我们想消除水域和海洋中的微塑料。我们认为这是我们的责任,需要主动采取行动。没有政府要求我们这样做。
这只是我们认为应该做的事情。我们现在非常积极地学习如何获得无碳材料。因此,我们如何运营工厂并设计无碳产品,如何以碳中和的方式分销产品。这需要彻底的反思,实际上也需要大量的 AI,因为你必须考虑智能设计。
哪些组件可以重复使用?哪些可以回收?哪些必须可堆肥?这里真正重要的是跳出框框思考。仅仅因为你做了,你知道,我们将是一家拥有 179 年历史的公司。所以我们已经存在一段时间了。
作为公司的一名官员,我的责任,实际上,是确保我们沿着弗雷德里克·斯坦利(Frederick Stanley)相同的价值观前进,他是一位社会企业家,纽不列颠的第一任市长,在战争期间没有玩具时,他非常热衷于将他的工厂改造成玩具厂,为孩子们制造玩具。我的意思是,非常……
具有社区意识的个人。而这种遗产,这种目标在我们所做的事情中延续了下来。因此,是的,我们想要高性能工具,是的,我们想要轻型汽车,我们想要所有这些创新,但我们希望以可持续的方式实现它们。谢谢。我认为你关于例如你考虑创新的不同层面的许多观点会引起听众的共鸣。这是一次很棒的谈话。感谢您的加入。马克,谢谢。这真的是一次很棒的谈话。非常感谢你。
我们希望您喜欢今天的节目。下次,Sherva 和我将与 Peloton Interactive 人工智能和计算机视觉副总裁 Sanjay Natchani 谈谈。请加入我们。感谢收听“我和 AI”。我们相信,与您一样,关于 AI 实施的对话不会始于本播客,也不会止于本播客。这就是为什么我们在 LinkedIn 上专门为像您这样的听众创建了一个小组。它被称为“AI for Leaders”。如果您加入我们,您可以与节目创建者和主持人聊天,提出您自己的问题,分享您的见解,
并获得来自 MIT SMR 和 BCG 关于 AI 实施的宝贵资源,您可以通过访问 mitsmr.com/AI for Leaders 来访问它。我们将把链接放在节目说明中,我们希望在那里见到您。