Operational Safety With AI: Chevron's Ellen Nielsen
35:13 Share

今天，我们播放的是由我们的朋友 Modern CTO Podcast 制作的一期节目，他们最近很友好地邀请我作为嘉宾参加。我们讨论了生成式 AI 的兴起，技术成功的意义，以及领导者在指导技术实施工作时需要考虑的一些因素。您可以在 Apple Podcast、Spotify 或任何收听播客的地方找到 Modern CTO Podcast。数字孪生？用于工程的生成式 AI？

在今天的节目中，我们将了解一家石油化工公司如何提升其员工技能以从生成式 AI 等新技术中获益。我是雪佛龙的艾伦·尼尔森，您正在收听《我和 AI》。欢迎收听《我和 AI》，这是一档关于人工智能和商业的播客。在每一期节目中，我们都会向您介绍一位在人工智能领域进行创新的个人。我是萨姆·兰斯博瑟姆，波士顿学院分析学教授。

我同时也是麻省理工学院斯隆管理评论的 AI 和商业战略客座编辑。

我是谢尔文·科杜班德，BCG 的高级合伙人，也是我们 AI 业务的领导者之一。麻省理工学院 SMR 和 BCG 自 2017 年以来一直在研究和发表关于 AI 的文章，采访了数百名从业者，并对数千家公司进行了调查，了解构建、部署和扩展 AI 能力以及真正改变组织运营方式需要什么。

大家好。今天，我和萨姆与雪佛龙首席数据官艾伦·尼尔森交谈。艾伦，感谢您抽出时间与我们交谈。欢迎来到节目。感谢你们的邀请，我很高兴今天能进行一次非常酷的对话。

让我们开始吧。我想我们的大多数听众，事实上，所有听众都听说过雪佛龙。但他们可能不知道的是，AI 在雪佛龙整个价值链中的普及程度。所以，也许您可以告诉我们一些关于您的角色以及 AI 如何在雪佛龙中使用的情况。

也许可以谈谈我的角色，它始于三年前。我是雪佛龙的第一位数据官。这并不意味着我们很早就开始处理数据，但对数据给予更多关注的需求开始出现。有了这个，我的任务是宣传数据驱动的决策。当然，这包括数据。

在此过程中，任何类型的数据科学分析。看到它随着时间的推移而发展，这非常非常有趣。我们在许多地方使用 AI，例如，我们今天在油罐检查中使用机器人。您可以想象，让人类参与其中非常麻烦。现在我们用机器人来做这件事。

我们基本上将人类从这些密闭空间中移除。这是计算机视觉的结合，你知道，拍摄图像，比较图像并对该油罐和设备的状态进行预测。它是否生锈？它是否需要维护？我们需要以一种非常预测的方式来解决它吗？因此，这将使未来的运营更加可靠和安全。

另一个例子是当我们谈论压缩机或任何类型的设备中的传感器时。过去，我们当然安装了它们，但这些传感器的价格和数据收集的价格都大幅下降。

我最近才看到，实际上这是一个公民开发应用程序，因为它必须安装这些传感器。当您安装它们时，您基本上会使用一个二维码，只需单击一下即可将地理空间位置添加到传感器。然后，您可以看到您在设施界面中安装的所有这些传感器。

在地图上，你知道，所以你实际上可以看到正在发生的事情以及事情在哪里工作以及哪些传感器在那里被清点。因此，我们在这里结合了计算机视觉、公民开发，然后当然是以基于机器学习和 AI 的方式使用这些传感器来预测它们的工作方式。我知道你们做得很好的一件事是数字孪生。

也许您可以对这个例子发表一些评论。数字孪生是我们使用的一个例子中的许多例子之一。是什么触发了数字孪生？一个是可以想象我们有在现场工作的人员，所以我们想让他们的生活更轻松、更安全。这意味着我们可以收集到的关于我们的现场资产及其操作方式的数据和信息越多，

将有助于更安全、更可靠地进行运营。这是一个触发因素。第二个触发因素是，您可以根据物联网 (IIoT) 设备、传感等收集大量信息。这会馈送到另一个信息池，您可以在其中对这些资产做出预测性决策。因此，使用数字孪生，我们希望同时满足这两个目标。

我们希望更安全、更可靠，而且对我们的工作做出更准确的预测，这与效率有关，并在正确的时间做正确的事情。您能否举一个您使用数字孪生的具体例子？这如何帮助提高安全性？它如何提高效率？

如果您采用数字孪生，并且您说您基本上对设施（炼油厂）进行数字孪生。在炼油厂中，您可以想象有很多管道、很多设备、压缩机、发电机，

有很多机械运转的东西，人们必须维护这些东西才能生产出产品。因此，当您看到从产品进入或材料进入到产品出来的价值链时，两者之间的所有内容都通过该炼油厂。如果您对所有内容都进行了数字孪生，您可以更好地进行规划，更好地进行操作。您知道何时有东西进来，您可以更好地预测如何获得更好的输出。

这基本上就是我们在运营的炼油厂或设施中所做的工作，它实际上是查看信息流和数据驱动的决策。因此，我们一直在用信息来推动决策。过去，信息更多地存在于经验丰富的人员的头脑中，当然有时也会通过设备信息来增强。但这可能是手动收集或将事物组合在一起。我认为有了数字孪生，

我们掌握了信息，可以推动这一进程。这是一个很好的例子。我认为长期听众会知道谢尔文和我都是化学工程师，但您可能不知道的是，好吧，我不再是化学工程师了，部分原因是我对模拟化学过程的想法非常感兴趣。我们发现我们不必构建一个小型流程来测试某些东西。我们可以在计算机上构建它并进行测试。那是很久以前的事了，而且当时的一些工具非常糟糕……

那些日子里的工具很糟糕。我猜想您比那要先进得多，或者我希望您比那要先进得多。我认为这是一个不断发展的领域，但我对这些机会感到非常兴奋。我可以想象，当您拥有催化剂或必须测试原材料时，您必须将其与生产计划一起进行。嘿，您必须停止生产。您必须实时测试它。这减少了产量。

现在您可以以更有效的方式模拟事物，规格掌握在手中，不再需要物理操作。在我之前的公司里，我也曾在一个世界里，我们不得不一遍又一遍地在实验室里对事物进行物理测试。我认为时代已经过去了。它正在以更好的方式进行更多模拟。

海伦，您能否再举一个关于勘探或开采的例子，在没有数据和 AI 的情况下，这些例子过去也相当依赖经验、成本高昂且危险？我认为我们去年年底也从公司方面发布了一个很好的例子。

当您想到石油和天然气时，您会想到如何从油藏中获得更多产量？您希望以高效、负责任的方式从油藏中获得最佳产量。通过收集数据，您可以想象，如果您没有计算机能力，也没有以数字方式掌握数据，这将非常麻烦。我无法想象过去人们是如何做到的。他们可能正在打印东西，并将它们叠加在一起，然后

根据他们的经验做出假设。当然，他们积累了丰富的经验。现在我们用机器学习算法来做这件事。我们了解岩石的成分是什么

我们甚至创建了一个“岩石百科全书”，以了解不同的岩石条件和成分，以便我们每天在需要时都可以利用这些数据。是的，我认为这是一个更大的主题，随着这些技术的出现，可能性是无限的。所以问题是，

您还能如何应用它？您还能用它做什么？我认为这让我想到一个关于使命和目标的问题，因为显然有很多数据。显然有很多工具，用例是由使命驱动的。我们想用它做些什么？是的，我会将它与雪佛龙的战略联系起来。我们以安全的方式获得更高的回报和更低的碳排放。

这是我们的指导原则。因此，我们所做的一切都应该有利于公司的成功、公司的影响，同时也要在低碳环境中进行。我们知道几十年后世界将变得不同。我们关注甲烷。我们关注温室气体排放。我们关注我们的整体碳足迹。所以这是我们一直在努力解决的问题。

数据和 AI 发挥着作用，但也影响着我们的运营方式和安全运营方式。安全是雪佛龙价值体系的重要组成部分。当您考虑未来并考虑 AI、机器人和数字孪生以及所有这些时，存在我们可以帮助人们更安全、更可靠、以更好、更新的方式在未来工作。

雪佛龙或一家主要从事工程和科学的公司让我感兴趣的是，当 AI 投产时，

以增强工人、工程师和科学家正在做出的一些决策和一些见解。但是，作为一名工程师，作为这些工厂的操作员，我可能不太同意。我不知道这是否引起共鸣。您如何让科学家和工程师乐于使用这些工具？嗯哼。

我认为这实际上是有帮助的，因为工程师具有非常逻辑的思维方式，并且他们了解科学。我们公司有很多科学人员。因此，当您谈论数据科学及其背后的内容时，我们有很多对学习数据科学非常感兴趣的人。我们还会说我们已经开始提供教育。那么，我从哪里开始呢？

所以你从学习开始，你知道，嘿，我不明白这个。这是典型的工程思维方式。我不明白。我想理解它。我在寻找它告诉我什么？它如何影响我的解决方案？我们已经有一段时间的数字奖学金计划了。实际上，我们与麻省理工学院一起做这件事，我们有一年的学员，他们不是来自

一个部门，他们真正来自整个公司，一年内完成设计工程硕士学位，这是一件非常困难的事情。但他们会回来，了解新技术，了解这些东西，我们如何以不同的方式使用它。

他们是第一个回到他们的正常环境并影响并基本上让其他人参与他们的知识并尝试他们以前可能从未尝试过的不同事物的人。这是影响文化的一种方式。

数据科学领域的第二件事是，我们开始与莱斯大学合作。我们还有一个为期六到七个月的项目，也在公司内部进行。这不仅是为了让 IT 人员学习数据科学的含义。他们将其带回他们的环境。他们并没有完全离开他们的角色。他们学习六个月、七个月，然后他们回来。

以最佳方式影响公司。嘿，什么可能？最后一部分可能是最广泛的方式，因为我们称之为公民开发。我们相信，随着 AI 的发展，公司中的许多人都可以掌握一些东西。我们刚刚看到 Gen AI 现在掌握在任何想要它的人手中。通过这种公民开发，我们希望带来创新

这项技术变得更容易让许多人使用。当然，他们需要为此提供数据，这就是我们在这些系统中提供数据以提高自给自足能力的原因。我会说这是一种三管齐下的方法来影响文化、领导力，而且我们在 AI 公民开发方面确实有一些很好的案例。我们还在公开讨论我们所做的某些用例。我认为这是文化方面。

需要一段时间才能进入公司的每个部门。但我感觉公司现在对走这条路非常兴奋。我喜欢您所说的内容是

实际上加倍关注公司的主要工程和科学文化，并使其成为科学、工程和 AI 之间的跨学科合作，而不是这些东西相互取代。这是一个“和”，而不是一个“或”。您是否有具体的例子说明有人参加了这些为期七个月的项目或数字学者项目，并带回了某些改变，带来了改变？

是的，绝对有。因为我们已经进行了两三年了，所以我们有很多。当然，他们会把它带回来并解决几个问题。我们有时甚至会通过实习来做到这一点。两三个星期后，他们意识到他们可以解决一个他们已经思考了一段时间的规划问题。而且它非常复杂。但是有了新的，比方说，观点、数据和人工智能，结果真是令人震惊。我们实际上有人……

还影响了我们领域（现场开发）的规划，创建了一个低代码环境，并且真正突破了，真正改变了我们的工作方式。

就提高公司生产力、效率、确保安全、确保对人和社区以及环境和物种（各种形式）有益而言。有什么挑战？有什么困难？我会说肯定有一些具有挑战性的部分。这是一项早期技术，尤其是在 Gen.A.I. 中，

事情发展得非常快。因此，具有挑战性的是，您无法像过去那样工作。您可能需要更快地转向。

这并不是说您要构建一个解决方案。我认为一家公司告诉我他们构建了一个解决方案，如果六个月后他们现在再次构建它，他们会以完全不同的方式构建它。因此，您必须注意何时，我称之为，也许将鸡蛋放在一个篮子里。您必须考虑针对哪种用例的时机是什么，并弄清楚这一点，因为您不希望在技术仍处于这种发展阶段时将自己锁定。

这是我们关注的事情。然后第二件事是，在安全或以正确的方式处理数据方面，生成式 AI 中还没有解决所有问题。这只是技术还没有准备好。还没有解决方案。您可以构建一种沙箱或一种围栏环境，其中

但您必须自己围起来。我认为像微软这样的超大规模公司，我认为他们正在努力

还在适应他们在正常情况下（比方说）的这些用例，您可以在其中拥有授权流程、访问流程、如何以正确的方式进行管理和治理。所以我会说，这仍然缺失。我非常希望这很快就能解决。但是今天，如果您使用向量数据库来谈论一些技术语言，您必须使用不同的技术。

它还没有准备好以真正安全的方式大规模使用。您必须想象，如果您拥有一家公司，在可以共享哪些信息、哪些信息不应共享等方面存在权利。我们认为这是一个挑战。我想提到的第三个挑战是政策制定者。因此，我们非常密切地关注负责任的 AI。我们是负责任的 AI 研究所的成员。

并非常仔细地观察那里正在发生的事情，即将出现的政策是什么，我们如何负责任地将其纳入我们的运营、AI 模型的产品化中。当然，这是发展。这不是您可以购买并运行的东西。是的，我们将看到公司如何填补这些空白。

海伦，您能否评论一下生成式 AI 以及它是否以及如何被使用或计划被使用？是的，当然。我们已经关注生成式 AI 两年左右了，也许更久一点。我们对这种发展并不完全感到惊讶。也许您可以说，好吧，ChatGPT 什么时候出现？这可能是对每个人来说的惊喜，因为它来得如此之快。

但我们一直在关注这一点，并且已经在一种创新的沙盒环境中进行了一些用例，以了解这将是什么。当它出现时，我们说，好吧，这是一项新技术。我们想了解它。我们把它交给人们使用，然后了解我们用它做什么以及它如何引起共鸣的遥测数据。在 5 月或 6 月，我们决定组建一个更专门的团队

从事这些活动。是的，我们现在有数百个用例正在筹备中，我们将它们缩减到最突出的用例并进行处理。但在技术方面，我不得不说，我们非常了解正在发生的事情，并且有非常聪明的人在研究它。我可以告诉你我自己的用例。我用它来写东西。你可以谈谈

也许是与您的主管或团队一起撰写您的绩效协议。您检查需要做的演示文稿或文档，以真正优化写作。我知道我的团队正在使用它，因为我们正在考虑产品开发、产品管理和投资组合管理。因此，过去，他们需要更长的时间来写下他们的想法，并且

我和我的一个团队成员谈过，她说，你知道，过去我可能需要一到两周的时间。现在我只需要一个小时就能完成。因此，在这个领域使用 ChatGPT 可以提高很多效率。当我们查看其他示例时，您可以想象我们拥有知识数据库。我们有知识系统。

关于系统工程以及我们在公司内部广泛使用的其他信息。过去，如果您想知道这个发电机是如何工作的，您基本上必须输入搜索条件。然后，您终于找到了文档。然后您必须阅读文档。哦，这份文档不够。你需要另一份文件。好的，您找到了第二份文档。然后您基本上完成了您的答案。

然后您回去，基本上执行它。我们创建了一个聊天系统，您可以与这种信息进行协作，并更快地弄清楚这一点。这些可能是两个，也许更多，一个是在日常生活中，另一个可能更多地与我们在系统方法中的工作方式有关。如果我结合您的一些想法，我会发现一些困难。所以前面，您谈到了公民开发者以及将许多这些工具交给人们的想法。

然后稍后您谈到了安全和策略问题，这些问题还不是基础设施的一部分。

从历史上看，安全总是跟随功能。我们首先关心功能，然后我们关心安全。因此，我们结合了公民开发者中工具的广泛传播和低基础设施防护措施或策略，然后担心无法快速跟进。这些似乎可能会碰撞在一起并产生很多紧张关系。您如何应对这种情况？

是的，我会说我们也许必须谈谈 AI，然后是生成式 AI。因此，当我谈到政策制定者时，这更多的是从生成式 AI 的角度来看。

当您考虑公民开发时，我们有盒子里的模型或算法。我们已经证明，我们已经保护了它们，它们已经遵循了审查流程。我们在负责任的 AI 方面检查了它们。因此，它们已准备好供任何想要使用它的公民开发者使用。因此，它们是安全可靠的，并且实际上位于我们的安全环境中。

因此，您可以从这里开始并使其安全。但是，这种使用大型语言模型及其背后数据的新技术（大型语言模型从中学习），可能还没有准备好用于公民开发。为了使这一点非常清楚，当我谈论公民开发时，所有内容，即安全的内容，遥测数据都在那里，空间都在那里。我们已经确保我们做对了。

这可供公司中的每个人使用。而那些可能还不安全的东西，我们不会把它放到系统中。我们在等待。因此，我们不能仅仅因为不安全的东西而承担将它们纳入我们的公民开发计划的风险。是的，这突出了公民数据所有权、数据科学家之间想法之间很好的区别，不能仅仅是……

有一个策划过程，听起来您在这个策划过程中非常活跃，并决定哪些工具提供给公民开发者，哪些工具仍在调查中，并且您正在保护它们。这说得通。是的，就是这样。雪佛龙显然是一家遍布全球的巨型石油化工公司。每个人都知道它。您是首席数据官。您是如何到达那里的？告诉我们一些关于您如何获得这个职位的信息？

是的，我很高兴担任这个职位。这是一个非常令人兴奋的领域，我一直充满热情。当您关注我的职业生涯的开始时，我来自德国。我获得了系统工程学位，然后涉足数字数据，后来又涉足采购和供应链。我认为贯穿我整个职业生涯的一大红线是数据部分。

但当然是以不同的方式，你知道吗？所以可以说，当我涉足供应链时，你会处理公司从第三方购买的大量资金。你如何组织它？有很多数据和思考以及关于如何做到这一点的战略思考。我会说我是一个学习者。我是一个谦逊的学习者。我喜欢接受新事物和非常不同的观点，以造福公司，并且

这可能只是巧合，因为五年前我加入雪佛龙时，我从采购部门开始，因为我有一个采购和数据数字部门，我称之为。我们立即解决了数据问题，因为数据不足以推动这些决策。也许前两年证明我在这方面是正确的。我也坚信数据和 AI 将会

在我们周围。所以这是一个令人兴奋的领域，可以学习和了解接下来会发生什么。所以我很高兴在那里。实际上，一位前高管在我对他说时说，雪佛龙不是，我很幸运，在我的职业生涯中我拥有所有机会。他说，艾伦，你并不幸运。

所以他给我寄了一本书回家。你基本上是在规划你的道路，你知道，所以你对事情持开放态度，即使你认为它不在你的直接轨迹上，但它确实增强了你的技能以及你如何连接这些点。所以我喜欢连接这些点，这就是为什么我喜欢这个角色的原因。这是一个很棒的故事。好的，这些是我们提出的快速问答问题。只需告诉我们您脑海中浮现的第一件事。这有点像快速约会的问题，也许吧。好的。

您认为目前 AI 最大的机会是什么？医疗保健。关于 AI 最大的误解是什么？取代人类。您想要的第一个职业是什么？长大后你想成为什么？我不想坐在办公桌前。我失败了。AI 正在大量地用于我们的日常生活中。什么时候 AI 太多了？

我会说，如果 AI 将我引导到错误的方向，并以不基于真实事实的方式影响我，那么 AI 就太多了。我的车里已经有太多的 AI 了，因为我无法打开车库，因为它识别我的位置以及它必须打开的东西。如果它不起作用，我就进不去。

我喜欢这个。我们这里有一个非常智能的家，配备了各种语音识别、电子设备、车库门开启器、洒水器、启动器等等。但我会说它有助于提高效率。如果网络中断，那就真的很难了，你知道吗？没错。没错。所以最后一个问题。您希望 AI 现在能够做到但做不到的一件事是什么？治愈癌症。

非常好。似乎每周都会有一条新闻说，这项新的 AI 技术将解决癌症问题。然后你回头看，

这些似乎都没有成功。我不是说我们应该放弃尝试，但这始终是一个例子，而且似乎它从未真正实现。但这也有点像随机过程，对吧？我的意思是，如果你有足够的尝试，对吧？我的意思是，由于 AI 和我们进行实验的能力，我们肯定尝试了更多的事情。我可以稍微不同地回答吗？所以我认为另一件事是

AI 可能做不到的事情，这将是很棒的，真正帮助我们应对气候变化，应对我们这个星球上的气候问题。我认为它在这里和那里有所帮助。但这将是梦幻般的，如果它能提供更多帮助。是的。与此同时，我认为我们不能放弃，只是希望机器解决我们自己造成的一些问题。我认为这需要我们一起努力。没关系。这是希望的一部分。

您对人工智能有什么期待？您目前最期待的下一件事是什么？嗯。好问题。我认为我们想改善我们的生活，你知道，我认为我现在居住的地方，我们已经以多种方式获得了 AI 访问权限。您刚才谈到了我们智能家居、汽车等中的 AI，但这并不适用于世界上的每个人。

如果这些进步和这些好处能够更广泛地获得，那就太好了。

你没有问我，萨姆，但我完全同意。我的意思是，我认为如果你考虑一下教育，对吧，以及它对弱势群体和国家的的影响，你知道，他们不再需要建立学校了。你可以做很多事情，帮助很多人学习、发展和培养技能，而这些技能通常依赖于基础设施、人力、教师等等。

你可能会认为我会因此感到威胁，但我一点也不。我的意思是，我认为这是我们最大的机会。我们有很多人，我的意思是，我们根本无法让他们都参加教育项目。而我们现有的教育项目并没有特别优化或快速。如果我们能够解决这个问题，并从我们的大脑中获得更好的资源，那将是一个巨大的胜利。

嘿，萨姆，我能问你一个问题吗？我知道我现在改变了话题，但如果你认为知识的保质期正在缩短，对吧？最近有一些文章提到，你今天学到的东西可能只值五年，然后就过时了。那么你认为这将在教育体系中如何发展？

这很重要，因为我一直在思考这个问题。我的意思是，我教授机器学习和人工智能课程，我非常清楚，除非他们在本学期毕业，否则我教给他们的所有东西，你知道，我们教给他们的这些细节很可能都是短暂的。我们已经看到它的发展速度有多快。但我认为这促使我们退后一步，站在更高的层面。如果我们陷入教授工具，教授如何点击文件，如何点击新建，如何点击打开，如何点击保存，

这些都是非常低级的技能。当我们考虑应该教什么样的事情时，我的意思是，我的大学是一所文科大学。我认为这是一件大事，因为如果我们考虑在一个文科世界中教授技术技能，我认为这是一件大事。我们把21世纪最性感的工作称为数据科学。

下一个是什么，我不清楚是否涉及数据科学。这并不是说数据科学不重要，它只是迅速变成了商品。因此，我们有了哲学这样的东西，随着这些数据科学成本的下降，这些东西变得越来越重要。语言学。语言学，是的。就是这样。或者大型语言模型，对吧？是的。

太棒了。艾伦，非常感谢你。这很有见地，我们感谢你抽出时间。是的，谢谢。感谢收听。在下一集中，谢尔瓦和我将与毅力号机器人行动首席工程师、美国宇航局喷气推进实验室副经理范迪·维尔玛一起探讨人工智能在太空中的应用。请加入我们。

感谢收听“我和人工智能”。我们相信，与你一样，关于人工智能实施的对话不会止于本播客。这就是为什么我们在领英上专门为像你这样的听众创建了一个小组。它被称为“人工智能领导者”。如果你加入我们，你可以与节目创建者和主持人聊天，提出你自己的问题，分享你的见解，并了解更多关于人工智能的信息。

并获得来自麻省理工学院SMR和BCG关于人工智能实施的宝贵资源，你可以访问mitsmr.com/AIforLeaders来访问它。我们将在节目说明中添加链接，我们希望在那里见到你。