The streetlight effect: the hidden bias undermining your AI strategy
32:16 Share

在本集中，我们与 Barge Design Solutions 的 Justin Graham 和 Jake Dein 坐下来探讨在工程中实施 AI 的现实挑战。从避免“路灯效应”到通过更智能的数据集成为客户节省数百万美元，他们分享了来之不易的见解，说明为什么干净、互联的数据，而不仅仅是炫目的工具，才是有意义创新的关键。如果您正在考虑 AI，本集将向您展示从哪里开始。通过 IE+ 提升您的知识！立即订阅以访问包含专家见解的独家高级文章，并享受专为让您在技术和科学领域保持领先地位而设计的会员专属技术通讯。</context> <raw_text>0 欢迎收听今天的 Lexicon 节目。我是克里斯托弗·麦克法登，有趣工程的撰稿人。在本集中，我们与 Barge Design Solutions 的 Justin Graham 和 Jake Dean 坐下来探讨在工程中实施 AI 的现实挑战。

从避免路灯效应到通过更智能的数据集成为客户节省数百万美元，他们分享了来之不易的见解，说明为什么干净、互联的数据，而不仅仅是炫目的工具，才是有意义创新的关键。因此，如果您正在考虑 AI，本集将向您展示从哪里开始。Jake 和 Justin，感谢你们的加入。你们今天过得怎么样？

哇。你好吗？很好。谢谢。过得很好。很高兴来到这里。好东西。为了我们观众的利益，请你们简单介绍一下自己好吗？我是 Beth Goulder，所以 Jake 可以先说，然后是 Justin。当然。Jake Dean。我是 Barge 的技术解决方案开发人员，我最初的职业是土木工程师。哇。

但我很快就对地理空间技术和在工程环境中应用技术产生了兴趣。多年来，我逐渐转向设计和开发工程软件。太棒了。谢谢。Justin？是的，Justin Graham。我是 Barge 信息……对不起。

Justin Graham。我是 Barge 创新解决方案中心主任，大约 11 年半前加入 Barge，在建筑和工程领域应用技术已有大约 22 年的历史。太棒了。非常感谢。那么第一个问题，Jens。

你们能否首先解释一下什么是路灯效应，以及为什么它在组织采用人工智能时会带来如此重大的风险？是的，当然。这是一个偏差。这是一个信息偏差。我们倾向于使用易于获取的数据，但不一定是回答工程问题的最佳数据。我们从一个古老的寓言中借用了这个术语，这个寓言讲述的是一个人在晚上在路灯下寻找钥匙，不是因为他们可能在那里掉了钥匙，而是因为在那里更容易寻找。在我们应用 AEC 技术的角色中，我们注意到向云服务的转变使得某些流程变得非常容易，并且易于访问该服务收集和组织的数据。但是，我们的工程流程通常依赖于多个系统，并且

在这些系统之间集成数据并不容易。因此，这导致使用易于访问的数据，而不是解决问题或回答问题可能需要的所有数据。好的。好的。这对于当今大多数采用 AI 的公司来说是一个常见问题吗？一种对数据采取短视或隧道视野的方法？

是的，我们在 AEC 领域看到了这一点，但我认为这个问题在许多不同的行业中都是普遍存在的，因为 AI 要真正有效，当然需要利用与正在处理的工作相关的所有数据。好的，很好。我想这很好地引出了下一个问题。所以你们谈到在投资人工智能之前要打开所有的灯。对于一家公司来说，这在实践中是什么样的？

是的。当我们说打开所有的灯时，我们的意思是，创造对你的业务系统和数据的可见性，并且，

我们认为这可以创建最全面的画面。它将帮助你做出决策。更具体地说，这意味着集成组织在这些孤立系统中使用的所有孤立数据。一旦所有的灯都亮了，这些工具和使用它们的解决方案就会变得非常强大。这不仅仅是利用它的生成式 AI 工具。

它利用了这一点，但你知道，报告或仪表板或知识库等等，所有这些在该过程中都变得非常强大。但是，在实践中，这确实意味着参与其中。这意味着连接来自设计规范和指南或历史项目交付成果或财务平台或人力资源系统、客户关系管理系统和客户服务工具以及库存数据库等等的数据。

因此，最终解决方案可以访问所有这些上下文丰富的数据，我们认为这些数据在您需要这些信息时非常有用。是的，我喜欢指出的一个具体例子是，Barge 正在将我们的总部搬到纳什维尔这里大约五到六个街区。我们拥有这座建筑，它有点像仓库，并且

堆积如山的纸质数据、纸质信息。Bars 已经存在了 70 年，这座建筑里有很多信息。我们去那里查看它，因为我们要拆除这座建筑，我们必须对这些信息做些什么。我们盯着这些，看着这些排成一排的盒子和盒子。

没有人想扔掉它们，或者他们不想对它们做任何事情，因为他们害怕。但问题是，就像，好吧，有很多信息，但我们甚至不知道里面有什么。如果你知道你在找什么，你知道，它就在这座建筑里。如果你找不到它，它对你没有任何好处。这是一个例子，一个现实生活中的例子，整个房间里都没有路灯亮着。

那将是我的问题，所有从纸质办公转向电脑的公司，他们如何将这些数据数字化以便与 AI 一起使用？你们做了什么？你们扫描了吗？是的，首先，这太令人难以置信了，我们实际上必须采取某种方法来处理它。然后你开始看看……

年龄，你知道，他们至少对这些盒子进行了一些标记，说明这些盒子是什么时候创建的，以及装满了大量信息，无论是否有用。所以我们必须像找到一个日期范围一样。然后在那之后，你，然后你筛选这些东西，你找到有意义的信息，是的，你扫描它，你把它带进来，以某种方式数字化它，然后允许你在上面应用一些真正有见地的解决方案。是的。

是的，所以你提到你设置了一个日期范围。我的下一个后续问题是，我想你会在任何超过 20 年的数据之间设置参数，对于我们想要做的事情来说已经过时了。这是一种我不知道怎么说，像战略规划你需要的、你想要实现的目标的数据，对吧？通过这种打开灯的方法。正确吗？

是的。是的。这是一个，有两种目的来寻找一个日期，一个是为了，好吧，在什么时间点，你知道，设计实践和原则和指南，什么，在什么时间点它们会老化？所以里面可能有一些好东西。然后在某个日期之后，随着技术的进步，它就不再适用。但当涉及到项目的具体信息时，另一个有趣的日期方法是，

工程公司实际上是，我们需要保留多长时间的信息？所以这是在筛选成排成排的纸张时要记住日期的另一个原因。是的，这是一个很好的观点。你的手像以前一样，Stripe。如果你只需要保留 10 年的记录，那么数据就不存在了。这是一个公平的观点。好的。那么根据你们的经验，公司在第一次尝试使用 AI 或高级分析时最常犯什么错误？

我们通常看到的是缺乏明确定义的问题。我们喜欢一句名言，一个表述清晰的问题就是一个解决了一半的问题。所以这是第一个。然后还有就是理解技术的真正能力。所以这里实际上有两个子问题。

对于第一个问题，区分感知问题和实际问题很重要。我们有时会使用的一个比喻是把你的车带到机械师那里，就像我前几天做的那样。你可能会告诉他，嘿，你知道，我需要一个前轮定位。这就像你认为你的车向左或向右偏离的解决方案。一个好的机械师首先会确认我们

真正的问题。然后，也只有在那之后，他们才能定义和实施最佳解决方案，无论是否是前轮定位。如果他们只是实施前轮定位，而这并没有解决问题，汽车仍然向左或向右偏离，那么什么也没有完成。我们已经看到，在没有明确问题的情况下实施 AI 的努力就是这样。什么也没有解决。你知道，它，

事实证明，将你的电子邮件转录成古英语的能力并不适用于许多业务环境。因此，要明确定义问题。然后第二个问题是通常以一般的方式提及技术，忽略了可能对它实际可以解决的问题很重要的某些细节。

而第二个问题更容易解决。在流程早期就聘请能够理解不同拟议解决方案细微差别的人员，可以真正帮助解决这个问题。或者首先根本不需要 AI。每个人都试图跳进去。这是一个流行词，你可以用它来销售你的产品。但你真的需要这个吗？

因此，对于第一次引入它的公司来说，让 AI 做你想要它做的事情需要多少工作？我知道这是一个非常宽泛的问题。我想说的是，你不想仅仅采用 AI 然后立即信任它，因为如果你开始根据它的行为做出判断，而它基本上是一个错误，那么从长远来看，这可能会让你付出更多代价。我说的对吗？是的。所以……

我们工作的一个例子……

你知道，我们去年年底进行的一个工作是明确定义的问题，有人来找我们说，嘿，你能帮助我们改进我们编写健康和安全计划的方式吗？这是我们经常为许多项目做的事情。以前，你知道，它不是，嘿，让我们立即使用 AI。我们首先，你知道，花时间定义问题。我们如何

改进流程并提高健康和安全计划的质量。然后，也只有在那之后，我们才设计了一个解决方案。我们首先确保我们拥有编写高质量健康和安全计划所需的所有数据。然后，然后我们看到，哦，实际上 AI 对此非常非常有效。因此，实施并不难，因为我们拥有所有，我们拥有所有准备就绪的数据。我们能够集成它。所以这是困难的部分。确实需要付出很多努力，但实际上应用 AI，嗯，

在这种情况下，生成式 AI 可以帮助编写健康和安全计划的第一稿，这相对容易。据推测，让日常从事这些工作的工作人员参与进来至关重要，例如，健康和安全主管或其他任何人，也必须参与监督该过程，据推测，对吧？所以不要走错路。

非常重要。是的。并且解决，应用技术来解决问题。拥有该领域的经验以及对工作流程的非常详细的了解非常重要。绝对的。是的。很好。而且，你知道，在那之后甚至更进一步，帮助我们设计它，而且还拥有该应用程序，并在内部推动它的使用，作为

对组织来说，拥有这种所有者在它被开发后接管并推动它的使用极其重要。是的，非常好。好的。然后，我们继续讨论一个实际的例子。你们能否告诉我们，我认为你们为你们为之工作的自来水公司节省了 100 万英镑？你们发现的核心数据问题是什么，以及如何解决这个问题才能取得这些成果？

这是一个有趣的案例研究，你知道，因为它确实是从……在客户层面开始的，目标是提高客户满意度。这有点像大目标，大目标。你知道，我们怎么做，我们怎么能做到呢？我们采取的方法实际上是查看该组织内部，并尝试寻找人员。

效率低下在哪里，并尝试找到孤岛，也许还有一些流程差距或我们认为会导致更好的客户体验。技术和数据，我们，他们被应用，并且帮助我们实现了这个目标，但是，你知道，他们并没有通过自身来改善客户体验或产生你们提到的巨大节省。嗯，

我们认为，真正导致这种结果的是过时工作流程的现代化和数字化。而这方面的一个主要组成部分

项目实际上是一项数据集成工作。它是在打开路灯，你知道，它是在集成系统和数据。他们拥有能够为更完整的画面做出贡献的优秀系统。而且，你知道，这些事情就像材料清单和采购软件、资产状况评估系统和人力资源系统以及

客户服务系统，所有这些东西，财务包，车队管理，SCADA，优秀的系统，它们本身就能做好事情，但它们更好地服务于为更完整的画面做出贡献。所以这就是我们所做的。我们集成了这些系统，我们看到工作流程大大减少了。我们认为，这对运营产生了非常积极的影响，这改善了服务交付，并且

同时在很短的时间内节省了大量的资金。

我们觉得这种类型的技术和集成的节省一直都在。我不知道，AE 企业，我们过去可能只是我，我们过去很难量化我们看到的这种真正的数据集成和应用技术的产物所节省的时间和成本。

尤其是在现在将基于 AI 的解决方案添加到这种技术之上之后。就像 10 倍、50 倍，你想怎么说都行，投资回报率非常惊人，当你花时间量化这种投资回报率时，听到你说一百万，甚至看到它，对我们来说也真是令人惊讶，因为我们可以应用这些东西并看到这种节省。对。

据推测，许多大型组织都拥有非常高效的系统，就像你们提到的那样，非常高效的系统和数据孤岛，这里和那里的不同数据库。但是，如果没有监督将所有点连接在一起，而 AI 可以做到这一点，你只需要几个人互相交谈就可以了，对吧？而 AI 将在后台自动执行 24 小时，一周 7 天，我想。是的。

是的，这就是一些人声称的。在某些情况下，这可能会发生。但是，你知道，如果有什么的话，如果我们正在做的事情是更清晰地了解该组织内部真正发生的事情，并且，你知道，帮助。如果 AI 可以介入并自动化一些重复性或单调的任务，例如集中和报告这些信息，那就太棒了。但是，我们真的对……

人们的有效性，因为他们，你知道，“人机交互”之类的术语。这确实是我们想要成为的地方，就像增强……嗯……

职业，并以更快的速度向他们提供信息，有很多时间花在寻找信息和搜索上，我们试图缩短这个过程，绝对避免垃圾进垃圾出，是的，像一些程序的传教士一样，足够公平……

好的，你们如何说服客户，放慢速度首先修复他们的数据将从长远来看加快速度？好吧，是的，所以 Jake 和我，你知道，我认为我们很幸运，至少有时间设计、开发和实施一些我们认为可以解决一些非常现实的挑战和挑战的工具。

当你花时间，就像我刚才提到的那样，计算节省的时间，计算，量化它的好处，并且你向内部领导展示这一点，如果你试图获得认可或投资一些时间，放慢速度来修复数据，我认为这会有很大帮助。一旦，你知道，客户或领导层，当他们意识到，就像我刚才说的那样，它倾向于，

花在寻找答案上的时间，你知道，在所有这些分散的系统中，或者，或者他们承担的风险，嗯，依赖于一些坏数据。他们开始很快意识到数据集成、数据管理，甚至只是，甚至只是简单的数据卫生。这确实像投资于此的加速器。不是延迟。我，嗯，

你知道，别误会我的意思。我认为这是一个非常难做的事情。而且我认为这可能被忽视了。关于投资于此的讨论可能被忽视了，因为它很难。而且它并不有趣。

谈论，你知道，与生成式 AI 的激动人心的世界相比，所以我们通常会在内部和与客户一起处理这种动态。但是我们发现，当我们分享这些结果时，就像我们刚才提到的那样，节省的时间确实会引起人们的注意，并且，

另一个具体的例子，这是一种让人们参与进来的观点，仅仅是搜索信息。我们创建了一个非常简单的存档数据搜索和过滤工具。它只是一个存档项目文件夹。我们在某个地方有一个网络驱动器，它里面是旧的东西。Barge 每年仅通过该工具就节省了估计 85,000 美元的费用

美元，相当于每年 350,000 美元。这仅仅来自减少寻找信息所花费的时间。我认为这太棒了。而且它确实非常重要。我认为这是无法否认的影响。

我完全同意，是的……我过去构建了一些数据库，是的，我称之为数据清理……是的，它可以，它可以成为一场绝对的噩梦……通常有时这样做比实际构建系统本身花费更长的时间，它确实是一项艰巨的任务……所以你可以从一开始就做到这一点，你真的赢了……

无论如何，由于生成式 AI 现在如此易于访问，你们是否看到越来越多的公司构建不解决实际问题的炫目 AI 解决方案？我已经触及了这一点。是的，不，我认为重要的是要回顾一下，因为它回到了，你知道，集成从根本上来说是困难的，并且是组织内部真正需要发生的事情。

所以再一次，我的意思是，许多这些云服务非常适合处理特定任务。但是，然后你必须通过它们的应用程序编程接口（称为 API）将这些不同的系统连接在一起。但这很难做到。这需要大量的批判性思维才能以正确的方式做到这一点。

因此，这就是我们看到能够真正满足预期的解决方案的例子。我们之前提到的健康和安全计划助手，我认为就是一个很好的例子。当你能让这些系统相互交谈时，你就能真正创造出几乎神奇的体验。健康和安全计划，这些通常是 20 到 30 页的文件。

如果写得好，可能需要 8 到 10 个小时才能得到第一稿……这是一个手动过程，在这个新的健康和安全计划助手项目下，我们可以在 10 到 15 分钟内获得第一稿，然后你有更多的时间批判性地阅读它并仔细阅读它……以进一步提高你的批判性思维……并且

因此，再次强调，集成很难，但非常值得。我们注意到的一件事是，许多 IT 部门不适合实际集成这些系统。他们非常适合建立和保护这些系统，并确保它们安全。

执行他们的功能，但实际上并没有很多人拥有将它们集成在一起所需的技能。这就是我们看到巨大需求的地方。我认为能够在其 IT 部门或其他部门中建立能够进行集成的人员的公司，我认为他们将拥有巨大的优势，并且能够创建真正有效的 AI 解决方案。

绝对的。另一个可能的益处，尤其是在健康和安全政策方面，我不确定美国的情况，但在英国，法规经常变化，保持政策的最新状态，引用正确的条款可能是一场绝对的噩梦。据推测，AI 非常适合帮助审核你的政策并在需要时进行修订。绝对的。这属于那一类，那一类，

该解决方案适合的类别是合规性，并确保我们遵守该州或该州区域内所有适用的健康和安全法规。所以这是该项目的一部分，它会出去说，嘿，我是否引用了该项目的所有适当的安全规范？这，你知道，需要人类花费大量时间去做，而且并不令人兴奋，但对于 AI 来说要容易得多，而且它们很乐意去做。是的。

绝对的。是的。是的。轻描淡写。是的。不好玩。不是一份有趣的工作。嗯，好的。如何，嗯，你们如何处理在拥有孤立或分散系统的组织中查找正确数据的问题？你知道，在 Jake 和我的角色中，Barge，真正重要的是要理解需要解决的挑战，你知道，在内部，或者客户需要帮助的挑战，嗯，

然后我们可以做人类擅长的事情，批判性思维部分。

嗯，我认为这是一个有趣的练习，因为房间里的每个人都会努力达成对需要做什么的集体理解，也许他们一直都知道。但是，嗯，我认为我们，我们，我们可以通过一些批判性思维来做到这一点，它只需要真正定义当前状态。我认为所有涉及到的中断流程，无论是工作流程还是孤立的系统，嗯，

然后我们喜欢转向最理想的结果，并追溯到，我认为，哪些系统可以集成，以及可以在哪里实施自动化以获得这种理想状态。

在那里，你真的已经改进到真正的数据驱动决策状态。我们最终发现需要清理或提升凌乱的数据源，例如电子表格等，以及很多，好吧，这就是我们一直以来的做法。现代化这一点非常重要，因为

然后从那里开始，就是关于统一这些来源和使这些流程现代化，

真正允许每个系统为更完整的画面、更全面的视角做出贡献，更全面地了解你想要完成的事情。据推测，这将是显而易见的事情，对于刚刚起步的新公司来说，这将容易得多，而不是像 Barge 这样拥有 70 年历史的公司。我有一个比喻，就像试图改变一样，它们不是一家大公司，就像试图在以 70 英里/小时的速度行驶时更换汽车轮胎，而不是在它静止时更换一样。

我推测。我不知道你是否同意。好点子。是的。好点子。而且，你知道，即使在像 Barge 这样已经存在了 70 年的公司中，你也会想，好吧，这真的很困难，但是当它被提炼到一个具体的需要时，它，

变得容易得多。找到正确的数据，总是采取这样的方法，你不需要立即解决所有问题。让我们至少采取行动，朝着正确的方向迈出一步。如果它是大型数据的一个子集，那也没关系。那也很好。

是的，这是有道理的。此外，你在一家老公司中拥有经验，它真正知道它需要什么。他们将拥有大量数据来……是的，我想对于初创公司和老公司来说，都有利弊，两者都有好处。好点子。是的，是的，是的，肯定有好处。好的。好的。展望未来，你们如何看待云服务、AI 和数据管理在未来 5 到 10 年内的共同发展？

所以，你知道，我们谈论了很多关于 AI 解决方案访问执行其所分配任务所需的数据的重要性。而且我认为，我希望或乐观地认为，这种基本需求将有助于集成不同的系统。因为再次强调，许多这些系统，他们

构建它们的工程师创建了这些不错的 API，但没有足够的人了解如何与之交互以充分获取数据并将其集成在一起。因此，我希望 AI 集成数据的能力（当它获得正确的数据时）将有助于推动这一进程，我们可以

轻松安全地与系统对话，以创建从不同系统提取数据的这些数据流。但我认为这需要很多，你知道，这需要付出努力、关注和批判性思维来判断，是的，这是我们需要获取的数据类型，这就是我们集成它的方式。你们是否看到了数据泄露之类的潜在风险以及这种方法？是的。

是的，这是一个平衡，它暗示了我之前提到的关于 IT 的巨大重点是安全，对吧？数据安全。那是

有点像反对数据集成，因为你必须进去把数据取出来，对吧，但这就像一种艺术，要进去，然后与不同的团队合作，说，好吧，这就是我们需要的东西，你必须清楚，但这就是精确的数据，以及它如何流向另一个系统，所以这绝对是一种平衡行为

1 再说一次，是的，我认为总是有这种风险，别误会我的意思，我非常支持安全和保护事物安全。但是，是的，你必须找到这种平衡，这很难。绝对的。如果你需要远程访问数据，这个问题就更大了。如果系统完全包含在你的网络和建筑物内，问题就小得多。但是，是的，如果你

2 你需要远程访问数据，那么是的，这就是问题出现的时候。嗯，最后一个问题，伙计们。如果你只能给一家对使用人工智能感到兴奋但对其数据准备情况不确定的公司提出一条建议，那会是什么？嗯，很快，有两个嘉宾的好处是，你可以得到两条建议。我先快速说一下，从我的角度来看，你知道，

3 我和杰克非常感谢人们对这些大型计划采取行动。我只是采取行动。这是

4 这种计划很难开始，因为你们的谈话有点太笼统了。你知道，人工智能，我们认为这是一种简单快捷的事情，因为这两个小词，但是，这两个小词对很多人来说意味着很多不同的东西。即使关于“集成”这个词也可以说同样的话。它并没有真正意味着，你知道，它有意义，但它非常笼统。如果这些类型的笼统术语停留在你的词汇中，

5 采取行动就变得非常困难。因此，我的建议是，我会寻找业务中某个具体的摩擦点，然后应用批判性思维。然后，你就会对该挑战的解决方案有一些清晰的认识。你离解决这个具体挑战真的不远了。因此，你知道，一旦你采取行动，我认为这项大型计划就更容易完成了。是的。

6 很好。是的。我的建议是问问自己，你如何知道你对你的业务或你试图解决的问题了解多少？因为我们都对

7 我们认为我们了解我们的业务或我们认为我们了解我们的工程问题抱有信念，但我们并不总是能指出支持我们信念的确切数据。我认为，仅仅提出这个问题，在查明你缺少哪些数据或你需要收集哪些数据方面非常有帮助。然后你可以去创建，然后很容易创建计划，来集成或收集你需要的数

8 据。好消息是，无论他们是否想使用人工智能，每个企业都应该这样做。仅仅试图避免这种路灯效应与任何企业都非常相关。公司应该走多远才能让他们的员工参与进来，特别是那些在一线工作的人，当他们试图实施人工智能时，他们需要什么？他们应该成为帮助开发它或至少制定战略的团队的一部分吗？

9 对于未来的流程，是的，我绝对是，我非常喜欢走到组织的边缘，因为我认为这就是组织的边缘，它将被应用的地方，如果没有来自那方面的投入，它就不是那么明智，我认为，并且会导致该解决方案的设计不如它可能的那样好

10 绝对的。精彩。这就是我所有的问题。还有什么你想补充的吗？你认为我们没有提到什么重要的事情吗，先生们？我认为只需打开所有的灯，你就会有更好、更有效的解决方案。明智的建议。就这样，感谢您的时间，各位。这非常非常有趣。谢谢。感谢你们的邀请。是的，非常享受。这是我们的荣幸。