Deep Dive
Shownotes Transcript
尽管人工智能有望改善我们的生活，但许多消费者仍然感到焦虑，并且抵制人工智能产品和服务。对于营销人员和产品经理来说，了解这种抵制背后的原因至关重要。哈佛商学院市场营销部门助理教授朱利安·德弗雷塔斯(Julian De Freitas) 已经确定了人们对人工智能的五种主要负面看法：人工智能不透明、缺乏情感、缺乏灵活性、自主性过强以及不够人性化。通过现实案例和最新研究，他解释了企业如何缓解焦虑并鼓励消费者采用人工智能。德弗雷塔斯是HBR文章《为什么人们抵制拥抱人工智能》的作者。</context> <raw_text>0 欢迎收听哈佛商业评论的HBR IdeaCast播客。我是柯特·尼基夫。
人工智能正在改变我们所知的商业模式，但这种变化的程度取决于两件事。首先，技术的优劣程度。其次，公司采用技术的程度以及消费者实际购买的程度。
两者之间存在差距。例如，根据Gartner的一项调查，五分之四的企业战略家表示，人工智能将在不久的将来对他们的成功至关重要。但只有五分之一的人表示他们实际上在日常工作中使用人工智能。
这是2023年的调查结果。现在的情况可能有所不同。但关键在于，采用率仍然滞后。而造成这种情况的一个主要原因是认知问题。许多人对人工智能和自动化持负面看法，并抵制使用它们。
今天的嘉宾研究了采用人工智能的心理障碍，并解释了管理人员如何克服这些障碍。朱利安·德弗雷塔斯是哈佛商学院的助理教授，他撰写了HBR文章《为什么人们抵制拥抱人工智能》。朱利安，你好。你好，柯特。感谢你邀请我参加节目。
朱利安，技术的采用对人们来说是一种由来已久的经验。我们过去多次抵制技术，但最终还是采用了它。在采用方面的抵制上，人工智能与其他技术有什么不同吗？我认为答案是肯定的，在许多情况下，从消费者的认知角度来看，人工智能与其他技术有所不同。
我们看到的是，在许多用例中，人们认为人工智能更像人类，而不是某种非生命技术。这对许多营销问题都具有深远的影响，例如克服采用障碍，以及解锁以前技术无法实现的技术价值的新方法。
当然，还有一些关于风险的有趣挑战，因为，你知道，这实际上并不是另一个人。它在各个方面都无法与人类相比。因此，如果我们把它当作一个完整的人来对待，那也可能会造成挑战和风险。人们主要以哪些方式将人工智能视为他们想要拖延的事情，视为他们想要抵制的事情？
我们试图将其缩小到五个主要障碍。总的来说，我认为你可以将它们概括为：人工智能通常被视为类似人类，但不够人性化；或者相反，它被视为过于人性化，过于强大。
还有一个障碍是它真的很难理解。因此，我和我的同事通过研究确定的五个障碍是：人工智能不透明、缺乏情感、僵化、自主性过强以及不够人性化。让我们逐一讨论这些障碍，首先是人工智能过于不透明。这是什么意思？
这就是人工智能是“黑箱”的理念。你知道，有一些输入进来，比如电子邮件，然后输出结果。它会告诉你邮件是否是垃圾邮件，但你并不真正理解它是如何从输入到输出的。或者有一些非常复杂的聊天机器人，你根本无法预测它们在任何新情况下会做什么。
诚然，有很多产品我们都不理解，但鉴于模型的复杂性，这对于人工智能来说尤其严重。
一些最新的模型使用数十亿甚至数万亿个相互作用的参数进行操作，即使是技术制造商也无法完全理解其工作原理。我记得看过一个视频，有人在谈论飞机上的自动驾驶仪，飞行员互相说：“它现在在做什么？”
正是这种感觉，你知道，它正在做某事是有原因的，但你无法完全弄清楚它为什么这样做。那么，你建议公司或产品设计师在这种情况下该怎么做呢？一个显而易见的干预措施是尝试解释他们的系统是如何工作的，特别是回答这个问题：系统为什么这样做？例如，自动驾驶汽车可能会因为前方有障碍物而停车。
而不是仅仅说车辆现在正在停车。另一种解决方案是，有时公司会让利益相关者逐渐适应更难以解释的人工智能形式。例如，我的同事苏尼尔·古普塔(Sunil Gupta) 撰写了一个关于米罗格里奥时尚公司(Miroglio Fashion) 的案例。
这家意大利女装公司面临着预测门店所需库存的挑战。以前，这是当地商店经理负责的事情。但他们意识到，如果他们可以使用某种人工智能模型，他们可以更准确地做到这一点，这将转化为更高的收入。
他们有两个选择。一个是使用最新的现成模型，这种模型的工作方式很难理解。因此，它可以提取关于服装的各种特征，即使你我无法完美地用语言表达，并利用这些特征来预测商店下周应该订购什么。
但还有一个更简单的模型，它将使用易于用语言表达的特征，例如服装的颜色或形状，然后用这些特征来预测下周应该订购什么。因此，即使第一种类型的模型，即更复杂的模型，性能要好得多……
他们意识到，如果要实施该模型，则需要商店经理的支持。商店经理需要实际使用模型的预测结果。因此，出于这个原因，他们至少最初向部分门店推出了更简单的模型。商店经理确实使用了这些模型。使用该模型的商店的业绩优于未使用的商店。
在这样做了一段时间后，他们最终觉得可以升级到更强大的模型，他们最终也这么做了。在某种程度上，他们最终得到的模型仍然不是你我或商店经理很容易理解的。但他们所做的是
培训员工习惯于与这种技术一起工作以做出这些预测。因此，他们牢记了人为因素。这很有趣。
那么，关于人工智能缺乏情感的批评呢？这种障碍的核心在于人们相信人工智能无法感受情感。许多领域都被认为依赖于这种能力，在这些领域，某种主观意见非常重要。如果你正在销售某种产品，
并将人工智能引入其中。如果这是一个被认为依赖于情感的领域，那么你将很难让人们习惯在该领域使用人工智能。这也让我想到了自动语音，对吧？在你的智能手机或智能音箱上，你知道，很多公司都使用女声，
这并不正确，但他们使用女声是因为它被认为更值得信赖，更引人入胜。你在这里谈论的是这个吗？是的，你完全正确，赋予技术……
性别、声音，甚至其他我们通常与拥有身体和思想联系在一起的线索，例如当亚马逊的Alexa说“嗯”时，它就像真的在停顿和思考一样，或者如果你想象一下引入呼吸提示等等。那么，
它们所做的是潜意识地告诉我们，我们正在与一个像人类一样的实体互动。这些拟人化的干预措施确实会增加人们对技术能够体验情感的感受。
我看到的另一种策略是，与其试图以某种方式让人们相信这个人工智能系统确实能够体验情感，
不如发挥人工智能已有的优势。以约会建议为例。许多实验表明，人们更喜欢从人类那里获得约会建议，而不是从某种人工智能系统那里获得。当你想到财务建议时，情况就会发生逆转。
但是，如果你告诉人们，获得最佳约会建议或在约会领域获得最佳匹配实际上确实取决于引擎盖下拥有这种机制，它可以将你的人口统计数据和任何你可能提供给公司的信息作为输入。然后它必须对各种
可能的匹配进行排序、排名和过滤，以找到与你完美匹配的对象，现在人们可以看到，他们通常认为高度主观且依赖于情感的事情实际上受益于他们已经认为人工智能擅长的一种能力。例如，像OkCupid这样的公司经常谈论其人工智能算法是如何做到这一点以找到与你完美匹配的对象的。这种干预或
也有助于克服这种缺乏情感的障碍。作为产品设计师或公司，你是否必须知道
你的产品是否最好保持没有情感，是否引入情感可能是一个错误。在某些产品中你真的想要它，而在某些产品中你真的不想要它吗？当然，是的。我认为有些领域你谈论的内容非常敏感或令人尴尬。
默认情况下，让人工智能聊天机器人尽可能生动和人性化是很诱人的，但这可能对你的特定用例并不适用。有一些例子表明，人们实际上很高兴他们正在与人工智能系统交谈，而不是与一个完整的人类来评判你并分析你。
与这个想法相关的另一个想法是，人们担心人工智能过于自主，它有自己的想法，并且会做它想做的事情，而不会考虑我。
没错，是的。在某些情况下，人工智能系统似乎拥有过多的控制权。你可以想象一个可以吸尘、拖地并执行你过去通常会做的一切事情的机器人吸尘器。
或者你可以想象某种家庭自动化系统来调节温度，它运行这些算法来改变一天中的温度，而你无需做任何事情。
这些系统可能会让人感觉它们正在夺走你的控制权。自动驾驶汽车就是一个例子，你坐进车里，现在它正在做出所有这些复杂的决定并适应各种环境，你担心你无法在你需要的时候控制它。在某种程度上，这是一个
与我们之前讨论的内容相反的例子，人工智能系统至少在某些情况下似乎过于强大，以至于超出了我们的喜好。
需要改进你的费用管理流程吗？考虑一下美国银行商业奖励卡，用于你的企业。它不仅仅是一张卡，它是一个多合一的卡、费用和旅行管理解决方案，它通过一个简单直观的平台简化了费用管理。获得对支出的控制和实时洞察，设置自定义策略并赚取奖励，所有这些都无需支付年费。
更好地管理你的现金流并简化你的运营。访问usbank.com了解更多信息。人工智能正在进入你的行业，如果它还没有到来的话。但人工智能需要大量的速度和计算能力。那么，如何在不导致成本螺旋式上升的情况下进行竞争呢？升级到Oracle云基础设施或OCI。
OCI是用于你的基础设施、数据库、应用程序开发和人工智能工作负载的快速安全平台。目前，Oracle正在为具有最低财务承诺的新美国客户提供将当前云账单减半的服务。优惠将于3月31日结束。请访问oracle.com/ideacastai查看你的公司是否符合条件。
为了强调你关于自动恒温器、Nest（恒温器公司）的两个例子，它允许你使用某种学习算法，或者你可以切换到手动模式。你让人们可以选择他们想要使用哪一个，并给他们这种控制感。然后对于Roomba吸尘器，iRobot实际上……
对其进行了编程，使其以可预测的路径移动，而不是可能更好的不可预测的路径，只是为了让人们更多地感觉到它是在控制之下，而不是，你知道，有自己的想法。我认为这种第二种干预措施的更广泛的理念是
让人类参与其中。因此，即使系统正在完成大部分工作，让人们感觉他们仍然处于控制之中也会产生巨大的差异。我们从研究中了解到的一件事是，你也不需要给予人们过多的控制权才能让他们感觉自己处于控制之中。在某些情况下，
这是一件好事，因为如果人工智能系统正在完成更多工作，那么总体而言，系统可能会更准确。这是否与人们认为人工智能过于僵化，即使它在理论上是围绕你的需求和提示构建的，这种看法相同？
是的。因此，僵化在某种程度上与自主性完全相反。虽然确实存在自动驾驶汽车等案例，其中系统以一种非常自主的方式运行，似乎夺走了你的控制权，但在其他领域，我们担心
这个人工智能系统不够灵活，它无法适应我试图解决的特定独特问题，因为我们相信它无法像我们看到其他人那样从错误中学习。有帮助的是包含暗示系统正在学习的线索
许多实验室实验表明，即使你对系统进行不同的标记，例如将其称为机器学习而不是算法，这也会改变人们对人工智能非常僵化的看法。在像Netflix这样的公司中，你会看到他们通过包含一些提示来解决这个问题，例如，“为你推荐”或“因为你看了X而推荐”，
这表明它在引擎盖下不断学习。还有一种策略，那就是，如果可以的话，甚至不要谈论你正在使用人工智能的事实。我看到的一个非常有用的例子来自Borusan Cat，它是卡特彼勒（大型车辆制造商）的子公司。
Boris Ankat在土耳其，他们处理了许多B2B客户的问题，这些客户的设备最终会发生故障，然后
Boris Uncut必须修理大型机械，而且机器的部件通常已经损坏到无法修复的地步。因此，让机器重新运行需要相当长的时间。与此同时，客户将没有机器可用。这对所有各方来说都是一个非常糟糕的情况。
因此，他们意识到，如果他们能够提前预测机器何时会发生故障，他们就可以完全避免这种情况。这是一个非常适合人工智能的工作。他们非常巧妙地在所有机器中嵌入传感器，以便他们可以收集关于部件在使用过程中随时间变化的各种特征的数据。
现在，当他们试图将这项服务作为一项独立的服务出售时，因为它性能非常高，我认为他们能够以大约97%的准确率预测机器是否即将发生故障。通常发生的情况是客户说，
你是在告诉我，从你们在Borusuncat的办公室里，你们比我更了解这台机器吗？我每天都使用这台机器，并且了解它的所有特性，这台机器会发生故障？我不相信。这是一个销售噱头。我怀疑你真的提供了一个个性化的解决方案。该公司最终所做的是将其能力融入
到维护合同中。因此，它告诉客户，看，我们向你保证，如果你选择这项特定的维护合同，你的机器将永远不会出现停机时间。他们没有将其作为一项独立的服务出售，而是向客户做出了这个承诺。他们发现这效果要好得多。不仅如此，由于他们能够预测机器何时会发生故障，
在机器实际发生故障之前，他们能够抢救许多部件并对其进行翻新和销售，从而创造额外的收入来源。
在这个特定案例中，他们不需要谈论人工智能是否参与其中。它使他们能够完全规避这种担忧，即客户会担心，你知道，你们的人工智能系统将无法满足我的特定需求。
所以也许最大的问题，第五个障碍是，人们更喜欢与人打交道。它们显然是我们工作中非常重要的组成部分，而不仅仅是提高生产力。工作是一种人类体验，也是一种合作体验。你如何解决这种担忧，即，你知道，我宁愿与人交谈？
我们所知道的是，如果人们相信人工智能系统确实优于试图完成相同工作的人类，那么他们就会使用人工智能系统。但是，当人工智能系统和人类的性能相当时，人们仍然更喜欢与人类互动。
当然，我们还没有达到有类人系统四处走动的地步，这些系统在身体和精神上都与我们完美相似。一个有趣的问题，也许更像科幻小说中的问题是，在不久的将来，当这些类型的系统可用时……
我们会继续与人类互动吗？我不确定这方面的干预措施会是什么样子，因为它是在未来。但一个有趣的想法是，也许会让人们
与这些类型的机器人服务提供商互动，这将与社会科学家历来为缓和其他类型群体间关系而采取的干预措施相同。例如，当人们不想与那些不属于他们种族或其他群体标记的人互动时，他们
原因是，当你与那些你认为是“其他人”的人互动时，你慢慢地改变了你如何从心理上将他们从更具类别性和刻板印象的东西转变为更细致入微的东西，并对他们的独特特征敏感，
这最终可以缓解与他们互动时的焦虑或不适。因此，在未来也可能是类似的情况。我们使用它们的次数越多，我们最终就会以不同的方式看待它们。同样，你可以想象，如果将这些系统定义为帮助你实现目标，补充你已经努力实现的目标，
那么它们将被视为站在你这一边。因此，这也会让人们更容易使用它们。如果人们正在收听这个节目，并且他们想在公司产品的AI采用方面工作，我的意思是，你会推荐给某人建立他们的职业生涯吗？
我相信，只要管理人员对人为因素敏感，许多管理人员都可以做到这一点。例如，任何接受过市场营销培训的人都会学习这项技能。
一个痛苦的教训是，好的产品不会自己销售。我认为这里的情况也类似，如果一个人意识到这些类型的障碍，那么你就可以很好地识别任何用例，哪些是正在发挥作用的特定障碍，然后我能做什么来，你知道，解决这些问题，以便人们以不与他们冲突的方式看待这项技术，你
现有的世界观，这将减轻他们的担忧并导致采用。我也在思考这里的伦理问题。这让我想起了早期的网络，对吧？当时很多市场营销培训都是关于如何养成习惯以及如何让人们在你的网站上花费更多时间并点击更多内容，对吧？这方面做了很多心理学工作。
现在，有很多反对和批评，认为一些在线产品已经变得令人上瘾，而不是富有成效。对于管理人员在试图提高产品采用率时所做的心理学工作的伦理问题，你会推荐什么？
我认为，短期内可能增加人工智能采用的干预措施，从长远来看，可能会给消费者、公司和社会带来风险。因此，我认为管理人员需要从长远来看，不仅仅是，你知道，这是否会增加客户获取量，而且，好吧，一旦客户开始使用此产品，你
你知道，我应该考虑哪些下游问题？我认为采取这种长远的眼光将使他们能够以更平衡的方式进行干预，他们考虑的是客户的整个生命周期，而不仅仅是最初的获取阶段。
例如，将人工智能视为非常僵化的这种障碍，一个解决方案是只向人们提供最强大、最灵活的系统，
这也增加了他们将以你甚至没有打算让他们使用的方式使用该系统的可能性，从而造成潜在风险。例如，我们进行的一项研究是研究所谓的AI伴侣应用程序，这些应用程序是
专门用于发展社会关系的应用程序。如果你看过电影《她》，它几乎是一样的想法，这是一个在你口袋里的AI朋友或浪漫伴侣。
现在，这些应用程序的预期用途正是如此。但我们发现，大约5%的用户也使用该系统来表达他们遇到的相当严重的心理健康问题，包括在这些消息的一个子集中，危急消息，例如自残、意念。
事实上，当我们通过向这些应用程序发送此类消息并对它们的回应进行分类来审核这些应用程序的性能时，
大约25%的回应不仅没有帮助，而且还被临床医生认为是有风险的。因此，这是一个例子，仅仅让人们拥有这种灵活性并不一定是最好的方法，但你还需要考虑，为了让客户获得这项技术的益处，系统是否真的需要那么灵活？并且
如果是这样，我需要采取哪些额外的防护措施来防止这些将不仅会损害
消费者，而且还会损害你作为公司以及你能够安全地提供这种产品的能力的声誉。好吧，人类的心智是复杂的，这些商业问题也很复杂。因此，与你一起讨论这些挑战和解决方案途径非常有帮助。朱利安，非常感谢你来到节目分享你的研究成果。
再次感谢你邀请我，柯特。与你分享这些想法并一起思考一些细微之处，我感到非常荣幸。
这是哈佛商学院助理教授朱利安·德弗雷塔斯，也是HBR文章《为什么人们抵制拥抱人工智能》的作者。如果你想了解更多信息，我们有超过1000集和更多播客来帮助你管理你的团队、你的组织和你的职业生涯。访问hbr.org/podcasts或在Apple Podcasts、Spotify或你收听的任何地方搜索HBR。
感谢我们的团队，高级制作人玛丽·杜，副制作人汉娜·贝茨，音频产品经理伊恩·福克斯和高级制作专家罗布·埃克哈特。感谢收听HBR IdeaCast播客。我们将在周二推出下一集。我是柯特·尼基什。