Flying Too High: AI and Air France Flight 447
40:40 Share

普希金。所以，我要向所有素食主义者和素食者宣布一个好消息。那就是Hellman's植物性蛋黄酱和调味酱。它是为采用植物性饮食的人们制作的，或者任何想要享受Hellman's真正美味而无需鸡蛋的人。Hellman's植物性蛋黄酱非常适合三明治、沙拉、素食汉堡或您家人的任何喜爱食物。

为了庆祝，Hellman's正在hellmans.com上分享一些简单美味的植物性食谱。Hellman's植物性蛋黄酱和调味酱。同样的美味，植物性。

我是马尔科姆·格拉德威尔，我想花一点时间谈谈我主持的一个令人惊叹的新播客，名为《荣誉勋章》。这是一个感人的播客系列，庆祝那些保护我们国家的人的鲜为人知的故事。它由LifeLock提供，LifeLock是身份盗窃保护领域的领导者。您的个人信息存在于许多地方，这些地方可能会意外地使您面临身份盗窃的风险。

而且并非所有处理您个人信息的人都像您一样谨慎。LifeLock让您轻松掌控自己的身份，如果发生身份盗窃，LifeLock将努力解决问题。加入数百万信任LifeLock的美国人。立即访问LifeLock.com/metal，即可节省第一年高达40%的费用。最具创新性的公司正在与T-Mobile for Business进一步发展。

拖拉机供应公司信赖T-Mobile的5G解决方案。他们共同利用5G商业互联网连接超过2200家门店，并利用人工智能为团队成员提供支持，使他们能够更快地将购物者与他们需要的产品匹配。这丰富了客户体验。这是拖拉机供应公司与T-Mobile for Business合作的结果。访问T-Mobile.com/now，让您的业务更上一层楼。

当问题开始时，在大西洋中部，机长马克·杜布瓦正在驾驶舱休息室，就在驾驶舱旁边。他负责从里约热内卢飞往巴黎的法国航空447航班，航班在夜间飞行。但他很累。他和女朋友一起游览了里约的景点，包括科帕卡巴纳海滩和直升机之旅，他没有睡很多觉。

这架飞机由飞行员大卫·罗伯特和皮埃尔-塞德里克·博宁驾驶。当问题开始时，大副大卫·罗伯特按下了呼叫按钮，召唤机长杜布瓦。当你睡着时闹钟响了，你会多快醒来？杜布瓦机长花了98秒才起床并进入驾驶舱。不算慢，但也不够快。

当杜布瓦到达他自己的飞机驾驶舱时，他面临着一个混乱的场面。飞机剧烈摇晃，难以读取仪表。警报在啁啾声和自动语音之间交替。“失速，失速，失速。”他的年轻副驾驶正在控制飞机。杜布瓦机长平静地问道：“发生了什么事？”

副驾驶大卫·罗伯特的回答不那么平静。“我们完全失去了对飞机的控制，我们什么都不明白。我们尝试了一切。”这两句话都是错的。机组人员控制着飞机。飞机正在按照他们的指示飞行。而且他们并没有尝试一切。事实上，一个非常简单的行动很快就能解决他们的问题。但大卫·罗伯特在一方面是对的。

他们不明白发生了什么。我是蒂姆·哈福德，您正在收听《警示故事》。2009年6月1日凌晨法国航空447航班的失踪，起初是一个完全的谜。

这架飞机是空客A330，这是一架拥有出色安全记录的现代飞机。自20世纪90年代初推出以来，在15年里，没有一架载客A330飞机在世界任何地方坠毁。这架飞机只有四岁，并且经过全面维护。机组人员训练有素，机长经验丰富，而且条件似乎也没有什么太大的挑战。然而……

不知何故，447航班从空中坠落。几个小时后，搜救队在海面上发现了残骸痕迹，证实飞机已被摧毁，机上228人全部遇难。但是包含可能对灾难原因至关重要的线索的黑匣子飞行记录器，

在大西洋底部某处。直到近两年后，黑匣子才被发现，谜团才开始解开。亲爱的听众，这不仅仅是一个关于飞机坠毁的故事。这是一个关于未来将会发生什么的警告。

法国航空447航班于2009年5月31日晚上7点29分从里约热内卢准时起飞，飞往巴黎。事后看来，三位飞行员都有自己的弱点。58岁的马克·杜布瓦机长拥有丰富的轻型飞机和大型客机飞行经验，但他睡眠不足。

32岁的皮埃尔-塞德里克·博宁年轻，飞行时间不多。37岁的大卫·罗伯特最近成为法国航空公司的经理，不再全职飞行。他飞这条航线是为了保持他作为飞行员的资格。

幸运的是，考虑到这些潜在的脆弱性，机组人员负责驾驶世界上最先进的飞机之一，空客330，这架飞机以其平稳易飞而闻名。与任何其他现代飞机一样，A330配备了自动驾驶仪，可以使飞机沿着预定航线飞行。但它还拥有一个更复杂的自动化系统，称为辅助电传操纵系统，

传统的飞机让飞行员直接控制飞机的襟翼、方向舵、升降舵和副翼。这意味着飞行员有很大的空间犯错。

电传操纵系统更平稳，也可能更安全。它介于飞行员及其所有缺点和飞机的物理机制之间。作为人和机器之间巧妙的翻译者，它观察飞行员拉动操纵杆的动作，弄清楚飞行员希望飞机如何移动，并完美地执行该动作。

它会将笨拙的动作变成优雅的动作。这使得空客A330很难坠毁。很难，但事实证明并非不可能。当飞机接近赤道时，年轻的飞行员皮埃尔-塞德里克·博宁正在飞行，或者更准确地说，是让自动驾驶仪飞行。杜布瓦机长和他在一起。

在天气雷达上，他们可以看到正在聚集的热带雷暴，在一年中的那个时间和那个位置，这很常见。老手杜布瓦说：“我们不受雷雨云的困扰，对吧？”年轻的博宁没有回应。事实证明，他非常担心雷暴，许多机长都会选择绕过雷暴，为了乘客的舒适，更不用说其他任何事情了。

这并不是一个被讨论的可能性。相反，杜布瓦指出，我们将稍等片刻，看看它是否会消失。如果没有呢？这不是杜布瓦机长的责任。几分钟后，里约时间晚上11点，他按了呼叫器，召唤大卫·罗伯特，以便杜布瓦可以小睡一会儿。这并不特别不寻常。

毕竟每个人都需要休息，年轻的飞行员需要获得一些关于飞机决策的经验。尽管如此，由于飞机即将直接飞入雷暴，杜布瓦离开驾驶舱的决定还是引发了质疑。坠机事件的首席调查员阿兰·布伊亚尔与作家兼飞行员威廉·隆加维西亚谈到了此事。他的离开并不违反规定。尽管如此，这仍然令人惊讶。

如果你对结果负责，你不会在主要事件期间去度假。杜布瓦离开后，皮埃尔-塞德里克·博宁对暴风雨的担忧变得更加明显。“该死的牛！该死！”他一度大喊。这个法语相当于“见鬼，该死”，似乎是由没有任何特别原因引起的。他和大卫·罗伯特谈论了他们无法飞得足够高以避开暴风雨是多么遗憾。

但他们做不到。飞机的飞行高度是有限制的。你飞得越高，离地面的危险就越远。但大气层就变得越稀薄。当然，大气层是机翼用来支撑飞机的东西。太高了，误差范围就会变小。

不过没关系，因为在A330上，辅助电传操纵系统始终使飞行员保持在这些范围内。当飞机接近暴风雨时，冰晶令人不安地撞击着挡风玻璃，机翼上开始结冰。博宁和罗伯特打开了防冰系统，以防止结冰过多并减慢飞机速度。

罗伯特几次轻推博宁向左拉，避开最恶劣的天气。博宁似乎有点心不在焉，也许是因为他们没有早些时候规划好绕过暴风雨的路线而感到紧张。一股淡淡的电烧焦味充满了驾驶舱，温度升高。罗伯特向博宁保证，所有这些都是雷暴造成的，而不是设备故障。

但冰不仅仅是在机翼上形成。它还堵塞了飞机的空速传感器，这意味着自动驾驶仪无法再自行驾驶飞机。一个除霜系统启动以融化冰并疏通传感器。但与此同时，飞行员需要接管控制。驾驶舱中响起警报，通知博宁和罗伯特自动驾驶仪已断开连接。

同时弹出一条消息，补充说，由于同样的原因，辅助电传操纵系统也停止了辅助。它不再是飞行员和飞机之间巧妙的翻译者。相反，该系统是一个逐字翻译器，它会传递任何指令，无论多么愚蠢。

皮埃尔-塞德里克·博宁直接、不受任何调解地控制着飞机，这种情况他几乎没有经验。尽管如此，他只需要让飞机保持直线和水平飞行几分钟，直到空速指示器除霜即可。这能有多难？《警示故事》将在休息后继续。

人工智能可能是历史上最重要的新型计算机技术。它正在席卷各个行业，并且正在投入数十亿美元。所以，系好安全带。问题是人工智能需要大量的速度和处理能力。那么，如何在不使成本螺旋式上升的情况下竞争呢？是时候升级到下一代云计算——Oracle云基础设施（OCI）了。

OCI是一个单一平台，可满足您的基础设施、数据库、应用程序开发和人工智能需求。OCI的带宽是其他云的4到8倍，提供统一的价格而不是可变的区域定价，当然，没有人比Oracle更擅长数据。因此，现在您可以以其他云的两倍速度和不到一半的成本训练您的AI模型。如果您想像Uber、8x8和Databricks Mosaic一样做更多的事情并花费更少，

请在oracle.com/strategic免费试用OCI。网址是oracle.com/strategic。oracle.com/strategic。我喜欢骑自行车，我也渴望让我的孩子也骑自行车。这对他们保持健康并在我们家乡城市独立活动来说是一个好方法。但当然，我也希望他们充满信心和安全，这就是Guardian Bikes的用武之地。

自行车装在一个盒子里，很容易组装，所有需要的工具和简单的在线说明都包含在内。我和我的儿子一起打开了他的自行车包装盒，花了大约20分钟时间作为一个团队来组装它，然后他就骑上自行车准备骑行了。这辆自行车看起来很棒，并且配备了SureStop制动系统，它可以快速安全地制动，而不会锁住前轮并导致您从车把上摔下来。Guardian自行车提供365天退款保证

涵盖退货、维修和备件。通过今天购买Guardian自行车，加入数十万个幸福家庭的行列。访问GuardianBikes.com，即可节省高达25%的自行车费用。无需代码。此外，在注册新闻通讯后，您的第一次购买将获得免费的自行车锁和泵。网址是GuardianBikes.com。

骑行愉快！

这样你就不会错过任何事情。《经济学人》通过事实核查、严谨的报道和分析来拓宽您的视野。这是您可以真正信任的新闻报道。如今发生了很多事情，但享受20%的折扣，您可以通过播客、网络研讨会、专家分析甚至其大量的档案来获取对世界事件的深入、独立的报道。所以，在哪里

无论您是想了解当前事件还是深入研究特定问题，《经济学人》都能以独特的清晰度提供全球视角。举个例子，《亚马逊30岁后的下一步是什么？》分析了亚马逊的第四个十年如何成为该公司整合的领域。超越头条新闻，关注《经济学人》。在有限的时间内，享受年度订阅20%的折扣。访问economist.com并立即订阅。

不久前，哈佛商学院的研究员法布里齐奥·德尔阿夸进行了一项实验，以了解人们在算法的辅助下如何表现。

该实验的设计是实用和现实的。它涉及付费的专业招聘人员评估真实的简历，并配备商用软件来使用我们称之为机器学习的复杂模式识别来评估和评分这些简历。一些招聘人员获得了旨在以非常高标准运行的软件。为简单起见，德尔阿夸称之为“好的AI”。

其他随机选择的招聘人员获得了效果不太好的算法，即“坏的AI”。他们被告知该算法是零散的。它会给出好的建议，但也会犯错误。然后是第三组，也是随机选择的，他们根本没有获得AI支持。

德拉克罗瓦发现，计算机助手非常有用。无论招聘人员获得的是好的AI还是坏的AI，他们都比没有AI的招聘人员做出了更准确的招聘选择。但令人惊讶的是，拥有良好AI的招聘人员的表现不如拥有不良AI的招聘人员。为什么？因为他们关掉了。

拥有良好AI的组花费更少的时间来分析每个申请。他们或多或少地将决定留给了计算机。知道自己拥有不太可靠的AI工具的那组花费了更多精力，并更密切地关注了申请。他们使用了AI，但他们也使用了自己的判断。尽管拥有更差的工具，他们做出了更准确的决定。

随着强大的新型AI系统的兴起，我们倾向于问谁更好：人类还是计算机？德尔阿夸的实验提醒我们，这可能是错误的问题。通常，决策是由人类和计算机共同做出的。仅仅使用最好的计算机并不一定能从人类那里获得最好的结果。

皮埃尔-塞德里克·博宁在高空稀薄、无情的空气中飞入雷暴。由于空气中的电荷和挡风玻璃上的冰雹声，机舱里一片漆黑，并伴有令人不安的燃烧气味。然后是警报断开自动驾驶仪的声音。

博宁需要尽可能多的帮助，就在那一刻，辅助电传操纵系统断开了连接。博宁没有真正没有使用它的飞行经验。当自动驾驶仪脱离时，博宁抓住了操纵杆，麻烦立即开始了。飞机左右摇晃，每次博宁都过度校正。

他习惯了在起飞和着陆时在浓密的空气中飞行，而在高空，飞机的表现有所不同。更重要的是，冯安习惯于使用辅助电传操纵系统飞行，优雅地解释他的每一个动作。突然，他不得不不用它来驾驶飞机。左右摇晃，30秒内摇晃了十次。

飞机的左右摇晃一定令人不安，但这并不特别危险。危险的是，伯南还向后拉操纵杆，使飞机爬升。在稀薄的空气中，爬升的飞机很容易失速。失速是指机翼产生的升力不足时发生的情况。失速的飞机向上倾斜，试图爬升，

但它正在失去前进速度和高度，在滑落穿过空气的同时拼命地寻找高度。那么为什么博宁将飞机向上指，并冒着失速的风险呢？对于习惯在起飞和着陆时接管飞机控制的飞行员来说，这是一个本能的反应。当失速不太可能发生时，主要危险来自高度不足和撞击地面。

如果你在着陆时遇到问题，你会加大油门并将飞机的机头向上指。这就是博宁正在做的。《大众机械》杂志的航空记者杰夫·怀斯在一篇文章中解释说，强烈的精神压力往往会关闭大脑中负责创新创造性思维的部分。相反，我们倾向于回归熟悉和熟练的东西。

在超过37000英尺的高度。将飞机机头向上指的熟悉和熟练的动作不会让博宁更安全。它使整架飞机更接近灾难。

1942年，两位已婚的心理学家亚伯拉罕和伊迪丝·卢钦发表了一项著名实验的结果。在这个实验中，受试者得到三个不同大小的水壶，并被要求计算出如何测量一定数量的水。例如，一个水壶的容量可能是20盎司，第二个是100盎司，第三个是4盎司。

然后问题是：你将如何使用这些水壶测量72盎司的水？答案：装满100盎司的水壶，然后将20盎司倒入中等大小的水壶中。然后你从大水壶中两次装满小的4盎司水壶。用铅笔和纸来计算并不太难。100减去20减去4减去4等于72盎司。

卢钦夫妇给他们的实验对象提供了几个这样的问题，每个问题都有不同大小的罐子和不同的目标水量。但每次解决方案都遵循相同的模式：装满大罐子，然后用它一次装满中等大小的罐子，两次装满小罐子。现在是技巧。卢钦夫妇会给人们这样的问题：

大罐子装39盎司。中等大小的罐子装15盎司。小罐子装3盎司。你如何得到18盎司？好吧，你可以重复之前的过程。装满大罐子，然后用它一次装满中等大小的罐子，两次装满小罐子。它有效。但如果你这样做，你就是在过度复杂化事情。

因为你可以简单地装满中等大小的罐子和小的罐子。15加3等于18。这容易得多。但很多人错过了这个显而易见的解决方案，因为他们已经解决了一堆以前需要更复杂方法的问题。亚伯拉罕和伊迪丝·卢钦还有一个对照组。他们没有做过任何练习题。相反……

他们从18盎司的问题开始，当然，他们中的大多数人都找到了简单的解决方案。没有练习实际上是一个优势。他们以全新的视角看待这个问题，并快速简单地解决了它。那些练习过的人往往会坚持使用笨拙的解决方案。卢钦夫妇称之为“定势效应”。定势在这里最好的翻译可能是“思维状态”。

有经验的参与者找到了一条似乎有效的简单经验法则，因此他们开始无意识地应用它。正如卢钦夫妇所说，解决问题的行为已经机械化了。博宁本能地试图通过向后拉操纵杆来爬升，这以两种方式证明了定势效应。

首先，正如杰夫·怀斯解释的那样，他正在回归他的本能，那就是当你遇到麻烦时，安全可以通过将飞机拉起并寻求高度来找到。其次……

博宁几乎总是驾驶配备辅助电传操纵系统的A330飞机。当辅助电传操纵系统运行时，你实际上无法使飞机失速。计算机不会让你这样做。博宁已经接受过他自己的飞机的训练，永远不必担心失速。

永远不要考虑失速，因为失速根本不会发生。当447航班开始失去空速和高度时，一个自动语音宣布：“失速。”大卫·罗伯特说：“这是什么？”失速。失速。在接下来的四分钟里，“失速”这个词会被重复70多次。

但博宁和罗伯特似乎无法理解失速是可能的。他们的定势，他们的思维状态，使这种风险难以想象。

我第一次在2015年收听《99%不可见》播客时听到447航班的故事。顺便说一句，《99%不可见》很棒，如果奇迹般地你还没有收听，那就去订阅吧。你可以稍后感谢我。现在，在2015年，这似乎是对自动驾驶汽车的警告。

这里有一位飞行员，他如此依赖辅助技术，以至于忘记了如何在高空驾驶飞机。那么，当自动驾驶汽车接管，我们都变成皮埃尔·塞德里克·博宁时会发生什么？无法记住该做什么，而计算机需要我们接管。我现在对这个故事有不同的看法。这不仅仅是自动驾驶汽车。

这是人工智能无处不在的体现。考虑一下法布里齐奥·德尔阿夸给专业招聘人员的那些决策算法，这些算法使他们关闭并让算法处理问题。他称这项研究为“开车时睡着了”。我想你知道为什么。或者生成式AI，我们用它来绘画、制作视频、撰写论文。

就像A330上的辅助电传操纵系统一样，这是一个技术奇迹。但就像辅助电传操纵系统一样，问题不在于计算机运行得有多好，而在于计算机和人类如何协同工作。

考虑一下那些向ChatGPT寻求帮助以制定案件的倒霉律师，结果发现它只是编造了新的案件。这不仅真的发生了，而且不止一次发生。在纽约的一个案件中，律师被罚款5000美元，并被勒令向那些名字被ChatGPT冒犯的法官写道歉信。

在加拿大，另一位律师被警告后免于处罚。不列颠哥伦比亚省最高法院相信她的话，她说她并不真正理解ChatGPT的工作原理，我也相信这一点。到目前为止，即使是律师们也肯定已经明白，你不能在不检查的情况下要求ChatGPT为你准备法律提交材料。

但生成式AI的问题可能会出现在更令人惊讶的地方。《警示故事》稍后继续。

我喜欢骑自行车，我也渴望让我的孩子也骑自行车。这对他们保持健康并在我们家乡城市独立活动来说是一个好方法。但当然，我也希望他们充满信心和安全，这就是Guardian Bikes的用武之地。自行车装在一个盒子里，很容易组装，所有需要的工具和简单的在线说明都包含在内。我和我的儿子一起打开了他的自行车包装盒，花了大约20分钟时间作为一个团队来组装它

然后他就骑上自行车准备骑行了。这辆自行车看起来很棒，并且配备了SureStop制动系统，它可以快速安全地制动，而不会锁住前轮并导致您从车把上摔下来。Guardian自行车提供365天退款保证，涵盖退货、维修和备件。通过今天购买Guardian自行车，加入数十万个幸福家庭的行列。

访问GuardianBikes.com，即可节省高达25%的自行车费用。无需代码。此外，在注册新闻通讯后，您的第一次购买将获得免费的自行车锁和泵。网址是GuardianBikes.com。骑行愉快！如果您现在正在收听，您可能喜欢掌握最新动态，这就是为什么我想提到《经济学人》的原因。如今，世界似乎比以往任何时候都发展得更快。气候与经济、政治与文化、科学与技术，无论你往哪里看，

事件都在迅速发展，但现在您可以节省20%的《经济学人》年度订阅费用，这样您就不会错过任何事情。《经济学人》通过事实核查、严谨的报道和分析来拓宽您的视野。这是您可以真正信任的新闻报道。如今发生了很多事情，但享受20%的折扣，您可以通过播客、网络研讨会、专家分析甚至其大量的档案来获取对世界事件的深入、独立的报道。所以，在哪里

无论您是想了解当前事件还是深入研究特定问题，《经济学人》都能以独特的清晰度提供全球视角。举个例子，《亚马逊30岁后的下一步是什么？》分析了亚马逊的第四个十年如何成为该公司整合的领域。超越头条新闻，关注《经济学人》。在有限的时间内，享受年度订阅20%的折扣。访问economist.com并立即订阅。

杰里米·尤特利、基安·戈哈尔和亨里克·韦德林是构思方面的专家，或者用更日常的说法，头脑风暴，作为团队进行创造性问题解决。自然地，当他们听说ChatGPT发布时，他们问自己这个新工具可能会给构思过程带来什么。毕竟，ChatGPT突然成为一种轰动。功能强大、灵活易用，

律师们遇到的问题是ChatGPT只是编造东西，这对于构思来说不是问题。因为目标不是准确性，而是在稍后制定细节之前，尽可能快地生成各种解决方案。因此，三位研究人员决定进行一项简单的实验，他们将使用ChatGPT的构思会议与不使用ChatGPT的构思会议进行比较。

在斯坦福大学教授创新的杰里米·尤特利认为，ChatGPT将帮助团队产生更多想法，可能是两倍、五倍甚至一百倍。他告诉《你不是那么聪明》播客，他认为他们的研究将回答的问题是：AI辅助团队产生了多少倍的想法？然后他

他看到了结果。他告诉《你不是那么聪明》：“我的第一个想法是，哦，不，哦，不。”对于许多使用ChatGPT的团队来说，整个协作的构思过程都停止了。相反，房间里会很安静，除了键盘敲击声。每个人都会盯着他们的屏幕，显示研究人员后来描述为

令人难以置信的是，他们摆出一副AI专家模样，而他们提出的想法呢？完全平庸。这些团队配备了头脑风暴历史上最新、最强大、最复杂的工具，却产生了完全可预测的东西。没有什么杰出的，没有什么特别多样化的，没有什么不需要大量开发工作的，最重要的是，想法不多。

这太疯狂了，因为构思的全部意义在于产生各种各样的想法，然后在稍后进行分类，而ChatGPT绝对是一台产生各种想法的机器。这又是“ Einstellung 问题”。

人们真正需要做的是彼此互动，并与AI互动，提示它，讨论提示，回到机器，混合事物，改变他们的查询，要求更多。但ChatGPT给他们的看起来很像谷歌搜索栏。你输入你的问题，你得到答案，然后你就停止了。

你会觉得你以前见过这种情况，所以你会做你一直做的事情。如果它不起作用，通常情况下，你会再做一次。你被卡住了。皮埃尔-塞德里克·博宁肯定被卡住了。

他的本能是拉回操纵杆，这导致飞机失速，飞机正在下沉，下沉，下沉向大西洋。在他和戴维·罗伯特周围，警报声大作，包括失速、失速、失速的警报。但他们似乎无法诊断他们自己造成的这个问题。

这时，即使是空速指示器也除霜了。飞机实际上没有任何问题。如果他们轻轻地将飞机的机头向下指，它就会恢复速度和升力，并脱离风暴。他们有足够的高度这样做，但他们没有。罗伯特按下了按钮，从休息室召唤杜布瓦机长。

该死，他在哪里？在恐慌中，他一遍又一遍地猛按它。该死，他来不来？记住，杜布瓦机长只用了98秒就到达了驾驶舱。发生了什么？考虑到当时的状况，杜布瓦似乎很平静。戴维·罗伯特和皮埃尔-塞德里克·博宁则不然。博宁使飞机失速，飞机以每秒150英尺的速度从空中坠落，机头高高地朝上。

戴维·罗伯特注意到空速指示器失灵了，尽管其他读数是准确的，包括失速、失速、失速，但他不相信它们。威廉·隆加维沙说，法航飞行员“极其无能”。

隆加维沙认为，飞行员根本不习惯在没有电脑帮助的情况下在高空驾驶自己的飞机。即使是杜布瓦机长在过去六个月中也只有四个小时真正驾驶飞机，而不是监督自动驾驶仪。而且他得到了完整的辅助电传操纵系统的帮助。如果飞机自己飞行……

飞行员什么时候练习？到目前为止，我们还没有在现代AI系统中看到这个问题。但很明显，麻烦即将来临。想想那些开车睡着的招聘人员，那些不懂Chat GTP的律师，以及那些盯着屏幕目瞪口呆而不是互相交谈的头脑风暴小组。

在每种情况下，我们都可以看到一种过于人性化的意愿，即放弃我们自己的判断，让电脑来思考。我们这样做得越多，练习就越少。当然，更好的AI即将到来，这只会使问题变得更糟。心理学家里森（James Reason）是《人为错误》一书的作者，他解释了原因。

技能需要持续练习才能保持。然而，一个很少失效的自动控制系统剥夺了操作员练习这些基本控制技能的机会。当需要手动接管时，通常会出现问题。这意味着操作员需要更熟练，而不是更不熟练，才能应对这些非典型情况。

这被称为自动化悖论。不可靠的自动化使操作员保持敏锐和熟练。但自动化系统越好，操作员自己动手的经验就越少。残酷的是，当电脑放弃时，情况将变得越奇怪。你可能会说，那么我们不应该使用这些自动化系统。

飞行员应该练习他们的技能，而不是使用辅助电传操纵系统。我们应该记住电话号码，而不是依赖智能手机。孩子们应该学习长除法，而不是使用计算器。哎呀，书是一场灾难。在书籍出现之前的旧时代，人们过去常常记住像《伊利亚特》这样的15小时史诗长诗。而这不会发生。无论如何……

这些工具不仅使生活更轻松，而且提高了我们的绩效。使用袖珍计算器进行的计算比不使用袖珍计算器进行的计算要复杂得多。一个图书馆可以包含比任何人都能记住的信息多得多的信息。配备自动驾驶仪和辅助电传操纵系统的现代飞机比老式飞机安全得多。

但需要付出代价。有时我们会发现自己记不住电话号码，或者不知道如何进行长除法。或者也许我们会发现我们已经要求AI系统帮助我们进行头脑风暴，或者帮助我们决定聘用谁，或者制定新法律，或者帮助我们控制武器系统，或者制定军事战略。也许我们停止关注。

或者变得如此无助地缺乏练习，以至于当电脑让我们失望时，我们甚至没有注意到。当马克·杜布瓦机长回到驾驶舱时，仍然有可能营救飞机。将机头向下指，恢复前进空速并脱离失速。

飞机仍然有足够的高度使这成为可能，但杜布瓦必须在很短的时间内吸收大量信息才能诊断出失速。他和罗伯特都不能直接看到博宁仍然在拉回操纵杆，本能地试图爬升。

飞机下落得如此之快，以至于一些指示器停止了读数。而那些正在工作的指示器由于下落的极高速度而可能显得难以置信。然后存在根本性的歧义。在失速状态下，你向上指，但你向下落。为了停止下降，你首先必须俯冲。这使得诊断问题和讨论问题都变得困难。

杜布瓦机长进入驾驶舱不到一分钟后，就进行了一次交流。罗伯特说：“你在爬升。”然后他说：“你正在下降，下降，下降，下降。”这是指示将机头向下指吗？还是对正在快速坠落的飞机的描述？杜布瓦机长回应道：“正在下降。”

博宁问道：“我现在正在下降吗？”罗伯特和杜布瓦都不同意。罗伯特回答说：“下降。”杜布瓦说：“不，你在这里爬升。”这是一个描述，而不是命令。罗伯特补充道：“下降。”博宁说：“我在爬升，好的，所以我们正在下降。”这是一团糟。他们在爬升还是下降？两者都是。机头向上指，博宁的操纵杆向后，他们以超过每分钟10000英尺的速度坠落。

也许杜布瓦机长已经意识到他们在失速。也许没有。他没有直接这么说。而且他不在控制台上，博宁在。与此同时，电脑的声音不断发出失速、失速的提示。又过了一分钟，才出现某种清晰度。飞机已经穿过10000英尺的标记。现在只剩下不到一分钟了。

罗伯特说：“爬升，爬升，爬升，爬升！”当然，他会的。飞机正在坠落。博宁回答说：“但我已经保持最大机头向上了一段时间了。”最后，杜布瓦机长似乎明白了博宁做了什么。“不，不，不要爬升！”此时，戴维·罗伯特按下按钮将控制权切换到他的座位，将飞机的机头向下推。

博宁大概是因为恐慌，按下了他的按钮，默默地夺回了飞机的控制权，并将机头再次向上推。这无关紧要。反正已经太晚了。他们只剩下几秒钟了。皮埃尔-塞德里克·博宁的妻子在客舱里。他们的两个年幼的儿子在巴黎。博宁意识到他们即将成为孤儿吗？可能。“我们要坠毁了，”他说。“这不可能是真的。”

该死，我们死了，戴维·罗伯特说。不到三秒钟，飞机就会腹部着陆在大西洋，立即杀死机上所有228人。罗伯特、博宁、杜布瓦机长、博宁的妻子、杜布瓦的女朋友，所有人。皮埃尔-塞德里克·博宁的最后一句话，但发生了什么？

有关我们资料来源的完整列表，请参阅timharford.com上的节目说明。警示故事由我和蒂姆·哈福德与安德鲁·赖特共同撰写。它由爱丽丝·菲恩斯制作，玛丽莲·拉斯特提供支持。声音设计和原创音乐是帕斯卡尔·怀斯的作品。莎拉·尼克斯编辑了剧本。它以本·克劳、梅拉妮·古特里奇、斯特拉·哈福德、杰玛·桑德斯和鲁弗斯·赖特的配音才华为特色。

如果没有雅各布·魏斯伯格、瑞安·迪利、格雷塔·科恩、埃里克·桑德勒、卡丽·布罗迪和克里斯蒂娜·沙利文的工作，这个节目也不可能实现。

警示故事是普希金工业的制作。它由汤姆·贝里在伦敦沃德尔工作室录制。如果您喜欢这个节目，请记住分享、评分和评论。告诉你的朋友。如果您想无广告收听该节目，请在Apple Podcasts或pushkin.fm.com的节目页面上注册Pushkin Plus。

我是马尔科姆·格拉德威尔，我想花一点时间谈谈我主持的一个很棒的新播客，叫做《荣誉勋章》。这是一个感人的播客系列，庆祝那些保护我们国家的人的未被讲述的故事。它由LifeLock提供，LifeLock是身份盗窃保护领域的领导者。您的个人信息存在于许多地方，这些地方可能会意外地使您面临身份盗窃的风险。

并非每个处理您个人信息的人都像您一样谨慎。LifeLock让您轻松掌控自己的身份，如果发生身份盗窃，LifeLock将努力解决。加入数百万信任LifeLock的美国人。立即访问LifeLock.com/metal，即可节省第一年高达40%的费用。

对于所有素食主义者和素食者来说，我有一些好消息。这是Hellman's植物性蛋黄酱和调味酱。专为采用植物性饮食的人或任何想要享受Hellman's真正美味而无需鸡蛋的人而制。Hellman's植物性蛋黄酱非常适合三明治、沙拉、素食汉堡或您家人的任何喜爱食物。

为了庆祝，Hellman's正在hellmans.com上分享一些简单美味的植物性食谱。Hellman's植物性蛋黄酱和调味酱。同样的美味，植物性。

新闻并不总是好消息，但是当您获得高质量的新闻报道和深入的专家分析，并且已经坚持了180多年时，这绝对是好消息。因此，如果您还没有，请立即利用《经济学人》夏季促销活动节省20%，并随时了解对您重要的新闻。您将立即获得对每日文章、特别报道、屡获殊荣的播客、仅限订阅者的活动等等的无限数字访问权限。现在这是

好消息。访问economist.com并立即订阅。