Why the New Pope Is Taking on AI
21:58 Share

天主教新任教宗利奥十四世正在将人工智能作为其标志性议题。上周，梵蒂冈在罗马举办了一场为期两天的国际人工智能会议，邀请了科技界领袖参加。华尔街日报的Margherita Stancati报道了硅谷为何关注利奥是否会利用教会的道德权威来推动更严格的人工智能法规。Jessica Mendoza主持。

- 梵蒂冈面临的财务困境 - 教宗方济各去世。天主教会的未来将会怎样？

了解您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 谈到人工智能及其带来的道德和伦理问题，哲学家、工程师、科技高管、播客主持人、Substack撰稿人，似乎每个人都有自己的看法。人工智能带来的最大伦理挑战是什么？人工智能正在抢你的工作。人工智能模型可能加剧气候变化。现代人工智能是我们创造上帝的过程。言行一致。

对人工智能及其对人类影响表示担忧的人中，包括新教宗利奥十四世。

他上任还不到两个月，就已经将人工智能列为其首要议题之一。在他执政的第二天，他就向枢机主教发表了讲话，基本上概述了他教宗任期的优先事项。我们的同事玛格丽塔·斯坦卡里是《华尔街日报》驻罗马记者。那时他第一次提到了“古老的”这个词。

人工智能。所以人工智能对教宗来说不仅仅是次要考虑。他正在将他教宗任期的核心议题放在人工智能上。当您听说人工智能将成为这位教宗领导下梵蒂冈的中心主题时，您是怎么想的？

我认为这很有意思，因为您看到的是最新尖端技术与这个拥有2000年历史的机构的互动，而这个机构通常与技术无关。而且，你知道，它主要由一些不太了解技术的老年人管理。但他们之间有一个共同点。

那就是，人类的未来。欢迎收听《The Journal》，我们关于金钱、商业和权力的节目。我是杰西卡·门多萨。今天是星期三，6月25日。节目接下来将讨论天主教会关注人工智能。本期节目由美国银行赞助播出。他们不仅仅为你加油助威，他们帮助你每一步都算数。有了美国银行的智能支票和储蓄账户，可以帮助你追踪支出和增加储蓄，你的财务状况可以更上一层楼。

因为当你身边有合适的合作伙伴时，你就能成就无限可能。这就是我们的力量。今天就访问usbank.com了解更多信息。版权所有2025，美国银行。

本期节目由新款戴尔人工智能电脑赞助播出，该电脑由英特尔酷睿超频处理器提供支持。它可以帮你完成繁琐的工作，这样你就可以快速完成编辑图像、设计演示文稿、生成代码、总结会议、回复吉姆冗长的电子邮件等工作，从而腾出时间去做你真正想做的事情。吉姆，别介意。在dell.com/ai-pc上，以749.99美元起的价格购买新款戴尔人工智能电脑。♪

如果您对梵蒂冈成为人工智能领域的领先声音感到惊讶，这是可以理解的。梵蒂冈历史上并不被认为非常精通技术。最近去世的教宗方济各，他根本就不以精通技术而闻名。事实上，在他教宗任期的早期，他曾开玩笑说自己不太会使用电脑。

但这并不意味着梵蒂冈没有关注技术。在他任职期间，教宗方济各警告说屏幕会影响社会关系。他还对社交媒体对年轻人的影响感到担忧。今天许多人非常社交，但却不太合群。

他担心社交媒体不会让任何人掉队。他还担心社交媒体上很容易传播误解，以及这可能对社会产生的潜在影响。教宗方济各对人工智能的兴趣始于2019年。那一年，他在梵蒂冈会见了微软总裁布拉德·史密斯。

所以他参加了这次会议，对微软、其总裁或人工智能知之甚少，但他们开始谈论人工智能。那可能是方济各第一次认真讨论人工智能这个话题。而且他很快就抓住了它的重要性。所以方济各，

从那时起，他开始真正思考人工智能，以及它对人类尊严可能意味着什么，对那些工作可能因这项新技术而面临风险的工人意味着什么。此外，你知道，科技公司、政府以及梵蒂冈的责任是什么来解决这个问题？方济各一直将社会正义问题（如经济不平等）放在优先地位。他与布拉德·史密斯的谈话将这些优先事项与人工智能的影响联系起来。

在一份教会文件中，梵蒂冈官员将对人工智能的担忧与教会教义联系起来。他们引用了《创世纪》，并写道：“基督教传统认为，智慧的恩赐是人类以上帝的形象被创造的一个重要方面。”

我想我能理解梵蒂冈是如何得出这个结论的，即它对人工智能对人类的影响或影响表示担忧。但是，科技公司为什么要与教宗或梵蒂冈谈论人工智能呢？

我认为这是一个非常好的问题。我认为部分原因是他们自己也在问自己一些问题，例如，成为人类意味着什么，以及这些实际上相当哲学的问题。梵蒂冈有能力尝试回答这些问题，因为它长期以来一直在哲学层面上思考人类。方济各更频繁地与人工智能公司的首席执行官会面，例如来自Anthropic、Cohere和TerraQuantum的首席执行官。

这些会议通常涉及对人工智能的益处和风险进行深入的辩论。科技公司希望说服一位道德思想领袖——教宗——人工智能并非他认为的那样具有威胁性。但方济各仍然担心人工智能。2020年，梵蒂冈发表了《罗马人工智能伦理倡议》。它本质上是一个承诺，承诺人工智能制造商遵守人工智能。

坚持某些原则，例如隐私和人权。但关键重点是人工智能应该为人类服务，而不是完全取代人类或人类技能。我认为，就这些对话是如何发展的，

我认为存在一种真正的相互理解，即需要制定一些防护措施。我认为几乎所有人，如果不是业内所有人，都同意这一普遍原则。微软和IBM是首批签署这项承诺的公司。思科、高通和其他公司随后也签署了这项承诺。

2023年，在这项承诺三年后，一张教宗穿着巨大白色羽绒服的人工智能图像在网上疯传。同年晚些时候，方济各呼吁缔结一项国际条约来规范人工智能。该条约比这项承诺更进一步，要求达成一项具有法律约束力的协议，而一些科技公司首席执行官则希望避免这种情况。方济各在他教宗任期的剩余时间里继续讨论这些问题。

教宗方济各，你知道，当他去年在七国集团领导人峰会上发表讲话时，他称人工智能既令人着迷又令人恐惧。他公开呼吁缔结一项具有国际约束力的条约。他谈到了“技术独裁”。所以他总是愿意讨论这些问题。但我认为，他对尽快制定防护措施的必要性也相当坚定。

现在，有一位新的教宗。他也把人工智能放在心上。利奥教宗显然是在方济各留下的基础上继续前进的。我认为利奥真正认识到，这将比在方济各时期更加成为他教宗任期的核心议题。接下来是这个话题。

支持来自ServiceNow。我们是为了那些从事他们真正想做的创造性工作的人们。这就是为什么这个广告是由一个真实的人撰写和朗读的，而不是人工智能。你知道人们不想做什么吗？枯燥乏味的工作。现在，借助内置于ServiceNow平台的人工智能代理，您可以自动化业务各个领域的数百万个重复性任务，包括IT、人力资源等等，以便您的员工能够专注于他们想做的工作。这就是让人工智能代理为人们服务。

轮到你了。访问servicenow.com。你是一位有远见卓识的人吗？那么你需要一个像你一样思考的人力资源和财务平台。Workday是一个人工智能平台，可以帮助推动您的组织、员工和行业走向未来。Workday，永远推动业务向前发展。

新教宗首先要做的事情之一就是选择一个正式的名字。当罗伯特·弗朗西斯·普雷沃斯特于5月被枢机主教团选举时，他选择了利奥这个名字。所以当利奥教宗成为教宗时，他非常明确地说，这是对前任教宗利奥十三世的一种致敬。他

今天，教会向所有人提供其丰富的社会学说，以应对另一场工业革命。因此，他正在将社会学说

与19世纪发生在欧洲和美国的社会学说，与当今技术革命的影响以及对人类尊严、正义和劳动的新的挑战性的人工智能发展，进行了明确的对比。利奥十三世在第二次工业革命时期执政，这是一个创新、生产力和规模化生产的时代。

但它也是一个不平等的时代，对工人来说，这是一个危险的时代。教宗利奥十三世是第一位系统地应对工业革命社会影响的教宗。事实上，他被称为“工人的教宗”。他敦促各国政府通过法律来保护劳动者免受他那个时代那种残酷的资本家的侵害。他发布了这份具有开创性的通谕，名为《 rerum novarum》，

通谕是教宗撰写的一封信，通常是写给主教的。大多数情况下，通谕是关于天主教教义的。但有时，教宗会写一封对教会之外产生影响的通谕。《rerum novarum》对欧洲各国的劳动法产生了巨大的影响。正如利奥十三世呼吁保护工人免受工业化的危害一样，利奥十四世也表示他希望保护工人，这次是免受人工智能的危害。

因此，通过与第十三年的对比，

利奥十四世教宗明确表示，这场技术革命极其重要。我将把它放在我教宗任期的核心位置。但他同时也表示，他主要关注的是这场技术革命的社会影响。因此，人类尊严，对工人的意义。这显然是我们期望他今后关注的重点。他展示人工智能对他来说有多么重要的一种方式是上周举行的这场人工智能会议。所以

其中一部分是在梵蒂冈举办的。是的，这是一场为期两天的AI会议，主题是伦理和治理。有科技高管参加。有律师。有教授。他们中的许多人以前从未去过梵蒂冈。会议有一天在宗座宫举行，宗座宫是梵蒂冈内部最宏伟的建筑之一。

它位于一个名为“皇家厅”的房间里。这是一个令人难以置信的房间，墙壁上装饰着壁画，纪念教宗历史上一些最重要的时刻。其中一幅壁画或壁画描绘了16世纪的勒班陀战役，当时欧洲天主教军队击败了奥斯曼帝国。另一幅壁画描绘了一位皇帝向教宗下跪。

所以这些都是，你知道，也是对教会过去世俗权力的提醒。我和一位科技高管谈过，她说，这是梵蒂冈的一个终极权力举动。她说，你知道，这意在提醒我们人类智慧的潜力。她评论说，毕竟，这是在没有电脑，更不用说人工智能的情况下制作的。

所以，是的，这是一个非常强烈的提醒，即，你知道，他们正在与一个拥有深厚道德权威的拥有2000年历史的机构打交道。所以这是一个非常非凡的地方。谈话也很有趣。你知道，讨论的中心是人工智能的伦理问题，包括一些最坏的情况。♪

这场为期两天的会议由两家律师事务所主办，一家是与梵蒂冈合作的Libra Legal Partners，另一家是为世界上一些最大的科技公司提供咨询服务的Wilson Sonsini。在会议上发言的人之一是人工智能公司Cohere的首席执行官艾丹·戈麦斯。他说，人工智能公司需要道德权威人士在技术可能出错的方式上提供指导，而不仅仅是这些方式。我认为……

我们倾向于关注消极和悲观情绪，并看到这项技术可能出错的所有不同方式。

但重要的是也要看到机遇，看到在医疗保健、教育和生产力方面可以做些什么，并在这方面获得指导，而不仅仅是在不利方面获得指导。所以我希望看到的，不仅仅是这次会议，而且在更广泛的对话中，是引导机遇。我认为像我这样的公司正在开发这项技术，需要被告知

在哪里集中我们的精力，以及我们想首先实现哪些机遇。利奥十四世在给与会者的信息中说，人工智能已经产生了积极的影响，例如改善医疗保健研究和科学发现。但他同时也强调了这项技术的风险。

他呼吁迫切需要对人工智能固有的伦理维度进行认真反思和持续讨论。他呼吁进行负责任的治理。他说，你知道，好处是有的，但我们确实必须权衡这件事的益处和风险。

他还警告说，可能会被滥用于自私的利益，以牺牲他人为代价，或者更糟的是煽动冲突和侵略。而且，你知道，他提到了梵蒂冈经常提出的一个观点，那就是，你知道，无论数据多么广泛，都不能将数据访问与情报混淆。对人工智能的这种怀疑态度是其他参加会议的神职人员所回应的。我认为最尖锐的评论来自一位昨天在会议上发言的意大利主教。

他说，你知道，他说，我们都同意需要进行监管，但他称之为“淘金热”。他说，这其中有很多钱可以赚。他有点不相信公司能够自我监管。他确实引用了这样一句谚语，即“通往地狱的路是用好意铺成的”，以此来强调需要认真反思这项创新的后果。

在这场会议期间，科技高管或天主教会似乎是在试图互相影响还是寻找某种共同点？我的意思是，肯定有一种感觉，那就是存在共同点，那就是对防护措施的渴望。

但一种紧张关系（尽管他们在互动方式上非常外交），那就是最终，你知道，每个人都非常清楚需要治理的想法。但这将是什么样子，谁将是执行者？我认为没有达成一致，而且行业内部或政府之间也没有就如何做到这一点达成一致。

新教宗是否会像他的前任那样，主张制定具有约束力的法律来规范人工智能，这仍然是一个悬而未决的问题。在会议上，玛格丽塔问埃德加·佩尼亚·帕拉大主教教会在这个时刻是如何看待自己的角色的。佩尼亚·帕拉是负责人工智能的梵蒂冈官员。在这种情况下，梵蒂冈可以发挥什么作用？为什么科技公司应该关心梵蒂冈所说的内容？我认为我们可以分享的东西，我们可以提供的东西……

就是我们自己。我们不是商业企业。我们是谁，教宗保罗六世，教宗蒙蒂尼。他说教会是人类的专家。

我们已经尝试了2000多年。有时好，有时坏。但我们可以提供这些。我们可以提供我们的人文知识。我的意思是，在具体的事情上，这是教育、健康和穷人。我们也许可以，我们可以在这方面提供帮助。这场会议对你来说有什么意义？

好吧，这很重要，因为梵蒂冈明确表示他们想参与这场对话。他们说，你知道，我们想参与这场对话，因为这是一场我们都应该参与的对话，而不仅仅是在这里。教宗显然把它放在了核心位置。所以这不仅仅是为了梵蒂冈对这些对话可能产生的直接影响，而是直接的。

确保世界各国领导人也注意到这一点。当然，还有科技界，即，你知道，这是我们都应该关注的事情。据《华尔街日报》报道，本月，微软总裁布拉德·史密斯预计将与罗马梵蒂冈官员会面。据《华尔街日报》报道，谷歌正在与梵蒂冈联系，讨论与利奥教宗会面的可能性。在你看来，玛格丽塔，天主教会今天是否有足够的软实力来影响世界各地关于人工智能监管的法律？

这是一个很好的问题。我认为在世界某些地区，也许可以。在其他地区，则不然。我不认为会出现梵蒂冈起草法律的情况。但我认为它很独特，因为它是一个非常高调的机构，但它没有世俗权力。所以它不是政府。它的权力在于它的道德权威。在多大程度上……

这种道德权威能否具有说服力，取决于听众的意愿。我认为，它能否产生影响是一个很大的问题，但它可以帮助塑造对话。