Griefbots Offer AI Connections with Deceased Loved Ones
16:18 Share

伙计们，你们知道Degree Cool Rush止汗露吗？去年他们改变了配方，大家都很生气。一个人甚至发起了一份请愿书。所以猜猜怎么了？Degree听到了我们的声音，承认他们搞砸了，并将原来的Cool Rush香味原样带了回来。它现在在沃尔玛、塔吉特和其他商店有售，价格低于4美元。所以买一些，记住它那清凉、清爽、新鲜的香味为什么在过去十年里成为排名第一的男士止汗剂。Degree Cool Rush回来了，它闻起来像是我们所有人的胜利。

由于网红们到处向我们兜售垃圾，事实也变得难以捉摸，你需要收听Science Versus播客。本季，我们将探讨多动症、氟化物、禽流感，甚至射精。我小便的感觉和射精的感觉不一样。如果我怀孕了，我会避免饮用含氟水。我们已经做了功课，这是你必须收听的一季。新的Science Versus现已推出。那就是Science VS。

这里是科学美国人科学速递，我是瑞秋·费尔特曼。

数字死后生命的想法是科幻小说多年来一直在探索的东西。早在2013年，热门剧集《黑镜》中一集令人不寒而栗的剧集《马上回来》讲述了一位悲痛欲绝的女子依赖于她已故伴侣的不完美AI复制品的故事。最近，已故人士的数字复制品甚至出现在亚马逊Prime的喜剧节目《上传》中。

这种从心理恐怖到讽刺的转变是有道理的，因为在这两部剧集首映之间的十年左右时间里，用数字工具保存我们死者的想法已经变得不那么假设了。现在，一个不断壮大的行业出现，一些专家称之为“悲伤机器人”，它提供AI驱动的用户已故亲人的模仿。但这些服务对生者和死者都带来了一系列伦理问题。

我今天的嘉宾是Katarzyna Nowoczek-Baszynska。她是剑桥大学利弗霍尔姆未来智能中心的研究员。她的研究探讨了像这些机器人这样的新技术如何重塑我们对死亡、失去和悲伤的理解。非常感谢您今天来聊天。非常感谢您邀请我。我对此非常兴奋。

那么，您最初是如何对研究您所说的“悲伤机器人”或“死亡机器人”感兴趣的呢？我一直觉得这个话题找到了我。并不是我在寻找这个特定的话题。而是相反。当我还是学生的时候，我

我们被要求准备一份作业。我当时学习的是媒体研究，其中包含艺术和表演的元素。主题非常广泛，仅仅是身体。所以我做了我的研究，并且一直在寻找一些灵感。那是我第一次遇到一个名为EterniMe的网站。

我完全被这个想法迷住了，有人向我提供数字永生。那几乎是十年前的事了。我想，这太令人毛骨悚然了。同时又很吸引人。很奇怪。我真的很想了解更多。所以我更喜欢那项作业。然后我选择数字永生作为我的硕士论文的主题。

硕士论文发展成了博士论文。十年后，我仍然在这个领域工作，专业地研究这个话题。是的，我想象一下，数字永生背后的技术在十年里发生了很大的变化。是什么样的进步推动了这个领域的发展？

实际上，十年前，商业公司销售的是承诺。而今天，我们有了真正的产品。

所以这是最大的变化。我们拥有使这一切成为可能的生成式AI。我们拥有全部的专业知识和技术基础设施来实现它。要创建这种技术，要创建你的死后化身，你需要结合两件事。大量的个人数据和AI。

所以，如果你想创建这个化身，你需要向商业公司授予访问你个人数据的权限。这意味着你分享你的视频录制、你的信息、你的音频录制，以及

然后AI对其进行分析，并试图找到不同信息片段之间的联系，并推断出你在特定情况下最有可能给出的答案。所以很明显，当你的死后化身说话时，

这只是对这个人会在特定时刻和特定情况下如何反应的预测。它基于非常复杂的计算，这就是其背后的全部魔力。那么，现在的景象是什么样的呢？人们正在使用什么样的产品？

人们是如何参与其中的呢？市场上主要提供的是死后化身或悲伤机器人或死亡机器人。我们使用这些不同的名称来涵盖实际上相同类型的技术。因此，你的虚拟代表可以在你的生物学死亡很久之后继续使用。我经常使用Deborah Bassett借用的这个短语，我们

生活在一个我们可以生物学上死亡，但同时又虚拟存在并积极参与社会生活的时刻。所以有很多公司，主要位于美国，美国似乎是孕育这个想法并将整个数字永生叙事传播到世界各地的中心。所以我们有不同的初创公司和公司提供这种

服务，无论是投票的形式还是全息图的形式。我们是否看到不同文化的人们对这些产品的反应和参与方式存在差异？所以，这就是我现在试图追求的主要问题，因为我正在领导一个名为“人工智能时代的永生想象：跨文化分析”的项目。

在这个项目中，我们试图了解来自不同文化背景的人们如何看待数字永生的想法。因此，波兰、印度和中国是我们这项研究选择的三个国家。

因为仅仅听到一种观点，并且只知道西方的观点及其主导叙事是不够的。所以我们仍在数据收集阶段。所以我只能分享一些观察结果，而不是结论。

我们肯定知道的是，对于我们在这三个地点工作的专家和非专家来说，当我提到专家时，我的意思是那些在死亡、技术、悲伤交叉领域工作的人。所以代表不同领域和行业的人，例如姑息治疗专业人员、学者、医生。

在殡葬行业工作的人，精神领袖。所以那些可以帮助我们理解数字永生在这种情况下可能意味着什么的人。所以我们肯定知道的是，数字永生被认为是一种可以深刻改变我们理解和体验死亡和永生方式的技术。

专家们一致认为，我们需要对此进行更多讨论，我们需要更多伦理防护和框架来帮助我们理解这种新现象，我们需要更周全的规章制度和负责任的设计。

我们还需要保护这些技术的使用者，因为目前还没有这样的东西。同时，这可能令人惊讶，非常令人担忧。而且我们还需要合作，我们需要合作，因为没有一个数字永生专家能够彻底解决所有问题、困境和疑问。我们需要合作。

共享专业知识或集体专业知识，以更好地掌握我们目前面临的所有挑战。是的。好吧，很明显，这听起来像是一个非常复杂的问题。但是，您会说围绕这个问题最紧迫、最紧迫的伦理问题是什么，我们需要弄清楚？所以清单很长。但我认为最紧迫的问题是

是关于同意的疑问。因为当你为自己创建一个死后化身时，你就是数据捐赠者，情况似乎非常简单明了。因为如果你这样做，我们可以假设你明确同意使用你的个人数据。

但是，如果我们有第三方参与这种情况会怎样呢？如果我想为我的母亲创建一个死后化身呢？我有权分享我与她的私人信件，并与商业公司分享这些信件，并让他们使用和重复使用这些材料吗？

关于同意的另一个变体是我们所说的相互同意原则。我们在与我来自CFI的同事Tomasz Holanek博士合著的文章中使用了这个原则。

我们提出了这个想法，因为我认为我们经常忽略这样一个事实，那就是当我们创建死后化身时，不仅仅是关于我们自己。因为我们正在为特定用户创建它，为这项技术的预期用户创建它，这通常是我们的家人、朋友。

问题是他们可能还没有准备好使用它们，他们可能对这些东西不太热衷。对某些人来说，这肯定能带来安慰，但对其他人来说，这可能是额外的精神负担。这就是为什么我们认为我们应该能够创造一种情况，让不同的相关方首先同意接触这些技术。

这样他们就可以决定是否想长期或短期使用这些技术。

另一件事是数据利润剥削。数字永生是商业市场的一部分。我们有“数字来世产业”这个词，我认为这说明了我们的处境。十年前，它还是一个小众市场。一个小众市场已经发展成为一个成熟的产业，数字来世产业。我们的死后关系肯定会被货币化。

我们可以想象，商业公司会走得更远，例如会利用这些平台向我们销售产品。这些悲伤机器人可能是非常隐蔽的产品植入空间。所以是数据利润剥削。但是，我认为我们也应该记住，有一些特别容易受到伤害的潜在用户群体。

在我看来，根本不应该接触这些技术，例如儿童。我们没有基于经验的研究能够帮助我们了解这些技术如何影响悲伤过程。但我认为在这种特殊情况下，我们应该采取预防措施，保护最弱势的个人。

因为我不认为孩子们准备好应对悲伤或经历悲伤过程，而由AI和，我不知道，他们父母的悲伤机器人陪伴。这可能是毁灭性的，而且很难应对。是的，绝对的。绝对的。

我们已经讨论了明显的伦理问题。我们是否知道任何信息，或者您对这些技术是否可能带来好处有任何个人想法？我认为它们可以作为一种交互式档案。在悲伤过程中使用它们非常冒险，但是当我们将它们付诸实践时，

不同的背景作为知识来源，我认为这是这项技术的潜在积极用途，这样我们就可以从通过这些技术永生的科学家那里学习。

当然。也许甚至在个人使用中，不像是，“哦，这是我的祖母，我现在可以在悲伤时与她进行私人谈话”，更像是，“哦，你可以问你的曾祖母关于她童年的更多问题”，更像是一种家族史的方式。这说得通吗？是的，绝对的。绝对的。对我来说，

改变重点，不一定要关注悲伤过程，这是一个非常冒险的事情，而是试图建立档案和新的知识来源，易于获取的知识。是的，非常酷。如果您正在考虑使用悲伤机器人或死亡机器人，您认为消费者需要注意哪些重要事项？

首先，它不是万能的良药。它对某些人有效，但不一定对我也有效，因为我是一个不同的人。我经历悲伤过程的方式完全不同。所以这绝对是一件非常私人的事情。悲伤也是一种非常个人化和私密化的体验。所以我们应该记住，它并不适合所有人。

其次，这些技术，它只是技术。它不在另一边。它不是你已故的亲人。这是一种非常复杂的模仿这个人的技术。而且这项技术也可能上瘾。我的意思是这项技术的设计方式是为了让你保持参与，你很容易被操纵。

所以我认为商业公司应该确保用户意识到他们通过技术进行联系，例如通过免责声明。但与此同时，我们看到这里存在非常冲突的利益，因为商业公司想要的是让我们参与并保持这种关系。

非常感谢您与我们一起讨论这个问题。我非常期待看到您未来的研究成果。非常感谢您的邀请。很高兴。这就是今天节目的全部内容。我们将在周五回来讨论为什么世界需要开始更多地关注真菌。

科学速递由我瑞秋·费尔特曼以及Fonda Mwangi、Kelso Harper、Naima Marci和Jeff Dalvisio制作。本集由Alex Sagiara编辑。Shana Pozes和Aaron Shattuck为我们的节目进行事实核查。我们的主题音乐由Dominic Smith创作。订阅《科学美国人》以获取更多最新和深入的科学新闻。这里是科学美国人，我是瑞秋·费尔特曼。下次再见。♪