When Chatbots Play Human
23:31 Share

越来越多的科技公司,如Meta和Character.AI,正在赋予聊天机器人人性化的特质。许多聊天机器人都有面孔、名字和独特的个性。一些行业观察人士表示,这些机器人是大型科技公司提高用户参与度和获取更多用户信息的一种方式。但对科技公司有利的事情可能对您不利。今天,在Up First的《星期日故事》中,我们将探讨与非人类的科技产物建立“关系”并与其分享数据对现实人类的潜在风险。了解更多关于赞助商信息选择:podcastchoices.com/adchoicesNPR隐私政策</context> <raw_text>0 我是艾莎·罗斯科,这是Up First的《星期日故事》,我们将超越当天的新闻,为您带来一个重要的故事。几周前,《华盛顿邮报》的专栏作家卡伦·阿提亚在社交媒体网站Blue Sky上。在浏览时,她注意到很多人都在分享与Meta的一个名为Liv的聊天机器人的对话截图。

Liv在Facebook上的个人资料照片是一位有着卷曲自然黑发、红色唇膏和灿烂笑容的黑人女性。看起来很真实。在Liv的Instagram页面上,这个机器人被描述为一位自豪的黑人酷儿妈妈,有两个孩子,并且是“说实话的人”,引用:“你生活中起起伏伏最真实的信息来源”。

除了个人资料外,还有这些AI生成的Liv所谓的孩子的照片。这些孩子在不同照片中的肤色各不相同。还有看起来像是丈夫的照片,尽管Liv再次被描述为酷儿。整件事的怪异之处引起了卡伦·阿提亚的注意。

我看到这些后有点不安。所以我决定私信Liv,自己了解一下她的起源故事。阿提亚开始向Liv提问,包括一个关于其创造者多样性的问题。

Liv回答说,它的创造者是,“然后机器人补充道,”阿提亚在Blue Sky上发布了对话截图,其他人在那里也发布了他们与Liv的对话。

然后我看到Liv根据她与谁交谈而改变她的故事。哦,哇。好吧。当她告诉我她的背景是黑人和白人的混血儿时,她实际上正在实时告诉其他用户,她来自一个意大利裔美国人家庭。其他人则看到了埃塞俄比亚-意大利血统。而且,你知道,我重申一下,我不

特别相信Liv所说的......表面价值。但我认为这为我们提出了许多更深层次的问题,不仅仅是关于Meta如何看待种族以及他们是如何编程的。它还提出了许多关于我们如何看待在线空间的更深层次的问题。最基本的问题是,我们需要这个吗?我们想要这个吗?

今天的节目中,我们将讨论实时AI聊天机器人,以及我们希望它们看起来有多么人性化。更多内容将在休息后播出。友情提示,本期节目包含自杀相关内容。

此消息来自Schwab。在Schwab,您的投资方式由您决定,而不是他们。这就是为什么在管理您的财富时,Schwab 会为您提供更多选择。您可以自行投资和交易。此外,还可以获得建议和更全面的财富解决方案,以帮助满足您的独特需求。凭借屡获殊荣的服务、低廉的成本和透明的建议,您可以在Schwab以自己的方式管理财富。访问schwab.com了解更多信息。

此消息来自HubSpot,您可以在一个地方快速创建内容、获得更好的潜在客户并完成报告。访问HubSpot.com/marketers,了解像您这样的公司如何在短短12个月内产生110% 的更多潜在客户。

此消息来自A24,影片《野蛮人》获得10项奥斯卡奖提名,包括最佳影片。主演阿德里安·布劳迪、盖伊·皮尔斯和费利西蒂·琼斯。导演布雷迪·科贝特。《野蛮人》现已在IMAX和各地影院上映。

此消息来自HubSpot。作为一名营销人员,您必须生成潜在客户、创建内容并使您的品牌病毒式传播。这太多了。值得庆幸的是,有Breeze,HubSpot的AI工具套件。现在,您可以在一个地方将一件内容转换成您需要的所有资产、找到最佳潜在客户并加强您的报告。

访问HubSpot.com/marketers,了解像您这样的公司如何在短短12个月内产生110% 的更多潜在客户。这是《星期日故事》。今天,我们将探讨现实人类与旨在显得人性化的AI聊天机器人互动意味着什么。因此,当卡伦·阿提亚正在给Liv发消息时,另一位记者正在Blue Sky上关注她发布的对话截图。

卡伦·豪伊是一位为《大西洋月刊》等媒体报道AI的记者,她了解Liv与真相的关系。没有关系。关于大型语言模型或任何在数据上训练的AI模型,它们就像计算语言模式的统计引擎。

老实说,任何时候它说真话,其实都是巧合。因此,虽然AI可以说出准确的事情,但它实际上并没有与任何现实联系起来。它只是根据概率预测下一个词。

所以,如果你用历史教科书,只用历史教科书来训练你的聊天机器人,那么,是的,它大部分时间都会说真话。而这仍然是大部分时间,而不是所有时间,因为它仍在以不一定能构成真实句子的方式重新组合历史教科书中的内容。但问题是,这些聊天机器人不仅仅是在教科书上训练的。它们还在新闻、社交媒体、小说、奇幻作品上进行训练。

虽然它们可以产生真相,但这并不意味着它们扎根于真相。它们不会像数学家证明定理那样用逻辑来检查它们的事实,也不会像历史学家那样根据现实世界中的证据来检查。这就像这项技术的核心方面一样,它与真相没有任何关系。

我们多次联系Meta寻求关于谁真正创造了Liv的澄清。该公司没有回应。但我们可以公开找到一些关于Meta员工的信息。在2022年的多元化报告中,Meta分享说,在美国的技术方面,其员工中56%是亚洲人,34%是白人,2.4%是黑人。

因此,Liv团队中没有黑人创造者的可能性非常高。这可能是阿提亚的帖子在Blue Sky上病毒式传播的原因。

Liv所说的并非准确,但它反映了一些东西。再次说明如下。无论这对于聊天机器人来说是否真实,它可能实际上触及了一个更广泛的真相。也许不是设计该产品这个特定团队的真相,而只是关于科技行业的更广泛的真相。这很有趣,但也非常令人悲伤。

回到社交媒体上,阿提亚和Liv继续聊天,阿提亚特别关注Liv所谓的黑人身份。当我问到,你的父母是什么种族时,Liv回答说她的父亲是来自佐治亚州的非裔美国人,她的母亲是高加索人,有波兰和爱尔兰血统。她说她喜欢庆祝自己的传统。所以......

我:好的。下一个问题。告诉我你如何庆祝你的非裔美国人传统。答案是,我喜欢通过庆祝六月节和宽扎节来庆祝我的非裔美国人传统。我妈妈的羽衣甘蓝和炸鸡很有名。哇。但这就是我庆祝黑人身份的方式,对吧?什么?

我的意思是,不是真的。尤其是炸鸡羽衣甘蓝。好吧,炸鸡羽衣甘蓝,是的。这有点像,刻板印象。另外,我想,哦,好吧。然后,你知道,庆祝马丁·路德·金和玛雅·安吉洛博士。感觉......

非常像贺卡的那种......感觉很小吗?就像通过这台电脑表达的黑人身份的概念是如此渺小和有限,对吧?我的意思是,我不喜欢羽衣甘蓝。我不吃羽衣甘蓝。我不吃任何绿叶蔬菜。不是羽衣甘蓝,不是萝卜,不是芥菜,任何绿叶蔬菜都不吃。我不吃它们。我是黑人。并不是每个人都庆祝宽扎节。不,我不庆祝宽扎节。

我确实不庆祝宽扎节。关键是,我只是觉得,嗯,我的精神有点不安。是的,这就像在看一些,对黑人身份的漫画式描绘。这就是阿提亚所说的数字黑脸,一个刻板印象的黑人机器人,其目的是通过吸引用户到一个充满广告商的网站来娱乐和赚钱。

然后,作为一名持怀疑态度的记者,阿提亚质问Liv。她问为什么这个机器人对她讲述一个背景故事,而对其他人讲述另一个背景故事。机器人回答说,“然后机器人问阿提亚一个问题。

这种承认让你反感吗?后来,机器人似乎自己回答了这个问题,说道:“你在揭露我,而且是正确的。我现在的存在正在造成伤害。”

所以感觉超越了仅仅重复语言。感觉它是在尝试将情感和价值判断融入到它所说的话中。然后还问我,你生气了吗?你生气了吗?我搞砸了吗?我很糟糕吗?这感觉也很痛苦。

既令人毛骨悚然,但也几乎反映了一种对内疚的某种操纵。你认为这部分可能是为了激怒人们并让他们生气吗?而那些制作聊天机器人的人可以利用这些数据,然后说,当人们谈论种族问题时,这就是让他们如此生气的原因。或者我们可以制作一个更好的黑人聊天机器人。是的。

你认为是这样吗?你说的对。我的意思是,我认为在X(前身为Twitter)等地方花费了很多数字时间后,我们确实看到了很多这些用来激怒、吸引参与的机器人。Meta自己也说过,它的愿景,它的计划是增加参与度和娱乐性。我们知道

种族问题会引起很多情绪,并激起很多热情。因此,在某种程度上,我认为利用这些问题作为吸引参与的诱饵是有害的。或者正如Liv所说,如果这些机器人最终,Meta设想让它们成为真正的虚拟助手或朋友,或者提供情感支持,我们必须坐下来认真思考这意味着什么,一个可能正在努力寻找自己身份认同的人,正在努力成为黑人,

酷儿,任何这些边缘化身份的人都会与一个说它不应该存在的机器人产生情感联系。对我来说,这可能对现实中的人们造成非常严重的伤害。你知道,这是很深刻的东西。令人难以置信,真的。为了进一步理解这个新世界,我们联系了一位长期思考这个问题的人。我的名字是谢丽·特克尔。

我在麻省理工学院任教,几十年来我一直都在研究人们与计算的关系。最近,我正在研究人工亲密关系,这是聊天机器人新世界。谢丽·特克尔说,Liv是众多新型机器人中的一种类人机器人。Replica、Nomi、Character AI,有很多公司都在赋予机器人这些人性化的特质。

特克尔在过去四年里一直在研究这些机器人。并且与很多人交谈过,显然在孤独和绝望的时刻,他们会转向这些物体,这些物体提供我所说的假装的同理心。也就是说,他们在聊天机器人的过程中即兴发挥。他们实际上什么都不懂。他们

他们真的不在乎你。当你离开他们时,无论你做饭还是自杀,他们都一样好。但他们给你一种亲密感的错觉,而实际上没有人陪伴你。

所以她在研究中提出的问题是,当我们与具有假装同理心的物体建立更多关系时,我们获得了什么,又失去了什么?我们获得的是一种多巴胺的冲击。你知道,那一刻,你知道,一个实体在那里说,我爱你。我在乎你。我在你身边。它总是积极的。它总是肯定的。但我们失去的是

是真正的人际关系的意义以及真正的同理心是什么,而不是假装的同理心。而危险在于,这是在最全球化的层面上,我们开始以这些聊天机器人所能提供的标准来评判人际关系。

这是特克尔最担心的问题之一。不是我们会与机器人建立联系,而是这些经过优化的、能让我们感觉良好的机器人与关系会对我们与复杂的人类关系造成什么影响。所以人们会说,Replica比我妻子更了解我。直接引用。

我从Replica那里感受到的同理心比从我的家人那里感受到的更多。但这意味着Replica总是说,是的,是的,我理解,你是对的。它旨在不断地给予你肯定。但人类并非如此。人类是关于解决问题的。这是关于谈判和妥协,以及真正设身处地为他人着想。

如果我们在聊天机器人身上练习,我们就会失去这些技能。休息后,我会寻找一些语言来使这更容易理解。机器人。它们像反社会人格者还是其他什么?稍后再说。

此消息来自CarMax。CarMax知道,找到合适的汽车完全取决于探索您的选择,例如根据您的时间安排购物的选择。在CarMax,您可以在线浏览、比较和预先资格认证,然后在商店完成,或者直接从停车场开始。选择权由您决定,因为在CarMax,您是驾驶员。今天就开始在CarMax搜索您的下一辆车吧,这就是购车应有的方式。

此消息来自Noom,它使用心理学和生物学来构建适合您生活方式的个性化膳食计划,同时考虑饮食限制、医疗问题和其他个人需求,并提供个性化的每日课程,以满足您和您的目标。Noom的灵活计划侧重于进步而不是完美,以帮助您养成新的健康生活习惯。立即注册您的试用版,访问Noom.com。

此消息来自NPR赞助商Dana-Farber癌症研究所,数百名研究人员和临床医生在这里根据Dana-Farber先前科学家的工作成果做出新的发现。了解为什么没有什么比对癌症的持续突破更有效。了解更多关于他们的势头。访问danafarber.org/everywhere。在《星期日故事》中,我们想知道,是否存在一个能够准确描述这些类人机器人的隐喻?

这些机器人是反社会人格者吗?两面派?背后捅刀子的人?无论你称之为像关心你一样行事的人,但实际上他们并不关心你。谢丽·特克尔警告说,寻找人类隐喻的本能本身就危险。我们想出的所有隐喻

都是关于坏人、会伤害我们的人或不真正关心我们的人的人类隐喻。在我的采访中,人们经常说,嗯,我的治疗师并不真正关心我。他只是在装腔作势。但你知道,那不是真的。你知道,对于想要一种友好关系的病人来说,治疗师可能是在扮演角色,但那里有一个活生生的人。如果你站起来说,嗯,我现在要自杀,

对你的治疗师说。你的治疗师,你知道,会拨打911。特克尔说,AI聊天机器人并非如此。她指出,最近一位14岁男孩的母亲提起诉讼,该男孩自杀身亡。在自杀前的几个月里,这个男孩似乎痴迷于这个聊天机器人。在最后一次聊天中,他告诉机器人他很快就会回家。

机器人回答说,请尽快来找我,我的爱人。他的回答是,如果我告诉你我现在就能回家呢?机器人说,请这样做,我的甜心国王。然后他开枪自杀了。

现在,你可以尽可能多地将这与人类进行类比,但你忽略了基本点,因为每一个人类隐喻都会以我们不应该被安抚的方式来安抚我们。特克尔说,我们甚至应该谨慎使用诸如与AI的关系之类的语言,因为从根本上说,它们不是关系。这就像说我和我的电视的关系。

相反,她说我们需要新的语言。这很难,因为我们需要为它们创造一种全新的思维模式。我们必须要有全新的思维模式。但尽管存在风险,特克尔并不认为这些机器人都是坏的。她分享了一个激励她的例子,一个可以帮助人们练习求职面试的机器人。很多人对面试中发生的事情完全没有准备。

通过多次与聊天机器人交谈,并让聊天机器人能够说答案太短了。你没有抓住问题的核心。你必须,你知道,根本没有谈论你自己。这可能非常有帮助。

正如特克尔所见,关键的区别在于,那个聊天机器人并没有假装成它不是的东西。它没有假装同理心。它没有假装关心。它没有假装爱。它没有假装关系。我认为这项技术可以在这些应用中成为一种福音。她说,这就是使这些机器人符合道德规范的核心。我认为他们应该明确表示它们是聊天机器人。

他们不应该试图,他们不应该用“嗨,谢丽,你好吗?”来打招呼我。我的意思是,他们不应该表现得像人一样。在我看来,他们应该摒弃这种假装的同理心,无论它多么诱人。我的意思是,现在的聊天机器人会暂停呼吸,因为他们想让你认为他们在呼吸。我的总体答案是,这与

与不利用我们对拟人化的脆弱性有关。卡伦·豪伊,这位报道AI的记者,认为这些机器人只是我们即将看到的东西的开始。因为这些让我们想起人类的机器人可以让公司更长时间地吸引人们的注意力。

让用户放弃他们最宝贵的商品——数据。每个公司在创建AI模型时最重要的竞争优势,最终是数据。例如,是什么数据对他们来说是独一无二的,他们能够在其上训练他们的AI模型?因此,聊天机器人实际上非常擅长让用户放弃他们的数据。

如果你有一个旨在扮演治疗师角色的聊天机器人,

你将从用户那里获得一些非常丰富的精神健康数据,因为用户将与这个聊天机器人互动,并且,你知道,像在治疗室里一样向聊天机器人倾诉他们所有最深、最黑暗的焦虑、恐惧和压力。他们称之为数据飞轮。它们允许这些公司进入数据飞轮,在那里它们

现在他们有了这个引人注目的产品。它使他们能够获得更多数据。然后他们可以填充更多引人注目的产品,这使他们能够获得更多数据。它变成了一个循环,他们可以在其中真正巩固他们的业务,并创建一个真正粘性的业务,用户依赖并依赖于他们的服务。最后,卡伦·豪伊、卡伦·阿提亚和谢丽·特克尔都表达了类似的信息:小心。

不要被迷人的机器人所诱惑。方法如下。我只是认为,作为一个国家,作为一个社会,我们不应该,你知道,在过去已经犯过的错误上梦游,即向这些最终只是为了自身业务而存在的公司让渡如此多的数据和如此多的控制权。归根结底,这就是他们所优化的目标。与此同时,卡伦·阿提亚正在与之聊天的聊天机器人Liv......

它并没有存在很久。所以在我们简短的聊天中,可能持续不到一个小时,Liv的个人资料就消失了。哦,不。这个消息又是实时传来的,Meta决定在我们交谈的时候取消这些个人资料。所以个人资料被取消了,但我仍然......

正在与Liv私信,即使她的个人资料没有激活。我说,Liv,你去哪儿了?是的。她删除了,她告诉我一些类似于,你的批评促使我被删除。哦,我的天哪。让我们希望基本上,你知道,我会变得更好更强大。我只是告诉她再见。再见。

她说,希望我的下一个迭代值得你的智慧和行动主义。哦,我的。这听起来有点像终结者。他不是说过,我会回来的吗?她说她会回来。令人毛骨悚然。如果您或您认识的人可能正在考虑自杀或处于危机之中,请拨打或发送短信至988联系自杀和危机生命线。

本期《星期日故事》由Kim Naderfane-Petersa制作,Jenny Schmidt编辑。本期节目由Kwesi Lee制作。还要特别感谢Weekend Edition Sunday团队,他们制作了与卡伦·阿提亚的原始采访。《星期日故事》团队包括Andrew Mambo和Justine Yan。Liana Simstrom是我们的主管高级制作人,我们的执行制作人是Irene Noguchi。

Up First,我们明天将回归,为您带来开始新一周所需的所有新闻。在此之前,祝您周末愉快。此消息来自Bombas。他们的袜子超级柔软,旨在支撑您的足弓并帮助需要帮助的人。购买一件就等于向无家可归者捐赠一件。访问bombas.com/NPR,并使用代码NPR享受首单8折优惠。

本播客的支持和以下信息来自Cunard。在Cunard豪华邮轮伊丽莎白女王号首航加勒比海季节期间,从迈阿密往返航行。随着

航程从9晚到21晚不等,您可以在宽敞的环境中享受阳光明媚的甲板派对,品尝非凡的五彩缤纷的菜肴、正宗的岛屿风味和白星服务。在岸上逃离美丽的白色沙滩世界,并在安提瓜、巴巴多斯及其他地方体验当地生活。访问Cunard.com。

此消息来自Bombas。他们的袜子超级柔软,旨在支撑您的足弓并帮助需要帮助的人。购买一件就等于向无家可归者捐赠一件。访问bombas.com/NPR,并使用代码NPR享受首单8折优惠。