Reid riffs on AI companions, human friends, and age gates
20:02 Share

许多人看到马克·扎克伯格最近重申了他的愿景：用户拥有能够像他们的信息流算法一样理解他们的AI伴侣。扎克伯格指出，美国人的平均朋友数量少于三个，但他们有能力拥有15个朋友。这让我很难过。作为一个普通人，如果人们只有三个朋友，他们会想要15个。我真的很相信孤独症的流行，以及人际关系至关重要。

他的解决方案是，个性化的聊天机器人可以填补这一空白。就像它们可以嵌入Meta的Facebook、Instagram、WhatsApp、Ray-Ban、Meta眼镜中一样，这可以成为解决社会联系问题的方案。所以，让我们首先讨论一下这项技术。

在这些AI伴侣从炫酷的演示、我们正在讨论的东西，转变为人们实际互动的东西（就像他们在TikTok或Instagram上与朋友互动一样）之前，必须具备哪些功能？记忆、语音、视觉？事实上，我认为这个问题非常重要，我将从伴侣和朋友之间的区别开始，然后我们可以深入探讨技术。很好。

因为我认为人们理解伴侣和朋友之间的区别极其重要。我认为这很重要，无论所有社交媒体平台（Facebook和Facebook拥有的所有东西），还是LinkedIn、TikTok、YouTube以及所有其他平台，实际上都应该理解友谊是一种双向关系。而且

而陪伴以及许多其他类型的互动并不一定是双向的。它们可以是，但并非一定如此。我认为这极其重要，因为这是对人类、人类的一种微妙侵蚀，

允许人们陷入这种误解。顺便说一句，许多人自然会陷入这种误解，因为他们认为，朋友是为我做好事的人。这就是，你知道，所以这是，你赞美我，你告诉我我很棒，你在凌晨两点陪着我，你知道。友谊是，你在我身边，对吧？事实上，这是一种巨大的，你知道，就像，

对自身性格、自身灵魂的一种贬低。友谊是双向的。不仅你在我身边，我也在你身边。现在你可以对友谊有不同的理论。我的友谊理论是两个人同意互相帮助，成为彼此最好的版本。我认为这是一件极其重要的事情。但顺便说一句，不仅你正在接受这种帮助以成为你最好的版本，而且

但事实上，你给予这种帮助以成为他们最好的版本，也是让你变得更好的部分。友谊中重要的事情是，你可能会带着这样的想法去和朋友一起吃午饭：我打算谈谈我度过的糟糕的一周。而且，你知道，这，你知道，我真的很期待见到我的朋友，因为他们会帮助我解决这个问题。你坐下来，你的朋友说，哦，是的，我母亲昨天去世了。你会说，

我们将谈论我的朋友。这正是友谊中如此重要的东西，在友谊中学到的东西。这种事情非常非常重要。所以我认为今天没有任何AI工具能够成为朋友。而且我认为如果它

假装是朋友，你这样做实际上是在伤害这个人，你不应该这样做。这就是为什么Inflection，你知道，Pie，当你问，“嘿，你是我最好的朋友”时，它会说，“不，不，我是你的伴侣。嘿，我们应该谈谈你的朋友吗？你见过他们中的任何一个吗？你能见到他们吗？你知道，问题是什么？因为帮助你进入你的朋友的世界，我认为这对伴侣来说是一件极其重要的事情。

顺便说一句，这并不意味着我不认为AI伴侣对所有人都有重要的作用。我认为AI伴侣可以发挥非常有益的作用。

对人们来说是人的角色。但重要的是要了解他们扮演什么角色。对于这些伴侣来说，不欺骗他们扮演的角色极其重要。我认为有一整套理论。现在，顺便说一句，一旦你深入了解这一点，就像你说，好吧，我们训练了一个伴侣来

为了人类类别X而存在。我们接受过这方面的训练，这是我们的人性理论，这是我们关于如何贡献的理论，这在某种程度上应该预先公布，并且在可能出现奇怪的事情时随时出现。所以，就像我被训练成一个治疗伴侣，哦，顺便说一句，你正在进入一个我打算向你推销东西的区域。好吧，我应该明确这一点。所以

现在，这让我们想到了……

但是我们该怎么办？因为不可避免地，这些会成为人们的朋友。有些公司会推广AI朋友。这仅仅是一个公共服务宣传活动，告诉人们不要这样做吗？这是在与这些AI公司的领导者交谈吗？是否有政府监管？就像，你不同意这种立场后，我们现在该怎么办？我认为这是应该由，称之为

专家、影响者，以及，你知道，政治机构来发表意见，因为问题是，

就像，我的感觉是，至少，拥有一个MPAA（美国电影协会）来处理这件事会很好。是的。这表示，嘿，人们必须，这就是你必须明确你正在做什么的地方。你必须提前坦诚，并且必须有这些干预点。如果你说，嘿，我正在注册MPAA，你知道，电影分级，PG-13。

那么这就是我所做的。对。我知道我会得到什么。是的。我认为这极其重要。显然，如果对我的观点有如此巨大的共识，那么如果有人滥用它，它甚至可以进入监管框架。但我认为我会从你正在做的事情开始。而且

就像我说的，我认为有些人不同意我对友谊定义的看法，因为，你知道，友谊就是这个人，这个实体会拍我的马屁，告诉我我一直都很棒。这就是朋友。我的朋友是那些拍我马屁的人。就像，好吧，那可能是你的理论。对。我永远不会成为你的朋友。但但没关系。对。

这就是为什么，当我谈到我的友谊理论时，你知道，就像，实际上，我认为友谊既是一种技能，也是一种自然的东西。友谊是你有忠诚义务的事情，但实际上是对更好自我的忠诚。它是一系列不同的事情，而不仅仅是，你知道。

Aria，让我告诉你你是多么的伟大。我今天有没有告诉你你是多么的棒？没关系，Reid。这听起来对我来说很棒。你知道，有时这就是朋友的角色。对。你知道，一个朋友出现，你知道，拖着脚步，你会说，“啊，我应该给他打打气。”是的，当然。有时这就是角色。但友谊会介入，并且对某人来说是一个十足的混蛋。对。对。

你知道，你作为朋友的角色不是说，“哦，是的，那个人，他们很糟糕。”而是，“哇，嘿，你知道，你更好的自我实际上更好。”

更好在这里。事实上，这实际上是朋友的一部分角色。所以，你知道，人们有时需要听到，“嘿，你知道，你很棒。太棒了。”有时需要听到，“不，不，你应该考虑改变。”这实际上是友谊的一部分角色。现在，我认为，广阔的陪伴空间，我认为这是这个AI新世界的一个方面

它将使我们即使作为，你知道，日常人类也需要更加复杂，那就是人们在你的生活中扮演的不同角色是什么？例如，有工作上的朋友，然后还有你可能会谈论的朋友，比如，“哦，我和我的生活伴侣相处得很困难。”

或者我的孩子，你知道，治疗师与朋友不同的原因之一是，是的，朋友可以帮助解决这个问题。但是，就像治疗师一样，你可以去谈论，你就像，“哦，我有一些非常像，像，像自我否定的想法”，因为朋友只是人。而治疗师在那里是为了和你谈论，你知道，你可能会坐在那里，你可以去治疗师那里说，“我幻想自己成为一个食人族。”对。

你的治疗师可以和你谈论这个。你知道，我认为，这就是为什么当我们要训练时，我认为这实际上就像万神殿，各种各样的AI伴侣，好吧，他们接受了什么训练？他们接受了什么人性理论、人类存在理论的训练？他们为了什么人类福祉而接受训练？而且，

明确地说，他们是在你100%站在你这边与他们互动时接受训练的，而不是说，“不，不，不，抛弃你的人类朋友。不，不，你不需要其他人类朋友。你只需要我，因为我，我会向你推销东西。我会占用你的时间，我会在你面前投放广告。所以，不，不，抛弃你的人类朋友。只和我说话。”我认为这是对人类生活质量提升的一种贬低。

这不应该成为它的作用。它必须明确这一点。我认为这样做非常重要

我认为我们作为市场应该要求这样做。我们作为行业，像MPA一样，应该围绕它进行标准化。如果对此感到困惑，我认为我们作为政府应该说，嘿，看，如果你没有做到这一点，我们应该这样做，因为我认为这就像这是一件非常重要的事情。现在，让我谈谈大多数人还没有真正关注到的一个细微之处。

这是互联网的狂野西部的一部分，是根据第230条完成的。但第230条保护人类，并保护技术人员说，“嘿，我正在促进……”当一个人上网开始说反疫苗接种的事情时，这是这个人的责任，而不是平台的责任。这就是第230条。我们可以对其进行一些修改等等，但AI代理不是。

不是人。它不受第230条的保护。所以你可以看出，我们还没有达到这样的程度，比如，我们将如何保护AI？因为目前，这完全取决于提供它的科技公司，对吧？顺便说一句，我认为我们希望改进这一点。例如，我认为这将真正阻碍医疗伴侣的一个原因是，

因为，好吧，所有这些医疗责任问题。事实上，我们想要医疗伴侣，因为医疗伴侣就像每周7天，每天24小时，在星期六早上两点。我的选择是我如果能去医院就去医院。好吧，就像从它开始会很棒，因为顺便说一句，你跟伴侣说话，伴侣说，“立刻去医院。不管需要开车三个小时，去吧。”

等等。所有这些都很好，但我们将不得不解决所有责任问题以及安全港和其他相关问题。对。这是关于透明度和问责制。我们必须知道我们正在做什么。所以当你想到这项技术时，你认为我们现在已经达到这个水平了吗？或者还有什么需要改进才能达到这个水平，即使是AI伴侣，你知道，如果不是AI朋友？我认为我们已经足够能够提供各种各样的伴侣了，

如果只是训练和，你知道，元提示护栏以正确的方式设置。对。就像，“嘿，我接受过这方面的训练。”对。这就是你应该对我相对于你的福祉的期望。它将以很快的速度

在几个月、几个月、几个月内变得更好。它会随着对你的记忆和了解以及真正帮助你的东西而变得更好。当然，它与你互动的方式也会变得更好，更加情绪化，并且具有判断力，例如，一个交叉检查它的代理。所以当它说，你知道，

“嘿，我认为你应该征求第二意见。”它会说，“好吧，是的，你应该征求第二意见。但顺便说一句，这里才是真正重要的东西。”而且不像，你知道，在这种情况下，第二意见可能很好。但是，你知道，你的医生在这里给了你相当好的主流建议。在这个播客中，我们喜欢关注AI的可能性，因为我们知道这是下一个增长时代的关键。Stripe公司对此深有体会。

所以，Reid，你在

你对友谊与陪伴的概述中提出了一个很好的观点，那就是当涉及到18岁以下的年轻人和老年人时，你可能会得到不同的答案，或者我们可能会考虑不同的因素。因此，对于年轻人来说，Common Sense Media刚刚发布了一份报告，他们认为

对青少年和18岁以下的儿童来说，伴侣是不安全的。然而，与此同时，谷歌刚刚宣布计划推出其面向13岁以下儿童的AI聊天机器人Gemini。显然，这里有一些细微之处。聊天机器人是什么意思？伴侣是什么意思？当这个AI与年轻人互动时，我们到底在谈论什么？但总的来说，你的看法是什么？这里面的优缺点是什么？当我们将这些伴侣推出给18岁以下的年轻人时，我们应该考虑什么？好吧，我要做的第一件事，这会让每个人都大吃一惊，那就是做一个我几乎可以肯定的预测。这不仅仅是因为，当然，我做了一个几乎可以肯定的预测。这本身，正如你所知，是非常独特的。但也是因为我对这一点相当肯定，而且我们即将开始，那就是

几年后，当你的孩子出生时，你也会为他们配备一个AI伴侣，陪伴他们度过一生，或者至少是整个童年，但很可能是一生，这将变得司空见惯。

这意味着让这个伴侣这样做意味着什么？这个伴侣如何才能很好地提升孩子？因为它显然可以成为导师和世界快乐的探索者等等。这可以是所有这些真正伟大的东西。但这对亲子关系意味着什么？这个伴侣与父母的关系如何？因为这个父母希望孩子被抚养成为天主教徒，而那个父母希望孩子被抚养成为

忠诚的纽约人，你知道，以及所有这些事情，以及这到底意味着什么？例如，当然，其中一件事将是父母可能会选择，“我希望代理告诉孩子，这是完全保密的。哦，顺便说一句，父母，我们刚刚进行了这次谈话。”所以，这一切将在哪里发生将非常非常有趣和具有挑战性。当然，嗯，

非常合理的是，父母会想要说，“我负责孩子。所以伴侣是我有强烈发言权的东西。顺便说一句，我们甚至可能，你知道，作为社会说，好吧，是的，你，顺便说一句，从零岁到X岁有很强的单方面发言权。然后从F岁开始，

x到y，新的规则适用，有一些限制，这就是我们有社会工作者的一部分原因，如果，如果你知道某人的育儿理论是殴打孩子，我们作为现代社会会说，不，没那么多，你知道，呃，这是不允许的，对，以及这种细微差别是什么，例如，这是否意味着伴侣会像，如果一个像

如果一个孩子正在和他们的伴侣说话，并且说，好吧，你知道，通常是男性，当然，是身体虐待者，但并非总是如此。对。你知道，如果我的父母像，像，“哦，我的父母打我”，伴侣是否有责任打电话给社会工作者？我可以说，“等等，我有一个问题。我们必须做点什么。”这是一个非常复杂的困境，这将迫使我们面对大量的问题，就像

非常重要。现在，显然，科技公司开始的方式将是尝试从非常狭窄的范围开始。就像我将试图完全避开育儿领域。我将试图不承担任何责任。我将试图仅仅作为非正式的维基百科存在，通常说积极的事情，并试图帮助你。如果你说，“我很孤独。”我们会说，“哦，让我们试着帮助你不再孤独”等等。但我们将面临所有这些问题，因为现在突然之间，你有一个代理。

直接与孩子互动，那么这个代理还要对谁负责？对父母负责？

对学校负责，对社会负责。而且，你知道，我们已经对公立学校有麻烦了，对吧？就像，你被允许教，你知道，科学进化论，或者，你知道，宗教在学校中扮演什么角色？我的意思是，我们在美国有这种，你知道，疯狂的事情，试图禁止某些类型的教科书和其他事情。就像，好吧，这将使那件事，你知道，

百万倍。我承认，这是一个如此复杂的困境，你知道，当我开始LinkedIn时，就像，“不，不，18岁或以上。社会认为人们是成年人的地方，那就是我要去的地方，因为我恰好认为这很微妙。这将是一个非常具有挑战性的领域，因为，你知道，我们甚至不能，就像有很多事情我们甚至无法达成一致，我认为这些事情相对简单。绝对的。我的意思是，Reid，我

我没有想到你会做出这样的预测。我很高兴看到它会如何发展。所以我们在这里。Possible由Wonder Media Network制作。主持人是Ari Finger和我，Reid Hoffman。我们的节目制作人是Sean Young。

Possible由Katie Sanders、Katie Allen、Sarah Schlie、Vanessa Handy、Aaliyah Yates、Paloma Moreno-Gimenez和Malia Agudelo制作。Jenny Kaplan是我们的执行制片人和编辑。特别感谢Surya Yalamachili、Sayida Sepiyeva、Benassi Dilos、Ian Ellis、Greg Viato、Park Patil和Ben Rellis。