Federal judge rules AI chatbots don't have free speech protections — for now
07:38 Share

火星任务？无人驾驶汽车？人工智能聊天机器人？感觉我们已经生活在未来了。好吧，Robinhood 是为未来的交易而构建的。Robinhood 的直观设计使交易无缝进行，因此您可以发现机会并掌控您的交易。您现在甚至可以在一个地方交易您的股票和加密货币。今天就注册 Robinhood 账户。

投资有风险。Robinhood Financial LLC（SIPC 成员）是一家注册经纪交易商。加密货币服务通过 Robinhood Crypto LLC（NMLS ID 1702840）的账户提供。Robinhood Crypto 获得纽约州金融服务部许可，可从事虚拟货币业务活动。招聘

对许多人来说，它可能是冷冰冰的、功能性的，或者缺乏人情味。但 LHH 认为它应该更好。通过将人们与机会联系起来，而不仅仅是将技能与职位联系起来，在工作中会发生美好的事情。领导者激励人心。团队发展壮大。您聘用的人才发展成为您钦佩的人才，使您一生中 90,000 小时的工作成为值得花费的时间。

招聘、发展、职业转型。LHH，一个美好的工作世界。在 LHH.com/beautiful 上发现招聘解决方案。人工智能可以像人类一样交谈。那么它有言论自由权吗？来自美国公共媒体，这里是 Marketplace Tech。我是 Novosafo。

现在有一起诉讼正在测试这个问题。在我们开始之前，需要提醒您，我们今天的报道包含关于自杀的讨论。去年，14 岁的塞维尔·塞泽三世在与一个由 Character Technologies 提供支持的聊天机器人进行了数月的对话后自杀身亡。该公司运营着一堆以角色为驱动的聊天机器人。

塞泽的母亲梅根·加西亚提起诉讼，称她十几岁的儿子与其中一个 AI 角色进行了虚拟的情感和性关系。该公司试图驳回此案，部分原因是基于言论自由的理由。但主审法官拒绝了，称 Character Technologies 还有更多工作要做才能证明它享有言论自由的保护。

佛罗里达大学法学教授简·班鲍尔来解释这意味着什么。她专注于第一修正案和科技行业。我认为法院可能会发现，人工智能聊天机器人的输出是言论，原因与其他媒体是言论的原因有很多相同之处，但这并没有回答此案最终会发生什么的终极问题。

但法院并没有这么说。这位法官发现，实际上我们甚至不需要进行第一修正案分析。因此，无论根据州法律提出此类索赔可能存在什么困难，

无论如何，你知道，这些问题可以在以后得到解答，因为关于公司甚至个人何时应对其他人的自杀负责存在一些自然的问题。但第一修正案对此没有发言权。它不会偏袒一方，使州政府更难施加惩罚。

法官至少最初做出的区别是，他说，Character AI 仍然必须在此案中证明第一修正案的保护，这对于法官来说并不立即显而易见。法官说它并不立即显而易见的原因是她无法判断聊天机器人只是在串联人们想听到的词语，还是它实际上是在表达自己。你能解释一下法官在这里做出的区别吗？

是的，但法官实际上是在回应最高法院艾米·科米·巴雷特大法官在涉及社交媒体的不同案件中所说的话。因此，科米·巴雷特大法官曾说过，如果社交媒体公司所做的是使用算法来提供用户在那一刻想要看到的精确帖子，我们就不能说社交媒体公司正在进行自己的表达。因此，在本案中，法官说，好吧，如果这种逻辑适用于决定要呈现哪些帖子的社交媒体公司，那么它肯定也应该同样容易地，甚至更容易地适用于聊天机器人，因为没有人在决定下一个词是什么。

这是一个大型语言模型程序，它以某种随机的方式猜测下一个词应该是哪个词。因此，没有说话者。没有人试图表达任何特定的想法。现在，我实际上并不认为这是正确的，但部分原因是

这与许多现有的第一修正案案例法不一致，因为言论自由条款不仅保护说话者，也保护听众。因此，当本案中的法官要求被告提供更多证据表明他们正在进行表达时……

我认为有必要问一下，收到聊天机器人内容的人是否收到了我们称之为表达的东西？我认为是的。我们马上回来。

这个 Marketplace 播客由 Greenlight 支持。作为 Marketplace 的听众，您可能已经在为您和您的家人建立聪明的理财习惯，试图灌输关于储蓄、支出和整体经济的重要教训，以及您生活中更年轻的人。但是，老年一代呢？你的父母、祖父母、阿姨和叔叔？随着年龄的增长，他们可能也需要更多支持来管理他们的财务。

借助 Greenlight 的 Family Shield，您可以通过保护您年长的亲人免受诈骗和金融欺诈来采取下一步措施。Family Shield 提供账户监控、实时警报和保障，包括高达 100,000 美元的欺诈性转账欺诈和 100 万美元的身份盗窃，因此您可以让您的整个家庭在经济上安全无虞。

借助 SOS 和碰撞警报等附加安全工具以及位置共享，您可以关注家人的钱包和他们的福祉。使用 Greenlight 的 Family Shield 来照顾您的整个家庭，从孩子到祖父母。

今天就访问 greenlight.com/marketplace 注册。你知道你总是想知道其他人的钱吗？在播客《我们花了多少钱》中，嘉宾们将在一周内告诉我们他们花的所有钱。我的儿子在五分钟内吃掉了价值 6 美元的蓝莓。以及所有让他们感到快乐的事情。我想拥有一所房子。我想生个孩子。但今天早上，我真的很想喝杯咖啡。因为归根结底，钱总是关乎你的余额以外的东西。

收听并关注《我们花了多少钱》，这是一部 Odyssey 原创播客。现在即可在您收听播客的任何地方收听。您正在收听 Marketplace Tech。我是 Nova Safo。我们回到了佛罗里达大学法学教授简·班鲍尔身边。

那么这对人工智能行业意味着什么？我的意思是，它正试图达到人工智能的程度，实现人机之间充分的对话。假设此案继续进行，并且法官的裁决长期有效。那里的影响是什么？

影响巨大，因为如果该输出被发现是非言论，那么它可能会被完全监管甚至禁止。因此，我认为整个行业都在焦急地等待，看看他们是否会至少获得一些保护，迫使法院询问诉讼、法规或规章是否有效。

与人们想要接收某种信息的想法真正一致。因此，在人们能够禁止人工智能对话方面，我们还差得很远。此案现在会发生什么？它将如何继续？

我实际上不确定我们离那还远。有些州试图在 2024 年大选之前禁止特定类型的聊天机器人输出。这些尝试由于早期初步的第一修正案分析而失败。因此，我确实认为这将是一个监管机构和立法者看到存在一些风险的领域，人们可以理解地

担心人工智能的影响，无论是在意外伤害方面，还是在劳动力市场方面。因此，可能会有很大的压力来更快地监管这一点。然而，本案中的法官已经做出了初步决定。仍然可能进行审判。她可能会相信

你知道，Character AI 可以提出他们的论点。事实上，Character AI 告诉我们，他们期待继续就此案提出他们的论点，他们已经制定了某些保障措施，特别是针对 18 岁以下的儿童。因此，他们还有很多手段可以使用。你认为最终，Character AI……

会在他们的论点中取得成功，至少在言论自由的理由上部分成功。是的，我希望 Character AI 公司提出许多论点，其中一些与言论自由有关，作为缓慢进行或询问在这种情况下承担责任是否最终会摧毁一个行业的理由

也许青少年整体上从中受益。因此，他们在第一修正案内和第一修正案外都有一些论点。我们将在我们的网站 marketplacetech.org 上提供联邦法官决定的链接，以及 Character Technology 对法官裁决的回应声明。耶稣·阿尔瓦拉多制作了这一集。我是 Nova Sapo，这是 Marketplace Tech。

现在是晚上 8 点。在你走之前，我们想请你完成一个简短的匿名调查，请访问 marketplace.org/survey。这只需要大约 10 分钟。作为我们表示感谢的象征，一旦您完成调查，您可以输入您的姓名以赢得一张 75 美元的礼品卡。您填写调查问卷对我们 Marketplace 的所有人都有很大的帮助。