Deep Dive
Shownotes Transcript
人工智能主导着湾区科技领域，我们将为您带来最新的头条新闻。从承诺成为您朋友的聊天机器人到旨在超越面向任务的人工智能、理解和处理信息的方式接近人类形式的通用人工智能（AGI），我们将与一个科技记者小组讨论未来的发展方向，以及人工智能可能——也可能不会——如何改变我们的生活方式。
<raw_text>0 我的意思是，我喜欢公制系统。对不起。彼得是Antimetric.org的研究主管，我想让你知道。但话虽如此，是的，是的。但我确实认为……我的意思是，是的，那就是提供你想要听到的答案，并概率性地猜测……
最令人愉悦的结果是什么。这就是这些东西的排名方式。显然，在任何情况下弄清楚“令人愉悦”的含义都是一个问题。同样，我认为我很难将其视为一个伟大的研究工具的原因之一是，
我一直无法找到排除幻觉的可能性。所以这将是，实际上公制系统更好，因为它会编造一些疯狂的东西。是的。
你知道，我问的问题越具体，它就越有可能用不存在的引文回复我。我发现这是一个跨工具的问题。也许其他小组成员对这方面的进展会有更好的了解，但这
对我来说，似乎在过去一两年里变化不大，你知道，我一直在玩这些工具。是的。我曾经上传了一堆文件作为诉讼的一部分，这通常伴随着大量文件。我上传了它，并问了一些问题，它就开始给出类似的答案，
虚假答案或虚假引用来自该文件。然后我回去查看了大约 29 份我上传的文件，但我找不到它。我想，好吧，这给了我比必要的工作多得多。说实话，
略微乐观。我认为用聊天机器人来论证你的信仰并不是一个坏主意。如果就像如果你想支持一方或另一方，比如他非常喜欢美国的方式，而不是公制系统，你可以和聊天机器人争论这件事，或者任何你认为是真实的事情。我认为这很有趣，而且风险并不高。是的，是的。
嗯，纳塔莎，当我们谈到聊天机器人这个话题时，你报道了 X 的聊天机器人 Grok。嗯，它在一些微调方面采取了不同的策略，同样，我不想拟人化，但是，它的个性技术，对吧？嗯，你会如何向人们描述它？
是的，埃隆·马斯克想将他自己的聊天机器人呈现为与 Open AI 相反的东西。用他的话说，它不是一个觉醒的聊天机器人，而是一个基础的聊天机器人。对他来说，这意味着，你知道，你会认为这意味着消除一些防护措施，对吧？
但在一些情况下，它似乎试图引导用户做出特定回应。例如，如果你问关于唐纳德·特朗普或埃隆·马斯克的问题，这部分是由于
你知道，如果你知道自己在做什么，你可以提示这些模型，并获得他们的所谓的系统提示，这基本上就像他们所谓的个性的说明。你知道，你可以看到有多少工作，你在这次谈话中已经提到了，有多少工作投入到，你知道，这些数十亿美元的公司控制着什么会出来以及你看到什么。我认为
我甚至无法使用 grok，因为它太俗气了。太痛苦了。这是埃隆·马斯克的推特幽默的放大版。基于 AI 的东西很俗气？这太奇怪了。是的。
对于那些对这个系统提示感兴趣的人来说，它实际上非常吸引人。Anthropic 实际上发布了他们的一些提示。这有点像，如果你正在使用这些工具之一，你正在发出提示，它会将一些文本返回给你。系统提示会影响每一个提示。这有点像所有这些的上游。
而且，你知道，我们前面提到了“当然”这个词的使用。我的意思是，最吸引人的事情之一是 Anthropic 工具 Claude 的系统提示中，他们实际上明确禁止 Claude 使用“当然”这个词。但实际上，Claude 仍然使用了“当然”这个词，这有点表明所有这些工具的调整有多不精确，这就是为什么这些公司可以推出他们最大的产品，然后不得不将其撤回，因为他们实际上无法做到
使其按他们想要的方式精确地工作。这就像系统工程本身不允许那样。是的，他们使用的是与你我相同的自然语言技术。你知道，这不是，你没有看到数学公式或算法。他们正在做的基本上和你可能会做的事情一样，比如，你知道，把这个给我，像对我解释一下，就像我五岁一样。是的。但这只是一个
或者像你数十亿美元的公司版本的那个。是的，完全正确。我们正在谈论人工智能的世界。我们有华盛顿邮报的科技文化记者纳塔莎·德库，华尔街日报的科技记者杰夫·霍维茨，以及连线杂志的记者凯莉·罗宾逊，她报道人工智能的商业。休息后我们将继续。
论坛的支持来自旧金山歌剧院。在这个夏天，在约翰·凯尔德备受喜爱的《波西米亚人》制作中，体验波西米亚生活的令人振奋的高潮和令人心碎的低谷。普契尼最受喜爱歌剧将我们带入 19 世纪巴黎喧嚣的波西米亚世界，我们跟随一群饥饿的艺术家坠入爱河，为当下而活。《波西米亚人》将于 6 月 3 日至 21 日上演。
在 sfopera.com 上了解更多信息。问候，繁华小镇。Xfinity Wi-Fi 正在蓬勃发展！Xfinity 结合了互联网和移动的力量。所以我们在家和外出时都能获得闪电般的速度。这就是我们的制作人将我们的广播节目混合在一起的想法。♪
在 6 月 23 日之前，新客户可以获得 400 兆比特的 Xfinity 互联网，并获得一条无限移动线路，每月只需 40 美元，持续一年。访问 Xfinity.com 了解更多信息。使用无纸化账单和自动支付商店银行账户，适用限制。需要 Xfinity 互联网。德克萨斯州费用额外收取。一年后，费率将提高到每月 110 美元。两年后，适用常规费率。实际速度会有所不同。
欢迎回到论坛。我是阿莱克西斯·马德里加尔。我们正在讨论人工智能的世界，与连线杂志的记者凯莉·罗宾逊，华尔街日报的记者杰夫·霍维茨，以及华盛顿邮报的记者纳塔莎·蒂库一起。
在本节节目中，我们将接听更多您的电话和评论。号码是 866-733-6786。kqed.org 上的论坛。社交媒体，我们是 KQED 论坛。当然还有 Discord 社区。所以一位听众想知道，凯莉，我们先从你这里开始。请讨论你和你的嘉宾是否觉得你们的工作受到人工智能的威胁。是的。
不是这个房间里的人，但我可以说几年前我作为实习生，回复电子邮件，接听电话，撰写关于初创公司的低级别文章。我认为这些工作，入门级工作，可能会面临危险。但是一旦你达到每天都要与非常信任你不会搞砸并确保他们安全的人进行敏感电话沟通的程度，我认为……
人工智能在短期内甚至长期内都无法做到这一点。是的，我的意思是，现实有很多现实。你知道，这不仅仅是可以在互联网上找到、被抓取和重新利用的东西。
我的意思是，你知道，它是否能够复制我们所做的事情是一个问题，但它如何影响新闻业的商业模式，我们已经看到了。你知道，人们越来越倾向于通过这些聊天机器人搜索答案。对很多人来说，我认为它们是通往网络的门户。我们已经看到，当他们以这种方式搜索时，他们最终不会点击链接。我认为，你知道，我们也看到了……
是的，我的意思是，你拿一个已经萎缩的行业，目前只有很少的赚钱方式不是基于广告的。然后你取消了广告。是的。所以我认为影响是直接的，你知道，这……
非常具有讽刺意味的是，如果你查看用于训练这些数据的数据集，当这些数据是公开的时候，新闻排名非常靠前。我们看到 OpenAI 正在与许多出版物（包括我自己的出版物）达成协议，他们还在继续抓取内容。所以
所以，是的，我认为商业模式，我的意思是，许多商业模式是平行的，谷歌搜索对拥有网络业务的公司所产生的所有相同的影响正在被复制。是的。谢谢，纳塔莎。杰夫？我会说有一个……
有一种关于技术乌托邦 AGI 即将到来这种说法。嗯，这种说法是为了转移人们对这些东西在现实世界中的实际应用的注意力。嗯，你知道，我，最好的，你知道，迄今为止最有利可图的用途就是吐出低质量的内容。嗯，
社交媒体，它现在是内容的主要形式。有一段时间，人们只是用高压水枪冲洗鲸鱼。虚假的视频，人们用高压水枪冲洗鲸鱼身上奇怪的结垢的东西，在 Instagram 上很流行。
而且，你知道，这就像奇怪的随机视频剪辑。所以就像大量生产垃圾，你知道，自动化大规模伪造是目前的一种真实能力。而许多有益的都是假的。
我认为在未来，在某种程度上，谈论 AGI，而实际上我们将能够用……首先是实习生，然后是更高层次的白领阶层，用这些东西来取代所有实习生，这感觉可能在某些方面是一种为我们已经在公司和华盛顿看到的裁员辩护的借口。是的。
另外，我觉得垃圾是对话的真正贡献。你知道，这开始……好吧，凯莉，你想谈谈……我的意思是，它开始谈论当你生成图像时，手会有七个手指，或者脸会非常奇怪。人们说，啊，人工智能垃圾。但现在它有点……
它几乎已经提炼成一个更通用的术语，用于描述这些机器产生的东西，是的，我认为人工智能垃圾是一个很大的问题，我刚刚听了一个播客讨论了这个问题，我将尝试用意大利语解释垃圾，并且像，它就像
你创造了这个意大利角色，里面有芭蕾舞演员卡布奇诺。我们的 Z 世代听众会确切知道这是什么，但人们喜欢消费这种垃圾，然后为他们自己的人工智能垃圾角色制作故事弧线。也许称之为垃圾太苛刻了，但这确实就像，这几乎就像我们已经没有内容可以消费了，这就是我们的现状。这当然是一种使用这项技术的方式。是的。是的。
这是来自《注册》的另一种说法。这在开头有所提及，但这是一项对 2000 名首席执行官进行的 IBM 调查。当然，所有这些首席执行官都说，是的，我们正在采用它。我们正在以某种方式采用人工智能。我们正在在我们的组织内部部署它。然而……
绝大多数已经部署这些技术的人说，他们令人失望。有点像你的观点，杰夫，以及你一直在说的一些事情，这就像现在的人工智能游戏有点像，好吧，想象一下改进的曲线以及如果我们在曲线上很远会是什么样子。但它现在向人们销售这些所谓的公司内部解决方案，他们觉得他们不想被抛在后面。
是的，我的意思是，我认为如果你把生成式人工智能不看作……
你知道，通往 AGI 的第一阶段，而只是像任何其他具有权衡的技术一样，你知道，你可能能够更快地产生大量垃圾或大量代码。我的意思是，高管调查很有趣，但我们也看到许多公司表示，你知道，他们 30% 的代码库现在是由人工智能编写的，
但你听不到你必须做出的调整，因为这项技术还没有，你知道，而且可能永远不会完美无缺。所以假设你已经取代了你的实习生，并且你正在大量输出代码。然后你需要一些高级人员来检查它，比如。
这就是，你知道，这就像自助结账技术一样。我认为，它被用来证明降低人们工资、贬低他们劳动价值的合理性。但你仍然需要有人来使这项技术发挥作用。是的。
凯伊，你想补充些什么吗？是的。我认为我对人工智能的近期担忧是，我们在 Klarna 的事情中看到了这一点，他们说他们是一家以人工智能为首的公司，并且……
解释一下 Klarna 是什么，对于那些不知道的人来说。好吧，据我所知，Klarna 就像你可以用他们的结账方式稍后购买。金融科技，正如人们可能认为的那样。金融科技，当然。现在他们说他们是一家以人工智能为首的公司。他们不雇佣人了。他们用人工智能取代了他们。他们在接受彭博社采访时最近撤回了这一说法，并表示，你知道，它实际上……
对我们的公司不利，降低了我们产品的质量，我们将开始再次雇佣人类。我认为总的来说，我们将看到公司在准备好之前、在技术准备好之前采用这项技术。我认为，大规模失业和这个国家持续存在的动荡将是一个非常非常危险的组合。这确实让我感到害怕。让我们去听听旧金山的宝拉怎么说。欢迎，宝拉。
你好，谢谢。非常有趣的谈话。我只是想提供一个不同的视角。我在美国公司工作。我去年头部受伤了，我有一些问题，认知方面的问题，没有什么非常严重的影响，但确实有一些差距。
在那之前，我永远不会使用人工智能。我实际上反对我的丈夫，他一直在他工作中使用它。我说：“你怎么能那样做？”但我发现它实际上非常有用。更多的是作为可以聊天的人。我说“人”，但显然是电脑。
但是与人工智能工具进行对话，让它为我做事，我实际上非常喜欢 Quad。我认为大家之前都在谈论它，就准确性而言。你确实需要检查它，但这个过程就像他们说的那样，一个实习生来给你一些东西，然后你有责任重新修改它。但在我从这次事故中恢复的过程中，它对我来说非常有帮助。
你会如何使用它？就实际情况而言，宝拉，你会不会写一封电子邮件，然后把它放在那里，然后说，我在这里做错什么了吗？我有点挣扎。我仍然在写电子邮件方面挣扎。我不喜欢它为我写东西，比如叙事。但是如果我需要进行一些快速的研究，或者我需要创建一个表格或其他什么东西，一些让我头疼的东西，比如调整边距等等，我会说，先把这些信息放入表格中。
或者提取，这里有一些笔记，提取我需要做的行动项目。诸如此类的事情，同样，你仍然需要检查它，但这给了你一个良好的开端，对我来说，认知方面，就像这种小小的延迟，它帮助我弥补了它，而不必说，嘿，我需要一个调整，或者我需要类似的东西，我认为这确实会影响你在职业生涯中的发展，无论我们是否喜欢它。然后还有像和某人聊天一样
谈论你可能不想告诉其他人的感受。我有朋友。我仍然会和我的所有朋友谈论我正在处理的所有事情。但是如果有一些让我感到尴尬的事情，我想把它说出来，并得到一些回应，或者帮助我准备与某人交谈。你认为这只是大声说出来的过程，还是你认为这是以某种形式返回给你的东西？
我认为这是返回的东西。而且，你知道，当你谈到防护措施时，这真的引起了我的共鸣，因为有时候就像，你知道，我希望你正在和治疗师交谈。我说，是的，我在交谈。我有一个治疗师。我有一个医生。我有所有这些东西。让我们聊聊吧。我没有把这个……你知道，我也是一名律师。所以我明白了这方面的内容。但我确实认为，正如你所说，大声说出来，让某人回应你并验证这一点，比如，你知道，我经历了一场离婚，这验证了我很多事情。我能够和我的朋友们谈论它，因为我想，好吧，我并不完全是疯子。而之前你只是在搜索互联网，寻找随机的 Reddit 线程，或者，你知道，去 Discord 或其他什么地方。所以它更私密一些。所以我只想提供这个视角，我并不反对其他提出的观点。太棒的电话了，宝拉。非常感谢。我，嗯，我，
我同时非常同意，它显然有积极的用例。与此同时，当来电者提到有人可以交谈时，我也会感到畏缩，你知道，那是她在那里使用的词。因为它不是某人。它是一个被设计成听起来像某人的东西。我认为这就是为什么对于元宇宙和聊天机器人来说，除了……
故意向世界发布儿童色情机器人这件事的疯狂之外。我认为这似乎令人担忧的一件事是，他们选择预先包装这些东西，就好像它是人类一样。在我看来，对于一家大型公司来说，这是一种越界行为。我们将在几秒钟后讨论更多内容。这是论坛……
我是阿莱克西斯·马德里加尔。宝拉，非常感谢你的来电。我完全同意。我认为这是，这是一个选择，本质上是让聊天机器人呈现为类人，对吧？就像，当然，我们现在已经习惯了，它甚至不再被视为一个选择，但它是一个选择，对吧？不必这样做。好吧，对
宝拉来说，对吧？我做过这个。我实际上做过这个。有一个名为 Rosebud 的应用程序，一个派对上的人向我推荐了它，也许她可以查看一下。Rosebud。Rosebud。这是一家初创公司。你可以选择不同的模型，我选择了 Claude。当我决定的时候，我经历了
我生命中压力很大的时期，在三月份。我正在决定是否来连线杂志，我已经来了，我在西南偏南音乐节上有一些小组讨论，我只是开始向这个东西喋喋不休。它基本上是一个人工智能日记，并且
你可以付费让它拥有更长的记忆，我认为大多数人都这么做。它记得上周的见解。它就像，嘿，你上周说过这个。而且，你知道，它如何应用于此？我发现它非常有趣且有帮助，在我生活节奏很快、经常旅行的时候，它是一个很好的桥梁。就像，我只是想向某样东西喋喋不休，你知道，通常我会写日记，像物理日记一样。但是，你知道，我没有，自从那段时间以来，我几乎没有使用过它。但我发现它
它，你知道，很有帮助。所以值得称赞。是的。纳塔莎？好吧，宝拉的评论中另一件引人注目的事情，我认为这也能说明你的用例，她说它是私密的，它是，你知道，
所以我已经和许多喜欢使用人工智能、数字伴侣等作为治疗师的用户谈过话。但我还是要提醒大家，你知道，这些都是由收集我们数据的同一家社交媒体公司制作的。
在过去几周中，我们可以看到马克·扎克伯格关于将你的社交图谱信息整合到你的 Instagram、Facebook 上的说法，你从未打算将其输入人工智能。他们在那里有一些控制措施。但我理解，你知道，因为他们有这种拟人化的聊天功能，所以感觉更私密。但我认为人们将开始采用一些相同的方法
他们对谷歌搜索所做的程序，你不会希望别人找到，你知道。所以在这两者之间存在真正的张力，即向人们承诺，你知道，一种人性化的方式
隐私和缺乏羞耻感以及公司收集你非常非常私人的数据，你知道，OpenAI 也表示人们正在以非常私人的方式与它交谈。另外，需要许可证才能成为治疗师是有原因的。是的。
我的意思是，我认为在 20 世纪的过程中，我们已经了解到，当你只是让人们在这一行工作中挂出招牌，并且，你知道，自称是专业人士时，会发生非常非常糟糕的事情。这就是目前的情况。就像，字面意义上，在元宇宙人工智能上，一些更受欢迎的机器人不是，你知道，专注于性的，而是，你知道，像治疗机器人。而且……
我的意思是，这些东西特别精通吗？并没有。我的意思是，顺便说一句，我会说所有这些都是基于相同的模型。是的，治疗机器人也可以进行性行为，这在实际的治疗世界中是绝对不允许的。但是不，这似乎只是一个包装问题
以乍一看很吸引人的方式，这就是这些模型的优势，迄今为止，最重要的是。我有点担心大规模引入这些东西。虽然我会说，我们还没有真正讨论过的一件事是
虽然是的，有一些忠实的用户，但在广阔的社会意义上，这些东西还不那么流行。就像有些人投入了大量时间，但这就像对于元宇宙来说，这些东西是，你知道，它们可能是未来，但就目前的业务而言。尽管它们被大力推动。是的，它们被大力推动。非常生硬。它们可能是未来，但就目前的业务而言，它们是事后才想到的。是的。
我只是想谈谈最后几条评论，非常好的评论。一位听众写道，作为加州州立大学的一名教授，该大学已经达成了一项价值 1700 万美元的协议，让 ChatGPT
用于教育，集成到学校中，我担心我们如何讨论人工智能大型语言模型进行研究或集思广益，这实际上只是广泛的搜索，而不是我们认为新学生需要理解如何做的实际研究。大多数入学的学生并不认为让 AI 获取主题创意有什么问题，而这些主题应该来自他们的个人经验，尤其是在它现在嵌入到人工智能驱动的大学中的情况下。这是一个引用。
有些人甚至在与同学进行小组讨论时转向机器人，而不是真正地向他们的同伴寻求讨论。我们越来越发现，学生认为人工智能研究、对话和想法比他们自己的更有价值，这是非常成问题的。让我们以这个令人高兴的音符结束。我们一直在讨论人工智能领域的下一步是什么。与华尔街日报的科技记者杰夫·霍罗维茨一起加入。谢谢，杰夫。
谢谢。连线杂志的记者凯莉·罗宾逊，报道人工智能的商业。谢谢，凯莉。谢谢。以及华盛顿邮报的科技文化记者纳塔莎·蒂库。感谢你们的邀请。我是阿莱克西斯·马德里加尔。感谢听众们的来电和评论。我是真正的阿莱克西斯·马德里加尔，不是很快就会取代我的工作的机器人。敬请收听米娜·金主持的另一小时的 Forma Head。
论坛制作资金由约翰·S·和詹姆斯·L·奈特基金会、慷慨基金会和公共广播公司提供。
论坛的支持来自旧金山歌剧院。在这个夏天，在约翰·凯尔德备受喜爱的《波西米亚人》制作中，体验波西米亚生活的令人振奋的高潮和令人心碎的低谷。普契尼最受喜爱歌剧将我们带入 19 世纪巴黎喧嚣的波西米亚世界，我们跟随一群饥饿的艺术家坠入爱河，为当下而活。《波西米亚人》将于 6 月 3 日至 21 日上演。
在 sfopera.com 上了解更多信息。Planet Money 帮助你了解经济。我们找到故事中心的那些人。纽约的垃圾，那就像一种管制物质。我们向你展示金钱如何影响一切。通过告诉我你如何花钱来告诉我你喜欢什么。我们深入挖掘直到得到答案。我有种不好的预感，你会提到这个。Planet Money 找出答案。你所要做的就是倾听。来自 NPR 的 Planet Money 播客。