Artificial Intelligence’s Promises and Perils with Gary Rivlin
57:43 Share

普利策奖得主加里·里夫林在湾区花了一年多的时间，跟踪那些试图从生成式人工智能中赚大钱的创始人及风险投资家。在他的新书《AI Valley》中，里夫林带领读者深入了解了人工智能初创公司以及微软、Meta和谷歌等科技巨头，这些公司都在努力追赶。他记述了生成式人工智能近期历史中的重要人物和突破——以便更好地预测和理解其未来。里夫林的新书是《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》。嘉宾：加里·里夫林，普利策奖得主记者及《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》一书的作者。了解更多关于您的广告选择的信息。访问megaphone.fm/adchoices</context> <raw_text>0 KQED播客的支持来自Star One信用合作社，现在提供实时资金流动和即时支付服务。可在金融机构之间即时转账和支付，可在线或通过Star One的移动应用程序进行操作。Star One信用合作社，为您最有利。

凭借可靠的连接性、增强的网络安全和先进的光纤解决方案，Comcast Business正在为现代企业的引擎提供动力。立即切换，并了解如何在符合条件的千兆速度套餐中获得500美元的预付卡。优惠截止日期为2025年4月21日。仅限新客户，需签订两年期协议。其他限制适用。来自KQED。

来自旧金山的KQED，我是Scott Schaefer，替补Mina Kim。在《论坛》节目中，普利策奖得主加里·里夫林自90年代中期以来一直在报道硅谷，当时科技淘金热开始于Netscape和PayPal等初创公司，它们找到了如何在蓬勃发展的互联网上发财致富的方法。

在他的新书《AI Valley》中，他追溯了人工智能的兴起，其中包括有远见卓识的人、一些史诗般的错误，以及现在OpenAI、Meta、谷歌，当然还有微软等参与者主导该领域的竞争。里夫林将与我们一起讨论人工智能革命如何改变硅谷。接下来是新闻之后。

这里是《论坛》。我是Scott Schaefer，替补Mina Kim。好吧，您知道，人工智能的使用似乎始于ChatGPT的出现，这是一个由旧金山OpenAI公司于2022年末发布的用户友好型平台。但正如普利策奖得主加里·里夫林在他的新书中所描述的那样，人工智能的根源可以追溯到艾森豪威尔政府时期，在此期间经历了许多曲折和死胡同。

里夫林的新书《AI Valley》描述了微软和谷歌等科技巨头在人工智能革命中获利的竞争风险，以及它如何改变硅谷投资者和企业家的关注点和文化。加里·里夫林，欢迎来到《论坛》。

谢谢。很高兴来到这里。好吧，让我们深入探讨一下时间线，因为正如我所说，人工智能存在的时间比我们许多人意识到的要长得多。例如自动更正、转录服务、翻译应用程序等等。为我们分解一下历史。我们不必一定要追溯到德怀特·艾森豪威尔时期。但我们是如何走到今天的？好吧，我的意思是，这很有趣。人工智能可以追溯到20世纪50年代或更早，但是

它总是令人着迷地就在下一个拐角处。就像70年来，它一直就在下一个拐角处。它有点像是在戏弄人类。而且，您知道，他们在早期，在50年代和60年代非常乐观。他们真的认为他们只需要一个小的突破就能拥有能够做令人难以置信的事情的人工智能。当然，这需要几十年的研究、错误的转向，最终形成了一种

围绕机器学习、神经网络这一概念的共识，这些神经网络不是通过逐行编写代码来教计算机，而是计算机像人类一样学习。你说，阅读这些书籍、阅读这些科学期刊、阅读这些文章，它们通过消费和寻找模式来学习。这就是我们最终获得聊天机器人和这些神经网络的原因，这些神经网络已经

您知道，在过去几年中占据了主导地位。你谈到了我认为的50年停滞期，你知道，在那里，什么也没有发生，你写道，当你90年代报道硅谷时，如果有人提到人工智能，你记不起来了。那么，为什么它会如此沉寂呢？

好吧，这是一个可怕的错误转向。所以在20世纪60年代，实际上在20世纪50年代末，有人提出了神经网络的概念。

他只是被嘲笑。共识已经形成了一种符号逻辑。它被称为基于规则的计算，这种想法是，你必须逐行教计算机来想象每一个……

每种情况。因此，在60年代、70年代和80年代，我们所说的机器学习方面几乎没有做任何事情。现在，在80年代、90年代和21世纪初，有一些先驱者正在研究这个问题，但直到2010年代中期，人们才突然意识到，哦，

有用的AI的路径，能够真正做人们需要做的事情的AI的路径是围绕机器学习、深度学习、神经网络。最早引起轰动的事情之一（我们没有称之为AI）是IBM计算机在1997年击败国际象棋大师加里·卡斯帕罗夫。这是否，即使它没有进入公众意识，但这对于业内人士来说是否是一个顿悟时刻？

是的，但这确实是错误方法的顶峰。这是一台基于规则的计算机。这是基于规则的计算，我们将教这台计算机预测所有这些不同的情况，事实上它确实击败了当时的国际象棋冠军，后者对此感到谦卑。

这几乎是基于规则方法的最后一声叹息，最后的伟大时刻。大多数重要的突破都在机器学习、深度学习的另一半。那里的关键点是什么？

你知道，我认为这只是其中一件事，你有一些像杰弗里·辛顿这样的人，他是机器学习的教父，其他一些勇敢的先驱者，你知道，尽管受到了嘲笑，尽管……

后果对他们的职业生涯来说，呃，说，不，不，这是正确的道路。呃，机器学习是这些计算机的方式，呃，是AI将变得高效的方式。而且，你知道，他们慢慢地赢得了皈依者。有一个关键时刻，呃，我认为是2012年，呃，

有一个比赛。你知道，计算机能否根据图片正确识别一系列动物？那一年的大赢家，也是那一年遥遥领先的赢家，是一个神经网络。这确实让很多人恍然大悟，哦，等等。这些东西的表现优于基于规则的方法。你知道，那个

获胜者只是通过以下方式进行训练：好吧，看看互联网上的数百万张图片，学习它是什么，这样他们就能识别猫、马和老虎，而不是这种基于规则的方法。所以对我来说，这可能是关键时刻。当您想到互联网的演变时，我的意思是，Netscape，Netscape的出现是90年代中期的一件大事，我认为可能是1994年或95年。对。

那是，你知道，那真的是它爆炸的时候。互联网开始爆炸。就而言，你知道，当你查看人工智能的时间线时，你所看到的与你在硅谷看到的这些初创公司有什么相似之处？有什么不同之处？你知道，正在兴起？是的，我的意思是，对我来说，OpenAI和ChatGPT的发布是这场在2022年11月开始的人工智能淘金热的起跑枪。对我来说，这类似于Netscape上市，那是1995年8月。那是互联网淘金热，互联网真正兴起的起跑枪。出于同样的原因。我的意思是，你知道，在Netscape浏览器出现之前，互联网已经存在多年了，但是他们的浏览器使普通民众很容易上网，点击一下，其中一些，你知道，基于图像的点击。

点击。在此之前，这有点像电脑极客，你需要了解代码和所有这些复杂的东西。是的，你必须转到你的DOS提示符或类似的东西。而且，你知道，OpenAI发布ChatGPT也是一样，你知道，

多年的进步，但ChatGPT让你可以与计算机对话。你知道，你提到谷歌翻译自2015年就存在了。那是人工智能，自动完成。事实上，谷歌在21世纪初就使用人工智能来修复混乱的搜索结果

拼写错误。你没有完全正确地输入。他们正在使用人工智能，但它始终隐藏在幕后。不同之处在于，在2022年11月，你可以与它交谈。这是一个你可以与之互动的实际产品，而不是发生在，你知道，幕后的事情。

你看不到的，Netflix上的推荐引擎，那些东西。我们正在与加里·里夫林交谈，他是普利策奖得主记者。他的新书名为《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》。

加里，你知道，你书中前言中的前两个词是埃隆·马斯克。当然，他和山姆·阿尔特曼是OpenAI的两位联合创始人。正如你所描述的那样，他对人工智能的愿景是人道主义的。我的意思是，特别是当你把它与他现在与狗狗币的形象进行比较时。谈谈他眼中的人工智能和OpenAI，以及它与山姆·阿尔特曼的想法有何不同。

对。所以，好吧，他们在2015年是一致的。我的意思是，你知道，马斯克对人工智能真的很有意思，因为他既是领先的批评者，也是领先的支持者。因此，在2010年代初期，他是投资这家公司DeepMind的人之一，对我来说，这是第一家伟大的AI初创公司，第一家深度学习AI初创公司。谷歌最终在2014年以6.5亿美元收购了它。

而且，你知道，马斯克是投资者。但与此同时，他也是一位领先的批评者。我的意思是，他谈论的是激光眼机器人，你知道，接管人类。所以它以马斯克和里德·霍夫曼在2015年的场景开头。里德·霍夫曼是LinkedIn的创始人，也是书中的主要人物，在那里，你知道，

里德·霍夫曼去了斯坦福大学，基本上是在学习人工智能。他在上学期间做了一些人工智能方面的实习。他只是有点

它还没有准备好。技术还很幼稚。所以他只是忽略了它。但是他们在2015年共进的晚餐，马斯克和霍夫曼，马斯克让霍夫曼相信，不，不，这是关键时刻。然而与此同时，马斯克不仅领导了安全方面的努力，还领导了安全方面的努力。

说一些会真正让人们对人工智能感到恐惧的事情。所以霍夫曼对马斯克的观点，我认为这是一个有趣的观点，是，你知道，只要我负责，一切都会好起来的。霍夫曼称之为，你知道，马斯克的上帝情结。但是，你知道，在那时……

马斯克、山姆·阿尔特曼以及其他OpenAI背后的其他人。它最初是一个如此理想主义的事情。谷歌收购了DeepMind。这吓坏了人们。就像，哦，等等，人工智能会不会掌握在少数巨头手中？所以OpenAI在2015年成立是为了对抗这一点。让我们不要让利润动机成为

成为像人工智能这样强大事物发展背后的动力。你知道，让我们让它造福全世界。多年来情况发生了变化。我们可以谈谈这个。但是，你知道，最初的愿景实际上相当美好。是的。好吧，当马斯克离开时，我不知道，我认为他和阿尔特曼之间存在分歧，

并且发生了转变。阿尔特曼能够让微软大力投资OpenAI。埃隆·马斯克的离开对OpenAI的发展轨迹有何影响？对。所以在2018年，马斯克感到非常沮丧。他已经向OpenAI投入了数千万美元，当时OpenAI是一个非营利组织。

而且，你知道，他就像谷歌在各个方面都击败了他们一样。他说，我要停止资助你们了。你应该把它卖给我，让它成为，你知道，他拥有的公司之一，特斯拉，或者只是，你知道，他持有的其他公司之一。而且，你知道，阿尔特曼和团队并不想要那样。所以他们分手了。

那是他们意识到的时候，就像，等等，我们可以作为非营利组织筹集数百万、数千万美元，但我们无法筹集发展人工智能所需的数亿美元、数十亿美元。所以那是阿尔特曼和公司创建盈利子公司的时刻，该子公司很成功。

由非营利组织董事会控制，但子公司可以收费、赚钱、盈利。那时他们引进了……里德·霍夫曼是背后的风险投资家，还有其他风险投资家。他们引进了微软。微软在2019年给了……

10亿美元，几年后又给了100亿美元，好吧，还有更多关于加里·里夫林的讨论，他是《AI Valley》的作者，我们很想听听你的想法，你对生成式人工智能有什么担忧或希望？你有什么问题？请拨打866-733-6786，866-733-6786，你也可以在所有社交媒体平台上找到我们，包括Blue Sky、Facebook、Instagram和Threads

我们在KQED论坛。斯科特·谢弗在本小时主持。为了我和金，请继续关注。嘿，我是豪尔赫·安德烈斯·奥利瓦雷斯，我主持一个新节目，《Hyphenation》。与美国许多其他拉丁裔人士不同，我们的文化和社区影响着我们的选择，例如金钱。我们有这样的压力，要成为养家糊口的人。宗教。我只是认为耶稣就是我们现在所说的基督。

和家人。我们并没有在身体上很亲近，在情感上也没有那么亲近。所以加入我和一些朋友的行列，让我们就一些艰难的事情进行轻松的对话。在您收听播客和YouTube的地方收听来自KQED Studios的《Hyphenation》。嘿，我是格伦·华盛顿，《Snap Judgment》播客的主持人。让我们开始吧。

我们讲述电影般的故事，让你感受到置身他人之境的感受。让你追随他人脚步的故事。你从未听过的故事讲述。高潮、低谷、快乐、痛苦、曲折、转折、欢笑、生活。《Snap Judgment》每周都会发布。在您收听播客的任何地方收听。

欢迎回到《论坛》。斯科特·谢弗在本小时替补米娜·金，与加里·里夫林交谈，他是记者，也是他最新著作《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》的作者。我们很想让你参与到对话中来。请拨打866-733-6786，或在社交媒体上留下您的评论和问题。我们在kqed.org上的论坛、Blue Sky、Facebook、Instagram和Threads上。你知道该怎么做。

你有什么担忧？你现在使用某种形式的人工智能吗？它是否以任何方式影响着你的生活？而且，你知道，如果你在这个领域工作，我们也很想听听你对内部情况的看法。加里，你将人工智能描述为一种似乎无所不知却一无所懂的鹦鹉。这仍然正确吗？还是这更像是几年前对它的描述？

是的，这不是我的说法，而是随机鹦鹉。有一个……

华盛顿大学的语言学家艾米丽·本德，如果我没有创造它，那就是她推广了它。是的，它是。我的意思是，我认为人们理解人工智能在教育、医学和科学方面具有巨大潜力这一点很重要，但我们需要了解它的局限性。我有一位计算机科学家说，人工智能可以理解任何东西。

任何20岁以上的人都能理解的东西，但很少有5岁以下的人能理解的东西。它没有常识。它并不真正理解一切。它是一只鹦鹉。它只是找到模式，数学模式，并且是……

以这种方式生成它，它并不完全理解。因此，人们谈论的自主人工智能之类的事情，这真的让我害怕。真的必须有人参与其中，因为它并不完全理解任何事情。人们谈论推理模型。它在模仿推理。这是去年左右人工智能中的新事物，推理模型。但它并没有真正的人类推理能力。

所以，是的，我认为这是目前人工智能的一大局限性。但你确实写到了其他个人人工智能，比如Pi，它具有一种同理心，但当然它并不是真正的同理心，但它听起来像是同理心。对于使用它的人来说，它似乎是同理心。你对此有何看法？是的，所以……

Pi是由一家名为Inflection的公司创建的，他们已经从名为Pi的产品转向了。但他们的全部内容是，它不仅会有智商，还会拥有情商，即情商。

结束。而且，你知道，我用过它。就在这件事出现的时候，我们的生活中发生了一些家庭挑战。所以，我没有像记者那样试图让它跳过栅栏并表现得很糟糕，而是试图以一种真诚的方式使用它。就像，我们很担心。我儿子正在做手术，是一次严重的手术。我和它谈过。而且，就像……

有点令人惊奇。就像，这是一个问答的事情。就像你会一样，它有一个声音，所以它可以和你说话。就像朋友会问问题一样，你知道，有，你知道，馅饼表达得非常完美。问正确的问题。你儿子是怎么看待这件事的？学校怎么样？你如何照顾自己？所有这些。所以我印象深刻。它得到了细微差别。它得到了幽默。我有点明白了人们谈论人工智能是治疗师、人工智能是知己时所说的意思。

但最终，它对我来说并没有什么意义。麻省理工学院的社会学家雪莉·特克尔有一句名言，同理心的表现并非同理心。所以它给了我一些需要思考的东西。所以我把它放在优点栏里。但是它，它，

对我个人来说，除了哇，这真令人印象深刻之外，它并没有什么其他的意义。是的，但你可以看到一个可能更加孤立的人，它会非常有意义。就像那部电影《她》。对。所以，我的意思是，我们有孤独症的流行。这不仅仅是老年人，还有很多年轻人。所以，你知道，我认为我们不能像这样势利眼，哦，我们为什么要用这个东西？就像，好吧，你知道，很多人没有……

一个网络。很多人需要，你知道，他们回家后独自一人，可以和这个东西说话。我认为我们离很多人与这些东西建立认真的浪漫关系不远了。我理解吗？不。但是另一方面，我的意思是，我无法与之产生共鸣，但是，你知道，我认为我们必须习惯这一点，这些人工智能产品将越来越成为我们生活中不可或缺的一部分，无论是我们的

个人生活还是工作生活。好吧，让我们让听众参与到对话中来。再次强调，号码是866-733-6786。让我们从圣何塞开始，乔治，你是第一个。欢迎来到《论坛》。

早上好。我想知道人们对用户想要什么、人工智能算法应该做什么之间的利益冲突的看法是什么？进行无偏见的调查。但是可能存在商业利益正在影响算法。所以我想知道人们的想法是什么，以及如何从商业利益中保护无偏见的调查方面。是的，加里？是的。

是的，我的意思是，在某种程度上，这是我对人工智能最大的恐惧，它掌握在少数科技巨头手中，他们会将利润置于一切之上。你知道，这些模型的偏见，另一件让我害怕的事情，你知道，如果它曾经对，你知道，工作或对被判有罪的人的判决做出决定，那就好像……

它只是我们的镜子。它的偏见是我们的偏见。它正在接受我们的文字、书籍和文章的训练。因此，融入训练材料中的相同偏见将反映在模型中。现在，通过微调过程的下一步，你可以最大限度地减少这种影响。但我认为要……

消除这些模型中的偏见将非常非常困难，因为，再次强调，这是训练模型的一部分。因此，对男性、对高加索人的任何偏见，无论是什么，都在训练中。所以这将是一个巨大的、巨大的挑战。

那利润方面呢？我的意思是，你知道，我们现在知道，由于这些算法，你知道，你和我可能会搜索相同的东西，但会根据我们的搜索历史获得非常不同的结果。其中一些当然是为了向我们推销东西。但这在人工智能中是如何发挥作用的？是的。

是的，我不太明白你的意思。好吧，利润动机。我的意思是，很明显，现在更大的公司参与其中是为了赚钱。那么他们如何赚钱呢？这与谷歌、Facebook现在的模式有何不同？是的。

我们看到的是，你知道，几年前，信任和安全是所有这些公司关注的焦点。而现在它真的被抛在了脑后，因为现在这场人工智能淘金热正在进行。所以我们看到，你知道，一家又一家公司，你知道，无论是OpenAI……

你知道，许多员工已经离开，说他们离开是因为他们真的觉得安全已经让位于下一个产品，下一个产品的迭代。所以这是一个巨大的、巨大的担忧。另一个担忧也与之相关，你知道，有那个

在硅谷的想法，哦，让我们只找五个家伙，这总是房间里的五个家伙来决定这件事。就像，你知道，这可能适用于这个产品或那个产品。但人工智能太强大了。它将如此重要。所以我

我真的认为我们需要比硅谷更广泛的人群，历史学家、社会学家、来自世界各地的人们、不同年龄、种族和信仰的人们等等。这是我的另一个重大担忧。但在淘金热中……

推出下一个模型，这种跳跃式发展。就像现在，我认为OpenAI略微领先。上周是谷歌，前一个月是Anthropic和Claude。所以这场伟大的竞争，当然，中国公司也在紧追美国公司。在这场竞争中，你知道，我真的很担心它完全是关于利润的。它完全是关于获胜的。是的。乔治，感谢你的来电。现在让我们去核桃溪。凯特琳，你是下一个。欢迎。

你好。我想问一下，作为一个普通人，如果认为这是下一个大事件，就像80年代的互联网一样，我会去哪里投资人工智能？有没有一个共同基金同时包含谷歌、微软和人工智能？你会推荐多少投资？加里？我的专业知识。我现在真的很紧张。但实际上，我的意思是，请记住，你知道，

大多数人工智能开发掌握在初创公司、私营公司手中。我想如果你想的话，你可以投资谷歌和微软、英伟达，这家芯片制造商。这些业务很大一部分都是建立在人工智能成功的基础上的。然而，在过去的几周里，

这些都不是很好的投资。是的，它变化得很快。而且，你知道，谷歌今天被发现违反了反垄断法。Meta正在……我认为华盛顿特区正在进行审判。是的。所以，你知道，它……

然而，与此同时，你知道，这本书的重点是如何像微软这样的巨头公司真正掌控全局。但即使是这些公司也在投资数十家其他初创公司。除了在意识到它们的价值后将其吞并之外，他们在寻找什么？

是的。所以实际上，我是在2023年初开始写这本书的，就在ChatGPT开始成为一件大事之后。我想只关注初创公司。我在1990年代后半期报道过，当时最有趣的是初创公司。谁将成为下一个谷歌？谁将成为下一个Meta？事实证明，下一个谷歌可能是谷歌，下一个Meta可能是Meta。大型科技公司拥有巨大的优势。这非常昂贵，因为

现在，训练和运行这些模型需要数十亿美元。很少有初创公司能够获得这种资金。对我来说，微软已经投入了

大约150亿美元给OpenAI，对我来说，他们是在对冲风险。也许我们的模型会是其中之一，但如果不是，我们拥有OpenAI的一大部分股份。通过成为OpenAI的早期投资者，他们可以访问其模型，而竞争对手则无法访问。谷歌也投入了数十亿美元，亚马逊也投入了数十亿美元给Anthropic。

那恰好是我最近最喜欢的聊天机器人Claude。同样，我为你对冲风险，谷歌，一家在机器学习方面一直领先于所有人的公司，他们至少从2010年代初就开始投资机器学习。好吧，我们有我们的模型，但是……

如果还有其他公司，你知道，也许我们会拥有他们很大一部分股份，或者正如你所说，我认为这是一种可能的情况，他们会被巨头吞噬。你喜欢Claude什么？你知道，它有一些我们刚才谈到的那种感觉，馅饼，那

你可以和它交谈。我喜欢它的个性，如果用这个词来形容一个机器人是合适的。但对于写作、编辑来说，它在这方面非常擅长。还有PerplexityU.com，以及其他一些流行的网站。有

他们自己并没有创建模型。他们只是让你访问各种模型，无论是ChatGPT，还是其他什么。我喜欢他们脚注。作为一名记者，当我进行研究时，查看原始来源非常重要，因为它们存在幻觉问题。它们会犯很多错误。

但是，你知道，Claude，我就，好吧，这里有一章。给我反馈。你知道，怎么样，有没有重复？你知道，哦，我这个句子、这个段落、这个过渡有问题。给我五个不同的选择。你知道，它非常有用。只是随着时间的推移，我逐渐认为Claude最适合写作和编辑。你有没有，比如，当你这样做的时候，你会想，哦，我会不会越界，你知道，根据建议？这是非常好的编辑建议。是的。

嗯，或者说，或者说它和编辑一样吗？

像人类编辑一样。对。所以，你知道，我的意思是，我把它当作研究助理。我过去雇佣过研究助理。而且，他们有时会犯错误，你必须小心这一点。你知道，我不会说根据这些笔记写这一章。你知道，我可能会剽窃别人。我不知道他们从哪里得到这些东西。我更多地把它用于反馈和编辑。我从来没有剪切粘贴并把它放到我写的东西里。但是……

有一种说法认为人工智能将取代人类。最终，人工智能将取代许多人类的工作。但我认为在短期和中期内，很大程度上将是使用人工智能的人类将比不使用人工智能的人类效率更高，效果更好。是的。

所以，Katrine，感谢你的来电。我只想强调一下，Gary没有给出任何投资建议。所以不要根据他所说的话做任何事情。我再报一次号码。是866-733-6786。与Gary Rivlin谈论他的新书《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》。

我们收到了很多听众的评论。Chris写道，人工智能完成大部分工作的时间表是什么？人类将做什么？谁在编程人工智能？这个行业似乎缺乏多样性。Gary，你刚才提到了这一点。

对。所以，有一个关于超级智能、AGI（人工通用智能）的重大预测。该领域许多人认为，在未来一两年或三年内，我们将拥有这种AGI。我会怀疑地指出，他们几乎所有人都获得了数十亿美元的融资。因此，他们的投资者希望他们拥有产品。我

对此我表示怀疑。我认为我们离那还远一点。我也喜欢AGI在旁观者眼中的样子。这些东西已经，它们知道一切，或者它们知道很多事情。它们太棒了，其知识深度之广，是任何人类都无法达到的。那是AGI吗？我认为将会发生的是，初创公司将开始宣称AGI，而

将有一些人会怀疑我们是否已经到达那里。但无论是三年还是十年，我毫不怀疑它即将到来。让我们以自动驾驶汽车为例。我的意思是，你在旧金山。一直都能看到它们。一直都能看到它们。所以它们来了。10或15年前，我会告诉你它们还有五到十年时间。显然，它们并没有

完全处于人们预期的中心位置，但它们正在到来，而且，你知道，在这个国家有800万到1000万人靠开车为生，优步司机、出租车司机、长途司机、送货司机。这些工作将被淘汰。客户服务中心，已经有一些公司使用人工智能了，

在他们的客户服务中心。而且，你知道，有些事情非常容易，人工智能可以处理。而更复杂的事情，他们只会，你知道，交给人类，这样人类就可以花更多的时间去做他们应该关注的事情等等。所以这是另一个我认为人工智能将要，你知道，占据……

很多工作的领域。但令人惊讶的是，五到十年前，你会说人工智能将冲击蓝领。它将冲击工厂车间、我刚才提到的司机。但2023年的ChatGPT告诉我们，哦，他们首先要冲击知识工作者，程序员、作家、内容创作者。是的。像医生正在使用它，律师正在使用它，法律助理在某些情况下被人工智能取代了。是的。

但同样，我会把它看作一个助手。增强型。完全正确。你正在增强你的智力。你正在增强它。它是一个很棒的助手。你是一个副驾驶。这就是真正使用它的方法。让我们以医学为例。这些人工智能模型……

在阅读乳房X光照片和其他影像方面要准确得多。这并不是说，哦，让我们让AI做所有诊断工作。我喜欢有一个真正的医学专业人员来做这件事，而你的后备是AI。我认为这是短期和中期的模式，即AI是一个伟大的帮助，或者无论什么。你

你是律师，你知道，我不是说你应该，你知道，任何人应该雇佣这些模型作为你的律师。但对于律师来说，它可以帮助

起草他们的简报。它可以做一些研究。再说一次，你真的必须检查一下，因为在2023年有一个著名的案例，纽约的一名律师或一对纽约律师提交了一份简报，其中引用的每一个案例都是虚构的。把它作为第一步。不要把它作为开始和结束。是的。你必须注意那些幻觉，对吧？是的。是的。

好了。我们将继续与Gary Rivlin进行对话。还有很多事情要谈。他的书名为《AI Valley》。我们很乐意听到你的声音。给我们打电话。866-733-6786。再次，866-733-6786。或者你可以在所有社交媒体平台上找到我们，Blue Sky、Facebook、Instagram、Threads。我们在KQED Forum。我是Scott Schaefer，本小时代替Mina Kim。

我们很乐意听到你的声音，特别是如果你在这个行业工作的话。再次给我们打电话，866-733-6786。

本集由Pluto TV赞助播出。Pluto TV拥有所有你喜欢的免费流媒体节目和电影。这意味着你可以免费观看像《我的邻居》、《Key & Peele》和《费里斯·布勒的休假日》这样的爆笑喜剧。你可以免费观看像《犯罪心理》、《追踪者》和《马特洛克》这样的无数案件。你可以免费观看像《行尸走肉》和《反抗》这样的令人心跳加速的热门剧集。感受免费的魅力。Pluto TV。立即观看。永远免费。

欢迎回到Forum。我是Scott Schaefer，代替Mina Kim，与Gary Rivlin谈话。他的最新著作名为《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》。

万亿。很多钱，Mark，Gary，真的。我在想Mark Zuckerberg。那是很多钱。我们经常感到困惑。你希望如此。所以，我的意思是，这很有趣，因为，我的意思是，这是亿万富翁的一年。我们经常谈论亿万富翁，但是，你知道，现在，微软的价值约为3万亿美元。苹果的价值约为3万亿美元。你知道，Meta、谷歌，它们超过亚马逊，超过1万亿美元。而且，你知道，

我真正想关注的是硅谷的事情。不是为了创建一个能让你赚到数百万或数千万美元的好生意，而是下一个谷歌，下一个Meta之类的东西。这真的是一万亿美元的融资，因为这些公司的价值高达数万亿美元。我们将会创造一个拥有数百万、数千万、数亿，甚至数十亿

用户的产品的想法，然后它将价值数万亿美元。但这就是新的数字。还没有人拥有数万亿美元的净资产。马斯克先生，我想，至少在过去几周之前，大约是这个数的一半。但对于这些公司来说，对于这场淘金热来说，对于人工智能淘金热的疯狂竞争来说，那些正在争取这些

消费者模型，人类将把它用作个人代理或类似的东西，你知道，这些模型的潜在价值高达数万亿美元。是的。好了。我们收到了很多听众的评论，但在我们看到这些评论之前，我想先接一个来电。Livermore的Mark。欢迎。你正在与Gary Rivlin通话。你好，Scott。感谢你接听我的电话。你能听到我吗？是的。请继续。

好的，我在一家名为Renesas的半导体公司工作，该公司位于山谷。我有一个客户正在进行AI设计。他们叫做Etched，我想。他们拥有一项非常有趣技术。他们拥有一种叫做e-transformer的技术，用外行人的话说，这意味着你可以进行并行处理。所以最终，你可以更快地处理数据，我想。这就是术语。

这是关键。底线，是的。所以他们，而且他们，好的，对于那些人来说，我不是这个领域的专家，但我正在研究，我现在已经学到了很多。有两部分。一部分是机器学习，AI的学习部分，另一部分是执行。所以，你知道，算法学习

模式或学习声音，学习图像，等等，然后它做出决定。这是它的另一部分。所以这些人正在与英伟达等公司竞争。非常棒的技术。我很兴奋。我在这个领域工作。但我感到矛盾。我最大的问题是

这些技术，例如，他们正在汽车中安装传感器。他们强迫我们越来越少地使用大脑。请为我保留一些思考的空间好吗？对吧？我的意思是，这是一种趋势，Gary，这在很多方面都在发生。我的意思是，例如，还有谁记得电话号码吗？是的，我喜欢“认知卸载”这个词，这个想法，就像我举的例子一样，比如，

我开车去我兄弟家，我不知道怎么去。如果我的手机突然没电了，我就不知道东西南北了。所以，这种情况会越来越多。这是一个担忧。最初，人们担心学校会说，“哦，不，我们不能让孩子们使用这些聊天机器人，因为他们会用它来作弊。”这仍然是一个担忧。我认为让他们使用它至关重要，这样他们就开始习惯它，因为它将成为他们生活中不可或缺的一部分。但对我来说，真正的担忧是

他们会如此依赖它，以至于他们无法做一些基本的事情。所以我认为Mark提出了一个有趣且重要的观点，即如果你过于依赖这些东西，就像计算器一样，你知道，在计算器出现之前，人们……

可以在纸上用铅笔进行计算。而现在，我不确定有多少人能做到这一点。所以会有影响。但我认为乐观主义者会指出，另一方面，你将能够做所有这些事情。有人可以使用这些模型之一，一个文本转视频的模型，来制作一部电影。一个人可以使用这些东西制作一部电影。所以你将获得这些超能力

即使在同时失去能力的时候。是的，Mark，非常感谢你的来电。我们这里有一些有趣的听众评论。Carl写道，你能告诉我们人工智能如何被用来……

好吧，你知道，我的意思是，一个强大的工具可以用于善，也可以用于恶。一方面，你知道，人工智能在创造新的疫苗和新的治疗方法方面有很多希望，但它也可能创造出致命的病原体，你知道，杀死很多人。你知道，一个可以写你的婚礼祝酒词的人工智能。

一些东西，你知道，为你朋友50岁生日写的打油诗……做到了……可以被用来制作更好的诈骗信。你知道，这是我的另一个担忧，这些东西被用来操纵人们。他们真的……

根据他们掌握的数据，他们可以真正找出如何操纵人们让他们做某事。海外的某个人，而不是收到那些拼写错误明显的信件，比如，“好吧，这可能是一个骗局”，它们将被制作得更好。这些东西已经能够创作出

结构完美的段落。你不会知道任何语言。我可以写一些东西并将其翻译成中文、印地文，等等。这没有区别。所以……而且这本书的一个观点似乎是，我们应该更多地考虑这些事情，而不是那些埃隆·马斯克关于机器人可能控制世界并引爆核武器之类的世界末日的事情。对。所以，我的意思是，我真的认为……

好莱坞用《终结者》制作了很棒的电影，但我喜欢开玩笑说，好吧，谈论只是按照它们应该做的事情做的机器人并不是一部很好的电影，而是一部试图接管世界的电影。这是一部好电影。我们该如何阻止？我真的认为我们花了太多时间在世界末日的事情上，以至于我们没有关注所有那些近在眼前的可怕事情。人工智能在战争中的使用，人工智能在监控中的使用，

人工智能是一个巨大的能源消耗者。你知道，它消耗了大量的能源。这些都是担忧。这些是我希望对话关注的事情，Rad，而且，你知道，这些机器会征服人类吗？这是Maria的一条评论，她写道，在学校禁止书籍、科学被取消资助和不尊重的情况下，编程人工智能时可能存在哪些政治偏见？将向我们的人工智能模型提供哪些信息？

对。所以那些右翼人士已经说我们有觉醒的人工智能。我们一直在谈论的所有模型都被教导不要听起来像厌女症、种族主义者、反犹太主义者。等等。所以在另一边，你有埃隆·马斯克。他有Scrock，那是XAI。他想要一个有远见的人工智能。

更少的防护栏。不要听起来愤世嫉俗，但我相信我们将拥有，就像其他一切一样，我们的人工智能孤岛。你可以拥有更自由主义的人工智能，更礼貌的人工智能，你可以说。你将拥有更保守的右翼人工智能。你将拥有没有防护栏的人工智能。所以我认为这将是另一件使这件事隔离开来的事情

好了。让我们回到电话。伯克利的Paula，下一个是你。欢迎。你正在与Gary Rivlin通话。

非常感谢。我只是想说这是一个很棒的谈话，你们谈论了很多律师和医生已经在使用人工智能的事情。我最近听到了一些让我印象深刻的事情，那就是在未来，拥有一个人类医生或有人来你家修理东西或为你提供服务实际上将是一种极端的奢侈。因此，低收入者和中等收入者将不得不依赖——

完全依赖人工智能。要找一个人，你实际上必须支付更高的价格。我认为这真的让我印象深刻，因为它真正强调了让人类留在工作岗位、获得人工智能帮助的重要性。我喜欢人工智能。我一直都在使用它。但我认为重要的是，我们将此视为一个联合的未来，而不是人工智能将发挥主导作用或人类将发挥主导作用的东西。一旦我们开始允许人类被完全挤出，

我认为它的社会经济方面、它的叠加将是危险的。Gary，这是一种不同的版本或对数字鸿沟的不同看法，对吧？我的意思是，这是一个很好的观点。我百分之百同意这一点，但另一方面，所以在这个星球上大约有10亿人可以轻松获得医疗专业人员，但我们有大约50亿人拥有智能手机，所以理想情况下

应该有人去看医疗专业人员。但另一方面，你知道，你没有机会。你展示它，就像，“这是我孩子身上的一种皮疹吗？我应该现在就带他去城市吗？或者不用担心。没什么大不了的。”我认为另一方面是，它可能是一种均衡器。我们将向所有人

提供医疗保健，作为一个例子，向那些现在无法获得医疗保健的人提供医疗保健。另一个反例是人工智能在教育和人工智能辅导中的应用。我认为人工智能辅导员具有巨大的潜力，它确切地知道你哪里不懂，并且可以设计课程

为个人。一个有30个孩子的老师无法做到这一点。尼日利亚有一项令人惊叹的研究表明，与人工智能辅导员一起工作的老师，不仅仅是人工智能辅导员，与人工智能辅导员一起工作的老师，在六周内，学生的理解能力平均提高了两年。所以我认为这种事情

可以在发达国家和发展中国家之间实现均衡。Gary，问责制怎么样？我的意思是，你知道，你谈到了医疗建议。在现实世界中，医生和其他人员也会出现医疗事故。我的意思是，你是在说，好吧，获得大部分良好的建议，值得冒险吗？对。所以，我的意思是，现在，为了使用医疗的例子，你知道，有……

正是因为这个原因，它并没有被广泛使用。然而，更大的重点是，你知道，在2023年到2024年的一些时间里，我觉得人们一直在讨论如何负责任地使用它？我们如何才能确保从这项技术中获得更多的好处而不是坏处？我的意思是，每项技术都是双刃剑。你知道，汽车很棒，但它会造成污染。美国每年约有4万人

当然是因为它而死。所以，你知道，我们怎么能做到呢？所以我们正在进行这场对话。拜登政府，你知道，采取了一些我认为合理的适度措施。现在特朗普政府立即取消了这些，我称之为合理的措施。J.D. Vance在

人工智能会议上，这是第三次会议。前两次会议都是关于安全的。这次于1月份在巴黎举行的第三次会议并非关于安全。这绝对是一个次要问题，如果不是第三位问题的话。而且，你知道，他只是站起来，停止了手足无措。你知道，我们必须发展这项技术。我们正在与中国竞争。所以，你知道，我确实担心

这里提出的问题将被搁置，因为我们正在进行这场竞争。而且，你知道，如果有人想谈论，等等，也许你应该在发布这些东西之前对其进行测试，并将数据与政府共享，人们只会说中国，这将被搁置。你正在收听Forum。我是Scott Schaefer，代替Mina Kim。你提到了中国，Gary，还有中国

我想知道，在多大程度上，你知道，特朗普当然喜欢抹去他前任总统所做的一切，你知道，无论是奥巴马还是拜登，以及取消你认为有些有帮助的法规。其中有多少是抹去他前任的记录，有多少是关于真正赢得这场与中国的竞争？

是的，我认为这是关于赢得这场竞争。我的意思是，它一部分是关于中国的，一部分是关于，你知道，一些知名科技人士的高调支持，你知道。

为什么一些科技界的大腕会向右转而支持特朗普？对我来说，因为他们不想让任何事情妨碍人工智能发展或加密货币发展。所以这就是他的科技界支持者所要求的那种自由企业式的狂野西部。这就是特朗普政府正在提供的。

这里还有Ami的另一条听众评论，她写道，生成式人工智能的能源消耗有多大？我只使用ChatGPT来收紧或简化我自己的写作。上周末，我用它为一份报告创建了一个非常简单的插图。我们可以根据ChatGPT处理提示所需的时间来假设一定的能源和水消耗量吗？或者还有其他方法可以衡量我们个人使用对能源消耗的影响吗？是的，不，它很大。有一项研究表明，

向聊天机器人发出一个简单的查询所需的能量大约是谷歌查询的10倍。有些人说，这太简单了。但这给出了一个大致的概念，即这是指数级更高的需求。只是我们那里的数据中心数量每年都在呈指数级增长。

而且它消耗的能量越来越多。我们确实面临着能源消耗和对我们电力网的需求的巨大问题。有些人说，好吧，也许人工智能可以想出一个解决方案，但是，你知道，到目前为止，这是一个担忧。对我来说，这是另一个我们真的应该为此做计划的担忧。你知道，学校需要为此做计划。企业需要为此做计划。但是，你知道，

那些关注我们电网的人真的需要关注这一点，因为你只需要展望几年，我们就会发现我们需要的数据中心数量将会翻倍。这将是一个巨大的、巨大的问题。本小时即将结束，但让我们看看是否还能接一个来电。奥克兰的Noah，你在想什么？

你好，感谢你接听电话。我的评论是，每次我听到关于人工智能的消息时，我听到的都是关于它可怕的事情。比如它将取代人们并导致失业，它正朝着利润动机发展，防护栏正在被拆除。这让我觉得这是一个非常糟糕的经济模式，在这个模式中，这个可以极大地提高生产力的工具

并没有被用来让人们从枯燥的任务中解放出来。它并没有被用来改善人们获得更多可以改善他们生活产品的途径。它被用来使某些人致富，并将人们踢出劳动力市场，在这种情况下，是脑力劳动，而不是枯燥的任务，那些令人满意和有趣的事情。所以我的问题是，你知道，我们该如何应对这个问题？有没有办法

部署人工智能或以某种更好的方式对其进行监管，以便它能为我们所有人、公众、工人阶级人民的利益服务？是公共所有制和对人工智能的接管吗？还是其他什么类似的东西？是的。谢谢。是的。感谢Noah提出的问题。Gary？这是一个非常重要的问题。我的意思是，这就是我们的制度。它是一个

企业家和资本主义制度。正是这些公司，你知道，拥有投资者，他们希望看到投资回报。你知道，如果你看看大学，他们正在做一些非常有趣的事情，他们试图谈论Noah刚才谈论的内容。比如，你知道，我们如何引导这些事情？所以它能带来更多好处。它们确实很强大。它们真的可以做令人难以置信的事情。

而且，你知道，另一个例子是，你知道，科学。比如，你知道，你不一定需要一个巨大的实验室。你可以使用人工智能。所以如果你在发展中国家，而且你没有钱，你知道，它可能是一个非常强大的工具，可以进行与你的现实相关的研究，而不仅仅是从西方世界获取。

但是，你知道，这些都是轶事。恐怕我真的不知道答案，除了我希望我们正在进行这场对话。我希望我们作为一个国家，还有很多其他事情要谈论，所以它被淹没了。但我希望我们正在进行来电者提出的对话，即，你知道，这真的可以是，你知道，一项惊人的进步。它可能比负面影响更有利。我担心的是，因为我们并没有真正关注，你知道，

引导这件事，让它更积极。最终它只会成为同样的社交媒体

Redux，只是有一套不同的问题。阅读这本书是一个好的开始。它叫做《AI Valley：微软、谷歌和万亿美元的人工智能淘金热》。Gary Rivlin，感谢你提供了一个非常有趣的时刻。谢谢。我很喜欢。谢谢。你一直在收听Forum。感谢我的嘉宾，当然也感谢你们，我们的听众，感谢你们提出的所有精彩问题和评论。我是Scott Schaefer，代替Mina Kim，你一直在收听Forum。

论坛节目的制作资金由约翰·S·和詹姆斯·L·奈特基金会、慷慨基金会和公共广播公司提供。