Deep Dive
Shownotes Transcript
对Janelle Shane的采访，她是aiweirdness.com的创建者，也是《你看起来像个东西，我爱你：AI如何运作以及它如何让世界变得更奇怪》一书的作者。 订阅：RSS | iTunes | Spotify | YouTube Janelle Shane在科罗拉多州担任研究科学家，在那里她制作用于研究大脑和其他光学转向装置的计算机控制全息图。她还自称是人工智能幽默家——在aiweirdness.com上，她撰写关于人工智能的文章，以及算法出错时有时滑稽、有时令人不安的方式。她的作品也刊登在《纽约时报》、《大西洋月刊》、《连线》、《大众科学》等杂志上，并且还在2019年发表了题为“人工智能的危险比你想象的更奇怪”的TED演讲。 她的著作《你看起来像个东西，我爱你：AI如何运作以及它如何让世界变得更奇怪》运用漫画和幽默的流行文化实验来窥探运行我们世界的算法的思想，使人工智能和机器学习既易于理解又引人入胜。
主题：深思熟虑 Kevin MacLeod (incompetech.com) </context> <raw_text>0 您好，欢迎收听Skynet Today的“让我们谈谈AI”播客，在这里您可以听到AI研究人员关于AI的实际情况以及哪些只是耸人听闻的标题。我们每周发布AI新闻报道和偶尔的采访，就像今天一样。我是Andrey Krenkov，斯坦福大学视觉与学习实验室三年级的博士生，也是本期节目的主持人。
在本期访谈节目中，我们将听到Janelle Shane的讲述，她是AIweirdness.com的创建者，也是《你是一个东西，我爱你》一书的作者。Janelle Shane在科罗拉多州担任研究科学家，在那里她制作用于研究大脑和其他光学转向装置的计算机控制全息图。她还自称是人工智能幽默家。
在AIweirdness.com上，她撰写关于人工智能的文章，以及算法出错时有时滑稽、有时令人不安的方式。她的作品也刊登在《纽约时报》、《大西洋月刊》、《连线》、《大众科学》等杂志上。她还发表过一次TED演讲，题目是《人工智能的危险比你想象的更奇怪》。
她的著作《你看起来像个东西，我爱你：AI如何运作以及它如何让世界变得更奇怪》，运用漫画和幽默的流行文化实验来窥探运行我们世界的算法的思想，使人工智能和机器学习既易于理解又引人入胜。非常高兴能邀请您作为嘉宾。感谢您参加本期播客，Janelle。嘿，非常感谢您的邀请。
我相信我们的听众也会觉得这很有趣。所以让我们直接进入正题吧。我想，就像AI领域的许多人一样，我通过Twitter了解到您的作品。
特别是通过您在AIawareness.com上所做的工作。那么，您能否首先简要总结一下该网站是什么，您在那里做什么呢？当然可以。简单来说，这是一个机器学习幽默博客。这包括玩游戏，我经常玩文本生成游戏，有些东西会
生成或分类图像。所以我是在探究这些算法擅长什么以及这种算法在什么地方会失效，尤其是在输入变得奇怪的时候。如果你以正确的方式探究，现实世界可能是对抗性的。我真的很喜欢找到这些例子。
是的，完全正确。那么，您认为哪些例子可以很好地说明您在那里所做的工作呢？
嗯，你知道，最终成为我书名的那个项目是，我使用的是，你知道，一个文本生成神经网络来生成搭讪语。所以这是我尝试过几种不同方法。我第一次尝试的方法实际上是当我。
我从头开始训练这些神经网络之一的时候。所以我从互联网上收集了一份手工收集的搭讪语列表，顺便说一句，这些搭讪语都很糟糕。所以在这一点上，我有点后悔这个项目，但是，你知道，我把它们提供给这些学习预测序列中下一个字符的东西。所以没有事先训练，你知道，
它查看了我几百条搭讪语，并学会了复制一些关键短语并重新组合其他一些短语。大多数搭讪语都完全难以理解，以一种令人愉悦的方式。我最喜欢的台词是：“你看起来像个东西，我爱你。”所以，就像我说的那样，最终选择了它作为我书的标题。
是的，我浏览过那篇文章，很有趣的是，尽管搭讪语有时有点令人尴尬，但AI生成的有时却很健康和天真。是的，因为……是的，令人尴尬的东西很多都在潜台词中。
这完全超出了这个AI的比喻性理解。它可以处理一些短语，表面上的外观，节奏，但不能真正理解更深层次的含义，这就是这种轻松感来自的地方。是的，当然，对于听众来说，这个项目AI Weirdness已经运行多年了。所以有很多不同的
东西已经被应用了。很多食谱，很多东西的命名，比如超级英雄和宝可梦、龙与地下城生物。所以有很多东西可以探索和欣赏。所以从一开始，我想，你是如何开始玩弄神经网络并偶然发现它们的怪异之处的呢？
其实我第一次遇到它们是在我刚上大学的时候。那是2002年，我开始读大学本科。
在人们开始商业化使用这些东西之前。我碰巧参加了密歇根州立大学Eric Goodman的一次演讲，他正在进行一些遗传算法方面的工作。你刚才描述的例子真的很酷，比如试图设计一个更高效的飞轮，结果却得到了一些看起来非常奇怪的东西；或者试图设计一个汽车保险杠，使其能够以正确的方式挤压
在事故中，并得到一些有效的东西，但我们不太明白为什么。而且，你知道，你几乎有了解决方案。你必须回过头去发现解决方案是如何真正起作用的。有时答案是，这个东西有点破解了你的程序，破解了你的奖励函数，想出了一个稍微不同的解决方案，你知道，重新解释了这个问题。而我只是觉得这太有趣了。
几乎是以一种检验自然现象的方式。所以我开始在这个实验室工作，研究遗传算法，然后最终，由于光学是我的另一个兴趣，我最终将这些搜索算法应用于整形超短激光脉冲，并试图以特定方式炸开化学物质。而
这变成了，好吧，实际上，当我们更好地理解激光问题时，我们意识到我们实际上并不需要学习算法。我们只是通过获取这些背景信息来收集我们需要的见解。所以机器学习的方面从我当时的工作中消失了。从那时起，我做的更多的是直接的光学研究。
但我记住了那个兴趣。所以几年后，大约10年后，我，
我偶然发现了Tom Brew的一篇博客文章，他使用这些文本生成循环神经网络来提出新的食谱或尝试模仿食谱。这些东西以最滑稽的方式被弄乱了。而且，你知道，这让我回想起我曾经认为这些算法是多么有趣，以及你的解决方案有时会以多么奇怪的方式出现。所以这就是促使我想到，哦，是的，我现在已经阅读了这网站上的所有文章，所有食谱。我想要更多。获得更多信息的唯一方法是自己生成更多信息。我想我最好学习如何做到这一点。是的，这很有道理。我认为
很多人可能在第一次遇到它们时发现了新的有趣之处。它们非常引人入胜，人工智能总的来说也是如此。然后，随着它的探索越来越多，变得越来越容易获得和适用，许多人再次拿起它并进行探索，这也很有趣。
您是如何发现进入它的体验，将代码组合在一起，然后运行它的呢？这很直接吗？在那个时候，这并不直接。所以有很多，是的，有很多学习。你必须下定决心去学习。
做到这一点。所以当时我使用的是Andre Carpathi的char RNN，你知道，你必须安装它，没有图形用户界面。我是在2010年的MacBook Pro上训练它的，所以有很多等待时间，以及这个东西会处理它的计算，你知道，事情会坏掉
或者不清楚。文档，它并不是真正设计成图形用户界面。所以现在的情况大不一样了，你现在有这些预先训练好的算法，已经有了很多基本的互联网训练，你经常通过像网络浏览器这样的方式与它们互动，甚至。所以它不再运行在你的电脑上了，而是运行在云端了。
你点击进行交互。你可以做的事情有限，但算法本身要强大得多。是的，这大不一样了。然后你有了像RunwayML这样的程序，它有一个桌面程序，你可以在不同的领域运行很多不同的模型，而不需要进行任何编码或整理来安装它。
是的，这是真的。我自己也玩过这些东西，作为一个没有时间玩GAN的人，即使我可以使用这些工具安装它，也方便得多。
是的，这是真的。降低了门槛，你知道，即使对于那些最终没有门槛的人来说，比如如果你下定决心，你可以学会去做。但你怎么知道它是否值得你花时间呢？所以有了这些沙盒式的东西，让人们发表文章。
网络演示以及他们的论文，这样你就不必尝试安装所有东西，从头开始复制它，你知道，当人们这样做的时候，这是一件多么好的事情，当然，它也打开了它，使它能够被那些不是计算机科学家的人所使用，所以你会看到更多艺术家使用这些工具，这真的很令人兴奋。当然，嗯，我认为
这也是你的博客和你的书的一个有趣的方面，我们很快就会谈到，那就是在揭示AI的怪异之处时，你实际上也在揭示AI的现实，那就是它并不超级聪明。它甚至与人类智力并不相似。它是一种独特的东西。
在运行博客的过程中，您是否发现博客之外的人发现了它并对此感到惊讶，或者因为博客而更好地理解了AI？是的，我经常收到这样的评论。
就像你刚才说的那样，人们会感到惊讶，比如，AI不应该很聪明吗？这怎么可能与正在商业化使用并具有，你知道，正在做出医疗决策或，你知道，作为自动驾驶设备识别面孔的东西相同呢？
汽车导航，你知道，这项技术是如何来自同一个地方的？当然，它们都在不同的水平上。事实并非如此。它实际上展示了当你让这些算法稍微超出它们的舒适区时会发生什么，那种技术
可预测性，人类可预测性的说法。就像我去寻找极端情况，我知道，尤其是在你试图发表论文或销售产品的时候，倾向于坚持在算法
无论它是什么，都在做它最好的工作，并展示它能做什么，展示它。而我现在占据的是不同的空间，因为我没有论文要发表。我没有模型要卖。我不是想给任何人留下深刻印象。我只是想找到一些有趣的东西。当你以某种方式探究这些模型时，你会发现很多有趣的东西。你……
你知道，我用图像识别做了一个实验
给了它一张我在苏格兰度假时拍摄的照片。而且，你知道，这是其中之一，它是斯凯岛，有绵羊，有绿色的山丘。而照片字幕程序得到了所有这些。我想真正让我大吃一惊的是，它知道斯凯岛上背景中的哪些山丘在那里。因为我想我站在那里拍照的地方是一个非常受欢迎的地方。
一个足够受欢迎的地方，可以站在那里拍照，这一点已经通过从互联网上抓取照片渗透进去了，你知道，它知道那个地方。但是进一步推动它，比如对它进行AI怪异性分析，我想知道，因为我已经看到了一些其他人提到的东西，让我有点好奇，好吧，如果我把所有的绵羊都用Photoshop处理掉会发生什么？
所以我做了，就像我使用了那个修复工具，替换了每一只绵羊，真的放大了，得到了每一个点。它们仍然出现在字幕中。这让我想到，等等，你知道，怎么，你知道，它怎么能记住那里曾经有绵羊呢？
这是，你知道，我错过了绵羊吗？这是顺势疗法的绵羊吗？到底是怎么回事？所以这让我做了一系列实验，我展示了其他苏格兰的照片，这些照片中没有绵羊，从来没有绵羊。而绵羊会出现在字幕中，有时字幕中会有马或牛在吃草。在一个特别潮湿、阴天的地方，它
标记说图片中有一道彩虹，而实际上根本没有。所以，是的，这揭示了可能有一些捷径。可能存在根本上对绵羊是什么的理解偏差，而不是说这片风景是绵羊。所以，是的，我喜欢做这样的实验，并与公众社区互动。
你知道，在这个过程中。所以在进行这些对抗性绵羊实验的过程中，我不仅向它展示了可能会有绵羊但没有绵羊的风景，我还让人们给我发送一些图片，嗯，
绵羊在不寻常的地方。所以，你知道，我认为我给它看的一个例子是有人把绵羊放在车里的照片，它被识别为狗。
然后还有一张照片，一个孩子抱着山羊，山羊被识别为猫。还有一张照片，山羊爬到树上吃叶子。它被识别为鸟类和长颈鹿。是的。
当你做预期的事情时，这些都是能力的极端。站在苏格兰，看到绵羊，拍下绵羊的照片，上传，与做意想不到的事情相比。是的。
是的，我认为，是的，正如你所说，如今的AI在按预期使用时往往效果很好。但是当你偏离那里时，你会得到的东西可能会非常有趣，这绝对是你博客所展示的。
是的。而且这，你知道，对许多领域都有影响，而困难的部分实际上是这些极端情况，那些偏离预期的情况。所以你有自动驾驶汽车，它们似乎做得很好，直到出现一个带有停车标志的广告牌，或者一辆卡车上印有自行车的图片。
或者有时你可能会，你知道，设置这些程序的人可能会设置它们，程序可能会设置它们，以便一种不太罕见的情况仍然被归类为意想不到的情况。所以如果你设置它，行人只能在人行横道上被检测到，如果你有一个不在人行横道上的行人，那就会成为一个极端情况。这可能成为一个潜在的致命问题。
完全正确。是的。所以在关于AI总体影响以及理解AI的一些更严肃方面的结论方面，我们可以……
开始谈谈你的书，我认为这是一本非常好的概述，不仅是AI的怪异之处，而且是AI如何为非技术人员工作，它确实介绍了AI是如何工作的，嗯，但以一种非常易于理解的方式。所以这本书再次是《你看起来像个东西，我爱你》，这是AI尝试的搭讪语。而且，嗯，
也许首先你可以深入探讨一下你是什么时候想到要写这本书的，以及当时的动机是什么？嗯哼。
我想动机实际上是想以一种有趣、易于理解的方式来传达这个问题的答案，AI不应该很聪明，因为，你知道，试图深入研究AI在哪些情况下很聪明，我们可以在哪里信任它，我们应该问什么类型的问题？
然后当我开始写这本书，甚至现在更是如此，那些不是计算机科学家的普通人仍然不得不就AI做出重要的决定。所以要制定关于应该允许哪些类型的算法或应用程序或应该是什么样的规章制度的政策，或者甚至试图
有人试图向你推销产品，你必须决定，这是真的吗？这有可能奏效吗？或者，你知道，它是否可能存在严重的偏差问题，这些问题将阻止它在大多数情况下发挥作用，就像这样。
这些都是人们每天都会遇到的重要事情。为了获得直觉，为了记住这些故事，绵羊的故事，或者那种令人头疼的自动驾驶汽车事故的故事，你知道，把这些东西放在你的脑海里，或者算法的故事，
决定公司成功的最重要特征是候选人应该叫Jared并且打拉球。所有这些现实世界的例子，我认为让这些东西留在人们的脑海里，让
学习这些东西的过程变得愉快，变得有趣，每一页都有漫画。就像我一样，你知道，我确实觉得它不仅是我想存在的东西，因为它写起来很有趣，而且也是一项公共服务。是的。而且，嗯，作为一个，你知道，相当了解的人，但我确实看到了这一点，就
不仅有趣，而且实际上确实以一种仍然准确的易于理解的方式传达了AI的工作原理。所以把这东西放在那里真的很好。它已经被用于课堂，商业课堂，以及那些不关注AI或不是计算机科学课程的课程中。所以看到这一点也很酷，看到
教育工作者拿起它说，哦，是的，我们可以使用它。我明白了。这很酷。所以这本书涵盖了很多方面。它涵盖了AI的工作原理，它的一些局限性、危险以及它的各个方面。但有一点从一开始就吸引了我，那就是你涵盖了AI怪异的五个原则，这在某种程度上总结了
为什么或者AI如何变得怪异并导致你博客上出现的那种奇怪的事情。所以我很想知道，你知道，你花了多长时间来思考这种对五个原则的总结，以及……是的。所以，是的，这始终是一个挑战，那就是将这本书提炼成几个要点，并使这些要点简洁明了，并具有足够的粘性。所以……
而这是，我不总是记得五个原则是什么，因为它们确实以许多有趣的方式交织在一起。但我有点，是的，我最终将其提炼成一种相互遵循的进程。你知道，从总体思想开始，你知道，AI的危险不在于它太聪明，而在于它不够聪明。而……
人们试图让AI做它不应该做的事情，它不会告诉你。为了让大家了解，大概来说，当我说是不够聪明的时候，我的意思是？列表中的下一个原则是AI的大脑能力大约相当于一条蠕虫。
而且，你知道，蠕虫，你知道，你可以根据你的乐观程度在各种无脊椎动物或简单的脊椎动物之间进行辩论。就像我们不明白蠕虫有多聪明一样。所以这是一个移动的目标。但我希望人们能够以不同的方式思考。
蚯蚓思维简单，你知道，就神经元的数量和人工神经网络的连接方式的复杂性而言。当我们谈论我们将要拥有的AI时，我们更接近于谈论蠕虫级别，而不是谈论松鼠级别。所以我真的想让大家明白这一点，以便重新调整对这条蠕虫将如何帮助你的期望。
以及它将如何理解你想要它解决的问题。所以第三点是AI并不真正理解你想要它解决的问题。这需要对世界、背景有广泛的理解。这是一个非常大、非常复杂的问题，我们面临着。
编码在这些算法中。然后列表中的下一件事是，你知道，鉴于此，第四点，AI会完全按照你告诉它做的去做，或者至少它会尽力去做。所以如果你告诉它，你知道，最小化这个数字列表中的排序错误数量，如果AI可以删除这个列表，因此得到零排序错误，那就是……
它会这样做，因为它知道，这就是你告诉它做的。我总是遇到这种情况，我试图让它生成一个新的例子。我给它现有的例子，它说，哦，你是说更多的真正的迪士尼公主，例如？我说，是的，我知道我给了你迪士尼公主，但你能想象一些新的公主吗？怎么做？是的，那是。
这从技术上来说是我要求的。然后，当然，第五点与之相关，AI会走阻力最小的道路。所以如果它可以找到一个偷偷摸摸的技巧，那么这就是你得到的答案，你将得到。所以如果打破物理学并沿着地板滑动比弄清楚
弄清楚如何在你的模拟中使用复杂的腿和东西更容易，那么AI就会这样做，你会得到奇怪的滑行，你知道，你的模拟中的机器人，你会得到滑稽的行走等等，这可能是娱乐性的，也可能是令人难以置信的沮丧，所以那是……是的，是的，是的，是的，你有什么最喜欢的例子吗？
哦，这很有趣，因为在研究的早期，我的第一个研究项目之一，我们有一个关于创建3D形状的项目。在调试这个算法并使其发展的同时，我们制作的形状就像椅子。而……
它并没有完全奏效。所以我得到了所有这些超级奇怪、变形、可怕的椅子，我认为这说明了，你知道，它不够聪明。这并不意味着没有问题，但我认为它也触及到了AI的怪异之处，因为我截取了这些椅子的屏幕截图并分享了它们，因为它们太有趣了。嗯，我还知道，嗯，你在你的TED演讲中有一个例子，嗯，
二维步行者，它没有学习使用它的腿，而是可以修改它的身体，然后变得非常高，然后倒下，我认为这是一个真正的经典例子，是的，而且我……是的，我喜欢这个例子，因为正如你所说，它是经典的。我找到的第一个例子，我认为是卡尔·西姆斯的作品之一，你知道，这被发现是一种方法
步行者会解决这个问题。然后在我书出版前不久，它又发生了。David Ha正在做类似的问题，一开始并没有对这个东西允许做多大尺寸的腿设置约束。所以，是的，你最终得到了这个滑稽地高大的，
单腿，这个机器人建造了它，并且在模拟的开始阶段就平衡在它的顶部。你看到的只是一只脚，其余的部分都在屏幕外。然后一旦你点击播放，你就会看到这个非常滑稽地缓慢倒塌的巨大结构，然后它最终落地。几秒钟后，它终于到达了终点线，它有点反弹。是的。
基本上，以及你从技术上要求的。完全正确。是的。而且很有趣的是，我认为AI研究人员非常熟悉这些原则，因为我们试图避免的一半工作就是意识到它们并绕过它们。所以我确实看到很多关于媒体对AI的描绘的
愤世嫉俗，因为我们作为专家所持有的观点受到AI有缺陷、有限，而且往往很难真正做到你想要的事情而不作弊或走这些阻力最小的路线的影响。
大多数非技术人员都没有意识到这一点，因为他们之前的观念来自科幻小说或流行文化。所以这种努力试图让他们理解是相当有趣的。是的，这是一个有趣的挑战，因为，你知道，我们在科学中有了AI和机器人。
在我们科学中有了任何类似的东西之前很久。我们仍然没有人们从流行文化中想到的那种AI。而且两者之间存在巨大的差距，在，你知道，我们所拥有的和这种人类水平，主要是或高于科幻AI之间。所以试图，然后，
在我们的语言中，“AI”这个词往往同时用于两者，我认为这确实造成了一些混乱，有些人利用这一点，希望人们说一种类型，或者希望人们相信它是另一种类型。在这种环境下，在这种设置下进行科学传播绝对是一个有趣的挑战。是的。
是的，这让我想起，我曾经做过一个小小的演讲，关于最近AI成就的局限性，以及突出问题中的复杂之处以及是什么让它变得容易和困难。我有点提到，这些挑战在像自动驾驶这样的实际问题中仍然存在。然后其中一个听众的问题是，
好吧，我们是不是几乎要达到五级完全自动驾驶汽车了？这真的让我吃惊，因为，你知道，这个人对我解释说我们根本没有达到那个水平，而且还有所有这些挑战，表示相当怀疑。但有趣的是，这种感知上的差异。是的。是的。人们会被营销炒作所愚弄，或者被这些模糊的界限所愚弄。我去参加了一个演讲，演讲者确信机器人索菲亚是真实的，这就是AI的现状，那就是，你知道，我们有一个机器人公民。这意味着什么？人类的未来是什么？并没有意识到这是一个
一个木偶。所以我想，你知道，试图在这种环境中进行科学传播，是的，所有这些都非常复杂。你会遇到一些想向投资者推销产品的人，他们夸大了当前人工智能的能力。而这确实是一个挑战，当然是的。是的，当然。但是，嗯，
希望，你知道，现在人工智能变得很重要，似乎有更多努力来区分科幻小说和无稽之谈与实际情况。是的，有……每当我遇到那些案例时，我也总是很感兴趣，人们在故事中使用人工智能，是当前水平的人工智能，而不是科幻水平的人工智能。所以，你知道，其中一个……
我最喜欢的例子之一，罗宾·斯隆有一部小说叫《酸面团》，罗宾·斯隆之前也做过一些人工智能方面的工作。所以，就像用机器学习控制的机械臂那样，它正在做一些现实的事情，比如进步的门槛，以及什么是突破性的，什么是令人兴奋的，什么是挑战。
它非常逼真，而且仍然可以构成一个有趣的故事。但当然，机械臂并不是一个真正的角色。你必须用人类角色来做这项工作。是的，我确实有很多我喜欢科幻故事，机器人是角色，我们经常在科幻、人工智能领域。我总是对在两者之间的例子感兴趣，因为这样的例子不多。
那是非常正确的。是的，我自己也看到了这一点。所以，从更广泛的文化话题回到本书中的内容，你知道，它很大一部分是解释一些原则，你大概在经营aiweirdness.com网站时就熟悉了。
但我很好奇，你知道，在写作过程中，这肯定非常费力，把一整本书放在一起需要很多工作。所以我很想知道，你是否在写作过程中发现了什么或者有什么新的见解？嗯，我，你知道，我确实学到了很多。而且，你知道，我
在我的博客上，直到那时，我没有很多文字可以使用。所以我无法深入探讨这些东西是如何运作以及它们是如何学习的。我认为我真正深入探讨详细的思想实验以及你将如何一步一步地训练神经网络的那一章，并试图保持
并且有一个神经元做了一些事情，再添加一层，并且仍然能够理解和理解为一个做一些直观的事情的神经元。对我来说，这真的是一种令人大开眼界的经历。我想，哦，我实际上……
比以前更深入地理解了这一点。我的意思是，当我学习人工智能的时候，我更多地了解了遗传算法和神经网络，因为当时人们并没有，没有那么多人在做神经网络。当然，现在人们正在将它们结合起来。这也很有趣。我会说那些
另一件让我感到惊讶的事情，作为我书籍研究的一部分出现的是，目前的人工智能有多少是幕后的人类，以及性能有多少依赖于众包工人，或者有多少被称为人工智能应用程序的东西可能是人们远程控制的东西，以及它是多么容易……
你知道，在编程层面，用对远程众包工人的调用来替换对人工智能的调用。是的，只是看到它在我写书的时候出现在现实世界的例子中，送餐机器人，一篇文章会出来说，哦，是的，这些不是自主机器人。
或者它们一次可以自主运行六秒钟，在人类驾驶员设置的路标之间。看到，是的，看到这一点，我发现这真的很吸引人，而且在劳动权利方面也令人不安，你知道，以某种方式从你的视野中移除劳动。
是的，这绝对是一个有趣的趋势。正如我们前面讨论的那样，人工智能有很多炒作，有很多营销。我想根据我的理解，公司将自己标榜为人工智能以吸引投资者，但要让人工智能真正发挥作用，正如你所说，你只需要让人们去做人工智能应该做的事情，然后也许最终会过渡。
我相信你甚至为Slate写了一篇文章，关于如何区分人类和人工智能。是的。我总结道，是的，在许多情况下你无法分辨出来，因为如果你正在与客户服务沟通，而你不知道它是一个机器人，那么搞砸互动过程是非常粗鲁的。
如果实际上电话的另一端是人。所以我得出结论，也许有可能分辨出来，但在某些情况下，进行实验以找出任何给定互动中的答案可能是违反道德的。
是的，是的，这很有道理。我从这本书中学到的一件事，并且发现很有趣的是长颈鹿的概念，以及偶然发现范的不同的长颈鹿图像，这非常令人惊讶。所以我想知道你是否可以告诉我们的听众这在概念上是什么。
是的，所以，你知道，长颈鹿已经成为机器学习中一个有点流行的笑话。而且，你知道，有几件事，方法让它们出现。我认为更突出的一种方式是，你会得到图像识别算法，将事物识别成长颈鹿。
比它们在现实生活中实际上是长颈鹿的频率要高得多。比如你给他们看一张空栅栏的照片，你可能会得到长颈鹿作为你的标题。
所以这部分反映了人们多么容易拍摄长颈鹿的照片。这有点像在苏格兰拍摄绵羊照片的想法，在那里，人们拍摄和发布的照片数据集中，绵羊的数量超过了您可能看到的随机场景。
所以让长颈鹿在那里出现作为一个流行的笑话，然后把它当作，你知道，你能把长颈鹿扔进算法的输入中并问它，你知道，如果你有一个聊天功能。
聊天机器人应该和你谈谈房间里的东西。你可以开始问它关于不存在的长颈鹿的问题吗？我发现对于其中一些机器人来说，如果你问它有多少长颈鹿，它会用一个非零的答案来回应，因为它已经被
训练成人类回答这个问题的方式，而人类往往不会被问到这个问题，当答案是零时有多少长颈鹿。所以它们在这种情况下出现了，然后OpenAI也做了一个操纵魔方机器人的演示，他们用它来
这个东西对环境扰动很稳健，他们有一个他们称之为毛绒长颈鹿扰动的装置，有人拥有一只巨大的毛绒长颈鹿玩具，让它轻轻地碰触机械臂试图操纵的魔方。而且，你知道，这是有史以来最可爱的事情。长颈鹿太棒了。刺猬
让它们成为机器学习中一个流行的笑话，我认为是一件令人愉快的事情。所以我真的想把它放在我的书里。我想在那时，我也非常享受向那个聊天机器人询问不存在的长颈鹿的问题。
是的，这很有道理。我确实记得OpenAI的毛绒长颈鹿，以及所有研究委员会看到它时有多高兴。是的，对于所有正在收听的研究人员来说，请，你知道，我相信你们的实验室预算可以容纳一只毛绒长颈鹿。你必须得到一只。你必须尽可能多地在你发表的论文中使用它，这样我就可以引用它们了。
好的。是的，我一定会让我，呃，合作者们知道，并尝试自己去做。是的。嗯，嗯，所以也许，是的，有一点，嗯，我认为这是一个对这本书相当好的概述。再说一次，我认为听众们，这里有很多内容，所以，呃，你可以查一下看看。呃，但是也许，嗯，作为最后一件，嗯，
自从那以后已经过去几年了，我很想知道，在使用了GPT-3或更新的算法之后，你对人工智能的看法是否基本保持不变，或者它是否正在发展，或者它是否在你继续使用它的过程中不断发展？嗯哼。
是的，你提到GPT-3、GPT-2很有趣，因为我认为这是我书中唯一一个在我即将出版时不得不编辑的部分。因为这确实，你知道，我不认为有人会把这么多数据和计算能力投入到这些，你知道，文本生成算法中。所以我确实不得不更新一下，说，好吧，实际上，你知道，
这里有一些例子。当你谈到连贯性时，我将对文本中可以拥有的连贯性类型采取更广泛的看法，而不仅仅是句子长度，例如。但这真的是唯一一件让我回头说，哦，是的，我不得不重新调整我对它的想法的事情。因为我之前很多想法
在我的书中，很多案例都来自20世纪90年代。很多机器学习的一般原则以及如何用机器学习来解决问题，以及思考这个问题
即使是使用非常简单的程序，你也会学习到这些东西，因为随着这些程序变得越来越复杂，它们仍然是正确的，因为我们仍然在处理狭义人工智能。我们仍然在处理一个应该优化奖励函数的东西，而一切取决于你如何设置它。
所以，回顾过去并说，不，你知道，这仍然是一个很好的概述，这让我对这个项目感觉很好。你知道，有很多细节已经改变了。出现了新的应用程序。但在人工智能怪异的这些一般原则方面，我认为
我仍然对它们感觉很好。我认为在未来相当长的一段时间内，这仍然是有用的。是的，这很有道理。我刚读完它，我绝对认为它经受住了时间的考验。即使我们总是得到疯狂的新事物，我们仍然是同一种新事物。嗯，所以，嗯，
但我确实想知道，在玩弄不断发展的工具时，我确信你已经玩过许多模型，你知道，从许多不同的算法中得到了结果。当你进行各种实验时，你是否发现自己感到惊讶，也就是说，你知道，你期望一些奇怪的东西？所以你是否发现自己有时仍然被你最终得到的东西所震惊？
哦，当然。而这正是使用像这样的机器学习算法的乐趣之一，我现在有足够的经验来猜测什么可能有效或什么可能产生一些有趣的东西。但我仍然会感到惊讶。我会说，好吧，如果我把这个作为提示，我肯定只会得到陈词滥调的东西，然后我感到惊讶，你知道，实际上回到
回到搭讪语是这些案例之一，我认为，哦，现在我们有了GPT-3，如果我试图让它生成搭讪语，它只会复制网上搭讪语的列表。就像它会和人类写的搭讪语一样糟糕。我现在真的不想重温这个实验，因为算法已经变得更大，而且是，好吧，
当我发现人工智能生成的搭讪语仍然很奇怪时，我感到非常惊讶和高兴。你知道，我，其中一个，GPT-3的一句话是，我因为你让我尖叫的性感而失去了声音。或者另一个是，你知道，你喜欢煎饼吗？是的。
或者另一个搭讪语是，你知道，我会简要地为你总结《回到未来2》的情节。是的，这让我很惊讶。这真的，真的让我很惊讶。是的，正如你所说，这些并不是我们通过……
研究人员强调的事情。所以，随着这些东西变得更容易获得，人们实际上可以探索，在某些情况下发现怪异之处，在某些情况下指出问题，就像最近Twitter的裁剪工具发生的那样。奇怪的是，人们只是进行实验，发现存在问题，然后这实际上导致了一个解决方案。我认为，被告知是部分原因。是的。
是的，当然。是的，这种可及性是其中很大一部分。而且我认为我，你知道，我看到公众的态度发生了变化，或者意识的程度，特别是对算法偏差的意识正在真正增加。我认为这是一件非常好的事情。绝对的。因为我相信你同意，你知道，有很多看法认为
是的。
是的。所以我想我们已经触及了很多事情。最后一件我想提到的，是从你的工作中放大来看。你在书中也介绍过的一件事是人机校准的这个方面，其中人工智能真正被用作工具，而不仅仅是自主运行。这是另一个领域，我认为
也许公众并没有像实际情况那样多地看到或理解它。即使是构建模型的研究人员，那也确实是人机循环。所以，是的，你能谈谈你对人机协作的看法吗？你是否关注任何使用人工智能作为工具的人工智能艺术家或其他创意人士？是的，有……
你是对的，有些人倾向于低估对所谓的AI生成艺术的人类贡献，并意识到在从决定做什么的每一步中存在多少人类意图
与之合作，你知道，策划和展示以及围绕你所生成的东西创作一个故事。所以，是的，看到这一点得到更多承认，我认为这对艺术家以及我们对人工智能能力的认知以及有多少，你知道，创造力真的存在以及它来自哪里，都将是一件好事。
有一些，有一些人在做一些非常有趣的工作
我倾向于关注一些人工智能艺术家，你知道，我喜欢那些以有趣的方式重新混合他们自己的作品或他们自己的摄影作品的人。所以有，你知道，安娜·里德勒，海伦娜·萨伦。他们都在用重新混合他们自己的艺术作品和摄影作品做一些非常有趣的事情。有……
蒂姆·怀特，他用GANs做一些有趣的事情，GANs的使用调色板非常有限。他们试图基本上构建对抗性示例或提出，说明某种会触发
在图像识别算法上，但也许他们只有几个简单的形状来做到这一点。所以你会得到这些非常有趣、令人回味的抽象作品。所以这是一个例子，你知道，你真的必须设置你的问题，就像把它作为一个问题来思考，并用合适的工具来设置它，这样人工智能就会有一些有趣的东西可以处理，或者一个有趣的主题来尝试说明，呃，
我真的很喜欢那些艺术家，他们会让你了解这个过程是什么，以及艺术家的贡献从哪里开始到哪里结束。我认为对我来说，这确实增强了我对正在发生的事情的享受。
是的，绝对的。我也关注很多人工智能艺术家。所以我真的很喜欢你书中的那一部分。而且，仅仅看到你作为人工智能幽默家的作品也很有趣。
就这样，我认为，是的，我们已经就你的工作进行了非常有趣的谈话。我非常享受这次谈话。再次感谢你加入我们的播客。哦，非常感谢你邀请我。而且，你知道，和一个在这个领域工作的人交谈很有趣。我一定会查阅你的奇怪椅子。太棒了。是的。
对于听众来说，我们再次与AIweirdness.com的谢恩将军进行了交谈。只需前往AIweirdness，大多数博客文章都很简短，很有趣。所以浏览一下很有趣。然后，如果你发现它很有趣并想更深入地研究，你当然可以查阅她的书《你看起来像一件东西，我爱你》，我确实推荐这本书。即使你了解人工智能，它也很有趣。
就这样，非常感谢您收听本期Scan It Today的Let's Talk AI播客。您可以在scanittoday.com上找到与今天主题类似的文章，并订阅我们的每周新闻通讯，其中包含类似的文章。无论你在哪里收听播客，都可以订阅我们。如果您喜欢这个节目，请不要忘记给我们留下评论。请务必收听我们未来的剧集。