Deep Dive
Shownotes Transcript
订阅：RSS | iTunes | Spotify | YouTube
主题：深思熟虑 Kevin MacLeod (incompetech.com)
</context> <raw_text>0 大家好，欢迎收听SkyNet Today的《让我们谈谈人工智能》播客，在这里您可以听到人工智能研究人员关于人工智能的真实情况以及哪些只是点击诱饵标题的讨论。我们每周发布人工智能新闻报道，并偶尔进行访谈，比如今天。我是Andrey Krennikov，斯坦福视觉与学习实验室的三年级博士生，也是本集的主持人。
在这一访谈集中，我们将听到几位创建AImyths.org的人，Daniel Lufer和Alexa Steinberg。AImyths.org是Daniel Lufer的Mozilla奖学金项目的一部分。从2019年10月到2020年7月，Daniel受到了数字权利组织AccessNow的支持。
Daniel的背景是哲学，他在比利时的鲁汶大学获得了博士学位。他还是鲁汶大学技术哲学工作组的成员，目前仍在与Access Now合作。Alexa Steinbrook是一名软件开发人员、艺术家和设计研究员。她在阿姆斯特丹大学获得了人工智能学位。
她的研究兴趣是公众话语和消费产品（如语音助手）中人工智能的表现和感知。她在德国的艺术与设计大学Berg开设了一个人工智能和机器人实验室，在那里她还研究人工智能技术的创意应用。非常感谢Daniel和Alexa加入我们这一集。
很高兴来到这里。很高兴来到这里。是的，很高兴加入。好的，让我们深入探讨。我们将讨论你们的项目AImyths.org，正如标题所暗示的那样，旨在帮助揭穿一些关于人工智能的流行误解。在我们深入探讨这些神话以及项目结果之前，也许你们每个人可以简要总结一下你们从事这个项目的动机，以及朝这个方向发展的灵感。
很好。也许我可以谈谈最初的步骤等。当我们开始实际组建这个项目时，我可以让Alexa给你们详细介绍，因为她在这方面负责。所以网站的最初构想源于我思考，
有点像对被烦恼的上瘾，您知道的，我对围绕人工智能的所有炒作、误传和误解感到非常烦恼。因此，我之前与AccessNow合作进行了一项关于人工智能伦理指南的项目。我们看到的是，我们总是遇到相同的
误解，关于人工智能的相同不准确之处。我们所做的很多工作，几乎是在浪费时间去揭穿这些误解。而且Access Now还组织了RightsCon，这是数字权利领域的主要会议。在RightsCon上，我们组织了一个侧会，邀请了许多从事人工智能政策工作的人聚在一起。我们在一起头脑风暴，寻找更好地协调工作的方式。我们发现的一个共同点是，我们都对这些神话感到同样的烦恼。
这些神话妨碍了我们的工作。因此，我们认为如果有人能整理出一种共享资源来解决这些误解的最常见表现形式，那将是非常好的。幸运的是，那时我正在申请Mozilla奖学金，令我惊讶和高兴的是，它被接受为一个项目。这就是该项目成为开发该资源的原因。所以我，嗯，
我们在RightsCon会议上头脑风暴了一份误解和神话的清单。然后我做了一些进一步的工作，调查哪些是最常见的，哪些妨碍了人们的工作。这涉及到，我做了一篇初步的博客文章，并与调查小组进行了交流。
并获得了一些反馈。但我认为值得一提的是，网站的真正目标受众是公民社会组织。因此，人权组织或活动组织现在发现自己不得不处理人工智能，因为，如果您从事歧视问题，几乎与数字权利或更广泛的人权相关的任何主题，人工智能正越来越多地出现在处理这些问题的中心。因此，目标是帮助这样的组织
克服在应对这些误解时的障碍。我还在一些我阅读的报告中看到，您可能会看到一个
人权组织在做关于人工智能的报告，但他们在开头花了三页谈论超级智能。因此，给他们提供一种快速的方式来说明，您不需要讨论超级智能，因为尽管我们在主页上措辞的神话如此，但它并不会很快到来。
然后实际上在MozFest上，我碰巧遇到了Alexa，我们开始聊聊这个项目的形式，也许她可以从那里解释。是的，我们在MozFest上见面，这是Mozilla的年度活动。
我正在进行一个关于揭开语音助手神秘面纱的会议，解释它们是如何工作的，并解释人性化的机制，以及我们如何得出称呼这个设备为人工智能的结论。我完全可以分享Daniel所说的关于对人工智能神话感到烦恼的痴迷。
嗯，这个项目对我来说非常重要，我有一个个人的角度，它解决了我在过去七年左右观察到的现象，即当我与不从事人工智能领域的人进行对话时，我意识到我们在谈论完全不同的事情。我学习了人工智能，从我的角度来看，人工智能是机器学习、计算机视觉和自然语言处理等应用领域。而他们所指的往往是机器人、奇点和机器奴役人类等东西。因此，我总觉得我们并没有真正进行对话，因为我们在谈论两件不同的事情。
我认为这种情况不仅发生在私人对话中，也发生在公共辩论、媒体和会议上。我经常引用Maya Indira Ganesh的一句名言，她说，人工智能存在于一个尴尬而独特的空间，作为技术隐喻和社会技术想象的存在。
我认为这完全是事实。因此，存在不同层次的意义，它们都是交织在一起的。我认为是时候将它们解开，将神话与文化叙事和事实分开。
我明白了，是的，这很有道理。正如Daniel所说，我相信许多人工智能研究人员也非常熟悉看到人工智能的误传所带来的挫败感。当然，这个播客的部分原因也是为了突出这些神话，并帮助人们理解人工智能的现状。因此，我认为研究人员应该
对此表示同情，并同意你的动机和项目的想法。因此，考虑到这种背景，是的，也许我们可以在深入探讨实际神话之前，稍微多谈谈过程。例如，Daniel，你是如何决定哪些是神话，并将其缩减到一个相对较短的列表的，因为在媒体中，人工智能的误传有很多不同的方式？
当然。是的。我之前提到过，有一项调查，实际上有一个非常明确的前五名。前五名中，第一名遥遥领先的是人工智能具有自主性。
我认为你们在SkyNet Today也会对此表示同情，因为这是最令人烦恼和普遍的误解之一。第二名是超级智能即将到来。第三名是关于人工智能一词的模糊性。因此，人工智能一词有明确的含义和清晰的无歧义的含义。
第四名是，您知道，人工智能是完全客观的。它是无偏见的。它只是根据数据做出客观决策。第五名是，人工智能可以解决任何问题，只要它有足够的数据。在此之后，还有一些编辑自由来搜索数据的其余结果。
但按顺序排列，它们是伦理指南将拯救我们。我们不能也不应该监管人工智能，人工智能等于闪亮的人类机器人，我承认，无论它是否进入前八名，我都想把它放进去，因为这是我最喜欢的一个。列表上还有其他内容，但我们最终决定选择这八个。
这很有道理。是的，然后在过程方面，我想，Alexa，你有什么要补充的吗？一旦你们决定了神话，开发网站和将其整合并有效沟通的过程是什么样的，在我们深入探讨它们实际是什么之前？
是的，绝对可以。因此，一旦我们决定了神话，我们讨论了什么样的格式适合我们的破除神话项目。我们最初的想法是将其做成一个基于网络的互动游戏。我们受到Alia El-Katan的项目《适者生存》的启发，该项目教育人们关于招聘中的偏见和机器学习工具。
但后来我们意识到，我们实际上有很多内容要覆盖，而且这个主题有相当多的细微差别，还有很多背景故事和上下文需要解释。因此，我们意识到，最佳格式可能是长文本格式。
是的，Daniel是哲学家，所以这是他最擅长的。但我们也决定加入一些互动元素。因此，这就是我们可能稍后讨论的两个小部件。每个神话都有相当长的部分，包括参考书目，有时还有一个部分，
列出关于每个神话的几种立场的常见论点。它们有助于您跟随辩论，甚至在现实生活中找到您的论点。
我想也许还有一个关于过程的有趣事情是，这些问题是如此跨学科，以至于，我非常感谢许多不同的人提供的帮助，包括技术人员，他们提供了概述，包括Alexa，但也包括，
Agata Foricherts，她也是你在斯坦福的同学，Andrey。但我还要特别感谢
让我找一下确切的标题。哈佛法学院网络法诊所，布鲁克曼·克莱因互联网与社会中心。您知道，感谢Jessica Fjelder，她是我在RightsCon提到的原始会议的参与者，并使该项目成为网络法诊所项目的一部分。
在今年春季学期，得到了两名学生，Rachel Yang和Catherine Muller，
法律学生，他们参与了项目的部分工作。我认为这是一个有趣的部分，您知道，您正在进入法律论证、哲学论证、技术规范等各个方面。因此，这对我的大脑来说是一个挑战，确实是一个拉伸，但真的很愉快，能够做到这一点。是的，非常感谢所有帮助过我的人。
这很有道理。是的，对于这个规模的项目，基本上是试图传达人工智能到底是什么，以及许多重要的警告，正如我们所知，这需要相当多的文字和解释等等。
是的，听众们，现在当我们深入探讨这些神话时，您实际上可以访问AImyths.org并浏览该网站。它非常简单明了。您点击每个神话，您可以阅读，它组织得很好，非常易于接近。因此，您可能会发现现在或稍后浏览一下，看看它到底是什么。
是的，Daniel，你提到你有这个前五名神话的排名。那么现在我们可以讨论一下
这些是什么，以及你在研究它们时发现了什么，也许还有人们给你的反馈，从AI社区开始，AI具有自主性。因此在我看来，这基本上是人工智能可以做出决策的概念，您知道，头条新闻通常是这样表述的，人工智能学会了
您知道，讲人类语言或类似的东西。这让人感觉像是人工智能自己做的，而不是人类开发者和研究人员。因此，这是我对这个的看法，但你能给我们更多的概述和关于这个神话的任何有趣的内容吗？
我认为你刚才说得非常好。因此，这涉及到人工智能是一个智能实体，按照自己的愿望行事的概念。当然，人工智能是一门科学学科和一套思想与技术。Daniel认为这一点至关重要，因为这个想法
是的，它掩盖了人类的主动性，也掩盖了人类的劳动。也许Daniel，你可以多谈谈这个。是的，我认为正如Alexa所说，您知道，关于机器是否具有主动性的明确起点是那些可疑的头条新闻，但显然，机器是否具有主动性的问题在哲学上可以深入探讨。因此，我认为，实际上编写软件
那部分的挑战是确定停止的哲学深度。因此，我认为，您知道，有明显的误解需要揭穿这些可疑的头条新闻和
揭示隐藏在人工智能系统背后的人类劳动。有一个例子刚好在我完成文本时出现，是一家会计公司，我认为他们位于英国，声称拥有一个人工智能会计系统。结果发现，他们在使用菲律宾的离岸劳动力。因此，您知道，这些非常明显的案例实际上是一个人藏在桌子下面。
是的，您知道，亚马逊的机械土耳其人这个名字非常贴切。但是，事情变得更加复杂。我想向Daniel Estrada致敬，他是一位哲学教授，他对这篇文章做了一个非常详细的反应，他说，他在整个过程中与我达成了共识。
对这些系统中嵌入的复杂人类主动性的解构。但他实际上会走得更远，认为我们还需要将视角转向人类的主动性，看看在我们自己的主动性中，我们实际上是如何被各种技术工件所调解的。
这对我来说是一个挑战，我在写这些文本时意识到这一点，我认为大多数写作的人都有这种感觉，当你快要结束时，你开始觉得这完全肤浅和无用，不会对任何人有用。每当我处于这种状态时，我都会看到一些头条新闻，表明实际上没有，这个神话以及我试图揭穿的那种肤浅理解是非常普遍的。
实际上，上周我参加了一个著名国际机构的听证会，我不会提及其名称。那是关于人工智能和人类的听证会，您知道，试图关注这些互动可能带来的风险的人权考虑。会议上充满了关于超级智能的内容。
它说，在接下来的几年里，人工智能将在所有领域超越人类智能。
因此，您会看到这些主题实际上深深植根于核心研究社区之外的人们的思维中。尽管实际上，我认为小组中有五位专家。我们都告诉主持人，您知道，这绝对没有意义。他们仍然坚持询问关于大脑上传的事情，尽管我们向他们保证，我们离那还远着呢。
谢谢。
是的，我认为我们有一些神话，像是有趣的和烦人的，但有趣的。但我认为这个神话在社会辩论与人工智能相关的风险和问题方面也是相当危险的。因此，当我们说我们想要辩论风险时，而我们在科幻背景下进行辩论时，
我们忽视了已经影响真实人们的切实风险，那么这对人们的生活和社会产生了实际影响。我认为这是一个非常重要的神话。
同意。是的。如果人们认为，您知道，人工智能的问题归结为超级智能，他们就可以忽视所有现实的现代问题，您知道，面部识别、监控，所有这些我们实际上看到的事情，需要解决，而不是这些可能发生或可能不会发生的假设，当然也没有发生。因此，这是一个非常好的神话。
是的，也许我们可以再做一个，因为每一个我们当然可以深入探讨。但您已经有网站让人们自己去做。我们可以以“人工智能一词有明确的含义”这个神话结束。因此，这个有点棘手，因为您正在定义什么是人工智能以及分类等等。
所以我很好奇，是的，您是如何决定总结这个问题的这个神话并进入它的？您是否了解更多关于人们如何看待人工智能以及如何定义它的内容？是的，通常对此的任何反思？是的，正如您所说，这几乎是最困难的问题。我认为，您知道，
我们没有在文章中定义人工智能或声称要解决这个问题。但我认为目标更多是
您知道，再次从一些非常明确的误解开始。我们使用的例子是这个人工智能保姆服务，如果我没记错的话，是斯坦福大学的一个衍生项目。实际上，它叫Predictum，谢天谢地，它现在没有网站，因为它已经关闭。它声称使用先进的人工智能来筛选保姆候选人。
想法是从一个担心的父母的角度出发，父母想，我真的需要找到一个可靠的人来照顾我的孩子。为什么不使用这种基于硬数据的先进人工智能呢？因此，
让人们从这个角度出发，说明如果您听到这个说法，您知道，有很多理由让您觉得它听起来合理。但然后要分解这一点，说明Predictum实际上在做什么？
并且只是展示，您知道，他们使用自然语言处理来分析候选人在社交媒体上的帖子。这涉及到试图检测语言类别，例如欺凌、骚扰和不良态度，这些都是不明确的，不客观的。它们高度有争议。您知道，这些类型的...
试图检测不当内容的工具，例如，已经显示出它们会更频繁地将非裔美国人的内容标记为不当内容，而不是来自其他群体的内容。因此，有很多文献记录了这些工具可能存在的偏见，甚至这些类别本身也是高度有争议的。他们还使用计算机视觉技术扫描保姆社交媒体上的图片，以寻找诸如露骨内容等内容。
我们举了一个例子，英国警方使用类似的系统来试图检测裸体，结果它不断将沙丘的图片标记为裸体图片，假装或错误地认为它们是裸体图片。因此，您知道，一旦我认为一旦您为某人分解这一点并说，当像这样的公司声称他们在销售人工智能时，
他们实际上是什么意思？这是我在文章中提出的一个一般建议，就是总是将其降低到一个具体的层次。因此，不要说，我们将使用人工智能，而是说，好吧，我们将使用这个机器学习的子领域。然后您可以提出更合理的问题，您知道，您能否以一种合理的方式明确您试图解决的目标，使其对系统有意义？是否有或可能有合适的数据？这将使人们更合理地思考所做的声明。我认为我在文章中还想做的另一个关键事情是给人们提供这个术语的历史，因为我认为这确实，
在某种程度上揭开了神秘面纱，当您看到，您知道，只需指出，当图灵撰写他那些极具影响力的论文时，人工智能这个术语并不存在，以及它是如何源于达特茅斯夏季人工智能研究项目的。提案最初来自1955年提交的资金提案。
还要指出，即使在当时也存在争论，因此，纽厄尔和西蒙，这两位在达特茅斯学院研讨会上出席的研究人员，实际上不喜欢这个术语，并在研讨会后继续使用复杂信息处理这个术语多年。但其他参与者，如马文·明斯基，推动使用人工智能这个术语，因为它更具市场吸引力。因此，从一开始就存在这种辩论是很有趣的。
我还想知道这个神话是否不是核心神话。如果历史决定将这个领域称为复杂信息处理，我们是否会有主动性神话和这些糟糕的机器人猪以及所有其他的伪装和话语扭曲？
我还想指出我们有的第二个小部件，我们取一些部分著名人物的引用，并用更严谨的术语替换“人工智能”这个词。因此，再次，有复杂信息处理，或者根据上下文，您可以用专有软件或仅仅是机器学习来替换这个词。
您还可以输入自己的词，看看当您使用不同的术语时，意义如何变化。我最喜欢的一个是埃隆·马斯克的引用。
订阅：RSS | iTunes | Spotify | YouTube
主题：深思熟虑 Kevin MacLeod (incompetech.com)
</context> <raw_text>0 他谈到了人工智能的风险，原句是，我的意思是，使用人工智能，我们在召唤恶魔。如果你用另一个术语替换它，听起来可能像是，我的意思是，使用复杂的信息处理系统，我们在召唤恶魔。所以这真的改变了故事。
是的，我实际上只是玩了一下。正如你所说，指出这一点是相当有趣的，尤其是与埃隆·马斯克有关。我想这是一个人工智能在这种非常模糊的意义上使用的案例。但还有其他例子，也许是在谈论特定的产品。正如丹尼尔指出的，在这些情况下，他们实际上在做一些事情。他们确实有系统和特定的算法
也许并不是人们在听到人工智能时想象的那样。所以了解一般来说，人工智能可以指很多东西是非常有用的。这是非常模糊的。因此，总是要对它实际指的内容保持怀疑态度。
然后，是的，这些是一些主要的神话。然后在网站上，还有其他所有的神话可以浏览。所以再次提到，AImyths.org，如果你想看看其中的一些，实际上浏览这些内容是相当有趣的，即使你知道这些神话以及人工智能是什么等等。这非常有趣。
当然，即使你是人工智能研究人员，这些关于伦理指南或人工智能监管的其他神话可能涉及你不太熟悉的内容。因此，对各种人来说都是有用的，在我看来。就此，我们将结束对AImoves.org的讨论。感谢丹尼尔和亚历克萨在这一集中的参与。谢谢。
很好，谢谢你们的邀请。很高兴聊天。
感谢听众收听Skynet Today的《让我们谈谈人工智能》播客的这一集。你可以在skynettoday.com找到与今天类似主题的文章，并订阅我们的每周新闻通讯。无论你在哪里收听播客，都请订阅我们，如果你喜欢这个节目，请不要忘记给我们留下评分。评论对了解这些内容是否真的有用非常有帮助。请务必收听我们未来的节目。