Fabricated AI Research, AI Phishing Emails, AI Package Theft Detection
31:43 Share

我们的第67集，回顾和讨论上周的重要人工智能新闻！ 本周：

在我们的新闻汇总文本版本中找到这些内容和更多信息：https://lastweekin.ai/p/128 音乐：Deliberate Thought，灵感来自Kevin MacLeod（incompetech.com） </context> <raw_text>0 你好，欢迎收听Skynet今天的《让我们谈谈人工智能》播客，在这里你可以听到人工智能研究人员讨论人工智能的实际情况。这是我们最新的《上周人工智能》节目，你将获得上周一些最有趣的人工智能新闻的摘要和讨论。我是Sharon Zhou博士。我是Andrey Kryankov。本周我们将讨论用于仓库自动化的新机器人，帮助发现氯胺酮作为疾病治疗的人工智能，

扭曲短语的论文，以及几则有趣的新闻故事。所以让我们直接进入我们的人工智能应用论文。抱歉。让我们直接进入我们的人工智能应用文章。第一个是新一代人工智能驱动的机器人正在接管仓库。这篇文章来自《技术评论》。

这篇文章概述了许多新创公司正在为工厂和仓库创建人工智能驱动的机器人的情况。这些机器人能够操纵不同形状和大小的物体。这为自动化开辟了一整套新的任务。是的，我非常喜欢这篇文章，因为作为一名机器人研究人员，我一直在关注这个趋势。在过去两年里，可能有十几个初创公司在做这件事。

它还提到，已经部署了大约2000个这样的机器人。所以是的，我认为这是一个值得关注的有趣事情，这篇文章确实做到了这一点。

是的，文章提到这些机器人可以执行简单的任务，比如捡起物体并将其放入箱子中，这也并非易事。它需要感知，需要计算机视觉来完成。但我想TBD仍在研究这些较脆弱的材料，甚至是透明的材料，你知道的，不确定物品实际上在哪里，无论它是否在箱子里。是的。

那么在灵活性和机器人方面有多少炒作呢？我知道在某个时候，文章中提到，我们可以替代所有这些一切，并且可以实现通用灵活性，但这仍然感觉遥不可及。

是的，是的。我认为这篇文章写得很好。它没有过度夸大。我确实认为，如果你不在机器人领域，你可能会对我们实际上能用机器人做的事情感到惊讶。这些初创公司大多在使用两指机器人，所以你只是夹住以捡起某物。

或者你有像真空吸尘器一样的东西，基本上是用真空来捡东西。所以你并不是在使用五个手指。你并不是在使用两只手。你基本上是用一只手来捡东西并在一个箱子和另一个箱子之间移动它。但即使做到这一点也远远超出了目前工厂中的情况，工厂中只是机器人重复同样的动作。对周围环境的任何适应或任何感知，基本上都是如此。

所以在物体操控方面，这些仍然比现有的机器人更依赖于人工智能。导航机器人则稍微先进一些。所以是的，我认为就灵活性方面而言，这是一篇不错的文章。

是的，看到这一点的发展令人兴奋。当然，关于就业方面有一些担忧，对吧？但是，你知道，一些公司已经发声表示，他们有更多的工作供人类与这些机器人一起工作。而且这些机器人主要是在执行某些特定的任务，而不是所有的任务，至少目前还不是。

是的，我认为这将是一个渐进的转变，因为除了建造机器人之外，也许更复杂的部分是改造或适应仓库和工厂本身。因为我想象这相当复杂。

而且这是，是的，我认为这是一个很好的领域，因为机器人以其著名的优势来处理危险、乏味或重复的工作。这些仓库工作有点

不健康，不一定危险，但做这些对你的背部和肌肉不好。而且很乏味，因为你在做很多这种无脑的事情。所以我认为总体来说，是的，我们应该很好地利用自动化，假设这些公司能够缓冲过渡。

接下来是一个非常不同的领域，我们可以使用人工智能。我们在谈论的是，在人工智能的推动下，氯胺酮成为潜在的罕见疾病治疗药物，来自STAT新闻。

这篇文章讲述了一个名为Maddy Kenron的工具如何扫描数百万个生物医学摘要，并寻找现有化合物与一种名为ADNP综合症的疾病相关的基因之间的关系，并确定氯胺酮作为潜在治疗药物。我认为这非常令人兴奋，因为我实际上对人工智能的不同药物发现是否真的会浮现出有用的东西持怀疑态度。但听起来，尽管这仍在试验中，尚未真正证明，但它仍然是一个很好的候选者，可以用于研究这种疾病。是的，这非常有趣。这里的一些细节非常酷。例如，发现的研究是多年前的，但

但直到这个工具发现它并将其发送给一位名叫Matt Davis的神经外科医生之前，没有人提倡它。这个工具实际上是由UNB的Hugh Cole医学研究所的主任创建的。因此，这是由一位医学专家而非主要是人工智能的人创建的。

所以是的，看到这些人工智能工具如何帮助筛选大量信息是很有趣的，药物相互作用已经被揭示，但仍然埋藏在所有数据中，可以被挖掘出来。

接下来是我们的研究部分。我们的第一篇文章是《扭曲短语揭示虚构的研究论文》。这篇文章来自《自然》。所以有一篇论文发布，实际上在《科学》期刊上发表，关于...

有很多提交的论文和已发表的论文可能是人工智能生成的。基本上，这来自于研究人员不理解为什么那些虚假论文中的其他研究人员会使用某些术语，比如“伪造意识”、“深刻的神经组织”和“巨大的信息”等，而不是简单地使用“人工智能”或“深度神经网络”。因此，

这促使研究人员在法国图卢兹大学对此进行更深入的研究，他们发现有超过860篇出版物至少使用了其中一个短语。甚至有一个期刊发表了31篇这样的论文，这非常令人担忧。是的。这非常有趣。我会说，作为一名研究人员，意识到这是一个，

似乎相当普遍的现象，人们只是拿走，知道在某些情况下复制短语或文本并进行翻译以获得这些扭曲的短语。因此，像“伪造智能”代表“伪造意识”这样的事情是相当常见的。

而且这些论文进一步被发表，真的非常令人不安。我想我有点惊讶，这么普遍，直到最近才被曝光。是的，我的意思是，这是，知道，假新闻。人们一直在谈论这个。但现在这是假科学，这很有趣。

真的令人担忧。我认为，人们对此开玩笑。我知道人们对此开玩笑，但现在以更严肃的眼光来看待这一点，既令人担忧，又让我对科学的未来感到担忧，如果系统中有这么多噪音。

是的，我确实喜欢他们在论文中研究并分析这一现象。他们发现，对于这本《微处理器与微系统》期刊，随着时间的推移，他们的审稿过程变得越来越短。因此，现在，显然在2021年初，平均审稿时间为42天。

所以这可能更具体于这个特定的出版物，希望如此，但知道这些事情的存在是好的。这样，出版物可以对此保持警惕，期刊可以对此进行查找，并建立系统以确保这些不会通过。对，绝对如此。

接下来是我们的下一个研究故事，我们有快速、高效的神经网络复制蜻蜓大脑。这篇文章来自IEEE Spectrum杂志的Francis Chance。Francis Chance是一名计算神经科学家，Sandia国家实验室的技术人员。

所以我认为这不算真正的研究，但这是她从一些更随意的实验中写的一篇文章。总结基本上是，它探讨了蜻蜓作为动物是多么有趣。尽管它们相当简单，但它们可以做一些惊人的事情，就像大多数动物一样。

它探讨了她如何尝试制作一种模拟它们生物大脑的人工神经网络，以及由此产生的一些影响和她的经验。所以，是的，我认为这是一个有趣的阅读。它不是很技术性，但

看到你可以了解蜻蜓的知识以及你可以用你的网络复制什么是相当有趣的。

我认为这里有一点需要注意，我认为标题可能有点夸大。它只是创建一个用于模拟昆虫交互的神经网络。因此，它仍然处于模拟阶段。并不是说它以某种方式被部署并且突然可以与昆虫互动。这个机器人蜻蜓不能与其他昆虫和其他蜻蜓互动，也并不是在每个方面都准确复制蜻蜓的大脑。

是的，这是一个非常好的观点。实际上，它只有一个简单的三层全连接网络，并且仅被训练以通过跟踪头部运动和决定运动来执行与蜻蜓相同的任务。因此，它根本没有复制大脑，实际上只是复制了一些表面的行为。但仍然，这是一个相当有趣的阅读。

这里有一些有趣的细节，比如蜻蜓在捕猎时需要提前瞄准猎物的当前位置。他们需要在猎物机动的50毫秒内做到这一点。

然后如果你考虑到发生的所有事情，这意味着信息处理需要在大约三到四层神经元中顺序发生。就这样，然后再发送运动控制。所以我觉得这很有趣，以及它如何与实验联系在一起。这非常酷，尤其是因为它是如此小的网络。也许它可以被解释。

接下来是我们的伦理与社会文章。第一篇来自《连线》，标题是“人工智能在最近的测试中写出了比人类更好的网络钓鱼邮件”。基本上，研究人员发现，使用GPT-3，OpenAI的大型语言模型，以及其他人工智能服务平台，

他们可以写出比人类更好的网络钓鱼邮件。这非常令人担忧，因为任何人都可以利用这些服务并能够发起一些网络钓鱼信息以获取信息。

以规模进行此操作，并且当然，像从人们那里获取金钱，传播病毒，传播那种类型的东西。这让我想到，这将是一个日益严重的问题，其中来源和检测将变得重要，但也需要教育以帮助人们检测这一点，并帮助人们意识到这一点。

这确实让我想到，互联网对所有年龄和群体并不公平，因为这意味着一些人肯定会更容易受到影响。我认为更多的人会比以前更容易受到网络钓鱼的影响。这不再是一个关于避免尼日利亚王子索要金钱的笑话，而是一些非常现实的事情正朝你走来。

是的，我发现有趣的是，他们实际上区分了网络钓鱼，这已经是常见的，带有模板消息的那种。对吧。他们在这里称之为“针对性网络钓鱼”，我想这更具针对性且更费力。这就是我可以介入的地方，正如你所说，这在有效性方面可能更令人担忧。

在过去，训练一个人工智能模型来做这种事情需要很多工作。因此，也许这并不值得。但现在，来自新加坡政府技术机构的这个团队展示了，你可以仅使用几个人工智能服务平台和GPT-3来做到这一点。因此，仅使用可用的API，而不是编写代码，也不训练任何模型，他们就可以将这个东西拼凑在一起。

这比我预期的要多，老实说。他们展示了，在他们的测试中，你可以获得比人类撰写的信息更多的点击。因此，这是一个小实验。这不是一篇完整的研究论文，但绝对是值得关注的事情。随着语言模型不断增大，也许我们会看到这种情况发生。

我认为文章中一个有趣的点是，虽然一些API，如OpenAI的GPT-3，有相当严格的规则，但还有其他人工智能服务公司并没有

提供免费试用，知道的，不要求信用卡，也不验证你的电子邮件地址，使得在没有任何身份验证的情况下非常容易生成内容。即使电子邮件识别并不完全是身份识别，但你知道，非常非常容易开始。我认为这就是令人担忧的地方。是的，确实如此。这非常有趣，我认为，

我认为我们谈论过深度伪造，迄今为止并没有太多问题，这与此有些相关。但随着变得更容易和更便宜，这似乎是不可避免的，网络钓鱼将变得困难，这让人有点伤心。但是的，我想这是不可避免的。

好吧，接下来是另一篇伦理上令人困扰的论文，这也是有点令人沮丧，但也许没有那么多。我们有这篇文章，或这篇来自《连线》的文章，标题是“这些算法查看X光片并以某种方式检测到你的种族”。

这篇文章涵盖了论文“阅读种族：人工智能在医学图像中识别患者的种族身份”，这篇论文由大约20位来自不同机构的作者撰写，15个不同的团体。总结基本上如标题所示，这些经过训练的人工智能系统可以预测患者的种族身份，自我报告的种族身份。

尽管据我们所知，他们不应该能够做到这一点。因此，作者和医学专家无法知道这些算法是如何预测一个人的种族的。这意味着这可能是偏见的情况，在这种情况下，这是有问题的，并且可能意味着这些模型对某些种族的效果比其他种族差。

我相信这是第一次从纯医学图像中以这种方式看到这一点。我认为要更深入地探讨这篇文章，并从论文中提取一些东西，

基本上，如果你的任务是检测种族，你可以以非常高的ARC做到这一点。基本上，你可以非常调优算法以检测种族。甚至有99%的准确率。对于许多任务来说，这并不容易。

因此，为种族做到这一点意味着我们可以，如果我们为此进行训练，它可以看到种族。

当然，如果你为其他任务训练你的算法，然后看看它是否隐含地学习了种族，那么准确率会更低，可能在0.8左右，或者在某些情况下，甚至高达0.9。因此。

是的，我认为我对此并不感到惊讶，但我实际上对整体准确率的高度感到相当惊讶，尤其是因为，知道，检测癌症。在这种情况下，我想像是肺炎或结节或X光片中的各种东西，知道这可能非常困难。因此，这是一个简单的任务，但人类看不到，而算法可以。这绝对是值得反思的事情。

是的，确实如此。有趣的是，我们知道，例如，

已经有案例，其中经过训练的模型仅被训练以查看X光片等图像上的文本。我们知道这一点，但我不相信这就是这里的情况。作者进一步测试了各种条件。例如，他们降低了X光片的质量，以至于即使是经过训练的眼睛也无法读取。

然后软件仍然可以做到。算法仍然可以预测种族。因此，这可能不是令人担忧的，具体取决于他们如何做到这一点，但这确实暗示，如果他们可以做到而人类无法做到，可能会存在一些不当的关联和后续问题。

我认为这引发了公平性的问题，以及我们是否可以消除这些偏见，并考虑到，仅仅通过某种简单的模糊或降采样，我们无法轻易消除它。我们需要认真思考在部署这些类型的模型时。是的，在这种情况下，这也很有趣，因为据我所知，他们并没有证明这会导致在正确识别癌症或这些事情方面的表现更差。因此，这是另一个问题，

如果我们不知道为什么存在偏见，是否默认去消除偏见是好的？还是在这些工具甚至可以部署之前，需要更多的研究？这似乎是一个有趣的开始，可以在这项研究之后进一步探索。

对，绝对如此。我确实见过一些工作，如果你去除与偏见最相关的变量，如果你实际上去除种族，甚至会导致整体准确率下降，实际上对弱势群体的准确率也会下降。因此，解开这些事情并知道该优化什么是非常困难的。是的。

为了稍微轻松一点，我们的有趣文章。第一篇是Tably，一款人工智能驱动的相机应用，给你更深入的了解你猫的健康和情绪。这篇文章来自Mark Tech Post。因此，Tably是，

Sylvester.ai的新人工智能驱动软件，可以帮助你更好地理解你猫的感受，因为这绝对是你需要的。我实际上认识一个与我非常亲近的人，他非常需要这个或更确切地说是想要这个。因此，如果你想更深入地了解你猫的情绪或感受，

我想知道你的猫到底有多生气？如果你有一只生气的猫，也许它总是生气。它实际上是基于这个，

实际的量表，称为猫咪皱眉量表，以检测你猫有多不高兴，这非常可爱。是的，这非常有趣，你对着它的脸拍照，然后显然它可以给你这些预测，

显然我猫喜欢我抚摸它的方式，或者类似的东西，你知道，猫很难读懂，你知道，作为一个与猫同住的人，这可能会很有用。因此，是的，这是一个可爱的故事，如果这真的有效，那么你知道，人工智能又赢了。

我们本周还有另一个有趣的故事来结束。我们有一个男子利用机器学习、人工智能、面粉和非常响亮的警报器来防范包裹盗贼。这篇文章来自PC Gamer。这是关于一位YouTuber制作的一个YouTube视频的简要介绍，他制作不同的黑客技术，基本上是一些有趣的小创作。在这里，

有一个监视前廊的相机，他将其与TensorFlow连接，并识别包裹是否在前廊上。还识别出当包裹被取走时，如果取走的人不是他。因此，有一个小名单，列出了被允许的人。如果包裹被取走，就会发出警报，还有一个面粉枪。

所以，你知道，这只是一个有趣的小黑客，基本上，但如果你想了解如何在一个月内使用机器学习将某些东西拼凑在一起，这可能是一个有趣的观看示例。

我希望他能在亚马逊上出售这个系统。我觉得很多人会想要这个。我包裹被盗的记录是被Nest Cam发现的，仅用两分钟。因此，是的，我的意思是，包裹盗贼。我想这在疫情初期会很有用。你知道吗？是的，我认为你是对的。我认为这可以成为一个真正的产品。我实际上认为可以。我不知道。

这真的很有趣。是的。所以虽然有趣，我实际上认为我会非常愿意购买它。是的。

是的，这个名为Ryan Calm Down或Ryder Calm Down的YouTube频道还制作了一些其他有趣的黑客，比如他有一个视频叫做“狗探测器”，让我感觉更好，专门检测狗在他家外面走动的情况。

这是在隔离期间。那真的很可爱。是的，看到一些有趣的人工智能黑客，而不是我们所涵盖的许多严肃的事情，真的很有趣。好的，这就是我们这一集的全部内容。如果你喜欢我们对这些故事的讨论，请务必分享并评论我们的播客。我们会非常感激。现在，请务必再停留几分钟，听听我们自己的播报员Daniel Bashir为你带来的几则有趣新闻故事的快速总结。

谢谢你，Andrey和Sharon。现在我将介绍一些我们没有涉及的其他有趣故事。首先，在研究方面。正如VentureBeat报道，自然语言处理领域发生了范式转变，采用了一种称为基于提示的学习的方法。

在此方法之前的预训练和微调范式涉及训练像BERT这样的模型来完成一系列不同的语言任务，这将使其能够学习通用的语言特征。这些预训练模型随后可以通过特定任务的优化进行调整。

基于提示的学习允许研究人员操纵预训练语言模型的行为，以预测所需的输出，有时无需特定任务的训练。例如，我们可能想要对电影评论“不要看这部电影”的情感进行分类。我们可以在句子后附加一个提示，以获得“不要看这部电影。它是_____。”

而语言模型可能会为该句子的下一个单词“糟糕”分配比“好”更高的概率。提示并不总是容易创建，并且存在许多限制，但研究表明，基于提示的学习是一个有前景的研究领域，并将在未来几年继续发展。

我们的第二个故事转向商业方面。总部位于首尔的教育科技初创公司Mathpresso希望颠覆辅导行业。它运营着移动应用程序Q&A，学生拍摄数学问题的照片，应用程序的人工智能系统搜索答案。根据《福布斯》的报道，该初创公司本月早些时候完成了一轮5000万美元的投资，由软银主导。

在这一轮融资后，该公司的总资金达到1.05亿美元，估值低于5亿美元。根据Mathpresso的网站，Q&A应用程序已解决了来自50多个国家的近1000万用户的25亿个数学问题。在韩国，三分之二的学生使用Q&A。

Mathpresso计划利用新资金开发算法，以创建个性化学习内容，推荐学生可能遇到困难的类似问题。根据他们的首席执行官，Mathpresso计划在不久的将来上市。最后，一个关于人工智能与社会的故事。