A test to weed out AI-generated deepfake images
06:58 Share

AI生成的深度伪造图像在社交媒体上随处可见。现在，您可以参加西北大学开发的一项测试，看看自己能否识别出这些图像。Marketplace的Nova Safo参加了这项测试，他筛选了一堆真实和虚假的图像。他答对了六道题中的五道，这与西北大学进行的一项研究中的平均水平一致。首席研究员Matt Groh还帮助开发了一个试金石测试，一系列用于识别深度伪造图像的方法。</context> <raw_text>0 本播客由全球人才解决方案和咨询公司LHH为您呈现。工作究竟意味着什么？对许多人来说，它只是交易性的、功能性的。但LHH认为它可以更多。工作不仅仅是任务和期限。它关乎激情、人和可能性。有了正确的指导和远见，在工作中可以发生令人难以置信的事情。找到完美的雇员，培养人才，使平凡变得非凡。

LHH不仅仅是在工作中寻找美好的时刻。LHH创造了它们。招聘、发展、职业转型。LHH，一个美好的工作世界。访问LHH.com/beautiful了解更多信息。你有多擅长发现AI生成的假图像？来自美国公共媒体，这里是Marketplace Tech。我是Novosafo。

AI生成的深度伪造图像在社交媒体上随处可见，您可以参加西北大学开发的一项测试，看看自己有多擅长发现它们。我自己也参加了测试，筛选了一堆真实和虚假的图像。好的，现在是两个男人坐在公园长椅上看手机。我要选……

我答对了。这是一张合成图像。所以我答对了六道题中的五道，这与西北大学进行的一项研究中的平均水平一致。首席研究员Matt Groh还帮助开发了一个试金石测试，一系列用于识别深度伪造图像的方法。

这里的分类法是解剖学上的不可能性，比如脖子太长，你知道，六根手指之类的东西。风格伪影。这是指图像太蜡质或太闪亮。或者功能上的不可能性。比如吉他弦或网球拍弦的张力不像你预期的那样。或者其他任何类似的事情。违反物理定律。或者

阴影与场景中的其他阴影以及你对光源的预期不匹配。然后是社会文化上的不可能性，它与任何社会、文化或历史背景都不相符。你发现这些分类法中的一些标准，如果照片中存在这些标准，就更容易

识别并说，哦，这是一张假图像，而不是其他一些标准，哪一个最容易识别，哪一个最难识别？这当然取决于个人。但是，你知道，解剖学上的不可能性在许多方面是最明显的。这是因为，你知道，我们习惯于看到很多人。所以当你看到图像中出现多余的腿时，你会立即知道那张图像是不可信的。在

同时，图像中是否有三条腿可能并不总是那么明显。所以我可以用篮球运动员的图像给你展示，如果你看15或20秒，你可以看到奇怪的腿，它看起来像第三条腿，但实际上它并不是立即就能看出来的东西。所以也许最好的思考方式是……

如果你小时候玩过“找瓦尔多”游戏，你就会体验到这种感觉：你知道瓦尔多就在你面前，但你找不到他，直到你花了几分钟时间，你不得不把聚光灯对准瓦尔多，然后说，啊，那就是瓦尔多。接下来，我们从瓦尔多到丹波。是的，迪士尼的角色。我们马上回来。

本Marketplace播客由Greenlight赞助。作为Marketplace的听众，你可能已经在为你和你的家人建立聪明的理财习惯，试图灌输关于储蓄、消费和整体经济的重要教训，以及你生活中更年轻的人。但是，对于老一辈人呢？你的父母、祖父母、阿姨和叔叔？随着年龄的增长，他们可能也需要更多支持来管理他们的财务。

借助Greenlight的Family Shield，你可以通过保护你的老年亲人免受诈骗和金融欺诈来采取下一步行动。Family Shield提供账户监控、实时警报和保障，包括高达10万美元的欺诈性转账欺诈和100万美元的身份盗窃，这样你就可以让你的整个家庭在经济上安全可靠。并通过SOS和碰撞警报等附加安全工具以及位置共享，你可以关注你家人的钱包和他们的福祉。

从孩子到祖父母，用Greenlight的Family Shield照顾你的整个家庭。今天就访问greenlight.com/marketplace注册。如果你难以跟上所有最新的科技创新及其对你的生活的影响，TED Tech可以帮助你。通过关于一些最大科技理念的易于理解的下载内容，走在时代前沿，从人工智能和虚拟现实到清洁技术。在任何你收听播客的地方都可以找到TED Tech。

你正在收听Marketplace Tech。我是Novosafo。我们又回到了西北大学教授Matt Groh这里，他研究了我们识别AI生成的假图像的能力。

你刚才描述的所有这些研究和这些东西，有多少也适用于现有的视频？因为我们开始看到一些非常复杂的AI生成的视频。是的，我知道。我认为你指的是来自谷歌的VO3。我认为这一切都适用于视频。

但这取决于。好的，让我来考虑一下这个框架。我们谈到了解剖学上的不可能性。在一张图像中，解剖学上的不可能性必须存在于特定的帧中。在视频中，解剖学上的不可能性，如果你只找到一个单帧，你知道，每秒大约有22帧。这意味着在10秒钟内，你已经有220帧了。如果有一个

单一的解剖学上的不可能性，这将很快能够让人知道这里有什么问题。在我们论文的最后，我们展示了一个Sora视频，这是一个例子。你知道，Sora是OpenAI的一个模型。当它发布时，他们展示了一个女人走在看起来像是东京的街道上。

在第16秒，发生的事情是她的左腿变成了她的右腿。换句话说，而不是前后、前后地迈步，或者一步、两步，它们以我从未见过的方式旋转。我知道没有人这样走路。这只是……

物理上不可能。所以这可能是解剖学上的不可能性和物理上的不可能性的一种结合。但这里的想法是，我们正在构建一种语言，我们可以通过它快速识别某些东西可能是伪造的原因。

现在，如果你是一个普通用户，试图处理所有这些并弄清楚哪些是真实的，你会给人们什么建议？第一个建议是，今天要比10年前更具怀疑精神。

不要自动相信一切，有时要仔细检查一下。你知道，我会引用卡尔·萨根的一句话。卡尔·萨根说，非凡的主张需要非凡的证据。例如，我在西北大学的密歇根湖边有一个办公室。如果我告诉你我看到一头大象飞过，你会说，

不，不，就像我看到丹波一样，但这不真实。现在，如果我说，好吧，让我给你看丹波飞过的视频。我分享的视频看起来很逼真，一点也不卡通。你也会说，马特，我们实际上是在谈论VO3。我知道这可能会发生。现在，如果我……

把你带到这里，你亲眼看到了，也体验到了，你可能也会说那不真实。然后如果我让你从降落伞上跳到那东西上，你给它挠挠耳朵什么的，你会说，好吧，实际上，我很惊讶，但这可能是真的。所以你真的不能相信你撒谎的眼睛。没错。所以我要说的是不要相信你撒谎的眼睛

你知道，有一句谚语，眼见为实。但这是谚语的第一部分。还有第二部分。第二部分是，但感觉才是真相。

眼见为实，但感觉才是真相。在这里，感觉不仅仅是你的一般情绪。它是以最完整的内容体验情况。所以你拥有的每一个感觉，也把它与你过去的经验和记忆联系起来，这都是你如何识别真相的一部分。但视觉只是我们获得真相的许多感官之一。

这是西北大学人类人工智能合作实验室的Matt Groh。我们网站marketplacetech.org上将提供西北大学这项研究的链接，以及该在线图像测试的链接。Jesus Alvarado和Daniel Shin制作了这一集。我是Nova Sapo，这是Marketplace Tech。这是APM。嗨，我是Katie Drummond。我是Wired的全球编辑总监，我很高兴能加入我们旗舰播客《Uncanny Valley》的主持人。

这是一个关于硅谷的人们、权力和影响的节目。它由一些令人惊叹的Wired作家和编辑主持，他们每周都会讨论硅谷的技术和文化对我们日常生活的影响。但我们还在该节目中添加了另一集，由我主持。每周，我都会与我们一位非常忙碌的Wired记者或编辑进行一次紧急对话，讨论本周的新闻。

我们的记者不断提出聪明的问题，以找出这些问题会导致什么结果，并帮助你更好地了解世界的发展方向。我希望这个新的每周节目能做到这一点。确保你在你选择的播客应用程序中关注《Uncanny Valley》，这样你就不会错过任何一集。