We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode A test to weed out AI-generated deepfake images

A test to weed out AI-generated deepfake images

2025/6/4
logo of podcast Marketplace All-in-One

Marketplace All-in-One
AI Deep Dive AI Chapters Transcript
People
M
Matt Groh
N
Nova Safo
Topics
Nova Safo: 我亲自参加了西北大学开发的AI深伪检测测试，六个图像识别对了五个，与西北大学研究的平均水平一致。Matt Groh还开发了一个测试方法，通过一系列特征来识别deepfakes。 Matt Groh: 识别deepfakes可以从多个角度入手。首先是解剖学上的不合理性，比如脖子过长或六根手指。其次是风格上的瑕疵，比如图像过于蜡质或光亮。再次是功能上的不合理性，比如吉他或网球拍的弦没有拉紧。此外，还可以观察阴影是否与场景中的其他阴影匹配，以及是否符合社会文化历史背景。解剖学上的不合理之处通常最容易被发现，因为我们经常看到人，所以当看到多余的腿时，会立刻意识到图像不真实。在视频中，即使只在一帧中出现解剖学上的不合理之处，也很容易被发现。例如，Sora视频中，人物的腿部动作不符合常理，这结合了解剖学和物理上的不合理性。我们正在构建一种语言，以便快速识别出图像或视频可能是伪造的原因。

Deep Dive

Shownotes Transcript

AI-generated deepfakes are everywhere on social media. Now, you can take a test developed by Northwestern University to see how well you spot them. Marketplace’s Nova Safo took the test, sifting through a bunch of real and fake images. He got five out of six right, which is the average in a study Northwestern conducted. Lead researcher Matt Groh also helped develop a litmus test, a series of things to look for to spot deepfakes.