Does a picture prove anything anymore?
47:03 Share

Millions of people now own smartphones where, with just a tap, you can erase people from pictures -- and even add AI generated content that never existed. What does this mean for our shared reality?</context> <raw_text>0 本播客的支持来自On Air Fest。WBUR是On Air Fest的媒体合作伙伴，On Air Fest是2月19日至21日在布鲁克林举办的关于声音和故事讲述的节日。今年的阵容包括SNL的詹姆斯·奥斯汀·约翰逊以及《死亡、性与金钱》的销售以及200多位其他创作者。OnAirFest.com。这是On Point。我是梅格纳·查克拉巴蒂。谢谢。

我今天要从一个问题开始。我不会立即回答它，但它为我们将要进行的谈话提供了一种引人入胜的精神背景。所以现在，也就是美国东部时间1月13日星期一上午10点，这是我们第一次播出这个节目的时候。问题是，洛杉矶的好莱坞标志是否着火了？好的。记住这一点。

我不知道你是否可能已经听说或看到了一些关于这方面的事情。现在，我们生活在一个视觉感官是最主要感官的世界里。我的意思是，对于有视力的人来说，我们眼睛所看到的东西是对现实最强大的确认。这就是为什么会有“眼见为实”这样的说法。或者在社交媒体时代，更常见的一种说法是“有图有真相”。

人们在有人提出非同寻常的主张时往往会这么说。给我们看事件的照片，否则我们不会相信你说的是真的。但当然，自从最早的银版照相术以来，摄影一直也是一种视觉操纵的媒介。现在，我敢说，有了最新的智能手机技术，你最好对任何照片都持怀疑态度。为什么？

好吧，以谷歌为例。谷歌广受欢迎的Pixel智能手机系列有一个名为“魔法编辑器”的照片功能。你用手机摄像头拍照，然后只需轻轻一点，你就可以从照片中完全擦除某物或某人。就像那个在林肯纪念堂给你拍照时乱入的奇怪游客一样。你可以直接移除那个人。

你也可以移除照片中的周围物体。你可以移动它们。你可以让它们变大或变小。当然，你也可以改变颜色。现在，使用“魔法编辑器”，你甚至可以向你的照片添加AI生成的內容。比如，用晴朗的天空代替阴天。换句话说，你可以创造一张从未真正发生过的事情的照片。

现在，全世界数百万人都拥有谷歌Pixel手机。据《日经亚洲评论》报道，2023年，这家科技公司出货了约1000万部此类手机。据报道，谷歌最新的手机Pixel 9帮助谷歌在北美智能手机市场的份额从2024年9月到10月从5%跃升至近13%。

去年春天，谷歌又迈出了一步。它宣布将“魔法编辑器”免费提供给任何使用谷歌相册的人，而不仅仅是拥有Pixel手机的人。

当然，谷歌并不是这场照片处理游戏的唯一参与者。三星和苹果也在推出或正在开发类似的技术。所以，这三家公司加起来，基本上就涵盖了全球整个智能手机市场。这是一个很酷的工具，但它会对我们的现实感产生什么影响呢？即时的、随身携带的编辑，它怎么能让虚假的东西看起来真实呢？

感觉真实。那么，当涉及到创造既能释放无限创造力又能释放弥天大谎的工具时，我们该如何在个人和社会之间取得正确的平衡呢？好吧，我们今天将从谷歌本身开始。艾萨克·雷诺兹加入了我们。他是谷歌Pixel相机产品总监。艾萨克，欢迎来到On Point。

你好。很高兴今天能和你在一起。首先，让我们从技术角度深入探讨一下。Pixel手机上的“魔法编辑器”是如何工作的，以及如何重新构想这些新功能？是的。很明显，当你拿到你的Pixel手机时，你拥有这个功能齐全的相机和编辑包。“魔法编辑器”在你使用谷歌相册时会出现，当你

浏览你的照片。你已经挑选了完美的图片来分享，这张照片最能代表你拥有的记忆，并且你想与你的祖母分享你假日的早晨。但在你分享之前，在你真正尝试讲述这个故事之前，有一些小事情你需要清理一下。然后

你可以在谷歌相册中使用“魔法编辑器”，就像你说的那样，移除背景中的一些小东西，这些东西可能会分散你对事件记忆的注意力。因为我不知道你怎么样，但我对假日早晨的记忆是快乐和幸福以及家人。我不太记得昨晚可能忘记倒掉的窗台上的咖啡杯。所以我可以用“魔法编辑器”或“魔法擦除”功能去除这些东西。这样它们就不会分散故事的注意力了。所以我得到的照片更符合我的记忆。

当你这样做的时候，这是非常简单的。我们喜欢让事情对人们来说非常简单和自动化。所以，当你第一次进入“魔法编辑器”并选择擦除时，你只需用一根手指点击咖啡杯。

然后算法将进行处理，并尝试确定你是在点击整个窗台还是只是咖啡杯，或者可能是背景深处的人。识别出它及其完美的轮廓，然后自动将其移除。现在，人工智能确实是这项工作的完美工具，对吧？因为人工智能在模式识别方面非常出色，而这本质上就是这里发生的事情。是的。你可以想象我过去所说的简单案例，比如

我不知道，蓝天。蓝天真的很容易弄清楚中间是什么，因为它左边是蓝天，右边是蓝天。你只需要在中间放一些蓝天，一切看起来都很完美，你的眼睛会直接掠过它。但是随着模式变得越来越复杂，比如我可能会把砖墙称为中等复杂的模式。

你真的需要更大的模型来识别更大的上下文信息，并弄清楚这两块砖之间的灰浆是什么样子，并确保灰浆线在砖块的左右两侧也对齐。然后……

从某种意义上说，我猜想检测人们想要移除的东西（例如咖啡杯）的边缘是一回事，虽然我会说我们家里有一些古怪的咖啡杯，而且它们每个……

都有自己的故事。所以也许我不想把我们家窗台上的咖啡杯拿走。但是找到边缘是一回事。但是再告诉我一些，因为你知道，视觉AI生成器被指责的一件事是，比如放一些疯狂的东西，比如九个手指的人，本质上是这样。它如何知道如何用你所说的砖块图案的延伸来替换它？

因为在大多数情况下，当你看到砖块图案时，砖块图案之间的是更多的砖块图案。这是常见的事情。这些算法经过数百万张图像的训练，知道通常情况下，树皮之间的是另一块树皮。或者当你拍一张满是沙子的海滩照片时，你可能想要移除的那块垃圾后面很可能还有另一块沙子。对。

还有一些工具更具创造性表达力，它们允许你描述你想要放置的东西，而不是沙子。你可以在Adobe工具、谷歌工具以及其他工具中找到这些工具，在那里你可以说，在这种特定情况下，

我确实想用……我不知道，一条沙滩巾来替换那块垃圾。也许这更符合你的场景和你的记忆。你可以做这些事情。那么替换功能是重新构想功能吗？是的。

是的，有很多不同的功能。你可以让图像更宽一些，比如取消裁剪，你可能会这样称呼它。你可以使用“重新构想”功能用一些更符合你的上下文和更广泛记忆的东西来替换图像的一部分。你可以擦除东西，并用……让我们说，你的眼睛会忽略的东西来替换它们，就好像它们根本不存在一样。

你可以用这些工具做很多很多不同的事情，来制作一张更符合你的记忆和你记忆中情境的图片。我明白了。好的。所以，艾萨克，请稍等片刻，因为我还想和你聊聊……

为什么谷歌决定将此功能不仅放在Pixel手机上，还放在谷歌相册上，供任何使用谷歌相册的人使用。我们稍后会谈到这一点。这是On Point。♪

On Point的支持来自Indeed。你刚刚意识到你的企业昨天需要招聘员工。你如何快速找到优秀的候选人？很简单，只需使用Indeed。无需等待。你可以使用Indeed加快招聘速度。

On Point的听众将获得75美元的赞助职位积分，让你的职位在Indeed.com/On Point上获得更多关注。现在就访问Indeed.com/On Point，并通过说明你在本播客中了解到Indeed来支持该节目。Indeed.com/On Point。适用条款和条件。招聘？Indeed就是你所需要的一切。

本播客的支持来自On Air Fest。WBUR是On Air Fest的媒体合作伙伴，On Air Fest是2月19日至21日在布鲁克林举办的关于声音和故事讲述的节日。今年的阵容包括SNL的詹姆斯·奥斯汀·约翰逊以及《死亡、性与金钱》的销售以及200多位其他创作者。

你回到了On Point。我是梅格纳·查克拉巴蒂。今天我们讨论的是智能手机中的AI技术，不仅仅是谷歌Pixel手机，三星和苹果也在开发类似的技术，它可以让你基本上立即更改照片，并将其变成你希望它成为的记忆。这意味着你可以移除东西、物体、人，你也可以添加东西。听起来这是一个非常棒的创造力工具。

但这同时也引出了一个问题，即它如何影响我们与照片应该代表的现实之间的关系？艾萨克·雷诺兹今天加入了我们。他是谷歌Pixel相机产品总监。艾萨克，我完全承认，自从摄影诞生以来，它一直是一种媒介，正如我之前所说，它一直受到各种操纵。我过去经常进行暗房编辑，那时暗房更常见。

真正的暗房。即使是打印黑白照片的行为，也是一个主观决定，对吧？因为我们不是黑白看到的。但我也会花很多很多很多时间来弄清楚对比度等等。这些都是主观决定。所以，并非这种能力的存在受到质疑，而是你能够发挥的程度。

所以让我问你这个问题。例如，手机中的技术是否有任何防护措施，例如，说，不，你不能把尸体放在照片的背景中？

是的，我认为你对编辑提出了一个有趣的观点。首先，编辑绝不是什么新鲜事。大多数人都熟悉“用Photoshop去除”这个动词的概念。但我很快就会给你一个回顾。多萝西娅·兰格在20世纪30年代拍摄的“迁移母亲”照片，在许多版本中，都去除了一个拇指。

追溯到近一个世纪前，你不仅可以修改对比度和曝光度，还可以真正从图片中移除部分内容。我认为你很好地指出，编辑绝不是什么新鲜事。我谈论的是上下文。我认为上下文是我们所有参与这项技术和沟通生态系统的人必须正确处理的一部分。

不仅是今天，老实说，作为社会，我们应该在10、15、20、30、50年前就应该做这些事情。例如，谷歌所做的一件事是，我们提供这些引导式体验，以便人们绝大多数时间想要做的绝大多数事情都是自动化的和简单的。这些事情包括移除背景中的一些小人物。

或者设置安全过滤器，以便显然不合适的图像根本无法创建。或者附加这种名为IPTC的元数据，这是谷歌附加到使用某些类型的AI进行编辑的图像的行业标准元数据。这些都是所有工具（包括共享工具和社交网络）可以做的事情，以使这种图像变得更安全。不是新的，但我们应该很久以前就开始做的事情。

关于这些引导式体验，甚至是在不当内容上设置一些防护措施，让我们回到艾莉森·约翰逊那里。再说一次，她在The Verge工作。正如我之前所说，她和她的同事们在谷歌Pixel 9设备上尝试了“重新构想”功能。

然而，他们发现他们可以让AI在图片中生成一些相当令人毛骨悚然的东西。车祸、仍在公共场所冒烟的炸弹、似乎覆盖着血腥尸体的床单、毒品用具。我们去年年中在一篇她写的文章中第一次读到这篇文章。她再次说道。你可以添加一些……

令人作呕的东西到一盘食物中，比如一只虫子，看起来好像有人给你端上了食物，里面有一只蟑螂。或者让它看起来像街上发生了一起自行车事故，或者

像“碰撞”或“火灾”这样的大型红色警示词，周围有一些防护措施，但我们是骑手。所以我们很有创意，但这并没有超出任何其他人可以做的事情的范围。乍一看，如果你只是在滚动浏览社交媒体，尤其如此，它看起来完全逼真。灯光，渲染方式，说实话，这让我们感到害怕。是的。

所以，艾萨克·雷诺兹，我想这意味着这些防护措施不够强大？我认为这取决于图片和图片周围的上下文。因此，The Verge展示了，我认为她描述了一张毒品用具的图片，这可以解释为一张相当良性的图片，除非The Verge将其与这个特定上下文放在一起。

那就是某种非法的不好的东西。但同样的“毒品用具”一直被自我注射药物的人使用。在医生的监督下自我注射处方药没有什么错。然后稍后喝了一瓶葡萄酒，我认为这也在艾莉森制作的图像中。所以重要的是上下文。

以及我们如何描述与它们相关的元数据以及我们与它们一起使用的标题，这些都需要传递给最终客户和最终用户。我认为真正重要的是确保图像带有上下文。几十年来，图像一直被断章取义地使用。有很多这样的例子。

好吧，关于这些引导式体验，甚至是在不当内容上设置一些防护措施，让我们回到艾莉森·约翰逊那里。再说一次，她在The Verge工作。正如我之前所说，她和她的同事们在谷歌Pixel 9设备上尝试了“重新构想”功能。

它对我来说是轻薄的，因为显然，正如你刚才所说，这完全取决于上下文。所以我会说，从技术上讲，任何东西都是允许的，这取决于上下文。但艾莉森发现这份声明令人不满。以下是她告诉我们的内容。放置毒品用具违反了服务条款，这就像，好吧，是的，绝对的。

我们违反了规则，但其他人也可以违反规则。将这些东西推向市场并交付到人们手中是如此匆忙。但安全防护措施远远落后。谷歌当然知道，我认为这些公司也知道，我们必须……

对抗其令人毛骨悚然的不实信息方面的工具远远落后于创建不实信息的工具的可用性。所以，艾萨克·雷诺兹，这是我根据此提出的最后一个问题。那就是，我完全理解数十亿人会喜欢在指尖拥有一个能够执行你所说的那些事情的工具。只需从你不想看到的图像中移除分散注意力的东西。就像，真正创造你心中和脑海中的时刻一样。完全理解这一点。但这个不实信息部分是一个很大的问题。这让我回到了我一开始提出的问题，正如你听到的那样，那就是，好莱坞标志现在是否着火了？我之所以这样问，是因为……

在社交媒体上，伴随着图片，出现了猖獗的不实信息。我不是说——我不是说它们是由谷歌Pixel手机或谷歌相册生成的。我不知道。但好莱坞标志着火的消息已经传开了。鉴于社交媒体可以以惊人的速度将信息传播到世界各地——

这让人不禁要问，像谷歌这样的公司是否认为自己负有任何责任，以尽可能困难或实际上不可能的方式来防止使用你们的工具来制造这样的不实信息？我认为当图像通过社交媒体在互联网上传播时，

人们误解了图像试图表达的内容。因为你和我都知道，我们都进行过对话，我认为每位听众都与可能是一位亲人进行过对话，他们记得同样的对话，但不知何故，结果、意图或细节却大相径庭，即使是同样的对话，你们两人都亲身在场。所以意义是由创造者和观众平等创造的。

我认为当这样的事情在互联网上传播时，我们需要确保它们带有上下文。例如，我告诉你，谷歌会在我们使用AI修改的图像中嵌入IPTC标签。我希望这些标签能够非常清晰地显示出来，以便人们对他们正在查看的内容有更好的了解。但同时，人们也应该有点怀疑，他们也应该一直对图像持怀疑态度。

每次你看到《纽约时报》文章顶部的图片时，你都应该问问自己，他们试图用这张图片讲述什么故事？为了选择这张特定的图片，他们筛选了多少张图片？是什么让这张特定的图片讲述了他们想要讲述的故事？

对于图像来说，这始终是正确的。对于图像来说，这将永远是正确的。我认为人们应该始终持怀疑态度，无论是谁发布了图像，它在哪里共享，或者图像有多旧。因为就像我说的那样，你已经能够编辑图像很长时间了。所以让我进一步阐述这一点。我完全接受你的……

关于意义可替代性的例子。绝对的。但我们谈论的是事实，对吧？以及对事实的歪曲。

所以关于元数据的观点，我的意思是，谷歌是否会考虑说，好吧，每次你使用我们的工具生成或处理照片时，与其将AI影响的信息埋在元数据中，我们只需在其上添加一个水印，一个视觉水印，这样当你将其发布到社交媒体上时，它就会显示“这张照片经过AI处理”。谷歌是否愿意这样做？

我认为我们一直在倾听用户提出的要求以及什么有效以及什么无效。例如，你今天在这里问我这个问题，是我们获得的关于需要做正确的事情、应该改变什么以及什么有效的信息的一部分。因此，如果添加你所描述的那种水印最终成为正确的解决方案，那就太好了。

但我们想做的是让每个人都使用行业标准元数据，例如IPTC，然后它实际上就是你所描述的，但无需在必须经过每个不同平台的图像顶部添加这个笨拙的水印。所以我们将首先尝试最佳解决方案。然后，如果你和我们的客户不断地说，也许这样，也许那样，也许那样，那么当然我们会倾听，我们会做出改变。

艾萨克·雷诺兹是谷歌Pixel相机产品总监。艾萨克，非常感谢你加入我们。很高兴来到这里。好的，现在让我们转向哈尼·法里德。他是加州大学伯克利分校信息学院、电气工程与计算机科学学院的教授。他也是Get Real Labs的联合创始人兼首席科学官，该公司开发检测被操纵媒体的技术。法里德教授，欢迎回来。谢谢。

来到On Point。梅格纳，很高兴再次和你交谈。哦，有很多事情要讨论。我们为什么不从艾萨克·雷诺兹结束的地方开始呢？那就是，元数据、AI识别和元数据是否令人满意？这足够了吗？还是在理解AI如何操纵照片时，我们需要更多的东西？这还不够。艾萨克知道这还不够。而他没告诉你的是，

元数据很好。我们喜欢元数据。但他没有告诉你的是，所有社交媒体平台，包括谷歌的、脸书的、推特的所有平台，都在上传时删除元数据。因此，只有在有人在未将其上传到这些东西被上传的众多平台中的任何一个之前发送给我该图像时，它才有用。

他没告诉你的另一件事是，删除元数据非常容易。任何人都可以使用市面上可以买到的工具做到这一点。你问了他关于水印的正确问题，我认为他有点回避了这个问题。但我认为，再说一次，我认为艾莉森说对了，那就是我们……

硅谷的座右铭是部署、部署、部署，然后填补安全漏洞。安全不是首要考虑因素，也不是次要考虑因素，坦率地说，甚至不是第三个考虑因素。我认为艾萨克在这里有点忽略了重点，他当时谈到的是，你知道，你去度假，你对照片有美好的回忆。是的，但这只是摄影的一个相对狭窄的分支。我们还使用图像来谈论世界事件，洛杉矶的火灾，佛罗里达州的飓风。

我们在法庭上使用照片作为证据，人们的公民自由受到威胁。我们使用照片来推断冲突地区，并在海牙起诉犯罪。摄影不仅仅是关于蜜月照片。它关乎我们对世界共享现实的感知。谷歌和其他公司现在正越来越进一步地扭曲这种共享的现实感。

好的，为了清楚起见，我想回顾一下你所说的话。从照片中删除元数据非常容易。对吧？好的。其次，当你将照片上传到社交媒体，上传到主要的社交媒体平台时，元数据会自动被删减？是的，他们删除了它。我的意思是，他们将其存储在服务器端，因为有很多信息，但所有信息都被删除了。

好的。这意味着我作为消费者，即使谷歌在创建时就添加了它，这很好。我很高兴他们这样做。但在上传时，它并没有真正帮助消费者，因为这些信息丢失了。所以艾萨克·雷诺兹和谷歌说，没关系，你会知道它是AI生成的，因为它在元数据中，这实际上是——

这是一个摇摇欲坠的平台。我认为这是一个慷慨的解释。好的。所以我想去——所以理解这一点非常非常重要，对吧？因为，我的意思是，我认为我会断言，而且我认为你也会同意，法里德教授，这与其说是非常著名的——

20世纪30年代一张饱受折磨的母亲的黑白照片，几张照片上都删除了拇指，也许在报纸上出现时也是如此。重要的是社交媒体的规模以及它能够以多快的速度将图像、想法、事实和虚构传播到世界各地。规模才是最重要的。这就是为什么这项技术现在更需要我们去理解的原因。

有两件事。所以艾萨克是对的。照片一直都被篡改过，但正如你所说，它们的传播方式发生了巨大的变化。但艾萨克也没有告诉你的是，要像那张著名照片那样篡改照片需要相当的技巧，并不是每个人都具备这种技巧。而谷歌所做的是……

消除了创造和扭曲现实的门槛。而这从根本上也是不同的。所以当我们说照片一直都被篡改过时，你可以坐在黑暗的房间里几个小时来篡改它，是的，但并不是很多人能做到这一点。正如他自己所说，触摸图像，你就可以修改它了。消除任何障碍

所以我们只有一分钟的时间来休息一下。但是法里德教授，我的意思是，我故意以好莱坞标志为例开始，因为，你知道，洛杉矶现在正在发生灾难。

但是你知道从火灾开始，那些好莱坞标志燃烧的假图像传播得有多快吗？我不知道第一个是什么时候出现的，但我看到了……

在24小时内，顺便说一句，这并不奇怪。过去，上帝，10年来每一次自然灾害，一旦它们发生，你就会开始看到愚蠢的图像，我认为，你知道，你可以说，好吧，不管怎样，它们是假的图像。但是，你知道，在这个自然灾害发生，人们的生命受到威胁的时候，

他们的财产正在流失。我们正在转移注意力。我们正在混淆视听。坦白地说，允许这种内容，然后允许它，并在网上放大它，这是一种非常恶劣的行为。稍后我们将回来。这是重点。

On Point人工智能报道的支持来自MathWorks，它是MATLAB和Simulink软件的创建者，用于技术计算和基于模型的设计。MathWorks，加速工程和科学领域的发现速度。了解更多信息，请访问mathworks.com。

以及来自奥林工程学院，致力于通过“人工智能与社会”等课程向学生介绍人工智能在工程中的伦理意义，olin.edu。

这是重点。我是梅格纳·查克拉巴蒂。关于我们本周晚些时候正在进行的一件事，我需要快速说明一下。这是关于那些无处不在的、像毛球一样的客户调查。它们现在无处不在。你知道，当你走进药店、杂货店，甚至你的诊所时，他们要么在药店的收据上发送，就像，嘿，做一个调查，告诉我们我们做得怎么样？你有多大可能向朋友推荐我们？几乎到处都是。

你在生活中与企业的每一次接触点，他们似乎都想了解他们的表现。你填写这些表格吗？你认为调查是否对改善你从这些企业获得的服务有所帮助？所以我们想知道。如果你从事客户服务工作，尤其是在所有这些一直在部署这些调查的公司中，我们想知道公司为什么要这样做，这些信息是如何使用的，调查是否对企业有任何影响。

这是本周晚些时候的事。

今天我和哈尼·法里德谈话。他是加州大学的教授，也是Get Real Labs的联合创始人，该公司开发了检测篡改媒体的技术。我们与法里德教授谈话是因为，基本上现在在世界上的智能手机上，很快世界上大多数智能手机上，你将能够通过点击手指来完全改变图片的内容。几乎所有方面。

我们真的想讨论一下这将如何影响我们与视觉现实的关系？

法里德教授，在我们重新连接之前，我只想说明一点，据我了解，Instagram可能是社交媒体平台的例外。当Instagram上出现一张经过人工智能处理的照片时，他们确实有一个AI信息标签会弹出。但他们也指出，并非所有AI内容都包含识别所需的信息。

所以，法里德教授，我想谈谈为什么照片会被篡改。我的意思是，关于你的误报观点，不仅仅是照片被篡改了。目标是操纵某人对现实的理解。对。我的意思是，这就是令人不安的事情，我不知道我们该如何规范。对。

好吧，我认为你已经说到点子上了。当然，有一些良性的操作，人们会去除一些分散注意力的东西，让天空更蓝一些。我不在乎。但我们也知道，同样的技术是一把双刃剑，人们出于政治目的、欺诈目的而扭曲现实。顺便说一句，我们还没有谈到非自愿的亲密图像的创作，人们利用它来去除衣服和照片，然后勒索他人。

我们知道人们在做坏事。这并不意外，坦白地说，这并不奇怪。我们知道这是我们多年来一直在走的路。人工智能所做的只是让它更容易获得、更强大，并让我们创造出令人难以置信的酷炫事物和令人难以置信的有害事物。正如你所说，问题是如何找到平衡？

我认为这些对话是其中的一部分。但我认为科技公司也必须在技术开发和部署之前考虑这些事情，而不是之后。他们继续做后者。我认为这不断地在安全方面进行补充。你听到艾萨克说的。哇，我们会倾听客户的意见，我们会听取他们的意见，然后我们会去做。但在那段时间里你该怎么办？因为几年过去了，你对过去20年的社交媒体也可以说同样的话。

我们等得太久了，然后年复一年地造成伤害

所以我确实担心我们在社交媒体、媒体和法院中对现实的共同认知正在恶化。当我们在2+2等于几这个问题上存在分歧时，我不知道我们如何拥有一个稳定的社会。没错。我认为这就是我们现在所处的世界。好吧，社交媒体本身就是一个完美的例子，说明这些公司本身是多么政治化，对吧？让我们说实话。当然。一家公司是为了维持自身生存和高利润而存在的。这就是它所做的。对。

而且，你知道，我在想Meta最近的决定，正如马克·扎克伯格所说，比如移除它所有的事实核查员或将他们转移到德克萨斯州等等。而且，你知道，他正随着政治风向而变化。让我们就此说实话吧。他当然会这样做。你想对此发表评论吗？是的。首先，我认为他正在追随马斯克的脚步。但这里还有另一件事需要记住，那就是……

不是美国的问题。这是一个全球性问题。我们正在用两位亿万富翁的政治怪癖影响着世界上80亿人。我认为这对任何人都没有好处，特别是对我们的民主制度没有好处。是的。所以当你谈到科技公司应该从基础层面考虑这个问题时，艾萨克·雷诺兹所说的另一件事也引起了我的注意，那就是

当他描述他们如何在基础层面构思这项技术时，他根本没有使用“现实”这个词。没有。他说，他们的业务是创造帮助你匹配你理想记忆的技术。

所以，我的意思是，这就是他们的看法。他们并不认为，好吧，你知道，我们想帮助你拍出更好的照片，这样你就能记住实际发生的事情了。就像那个马克杯，对不起，但他说的那个马克杯，他想从窗台上擦掉。好吧，

好吧，在这个世界上，有人看着这个马克杯，并记得，哦，这是我叔叔的，他去世一个月后。而且，他与家人在一起的那个圣诞节是多么美好啊。照片里还有他的马克杯。我的意思是，这是现实与不方便的现实。所以让我们摆脱它来匹配我们的记忆。

是的，你提到这一点很有趣，因为当他说话的时候，我确实在我的纸板上写下了现实，然后指向记忆。

我认为，坦白地说，这是一个方便的谈话点，你谈论的照片，好吧，这实际上是关于你的记忆。它不是关于现实的。如果你与家人分享你的照片，那就没问题。当你把它发布到社交媒体上并说这就是洛杉矶正在发生的事情时，那就没问题了。当你将其作为证据提交给法庭时，那就没问题了。所以我认为这是一个方便的谈话点。

让我们不去思考他们正在扭曲现实的事实。我认为正如你所说，我认为他举的例子，他说，好吧，我一大早就起床去远足，所以我可以看到这片原始的日出，这样我就可以拍照了。我想，是的，这就是你所做的。如果你不做这件事，那么你就会得到那张照片。我认为这里对摄影是什么有一点脱节，

也许问题的一部分是它有很多不同的东西。谷歌说，这实际上只是关于你的记忆，这很方便。而现实情况是，它并非如此。它比这复杂得多，影响也大得多。是的。而且你知道，

我同意艾萨克的观点，我想在一个没有其他人的自然美景中。但对我来说，这很有趣，因为他所举的例子，即使是他仍然渴望现实，对吧？是的。我的意思是，你可以问这个问题，好吧，为什么起这么早？只要去拍张照片，然后如果那是你想要的记忆，就修改它。所以叙述中有一点脱节。是的。好的。所以……

我们稍后会回到这将如何影响我们自己对现实的感知或我们与视觉图像的关系。但你已经说过几次我必须和你谈谈的事情了。视觉证据至关重要的其他地方。我的意思是，例如，让我们谈谈法院，甚至是保险索赔之类的事情。对。当你发生交通事故时，你做的第一件事是什么？你下车，拍照。

这些世界，法律世界、保险世界等等，他们甚至开始拥有能够处理他们现在可能正在处理数百万张篡改照片这一事实的工具了吗？是的。

法院当然没有，而且他们正在努力。保险公司做得稍微好一些，因为他们开始要求的是专门的应用程序，这些应用程序会在创建时拍摄照片并对其进行身份验证。这些被称为内容凭证。因此，保险公司可以在控制流程的地方更好地控制它。

法院没有。证据就是证据。它被引入了，对吧？这是一个语音邮件。这是一张照片。我们有什么就用什么。法院肯定一直在努力，而且他们已经努力了一段时间了，但我认为人工智能是一种加速剂。我认为每一件证据，民事、刑事、国家安全案件现在都值得怀疑。而且，即使是执法记录仪，我也一直收到电子邮件，来自警官的执法记录仪录像。

我们怎么知道这就是发生的事情？所以突然间一切都值得怀疑了。这确实令人担忧的是我们正在走向何方，赌注非常高。我的意思是，别误会我的意思。好莱坞标志的假照片很糟糕，也很令人不安，但这算不了什么。与人们因虚假证据入狱相比，这根本不算什么。

人工智能是否能解决它在创建用于对抗人工智能篡改照片的工具方面所造成的问题，或者至少识别它们？是的，是也不是。当然，我们需要考虑政策、护栏、技术来对抗我们正在进入的这个被操纵的世界。例如，我会告诉你，我买了一个Pixel 9，因为它一出来我就买了，因为我的工作就是弄清楚这些东西是什么。

它真的很好。我有点被惊呆了。事实上，我们确实发现了一个谷歌在编辑时留下的痕迹。这是无意的。这不是IPTC元数据。在他们进行AI编辑和操作的方式上有一些无意之举，对我来说这很好。顺便说一句，我不会告诉他们这是什么，因为我不希望他们修复它。但这非常像一场军备竞赛。

我们正处于一个，我们建立更好的防御，他们建立更好的进攻，如果你愿意的话。我认为这是解决方案的一部分，人工智能，我认为是，但它不是，它不能是，我们不能仅仅依靠技术。我们需要更好的政策，我们需要更好的公司治理，我们需要监管，我们需要责任，我们需要社交媒体公司承担更多责任。我们需要教育，我们需要这些对话，让人们了解当今的世界。

总的来说，我认为这会推动变革，但它，你知道，我们总是处于追赶状态，因为事实上，扭曲现实比揭示现实更有利可图。我们必须承认，这就是我们现在所生活的世界的现实。扭曲现实比真正生活在现实中更有利可图。令人警醒，弗里德教授。好的。现在，再次，就……

图像技术和社交媒体的结合点，对吧？因为，嗯，

坚持洛杉矶正在发生的灾难，你是对的。这不仅仅是，哦，这是一张照片，一张好莱坞标志着火的照片。但急救人员和紧急服务人员，就像他们和其他任何人一样都在使用社交媒体。如果他们从某些地方得到很多图像，他们认为，哦，我的上帝，我们需要在那里部署更多人吗？他们现在是否必须开始怀疑，这座城市的那一部分是否真的着火了？

百分之百。而且，你已经看到了这一点，每五年一次的自然灾害，人们都在创造扭曲的图像。联邦紧急事务管理局现在必须处理这些问题或接听电话。哦，我的上帝，好莱坞山着火了吗？现在我们分心了。你让他们分心五分钟，我就有问题了。当我们遇到这种规模的紧急情况时。

所以顺便说一句，我认为地狱里有一个特殊的地方是为传播这些东西的人准备的。你到底怎么了？我的意思是，说实话，人们的生命和财产都受到威胁，你认为扭曲现实并混淆和分散人们的注意力很有趣

吗？人们到底怎么了，说实话？我们可以责怪这项技术。我们可以责怪世界上的谷歌和脸书。但归根结底，屏幕后面某个地方有一个笨蛋在做这件事。你必须问问自己，我们到底怎么了？是的。是的。

在某些情况下，这是一个非常协调的努力，旨在抹黑其他看待世界的方式，政治家等等，这来自美国内部和外部。但就个人笨蛋而言，这是一个——我很欣赏你温和的措辞，法里德教授。但这难道不是——你是对的。这难道不是核心问题吗？这些公司所做的事情只是在合法化

利用我们心中已经存在的可怕欲望？作为个人，我们应该做些什么来抵制这种冲动，即成为这些社交媒体公司制造虚假信息和虚假现实的工厂？我认为这完全正确。社交媒体所做的就是让我们显露出最坏的一面。让我们说实话，无论是在我们分享的内容方面，还是在我们与人互动的方式方面。因为事实上，愤怒会带来销量。

当你愤怒时，当你发布那些耸人听闻、阴谋论和愤怒的东西时，你会得到更多的互动，你会得到你大脑中的小猴子奖励系统。它喜欢那样。社交媒体已经利用了这一点，因为这就是推动参与度的因素。这就是推动投放广告的因素。这就是推动利润的因素。这是一个简单的等式。

坦白地说，如果你还在使用Facebook，如果你还在使用Instagram，如果你还在使用X，你应该离开。这太可怕了。这对你是可怕的。这对社会来说是可怕的。在我看来，这只是一个失败的实验。你想和你的朋友们说话，很好。和你的朋友们说话。但社交媒体已经变得完全具有放射性，我认为它对这个世界来说是负面的。

我听到你说我们现在正处于一个世界，在这个世界里，我们应该对遇到的几乎每一个视觉图像都持怀疑态度。我的意思是，你就是这样在这个世界上走来走去的吗？你的工作是试图识别操纵的迹象。是的。

不，不是。我认为艾萨克说了一些误导性的话。他说，好吧，如果你在《纽约时报》上看到一张照片，你应该持怀疑态度。首先，让我们不要将《纽约时报》与X和Facebook等同起来。《纽约时报》的人是认真的人，他们做着认真工作。并且存在新闻伦理和标准。因此，当照片被发表时，他们会了解一些关于它们的信息。你可以相信有人已经完成了他们的工作。它完美吗？不。但你不能对X这么说，你不能对埃隆·马斯克这么说。所以让我们不要等同

以同样的方式对待《纽约时报》、NPR和BBC等，就像我们对待社交媒体信息流一样。它们不是一回事。所以当我访问一个严肃的新闻媒体时，不，我并不天生就持怀疑态度。我相信那些人已经完成了他们的工作。现在，如果我不了解来源，我会对任何人发送给我的东西或我在网上看到的任何东西持怀疑态度吗？绝对的，如果我不了解来源。但一旦我知道了来源，我就对我知道相信什么或不相信什么有了相当好的先验知识。嗯哼。

尽管我必须说，媒体公司如果想走在帮助创造一个更加透明的文化的前沿，他们可以做到，对吧？就像为什么不也发表这张照片被裁剪了，这张照片，对比度被调整了，这张照片，你知道，可能使用了什么AI来创建最终出现在网站或报纸上的图像。我，

我完全同意。如果你看看大多数媒体机构，他们有一套相当清晰的规则，规定你可以做什么和不能做什么。在裁剪图像、使其变亮、白平衡以及添加整个人或删除图像中的物体之间，存在着天壤之别。但我同意你的观点。我认为我们应该对照片做了什么保持透明，并向我展示原始照片，因为现在没有理由不这样做。你知道，我还必须说，我不想生活在一个每个图像都是杂志封面的世界里。

你知道我的意思吗？美在于不完美。是的，我们甚至还没有谈论过这一点，但时尚摄影以及它所造成的形体形象问题，这是一个奇怪的现实，因为我们已经从去除人们脸上鼻涕的修图，变成了创造完全不可能存在的人类。

所以，是的，也许会有一个回归。我喜欢现在看到我的学生带着宝丽来相机在校园里走动。这让我非常高兴。他们出去拍宝丽来照片，你知道，摇晃胶卷，然后把它挂起来。也许会回归真正的真实性，因为你说什么都好，互联网，真实性不会在我的列举的十大事情中名列前茅。是的。

哈尼·法里德是加州大学伯克利分校信息学院和电气工程与计算机科学学院的教授。他是Get Real Labs的联合创始人，该公司开发了检测篡改媒体的技术。非常感谢你。很高兴再次和你在一起。这是重点。重点。