We can't trust photos anymore
27:39 Share

还记得肖恩被“羽绒服教皇”愚弄的时候吗？今天解释一下，肖恩·拉姆为他辩护。上周六，违背我的意愿，我浏览着信息流，点赞着推文，然后我看到了一些了不起的东西。酷教皇，身穿一件史诗般白色羽绒服的法王方济各。他的十字架垂在夹克外面。他看起来像是要去拯救人类免受永恒的诅咒。而且，这么做的时候，他会暖和极了。

那不是真的。那是人工智能生成的。在同样具有文化意义的时刻，人工智能的欺骗行为促使泰勒·斯威夫特为卡玛拉·哈里斯背书。泰勒谈到她意识到人工智能虚假地让她为唐纳德·特朗普背书。她说这唤起了她对人工智能的恐惧。你已经可以在手机上操纵图像了，但本周，苹果发布了第一款人工智能iPhone。接下来在《今日解释》中，当你看不清眼前的事物时会发生什么？

大家好。我是阿什利·C·福特，我是《Into the Mix》节目的主持人，这是一个由本杰瑞和Vox Creative制作的关于快乐与正义的播客。在我们新的迷你剧集中，我们将讨论选民欺诈问题。

多年来，前总统唐纳德·特朗普一直将其作为关键论点，尽管没有证据表明存在大范围的欺诈行为。但是，像这样的说法对普通选民有什么影响呢？比如佐治亚州道格拉斯市的一名公务员奥利维亚·科利·皮尔森，她因为向一名首次投票的选民展示投票机的使用方法而被逮捕，罪名是选民欺诈。在最新一集的《Into the Mix》中，听听她是如何反击的。现在就订阅吧，无论你在哪里收听。

他们不是作家，但他们帮助客户塑造其企业的财务故事。他们不是航空公司，但他们的网络连接着近180个本地市场的全球企业。他们不是侦探，但他们跨企业工作，为客户发现新的财务机会。他们不仅仅是一家银行。他们是花旗银行。了解更多信息，请访问citi.com/weareciti。网址是C-I-T-I点com斜杠weareciti。

嘿Siri，说“今日解释”。今日解释。我叫乔安娜·斯特恩。我是《华尔街日报》的个人技术专栏作家，我玩弄很多新技术。所以你参加了本周一苹果的发布会。最大的新闻是苹果正在推出第一款搭载苹果智能（人工智能）的iPhone，这将从根本上改变宇宙中的一切。发生了什么？感觉如何？

我先说个坏消息。它不会改变宇宙的一切。但这款新手机就像你的旧iPhone，只是颜色可能不同，内部有一些新的处理器，以及更长的电池续航时间。苹果真正想说的是，这是第一款人工智能手机，第一款将开启他们所说的漫长旅程的手机。这只是苹果智能或人工智能（正如他们巧妙地在这里所做的那样）的第一步，并且

苹果智能可以通过私有云计算解锁更强大的智能。私有云计算维护iPhone的隐私和安全，同时让你可以访问更大的生成模型。因此，手机中的新型处理器，这些A18芯片，应该能够真正增强这些人工智能功能的速度、隐私性和安全性。

但人工智能部分是什么？当我们说这款新手机具有人工智能时，它究竟允许我们做什么？他们展示的是一套人工智能或生成式人工智能工具，这些工具将在未来几个月到一年内推出。这些工具包括能够记录你的笔记并对其进行总结。然后是Siri，它在理解能力和进行更自然对话方面应该会有很大的提升。

你可以在照片应用程序中做一些事情，比如仅仅根据你输入的内容创建记忆视频。比如孩子们和菲奥娜阿姨学习钩针编织。

苹果智能将自动查找相关的照片和视频，并巧妙地将其排列成故事情节。——有一个叫做“清理”的工具。——有了苹果智能提供的“清理”功能，你可以轻松删除照片中令人分心的物体，甚至是它们的反射和阴影。——它会在其位置生成背景。

所以我在这里列举了一套苹果已经宣布的工具，但它们并非全部立即推出。这些新手机将于9月份上市。它们被承诺为首批大型人工智能手机，但直到10月份，甚至贯穿来年，它们才真正拥有这些功能。

你提到了这款新iPhone上的一些照片功能。这些功能在其他地方存在吗？它们肯定存在。谷歌长期以来一直走在人工智能与照片和相机功能融合的前沿。♪

谷歌称之为“神奇编辑器”，苹果称之为“清理”工具。基本上是这样的，你有一张照片，背景中有一些你不喜欢的东西，对吧？你可以圈出来，人工智能可以将其删除。而且它速度非常快，就像即时完成一样。如果你使用谷歌相册，你现在就可以在iPhone上获得这项功能。但苹果将把它直接集成到iOS 18.1中。然后，在另一端，你可以通过输入任何你想要的内容来生成

一张凭空出现的照片。

而真正发生的事情是（苹果并没有这样做，他们并没有这种工具），但谷歌和其他公司已经推出了这种工具。对。所以实际上，谷歌最近做了一件叫做“重新构想”的事情，这在他们的Pixel手机上。这可以让你拍摄一张你已经拍摄的照片。假设你拍了一张孩子在海滩上的照片，然后你可以圈出那个地方，然后说，插入一条鲨鱼。

咬人。难以置信。对吧？所以你可以拥有这张照片，一张你孩子微笑的美丽照片，然后在后面，一条鲨鱼咬掉了一条人腿。我不知道，任何你想看到的东西。所以这就是我们衡量真实与虚假或人工智能的尺度所在。这真的有点疯狂。♪

这真的有点疯狂，我在这里祈祷，因为我的思绪走向了黑暗的地方。对你可以输入的内容有一些限制。有的。让我明确这一点。大多数这些工具对暴力、裸体或公众人物都有非常严格的限制。你不能在许多这些工具中放入唐纳德·特朗普，尽管我们可以讨论在X上发生的事情，在那里他们的工具“Grok”没有任何限制，并且在过去几年中变得非常流行。

几周。“用户利用该工具生成令人不安，甚至具有误导性的视觉效果，包括公众人物处于虚假或令人尴尬境地的图像。”

我看到了一些例子，《The Verge》对此做了一个非常有趣的报道，其中有一张女人的照片，她在地上。她可能只是在闲逛，你知道，看电视。但随后他们圈了起来，放进了一支注射器和一个啤酒瓶，对吧？同样，你知道，为什么你不能生成一个啤酒瓶？注射器，也许不行。我不知道。也许这应该有点……

好吧，这改变了这张照片的背景。它看起来非常真实。它确实看起来很真实，是吗？确实如此。而且，你看，社交媒体平台已经做了很多努力来设置一些保护措施。Meta拥有的平台，Instagram、Threads、Facebook，它们都有新的标签，你可以说这是人工智能生成的。

但最终，还是要靠人类用非常怀疑的眼光看待一切，并说，这是真的吗？这对我来说令人难以置信，因为我在想，好吧，让我们用你的例子。有一张女人在海滩上腿的照片，有人插入了一支注射器、几个啤酒瓶、一些烟头，然后发送给，我不知道，女人的家人。就像你刚才说的感觉像……

可能任何时候有人给你发照片，你都必须对自己说，等等，这可能不是真的。我认为这实际上是现在选举周期中正在发生的事情。我们在X和其他平台上看到大量的东西，这些东西可以被断章取义，你甚至不需要生成式人工智能工具。马斯克播客。

发布了一张副总统卡玛拉·哈里斯身穿红色共产主义制服的假照片。他在照片上写道：“卡玛拉誓言第一天就成为共产主义独裁者。你能相信她穿那身衣服吗？”这是标题。这发生在前总统特朗普也分享了哈里斯的假照片之后。但是当你加入生成式人工智能工具时，

它们有一种外观和感觉，你可以看出它们有点像人工智能，但这会变得更好。这将达到你真的无法分辨出区别的地步。你知道，你从政治角度谈论这件事很有趣，因为直到这一刻我才意识到，

我不再相信我所看到的。完全正确。我不相信。如果有人，如果有一张疯狂的政治照片，我会想，哦，我认为那不是真的。我甚至都不再关注了。对。我只是觉得，不，那不是真的。我认为我们中的一些人已经这样被训练了。我认为这是好事。我们已经建立了最初的质疑反应。这是真的吗？是的。

是的，是的。事情正在改变，而没有人真正说过，“嘿，我的大脑刚刚改变了它思考所谓的新闻照片或我可能在新闻网站或社交媒体网站上看到的照片的方式。”

我有一部旧iPhone。我认为我没有这个选项。现在有多少人带着这些手机四处走动，这些手机有能力做到这一点？我一直在谈论的很多事情，你都可以使用App Store中的应用程序来完成。所以这变得越来越容易获得。如果你甚至关注过一些……

深度裸体应用程序，你可能没有，但是App Store中有一些应用程序允许你上传某人的照片，并基本上脱掉他们的衣服。所以这不需要你拥有任何特殊类型的手机或电脑来完成。所以并不是大多数人都拥有具有简单人工智能功能的智能手机，但我猜如果我问你，五年后世界会是什么样子，你会告诉我我们离……

很多人，大多数人。完全正确。即使你看看谷歌刚刚对Pixel所做的。所以这款Pixel 9，我必须检查一下。我的意思是，他们只是加入了这些功能。所有我刚才谈到的那些功能，你可以重新构想，你可以圈出一些东西并放进鲨鱼，或者你可以放进注射器，这都在谷歌Pixel 9上。需要考虑的是，他们在美国的市场份额可能只有3%。我的意思是，非常小的市场份额。在全球范围内，这个数字甚至更小。但这并不重要。♪

重要的是，为Pixel提供动力的Android无处不在。它是世界上最大的移动操作系统，比苹果更大，比iOS更大。所以谷歌正在Pixel 9上测试这些功能。但我与之交谈的高管里克·奥斯特洛夫告诉我，这是一个测试平台。我们正在测试它，以便我们可以将其带给Android生态系统中的每个人。所以……

你必须这样考虑，那就是现在只在少数几款手机上开始使用的这些功能将无处不在。那是《华尔街日报》的乔安娜·斯特恩。接下来，一位资深照片编辑认为，个体照片已经扭转了战争的潮流，引发了环境革命，并让我们震惊地采取了道德立场。那么，当我们不相信照片是真实的时候会发生什么？

我们回到Canva Presents Secret Sounds，工作版。来电者，猜猜这个声音。房子点击。太接近了。实际上是用Canva Docs发布网站。下一个来电者。

绝对是鼠标点击。尝试不错。这是用Canva白板整理100张便利贴。我们也接受将Canva视频调整为10种不同尺寸。什么？不可能。当然可以。一次点击可以走很长一段路。喜欢你的作品Canva.com。

《今日解释》的支持来自布莱克·莱弗利的丈夫Mint Mobile。手机是昂贵的小东西，而且不仅仅是手机本身。无线服务的费用只会让它们的成本居高不下。好吧……

瑞安·雷诺兹说。你可以从节省手机账单开始，使用Mint Mobile。当你切换到Mint Mobile时，你可以获得三个月的优质无线服务，每月只需15美元。Mint的所有手机套餐都包含高速5G数据以及无限通话和短信。

要获得此新客户优惠以及你只需每月15美元即可获得的三个月优质无线套餐，你可以访问mintmobile.com/explain。网址是mintmobile.com/explain。你可以在mintmobile.com/explain将你的无线账单削减到每月15美元。需要支付45美元的预付款，相当于每月15美元。仅限首次使用三个月套餐的新客户，无限套餐中超过40GB的速度会变慢。

需支付额外税费，并适用其他限制。详情请见Mint Mobile。《今日解释》的支持来自Shopify。建立一家拥有令人印象深刻的销售额的公司是困难的。你需要远见。你需要营销。你必须拥有人们想要购买的东西。所以想象一下你已经完成了所有这些。你金光闪闪。你已经准备好了。你已经做好了准备。

但是，你必须弄清楚如何实际销售产品。Shopify可以提供帮助，Shopify说。Shopify是一个一体化的数字商务平台，可以帮助你的企业比以往任何时候都更好地销售产品。他们的Shop Pay功能可能会转换更多客户，并永远结束那些被放弃的购物车。像Allbirds这样的公司之所以转向Shopify来向更多客户销售更多产品是有原因的……

无论是在线、实体店还是社交媒体上。Shopify表示，销售额更高的企业，都使用Shopify进行销售。你可以升级你的企业，并使用Shopify获得与Allbirds相同的结账方式。你可以在Shopify.com/explained注册你每月1美元的试用期。只需访问Shopify.com/explained即可升级你今天的销售。Shopify.com/explained。这是德雷克和UL的人工智能版本，名为Toto the Explained。

如果可以的话，我想读一些东西给你听，只需要一秒钟。在不远的将来，逼真的图像可能必须像文字一样贴上标签，标明是虚构的还是非虚构的，因为可能无法区分它们。我们可能不得不依靠图像制作人而不是图像本身来告诉我们某些图片属于哪个类别。你还记得写过这个吗？1984年，《纽约时报杂志》。你40年前写过这个。

弗雷德·里钦至今仍在撰写关于图像的文章。他是《纽约时报杂志》的图片编辑。他是国际摄影中心的院长。他是一位策展人。他刚刚完成了一本书，名为《合成之眼》，讲述了摄影在人工智能时代如何变化。

1984年的恐惧是什么？你当时写的是什么？好吧，我发现，使用这些非常昂贵的机器，你可以使用软件以无法检测的方式操纵照片。我开始认为，摄影作为证人的可信度

在那时是脆弱的。所以我为1984年的《纽约时报杂志》写了一篇文章。我记得他们印了160万份，我的想法是，如果人们提前知道，他们就会采取措施，这样我们就能将照片保存为可信的证据。

我曾是《纽约时报》周日杂志的图片编辑，我知道我们每周都会展示萨尔瓦多内战的照片。这是一场零星交战和持续流动的战争。不再是常规军队和衣衫褴褛的叛军之间的冲突，而是萨尔瓦多军队越来越多地拥有空中力量和火力优势，但除此之外几乎没有其他优势。

很难找到叛乱分子并将他们击退。霍梅尼在伊朗掌权。霍梅尼的名字是推翻巴列维国王的号召。现在，对于在他机场外等待的追随者来说，他是巴斯蒂亚尔医生的政府的坚决反对者。你知道，你可以有一个与其他人不同的观点。但例如，在越南战争中，如果一个九岁的女孩被凝固汽油弹烧伤，

每个人都同意这就是正在发生的事情。我们看到的景象是可怕的。我们几乎看到的第一个人是一个大约九岁的女孩，沿着路跑。她没有穿衣服。当她们着火时，她大概把衣服撕掉了。

你可能会认为战争应该继续，不应该继续，但它是一个共同的参考点。让我当时感到不安，现在让我更不安的是，如果这种情况崩溃了，那么我们就真的没有共同的现实感，就我们直接居住的社区、我们的直系亲属之外正在发生的事情而言，你知道，其他国家正在发生的事情。我们过去能够相信

照片，你知道，事实。它们是参考点，非常重要。所以气候变化，你知道，1968年，宇航员从外太空拍摄的地球照片。16个月后，我们迎来了地球日。人们担心地球。这是一个共同的参考点。让我当时感到不安，现在让我感到不安的是，我们将失去它。我们正在失去它。

你想采取措施来维护摄影的可信度。在过去的40年中，我们做了什么来维护它？我们做得非常少。你知道，我在1994年发起了一场运动，我们应该将每张经过处理的照片贴上标签，

用我所谓的“非镜头图标”。换句话说，正方形内的圆圈就像镜头一样。把它想象成版权符号。斜线穿过它就意味着它不是镜头。这是经过大量处理的。你知道，一两家出版物采用了它，但大多数情况下，

人们告诉我，“我们知道自己在做什么。”我认为有一种傲慢自大的态度，认为我们知道自己在做什么。我们不知道自己在做什么，我们也不透明。所以我认为很多出版物都觉得

他们必须保密，无论他们是摆拍图像、设置图像以使其看起来某种方式，还是在后期制作中处理图像，他们都没有做到透明。我认为40年后，随着人工智能的出现，这确实是一个转变，一个范式转变，

我们不知道究竟发生了什么。在几秒钟内制作逼真的图像非常容易。你可以在爱荷华州的客厅里制作加沙地带、乌克兰等的图像，人们，你从未去过那里，但人们不知道这与照片有什么区别。我们做得非常少

来为这一刻做准备，不幸的是，我们正在面临后果。这张照片在争议之后，前总统唐纳德·特朗普在社交媒体上表示，副总统哈里斯使用人工智能伪造了照片，显示她上周在汽车城举行的集会上人山人海。我认为，共同信念结构的意义正在崩溃。例如，

你知道，我认为最后一张在国际上产生影响的标志性照片，以至于各国都进行了干预，是2015年。两岁叙利亚男孩艾兰·库尔迪的照片，一个难民，与他的家人一起溺水身亡。

我们将向你展示的照片迅速在世界各地引起共鸣，成为一场我们无法视而不见的彻底人道主义灾难的令人心碎的象征。在英国，艾兰·库尔迪的令人痛心的照片以及强烈的国内和国际压力，迫使政府改变了其对叙利亚难民的立场。然后各国……

组织提供了更多资金，接纳了更多难民等等。今天，我可以宣布我们将做更多的事情，为数千名叙利亚难民提供重新安置。漫长的旅程终于结束了。默克尔总理实现了他们的梦想。

远离内战流血的梦想，安全生活的梦想。一个新开始的梦想。我认为照片作为潜在偶像的贬低是……

你知道，它让每个人都说，哦，这就是正在发生的事情。我们应该做些什么，不做些什么，无论是气候变化、战争、你知道，难民、选举，无论是什么，都不复存在了。我们假装它存在，但它不存在。

所以我们现在真的在黑暗中挣扎，不知道该相信什么，不该相信什么。《纽约时报》刚刚进行了一次测验。这里有10个视频，其中哪些是人工智能生成的，哪些不是。我从事这个领域已经50多年了，我答对了7个中的10个。我分不清。专家也分不清。这就是我们前进的方向，我们是在……

消费者权利的名义下进行的。我写的关于这方面的第一本书是1990年出版的《我们自己的形象：摄影的即将到来的革命》。这是一种感觉，照片会向我们展示我们可能不想看到的东西。也许我们看起来太胖或太瘦，也许我们看到战争或饥荒，我们不想看到的东西。但在数字时代，我们可以用软件改变，或者

无论是照片还是用人工智能合成创建全新的图像。所以世界看起来像我们自己的形象，我们想要的样子，而不是它本来的样子。所以我们失去了，我们正在失去共同的现实，对正在发生的事情的共同现实。我们真的在黑暗中。

战争、饥荒和气候变化是特殊的例子，我知道你为什么提到它们。你是一位摄影记者。这是你的背景。但我很好奇，你认为这有区别吗？例如，如果我拍一张照片，我妹妹的眼睛闭上了，我用人工智能让它看起来像镜头捕捉时她的眼睛是睁开的，这重要吗？

我认为这非常重要。你知道，我的家庭相册，我的祖母现在看起来像玛丽莲·梦露，我的祖父看起来像克拉克·盖博。

你知道，你可以制造任何你想要的关于你的家人、朋友等等的东西。然后你就会发现，你的孙子孙女根本不知道究竟发生了什么或没有发生什么。所以我认为照片一直是辩证的。它一直在向你展示你可能不想看到的东西。

所以，如果你的妹妹或某人的眼睛在照片中闭上了，好吧，这种情况会发生。这并不总是这种完美主义的消费者权利观念，我们应该是什么样子。这就是我们本来的样子。

所以，你知道，你改变了事情。这就像他们在苏联政府审查制度中所做的那样。我们正在审查我们的家庭相册。然后，你知道，关于我们从哪里来等等，几乎没有现实感。在那时，它们真的变成了虚荣媒体。

你知道，我们得到了我们想要的东西，世界是我们想要的样子。事实上，世界与我们想要的样子相差甚远。如果你看看目前世界上正在发生的所有问题。你似乎正在进行一场失败的战斗。我可以问一下，为什么40年后你还在为此而战吗？因为我关心人们。

我从小就有一种感觉，你知道，事实上，作为一个孩子，我学会了阅读，通过从《生活》杂志上剪下图片，根据当天的字母。如果字母是，你知道，B或其他什么，我会剪下有棒球的照片，或者其他什么。这样做，你会看到所有这些不同国家的人的照片

你知道，他们可能处于困境。我惊叹于摄影向我们展示其他人正在发生的事情的能力，这样我们就可以采取措施。我认为这是人类，你知道，它最美好的时刻之一。你看到事情，你进行干预，你提供帮助。这些人可能很遥远，你可能不认识他们，他们可能来自另一种文化。你可以通过照片了解他们。

你没有那么孤立。能够提供帮助、能够移情、能够为他人和自己做些什么，这是我们的人性。如果这种情况关闭了，我们不知道该相信什么或不该相信什么，那么我们最终会变得非常孤立，无法干预、无法帮助、无法做任何事情、无法发挥作用。我认为这是全面的。

相当糟糕。我的兴趣不在于摄影。我的兴趣在于让世界变得更美好。弗雷德·里钦，他是《合成之眼》的作者。哈迪·穆阿格迪制作了今天的节目，阿米娜·埃尔·萨迪编辑。帕特里克·博伊德和罗布·拜尔斯负责工程。劳拉·布拉德负责事实核查。我是诺埃尔·金。这是《今日解释》。今日解释

本节目的支持来自亚马逊企业。我们都可以利用更多时间。亚马逊企业提供智能的企业采购解决方案，因此你可以将更多时间用于发展业务，而将更少时间用于管理工作。我可以看出为什么他们称之为智能。了解更多关于智能企业采购的信息，请访问amazonbusiness.com。