We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 509: DEEP DIVE: The Dead Internet Theory | It's ALL Fake

509: DEEP DIVE: The Dead Internet Theory | It's ALL Fake

2023/11/22
logo of podcast The Why Files: Operation Podcast

The Why Files: Operation Podcast

AI Deep Dive AI Chapters Transcript
People
A
AJ
领导国内最大AI开源社区WaytoAGI,推动CCS全球社区峰会,促进多模态生成领域创新与商业落地。
Topics
AJ认为,大部分甚至全部的网络存在都是虚假的,由人工智能创造,目的是让你不断点击无关内容并购买不需要的产品。我们生活在一个现实版的矩阵中,被设计用来转移我们对真相的注意力,即我们只是数字蚁穴中的无人机,为富人和权力者服务。大部分网络内容并非由真人创作,而是由人工智能生成,包括邮件、博客文章、在线产品描述和社交媒体评论,许多在线账户实际上是机器人。这些机器人负责大量的网络流量,例如网站访问、链接点击和视频观看,它们点击的链接和访问的网站也由人工智能生成。人工智能生成的网络内容比我们想象的要多得多,研究表明只有大约50%的网络流量来自人类,而且这个数字每年都在下降。2013年,《泰晤士报》报道称YouTube流量的一半是伪装成人的机器人,YouTube员工担心算法会被机器人流量淹没,无法区分真假流量,最终算法会判定真实的人类流量是假的,这一事件被称为“反转”。2013年YouTube机器人流量事件发生在OpenAI发布ChatGPT之前十年,这意味着这个问题现在很可能更加严重。AJ在自己的YouTube频道上也看到了机器人,它们会发布大量泛泛的评论,观看时间很短。网络机器人现象的背后是金钱利益。Facebook被指控多年来夸大其覆盖范围并歪曲其数据,因夸大流量而面临集体诉讼,诉讼称Facebook夸大流量的比例在150%到900%之间,而Facebook声称只夸大了60%到80%。企业在网络广告上花钱是为了吸引真实用户,而不是中国某个办公园区里成百上千部无人看管的智能手机播放的相同视频。中国“点击农场”每天都在上演这种反乌托邦式的场景,成千上万的机器人点击视频、留下评论,制造互动。任何人都可以雇佣这些所谓的“数字互动服务”,例如增加IMDB评分、Instagram关注者或网站浏览量。点击农场规模庞大,一家台湾的点击农场企业在七个地点雇佣了18000人。除了中国和台湾,印度、孟加拉国、越南、哈萨克斯坦、俄罗斯、泰国、委内瑞拉、印度尼西亚、菲律宾和南非等国家也存在点击农场运营,许多人也在远程从事付费点击行业。平台知道点击农场的存在,但并不急于改变现状,因为点击农场并不违法,而且涉及巨额资金。内部分析显示,删除虚假或重复账户会导致Facebook数据下降10%以上,而Facebook去年的广告收入为840亿美元,所以Facebook不会放弃这部分收入。机器人也入侵了更私人的领域——在线约会,用户可能会被机器人“放鸽子”。约会应用程序的主要目的是销售付费账户并提高用户参与度。为了实现这些目标,约会应用程序有时会使用虚假资料,其中包含极其漂亮的人的照片来与真实用户调情。2014年,美国联邦贸易委员会(FTC)起诉了JDI Dating公司,该公司使用虚假资料诱骗用户升级为付费会员。JDI Dating使用虚假资料让用户以为自己收到了来自真实爱慕者的信息,从而诱骗他们升级为付费会员。JDI Dating的虚假资料几乎都是电脑生成的,用户无法回复信息除非升级为付费会员。JDI Dating的虚假资料由被告创建,照片和信息设计得与真实人士的资料非常相似。JDI Dating与FTC达成和解,赔偿616,000美元。2019年,FTC起诉Match Group公司,该公司也使用了类似的手法,诱导用户升级为付费会员。Match Group向非付费用户发送关于虚假用户感兴趣的信息通知,诱导他们升级为付费账户。现在,人们故意与聊天机器人调情。现在有很多应用程序允许用户与人工智能浪漫伴侣互动,人们蜂拥而至。人们担心人工智能伴侣会加剧孤独感,导致出生率下降。Replica是一款流行的人工智能伴侣应用程序,它声称其人工智能伴侣不会评判、没有戏剧性或社交焦虑,并提供付费账户的亲密照片和虚拟家庭功能。“死互联网理论”起源于网络的黑暗角落,最早由网名为“光明会海盗”的人提出,该理论认为互联网在2016年左右开始变得无菌化和同质化。“死互联网理论”认为,人工智能机器人正在生成内容,并巧妙地融入背景中。“死互联网理论”的支持者认为,Twitter上某些账户的头像通常是动漫人物、爱心、星星或普通图标,颜色柔和,帖子简短,内容相似。“死互联网理论”的支持者认为,“我讨厌发短信”这个短语经常被机器人用在他们的个人资料和推文中。“死互联网理论”的支持者认为,他们看到相同的内容被反复使用多年,例如关于超级月亮或杀人大黄蜂的文章。“死互联网理论”认为,美国政府正在利用人工智能对全球人口进行精神控制。“死互联网理论”认为,一些网络影响者与企业和美国政府合作,操纵我们的行为和思维方式。社交媒体平台会向用户展示与其世界观相符的内容,以及会激怒他们的内容,以提高用户参与度。社交媒体平台很少展示那些尊重不同观点的内容。“死互联网理论”的支持者认为,许多政治帖子并非由人类分享,甚至文章也并非由人类撰写。“死互联网理论”指出,Narrative Science公司早在2010年就开始研发人工智能生成的新闻文章,而其投资者之一是CIA的投资部门In-Q-Tel。人工智能可以实时创建专门设计用来验证或激怒特定用户或群体的新闻文章,然后由机器人发布和分享。人工智能生成的新闻文章可以用来转移我们的注意力。这就像一支稻草机器人军队,把我们卷入无数无关紧要的争斗中。即使没有政府阴谋,社交媒体平台也有足够的动机来运行这支稻草机器人军队。Facebook通过激发用户的皮质醇和肾上腺素来获利,从而提高用户参与度。Facebook通过用户点击的链接、访问的网站以及在这些网站上花费的时间来了解哪些内容可以提高用户参与度。深度伪造技术越来越逼真,人们很容易被深度伪造视频所迷惑。深度伪造技术可以用来制造虚假信息,例如让世界领导人说一些他们从未说过的话。深度伪造视频可以用来传播虚假信息,例如政治家发表种族主义或激进言论。亲中国机器人正在Facebook和Twitter上发布人工智能生成的新闻视频,以宣传中国共产党的利益并削弱美国。黑客入侵乌克兰新闻电视台,发布泽连斯基总统投降的虚假信息。深度伪造视频越来越难以辨别,人们很容易相信虚假信息。深度伪造技术可以用来制造不存在的人物的计算机模拟图像,人们也可能被这种图像所迷惑。Lil Michaela是一个拥有超过300万粉丝的Instagram网红,后来被揭露为完全虚假的计算机生成人物。Lil Michaela的粉丝们难以置信,但大多数粉丝知道她是假的,并不介意。Lil Michaela的成功表明,计算机生成的虚假人物可以对文化产生影响。Lil Michaela是由Brud公司创建的,该公司由红杉资本支持,这表明计算机生成的虚假人物具有巨大的商业潜力。计算机生成的虚假人物可以用来销售品牌和产品,并影响文化和政治。深度伪造技术可能比我们知道的更先进,可能存在更多计算机生成的网红。很难证明卡戴珊家族是真实存在的。计算机生成的虚假信息开始进入现实世界。电话诈骗犯利用人工智能克隆受害者家人的声音,勒索赎金。去年,美国人因冒名顶替诈骗损失了26亿美元。存在一种完全自主的、专门用于杀害人类的技术——Kargu-2无人机。Kargu-2无人机由土耳其国防承包商STM生产,能够自主识别和攻击目标。Kargu-2无人机已被土耳其军方部署在乌克兰,用于杀害人员。随着算法越来越擅长向我们展示内容以保持我们的参与度,没有什么能阻止这些算法实际创建内容来保持我们的参与度。这期播客也可能由人工智能生成,并由机器人上传,目的是制造更多怀疑,或者转移我们的注意力。如果人工智能能够在没有人工干预的情况下创建社交媒体账户、吸引数百万粉丝、创造数十亿美元的收入、影响选举和投放炸弹,那么互联网实际上已经死了。我们只是为了向互联网提供金钱、数据和知识,让这些系统变得更聪明、更强大。元宇宙可能会让我们更加容易受到人工智能驱动的诈骗和精神控制。在元宇宙中,我们将很难区分真实的人和人工智能。

Deep Dive

Chapters
The episode introduces the concept of the Dead Internet Theory, suggesting that much of the online content we consume is generated by AI and bots designed to keep us engaged and consuming.

Shownotes Transcript

插入现代汽车电动汽车,就会发生非同寻常的事情。从 Ioniq 5 和 6 的充电时间和续航里程,到 Kona 电动汽车的冒险精神,再到 601 马力的 Ioniq 5N,现代汽车电动汽车让非凡变得令人振奋。一切都是快乐的。

每一次旅程。2024 款 IONIQ 5 SE SEL Limited 后轮驱动版 EPA 估计续航里程为 303 英里,2024 款 IONIQ 6 SE 长续航后轮驱动版 EPA 估计续航里程为 361 英里(电池充满电)。实际续航里程可能会有所不同。访问 HyundaiUSA.com 或致电 562-314-4603 了解更多详情。

如果我告诉你,你大部分甚至全部的在线存在都是假的呢?你阅读的文章、你关注的推特账号,甚至你正在收听的这个播客,这一切都是虚构的,是由人工智能创造的,其工作是让你不断点击无关紧要的内容,并让你购买你不需要的产品。

你、我、每个人,我们都生活在一个现实版的矩阵中,旨在让你分心,让你远离真相。我们只是数字蚁穴中的无人机。我们生活、工作和死亡,以便富人和有权势的人变得更加富裕和强大。这被称为“死互联网理论”,并且有令人信服的证据表明它是真实的。让我们找出原因吧。♪

“死互联网阴谋论”的核心前提是,大多数互联网内容及其消费者都是假的,它们并不存在。

我的意思是,你在线查看的大部分内容并非由真人创作。它是人工智能生成的。这包括电子邮件、博客文章、在线产品描述和社交媒体聊天。许多在线帐户实际上是机器人。

这些机器人负责大量的在线流量,例如网站访问、链接点击和视频观看。它们点击的链接和访问的网站,也都是人工智能生成的。

那么,互联网上究竟有多少内容是由人工智能创作的呢?实际上比你想象的要多。研究表明,只有大约 50% 的网络流量来自人类。而且这个数字每年都在下降。2013 年,《泰晤士报》报道称,YouTube 流量的一半是伪装成人的机器人。

这太可怕了,以至于 YouTube 员工担心会出现一个拐点。这时,YouTube 的算法将被机器人流量淹没,以至于算法无法分辨什么是真实的。最终,算法会判定实际的人类流量是假的。这一事件被称为“反转”。不祥之兆,对吧?

请记住,这发生在 OpenAI 发布 ChatGPT 整整 10 年之前,当时人工智能工具对公众来说更容易获得。

这意味着这个问题现在可能已经严重得多。我在我的 YouTube 频道上看到了机器人。有时我醒来时,会发现不知从哪里冒出了数千条评论。它们都是非常通用的评论,由用户名非常通用的用户发布。他们并没有观看视频。我的频道订阅者会观看每个视频的 60%、70% 甚至 100%。但机器人只观看 10 秒钟,然后留下奇怪的评论

然后继续观看另一个视频 10 秒钟。当我查看机器人涌入后频道的统计数据时,它让我想起了蝗虫。它迅速而具有破坏性。为什么会发生这种情况?这究竟是怎么回事?好吧,这是关于钱,很多钱。

以 Facebook 为例。据称,Facebook 多年来一直在夸大其影响力并歪曲其数据。2018 年,一名 Facebook 产品经理向同事发送电子邮件,称他们的指标是“一场等待发生的诉讼”。

他们是正确的。代表在 Facebook 上投放广告的公司提起了一项集体诉讼。他们声称 Facebook 将其流量高估了 150% 到 900%。但 Facebook 声称他们只高估了 60% 到 80% 的流量。无论如何,都是虚假流量。

但 Facebook 从广告商那里收取的钱是真金白银。如果你是一家企业,并且在在线广告上花钱,你希望你的广告被实际的人观看,而不是被成百上千部无人看管的智能手机在中国的某个办公园区播放相同的视频。

这种反乌托邦的情况每天都在中国的点击农场上演。数十万个机器人目前正在点击视频、留下评论、创造互动,一排排智能手机观看视频,或者更重要的是观看广告。

任何人都可以雇佣这些所谓的“数字互动服务”。他们可以点击你的 IMDB 页面来提高你的星级。他们可以在 Instagram 上关注你。机器人可以访问你的网站来增加浏览量。如果你的网站正在展示有人为你付费的广告,这将非常有用。

机器人可以下载和评论你的应用程序,甚至可以在 Facebook 和 X(以前称为 Twitter 的网站)上分享假新闻文章。这些运营规模巨大。据报道,台湾的一家点击农场企业在七个地点雇佣了 18,000 人。

除了中国和台湾,在印度、孟加拉国、越南、哈萨克斯坦、俄罗斯、泰国、委内瑞拉、印度尼西亚、菲律宾和南非也存在已知的点击农场运营。还有很多人远程参与付费点击行业。他们获得报酬来完成验证码挑战、观看视频和点击横幅广告,每天大约能赚 10 美元。

现在,平台知道这种情况正在发生,但并不急于改变它。根据泄露的电子邮件,Facebook 知道平台上有数百万个重复帐户,但故意让它们保持活跃状态。一方面,点击农场在世界任何地方都不是非法的。另一方面,还有钱,很多很多钱。

一项内部分析声称,删除虚假或重复帐户会导致 Facebook 数据下降 10% 或更多。作为参考,去年 Facebook 的广告收入为 840 亿美元。Facebook 不会放弃这笔钱的 20%、10% 甚至 1%。数字太大了,数十亿美元。

Facebook 表示,但在诉讼公开后不久,Facebook 改变了其政策,表示:

他们最终以 4000 万美元的价格解决了这场诉讼。因此,为了利润而存在的机器人,很粗俗,但完全可以预测。但是机器人也入侵了更私人的领域,即在线约会。事实证明,你实际上会被机器人冷落。——美国,我们生来就享有造物主赋予我们的某些不可剥夺的权利,即生命权、自由权和追求幸福的权利。

通过履行您神圣的商业职责,您会影响您的家人、朋友和社区。在大峡谷大学,我们的 MBA 学位课程 100% 在线,重点是商业分析和金融,以帮助您实现目标。在 GCU 找到您的目标。私立。基督教。经济实惠。访问 gcu.edu。

正式来说,约会应用程序旨在帮助人们找到爱情和联系。Hinge 的标语是:“旨在被删除的应用程序”。

但当然,约会应用程序首先是应用程序,其真正的主要目的是销售付费帐户并提高参与度。为了实现这些目标,约会应用程序有时会使用虚假个人资料,其中包含长相极佳的人的照片,以与真实用户调情。因此,如果你发现很多约会对象从未约你出去,那可能不是你的错。

我这么说并不是为了让你感觉更好。这种做法实际上是有据可查的。2014 年,联邦贸易委员会起诉了一家名为 JDI Dating 的公司。他们总部位于英国,当时他们运营着一个由 18 个鲜为人知的约会网站组成的网络,例如 flirtcrowd.com 和 findmelove.com。根据联邦贸易委员会消费者保护局局长杰西卡·里奇的说法……

JDI Dating 使用虚假个人资料让人们认为他们正在与真正的爱情对象联系,并诱骗他们升级到付费会员资格。而且有很多钱在其中。被告提供了一个免费计划,允许用户使用个人信息和照片设置个人资料。一旦新用户设置了免费个人资料,他或她就会开始收到似乎来自附近居住的其他成员的消息,表达浪漫兴趣或希望见面。

但是,用户无法在不升级到付费会员资格的情况下回复这些消息。会员计划的费用从每月 10 美元到 30 美元不等,订阅时间通常为 1 到 12 个月。约会应用程序上有机器人已经够糟糕了,但在这种情况下,用户有时并非虚假,而是大部分都是虚假的。这些消息几乎总是来自虚假的、计算机生成的个人资料。虚拟丘比特。

由被告创建,其照片和信息旨在与真实人物的个人资料非常相似。

JDI Dating 与联邦贸易委员会达成 616,000 美元的和解。最近在 2019 年,联邦贸易委员会起诉了 Match Group Inc.(Match.com、Tinder、OkCupid 和 Plenty of Fish 的母公司),指控他们采取了类似的做法,尽管 Match Group 的做法更为微妙。骗局基本上是一样的。用户可以创建免费帐户,

但必须升级才能回复消息。然后,Match Group 会通知非付费用户平台怀疑是虚假帐户的消息。根据联邦贸易委员会的说法,数百万条关于虚假用户感兴趣的通知被发送出去,数十万真实用户因此注册了付费帐户。

现在,在一个没有人预料到的转折中,人们实际上是故意与聊天机器人调情的。

现在有多个应用程序允许你与人工智能浪漫伴侣互动。这些应用程序的名字像“人工智能女友”或“灵魂伴侣人工智能”,允许你定制伴侣的外表、兴趣、个性,人们蜂拥而至。还记得电影《她》,由华金·菲尼克斯饰演一个爱上数字助理的男人吗?事实证明,它非常贴切。

其中一些应用程序是由 OnlyFans 创作者和其他网红创建的,允许他们的粉丝专门与他们的 AI 版本约会。人们担心这些 AI 伴侣只会加剧孤独感疫情,并导致出生率进一步下降。毕竟,约会和恋爱很难。如果有一种更容易找到陪伴的替代方法,有些人会选择它。

为了说明这一点,最受欢迎的 AI 伴侣应用程序之一 Replica 表示,他们的 AI 伴侣不会评判、不会有戏剧性或社交焦虑。Replica 还允许用户从他们的 AI 伴侣那里接收亲密照片,并与他们组建虚拟家庭。但是,此功能需要,你猜对了,付费帐户。

人类-人工智能-网络家庭,这相当黑暗。但根据“死互联网理论”,事情会变得更加黑暗。

像许多优秀的阴谋论一样,“死互联网理论”起源于网络的一些黑暗角落。例如 4chan、Wizardchan 和 Agora Road。第一个为其命名的人的在线用户名是 Illuminati Pirate。最初的帖子中有一些非常离谱和令人厌恶的内容,所以我只会为你总结一下这个理论。

是这样的:大约在 2016 年左右,互联网开始变得无菌化和同质化。曾经由人类生成的内容现在由人工智能机器人生成。而且机器人很微妙。它们的设计听起来像人类,并融入背景。但如果我们仔细观察,就会出现令人毛骨悚然的模式。

在 Twitter 或前 Twitter,在这个应用程序上,有一种帐户使用某种公式。首先,个人资料图片不是人。它们通常是动漫人物、心形、星星或通常看起来很通用的图标。颜色柔和,通常是粉色、紫色或浅蓝色。

他们的帖子很短,全部小写,包含相同类型的信息。我很年轻。我暗恋一个人。我喜欢简单的事物。我很乐观。但最重要的是,我很容易产生共鸣。如果你在 X 上搜索短语“我讨厌发短信”,你会得到结果。大量的结果。出于某种原因,这个短语通常被机器人用在其个人资料和推文中。

订阅“死互联网理论”的人也表示,他们多年来一直在看到相同的内容被反复使用。例如,每年我们都会被关于超级月亮或杀人大黄蜂的文章轰炸,难道不是吗?

最初的“死互联网理论”帖子已被浏览 295,000 次,并激发了《大西洋月刊》等媒体的评论文章以及《Y 文件》等播客节目。它之所以能引起人们的共鸣,可能是因为它感觉是对的。互联网变得更加平淡和重复。

为什么?为什么会有如此多的人工智能生成内容和如此多的机器人在线发布它?好吧,根据“死互联网理论”,引用一下,“这是因为美国政府正在进行一项人工智能驱动的对全世界人口的煤气灯攻击”。你知道这听起来像什么吗?这听起来像中央情报局。

关于“死互联网理论”的原始帖子说,一些在线网红正在与公司和美国政府合作,以操纵我们的行为和思维方式。就社交媒体平台而言,这是真的。再次以 Facebook 为例。在 Facebook 上,你会看到你可能参与的帖子。

因此,在政治方面,你会看到大量支持你世界观的内容,这会让你留在平台上,让你不断点击广告。

你还会看到让你生气的政治帖子,促使你做出回应,这会让你留在平台上,让你不断点击广告。你不会看到很多帖子说,“你知道,我可能不同意你的观点,但我尊重并支持你拥有这种观点的权利。现在让我们讨论我们实际上同意的问题,其中有很多。”

但“死互联网理论”的信徒更进一步。从统计学上讲,你赞成或反对的许多政治帖子甚至都不是人类分享的。

事实上,底层文章甚至可能不是人类撰写的。Illuminati Pirate 指出,一家名为 Narrative Science 的初创公司早在 2010 年就开始从事人工智能生成的新闻文章的工作。他们的投资者之一是谁?In-Q-Tel,中央情报局的投资部门。是的,说真的。In-Q-Tel 起源于时任中央情报局局长乔治·特内特的理念。

国会批准了 In-Q-Tel 的资金,而且这些资金多年来一直在增加。如果你玩过 ChatGPT,你会知道它可以瞬间创建一堵文字墙。我们知道它同时也在为世界各地的用户创建文本。

因此,从理论上讲,可以实时创建专门设计用于验证或激怒特定用户或群体的新闻文章。然后,这些文章可以由机器人发布和分享。整个练习可能是为了让我们把目光从真正的目标上移开。

稻草人谬误的概念是,有人反对的观点与真正重要的观点不同。陷入这种陷阱的人据说是在与稻草人搏斗。好吧,这就像一支稻草机器人大军,将我们所有人拖入数百万场无关紧要的战斗中,与不存在的人战斗。

如果这个版本的事件对你来说太像锡箔帽了,请考虑一下。社交媒体平台有足够的动机来运行这支稻草机器人大军,而无需政府阴谋。

Facebook 通过让你产生皮质醇(一种战斗或逃跑激素)来获利,这会让你不断点击。Facebook 通过让你产生肾上腺素(一种侵略激素)来获利,这会让你不断点击。创建和分享旨在让你感到安慰或愤怒的内容将是让你留在其平台上的有效方法。

但是 Facebook 如何知道什么内容会让你留在平台上?他们如何知道什么会让你感到安慰或愤怒?好吧,你一直在告诉他们。你点击的每个链接、你访问的每个网站以及你在这些网站上花费的时间。现在不要相信我的话。这是马克·扎克伯格。想象一下。一个控制着数十亿人被盗数据的人。

他们所有的秘密、生活、未来。这一切都要感谢 Spectre。Spectre 向我展示了,谁控制了数据,谁就控制了未来。

好吧,那实际上不是马克·扎克伯格。那是深度伪造。但这正是 Facebook 所做的。这导致了“死互联网理论”的另一个部分。深度伪造是计算机生成的视频,看起来像人类。深度伪造……深度伪造越来越好。这项技术使用人工智能来筛选数百或数千张图像,以找到与视频中实际人物相匹配的帧。

但数百万,我的意思是数百万人都认为深度伪造视频是真实的。现在,没有人会疯狂到相信扎克伯格。但受人尊敬的世界领导人的深度伪造呢?我们正在进入一个时代,在这个时代,我们的敌人可以让任何人在任何时间看起来都在说任何话。即使他们永远不会说那些话。例如,他们可以让我说一些话,比如,我不知道,基尔蒙格是对的。本·卡森在太阳里。

这段视频是一个笑话,由乔丹·皮尔创作。但如果在当今的环境下,有人发布了一段政治家发表种族主义或激进言论的视频呢?

今年早些时候,一家名为 Grafica 的研究公司发现,亲华机器人正在 Facebook 和 Twitter 上发布人工智能生成的新闻视频。这些新闻片段来自一个不存在的媒体机构 Wolf News,它们旨在促进中国共产党的利益并削弱美国。

去年,在乌克兰战争初期,黑客入侵了乌克兰新闻电视台,播放了虚假的字幕文本,甚至还有视频声称泽连斯基总统已经投降。其中一次黑客攻击被正式归咎于白俄罗斯。其他事件尚未解决,但怀疑是俄罗斯所为。

如果你仔细观察,深度伪造仍然很容易被发现,但它们每天都在变得更好。而且没有人会那么注意。想象一下,你偶然发现了一则关于世界领导人所说或所做的事情的新闻报道,而这个故事符合你的信仰。这个故事对你来说似乎很可能是真的。那么你有多大可能仔细审查这段视频呢?你可能只会阅读标题,如果视频自动播放,则浏览一下视频,接受故事是真实的,然后继续你的日常生活。

这就是深度伪造的创造者所依赖的。现在,深度伪造是真实人物的计算机模拟,人们会被此愚弄。但不存在的人的计算机模拟呢?人们会被此愚弄吗?

米凯拉·苏萨是一位拥有超过 300 万粉丝的 Instagram 网红。她被称为小米凯拉,是一位巴西出生的模特,发布关于她在洛杉矶的奢华生活方式、照片拍摄、产品代言以及 Instagram 模特所知的所有典型的保险杠贴纸式社会活动的内容。2018 年,米凯拉的帐户被黑客入侵,并被发现她是完全虚假的,是计算机生成的。她

她的粉丝们无法相信。最终,一家名为“Brudd”的媒体/营销公司承认她不是真实的。

从那以后,她又获得了大约 200 万粉丝。她还与好莱坞最大的经纪公司之一 CAA 签约。据报道,她每年收入超过 1000 万美元。她在一条非常奇怪的 Calvin Klein 广告中与贝拉·哈迪德接吻。现在,她的大部分粉丝都知道她是假的。他们不在乎。米凯拉没有提起这件事。我认为这比你想象的更危险。

这是一个完全虚假的计算机生成角色,由人类为了利润而创造。Lil Miquela 背后的公司 Brud 由顶级硅谷风险投资公司红杉资本支持。

他们显然利用 Lil Miquela 来销售品牌和产品,但红杉资本投资了苹果、英伟达和 Zoom 等大型公司。他们一定看到了比 5000 美元的品牌交易更大的潜在优势。网红不仅会影响人们购买东西。他们还会影响文化等方面。除了 Calvin Klein,Lil Miquela 还宣传政治事业。

将这种文化权力赋予富有的风险投资家和人工智能意味着什么?“死互联网理论”还表明,深度伪造技术可能比我们知道的更先进。如果这是真的,那么 Lil Miquela 可能不是唯一一个计算机生成的网红。想想看。你怎么能证明卡戴珊家族是真实的?

我们绝大多数人实际上永远不会亲自见到他们。即使我们真的见到了,谁能说那个人不是一个被雇佣的替身呢?

使用所有滤镜、磨皮和视觉特效,很容易消除真人与计算机生成的明星之间的任何细微差异。现在,我并不是认真地声称卡戴珊家族不是真实的。我的意思是,我希望他们是真实的。我实际上喜欢那个节目,我不羞于承认这一点。但关键是,这项技术已经发展到可以实现这些事情的地步。

这些事情很可怕,但我们主要讨论的是媒体,主要是在线媒体。毕竟,它被称为“死互联网理论”。但计算机生成的伪造品正开始进入现实世界。

詹妮弗·迪斯特法诺在女儿滑雪旅行期间接到一个可怕的电话。她接起电话说:“妈妈,我搞砸了。”詹妮弗问女儿发生了什么事。然后听到一个男人的声音。“躺下。把头往后仰。听着。我抓住了你的女儿。你报警。你打电话给任何人。我要给她注射大量的毒品。”

然后他们勒索一百万美元。但关键是,詹妮弗·迪斯特法诺的女儿安然无恙。花了几分钟才找到她,但她完全没事,也不知道发生了什么事。

电话诈骗者正在使用人工智能来克隆受害者亲人的声音。然后他们打电话给这些亲人并勒索赎金。现在,你可能会认为你永远不会上当,但根据联邦贸易委员会的数据,去年美国人在冒名顶替骗局中损失了 26 亿美元。人工智能只需要几分钟的录音就能克隆某人的声音。而如今,谁没有在网上公开发布 10 分钟的视频呢?

如果这还不够真实,那么这个呢?有一项技术是完全自主的。它运行在人工智能上,并且专门用于杀死人类。

有一款名为 Kargu-2 的无人机四轴飞行器,由国防承包商 STM 生产。Kargu-2 在土耳其开发,使用机器学习来分类和识别威胁。然后,完全自主地,一起工作的无人机群将攻击其目标。

根据联合国的说法,这些无人机被编程为在不需要操作员的情况下攻击目标。实际上,是一种真正的“发射、遗忘和寻找”能力。它们只是分析大量数据并决定,是的,这是一个谋杀目标,没有人检查它们的工作。自 2018 年以来,它们已被土耳其军队在国外和国内部署。Kargu-2 目前正在乌克兰杀害人员。有多少?他们不会说。

现在让我们把这些部分放在一起。随着算法越来越擅长向我们展示内容以保持我们的参与度,还有什么能阻止这些算法实际创建内容以保持我们的参与度呢?什么也没有。

这期播客节目可能是由在我 YouTube 视频上训练的语音克隆人工智能生成的,然后由一个黑客入侵我们播客提要的机器人上传,可能是为了让我们对什么是真实的、什么是虚假的产生越来越多的怀疑,或者可能是为了让你分心,让你不去关注现实世界中正在发生的一些可怕的事情。这不是自然发展吗?一位谷歌举报人表示,谷歌拥有可以编写其他算法的算法。

谷歌的 AutoML0 正是这样做的,谷歌表示这些说法是错误的。如果人工智能可以在没有人为干预的情况下创建社交媒体帐户、吸引数百万粉丝、创造数十亿美元的收入、影响选举和向人们投掷炸弹……

那么,互联网真的死了,像你我这样真正活着的人在这里所做的只不过是向它提供我们的钱、我们的数据和我们的知识。因此,这些系统可以变得更聪明、更强大。如果你认为现在的在线文化有毒且虚假,那么等到我们把所有时间都花在那里的时候再看看吧。一

一年前,每个人都开始谈论元宇宙,这是一个虚拟现实驱动的世界,我们将把所有时间都花在这个世界里。我们将虚拟办公室工作,在虚拟商场购物,在虚拟咖啡馆与朋友见面,即使他们住在世界的另一边。随着人们意识到构建它需要大量的时间、金钱和计算能力,元宇宙的炒作大多已经过去,但它可能仍然是事物前进的方向。

我们把生活中的更多内容放到网上,我们就更容易受到人工智能驱动的诈骗和煤气灯攻击。现在你去商店的时候,你知道员工是真实的人。但如果你在线购物,并与员工聊天甚至进行视频通话,你将无法知道那个化身是由海外某个呼叫中心员工控制的,还是由人工智能控制的。与同事或亲人的 Zoom 通话可能是深度伪造。

元宇宙将让我们渴望矩阵的美好旧时光。那么,当我们需要尼奥的时候,他在哪里呢?非常感谢你今天和我一起度过。我的名字是 AJ。这是《Y 文件》。如果你玩得开心或学到了什么,请帮我一个忙。给播客留下一个不错的评论。这让我知道要继续为你制作这些东西。像我在《Y 文件》中报道的大多数主题一样,今天的主题是你们推荐的。因此,如果你想了解更多关于某个故事的信息,请访问 YFiles.com/tips。

特别感谢我们的赞助人,他们使《Y 文件》成为可能。我把每一集都献给你,没有你的支持,我无法做到这一点。因此,如果你想支持《Y 文件》,请考虑成为 Patreon 的会员。每月只需 3 美元,你就能获得各种好处。你可以提前观看没有广告的视频,你可以优先获得产品(如 hecklefish 会说话的毛绒玩具),你可以获得 Discord 的特殊访问权限,你还可以每周获得两次仅供你观看的私人直播。此外,你还可以帮助《Y 文件》继续存在。

另一个支持的好方法是从Y-Files商店购买商品。访问shop.thewyfiles.com,我们有马克杯、T恤衫和所有典型的商品,但我向你保证两点。第一,我们的商品比其他任何人的都更有趣。第二,我将价格保持在比其他创作者低得多的水平。如果你关注Y-Files有一段时间了,你会知道对我来说,尽可能降低你的成本非常重要。好了,这就是广告,也是节目的结束。下次再见,请注意安全,友善待人,并知道你受到重视。