Could you spot a deepfake? We’re entering a new world where generative AI is challenging our sense of what’s real and what’s fiction. In our first episode, Bilawal and Sam Gregory, a human rights activist and technologist, discuss how to protect our sense of reality.</context> <raw_text>0 好的,想象一下这个场景。我们在迈阿密。阳光、沙滩、棕榈树,还有一个巨大的露天购物中心就在水边。很不错,对吧?但是,今年1月份的一个星期一晚上,事情变得奇怪了。警车蜂拥而至购物中心,就像几十辆一样。我说的是六个街区被封锁了,灯在闪烁,到处都是人,没有人知道发生了什么。
新闻片段传到了互联网上,自然而然地,集体意识开始过度运转。猜测、阴谋论满天飞,一个想法占据了主导地位:外星人。人们在评论中仔细分析着模糊的直升机镜头,放大,逐帧分析,以寻找任何外星人的证据。所以我想,我是一个TikTok博主。如果我把这个网络上的白日梦变成现实,并与大众分享呢?
使用最新的AI工具,我制作了一个视频。高耸的阴影人物在警车的闪烁灯光中悄无声息地显现出来。迈阿密海湾市场中心的外星人入侵。我只是觉得有点好玩,我心想。一些人明白了这个玩笑,这是《怪奇物语》的迈阿密版。但我看到其他人涌入我的评论区,宣称这是外星人确实存在的确凿证据。
现在你可能想知道,到底发生了什么?一群青少年在商场里打架,警察赶来制止,这就足以引发这场大规模歇斯底里了。这太容易了。太容易让人相信一些从未发生过的事情了。这有点可怕。
我是比拉瓦尔·萨杜,这是TED人工智能节目,我们将在这里弄清楚如何在人工智能改变一切的世界中生活和发展壮大。想要一个具有无与伦比的强大功能、速度和
和控制力的网站?试试Bluehost Cloud,这是Bluehost的新型网络托管计划。由WordPress专家为WordPress创建者打造。凭借100%的正常运行时间、令人难以置信的加载时间和全天候WordPress优先支持,您的网站将以闪电般的速度实现全球覆盖。借助Bluehost Cloud,无论您的网站流量有多大,都能轻松应对。此外,您还可以自动获得每日备份和世界一流的安全保障。立即访问bluehost.com开始使用。
从我还是个孩子的时候起,我就一直在制作视觉效果,在我的电脑上融合现实。我记得看过一个名为《超级电影魔法》的节目,该节目揭示了电影特技背后的秘密。我了解了《星球大战》、《哥斯拉》和《独立日》等电影中的CGI和实际效果。我已经开始接触电脑图形学了,但是看到它们如何创造出与现实难以区分的视觉效果,这是一个改变游戏规则的事件。
它激发了我毕生的热情,那就是融合物理世界和数字世界。几年前,我创建了自己的TikTok频道。我会上传我自己的作品,并与数百、数千,现在是数百万的观众分享。
我的意思是,仅仅五年前,如果我想制作一个关于巨型外星人入侵迈阿密购物中心的视频,我需要花费一周的时间,至少需要五种软件。但是这个外星人视频,我仅仅用一天的时间就用MidJourney、RunwayML和Adobe Premiere等工具制作出来了。任何拥有笔记本电脑的人都可以访问这些工具。
自从ChatGPT在2022年末出现以来,人们一直在谈论图灵测试,在这个测试中,人类评估者试图弄清楚文本聊天另一端的人是机器还是另一个人。但是视觉图灵测试呢?在这种测试中,机器可以创建与现实难以区分的图像。现在,OpenAI推出了Sora,这是一种视频生成工具,可以根据单个文本提示创建令人印象深刻的逼真视频。
它基本上就像ChatGPT或DALI,但它生成的不是文本或图像,而是视频。而且不要误会我的意思,还有其他视频生成工具,但是当我第一次看到Sora时,它的真实性让我大吃一惊。
我的意思是,使用这些其他程序,你可以制作几秒钟的短视频。但是对于Sora,我们说的是一分钟长的视频。这些长时间动态摄像机移动的3D一致性确实给我留下了深刻的印象。有很多高频细节,场景充满了活力。
如果我们只需要将单个文本提示输入Sora,它就会给我们提供视觉上令人信服的完整视频,以至于有些人可能会将其误认为是真实的东西,那么你可以想象由此可能产生的一些问题。所以我们正处于一个转折点。我们不仅打破了视觉图灵测试,而且每天都在重新打破它。图像、音频、视频、3D,等等。我的意思是,你可能已经看到了这些新闻标题。
在Twitter上流传的AI生成的泰勒·斯威夫特的裸照。一段生成的泽连斯基向俄罗斯军队投降的视频。一名诈骗犯在视频通话中成功冒充首席财务官,诈骗香港一家公司数千万美元。这些骗局、伪造品和诈骗行为虽然很糟糕,但还存在更阴险的危险。如果我们不再相信我们所看到的一切,那会怎么样?想想看。
想象一下未来,你不再相信新闻。你不相信你在法庭上看到的视频证据。你甚至不确定Zoom通话另一端的人是不是真的。这不是遥远的未来。事实上,我认为我们现在正生活在这个时代。因此,鉴于我们身处这个不断打破和重新打破视觉图灵测试的新世界,我们该如何保护我们自己的现实感呢?
我联系了萨姆·格雷戈里,让他向我解释我们面临的挑战。萨姆是生成式人工智能和错误信息方面的专家,也是人权网络Witness的执行董事。他的组织一直在与记者、人权倡导者和技术专家合作,提出帮助我们区分真假的方法。
萨姆,感谢你加入我们。我必须问你,随着我们在过去两年中看到这些AI工具的激增,我们是否也相应地看到了这些视觉骗局的大量增加?绝大多数仍然是这些肤浅的伪造品,因为任何人都可以制作肤浅的伪造品。这非常容易,对吧,只需从谷歌搜索中获取一张图片,并声称它来自另一个地方。然而,我们看到的是这种以各种方式发生的激增。
人们正在利用这种生成媒体进行欺骗的方式。所以你有时会看到故意分享的图像来欺骗人们,对吧?有人会分享一张图片,声称它是,你知道的,一个从未发生过的事件。然后,你知道的,我们看到了很多音频,因为它太容易制作了,对吧?几秒钟你的声音,你就可以制作出无穷无尽的克隆声音。我们没有看到很多视频,对吧?那是,你知道的,
反映了,你知道的,真正进行复杂的视频再创作仍然没有完全实现,对吧?是的,视频要困难得多,至少目前是这样。我个人希望它能保持相当困难一段时间。尽管其中一些生成物已经变得非常疯狂。我看到Sora的一个视频时,有了一种存在主义的时刻。这是水下潜水员的视频。
对于任何没有看过这个视频的人来说,有一个潜水员在水下游泳,你知道的,正在调查这艘坠入水底的历史悠久的、几乎是考古学意义上的宇宙飞船。它看起来绝对真实。我当时在思考,如果用老式的方法来做,需要花费多少时间。我只是惊叹于这只是一个简单的提示,就产生了这个完美的一分钟视频。
我很好奇。你有没有过这样的时刻?这很有趣,因为我当时正向我的同事们展示这个视频,我没有告诉他们是用Sora制作的。因为我想看看他们是否能看出它是……
一个AI生成的视频,因为我认为这是一个引人入胜的视频。它有点处于可能性边缘。对我来说,现在确实发生了一个时刻,这真的很有趣,因为,你知道的,我们五六年就开始研究这个了,我们只是在做我们所说的“准备,不要恐慌”,并试图消除人们的炒作,尤其是在视频深度伪造方面,因为,你知道的,
人们一直暗示它们很容易制作,而且我们被它们包围着。而现实情况是,制作令人信服的视频并不容易,而且要大规模地做到这一点也不容易。所以对我来说,Sora确实是一个关键时刻,就这里的可能性而言,尽管它感觉像一个黑匣子,我不太确定他们是如何做到的,以及这实际上将有多容易获得以及速度有多快。因此,与这相关的,许多这些视觉骗局
往往是异想天开的,甚至是无害的,对吧?换句话说,它们不会在现实世界中造成严重的伤害,几乎类似于恶作剧。但是有些视觉骗局可能会严重得多。你能告诉我你目前在外面看到的一些情况吗?目前最有趣的例子发生在全球选举的背景下。它们通常是人们被篡改了话语。
在最近巴基斯坦和孟加拉国的选举中,候选人说,抵制投票或投票给另一方,对吧?乍一看,它们非常引人注目,特别是如果你不太熟悉如何使用AI。它们通常在选举前部署。因此,在大多数情况下,这些都是恶意的。它们旨在欺骗。然后你还会看到一些泄露的对话。所以它们不是视觉骗局。所以你真的,你知道的,
在那里发生了相当具有欺骗性的用途,要么直接使用音频,要么在音频与动画面孔或音频与制作视频唇形同步的能力的交叉点上。如果我想让你关注一个让你最不安的例子,一个最能体现你最担心的事情的例子,那会是什么?
我将选择一个,它实际上是一个完整的类型。我将描述这个类型,因为我认为这是人们熟悉的一个类型。但是一旦你开始思考它,你就会意识到这样做有多容易。那就是几乎每个人都见过埃隆·马斯克兜售加密货币骗局,对吧?通常与新闻主播、你最喜欢的新闻主播或你最喜欢的政治人物配对。在我工作的每个国家,人们
人们都经历过这种情况。他们看过那个视频,新闻主播说,嘿,埃隆,来解释一下你如何参与这个新的加密货币骗局,或者来吧,政治候选人,解释一下你为什么投资这个加密货币骗局。对于任何没有看过它的人来说,这些视频只是深度伪造的埃隆·马斯克试图让你内疚地购买加密货币,作为他们比特币赠送计划的一部分。
所以我之所以指出这一点,并不是因为它对人权或新闻产生了巨大的影响,而是因为它已经商品化了。但是我们有一个更大的问题,那就是它如何影响我们对我们信任事物的整体理解,对吧?这是否会以任何方式削弱人们对他们在网上遇到的音频、视频或照片的信心?它是否只是强化了他们想要相信的东西?对于其他人来说,只是让他们相信任何事情都不能被信任。
我们将稍作休息。回来后,我们将与萨姆讨论如何利用他称之为SIFT的小系统来训练自己更好地区分真假。稍后我们将详细介绍这一点。
节目的支持来自LinkedIn。LinkedIn广告允许您建立正确的关系,推动业绩,并在尊重环境中接触您的客户。他们没有受到轰炸。这是非常有针对性的。您将能够直接接触并与
拥有10亿会员、1.8亿高级管理人员,似乎每个人都在LinkedIn上,以及1000万C级高管,您将能够通过专门为B2B打造的定位和衡量工具来推动业绩。在技术领域,LinkedIn产生的广告支出回报率是
是其他社交媒体平台的两到五倍。您将与尊重您所在B2B领域的合作伙伴合作。79%的B2B内容制作人员表示,LinkedIn为付费媒体带来了最佳效果。立即开始将您的B2B受众转化为高质量潜在客户。我们甚至会在您的下一次活动中为您提供100美元的信用额度。访问linkedin.com/TEDaudio领取您的信用额度。网址是linkedin.com/TEDaudio。适用条款和条件。LinkedIn,最佳去处。
我们又回到了Witness的萨姆·格雷戈里身边。休息之前,我们正在讨论这些虚假视频是如何开始侵蚀我们对所见一切的信任的。是的,也许你可以在很多这样的视频中找到缺陷,但有些视频确实非常好。而且没有人会放大到300%来寻找那些细微的瑕疵,尤其是在他们浏览信息流时,对吧?就像在他们早上的通勤之前或类似的事情。
是的。你触及到我认为新闻媒体经常在如何思考发现AI方面对人们做的不好的事情,对吧?我们如此强调的是,你知道的,你应该已经发现了教皇,你知道的,在他的羽绒服图像中,他的无名指戴错了手,对吧?或者你没有看到他的发际线看起来不太对?或者你没有看到他眨眼的频率不正常?而且这
这几乎对我们这些消费者来说太残酷了,期望我们发现这些事情。我们不会这么做。我不会查看我的“为你推荐”页面上的每个TikTok视频,然后说,让我仔细看看这个,确保没有人试图欺骗我。因此,我们经常做得不好,因为人们指出这些缺陷,然后他们期望人们发现它们。这创造了一种整个文化,我们不信任我们所看到的一切。我们试图运用这种个人法医怀疑论,但这并没有把我们带到好地方。
好的。我想谈谈缓解措施。我们该如何准备,现在我们可以做些什么?当我们第一次开始说“准备,不要恐慌”时,那是五六年以前,那是在第一次深度伪造炒作周期,那是2018年大选,当时每个人都认为深度伪造将摧毁大选,并且
我认为2018年美国大选中没有任何值得注意的深度伪造。现在,让我们快进到今天,对吧?2024年。当我们环顾世界时,威胁现在是清晰可见的,并且正在升级。因此,准备工作是采取行动、倾听正确的声音,并思考我们如何平衡
创造力、表达、人权,并从全球视角出发,因为这场对话的很大一部分也往往以美国或欧洲为中心。那么我们现在能做些什么呢?你知道,它的第一部分是,我们应该听谁谈论这个?我经常在
人工智能对话中感到沮丧,可能会出现关于人工智能危害和人工智能安全的这种非常抽象的讨论。这与我与一线记者和人权捍卫者进行的对话感觉非常不同,他们说,我受到了非自愿性性深度伪造的攻击。我的镜头被一位政治家驳回为伪造的,因为他说是AI制作的。因此,在我们准备的过程中,首先要考虑的是,我们应该听谁的话,对吧?我们应该倾听那些真正经历过这种情况的人。我
然后我们需要思考,我们需要帮助人们了解人工智能是如何被使用的?这种配方的疑问。我使用配方的比喻,因为我认为我们并不处于人工智能或非人工智能的世界。即使在我们用iPhone拍摄的照片中,我们也已经将人工智能和人类结合起来了,对吧?人类的输入,然后是使我们的照片看起来更好的AI修改。因此,我们需要思考,我们如何沟通在我们制作的媒体中使用了AI?
我们需要向人们展示人工智能和人类是如何参与媒体创作、编辑和分发的。它的第二部分是关于检测的访问。我们看到的情况是,对于最需要它的人,例如全球的记者、选举官员和人权捍卫者来说,获得检测工具的机会存在巨大差距。所以他们有点被困住了。他们得到一段视频或一张图片,他们正在做我们鼓励普通人做的事情,寻找缺陷,
你知道的,猜猜看,把它放到在线检测器中。所有这些事情都可能给出误报或漏报,就像它们给出你可以解释的可靠结果一样。所以你有这两件事。你缺乏解释配方的透明度。你获得检测工具的机会存在差距。
除非整个AI流程都发挥作用,确保真实性的信号和检测能力贯穿始终,否则这两者都不会有效。因此,我们指出的三件关键事情是:正确进行的透明度、最需要它的人可以获得检测工具,以及在整个AI行业共享责任的重要性。我认为你在这里完美地回答了三个问题。
因此,一个关键的挑战是判断内容是由人类生成的还是由机器合成生成的。
而你参与的一项努力是恰如其分地命名为内容真实性倡议。你能谈谈这如何在一个充满虚假内容冒充真实内容的世界中发挥作用吗?是的。大约五年前,有一些倡议是由一些公司和媒体机构共同创立的。Witness很早就加入了这些倡议,以了解我们如何将人权的声音带入其中。其中一个被称为Adobe启动的内容真实性倡议。
另一个被称为内容来源和真实性联盟。它的缩写是C2PA。让我更详细地解释一下C2PA是什么。它基本上是一个技术标准,用于显示我们可能描述的图像、视频或其他媒体的来源。而来源是……
基本上是它如何创建的轨迹,对吧?这是一个标准,在过去几个月里,平台越来越采用它。你已经看到谷歌和Meta采用了它,作为他们向人们展示他们在网上遇到的媒体,特别是AI生成或编辑的媒体是如何制作的一种方式。这也是政府正在采取的方向。我们指出的关于C2PA等标准的一些关键事情是,你知道的,
首先,它们并不是一种万无一失的方法来显示某些东西是用AI制作的还是用人制作的。我的意思是,它们会告诉你信息,但我们知道人们可以删除这些元数据,例如。他们可以删除元数据。我们也知道,由于各种原因,有些人可能不会添加这些信息。因此,我们正在创建一个系统,允许额外的信任信号或额外的信息片段,但没有……
对真实性或现实的任何确认。我认为明确这一点非常重要,从某种意义上说,这是一种减少危害的方法。这是一种向人们提供更多信息的方式,但它不会以某种类似于灵丹妙药的方式得出结论。然后,我们需要考虑的第二件事是,你知道的,我们需要真正确保这与媒体是如何制作的有关,而不是谁制作的有关。
否则,我们将打开通往监控的后门。我们将打开通往这种方式的后门,这种方式将被用来针对和刑事犯罪记者以及那些在全球范围内反对政府的人。
说得太好了,尤其是在最后一点上,我注意到蒂姆·斯威尼对所有正在发生的内容真实性倡议有一些有趣的评论,他将其描述为一种监控DRM,你无法上传内容。对。如果像你这样的人没有推动这个方向,我们很可能会最终进入一个你无法将图像上传到互联网而没有将你的身份与之绑定在一起的世界。我认为这将是一个非常可怕的世界。
我们在C2PA等系统中始终坚持反对的一个观点是,身份应该是你在网上被信任的方式的核心。这很有帮助,对吧?在很多时候,我希望人们知道我是谁。但是如果我们开始将在线信任的前提建立在个人身份作为中心,并要求人们这样做,
这带来了我们已经从社交媒体中了解到的各种风险,对吧?这并不是说我们不应该考虑诸如人格证明之类的事情,对吧?就像我们如何理解创建媒体的人是一个人可能很重要,对吧?当我们进入AI生成的世界时,这与知道是萨姆制作的并不相同,而是一个普通的人制作的,对吧?所以我认为这非常重要。
这确实是一条滑坡,并且在某种程度上区分验证你是人与验证你是萨姆·格雷戈里之间非常微妙但至关重要的区别。让我们谈谈恐惧和希望。你知道,在2017年,你认为对深度伪造的恐惧被夸大了。现在显然它更像是一种清晰可见的危险。你现在站在哪里?你目前有什么希望和恐惧?
因此,我们从2017年的情况变成了,当时主要的危害是人们没有讨论的危害。那是基于性别的暴力。每个人都讨论的危害,政治用途,是不存在的。
到目前为止,基于性别的暴力已经变得更糟了,对吧,它针对的目标从公众人物到世界各地学校里的青少年。而政治用途现在是真实存在的。第三件事是,人们意识到这是一个非常好的借口
对于一段令人妥协的媒体,那就是说,“嘿,那是伪造的”,或者,“嘿,我可以用说是伪造的来否认这段媒体。”因此,这三种是我现在经历的已经变成现实的核心恐惧。
现在,就希望而言,我认为我们还没有充分应对这三个核心问题,对吧?我们需要解决这些问题,我们需要确保,你知道的,我们把人们主要针对女性使用非自愿性性深度伪造的方式定为犯罪,而这些方式正在升级。在第二个恐惧领域,即对它们在政治中被滥用以及破坏新闻镜头和人权内容的恐惧,我认为我们需要依靠很多
像C2PA这样的真实性和来源基础设施,为最需要它的记者提供检测工具,然后制定明智的法律来帮助我们排除一些用途,对吧,并确保明确一些用途是不可接受的。然后是第三个领域,这是最难的一个,因为我们还没有关于这种持续不断的滴滴滴的影响的研究,你不能相信你所看到和听到的东西,
我们只能达到84%的概率来判断它是真是假,这对公众的信心来说并不理想。但我们也不知道这如何影响我们所面临的更广泛的社会信任危机,在这种危机中,人们已经想要依赖于他们所关心的事情的几乎是可信的可能性,或者只是可信地忽略任何挑战这些信念的事情。
我认为你提出了一点非常好的观点,那就是世界几乎正在分裂成疯狂的多元宇宙,我喜欢这样称呼它,人们正在寻找任何验证来证实他们的信念。与此同时,它可能导致人们变得厌倦,对吧,他们只是会变得冷漠。好吧,我不相信
任何事情。所以我很想知道,你如何看待消费者在这种视觉图灵测试被一遍又一遍地打破以适应各种更复杂领域的世界中行为的变化?人们会变得更精明吗?你认为在这个世界中社会将会发生什么?
因此,我们必须希望我们能走出一条细线。我们将需要对我们在网上遇到的音频、图像和视频更加怀疑。但是我们必须用能够帮助我们的信号来做到这一点。我的意思是,如果我们进入一个这样的世界,嘿,每个人,每件事都可能是伪造的。它每天都在变得更好。嘿,注意一下缺陷。
那么我们将进入一个人们的怀疑会相当合理地加剧的世界,因为我们所有人都会每天都经历被欺骗,对吧?我认为我们因此感到无法相信任何事情是非常合理的。对。在理想的世界中,每个人都会标记什么是真实的或虚假的。但是当这种情况没有发生时,人们会怎么做?我总是回到,你知道的,基本的媒体素养。我使用一个名为SIFT的首字母缩写词,
它是由一位名叫迈克·考菲尔德的学者发明的,SIFT是S-I-F-T。S代表停止,对吧?因为它基本上是在你情绪激动之前停止,对吧?每当你看到一些好得令人难以置信的事情时。I代表调查来源,这就像,谁分享了这个?这是我应该信任的人吗?F代表寻找替代报道,对吧?是否有人已经写过关于这件事并说,等等,那不是穿着羽绒服的教皇。实际上,那是一张AI图像。
然后是它的第四部分,这变得越来越复杂,T代表追踪原件,这在浅层伪造时代一直是一个很好的方法,因为你会发现一张图像已经被循环利用了,但现在它变得越来越难了。因此,当我看到我们必须走过的刀锋时,它就是帮助人们在一个环境中进行筛选,这个环境的结构是为了给他们提供更好的信号,说明如何使用AI以及法律在哪里设定了关于什么绝对不可接受的参数。
并且所有公司,所有参与AI流程的参与者都在尽其所能,确保我们可以看到AI和人类是如何使用的配方,并且尽可能容易地检测到何时使用AI来操纵或创建图像、音频或视频。我真的很喜欢SIFT。我认为这对人们来说也是非常好的建议,当他们遇到一些确实好得令人难以置信的事情时。很多时候,我们会想,哦,这很有趣,然后就继续我们的生活,
我们每天使用的设备并非万无一失,对吧?它们有漏洞。在修补这些漏洞的过程中,会发生这种“打地鼠”的游戏。现在我们几乎有了这些认知漏洞。而且,你知道,在检测方面,工具需要不断改进,因为人们会找到使用检测器来创建逃避它们的新的生成器的方法,对吧?所以这种“打地鼠”的游戏会继续下去。但这并不是说所有希望都破灭了。我们现在可以适应。
我们仍然可以拥有一个信息环境,让我们大家都能一起蓬勃发展。那就是我想要的未来。我们在Witness的描述方式是,我们谈论的是巩固真相,那就是我们需要找到方法来捍卫这样一个事实:那里存在现实。非常感谢你,Sam。知道像你这样的人正在努力确保我们能够区分真实和虚假,我晚上一定会睡得更香。非常感谢你加入我们。
我和Sam Gregory在三月中旬进行了这次谈话,几天后,又有了新的进展。YouTube发布了一条新规定:如果你的视频中包含AI生成的內容,并且不明显,你必须披露其AI来源。
YouTube的这一举动非常重要,这是Sam和他在Witness的同事一直在倡导的那种举动。它将责任转移到了创作者和平台身上,而不是普通的观众。因为最终,让所有我们都成为AI侦探,仔细检查每一个视频中是否有缺失的阴影或不可能的物理现象是不公平的。尤其是在视觉图灵测试不断被打破的世界里。
而且,听着,我不会粉饰这件事。这是一个巨大的问题,对每个人来说都很困难。像Sam Gregory这样的人肩负着重任。像TikTok、谷歌和MetaDootoo这样的大型组织
但是听着,我本周、下周以及下下周都会回来,帮助你弄清楚如何在这个新的世界秩序中航行,如何与AI共存,是的,以及如何与AI一起蓬勃发展。我们将与研究人员、艺术家、记者、学者交谈,他们可以帮助我们随着技术的发展而解开其神秘面纱。我们将一起弄清楚如何在AI驾驭我们之前驾驭AI。这是TED AI Show。我希望你能加入我们。
TED AI Show是TED音频集的一部分,由TED与Cosmic Standard联合制作。我们的制作人是Ella Fetter和Sarah McRae。我们的编辑是Ben Benshang和Alejandra Salazar。我们的节目主持人是Ivana Tucker,我们的副制作人是Ben Montoya。
我们的工程师是Asia Pilar Simpson。我们的技术总监是Jacob Winnick。我们的执行制片人是Eliza Smith。我们的事实核查员是Christian Aparta。我是你的主持人,Bilal Velsidou。我们下期再见。