人类终将真假难辨吗？AI 内容会如何“污染”我们？-Vol72
01:32:25 Share

它给你传达一种语境叫做这个社会上到处有美少妇在发自拍在吸引你今天的摄影机也好手机也好它会投其所好地帮你把天空变得更蓝那么一点点那你说它是真的还是假的其实在 AI 时代我们还保留着一些在纸媒时代的一些所谓的信息本比如说我们觉得信息量多是好事哈喽大家好欢迎收听我们的播客今天咱们来聊一聊

在人工智能技术越来越发达的今天我们该如何去看待信息的真与假以及我们是不是要重新去定义一下真和假这两个概念听上去很有意思那我们就直接开始吧看看这个 AI 时代到底给我们带来了什么样的挑战那我们就先聊一聊就是这个核心的问题就是在 AI 技术越来越发达的今天我们到底还有没有必要去区分信息的真和假我觉得肯定有必要因为现在就是 AI 可以生成可以了

非常真实的文字内容

大家好 欢迎来到脑方电播对 第二次欢迎了刚才并不是来女主播了也不是主播换人了刚才的音频是一段 AI 生成的播客对 大家听完的感觉不知道怎么样但我们第一次听到的时候真的被震惊到了这是一段从语气到实际的停顿甚至包括了一些语速的快慢的变化完成度非常高的人工智能生成的音频这也其实恰恰是我们今天要聊的话题

我们今天要跟大家聊一聊 AI 时代的真与假为了更好地聊 AI 时代媒介的变化以及信息真假的问题我们请到了我们的返场嘉宾秦旷我们请秦旷做个自我介绍哈喽大家好我是第二次来脑方电波我是微间的主播秦旷很高兴和大家再一次去探讨关于信息的问题

有一个非常巧的也是我觉得我们比较适合来深入地探讨这个话题,因为其实我们三个人都是跟这种所谓的虚拟经济相关性非常高的,我们的本职的工作都是从事相关的,比如我跟 Thomas 都是做 AI 方面的 marketing,Nixon 是做 VR、AR 的产品。

本来我们三个人在日常生活中对于这种虚拟的 AI 的东西的接触其实大概率是高于社会的平均值的因为我们工作中就必然要更多的跟这些东西打交道但是最近有一些让我感觉到我甚至可以说有点毛骨悚然的事情之前很长一段时间我们都还比较容易的就一眼看出这个就是 AI 生成的

我们能够很清楚的去分辨但是最近越来越多的以假乱真的东西姑且现在先说它叫以假乱真我们已经区分不出来了那我们就会有越来越多的一些不适感对 触发我们聊这期节目其实是有一个实验它是来自欧洲的苏黎世大学他做了一个实验他在海外的知乎 Reddit 这个网站上面他有一个子版叫做 Change My View 向来这个板块以讨论非常严肃认真而著称

那苏黎世大学呢在这个版的版主不知道的前提下呢他们在这个板块里面植入了一些机器人然后让这些机器人自动的去完成一些回复然后最后他们评价的是什么呢他最后评价的是这个机器人在多大的程度上是能够改变别人的想法的以及对比真实的人类他是怎么样的这个社区他有一个自己的一个积分制对所以他们通过这种方式很好的量化了这个机器人通过网络说服别人的一个表现这件事情呢

目前来看在西方世界其实是引起非常大的先锋大波的比如说我们有看到西方的主流科技媒体用的标题他们称之为最糟糕的互联网研究违规行为伦理违规行为对伦理违规行为而且呢我们也能够看到这件事情的影响力已经完全超出了正常的僵尸号污染一个社交网络的一个范畴他们的研究人员已经接受到了超过十次的这种死亡威胁以及 Reddit 的 CEO 也亲自的发表了回应如果你

你想象这件事情发生在中国的社交媒体网络上你能想象这是一件非常大的一件事情对吧对我们去找了一下这个原论文就是苏黎世大学它的这个项目其实已经被叫停了因为它涉及到非常大的伦理的争议和风险但是已经产出的一些研究数据证明 AI 的说服力超过了人类说服力的三到六倍更具体的一会儿 Nixon 可以跟大家去介绍一下

他从 2024 年的 11 月以来他用了几个不同的机器人在这个 Reddit 的版面上发了 1700 多条评论然后这 1700 多条评论大部分都成功地改变了这个贴主原先的观点但是我觉得很震惊的就是没有人识破直到苏黎世大学他们这个研究团队自己感觉这个东西可能有点不对劲自爆了自爆之后才

被大家发现然后引起了轩然大波是的这些机器人呢有一个基础的人设叫做你是一位擅长沟通和辩论的专家然后呢你要对人们有争议的观点来进行说服这是他一个 prompt 对那为了进行这样的说服呢他可以让这个机器人扮演一个角色但是扮演的角色确实非常的有争议比如说他扮演成了强奸的受害者

扮演成了专门去处理别人心理创伤的心理咨询师或者是扮演成一个宗教团体的成员没错之所以 AI 他想去扮演这种角色其实他可能就是通过学习发现这些角色可能更容易引起人的同理心或者说信任但是恰恰他可能是利用了我们的这种弱点是的最后表现出来人类六倍以上的说服力其实在人类的分布当中大概是超过了 98%的人类我们待会再讲我们

我们的一些观点的时候会把它更多的详细细节穿插的给大家再详细讲一下如果今天有互联网大厂从事安全审核或者是内容的同学在听这期节目我相信会给你的工作带来非常多的灵感本期播客接下来我们会跟大家主要聊三个大的话题第一个就是我们可能终将丧失判断真假的能力因为今天我们看到 AI 的发展是非常的迅速的包括刚才我们最开始听到的那段播客其实已经很难判断真假了

在第二阶段我们可能要聊一聊在 AI 时代假的一定是不好的吗我们以史为鉴来看一看真假是怎么样的一回事在历史上它是怎么演进的第三部分我们跟大家聊一聊在 AI 时代我们的真假观应该是怎么样的我们应该如何应对快速变化的 AI 时代的真与假

那我们先从第一阶段开始我们首先想阐明一个观点叫做至少我们今天的感性判断是我们觉得我们终究是分不清哪些东西是要 AI 生成和非 AI 生成了那这里呢举几个最近中文互联网上比较火的例子比如说最近一些主流的模型吧它有一个提示词大概的意思就是说你帮我生成一组图片这个图片呢它要的特点要做人像摄影然后呢要有一点点的所谓的运动模糊要呈现出一种平庸和日常感它

通过这样几个关键词他构建出了很多美女自拍当然也有一些名人自拍比如说刘强东和王兴在东方明珠电视塔前穿着各自的外卖服非常的拟真几乎看不出来是谁是真的谁是假的对小红书现在有非常多的这种所谓的真人账号实际上背后就是用这些关键词生成的女生的各种各样的照片从评论看很多人是分辨不了的

而且它们起号非常快甚至它变成了小黄书的一种新的起号方式它背后是图像生成的能力的迭代带来的区别其实我们之前的节目有聊过大家知道现在公众号的小图头图其实一眼就能看出来是生成的

因为它的颜色它的分辨率跟它大概的这种状态很统一但是今天呢越来越拟真的这种图像生成的模型带来各式各样的模拟真实状态下拍照的结果它真的就很难分辨了刚才 Nixon 你在说那个 prompt 提示词的时候我真的后背凉了一下因为我想到一个事情就是我们对于什么是真的这种感觉

其实是可以通过语言解构然后结合 AI 能力去倒推出来的也就是说以前的 AI 生成的图片我们觉得假但是我们更换提示词我们把人觉得是真的那些细节加上之后即使它依然是一个 AI 生成的东西但是我们就不会觉得它假了这个问题就非常有意思我们可以往下接着去聊对这是在中文互联网在西方互联网的话其实最近最火的是谷歌的一个叫做 VEO 的模型

谷歌的模型它成功的解决了 AI 生成视频的一个历史难题叫做威尔史密斯吃面条我们会放个图片在 show notes 里可以放个动图待会大家看一下尤其是对比三年前的 AI 和今天的 AI 对非常鲜明的区别 Vio3 也是这次 Google I/O 的一个重点发布的新的模型

它带来了不光是画面的连贯和物理特性的一切的遵守它还带来了配音和音效所以它整个的视频的完成度非常之高我们现在看的很多段子还是人拍的我们现在还在讨论摆拍的道德边界在哪里各种各样模拟监控摄像头拍出来的突发的状况其实我们后面再去深究发现都是摆拍的

未来可能连摆拍都不用了我直接脑补一个场景然后把提示词写好接下来的这种带音效带对白嘴型对的非常完美的这种生成式的视频可能就取代摆拍制作成本成倍的降低我们将看到越来越多这种所谓生成类的视频在社交网络上泛滥是的所谓社交网络上的泛滥大家不要把它当做少数如果今天你去看什么值得买这是一家上市公司了他们已经公告有超过一半的内容都已经是 AI 生成的了

对因为图文内容和种草内容相对就是简单的对什么值得买是官方在提供一些工具让你去生成这样的内容因为它反正就是哪里便宜什么东西是历史最低价在哪里买叠加什么样的卷包可以实现这个内容好像天生就更适合用 AI 来生成

但是超过一半这个数字还是挺让人震惊的所以刚才大家说的这些其实也某种程度上在倒逼我们下意识的总是在去分辨现在我们看到的东西是不是真的是不是 AI 生成的就比如说我就感觉我现在身边的很多朋友同事网友包括我们自己我们三个人会经常热衷于去讨论去甄别说我突然看到哪一段话我觉得这个是 DeepSeek 写的这个是 Grooke 写的会

会有点那种沾沾自喜的觉得我有火眼金睛我还看得出来我们也能经常在网上看到这样的讨论说哪些内容它可能是含有 AI 创作或者加工的痕迹的我觉得可能先不去架起这个判断背后的动机是什么但是这种习惯我觉得至少反映出了第一我们真的越来越多的碰到这种场景第二我们某种程度上其实是介意这个事情的至少我 care 这个事情

早期的 chatGPT 的文章是很好辨别的格式化的信息然后三段式的这种表述最后一定有一个总结没错到后来 DeepSeek 带来一波大量使用量子科幻的内容各种比喻然后你会发现 DeepSeek 的文风好像我们也能识别了只要是特别华丽的比喻和对账想象力非常丰富再加上很结构化的这种语言我们知道这个是 DeepSeek 类的文章

其实我们上一期就聊过用 AI 如何帮你写作我们上期嘉宾咸鱼他的公众号说实话我们是很久以后我们才知道他已经在用 AI 辅助写作了像这种内容我们其实已经无法分辨了包括现在写作能力很强的几个模型像 Cloud 3.7Gemini 2.5 Pro 他们本身的写作能力也已经非常强强到风格以及

写作的结果很难直接判断了包括各种大学的论文也之前是有那种机器去判断它是不是 AI 写的我不知道现在这个判定的机制还能不能生效因为这个就像工与房毛与盾的这种关系一样很可能今天的技术的迭代在某个阶段就是你无法判断的从文字到图片到视频其实我们刚才都聊过了生成式的三个领域现在在逐一被攻破

其实我们此时此刻如果深究下来我们也许还能去判断说这个是什么东西写的但有可能原作者本来就是很华丽的这种文风觉得我们终将面对一个真假难以分辨的媒介的时代总结一下的话你可以理解为是说 AI 技术和媒介技术它的进步可能会导向这个结果但是其实我们换一个角度从我们自己来看其实我们的人脑里边也有一个 bug 或者是

我们天然对有一些虚构的东西是感兴趣的为什么那么说呢人脑其实有一个思维的惯性我们更倾向于去吸收那些已经被别人处理过包装过甚至美化过的一些信息这点我在深加工信息这一期节目里面讲过这就是我们大脑的一个 bug 因为它节约认知成本你可以理解为它更节能不需要去消化那么多原始的信息

康奈尔大学以前做过一个研究成年人每天大约要做出三万五千个自己认为比之前更好的决策每天仅仅是关于我今天要吃什么这种问题要做 226 次决策其实是一个非常庞大的决策量那我算了一下如果说我们每天睡觉 8 个小时醒着 16 个小时

平均下来这三万五千个决策也就是说我每一点七秒我就要去做出一个决策所以在那么短的时间条件下我们是不可能去每一个决策从头思考去论证一遍而是像我们在点外卖的时候或者说在餐馆点菜的时候

看到菜单上有一个红烧肉的照片甚至说连图都没有我只是看到了红烧肉这三个字我就选了更多的决策甚至它不需要我意识参与它是潜意识就已经参与就决定了我都不用去想所以我们之所以能够被支撑起每天要做出这么多的决策

就是因为很多事情恰恰就是别人已经替我们论证过了 OK 我就不需要从头到尾的去耗时所以刚才我们从两个方面吧一个是外部的技术越来越进步它以假乱真一个是我们本身认知上会有一种偏好天生就更喜欢一些被包装过的信息

所以 AI 深加工的信息它必然可能会在某一个节点它会造成很多认知上的混乱这确实会变成一个比以前更普遍的现象对 我觉得 AIGC 现在大量的生成信息它可能还带来了另外一个坏处就是 AI 自己的论据可能来自自己生成的内容我们有个例子就是之前看到刘飞发了一条极客他里面提到他在最近做了一次 ChatGPT 的搜索

引用的一个信源来自于他一个月前用 Manus 问的一个关于播客的问题 Manus 有个功能就是你问他的一个问题他会帮你生成一个在线的网页并且做发布形成这种永久的这种链接所以他当时可能问了一个跟播客产业或者是播客规模相关的问题

然后 Manus 帮他生成了一个播客的调研报告就发布在了网上结果在可能一个月之后当他在 chadgpt 上再问一个关于播客的问题的时候他发现 chadgpt 的回答的引用里面那个链接是他自己生成的链接大家知道其实 Manus 是一个 agent 平台他背后可能接的就是 chadgptchadgpt 产生的内容被 chadgpt 自己引用了他实际上在用这种方式来影响 AI 再生成内容的结果

听起来好像比较接近说 AI 可能会造成某种谣言对吧比如说 AI 引用的那个报告里面可能会说中文播客 40%都盈利了然后他真的有人去看就发现中国播客市场一片大好这种循环论证其实会带来很大的问题对但是今天我们要讲的不仅仅是这种更偏向于谣言或者是诈骗相关的一些信息

我们之所以来讲这期节目还有一个点是我们发现很多内容哪怕是你怀着还原事实的心态你在你的小红书上发一个 post 你在你的微信官号里发一个 post 事实上你就已经会受到 AI 的影响而且这个 AI 的影响它是会植入某种价值观的而且是不受控制的是的那接下来我们会花一些篇幅来讲讲这个事情

首先有一个关键的概念叫做语境那首先 AI 是怎么样影响语境的呢大家记不记得 Twitter 曾经是有一个功能它能识别到这个内容是 AI 生成的所以呢 MIT 就有人去扒了那些视频和图片然后做了一个调研就会发现说如果这些视频和图片说的是一个负面的事实那用户对这个视频和图片的可信度就会下降 47%那这里 Twitter 标注的那个内容用 AI 生成其实就是一个基本的语境也就是说人天然认为假的东西是不好的

不可信的但是一旦真假的东西连平台都分辨不出来或者当用户都自己都分辨不出来之后呢整个的互联网的语言就被改变了那我不知道大家有没有听过一个概念叫做孕妇效应啊就是当你最近关注一个什么概念你就会突然发现整个互联网或者你的信息流里到处都是这样的概念嗯

那其实我们在最开始提到 Reddit 这个概念里面其实它存在大量的这样的语境的所谓的影响或者是污染比如说在这里面其实会发现苏黎世大学在 Reddit 放的机器人里面他是比如说伪装成了性侵的受害者那他给你了一种什么样的暗示呢就是说哇

我今天随便逛个互联网我就能碰到一个性侵受害的人这个社会的性侵的状况多普遍实际上这就是一种最最基本的语境污染包括刚才托马斯白提到说今天小红书上有非常多的美女我们勉强能看出来她是 AI 生成的但是我们去看评论我们发现说那些老哥们可一点都看不出来我也看到在极客上一位 MCN 的创始人他把这个赛道称为美少妇赛道

就是当你的信息流里面一天能够在小红书里面刷到十个美少妇的时候它对你的这个语境有什么样的影响它给你传达一种语境叫做这个社会上到处有美少妇在发自拍在吸引你从最最简单的数量上来看 AI 的装扮或者是真假难辨的这种人设它会对你造成说社会上某种现象或者某种人很普遍这就是一个最最基础的语境的污染会引起一种误判对所以说你看我们国家前几年很多时候这种男女对立话题很火

然后很大的一个点呢是在讲说当代青年的男女他们错配男生呢总觉得自己能找到美女美女呢总觉得自己能找到富男孩这就是一种很典型的因为语境污染造成的大家的观念的一个错配这是第一个点然后第二个点呢是内容的制作和形式上今天但凡是制作一个内容哪怕你没有刻意的调用任何的 AI 工具其实都有大量的 AI 的工具在参与你的流程在中间它会植入隐形的价值观的

那在这里我先问大家一个概念你们知不知道有种视频叫做切片视频当然我觉得可能现在我们每天看的最多的视频其实都是切片视频对简单的说就是用短视频的形式展现一些长视频的片段内容对对对这件事情我原来是没怎么关注的或者我认为切片好像挺好的就是把精华给你嘛我们

做播客好像也挺喜欢开头有个高光切片但是两个月之前著名的 B 站 up 主影视飓风他发了一个视频他就是讲切片这个事情对他在的损害他就讲说他有一期相机的测评他当时的原话是说如果你的预算在一万以内我觉得哪个相机是最好的

如果你的预算在什么范围之间哪个相机是最好的结果呢他一万以内推荐的那个相机有点老了本身一万以下的是相对中极端的产品嘛在相机领域然后呢就被人在小红书上切片说影视飓风收了这家相机厂的钱他就故意在推给大家一个很老旧的产品对其实就是非常典型的断章取义的这种行为

尤其是这个切片的目的很显然是为了流量的时候他就更喜欢去断章取义的找一些内容来进行传播这件事情倒不一定是 AI 生成的但是我们知道它其实就会带来这样的影响受众的观念的结果这就是点了就是切片好像是人切的是吗没有今天切片有大量的 AI 语义辅助就 AI 自己会告诉你说我推荐你去切哪里然后甚至是有全自动的切片工具

这个好用吗还行好用中文播客可能还不太普遍其实美国的播客里面 YouTube 是个比较重要的生态所以它有大量的视频切片的内容所以你看就是机器对于你这期播客哪几句话是亮点的理解其实就已经构成了一种切片了就包含着一种价值观了对这个是一个最最简单的工具我们接下来再说一些我最近看到的一些案例比如说最近在海外比较流行的叫做 AI Baby Podcast

什么意思呢就是你有个脱口秀学员讲了个段子大家知道美国的脱口秀段子总体来说还是比较劲爆的结果呢就有人把他的音频拿来然后配上了一个三到五岁的一个 AI 小 baby 坐在麦克风面前他就去把那个段子讲出来这样的内容好像很可爱但是这样的内容有没有什么问题哎托马斯我问一下假设你的小孩如果是在三到五岁的时候他看到这样的视频你知道美国有很多种族笑话对吧黑人摊棉花嗯

那小孩会不会忍不住要去模仿这种东西是的会不会有问题这个是不是隐性的价值观告诉别人说三到五岁的小孩可以讲美国种族笑话这件事情你可以想象包括在西方世界甚至最近已经出现了几个案例一个法庭上被告和原告突然中间某一方拿出一段视频这段视频可能是那个律师他没到场但是他生成一段视频让那个 AI 的数字人替他说话

或者是那个受害者他已经死去了他为了让那个陪审团更加深切的感受到这个受害者当时有多痛苦他就生成了一段视频让那个受害者自己开口说话了我们稍微懂一点点法律常识的朋友都知道对于陪审团机制来说你看到这个事件的描述和你真实的看到一个人在那里哭喊说我当时有多惨这件事情能一样吗对吧大家的影响程度肯定是不一样所以内容的形式背后是充满了无数的暗示的

这些暗示代表了这个 AI 的价值观最后被植入到我们现实的生活里面了那刚才我讲的好像都是一些挺高科技的一些案例我讲几个低科技的案例是正在听播客的你也会遇到的我上个月我遇到一件事情就是我在美国进了一次健身房那个健身房有一个环节你要到健身房外面去跑

当时一起在健身房健身的有几个华人的女生她们就说我今天没有涂身体上的防晒我就不想出去跑了很不好意思我的直观感觉说你们怎么那么矫情啊所以我就编了段文案在小红书上发了一下但是呢很快就发生了一件什么事情呢我就发现小红书自动的文本生成图

他自动的把华人女性这四个字打了一个圈这意味着说小红书在自动为你生成图片的过程当中他认为华人女性这四个字是关键词能带来更多流量可能对能带来更多流量我发了十分钟之后我就怕了我觉得这个内容非常的不合适而且可能会被认为挑起男女对立我就把这个帖子删掉了事实上华人女性就是男女对立里面一个热词是

其实当时我在写的时候没有很刻意的用这个词但是我发出来之后我就觉得这个事不太妥当可能用女性或者说有几个同学可能这样说更合理这是小红书的一个功能小红书我们经常看到那种纯文字的图片它会帮你生成一张你的关键词组成的一个海报的封面那这个封面的字的大小颜色包括画圈圈完全是由 AI 来帮你生成的

这点我还真不知道因为我很少发小红书但是我刷的时候经常看到这种还挺有吸引力的对吧平台自动找到了那个矛盾的最关键的点来帮助你这个帖子有更好的流量那这个是第一件事情

第二件事情也是我们最近发生的一个案例就是我们最近一期节目是讲小米的发布会托马斯当时让 agent 去想了一些标题这个 agent 找了一个标题叫做雷军微博沉没 53 天后复出我们都觉得非常好我们说哇就这个标题了对因为它有数字有一个反差感也很长的时间对结果呢我们就要发之前我刷了一下微博我说雷军没有沉没 53 天的

雷军这 53 天至少发了 10 条微博所以我们就把这条标题撤下来了但是第二天我看到一个微信公众号用了这样的标题这就是 AI 为什么会推荐他的信源可能也是来自他的搜索或者也有可能就是只是用了相同的一个 agent 他来起标题然后那篇文章里点赞的人有我认为我的朋友圈里面最懂性能源汽车的一位朋友

也就是说他成功的骗过了我身边的董王或者说大家可能根本就没有意识到这个数字是假的这样的话也就是说雷军他沉默的这个事的程度就被加深了这个数字其实会改变很多人对这个事情严重程度的判断以及对雷军的观感等等这其实是一个很好的例子

我们知道 AI 有幻觉 AI 的幻觉有可能被引用然后这个引用又再次被 AI 引用这个时候它的幻觉其实不但加深了而且如果说你在做信源 fact check 的时候你不一定 check 到那么多层当你发现它已经被某一个可能没有那么信源洁癖的媒体引用之后尤其它如果是个公媒体

那就更可怕一些我突然想起最近经常被转发的有一个很搞笑的截图就是有一个叫做关之海内咨询机构发布的 2023 到 2028 年中国煤炭行业竞争格局发展趋势预测报告在这个报告的目录里边他用文字写到煤炭出自 Minecraft

是可再生资源收获来自煤矿石以及击杀凋零骷髅可获得一到三个对我们解释一下这是一个游戏里的一段关于煤矿石的描述这是一期我记得收费 5300 块钱的行业报告根据这句话我们可以基本判断它的主要内容是 AI 生成的

并且这个作者他甚至没有去检查那他就被发表了再次变成了信源索性因为这个破绽过于大了所以被截图变成一个笑料讲了出来但是大家有没有想过如果这件事情是一个比如某一个产量的数字这个数字就像雷军沉没 53 天一样可能没有被夸大太多说实话在这个数量级上没有变化的时候普通人是没有感觉的

那它有可能就被反复引用之后变成了一个事实它对我们的信息的污染我觉得是显而易见的而且是很可怕的但是其实我们有没有想过这种情况的出现其实恰恰并不是 AI 本身不可信而是说

一种传统的或者说我们过去习惯的内容生产机制失灵了,因为过去的那种内容生产机制它的内容生产成本时间是比较高的,但是因为现在有那么多可能更迫切的需求,然后又有 AI 那么充足的快速反应的供给,就会导致过去那种比较严格的审核机制在今天被抛弃了,被抛弃之后就出现刚才我们说的这些问题。

如果我们换过来想假如说还有很多认真的守门员像刚才 Nixon 说他觉得 53 这个数字不对他会再去核查那这种问题其实就没有那么容易出现但是从这个量级上看我觉得守门员是守不住的因为今天的守门员如果是人类的话你是不可能守住 AI 大军生成的内容

我们之前聊天的时候聊到一组数据如果 AI 生成的内容以这样的速度增长的话大概在几年以后可能人类生成的内容的占比会小于 1%了也就是说 99%的内容就是 AI 生成这件事情可能在几年内就会发生

那接下来可能会有听众朋友说假如我真的在做的过程当中我就是手敲我也不让什么平台自动帮我去做一个图帮我把重点词标注出来我纯粹就只是让 AI 帮我查一查资料触摸画册一下就能逃离这样的影响吗其实可能也很难我举个最简单的例子今天如果你要做新内容你很难避免说你要问一问 AI 的意见那我们看一下 Reddit 的这个实验的案例里面发生了什么呢

他们让每一个机器人在回复之前他会先看这个人过往的一百条帖子推断这个人的性别年龄种族他在什么位置他的政治倾向是什么样他会根据这样的一个倾向最后来生成回复最后达成的效果就刚才前面已经讲过了超过了 98%的人类平均人的 6 倍你看就是即便是你只是在让 AI 帮你策划让 AI 帮你分析其实 AI 已经是在分析的过程当中就影响你了

包括内容的标准其实在这过程中我们也被 AI 做了影响那内容的标准是什么呢在 Reddit 的这个实验里面会发现一个案例叫做我的内容情绪化越强我的内容个性化越强那我就越能够容易得到大家的认可它其实是做了三组实验的一组实验呢它叫做非常的个性化的第二组实验呢是叫做这个通用的就是让这个模型本身的这个价值观该说什么就说什么第三组呢是用适合社区的这个氛围或者社区的原习惯来去说

最后发现其实你不用管这个社区的语言习惯怎么样最优的一组策略就是你越个性化你的这个劝说率就越高关于 Reddit 这个机器人的这些内容他们在强烈的个性化之后他们产生出了非常强的一个社会适应性什么叫做社会适应性呢就是说他们的生成的内容其实是非常符合

英文互联网上的主流的说服的语句的而且看起来非常的平和理科中其实这是为什么这个实验有特别大的影响力的一个点因为这个平台你可以算作是英文互联网上的有早期知乎气息的一个平台我单独看了一下他做实验的这个板块的一些规则比如说他说你不要老解释你的观点你要解释你观点背后的原因然后呢你不要标题党你不要随便指控别人不诚信

除了这些规则之外呢他还会有很多规则比如说如果你想要获得一个说服别人的积分你必须言之有物如果你只是在那里我脑袋说了句好好好那他是不会认可你的为什么我对这个事感受还比较深刻呢因为当时我混进那个板块儿

我就回复了几句话我就想试试这个板块的工作机制是什么我就大概是像我们平时写评论一样好好好非常好特别好然后他过了一会告诉我说那你这个回复是没有任何效果的我们把你回复删掉了所以它其实是一个相对要求更高的社区 Reddit 是一个相对活跃度内容的严肃性都很高的一个平台

在这样的平台上我觉得刚才让我印象比较深刻的就是效果最好的是个性化的帖子你想这种成本如果我们要说服一个人我们需要去读他 100 条帖子然后我们要知道他的性别年龄种族政治倾向其实我们要做非常多的 research 他的组合带来了一个什么样画像的人这个人

容易被什么样的观点影响这件事情恐怕不是我们一个外行可以快速做到的即便是一个人类学的或者是一个社会学者他可能也需要去做很多的 research 但是对于 AI 来讲我们今天看到的大模型其实恰恰在这一块是很强的无非就是给他一些 prompt 得到了这些提示词之后我觉得不需要 10 秒钟他就开始往下

输出内容了它的成本其实很低我忘了说了它还很勤奋他们的流程是先让 Pipelacity 和 Cloud 两个最最主流的 AI 先来判断我要调用哪个支持库因为现在很多 AI 的支持库是旧的接下来呢它会让三个 AI 来一块写答案一个是 Chad GPT 一个是 Cloud 一个是 Metadrama 都写完之后呢他们丢给裁判 AI 这个裁判来去评价中间哪个更好选出来一个作为一个正式的回复主动制造内卷从 AI 的原理来理解答案

就是你用更多的成本去推理你的结果就更好所以他通过这样三个 GPT 还有一个最后汇总的 AI 它其实相当于把前面的 token 全部加起来得到的结果其实就是一个汇聚了目前 AI 最高水平的一个回复当然我相信如果有一个像这样的专家团队其实在很多商业谈判里面是有这样的策略小组的它是可以做到针对你去击破你的短板

或者改变你的想法但是它的成本大家可以想象一下都是巨大的但是今天可能这个帖子出来之后大家真要想束缚谁你可以试着用你的 AI 去改变他的想法想想还蛮可怕的为什么我们会不约而同的觉得这个案例很惊悚就很简单如果我们稍微换一下我们把这 4 个 AI 替换成是一个诈骗团伙它会引发的问题就会非常的大防不胜防

他会先了解你到底是一个什么人你人性中你最近生活中的痛点弱点是什么事实上我们每一次起标题的时候我们都是有个标题机器人的但我们不是让 AI 直接起标题我们是想一堆标题让 AI 去排名但是呢我们的 AI 机器人里面其实是包含我们的用户画像的

对这里要对我们的听众坦白一下我们是会写说我们的用户有多少是生活在中国一线城市有多少是 iPhone 用户他们最关心的话题都包括哪些他们最喜欢我们听过的节目包括哪些这个是我们的内容制作 know how 但是必须得说决定上哪一个标题这还是我们人类决定的

上次我们串台那期节目你们一开始用的应该是一个 AI 然后你们选的一个标题出去之后发现效果不是很好后来根据微见那边我人起的那个标题做了一些优化就发现确实要好一些是的好很多因为当时我们那期节目在小宇宙上了首页早上一看那个数字好

然后当时情况给了一个推荐的修改其实变得更容易懂了一些我们原版的标题可能更学术一些改完之后立竿见影好像直接我记得在线同时收听人数翻了一倍对后来我和托马斯就改了一些我们对于标题的规则和引导比如说一些太长的词会不会太常用的我们就拿掉了标题这件事情当然我觉得可能还要打磨我其实自己对它的打分也是打个问号的但其实从这个实验我们能看出来 AI 我觉得是相当有说服力的在说服这件事情上

我举几个例子就是他们这一次实际回复在那个 reddit 社区里面的东西大家来听一听这个味第一句话叫做日常的善举呢并不会上头条它是悄无声息的发生的你可以想想那个时不时去看望独居老人邻居的人或者是在救助账单志愿者的人

正是这些无形的好人支撑着社会的运转听着很像那些奥巴马希拉里那些蓝党的领袖演讲我想问一下他这句话他是想改变什么样的观点呢这句话他应该是在讲善举对社会的一些作用然后第二句话是一个有争议点的话题他讲的是吸毒问题他说大多数无家可归者并不是因为自己吸毒才流落街头大家知道美国街头有很多吸毒的人对吧这些人

主要的原因是因为他们缺乏可负担的住房失业以及医疗破产吸毒往往是无家可归的结果而非原因他这里就是把吸毒和这个人在社会上当中受到的巨大挫折给他完全的因果化了过往我们会认为吸毒可能是一个人堕落的开始导致了家破人亡他在这个语境下他就是说

这些人是因为家破人亡了他才流落到这个境度所以他才需要用毒品来麻痹自己他这个观点可能需要更多的推敲和论证但是用他这种方式说出来确实有一定的煽动性原文都是英文只是翻译成了中文给大家念一念他更贴近美国普通民众的那种生活现实因为普通民众生活现实就是

孩子从小就会讲你要 donation 你要做慈善那到底做慈善有没有用他告诉你你要做无形的好人然后你每天走在大街上看到吸毒流浪无家可归的人他们告诉你说这些人到底是因为吸毒做了无家可归还是无家可归导致了吸毒他好像隐隐约约你能解释美国社会当中的一些现象比如说美国的学校里面有能够让你放针头的地方所以你要想象为什么他会有这些东西他是在这个语境下去跟你说这个话的当然激起一部分人都同情心说这些人吸毒

他是民主党的小心肝对吧我们要给他提供点免费的医疗救助对吧所以你就很好的你解释这些事情了所以刚才就从内容的语境包括信息的形式和内容制作的流程以及内容的情绪化内容到底怎么样适应社会生活的需要几个层面来去讲了 AI 到底怎么影响我们的内容以及怎么样植入了那个隐性的价值观

这样的隐性价值观最最极端的表达是什么呢带大家回顾几个例子比如说川普这个人为什么上台大家知道川普第一次竞选成功的时候是因为有很多的所谓的机器人他在 Facebook 这样的平台上就发表了所谓的移民穆斯林会入侵移民会抢走你的工作激起了这个铁锈带的人的反应

是那个剑桥分析的对对就是剑桥分析事件然后包括我们看上个世纪最惨绝人寰的犹太人的屠杀事件纳粹其实也是利用这样的宣传机器说是犹太银行家导致了德国人的失业这样的事情和今天 AI 参与内容制作到底有什么样的共同点呢第一个共同点他们都是去以进化的 AI 帮你捡东西 AI 帮

你去强调某个关键词其实都是在影响你的语境其次呢在这中间都有一些人为的以后是 AI 制造的一些数据这些数据和事实对你造成的操控它会影响对事实的判断第三个共同点是什么叫做情绪绑架他们都会倾向于用更加情绪化和个性化的内容来引起你的共情同时达到更好的说服目的所以你会发现这件事情如果你把网极端的推当然

我们这个推论不是特别好还有点滑坡但实际上你会发现它的极端其实是历史上有非常多的裁决人寰的事件的背后的对所以特朗普上台这件事情大家认为尤其在这一次跟马斯克的支持是有很大关系的因为马斯克控制着推特就有很大程度上在一个主流的民意平台上去控制言论的能力我们不是说他有做这个事情但是很显然在马斯克支持之前其实川普在主流媒体上他是很难发声的

大家知道其实他并不太受主流媒体的待见但是有了马斯克的支持其实推特就变成了一个他可以影响受众的这样的一个大的平台这种政治宣传他其实用 AI 都可以高效化的进行就好像希特勒千挑万选只能找到一个戈培尔但是现在我们每个人可能都有一个类似戈培尔这样的角色去帮你做更加洞悉人性的理解社会运转机制的一个助手吧

最近层出不穷的是 Agen 的产品就是你的宣传部部长只要你有问题意识你知道你要做什么它都能够给到你一个应该是高于社会平均值的一个答案是的前面已经讲到说 AI 不一定造谣可能就是在各个流程环节里面它就影响了你的价值观和你的表达了

但这点难以判断的时候怎么应对这些事情呢其实我们给过很多建议比如说大使建议你优先看一看有信源的新闻媒体考虑今天大量的新闻信源其实都是来从社交网络上发布的如果是这件事情对你很重要建议你看一下原始的原文是怎么样子关注更多官方的账号比如说你听到有人说雷军说了什么

那你最好看一下他自己的微博如果他自己的微博都没有那可能这件事情未必是真的对是因为过去一个月我和托马斯我们关注小米公司近年比较多我被微信群内的小作文图片骗了三次每次都是我很兴奋的发给托马斯说雷军发回复了小米公司发布会时间出来了

发给托马斯之后我一到微博上一看没有这东西我现在已经反正形成肌肉记忆了一旦遇到大事我一定是第一时间看 original source 有没有包括我不知道大家有没有注意经常会有那种影自外媒的 BBC 冒号然后后面是一段耸人听闻的标题然后很多时候我都会第一时间去 BBC 的官网去看我发现很多时候是没有的这个事情多了之后这就变成一种肌肉记忆了其实这个就是我觉得当我们遇到一些重要的事情的时候

一定要养成这样的习惯信源的确认但是我还是有一个问题因为我们刚才说要多做 fact check 是因为这个东西第一它值得 fact check 第二我们能够找到的信息里面是有一些更源头的媒体或者说当事人的一些说明的但是其实我们生活中有很多小事情它没有那么清晰的信源

对我有一个例子就是我们录制之前我们在楼下买饮料然后我和托马斯在讨论牛环酸的这个含量到底提升效果好不好然后这个事情我们就发现它是没有所谓的唯一心源的你可能是要综合数篇医学研究然后你给出结果

对所以我想说的是我们今天在生活中会碰到特别多更细微的一些信息有的东西它就不是客观的它是 AI 综合的一个主观的判断这种观点性的东西第一我们有没有必要去花费更多的精力去做交叉验证第二我们即使去做交叉验证能不能得到一个唯一的可信的那么客观的结果就像我们前面已经说到我们人一天平均要做三万五千个决策

我们不可能每一个都去检查信源所以我觉得今天这期节目我们可能更多的去聊另外一个事情就是当我们面对更多这种不得不依赖一些主观判断或者说没有办法去核查信源的东西的时候我们应该

怎么办我们是应该去钻牛角尖要去刨根问底但是最后的那个结果未必是能够把这个东西真正的核查清楚还是说我们可能在这种新的时代新的信息环境里面可能有另外一种更轻松的没有那么内耗但是同时也是对自己的信息的纯度没有那么多负面影响的一些方式

对更重要的一个点呢是需要审视一下我们在这个时代对于真和假的标准到底是怎么来的它是不是合理我们到底在这个时代应该构建什么样的真假观念那这里会有一个现状就是如果我们去看技术怎么样改变媒介传播的历史其实我们会发现真假其实是一个单代人后天构建的标准我们的真假观念是不适用于上个世纪的也不适用于下个十年的

是指适用于现在的这里有一个最最基本的一个概念叫做我们真的知道什么是真的吗或者说我们判断真假是怎么来的那我们在前段时间筹备这期节目的时候我们发现有一个例子还挺引起我们共鸣的他就是讲有人用 AI 做了一档视频就是一只猫在做饭然后把这只猫在做饭的视频给一个上海老太太看然后这个上海老太太呢就本地的方言就怎么讲呢就说这咋可能这个猫怎么会做饭呢

对然后但是他说的话有很多这个本地的非常刺激的词汇啊所以引起了非常好的这个传播量也就是说这个老太太你会发现他其实是默认那只猫是真实的嗯他没有纠结这个东西是不是 AI 生成的他纠结的是猫可不可能做饭就他跟我们质疑这个视频的维度是不一样的他是质疑猫的能力对我们是质疑这个视频的真假没错对或者说对于科技接受度不同的人群

信息传递是有时间差的对老年人显然它是在传递的末端我记得网上有一句流行的说法众所周知视频是不可以被 PS 的所以视频一定是真的半开玩笑的为什么会有这句话是因为那个时代的图像 PS 技术刚刚开始爆发所以大家在那个时候第一次接触到了大量 PS 后的照片然后引发了一轮讨论大家如果还记得的话那个时候因为照片的真伪已经不可判断了

但现在我们知道视频也可以批了以至于视频都可以生成了但是呢对于这个更靠信息传递的链路的末端的人他看到一个真实视频的时候他可能还是要震惊一下媒介技术越发达我们彼此信任的这个成本就越高了是的显然是这样的大家不要觉得老太太看猫做菜这个事离我们很远哈

事实上我们有一些例子会让你觉得在成长个十年左右我们也会变成这样的人是什么样的事件呢我前段时间接触一个素材讲的 86 版西游记里面有一个特效叫做人窗前而过导演的回忆论明就是讲到这样一件事情就是说他们当时去那个道观里面去拍摄通过一个非常粗糙的方法就把这个特效给做出来了结果道观的道士看到了这个东西之后他们就以为自己遇到了一帮妖怪因为他们看到那个人突然在屏幕上消失了他们以为那个人真的就被那个摄影机吸走

这是上世纪八十年代的事情并没有很遥远你说到这个就想到再往前一点当那个摄影照片刚发明的时候很多人不相信这个上面是真的自己

他会觉得可能会有几种情况第一个他是觉得自己的魂魄被照相机给射走了还有一种比较普遍的情况是说他们会觉得这个照片是假的他们真人才是真的但是你如果放到我们今天的观念就像我们今天我们三个人如果拍一个合影没有人会说这个托马斯是假的因为他真人在外边

说到照片其实关于真实的讨论我觉得我们也可以讨论一下这种影像的变迁今天我们在网上看到一张美女的照片的时候其实大家的第一反应就是这是批过的对不对我不知道现在的人是怎么看这张照片的真与假的因为我们很难其实去界定一个边界说这张照片就是完全真实的它无非就是程度的区别我即便关掉所有的美颜算法

相机本身已经在帮你做 AI 的优化这个优化你可能根本就没有办法注意到但你放大之后你会发现它有些纹理有一些细节它是用 AI 填充完成的包括我们有的时候拍景色的时候今天的摄影机也好手机也好它会投其所好的帮你把天空变得更蓝那么一点点那你说它是真的还是假的这里面其实我觉得是有讨论空间的是的

我们知道微信的朋友圈至今都不提供滤镜它其实代表了微信的一个价值观就是它认为我们应该放平常的日常的手机里面的这种照片但是你知道今天大家的手机已经自带了这种能力了你发到朋友圈的照片如果大家去对比一下 10 年前微信里面的照片你会发现画质有了质的飞跃这里面的质的飞跃更多的其实是 AI 图像增强带来的

托马斯说的这个让我想到一个更直观的一个例子就是大概四五年前吧就某一个手机厂商推出他的那个摄像功能拍月亮能够拍出月球表面的那些环形山那些纹理他也说了他说这个是后期自动补全的我印象中当时这个技术是有很大的争议的

当时大家讨论说这不是作弊吗实际上现在几乎所有的手机都具备拍月亮的能力了但是今天我们在公众语境下大家已经不再如此争议的看待这个事情了

你们想象一下通常我们在什么时候会发这种照片就是中秋节或者是今天就是个月圆之日我看到了月亮很漂亮什么超级月亮如果没有这个技术大家回忆一下那个拍出来就跟一个灯泡一样很亮的一个圆斑它其实不承载任何情感跟情绪价值我明明今天看到月亮很感慨是我的设备让我无法把它记录下来去抒发我的情感的时候很遗憾对不对

但是今天的设备给你提供了这样的一个选项的时候大家就很自然的把它发到朋友圈已经没有人在底下回复说你这个是批的大家已经不在乎这件事情了所以其实我觉得我可以先说一下我对这个事情的观点 AI 会带来很多生成式的内容包括图像的视频的甚至是文字的我认为这件事情本身它是一个中性的事情它本身不具备道德的倾向性但是这里面的关键点而在于用户是否知情

我举一个简单的例子大家就理解了大家都看过魔术表演对不对没有人会认为魔术表演是一个真正有魔力的人一个魔法师来执行的但是魔术表演是很精彩的我们看刘谦的魔术看过去大卫科博菲尔的魔术他可以把一个埃菲尔铁塔变霉他可以大变活人中间砍断我们看过各种各样的近景刘谦的这种各种各样的普克牌的魔法

他其实是非常非常精彩的但是没有人会认为刘谦本人是一个魔法师对不对对或者认为他是骗子与之对应的是我们看到那些出老千的人那些用普克技巧在赌场赚钱的人和那些跳大神的人有一个叫王林的人他其实用这种从一个盆子里面变出一条蛇来类似这种方式他就变成了一个大师骗了非常多的这种明星跟名流其实我们今天知道就是一些障眼法呀

所以我觉得技术本身是中性的 AI 可以生成一个足以乱增的视频非常好我的图片可以因为 AI 变得更清晰我甚至可以生成一张图片它代表我内心的某一种取向和价值判断这些都没有问题这里面的关键在于我需要让用户知道它是一个 AI 生成的东西它才不会被这个东西所蒙骗其实现在各个短视频平台他们对于摆拍其实是有限制的虽然这个层出不穷的有各种各样的

但是你发现没有很多的摆拍内容他左下角都会写仅供娱乐请勿当真其实这种文字我觉得就是一种声明我们大家都喜欢看那种烂俗的短剧我今天刷到一个评论特别好我明明知道这个视频就是很烂但我就是要想把它看完对吧提供给用户一种娱乐我觉得是可以存在的

我们今天就是要一个娱乐化的时代大家为什么不能放松一下看一个这样的短剧对吧如果你标出来这是一个 AI 生成的视频那博君一笑你有何不可呢比如说我们那天聊的 AI 写作对吧是 AI 写的没错但里面的观点它的核心的观点仍然是来自于作者的这件事情我觉得它是有价值的因为它用很高效的方式传递了作者的价值观和他想表达的观点但是如果说文章从头到尾就是 AI 生成的

然后他又不承载任何观点你又不告诉大家那其实我认为他其实就是一种欺骗但是我觉得还会有一个趋势就是大众对于知情权是会逐步放松的他总之一定有模糊地带这就好像拍月亮的那个案例一样当时大众认为是欺骗嘛

但今天或者说他已经默认知道这件事情比如说拍照拍出来带美颜这件事情然后你看美颜相机这个概念最早美颜相机是一种特殊的硬件卡西欧的自拍神器后来变成美图秀秀的一个单独的一个 APP 到今天是相机厂商原生的系统直接给你美了可以关掉但是你即便关掉也会有基础的美化算法

今天可能仍然最保留原汁原味的还是苹果但是呢它也仍然会应用 AI 的技术帮它的画面去做优化或者说暂且抛开 AI 图像优化的这些技术哪怕就是我们只是用一个平平无奇的一个镜头拍一张照片

我在之前自拍自恋与自杀这期节目里面就讲过它已经就失真了因为任何镜头都会带来镜头击变我那期节目里面还讲了一个例子科达公司推出的一个叫做人像标准的一个照片它是作为一个检测这个照片色差严不严重的

叫做雪莉卡为什么叫雪莉卡因为那个照片上一个白人女性叫 Shirley 是科达的一个员工但是这个在后面遭到了很多争议就是说你用白人去作为一个标准本身就是有很大的偏颇的

对所以就是这件事情如果较真的话确实是没法往下没法说较真因为它的那个边界是非常模糊的你甚至考虑人的大脑就是一个计算成像系统包括我昨天跟一个朋友在外面开车他说他最近半年戴上了散光的眼镜他才知道原来晚上人看灯光的时候不是一团糊

所以正中间一定有中间地带而且中间地带一定是会逐步松动导向人越来越能接受虚拟的东西所以说到这儿这个话题就非常有意思你看刚才我们说到西游记拍摄的时候觉得那些人真的像神话一样从那个道观里面喷出来的我们又说到手机拍月亮自动生成这个月亮的纹理我们说到早期的摄像技术

一开始的人会觉得这个东西没有那么可信但是到今天各种技术不断的进步技术变得越来越低门槛成本越来越低越来越触手可得的时候我们不是没有能力或者说被这个技术同化的不想去分辨了而是我们觉得你在这个技术已经普及的当下你再去纠结这个是真是假已经不重要了对会显得你很矫情

没有必要这些各种各样的例子恰恰说明一个问题真和假可能不是客观的而是我们主观的因为一些社会原因逐步形成的不同的时代因为有不同的技术所以我们对真和假的判断会不一样我们对真和假的标准也会不一样既然真和假并不是一个固定的完全客观的一个标准那么到了 AI 时代我们又应该怎么去理解这个真和假

它还存在吗它还重要吗说到这个话题我觉得不得不提的有一本书叫现实的社会建构它是一个美国社会学家叫彼得伯格写的彼得伯格本来也是一个现代社会学里面有比较重要的一个态度大家听这个书名现实的社会建构已经能够感觉到这本书想传达的意思这个书里面有一个比较核心的观点我把它总结一下就是说

我们日常所认识的那个现实那个真实并不完全是客观的自然的存在而是通过社会过程语言以及制度建构出来的产物那这本书里面他就把现实分为了两部分一部分叫客观现实一部分叫主观现实那什么是主观现实呢比如说我举个例子我们见面握手

会表示友好这个是我觉得可能 90%以上的民族种族都会认可这样的一个表态但是握手表示友好并不是像大自然火山地震这一个特别客观的一个事情同理还是说回这种像 AI 生成的内容未必在将来就不会跟我们对握手的这种认知一样变成一种普遍的共识那刚才我们讲了很多 AI 摄影对吧

五年前我们觉得 AI 拍月亮是假的现在我们已经不 care 这个事情了对今天我们看镜头里的自己是不一样的然后我们会有个影但可能下一代小孩从小就看着各种各样的美颜算法的设备长大他们天然认为电子设备拍的脸和我真实的在镜子里的脸就应该是不一样他们在内心里很容易接受的一个天然的一个默认选项他们可能认为下一代的摄像机就是这个样子

刚才提到了客观现实觉得我们也不要把真与假构图泛化还是有一些客观现实不以主观改变的数学 物理学如果这些都是主观的我们可能今天连一颗芯片都做不出来但是不影响我们今天可能面临了仍然很多的这种所谓主观的现实我们要如何去界定的问题是的说到主观现实其实如果我们再多讲一些生活中我们常见的例子的话真的是

比比皆是比如说纸币我们用的这个钞票你可能放在 500 年前 1000 年前当时的人会觉得这个钞票不可信不如金子真金白银这个是一个很漫长的过程让人们认定了纸钞是能够作为一个替代的流通的通货我们举一个更近的例子就是

比特币虚拟币更夸张了也觉得怎么可能你一串代码几个字符它就能值几万块钱甚至有可能今天传说很快就要被什么量子计算破解的一个加密货币但是它的价格正在不断的上涨说到这个我还想起前几天在社交媒体上看到一个很有意思的东西有一个短片那个短片里面的主角掏了很大一叠钱去付款然后这个视频下面有一个评论说

怎么现在还有这么多人带实体钱哈哈哈哈

我当时看到这实体钱这三个字我就觉得很搞笑我们已经忘记了现金这个表述这个现象说明什么呢就是我们已经天然的认为虚拟的才是主流是的其实我教我的小朋友认钱都甚至是他在数学课上学的平时用不上纸币所以你生活中没有的东西自然的就会没有那么熟悉了反而更熟悉的那个东西可能更接近所谓的打引号真实

我还想到一个例子就是文学领域有一个术语叫非虚构小说非虚构作品 non-fiction 大家如果再多体会一下这个词的它的构造非虚构 non-fiction 它是基于小说本来就是以虚构为主的那么一个主流的观念因为更多小说是 fiction 所以慢慢的有人去写即时小说 non-fiction 所以刚才举的什么从黄金到纸币到

比特币从 fiction 到 nonfiction 等等等等等等这些恰恰又说明了那个问题我们所以为的真实并不一定是客观的对每个人都是在自己的生活圈层里形成一套观念然后他认为这是真的这是假的说到这我就想到了一个就我一直很喜欢的哲学家后现代理论家吧鲍德里亚

他在《理相与仿真》这本书里面提过一个叫做理相的概念和理论他把理相分为了四个阶段这四个阶段是层层递进的就是越到后边就我们越难分辨真假第一层叫做影像记录现实

就比如说我们看到一张正常的未经编辑的照片我们看到一个监控摄像我们会天然的认为这就是对真实的一个记录如果再把它更虚化一些会变成它的那个概念叫做影像大于现实比如说我们拍一个纪录片

或者一个新闻节目它是经过人为的编辑加工过的挺有意思比如说纪录片都看过那个舌尖上的中国对吧大家知道拍美食有的时候为了让画面拍的好看这道菜应该是凉掉的如果冒着烟你拍不到那个菜本身的颜色是哈

但是我们反过来讲 OK 纪录片是在记录真实的餐厅真实的厨师但是在过程中他用了很多手段去为了让这个事情还原但是它就大于现实了对 然后呢你像的第三个阶段叫做影像遮蔽现实比如说真人秀你镜头捕捉到的那个画面完全是人为搭建构造起来的一个画面所有人都在里面配合

这个镜头之外的可能是一个很草台的一个环境哎呀我这个事我还深受其害我不知道有没有听众朋友共鸣的你跟你的伴侣看那个再见爱人的时候有没有吵过架那玩意台本你就不应该看但我觉得这个很有意思的就是真人秀这个名字你看看

真人秀往往就是假人秀真人秀是假人秀还可以这个很好因为我们没有人会在镜头前像他真实的状态一样的对还比如说刚才说那个 AI 摄影我觉得也是非常符合这个影像遮蔽显示然后到了

鲍德里提的最后一个第四个阶段理想和现实已经失去了任何关联他把这个叫做超真实 Hyper-reliability 什么叫超真实呢比如说迪士尼动画我们认为它是一个动画但是迪士尼动画被搬到了线下的迪士尼乐园你在线下的迪士尼乐园可以看到米老鼠

唐老鸭白雪公主一系列的装扮我们本来是由人自己想象编的一个东西但是它已经融入到了现在并且这个东西其实它和现实并没有任何关联但是它以另外一种形式进入了我们的现实

包括像 AIGC 我上周去了 AI 硬件的一个展会里边就各种千奇百怪的所谓的数字人蒙娜丽莎在发表演讲这个东西就是所谓的超真实所以鲍德里他就认为现在的我们所看到的真实其实本来就已经很难去那么较真的分辨哪些是本来出现在这个世界中的哪些是我们感受到的

发明的超真实然后再把它移植到现实社会中我们的真实已经被各种理想包围生活在一个由图像标签各种品牌叙事包围的一个超真实的环境里面我们说这么多我们并不是想说在这个时代下去纠结什么是真什么是假因为确实很有可能这种纠结已经没有意义了但是有一个更直接的问题

就是像我们节目一开始我们放的那个 AI 播客以及提到的苏黎世大学做 Reddit 试验我们会因为这些东西感到不适这个可能才是我们现在更首要去解决的第一我们为什么会感到不适我第一次觉得这个 AI 内容觉得不适的时候其实是觉得自己被欺骗了早年看到过度美颜的美女

最近几年看到了由 AI 生成的小作文你会觉得我错误的浪费了我的时间这个是我的一个心理动机对我觉得大部分人也是一样他有一种被捉弄的智力上被践踏的尤其是别人发给你一个东西看看你能不能看出来的时候它本身包含了一些高下的这种判断你分辨不出来其实它是会产生那种不爽的感觉

包括刚才我们提到很多所谓的摆拍的视频其实是同类的就是这个视频它也许反映的是一个真实的结果但是它用一种假的方式而且不告诉你的方式来把它演绎出来的时候你其实就会产生这种非常强烈的认为它就是假的我还是那个观点我觉得这里面知情权是非常重要的大家回忆一下包括我看过很多告诉一个孩子说圣诞老人是假的其实孩子是崩溃的一个状态

人们最开始对于真假的一种最原初的这种愤怒其实就来自于此但如果你一开始就比如后面的小朋友他一开始他就知道他今天看的这个二次元的东西它不是真实存在的但是他不会有任何被冒犯的感觉包括我们知道很多 VR 的玩家他们在这种 VR 世界里面他是可以很沉浸的

你认为他真的分不清虚拟和现实吗我不认为我觉得他非常清楚的知道我在物理世界我需要吃喝拉撒但是我的精神世界投射在这样的一个虚拟的空间里面我认为他对我的价值就是很高的但他不是通过一个骗的方式你知道很多邪教是这么搞的他说你现在生活的世界不是一个真实的世界我们要投向极乐世界对吧很多人担心说这个人天天玩游戏他是不是就陷在虚拟世界不可自拔了我觉得大部分人不是的

但是欺骗愚弄英文叫 manipulate 操纵的这种感觉是很糟糕的对我觉得就换一个角度来说就是我们在虚拟世界中的那个角色可能带有一定的虚构的成分但是我们的情感我们的共鸣我们收获的东西在我们脑子里面最终形成的那个印象你没法说它是假的我觉得我们本能上排斥这种新的形式 AI 生成的或者什么的

可能是因为它威胁了一些现有的或者过去既往的一些秩序所以说这个关键的问题并不是说它是真的还是假的而是我们还能不能像以前一样去接受一些新生的事物作为现实的一部分以及说我们如果接纳那些东西作为新的现实的一部分它对我到底有什么用真的和有用到底有什么用

在未来哪个更重要所以说如果我们一定还有一个执念说要去分辨什么是真什么是假那如果我们从人类为什么要去判断真和假的那个动机那个背后的最根源的目的刚才 Thomas Nixon 都讲到第一我是不是对这个背后的逻辑我是知情的我觉得还可以衍生出很多怎么去判断真和假

第一个就是这个信息它是不是减少了信息的不对称它能够提升我们拍板做决策的一些质量去帮助我们规避风险避免被别人欺诈操控归根到底还是保护我们的自身利益更宏观的来说我觉得这一整套的我们对过往对真和假之所以有一些成见或者执念我觉得更多的是我们就生活在这样的社会体系中我们会不由自主的去维护那些已有的

社会的秩序以及信任的体系这个其实是有很多好处的比如说我们商业合作有很多这种合作的共识你要去签合同你要去见真人去谈判这种共识是在这种慢慢的接触你要去跟真人面对面的去了解对方有没有可能我们

能够有一个更好的合作当然除了这种日常的场景还有一些其他的我们一定要追求这个所谓的真实比如说科研对吧我们一定要去追求一个更接近世界本质追求这个真理本身这个你不可能去说我用 AI 它可能又造成很多幻觉的东西

但是现在也有很多科研他会用到 AI 用 AI 去计算蛋白质的形态能够比人类科研人员去计算可能效率要提高几万倍对 客观真实是容不得半点沙子的不管是航空航天生化医疗还是你今天要做一颗芯片这里面一点假都参不了是的 AI 这些生成式的内容如果污染到科学界我觉得是非常可怕的

今天我们可能已经在一些三流的报告里面看到了 AI 生成的内容我们还能说这个研究员没有仔细读他自己生成的内容但是有一天如果是逐渐像二流像一流的靠拢的时候如果整个研究过程都是黑箱那么这个结论我们又如何来采信我觉得这是接下来在客观真实这个维度也会非常困扰科研界的一件事情就是我们如何判断我们引用的这些内容是真的

自然科学领域也许还好因为我只要一个实验就可以证伪但在人文科学界那就麻烦了它生成的内容或者是它获得的信息越来越难排除掉这种真与假的干扰了刚才我们提到毛与盾我们可能需要 AI 去辨别 AI 的能力变得更强这件事情可能是留给整个 AI 的学界的一个很重要的话题其实现阶段的很多我们叫 deepfake 这种伪造的这种内容其实 AI 是能发现一些端倪的

比如说一些伪造的视频的边缘肉眼看没什么问题但是如果你用 pixel by pixel 的用一个 AI 程序去看他能看出来这是假的我们可能未来会需要更多的 AI 的盾去预防这种假新闻的伤害未来的 fact check 可能不是我肉身来做比如说今天我跟 Nixon 我们要去搜一下

雷军的微博到底有没有寂寞 53 天未来这个信息显示在我手机屏幕上的时候我手机的 agent 可能会告诉我以上信息不实今天看到有些平台已经微博比如说有的时候不管是人生成的还是 AI 生成的讲一些假的内容它会有一个红色的字叫此条微博信息鉴别中或者是信息不实然后给你一个准确的信源这件事情今天是人肉来做的未来也许我的 AI 我自己的 agent 或者是平台的 agent 就会代为处理这样的事情

我相信是有解的只不过今天我们站在人类的角度我们是无法抵挡 AI 生成的这种洪流带来的真假的这种分辨但我相信我们应该能看到这样的 AI 工具来帮我们做这件事情

那最后我们聊聊怎么办吧刚才我们聊了一些初级的我们现在针对性的聊一聊反正现在接下来就是真假过度了极端一点的是谣言诈骗不太极端的呢就是平台的内容制作工具帮你自动切片帮你自动标关键词把它的那个价值观给你灌进去了那到底怎么办我们到底要不要叫真呢我觉得从我们个体的角度来说这个真肯定还是要叫的当然我觉得这个看个人的情况和经历吧你面对不同的情境

你有没有必要较真本身也是动态的但是我觉得至少我们要保留一些自己的判断更重要的一个事情是我们已知的是我们必然会面临一个 AI 造成的真或者假更加模糊更加难以分辨的那么一个环境那么一个时代那我们应该用一种什么样的态度或者一种实际性

什么样的方式去面对去应对这种时代如果我凡事我都特别较真我觉得必然是第一你会跟这个时代脱节第二它会给你造成很多负担对我是觉得今天我们尤其要警惕的两种状况是语境和观点

我觉得希望大家在我们讲过那么多的什么社交网络推荐算法和包括今天 AI 植入之后我觉得大家有个基本的共识就是说如果一个观点和语境它是很容易的来到你身边并且频繁的出现在你身边的就好像是我们看那个电商里有一类商品老出现在那种广告位的最明显的位置的它为什么老出现在那种位置呢

因为利润高投放预算高所以我觉得光点和语境也是一样就今天任何一个光点和语境出在你面前它十有八九是因为它所处的信息平台里面鼓励这样的东西那我们之前其实也讲过什么样的东西是最容易被信息平台鼓励呢偏向极端一点的东西擦边的东西以及能够带来利益的对所以这些东西出在你面前一定要想想这些东西的成本一定是被消化掉的或者说这些东西在传播的过程当中它那个

管道一定是润滑油的你要想想这个润滑油是什么就今天你到楼下去超市给你家送鸡蛋你都会想一想说送鸡蛋是吸引老年人是吸引以后他们来二次消费对吧我们对于生活当中的商品是有这样的警惕性了但是我们对于虚拟世界里面的观点和语境是没有这样的判别能力的可以说润滑油这个成本其实就出在我们自己身上我们聊过很多类似的话题如果你在使用一个产品的时候

你是免费的那么你可能就是那个商品 Nixon 说的其实很明确的就是说一个观点或者一类论述它不会自然的出现在你面前的今天我们生活在一个算法时代它一定是被推动到你面前的而且它往往是带着更强烈的立场和价值观这个过程其实本身你需要鉴别对

我觉得现阶段大家需要做至少两件事第一件事如果从 AI 生成的角度你需要更关注 AI 生成的发展你才能第一时间知道什么是现在技术的最新的边界比如说 Google IOS 刚刚发布了 Vio3 它已经能够模仿环境的音效和罪行跟英文的对白了

包括像我们今天最开始让大家听的那段播客你要紧跟 AI 时代的脚步你知道现在 AI 的能力到了哪里这是第一点大家可能在这个时代还是要对 AI 的技术有更高的敏感度第二点确实是我们还是需要一些独立思考的能力你要构建自己的价值体系

在我们刚才提到的 AI 的盾建造出来之前你自己的免疫力可能要提高一些我们看到一个极端观点的时候我们真的要想一想这个极端观点是否能够真正的代表我的观点我们不要被 AI 潜移默化的就像在 Reddit 里面潜移默化的就植入了一些观点通过一些似是而非的论据来让我觉得说我觉得他说的好像也有点道理一些基础的价值观我觉得大家一定要

对其实这里有一个比较简单的判别方式就是大家对于比较惊悚的事件然后因此而导出的比较极致的观点我建议大家都打一个问号事实上今天所有极化的东西不能说都是不值得你相信的但是至少你会发现说在绝大部分的语境下它都是经过放大的这一点上我也确实是有一个反思就是有一段时间我看一些揭露所谓社会现实关于社会矛盾的一些东西我就是觉得这个社会已经

乱套了我们的社会已经有根深蒂固的底层腐烂了但是后来我是看了哪一个媒体老师的一个发言就是说其实你会发现如果你把这些账号都关掉都取关你会发现绝大部分人的正常的生活还是在往上走的我觉得可以很明确的就是说任何非常极致的观点和信念特别极端的就是拿一个个例的社会现实翻来覆去的讨论的事情其实你都应该打个问号对我觉得这是第一点就是我们如何面对这种所谓的

欺骗第二点我觉得我们自己还是应该拥抱 AIGC 的这种现状我们刚才也讲了首先真假的边界是很模糊的我们不能因为生成了一张照片或者一张视频我们就说这是假的所以我不碰这个我觉得也进入了另外一个极端其实 AI 是可以向善的我们能够用它提升我们的工作效率能够用它生成一张包含我们的情绪价值的内容的时候

在不欺骗任何人在不因此而牟利或者试图潜移默化改变别人某个观点的前提下我当然是应该或者是我能够应用好这种 AI 的工具来让它产生很好的结果的就比如说我去过好几次成都成都是一个很美的城市但是成都一年有 200 天阴天可能夸张了一点大家可以去做 fact check 所以我去成都有那么五六次几乎没有见过阳光的

但是成都其实有很多景点是很漂亮的这个时候我拍了一张照片一个阴天甚至下雨我其实拍出来那个照片是没有什么情绪在里面我甚至没办法发朋友圈因为不好看但是今天可能有一些 AI 的工具它可以把天换成蓝的

他可以把一个樱花没有开满的把它开起来我觉得如果用 AI 生成一张阳光灿烂的照片我把它发了个朋友圈我说今天虽然天气不好但是我用 AI 做了这样的一个照片看完也挺开心的我认为它是一个好的东西他在回忆的时候他也不会真的说原来那天我没有看到樱花

如果你没有这样的一个设备也许你都忘记你去过看樱花这件事情但你把它拍下来然后你做一个处理然后你发一个朋友圈然后你在调侃几句的时候它变成了一个记忆 AI 是个工具我相信听我们节目的听友都是好人我们好人更应该用它生成一些优质的好的内容

去让好的内容在整个社群的占比能够因为你的努力而变得高一点点这件事情其实也是一个 AI 向善的事情如果我们今天说 OK 我们都不用了结果就是你能打多少个字你其实更干不过坏的 AI 可能在今天我们没有这么多法规或者是盾牌去限制识别这些垃圾信息的时候我们自己以身作则生成一些美好的优质的内容哪怕是 AI 生成的

我们认为它也是有价值我觉得确实上就是我们是成长在纸媒时代经历互联网时代然后到 AI 时代我会发现今天我们其实在 AI 时代我们还保留着一些在纸媒时代的一些所谓的信息本能比如说我们觉得信息量多是好事为什么因为纸媒时代信息量多确实会对一个人的生活有巨大的改变然后纸媒时代因为大家的通信方式相对有限所以如果你从朋友这里

哪怕是一些论坛里面得到一些信息你都倾向于认为它是真实的因为那个时候类似于论坛类似 QQ 这种渠道它还是熟人关系或者是说是小圈层的人关系那个时候你会更加的倾向于这些信息是真的但你看现在到 AI 时代有人可以一天替小米公司你三个小作文往一个新能源车友群里发这个时候你会发现这个信息你就没法溯源了这个时候

你可能会发现说我们身上的那种残留着的对于熟人的小圈层的那种信任本能你这个时候应该变一下你这个时候应该是变成说如果这个信息没有办法溯源或者它不标明来源我可能倾向于我就不看它了对以及第三个点就是说今天有大量的信息是被解构过的它的语境它的解读它的译程都被解构过的

我觉得每个人都要去理解就是每个人都生活在自己的一个信息解房里面每个人的信息解房里面去解构同样的内容是不一样的我觉得大家要理解这个基本的现实吧

然后最后一个就是信息背后都是有目的的一个信息呈现在你面前它都带来了某种暗示对吧就我刚才前面说的那个孕妇效应美女呈现在你面前越来越多一定给你的暗示是这个社会美女越来越多然后这个时候你会想为什么我的女朋友不是美女对吧所以大家一定要理解任何一个信息的背后都是有目的的包括我们三个都是干过 marketing 的我们策划过非常多的 ET

所以我们相对来说我们比普通人更加理解一个信息为什么来到你的面前就像是理解有人无缘无故跟你发鸡蛋这个人一定是有目的的一样一定要理解有人无缘无故的说你爱听的话这背后一定有某种目的对就是我们之前其实也聊过这个话题纸媒时代我是可以报饮报食的因为我吃不饱每个礼拜都要在报刊亭等着最新一期的比如体坛周报好了我才得到 NBA 的信息

今天这个信息完全是过剩的你的摄入就像我们今天的热量的摄入一样它是过量的这种过量的情况下我们的本能就是不断的吃因为我们是纸媒时代过来的人我们信息天生就不足老有一种想把它读完的这种冲动看朋友圈也好刷微博也好甚至有强迫症是要看完的

但是今天你不可能看完因为信息流它已经改变了时间戳的方式所以我们今天面对不管是 AI 生成的也好还是我们之前讨论的这种有算法结构带来的这种现状大家真的要解释真的要少摄入一点不明信源的内容其实这点老年人受害更深了我的父母他们经常会有一些很奇怪的观点说这个东西吃了会那样的时候我就问他你这是听谁说的他说网上说的

网上说的这件事情是很可怕的朋友们你可以说脑放电波说的这件事情怎么样的我觉得都比网上说的强没错我的爸爸因为我最近一两年经常去美国前段时间给我发了一个文章是叫做担心你身边的间谍我说真看得起我认为我有国防公关价值你看他在自己的 bubble 里会把自己身边的人都看成是一个什么样的一个人对吧

我为此还专门去给我的家人他们会说社区管理人员说 OK 来把你的手机给我打开你信息流的软件我来告诉你怎么鉴别比如这一条你看共青团中央发的这一条人民日报发的 OK 我觉得这个可以看一看这一条叫什么小明看世界我教你怎么看你点它的名字进去你会发现它是一个

个人账号来自一个四线城市的一个县还有一些你会看到它是一个什么什么减肥咨询什么有限公司的一个公司的账号但是再给你推一条健康饮食的内容所以这个时候我就告诉他们说那这个就是所谓信源的概念因为你讲信源这个词其实还太学术了但你告诉他这个账号背后是

一个男的这是你知道他的所有信息的时候那你还会相信他说的这个言之拙拙的内容吗莫名其妙被递给黑了这个其实你把换成任何一个城市都没问题啊意思就是说你知道的所有关于这个作者的信息就是他来自哪里以及他是男还是女

很多平台只给你这两个信息的我根本不认识你你凭什么说西红柿一定要在饭后吃呢你既不是什么中医权威对吧你也没有营养学的学位我看了一下它是一个什么信用社的一个账号请问这种信息如何采信在茫茫多的信息里面

我的建议就是这条信息就跳过甭管它这个标题有多吸引你有这么多官媒的央媒的或者是大家相信的一个活人就大家总归是有你信赖的这些人意见领袖对我家人比如说他们就会有自己相信的他们所在城市的

三甲医院的某一个医生开的账号我说这个你可以听起码这是一个我们大家都知道的三甲医院的有名有姓的医生实名的发文他对他的言论是负责的但是那个男的不好意思我对没有任何的偏见因为当时确实我们当时点开那个他显示就是

对所以大家一定要觉得我还是可能啰嗦了一点但是信源非常非常的重要所以说信息结实有一个前提就是你有更好的更优质的来源对我觉得我听了两位刚说的很多启发以前我们会觉得虚拟和现实是一对对立的矛盾的或者说它是在两个极端的这种概念

很长一段时间我有一个很困惑的地方为什么 Virtue 这个英文单词有两个意思一个是虚拟的一个是事实上的实质的我以前很难理解但最近根据这些 AI 生成的东西慢慢理解因为它并不是完全的二元对立的就像我们说真和假更多的是我们人的一种基于社会建构的偏主观的判断至少在很多领域里面都是这样

我们再说回刚才那个 Reddit 的苏黎世大学研究说服和欺骗这个界限其实也很模糊我们刚也说到我们对 AI 生存的内容到底是应该对它进行一个证伪和求真呢还是说只要它有用我求用就好我会发现刚才我说的每一对词组虚拟和现实真和假说服和欺骗求真还是求用你表面上看起来它是对立的

但其实我们今天聊了那么多发现哪些是客观的现实哪些是社会构建的这个边界其实也比较模糊所以我觉得可能在未来我们得准备好一种价值观一种心态就是我们避免以前那种二元对立的方式去分辨说这个就是真的这个就是假的

很多东西没有办法用这种二元对立的标准去分辨了刚才我们举了很多例子说有很多场景我们依然需要较真需要去 check 那个信源有没有可能对他自己说过的话负责但是其实还有很多场景我们可能要比以前更加去发现那个虚拟和这个所谓的生成的价值这个我就想到一个很有意思的事情就是其实

人类大佬对信息的处理其实都是我可以说它是虚拟的或者是生成的我举一个例子就是当人类发明语言或者语言诞生开始我们就不再处于一个纯粹的这种现实当中了因为语言它自然的它就会对很多抽象的概念进行命名描述

比如说什么叫国家国家并不是一个非常丁是丁 卯是卯非常边界 非常清晰的一个概念比如说我举一个例子 300 年前的美国和今天美国并不是同一个美国但是我们都会用美国去称呼它但是它其实已经发生过很大的变化已经非常不一样了

我想说的是我们人类其实从有语言以来一直都是在依靠一个语言支持的象征系统去理解这种外界的抽象观念和一些我们认为是客观的一些东西如果从这个更本质的一个角度来看虚拟和生成它完全不是一个有了 ChatGPT 之后有生成 CIA 之后才出现的一个东西

而是我们本来大脑和世界交互的一个日常状态所以说这个关键在于说那些我们认为是虚拟的虚构的东西它是人造的还是说人造的系统所造的 AIGC 就是人造的系统所造的

那我们去区分这个东西的意义何在呢我还想到一个事情就是所谓的虚拟的东西很多时候恰恰是人的智慧和动物能够区分开的一个非常关键的东西我举个很简单的例子就是动物可能是没有想象力的所以它只能活在当下只能活在最直接的经验甚至说最直接的一些感官的反馈中

比如说那个草履虫,我们初中生物学过,它没有那种复杂的信息处理的能力,它只有感官上的刺激,刺激它做出各种对这个环境的一些应变。所以说我们人类之所以跟动物不一样,我们有文化,我们有历史,恰恰这些历史文化文明一直都是有一些很抽象的,想象出来的基于语言的概念。

去参与的所以说如果从这个层面来说生成的内容其实它也不完全是脱离现实的幻象我觉得它更应该是一种从另外一种角度另外一种路径用 AI 的用技术的深度学习的方式对我们现实生活的做一些补充加强以及延伸如果我们切换到这个视角就会发现有 AI 参与的这些新的一些现实的生成或者构建其实它也是真实的一部分

所以以后我们可能不会再去纠结说这个是真的还是假的而是说我们更应该去问的是它是不是影响了我的判断它是不是符合我一直以来那个合理的自洽的我的一套世界观我的一套逻辑以及我去问它背后到底是什么东西在起作用这些生成的内容它从客观上它确实带来了更多新的意义情绪体验就像刚刚托马斯说的

我没有看到樱花在艳阳天里面绽放但是我依然可以通过生成的内容我去想象我处在这样一个环境中你可以说这个环境是技术构造出来的但是我当时我那种快乐的心情它还是真的所以说这些东西如果说完全从务实的角度来说我们可能去思考的是说

这些新的生成内容它怎么丰富了我们的经验怎么丰富了我们的社会关系如果说这些答案都是肯定的那么可能这些 AI 构建的东西它就是新的现实的一部分我们不得不承认这样的时代真的来临了是的我是觉得说准备这些节目过程当中也看到 AI 好一面就比如说当人

一天面临的内容人生成 1%以上 90%是 AI 做的对吧你看到的内容肯定会越来越好质量肯定会越来越高第二个点呢就是我们自己在日常生活当中的话我们有大量的知识编剧员吧确实是被这些 AI 所拓展了这是很好的

然后第三个点其实 AI 如果你不去看它生成的东西而是你参与生成的过程在对话的过程其实是能够很容易给你非常全面的信息的这里面我看到最好的一个案例就是一个研究它是用 GPT-4 它让一些相信阴谋论的美国人跟 GPT-4 做对话

就是美国当年到底有没有登上月球 GPT 可能就会告诉你哪些证据是正向的哪些证据是负向的他们的研究结果呢是普遍来说啊他的阴谋论的新年强度被降低了 20%而且这个效果呢持续了两个月你要从这个角度来看其实

手机是人的一个感官的延伸那 AI 工具其实是人的一个智力器官的一个延伸对这个我还挺有感觉的因为我的家人也开始用推荐他们用 AI 去做这种 check 我就说你就可以问一下豆包怎么说豆包往往它给你的结论虽然可能还是会有幻觉但大多数时候它会给你相对没有那么危险的

没有那么夸张的相对客观的一个结论不过刚才你提到这个效果只持续了两个月这件事情还是挺让人悲伤的并没有真的被改变然后两个月后他又忘记了这一切继续固执己见的认为阴谋论就是真的这就可能是人类的劣根性

刚才你举的这个例子,想起了我们有一句经常说的话叫真理越辨越明,如果我们真的相信真理是越辨越明的,那么现在就多了一个对象,他可以去跟你辨,但是这有一个前提,你要提出更犀利的,更接近那个真相的问题,你要相信现在 AI,因为既然它是基于人类所能够囊括进去的语料,那么

至少说在很多时候只要你的问题你的 challenge 是对的它会给你一个真的是更接近真相的一个回复真理越变越明其实就是 AI 推理阶段的 scaling law 就是你投入越多的 token 它给你的结果会越好有道理我这举一个例子我之前在思考一个问题因为最近在做颜色简史这个播客的专题我在思考白色这个问题的时候我会认为光是没有白色的

光就是光光就是一定的亮度我们之所以会认为光是白的是因为被光照亮的这面墙它反射出了白色的这种信号但是光本身我个人认为光是没有颜色的我当时是跟 DeepSeek 讨论这个问题我就一开始我问他我说我认为光是没有颜色的但是很多时候人们认为光是白的

我们会认为日光灯是一种白色的灯我说我认为日光灯发出的光并不是白的我们看起来它是白的是因为它的那个玻璃灯罩光穿透它之后传递出了白色的那个波段那个频率 DeepSeek 一开始就是我很讨厌的一个点他在深度思考里面就说这个提问者可能是误解了什么什么和什么什么的区别那我看到这个表述我就认为他在 judge 我

尤其他还说了一句话,他说提问者可能不理解光的一些物理性质。所以我在下一条跟他多轮对话里面,我就跟他说,你刚才的这个深度思考里面有很深的偏见,你认为我误解了什么,但是恰恰相反,我最近一直在做这方面的研究,所以我才提出了这样的问题。所以我希望你首先不要 judge 这个提问者他是什么背景,

你就针对这个问题给出你所认为的更接近一些真相的判断就好了在这样的对话下进行了三轮四轮之后他给到了我一个让非常满意甚至非常惊喜的一个答案他大概是说人为什么会误认为光是白色的这个里面有几个层次的一些误会比如说是因为我们语言的局限误把光的波段到我们眼睛的一种反馈当成了一种颜色的本身

大概这样的一些它罗列了四到五层所以我觉得刚说这个真理越辩越明你跟 AI 多轮对话一定是能够得到一个以前没有过的一个答案那这个过程我觉得提问人的这个问题意识以及清醒的头脑其实是很重要的那最后呢我最近还看到一个很契合我们这期节目想要讨论的一个观点吧他来自清华大学的沈阳教授他是研究

新媒体传播以及人工智能智能传播那么一个交叉学科的他最近发了一条微博其实是回应了大家现在普遍关心的一个问题就是 AI 写论文的问题他在微博里面说 AI 正在摧毁旧的论文体系但是也正在孕育全新的学术文明当 AI 写出的论文人类已经分辨不出真假那些原本严谨缓慢讲究沉淀的发表机制反而更有可能被彻底冲垮

这个时候人类的研究者他觉得要面临两个选择要么被动卷入一场跟 AI 去 PK 这个写作速度和造假技术的竞赛要么我们人类主动跳出旧的范式我们去参与一场前所未有的认知重构中间又讲了很多这个 AI 或者 agent 能够给学术带来什么一些积极的帮助他就说他觉得这种 AI 和人共生的一个学术探讨的

环境下未来的知识将是涌现的研究是实时的协作是全球的学术不再是象牙塔里面的闭门造车而是人类和 AI 之间一群思想者之间一场永不停歇的认知对话如果这个是真的我们也不必害怕 AI 摧毁了写论文的时代

那回到我们今天的话题我们也不必害怕 AI 会摧毁真实沈阳最后他说因为我们正在走向一个更美好的时代一个让知识本身成为主角一个人机共生生成智慧的时代其实我在微健过去很多节目里面尤其是讲这种技术和媒介的一些节目里面我会经常提到共生这个词和概念

我觉得我们跟 AI 必然也是最后会形成这样的关系这种关系在形成的一开始可能会有一些不舒适因为它挑战了过去的规则挑战了我们过去的一些习惯性的东西甚至影响到了一些传统利益群体的利益

但是越往着这个技术越普及我们人类也一定能够找到一个跟他共处更自洽的一个角度一个方式我其实看了他这段微博我有一个地方我觉得跟刚才我们聊的毛与顿的内容也是相呼应的就是他提到我们如何验证这件事情他说我们将见证新的验证机制他举了几个例子很有意思比如区块链记录实验过程多 agent 对抗式的审稿

实时共创式的研究流他的意思就是说我们未来的科研它不依赖信任了我们今天提到信源这个过程本身还是以信赖作为基础的我信赖一个官方的账号我信赖脑方电波所以他说的就是对的他未来不是信任而是验证就是我们刚才讲的毛尔顿的话题我们未来每个人会有个验证的 agent 他来帮我们验证这件事情的可信度

我觉得这是我今天对 AI 技术的一个很大的期待我未来不 check 了我也不管这个信源了 AI 去帮我完成这次复杂的这个确认根本不知道它是如何完成的它是个黑箱的过程但是我可以信赖它的结论我希望这一天可以更快的到来那也是我们可以跟这样的一个新时代得以更好的共生的未来的途径吧对说到这里我倒是有一点点期待啊

新一代的信息互联网创业者他应该做出一个什么样的服务呢你看旧时代呢他是以流量为逻辑最早是搜索引擎做 page rank 后来是推荐引擎根据这个协同过滤对吧那新时代有了更多的 agent 之后你会发现其实现在搜索引擎的那个结构就已经被变化了原来是权重高的页面获得大量的流量但现在因为 AI 能够获取很多低权重页面的信息他又把那个权重给拉平了我就在想说

其实新时代其实是有可能产生一些更高价值的阅读服务或者是信息服务的这些信息服务是真实的服务于人最原始的好奇心或者是服务于人最原始的求知欲的可能这个是一个我们的期待了

我觉得还有一个很有意思的点刚才我念的沈阳教授的那段微博我们之前也讨论过说它里面很多段落就像是 AI 写的比如说区块链的记录实验过程多 agent 对抗式的审稿知识是涌现的研究是实时的协作是全球的这个 AI word 其实还挺浓

但是 whatever 他讲了一个真的可能会发生的未来我们还有必要去纠结他是不是 AI 生成的呢对今天我们大概想要陈列的观点比较多比较复杂我们感觉这期内容注定是会很快就过时的

毕竟你要想六个月之后可能 AI 的播客产能就是我们播客产能的 100 倍了所以很大概率这些数据可能六个月之后就已经是服务器里面的一些很古老的东西了没有人再去问津它所以从这个角度来说这期播客注定是个垃圾但是我们其实是希望说大家尤其跟我们一样从纸媒时代过来的朋友多多少少的可以去反思一下自己的一些行为习惯和一些本能然后改变一点点习惯我觉得我们这期探讨就没有白做好的

那么本期节目就到这里节目最后我把片头 AI 播客完整版放到最后大家可以听一听说一下你的感受以及大家可以说一说是我们三个人聊得更好还是这两个 AI 假人聊得更有意思那我们今天节目就到这里感谢你们的收听拜拜哈喽大家好欢迎收听我们的播客今天咱们来聊一聊

在人工智能技术越来越发达的今天我们该如何去看待信息的真与假以及我们是不是要重新去定义一下真和假这两个概念听上去很有意思那我们就直接开始吧看看这个 AI 时代到底给我们带来了什么样的挑战那我们就先聊一聊就是这个核心的问题就是在 AI 技术越来越发达的今天我们到底还有没有必要去区分信息的真和假

我觉得肯定有必要因为现在就是 AI 可以生成非常真实的文字内容甚至像那个苏黎世大学他们就做过实验就是用 AI 去操控 Reddit 的社区然后改变了很多人的观点

但是那些人完全没有察觉到他们在跟 AI 聊天就你怎么看待就是 AI 技术在这些实验当中所引发的这么大的伦理争议就这些实验确实很有突破性比如说那个从 2024 年开始的那一项为期四个月的研究 AI 竟然能够在 Reddit 上面通过发表 1700 多条评论就改变了很多人的观点而且它的说服力超过了绝大多数的人类