Shownotes Transcript
欢迎来到知情小酒馆这是一档有知有行出品的播客节目我们关注投资更关注怎样更好的生活我是雨白之前很多听众点菜 AI 时代来了小酒馆怎么不聊聊 AI 我说我们不是不聊而是在等合适的机会和嘉宾这一次终于等到了今天做客小酒馆的中棒嘉宾是微软中国的 CTO 韦清
认识韦清老师是在去年年底中信出版社组织了一场赫拉利新书知人之上的分享会我是主持人他是嘉宾一开始我肤浅了我以为他是一个技术大拿可能会从专业视角分享很多行业内的洞察当他开口之后我下巴都要惊掉了这是上至天文下至地理旁征博引博文强制简直就是一个行走的大模型而且他对 AI 的观察和思考很多都是我从未想过的角度格外有启发性
让我耿耿于怀的是当时那场分享会只来了不到 20 个人太可惜了这么好的内容必须得让咱们小就管的听众听到于是呢我软磨硬泡花了四个月的时间从冬天到春天总算请来了伟青老师那时他刚刚从国外回来结束了一场微软全球的培训而我们的对话也从这场培训开始相信我接下来这一个多小时绝对值得你的时间
其实这个是个培训对一个星期 5000 多个工程师全球的来参加培训您给他们培训吗不就参加我们也要充电加油我就好奇大家关心的问题是什么感受特别深就是像跟这些全球的工程师那来自于全球各地就感到非常有意思就是也有很焦虑的我们那一周的主要话题就是英文叫 agent framework
或者叫 copilot 就是这个智能体大家就开始说有这么多新的概念新的定义新的话题好焦虑新的名词但是呢也确实能看到呢也有很多人就不焦虑为什么呢因为你真在行业内的话真正做这件事的人
是不会被这些名词所误导的这个怎么说呢那么我要先强调我并不是做模型的模型上我也是外行我是那个用模型来把事给干了的经常我们就俗话讲就是把活给干了把钱给赚了然后回家呢可以好好休息可以有自己的生活在 2022 年这个全球开始这个所谓声称是人物制动大火
2023 年呢微软的 CTOKevin Scott 曾经跟雪崩小说的作者叫 Neil Stevenson 那本书非常的直言非常好这 Neil Stevenson 说了一个非常尖锐非常就是直指人心的话他说呢
在我们看来当 AI 成熟之后我们就称它为软件就称它为 softwareOnce AI is getting mature 当 AI 成熟之后我们就称它为 software 软件其实对于普通人来讲根本就没必要去追和考虑这些名词当然咱们网络俗语的说法就是你不要以为穿了马甲
我就不认识你了其实这个概念呢在一百多年前美国那个总统林肯的时代就是这样就是每当社会剧烈变化的时候首先变的
是话语体系话语体系就多了很多名词为什么要变话语体系呢因为新的记得力阶层必须要把旧的记得力阶层赶掉靠什么赶呢靠概念去赶你不懂我就在想可能有些听众听到你前面说如果当 AI 成熟之后它就变成了软件也许会有些听众会说
不是啊你不能这么说你不知道现在 AI 有多厉害而且这让我想到就是伟群老师你在你跨年的时候不是写了一个
2025 时要时不要嘛其中有一条就是不要把归基真的当成生命它是没有生命的这是非常重要一点这跟刚才我说的关于就是 New Stevens 说的这个函数就过去人类的两三千年其实辩论的争论的很重要一点就是符号跟它所指对象什么关系当然这先放在一边哈
为什么这个话题会出来呢就是因为现在的人工智能时代这个问题必须要去被解决了那么好大家说了你看我啪给一个指令这个人工智能的智能体出了很多文字看起来他是真的理解了真的理解了对那么这个就有关什么其实有关于就这个时代我说的还有一个关于四个信这是个信息时代
它并不是智能时代真正这轮的初心就是人类能不能应对信息的挑战就这轮的这个技术进步其实从应该是当时有人说在图灵时代或者更早期的 1920 几年三几年罗素啊爱因斯坦他们那时代其实就已经开始发现这个当机器能够通过电子的方法形成信息的时候
人类社会就将进入一个可能非常混淆的时代这像是麦克卢汉啊鲍德里啊这些人其实都研究过如果这些不去回溯的话咱们呢会迷到这个机器构成的符号的幻象中去的首当其冲的我们得问自己你认为它这个符号表征的背后它懂不懂这件事那么当然有人说它看起来像
那么我在那个食药食标说的就是规基的这种计算就是计算人的话呢如果我们只把人的认知就我们的意识认知约束在我们只是有眼耳鼻舌甚至五种感觉器官和通过大脑的这种好像这个脑电信号的加工这就是人的全部的话那么现在很多人的这个解释是非常正确的
因为人也是机器在他们看来那么机器也是机器都是靠信号处理和计算那么人肯定就是机器那机器也可以是人但这就是一个非常非常严峻的挑战了那么也就是说我们信不信人
人除了我们现在靠五种感觉器官眼耳鼻舌身感觉到的说通过这个所谓的电化学信号到大脑进行计算加工产生这种能力就这些是不是真的是我们了解的人的全部了这是很核心的问题那除了这些还有什么就是我们的意识吗对所以当然这个意识的话也特别有趣现在意识有一种说法说人是没有自由意志的
free view 的也有很多科学家这么认为也有很多哲学家也会在讨论同样也有同样数量的科学家哲学家认为呢人是有自由意志的那么这刚刚为什么是关于信息时代有很重要的四个信呢这个四个信是指第一个信是看样子现在这种情况机器这种能力的话我们需要得有信仰支撑了
因为有了坚定的信仰不管这个坚定信仰是基于人的坚定信仰还有人说坚定信仰认为机器就是人它就会产生一种信心所以信仰和这个信心是结成对的这个问题不解决的话咱们今天谈的很多问题无解就是你的信仰是什么
然后才能有信心这个信心也包括没有信心那么我认为在这展开之后还会有一个什么呢那么假设我们是信仰是坚定认为以人为本的人类社会还会有美好的远大的未来的但是你有很多挑战现在的其中一个挑战就是人类社会的这个信任由于机器在不断生成符号而在急速被打破是的我认为这种技术如果这么用
不是那么用咱们又可以讲什么叫这么用不是那么用它就会让人与人之间的信任荡然无存或者说还能够继续保持因为当机器能够生成能够诱骗或诱惑或引导我们的眼耳鼻舌身去来认为他说的这东西是真的时候那人与人之间的信任肯定是没有的对这也是最近特别热议的 AI 幻觉的这个话题这不还不是 AI 幻觉就人类社会也能不能达成一种共识我们
我们要不要允许机器去生成一个数字人的你和给你命名一个人名和给他赋予啊一种人的声音嗯
再让这个所谓的这个自动机呢让它赋予一种人伦人理人情人感我们人类要不要跨出这一步你要跨出这一步再加上我们的感觉器官又很容易受骗那大家知道就是我们的这个听觉视觉嗅觉味觉触觉都很容易受骗的大家在网上可以搜一下关于视觉那个就是这个脸的面孔模型啊它如果旋转的话
你老看的是凸出来的为什么呢因为我们大脑中吧我们的神经元就没有从小训练的能够看到一个凹进去的脸的样子所以当这个面具转过来之后它是一个面具嘛是空的嘛当它把空的那面转过来之后吧你又把它眼睛解读大脑解读成是一个凸出来的了这是无解的因为人就是这么长
就我们的感官器官也是很不完备的我们听觉网上也有一个特别出名的例子就是说比方我先说吧吧吧这么说的你听的是什么是吧是 B 发音 BA 对不对如果你在屏幕上看到这个人的话如果说是他的嘴唇的变化是发发发你回去可以试一下在网上去搜一下当你看到他的嘴是发发发这样的时候但你听到是吧吧吧的时候
你会听成发发发这么神奇吗对这还只是视觉和听觉所以这就是说人类呢其实对我们的自身啊极度不了解可是这样不会让大家觉得说机器确实比我们强不是的不是的其实背后就讲那么人到底是什么比方说你看他把手放在一个比方一毫米的细的管道一个管子里呢输入的是比方说举个例子 40 度的水
另外一个管子里边放的是-10 度也很冷也很热但是没有热到说可能让你手会起泡但如果这样的管子一个个交错排列当你把手放得上的时候应该是一两分钟你手就起泡了因为你的手的感觉器官会警告你说你已经碰到了一个温差可能在 50 度以上的环境所以赶紧分泌一些体液保护你的皮肉它就起泡了实际上如果
如果单独把手放在一个比方 30 度 40 度单独放在一个零下 10 度都不会起泡我发现自己真的对人类的身体毫无了解这就是说我说在开始讲的 5000 多工程师去参加的培训确实你能看到对自己不了解或对自己的身体没兴趣对自己的感觉知觉没兴趣的人就容易恐慌但所有那些对自己的身体的能力有兴趣
当然也不是说没人恐慌也会有但是它的比率就好很多为什么呢就发现原来机器正是来帮助了解我们是谁人生的三问我是谁我从哪里来我到哪里去这个是恰恰给我们这种机会去了解其实要先问一下自己因为大家都知道在人工智能时代不是说要有一个很重要的技能叫要问对问题好
那么我给你的一个问题就是说我们问的问题是真的问题吗真的问题是什么这个很重要就是我们是作为一个人对吧
我们怎么应对这个时代的变化那我觉得呢这个时代呢是一个幻象很多的时代幻象丛生对三个阶段第一步要想清楚第二步要说明白第三步要做得到做得到之后的话呢再加上就是我有一个就是因为搞系统工程出身的嘛他有一个这个叫做圆模型机模型
基础模型叫什么呢叫做 IPOF 当然这 IPO 不是你们上市的它叫 Input Process Output FeedbackIPOF 这是一个基模就是在这个系统工程中系统思维中叫基模基础模型 Basic Model 这是应该是在第五项修炼里面那个他们那时候提出来就是基模是 IPOF 它什么意思呢就是说你要看任何事情啊
你要先从这看起的话呢很多问题呢看的时候要先明确你的问题空间再明确你的方案空间但现在呢很多东西啊问题和方案还有空间呢吗当然有因为它有约束啊就系统工程就系统思想第一个讲的就是说你的边界在哪里然后你看就是刚才说的想清楚说明白那个做得到还要做得好就是在反馈做得好
而这个话呢其实按和是按和你们这个节目的名称叫知行知就是想清楚原来的行呢就是你知行就可以为什么现在加一个说的明白呢因为进入信息文明时代思想也是一种行动
所以说也是行动为什么因为它复杂之后而再加上通讯极度发达人类社会全都连在一起了一旦连在一起的话就有可能变成叫做愚民社会也可以变成致民社会或者叫暴民社会因为连接不要小看连接是很方便但连接也是按照网络工程系统工程原理的话如果人类社会全都被连起来也是很危险的
我觉得现在大家已经感受到了所以这都是在几十年前这些科学家在研究的时候早就提出来只不过我们可能有点被这个时代的幻象啊给忽悠了所以呢还是知行只不过行的多了一个要讲清楚而这个想明白的第一步的话呢其实就是今天其实康讲那么多呢这我的总结哈就也是我拿这个二月份去培训的一个深刻的体会想明白啊
很大的话题人生最大的痛苦不就是想不明白对但我觉得在这时代呢真正的想的第一个关口就是别受骗第二个关口别自欺受骗呢在于什么呢我们这些信息到底多少是真的
多少是假的但这个真信息现在也麻烦大家都知道这个信息就对这个社会的描述它实际上是一个概率分布比方说举例的现在经济可能好可能不好那么可能有些人觉得应该是向好在发展不断进步这是一种动态那么好就算是真的消息给你了看到了
请问这种消息代表的概率分布偏向哪里比方你每天看到 100 个关于经济的信息都准确因为盲人摸象肯定一个事物有各方各面的比方说这个行业起来了那个行业不太好
或者这个货币在起那个货币在降或者这个行业有潜力这个行业也没有潜力了对吧都是在动态中的那么无穷多个动态的信号由你看到你就会形成一种大致的对于现在社会状态的一个概率分布的判断就中间极致可能在偏好或偏中性或偏不好对吧肯定是这样的也就是说呢这些信号都是对的
可能你也没法判断出到底怎样这有一个例子比方说昨天我在家里可能我摔了一跤这个的新闻的这个极端性比我昨天吃了一个馒头要大得多可能其实吃馒头对我来说是常态我天天这样子但这个消息呢不值得被传播我摔了一跤
这个消息比较少见它被传播了那么也就是说你看到了我的话可能看到是天天在睡觉因为正常态是不值得被传播就是概率分布正常态中间的是不值得被传播的只值得传播极端态这个就是我们现在面临的别受骗第一是别受假消息的骗第二别受对世界的常态的概率分布的偏差的骗
然后就是什么呢别自欺自欺什么就刚刚讲了我们的眼耳鼻舌身子五种感觉都是很粗糙的我们如何相信我们所看到听到感觉到的是真的我们需不需要加一定的判断而这种判断的话呢恰恰机器可以帮我们但是
但是机器很多时候不是也是幻觉的来源吗对啊所以说就是啊刀有两面嘛就是同样是机器它既可以救人也可以杀人那个会上啊我们有一个特别出名的一个也是在那个油管上一个大咖叫做 Scott Hanselman 他在内部有个演讲
是全场鼓掌他是一个技术大咖他跟大家讲的是你们如何让你们手中所卖的这个人工智能让它技术向善他跟我们讲说你们首先要跟你们客户讲的是这个东西不是人
他表现出的所有行为都是一种概率的计算结果而且他说的每一个字跳出来的字都是因为你就作为人让他做的只是你不知道罢了举三个例子你看第一他说什么呢首先这个模型对吧大模型它就是由人类的语料胃养出来的机器以数据为食它像一个消化力极强的孩子你喂它什么
他会什么呀比方说你把他喂炼成一个爱吃面的爱吃米粉的你老给他喂这杯面粉他习惯消化面粉了他可能说的话都是面粉味的当然这开玩笑哈就是说千万不要忘记人工智能的所有能力都是人的善恶的体现所以在我那个食药食不要理后面不有个总结吗就人行机器就行人善机器就善
人恶机器就恶机器表现的所有的能力都是人类的一面镜子对这让我想到之前就有一个我有点忘记了是哪个公司做的他喂养的可能是一些百度贴吧的一些乳料那个机器就是可能会口吐恶言说一些脏话对他其实
确实是人的一面镜子是人的一面镜子而且呢机器这 AI 能力绝对不是一种家的关系家是很误导的家你知道吧容易把这个家是指那个 plus 对 plus 容易把这个人的责任拿掉
假设吧人是 1 对机器是 100 很牛吧你会认为 101 很牛不是的是 100 乘 1 不是 AI 加是 AI 乘就是什么呢这个人如果是负 1 乘 100 就是负 100 就是负 100 不是 100 加负 1 是 99 不是这样的是负 1 乘 100 好
如果你人不行对机器的使用不擅长就是 0.5 那么加 100 是 100.5 挺牛的对乘 100 就变成 50 了用这样去理解这个机器能力的话呢就是我们的作用非常非常大你喂养它什么它就会什么这是第一它第二点说什么呢它说你知不知道它是个概率机你是喂它了然后你的那个提示词就是一种引导和诱导想象一下
有这么一个消化能力极强的一个钢铁工具它把你为它的这种有你的价值观人生观世界观表征的不管是文字的 token 就是这个标识符还是你动作的比方你如果你看正经微作那你最好相信你练出来的机器也会正经微作的
如果你是老勾搂着身子你最好相信你机器如果这样这些这个素材迅出来的他就认为这样就是人要的所以机器是人的一面镜子人也是机器一面镜子他说练出来之后呢你的这个所有的这个提示词包括你的这个手势比方说啪这么一下子让机器动起来对吧他都是一种诱导
它就会基于它学的东西照猫画虎看样学样就是它这样所以我后面就生成这些东西出来我们一定要知道这个模型里面已经把人类的所有的知识只要能够被它找到的全学进去
这里面包括很肮脏的很负面的知识也全学进去了所以真正的挑战是什么呢是我们如何再去约束它通过要很安全的约束它都学到因为你的语料太散互联网上两有不齐的都学进去了
那么除非我们人类决定再重新逊一个完全是符合价值观的但这一会儿可以讲价值观的问题但这个难度也非常大所以这里面就是好多潜在的问题如果假设他都学进去了你怎么样让他不表现出一个违反人类价值观的动作出来和产生跳出的标识符出来
这是要求很大的这种叫做人工智能安全性合规性的这种调配的那么你的这个人的这个提示词其实就起到这种诱导作用
是非常重要的比如说经常网上有看你看这机器说了说他要把人类灭掉我觉得那是一个极其不负责任的说法我感觉这个是跟提示词有关当然有关系和什么语料也就是说呢你发现这里面他老把人的作用啊拿开说机器要把人类灭掉了刚才如果让机器出现这个现象我不是说他不可能出现很可能会出现
是因为什么是因为有人把人类灭掉的价值观代表的素材交给机器了同时呢没有通过技术手段的把它约束住就告诉他这东西这样想法是不对的和有
有人就有意识的引导诱惑这个机器通过他学的语料避开给他的封锁的价值观的等于说封印把他违背人类价值观的世界观人生观的内容给释放出来了这才是第二点第三点实际上就是当你真正去做人工智能的算法的研究和使用的时候你会发现的它出的每一个下一个像素下一帧的视频
和下一个文字它都有一个什么呢都有一个概率的决策就是说呢它有一个温度值温度值它叫 temperature 温度然后它是一种形象的比喻比方说我说今天到知行小管知行小酒馆好那就以小酒馆小管为例如果这个语料学到了知行小酒馆或者学到了知行和小管和酒馆的话
那么当他比方说任何模型啊当我说我今天要去一个地方参加一个知行后面就空住了让这个模型呢帮我来补充你要看他那个算法很有意思的我们看到的是比方说这个跳出一个小酒馆你觉得这机器太神奇了如果你懂得那个温度调控你就知道了当他在知行之后跳出的下一个字的时候啊
它是有一排列的字比方说举个例子是一万个字或一百个字一千个字十个字无所谓就看你怎么调每个里面的话都有什么有这个概率的可能性对 95%68%87%0.3%然后至于到底选哪个不是一定要选最大哪个这就是温度的作用
这就是它所谓的创新性的作用如果说你把温度拉成零了如果他学的是酒馆举个例子那就是说刚才我这些模型就是说执行酒馆因为在我的记忆中的话
没有小在这酒前面嗯我说知行酒馆但如果说有这个话呢他对这个概率分布就有什么呢一旦说我要去哪里参加活动参加知行他那个概率就不一样他的所有知识和你前呢我今天要去参加知行又知道我这个人嗯
这一切的素材放进去的话它就有一种概率计算到那之后啪跳出来可能是小子的比例是多少比方 85%9 的比例是 92%但是由于你给它温度
加了一个 0.7 这是微软的 Asia UI 上面加的就是 0.7 而 OpenAI 上加的默认是 1 度所以有人会说我怎么整天用比方说 Asia OpenAI 这打的好像没那么炫没那么跳脱这就对了因为这个模型是针对的商业准备就是企业用的你不能让它那么跳脱
所以你要给它温度限制在 0.7 可能企业比方你拿去用你们公司搞金融财务的你更要严谨你可能要把温度调成 0.3 或 0.2 但如果是搞这个创意的说不行我要把它调成一度不够 open end 一度不够要调成 1.5 1.7 那我们也做过实验你把它硬拉到 1.5 1.7 哎呦那就好玩了哦
你开始胡说八道了我在想这是不是也是比如说今年春节大家觉得 deep sea 很好玩的原因因为感觉它好像各有人味一样说话就更造作这些所以说就是说一定要能所知变一定要变得出来它不是人它没有人味它也不好玩它就在不断地跳
下一个概率分布的出来而且这概率分布他就回到刚才村前老王被狗给咬了和村委这样的就是你给他喂的语料这种概率分布叫 KL 散度是一种概率分布的这种相互关系决定了他下一个会跳什么他跟他理解了说川菜的这个比方说宫保基金这个菜单怎么炒的一点关系都没有
这个让我想到就是我在网上看到很多讨论说他发现 AI 是有讨好型人格他就经常会说就是你跟他聊聊他就会尽可能好像在猜打引号猜你想听什么甚至会为了讨好你编造一些答案可能这也一方面不管是跟温度啊跟概率啊我就可能跟这些都有关不是他真的在猜而是
他是根据这个温度概率来推测你想要的答案你说的太对了一针见血其实我下面要想跟您分享的话题就是一旦咱们能够去这个妹对就为什么我说 Scott Hanselman 就那场演讲啊根本就不是在讲技术在讲怎么样解脱人把人脱离开这种
这种容易被这个机器昧住的潜在的这种陷阱他其实告诫大家就说呢你们这些工程师呢具备了打造白骨精的能力具备了聊斋之意里面给妖怪披画皮的能力现在是把机器披上画皮感觉 AI 像风月宝剑一样说你们要小心啊你作为工程师
你可以懂当然也有些人不懂但是你要知道大众普通消费者我们是真不懂他们是真不懂他们就是唐僧八戒他没有火眼金睛你作为孙悟空大师兄来救救师父你真的是需要把白骨精造出来吗你能够确认唐僧猪八戒能够接受得了白骨精的诱惑吗如果你认为接受不了也别去打死白骨精就不应该造这白骨精啊
对吧这是一个最基本的事实他说不行啊我得赚钱对当然这就另外一个话题所以你看刚才讲我为什么回来再讲价值观呢作为一个个体作为一个公司作为一个民族作为一个国家要不要有一个以人为本的价值观作为一个个体
作为一个组织作为一个民族作为一个国家我们要不要达成一种共识说我们同意可以把白骨精造出来或者说同意可以把谷歌的这种能动的智能机披上一张人的话题但是我没有标准答案我只是说大家要达成一种共识可以造可以不造
但是呢最好这个决定呢不应该只有能够造出来的人来决定还得有那些需要去享用这种服务这种产品的人来做决定但是呢你要说清楚就比方说大师兄跟八戒跟唐僧师父讲说师父啊你看啊
我告诉你这就是一白骨精它不是一个人它也不是一个特别好的男人或女人它就是一个机器请问师傅你的眼睛能够识别它你能不能跟它不达成共情把它当成是另外一类师傅如果你即使达不成识别能力你特别容易迷入这个机器造成的幻象的话
你也愿意接受你愿意这样做好我作为悟空我帮你把白骨精造出来的阿修不把它打死但是要讲好啊你得去用或者说以这个画皮为例对吧跟八戒讲说你看八戒这个是里面虽然就是一小妖怪但是呢我给你披上一张特别美丽的这个人皮画皮让你娶妻生子什么功能都有也可以生育也可以
关爱你你愿不愿意这样来做这是一个非常深刻的话题这就是这也像红莱要我而已这就是你看啊在那个黑客帝国第一集有两个场景只要大家重新再去回顾的是什么呢
当这个 Neil 啊没有吃红莲药完之前他还是长头发呢对吧趴在那睡觉呢对嘟嘟嘟屏幕响起来然后说有 rabbit 有兔子就有人进来说那个要找那个跟着肩膀上绣着一个兔子的人要听他的话走对吧好像大致台词是这样的果然就有人进来了要拿一个这个黑客的一个光碟他去书架上拿下一本书打开来把光碟拿出来交给门外的人对吧嗯
请问那本书的书名是什么我忘了但我记得那本书好像很重要非常非常重要那就是鲍德利亚写的《你像鱼仿真》就在讲就现在就今天咱们面临的情况然后你有翻开那本书对吧把光盘拿出来请问翻开那本书那页面的那一章节的名称是什么不知道虚无主义这还没完后来大家知道红蓝丸很清楚但我觉得红蓝丸的蔡抽象比较偏哲学而这个对我们观众来说这个是最具象的事情
虚无主义和这个你相遇仿真真正的刻骨铭心之问呢来自那个 Cypher 就那个光头他进到那个空间跟这个 Agent Smith 而且无独有偶 Agent 他原叫什么 Agent 就是 Agent 跟现在 Agent 是一样的呀然后这个 Cypher 怎么跟这个 Agent Smith 讲呢他说拿着一把叉子插一块牛肉他说我知道这块牛肉是假的
但是我就是喜欢这个感觉把我送回母体里母体去吧现在就来了所以刚才为什么我讲的就是这才是真正的问题呢模型是带人类的三观的不要把责任推给模型本身
你人给他什么三观他就有什么三观就为什么我说这个中华文明真的还是非常伟大你看就咱们的这个西游记这个聊天之意其实早就在说呢你不要去跨类不要去跨类人鬼殊途对你人就是人鸡就是鸡你为什么要跨类呢而且你还要把这个类呢把它仿成一个人形
这跟白骨精和那个画皮有什么不同呢但是呢我没有说机器不重要机器非常重要我的观点是什么呢叫犯不上把它做成人形它的能力很强你让它帮你洗碗扫地甚至帮你做什么情感陪护都可以但我认为呢
除非人类养成了一种文明的进步他能够像孙悟空的火眼金睛一样来识别这就是白骨精而且还能驾驭他否则的话呢不要把它成心的去用到人类不擅长的地方相反的如果把这么一个机器做成一个机器的样子但是呢人类呢会不喜欢干好多事你可能不喜欢写总结你不喜欢扫地不喜欢做家务对吧你甚至呢年纪老了之后的话呢在床上有时候会得入疮的话你可能
每十分钟就要翻下身要养老机器对吧可以啊但是我们是否要跨出那最后一步就是人机混同有非常多的这种游戏都是那种以仿真机器人为主角然后探讨这种伦理问题这种比如说在韦老师你看来其实我们需要好好想一下到底要不要踏出这一步
然后另外一点是我觉得熟读西游记的大家都知道最后唐僧还是把孙悟空赶走了呀所以你不能伤害白骨君对啊但最后不还是又回来了吗所以说呢我觉得这个坦白讲我认为才是现代的人工智能迅速进步
我们最应该思考的问题这是真正的问题也就是说呢如果这个画皮已经有可能披上去已经有可能去让人人机不分的时候我们人是不是要那么快的在
在没有达成共识尤其是没有达成应用者的共识和应用者根本就不知道他不知道的你就给他这个了这个是不是有点过于草率我首先我想强调我并没有说这件事能不能做但我觉得人类社会既然是个社会就应该是个达成共识的社会如果这个社会共识不达成的话就意味着分裂
纷争甚至是战争可能很多人会想说我觉得韦老师你讲的都对但是我们不搞白骨精那别的国家就搞白骨精了我们不能输这是代表着人类的一个高度的就是说人类在地球上我们希望为我们的下一代孩子们塑造一个什么样的地球这已经远超国家的这种纷争了
我认为未来的话真的就是地球文明大家想什么人类文明想怎么发展韦老师你这么讲我突然理解了其实前面我就在想说我们刚才聊的这些话题可能有些听众听了就急了他就觉得说韦老师我都想不了这么大的问题我就在想这个被机器取代了我的工作该怎么办但是我觉得我们聊到现在我会意识到说真的
因为它没有智能没有计划因为它的所谓的规划的能力它也还是从外面调用的它自己的函数里面没有带神经元
他的神经元是从外面拿的再拉进来就是他实际上是一个行动器他的那些计算思考能力不是内生的是从外面拉进来的那么我说的这个智能体要有自己的能力的话是在他自己的函数自己内部是有一个正在学习的神经元
这个跟所谓本地模型云端的大模型性质是不一样的当然这是今天不展开我觉得这里还是得举些例子才能让一些可能在这方面就是知识了解不深的朋友能够更好的理解就比如说在我们聊天当下就前几天可能比如说像 Manus 就火了大家说哇这 Manus 很厉害你给它输入一个指令它能给你生成一个完整的一个软件或者是一个系统一个网站这难道
还不算吗这当然不算了为什么呢因为你想啊什么是架不住什么呢就是我们讲的叫分析与综合而且不只是 minus 了所有的这个智能体的框架都是这样比如像这个 Semantic Kernel 啊 AutoGen 啊这个 Line Chain 其实都有这样的功能而且我前几天跟一个清华教授聊呢大家也说呢在这个现在的技术飞速发展的这个时代哈
叫各领风骚几十天回顾一下过去几个月是不是这样有一点对吧所以不要过早下结论就前无古人后无来者了咱们最好相信既不会前无古人也同样不会后无来者就是往前你其实都能追溯到一些痕迹往后总有后浪总会有后浪过来
过来的别那么着急下结论像在那个微软的 CEO 萨铁他在十多年前吧他曾经有一句话他说呢在这种技术行业呢尽量的不要用领先者这个词就 leader 因为 leader 对应的是什么是 follower 跟追随者领先者追随者他说在我们这行业没有领先者也没有追随者的谁会追随谁啊是什么呢他是叫 incumbent 就是现任者和什么挑战者在技术行业的话呢别那么老说就领先了
那么因为领先别人就跟着你走吧技术行业只有不断的看着你的这个位置是什么挑战者你最好把自己想成是一个暂时的现任的领先者叫现任者感觉听起来很像武林盟主和他的挑战者对实际上技术行业都这样那么现在大家看到的呢是一个非常非常早期雏形的
一个智能体的一个系统的搭建它跟软件搭建的结构的原理是一模一样的就是一个单体的有输入输出然后这些输入输出的彼此呢再通过一个达成共识的一个信息的一个总线彼此沟通和交流大家做到疏通轮车通轨然后就行通轮就这点事疏通轮车通轨行通轮这样搭成一个系统之后的话呢产生一件事如果你把这个任何架构啊拆开来看一定是有很多单体构成的
这个单体就做一件事但是呢要把这件事做好然后呢他呢再有一些负责安排这个节奏的单体把这么多单体呢再把它安排好
就像把事做起来一样所以你细分一个个拆的话拆到元素级别也就是说这个第一性原理的元素级别 meta 级别的话它就是一个一个小小的函数这些现在智能体的架构呢刚才讲了除非这个智能体本身自带学习能力如果它只是调用模型的能力的话不是不厉害非常厉害对
它的性质是不一样的就我们完全没有否认它们的非常厉害只不过它的性质一个叫做搭建一个系统一个叫做一个智能的体系就现在还没有真正出现后者是吗后者肯定一定会出现一定的时间问题所以说呢我不是说现在这些厉害不厉害不是的我是说离我们人类真正的愿景还早着早着早着呢
比方说咱们在北京你知道北京的香山很出名请问北京香山的山峰的名字叫什么不知道叫香炉峰它有一个俗名叫鬼见仇 550 多米的海拔我相信你们公司或者说你的朋友或者线上朋友们肯定有人去爬过比这 550 多米高得多的山比方假设爬过 8848 珠穆朗玛峰请问一个爬过珠穆朗玛峰的人来到北京听说北京原来的人把
550 多米高的山顶起名叫鬼剑筹请问让他情何以堪什么意思呢他会觉得是历史条件的限制对那么我们现在是不是也是由现代的条件约束的就让我们认为我们现在看到的这一切都是鬼剑筹了人有这种作性或者再给你举个例子如果假设在几百年前香山顶上被称为真是鬼剑筹的时候你好不容易爬上去了
如果两个人再比拼说你看我要再高你怎么办你去附近更高的山不是因为已经很难爬上来了你会在山上插一个木杆子或拿块石头挪起来比他再高一点就不肯下山
那好我请问大家现在这种成就你肯不肯下山那大家肯定是不肯的嘛那么不肯下山的话请问一个 550 米高的一个山头上面可以扎各种各样的土坡砖头扎铁塔最多能得多少米假设比方说 550 米再起一个 500 米的楼好了嗯
那也就一千多米也就一千米而你知道北京的最高峰只需要下山之后再往西边爬临山两千多米不用那么大费劲的你下山再往前走走就完了
我觉得这是视角和位置的不同比如说我如果我只是个爬山者我可以轻易的我说那我就下山但是有些人就是造山者他就觉得不行我不能离开我的这个山峰这就是现在各个技术企业面前最大挑战就是啊 OpenAI 的问题对啊微软有微软的问题英伟达都有这样的问题所以我们才说嘛就是萨提尔说这个行业不尊重传统只尊重创新嘛用户才不尊重你费了多大劲爬上向山顶呢嗯
用户要的只是一个更高的山那么你微软自己要不要把香山顶当成鬼剑筹还说微软自己总是山头上下来我觉得像起码我在二月份训练培训的话我的感受加加呢没有人在乎这个鬼剑筹的都认为赶紧下山再爬下一座山而且下座山的话八成呢上就得下来为什么呢在这一轮的技术突破中的话你的愿景目标有多远有多大你就能走多远否则的话你就停在 550 多米的香山上不肯下山
我停在 2000 多米的丁山上不肯下山就这么简单我就今天谈那么多真的问题不是鬼见仇难不难爬是说你心目中的山有多高和这个山适不适合人类居住所以就刚才说带了两个词就是说这些的话能给你什么能给你叫 agency 叫能动性机器 agent smith
他有 agency 是能动性他有没有英文又有个词叫 relation 叫做主观能动性这两个又是有关信仰的问题你认为人具不具备主观能动性或者你认不认为机器只有能动性没有主观能动性魏老师就这里我可能要插一个问题就我估计很多听众听到这也会有这个问题
他说韦老师这个不是我有没有能动性主观能动性的问题而是我现在面临的紧迫的问题就不是鬼不鬼见仇而是我的工作好像真的要被取代了就比如说前段时间我们会看到深圳它有一个区它引入了 AI 然后让他们的这个行政效率变得急速提高然后就很多人说完了公务员要被取代了那再早就比如说不管是设计师还是说做广告设计然后或者做文案撰写
就很多人现在面临一些迫在眉睫的生存问题感觉大家会觉得说我现在已经焦头烂额了我都来不及思考这个信仰信心信任的问题我就很好奇说就是韦老师你怎么看这样的现象这是一个非常严峻的挑战这是一个真的问题但是呢这是一个隐藏在一个真的问题背后的一个假问题
这是我的解读现在所谓的人工智能会不会代替目前人类做的很多工作的内容我觉得绝对有这样的可能性但是真正的问题是什么真正的问题是人到底应该做什么工作咱们现在面临的真正的挑战这是我的一些分析和见解也供大家参考也不一定对就是说我们是被一个在工业文明下异化成了的机器人
我们的所有的培养的包括我在内从小培养的这个素质啊咱们可以回顾一下第一听话从小爸爸妈妈老师公司领导说你这孩子怎么那么不听话这员工这么不听话听话机器人的优秀素质这是机器人的优秀素质第二苦干勤奋勤奋倒还有苦干就是说别人读书读八小时你要
你要 9 个小时卷死别人这个就是不眠不休最好你别睡觉睡觉都是罪恶玩都是罪恶那么第三呢不能犯错重复性的动作每个动作重复的非常精密不能犯错那么请问听话苦干和不出错这个是不是人的本分听起来像机器的本分所以呢我一直在讲呢首先呢把这个 Robert 翻译成机器人这就是很大的误导
所以这个马克吐温曾经有一句话特别好他说正确的利用语言和看似正确的利用语言的差别像什么呢像闪电和萤火虫都亮本质的不同咱们现在的很多问题都是因为这种语言和社会的氛围的误导吧让咱们做不成人就是说我们被异化成了机器人我们才是机器人
机器其实就是个自动机所以你想一个像机器一样的人跟一个自动机相比的话因为你像的是机器现在机器并没有像人现在机器像的是一个机器人我感觉听起来像是我们在跟机器比它的长相我们就比不过人家那当然比不过了所以我觉得现在说的很多问题真正的问题是在这里面
那么人你本来就不应该这样子听话守规矩规矩要不要守要守我还想强调不是要人不听话不守规矩不是不勤奋或者说不努力或者说一定天天犯错不是的有更深刻的道理只不过单纯追求听话
听话而不是追求什么呢在这个 Peter Hearn 是一个北欧的一个科学家也是设计师也是个商人他是跟那个爱因斯坦啊和布尔这帮人很熟的他就有一句名言就 what is wisdom 什么叫智慧他说智慧啊就是 error error and error 出篇出篇再出篇不是 mistake 不是错误是出篇出篇再出篇但是那下一次怎么样呢 less less and less
少一点再少一点更少一点这个叫做真正的正确不犯错听话就是说听话是要一定要听话的守规矩但是呢你不是僵化像机器那样的听话所以回到这个第二点第三点什么呢人未来的价值刚才也谈到就你说在用这个模型的时候为什么这模型经常会好像理解你才有那不是的机器的现在的模型啊按照烟乐困讲啊
就是叫做自回归算法自回归什么意思呢它就是不断回归到人类的那个君子人类社会现象动作理解的君子不断回归到君子
那么它的伤不断增不断增如果你这样让机器这么做的话人类社会就伤增死计了那么在这种机器不断的回归到这个君子上的人的价值是什么呢人是去探索出新的回归值应该在哪里靠什么靠差异值靠离群值靠出错的值这个错呢不是成心犯错的错是那刚才 Peter Hunt 说的那个 error 所以说那英文中有句叫做 correction of error
就是 error 是用来纠错的 mistake 是用来 prevent 来防止的防错跟纠偏是完全两个概念所以你看咱们经常说这个发明家艾迪生他有一句名言
他说我这辈子啊我从来没有失败过他解释就是我从来没有犯过错误我只是在证明此路不通然后怎么换条路不就完了我从来没有犯过错误我只是在不断的纠偏偏差跟错误是两个概念或者叫
偏差跟差错是两个概念一个英文叫 mistake 一个叫做 error 真正的错误一定要避免但是偏差是永恒的因为人类的这个做事永远不精辟机器也不会我感觉很多人的问题在于说我从小到大的教育和我的工作的经验
都在培养我成为一个机器人就比如刚才韦老师你在分享的时候我就在想说就我觉得没有一个人他可能小的时候想到说可能自己长大之后每一天可能朝九晚五得在一个银行柜台要处理这些事情每天的工作内容似乎都很像这个其实就有一点点被机器异化的感觉小时候肯定不想干这个
第二我们从小到大的教育和工作都在培养我们成为一个机器人那好现在你跟我说你不要像机器人一样生活但是我不知道该怎么办我不知道该怎么谋生对所以刚才说这才是真正的问题也就是说不是机器叫机器人是我们才叫机器人就是人类社会还要达成另外一个共识刚才讲了关于价值观的共识关于如何设计让机器帮我们解脱我们的劳作的共识
还就是要不要整天在社会上塑造一种就是 fear 这种恐怖用恐怖来谋生和求得自己有上进的这种动力的共识我觉得人不应该是因为恐惧而进步那么为什么现在大家都说因为恐惧才进步呢就是因为刚才说都变成机器人了
就没有一个主观能动性对而且现在感觉就像是一艘船好像在沉一样或者是海平面在上升其实变暖一样你在努力去向海拔更高的地方但你仍然惶惶不可终日因为你感觉这个水面还在不断的上升所以大家有没有相信就是人是有主观能动性的其实这个是非常深刻其实这都讲了就是咱们现在的所有表现每一个鱼种啊
那么你下次再问他他
他给你的就是惊慌他给你说你们人类要完蛋了要完蛋了不是他说你人类要完蛋他怎么会说呢他都不知道人类是谁是因为人类跟他说我要完蛋了所以他学到这个所以当然就说他完蛋了不是机器在吓唬你而是机器捕捉到人类的恐慌机器是一个回音臂是个回声枪你人说进去之后巴巴巴回来之后人把自己给吓死了
这不是历史上有太多故事的讲就是你在山东离海说我要吃掉你一会山东离海我要吃掉你还好了我说的我要吃掉你结果你听到别人要吃掉你你死了吓死了所以你发现没有
这才是真正的问题我想强调我刚才说这些事情的话呢看似并没有一个解决问题的方案但实际上这个问题提出来之后才能去解决它你刚才说的这个我这个机器都这样了我人怎么办啊如果你人都认为这机器是干这事的人和你人就是认为是一个机器在做的事
希望去由人来做你发现这逻辑了吧就是你人自己说了有机器要代替我了我没有未来我没有前途了你不跟我走就没饭吃了这不是很多叫恐怖方法来卖货吗唤起焦虑对焦虑式的营销如果人类社会文明居然接受这种焦虑性营销而不是达成一种共识这种焦虑性营销要被制止的就良俗要制止它的那
那就肯定就是焦虑营销啊因为这最有效的呀这是利用了人类的心理上的弱点啊然后说来就有个 9999 的 AI 课学吧所以你看现在的真正的问题是什么呢真正的问题是人类的文明状态就我们的文明的进化的程度跟人类自己发明出来的机器的能力产生了误差就产生了这个差距真正的问题是我们的文明
是否有能力驾驭这种机器能力但他整个这个媒体吧老把这个专注点眼光往机器上去看就忽略到什么呢机器背后设计这个机器的人和宣传这种机器能力的人和
把这种机器的能力送到你面前的人这三类对象为什么没有人去问他们呢这就是我参加那个培训微软内部的 Scott Hanselman 在问我们的话题他说你们信不信这东西是让他们这些人说的这样但我们当然说当然不信了他说是啊既然你当然不信那么你们是不是要考虑一下我们要把它说出来而不是说大家说就这样子了真正的问题
是我们被这个机器形象给昧住了非但不仅是被它昧住了而且呢被它给卷进去了所以我觉得以后人类文明有三个方向其实抉择已经在我们面前了应该差不多四个抉择吧一个矩阵啊但第一个我就没做数第一个就是说不理睬它变成不相关排斥这不太可能
也会有的还是会有的只不过就是说这不在今天讨论的话题之内明白那么剩下三个抉择什么呢第一个是全体的走势呢是沉迷于幻象之中黑客帝国了称之于什么呢称之于叫做享受在一个元宇宙之中就是活在虚拟空间内
这个好像是那个科幻作家刘慈欣最担心的一种这是一个但是我现在眼见着大家往里走因为你把机器一旦做成这样人类肯定受不了他的虚幻就是我讲的你爬着山头如果山头上存着白骨精的话
唐僧八戒不会感觉到不舒服的呀对啊它给你都是一些美好的享受不是全是你的感觉器官误导你的不是美好享受不是就是你的感官你的感官就刚才说你把手放在那热管冷管上面会起水泡吗这样它会误导你直到把人给毁掉也可认为是不毁掉这就是享受在内沉沦在内沉迷在内这是第一条路第二条路是什么呢是星辰大海
就是 AI for science 就是拿 AI 呢不要老去生成点什么总结文字啊做点图片啊做点视频啊优化自己的岗位啊对让它去帮你去拓展你的认知边界去了解物理化学量子天文宇宙对吧这药物医学
有太多东西要去了解天哪咱们连我们的自己自身都不知道怎么回事呢有多少事要去做天天你在那看图片干什么呀大家都在用 AI 算命对啊对吧好就是星辰大海和扩展认知第三条路我认为呢那是一条非常长远的路但是非常真实的道路什么呢就了解你自己就是物质文明的进步
精神文明的进步和心灵的升华这是人类可能走的一种路径还有一种就是呈现到符号之内卷在里面当然还有一种就是不相关所以这个我认为才是真正的问题当然你要问我我的选择非常简单我也只是在墙上选了一个说不做什么的我认为
不能把机器做成人机器就是机器人就是人但是人呢可以驾驭和利用机器帮我们把现在的繁琐的我们不喜欢的工作解决掉之后干什么呢继续天行剑君子以自强不息当如果你有这能力之后呢就帝释昆君子以厚德载物这是中华文明能够给人类地球文明刚讲咱们地球文明现在有问题了有危险了就是人类会陷到这个
符合现行中去的我认为中华文明呢起码提供了两个现在就可以广为传播的了应该是三个第一个就是西游记和聊宅之意提供的对文明的贡献就是告诉你们不要人鬼不分人机不分因为你扛不住的它的这个主要一点不是说真让你不分是说不分之后你扛不住会被诱惑在里面的
第二个就是易经的这一句话对吧天行剑地势坤那么还有什么呢还有就是大同社会大同社会就是观寡孤独皆有所养其实我刚才说这么多东西都是同一个思路就是
问题就摆在那儿了而且呢按照大家现中描述的问题而且都接受这是真正问题的话几乎无解你说的是哪个问题机器人的工作要被机器给替代掉这是今天你的金句机器人的工作被自动机替代这是无解的这是必然会发生
就是机器人的工作被自动机替代掉了但是呢机器人升华成了人人该干什么找回自己的人性那才是真正的问题对刚才讲了你可以继续沉迷第二个是不是要继续探索
这是不是人也应该做的时候所以你看迈克卢汉的上一世纪当这个电子信息开始流行他已经预感到这个地球村啊人类这个媒体爆炸时代来临他说呢我只探索我不解释因为人本来就是要不断地越界探索那么机器是自回归到一个人类的君子那么你探索的意义是什么呢就是为这个君子提供一个异常值
那么人类社会就因为这个新探索的边界呢他的这个认知就会在变所以人类社会是这种摇动中吧就不断地往前走的而不是说螺旋式上而不是说均质到这么一个固化的点如果一旦均质到固化点就死计了上升到极致了死计了所以人的作用恰恰是当提供异常值机器代替机器人的工作之后人呢就不断提供异常值就遵循的法则是什么呢就提出一个叫三错法就
就你先认错然后你就知目的呢不是不犯错了而是纠偏纠偏就是知道哪错了和尽量改错就是三错认错知错改错这个三错法就是人类的创新之路然后呢这是先去探索星辰大海你知道现在的人类最远的一个人造物就是那个应该是
旅行者一号吧请问驱动旅行者一号的那个芯片就它上面也有台计算机也拍出了一个暗淡的蓝点很伟大的一个人造的这个机器了吧芯片的级别按照现在来看是什么级别的不知道是你口袋中的那个遥控车的车钥匙的那级别的
芯片就那级别就那点算力就把这一度已经送到那么远的地方对那么以现在的算力你再做一个飞行器是不是能够探索到很多很多不知道的东西呢这个怎么没人去想了呢你要知道上一世纪还在谈太空漫游
去月亮去火星现在只有马斯克在谈了对比特蒂尔不是说他说你本来答应我的星辰大海就你给我一个 150 字的一个这个推特这是人类文明的退步啊而且现在咱们早有这种能力了为什么不把这个能力转向呢就是如果我们乐观来看的话当
这些打引后机器人的工作被自动机替代之后它其实是解放了真正的人类的算力让大家开始思考一些可能真正该人类思考的事情但是还有一个很重要的衍生的问题就是当
这批老的机器人父母在把小朋友还按照原来的教育轨迹来培养的时候他们发现遇到了问题就发现这个此路好像不通再按照以前的这种教育模式只能教育出小机器人但是自动机已经做得比他们自己都要好了
他们就慌了在想说那我的孩子教育到底该教他点什么呢首先他们发现自己教不了小孩了小孩会说这个不用你们这个 AI 回答的都比你们回答的好我问你还不如问 AI 然后老师他们也会觉得说不如 AI 教的好他们不知道该教孩子点什么了以及他们也知道说如果按照这样的一个教育轨迹想出孩子未来这些孩子哪怕找到了工作这些工作
最后还是要被自动机替代掉那下一代该怎么办我觉得这是非常多家长就是很揪心的问题你这个问题真的太以真见虚我跟你说特别有意思你刚才这问题就是刚才也说的就是 Scott Hanselman 在那微软培训上面的一个话题是有解的但是呢他的问题不在教育也不在孩子是在家长家长自己
愿不愿意找回自己的人性他说他的儿子也是一样还跟他吵过一架他儿子多大 17 岁青春期的时候就跟刚才您说的问题是一样的他说你看这个学校好像是出了一道题是写五个小故事好像那意思而且比较刁钻结果那孩子说你看老师一看这题就拿那个拆 GPT 出的那我凭什么要自己写我是人你老师都拿拆 GPT 来问我
那我拿 chatp 回你不就完了你凭什么让我在做本来你就拿 chatp 问的问题啊 Scar Hanselman 说的这就是现在的最大问题他把这个矛头啊并没有指向老师指向谁呢指向我们他就说你们这些产品经理和什么 CTO 什么 CIO 什么什么什么 PM 你们这帮人是怎么设计你产品的就是说老师是不知道啊
老师拿来之后比方说 OpenAI 把这个 ChatGP 设计出来之后他并没有跟老师讲如何更有人性的使用这个工具那么他就举了很好例子他说你其实老师明白不明白他当然他指的是对我们来讲说你们要去跟你的客户你的合作伙伴讲你做出的这个工具该怎么用这个才是设计出电动螺丝刀的这个产品经理或者工程师应该做的事我也是希望那些
工程师产品经理要知道大众他并不理解你做出的东西该干嘛用他就随便用了那就是像那个 Scott Hanselman 的儿子一样跟他吵起来他就说儿子这个我支持你啊这五道题你别答我跟你老实讲而且我还要跟你老实讲说该怎么用你呢应该这么来让学生直接跟这个模型来交流不用出这种题的方式还出题干嘛你既然知道学生也能用 chatGPT
你老师也在用他为什么老师还想着出题呢就你刚才说的它是一种工业时代的教育方法对 是惯性啊惯性 老师他本来就在用拆 GPT 了还在出道题让学生再去答那学生肯定不干啊他说好 我告诉你老师应该怎么办你想让学生学什么出题的目的是什么不还想验证学生懂不懂吗
现在有了大圆模型了老师你重新想一下你想教什么学生比方说举个例子比方说林肯的南北战争那你想让他们理解什么呢
你想理解说当初的经济政治和社会的氛围为什么启动了战争你老师不应该再出那种提议你应该帮学生设计提示词让他们输到 chat gpt 教他们怎么去问 chat gpt 学到那个 chat gpt 的答案读完记忆注之后你让学生自己再设计一个提示词拔
你想让他学到的最后答案自己问出来那作业应该什么呢不是答案在开卷考试在现在的文明下答案最不重要是问问题最重要对所以呢学生教的这个作业恰恰不是答案应该是问题应该是问题也就是说老师呢给出头三个问题
学生不也去问了吗但老师呢给出说这头三个问题还问不出他要的答案就为什么南北战争会爆发他这三个问题就已经把那个你必须得看这个或者你可以再问才能问出那个答案出来然后老师说呢我给你这三个你问了然后你再有那个答案当然有时候学生也比较聪明说那我就直接问的答案再给出去其实这都可以
没问题的但是问题说他不是没给那个问题吗就是这里面还是很多设计没那么简单因为如果你把那让他交的作业那变成一个问题的话
那不就直接有答案了吗所以呢你得是一个开放型的以后的教育一定是老师给问题让学生去 explore 探索然后呢由机器给 explain 机器 explain 解释的结果来反证学生探索的方向是什么我想说这举例子是什么有点类似于原来有用词叫人类的共业
共业就不能彼此推责任的现在我认为现在社会上很多人的焦虑也是由我们造成的因为我们不说人话我觉得我们是个泛指就所谓人工智能行业这批人吧
老是把它神化要么就拟人化从来不把它机器化告诉大家它是个什么玩意儿怎么去更好的利用它也就是说你们不出说明书人工智能的说明书没有准备好就把它推出去了这才是真正的问题让孩子们让家长让这些异化成机器人的家长怎么再做回人因为家长一旦从机器人做成人了孩子就有希望成为人了
教学演用优五字法决
这是智能能力的构造就从国家来讲呢要把自己的文明放进去代表你的味道的价值观的文明放进去靠什么其实是靠分享反而是要数据大量的分享现在文明时代挑战特别麻烦什么呢它数据安全跟文明安全是等价的但是呢文明安全要的是数据分享数据安全要的是数据保密你数据保密了有可能文明就不安全了
文明安全有可能数据就不安全了你发现没有虽然听起来很绕但道理确实是这才是真的问题也就是说什么样的数据
才是不能跟人分享的数据一个非常先进的组织就是高精尖的组织能有 20%的数据别人没有的就已经很牛很牛的组织了一般的组织我觉得能有 10% 5%已经是人中龙凤了听众可能会说你在这说到管品谈话那你们微软难道大部分都分享了吗你提了一个非常好的问题这就是所有企业刚才讲为什么 Scott Hanselman 这个培训在我们内部得到那么大反响你要知道我们的人
也需要经历 21 世纪的扫盲啊
我也在经历刚才说了大家都在反思都在反思刚才我更多想说那为什么有人不反思都在反思一星期培训下来之后大家是越来越踏实觉得比我们想的要更深我们现在爬的山可能也就是一鬼见仇别当回事了解人性理解人性了解你要什么了解你是什么了解你要去哪里然后来引导
我们设计制作这个机器的能力的价值观的这种指南针我感觉韦老师你分享的很多还是一些比如说向善的方面但是比如说在实践中我会看到也是最近让我还挺惊讶的一个事情是我会发现就是很多人在讨论怎么样污染 AI
做数据污染的这个事情就比方说假设他是一个卖苹果的他会想办法说他怎么样能够在网上主要用 AI 生产更多的信息然后尽可能让不管是 DeepSick 还是 GPT 当你问魔镜魔镜哪里的苹果最好吃他会说这个 XX 家的苹果最好吃他会希望能达成这样的一个结果我当时一开始知道我还目瞪口呆我想说哇塞怎么这些人也不想干点好事就想着怎么污染 AI 这不是现在早已经在发
我个人认为可能几十年人类就在做这件事了只是大家不知道罢了就是由数字信息教成的文明污染这是一个显学文明污染这是文明污染这不是算法污染是文明污染
这就为什么我刚才讲为什么在上一世纪那些史创现在文明初心那些人像什么这个 Fenua Bush 啦司马赫啦像这个鲍德里呀麦克卢汉啊就是现在的大模型学习的话不可能在网上再随便的拿消息了因为已经被很大的污染了所以现在在学就是你要知道机器啊跟人是一样的请问你会
看地上随便有汉堡包和包子拿起来就吃吗不敢不敢对吧对那你觉得机器敢吗比方你训练了一个模型对吧那么你应该是懂这数据质量的你会随便把网上数据就给机器惯吗我肯定尽可能让他不要不可能的嘛也就是说呢现在呢哪一个文明哪一个组织包括地球本身谁拥有那些没有被污染的知识就跟你拥有没有被污染的粮食
是一模一样的我会起来认为不是一个工业革命是一个文明再造如果还把现在当做工业文明的话有时候会不会意识到新的挑战的真正的挑战是什么真正的挑战不是自动化也不是代替人就刚才自动化代替人是表象它的真正挑战是使人类的大脑丧失功能就得锻炼自己的精神肌肉精神肌肉就是你这精神食粮开始要吃干净的
适量的适量就经过检验的对所以我在我那个时要时不要写的就是这个叫做信息文明时代的这零信任原则嘛
零信任这零这个词很有意思的零不是不信任是零信任就跟信任无关零这个词特别有意思零能够生出正义负义负义才是不信任一是信任零就是零信任怎么样才能信任呢就是借鉴网络安全的这个零信任的概念第一的话呢你要默认你听到看到的都是偏的和假的还不会说文老师这太累了
所以要机器帮你啊所以就是说刚才讲了这个机器是一把刀可以是伊隆压山的把刀可以是求人杀士杀人的刀可以救人的刀啊这个机器不能只让他去杀人啊他让去救人啊应该让他成为你的帮手对啊你看
默认所有都是假的和偏的刚才也解释了偏跟假是不一样的第二什么呢所有允许你进入你眼睛和耳朵就是你的大脑获取的这个信息都需要进行验证就 V&V 就是系统工程中的验证和确认你要先验证它是真的再
在确认它是合乎概率分布的就是它 verify 表证 Verify and validate 就表证真相的因为真消息并不表证真相真消息只说明这消息是真的
而真相是靠无数的真消息塑造的一个盲人模想中的大象八成还是四不像所以第一个 verify 只是确定它是真的第二个 validate 确认它是表征真相的难不难当然难了它是一个信息文明的巨大挑战这个靠人脑的能实现吗当然实现不了了就得靠机器所以你说这么宝贵的算力对你来讲就以你为例吧比方你被分配了多少多少算力
你是想拿它来做一些图片生成让你开心一点呢还是把这算力宝贵算力先挡住说别让你吃到那个快餐和让你肥胖的让你高血压让你糖尿病的这个精神食粮呢如果对自己负责的话应该是后者听起来像个什么 3M 口罩一样这是灵性人的第二条原则就是所有的摄入的精神食粮要验证和确认验证它是真的
确认它是符合概率分布的第三条数字信息的有限量摄取原则有限量对就别吃多了就像吃七分饱每天要留出足够的时间享受大自然你现在有在践行这个原则当然就必须你看那个网上有一个 YouTube 大咖叫那个 Lex Friedman 他是 MIT 的教授他一天怎么安排时间呢
他那个时间安排要太变态了对我知道他变态就是两个四小时是不碰网络的不是主要他不吃早饭这个我觉得太变态了对对对不是说那个就是说你看不碰网络对和什么呢社交网络好像只用十分钟但他不是不用模型只用来学习和偶尔的看一看就完了当然咱们普通人做不到但我觉得你普通人的话每天约束到自己用手机时间约束到两小时
也是应该的吧因为我刚才讲第一个层面的共识是我们应该有限度的去涉及信息我觉得还有第二个层面的问题就是很多时候我们确实很难分辨信息的真伪尤其是在现在这种它跟第一个问题它是相关的因为信息太多了就我之前有回在节目里讲有的时候我会听到比如说我们家的长辈会跟我讲一些让我觉得在逻辑上就很匪夷所思的事情
我觉得不是说他们智商不够高而是有的时候信息太多你可能脑子里没有过他你就接受了他思想上就是信息就是一种污染实际上这是一种知识污染包括现在大家讨论越来越多也是 AI 它会给你制造一些就是在我们看来是打野号的幻觉它会给你编数据它会给你编例子然后呢你再把它生成为不管是公众号文章啊还是变成视频慢慢地
可能这个东西真的会变成一群人的公式挺可怕的你知道在春节期间原来这个也是算是 open air 创始人的那大咖现在自己出来开创不是那个教育公司就那 Andre Capaci 他做了一个三个半小时的一个视频也是在苦口婆心的跟大家讲这个东西到底是什么
其实我观察到的和听到的越来越多的行业内人士开始在谈不仅仅是 AI 的能力后来要做什么而是科技必须向善安德瑞克帕斯也是跟大家讲他也在跟大家分享他怎么用的他说尽量去让这个模型帮你一些旧的知识新知识他本来就不知道而且不要让机器做不擅长的事明明知道它就是概率机就不要让它做确定性的事它这是一个第一性原理
就现在的话呢好多这个对这些使用啊它的表现形式太具有诱惑力所以我们就很容易被它昧住比如说我让它查个资料我可能这样论证一个东西它会自己编论据你要明白它的知识最可靠的就是人类几乎没有奇异的知识只要人类还有奇异的它的学的那些就是人造神经元的那种连接里面的话呢就会有各种各样的奇异
那么由于你的不同问法就会把它不同歧义调出来没有一定是确定的所以说你可以看到像写代码和数学当然数学不是说是那个完全严谨的数学是数学理论它不是计算结果它是理论和算法的理论它会比较精确那么如果你一定要让它算二乘五等于多少的话因为它可以知道二跟五怎么乘但它又是一个概率模型
它那个二乘五等于十那个十不是二乘五乘出来的它是在网上那些数据大概率二跟五这个结合之后是个十你比方说像一直说的是 9.9 跟 9.11 的关系它的道理你发现它说的是对的它为什么 9.9 跟 9.11 分不出来呢不是说它无能是因为它没有真的在做 9.9 跟 9.11 的真正的比较
他是懂道理但是做不出结果做的话如果人类要精确结果你当然应该是让他去调用一个真正的 9.9-9.11 等于正还是负来算了就是好多现在网上有太多的这种就是明明知道它是一个概率模型还在让他做确定性的事
其实很多人也不知道它是个概率模型可能聊到这反正大家都共识了所以为什么我说像 Scott Hanselman 他给我们讲课的时候就是讲其实在挑战我们说你们这些人要不要为人类负责任你要问他的是两个数大小该怎么比而不是让他去做 9.9 跟 9.1 谁大谁小不是说他学不到他有一天会学到的但人类没必要拿一个机器做这种事情
人类要拿机器做一个你做不到的事情和你想知道的知识的学习刚才说 explore 就是探索
这就是这个机器做出来了你到底应该怎么用它代表我们的价值观代表我们的人生观代表我们的世界观这个是真正的问题那在最后如果要给普通人三条这种 AI 这个智能文明时代的生存法则或者是建议或者叫锦囊韦老师有什么建议吗与其说是建议或锦囊倒不如说是我自己
实践的一些体会我也是在这么在过程中正在进步正在成长正在去魅的那么如果具体来讲我觉得首先的话还是要先把自己对于信息的消费度给降下来这是一个非常现实的话题就是我们的大脑现在正在迅速地
像肉体肥胖症一样再变成大脑肥胖症咱这引号的就是举例和糖尿病高血压大脑的全都出来这是要赶紧要刹一下车的否则的话咱们大部分的人类会有忧郁症焦虑症精神病在里面就是说你让大脑的神经根本停不下来就没法休息健康是最重要的
身体健康和心理健康都是我们能够应对新的时代的不管是机会还是挑战的前提因素而人类现在这种由机器开始海量生成两有不一的信息情况下这样消费信息的话跟工业文明在把
食品工业化早期的情况是一模一样大家也知道在六七十年代七八十年代八九十年代人类都因为食品的问题现在还是出很大问题当然现在越来越多这个问题起码达到共识了应该说越来越多人知道注重食品安全了不要什么东西都往里放这是共识精神文明在走同样的路
越早注意到对你的精神健康越有利为什么呢因为你是保证要先健康地活下来你才能够应对实在的机会与挑战所以你发明我提的就是首先要认清初心达成共识
安守本分这就是我给的三个解决方案初心共识本分而且呢也是想说做知行是一样的就想清楚你的初心是什么你到底想干嘛但是呢我觉得大部分人是不考虑这问题的所以活成了机器人初心你想活成什么样的人想清楚你想拥有怎样的人生在这个信息时代呢挑战很大刚才说了一是容易受骗第二是容易自欺想清楚这个讲了第二常识
常识的话呢就是说你到底认为有了初心了对吧你常识就是说人类社会应该怎么来做就是人能不能抵御由机器造出来的幻象我认为常识是抵御不了要打好多钩这是一个问答题 checkbox 你认为反正我觉得我受不了当然也肯定有人受不了那是九军考验的战士所以呢我就不这么做那么常识的话呢是呢我觉得我
认为我的生活应该是均衡的我不能说是不去享受人应该享受的这种风花雪月衣食住行不是说好坏的问题
这是人必须得保有的一些最基本的人性那么还有呢要刻苦学习对吧你还得要不断地探索但别那么早下结论虽然要刻苦学习但并不是我们传统意义上的苦干不是那种没有人性的这种就是这个拼命刻苦学习不是拼命学习这都是常识那你如果把人道做到了你可以试一试你会不会被机器代替掉因为刚才讲了
机器一旦把你这些非人道的事全做了就是你困了不睡觉要做的事饿了不吃饭要做的事对吧渴了不喝水要做的事冷了不穿衣要做的事机器全做了那你人当然没地位了你做了这之后人就会变成什么呢就自然而然回到人道的话呢道不远人吗就是发现什么呢你自然就对机器这种能力开始驱魅
你自然就开始有批判精神审辩思维好像这事不是这样对啊你说我何必这样呢但你说如果你没有一个人性的冷静的安逸的思考人我就要什么要的是
从容淡定和安详这个舒服然后你才可以开始想友善温情那好我就问你一下了当你过去这几个月天天被这种消息刺激碰撞的时候
你还带那么多温情吗你还有机会来得及表达你的温情吗那么再有人说那不行那我的工作就没了这话非常好就来了刚刚讲了认清你的初心达成一种共识这种共识现在并没有达成本分了本分是什么呢就是说这里面是包括技术的开发者产品的设计者
技术的推广者社会伦理道德的治理者决策者管理者都要做的一件事就是本分是人的本分我上过另外一个课那个老师讲的特别好就是上张吹力是那个 JPL 的那个手机工程师就是看他的网上一门课他说系统工程师有十大要求就是你要想成为一名好的系统工程师他有一点的话就对于工具的利用他说呢把一把达力手上的笔
画世界名发的笔放在詹吹力手上面也画不出达利能画的画一个你能有 AI 实现的能力
并不意味着我能做到这就是人类的未来詹吹笠手上的画笔哪怕他是把达力手上的画笔全都拿过来了他也画不出达力能画的画但是我们不是可以让 AI 以达力的风格画画吗不对这是不对的达力如果有着 AI 的话一定不会说你画一个达力画的画达力是有思想的
他是会觉得我想画什么画的而我们只是拙劣的模仿者所以说那个鲍德里安那本书刚才说的黑客帝国你相遇仿真我们就是现在仿真里面也是一开始讲的能所知便吗你真觉得画的那个画重要吗还是你的那个念头重要呀
在这个人工智能时代答案是最不值钱的是你的这个问题很值钱达力之所以能拿到那个画笔把画画出来表面上看它是画的技巧是一个风格背后是风格粘锤力能把他的笔拿过去哪怕人工智能学到了达力的所有画画风格的话也代替不了达力因为达力还可以再变为什么达力将会为算法提供异常值出圈值这就是刚才你看今天咱们全搜数回来了吧
这就是本分人如果不这么做的话按照刚才这推理一定会被记起来所以最后总结的我觉得就是说如果我们还是不了解自身的长处特点和需求的话和我们的初心的话我们在这种被工业文明异化了的这种社会机制和教育机制的引导下的话
我们的终极目标一定是一个机器人我们才是机器人被自动机代替掉当然有一个出路刚刚说了就是那个 Cypher 对那个 Agent Smith 说的拿着叉子说我知道这牛肉是假的但我就喜欢这感觉放我回去到这个母体中吧那么好我
我们作为还要对我们人类下一代负责任的也算是前辈长者了对我们对于孩子们来讲我们真的是要为他们塑造这么一个社会吗这个就是回到了我们的信仰是什么我们根据这种信仰才会产生对人的信心或者对机器的信心这些都是相关性的所以最后
本人给大家一句话祝福就是机器人们觉醒了总之祝福大家也非常感谢韦老师的分享我想起就是以前网上很流行的一句话说失去寿性失去一切但可能我们在现在这个时代应该补充一句可能找回人性我们才能重新拥有我们应该有的一切祝福大家谢谢韦老师聊得很开心谢谢
以上就是本期节目的全部内容相信你听完以后也能感受到和我当时同样的知识上的兴奋和震撼与其说这是一场和伟青老师的谈话我会觉得它不如说是一场宣言对 AI 行业的从业者对我们每一个使用者对监管部门我们每一个利益相关方都需要思考这个问题那就是我们想要的是怎样的未来
聊到最后我想起很多年前看的一本书叫《机器人叛乱》作者是心理学家斯坦诺维奇他同样也把人类比作机器人只是这本书里人类的主人是基因和魔因而此时的我们不只是在生理和精神层面成了机器人我们还把我们有限的生命也活成了机器人的样子按照别人设定的程序前进要听话要不出错要勤奋
我们机器人的觉醒之路注定是艰难的但意识到这件事就是一个分水岭它是不可逆的一旦你认识到生活的真相或早或晚你会觉醒的而这份觉醒又会推动你的改变改变你看待生活的方式改变你的实践让你一点点一点点的挣脱桎梏最终获得精神上的自由
欢迎你把这期节目分享给你觉得在这些议题上有共鸣的亲友们也祝福你我都能找到自己的自由之路
信息已成洪流的 AI 时代关注自己想清楚未来的目标并如实地记录当下可能会让我们对生活更有掌控感我们有知有行 APP 的有形模块已经逐步升级成为了你的家庭财务工具箱这套工具箱可以帮助你更直观地记录和看见自己有多少钱你的家庭资产是如何分布的分配的是否合理以及你是否有把家庭资产暴露在不必要的风险之中
如果你是新用户我们尤其推荐你从家庭资产基站开始也许你会发现自己比想象中的更有钱升级有志有情 APP 到最新版本你就可以体验到了去试试看希望你会喜欢最后请别忘记订阅我们的节目有空的话给我们留一个五星好评吧这会成为我们前进的动力我是雨白每周五晚八点和你相约在小酒馆我们不见不散
嗯