Deep Dive
Shownotes Transcript
欢迎来到科技修道院我是二手的科学家北名郑海生今天很高兴我们请到了人工智能领域的大咖尼克老师来讲点这圈子里特别有意思的事很多人也关心到底 OpenAI 为什么能够
这么快就把谷歌给压在身底下了这里边有很多第一性原理的东西我也是听尼克老师说了以后是醍醐灌顶你们二位自己介绍一下怎么样我也是二手科学家我是尼克大家好
大家好 我叫东东腔 我不是科学家但是我在咱们这个节目里起了一个非常重要的作用就是凡是我听不懂的我就要打岔我是咱们这个节目里负责问傻问题的那个人希望我能帮助大家
好我们俩都是隐姓埋名因为什么呢我们这本名我叫刘鹏尼克老师呢叫张晓东我这东东腔也不是真名啊我也不姓东东啊我也我们这名字都没什么鉴别力上次我在这个百度百科上查了一下叫刘鹏的名人有 67 个这是叫刘鹏的名人您查查有叫张晓东的名人有多少对
我这名字也是就是那时候我这大学那时候谈恋爱楼下女生一叫同宿舍的下来同楼道的下来三个都叫对而且我后来这个叫尼克也是因为那个时候刚到美国去留学这个咱们中国人名字里 XYZ 就 XYZ 美国人不会发音不会念对你比方说这个 X 他怎么发他发
X 发 Cell 他不知道怎么发所以他就是很尴尬他弄你名字他又不好意思说把你名字叫错了也不好最后呢因为我们当时那个五湖四海我们那办公室十几个人我们那团队十几个人全世界各地哪都有一个国家不超过两个人
所以这名字都很复杂有印度名字这二十几个字母了这就没法对就是你是吧名字长地种性就是这个就很复杂最后呢我们那办公室那哥们就说按照美国人的名字 A 开始一直到 N
因为我们一共就到 N 大概就十几个人吧这在中国就是按甲乙丙丁嘛甲乙丙丁就到我这了正好因为我是 Z 嘛最后一个那最后就 N 了然后就叫 Nick 了叫 Nick 那回国那大家叫着叫着后来就变成真的了就跟你一样现在人可能就平常人就不知道你真名叫啥您那时候去美国是哪年呢八几年有八几年早 我去的早现在早
最近我跟尼克老师好长时间没见了最近又联系上是有个契机就是
尼克老师前面出的一本书我觉得凡是做人工智能的应该都看过是吧人工智能简史这本书还得了吴文俊奖这是非常高的一个出版界的奖项我当年写了一本计算广告我也报了这个奖是吧是给顶下来了我那书咱不是一年我那书都不好意思往上报了原来往上报了
这回尼克尔老师又出了一本叫《理解图灵》这个书您也可以跟大家介绍介绍咱们本来聊人工智能最后变成卖广告了您这也跟人工智能也没里往对 理解图灵因为大家知道图灵图灵是计算机科学之父但是它也是人工智能之父因为说它是计算机科学之父是因为他 1936 年 1937 年他写了票文章
这文章写的很长就是一期没登下所以他就在 36 年的年底那一期 37 年的第一期这篇文章呢就整个就是定义了计算机科学同时呢他定了一个东西叫图灵机现在咱们总说图灵机图灵机就在他那篇文章里定义了就这篇文章然后呢他 50 年的时候又写了一篇文章
叫计算机与智能图灵测试就是 50 年对图灵测试就是 50 年这篇文章现在一般人认为咱们不去深究一般人认为这篇文章就是人工智能的起始他第一次提计算机和智能是啥关系所以那个时候还没有计算机现在计算机叫 computer 对那个时候 computer 指的是人
是负责计算的人你比如说那时候你到那个什么英国那破解密码的那个地方去那些一人一个手摇计算器的那些都是女生那职位叫什么然后呢所以图灵这文章就不叫 computer 它叫 computing machinery 就是计算机器和人
因为那时候他不能说就是这个 computer 最后变成纸计算机这个是到 60 年代末期慢慢慢慢慢慢才更多的人叫这个什么但是 anyway 就是图灵这个文章就是定义了这个智能这文章的开头这文章的第一节第一节就叫模仿游戏 imitation game
这个呢几年前有一电影就是这个电影电影那个最佳得了个奥斯卡最佳编剧是是是是就那卷浮演卷浮演的这个呢这电影老实讲就是说要从科技的角度它肯定不如奥本海默拍的牛但是它最后反正也得了一个编剧奖然后这个基本上就是讲这个突灵二战的时候给英国破解密码
然后最后这电影的结论你看最后电影演完了翻译字幕字幕说因为图灵的努力二战提前结束了两年对吧就是这个但是呢这个图灵在这个二战结束了之后其实二战当中他就他就琢磨他说这计算机这东西将来肯定要跟智能发生关系他自己也喜欢下棋他就在那个英国破解密码的那个地儿 Bletchley Park
他就在那组织一帮人就弄计算机下棋他自己也喜欢下就从计算机下棋这个过程里面他想到他说这个跟智能有关系所以其实他 48 年就模仿游戏他现在的图灵测试就现在图灵测试就模仿游戏就 50 年这篇文章定义的那么在这个之前就是 48 年他写过一篇文章
48 年这篇文章的结尾实际上已经定义模仿游戏了就是什么呢就是 50 年定义的这模仿游戏是这样的就是说因为智能这个事不好定义对吧那就图灵说那我就给一个假思想实验就是说那我怎么定义有没有智能呢我就我给一个人关在一房子里头然后我把机器搁一房子里
然后有一个人来但是他原始的版本跟这个还略有差别我说的是现在教科书版本就是说有个人在外头就问问题对吧问足够长的时间你还不能判别哪个屋里装的是人哪屋里装机器那机器就有智能了这就是他基本的定义但是他其实 48 年的他定义是跟下棋有关 48 年其实就已经定义过 48 年的文章的结尾
他定义的是下棋他说有一个房间人下棋有一个房间机器下棋然后人就是只是对异这个棋盘就不知道是这个房间里面哪个是这个哪个是机器哪个是人他说如果说
人判别不出来最后这个机器有尽最后他发现下棋这个领域太窄了不够强好像下棋我职业上觉得很容易蒙过去对 很容易蒙过去关键是下棋人一般都很弱对所以他到 50 年他就把这个改了
就变成 48 年文章的结尾变成 50 年文章的开头开头就是模仿游戏这模仿游戏后人叫就叫图灵测试所以现在大家天天在争说 GPT 有没有过图灵测试其实图灵测试就是这么个东西对所以您这书里讲的就是这个我其实这本书实际上是给图灵 1950 年这篇文章这书里还附带了这个
我们今儿敢卖书了这就是图零五零年那篇文章定义人工智能就是 computing machinery intelligence 你看这个第一章的第一节就叫 imitation game 我其实这本书就是给这个人家这篇文章写了个注因为这个文章登在一个哲学杂志上这哲学杂志它有时候尽管它比较科普但是它用很多点
他涉及到的其他领域比方说他已经假设你得多少知道一点图形记忆所以这个就让这个文章不是对外行人来说不是那么好懂就每个字你都认识但是他具体想说什么呢如果不解释解释还是不太容易懂所以我这个就给他写个注结果这注写的长了一点就变成一本书了嗯
其实今天跟尼克老师想聊的也是我们那天碰到以后说起一个什么话题呢就是大家很关心人物认识历史上的这些理论研究或者说所谓第一性原理的东西对今天我们看到的突飞猛进 AI 的进展到底有什么帮助或者说是不是今天就是这个对于算力大力就能出奇迹但是跟尼克老师聊完了以后呢
特别是您提到这个伊利亚在这个上个月的演讲对吧去年伊利亚去年那个演讲其实就把这事呢算是给大家有个揭秘这点咱们也可以今天重点聊一聊对就这话题呢就比较这个比较
我觉得是内行人肯定关心但是作为一外行人肯定也会好奇因为谷歌一直是领先的大家都觉得我说也不好听了在前年的 11 月份之前甚至有很多业界的人士都认为 OpenAI 这个机构比较失败我作为一个并不是科技业内的人但是
我坦白的说在此之前的很多年里我没有听说过那太正常了对是吧因为他就没进入大众的视野对那怎么一个之前都不被大家熟知的公司突然就变成了这个行业的就是领头羊呢对所以这个实际上就跟刚刚刘鹏说的第一性原理有关系就是说他这里面有一定的理论也有一定的实践
但是你要说实践堆算力这个它作为一个创业品它其实堆不过谷歌它堆不过谷歌当时它的算力也真没谷歌多对所以呢那为什么就是大伙就是内行现在是内行开始关注了说为什么它能跑出来那谷歌没跑出来或者其他那些大厂都没跑出来对吧它先跑出来
然后作为外行呢就是表示如果我是个投资者嗯那当时如果说像 OpenAI 这样的公司来找你要钱那你应该怎么或者说你你你有一套什么样的方法论能说他这事能成或者他不能成哇看看他创始人生辰八字没错没错所以就是说这几个创始人很厉害这几个创始人很厉害当然就是也有几个创始人他都是从 Google 出来的然后这个
所以这个一直呢就是大家就你刚刚说这伊利亚现在是这个风口网尖的人因为就是去年这个谁这个 OpenAI 闹了一次政变对他是 OpenAI 的首席科学家也是 OpenAI 的这个精神领袖对吧然后呢而且技术上就无论内行外行都很服这个人而且他很会讲
所以呢他呢这个 openai 成了之后很多人就来采访他就说你你这个东西你为什么就成了对吧然后他就反复跟你讲我这东西就是一个很简单的就是 next token predictionnext token prediction 是啥呢就是说我给你一串东西让你猜什么东西有可能在一串东西的后面比方说红楼梦我给你钱几十回
让你猜下一回下一回是什么他说这很像我家孩子做的小学数学题就给你一串数字请问你下一个空天天什么没错是吧 357 下一个天什么没错你说的太对了这个其实在人工智能里面它其实有一套理论还有一套理论您可以先从这个学习的定义讲起我觉得这个东西对我启发太大了是而且我觉得很多
做 AI 的也没太关注到这件事是是做 AI 的给你看像这彭总你都没关心这事肯定还有很多人我毕竟是二手咱们都二手咱们现在就是都从二手科学家的角度咱们讲讲就是说这事就是
就是说什么是学习这个呢其实有很多种定义方式就包括咱们机器学习里各种学习的算法对我们都知道机器学习深度学习但究竟什么是学习好多是那到底什么是最本质的那个学习是啥嗯就这个问题呢其实五几年的时候嗯就是就是人工智能是五几年因为有一帮年轻的反叛的科学家
在达特茅斯学院开了个会五六年所以大家都认为这个达特茅斯这个会是人工智能的这个这一帮人就是一个集体行动的起点那么这开会期间您是不是觉得图灵更应该是对就是理论上来讲就是图灵其实就因为他这些这些事他们那时候就五几年这帮人啊
他们都认为图灵是最主要的包括他们当时的头就是信息论的创始人叫香门他们之前一块写过一篇写过一系列的文章这文章编成一本文集然后当时会议的组织者就是人工智能的算是鼻祖之一很多人说人工智能这词就是他起的后来据我考证不是他那
因为他快死的时候接受过一次采访就那个 Simon's Foundation 那个采访他接受采访后他说这个词也是我从别人那听来的但是他一说这个之后
跟他差不多大岁数的人一堆人就给什么 science nature 开始举手说这是我当年告诉他的后来我考证了一遍他们没有一个是对的现在反正这词就是他说的我看您在人工智能简史里提到过这事然后他就问当时一个也是参会的一个人他们那时候都 20 多岁然后他说
首先咱们说点稍微硬核的赶快把硬核的说完就是说计算机科学里头有一个基本的假设这个东西叫秋季图灵论题这个是什么意思呢就是说用浅白的话说图灵机就是最强的计算装置就是说没有什么东西比图灵机还强因为现在我们知道的所有的
足够强的计算装置都等价于图灵机就比方说当年戈德尔来证不完全性定理用的这个这个地归函数就是地归函数大家认为就是就是可以为所有的数学做一个基础那么那么地归函数呢后来被证明是跟图灵机等价那么后来就是我们知道的什么 Lambda 演算什么这些东西 POST 包括强姆斯基零行文法所以就涉及到语言为什么重要
灵性文化就最不受约束的语言实际上是跟图灵机等价就是什么意思呢就是说你这个语言我肯定用图灵机能够想办法能够对应那反过来一样就是图灵机肯定可以用任何一个语言来描述出来就互相可以描述那这个稍微往前跨一丁点就变成什么了就变成说思维就是图灵机
就是人脑也是图灵机这个稍微往前快点因为现在的证据是什么其实整个人工智能的假设包括图灵 1950 的文章它的隐含的假设就是这个东西就是图灵机他说有个机器他说计算机器与智能那计算机器他指的就是有了这个假设就是说我们只要研究图灵机就够了从理论上来讲只要研究图灵机就够了因为图灵机跟别的东西都等价你只要把这个东西研究透了就行
那这东西研究透当时麦卡锡就问了一问题他说我们一般说的事都是我给你输入咱们学函数对吧你刚刚说你孩子小学学函数函数肯定有个输入 X 对吧中间经过一个函数 F 变换成把这个他孩子是小学小学我没学到小学都 next token prediction 我回去先给他预习一下预习一下对然后呢
麦卡锡就问这么一问题说学习实际上是刚刚那个计算那过程的逆就是什么呢我知道所有的输出然后我来猜是什么样的机器或者说是什么样的模型能够生成这些输出所以咱们说生成事业生成事业跟这个有关系他说这个问题实际上是那个图定计算那个过程的逆
他说这个过程就涵盖了所有的学习这个特别重要啊这特别重要这就大家记忆性的这有点烧脑我回去想了挺久我觉得拿这个就是您说的这个孩子学习的过程其实大致能想明白对计算吗你就告诉他惩罚怎么算这边给他一题他把结果算出来
学习是想办法他得把这计算的规则给对他得知道这个数字怎么算出来对对对是吧这规则逐渐有很多他把这规则搞明白了这就是学习我想有没有反例啊
应该是没有反例因为你要想出反例那就想出来等于你就违背了这个秋季图灵论题那咱们背不住咱们哥几个传一篇就能得图灵奖了你啊我才想这个学习是计算的腻是吧嗯
就比如说我脑子里想的是那些文科的东西就比如说雕刻吧是吧做一什么木雕对那学习其实就是说我要学习这个东西是怎么雕出来的对是不是就是这个逻辑对那确实是对就是这个生成就是你有这个输出的结果对然后你按照这个输出的结果呢你把这个输出的过程给搞明白了
复原这个这个输出的过程实际上就是那个我们说的图灵奇迹或者说是是大魔形或者是神的东西嗯所以呢这个事呢他就他就把这事就告诉这个当时参会的另一哥们这个 Solomanov 啊这 Solomanov 呢花了十年想这事就是五六年开这会其实他们五四年就讨论过这问题嗯六四年呢这 Solomanov 写了篇文章
写了篇文章就是这个这文章也很长几十页纸所以你就是说这苏联数学家跟这美国数学家写文章的风格完全不一样美国数学家或者英国数学家文章都几十页齐对吧然后那苏联数学家三页五页
就停了所以苏联很多数学家得以很多人解读为什么呢三页一个很大的定理就像那个那个佩雷尔曼那证明也是这哥们就写了十页纸二十页纸就给放到 archive 上所以大伙一看看不懂作为一堆数学家解读说到底他证明了还是没证明回头我还是写一个对你也写逗他们玩逗他们玩对逗你玩这个呢人家说这跟那个苏联当时缺纸有关
不是他再缺职也不缺这十几张缺职就是你可能没这印象后来我想了想就是咱们其实文革前也有段时间也是这样就是说那些文章都特别短就陈景任那个证明其实是不是文革前证明的他是文革前就证明了几页纸就登在科学通报上很短那到后来出名再写但是安远凡这个咱扯远了就是说这个
这个 Solomanov 花了十年几十页纸的文章就是他这几十页纸纸文章他证明了一什么东西呢他就说这个图灵机球逆这个事就等价于你刚才说的那个
预测下一个就在我们人工智能里面管那个东西叫 token 就预测下一个 token 下一个 token 就比方说你说你可能是一个数也有可能是一个字母也有可能是一个字符串就是预测下一个 token 这俩就是说图灵机求你就等价于那个
那个 next token 预测对就我的理解就是他一旦能够成功的预测出下一个来对就说明他知道了前面那几个的规律是什么没错你看是吧你是学什么呢我学的我没学过这个你看这不是悟性好吗这不是你看看悟性太高了就相当于什么呢相当于你预测后面的那个能力实际上说明了你为前面这些东西建模的能力
对吧前面东西你等于建了一模那你肯定你后面能预测的更准因为我刚才说这是我从我们家孩子数学作业上看到的我小时候真的没有这个题型我看他们做这题的时候我一开始还纳闷为什么老让孩子做这种题我现在懂了就确实是他就必须能从前面的那几个数理总结出规律来对他才能成功的预测出价没错对
所以他说从这个意义上说所有的学习问题都可以用 Next Token Prediction 来解决只要我能把单向的这 Next Token 解决了啥问题都解决对吧所以咱们就再回到刚才就是说谷歌为什么
或者晚一点才意识到这个问题对就如果你当时领导谷歌那个弹幕星团队背不住都能成就他没找我呀他没找你这是他就没这悟性就谷歌一直纠结在一个问题上就是谷歌有个自己的模型那模型叫 bertbert 这 bert 那个 b 就是双向嗯就是他不是说单向他是两边都看他前面也看后面也看前面看后面看
但是他们这帮人就不知道前面看后面看这个事实际上是等价于一直看后面
只看一边其实就够了只看一边就够了大家都觉得他那两边看更强大大家都觉得那两边看肯定是更强大普遍这么认为但是实际上他们不知道 64 年这个所谓就证明了你甭管几边看最后都能等价于一边看你要是都能等价于一边看理论上来讲那就节省算力是的对吧那这个就很容易就是说解释说为什么他们就先跑
所以当时他们下面包括当时全世界所有做大模型都是都是谷歌路线都是谷歌只有他们 GBT 也是而且他们用的底层的那些神经网络也都是谷歌发明的只有这个框架他们是最后呢他们也不跟人解释你知道所以这个伊利亚后来不这个 OpenAI 就出名了吗就一大堆人去采访啊什么的他就总说他说 Next Token 但是人家就后来就开始琢磨说这东西的数学道理是
所以一直你看他们是前年底 11 月 30 号 openair 就是 chad gbt 发布的对吧然后呢一直到去年的 8 月份去年 8 月份最后 Burkley 请他去给一个演讲很学术的演讲这哥们最后就跟人家讲说我这东西就是
所罗门诺夫六四年克尔摩诺夫六五年他们就想到的这个事就是因为那个东西呢就保证了我这个东西能成这个就是所谓第一性原理所以第一性原理这词呢总被我觉得现在都滥用了现在一说啥都是第一性原理对啊但是这个东西呢真是第一性原理这个东西呢它是某种意义的数学上的保障说你这个东西单向就能成
当然就能成你反过来我没有仔细算过我也跟做理论的人讨论过我说这事到底能省多少算力其实这是对理论来说是个很好的话题对把这事算明白这事就总是这样就是做理论的人
总是那个看不起别人然后做人工智能的人呢普遍的来讲又对理论缺乏深度的理解倒是咱们这种二手科学家二手科学家两边都比不搭连了对就是咱们这个他们这个这边的事咱也知道点那边的事咱也知道点所以咱们二手科学家我觉得将来这个是这需求会越来越旺盛我就记得那时候我刚去美国读书的时候那计算机系啊就是三拨人
就是一拨人做理论就是做数学的还有一拨就是做系统 system 就是软件硬件都属于做系统还一拨人就是做人工智能这两拨人里的华人都在人工智能是吧华人最早都在系统最早都在系统系统理论也有理论也有华人做的很好然后这个当时的情况呢是做理论的看不起做系统做系统看不起做理论的嗯
因为做系统人员你们这理论跟我们这不沾边然后做理论的就说你们这个没数学这不就自个儿搭机器对跟木匠是一样对跟木匠是一样就先进一点用的材料变了点但是他们同时看不起做人员
这是 80 年代 90 年代但是现在整个就反过来了现在那个计算机系最有权力的人肯定是做人但是反过来说还是人家理论界的这个第一性原理这样帮助所以就是说这事就说到所以你说这个人才的密集度就是说 OpenAI 当时聚集了很多这种所以从某种意义上这个伊利亚也是二手科学家就是他呢实际上呢他是
他当然就是说神经网络深度学习他是主要的贡献者但是其实他是知道很多理论的所以他知道这个事所以他就坚信他坚信单向就能跑所以 GPT 一出来的时候人家说这什么呀对吧二出来的时候人家说好像有点改进但是人家仍然普遍的态度 Google 的态度是这什么呀对吧
到 GBT3 或者 3.5 就是切了 GBT 了 3.5 一出来就颠覆时间了所以他就认为我这条道肯定比你们要先后来我们也算了说如果就没有 GBT 这个路我们就按 Bird 来做我们算可能真还得五年之内看不着期望他能做到 GBT 这个水平
这个故事听着可太像武侠小说里的故事就特别像找了一个武林秘籍武林秘籍它还不是武林秘籍是那个大宗师大师就提醒了你一句就提点了你一句真传一句话这一句话就真的让你的功力就是有了一个碾压式生为的一个增长而且它这个就跟武侠差不多就人工智能圈现在它就有点我觉得是不是什么东西到极端了最后都往武侠那方向走
对吧后来就是开始你看这个 OpenAI 就搞政变啊对吧然后都围绕着这个伊利亚嗯都围绕着这个社区科学家当时就他支持谁就整个这个 game 就就变了嗯然后一直到他是昨天他其实已经离开 OpenAI 一段时间到昨天他宣布他说他要成立新公司嗯所以这就是
就要跟他们要跟老东家对着干对吧所以这个还是就是他就是有点有点这个有点武侠的那个这个故事确实特别让人感慨就以前做说实话这个我也算在 AR 圈子混过吧这圈子的人呢确实对理论的结果关心的都不多对关心的不多是吧可是实际上 OpenAI 说咱说弯道超车谷歌吧用那个词儿
这个歌还就在六四年的这个 paper 里边这个事情简直太神奇了对对对而且他们用的词都一样就是那个 Solomon 没有用 next token 但是他用了 next wordnext symbol 就其他的都一样就是完全就是你看还有他用的那个描述这个大模型用的术语
就简直都神了所以后来呢我觉得毫无疑问其实我是算是比较早意识到这个问题就在这个谁这个伊利亚公开讲这个事之前我在硅谷在这边我都说过好多次我说这个就不难
有人说您说太多了他不得已出来讲就不这个江湖上有这个传闻不承认不行所以赶紧到 Berkley 去说这些迫于压力但是确实是这里面的后来就是说这个完了他们成功了之后所有全世界大模型公司大模型团队全都改到 NextLocker 对吧而且很快就突飞猛进了
所以这还是挺有意思说实话要不是这个故事我真的想不到就是真的一句这个理论上的认知能够影响那么巨大的就是行业的一个发展方向就是他坚信这东西能成因为当时他本人你想想他本人要承担巨大的压力因为他们有董事会正常一开始那董事会不得靠谱但是他们有董事会董事会开会也得骂人对吧就是说你拿了这么多钱搞了这么多你这靠谱
对吧他很大的压力而且他 GPT 你看他一的表现确实不行对对吧二有进步但是呢他就是一条道走到黑这真是就是说这就是内心有个宝典所以这个我觉得还是挺有意思的
那咱就接着刚才聊这个这伊利亚现在从欧佩亚走了是吧这看新闻说成立了一个叫安全什么安全智能公司对这事是怎么回事这是跟我们说的吗对这个就是他走之前呢就是因为他发动过一次政变对他也没对外公开说过这事所以呢就是很多人猜很多人猜这都是猜的咱们就反正就是咱们也猜对吧那么就是说有的人说就是有些阴谋论者说
他看到了就是这个 OpenAI 就比方说 GPD 的某一个版本未来的某一个版本
有超级强的这个超级智能的这个证据嗯啊或者是已经发生了或者呢他认为这个马上就要发生已经强大到邪恶了对已经强大到我觉得现在都已经很邪恶了对就是因为因为这个就是说现在呢就是说人物智能里面就是现在也分几派就是现在又有一派新的人说我们要
我们要搞巨身智能就是说巨身智能是哪两个字巨是哪个巨巨就是具体的具具体的具身体的身这个呢其实是英文 embody 的 intelligence 其实最早我翻的时候最早我翻是肉身智能
最后人家说你这就还是聚身更好一点就是说什么呢就是你身体上的这些身体跟外部接触你身体的各种器官感官跟外部的接触因为现在这个我们说的 GBT 更多的还是比较维新的是吧就维新的意思就是说这更多是语言层面的而不是说跟世界碰撞一下
不能直接操纵世界不能操纵世界要间接的对 它还是通过我们来间接的操纵现在是这样但是呢因为我们现在的整个社会活动也紧密的跟这些微星的事跟网络啊信息紧密的连接在一起所以你也不能说但是巨深的就可能这个更威胁到我们是吧但是呢这个
这个很多人就说这个当然就是他发动政变的原因之一就是说这个 OpenAI 的管理团队没有对足够的重视因为
这个东西后来也有很多人说这就是人工智能的奥本海默时刻因为这个奥本海默这电影去年大火大家都知道奥本海默因为原子弹原子弹完了之后他有一堆身边有一堆所谓有良心的科学家就开始想要控制核武器甚至
要停止这个氢弹的研发对吧就是他们意识到这事要要毁灭人类了对吧因为当时的情况呢是如果那些科学家很轻易的到因为那个完了之后那个洛桑拉孟斯实验室就怀疑那几个做美国做就好几个四五个国家级的核武器实验室就就基本上就裁员了嘛就就就就打完仗然后这些最顶级的那些人都去大学了嗯
奥巴海默自己也去普林斯顿高等学院当院长所以当时就很怕奥巴海默就怕这帮人就是不失控了对对吧那就是在美国当时的经济条件一个大学随便造原子弹很容易的对吧就是说很多人都轻易掌握了毁灭世界的人手一颗核弹人手一颗核弹那不就是要命的事所以这个事从某种意义上还是确实是这些科学家
这个提醒了社会提醒了政府提醒了当时美国的议会要重视这个事所以后来才搞什么核酷赛什么这些然后现在呢就说是不是又到了那个时候所以去年呢就有一帮做人物智能的
这个一线的科学家也有一些什么做伦理啊做道德的所有这些人去年的他们有大概几万人吧就签了一个东西嗯就是什么呢就是说我们需要包括马斯克他也签了当然马斯克签人家是很多人说因为你自己没做出来你想叫别人慢一点不是吧但是呢就至少他冠冕堂皇的理由是说人工智能现在也到了奥巴马时刻就是说
我们需要停止研发所有的人应该停止研发半年
让我们坐下来想想这事对吧那么这这这以往有过这种案例吗就是一个行业大家有人举手说咱行业先停一停原子原子弹是这样啊是啊原子弹是这样但是呢大模型就不很难做到因为原子弹无法监控无法监控原子弹你是可以监控的然后咱们都签了一个说这个禁止核扩散
你要炸一下我是能知道对吧你炸一下他有响啊对我这一看这是哪个方位对吧你在什么地儿炸的我都知道炸了多大集的我都知道但是这个玩意儿这就是训练你就没办法知道这个没办法知道现在就是说你有限的技术手段不足以对吧就是说你无非是说我监控一下电力的消耗一个地方突然电力
消耗多了是不是就这帮人在那搞了个数据中心但是也有可能在那搞了个重大麻吉地挖比特币呢不接到电网里自己搞你不知道他干嘛所以这事呢你就不太容易所以这完全就是说当时呢就说所以很难嘛这也是其中一个议题大家要考虑
所以就说能不能停半年但是也有很多没签的很多没签的他们其实赞成这帮人的观点但是那个 Hinton 他就没签就是深度学习之父这个也是个图灵奖得主所以他就说就是伊利亚的老师伊利亚的博士导师然后他说他没签的原因就是因为他赞成这个观点但是他又同时觉得这个事儿
做不到这里面又有地缘政治有很多因素这事做不到所以他没签是因为这个原因所以现在呢就是说
这个人物智能的奥本海默当然这里面有很多媒体他在里面加了很多佐料把这事给炒起来了但是呢确实是存在着这样的可能性存在着风险要不是这个哲和克尼亚也不会引入一个军方的这个董事我觉得这事就大有蹊跷对我自己确实看到就是
很多人掩饰的,他们通过现在的,不管是 ChatGPT 还是其他的类似的 AI 的应用所能做到的一些事情,以及他们与他交流的那种呈现出来的结果我作为一个纯外行,我最多算是个用户吧,我都会觉得不寒而栗
我脑子里能想出很多用它做坏事的可能性来只是我强烈的道德感让我不去那么做就罢了就好像能干很多坏事了这个太多了你那会看那期的 demo 跟人聊天这一定是诈骗的电诈分子人家缅北的电诈团伙人家真的有 AI 的学习班
对啊,采访的时候,人家学的很深入,可能跟我水平差不多,跟您可能还差点,到那样一个是等级的他们肯定最先用这东西还有一个就是,我经常跟人聊自动驾驶,我说自动驾驶这东西,真要是 L4 L5,哪个国家批了能随便上路
那最先想用这个东西还是那个恐怖分子对对对他拿这东西好这汽车炸弹原来还得有一个人放上面还得给抚恤金现在都不用了几吨炸药往上就把大头给怼了他们特别高兴所以这里边可以好人怎么用咱还没想清楚坏人怎么用啊他们早都是迫不及待了
写好不容易写坏一出来说的我都挺犯愁的我觉得刚才说有些科学家拒绝在那上面签字我就突然想也挺睿智就是说人类也不能幼稚的以为说咱们签了一个是吧大家有了约定这事就行了咱就安全了就是别傻了怎么签一个这事坏人就停了他就不往下走了对没有那么简单没有那么简单就不签字也是一个非常重要的提醒是是是是
而且它这里面还有很多就是因为就是你怎么定义就咱们刚刚说学习这事现在有人已经树下定义但是安全这事你怎么定义就什么东西对人是安全就是说对比方说做国际政治里有很多人说这和平那就但是有的事是和平但是不安全对有的是安全不和平所以就是你有很多就是不好界定的
所以现在呢就有很多人说我拿一个东西就是咱们很多做人工智能的说可解释性嗯可解释性好多人追求这个东西对这可能吗这事可解释性我不这我不懂了啊什么叫可解释性呢这个就用这通俗的话说就是说呃
一个人工智能系统比方说现在咱们说的就是大模型对吧就是说这个大模型它为什么能够有这种表现或者为什么有那种表现为什么这题选 A 你光选 A 不行你得告诉我你怎么想出来的你得解释它你得解释说它为什么能够做到这一点这个我不是也短暂的在科学上
科技企业工作过一点时间当时我们内部就在某些算法技术上有人提出来一个说法叫黑盒白盒化就是得把黑盒子里的东西得给他解释清楚了甭管是对行业还是对自己但是其实我听着他要是能解释清楚他就不叫黑盒我自己感觉就是恐怕他是难以解释的没错我深度怀疑他你不去科技公司工作
这个可惜领队才华的现在就有那我得去现在就是有很有名的一线的咱们就不说谁了就很有名的一线的这个人物智能的人他最近就写了一篇文章就叫就是你刚刚说的我把这东西做一百盒
或者哪怕我做一灰盒的东西也行我感觉如果强求说黑盒的东西都要白盒化实际会拖后腿的拖后腿对吧就是你他不可能都给你解释一下人类实在是太弱了对对对是因为人类很弱对就是咱们用下棋做例子咱们刚刚说的下棋用下棋做例子就比方说
你一个低段位的选手你是没法解释高段位棋手的是的本事的你可以解释比你级别更低的对吧比方说你一下棋解说的低段位这个你可以解释但是我现在弄个 alpha zero 来
大概现在咱们上次算过 AlphaZero 可能有 20 段你弄一个 20 段的棋手你叫一个初段位的棋手去解释他的行为你解释不了因为看不懂最有名的就是 AlphaGo 对李士实行的第多少步三十几步一开始下到那很多人认为这是臭棋
对最后下了几步之后才意识到我天哪这阿富贵是神呢不可能所以你没法解释没法解释就是说你解释的一个
副作用就是那个被解释的系统的能力要降低对啊但是咱们现在人都是很贪婪的对吧你不可能希望说你在做的这个系统你想把它的能力降低对吧就是能力如果它的能力越强你就越不能解释所以通过可解释这个事也很难做到
所以我就说这一次这个比奥本海默时刻更复杂就是奥本海默时刻呢有一些事因为它是它是唯物世界界定对就有些事我们是可以界定这次这个事呢是
你界定不了没法控制就是我们得给一个我们根本不知道是什么的东西提前定规则没错你就界定不了我最近不是在编书吗我正好前些天有一个作者写了一篇跟科幻有关的文章
我也是在编辑他这篇文章的时候去因为要核对他里边的一些事实对对他里边就提到了阿希莫夫的这个机器人三定律我去查他的时候也发现谷歌前一段时间发布了一个关于人工智能的一个所谓的
叫什么来着 也是一个道德准则还是什么来着里边也说就还是基于阿希莫夫的机器人三定律来拟定了一个什么什么准则我就觉得这也成不成啊他那机器人三定律固然是很好但是其实他也
我自己心里的那个怀疑就是说他对于 AI 还适用不适用 AI 要做的事情是不是还能用那么一个简单的道德准则来去衡量他评估他是吧对对咱们英雄所见略同我也觉得阿其蒙夫三定律不太或者不好适用于
这个当下因为它里面有些东西呢就是苗头说不伤害人类对就你怎么界定不伤害人类是的这伤害好难对就是我们其实就过去这几十年就是在在什么道德哲学在很多都有很多思想实验对吧就你怎么叫界定比方说我在万不得已的时候我伤害一个
我救了一堆人但是我傷害了一個個體這個算不算傷害就是那電車困境電車困境有很多這樣的問題就是你如果說跟人文日報就聊這個那這個事就沒法聊了那什麼就那犧牲誰對吧那或是犧牲這個就沒法對吧這個就沒法這個其實就是
最近也有很多啊就过去有很多人其实他做都是都是假想思想实验现在是真的东西所以也有一些人原来都是做那些东西了现在也开始也开始关注这个话题但是我个人觉得这个话题呢就不太
不太容易但是这个确实也是需要人类集体智慧我觉得以前觉得这个问题还可以再拖一拖什么时候咱不得不面对的时候再说哪知道它突然就来了关键问题人类并在这点上就达不成共识对
人类并不是说人人都不想都想让世界和平都想让别人过得好他有很多人不这么想对啊是吧他逼着把你弄死对这东西好像只是给我一武器什么阿希莫布三定律我不给他加这道德限制所以彭总是悲观主义者我比较悲观我今天有个比喻我说这个也有人跟我聊起说这个人工智能
到底说对人类多大威胁会不会毁灭世界我这个比喻什么呢我觉得人类现在现状就像是在一个屋子里这屋子里呢这儿埋着一地雷那边有一瓶农流酸这顶上有一把刀吊着谁盖的这屋子这哥们呢在这里边
就是来回的蹦啊没有落脚的地儿一会儿蹦在这儿一会儿蹦在这儿他躲着呢好像过得还挺好那是不是还是躺着好那照你这么说那没地儿躺啊不定哪天呢这个不定哪个东西就就就直接就爆了满地还都是铁吉利当然不一定我稍微有点乐观的是他不一定轮得着人工智能对对对也许是人类毁灭自己的方法实在是太多了现在
所以就是有一派这一派人我觉得你也不能说他是乐观他比方说因为咱们完全有可能这事就是说我的出发点是我个人或者我的出发点是我的总统
或者我的出发点是我的地域对那还有一类人呢就是说就是他出发点更高他说就从我们人类这个角度想那除非他是地球酋长要不然他说了也也没用但是呢就他说就假设了他的意思就是说呃如果就是从人类这个角度那那其实你换一个角度想就是就是这个呃
其实人也不是如果说我们相信进化的话人也不是最终极的那个东西对吧人也不是如果说上帝就是第一推动完了以后上帝就睡觉去了就不管了对吧然后就全部都是靠进化那么咱们也不是最终极的那个点咱们不是终点咱们可能就是中间的一个
一个垫脚石你知道吗就是咱们呢我想多垫会儿是都想多垫会儿对就是说咱们但是呢现在可能就是你就引出来一个比你更强的东西对吧其实就是过去就是有一个这个 Berkeley 有个教授叫这个 Stuart Russell 就是他写那个人工智能现代 Poach 那个教科书就是最经典的人工智能教科书那出了大概四版五版
他最近写了本科普的书就叫这个 Human Compatible AI 就是说就跟人这书最近翻成中文了那他这里面举了几个例子挺有意思他其中一个例子他就说这个他说工业革命刚来就有蒸汽机了但是那时候蒸汽机不可靠那维多利亚女王要出行那个蒸汽机得有一截车皮挂的拉的就麻嗯
就是因为蒸汽机那时候跑个 10 公里就停了它不行你知道它就是不行所以还得马下来拉着这车接着跑所以那个姜文拍的电影那是有出处的不是没根据就是然后就马接着拉然后修好了那车再接着跑但是到内燃机来了之后这个就内燃机不会出错对就是这时候马就没用了
对吧然后他就说这个这时候两匹马就就坐那聊天说说你看那个工业革命刚来的时候咱们还认为咱有用但是没想到现在咱们咱们以后干嘛然后那边上那站了个人人就说说以后你们就是宠物了对吧
但是宠物这阶段可能也不会很长对对吧宠物我觉得人类有点高估自己了高估自己了是吧但是有什么做宠物的价值吗是啊人这种动物就不知道对我确实看那些就是我看网上一个女孩用语音跟那个 chat gpt 是谈恋爱或者我说的更直接点是调情吧对
我就是觉得那个东西提供的情绪价值这也是最近的新词了真的比人提供的要好就是当他作为一个贴心的抚慰你情绪的伴侣的时候 AI 做的比人做的都好因为人做不到时刻情绪稳定时刻讨好你而他是有可能的我觉得就是即使做宠物可能那个也比人做的好比人强而且你就是说现在就巨神智能进一步发展的话
就能分线了对你就不一定是只是聊天高低我攒钱我买一个再说就打马赛克了攒钱短期内攒钱还是有用的但是我觉得
有一点机器人是或者说在现在社会结构里替代不了咱们人今天人的最大价值我觉得生产的每一个环节这么看起来都有可能被将来的机器替代掉但是人在整个社会里边它创造需求的能力现在这个是没有的对吧最后机器生产力越来越强
就能干的活越来越多但是呢没人需要这东西是吧咱们也都被发射掉了也拿不到工资了也没钱去花了这个社会就这么叫崩溃了感觉对你就躺平了躺平了之后那其实就离你所以就是现在大家就是做人工智能那帮人有一些做人工智能伦理道德那帮人就是说这是将来人类作为一个物种
这是不是要灭绝的已经没有存在的价值了对不是按照你刚才那个设想其实人最后所有的价值就是成为消费者现在我觉得多数人真的就是消费者可是世界干嘛需要消费者他如果只是但是你现在咱们现在这个经济
闭环它其实创造需求是很重要的一块你没需求生产力是没用的是吧其实有很多东西就是凭空创造出来需求你比如汽车每人顶一大铁壳在路上开这玩意如果不是福特搞这么的我就觉得它挺荒谬我到今天我也没有这个汽车本是吧但是它把它变成了文化你都得背着大铁壳在街上走这个凭空创造了一个巨大的需求
是吧这个需求对社会的拉动可能比那个生产力还要大所以就是咱们再得开始想点什么别的需求啊
或者咱们再想点什么别的系统我觉得 AI 也是一样可是我打一叉为什么 AI 就不能帮人产生我觉得有可能就是他会告诉你你需要一大铁壳子说你不光需要大铁壳子你还需要一大翅膀你还需要一大咕噜我也不知道是什么我觉得完全对就是说现在其实对 AI 的这个创业项目这种各种这个创新的 idea 也好我觉得
其实最有意思的是看这玩意能创造什么需求创造生产力帮人去干活这事我觉得对整个社会价值很有限创造新的需求对你得出一个像福特那样的天才是吧或者是乔布斯这种他生生的把我原乔布斯出来之前嗯
不是出来他出那 iPhone 之前我用的手机就是那 100 多以后预算就变成几千了是吧这就是他拉动的需求可是听着还是挺可悲的我们最后我们的宿命是变成一个我们最大的价值是提供需求是变成消费者我感觉是这样可是我还是我觉得这事它有 bug 就是 AI 帮你产生需求它凭什么它图个什么
AI 不会的我就说得有一些企业家也好科学家也好在新的 AI 条件下像福特那样的编出点需求来让大家买单比方说上次跟尼克老师聊到的长生不老这个有可能拉动巨大的需求花多少钱往里填都不够是吧就是说人的总数少了但是人的寿命长
那这个是长生不老这也真是的 AI 能帮人做到这一点我看在您的那个人工智能简史里边后边有讨论这个问题讨论永生的
问题是吧对讨论就是就是我们人所谓人类他未来他的生存他的所谓的永生或不朽他可能会以什么方式实现是吧我觉得那也是一个有趣的其实我觉得从需求的角度不一定说一定要长生不老比方说将来有一种药你打一针多活一年
这要卖 100 万美金你这一辈子你就得为这玩打工你这还是循环消费的瑞克恩一年打一针不是说打一针管 100 年每年都得打有道理如果我发明别说你了商业合适都想好还真是的如果有人发明这药八成这药得做成这样就做成你得终生服药而不是一劳永逸是吧他才能像糖尿病一样老收你钱对对对
这个就是说现在也有很多就是有很多路数对吧就是一个路数就是说
就是从你那个刺激消费的角度因为刺激消费其实一个核心啊不能光从唯物的角度刺激消费你从唯心的角度刺激消费就是现在人咱们现在的生活变得越来越唯心了对吧就是声色全马的那个对就那个越来越少了现在就越来越越来越这个越来越唯心了那现在就有很多你比方说
我原来想就是美国为什么放开这个重大麻其实就是这个精神上的刺激就是重大麻本身也是一种新的需求那就不是过去的就过去你就没有了精神上的需求然后那还有呢就是你比方说这个现在很多人做脑机接口对吧就是那大麻都不够刺激我直接脑机接口那这个给你的刺激更大对吧但是呢曾经有一段时间
今天也没有完全非常清晰的
这个谁赢了但是今天从进展的速度看是人工智能走得更快这个是对人类最悲观的一个结果了听起来这三个选择对就是说你刚刚说的能不能让咱能让咱这个多待一会儿多待一会儿实际上就是前几种选择是的对吧那就比方说你把你现在生命寿命加长把你的能力加大对吧但是呢现在看起来就是完全一个不同于我们的东西
它的进化的数因为它那是摩尔定律咱们是不是人是不是可能也是摩尔定律但是那系数特特小对吧也是一条线往上的但是可能那条线就是很他那是一条线直就上了所以这个可能可能是一个可能是一个我不知道我也不知道咱们反正就是闲聊呗嗯嗯就是在咱们就是因为
因为可能咱们就再往下想就可能就很就这个就马上就就来了就咱们女孩子辈可能就要经历这个问题对吧就是就是呃就是这也是其实也是 open 爱就是因为那个谁那个伊莉亚跑了伊莉亚跑了之后呢这个 open 爱做安全的一个团队就伊莉亚原来那个团队的人现在跑了好多嗯有一哥们呢大概两周以前他跑了之后他写了一篇 160 页的文章
然后他这 160 页文章我可以用科普的方式来解读我也可以用科幻的方式来解读这哥们就是说咱们半科普半科幻这哥们就说 2027 到 2028 超级智能就来了他说的超级智能是就是全面超越人的人工智能就来了然后呢
这个就跟原来什么那个原来有个美国有个未来学家那个叫叫
叫什么那个现在在谷歌的那个哥们就原来 Minsky 的学生就是 Minsky 死的时候当时有传说说 Minsky 自个儿把自个儿给冷冻了我估计 Minsky 就是你的这个思路就是我想多待会儿万一十年二十年之后我有解冻的技术再把我弄过来我再等等对然后呢那个哥们当时呢就说过他就所谓积点嗯
那次是念基点念起点 Singularity 还是得读基点的对然后就是这哥们所谓基点来历史就是说会有新的东西全面超越我们东西来他就把那一点定为基点就是现在很多人说的预测的哪怕说是图灵预测图灵 1950 年他就预测过他说大概需要 60 年到 100 年
那现在差不多到了还真是差不多现在差不多到了然后呢那个哥们有的人说是 2027 2028 有的人说是这个 2040 什么之类的那那这个呢是就是就是我们现在在看着这个东西就来了对吧而且呢这个速度迭代的速度巨快无比这哥们他做了一些定量的分析他不是定纯定性他就他就说
我如果说做到 2027 年 2028 年他说那个时候最大的一个大模型就咱们现在说你一个公司想练大模型的话几万张 A100 起对吧他预测的 2028 年最大的最大的那个大模型的那个集群需要 1000 万张 H100 等价的
就是当然那时候也许因为他的这个算力密集度更大了对吧就是这摩尔定律他可能需要的张数但是他的算力是等价于今天的 H100 一千万张那么一千万张这个跑这一千万张这个大模型是什么概念需要的能耗差不多是美国一个中小州的级别的能耗就是
那相当于差不多中国一个中小省吧对的能耗就是他算了一下大概是多少个 gigawatts 算了一下
那这个就是又带来更多其他技术上的进步的速度那就说我们将来面临的问题很多面临不光是说我们人类咋办还有就将来比方说人工智能技术最后会落到谁手里是的对吧然后那这哥们的结论就是最后肯定是政府就说就像原子弹一样最后肯定是对吧那么这个最后可能也是在
政府手里面所以这个就带来了其他大家对这个事的讨论将来技术的进步路线是什么会不会政府也控制不了
既然他是个超级智能了所以我就说这个事需要拜登这种状态的人能控制住这种东西吗对那特朗普也够强他看着都像超级智能但是拜登这种还真需要我想说是可能去年这帮人想的这个事可能还真是
因为我在想这个事就是说如果它需要这么大的电力的话可能还真有办法能检测出来对吧因为这个的消耗是巨大无比的对吧这就像原来那个美国大麻非法的时候美国抓大麻就是直升飞机对吧对就是红外一照然后你就是你等于你家里弄了巨大的能量在抓大麻你这个直升飞机都照下来
那现在呢就是说你当需要那么大的时候可能你是有办法能够能够就是说这个就需要需要这个呢可能从某种意义上还真需要就是就是就像当年这个防止核扣散一样就是大家可能得坐下来聊这事首先呢就是可能在一定程度上放慢这个速度同时呢大家得想想这事对咱们到底咱们还还就是咱们还想不想烫了
对不想躺就算了对吧咱还想多待一会儿那这个事就还是我确实人生第一次有了一种奇怪的感觉就是我以前从来没盼着科技发展的慢一点或者说我害怕科技的发展对对
我现在觉得自己就像清朝末年的中国人一样就害怕火车就是我以前从来不理解说火车那么好的东西你一看见它就该被它征服说咱赶紧搞这个吧我现在就理解了当时他们看到火车就这样的东西他们内心的那个惧怕就是这个太可怕就是我不确定这东西是个好东西还是个坏东西我现在人生第一次开始对科技有了这种奇怪的感觉对对对
因为人很难找到什么工作说我真的比这个机器干的好了在讲来所以从生产者的角度从资本家的角度没有道理的雇人来干这个事了我此前很多年一直在广告创意行业工作一直在做创意作品的产出在此前其实很多人坚信说我们恐怕是最后被
人工智能替代的行业我从事艺术创作是吧就是这种独一无二的人类的要靠灵感要靠你的审美来做的作品但是你看现在这反倒变成了它是最先被人工智能替代的一个行业是吧大量的人工智能产出的
视觉作品设计作品甚至就是这种人工语言自然语言产出的这些文字作品这些是非常他肯定还比不上你们这种顶尖的创业人才但是比普通人已经是强了是的其实是那个顶尖不顶尖那个门槛也很模糊是吧我觉得就是是真的没有想到这是可能此前没有想到过的事情嗯
所以刚才尼克尔老师说这个人机脑机接口确实那本来还是一根救命稻草是吧对对对人呢现在这个当然我这个创意我不太了解但是我就看那个大学时候学那些课程我就很悲观因为大多数的学生你比如说拿到这个物理系现在的课程
大多数的普通人可能念一辈子也念不明白是怎么回事对对对这不是以他的意志为转移的对只有极少数人还不说你对那有贡献对你把那念明白了你就是已经是千里挑一的人了其他人在这个问题面前就已经是废柴了对对对就是你没招所以呢就是当时想的脑地借口其中一个可能性就是以后放一个东西进去
外置硬盘它不是外置硬盘它有算力的就是说你这个小孩刚一生下来或者给你打一针这小孩还不会说话呢被危机分了你不是插上就会说了这其实是个竞争嘛那你要比那个东西快你要比那个纯人工智能但是呢这个东西当这个东西足够强了之后那这
这东西你先不说它上不上瘾就是这个东西它对人是好是坏我觉得即使有这种就是说咱脑机接口一插上它就又有了知识又有了算力我觉得那个人就被异化了那个人就不叫人了可能到那个时候人反倒变成了一个我成了一个器我成了一个工具我变成了那个东西的工具进化这个过程其实就是异化的
就是你把它时间比方说拉几十万年上百万年这就是一个不断异化的过程对吧就是等你一个小的量变一个小的量变最后导致了一个质变然后这就异化了
不是咱就没有点乐观的观点了甭管是这个业界乐观的观点很多有比较乐观的观点观点很多但是我觉得他们都是言不由衷他不好意思说我这干出来是把你们都干掉的他说不出口说点有什么乐观的对啊你分别让我们开心开始主流的咱就不点名了我觉得主流的做 AI 的这个企业家公开发言还都是乐观的
说这东西虽然替代了一部分工作会有新的工作产生新工作是啥呢他也没说这就是比较敷衍的乐观对对对是吧因为你确实说不出来会有什么新的新的系统性的机会对那就是这个悲观是普遍的对我觉得就是战术上乐观战略上悲观对吧就是咱们活在当下啊
对吧就是你说这生色全马的这还对吧努力乐观的做事努力乐观的做事比较乐观的是反正现在还没有长生不老药所以也活不了多少年了那不成啊不是你这更悲观你这种就像哎呦我不知道这呢我就像在我在奥斯维辛集中营住着呢说今儿让我去刨坑去就我也不知道你干嘛你在这刨坑我怎么能乐观的在这刨坑呢我大概知道我在刨坑啊是吧
这坏了听众朋友们别听这期节目了咱在录完了咱在下面写上大家你别听了听完就跟烟草广告香烟抽烟有害听咱们这节目有害乐观
普通人有没有什么可做的呢咱如果乐观您刚才说战术上乐观您说是不是就是人类在之前的这几百年里边变得过于自信了就是因为之前的几百年里人类是无往不胜的这个无疑是这样就是这个这个这个赫拉利尤瓦尔这个书里都写的人文主义本身就是宗教就是你宗教性先入为主的人认为人类跟那个猴子
跟犀牛是不一样的东西你是具有那个独一无二的灵性的这种不可超越的但这个就是个宗教我觉得并没有什么现实基础对就是人文主义最早的时候其实就是那时候文艺复兴前后吧就是那时候刚出现就所以西方就是这词 HumanismHumanism 就是这个是人文主义人道主义什么什么其实都是一个意思都是这个词它的其实它的
反面就是一个词就是你想理解这词你肯定先知道反面是什么对它其实这反面是神对吧就是说在过去因为都是中世纪什么这就是说神是比较厉害所以到文艺分析就说我们来一人对吧然后
但是这个人文主义或者是人道主义就是很容易就像刚刚彭总说的就他跑偏他自己本身变成宗教他自己把本身变成宗教这个理由呢其实有一点点就是那些极端的人文主义最后呢他会走向这么一结论他就说人是上帝造的其他东西都是人造的就是上帝造的东西肯定是比人造的东西要更高级
它这东西呢就是也有个词就这个词这词就是说这一类的叫人类中心主义嗯就人类中心主义其实现在人工智能挑战的就是倒不是人道主义人类中心主义挑战的是这些人类中心主义嗯就是说我弄了一个东西我真弄了一个东西比上帝造的东西还强所以这个东西是是比较
其实这个你想图灵那时候也论战过那时候我这次的书里也写了就是说图灵当时写 50 年这文章他其实心里有个论战对象就是图灵那时候在曼彻斯特大学曼彻斯特大学有一个做生理学的人那个人就自称是个人文主义者他是个乐观派但是他的乐观派他的乐观的观点今天看就不成立
但是他乐观就是盲目乐观就是他的意思就是说
基本上他的这个证据就是我们是上帝早怎么可能这个他的论据就是莎士比亚不可证伪反正他引用的都是莎士比亚就哈姆雷特里头说人是最高贵的跟引用波德纲的差不多对差不多对就是一个意思一个意思所以呢那最后就是说就是他的论据就是说
人是不可能被超越的说你这个图灵想法这个放在现在看就太不利了就不对了对那就是我们现在是一个或者说咱们现在一个新的人文主义应该是什么就是如果像我刚刚说那说人只是一个
一个咱们一个垫脚石对吧你想多垫一会儿垫脚石的说法就是 Hinton 说的对吧马斯克也说过类似的话对吧所以呢就是说引导程序吗引导程序他就说我们就是引导我们就是起了一个就是垫脚石就是我们后面的这个智慧踩在我们上去就更进一步进化了所以呢那还有就是
就是我们能不能我不知道啊就是说你看现在很多这个包括咱们就说别人比较安全就别说这是我的观点咱们说这是马斯克的观点就比较安全就说你比方说马斯克他这个他想登火星就是那登火星这个就我一直在琢磨是人的什么东西将来会上火星
是人整个的肉体都上了火星吗还是说因为其实现在就是悲观的看就是咱们身体上的所有的器官理论上来讲你现在看都是不重要的
对吧就是说你比方说我换一胳膊还是我吗对吧我换一心脏还是我吗对我把我生殖系统换了你现在肯定还是我对吧那我舍不得那还是但是我舍不得我还是先留着吧先留着就是你可以换换到最后说我换头还是我吗
对吧那最后说我把我的脑子换了对吧就把我脑子弄下来我放到这个肛中之脑肛中之脑这就是肛中之脑这就是哲学家的原来的思想实验实际上那哥们是个数学家那个 Hillary Putnam 然后这个那最后可能就是你剩下的就是那一丁点东西是啥
那一丁点东西就是咱们过去用文学的语言描述的什么灵魂灵魂对如果是那样的话你完全可以把灵魂弄得火星上
对吧这就是过去那很多人说的那灵魂都灵魂了干嘛非上火星上待着呢也有道理怕你们这打仗灵魂不也不怕打仗所以我一直觉得就是说什么上火星这事其实就是说它是某种它是某种
你也可以把它当科幻,也可以把它当某种隐喻,它是一种隐喻你要是灵魂的话,其实有很多事情是因为我们在消耗能量因为所有的冲突都是因为你消耗能量你要不消耗能量,或者你消耗极小极小的能量,就是灵魂消耗的那些能量
那这个可能就是大家的这个冲突可能会减少所以就我不知道就是我是人家可能就是个隐喻我是用一个大白话把人家那隐喻给说了一遍火星会变成一避难所吗
我想也不成 就比如说地球被人工智能占领了有一小村马斯克带了一小队伍去火星浪咱逃到那儿在那儿建一个无 AI 的世界重建人类世界不可能 AI 很容易追上去 是吧对 去哪儿懒得追你也是 追你干嘛呀对好难啊 完了
聊到聊绝望了给聊绝望对咱这第一期节目给聊绝望聊绝望开头起的太高起高了我就是觉得如果照以前就很容易就是最后就强行乐观一下
说我们人类有着那个是吧不可超越的力量对凡是碰到任何难题我们人类的智慧都能想出解决它的办法来但现在就是因为为什么因为以前人类的智慧就是这个世界上最强大的智慧但是现在如果已经有了明摆着我们看着它是远远超过人类的智慧那这话就不好意思说了就那我们只有敬畏的份那这个敬畏里边是敬更多还是畏更多
那也很难预测对于我来说我自己感觉是那个恐惧畏惧更多这就让我陷入了巨大的恐慌和悲观我只指望科技界能想点辙呢是吧能努努力是吧老几位费费心对科技界关键是自己也很迷茫很迷茫才会出现 open air 宫斗这种事件是吧
他们内部的意见也很不同意但是我觉得至少在最低层面上就是说甭管他功德为好或者是这帮从这里面跑出来的这些人写各种你也可以说他这是危言耸听对吧但是你也可以说他是他是从这里面我们能够建设性的了解什么东西是的这个呢我觉得无论是政府
这个科技人员这个一手的科学家也包括咱们这个二手的科学家就都应该关注这事人工智能这个事是一个我们作为人甭管你是什么族的人或者你是什么区域的人你是什么文化的人就是这个事对我们整个人类这个这个种族本身都是相关的所以从这个意义上就是
咱们也看到一些这个这个乐观的就是有很少现在因为现在就是这个这个各种各样的
这个原因啊这个导致现在越来越这个极端化但是很少有这样的事能够还让这个大国的领导人和大国的从业人员能够共同关注这些事这其实从某种意义上这个至少在短期内我们还是还是这个欣慰的就值得乐观的是大家没有盲目乐观对对对挺好的
就相信还是大家在努力想办法是吧哪怕现在大家处在一个焦虑迷茫的状态至少大家已经开始焦虑迷茫了就代表这事还是在努力的寻求解决办法已经抛弃了那种人文主义的盲目乐观了对对对是的
咱们今儿就先聊到这儿今儿聊的话题好像是很有意思同时在聊这就是很有意思同时有点悲观的气氛但是没关系我们今后还会有好多跟科技相关的话题再请更多的嘉宾也下次再请尼克尔老师一起来跟大家交流是的受益匪浅听尼克尔老师讲这个真是受益匪浅多聊那咱今儿就先聊到这儿好在这儿好嘞拜拜拜拜