No.39 人工智能风云录之图灵开天香农辟地
01:33:45 Share

技术就是当你出生的时候还不存在的任何事物所有人类创造出的伟大技术发明都在显示出人有多懒惰我认为并不存在无法模仿的人类特性

能发明的东西都已经发明出来了我认为全球市场五台计算机就够了你们计算机会不会思考这个问题就好像问潜水艇会不会游泳一样我觉得科技让世界变得紧密很多而且会继续让世界变得更紧密欢迎来到半拿铁互联网实话半拿铁互联网实话

香农说要有伤于是就有了伤字节能跳动那就是因为香农香农下了课立马跑到后排去哥们刚才爱因斯坦说啥了给我有什么建议吗提了什么问题他来问卫生间怎么走现代物理学会上突然牛顿他老人家突然出现了然后通口袋里掏出了三个手炮球真的我给大家祝个幸

我给大家亮个相疯了真是那个现场大家觉得轰动了这老年子太好玩了他自己呢把一个玩具埋到土里什么意思啊准备干啥呀他说种瓜得瓜种豆得豆啊我等着明年秋天我就能很多玩具可以玩了呀自己的土自己的地种啥都长小玩具玩起来

发明了那种吹奏音乐的时候也能喷火的小号经过各种改造的独轮车包括没有座位的独轮车没有踏板的独轮车两个人一起骑的独轮车没有踏板他怎么往前走啊半打铁第 39 期打板开始我是刘飞我是萧磊

不容易不说永普记之后感觉还多少有点不习惯已经连续说了十期了告别了永普这位很重要的朋友我们即将开启我们的叫什么单飞之旅接下来前面给大家预告过要挖大坑结果没想到这期直接就开始抡铁线了咱们要进入一个大坑这个大坑就是之前预告过的互联网史话这个

毕竟是就上次也提过就做互联网的心里还是心存敬畏的是谨慎一些准备了这么多期终于感觉练的差不多了对准备好好讲讲红篇巨制我们提的这么高的预期真的好吗就是巨制说不上但是红篇肯定是有这个篇数估计会非常多非常多慢慢来但是咱们也不是说保证连续的我更一百期讲互联网可能不是这样我们一个话题一个话题的去讲

我们中间穿插着来也避免大家审美疲劳是为啥叫互联网史话呢咱们也模仿司马迁老前辈的做法咱们用传记的形式比如说这个事或者这个人它形成一个传记一个传记一个系列可能有的一两期有的三四期咱们用这种形式去做有点意思形式感情就上来了对我们不敢叫什么是

实际对吧我们就叫互联网史话大话历史从哪开始切入呢正好最近有个我自己很关心的事大家也都知道的事就是 AIAI 去年 12 月突然就火了为啥火了因为 OpenAI 这个公司组织它发布的 ChatGPT 搞了个大新闻大家发现感觉不一样了跟以前感觉是个突破性的进展从圈内开始火火到现在就不

没有什么圈不圈的问题了对萧磊来说哪怕不是互联网圈的身边很多朋友也都在提这个事了算半个圈内可以然后现在各个大厂也都开始进入有点像军备竞赛的这么一个状态了大家都在搞 AI 了都很着急这波 AI 到底是个多大的事那也是众说纷纭的有的说这是一个革命性的跟当年 iPhone 出现一样也是个革命性的有的说这一波也是泡沫挺大这块

咱们不讲咱们也评价不了这个东西给不了这个定论的对但是我们可以看历史历史上其实发生过非常多的

类似的现象就从 20 世纪中期一直到后面每一个阶段 AI 的进步发展都会引起社会的非常接近的这种舆情那这也是属于往祖坟上倒了从 AI 刚刚有就开始说起了对咱们从历史上发生的这些事社会怎么评价这些科学家们怎么看待这个事的它整体的发展历程说不定能以史为鉴我们能看到这一波 AI 到底意味着什么 OK

所以接下来我们这个传记就叫人工智能风云录是大坑里的小坑这个小坑这个小坑预计三到四期这个大坑多少期就像前面说的就不好说了人工智能话题其实涉及的层面很多这次准备也是

淡金节律这一期的俏皮话可能就有点少没关系没工夫准备了这个还是要知识浓密一点另外可能有一些特殊的也提前在前面跟大家打个预防针这里面的信息和相关的人故事比较多另外还有一些可能技术方面或者科学原理方面的一些问题咱尽量

稍微讲一讲尽可能的讲明白不一定特别深另外关于商业的部分会有但是也不一定是每一期都是重点它最后延伸到的肯定是产业但是一开始可能是个学术圈的事给我的感受大的原则就最起码有基础和没基础的我们尽量的让大伙都能听明白大概知道人工智能到底是个怎么

怎么回事咱们就托付到这了闲话少说进入主题了开始第一章论文一篇盘古开天我们时间来到大英帝国 17 世纪这么早那是南征北战的时候那是大英帝国最辉煌的时候那会儿的论文大就写在石头上了玉不落帝国有很多贵族他是跟着作战的有的也是因为作战成了贵族其中有一个家族

姓什么呢就姓图灵就姓图灵 18 世纪的时候图灵家族呢已经有点落寞了但是家里还有爵位只不过这个整个家庭的经济状况啊跟老百姓区别不大了顶多呢就算中产就是一个中产家族吧到了 1873 年家族里出生了一位新的图灵叫朱利叶斯图灵这个朱利叶斯图灵呢女的呀

没有男的男的就叫朱利耶斯好吧 94 年的时候从 1894 年从牛津大学基督学院毕业是神学的吗这是那个时候其实很多学校哪怕自然科学的其实都有也都是宗教冠名的对都是有宗教冠名的有宗教资助可以这么说

决定要考个公务员因为公务员那个时候还是个比较好的职业呢他考哪的公务员呢考印度大家都知道那个时候其实看时间就是鸦片战争的年代嘛那个时候印度还是英国殖民地那咱们就不评价这个国家政治啊就说对老百姓来说尤其对这种英国人来说去那边当公务员还是个挺靠谱的事有发展空间嘛那个地方还在成长啊

当时他考的竞争激烈跟现在咱们国内考公务员差不多 3659 比 1 那倒没这么夸张但是 150 多个人只选 7 个最后还是考上了不容易在印度做民政事务官还娶了一个当地的媳妇但是不是印度人是英国人也是英国在那出差类似

后来媳妇怀孕了两个人一商量说怎么咱也得让孩子拿个伦敦户口吧回去生就回了英国 1912 年生下了孩子艾伦图林但是上班还是得去海外出差所以艾伦就跟他大四岁的哥哥他俩寄养在朋友家里这个朋友是军人夫妇主角就是不一样同样是需要有户口他哥就一字没提直接从他这开始讲不重要了他哥已经啊

艾伦图灵呢从小就没有父母陪在身边就跟这个当兵的这两个阿姨叔叔吧就一起生活这对收养的夫妇呢对艾伦的评价不佳对他评价不好为啥呢就是这个小孩吧一般小孩到他这个年纪吧那

该打架也得打架了该玩玩具也得玩玩具了七岁八岁狗也嫌什么都不爱也不爱户外运动就是宅在家里就在那翻着书看在那看着各种东西自己琢磨事给他们省了这么多事他们还不愿意了可能跟他们军人背景有关系他们更喜欢那种外放的性格对

图林从小的时候就特别聪明据说花了三周时间就学会了认字了就认识很多字了其实就是英文字母他已经都背过了更短的时间就已经把数字都认识清楚了但是他有个缺陷就是不分左右他自己想了个办法在左手上画了个圈这是左那是右

就跟咱们小孩很多人记就拿筷子的手是右手一样就像前这三体国产版的钢板节说很多早先秦始皇那会儿还是怎么着来着都没有文化你告诉他一和零他都听不懂就左脚穿草鞋右脚穿布鞋草鞋卖左脚说布鞋卖右脚就通过这样的方式来认对这特有意思你举的这个例子正好跟今天咱们的故事还都能对应上

秦始皇在那里边做计算机那就是接下来的故事 3000 万人的人肉计算机

接着说图灵小时候的图灵就表现出来跟其他的小孩很不一样的一个方面就是爱琢磨事刚才也说了他自己把一个玩具埋到土里他爸妈来问什么意思你这埋土里要准备干啥他说种瓜得瓜种豆得豆我等着明年秋天我就能很多玩具可以玩了自己的土自己的地种啥都长小玩具

然后上学之后这个图灵的表现就是特别喜欢逻辑特别喜欢数学然后特别喜欢抬杠就老师说错了一个你说的不对这个东西应该是这样从小就是这个性格

而且还有另一个体现就是不喜欢体育或者说他只喜欢体育里的一种就是跑步他特别喜欢跑步有可能是跑步的时候不太需要带脑子对然后就可以把脑子腾出来自己想事情他跑步还非常擅长 13 岁的时候他当时在一个寄宿高中上学嘛

有一次有一个大罢工他从家里到那中间的公共交通设施所有的全部停运了图灵想了想有一些同学就不去上了没法去了他想了想我自己骑车子去骑了 96 公里去上学跟当时你讲的高老板波斯登高老板差不多蹬着车去来回 200 公里是引发全校轰动我咱们有个同学骑车子来上学太牛了怎么能认识路呢你说他真是

16 岁的图灵也表现出来他天才的地方开始读爱因斯坦了而且爱因斯坦写的东西全都能读懂你想想咱们现在就很多人可能成年人要读起来也费劲了肯定费劲 16 岁能读懂那绝对的天才少年而且读的时候他就发现跟别人说我发现爱因斯坦对牛顿的那是爱因斯坦早期的一些论文嘛哎

爱因斯坦对牛顿的有一些理论好像持怀疑态度然后他身边的人说这里面有吗他说没明说但是我看出来了你看的还是很聪明数学确实厉害 19 岁考入剑桥大学国王学院学数学

22 岁成为国王学院院士这个院士当然没有说科学院院士那么牛逼但是也是算是就是有点像毕业之后就留校了可以留校或者说可以参与学术工作了在 24 岁的时候也就是 36 年图灵写了一篇论文叫《论可计算术及其在判定问题上的应用》

就听这个名啊大家可能非常不熟悉但是这篇论文啊就有点像那个茨维格不是写过人类群星闪耀石吧就是这个时刻就改变世界了他这篇论文就是那个时刻简化理解呢就是这个论文讲了一个什么事呢就是有没有一种比较机械的方法

把那种各种计算能解决的问题比如说数学问题物理问题文字处理下棋等等这些其实都能用计算解决这些计算解决的问题能不能用机械设备来解决让机器带来能不能类似一堆装置操作一下怕这个结果算出来了这个你得问中国的老祖宗算盘就是这么个东西对

对原理上有相似之处但是算盘其实在欧洲那些地方它也有一些数字计算装置这些装置能计算简单问题但是图林论证了一件事就是所有可计算的事情逻辑上都能

实现用机械的手段解决它是并且说明了整体的方法虽然这个方法目前看起来比较简单但是这个方法成为了后来所有人去解决这个问题的一个模板这个模板当然现在大家都知道了叫计算机当时根本没有这个说法的太牛了又是类似于像爱因斯坦一样寻找智能方程万物治理的这么一个过程

一个最简单的模型现在我们一般把它叫图灵机这是一个概念模型它当时解释图灵机是个什么样就是一条无线长的纸带这个纸带是一直在就像流水线上的一直往前跑的线性的往前跑一直

一直往前跑还有一个读写的头这个读写头就相当于看现在到什么地步了还有一套规则那套规则就是去计算说现在这个头到这了那我接下来去到哪还有一个就是状态寄存器这个状态寄存器相当于判断说有没有完结现在是不是一个正常状态就这四个部件

感觉回到大学课堂我们又学计算机原理了计算机组成原理基本上就最基本的组成原理就是这样就这四个部件就想象一个流水线工人这个工人就是看着规则点来点去把这个流水线上的东西该到什么地方了他去操作一下然后在纸袋上移动指针最后根据这个状态完成了这个计算他这个工人在过程中是不用去思考的

那图联机厉害就厉害在他足够简洁极简又能运行同时是未来所有就刚才肖磊也说了是计算机原理的最基本的一个雏形老祖宗都是这样的逻辑只不过后来的计算机当然在这上面

叠加了很多复杂的一些部件了图灵机的极简的模型是真的能操作实现的就有一个计算机语言可能就是为了致敬图灵机它就给实现了一般的计算机语言比如说 Java C 语言其实里面的指令代码很多大家都知道能想象到但是

这个计算机语言只有 8 个命令再加上两个指针别的啥都没有就仅仅为了完成图灵机要完成的那些个目的对但是它能实现所有代码能实现的目的就相当于只有最简单的几种砖头但是我也可以给你垒出帝国大厦对只不过就垒起来巨麻烦它甚至比汇编还要麻烦很多对吧小蕾可以看一下 hello world 这个

代码可能就三行一堆非常麻烦各种各样的大约号小约号加号减号但是这是一个行为艺术的一个东西但是它能验证图林基的伟大之处这个语言叫什么呢不太文明叫 brain fuck 但非常切题 brain fuck 是什么意思呢在英语里就是脑残的干翻你的大脑对

我们说完图灵机这个是我们后世再去看说图灵机伟大但是在 36 年发表这篇论文的时候没有多少人关注就没有人关注你就别说人工智能了就连计算机连自动化的这些东西这概念大家其实都不是那么感兴趣的它还是有点太超前了对

然后 38 年呢 26 岁的图灵决定去美国普林斯顿交换嗯那在那个普林斯顿拿了数学博士学位当时有一位老师看哎图灵这个小伙不错啊能

能不能你来当我的博士后助理咱们一块研究一下你的什么自动化的机器他最后没同意还是想回伦敦珍惜自己的伦敦户口从印度给生回去的这位老师是谁呢这位老师是冯诺伊曼哇

这是另一位计算机的大师了冯因诺依曼非常喜欢他这个论文后面我们的互联网史话也少不了有他今天就不展开讲了英雄相惜遇到了伯乐擦身而过 39 年图林回到了剑桥大学在剑桥大学教数学同时还跟他们老师团队里的另一位老师经常吵架

那位老师叫维特根斯坦他们两个对数学和哲学之间的关系和数学和现实世界的关系有一些争议有一些不一样的意见最起码他们还能相互懂所以才能吵得起来是当然最精彩的图灵人生故事里的一个段落那是在二战的时候你看这个时间到了 39 年接下来很快就二战了

他被英国皇家海军招募了成立了一个密码破解小组这个小组也被称为图灵小组因为它是这里面的核心当时德国有一个密码系统叫恩尼格玛密码机这个密码机基本上就是德国广泛使用的他们的海军空军很多人包括后来还借给日本人用了

这个密码机他们德国官方军方认为是不可被破解的就像当年的泰坦尼克号一样对不可能成当代 MD5 图灵小组花了两年时间确实很难但是还是破解了但是这里面确实有很多人的功劳包括后来盟军美军那边也提供了一些密码本等等的给他们提供了很大的帮助但是这最后大家公认的图灵还是功劳最大的

一个他在里面起到的价值非常大他是一个很厉害的数学家嘛那这个破解呢让德国海军的大量行动失败后来甚至包括山门 56 他的坐机航线被捕获而且后来成功空袭把他打死了嘛所以后来有历史学者认为啊盟军在欧洲的胜利至少提前了两年这就是图灵的功劳啊

图灵当时上班的时候也还是经常跑步去特别喜欢跑步需要思考当时他工作单位离他的家多远呢 64 公里总不能是跑着上班吧跑着上班真的是跑着上班而且说句题外话战后图灵在 1947 年全国马拉松比赛中获得了第五名全国呀那绝对是练出来了那就上班的这个距离比一个全马都长当然可不可能天天跑估计就是隔三差五的可能来这么一趟

然后后来要不是因为他那个受了一点伤就身体撑不住了 48 年就真的参加奥运会了哦代表国家去参赛了然后同时呢他其实小时候不是很喜欢户外运动但是后来像这个骑行登山网球曲棍球划船跑步这些全都啊门清这么厉害啊非常热爱运动嗯

这跟小说就不一样了是另外一段经历呢就是在二战这段工作里边必然那要跟美国的那些科学家数学家们交流嘛就共享一些数据共享一些发现 42 年的时候他到美国相当于是一个交换的工作吧到贝尔实验室啊

访问工作者贝尔实验室大家都知道大名鼎鼎前面提过也不止一次了是贝尔实验室发明了晶体管发明了 C 语言在计算机历史互联网历史上也少不了有它咱们不是这期重点不展开说但是贝尔实验室大家知道是非常重要的一个实验室而且在二战的时候是协助美国军方一直在做很多科研工作的

那图灵就到贝尔实验室去交换工作嘛在那就跟当时有一位数学家当时也在搞密码就也是加密系统的研究而且啊芝麻掉到针眼里巧了今天这芝麻来了上一期忘了这两个人呢一个是搞加密那图灵是搞解密这俩人正好可以互相实验啊

我实验实验你你实验实验我这就是毛遇到了钝对这俩人还成了好朋友图灵给他这个朋友介绍了他的论文之后他这个朋友立马就能 get 到这个点而且非常兴奋说你这个是一个很重要的发现而且两个人就对人造的这种智能人工的这种智能的未来展开了非常激烈的讨论这简直就是天雷勾地火

因为另一个人正好就是咱们接下来后面第二章会聊到的主人公咱们先买个口好那四五年二战结束之后图灵就回伦敦了为了他的图灵机梦想奋斗这时候他看到了一个可能性就之前图灵机相当于为啥大家不感兴趣是觉得这个实现感觉没有什么可能性至少就当前的科技来说但是那个时候电子管出现了图灵一看有电子管

这个设施就因为在这之前计算机所谓的计算机的雏形都是用那种机械螺丝那种齿轮纯实现那种效率太低了电子管靠谱

所以图灵在英国国家物理实验室工作参与研发他们的电子计算机而且做了非常详尽的设计图四五年年底图灵完成了 48 页的打字稿和 52 张示意图和表格写下了世界上第一个非常完整的电子存储程序数字计算机设计相当于软硬件全包

我把这东西都写好了就造就行了图都给你画的明明白白了这个机器名字呢起名叫自动计算引擎 Automatic Computing EngineACES 当时他设计的这个时钟频率达到了非常可观的一兆赫兹

这个怎么理解也就是一秒一个周期一秒一个周期这是当时顶尖的水平如果大家看一下咱们现在自己的电脑一般可能是至少在三 G 赫兹也就是一秒 35 亿周期的运行那简直没法比这背后多少年智慧的进步估计现在图林老师

如果能看到也非常欣慰了激动死了那个时候图林和他的合作伙伴是想着在美国那台计算机之前先做起来的因为他们听说了美国也在搞这个咱们得抓抓点紧刚才一边说的一边想他们这边也搞着怎么就没听说过他们是

这就说到熟悉互联网历史的朋友都知道第一台公认的计算机是美国在搞的那台叫埃尼阿克埃尼阿克电子数值积分计算机后面还带着一个后缀的不是是电子数值积分计算机所以缩写是埃尼阿克当年没学明白这是是

这台机器啊有朋友估计记得严格说是这就是第一台图灵机结果呢图灵自个儿没赶上这个吃热乎的对图灵自己没做出图灵机了图灵这边发生了啥为啥没赶上呢因为它开启是更早的出了一些问题毕竟它是造大型机器啊它不像现在它不是说你只写个代码就行的呀组织上得考虑说预算啊得考虑说派人的资源啊等等问题嗯

后来组织上派的人就二把手三把手等等都不是特别靠谱后来纷纷跳槽了组织上先出了问题就靠图灵自个儿天天在那拧螺丝然后上面领导对这个项目也越来越失望你刚才说的这也是问题所在图灵他确实是科学家但他不是工程师他没法把硬件完全实现好最后图灵自己也失望了

烦了我去那个当时去曼彻斯特实验室去做学术结果他老板一看你还能两边跑你开除了结果把图林也给开除了整个这个项目就彻底到了基本就告别这个 S 这个事了那我们说在美国那边呢冯诺依曼本来不是搞计算机的但是听说了尼亚克这个东西好啊听说了这个事特别感兴趣兴奋所以就要求我参与进去一块搞

而且他发现了一个问题就是爱尼亚克的存储系统是有问题的人家图连是设计过的人家讲的明明白白的你们这里面存储不能这么搞所以写了一篇 101 页的报告专门去讲爱尼亚克应该怎么迭代成功推出了爱德瓦克这个可能历史书里也有的这是真正的第一台现代意义上的计算机离散变量自动电子计算机

就为什么说这台计算机也很重要呢因为现在我们一般说的计算机叫存储程序计算机或者说描述成存储器是存储器运算器是运算器把这两部分分开也就是咱们现在都知道的比如 CPU 是 CPUGPU 是 GPU 硬盘内存那是另一块存储系统这个就被称为冯诺伊曼结构这个其实就是爱尼瓦克首先实现的所以后来我们经常说冯诺伊曼也是计算机之父

也有这其中的道理因为它真的实现出来了在上学的那些年他不是说野了他计算机支付就是逢诺以买是但是实际上爱尼瓦克跟他没关系爱尼亚爱德瓦克没关系爱德瓦克才跟他有关系嘛嗯

那冯诺依曼也不居功他后来自己承认说计算机的核心概念还是那篇论文论可计算书及其在判定问题上的应用但是历史上反正就把它标上了你就是知富了不当你也得当给我坐那所以咱们认为图灵只是一个理论科学家但其实啊差点他就真把那个计算机做出来了哎这是造化弄人的哎呀

天度英才对还没死这个艾斯虽然说后来没有成为第一台计算机但还是造出来了就是相当于图灵的一个遗产就在比爱尼亚克晚了一年就晚一年回死了而且就在个人电脑时代之前就是后来 IBM 推广到全球之前艾斯

一直就是英国各种计算机的原型机大家都对着这个 S 做改造比如说军方的防空系统国家实验室里的各种超级计算机基本上都是 S 改造的是啦最开始还主要就是军事用途嘛

我们说回图灵图灵就回去做研究没有搞计算机的机会了那就继续搞搞理论继续看看人工智能和计算机领域有啥当然在那个年代人工智能和计算机还是一回事就是计算机能做什么事那就代表智能的事跟我们现在提的这两个完全两码事图灵就写了一篇论文叫《计算机器》

和智能这个标题就比较容易理解了就是讲计算机器以及说你能做计算了未来是不是也能产生智能的考察了这么一个问题那会就在考虑产生智能这个事了对各位可能不熟悉这个论文但是我们都知道这个论文里提出的最重要的概念图灵测试是从这儿这个论文里面从这篇论文提到的就是计算机

长期看应该能实现智能那怎么判定这个智能用图灵测试我们都已经习惯图灵测试这个说法了但是现在回过头去再一点一点累到这儿那个时候才 20 世纪第一台计算机刚出来 50 年代的时候 50 年代的时候图灵测试是什么就是当我们无法分辨

对面就是黑盒里边是人还是机器在回答的时候那就证明他有智能了这是图灵测试的内容就这一篇论文让图灵被认为是人工智能之父而且几乎就从这篇论文之后每隔几年就有人说我造的东西通过图灵测试了

然后这个产品通过了然后媒体再渲染一下什么小道消息这种花边新闻街头小报那些就经常是报道说谁又发明了东西图灵测试了开始推了人类新的纪元即将开始这就说的有点像刘飞最开始讲的我们通过历史看现在的那种感觉了每个年代都有直到现在包括今年这个 ChatGPT 到底有没有通过图灵测试大家也没有公认没有定论但是它是确实是最接近的了可以这么说目前为止

科学厉害就厉害在有的理论未必有直接的转化但是它可以间接影响说大家去奔着一个目标去进步相当于图里已经提出来一个目标了说句题外话很有意思的一个事就是现在我们平时使用的图形验证码很多人深恶痛绝的当你输入什么验证你是人类吗然后给你几个图这里面哪个有自行车哪几个有猫

这个图形验证码的英文单词 CAPTCHA 它的全称就是通过图灵测试来完全自动分辨出计算机和人类好直白所以说我们每天都在经历图灵测试的图读图读我们的心灵图灵测试之后图灵还继续细化它对人工智能这些思考提出了一个理论叫 learning machine 学习机器就是机器能不能除了

首先他要接受信息比如说视觉语音识别语音理解等等同时他要存储和使用知识比如说有推理能力然后是不是应该有改进提升自己的能力比如说学习的模式还有就是反馈到外界的能力语音合成自然语言处理等等他提出的基本的这些模块就跟图灵机一样为了延伸出来大量的课题

和大家要研究的学科那个年代脑子到底是怎么长的神一样的脑子了不起科幻小说是一回事那只是想想而他是坚定的认识并且相信这个事那真的就是厉害了图灵感觉确实是被时代限制住了就是只能在理论上下功夫了想施展拳脚确实没有什么条件他认为计算机完全可以模拟人类

他认为终极的目标就是能模拟人类的计算机也能掌握学习能力会从经验里成长就不是说只是死记硬背而且他当时就认为应该模拟神经元的逻辑用计算机的计算模拟生物那人是怎么想的那计算机按理说也能这么想包括他提出来未来可能用电话线远程控制计算机把计算机连起来这也都是可能的哇

这是互联网也提出的互联网的想法对但这些全都没法实现的但是这些概念和理论都启发了后来的很多科学家图灵当时在曼彻斯特实验室做负责人的时候刚才说了被开掉了就彻底去曼彻斯特了开发了很多很有意思的程序比如说

计算机输出音符发出声音那个时候计算机还确实发不出那种真正的音符但它可以用计算机那个固有的一些声音去演奏一些东西挺有意思风扇转速频率不同给出的声音就高低不一样了而且当时图灵还做了一个项目叫 Toro ChampToro 是图灵的一个缩写 Champ 是另一个统计学家他跟这个叫 Champ 的统计学家合伙开发了一个国际象棋的游戏哦

这个游戏就你看多超前到后来人工智能不都是在下棋的方面去做测试吗就深蓝了它已经开发出来了但是没有条件去写成代码实现在计算机所以它是个叫什么它是个纸上模拟的就类似于说我设计一个未来计算机肯定能实现的一个逻辑我现在给你写到这了写到这而且他们模拟试了几次它真的能下棋哇

用这种条件在艰苦的条件下纸上去做模拟给未来人打好这就是 20 世纪的达森奇这个非常启发了后来国际象棋的 AI 发展很多人后来在这里面也得到了很多启发图灵其实对图灵测试这件事本身也有一个预测他认为需要 100 年这是在 52 年的预测也就是 2052 年有希望能够跑得比他快一点儿

所以你看到这个时候他其实很积极的在参与他不是大家想象的那种提出一个理论来啥都不管了我就等着看别人怎么做他其实一直积极的参与工程自己还开发很多项目而且在五几年的时候你看正值壮年才 40 岁左右这时候是大有可为的时候但是悲剧来了

51 年的时候他遇到了一个人叫阿诺德·穆雷可能很多人都知道图林是同性恋所以他们很快就成了情人关系还发生了几次性行为结果图林家里丢东西了图林就怀疑是穆雷做的就拽着穆雷去公安局了去派出所了

做笔录的时候警察问出来发现你们两个是这个关系到底是怎么回事你们盗窃的事不重要了性行为这个事被挖出来了在那个背景之下还不是非常专制 50 年代是英国最封闭专制就可能近百年最封闭专制的时期图灵做的又是高精尖的工作所以这个事开始闹大了当时图灵没意识到这个事严重他当时做笔录的时候还反问警察说啥现在咱们国家还

还没让他合法不会吧智商够高情商欠点意思结果这个事闹大了当时图灵的律师是在跟相当于检方去沟通能不能不让图灵坐牢因为一旦坐牢首先他的工作肯定丢了另外他是搞学术的高精尖技术的非常看重生育要看你的背景清不清楚

如果你现在出身变不好了你正审下一步就过不了你没法往上走了很麻烦最后怎么办呢统一了对方统一是化学疗法也就是所谓的化学阉割不是物理阉割就是打雌性激素降低性冲动其实这个很侮辱性的嗯

因为对于图灵来说就后来他身体体征已经变化了长出乳房来了整个人的状态就不一样了那 12 个月过去缓行结束了图灵状态还不错而且那个时候开始研究数学在生物学上的应用提出了一个反应扩散系统这是数学生物学中的开创性工作后来在这个学科里是非常重要的一个理论真是做啥都是一把好手是啊但是

就在大家觉得好像这事过去了的时候 54 年 6 月 8 日图灵被发现死在家中手里有一个吃了一半的苹果死因是氢化物中毒年仅 41 岁

当时呢包括警方的结论包括公众的认知大部分认为是自杀因为发现他在死前四个月就立了遗嘱哦那个时候状态很差但是很多图灵的朋友不同意他们觉得那段时间很乐观呀就积极的参与生活工作还经常去什么阳光沙滩玩那怎么说说自杀就自杀了嗯

这成了科学史上的一个悬案因为没有找到明确的自杀证据也没有明确的谋杀证据也有说法是意外就是说是可能他家里的有什么设备出问题了等等的反正这个最后一直没有定论现在这句还就有点罗生门了是个悬案咱们就不多讲了这个事非常遗憾

图灵的故事被拍成了电影在 2014 年的时候就是卷幅他演图灵叫模仿游戏我说我一直在回忆看过这个电影具体叫啥记不起来了对叫模仿游戏其实也是在致敬他在人工智能方面的领域方面的

创建意思就是他一辈子都在研究怎么让机器模仿人而且在这方面取得了巨大的成就所以这部电影推荐大家去看也是在 2014 年英国女王伊丽莎白二世就刚去世的那位宣布赦免图林这算是终于给他还了一个清白啊

这已经过去半个多世纪了而且 16 年的时候英国政府宣布对历史上所有同性恋的这个叫猥亵罪全部赦免而且这个被称为图灵法再之后同性恋在英国就不受歧视了这也是文明进步之后本着一个对历史负责的态度的一个算是大国担当吧是

图灵被称为计算机科学之父和人工智能之父并且公认为 20 世纪最伟大的数学家之一以图灵命名的图灵奖从 1966 年颁发是公认的计算机领域的诺贝尔奖时代周刊把图灵评为 20 世纪最重要的 100 人

还有一个比较浪漫的都市传说就是说乔布斯把苹果 logo 设计成咬了一口的样子是为了纪念图灵所以现在各位用 iPhone 的朋友和 MacBook 的朋友看一眼这个 logo 是不是感觉不太一样了整个这个故事内涵就封存在里面了

但实际上官方从来没证实过有记者采访过当时定 logo 的某个参与的当事人说当时乔布斯主要还是觉得如果是完全闭合的它太像樱桃了这分辨不出是樱桃还是苹果咬一口这个更像苹果所以大概率是这么定的你先记得乔布斯传里面也有类似描述到问到他大概那一次就是好像不是这样对

不过这个也不妨碍我们对图灵老前辈充满敬意《时代周刊》当时就说了事实上每一个在敲键盘打开电子表格或者文字处理程序的人都在用的是图灵机

每敲一次键盘就是给老先生上一次香了这个形容不错那我们第一章就到这了接下来进入第二章叫做要有伤于是就有了伤前面说的那个在贝尔实验室的哥们刚才提到的大家应该还记得就是也是个数学家的图灵的好朋友就是我们第二章的主角克劳德艾尔伍德香农哦

咱们还是先回到开始聊聊香农香农 1916 年出生跟图灵差不多同龄人比图灵小个四岁

父亲呢是一个商人名字叫什么呢叫克劳德艾尔伍德香农没错一个字不差父亲给自己儿子起了个一毛一样的名好自由啊这就是非常少见极个别就是古今中外我也没见过这么起名的真的是非常自由的一个家庭母亲呢是教师所以整个看起来也是很不错的至少算是中产家庭了

从小就爱折腾成绩最好的也是科学数学这些学科他怎么爱折腾呢自己在家里造飞机模型造无线电遥控模型船甚至造了一个带铁丝网的电报系统跟他的小伙伴们发电报就不是用咱小时候的土电话了拿个纸杯子然后连着线人家正儿八经的电子设备连到半英里外的朋友家里会

他的童年偶像其实挺好猜的谁呢爱迪生这个大发名家嘛而且后来他发现这个爱迪生还是他的远房表亲呢往上数 300 年那就是一家人呢都是老爱家的都是那个德国移民德国老移民了香农呢学习成绩特别好 32 年密歇根大学读书四年之后双学位毕业电气工程和数学哦

你看这两个都跟计算机有非常强的关系打赏又是可以理论和实践两手抓了 36 年的时候麻省理工电气工程学硕士毕业他的硕士论文叫对继电器和开关电路中的符号分析这个论文 38 年发布也是一篇非常重要的论文他把开关 继电器 二进制 布尔代数这些联系起来了这些构成了现代计算机的一个物理基础哦

这个论文还拿了诺贝尔奖当然不是那个诺贝尔奖是为了纪念美国土木工程师协会前任主席阿尔弗雷德诺布尔这个阿尔弗雷德诺布尔跟诺贝尔奖的阿尔弗雷德诺贝尔就名字里就差一个诺贝尔一个字母不太一样 NOBEL 和 NOBLE 就差这么一点

所以这个奖每次得奖的人被媒体报道出来他都得反复解释一下我这个诺贝尔奖不是那个诺贝尔奖这是洋葱诺贝尔奖那也不至于人家还正儿八经一个反正挺重要的奖主要是硕士论文所以说后来哈佛大学有一位教授评价这个论文说这是本世纪最重要的硕士学位论文就是硕士论文里面没有这么厉害的当然这只是香农第一次为计算机做贡献

香农从麻省理工毕业之后继续读博士博士又毕业了毕业之后就去普林斯顿高等研究所工作了那普林斯顿高等研究所真的是众神云集群星璀璨亮瞎狗眼其实说到普林斯顿有些对爱因斯坦熟悉的都知道爱因斯坦到了美国主要就在普林斯顿另外还有哥德尔冯诺伊曼费曼

等等全都是大科学家还有一个有意思的故事有一次香农就在普林斯顿高等研究所给一群数学家上课这个时候教室后门突然开了阿尔伯特爱因斯坦走了进来走了进来之后站在后面就听了一会儿听了一会儿之后跟后排一个人耳语了几句说了几句悄悄话然后就出去了香农看完之后下了课立马跑到后排去哥们儿

刚才爱因斯坦来说啥了给我有什么建议吗提了什么问题后排那个哥们说他来问卫生间怎么走哈哈哈哈

你就说当时香农对爱因斯坦或者说大家对爱因斯坦是一个多敬仰的心情高山扬指但是其实香农在普林斯顿整体的感受不是特别好为啥呢普林斯顿是物理学家的圣地产生了非常多伟大的物理学家但是数学家不那么多你在那研究数学不是那么主流

只猛掉到阵眼里巧了二战爆发了二战爆发了正好是用数学家的时候加入贝尔实验室这就跟咱们前面说的串起来了在贝尔实验室工作过程当中最大的收获之一就是认识了艾伦图林那也同时知道了图林机知道图林机之后对计算机包括计算机相关的这些东西有了更深入的认知

50 年的时候香农还到曼彻斯特大学拜访了图林看到了他当时做的那个下象棋的那个机器当然是模拟的了当时做了一次很愉快的交流但是很可惜啊这也是最后一次见面了因为四年之后图林就去世了

在贝尔实验室香农另一个收获就是搞密码的过程当中发现数学也能用在信息方面因为搞密码本来就是信息学的东西香农最先发现很多事物都可以抽象成一样的信息过程比如说有一个发射器有一个接收器过程当中可能有噪声这个其实你可以用在各个场景上比如说 DNA 的信息传播

大家都知道每个人的每一个细胞里的 DNA 都能把所有的信息复制出来那这个过程它就是一样的跟盟军一次战斗的计划我怎么传递给前线这个的过程抽象出来大家都是一样的这是高度总结的理论啊

都是很本质的一个逻辑这个跟图灵抽象了计算原理能解决各种问题是一样的但是这个本身这个抽象其实并不是那么复杂但是他在抽象之上做了很多工作要能具象起来又是一个人类群星的闪耀石一种通讯的数学理论这么一篇论文出世了

咱们稍微说一说这篇论文中香农在信息方面有哪些理论成果就在刚才说的基础上他做了哪些事核心是两个第一个是信息的量化也就是前面咱们标题说的商信息商商其实本来是热力学里的概念指的就是物理学上的混乱程度

宇宙比如说它就一直是在增伤的是越来越无序的增伤代表着无序混乱比如说三体里面地球人这种生物体都被叫低伤体为啥呢因为地球人是伤减的越来越秩序的一个状态你是让外界更伤增的方式自己伤减这是各个生物体它本身的热力学逻辑而且当时在热力学上布尔兹曼已经有了伤的计算公式了

相同一看这个好啊直接拿来用了就改了一个富豪这就是信息商的公式所以信息商的公式和热力学理商的计算公式几乎是一模一样的这也是非常科学里特别巧妙的一个地方那信息商的逻辑呢咱们不展开说太深那么稍微打一个比方就比如说我们说抛一个硬币两面概率都是 50%那抛完硬币之后我们知道是正还是反

这个信息本身它带来了信息量叫一比特就是我们能知道一件事一个信息说到这儿呢比特也是香农提出的概念啊它是信息的一个量化单位是他提的他提的如果两面都一样说这个硬币的两面都一样那结果没区别所以它带来的信息量相当于就是零那就是零比特嗯

那如果说我们传递一个英文文章一个字符它能代表多少信息量呢如果说这个字符可以是 26 个字母我们去掉大小写 26 个字母再加一个空格的话那相当于 27 种可能性那它带来的信息量就是 4.75 比特这是根据信息商的公式算出来的

咱们现在都说真正的一个字符是一个字节一个字节就是巴比特这其实也是这么计算出来的说到这了你要关注你家里的网下载速度到底是怎么着大币和小币它代表的是不一样的一个是字节一个是比特这样就把信息的价值给彻底量化了它给信息的确定性找了一个单位就是刚才说的物理学里的商这个商

越随机的就越不确定的信息伤越大比如说同样一个字符如果它是英语它的伤相对会小就会小很多因为如果是汉语的话大家想象一下一个汉字那它的可能性太多了所以它的伤就非常大基于信息可以量化香农涵提出了一个定理

给信息编码打下了基础就是它证明了在理论上证明了编码的极限值这个其实容易理解就前面说了文字本身就是编码阿拉伯数字也是编码 1234567 到了 9 要再升一格实境制本身也是个编码编码是整个信息压缩最重要的基础咱们现在都知道如果你说信息全部是用平均的方法编码那就彻底完蛋了

它的容量会非常大但是你用一些手段就可以让出现概率小的用的码更长出现概率大的用的码更短这整体的总的码它不就更短吗这就相当于给它不同的权重不同的权重比如说摩斯密码如果学过摩斯密码或者熟悉摩斯密码的就知道摩斯密码里有两个很特殊的字符就是 E 和 T 它只有一个点来表示一个是一个点一个是一个杠

这是因为它们两个出现的概率非常大那你这样在传播电报传播摩斯密码电报的时候就会非常短整体就会很短你举的这个例子就更容易让大家了解了现在的编码逻辑当然越来越复杂但是都是这样的比如说我们再举个例子你会发现有的视频的画面很接近比如说这一帧和下一帧很像比如动画片很多都是这样的只有里面部分的画面在动那这样的视频就有重复性

它压出来大小就非常小这是基于说你通过一些方法让编码里面大概率会出现的那些变短小概率出现的变长这样最后单位空间里能呈现的信息就是更多的这是很巧妙的一个方法但是最根本的都还是从香农逻辑一生二二生三这么演化出来的

所以说从此之后信息就可以计量了比特那就是未来所有信息时代电子信息的基础所有的电子信息从刚才小蕾说的各种宽带速度包括我们的手机信号手机电脑的存储

包括图像领域视频领域等等各位在听的播客现在在听到的全都是用比特和字节的方式编码来处理的字节能跳动那就是因为香农这更不错感谢香农所有的这些个信息往下拆拆到最后都是他们第二个香农的贡献就是给通讯行业的信息传输量化

打下了基础刚才说的是信息量的计量赵尔汗对信息传输做了一个计量在相农之前大家不知道怎么量化信息传输的问题比如说是不是条件允许了单位时间里或者说单位容量里就能瞬间传递足够大的信息

香农在理论上证明了信息容量信息功率和噪声这三者之间的关系也就是香农公式用白话说啊就是香农证明了对于某个信道的宽度传输信息的速度永远是有上限的这个上限叫香农极限再白话一点说就是它证明了存在一个车道嗯这个车道上能通行的车流量是有限的嗯

就是你不能无限制的传输信息这个车道也就是宽度这个宽度也就是带宽频率单位就是赫兹原则上呢你只要够宽通过尽量的降低噪声速度就会特别快啊

但是你不够宽噪音再低你传输的信息再准速度也还是很慢永远上不去这个跟物理世界倒是可以直接对应上我觉得大家理解起来相对更容易一些对根据这个理论从逻辑上来说是能证明存在一种传输方式可以几乎无损的高速传输信息的

当时大家科幻小说这怎么可能存在一个因为当时的传输信息效率极低我有一个没太想明白的地方就是你说的噪声损它主要损在哪你说一个信息从 A 点传到 B 点中间会有噪声这个噪声到底是一个这么更好理解的概念可以这么解释如果是说物理上的噪声比如说海底电缆被鱼啃了比如说你用声音传播

空气一吹这可能听不清楚了比如说包括我们现在的宽带中间也会存在有一些断断续续可能光纤里面有一些光的传播会出现一些错漏反射的时候有损失对这个都叫噪声这个噪声会影响你的传输但是香农在理论上证明了这种问题是可以解决的就是当你噪声小的时候你是可以无损的只不过降低速度的传输信息哦

对应一下物理世界的话你比如说一个大礼堂里头装了 1000 号人大家哗哗的都乱七八糟往外跑的时候一个不小心就踩塌了但是你降低一下速度有秩序的一点一点出其实就可以不出现任何的伤亡把所有的 1000 号人都送出大礼堂

对但是香农这里面因为它这几个因子你都是可调的所以如果你的编码不够好或者说那这个时候你解决不了噪声问题那就有人被踩了怎么办你后面再多放几个人再多放几个人进来你最后还是能准确传输了就不存在说有一些信息就完全损失掉完全损失掉是不会的就是噪声大那你就多传一会儿大概这个意思

所以说我们现在有的时候你打电话你会发现信号时好时不好但是基本上都能听得见那也是因为做了大量的编码你噪声能降低噪声可以想各种办法降低这个在当年看就是科幻小说因为当时的编码方式比较原始比较粗糙而且大家也没有很快的那种传输的带宽

你就想象一下电报那种就几乎可以说是没什么带宽但今天实现了而且实现了一种可以几乎无限接近相农极限的一种码叫极化码这个极化码还是华为一直在推动的通讯协议而且这个通讯协议被写进 5G 标准里这就是华为推动的

而且 5G 标准大家现在用到的就是最接近相同极限的一种码了厉害了集化码相当于类似于闪电五连边那种接话发的那种境界哈哈哈哈

在信息论基础上的编码其实是个非常大的大学问我们也不能确保我们能比喻的特别好这个有兴趣的朋友可以自行研究但是大家知道我们现在日常生活中处处是编码就知道这件事就行了挺好的我听的是挺兴奋的虽然我也没完全听懂但觉得这种干货非常欢迎比如说火酒剑也是个编码包括成语也是个编码它让传输效率

提升了更高了对更高了包括最常见的二维码二维码也是一种很有效的编码而且二维码它编的时候其实就是在解释刚才说的那种准确传递信息的问题大家可以试一试你拿到一个二维码挡住一部分是完全可以扫出来的因为这个二维码有冗余而且它这个冗余是平均分布的冗余它不是说左下角挡住可以右下角挡住不行了它是整个所有地方随便挡住哪儿

它都能扫出来可以这是很厉害的一种编码这个就更好理解一些了是 OK 你看现在编码的极限传输的极限都画出来了这个终点线就相当于相同我跟你标好了理论上这就是所有人类通讯技术信息技术追求的终点大家未来的历史就是在追这两个终点奔着那去对一直到今天都在奔着这两个目标去也就是说超不过去

它的价值在两个点第一个点就是原来是存在一个极限的第二个点就是这相当于出了一个考题原来没有考题的时候大家不知道干啥现在至少也知道能干啥了比如说噪音速功率带宽这几个因子给你列的明明白白的你要么就做这个要么做那个这个太伟大了到了 49 年的时候他刚才写的论文写成了一本书你还记得前面说的

那个论文叫什么一个通讯的数学理论这里边有个额额 Mathematical Theory of Communication 把那个额去掉了去掉了改成了滋滋 Mathematic Theory of Communication 大家就知道了这有多牛逼了屌了屌了相当于原来我只是提出一个理论现在这就是这样了大家就来看就行了定论了

科学界有一个评价说信息论建立对信息科学的意义就如同发明文字对文学的意义一样科学美国人这个杂志数十年之后把香农 1948 年的论文叫做信息时代的大宪章哇

信息时代如果说有上帝的话那就是香农香农说要有商于是就有了商好振奋人心说个有意思的题外话据说这些信息论的基本内容大家去看香农在贝尔实验室工作的时候的手稿都已经写得明白明白的而且四五年基本上全都成型了说你为什么到 48 年才发布香农就一个字懒

这种就像里头还不太像咱们说的班里面第一名当着别人的面说不学习回家努力学他就是正好反过来就是来所以对向农来说你比如说像我是做互联网的小蕾刚才也说了是半个互联网的我们现在做的又是播客

网上追溯香农确实都是祖师爷各位朋友各位听友里有还在做抖音小红书的在拜关公拜月爷爷可能觉得没有效果的试试拜拜香农之前给大家提过的成婚三扣手早晚一炉香跟上说不定有用香农除了做出信息论为计算机和信息时代打下了坚实的基础

还跟今天我们要讲的主题是有很大的缘分的咱们接着就进入第三章了叫做夏令营夏令营我们回到 1948 年香农创立这个信息论的时候他在贝尔实验室那个时候贝尔实验室他有两个实习生这两个实习生呢一个叫马文明斯基

哈佛大学数学系毕业普林斯顿大学数学博士博士论文是神经模拟强化系统的理论及其在大脑模型问题上的应用你一听就好像有点人工智能那个意思另外一位实习生叫约翰·麦卡锡

他也是普林斯顿大学的数学博士这是马文明斯基的师兄而且是马文明斯基把他喊来一块师兄来咱们干个实习而且跟香农学习一下本领这是孙礼茂司机他们俩一块来找香农就说哎呀

老师我们想好好研究机器模拟人大脑这么一个主题能不能咱们传个局什么方式呢大家商量了一下说咱们搞个文集有点像杂志但是它可能是一个长期收集投稿然后攒成一本书出版这么一个形式把当时所有厉害的在做相关研究的这些科学家们的东西聚起来那会读库

香农这个人呢为人很低调前面其实也隐隐约约能感知到他的性格他不想搞一些噱头的名字什么机器模拟人脑什么智能这种听起来就感觉太噱头了所以就起了个名给这个文集叫自动机研究听起来就就没那么性感了贼学术 automaton studies 结果反而就是因为这个名字呀

太抽象了投过来的稿件也太乱了最后折腾了三年才出版而且也不是特别成功就只出这么一本对搞了三年所以说很难虽然说香农当时在科学领域是很出名的但是来投稿的你就看这个名字什么的都有他们筛稿子也花了很长时间但是他们还没放弃就想着有没有更好的团局的办法嗯

这个时间已经到了 55 年了刚才说的师兄麦卡锡已经是达特茅斯学院的数学系助理教授了同时还在 IBM 打工芝麻掉到针眼里巧了他在 IBM 的老板是罗切斯特罗切斯特是谁呢那是计算机历史上大名鼎鼎的设计了世界第一台通用商用计算机 IBM701

这位工程上的大师他们就聊起来罗切斯特说这好啊我们一起传课局我也很感兴趣我加入这次主题咱们要明确就别叫什么自动机了咱们围绕七个明确的课题就聊机器模拟人脑

这个大话题那这七个课题叫什么呢分别是第一可编程计算机第二自然语言第三神经网络第四计算复杂性问题第五机器自我学习第六计算机抽象概念第七计算机随机性和创造性这书名和章节大纲都已经给的很明确了这很明确大家一听就知道这个跟 AI 其实关系就相对比较大了

而且涉及的方面计算机通信数学心理学等等基本上比较明确准备用两个月时间封闭讨论大家聚在一块当面讨论分享看能不能解决机器变智能的问题还好讨论的是这些要不然就真变产修了

就两个月啊两个月想讨论明白机器变智能怎么变的问题那当时大家伙还是有点天真了以为这些问题是能讨论明白的他们以为能有一个明确的结论麦卡锡当时特地给这个会议起了个名而且那个时候知道咱们要搞营销了所以这个名一定要特别好听叫什么呢叫 Summer Research Project 嘿

夏季研讨会 Unartificial Intelligence 那个时候是刚刚出现这是人工智能这个词第一次出现在历史上新造出来这个词新造出来的人工智能所以这个全名就是人工智能夏季研讨会这研讨会准备要搞了先去搞钱拿了洛克菲勒基金会的赞助 1 万多美元在当时还是挺多的

然后营销上得找个 KOL 你不能自己硬去到处贴发串单这时候全世界最有影响力的图灵已经不在了但是另一个大师在另一个祖师爷在香农芝麻掉到针眼里当时是贝尔实验室我的老师麦卡锡当然就找香农说你帮我们背背书快参加一下

这次会议有香农站台那学术圈确实引起了非常大的注意现场可以说就是既没有锣鼓喧天也没有鞭炮清明既没有红旗招展也没有人山人海确实对这个太前沿的课题感兴趣的朋友没有那么多

而且当时因为麦卡锡本身他是个科学家他自发组织这个会议搞得非常混乱会议的组织特别混乱说是封闭讨论两个月集中讨论的时间也就一个星期很多人来来回回就是也没什么组织纪律就有的来了就走了包括香农也是来待了几天就走了没有举办大型活动的经验很多人也是跟着朋友来蹭听了听过几天又走了就是很混乱

而且说是讨论刚才说的机器模拟人脑的整体的问题最后也没有得到啥结论话题也是各种混乱香农虽然也参加了但是查不到任何他在上面有加值的信息也不知道他说了啥有什么分享对于这个事的总结咱们听听麦卡锡自己怎么说的自己说的是我为这次会议设定的目标完全不切实际本以为经过一个夏天的讨论就能搞定整个项目

我之前从未参与过这种模式的会议只是略有耳闻实际上它和一场夏令营没什么区别有一个反思能力但虽然说是夏令营但这次会议的历史地位可太重要了为啥呢因为哪怕说这次会议本身的内容不行但是这次会议的主题首先 AI 有了另外它框的这些问题最后真的变成了

人工智能的核心问题另外最重要的就是参加研讨会的人在当时虽然都是年轻年纪轻轻的小年轻的教授科学家没啥地位但是未来相当于就成了人工智能的开山祖师天团都是晴天博玉柱嫁孩子今两几年的咱们就说说我当时会议上常驻的几位科学家分别都是谁第一位马文明斯基刚才提到了学弟 1969 年图灵奖

在会议上确实也拿出来他搞出来的一个东西这个东西叫世界上第一台神经网络计算机

他用 3000 多个真空管模拟了 40 个神经元非常粗糙但是已经是第一台了这么早啊非常早约翰·麦卡锡刚才说的发起人 71 年获得图灵奖发明了计算机语言 LISP 会议上提出来一个 alpha beta 减值算法这是一个非常有效的计算机算法这个算法后来在 97 年 IBM 的深蓝国际象棋的一个 AI 程序上得到了这套应用嗯

第三位赫伯特·希蒙当时卡内金梅隆大学的工业管理系系主任这位呢要好好介绍一下了那是世间奇才啊这位赫伯特·希蒙有九所学校的博士学位不是荣誉博士啊不是那种出名了大家给他颁一个荣誉人家是亲自读下来的这儿马井都上了而且第一个博士跟数学和计算机没有任何关系政治学嘿

26 岁在伊利诺伊大学教政治学同时教宪法学合同法统计学运筹学城市规划学劳动经济学和美国历史这是个什么脑子怎么长的五年之后 31 岁的时候写了一本书叫管理行为轰动了商业圈

成为 20 世纪最重要的管理学著作他也成了 20 世纪最重要的管理学大师 33 岁卡梅隆大学工业管理系也就是差不多这个阶段了参加会议的阶段

同时教政治学经济学管理学金融学心理学公共行政学和计算机学的课程那个时候卡梅隆那个学校其实现在我们都知道卡梅隆大学在计算机领域包括在综合领域都是非常强的但是在那个时候它全美排名才 100 名

被他生生往上拔了多少 30 年之后他参与的这些学科都成了全美顶尖的水平就这位都不需要寄人篱下了自个开个学校自个全教了就得了 69 年因为对认知心理学的开创性成就获得了美国心理学会的杰出科学贡献奖 75 年由于人工智能领域的贡献获得图灵奖嗯

78 年因为提出经济组织内的决策理论获得诺贝尔经济学奖这是正儿八经的诺贝尔奖而且还拿过美国总统科学奖冯诺伊曼奖等管理学科的奖 68 年开始是约翰逊总统的总统顾问 72 年跟着尼克松访华

这是个什么人呢一生写过上千篇论文是人工智能和认知心理学领域论文被引用最多的人没有之一熟悉七门语言而且都说的贼溜中文说的也贼溜

北京大学人家是正儿八经教过一整个学期的书的给自己起了一个中文名叫司马赫所以很多朋友有的时候看到赫伯特西蒙有的时候看到司马赫其实是一个人这个名字起的也挺好跟武侠小说里的那种大师也差不多司马赫名声赫赫他的人生故事确实是科学界里非常精彩的了接下来一位艾伦纽尔

艾伦纽厄尔是司马赫的学生在他的博士学位拿的其实就是司马赫做导师的一个学位他们俩一室一友相当于司马赫觉得纽厄尔是个可造之才而且在计算机领域在人工智能领域能帮到他所以他们两个在这个领域上是非常深的合作关系纽厄尔在 75 年也获得了图灵奖

这二位在会议上拿出了相当于是最有干货的东西这个东西是他们编写了一套人工智能程序而且能自动证明罗素的数学原理中的 38 条原理这个其实是在验证图灵机前面说了图灵机的设想就是我能不能用一个机械能自动去证明很多

可计算的问题那你算个数学题不算什么了但是他们能用这个人工智能程序证明数学原理了虽然是最基础的数学原理这相当于进一步验证了图灵的这个设想呀

再接下来一位奥利弗塞夫里奇麻省理工当时的一个硕士他是模式识别这个学科的奠基人另外一位阿瑟塞缪尔他是程序员就是世界上最早的一批程序员五几年的程序员他开发的下跳棋的程序是世界上第一个可以自学的程序而且他基于这个程序写了一篇论文在这个论文标题里他发明了一个词这个词叫机器学习是这位塞缪尔做的

这位塞米尔到了 88 岁还在写代码一辈子真的是非常热爱代码而且他在老年时期投入了非常多的时间在 Tex 排版系统上很多程序员朋友或者做出版行业熟悉技术的朋友应该知道这个系统这个系统就是世界顶级的排版系统影响了后面很多出版行业

还有一位是雷·索罗门诺夫后来成了算法信息论的创始人算法信息论很有意思正好是图灵的图灵基理论和香农的信息论的重要结合是个心学科这位是心学科的创始人还有一位特伦查德·莫尔这位是当时在场的会议成员里唯一没有在人工智能领域活跃的他就是参加了一下就去了工程了去做工程了

除了最后这一位基本上前面这些人全都成了人工智能这个领域的大师和领袖说明第一要么就是选人选的对第二要么就是那个会虽然看起来没啥成果但最起码让他们对于人工智能的认知说不定还都有了一定的长久从事的这么一个坚定的信念有这个热情了但是就

就感觉有圈子了尤其明斯基麦卡锡斯马赫这几位一般都认为是人工智能的创始人而且他们基本上后来在后面我们的章节里都会讲到他们成为了非常重要的领军人物开创了各种各样的门派但是

人工智能确实非常复杂为什么前面说两个月解决不了因为延伸出来的每个问题又延伸出来一堆问题每个看似很小的问题未来甚至都能开创一个大学科这些人凑在一块回头基本上就各走各的路真的就是星辰大海了

可以说这次会议用我的形容就是巨没干啥事散是满天星挺好这儿有一张当时会议的照片真的看起来非常年轻有活力人工智能领域就在这个草地上诞生了来看看这个是夏令营的留念

这个摄影师应该挺会调动情绪的因为待会笑的都挺开心的对而且能看出来当时大家年轻的状态虽然也有已经秃顶了秃顶的是职业特色但是你看到朝起蓬勃的而且是这种可能全世界当时对人工智能最有热情的一群人就这么几个最后开创了一个学科这个看的还是挺有感触的回过头去看真的是也是非常激动人心的事

而且最右边这位就是香农也是非常年轻了那时候的香农这么年轻啊非常帅说到香农咱们稍微聊一下他香农参加了会议之后基本上就是半退休状态了你看五六年举办这个会议嘛会议之后他就从贝尔实验室辞职到了麻省理工任教而且就像你说的很多人对他的预期是跟图灵类似的就是你是大师

那接下来你理论上证明了信息通讯方面的很多极限很多问题你该干点事了对啊你会不会持续参与工程把这个东西做出来而且香农也是壮年啊接下来信息时代那得领军吧

结果他懒结果真的也不懒其实不懒就首先很奇怪香农到了 MIT 之后就很少参加各种研究活动后来学校都不去了学校派了几个研究生在那帮他搞一些日常的工作很多人都以为是不是生病了还是说他休息了还是说他对搞这个研究疲劳了感觉自己就是抑郁了大家都在猜都没有人家很忙

也在工作每天都可辛苦了只不过呀人家是对信息论不感兴趣了开始研究他真正想做的事了玩香农老前辈可有意思了跟你讲讲他怎么玩首先他在贝尔实验室的时候就

很喜欢玩旅游吗做游戏做玩具在过道里骑独轮车然后在园区里骑弹簧单高桥骑高桥蹦来蹦去他老板就挺烦他的说你这整天在干啥这影响我们贝尔实验室的这个气质家里是有马戏团基因的这是这是从小就爱玩玩具太喜欢玩东西了当时他老婆给他送礼物都送啥呀

都是积木当时叫建造者其实你就可以理解成是乐高早期乐高只不过是比较高级的那种乐高它可以搭一些电子设备它整天在家通宵玩造了一个机械的乌龟满屋子跑这个乌龟碰到墙之后就拐弯拐弯之后再去走扫地机器龟就这个意思

说起来呢他根据这个乌龟还发明了被媒体称为人工智能的一个早期的玩具就是迷宫老鼠这个老鼠它起名叫提修斯这个当时在贝尔汉贝公关团队包装成了视频这也是很难得的相农早期的一个视频影像小蕾看一看能看这个自动走迷宫老鼠长啥呀

这大哥介绍他自个儿发明的这小玩意也是吊儿郎当的说话就跟张某海嘴似的一口惊骗子而且这里面公关团队还给他应该是给他写了稿子他到最后还是花了很长篇幅说我能做出这么牛逼的东西那得多亏贝尔实验室贝尔实验室虽然是做电话做通讯的但是他在这方面你看他投入了很多精力很厉害技术牛逼很有意思但实际上他做的迷宫老鼠跟人工智能

可以说就是巴基斯坦跟巴勒斯坦乌拉圭跟巴拉圭印度尼西亚和印度半拿铁和深烟拿铁的关系一样毫无关系毫无关系他这个怎么做的他其实是迷宫底下放了各种各样的继电器完全是一个机械设备啊

它这个机械设备的规则全是他自己设定进去写好的所以这个老鼠他就跟着这个机电器的开关就走那当然没什么真正的 AI 的成分了 OK 他就是做个玩具但是公关团队就让他这么讲那就这么讲了但是后来贝尔实验室还是禁止他带着老鼠到处出门被人看到就觉得说还是影响公司形象所以你看这个事也说明

向农为啥从贝尔实验室走还是觉得不自由毕竟是个公司去学校可能管我的就少了相对自由一点而且确实麻省理工也需要他我请一个大师来最起码真正场子哪怕供着他也有很多学生很多教授会来追随他的结果来了之后果然没人管我了玩起来发明了什么东西

发明了那种吹音乐的时候吹奏音乐的时候也能喷火的小号什么玩意儿经过各种改造的独轮车包括没有座位的独轮车没有踏板的独轮车两个人一起骑的独轮车没有踏板他怎么往前走感兴趣的可以研究一下反正就是让你觉得很新奇的独轮车

升降椅可以直接把客人从他家的走廊送到湖边魔方机转魔方的机器下棋的机器大大小小的各种各样的手工机器人他自己那也是杂技高手他是独轮车的高手可以看一下他在 MIT 的一个视频小雷感受一下可是太爱独轮车了

这怎么就是马戏团啊一边骑着独轮车一边这个叫 Jugging 就是杂耍嘛杂耍对他就是特别喜欢杂耍这大哥真是太自由了太喜欢玩了 1960 年的时候他跟一个学院里的小年轻一个年轻教授两个人买了一台 1500 美元的轮盘赌盘赌盘机就赌博机他们要干啥呢拆了他们要拆了研究怎么出老千哈哈

他们想做一个精细化的电子装置可以预测轮盘赌球他赌球不是会停在一个位置吗你就赌那个数吗他预测会停在哪哇这可以做吗最后造出来了一个装置跟烟盒差不多嗯

把它放鞋子里边鞋子里边有个 V 型开关当这个赌球机开始的时候你打开这个开关有条线这个线连到你耳朵上有一个 V 型的扬声器扬声器上面还贴了头发就伪装起来就你这个时候能听到哒哒的声音这个哒哒的声音是有规则的你基本上就能听到球大概停在哪了做了这么一个东西然后就能作弊了两人商量说怎么

赚大钱后来在两个人的老婆的劝说下说你们这个要是去了你就出不来了去是可以的但是我告诉你黑手党你们是打不过的他们两个人想着想还是保命要紧然后就算了但是如果你搜资料就会发现世界上第一台可穿戴计算机就是香农发明的就这玩意了就是这个东西哈哈哈哈

出于这样的毫无科学理论里的目的竟然还是推动了计算机行业的发展就玩驱动的一个设备这些玩具发明之外他亲自体验各种各样的杂耍刚才咱们看到了独轮车还有啥扔球都是专家而且他愿意自己发明杂耍比如说他找自己的本科学生你来我家把他吊到卧室里倒着抛球看这个抛球能不能做出一个更新型的动作来

然后他自己说就是为什么喜欢杂耍因为杂耍是一种独特的物理运动这里面物理规律很有意思他甚至还写过有关杂技的各种数学问题的论文然后包括这个抛球刚才看到他也一直在练抛球他也做了一个能抛球的机器人能三球抛街

说实话可能机器人扔的比他要强他虽然爱玩但水平也就那样你看到的是年轻时候的他年纪大的时候还是厉害的通过不断的练习一万小时定理发挥了作用是

香农其实获了不少奖包括第一届的京都奖京都奖是谁做的是道胜和夫创办的道胜和夫当年想搞一个跟诺贝尔奖一样的一个奖励科学技术的国际大奖所以第一届就颁给香农了为啥颁给杂技艺人他主要颁的就是那种还没拿过诺贝尔奖的科学界的大师那个时候香农就是大师了但这个奖

香农觉得无所谓还有一个奖是 1972 年开始 IEEE 设立的香农奖就跟图灵奖一样香农奖就是信息科学和通讯科学界的诺贝尔奖香农奖的首届得主就是香农自己但是这个奖香农也觉得也就那样都看不上摆在家里唯一的一张大奖国际杂耍大奖赛

杂耍博士这个杂耍博士奖这是个正儿八经斯坦福大学颁发的当时他做访问学者的时候得到的非正式奖项虽然是非正式这个奖是正儿八经斯坦福大学承认的上面还有一些老教授签名的一个奖专门定制的这就是专门定制的小蕾可以看一下老乡农家里是个什么状态

哇各种各样的玩具啊而且呢这老头邪魅狂娟的这么一个淡淡的一笑手里拿着三个他就不是扔那个最早的球和橘子了扔的是类似于保龄球那种的那种道具扔出来挺好看的那种抛街的升级版的抛街球祥龙自己说啊我总是想单纯的追寻我的兴趣不考虑经济价值或者对世界的贡献我在毫无用途的事情上花了很多时间嗯

你看人家这个想法就是无所谓你们怎么你们信息论重要你们都搞缺我觉得这个重要 1985 年的时候香农突然出现在英国举办的国际信息理论研讨会上大家都震惊了这怎么说老爷子活着呢

所有人都震惊了没有人知道他活着因为他隐居了你看信息论创立都快 40 年了你看看这个理论的创始人出现了而且活着很多人都看活化石一样看着他当时研讨会主席回忆说他说那个情形是什么情形

就好比说现代物理学会上突然牛顿他老人家来了突然出现了驾临了那个状态相农当时去了之后整个人还挺精神的跟大家讲了几句话大家努力然后掏出了手里的三个球通口袋里掏出了三个手炮球真的我给大家祝个幸福

我给大家亮个相疯了真是那个现场大家觉得轰动了这老爷子太好玩了我估计相同老爷子就是想去给大家亮个相的这个会议的理论不重要但是这个会议大家看我呀那我给大家亮个相在家里实在憋坏了没有那么多观众啊

太有意思了 80 年代后期香农老爷子不幸得了阿尔兹海默症在 01 年去世了这个可是对人类的巨大的打击打击在哪呢平常怎么还多说起来你多用脑子你就不会去得阿尔兹海默症这怎么脑子这么好使的人也没逃了这一步那说到

他去世之前其实对人工智能还是一个很乐观的态度他当时是这么说的他说一旦机器打败了我们的大师写出了我们的诗歌完成了我们的数学证明管理了我们的财产我们就要做好加密

加引号的灭绝的准备这些目标可能意味着逐步淘汰愚蠢的 伤增的 好战的人类转而支持更合逻辑的 节约能源的友善的物种也就是计算机他是这么看待这个问题也是跟大众的看法不太一样人工智能威胁论的支持者对

所以你听他的故事就知道香农整个人他是非常低调的包括他后来跟他隐退也有关系所以很多人知道的并不多其实他的贡献并不比爱因斯坦图灵这些伟大的科学家小确实自己不爱抛头露面有一部香农传是 2018 年的纪录片电影推荐大家去看一下还是非常精彩的里面你就能看到他的杂耍镜头有真人吗有真人香农传就是纯纪录片纪录片

我们最后进入一个简短的第四章幼儿园从夏令营到幼儿园咱们最后稍微总结一下人工智能的早期人工智能我们想象成什么我想了一下可以比喻成

就是一个小孩长大成人让他从什么都不懂什么都不会的程度进化成一个成熟的打工人能去社会上找工作了你干活去可以干活了这个过程本来大家觉得好像挺简单的但其实非常复杂最开始的时候大家就觉得得教他学习吧那学什么怎么学一片混沌呢

这个时候图灵就说别管怎么教最后怎么面试我已经给大家想出来了大家就奔着说这个面试也就是图灵测试这个目标去 OK 现在有目标了这相当于就是说进入社会的面试准备好了标准有了

在达特茅斯会议之前呢大家就觉得会上讨论一下怎么教这个小孩是不是能讨论明白结果发现两个月实在讨论不出来所以这条路啊越走越长越走越长一走就是六七十年啊这个小孩在二三年啊也就是今年终于感觉上好像能又能多做一点工作了有这种状态了然后呢在这个过程中大家发现教这个小孩呢

他学的东西特别多就觉得是不是得分科对吧你得有语文得有数学得有化学这些学科吧这些学科对应的各种问题都是大问题举个例子其实就是刚才提到那些课题比如这个小孩你得听得懂人话吧你也得说得出人话吧

那就是自然语言处理和语意理解这个其实衍生出来非常大的一个学科再比如说你得能让这个小孩看到东西他得看到现实世界的东西那就是计算机视觉 CV 了光看还不行你还得知道是啥比如说人类的小孩看了几只大象再去动物园里看到大象这是大象这个计算机就不好办这是叫模式识别的课题我能识别到到底哪些特征能指向一个大象

这个其实对于计算机来说也是个大大课题再比如说举一反三的问题就你计算机你不能就死及应备吧你也得自己学习成长吧也得有经验迭代吧那这个就是机器学习那这个也很复杂

等等出现了各种各样的学科这些学科就是培养小孩的各种科目除了科目之外这些教学的老师们也就是这些科学家们对怎么教想法也有非常多大家想法不一样就是教这个小孩你像我们现在家长老师想法也都不一样有的觉得素质教育多一点有的就老虎凳辣椒水有的觉得注重理论有的注重实践你扔给他们让他们去尝试

这就是所谓的路线斗争路线斗争其实在后面变成了人工智能里有一个非常大的事情在早期其实是一片混沌大家研究的方向都不一样所以对于怎么交集起出现了三个学派我们稍微过一下三个大门派第一个大门派叫符号派符号派的主要观点是要制定规则研究原理制定

制定逻辑把所有的知识抽象成符号就抽象成一个对象大家想象一下你计算机不是要计算吗那计算的对象到底是什么我把全世界所有的东西变成这种符号也就是说计算机这个小孩去学所有知识背后的公式原理等等的一生二二生三三生万物这样就能解决了问题了嘛

这种高度抽象多少有点信息论的核心跟信息论差不多信息论相当于是抽象成了计算机可以处理的对象对吧也是同样的方法包括图灵机也是这样的你只要实现了所有东西的符号化图灵机也能实现听起来是有道理的所以这个学派

叫符号派他们研究的主要是什么呢主要是认知科学就是先研究人怎么认知世界的就这个人为什么会觉得这个大象就是那种大象这个人怎么会知道计算这些数学题那背后是什么逻辑把这个逻辑交给计算机嘛这一派呢

在早期那就是只手遮天了我们听过的前面的人工智能创始人们明斯基麦卡锡斯马赫纽厄尔这四位后来大部分时间都是符号派的朝这个方向的

第二个门派叫连接派连接派的主要观点是啥呢就是这个计算机模拟人脑你看我们不管规则怎么样它得像人脑这样比较方便操作这才叫人工智能对啊就是我们学习人类所以他们关注的就是生物科学神经科学和心理学的东西

反正人脑的效果好了就跟我们教人类小孩一样这不就行了吗所以这个也有道理不过学派一直被符号派打压后面咱们的故事会讲到第三个派叫行为派行为派的主要观点是咱们别管内部那么多逻辑论计不论心那么多机制

对我就只看他怎么做的就比如说人类小孩怎么学习那不就是做对了给糖吃做错了打一顿当然打一顿这是不对的这是不对的这是传统思想现在提倡这么做班达铁温馨提醒您教孩子要有耐心因为他重点关注的就是行为就是你做好了给你讲做坏了给你逞用这种方式去推进所以这个学派被称为行为主义学派

当然了也可以换一种说法就是他们想让机器自己迭代就是你改一改你自己想办法改改完了我告诉你改的对不对所以听起来就很像进化论所以这个学派也被称为进化主义学派

那这三个学派呢各有各的理儿互相谁也说服不了谁因为这个时候也没什么实践经历基本上就是因为相信所以看见就是大家信这个你就做这个了最终还得结果说话是那这三个学派呢后来成为了人工智能大厦的三根基座后来每个学派都是逃离满天下呀咱们这个章节为什么叫幼儿园呢是因为说到这个 50 年代相当于就是人工智能整个时期的幼儿园水平是啊

这个小孩也没什么学科也不知道怎么教反正就是能学点试点吧先拉扯着拉扯着

那接下来的故事呢就越来越精彩了这些老师们呢是你方唱罢我登场十年河东十年河西特别精彩嗯你就说前面说的麦卡锡明斯基司马赫纽厄尔嗯好像都是符号派嗯但是在符号派内嗯他们也有什么建宗和契宗的哎呦这个纠纷啊麦卡锡和明斯基他俩是搭档是一条直线的嗯

司马赫和纽威尔他俩是搭档他们还有路线上的争论这是咱们下一期要聊的重点本期就不展开说了这正是图灵开天香农辟地达特猫斯创世纪符号连接行为主义三大门派对台戏好

咱们那个板又找不着了回头找找回头就把它放在我们的工作室把它焊在桌子上焊在桌子怎么拍今天有一个片尾曲片尾曲怎么选的是因为香农老前辈特别喜欢听 Blues 爵士乐尤其喜欢听 Teddy Grace 这位歌手的音乐

当时他在贝尔实验室的时候就整天放着这个音乐去研究他的信息论所以今天我们也放一首 Teddy Grace 的 I've given a fancy to you 是谢谢这首歌为信息论为人工智能的发展做出的巨大贡献大家听的时候也可以共情一下就回到 50 年代

回到香农创立信息论的状态好像有一些明明中的共鸣确实特别的振奋人心当中听到好几个地方特别是听不懂的地方的时候就觉得非常激动当下听不懂你要再多思考一会儿我们半打铁虽然是一个相声节目娱乐节目但是也希望能够更多的有启迪人心的这种机会就像苹果的编辑老师希望的那样是我们

期待能在科普一点的同时让你产生兴趣对这个信息论真的感兴趣可以搜一下什么香农的三大定律对看看香农的杂耍表演对对这个我们起一个让大家大概知道怎么回事的这么一个作用说不定我们的听众当中就有幼儿园小学高中生听完之后真的就萌发兴趣去搞这个了

是那我们舔着脸说也相当于为中华之崛起为人工之智能剥下了那么一些小小的若有若无的种子当然有人剥种还得有人浇水才行是前面永浦已经浇了十七了下面谁来浇呢对如果各位在听的朋友有对冠名半拿铁或者你们身边的朋友或者你所在公司的市场部的朋友有对冠名半拿铁有兴趣的

欢迎来垂寻或者说觉得我们大的方向跟咱们最近品牌的计划和发展方向有不谋而合之处的我们也可以来合谋一下看看一起能够碰出什么样的火花是当然了这个不影响我们继续的给大家产出内容不影响我们继续的学习也不影响各位听完之后觉得

合适你身旁志同道合的朋友他们会喜欢的顺手分享给他们如果喜欢半拿铁的话也欢迎在小宇宙苹果 podcast 网易云音乐喜马拉雅 spotify 等平台订阅和收听我们那么半拿铁 39 期下期我们下期再见 I've taken a fancy to youI took but a glance and I knew

There's something about you that pleases the eyeIt makes me sighI wonder whyI've known you forever it seemsYou've shown up in all of my dreamsBut now I'm awake and my dreams have come true

i'm full of romance and i've taken a fancy to i owe you

i've taken a fancy to youi took but a glance and i knewoh there's something about youthat pleases the eyeit makes me sighand i stood around and wonderedwhyi've known you foreverit's you've shown up in all of my dreamsbut now i'm

中文字幕志愿者 李宗盛