Shownotes Transcript
您现在收听的是由神经现实著名的播客节目《神经漫游》神经现实专注于神经科学、认知科学和精神病学等领域的深度报道和前沿解读关注微信公众号神经现实获取更多新鲜资讯六次星 地球大炮 第二章
那些人把沈华北塞进汽车他们也都上了车在车开的同时车窗的玻璃都变得不透明了车是自动驾驶的没有司机前面也看不到可以手动的操纵杆件一路上车里没有人说话仅仅是为了打破这令人窒息的沉默沈华北不安地挪挪身体与他拉开一条风
这时他的手臂无意间触碰了车窗下的一半扭窗玻璃立即变得透明了他向外看去发现这辆车正行驶在一座巨大而复杂的环状立交桥上桥上挤满了汽车车与车间距只有不到两米的样子这景象令人恐惧之处是这时并不是处于塞车状态
就在这塞车时才有的间距下,所有的车辆都在高速行驶,时速可能超过了每小时 100 公里。这使得整个立交桥像一个由汽车构成的疯狂大转盘,他们所载的这辆车正在以令人目眩的速度冲向一个岔路口。在这辆车就要撞入另一条车流时,车流中正好有一个空道在迎接它。
这种空挡以令人难以察觉的速度在岔路口不断出现是两条端极的车流无缝的合为一体沈华北早就注意到车是自动驾驶的人工智能已把公路的利用率发挥到极限
好,您现在收听的是神经线是出品的播客《神经漫游》我是 Hannah 我是熊亮子我是杨润哲那我们今天是主要来聊自动驾驶我们希望先从科幻小说一些节选来开始开头会念一段刘慈欣的小说但是我们想先从熊亮子他对自己的一个科幻小说的构思来开启这个话题
神武你來說一下就是你受啟發的是誰的小說然後以及你是怎麼構思一個科幻下的自動駕駛吧是這樣的其實我之前自己構思的科幻小說的話是受到的
一位比較知名的科幻作家當然大家都可能讀過他的作品就是《星球大戰前傳》的作者喬治·盧卡斯他那一本是《幽冥的威脅》裡面就提到了《安納金:天行者》是怎麼樣
是一個怎麼樣特殊的價值者是在對人類本身比較不利的這個經態中獲取優勝的他是通過原力來感知的那這個預視不覺量子力學在這裡就變成了預視不覺原力力學大概是這個樣子但其實我們可以發現他這裡對於自動價值或者說價值這件事來說優勢方在於
它有更多的感知的信息可以讓阿拉金知道像它後面也有提到一些什麼更多的嚴格更多的觸手去操控那我們可以簡單的歸納為有更多操作的空間或者說可以同時輸出更多的操作行為這件事情對於駕駛來說本身是一件優勢
我是这样理解的因为你说这一段对你有启发那你之前就是在构思自己的科幻小说的时候是借用了哪一部分的概念呢
是这样的我是借用了它这里的一个对于信息的输入那我认为如果说能够实现完全的自动驾驶就是说等级五级的自动驾驶那意味着这个自动驾驶的智能体能够判断出很多复杂的功能完成很多复杂的思考
那就意味着它其实跟我们这种人类的心智是比较相差不大的或者说我认为它具有成为整类心完整的人类心智或者智能的这种潜能
那我构思的结果我构思的小说大概就是指偶然的巧合一个自动驾驶得到了人类的身体然后逐渐学习成为人类的故事虽然说我还没有写完但是构思是这样构思的那他是怎么样成为人类或者说怎么样一步一步从一个开车的司机成为一个真正的人类这个我认为是我这部小说的有趣的部分
对然后你刚刚提到就是说在这个科幻小说的情景里面这自动驾驶它是拥有接近人甚至是超越人的感官系统的但我们事实上见到自动驾驶很大的一个问题就是它在感官上首先不是很灵敏这种感官上缺失其实让它在做很多道路上判断的时候有很多问题我前段时间读了一些
然后有一篇 2018 年路透社的一篇报道是说自动驾驶的缺陷是说他很难能确定路上的物体是在移动还是在静止他没有办法检测到行人究竟是要过马路还是不过马路并且经常会因为一堆静止的自行车出现而突然踩下刹车我觉得这个可能是一个感知上的一个问题
但我很好奇的就是說即使是自動下游汽車它擁有了充分的感知它能夠做出像人那樣的直覺性的判斷嗎它能夠用一個眼神或者是看某一個頭轉動作就能判斷出道路上的狀況
這一點正是我想說的因為我認為自動駕駛沒有做人的這種經驗他不知道人類做出什麼樣的肢體形態是在看頭觀望還是說是在扭頭接電話或者說他脖子比較癢那這個時候如果說直接像採取這種根據以往的經驗判斷那可能第一個人是脖子癢第二個人可能是有緊急症
那第三个人可能是接电话这个就没有办法形成连续的经验就是在我看来是这个样子的如果说通过这种经验来积累的话是没有办法积累到可以直接使用的经验的我是这样认为的嗯
我觉得还是可以做到的就人为什么能够判断那个自行车是禁止的为什么我们能够判断路上的一个行人他有这个摆臂动作他是向前走而不是向后走我觉得很大程度上取决于我们对这些事物有一些鲜艳就是因为我们大量的观察告诉我们如果那个自行车的轮子在这一段连续的时间之内它没有转动那它就是禁止的
如果人摆臂的方向是向前如果我们观测到了一段位移在这段连续的时间之内经验告诉我们人是向前走的我觉得人和机器没有在这上面没有本质的不同
就是大家都是靠这种大量数据的学习来获取这样的知识但是就像你刚才说的就是机器能够学习的数据点非常有限而且我们也不能期待说机器能够总是能够 sample 到那些好的数据点就比如说你刚才非常有趣的那个例子关于扭头
到底是脖子痒还是颈椎病还是他有这样一个 movement 的意图但是从一个大的数据范围来说人之所以觉得那个人扭头是想要传递这样一个运动信息是因为我们历史上的各种观测给予我们这样一个经验判断如果机器要能和人做出类似的判断
机器就也应该像人一样能够犯错就是人有时候也分不清到底是你说的这种脖子痒或者颈椎病人会把它理解为一种运动信息人有时候在这个视线比较模糊的情况下当光线不是很好的时候你也分不清前面这辆自行车到底是不是在运动但是所有你的观测都能够结合你的经验去 support 你接下来的一个结论
那为什么今天的机器学习不能像人一样完美做到这些事情我觉得主要原因还是因为数据量不够因为我们才开始做这样非常伟大的幻想才开始做这样的落地我们才从现实中收集这样的数据
而且我们过去做这种视觉信息理解基本上都是和时间无关的我们在图像上特别有经验但是对于这种连续的图像对于视频中的事件理解这些技术也还在一个发展当中但是本质上差别不大它都是从一个大规模的经验当中提取所需要的信息
所以从小汉娜刚才说的这属于一种感知的任务而且今天的技术我觉得是可以成熟到解决这些感知任务的
但是有大量的 edge case 人也不能做得很好我们也不能奢望机器做得很好那么在这种不确定性面前为了确保这个系统的安全性那就必须要牺牲一些效率就比如说看到一辆出行车当我不能 predict 它是不是在移动的时候那我宁可停下来而不是冲过去就我觉得这样的一个角色对于人来说也是合理的我对这个技术层面还是蛮乐观的
但我有一个问题就是你觉得你刚才说到这些感知如果它真正达到了我们得到足够的数据量让它能够做出有足够的信息来做出判断它依然能够达到人的或者说近人的认知水平吗
因为我们在交通上的时候我觉得这个就涉及到一个叫 theory of mind 的东西我们人和人之间我们是怎么去判断对方的意图比如说你拿这把刀是要伤害我还是你只是想切水果或者是说你往我这边走你是要走过我还是你要来攻击我这种对他人意图的判断以及相信对方是有心智的他会有某种意向性因为比如说
呃一个足球它朝你滚过来它当然是没有意图的但是一个人朝你走过来它可能是有意图的这种心智理论它是有三个级别的之前科学家是在黑猩猩还是在呃
某种窝心性的神经系统里面发现了一个叫镜像神经元的东西然后这个东西是他在看到饲养员做出抓取食物的动作的时候他脑内这个神经元会亮起来大概就是说他能够判断这个饲养员去抓的这个意象性这个细节我就不准说但大概就是说这种对另一个人意图判断和推测的能力
是机器有可能拥有的吗就 serve my 这件事情很有意思而且我觉得他还是有争议的包括你刚才提到的
这项审讯员其实也有一点点争议性就是他是否存在他的作用到底是什么但是就是要去揣测另一个制同体的意图然后从而使得我根据我对对方的揣测能够做出一个最好的决策我觉得这是一个非常实际的技术问题
不只是自动驾驶当中也有很多其他的 AI 的应用场景会碰到这样的问题比如说
你和 Siri 聊天 Siri 也需要判断你的意图是什么你到底处于一个什么样的场景你希望尽快结束对话还是希望尽可能多的获得信息就是他把你的这样的一种诉求当作他要优化的一个目标的时候他就不得不考虑这些信息
或者在一个博弈的场景下,当他的 payout function,当他的回馈包含了你的行为的时候,他就不得不去思考这些信息。很显然就这样的一种问题,它不仅仅是在技术层面上非常难解决,我觉得从理论上,它的解决形式是什么,什么是这种问题的最优解都存在正义。
像我们之前聊过的 level k thinking 它其实也是心智理论 suit of mind 的一种形式就 level k thinking 当中我需要去揣测在这个系统中其他的智能体它想多少层因为大家都会想对方是怎么想的
那反过来会用这个知识去揣测对方如果这么想的话我应该怎么想对方怎么想我的那这个层级就可以这样递归下去那估算对方想要几层就变成一件非常重要的事情而不是说想的层数越多越好因为在我们之前的那个例子当中如果只有你一个人报名的话你可能就离这个平均数偏差非常大
那在一个十字路口两辆无人驾驶车开过的是一个十字路口他们也要做这样的决策但是在这种情况下我觉得技术层面上来说我们是可以绕开这种心智理论的就为什么我们要去揣测对方为什么我们不能直接构建一种 communication device 我们让他直接做信息交换为什么不能设计一套规矩规则的 protocol
为什么我们非要在这些非常难的决策问题上面模仿一样做不到非常好的人的行为我是觉得从就是技术层面我们是可以绕开这些
非常难的问题但是最终我们是不是能够像人一样去解决这些问题我并不是就是从今天的我们已经有的东西来看我觉得还要走非常长的路但是如果从一个实际的角度出发尽快地把这些东西商用化那我觉得完全是可以考虑一些基于规则的其他技术而不是完全依赖于今天的 AI 技术那
那比较起这种个体车辆对路况的判断你觉得如果把它放到整个就是整个车流的系统当中也就是说不仅仅是我这辆车在判断而且我能够得到来自其他的自动驾驶的这些车辆信息它成为整个自动化的系统的时候这种判断会更容易吗就如果只是如果只是说我有 M 个模型
我一辆车相当于是一个大脑一种模型然后他们从不同角度去感知某一个外部信息然后做出判断然后最终这些信息汇总到某个平台上面我对这些信息做一个 aggregation 我做一个最终的判断那我觉得就是从信息的角度出发我最终决策因为收集了更多的信息它可能会更加准确但其中会涉及到一些另外的
就是包括你怎么去做这样的协同它其实并不是一件容易的事情因为你是一个分布式的系统就你希望最终的决策落到每个车身上它是一致的就是虽然你能够通过这种方式得到一个更精确的预测但是你并不能保证
你通过这样一个系统可以让整个车网络能够协同一致他们如果其中某辆车因为故障违背了你的这个 synchronize 的整个机制那你应该怎么去应对这种情况
如果你完全把每辆车的决策依托于这个平台而如果有辆车失控的话那你如何去解决这种路况性的问题我觉得会有其他的挑战在里面但是我觉得这是一个好的思路而且今天大家也有技术条件去解决这些事情因为 5G 的到来很多计算它不需要本地化就以前当我们通信条件非常受限的时候
我们是需要把很多计算放到每辆自动驾驶的车身上去做的因为我要对我的路况做实时的反应我的决策要有及时性我希望我接收到的这些信息我的传感器我的摄像头收集到的这些信息能够在本地被非常快处理然后传给车辆的控制系统
但是今天因为我们的通讯成本降低了就是 5G 可以让这些信息这些视频信息这些非常高维大量的数据传到服务器上然后我们可以在服务器上做统一的计算再把计算结果通过这个非常快的通讯手段发挥到车辆上
所以我们就可以把这种本地计算移到云端是有条件做你刚才说的这种信息的整合的就是随着 5G 技术的到来然后这也会节省很多的成本我们不需要为每辆车配备非常昂贵的这种计算的芯片我们只要让它能够时刻保持非常好的通信能力然后把所有的计算移到云端所有的协同移到云端
但同时协同并不是一个简单的问题就是它还需要另外的一些机制去保证它们不会出错关于论则提到的这个云端计算就他认为可能是非常复杂但实际上我们在生物学或者说是在生物的行为上面可以观察到统一行动或者说表现出来这种集群的运动并不需要非常非常复杂的实践
甚至說有一些魚群像沙丁魚群生物學家研究牠們的形容會發現牠們只不過是跟隨左側或者右側的魚選擇更多方向去行動然後去形成一個比較巨大的沙丁魚群這樣的一個群體形容就是我認為可能不一定要像我們這種完全的異地
计算机的构架或者说是一个云端的构架统一指挥它而是说要适时的利用一些行为规则或者说我们车辆之间的行为规范像有一些道路上的规范比如说分流还有其他什么的那其实更多的情况下不能偏离我们道路或者说是自动驾驶的使用环境去单独的讨论这只是一个计算问题
更多的時候我認為可能要跟道路學甚至說跟交通規劃配合起來編一個簡單的規則規則之內就按照這種
就簡單的去操作就好了那雲端主要負責規則之外的這樣一個突發情況這樣的話一方面可以減少這種運力的消耗算力的消耗另外一方面的話就是效率可能會更高一些然後不像那種完全交由平台計算這種
我是这样想的而且之前我看到一个推文这个应该我不太清楚这个到底是谁研究的就是蚂蚁的话在通行过程中表现出来刀虏利用率是比较高的是蚂蚁的话它有一个
群体性原则就是以群体目标导向就让他们不会过度的去拥挤或者是拥堵造成拥堵的话效率肯定会下降就是他们是有集体目标那集体目标和跟随左侧或者右侧较多的鱼这样也应该是属于群体规则的一个部分就是说论则它可能比较偏向技术解释
或者技术解决就算力不够就继续追算力然后有即时通讯的话就有更好的平台去计算这个结果但实际上反观我们
现实生活中不是特别需要虽然说人可能驾驶的时候是不是特别完善甚至可能会犯错有酒驾或者渡驾 匹牢驾驶但实际上可能机器并不需要超越我们人的算力非常多就可以做到这种自动驾驶的表现我是这样想的我觉得你说的非常好其实我刚才也是这个意思
就是 Hannah 说能不能把信息放就是做一个 abrogation 做一个整合然后我觉得是可以的并且它能够给我们更好的预测但是难点就是做这种整合不利于我们做协同
就你刚才说的就是利用这种 local rules 就是利用这些局部的法则会涌现出一些非常好的整体机制就这恰恰就是整个计算的难度所在就是因为像这种 local rules 它其实很难说什么样的局部法则会涌现出什么样的整体现象就对于一个多体系统它的局部法则往往非常简单
但它涌现出来的整体结构往往非常复杂所以我们认为今天的物理就不过是一些微分方程但是我们试图去连立一些微分方程的时候我们发现我们解不出来就我们不知道它的整体情况是什么样的
就恰恰是这些东西是我觉得整个设计中最难的地方而且他并不能由我刚才就是说信息整合这件事情来完全做到你的这个思路的确是就是受生物启发然后我们是不是能够想一些简单的法则简单的交通规则然后在这些规则之内整体运行的非常井然有序
我觉得这个思路肯定是对的而且这个思路能够帮我们减少很多的决策负担但问题就是怎么去设计这些规则毕竟受生物的启发非常有限我们车辆的运动并不完全像蚂蚁的运动一样因为蚂蚁的运动你很难说它的目的性是什么
而车辆的运动还是要强调乘车人他的一个目的性的就比如说你要从 A 点到 B 点你怎样让你的这个路径和整体的法则一致你怎样让你的这个目的性也是整体涌现机制的一部分如何去从这个大的目的性出发设计小的这些 local role 我觉得都没有一些成熟的手段而且会是非常难的这种复杂系统的问题
所以你刚刚说的是说如果我们要设计一个 local route 首先最难的就是我们在什么都没有的情况下人工要怎么样想出这些可能会非常复杂的你说的可能是结不出来的这些计分方程但局部是简单的就是我们希望构造一些局部简单的东西去实现一些整体复杂的机制就包括在一个十字路口现在我们有红绿灯做这种同步机制
但是事实上如果我们要思考一个更高效的交通规则的话它完全可以是一步的不需要这个方向的车等待那个方向的车先经过然后我再经过如果我能够实现这种完全我能够充分地利用我的计算的话我可以做到一步的通行就是我紧跟着那辆车的屁股我就钻过去了我不需要等待一个红绿灯
我不需要这边的车流完全保持一致我能够最大化我的交通效率能够最大化我的车流量但是它依赖于一些简单的局部法则去实现这种非常复杂的整体性质这种简单的局部法则是什么我觉得蛮难找
现在的方法基本上是我固定这个简单局部法则我受生物的启发我受鱼群的启发受蚂蚁的启发固定这些简单的法则然后是用计算机去模拟这个动力系统我看看它会无限出什么样的结果但很多时候甚至这样的系统它都会有一些稳定性的问题
我觉得这里有一个悖论就是说你刚刚说这个情况或者说刚神乌说这种情况是非常理想化的当我们整个城市的交通网络全都是自动驾驶的车这个情况下每一个车都可以应用这样的 local rules 每一辆车都能够互相分享信息吧道路路况的信息
但是比较严重的问题就是说不仅仅是因为成本的问题可能还有政策上的问题没有办法做到整个城市都只有全自动的车除非你生造一个城市那这种情况下我们是不是还是需要可能说比较复杂的协作来达到让单个车依然可以做出有效的判断
我觉得这个问题其实比这个过渡阶段的问题其实比他的完全心态要更加难因为它涉及和人交互对于机器我们是有办法知道他的决策原理的对于人来说我们很难像你刚才说的我们真的要去用 serve mind 去 predict 这个人到底在想什么
还是怎么揣测我怎么想的就是这样的交互就和人交互的话而且还会带来很多安全性的问题就是和机器交互我最坏的结果就是我两辆车我刮蹭了我碰撞在一起了但是一个交通系统里面要是涉及到人
比如说这个交通系统里面还有大量的行人然后我的机器不能完美的 handle 你刚才说的比如说人是要向左走还向右走这个意图那我在这个人行到面前我就可能会犯错然后它造成的结果就会非常严重
我觉得这个问题会更难我甚至想象是不是一定要经过这样一个过渡阶段就有没有一种道路是可以先直接达到完全形态然后在技术层面再来考虑这个过渡形态提出这些技术挑战呢
因为像今天这些商用的无人驾驶技术他们场景其实也不完全就是这种民用车重用车就不像这种自动 Uber 这样的场景这个场景实在太难了它难不是说车开上路很难
而是他要应对的 edge case 太多了开到街上各种各样的事情会发生就街上有醉汉流浪汉然后就什么情况都会有走过的猫走过的狗就是一些你想到了想不到的情况
然后路上的石头路上的垃圾因为这些场景带来的非常多的不确定性所以他们很难真正落地那今天落地了的这些无人驾驶汽车他们都会去限定自己的场景比如说一些比较好的容易实现的场景就是在园区做低速的无人的货运就比如说我在一个会场我需要把这些箱子从这个会场 A 运到会场 B
然后我这个过程完全是低俗的然后我不需要有人参与然后我的路线是非常明确我的地图是非常明确的然后如果路上遇到什么突发情况我把车停一下就好了如果遇到什么最坏的情况我撞车了那我损失的只是我车上的酒我不会有任何人员伤亡所以我代价是非常小的
就是在这些场景下面无人驾驶可以落地就以今天的技术来说是可以落地而且的确可以带来一些价值就如果要人力去做这种货物搬运的话的确是比较费事还有就是高速货运这个场景也会比较容易落地因为高速上路况毕竟还是比起城市交通还是要好很多的
而且它解决一个痛点就是如果是卡车司机做货运他们其实驾驶负担是非常重的一般来说他们要进行这种长达十几个小时的这种开车然后他们要两个小时休息一次这是法律规定的这会付出一些时间成本而且疲劳驾驶危害也非常的大但是如果用无人驾驶辅助这些卡车司机的话
那的确是可以降低他们在开车过程当中因为疲劳带来的一些安全因素
然后如果用无人驾驶去代替这些卡车司机在高速上的驾驶我觉得也是没有特别大的问题的因为就是如果卡车出事了卡车司机不在车上最多损失了一卡车的货物但如果卡车司机在身上你反而会损失一条生命就是对于卡车司机的雇主来说肯定是无人驾驶风险更小一些
就在这些场景下就是他们都在这些比较容易落地的场景之中会发现他们都没有特别多的 edge case 而且他们是不需要人在车上的
但是如果是乘用车像 Uber 这种它是需要无人驾驶车载着你去一个什么地方然后路上出现了交通事故还要以你的生命为代价就就非常难落地所以我觉得是不是就是先在一个简单的情况下面探索各种完全形态能够探索的事然后再把人移到这个车上
做这种自动通行然后最后再把这个系统搬到这个更复杂的环境之下考虑他怎么和人做交互如果有的车不由机器开有人开那怎么办其实我觉得复杂性需要这样一点点往上堆而这个中间形态恰恰是我觉得是最复杂的他似乎挡在了我们通往那个完全形态的道路上
我觉得你说这种应用场景就是刚好是就我想提出的就是说的确如果是一旦是有人场景我们要面临的困难会大很多但是相反类似于在货车司机这个 case 里面就是很好的去年 11 月左右加州有一个交通规划师叫卡尔索普吧叫卡尔索普
然后他是提出一个构想就是他是支持新城市主义就是说他希望一个好的城市不是像刘慈欣或者是像王诺诺的科幻小说里面写的那样车头咬车尾啊然后车速非常高没有人容得下来全是车然后这种这种逼则的环境他认为更好的环境应该是一个呃
有很多步行街的然后空间非常宽阔的这样一个城市环境而他认为无人驾驶汽车应该应用的场景就是在整个城市就是在城市规划层面开辟一条专门用来给货车的这条道路就是用来输送城市资源然后这个方案它好像叫自动化快速交通
嗯
其实我觉得就是这位城市学家他只是提出了一个现阶段我们可以解决或者说有效解决的方案但其实自动驾驶解决不是说我们的货车有多低效而是说有一些意外像疲劳驾驶或者说是一些
驾驶员跟乘客之间发生冲突然后车祸这种事情就是他不是说是消灭一些不美好的事情然后留下另外一些不美好的事情而是说要把一些由人产生的意外降到最低像任哲之前提到的就是货车可能对其他道路影响比较低或者说
可能更安全但只是相对于司机来说那如果说我们在现实的道路上如果不采取这种专用车道的话那他可能如果说失控或者怎么样可能会波及到其他人因为我之前就有一个爱好了也不算爱好就是看那个小明不背锅这个 UP 主他里面就有很多这种交通事故包括潮池啦
醉酒了 车辆失控了还有其他一些精神病也去开车之类的还有另外一个是一个司机去园区道路上去碾压一个纸箱但是纸箱里面是有一个小孩的其实这个事情不但跟我们这种司机的状况有关甚至可能跟司机平时的教育因素他是不是足够谨慎他那天
出門有沒有吃足夠多的食物或者說他的膀胱裡面有沒有很多的尿這種不確定因素的話就是可能是希望去盡量去消滅他們的這樣的話就是這只是產生事故的一方面那另外一方面可能
是自动驾驶也不一定能够掌握的更好或者说我们已经有相应的自动驾驶辅助来帮助我们保证这个车辆不会失控像我们现在已经有的叫自动防暴服
这个叫 EST 辅助刹车系统它是相当于是 ABS 的一个升级版它可以防止你踩刹车之后出现的这种打滑然后摩擦效率非常低导致你车辆整个制动的效果
非常差的这样一个情况但实际上倒不一定说是真的我们要一步登天一步完成本级五级就是那种不需要高清地图或者说我们就是车随便你告诉他我要去哪然后就达成这样的目的只是说我们现阶段可能更关注的是先不要有那么多可以
可以避免的傷亡我是這樣想的因此的話對於新城市主義這種專用車道它其實只是解決了貨車司機的這樣一個問題那最根本的問題我想還是說對於人類駕駛員的制約還有對於他的一些明顯的刻意的報復行為像之前我們國家裡面出現過有一起應該是在昆明還是哪裡
他开了 SUV 去冲撞人群那这样一个明显的这种蓄意谋杀的行为其实是可以通过机器去制止的而不是说是我们这个问题要一步一步的去解决
那种非常非常高效的其实可能是这样一方面考虑吧还有就是说难点的话其实包括这种自动驾驶的难点也不一定说是要完全解决才能上路而且据我所知这个自动驾驶的话如果说你不去上路去累积它的就深度学习如果说你不去累积它的样本你不让它去学习的话
他可能在他出錯或者說真正遇到這種狀況之前你都不知道他是怎麼樣去判斷的像之前國內很多媒體好像都有報導說是 Uber 的自動駕駛還有其他一些自動駕駛
他没有办法应对车辆质量问题产生的失控比如说车辆突然爆胎或者其他什么样的就是因为他的样本是有问题的那这个情况可能真的需要去模拟测试或者说与实际的这种实际实验相结合刚才就是提到这个可靠性的问题
就是一方面是样本量的事情还有一方面其实和量本量无关我觉得是这种比如说用深度学习技术做图像处理它本身的一些内在的问题就无论你学习的数据集量有多大它可能都有这个问题就现在我们有个比较活的领域叫做 Adversarial Tech
就是不知道你们有没有听过比如说一只猫的图片原来神经网络可以非常好的分辨识别它这是一只猫然后写在这个图片上改变一个 pixel 改变一个像素我就可以让这一个
深度学习的模型 fail 让他预测这是别的模型就是深度学习做的事情其实就是在这个高维空间中我画一条 decision boundary 画一个我的决策边界那只需要就是我清楚我的这个数据点在这个决策边界的哪一侧然后我施加一个小的扰动我就能够让他越过这个决策边界
变成一个另外一个事物就一个模型它参数越高自由度越高这种事情越有可能发生而就是如果我们真的要用深度学习做我们这种自动驾驶车辆的视觉系统的话首先这个安全性就和呃
就变得非常重要这就像任何计算机系统它都有潜在被病毒攻击的危险一样就是让这辆辆车载着我们在路上开遇到了一个 stop sign 或者遇到了一个红绿灯但是有恶意的人改变了这红绿灯的某一个细节使得对于人来说我能够成功地认知但是对于机器来说我做出了一个完全相反的决策那就是非常危险的
但是从理论层面上面我们并没有特别好的去填补缺陷的方法如果我是用深度学习用神经网络去做我这样的视觉系统所以规则还是非常重要的我们不能完全依赖这种
黑箱这种深度学习技术我们是需要就是雇佣大量程序员去写各种各样死的规则去做这种 if else 的判断就甚至我们是需要一些 human in the loop 需要人参与到这个决策过程当中从现有的技术来看就我觉得自动驾驶虽然说是自动
其实如果让他可靠的话还是需要大量人力堆在背后一开始数据如何收集他需要一个买了昂贵保险的这个试驾员坐在副驾的位置上
让无人驾驶车带着他兜圈数据都是这样积累起来了我觉得在任何人工成功的人工智能背后都是大量的人力大量的数据标注员这种无人驾驶车副驾上的体验员然后包括后面就是无数的程序员大家期待的这个无人驾驶其实都是都是人力的一个结晶
那为什么就是我在这边看到那个新闻耗子开车始终我还是不太理解如果说一个非常简单的事情就是对老鼠来说老鼠都会开车了那为什么机器学习还需要这么复杂可以介绍一下耗子开车吗是这样的这个我也是看推文了是在中国科普
还有其他一些公众方向都有看得过是今年 11 月份新发出来文章它是通过一个分泌式的训练然后耗子它有一个相对于耗子的身体
适配过的一个简单的电动车然后他大概是四个小时就学会开车了虽然说有一部分的耗子不是特别出色但是他提到有两只大鼠很出色学会了在开车前大约一米多的距离
而且路径并不是直线而且他训练这个耗子去通过驾驶获取食物完成一定的目标所以就非常有趣那我觉得今天的 AI 技术完成会比耗子好呀
在这种模型环境下我们的 robot 能做各种各样的事情不只是开车我们还可以就如果你看过那些无人机的例子我们可以让它实现各种各样运动运算法然后通过强化学习我可以让它实现更复杂的目标我不觉得这只耗子战胜了今天的 AI 技术但无人驾驶肯定是比耗子开车更难的一件事
毕竟这个耗子无法把车开上正常的道路如果有一辆无人驾驶汽车能够通过老鼠的控制达到我们满意的这个境界我觉得这是一件非常神奇的事情就从某种程度上说明了开车需要的智慧程度只需要耗子这么高
那我们现在来假设这个刘慈欣还有王冬冬她们在自己的小说里写的这种全自动化的道路真正实行了你们觉得这样的情形会是什么样的那个时候除了在机器学习假设这个难关已经被克服了接下来可能还会遇到什么其他要补充的问题吗
其实我想到一个就是说像天气上的问题可能是因为如果是在国内的话国内南方的话可能就是没有太多遇到过可能也会有就是可能会洪水这样的问题但是就是说北方或者说像北美这边的话就会有类似于大雪覆盖路面这样的问题这些会对其
车辆判断形成很大的影响吗还是说这些可能是更多是硬件上的你的雷达够不够好你的传感器够不够好的问题我觉得如果是在一个客观小时候的语境下面我觉得这些是一些技术问题然后技术问题我们假设它总有办法被解决比如说这种气象问题大不了就是雨天我不开车
恶劣天气我不开车如果外面在龙卷风我为什么要开车出去我为什么要和自然走对就是我觉得就算技术达到了一个非常高的水平外面在刮龙卷风我们也能开车出去有些问题我觉得不属于技术层面和无人驾驶相关但是我们可能永远找不到答案所以我觉得这些层面这些问题大多来自于一些道德层面的事情
所以我觉得无人驾驶永远解决不了电车困境就比如说在十字路口我车速非常高然后突然出现了一个小朋友在我跟前然后如果我转向去避开这个小朋友我又会撞上另外五个人然后这是我当前仅有的两个选择我要么去继续执行我会撞到这个小朋友
要么我去拐弯我会撞到另外 5 个人要么我选择自爆会把我车上的人给给炸掉自爆是什么操作就是技术如果技术允许的话那什么是正确的选择谁该为这个选择负责嗯
这是这些道德层面的问题就我觉得不管技术发展多高都很难解决因为这是人必须要亲自解决的一件事他不能依托于任何技术替我们做这个决定这个是相当超纲的问题对就现在的说法就坚持难题先别说这个难题是真的就是很久之前这些家在想问题
还有就是路面上的状况会比简单的左边是一个人右边是十个人这种情况复杂多也比所谓左边是一个有钱人右边是一个穷人这种要复杂多当然你也不可能瞬间判断这个问题
但是就是说正因为是因为有希望实现自动驾驶这个情况下我们原先人可能想破脑袋也想不出来的或者是可能在直觉那一刻就做出以后就是能够做抉择这种问题现在需要用一个死的算法或者相对死的算法吧来把这件事完成肯定会有非常多的辩论我觉得这件事是非常就极为是非常难解决的
而且不仅仅是你刚刚说到就是说这是谁的责任问题究竟是这个造车的这家责任还是设计这个算法的程序员的责任还是这个自动驾驶的这个老总的责任还是这家人的责任这些我觉得都完全超纲了就是不在我们的
能够解决的范围之内嗯我有一点个人想法其实这个问题也可以用技术方面去规避或者说避免也不是说是一定要先让你做出这个杀 50 救 1000 或者这样一个两难抉择或者是电车问题这样一个困扭而是说电车问题的这个前置是有一个我不知道从哪里出来的熊孩子对吧
你就是说这种变量吗?不确定因素变量是怎么来的?我们去消灭这个变量不是说把这个熊孩子物理消灭而是说我们可以设置一些障碍比方说熊孩子爬不了两米
或者說不用設置障礙,我們去放置一些攝像頭,或者說不是說是置於車輛本身的攝像頭因為車輛運動的時候也會有視野局限,也會有盲區,它是置於街區或者是其他一些地方
如果說有熊孩子翻越了兩米的圍牆假設翻越兩米圍牆之後車上的所有或者說道路上所有車輛都會得到警示消息有一個熊孩子出現在道路街口不要自爆也不要去撞別他把車頭慢下來
那這個情況實際上就是對信息的一個匯總或者說是從不知道從遠處的信息的一個處理結果那這個我相信如果說有什麼比人類更適合這種的話那肯定是計算機更適合處理這種兩公里外有一個熊孩子翻閱欄杆請適當減速這樣更適合了所以說
可能机器或者说自动驾驶更适合通过这种处理我们不知道的信息以及不知道从更远处地方来的这种信息还有跟其他一些车辆更高速的去交换一些已有的信息这样的信息可能更适合自动驾驶或者说机器学习
驱动下的自动驾驶去完成这样一个驾驶过程就我们可能之前一直讨论的事情都比较偏向于我
就人類經驗來說自動駕駛應該做到的一些方式但實際上自動駕駛它不應該跟人類駕駛完全一樣甚至說不是特別需要去理解這種或者說特別需要去以人類的方式去驅動車輛行進它可能像
楊潤澤同學之前說過的可能有一個人在開有一個機器在開但是機器在開的車我們假定它是完全已知信息的人的話我們假定這車上有一個機器的副駕駛他知道這個人他踩油門的角度也知道這個車輛給油給了多少甚至說我們可以利用一些已經成熟的技術像奧迪
以這輛車起的話它有一個比較高端的叫做自適應巡航這樣一個功能他說在 60 公里以下的時速駕駛員可以完全拋棄方向盤也不需要保持注意力
这样的一个技术用来监控这个人踩多大油门或者说这个机器给多大出力甚至说电动机像那个特斯拉这种纯电动的跑车给出多大速度来讲是完全没有问题的甚至驾驶员自己都不会意识到自己的操控车辆这个行为是被优化或者说是被计算过的因为我们现在都知道嘛有很多汽车都是全自动挡而且它的
电控的油喷是控制它不会熄火也不会说是有很高转速甚至说有自动辅助的转弯和防爆子系统这种辅助转弯的各种各样的辅助但是我们并没有察觉到这个车辆不受控制
所以说这个也不完全说是一定要通过算法怎么样怎么样去优化它而是说可能更多的情况下是偏向实际甚至说可能要跟道路设计还有道路的交通标识牌去联合起来做这样一个事情的
毕竟我们不是生活在真空中那怎么样去设计怎么样去协同甚至说怎么样跟我们这些技术层面上的驾驶规则与道路设计方面相结合我认为就据我所知是我没有了解到有很多车企在做这个事情最多的是怎么样去让自动驾驶的车辆去学习路边的标识是怎么样就只是简单的这一个步骤
所以说道德层面问题不一定有解决方案但是技术层面上可以把道德层面的问题消灭于萌芽之前就不要有熊孩子出现在道路上或者说知道熊孩子什么时候出现这样是最好的
也不至於說是一定要讓某個人撞了車之後他就一定要背負責任那很有可能就不關這個駕駛員的事情也不關這個車輛製造廠商的事情就怪那個父母他沒有看好這個熊孩子因為熊孩子是限制行為能力人嘛那我就是這個觀點
我觉得你说这很有意思就是不同于说可能说将这种自动驾驶的车流和人的这个生活环境完全割裂你刚刚讲的可能更像是我们行人和车要怎么在一条道路上共生的这个问题那可能在不是车内的一个问题它可能还有甚至可能如果科幻一点想那这个道路能不能为行人来警示你在这里的危险程度类似于那样
在这个公生问题我觉得它是涉及到一个城市规模的问题了还有就是你说这个情况更像是人去适应一套新的驾驶的生态就是一个并非人驾驶车的这样一个生态这个不仅是在你刚才说的车和车就是呃
整个道路系统上会发生其实我觉得在车内也会发生如果不管是像货车那样的情况还是说像是因为之前我们不是聊到说比较简单的情况可能是说没有人在车内来应用这个自动驾驶吗那我之前看到就是在日本那个无印良品它和芬兰的一个驾驶公司
合作了一个自动驾驶的公共汽车然后这个汽车呢它是在它的车内它的设想是它的车内会放置各种各样的你可以把它理解为移动商店它可能是一个移动书店移动的超市或者是移动的文具店类似那样但是它这辆车它就不再是一个交通工具它更像是一个流动空间
它从一个地方到另一个地方那你从 A 点到 B 点的时候中间这个车 C 不再是一个把你只是从 A 点送到 B 点的这样一个工具这个时候 C 甚至可以无缝连接把你比如说你 A 是从家里出来然后 C 就给你提供服务它给你提供比如说书店服务然后你一直看书然后到 B 点的时候然后它又无缝衔接到比如说某一个 mall 然后你就继续购物然后
你在搭另外一个公共车的时候它又给你提供另外一种服务我觉得这个它不仅会改变就是说我们适应道路的人的习惯它可能还会改变很多我们对空间的习惯这个时候可能这样的车它就和类似于地铁那样的公共空间是不一样的马克欧姐有个概念叫 non-place
大概就是说它有一类的空间它虽然在物理学上它是个空间它可能有几平方米但是它不是一个人和人社交的活动的它不是这种被构建出来的文化的或者是生活的空间它仅仅是一个用来交通的工具但是如果一旦有像
自动驾驶这样的技术真正的很好应用下来那我相信很多公共空间甚至是私人空间它的内部结构也会有改变它就不再是 non-place 它就是一个你真正可以在车上做点什么的这样一个场景这样的空间是的非常有意思回到刚才这个使用技术去推迟一些道德困境的道路来
我觉得这是一个很有意思的现象就是我们似乎可以用技术去避免很多情况的发生我们似乎可以构建一个非常完美的空间就是用技术去排除一些现实困难出现
但事实上我总觉得当我们在使用技术去完美化一些事情的时候那些技术之外的东西总会就是更加赤裸裸地呈现在这个世界里面就如果你要做道德决策如果机器可以代替你做这样的道德决策那你始终要面对的就是就是这个决策到底是怎么做下的就过去你可能是因为个人的偏好你玩
完成了你刚才的那个道德困境但今天如果遭过于自动驾驶汽车去做就是不管你是在一个怎样的环境当中你总会遇到这样的问题就一个简单例子就是路权你在这个城市中一切都是完美规划车辆有车辆的路权但是是不是身份更高的人他拥有更高的路权呢
它是不是就可以更高的时速开在路上呢当你们在一个十字路口相遇的时候它是不是拥有优先开过的权利呢就是这些事情因为技术使得它可能了使得你无法改变了它就变得更加的赤裸就是一些道德上的问题一些关乎人性的问题它就会摆在你这个完美的空间里面
我觉得技术上构造一个乌托邦就是大家的想象我觉得从古至今就没有断过但是大家在审视这样一个世界的时候就是会会想到很多人性层面不可解决的问题因为技术层面不需要忧虑了那些东西就变得特别的刺眼嗯
我觉得是的润泽是不是想说之前在美国遇到那些总统啊或者说是州长啊然后会分路然后就很不开心因为我还没有遇到过这种非常有权势的人然后分路然后我过不去的情况可能是我住的比较先吧我只是说想象这样一个场景毕竟路权是一个真实要解决的问题是
是的然后包括就背后这个资本怎么作用于这个制度的设计这些都是在技术之外的但是真的当这个完美的技术世界实现的时候那我们就只剩下这些问题了当大家注意力移到这些问题上的时候才发现我们对这些东西的设计实在是太少了以至于有很多非合理的东西在里面嗯
所以是不是存在某种科幻它并非是技术上的幻想而是一种人性上的幻想有非常多这样的科幻其实我觉得我不是很确定就是你们俩看科幻看的数量有多少然后我也不是很清楚就是你们看的类型是什么样的相对应的科幻可能就会涉及到更多技术问题但可能我读到过一些
也是讨论就是说当我们有了某一个技术以后我们再去面临它带来一些道德上的问题或者说我们原先是想用这个技术去解决一些道德上的困境但是最后发现事实不是我们想的那个样子我举个例子这可能有点跑题但大家就说这个也是我很喜欢一个科幻最大的太枪写的然后还有另外一个是那个
陈乔帆写的他们俩写的类似一点就是一个人写的是 Ted Chung 他写的是有一个审美干扰镜就是他大概是把你的神经网络里面识别人脸并且唤起审美意识的这一块屏蔽掉类似于想要达到人人平等的这个畅想然后另外一个陈乔帆写的是类似是写代孕市场
当这个市场真正商业化以后待遇妈妈和真正的妈妈他们之间的一些关系这里涉及到一些权利监控还有一些商业叙事是怎么覆盖个人叙事这些问题我觉得其实我们今天更多的需要这个类型的科幻
那些非常越科幻他的角色我不认为是科普或者是说仅仅是提供一个人类的图景因为这些图景已经有很多人在提供而且他往往不一定是准确甚至可能是误导性的但我觉得更重要的是就是科幻在带给我们的反思是他尝试在先一步这个技术实现之前先去考虑一些他真正和真的人有关联的时候可能会产生的问题
以及我们要怎么去思考那些甚至还没有到来的事情我觉得这个才是科幻最重要的一个角色吧嗯 伯伯说的特别好
是的,這本來就是科幻應有的制度提出一個現有技術可以總結或者說可以實現的一個假設然後在假設在這種情形下會出現的某一些矛盾或者是一些問題這個不光是軟科幻可能硬科幻也會有這方面問題可能不太明顯但其實這個就是科幻主要的一個前提或者說要素
你所說軟科幻可能更偏向於人之間的抉擇硬科幻可能更偏向於對這個技術原理的一種猜想或者是描述但無論是軟硬它其實都會對人還有我們人與人之間關係會有影響那至於什麼樣的影響是好的是壞的就要看作者本來的一些想法還有他的創作意圖
对我其实刚在想就是我想说一下王露诺那个全数据时代就是我贴上来了一段她讲自动驾驶的畅想就是什么一个人在静谧中被加速到每小时 240 公里然后飞驰的车成为了整个流动液体这个
但他其实全篇的重点压根不是这个他其实讲全数据时代就是有点就因为他是当代小说他相当当代他讲的是当所有人的数据就是全部被公开但但这个公开不是说你能看我的数据而是他是公开给一个公司一个巨头公司然后这个公司根据你的所有个人数据为你建立一个 profile 一个 avatar
然后根据你的所有私人数据可能这可能包括你的个人作息还有你的工作的职位拿的薪水喜欢的人然后身边相处的家人各种各样还有你的喜好之类的然后为你去设计每天的这个决策的这个参考啊之类的然后我觉得里面有一个就是非常现实的问题就是说有点像刚才杨仁哲说的那个路权的问题
就这个时候当所有人的数据都公开都是上传给这个公司了谁还有权利拥有隐私
我们在没有科技的时代隐私就是你不要进我的屋子就是你不能你必须穿着衣服出来你不能看我在浴室里但是现在我们这个隐私的这个界限已经扩大到很大了那如果在一个全数据的时代真正能拥有隐私的人可能真的就是最有钱的人那这意味着他们是用钱来交换隐私时间他这个小说里设定的是呃
比如说我想要这两个小时没有公司没有人可以追踪到我的行踪没有人可以读取我的数据那这两个小时是需要付钱的然后觉得这个畅想就是相当具有反思性的它不是只是说一个全数据时代会多么美好或是多么糟糕它是让你想已经如此真实的技术已经到你面前了再往下一步我们可能会遇到的困境或是我们想要规避的困境可能是什么
這個我認為是相當困難的因為據我所知或者說據我所看到的像現在人臉識別已經能夠
識別出來你的個人身份這種 ID 那聯繫到 ID 的話那實際上民警就可以查詢到你的相關的一些信息了條件已經成熟當然查詢的這個組織它不是一個公司或者說一個完整的群組
它是相當於說我們國家組織的一部分這個前提就扯遠了就扯到這種社會與人之間的關係以及我們是不是有足夠的隱私這樣一個事情
它是已經實現的而且正在發生的就是當然在這個作者寫這個小說的時候應該還沒有發生但是現在已經是實現就針對這個人臉識別到你的個人信息當然信息還沒有那麼精準因為我之前也有寫過一篇類似的
是一个工作在相当于托斯拉的这种保险企业里面的一个员工然后他购买了一款智能马桶智能马桶他会收集他表面上广告语是宣传说是会警示你的健康问题那实质上他暴露了这名员工
怀有身孕的这样一个事实通过检测他尿液里面的死性激素的变动然后发现了这名员工怀有身孕然后他就这个企业就以种种理由把这名员工开除了那实际上这个信息的话就牵扯到一个问题你使用的这个智能设备其实信息它会透露给你不知道是什么人这个信息可能做出来这种决策又会导致你受到实质上的利子啊
这个是我没有办法规避基础进步带来的恶果我觉得隐私隐私不是一个技术问题吗我觉得隐私应该是一种技术问题就像就是刚才说什么人脸识别我们有数据库然后警方能够用这个数据库去匹配人然后很多网站我们有这样的个性化推荐他收集了历史数你的历史浏览数据为你做个性化推荐
但是拥有数据者不一定真正的能够访问你的数据然后用你数据做研究做算法的人他不一定知道这条数据真正对应的是哪个人他甚至不知道这条数据的语义信息是什么就在技术上我们
有个领域叫做 differential privacy 就是说数据都在那儿但是我加了一些 randomness 我加了一些随机性到那个数据当中这些随机性使得没有人能够通过对比的方式知道这个数据对应着另外数据集中的哪一个人就没有办法通过这种对比的方式去识别你的身份是什么从而知道你的个人信息
但是这个随机性又保证了我的一些下游的算法我的机器学习算法我的其他的推荐系统的算法能够还是精确地做出预测它们的功能并不会因此受限就是在技术上我们是可以做到这件事情就是最大化隐私保护同时使得现有的这些机器学习的功能充分发挥
我觉得就这两者是可以同时实现的我觉得你说这个就是说的确技术可以解决很多我们目前遇到隐私问题但我觉得这里面有很重要就是信任的问题
就是你对于那些没有始终没有办法理解技术细节的民众他们不信任你这是一个问题还有就是你说比如说我们如果有 differential 的 privacy 事实上我们是可以做到安全的但是同样的事情就是
漏洞一定会有比如说同样是标准考试我都保证卷子上我看不到你的名字我也不知道你是谁所以我一定是公正的但是总是有后门可以钻就是总是会有这样问题当然并不是说因为有这些问题我们就不去做这个技术
而是说我们肯定是要不停地去面对这样的问题就包括像 Facebook 的推荐算法谁也没想到就是这个推荐算法居然会影响到大选但是它就是出现了我们还是要不断去面对这样新的问题出来的
还有包括就是我觉得可能还有政府的问题那如果我有犯罪分子可能在美国的情况就是如果有恐怖分子怎么办他们使用加密软件我究竟是禁止还是保持这个加密软件的加密我记得当时美国政府是他是想要去找到我有点忘记是哪个软件但大概就是一个加密软件他是希望能够好像是找到苹果吧
希望给政府开一个后门让他们能够至少得到这些恐怖分子的这个数据但是当时苹果是拒绝的一方面就是因为你给政府开了后门
即使政府真的只 track 这些恐怖分子但一定会有某种手段比如说黑客他可能就能够接触到这个后门即使这个后门不是给你黑客开的这个也是一个问题就是这些漏洞就是会不断地涌现这个问题是无穷尽的我觉得是不是聊得差不多了
我觉得生物的小狗需要被遛了那要不我先撤退你们俩可以继续可以了其实我觉得已经够了
您刚刚收听的是神经现实旗下的播客节目神经漫游神经漫游意在漫游神经与认知科学这领域皆是认知表象与内理之趣味由此连接业余与大众之智慧我们强烈推荐您使用泛用型播客客户端收听我们的节目这是第一时间听到节目并得到完整资料的最佳方法搜索神经漫游你也可以在网易云音乐
喜马拉雅、bilibili、HFM 和 Spotify 等平台找到我们