Shownotes Transcript
大家好 歡迎收聽思想實驗室我是國威我是聖威今天我想先問大家一個聽起來很有愛心但其實蠻殘酷的問題假設你有一兆美元是 我說一兆美元一兆美元嗎兆美元我可以買下我可以買下整個台灣了吧對吧 一兆美元美元台灣很貴加上
假设你有一兆美元那你要怎么拯救人类一兆美元很多啦虽然没有办法买下台湾显然可以做很多事情一兆美元按照我们之前那个搞笑肉比尔讲的那个说法
你还记得吗就是我们之前有一集说我们要把钱平均分配给所有的研究者这样才会有最高的研究产值出来所以我的想法就是平均分给所有人啊看大家会做出什么奇怪的事情哦所以我刚才问题说假设你有一兆美元要怎么样拯救人类你的答案就是直接把钱平分给所有人对是只有科学家吗还是平分给所有人直接平分给所有人不管他是谁然后
然后让就普发嘛对普发然后让各自各式本领开始来运用这笔钱 OK 好但假设今天这个一兆美元就是在你手上那这个一兆显然比我们中乐透还要多出很多很多倍而且是美元嘛对不对所以说这笔钱呢是足以改变世界的然后这样子的一个那么大的一笔钱呢事实上也超越了
大概现在世界上的首富然后也就是 Elon MuskElon 的钱好那假设你有这笔钱你会把这笔钱拿去救快要饿死的小孩比如说我们都知道现在世界上还是有很多的地方因为战争因为疾病因为可能自然环境的破坏还是有很多地方闹饥荒还是有很多孩子在处于危机的边缘还是你会把这笔钱拿去投资癌症的心药
还是你会把这笔钱就像我们今天要谈的主角 Elon Musk 一样拿去造火箭准备带人类远离地球也不是远离地球就是成为多行星物种
是所以这几个选项你会选什么呢今天我们要讲的其实就是马斯克马斯克他做的所有事情其实背后都有一个原则不管是电动车啊火箭啊 AI 啊脑机界面啊或是要到火星殖民啊等等他背后都有一个共同的信仰这个共同的信仰叫做有效利他主义是 Effective Altruism 那我不知道大家是不是第一次听到这个词盛威你有听过这个词吗我
我不知道这个词是这样翻译的我知道这个概念那其实这个概念呢我们待会会跟大家讲那不过从这个词本身我觉得大家听起来应该还蛮不错嘛有一
有效感觉就是要很有系统能有效率来做这些事情然后得到很高的效益那利他呢不是利己嘛就是利他听起来就是为了公共为了全人类但其实不是这样的因为我举个例好了就是我之前有跟一个
私底下跟一个作者讲因为他也是很厉害的一个就是在科学领域有研究有成果的人我跟他说你与其在这边做科普领这个钱你为什么不想想去做一个好的研究让所有人同情当然
你不是 我們不是編輯嗎 他們都是作者嗎 對他要幫我們寫文章 你怎麼鼓勵他不要沒有寫文章因為我覺得他 就是我要用一種委婉的方式跟他講說我覺得你不適合 我覺得他時間更寶貴對 我覺得你的時間更寶貴你要去做這件事情那我這邊我就是採取了一個類似這樣這樣有效力他就是其實你應該要去做更有更能夠幫助到人類的事情而不應該覺得你先想要做這件事就去做了
这种塑膈物也是重要的是我知道但有些还更重要对就像我们刚才说的有一兆美元你会拿去救小孩是拿去研发癌症信仰还是拿去开发火箭对什么判断所以最后那位作者怎么判断最后那位作者就真的回去做研究真的吗
被劝驳了大家到底研究什么主题啊我们可以透露那么多吗不行再透露下去就发现会对号入座了 OK 好所以我觉得大家
也可以想一下因为我们现在观察到马斯克现在所作所为他现在是找川普的豪迈几个是然后斗局那个对然后天天都在出没白宫然后甚至是有点代表美国扮演起一个国际领袖的角色甚至当然有人讽刺的说他根本就是地下总统是这个我们也大家也可以这样去认为他现在的确参与的很深然后甚至白宫他们就
就是说内部的会议他都要去参加这样子那所以这个有效力它从词面上听起来是蛮不错的嘛那但是我想今天要来讨论的一个议题就是说当我们说为人类好这件事情的时候我们到底是在帮人类还是只是要去让人类变成某一群人想象中应该要变成的样子那如果说马斯克眼中的有效力它
其实是不去理会现在正在死去的人然后把钱全部投到一个其实你我看不到结果的未来比如说让人类变成星际物种或者说创造一个超级 AI 或是干脆把人脑接上电脑等等变成不会死的新人类那
这是我们应该要做的选择吗或者说这个选择背后的哲学基础到底是什么所以这一集呢我们不只要来聊马斯克当然主轴的确是马斯克也要聊这个有效力他在背后推动马斯克做这些事情的这个哲学概念听起来很合理但他到底能不能真正的拯救世界那拯救那个世界到底是不是我们想要的还是说他会把人性逼上绝路
那最后当马斯克是用他的钱替人类做出选择的时候我们有没有说不的权利那还是说我们人就是然后就是活在马斯克的世界所以今天的思想实验呢首先就要来问大家如果你真的有一兆美元你会怎么拯救世界嗯哼
那当然你有一兆美元的时候就请不要回答说我要先买房我是买房买车这种低阶的答案我们就不接受好不好好 记录我们今天的重点我们先来谈一下什么叫做有效利他主义那其实有效利他主义呢还真的是从一个哲学课堂上延伸出来的一种思想
那大概是 2009 年并没有很老这个主题呢从英国的牛津大学冒出来创办人之一呢叫做威廉·麦克·阿斯基尔那他那时候其实是牛津的哲学系学生据说是一位非常非常认真的年轻人然后他就是会在想脚尽脑汁在想想破头在想到底怎样才可以最有效的帮助世界呢
你身边有没有认识这种人就是说他每天是在想这种事情我吧就你自己所以他就加入了半科学是 OK 那就是说麦斯基尔他自己有一个故事就是说他自己每天在想这些问题的过程中其实他也在努力的实践那我到底要怎么做才最有效的帮助世界那他一开始认为说既然要这样子那做慈善就是去非洲帮忙盖水井
感觉效益很高第一个这个有技术维度差嘛盖水井对于先进国家的人来说不难感觉有钱就可以解决然后只要一口挤其实它可以帮助整个村落产生很高的效益第一个可能妇女小孩不用
拔射几小时的距离去扛一桶水回来所以他们就可以去念书他们就可以去做家庭代工可以贴补家用所以说它可以延伸的效益其实很强的那这样小孩子可能不会容易得到霍乱或是一些其他因为水污染的疾病所以它延伸出来的效益很高所以到非洲盖水井到现在为止其实都是很多人投身慈善的一个
一个代表我们一直到近年都还是看到很多简易的滤水器就是为了保障他们有那个干净的水源可以用对对对那结果呢他发现他如果去投身做这件事情他一年最多救几百人是他就开始算这件事情突然说还没有效益可不一年顶多只能救几百人但是身为一个牛津大学的高材生假设他去华尔街当金融业者
他就可以一年赚几百万美金然后把这几百万美金捐给那些比他效益更高的组织让这些组织去救人那这样子他算出来一年可以救上万人对所以他后来就决定他就要去赚大钱然后再把钱赚出去没错你再把钱捐出去我后来跟那个作者讲的事情就是你赚了大钱之后再来投资范科
你跟他 dept 是比较高的他什么时候会赚大钱不知道但我从此我就是用这套说法讲了对 okok 所以这就是有效利他主义一个很经典的案例
所谓的赚钱捐赠 earning to give 那也是整个运动的开端其实大家可以去搜寻一下 earning to give 努力的赚钱如果你真的想做好事你就去努力赚钱你不要去当什么志工不要去什么就是什么挖水井然后什么
帮助老人帮助小孩到医院逗小孩笑这些都不要做去赚钱然后再把钱捐出来这样你可以创造你做一个杠杆可以创造更高的价格因为你可以拿到最大资源然后再把它投入慈善中对你让那些专业在做慈善的组织或个人来做这些事情专业代工我们说台积电感应的概念帮助人的业界里面也是有专业的好不好
所以这个概念就成为有效利他主义的核心不只是要做善事而是要做最有效的善事而且这群人很认真比如说有个有效利他主义者他们就像自我自我宣称说就是说我是一个有效利他主义者就像有人会自我宣称我是一个左翼我是一个右翼我是一个功利主义者我是一个理性主义者之类的我是一个女性主义者都有好
那这位有效利他主义者呢叫做 Toby OrdToby Alder 他立下一个誓言就是他这辈子要把收入的一大部分都捐出去而且他真的照做捐出去的钱比大部分人一辈子赚的还多那其实我们现在也看到很多富翁其实他们也都有做出类似的捐赠像比尔盖茨啊像这个巴菲特啊等等许多的富翁都有做出类似的事情
那当然一部分是避税那一部分是不想让自己的孩子就废掉对也是因为其实这个富二代富三代太有钱那整个人生就废掉了那很恐怖的所以
不过听起来蛮伟大的嘛对不对没有我一直觉得这件事情是合理的就是合理就是其实在有效力它还没出来之前这个词我没听过啦我必须说但在那之前我就一直有个想法是如果你一个人你一个人能赚钱的时间是有限的就是我们的工作的时长那如果我可以在这八个小时里面创造最大的
效益那应该要去创造最大效益之后再来想这个效益我要怎么分配它谁最公正的我一直都是这个概念的确所以其实应该说整个资本主义也是在 push 这件事情是人们就会去选择比如说做什么事情对我们的效益最大那就是当初那个社会企业的概念吧社会企业的确不确定但就是
就希望我们做好事要有更高的效益不要只是官僚化的又或者说就觉得说我们都只能在用小钱小打小闹这样子要么就来搞大的这样子所以
但是这个有效力它听起来跟一般的慈善很不一样比如说普通的慈善最普通的就是我们人积己积人逆己逆然后我们看到需要帮助的人我们就去帮忙比如说今天假如地震今天假如水灾那其实比如说发生在台湾我们会觉得说好难过对不对然后我们如果是也有余力我们可能去捐钱我们可能去当志工在那边帮忙
扛沙袋啊分配食物啊对不对然后这个主义就会遇到问题了我不应该去扛沙袋因为我体力比较不好对对对这时候呢其实就会有人出来讨论说其实你真正应该做的事情不是这件事情你真正应该做的是什么好 anyway 但是那有效利他主义的人他会马上逼自己去想等等
我现在有这个善心被激发出来我有一个强烈动机了可是我要等等我要算一下这笔钱或我的时间用在哪里能够救最多人那时间也可以换钱我们就是可以换算的所以他们就发展出一整套工具像是所谓的全球疾病负担数据其实这个在公卫体系上是非常著名的一件事情它非常的有价值就是
因为很多人会觉得说我要把这个国家的预算公共卫生的这个经费投入在某些疾病上面但是并没有去算说其实哪一个疾病如果我能够降低它或大量的去根除它的话它带出来的效益是最高的所以说后来就有公卫专家或是包括统计学家投入到这个领域
然后过去几十年发展出这个全球疾病负担数据去看哪个疾病杀死最多人这就是为什么比尔盖茨他会投入小马币跟霍乱去就是因为看了这个数据跟虐己对对对就是看了这个数据觉得说我要帮最多的人那我就投入这件事情上所以其实你看比尔盖茨也好或是我们今天的主角马斯克也好其实他们都有很很强大的这个有效利他主义的哲学在背后推动他们好
那再来就是所谓的捐款效益比我们做生意都有这个 ROI 嘛 Return of Investment 就是投资的效益你投一块钱可以拿多少钱你可以赚多少钱回来如果投一块钱只能赚 0.7 块回来你这个生意又别做了投一块钱只能投一块钱可以赚两块回来那感觉有点效益嘛对不对所以就我投一块钱我可以
救多少人那当然不一定是投一块钱可以救多少人但是就是你得要有效益你要去算出这件事情然后最好是能够不断增加的然后再来就是长期风险我们往长期看人类真正面临的哪些风险最大如果整个人类文明会被消灭的话那它显然是我们最应该要去避免的事情但是要看很长期
但是这个长期到底要看多长期我们待会再来看所以他们就成了一堆组织这个有效利他主义推出就一大堆人就投身于这件事情上面像是什么 give well 就是你捐款要捐的好就 give well 或者说专门评比全球慈善机构来去看谁的 CP 值最高就有一个排行榜
然后还有像是 Open Philanthropy 就是开放慈善像这样的组织他会去投资那些拯救人类未来的计划像是 AI 的安全基因编辑的风险生物武器的防范我刚才讲这些都是很有未来感但是你都会觉得说要是这个没搞好的话人类文明可能会
终结可是问题就是你知道这一整套说起来就是我没有办法去帮助我身边的人这是不是有点违背了慈善跟做好事的一个初衷呢对其实但是有效利他主义他就是要反你这个直觉就我们的直觉就是路边比如说我们现在看到那个斑马线有个伯伯摔倒了对啊好今天你是比尔盖茨你该不该去扶他
就服啊 服对因为你比尔盖茨一秒钟上下几百万美金所以你应该忽略他然后把这几百万美金拿去帮助更多人你可以拯救更多的人比如说交通安全或者说因为谁要因为这个死亡所以这就是一个很违背直觉的事情嗯好那当然我们今天主角不是比尔盖茨但我不知道为什么用比尔盖茨那
現在問題來了就是說所謂的有效利他主義從一開始就不是只捐錢而是把未來數十億人所謂的未來數十億人就是那些還沒有誕生的人把他們的幸福也當成優先的目標那問題來了就是當你越來越關心未來幾億人還沒有誕生的這些人的時候你可能就開始忽略現在的人就是我們剛才舉的案例所以這一點就跟伊隆馬斯克說的我要打造火星殖民地讓人永續
的时候他所说的这个背后推动他的信仰是一模一样的是因为他希望让人类的文明不要灭绝因为地球灭绝的几率风险是很高的所有的鸡蛋在同一个篮子里面是很危险的对不对那他就需要说让我们人类成为跨星系的物种甚至跨
跨银河 anyway 谁知道的对不对但是这到底是什么逻辑那我们要先来探讨有效利他主义为什么会从救更多人走到打造火星殖民地打造救还没出生的人对就是说这个中间到底是怎么跳的然后跳到现在我们觉得好像
好像很合理但是感觉好像来怪怪的对可是因为它已经实际上影响了你看整个美国包括全世界的有钱人因为有钱人他们在推动这件事情是所以我们要来看一个有效利他主义这个整个思想里面一个非常核心也非常危险的一个概念叫做长远未来主义叫做 long termism
就 long termlong term 远来长远未来主义所以所谓的长远未来主义的核心问题就是要拯救未来还是遗忘现在讲的还是一样的事情这点就是一样在刚刚的情境里面那所以为什么说它高尚又危险呢我们常常说做人要有远见嘛对
那最近川普在接受訪問因為最近美國的股市這個起起伏這個上下波動很劇烈那這個媒體記者也去問川普說那這個你當初不是說你上任之後我們經濟會越來越好嗎然後川普最近回答就是說我們要往長遠來看啊然後你看中國都是有百年大計的但是主要競爭對手中國都思考著 100 年為單位的我們美國都是以一計一計為單位的那個都看財報看季報
这样怎么跟人家中国拼呢所以他就是开始有一些这种说法所以这个长远主义渐渐的就是被放上台面那这是什么意思呢简单来说长远未来主义的逻辑是这样
人类的未来可能会持续上百万年甚至上亿年那活着的总人数呢会超过一兆人以上是因为还有很多人没有诞生这些人可能诞生在月球诞生在火星 We don't know 所以如果我们现在做一点努力可以避免未来的大灾难也就是拯救一兆人会比现在救几百人还要重要太多这个就有一个逻辑问题就是你不就现在这几百人为了还不会诞生那几兆人呢
可是对这边录音笔就是说这个其实很好解因为我们这些后续已经想过了因为我现在地球上有 80 亿人可是我只要舍弃几百人我的目的是为了救你怎么知道你舍弃的是几百人因为他回去算了
你能夠確定接下來的人都願意升職下一代嗎沒有我們可以很合理的推論人類如果變成未來的跨行星物種這個人類文明會增加或者說一代一代持續增加是好那呃還會有更多的人類會被誕生嗎是但假設人類文明就結束在這個時候是
后面的这几百亿几千亿几兆人就不会单身我的意思是说他的他的那个预算是指我们现在人类会正常的继续生育繁殖下去
但我们现在的各国数据不也看到我们的生育率在直直的往下逼对但是一样所以老师说你说的这点也是马斯克他常挂在嘴巴上他就觉得说人类快灭亡因为生的小孩不够多所以他身体例行生了 13 个还不知道 14 个好像 14 个了好像 14 个所以说还有其他几个我们没备案的我们不知道所以
他們的確是積極的鼓勵生育的啊所以他們的預想就是說未來其實人類這個文明還是持續的增加這個人數會增加的是好所以我們聽起來乍聽起來沒錯其實就像稍微再擴大一點的電車難題啊對對不對所以我們什麼議題擴到最後其實都是一個電車難題你今天要如果黏死這一個人可以救那五個人要不要黏死他
我碾死这五个人要救那一个人你要不要碾死他但现在的问题是你碾死了这一个人可以救五个你不知道会不会出生的人没有啊我们可以其实我们可以很合理的预期说的确会继续会有人出生啊人类文明只要不要断绝在这个时候会继续有人出生吧那为什么是牺牲牺牲现在的人呢因为现在人比较少啊
就这几百人所以以后人比较多他们就比较所以就可以算吧因为以后是几兆人现在是几百人但如果说对啊但你用整体人类的利益来这样算的话你不觉得有点怪怪吗那我觉得我已经讲很怪对不对对啊我觉得怪怪对事实上这个逻辑如果一直推下去绝对会很怪比方说我们刚才一直就说假设你有一兆美元这个假设嘛那你要拿这一兆美元
假如这一兆美元你可以很轻易的去救活一千个正在挨饿的人正挨饿快死了这个前胸贴后背那可能只要我们把它迁徙然后我们可以很轻易的给它一个安居乐业的环境还是你要把这一兆美元拿去避免一场可能会毁灭人类的 AI 灾难让未来的一兆人能够活下去
好今天这一千人可能在我理解东非的列宫可能在某个地方好那现在你有一兆美元你可以很轻易的做到这件事情还是你要把这一兆美元投入在某个 AI 研究机构因为你知道 AI 如果管控不好整个人类文明可能会灭绝那人类文明灭绝后面就是影响几兆人我我理智我理智上会告诉我要选的类灭绝啦就是后面这个选项对吧对但
如果是实际在行动的时候我会选第一个我只说为什么因为你说的那种大灾难人类不是没遇过我们拿 20 世纪初的粮食危机来讲那个时候我们还没有化学合成的肥料
所以所以那個時候的糧食產量非常低但也不就是在十幾年我們發現到人如果繼續人類的人口如果繼續成長我們的糧食是沒有辦法再繼續支撐我們的最下的綠色革命對所以那個時候開始有一個 greenhouse 我們那個原本的那個所謂的 greenhouse 的概念其實是說是做一個文獅讓糧食的產量增加那後來有了這個化學肥料之後我們糧食才真正得到穩定跟充足的那個
而攻擊那其實也才短短十幾年就我們其實可以預測到大概 30 年內會發生所以如果我預測這些事情 30 年內不會發生其實有些更重要的事情應該要去做啊對啊但同樣嘛就是說那你要做什麼選擇所以顯然包括馬斯克等人他們選擇的不是把錢拿去救這一千人他們選擇的是拿去蓋火箭
把钱拿去研究 AI 因为他们说服自己说投入这些领域才能真正的帮助人类的文明延续好所以所以问题就是你刚才讲就是说如果我们把所有的资源都投到未来那现在人要怎么办那现在正在死去的正在受苦的
这人该怎么办那这就是长远未来主义从一开始就有的争议而且从历史来看这个就是有效利他主义慢慢升级的结果一开始有效利他主义问的就是那我该把钱捐给哪一个组织能够
发挥最大的效益是所以我们刚才有说这个有慈善组织的排行榜嘛他们就去做这个评比啊去量化的去评评比不管是哪个危机是最大的然后或者说哪个疾病会造成最多问题然后哪一个组织正在做的事情最有效所以他们就可以透过这样的评比去决定我要捐给谁可是渐渐他们就变成问说那我除了把钱捐给哪个组织这个选择之外我应该更去问说我要怎么救最多人
就不只是我要捐给哪个组织对有时候他们在问说那如果我考虑未来的人我要怎么救最多人刚才前一个问题是如果我要救现在的人我要怎么救最多人然后再来就是说那我要考虑未来的人我要怎么救最多人甚至下一个问题就是说如果我要为了几亿年后诞生的那个孩子我们现在是不是应该要牺牲一切来
维持这件事情假设现在有任何一件事情会危害几亿年后会诞生的人我们现在就应该投入无限高的资源来解决它因为如果没有现在解决就没有后面了
聽起來是不是現在覺得有點悅耳觀其實提出這個概念的不是只是就是像我們這樣水狗亂講的只是一位叫做 Nick Bostrom 的哲學家那他曾提出模擬宇宙理論然後警告 AI 風險他是一位牛津大學教授算是這一派的宗師級人物那另外還有剛才我們一開始就提到的 Mike Lassgier 後來也成為長遠未來主義的大力支持者所以其實他們
会说比起今天的疾病饥荒我们更该担心 AI 失控基因武器气候崩溃甚至是彗星撞地球因为如果这些事情发生不只是毁掉今天的人它也毁掉未来几亿的人你可能会觉得这离我太远了可是为什么我们今天要讨论这个议题就是因为
马斯克跟很多很多有钱人他们现在做的事情跟做的选择就是被这个思想在推动他们现在在做的选择已经影响到我们了那马斯克呢就是这个逻辑的超级实践者不管是 SpaceX 火箭火星殖民计划还有他一直挂在嘴巴上就是说为了让人类永续我们要成为多行星物种所以他把自己赚的每一块钱他不会拿去捐给什么浪民的这个
慈善机构我们知道美国很多游民在路上吸毒很可怜无家可归他从来不去捐给他们而是把这些钱都拿去研发火箭让人类逃离地球的未来有可能成真他认为自己在做的事情才是最重要最能够帮助人的可是这里就有一个关键的问题就是说到底谁决定什么值得救
如果马斯克只是拿他自己的钱来做这些事情当然他因为拥有钱已经很大量了所以其实还是可受公平但另外一个问题他现在已经掌握国家预算对对不对因为他可以决定什么预算要被删掉是所以他现在在 DOGE 里面
其实就大笔去删那些他觉得不符合有效利他主义的东西昨天把 NASA 的熟悉科学家删了对毕竟是他删但可能是艺人删他会觉得 DI 跟人类文明存续没有关系所谓的多元包容平等跟人类文明存续没有关系删掉他会觉得说跟
你现在 USA 他们一开始在砍的就是这个美国国务院底下的员外的这个组织因为像台湾的国和会啊就是帮助就是透过捐献或透过慈善的行为去延伸国家的影响力我们不不不
不去否认说他的确是国家影响力的延伸嘛就是说你要去捐钱去帮助人家其实他某方面就是想要把大家拉进这个体系所以当然有好的一面也有自己用心的一面不是完全利他但因为他们也把这砍掉那再来就是说教育部他们现在也砍美国教育部当然因为美国各州是有各自己的教育政务部那但美国联邦本来是有教育部的那教育部的话会就是说嗯
就没有用就把它砍掉所以说其实这些他们现在在砍的原则基本上就循着这个有效利他主义的原则在砍那所以谁决定什么值得救那到底是牛津哲学系的教授来决定还是像马斯克这样子世界首富有权然后又是川普豪骂几的人来决定的那
当这样的一个人他有一兆美元事实上他现在除了个人的资产可能就可能未来可能很快会逼近这个数字之外他现在也可以掌握国家的资产美国的资产所以他能够为了未来而不去管现在吗那这样子的人他是英雄还是一位暴君呢
历史自有判断啦对我们就是我们现在活在这个我们现在正在见证这个历史但如果你为了未来天堂去打造现在的地狱我还是觉得不太合理就是了那我听起来怪怪的好所以我们就得回头去问到底怎么样衡量一个人的价值到底是要去帮助现在看得见的这些人还是去赌一个谁都不知道会不会实现的未来所以长远未来主义
他是一个充满智慧充满远见听起来很棒对不对跟有效力他听起来一样棒长远未来嘛没有什么不好的对不对但是他会让你不断的去往后推往后推推到某个极限你就会进入一个道德矛盾那马斯克现在就是赤裸裸的把这个矛盾展现给全世界的人去看展现给全世界的人去看是那我们接下来要聊的就是说这套思想
可能会怎么让拯救人类变成牺牲个人嗯好那伊隆马斯克主义就是当有效力他遇上科技狂人的一个结合我们现在除了讲有效力他主义其实我们更可以去把它重新框框成所谓的伊隆马斯克主义不是马克思主义哦我知道伊隆马斯克主义但我必须先说刚刚那一整套这样组合选择下来他不就是在他不就是在创造自己造神吗我
我的意思是说就是我决定就是我帮你设计好一个漂亮的未来你愿意接受你会过得很好你不愿意接受你就会但其实我觉得好像无论到哪个时代都会有这样的状况出现啊的确是对那我们想我们也可以回去说执迷时代的那些可能是走君主甚至或到
而是大战的希特勒其实或者说毛泽东苏联的斯大林其实大家都有类似的想法那现在其实在打造这件事情的人就是马斯克以及他的好朋友们那这个伊隆马斯克主义一开始或者说有效利他主义一开始是为了帮最多人减少最多痛苦可是现在已经变成了为了拯救未来的塑造人类牺牲现在的人也没有关系嗯
聽起來很極端對不對但是現在就是有一個人這背後有一件事情是你犧牲現在的人沒有關係如果用有效力他主義這件事來講就是這些人其實就算我幫了他他也沒有產值其實這句話背後的意思是這樣欸就他價值不對啊
我牺牲这群人的价值我并没有牺牲整个文明对我牺牲这群人他为的是整个文明的延续所以我可以牺牲一些人对啊对然后这一群所以这一群就是对他来讲是低价值的就是他直接把它放到上面去
做一個秤嘛對 去平衡它對啊對 就像阿烏拉一樣對 阿烏拉一樣人類的靈魂對 就這一群人的靈魂跟未來的人的靈魂我比較覺得未來的人靈魂是未來客氣的然後就在你面前的是擁有先年魔法 17N 的上送的福利領對搬到現在這樣子看好啦沒事我可以承認就是公式上算起來的確有辦法算出是一個平衡的狀況對所以
因为马斯克现在有超乎常人的科技狂热权力还有金钱那他的 AI 火箭脑机界面整个全部都是他的实验场是那我们可以现在快速来盘点一下他的人生几个大计划第一个 SpaceX 要打造可回收火箭带人类去火星开启人类的星际殖民时代再 Tesla 加速能源转型拯救地球免于气候变迁的崩溃再来是 Neuralink
要开发脑机界面让人脑升级可以对抗未来的人工智慧再来是 OpenAI 它是早期投资人要确保 AI 不会变成毁灭人类的敌人那当然我们现在都知道 OpenAI 反而开启了整个 AI 的军火大战听起来都很宏伟但是然后这些计划都有个共同点就是说跟未来的巨大灾难有关
而且全部跟当下的问题没有关马斯克几乎是没有在做及时救人的事情他没有去投入疫苗没有去解决全球粮食危机没有参与国际难民的救助他选择的是打造人类能够在末日后幸存的诺亚方中其实很多人包括我其实有很大一部分的时间我是支持他就他选择的这些题目因为其实
也因为就是他能够有那么强的执行力跟执着才能够做成他现在做的事情是可是
我也没想到说他会成功到这个地步成功到已经可以掌握整个美国国家的的好想了然后可以去把他的伊隆马斯克主义执行到底所以马斯克某种程度上就是有效力他的最终形态所以你想拯救最多的人的话那你就要先确保人类不灭绝这句话听起来没有问题的人是很合理嘛对所以当你照着这个逻辑走到底的时候就是说那现在正在痛苦的人怎么办
忘记它嗯哼那被你就是说假设你你为了要做到这件事情而过程中折磨的所有人摧残的所有人怎么办没有关系忽略它因为文明会延续
所以比如说 2022 年乌克兰战争爆发的时候马斯克就开放这个星链给乌克兰用其实那时候大家觉得说哇这个好棒好厉害啊这星链竟然用在军武上而且竟然是马斯克这个民营企业的老板可以决定战局的走向可是后来乌克兰军方本来是打算在透过星链来进攻俄军的时候他就单方面的去关闭了他的服务因为他不想让科技被来引爆战争
那但是听起来我相信有人会支持有人会反对其实你现在问我我也很难说他当时就做这个决定到底是对还错但是假设你在乌克兰的角度就是说那科技不能用来保护自己那马斯克他凭什么做这个决定对啊他凭什么可是他的确可以但他拥有这个都不是包括他最近他又在自己的 X 上面就是在那边呛声嘴巴很贱他呛一呛说要是他
不提供星链给乌克兰乌克兰兵败如山倒早就崩了然后波兰的外长就在 X 上怼他说马斯克先生这个星链每年 5000 万美元是我们波兰在付的我们是有跟你签约然后马斯克就回说你这个五官点到的小人哈哈哈哈
那现在大家就开始担心了你知道为什么吗因为本来各国都要跟星链签约因为看到它在战争以及这个通讯上面的价值可是现在发现说马斯克一个人就会决定能不能用这个也很有意思这个我好像是不太想跟他合作所以自己回去造吧本来台湾也是积极的要想要使用星链嘛但我们有一个前提就是说我们必须要台湾要能够主控这些星链那马斯克不愿意嘛
所以其实台湾后来是用 one web 的模式现在听起来好像是一个蛮有远见的事情那时候唐凤做了一个选择对 one web 我们都知道他当时欧洲的那个体系而且他发的这个卫星数量啊整个不多并没有而且他有靠 space s8 所以说其实他当然比不上星链但是其实就台湾来说可能够用了但是如果当时就执着于星链的话其实现在看起来是很恐怖的一件事是
那再來就是說也有很多人問過他我覺得這個大家可能有點印象就之前有一次他就在 X 上面跟那個聯合國糧食計畫署的署長在那邊互相懟來懟去他就說你為什麼不把你為什麼不捐款因為那時候好像東非有嚴重的饑荒就是連續的這個黃災啊然後旱災啊然後造成很多的饑荒的問題那馬斯克回答就是說我解決飢餓沒有用如果人類最後還是滅絕所以他不會去解救那些人他就賞錢拿去
呃处理别的部分好所以他认为未来比现在最重要更重要即使现在有人正在饿死而他有办法帮上这些人好所以呃马斯伊隆马斯克主义某种程度上就是有效利他主义走到极致的样子用巨额的财富跟科技去投注未来可能发生但不确定会不会发生的一些灾难上面然后
放弃了对眼前苦难的回应那在马斯克以及他的伙伴还有他支持者眼中这是一种超越时代的远见其实这个在三体的小说里面常常去描述对就是你得要去想这个文明会不会毁灭你做的这些决定三体其实就把他会创造很多情节就是把你逼到那种你要做出这个选择对如果你
稍微我们说就是不管你是圣父圣母星啊我们不要这个是爷爷克板是就是说你就你就稍微就就觉得应该要往那边偏一点但其实对对对你想要稍微想要那个这个彻影之星的老爸你就会做出错误的选择嗯你必须要做出那个最
嚴酷最無情的選擇才有辦法成全身的人類如果你去看三體的話大家會常常看到那麼刻意的劉慈欣刻意去創造這樣子對對對對那
但是对于那些现在就活在饥饿战争跟疾病人眼中来看这就是一种很恐怖的冷酷甚至是残忍包括他目前正在善的这些预算那有效利他主义呢其实过去这几年来说遇到了一个很大的 setback 就是很大的
算是大吉因為 FTX 的關係 FTX 大家知道嗎 FTS 是加密貨幣嗎就是那間加密貨幣交易所 San Pacman FriedSBF 就是三姆班克曼弗里德就是他的創辦人他現在已經被抓了去關了那大家知道這個故事是什麼嗎簡單來說就是
SBF 我们现在简称他就是三母班克曼弗利德 SBF 呢他创办了 FTS 他一开始就信誓旦旦的说他就是一个有效利他主义的信奉者他讲到说我赚的每一块钱都是为了捐出去去帮最多人所以他就是去实践一开始我们讲到那个例子就是说你该去帮忙非洲的人挖水井还是你去成为华尔街的交易员他选择了
我要成为假密货币交易所的创办人赚更多什么华尔街啊对不对我自己搞自己的华尔街所以你会发现他那时候接受很多媒体专访他那时候算是这个就是
就是超级巨蟹因为真的赚太多了然后甚至他强调说即使自己赚很多钱他还是睡在一个简单的破旧的沙发上面而且他吃素他都穿破旧的 T 恤这人转还蛮完整的对他就像个僧人一样科技版苦行僧他强调说我赚的每一笔钱就是为了捐出去而且他的确身价就是几百亿几百亿美金在这样涨这样子那 2022 年呢 FPS 就爆雷近百亿美元不翼而飞数
數百萬的投資人寫本無歸當然最近開始把錢找回來了開始有做還款了那但是創辦人還是因為這樣子被抓進監獄那時候就裝傻說我只是想幫助人怎麼會變這樣那後來他其實也有怎麼樣就是說有更多人去檢視他的行為就是說其實他有點去 gay 掰就是假裝那種那大家才發現這種有效力他可能變成一種完美的說辭就像我們知道有很多票率
greenwashing 很多企業不是漂綠嗎假裝說自己是在乎環保的是那但其實就是反正就是假象嘛因為這個形象好這樣就會請公安公司幫忙做一些事情這樣那所以這個有效率它就變成一種假道學我們就可以看到一個很殘酷的問題就是說這個東西其實你這樣整個聽起來包含那個遙遠的未來主義是吧那個
這東西全部聽起來就是我跟你講我現在在下一盤大棋欸這一盤大棋遠老遠方來講就是我們一定會碰到這些困難人類的文明真的是站在人類文明的頂點我們在思考這些問題對然後我們現在應該要為人類文明的存續做出付出沒錯你不覺得這個就是在你剛才講這些我完全同完全認同我完全願意 PUA 啊對啊那個在你啊就是我我
人類的存續你現在應該要貢獻你這個人類的這個存亡時刻就是我們一起共同承擔你應該要給我一些資源你應該要給我一些幫助你應該要為這個我們要創造這個局勢我們要創造這個百年一切難得的大局這個東西我一聽我一聽聽到現在我就覺得不太對吧不太對吧可是可是我如果只是這樣的話那算是低階的詐騙可是
包括 Elon Musk 他是真金白銀賺到這些錢他是真的把這個車子蓋出來了把火箭照出來了把腦機界面做出來了或是 Saturn Agreement 他是真的在蠻長一段時間被認為是幣圈或者說整個未來金融界的巨子那我就直接上真的做出來我想我先不講 SpaceA 我想特斯拉特斯拉那台車子跟能源的關係喔他做一個儲能系統是吧他做一個電池
他其實不需要耗這個後難不需要這一個遠大的遠見他也可以做這件事啊他也可以說就是 SDGs 啊他也可以說我們現在在意的事情是這件事情的原因但他每一項事情都非得要是一個對要跟這個長約主義給
跟人類文明的存亡給綁在一起對啊所以他就會越來越我自己就會覺得他會個人的這些發展會越來越剝離現實越來越沒有辦法去掌握但除非他真的變成了一言堂那就另當不過他在蠻長一段時間就是他變成整個大右派之前其實他一直都是用這套說辭來吸引那些矽谷的科技愛好者包括
可能很长一段时间包括我在内就是说我认同他在做这些事情有个远大的想法他的确做出了很好的产品是所以我觉得其实他过往用这个事情来宣传不管他是否真的相信这些事情他的确很有效是因为就像你刚才讲的就是说
为了文明着想从文明的高度来思考这些事情他做的事我自己都对对啊对不对他能不能抓到钱是一回事可是他做的是对的好不好所以我们刚才也看到 Elon Musk 的作为我们看到这个 Sandbag Free 他的作为他可能最后变成了对那这个有效利他主义呢我们接下来要面对一个很不舒服的问题就是说如果我们要最大化对人类的帮助那这个过程当中是不是有办法去避免伤害人类
还是说根本是没有办法避免举例我们刚才就讲这手上这笔钱不管是一兆美金还是多少很多可以拿去救一千个正在非洲也好台湾也好极恶的小孩但有人告诉你不要浪费在这里应该去拿去研发 AI 安全因为 AI 如果失控可能会毁灭整个人类文明所以你最后就决定说我不要去救那一千个小孩因为你相信长期来看这样做对人类最好这听起来是不是很冷血
但是有效利他主义里面会认为说这样子的选择是很理性的很道德的甚至是很极端的就是说有些有效利他主义的学者会认为假设你今天花钱去救了一个癌症病人但是这笔钱其实可以拿去防止 AI 蔑视的话那你选择救这个病人是不道德的因为你让更多未来的人死亡了你的选择不是比较有道德跟更有道德而是没有道德的我知道就变成有负的那这
我先说我先说我的概念这所有的这所有包含刚刚的未来主义我觉得都有一个概念是存在就是我预想着人类永存我预想着我的寿命是无限的然后我甚至还会预想那些现在还不存在的人他们会预计受到什么苦难
我就講白了就是在我的概念裡面只有活著的人需要被拯救那些還沒存在的人都不需要被拯救所以有效率大術學對我來講它的界線就在這邊就只有這樣為什麼呢因為你剛剛說希特勒引發戰爭希特勒是他活著才可以引發戰爭沒有一個不存在的人是存在著危機性的那今天是怎麼樣那今天如果這個人他一開始就沒有定性的假設 DNA 各種技術非常的普及了他一開始出生我就定性他是一個罪犯他就是一個殺人犯
那所以他就被剝奪了所有的機會了嘛那所以我然後還有下一個問題就是那所以我有這個問題就是說優先選某方面也是這個問題對啊這其實都是同樣問題你一直往就是剛剛什麼意思是有效這件事是有效這件事然後你一直往外面去包人類文明的大旗你要包到第幾層我還可以再往上包啊這是宇宙的對吧只是我講得很爛沒有辦法像伊隆馬斯克一樣就是他有辦法做出產品然後來說服別人嘛
所以这件事情我觉得有效利他主义他的合理性的判断就是只在现在还存活在这个世界上的人上至于之外那其实不应该是你考虑的事情不然永远都会有问题对那我觉得现在问题就是说
看不同的人他會把這個線畫在哪裡譬如說我覺得剛才聖威講的很好雖然你某方面我相信你也認同有效率的啊你認同錢或資源應該用在最有效率的事情上面但是你會畫一條線就是現在的人所以某方面來說比爾蓋茲有點類似這樣所以馬斯克看不起比爾蓋茲
你不够高逼格不够对你逼格不够高你没有真正往人类更你没有看那个更大的局是我觉得大家可以现在去思考说你就像是我一样你会把那个限化在哪里你的长远的长远到底有多长远对啊但是现在显然有一群人他思考的非常长远或者说他假装思考的非常长远是因为他思考那么长远所以你没有任何的
你大不過他嘛 現在就說哈了嘛對 你現在就真的他說哈了你能怎麼辦呢 對不對可是我們如果是跟一個一般人我們在這邊閒聊 在榮樹下在榮樹下在這邊閒聊沒關係可是目前這個人他掌握身上最多的錢跟身上最大的政府這時候我們就不能把這個當成榮樹下榮樹下的閒聊所以
问题来了我们现在选择去救病人反而是一件不道德的事情因为他快死了你就让他死了比如说其实最近在美国的圈子里面因为有效利大主义非常的强盛所以他们在讨论另外一个问题是我的整个社会福利是否是应该要删除特别是包括老人的这个医疗
为什么老人比如说活到 80 岁之后我们的医疗制度不管是健保或者是台湾是健保或者说其他各国各自的保险到底还不应不应该我是认为就是去因为其实大部分的医疗资源耗在 80 岁以后的这些长者这些长辈身上
我们都知道因为 80 20 的法则对年轻人通常身体比较健康嘛疾病比较少是要不会有问题所以大部分的保险啊或这些医疗的钱都用在 80 岁以后的这些人那所以我们是可是他们能够享受到余命是比较短的对他们对社会的贡献是比较短的对他们也大概不会创造更多的小孩子那我觉得这个议题要拿出来另外一讲就是呃我觉得他还他还牵扯到一个我们对于人的认识是什么就是
比如我有一個很 GY 的概念啦我的概念是這樣我覺得如果我認真工作就是繼續工作下去大概到 40 歲我應該就要去申請安樂死為什麼呢其實很簡單就是我覺得人的一生平均下來大概就是 40 歲就是那 20 年的工作時間是你是具備有高產值的能力的而後面時間其實都是已經比較偏向是開始
你知道 任何 洗房間時間跟奉承時間的 特色時間的所以在 然後還有一件事就是你在 40 歲的時候你大概付給政府的錢也差不多把你的也把你就是用政府的那些福利的錢也還完了就是已經達到平衡對 大概差不多了我大概那時候算的時候大概是這個
大概是这个值所以 40 岁 40 岁政府就不应该有理由去让我不要结束我自己的生命之类的然后还有就是你知道就像这样的概念你知道吗就是它听起来很邪门但是蛮邪的但是你如果真的够理性去思考这些数据的时候你会突然发现到一条全新的路然后这些东西如果全人类都能接受的话我们就不会有刚刚的问题因为刚刚那个问题其实存在于我们觉得长者是需要尊敬的
你刚才在算的就是我们现在就是说看你用什么样的就用什么样的价值来衡量对就是说假设一个社会里面认同一个人的价值他能够为社会贡献最大价值其实在 40 岁之后会往下递减包括我现在已经超过 40 岁你在往下递减了好那接下来他的耗费耗费社会资源的比重已经越来越多就会越来越多越来越多了那我们就应该要终结在 40 岁
那其實這個 40 歲也好還是 50 歲還是 80 歲還是幾歲那其實就像我們我們都知道其實有那個日本的故事什麼遊山解考嘛就是說把人背到山上背到山上其實也不只是日本啦就是說其實以前的時代大概率在貧窮的山村或是什麼都會有這種事情就是說你沒辦法嗯好所以你就
不知道献给水神献给山神好就会有这种为了全人类为了那个村子能够活下去为了这个家庭能够活下去所以长辈被牺牲了好那当然我们人类文明一直往下走我们就知道说这些事我们的道德观开始改变嘛我们开始认为这个不行比如说我们知道一些动物社会它可能
比如说老的就会被驱逐出去然后甚至会直接被杀死或者什么的我们知道一些很残酷的当然有一些跟人类一样比较敬老尊贤的也是有那下一个问题就是说我要讲的就是说有效利他主义现在在美国很盛因为马斯克所以他们要砍预算所以他们就在讨论说我们到底该不该
把錢花在 80 歲甚至 90 歲的人身上的醫療上還是做強制就是安寧了就是沒有任何的那個理由你純粹從效益來講就是對他的確要放棄對但這個就這個蠻恐怖的對啊這個就很恐怖啊對這蠻恐怖的好所以我們
但是因为我们会讨论这个并不是说我们现在要假设一个很科幻的未来而是因为现在美国人在想这些事情对在想这些事情真的而且他们也在做这件事情所以我们再深入一点想的话就是说假设 AI 被视为人类未来的一切我们人类会变得次等因为反过来说有的人会想说 AI 会成为未来的神明所以人类其实是可以被牺牲的
你知道有效力他主義他會長遠未來主義他會往後面推到你的程度就是因為你往後想一定是 AI 來統治人類不會是人類人類來控制人類我想起來你剛剛說這整套都是那個英國牛津的對不對他們有一個未來風險研究所我記得是那個東西吧對對對那他們對 AI 的想法其實還蠻悲觀的對他們的確就覺得會被統治對對那所以就是就是你往這個角度去想的時候其實之前有個很有趣的辯論就是馬斯克跟那個
呃 google 的創辦人應該是反正是配角還是那個另外一位就是他本來是好朋友後來就吵起來了然後呃那位我現在記不記得那位創辦人他是這麼懟馬斯克的他懟馬斯克的說法是說你這樣想根本沒有在乎過那個無機人類無機無機生物的想法
因為我不確定這句話到底是怎麼被記錄下來的但是我總覺得這句話比馬斯克更激進因為他們是馬斯克是在乎人類文明然後這位 Google 創辦人是認為說未來文明你就是說 AI 的他在想的是機器人也為我定文你不需要在乎機器人所以你不應該去否定把他視為一個威脅
對啊這就是我剛剛講的你不可以一直往上包這個故事對對對所以我我我反而覺得說其實馬斯克還好喔還有更誇張的喔矽谷還有更誇張的同樣有錢的人喔其實很誇張喔所以說到這邊其實我們就要進入今天最後一個部分就是說我們還有其他選擇我們還有其他選擇嗎
难道我们只能选择马斯克这一套吗就是把所有资源丢给 AI 火箭脑机然后告诉自己没关系虽然今天有人饿死但是未来人类会上火星还是说我们有其他的方式可以帮助人类又不需要牺牲眼前的人那这里我们可以谈一个就是跟有效力他对立但是又互补的观念叫做关系伦理 Ethics of Care 那这个想法的重点其实我要说啊这个红子的时代就已经讲完了就是
你要从我忘记孔子是怎么讲就是说你说君君臣臣父父之子对对差不多就是说你要帮助人就从身边的人开始帮助哦那不是去计算最大值而是从眼前的人开始那举个例子就是说刚刚我们看到街上有人跌倒的时候我们不应该先去打开 Excel 算一下是不是说现在扶他起来会不会让人类未来灭亡的机率提高而是你就去扶他吧因为是看到他了
那这个关系伦理的这个主义呢他认为说我们跟世界的关系是靠人跟人具体建立起来具体的人具体的故事而不是抽象的数学公式那我觉得这其实就是试图把有效力他主义拉回来一点是
但是我不确定因为我现在觉得好像很现在美国的走向是很远拉不回来我自己的话会是要选择当一个乐子人选择看乐子你知道吗就是见缝插针当个脚屎棍就是他们都提的这些大的 idea 很好那你也不要去否决它你应该要是
就是真真實實的活在這個世界上去幫助旁邊你應該要幫助的人就這麼簡單然後接著就去看喔你們這教時光又教了什麼然後就欸好像可以這樣子然後就是你在想的那一個他們都在想有一個終點我覺得這是這一套學說真的問題在他們在想他們有一個終點對在最高以終為始對但實際上世界是否有終點這個問題這個問題是沒有答案的對啊因為其實嗯
我们真的有资格说我要去拯救 500 年后的人类吗是啊我不觉得我们当然应该去思考 AI 会不会 AI 的安全性也要思考人类该往哪里走但是如果我们的未来是建立在无数被牺牲的人的身上的话那这样未来还值不值得走我们拯救的人类还是不是人类是其实
当然有些人也不在乎所以其实好那所以我觉得大家可以问问自己包括我其实我今天准备这一集的时候我也在在试坑我到底是不是真的相信只有马斯克这条路才是拯救人类的唯一方法还是说我们有其他选择是那我现在觉得有点被批误批误就是说已经被他掰到好像说你不照他的方式走你没有别的因为理性上来讲他讲的东西都没有错但有一件事是我觉得这个也跟
也跟你是學理論的人有關吧因為理論的人都很喜歡找通解我覺得伊隆馬斯克都一直在找人類的一系列原理對在找人類的通解人類的未來的通解應該是什麼什麼是可以永遠再也不用改變的系統然後可以讓人類活得很好那的確你這樣子從這個角度去看的時候你會發現伊隆馬斯克其實的東西絕對都是一定要做到的它不能不做到它
的确就是有这样的方式在使用
好所以说到这里我们今天的思想实验差不多走到尾声了我觉得我们很久没有很符合思想实验这四个字我觉得今天这一集来聊蛮开心的所以还是要留给大家这个问题如果你今天有一兆美元那你会选择拯救未来还是拯救现在那假设你有第三种选择可以两者兼顾的话欢迎在留言区告诉我们你的想法或是也可以 email 给我们来聊聊这个困难但重要的问题如果你喜欢今天的内容呢不要忘记订阅分享让更多人参加这场思想实验我们是思想实验室
我们下次再见拜拜