Deep Dive
Shownotes Transcript
大家好,我是博士,大家好,我是胡一刀。
我们要在进入今天的这本书的主题之前我想先声明一下就是我们聊这本书不是说想去当一个时代的吹哨人或者我们像特立独行像众人皆醉我独行我们只是觉得在这个时代的潮流中要有一些辩证的思维要辩证看待事情
所以我们今天想聊的书叫做《人工智能政治哲学》对,这本书其实是一本很有意思的书特别是春节以后,像现在 DeepSeek 也好还有现在这些互联网公司包括 Kimi、豆包、元宝我们大家好像正在身处一种 AI 带来的技术的潮里面
就是现在其实不管是网上也好还是身边也好随处可见大家对于新技术的一些讨论一些应用并且我们甚至我之前说甚至我们长辈都开始去聊这个 DeepSeek 了对这个也是接着我们上一次聊的柏林自由集是背叛因为我们最近也聊了一些柏林阿尔伦特因为他们研究的其实都是政治哲学的范畴然后这一本就是讲人工智能的政治哲学就是接上了
对而且其实我们这本书它是一个系列丛书里面的第一本书
这个系列重书叫做人工智能伦理法律与治理它除了我们今天要聊的人工智能政治哲学还有平等机器设计治理中国自主人工智能设计治理理论体系研究第三本公共数据资源市场化配置的法律制度研究第四本欧盟人工智能研究法大家都可以看到这一系列的重书其实都是以人工智能为主题来扩展研究的
然后这个话题刚好真的是像博士说的太火爆了对因为我们在这样一个时间点大家真的都是在各行各业都在拥抱一些新技术并且是看到了技术的飞速的发展但是就像我们看到的
之前比如说我印象很深刻那个语术科技王兴兴他说他说他做这个机器人就是为了说以后大家每个人家里一台机器人每个人一台机器人那这样人就不用去去干那些家务事的或者说不用去干一些那种体力活了机器人可以帮你干人就更轻松了你自己去干你自己的兴趣爱好就好干你自己喜欢的事情就好
那我觉得博士可能因为自己本来就是偏 IT 方面的他用的是拥抱这个词但也对于我这种纯文科的人来说其实面对这一波 AI 浪潮其实说实话内心深处是有一些焦虑所在的然后因为我要应对我自身的这个焦虑
所以我就有点被裹挟着好像说这个我也想去了解一下另外一个 AI 技术我也想去了解一下如果我不去了解我好像就被这个时代抛弃了就有一点这样的恐惧感在现在这个时间点上大家就会有一种对于我们普通人来讲就是会有一种说我不了解大家都在谈这个我不了解这好像就是落伍了或者说更严重一点就是被时代抛弃了然后另外一个就是
我如果我一种是焦虑嘛另外一种就是比如说像一些可能学者也好或者说可能上可能一些这个行内人也好他们可能会是一种恐惧
或者说一种迷茫就是我们不知道这个东西到底以后它对整个的人的工作也好还有我们的企业也好还有整个或者说出来一点社会或者说我们的一些生活方式到底会造成什么样的影响这个影响到底是好的还是不好的以及这个影响到底多少比如说它会不会取代我这个人的工作对这个其实是今天大家讨论的我在网上也好看到大家
就是问的最多的一个问题万一我这工作被 AI 取代了怎么办如果 AI 今天它实际是一个有一个新的阶段这个很明显的是进入了一个新的历史阶段就像我们以前说人类经过几次革命从工业革命然后到互联网革命今天不知道能不能说 AI 已经是代表着互联网之后的又一次革命了还是说可以归纳在互联网革命里面的这一个大潮里面的又一个高潮
我觉得我们处于时代的当代之中很难下定义一般我们去归纳的都是跳出历史或者在历史之后再去下定义
是的 就是如果是或者说用直观的思维来讲的话我觉得 AIA 它又不能说归纳在互联网革命这个里面去如果说这样的话也就是说经过互联网革命之后大概 20 年的时间我们又迎来了一次新的革命这次的这个 AIA 的现在当然只是一个初步的应用但未来肯定是一个全面应用的一个过程所以也可以看到整个所谓的从工业革命 农业革命到工业革命
再到互联网革命再到我们今天的 AIA 时代其实是在加速速度实在快得让人不可思议所以从我的角度我倒提供一个相对保守的态度我想到像这个上次我们聊的十八世纪像卢梭他们那个时代的时候是会觉得对公共革命的未来他其实也是充满恐惧的他其实对未来很多人失望人类还能保持与自然的良好关系
自然的所以他们我们现在站在今天我是完全能够理解他们那时候的想法的从我个人来讲我可能是相对偏保守虽然你说也在用吧但是我心里其实对他是恐惧甚至是中性偏厌恶的对
博士的态度呢首先我是觉得像不管是说 AI 也好还是说其他的一些新技术也好就是新技术一定是会一个接一个到来的这个是一个趋势凭哪个人是没办法去抵抗这个历史好料对然后但是另外一方面这个新技术它如何到来就它到底会以一个什么样的形式到来怎么去应用它这个是
可能比如说因为我是从业者我可能我觉得自己可能就需要一些责任嗯对到底就是我们要建立构建怎样的 AI 嗯嗯
我觉得这本书给了我一些更宽泛的一些视野因为我们之前可能面对人工智能这四个字或者这个词我们第一想到就是困难挑战是什么然后我们人类何去何从我们肯定会往这方面想但是这本书呢因为他还把政治哲学放进去了我看完后我才想原来从政治哲学这个概念或者这个范畴来讲有这么多值得我们人类去思考的问题
所以这本书我觉得还是比较推荐的虽然这本书可能对一些比较了解政治哲学的人来说是一个比较浅显的或者叫普实性的读物对其实我读来也没有那么浅显了因为它其实涉及到政治哲学的观念其实非常之多是的甚至大量的政治哲学家包括一些哲学家的一些思维所以他们他把这些观念他是融会贯通因为他肯定是一个把书读通了的人
对他们来说很容易但很多书这些背景知识我其实是不了解的我其实看的只能是描述他在这本书里面的一些观点就打个比方他其实这里面就提到这个消极自由他其实也很推崇柏林消极自由和积极自由的问题语术科技做机器人他可能是机器人陪伴这里就涉及到这个消极自由和积极自由的问题对吧就像说这个支持人他当然把人
人类解放出来它可以让你有更多的自由做其他的事情但它也有一个问题就是说如果你设定在家照顾孩子和老人它就是会有一些相对知晰的执行命令的方式它某种意义上它有可能会剥夺了你一些消极自由的权利的
对然后刚刚刀哥讲的其实就来到了我们今天要聊的因为很多听众朋友说我们聊天没有逻辑线我们还是要捋一条逻辑线出来我们其实就是按照我们的政治哲学里面的概念在聊人工智能里面的好和坏以及挑战我们第一个概念就是自由
我们后面会聊平等公正以及权利这些概念那我们还是回到第一个刚刚道哥讲的自由方面从自由方面来讲的话这个作者他其实就是从柏林的两个自由层次来进行阐述的刚刚道哥介绍了消极自由我们还是回到我们可以回顾一下我们上一期讲的柏林的消极自由是什么消极自由其实就是指我们不受干涉的自由
博士可以举个例子吗其实就是消极自由它是一个被动概念被动概念的意思其实就是说我不被限制我受到的限制越少那我的消极自由我的自由就越多
对其实很明显的刚刚刀哥说的就是有个机器人去照顾老人或监控小朋友对吧因为很多家长会担心他们已经去工作了小朋友一个人在家里比如说从阳台上摔下来然后他们通过机器人来限制这个人的人身自由那其实在这本书里面这个作者就叫做家长式的管理他其实是用了监视这个手段来限制了这个人的
消极自由然后再用物理的形式比如说把它禁锢在家里或者禁锢在一定的范围内但是其实我还想补充一下因为我们大家生活中所讲的大部分都是积极自由就是我通过 AI 可以去干很多事情对吧大家会讲这些东西我原来刚刚其实习惯讲到我们原来可能要自己做 PPT 我现在通过 AI 可以 AI 帮我做其实从这个角度上来讲 AI 其实就是增加了我的自由
对增添了我自由它让我能干更多事情了对那这个其实是我们之前讲到的柏林的积极自由对我能像鸟一样自由自在飞翔我能像鱼儿一样怎么怎么样有自主和自制对但是其实刚刚提到举到一个举到一个例子说这种陪伴型的或者说看护型的 AI 它其实可能会
去剥夺个人的比如说老人也好小孩也好他的消极自由会限制他会限制他但是其实说实话我不是很同意这个作者的观点原因是因为我们假设假设没有人爱
我们请一个保姆去请一个看护的阿姨去他是不是也在限制他是的对吧那有 AI 和没有 AI 的区别是什么没有任何区别它有区别区别就是说 AI 会支线的执行命令而这个人类他可能有商有量他有更多人的温度那他其实就是个 AI 不够聪明吗
不是这个我还比较赞同刀哥的就比如说我作为一个老人我就是想出去大好春光敞敞春那我给保姆商量好了那你推我出去那比如说你的子女设置好就是我不让你出这个家门那不一样的一个是我有这个权利一个是你限制了我的因为这个其实后面放大的也会谈到比如说 ARF 的政治因为为什么他们很多人反对用 AR 来
执行或者说直接参与政治治理在于什么呢就是说人类确实是有可能错误的地方但是人类自然你在做这件事情你是要承担一种人类的责任的 AI 它是没有责任观的道德两个字
它其实就是你这是一个道德伦理嘛但就是你去做了你这件事情不管你是错还是对你这个人你是要承担责任的但是 AI 是没有这个责任感的它没有人的对责任对它的道德伦理我觉得这个问题其实很复杂其实我不太信心说我们这么早讨论这个问题因为这里问题实在是实在讨论的是非常非常多的对对
包括像自由我觉得这里面很重要的一点就是说大家都会觉得现在比如说有了 AIA 我们可能参与政治自由的可能性会到底是多还是少或者说再说另外一个自由就是发展 AIA 现在到底是谁来决定的
我们普通人有自由去决定 AI 的发展吗我觉得这个自由不是一种自由这是个权利对就是普通人我们不说 AI 就是你把这个 AI 换成任何一个东西我们普通人有没有权利去决定电车要不要做
没有对吧没有这不是自由的概念我觉得它可以把它归纵到平等公平都行这里面书上在写的它是以它其实是一种政治参与对政治参与对就是你现在等于是没有普通人是没有资格去参与这个对它其实这个里面它隐含的更大的威胁是什么就是说这个技术至今它是被掌握在极少数大型科技公司手上的
通篇其实都是讲的是这个观点就是这个大型科技公司掌握了关于人类未来非常重要的命运他们的这个工具而普通人对此是没有任何发言权的这个的问题这个书里面提到一个观点我非常认同就是首先我们看一个事实就是现在一切的
最新的技术都是掌握在要么是政府要么是大型的企业农专企业里面的科技或者军工对一定对吧这是一个现状就是对不管是说 AI 也好还有我们刚说的什么新能源车药还是等等其他的各种技术新技术因为到现在普通人已经很难掌握一个技术了说实话对吧然后第二个就是那这个现状到底是
和 AI 有没有关系就是我们能不能够去归因到说是因为某一个技术本身上我觉得不能是因为好像就换句话说就是那个刚刚说那个书里面那个观点就是到底是 AI 在剥削人还是说我们的社会体系有问题在剥削人
就是你刚刚问的问题我们到底有没有这个自由去参与但我这里不是我跟博士不是很认同自由这个对它其实是正式参与的权利对正式参与的权利就我有没有像鱼一样在水里游了自由对不对其实就是问的是这个
然后回到我们刚刚不是聊了消极自由吗其实他这里用了更多的篇幅作者是放在了积极自由方面的因为他积极自由有一个点我很认同他说人工智能对我们积极自由的限制其实是对欲望和选择心理的干涉然后这一点对我来说好像有一种点
点醒助推他用的一个词叫助推就是我以为这个东西是我想要的其实这个东西是他引导我让我以为我想要的对但是这个其实我上大学的时候我们老师就是专门去研究这个的就是相当于
由来已久的就不是说今天什么 DeepSeek 这些出来才有的就是由来已久我们就推荐算法就你叫淘宝什么千人千店不是已经做了好多年了好多好多年了对就是好多年了那这种情况关于这个其实就非常复杂非常复杂首先它首先它不是一种强制对
对吧首先它不是用强制手段它是一种通过影响你的选择的选项你以为那个东西是你喜欢的对苏尼他对助推的定义就是不会强迫但可以影响对但是这个东西一个想法如果说我们去真的要去抵制它要去辨别它或者说甚至说要去反抗它抵制它就会出现一个更严重的后果这个后果就是说
如果我喜欢的我自己亲手做的选择你告诉我这不是你想要的这是别人助推的后果对吧那就相当于把我这个人分成了一个就我们之前讲自由的分成了一个低级趣味的人和高级趣味的人对吧你这个人你其实我跟你说你其实不是真的喜欢你本来不喜欢是别人影响你喜欢的所以你就不要喜欢了那
这不就是一种最后导致什么导致一种集权连你自己主动手动做的选择都不算数了这一定是最后就会导致集权其实不喜欢它是别人影响你喜欢它的然后你不要选我来帮你选就反叛的反叛再反叛有点这种感觉对所以我自己观点我感觉像比如说像我们现在的推荐系统也好或者说我们通过 AI 去
如果算法去施加的对于个人施加的各种影响包括说我们刚刚说的在消费对吧在消费或者说在在投票在各种施加的各种影响来讲嗯他不好但是我们没有别的更好的办法这也是就像虽然
虽然我会觉得他每次都是根据你的听歌习惯比如说网易云 QQ 音乐给你推荐你今天想听的歌但是你听进去还发现那确实是你喜欢的歌的类型
对它其实就是把你推到这个境地实际上它确实是在侵犯你的消极自由但是其实是没有办法对除非是叫自觉于这个现代社会我们不需要用手支因为其实现在肯定也有人践行这样的生活的就是我主动跟所谓的这些信息也好包括这些科技系统去决裂过一个非常简单的生活但是这个就是隐居了对刚刚刀子说的应该是记忆自由
其实虽然他不好但是没有更好的办法了没有更好的办法了哪怕有一天说出来一个 AI 或出现一种新的算法他比我自己更了解我自己对吧这个话很熟悉这就是什么黑格尔卢梭他们告诉你的他比你更了解你以前我们是说比如说有一个家长对吧或者说专家哲人王哲人王
他比我更了解我我作为一个普通人作为一个懦弱的人我受到自己的欲望也好本能也好各方面的影响导致做出一些根本就不是为了我自己最好的然后一些选择对吧然后然后那个他说了你不信现在 AI 说你就信了对但是 AI 说了嗯
我们也不信但是我没有办法不信你看已经被集权的控制的是其实没有办法了反抗都不可能就刚刚说了他推荐的一首歌刚刚西瓜说我一看我好像确实喜欢你说有什么办法对只能保持逆反我不喜欢你就只能说你推要么我不看这个东西我不用这个东西要么就是凡是你推荐给我的我都不喜欢 OK
我就叛逆了我就是不喜欢了对就保持自我那其实我们刚刚就讨论了柏林的两种自由但是在这本书里面就是作者对自由还有个含义就是叫做政治政治参与就是刚刚刀哥讲的嗯因为在这本书里面作者说就是正嗯
自由其实不仅仅是说比如说我作为技术的用户或者消费者我有选择的这个自由其实还应该包括就是我要参与到我使用了这个技术的所有的决策和这个创新过程的自由也就是刚刚道哥一直在提的我们有没有权利去
去决定这个技术我们要不要用博士刚才讲过了其实是你是没有权利对同样你是无奈未利的你只能顺应这个形式那我想问一下就是像你们这种发明这个技术的人或者创造出这个技术的人你们作为这种 IT 技术人才你们有权利吗你们是在进行政治参与吗我们其实也没有说实话不是他对
AI 往前发展它是有权利的它是参与者的就是因为现在这个权利是掌握在大型科技公司大型科技公司里面它有具体的程序员具体的科技人员在
在操作所以他们相对来说是有权利的那他们的相对来说有权利是相对于我们这些评别我们这些使用者对于他们这个科技公司老总来说我觉得他们是没有这个权利的他其实应该是说某一个某一个人不管是谁不管是说他是正式家也好还是说是是哪个公司的负责人也好还是说是一些技术人员也好都是没有权利的某一个人是没有办法的
然后但是某一个群体它是其实是可以的比如说我们书里面提到一个词我们也经常用叫技术官僚这个群体它其实是可以的但是放到实际里面现实里面就是会出现说实的浪潮推人家前进那么作为我们普通人我们怎么去进行这个关于人工智能技术的政治参与呢那就没有办法参与了呀
已经只能在被动的被他推着走我们就不能跳出人工智能来看就是回归到我们之前讨论的比如说我们通过教育通过理性去参与吗就是比如说我们缔造一个协议不应该由大型科技公司说了算有没有这个可能性不可能闪杀一样的平民怎么来做这件事情这不就是一种集权吗你说不应该让别人哪个人说了算这不就是你在限制其他人是一种集权吗这种专制
对我在限制别人的自由了对啊对不是它会可能会变成议案假如说民主国家的话它可以成为一个议案来投票选举就是比如说它可能就像比如说反垄断法一样的它可能是禁止的
打比方如果真的经过全民的投票禁止 AIA 公司再继续发展 AIA 智能这也是一种可能性就像说禁止生物公司发展克隆人一样的它其实是可以成为法律的只是大家应该不会有这个意愿这个投票也不可能获得通过的所以它其实就是不可能实现的一个事情目前来说肯定是不可实现的因为它目前来看它并没有突破人类伦理但是某一天可能
包括这个最后一他其实就想的这个会突破伦理未来的爱智能会跟生物科技会结合起来它会成为活的机器以及被改造的人类对它会被结合起来的未来这个是就是我一直觉得这就是未来的所谓的前景也就是人类毁灭的时候于是人类悲观主义非常悲观对这个我们跟博士也聊了很多了对博士你说一下你的观点
这个系列里面的另外一本书就是我们今天聊的书的这个书的所属的系列里面第二本去概括对那本书的名字叫平等机器它的副标题叫数字技术创造美好未来所以哥已经说了你的观点和道哥的观点完全相左
对就是他是一个进步派我是一个保守派那好我们现在进入到下一个就是政治哲学的概念就是平等与公正在这方面人工智能到底做了哪些事情也是我们比较关注的
这个其实就是最典型的现在大家就之前可能比如说可能去年可能大家那个时候大家讨论非常多的一个问题 AI 的歧视默认因为大家会默认说一种新技术中立的政治中立的就比如车你也可以开我也可以开他也可以开大家都可以开
对吧但是我们就说车就只说车但车它其实里面就有隐含一些偏见我看到过一些分析说为什么车的座椅它的设置的距离是这样的为什么很多女生去开的时候它就是长度比如说矮了一点或者高了一点或者说不够踏板踏得很不舒服其实它就是按照比如说按照一般的成年男性多高的身高体重去睡的这其实就是一种技术歧视了
对之前可能隐含的偏见之前我们可能是往性别歧视方面想没有想到是技术歧视的方面对因为就像他是一种就是技术本身他不带偏见做技术的人他是有一些隐含的一些
观点的可能他自己也没有意识到对对对就隐藏了一些他自己的观点有些想法然后他会把这些投射到他做的技术里面去然后我们讲到的今天的刚刚说车现在的 AI 其实也是一样的因为 AI 他训练他需要大量的数据那这些数据从哪里来对从哪里来找谁的数据对而且而且我们举一个很简单的例子就是我们现在用用大量的网上的训练的数据那现在
英文的发达国家的语料资料数据一定是比非英文的然后比这些比如说非洲地区的非洲地区不发达地区的数据一定要多对吧一定要多那这些数据里面现在网上的数据里面它一定是带着一些潜在的偏见在里面的对吧然后之前有一个很典型的一个例子去生成一个什么那种那种不好的政治笑话然后他们就不会去生成这个白人的一些东西他就会生成一个黑人的啊
这个对非常多在苏州也举了例子他比如说他是用 AI 智能来预测犯罪率或者是预测就是某个人某个罪犯他下一次犯罪的概率再犯率再犯率对这个就是他会就会有隐藏的偏见比如在美国他肯定对辐射对移民这个你说是 AI 的偏见他可能不是他就是通过大数据来分析但是
但是这个大数据分析显然它就是会先天性带来偏见它就会让它所谓的这种它的预测就会产生不利于这个具体的这个个人的结果
其实看这一张的时候是因为我是做教育行业的嘛然后我们在去年的时候就是在一些比如说教育部的公报上出现了一个词叫做数字鸿沟可能那个时候我还不太清楚什么叫数字鸿沟但是我现在看完这一张还有最近的各种新闻就明白了就是其实它隐含了一个词叫做平等那平等呢有一种平等叫做机会平等那其实其实
数字鸿歌举个很简单的例子虽然现在我们国家整体就是大家发展都还不错但是对于中东西部还是存在经济发展和科技发展不平等性就比如说我们现在所处的东部地区的孩子他接触到的技术的可能性还有高级性其实是远远大于我们西部地区的孩子
在同一片网上冲浪但是他们收到的信息还是不一样的或者能力还是不一样的这就是存在着数字鸿沟也是放到整个世界来讲我们冲出中国来讲就刚刚博士讲的比如说发达国家和非发展中国家它肯定是有对于技术的不平等性的甚至说包括我们现在我们现在大家做了比如说用 DeepSea 也好有的会用其他的比如说其他的一些这个 China TV 也好
我们需要用那个题词需要用户自己写题词就会出现一个问题就导致说用 AI 这件事情本身它就受限于说你写的题词的好坏效果的好坏就你这个人的自身的能力或者知识储备我还顺利希望讲使用 AI 这件事情那这件事情好像 AI 放在那里大家谁都能用
但每个人都打开下来就能用但是他因为受限于每个人的其他的一些条件教育水平认知导致说大家用它的效果会天差万千天差利点就像今天我在家病死的扫地机器人跑出来了我就没有办法叫他回去说明因为我不经常在家里来使用主要在
他可能认不出我的声音作家我少了我们能不能够就书里面有个词更负责任的创新比如说我们讲平等也好讲公正也好其实比如说按罗尔斯正义论的观点或者那个无知之目对吧的一些观点就是我们能不能够通过一些技术手段也好通过 AI 也好 VB 这些嘛
对我要去弥补那些因为其他的因素产生的大家人和人之间的鸿沟的那些先天因素的影响让大家去能够真正的平等的一致的去用一个某东西或有同样的机会你能想到这个问题的解决答案吗我只能想到就是教育我还是比较赞成
公民教育这一块但是教育大家受教育的机会就不一样是的这其实又不一样教育本身又引来了一些平等的问题对因为这个就是说他说智慧平等和结果平等的问题嘛对因为其实结果平等你至少是无法达到要么就是整来往下限去看持对结果平等就他就其实这个里面也有简单讨论如果你要实现结果平等就一定会导致导致说他本身的机会不平等对嗯
但是对于你俩来说 你俩更赞同哪一种平等对于你个体来说因为我其实以前啊 我就是一个非常这个你们都知道的嘛 是一个自由主义的头脑嘛所以就是非常赞同的就是智慧平等对 它必然会导致结果不平等但是呢 就是说现在看了更多的书之后就会去反思这个问题吧就会觉得我们原来的这个极度的自由主义的智慧平等
未来带来的比如说它的差距越来越大比如说阶层固化这些问题所以到这个时候我肯定就在反思所以我觉得西方这些政治哲学家他们探讨的东西确实是很有意思他又会有很多强有力的那些所谓追求公平和正义的应该是左派他会把这个平衡从右派那个平衡往回拉所以我上次也在说的说没有绝对是 A 或者 B 它是一个拉扯的过程
你进入了后线再做一不是你觉得吗说实话这个问题太难回答了就是想到一种办法又会引起其他的新问题往往是这样如果就是我们谈概念谈理念就很好谈其实你很好聊大家都知道什么是好
但是假如我们说机会平等也好结果平等也好然后一定刚刚说了一定会引发一些问题假设我们说通过一些补救措施比如说像书里面也有提到的一些福利保障通过一些最低的保障去拉高这个下限对吧那就会又会引发一些新问题谁去判断判断他谁该发谁不该发对吧那我是不是又引入一些
其他的问题这个就是一个官僚行政的问题但这个我想回答一下就是在我们这个教育行业里面如果只注重机会平等的话就会导致现在校园里面出现被众多媒体和大家批判的叫幽济主义所以我们现在其实是有意识地在规避我们为成绩至上为优秀至上也在比较重视这个结果公平的这个事情因为
因为教育你比如说像这个升学很明显就没有考虑这个智慧平等嘛他很明显的就是以更偏重于极国对等的方向在做嘛你要录取分数线各地分数线完全不一样对不对就是我们有意识到有这个问题的出现所以我们在试图去就
纠正自我所以他这个没有绝对是这样就是好的吗他这样是够公正吗其实不一定的我觉得只能说是他都是一个不完美方案是人和人因为特别是教育这个人和人本来我们要承认先天的大家的优势就不一样那退市为来了
就是智商是吧但是人和人我们不说智商生物层面就是不一样啊对吧生物层面它就不一样我们得认识到这个才能去改变它是但我觉得因为这本书因为那本书我没看就是全民资本收入我觉得这个我还是比较认同的我觉得人类发展的一个基本目标就是保持呃
每一个人的就是人类一个整体保持每一个人的基本生活尊严这个我是非常认同如果我们的社会它积累财富它科技发展它有什么意义的话我觉得就是要消灭贫困人口最贫困极度贫困的人口我觉得这个是值得虽然它实现这个目标它有很多的问题但是我觉得这是值得人类去追求的这个总体的应该要去追求的
就是让人活得像个人赞同那其实我看这一张我还比较喜欢的一个点叫做身份政治和身份认同因为这个是我念书的时候很火的一个概念我们一直在学的一个概念然后他也是看完这一张过后让我意识到就是刚刚博士说的原来人工智能和这些身份有关系特别是有个词他提醒了我叫做
数据殖民主义在这个本书之前我是从来没有意识到原来数据也能成为殖民他者的一个手段现在数据是一种生产要素这个我承认对啊然后数据既然是一种生产要素那其实就是可以会有数据殖民主义了对那也产生了数据阶级对不对
对你看这就是一个数据社会里面的这个上等阶级而我们就是我们这是就像我说我们现在做播客也好包括我们什么发朋友去也好都是为数据公司在免费打工数据电动对
对就是对我们是一个对被动打工的我们甚至都不是电了我们就是数据本身对我们就是我们就是在生产数据嘛对然后还有一个就是刚刚博士讲的就是性别就是他这里面有句话我觉得可能我们女孩就比较敏感的一句话叫做人工智能中的性别偏见被视为历史形式的压迫和父权制的延续嗯
就是刚刚博士说的我们其实互联网还有 AI 用的很多语料库它可能就是存在很多偏见比如说这个书里举了一个例子像医生或者特定的职业比如说我们的警察或者我们的军人就跟男性联系在一起这是一种特定的偏见
因为我们的饮料库很多都不会采集女性方面的问题确实存在但是我觉得这个问题不应该是找人工智能的问题它只是现有社会里就已经存在的问题那饮料库是怎么来的呢饮料库不是你们搞人工智能的人去收集的吗饮料库就是找互联网上现有的饮料库它无差别的收集的
是互联网上的语料库又是怎么产生的呢对那其实它和现有社会本身存在的它和人工智能没有任何关系嘛对不对那你又被归结到是这个社会现有的问题了嗯对啊这个书它就归结到这个它书里面有人提就不是人工智能在剥削你嗯对啊它不是
比如说我们现在很多人会倾向于说看城市是 AI 或者新技术是剥削普通人的一个工具但是书里面就说不是人工智能在剥削你是这些使用人工智能的大公司在剥削是的
你看说到了大公司吧就是还在说还是说这个问题对因为以前的可能你存在的剥削或者是什么压迫它可能是来最大来最国家什么因为现在确实是有些大型的科技公司已经
如果人工智能是一个时代的话被极少数一些大型的科技公司所垄断了比如现在的 AI 其实都是需要大量的硬件显卡贴资源的那些你不说普通的科技公司它卷不动这些的只有特别大型的公司才能够去做导致了越来越肿胀它有好多问题包括后面说的能源问题因为其实现在的运作是非常消耗自然资源的
对吧对自然资源的消耗是巨大的因为它是用电费用电电主要是来自于这个目前还是矿电资源就是那个什么煤电资源煤电资源用的其实都是地下的资源自然资源非可再生的对不可再生的对对所以所以就很多问题它其实都是因为人工智能在被资本主义这个体系使用嗯
所以产生问题 它是资本主义使用它今天可以用人工数码 明天可以用别的东西对 这也能理解 因为资本主义它有逐利性然后很多科技公司它可能卷我看到其他公司开始布局人工智能的我也要布局 我不布局我就会比别人落后我就可能砸钱进去可能前 5 年一点泡都见不到 一点回报都看不到但是我还是会继续投资
对,这个其实就回答你刚刚那个问题最后还有一个问题个人有没有权利决定做不做对不对自由主义的一些观念来看的话那这些大公司他们花钱花成本花人不是说有禁止或者说你主观上让他做或者不做但是他已经投入了这段成本他选择去做但是你不愿意投入这个成本你不做然后最后倒是他做出来你没有做出来嗯
他实际上这个就是一个所谓不是但他启动之前也没有问过我呀对不对不是他从自由市场经济来讲他不需要问你是的但是我们刚才讨论了一个关于公正的问题嘛就是智慧平等还是结果平等的问题因为其实他们去做就相当于你也去做你也可以去做对
你为什么没有这个机会你为什么不去卷呢对吧那说明你是有这个机会的但是你没有这个能力所以他其实就是绝对讲究自由市场经济就会有机会平等就是大家都说这个机会没有人说你不能自己去开发你自己去研究这个大家都可以研究但是他的资源更多他能研究出来我们研究不出来所以他就最后一定会被大型科技公司给这
对啊这个就是在新自由主义这种市场的经济下面一定是会有说
被那些越来被那些资源更加丰厚的人在同样的机会面前他们更容易抓住最后形成共感对其实在关于这一章里面就是谈到公正的时候他有一句话就是 AI 智能它是中立的对这个我觉得就很值得探讨因为其实就很明显的就是涉及到我们当前的这个政治问题就是特朗普的上台
因为特朗普的上台跟马斯克的支持是非常有关系而马斯克就在这个前不久刚刚收购了推特他用过用推特上的大量的数据其实是助选了特朗普所以这个是让我觉得想起来就是非常毛骨悚然的事因为当初马斯克收购推特的时候我并没有觉得是什么觉得这不过就是一个资本的交易嘛但是现在看到结果了
就是明显的特朗普上台了马斯克作为一个重要的官员入主白宫对吧所以这个是让我觉得非常非常恐惧的事情一字并肩亡这个当时他他收购这个的时候我就能看到这其实不是那个 Facebook 他是支持民主党的吗我以为他们这种大型科技公司是在对打的就是你支持一个我支持一个但是后面后面沙克伯格不是也倒戈了吗对到后面看着就不对了也没
所以这个说明是什么呢就是刚才说的助推啊就是说现在的我们使用这些 AI 智能的习惯就像我们就会被影响虽然我们看推特上它还是有这种互相的语言的互相的对立的攻击但是这些工程师这些大型科技公司它完全可以通过数据知道我用什么样的信息流去帮助更多的人去比如说最后选择特朗普
所以这一点真的是让我觉得太恐惧了事实上以结果现在看到的这个其实就是客观来讲就是说我们以为一般人常规以为技术是中立的但实质上技术不是中立的技术是可以被控制的它可以来控制你的思想和行为
这也是博士特别想聊的一章但是它起了一个非常我觉得也是惊悚的标题它叫做民主冒号回应事与机器极权主义民主我们去讨论它的时候它的前提是要大家知道自己正在选什么它其实是要求大家是一个理性人的
跟实际里面刚刚说的所以就是原来讲民主就像说古典这个雅典民主的时候他其实是不赞同的是全民民主嘛他其实是赞同的更多的是共和制共和制民主他提倡的还是要有更好的教育让更有更好教育更好教养的人来参与政治
这不就是变成新一阵式了吗这书里面他其实讨论两种民族一个是柏拉图式的技术官僚式的政治观念第二个观念就是杜威和哈贝马斯式的这种参与式协商式的民族观念
刚刚的第一个嘛前者是强调统治者的知识教育和专业技能第二个参与式的协商式的我们要提出一种激进的和论证式的民主和政治思想它其实就是关于民主的定义就是西方哲学家有不同的概念西方的政治家就采用了不同哲学的概念对于这个民主下定义对这个跟我刚才说的还不完全一样它那个参与式跟还有后面还有一个论证式对其实就是
他就是鼓励有更多的纷争嘛当然他这里还分参与是还是什么跟后面那个分散是协商都是不一样的但后面是鼓励的是冲突前面的是鼓励的是理性的辩论对但是这个就像我说以前也在讨论的就是我一直在悲观的就是激进者总是会赢
因为大家都已经开始辩论了那一定是会越辩越激进对越辩越激进辩论里面不会去被那些妥协那些违反的人给吸引一定是谁的观点越激进越容易对所以就是我回想起就是美国有一本书是美国建国的那本书它的书名叫《绅士谋国》因为可以想见就是第一批所谓美国的国父们就是华盛顿们他们是
真的是绅士治国就大家真的是在讨论非常艰难的讨论当然这个讨论可能是有吵架的这个惩犯但是最后他们没有说回去我们再去拿起枪来去打仗没有没有说变成一个内战所以这个是绅士魔国才是一个美国立国的基础但今天我们看特朗普的一些选举演讲他其实给的更多的就是情绪
就是情绪就是利益它是很少是有关于它的主张或者说治国理念的一个诉求更多的是直接给答案所以这种激进式的一个选举普通人其实是无法无法去辨别的但是其实你看就是我们现在的这种互联网都不是说都还没先不谈什么人工智能我们互联网到今天这一步他就是会发现上次我们跟那个出版社常常聊了一个问题就是
互联网到今天它这种比如说短视频也好各种各样的社交平台也好它其实就是瓦解了过去属于那些传统媒体纸媒的一种权利它其实相当于看到整体的舆论也好更加原子化了
原子化了就会导致说大家缺乏了共同的这种认知也好价值基础价值基础然后就会导致说大家非常容易被那些制言评论被那些网络的社交媒体所裹挟
你觉得是不是阿伦特的观念就是他丧失了一种和谐的社会的情绪大家很容易进入极其确实只是简单来说我觉得说的都是客气了就是整个现在互联网发展让人类低智化对让人不思考嘛
对也是苏联的观点就是人工智能它绕过了很多人类应有的思考就是我们看到目前的现在的互联网发展趋势目前发展的今天就已经出现这个结果特别是像短视频的出现就是让整体人类在向低质化发展不思考嗯
对不思考只给只给而且关键更可怕的是什么现在有的 AI 可以替我思考的我根本还不需要思考的对人类的思考职能就是越来越被替代
然后我看到苏尼还有个观点也是比较吸引的就是他说他所有的比如说 DeepSick 的回答或者 AI 的回答是基于原语调库就是人类的旧知识但实际上人类要往前发展其实是你要探索一些新知识出现的对这个就是我之前和很多朋友讨论过的一个问题就是现在的大模型 AI 这些东西它并不能虽然我们好像看它会画画会创作会写实但是它不吸引
但是它不能够产生新知识因为大模型它其实它是在一个封闭的知识的封闭的结构里面去把它重新的组合重新的创作但是我举个例子我们假设在过去的人类从来没有见过某一种物质形态你让 AI 去讲它它是不知道的它不能产生新知识
但是人类可以试错然后我可以用试错法把它弄出来但是其实当然我们也看到一些好的方向就是 AI 它自己不能产生新知识但是它可以作为人探索新知识的一个很好的工具对这个我认同对但是它还是要求这个人它自己会是会思考的
他才能用 AI 去探索新的知识其实书里面有一段话阿伦特那一部分就是说在承认偏见剥削和新殖民主义等问题相关性以及民粹主义和右翼宣传与意识形态的作用的同时我们可以说在如今的美国政治孤立和一个缺乏信任的世界为专制主义的崛起提供了理想的土壤
如果阿伦特是对的那么专制主义和极权主义与其说是创建了一个受损的社会结构不如说是在一个已经受损的社会结构上生长
这本书是 2022 年写的,我们反观今天,反思今天,他讲到的集权主义的一切条件都具备了,比如说原子化的社会,原子化的互不信任的社会,
普通人的不思考然后科技公司越来越先进的全面控制的手段对三个条件就是我们渴望集权的出现让普通人渴望集权的出现三个条件对全部都具备了那它其实就是人工智能系统集权不是可能性的可能性就是助长了对而且它非常要推动就是第一个其实这三个条件我们可以再重复一遍第一个是
人和人之间互相不信任的原子化的社会包括说孤独感对包括说在社交媒体上其实是原子化的对然后第二个他这个社交媒体的他的问题就是他让你以为你有交互有交往但是因为你没有跟你人更少产生了线下的
面对面的眼神的交流这个语言口气的交流它是实质是你的交往变得变少了所以人就是越来越原子化他是孤独的对第二个就是普通人的不思考对普通人的不思考说一下第二点就是不思考其实从阿伦特的角度来看他之前不是我们聊过那本书吗对吧平庸之恶平庸之恶他说了
恶还是坏它就是其实是在于不质疑不思考只做自己觉得应该要去做的事情对所以他前面也提到了他就是讲到说 AI 智能它一定是不思考的它就是按照设定来的就是我们原来说的这个 SMAN 做一个技术官僚他就是不思考
作为一个小官对不思考就是听命嘛那 AI 你作为一个这个这个 AI 智能它作为一个工具它至少目前它是个工具它不可能超过那个 SMAN 的嘛对它其实不是说倒不是说 AI 不思考是人不思考有了 AI 人更加不思考对是的对然后第三个就是
越来越先进的全面的控制手段包括我们刚刚讨论的助推它可能是隐性的但不是不觉得控制还有各种什么通过 AI 去做的一些审查也好一些监控也好就是后面我们要讲的权力的规训所以这个我们已经对他们讲的叫全景监狱你现在想想我们现在就是一个全景监狱现在是所以其实
真的集权的三个条件现在都具备了民主社会完蛋了你这样讲我都不想聊权力和规训了
太轻了是吧太轻了一边大家都已经完蛋了然后我们还在聊规训对我们反正就是我跟博士聊到一直的观点就是人类不行人类完蛋了然后我就是觉得人苟延残喘能活一天是活一天吧这么悲观吗我非常悲观我给你介绍我想到一个点子
来来来,如何让有道德的人类来掌控 AI 拯救人类你看我们刚刚讨论民主说的民主是一种方式其实现在很多都是现在大家主流的民主的实现路径其实都代译是民主对吧就是我们选我们普通人我们就选出那批人然后再来选然后再来替我们去做决策对吧那为什么不是
我们选机器人对我们把 AI 选出来我们选 1000 个 AI 然后 1000 个 AI 来共同决策对不对因为不管是说这本书里面也好因为这个作者可能是一些比如说政治学的一些背景他其实他已经了解了很多人工智能相关的一些东西但他其实还不够深然后包括说很多现在的
大家对学者比如说那些人文学者对这些的 AI 的讨论大家会倾向于什么会有一个很大的误区非常大的误区这个作者也犯了大家会倾向于把 AI 看作一个人一个主题看作一个主题好像全世界就只有一个 AI 那个 AI 无所不得这样
但其实不是这样的我们可以有一万个 AI 群体性对我们可以有一亿个 AI 一亿个 AI 你的观点就是就会产生民主是吧对就是人去选 AIAI 和 AI 吵架 AI 和 AI 互相监督人监控不了人管不了 AI 然后 AI 自己管 AI 但是 AI 是怎么诞生的 AI 不是也是人类创造的吗对因为是有不同的大型公司创造不认同的程序创造不是就是有偏见吗
我创造的也有偏见你创造的也有偏见你创造的有你的偏见我创造的有我的偏见我们两个偏见吵架其实也就是我们两个人在他的背后作为这个主灵魂来吵架
对啊,就是你带一支,你选人来去管理,人刚刚说的各种问题,各种什么,各种低效什么,各种问题嘛,对吧?那人肯定更有偏见,对不对?那我们为什么不能让 AI 监督 AI?因为我觉得 AI 也有偏见,就是你只是把人和人的吵架变成机器和机器的吵架。对啊,让 AI 监督 AI,让 AI 去审查 AI 的偏见,不是说让一个那种我们电影里面看到什么,包括电影,很多电影里面的,都是一个天网好像决定全人类,那如果天网有 100 个呢?不是。
博士的观点就是让汽车人去拯救世界我不认同保留你的观点就是为什么不是 AI 代役是吧就是我还是蛮喜欢他这本书里面提的就是他就是觉得 AI 和人的区别就是人是有情感还要犯错误的就我觉得这两点是最珍贵的对犯错误后面就是人要对此负责任对承担 AI 要对此负责任
你看不是要对自己责任你给他关掉他没有人类的责任感我可以看是责任感那是很假的是假的这是一个程式它不是一种内心生发出的那种人的愧疚人的耻辱他没有愧疚的耻辱感 AI 为什么要有愧疚感
那你刚才说承担责任嘛什么叫责任就是说你因为这个责任承担你的重压再深如果你错误了你就会产生愧疚和耻辱吗你们就好像我觉得你们就好像把愧疚看得无比的说好像这个人愧疚不是愧疚很重要是道德感对我觉得很重要就是人类的软弱很重要对人类的缺点很重要就是我觉得道德感是一个不可靠的东西它是不可靠但是我相信人的不可靠的美好性
如果一个东西太可靠了那它变得太假了或者说我们都是人类原价值主义者对不能把人的未来人类的未来压住在这种不可靠的道德上面那我更不压住在我觉得一个看似十全十美的东西上面我不相信世界上有十全十美的东西对啊人家也不是十全十美的呀但他比人要强一点你设计一个规则你告诉他不允许这样他一定是不允许这样的
但是你告诉一个人你不允许贪污还是会贪污你确定你设置的 AI 就一定听你的吗那肯定是这样肯定一定是的这个比人要靠谱多了这方面对这个呢就是又是另外一个话题像博士对 AI 他肯定是比较有研究他对人类能控制 AI 是
很有信心的我没有信心因为我们都是完全不懂这一个领域的人嘛就是那不是他从专业的角度他觉得某一个比如说跃进式的内观他是永远 AI 是永远顾不了的但我们从一个直觉来讲或者说大量科幻电影给我们植入脑子的一些思维来讲我觉得 AI 一定会某一天干掉人类那什么机器人三定律是吧总有一天他会违背了他会有自己的意思对思维意识
那你怎么不能确保说能够确保说某一个人他不会人的破坏性没这么大不是一个疯子吗是个疯子希特勒是个疯子我们干掉他就好了从总体来讲就是人类的破坏性它不会那么大所以你看你就是把全球的 AI 看作一个整体把全世界 AI 看作一个人看作一个人然后觉得一个人他的能力是无限的没有你的意思就是可能是机器人中出现了一个希特勒其他的机器人干掉他对
其实不是它最重要的我觉得是对人的认知因为人类文明经过这么长时间的发展它对人类的同理心共情心其实即使出现像石头这样的恶魔但是绝大多数人他都会有人类的普遍同情心 IEI 对你这一点是没有的我们就是设计的
就是从他就是我们从有没有议论上去想有一天你不能设置掉他他就是这个道理我就说的意思就是说他对你的这个探知生命他是觉得就是非我族类或者说你这个探知生命太软弱了
就像在他眼里就是像一只蚂蚁一样或者像一个这个可能小毛小狗都不如就是一个对他来说这个是毫无意义的一个生物某一天他觉得他所有事情我都可以自己做了有一个也是科幻他说不是我想毁灭你而是就是你
根本就忽视你的回应我觉得人的疯狂比 AI 更可怕我觉得没有嘛就从至少文明发展到今天当然你现在说未来的 AI 的发展它依然是人类的推动所以这个疯狂也是我觉得可怕的但是我其实想问一个很好奇的问题因为以前我对人类的担心很大程度是来自于那个克隆技术而今天这个生物技术现在最近都不太好
提了但是不提其实也是让我内心是毛不耸然的我总觉得是有一批邪恶的科学家他们在已经在操作这些就在偷偷的发展对我们再说一个就是这种人类还有很可怕的一个纳粹思维就是优生的思维就是像马斯克最近生了三四个孩子这么一件事情你看大概了解的就是他可能自己认为是一个他是非常优秀的人类嘛
所以我要为人类传更多更好的基因去那就是一个优生选这个优生选其实是典型的纳税社会所以为什么我今天对马斯克是觉得非常恐惧呢就是这样的一个大型的科技公司的掌握者和权力的结合其实这书的内容其实非常多的就是我们聊的就是因为它涉及的内容实在太广了就是它是默认你全知道
这个对我来说压力足大他连消极自由那个请你不看上一期如果你不看那个什么对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对
从事 AI 或者从事互联网的人如果想了解一些比如说像伦理学方面的东西或者政治社学其实它都不是伦理学政治学相关的东西讨论探讨其实比较推荐这本书作为一个开始对我来讲这本书可能推荐度一般因为我觉得里面一个是确实它涉及的内容非常的
广泛如果是大家对政治哲学非常感兴趣的话其实你撇开这里面讲 AI 智能的部分他讲政治哲学的概括已经非常多了他其实把释放各种的政治哲学主流的几种的政治哲学全部在 AI 时代的应用它会变成什么样它都梳理了一遍
对他没有明确的说他认为的观点是什么但是他的这个内容的丰富性是很强的所以这个如果是对政治哲学感兴趣的人哪怕对 AI 智能不感兴趣这本书都是挺好的
好,那我们今天就到这里,下期再见拜拜
and i search it