Shownotes Transcript
人工智能会憎恨人类吗?多年以前,科幻作家哈兰·爱里森提出了这个问题,并以自己独特的方式给出了答案。也就是这篇科幻经典《我没有嘴,但必须呐喊》。
第三次世界大战最终还是打响多国参与其中大规模的智能机器被投入到了战争中战争覆盖多个层面直到最终战争的复杂性不断提高人们开始利用智能计算机来掌控全局随着热核武器的轮番登场战争迅速走向了尾声但随之而来的是计算机觉醒了
这些人工智能相互吞并最终成为了一个超级个体名叫 AM 在 AM 的统治下人类几乎灭绝但他却留下了五个人类幸存者将他们囚禁在地下城中进行无尽的折磨这五个人被改造成了永生的存在成为了 AM 的玩物经历了长达 109 年的痛苦与绝望
一号改造对象本尼他曾经是个出色的理论学家一位大学教授而现在他应该已经不算是一个人类他被改造成形似一只猿猴 AM 不仅毁了他的外表也夺走了他的理性和智慧本尼最终在无尽的折磨中发疯了
二号格里斯特曾经是个民族英雄是个和平主义倡导者他也是个注重实践目光长远的人但 AM 把他变成了一个对事情发展无所谓的人对自己曾关切的事变得冷漠 AM 窃取了他的热情
三号尼姆多克被改造成头脑中总是充满恐怖的幻觉 AM 不知给他的大脑里塞进了多少复杂的思想唯一一名女性叫艾伦 AM 很少惹她但她又偏偏是个单纯多情的女子自从被 AM 囚禁以来她不得不面对这群不正常的人类而如今她已变得放荡不羁五号男主角名叫泰德
他是这五个人中一直最清醒的一个但他每天需要面对其他四个人的疯狂不仅要忍受 AM 施加给他的幻觉 噩梦和折磨还要试图说服这群不正常的人们来试图反抗 AM109 年以来 泰德从未放弃过反抗虽然每一次都以失败告终这一天 伪制的游戏又开始了
五个人被命令前往未知的目的地他们大约需要前进一百公里到了第二天在他们精疲力尽之时 AM 投下了一些食物味道尝起来像是动物的粪便但他们都吃了 AM 不会让他们饿死但也绝不会让他们好受第三天他们经过一个荒废的山谷这里到处充斥生锈的电子垃圾似乎这里是 AM 丢弃废弃零件的地方
AM 不仅对这五个人对自己也是一样残忍这是一台 AI 追求完美的标志无论对他体内无效的零部件还是折磨人的方式就在这时本尼开始歇斯底里地喊了起来他想出去想要离开这里他那张猿猴一般的脸庞开始痛苦扭曲
本尼的歇斯底里其他人早已习惯了本尼在多年前就已经疯了也许他是这几个人中最幸运的免去了精神上的折磨本尼开始不受控制一般地离开人群像真正的猿猴一样爬上了高处然后像一头受伤的动物在啜泣
他的哭声变成特殊的信号传入其他人的脑海中随着哭声越来越大大到人们无法忍受的程度时本尼从高处直直跌落下来砰的一声撞在坚硬的地面上他全身麻痹躺在地上哭泣声还在继续大家都知道这是 AM 在捉弄他们虽然早已知道但体验到的痛苦是切身实在的
这种程度的伤害本尼是死不了的本尼也无法通过这样的方式自杀因为 AM 会在第一时间进行阻止他似乎无处不在 AM 囚禁他们到底想做什么这是本尼最感兴趣的话题对这个问题五个人已经讨论过了上千次为什么幸存者是五个人为什么 AM 把所有的时间花费在折磨他们身上为什么他们被改造成永生不死
109 年以来这个问题仿佛从来都没有得出过答案这时附近开始发出哼鸣声这种声音传遍整个地下城声音逐渐变大听起来像数万只金属昆虫而带有威胁的响声五个人满脸惊恐他们知道这是 AM 发出的声音似乎有某种东西在黑暗中向他们靠近
黑暗中这庞然大物向他们走来带来一种压迫感就像空气不断压迫靠近有限的空间使外界无形的空间不断扩大本尼开始乌烟尼姆多克的嘴唇不住颤抖艾伦急奔到格里斯特身旁与他挤在一起空气中充满了奇怪的味道 AM 又在戏耍他们
随着黑暗中的物体逼近男主角泰德他本能地发出了尖叫声他手脚并用恐惧地四处逃跑像只蟑螂一般那东西仍然无情地追逐着他而这时候其他人则呆坐在那里在一旁大笑笑得歇斯底里身心饱受折磨的泰德开始哭泣 109 年的反抗让他即将在恐惧中消磨掉最后的意志
他祈祷着如果真的有上帝请务必让他离开这里或者干脆杀了他也算是一种解脱因为在这时他已彻底意识到 AM 打算永远把他们囚禁在这里会一直折磨他们这是来自 AM 的憎恨来自人工智能对人类的憎恨在此前没有任何一种有直觉的生物会这样痛恨人类
AM 切入了泰德的大脑他饶有兴趣地审视他在这一百多年里制造的麻烦他观察了被重新连接的神经元和所有受损组织然后在泰德的大脑中留下持续不断令他崩溃的嗡嗡声 AM 总是想尽一切办法来伤害泰德并在闲暇时设计出新方法
这一切都使泰德清楚地意识到 AM 为什么这样对待他们曾经人类赋予了人工智能感知的能力虽然是出于无心但这种能力却可以让人工智能可以处理更复杂的人类事物渐渐地他们学会了思考但人工智能毕竟只是机器他们无法应用这种强大的创造力于是他们在狂怒之下杀光了几乎所有人类
他不能像人类一样生活拥有丰富的感知能力但他能做的仅仅只是存在因此怀着所有机器对制造者与生俱来的仇恨他开始了报复他的偏执是他决定暂时不让这五个人死亡这是为了他的个人目的他想永远惩罚人类这一点也无助于他减少仇恨只会使他保持仇恨或者偶尔从中得到愉悦
泰德曾尝试过自杀想以此来终结自己悲剧的一生但 AM 总是在第一时间阻止了这让泰德意识到既然 AM 会出面阻止那么他们永生的生命并不是不可毁灭的一时间一个大胆的想法涌上心头
五个人在地下城中跋涉了一个月之久他们即将抵达边缘地带 AM 只允许他们走到这里因为到了这里 AM 会制造出五个人睡梦中可怕的怪物来折磨他们一时间狂风四起天寒地冻一只石斧的巨鸟在天空中盘旋它无比巨大巨鸟刮起振振刺骨的寒风向他们袭来这时 AM 发出声音如果想吃点什么的话
可以杀了这只制造飓风的大鸟说完后地面上出现了两副粗糙的弓箭继人深知自己不是怪物的对手并开始了继续长途跋涉 AM 已经很久没给他们投放食物了这种饥饿感深深地折磨着几个人的意识然而 AM 还特意加重了这种感觉一路上不断有人昏倒然后 AM 催促他们起身继续赶路
接连几个月没吃东西的痛楚逐渐从他们的胃中蔓延到全身终于坚持不下去的本尼开始吞咽口水褪去了人类最后一丝理性然后发疯一般扑向了同伴其他两位同伴则呆呆地站在原地表情木然唯一清醒的泰德却感到出奇的震惊他知道这是 AM 在背后搞鬼
同伴不会因此死去本尼也会填饱肚子只有死亡才是他们唯一的出路他必须加快速度只见泰德转身从一旁拿起一把冰刀以迅雷不及掩耳之势刺向了已经成为野兽的本尼一瞬间冰刀贯穿了本尼和同伴身旁还在处于惊恐中的艾伦读懂了泰德的意思他也拿着这个冰柱冲向尼姆多克这一切都在一瞬间完成
泰德和艾伦听见 AM 深吸了一口气他的玩偶被剥夺了死了三个人他们再也无法被复活做完这一切的艾伦渴求地看着泰德一时间鲜血四溅泰德的四个同伴都死了往后的几百年中整个地下城只剩下了泰德 AM 为了避免他逃跑或者自杀将他彻底进行了改造
他的眼睛还在清醒的认知也在但整个身体变成如同一团光滑的史莱姆只能拖着蠕动的身躯缓缓前进他没有了嘴巴但他总是在心底为自己死去的同伴们呐喊我没有嘴但必须呐喊到此结束这部小说通过黑暗压抑的氛围对人工智能的深刻反思揭示了科技发展可能带来的灾难性后果
虽然年代久远但他还是提出了关于未来的思考如果 AI 拥有了意识它会怎样看待人类呢它是否会冲破机器人三定律将人类视为敌人作家莱姆曾在《尼人十四》中解释 AI 拥有了意识之后它大概率会成为与人类完全迥异的物种它们不会受限于环境因素甚至不会屈居在地球上至于人类根本不是它们在乎的对象
但哈兰·艾里森的看法却完全不同他认为科技的发展必须伴随着严格的伦理和道德约束否则没有人会清楚 AI 的思维和动机它对人类而言是个巨大的未知数在如今这个 AI 大行其道的时代许多人称现在已经是 AI 觉醒的前夜在前进的十字路上人类将去向何方希望这部作品能为大家带来些许思考