We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 342: From Reaction to Reflection: Philosopher Anders Indset on AI, Consciousness, and the Path to the Singularity

342: From Reaction to Reflection: Philosopher Anders Indset on AI, Consciousness, and the Path to the Singularity

2025/6/30
logo of podcast AI and the Future of Work

AI and the Future of Work

AI Deep Dive AI Chapters Transcript
People
A
Anders Indset
Topics
我认为,未来社会不应过度强调“可持续性”,而应将重心放在提升效率上。通过技术进步,我们可以实现资源利用的超高效,从而在根本上解决环境问题,实现一个更加绿色的星球。我将这种以效率为核心的经济模式称为“量子经济”,它代表着一种更理性、更人道的资本主义。

Deep Dive

Chapters
This chapter explores the concept of the economy as society's operating system and how AI could impact it. It discusses the shift from a reaction-driven economy to a more reflective one focused on efficiency and its potential for a greener planet. The importance of technological progress and its role in achieving hyper-efficiency are highlighted.
  • Economy is considered the operating system of society.
  • Shift from reactive to reflective economy is crucial.
  • Hyper-efficiency through technology leads to sustainability.
  • Sustainability will be replaced by efficiency in our vocabulary.

Shownotes Transcript

所以,与其说是拥有一个社会福利经济,不如说是关注技术理论上能做什么,然后强调这一点。我认为,“可持续性”这个词将越来越多地从我们的词汇中消失,一切都会围绕效率展开。如果我们解决了这个问题,那么我们也会拥有一个更绿色的星球。

早上好,下午好,或者晚上好,这取决于你在哪里收听。欢迎收听人工智能与未来工作播客,第342集。我是你的主持人丹·图尔钦,PeopleRain的首席执行官,PeopleRain是一个面向IT和人力资源员工服务的AI平台。我们的社区正在壮大。感谢你们,我们忠实的听众,我们的听众已经超过一百万了。如果你喜欢我们所做的,请告诉你的朋友。在任何你收听的地方,Spotify、苹果播客等,给我们点赞和评分。

为了帮助我们扩大受众,我们最近丢失了一个播客通讯。如果你还没有订阅,那就订阅吧。加入我们。我们会分享一些技巧和窍门,以及一些在节目中并不总是出现的人工智能趣闻。今天的节目说明中有一个订阅链接。如果你分享评论……

我可能会在接下来的剧集中与我们的观众分享,就像来自伯灵格姆的普丽蒂的这个剧集一样,我的邻居城市在这里在硅谷。普丽蒂是一家处于隐身模式的人工智能初创公司的开发者。她在锻炼时收听。她最喜欢的剧集是第三季中与吉赛尔·莫塔的那次精彩对话,吉赛尔·莫塔是一位受欢迎的TEDx演讲者和未来工作权威人士,讲述了她如何打破障碍进入科技领域。

我们每周都会从人工智能思想领袖那里学习。当然,额外的奖励是,你会得到一个AI趣闻。今天的趣闻是:

安纳丽莎·诺瓦克在哥伦比亚广播公司新闻上写道,杰夫·欣顿(神经网络的发明者和诺贝尔奖获得者)与哥伦比亚广播公司的布鲁克斯·席尔瓦·布拉加之间最近的采访。欣顿说,人工智能发展的速度比他两年前预期的要快。他说,机器很可能具有超高智能,或者能够比人类更好地完成任何人类任务。在他之前的预测中,这将在未来20年内实现,而之前的预测是30到50年后。

欣顿说,人类将受益于更好的医疗保健教育、获得罕见病的治疗方法,以及可能消除全球变暖的方法。然而,与大多数科技领导者一样,

他预计所有平凡的工作,包括秘书工作、呼叫中心工作和律师助理工作,都将被淘汰。他说,人工智能克服安全限制并试图伤害人类的可能性并非为零。但他表示,我们今天几乎没有足够的信息来断言这是一种可能的情况。当然,我们会在今天的节目说明中链接到完整的采访。我的评论……

杰夫·欣顿几年前就因担心谷歌更关注人工智能的利润而不是安全而离开了谷歌。他继续批评所有主要的人工智能实验室,因为它们的态度漫不经心,并且没有投资于低概率但可能造成灾难性后果的人工智能场景。

当杰夫·欣顿说话时,我们应该倾听。在最近的加速时期之前,他一直是人工智能最直言不讳的倡导者。我们可以创造一个人工智能既普遍存在又对人类安全的世界。让我们要求每个人开发人工智能,无论是谷歌还是初创公司,都要在其开发和测试过程中融入伦理和安全措施。现在让我们转向本周的对话,我一直期待着这场对话,

安德斯·因塞特是一位挪威哲学家、作家和科技投资者,也是一位备受追捧的演讲者,他经常被称为“商业哲学家”。2012年,他创立了全球领导力与技术研究所。他曾在德国科技创业中心担任主管或成员。他是瑞士深科技公司TerraQuantum的早期投资者之一,也是Njordis集团的创始人兼董事长,Njordis集团是一家风险投资和咨询公司。

他于2022年开始创业。此后,他启动了量子经济联盟,以启动人类与指数级技术交叉领域的项目。他也是,这是这个播客上的第一次,挪威的奥运会手球运动员,这使得他比你,或者肯定比我更有成就,而且,哇,更有趣。安德斯,为什么我们花了这么长时间才邀请你参加今天的播客?

不用多说了,我很荣幸地欢迎你来到人工智能与未来工作播客。让我们从让你分享更多关于你辉煌的背景以及你如何进入这个领域开始吧。是的,谢谢你邀请我,丹。这是一个相当不错的介绍。

是的,除此之外,我的意思是,我以前是一个铁杆资本家。我创建了公司,我很大程度上依赖于别人对我的看法,并且非常受这种生活方式的驱动。我调整了方向,开始写书。我已经出版了七本书,最近又回到了投资领域。多年来我一直有投资,但我花了……

大约十年时间来演讲、思考和写作关于你在介绍中提到的与杰弗里·欣顿相关的技术话题。是的,我的意思是,我出生时名字缩写就是AI。所以我认为回到这个领域是自然而然的,而且,

我最近写的几本书,《机械姬》、《上帝实验》探讨了模拟假设,最近的《奇点悖论:弥合人类与人工智能之间的差距》,我的合著者是佛罗里安·诺伊基尔奇博士,

旧金山的一位量子物理学家,奥地利出生。我们写的是人工智能。我们将研究你在关于我们所看到的指数级速度的持续进步中提到的某些影响。所以,我的意思是,我一直对技术很感兴趣。挪威出生,过去25年在德国度过,有两个公主的父亲。

我想总的来说就是一个非常好奇的人。所以我们从关于杰夫·欣顿和他对人工智能安全的一些观点的介绍开始。当你作为一个哲学家和未来学家思考世界和人工智能的走向时,你是否也分享杰夫的担忧,或者你在这个范围内的立场是什么?

是的,我在2019年写了一本书,名为《量子经济》。我没有玩弄,你知道,做一些量子巫术,指的是纠缠和叠加。但我关注的是,你知道,经济模型的结果。所以,当我把经济视为我们社会的操作系统时,因此它需要某种稳定性,这样我们作为一个物种才能在这个系统中航行和组织。

我当时正在研究当我们开始将权力交给算法以及人工智能如何出现以及量子人工智能、生物技术等的交叉点时,情况会如何发展。所以当我写这本书的时候,它是一本国际知名的书,但它有点未来主义,理论也很激进。回顾过去,它过于保守了。

所以我现在正在重写这本书。我认为20年

我指的是你关于欣顿从30年到20年的观点。显然这是一个挑战。你如何定义人工智能?你如何应用AGI?这些都是非常模糊的术语。我的意思是,他们在50年代就玩过它,人工智能听起来比Kubernetes或控制论更酷。所以,首先,它不一定是人工的,因为它是由人类创造的,而智力是一个非常复杂的概念。所以我认为这是

结果是,持续进步的可能性比下降或停滞要高得多。在过去的80年里,我们已经看到了指数级的增长,没有任何大流行病或战争能够减缓这种增长。所以,如果你看看很多技术人员都在使用的大型语言模型,

我会说,有点厌倦了,因为我们已经认识到了一些局限性和一些挑战,我们正在寻找根本不同的方法来构建世界模型以及如何模仿大脑或其他东西的工程。所以我认为20年是非常遥远的

当谈到这些技术的潜在好处和挑战时。所以在短期内,我同意欣顿的观点,我们正在加速,但我将

几乎得出这样的结论:我与雷·库兹韦尔的预测更加一致,即到27年实现AGI,到2045年实现某种技术奇点,这将是20年后的未来。所以,如果,如果,如果

技术进步是可能的,看起来确实如此。这是一个速度问题。你如何提高速度?你增加聪明人,并用大量资金来推动它。这就是我们今天所看到的。大量的资金。最聪明的人才正在从学术界转向企业环境。企业环境推动着这种变化。有趣的是,如果你回顾历史,战争会发生。

这是技术进步的一个重要驱动力。现在,地缘政治紧张局势使许多人投资无人机技术、人工智能驱动的作战系统等等。现在对国防和技术的投资很可能会加速所谓的……

朝着某种超级智能的方向发展,是的,我的意思是,对一个简短的问题作出了冗长的回答,但这是一个复杂的话题,我认为你只需要理解大型语言模型的局限性以及计算、能源等的工程挑战,以及另一方面这些技术的巨大影响。

罗杰提到了库兹韦尔和奇点的概念。如果可以的话,我们会先搁置这个问题,然后再回来讨论。你之前说过的话,我喜欢你哲学中的这个元素。它贯穿于你的许多作品中,关于经济作为全球操作系统。这是一种巧妙的方式,可以将技术和社会概念融合在一起。你所倡导的思想之一是,我们有可能创造一个经济,而不是关注技术,

利润动机。它关注的是社会福祉。我不是想悲观,但这似乎有点天真。鉴于我们作为种族所处的位置,这是可能的吗?是的。我认为这里的问题是,一个由

社会生态市场经济驱动的社会意识形态是结果、产出或我所指的投入的结果。让我解释一下我的意思。

我们一直非常非常关注一种意识形态,即创造一个更美好的世界,或者拯救地球,或者某种我们应对气候变化的未来。

首先,要掌握所有这些概念,它实际上意味着什么,是非常困难的。你知道,气候,你看看一切,你不能解决一切,对吧?另一方面是,虽然我喜欢参与,并且钦佩走上街头并表达意见的年轻人,

格蕾塔·通贝里和我们在德国看到的“为了未来星期五”运动现在很安静,而且它们并没有真正产生影响。那么是什么产生了影响呢?那就是技术的实际进步。戴维·德意志在《无限的开端》中对此进行了大量论述,这是一个我非常认同的哲学和思维方式。十年前有一位非常鼓舞人心的……

十年前去世的汉斯·罗斯林教授,盖普明德基金会的创始人。他谈论的不是天真的乐观主义,即一切问题的答案都是技术,也不是反乌托邦式的悲观主义,而是可能主义。所以我们需要某种重新启蒙,如果你愿意的话,一个充满事实的社会,在那里我们理解事物

进步的意义。在这里,我的论点是,如果社会的操作系统能够运作,那么就会有利润和增长,那么就会有一些东西可以分配。所以,如果有一些东西可以分配,我们可以让它更社会化,对吧?另一个论点是,如果我们理解经济和生态是协同的,

那么我们将理解,通过技术进步降低能源的边际成本将导致超高效率,而理论上超高效率的资源利用将导致我们今天所理解的。

可持续性,对吧?所以这基本上是我的论点,当一种由理性驱动的人性资本主义,以及对技术能够做什么的更好理解,那么我们将拥有超高效率,我们知道消费和拥有东西会让我们筋疲力尽,所以高效的

时间和任何资源的使用都符合人类的利益。所以这基本上是我的论点。与其说是拥有一个社会福利经济,不如说是关注技术理论上能做什么,然后强调这一点。我认为,“可持续性”这个词将越来越多地从我们的词汇中消失。

一切都会围绕效率展开。如果我们解决了这个问题,那么我们也会拥有一个更绿色的星球。这基本上就是我对前面提到的量子经济的论点。这正是我一直期待与你进行这次对话的原因。我喜欢你哲学中的所有内容。我必须挑战你的一点是,

我们并非处于我们目前的人类物种版本中。我故意说“目前”,因为这可能会改变。但我们不是理性的行为者。我们天生就有一种倾向,称之为帝国主义与全球主义。一切都是零和博弈。不幸的是,我的意思是,你提到也许有一些

奇怪的,你知道,你说过战争具有反常的经济利益,但是,有一种倾向是不同意,而不是为了所有人的利益而寻求一致。嗯,

我的意思是,将这与奇点的威胁、人类和与人工智能的融合联系起来。未来是否存在某种版本的人类将拥抱你刚才所说的所有内容,这将有可能创造你设想的未来版本?这是一个非常好的问题。如果我可以对此进行探讨,我认为

如果我们有一个系统,它以我们人类理解的知识和优化、压缩的信息为基础,那么至少从理论上讲,我们可以得出关于真理的结论。

但挑战在于,如果对真理的意志丧失了,而这就是我们现在所走的道路,那么这是一个艰难的挑战。所以从这个角度来看,将我们连接到某种技术将是

肯定会有帮助,所以你可以想象人类做出的任何陈述都会实时得到验证,并在说话的那一刻被纠正错误,你可以更进一步,你可以在神经层面纠正错误,并且人们只依赖于那个基本现实,所以你将拥有某种基于共同事实现实的世界模型,嗯

这有很多哲学上的含义和挑战。但我认为未来潜在的人类,未来的人类,并没有天生就具备这种能力。但在我们最新的书中,我和弗洛里安争论说……

为什么我们应该考虑人工智能。因为我们认为目前的方法是将人工智能外部化并构建一台我们不理解的机器,并且不知道它的

输出及其含义,所以我们正在创造一个,你知道,我们想要从机器中获得幸福、神性和不朽,机械神,你知道,这就是我们这些渺小而谦逊的个体想要创造一种从人类外部化的超级智能,我们认为唯一有

你知道,有希望的道路是从人类开始,从人开始,然后入侵生物学和化学,然后从生物实体、从生命本身增强人类,然后用人工智能增强它。我们详细地写了这将如何实现,但我们认为这是

有点浪漫化了对人类的理解,对人的理解,即有一些东西使我们与众不同,如果你愿意的话。有一些东西将我们与机器区分开来。而且,你知道,如果这是真的……

我认为论点应该是我们想要保留它。如果它不是真的,而我们是基于信息的,我们是一台计算机,那么我们至少需要将我们对现实的意识体验与值得为之奋斗的未来保持一致,如果这说得通的话。所以这基本上是,我不认为这是理所当然的,存在某种未来的人类体验

你知道,进化的一部分或新的升级版2.0的人类,其中包含任何这些内容。我认为这是艰苦的工作,对我们想要构建什么样的未来进行大量的哲学思考。我认为这就是问题的关键。我很高兴你浪漫化了我们可能成为的人类的愿景。我认为这真的,非常优美。

你在回答的开头说过一些话,我不得不回到这个问题。这种新型全球操作系统,一种更加开明的经济,是基于你所指出的,某种外部客观真理。一个非常复杂的部分是,当你这么说的时候,很明显是有道理的,但是谁是真理的仲裁者?

我们已经准备好,可以说,在一个后真相社会中,很难客观地说什么是真的了。我认为这种情况在未来还会继续下去。所以,即使我们说这是我们渴望的未来的一个要求,我们如何确定,

人工智能的作用是什么?它会成为真理的仲裁者吗?对。不,我的意思是,我可以就此详细地谈论,但是当我们说存在一些我们可以达成共识的可能性时。所以拿一张被操纵和书写过的照片图像。

所以,如果我们认为现实是真实的,我们不能根据我们自己的感知回到过去并改变它,而我们不是某种模拟链,所以存在一个我们作为人类感知的现实,我们所有人都有某种意识,那么至少在理论上,我们可以得出某种基本现实。

我们可以坚持的东西。所以这张图片要么被Photoshop或其他东西改变了,要么没有,对吧?如果拥有所有数据并查看它,你会说,你知道,

这就是它原来的样子,这就是它之后的样子,或者这就是你现在看这张图片的样子,这就是它的样子。你看到了区别吗?我们可以谈谈共同的基础吗?有很多事情,至少,没有很多……

心理上的伤害,我们可以达成某种共同的基础。但我认为这里的基本论点是,我们已经偏离了或脱离了对真理的意志。所以我们有一个优化社会,这是一种二元化的看待方式。零和一,你的真理和我的真理。我认为这是我们开始沟通的方式造成的。

所以我们失去了对科学的信任,我们也失去了对实践的信任。我们陷入了我们自己不言自明的真理中。这就是二元化的方式。这是社交媒体的结果。如果你想简化它,并将其简化,你可以说这是一个点赞、点踩的社会。所以我们采取二元化的方式。在这个社会中得到奖励的一切都是反应,而不是反思。

所以无论我做什么,如果我说的话完全不合时宜,而且很糟糕,人们为此感到冒犯,那么反应,快速的反应,丑闻,头条新闻比围绕这个话题的理由重要得多。我将给你一个非常具体的例子。我和我的一个好朋友谈过,他是领先广告公司之一的创始人。

他现在退休了,是一个观察沟通的天才。在世界锦标赛期间,跳台滑雪发生了一起丑闻。这是在挪威,一个重视价值观的国家。他们不作弊。结果他们作弊了他们的设备。他们有一些可以飞得更远的衣服。他们在操纵它。

这个行业已经知道这件事多年了,几乎所有国家都在这样做,但他们被抓住了。这在所有媒体上都有报道,这是一项正在消亡的体育项目,人们对这项运动的兴趣正在下降。所以突然之间,跳台滑雪占据了所有媒体的头条。

现在,几个月后,如果你回顾一下,很多人读过关于跳台滑雪的文章。当冬天雪来的时候,有人对跳台滑雪感兴趣,他们不知道为什么,因为丑闻消失了。这只是一个反应,而不是对基础层面的反思。这就是我们运作的方式。你每天都会有新的丑闻。你有一些与理性无关的话题。有很多这样的例子。

我认为最有力的一个例子,我认为大多数人都能理解,那就是在选举期间企图暗杀特朗普总统的事件。所以,

这种情况几乎没有理由,而且还没有得出任何结论,它是怎么发生的,这个人是谁,没有关于它的信息,我们只是继续前进。所以这是一个反应,左右,零,一,上和下,然后我们继续前进。这种优化社会最终会导致分裂,因为我们优化的是某种

追随者、点赞、分享或经济原则。你会看到经济是由反应驱动的,而不是反思。这就是算法优化的方式。因此,我认为我们面临的许多挑战是回到对真理的意志,回到犯错的艺术,即生活的哲学方面。令人着迷。所以

基于算法生成一些事实上不真实的东西的例子,比如穿着蓬松外套的已故教皇弗朗西斯,对吧?事实上,教皇弗朗西斯没有穿蓬松外套,但那一组像素组合使他看起来像是在某个时候穿了,这是真实的。这只是一个算法生成的。所以,如果你知道一个算法生成了一张教皇弗朗西斯穿着蓬松外套的照片,那是

真实的,即使教皇实际上从未穿过蓬松外套。同样,关于反应与反思的观点,你是否可以认为光谱上的所有东西在其原子层面上都是真实的,即使让真理成为一个光谱对社会来说可能不是最好的事情?是的。但我认为挑战在于,你

所以我们有一个致命的信息社会,一切都是混乱的。你想整理一下。你想把它交给算法,我们构建了LLM,我们都有。所以我们被教导如何成为知识代理人、专家。这是我们的教育体系。我们的大脑被设计成不质疑,不推理,而是成为专家。对吧?

这基本上是结束教育,获得分数,成为某种东西,拥有一个类别并被定义为某种东西。我们非常熟悉解决方案,对吧?我们并没有真正解决任何问题。如果我们确定了一个问题,我们就有可能使问题变得更好。

所以我们可以取得进步,但我们没有最终的解决方案。我们没有接受过像哲学家那样思考或推理的训练。我们接受过训练,就是要成为这些回答机器和知识和专家。因此,我认为,你知道,我们必须关注的全部本质是,我们如何从青年和儿童开始进行教育?

但也在公司的高管教育中,这不仅仅是学习事实,而是学习如何学习。这不仅仅是掌握正确的方法,而是练习犯错的艺术。所以如果有一个论点

你知道,这不是为了赢得论点,而是为了取得进步。如果我们理解我们在这里,配备了两个可能的拇指来构建更好的工具,为人类进步做出贡献。如果进步是我们的共同点和目标,那么我认为对我们来说,创造一个理性的社会而不是知识社会可能更好。所以基于未来经济的概念,

我经常思考的一件事是,我们的工作在许多方面定义了我们的价值。这只是一个,这是人类状况的一个基本要素。我认为你可能会同意,未来的工作与现在的工作不同。传统工作的概念可能会发生根本性的变化。我必须问你,什么会取代我们,

当这种新的全球经济出现或人工智能介入并使我们更有生产力时,通常认为是工作的东西,定义了我们的价值?我们如何取代人类状况的这一部分?是的,我将再次回到你的介绍。我认为,你知道,所有这些活动都将实现自动化。所以工作是,我的意思是,工作的角色是,你知道,提供结构,某种身份,

我们称之为目标,对吧?然后我们开始区分工作和生活。所以我们称之为工作和生活,它们是两个不同的实体。你今天在那些国家可以看到,那些更具反应性和分离的国家,对吧?

不认同工作,而其他国家,我认为美国在这方面非常强大,很多人认同他们的工作和他们正在做的任务。我认为这一点很重要,因为这是

与我们如何生活的关系。所以,如果我们的工作或活动是一种反应,我们只会反应和运作。我们会筋疲力尽,感到疲倦和沮丧。如果这是一个行为或激活,我们内在地被激励去做,并且

然后我们赋予或赋予生命以目标,而我们不仅仅是被反应所驱动。我认为这是我们需要理解的基本部分,即人类的激活变得至关重要,因为如果我们只是四处奔波,反应和运作,那么我们就处于那种反乌托邦的场景中,而不是像受控制的1984年奥威尔式的电影,

反乌托邦式的噩梦。它更像是《美丽新世界》,更古老,也来自奥尔德斯·赫胥黎或尼尔·波斯特曼,他在20世纪80年代写了一本书,讲述了我们如何娱乐自己致死

电视的出现改变了游戏规则。现在,我们沉迷于消费和所谓的娱乐,直至死亡,却毫无乐趣可言。因此,我们变得被动反应。这是一个死气沉沉的社会,而不是一个积极活跃的社会。这是一种新型的存在主义,我们不与生命的有限性抗争,我们四处游荡,拥有身份认同,但这更像是行尸走肉。

这就像哲学僵尸的状态,我们没有调谐,我们只是对冲动做出反应,并加速这种反应。这个答案在很大程度上解释了为什么斯堪的纳维亚国家始终被评为世界上生活质量最高的国家。因为这与美国人看待他们在社会中的角色的方式大相径庭,

正如你所知,这是一种截然不同的心态。安德斯,我告诉你,我们会把奇点这个话题搁置一下,这是一个非常重要的议题,你对此进行了一些深入的思考,所以我必须听听你对此的看法。无论你是否同意库兹韦尔关于奇点45年的说法,我认为一个更重要的问题是

我们如何知道我们到达了奇点?奇点对于那些没有沉浸在奇点世界的人来说,碳基生命形式和硅基生命形式的融合,是什么迹象表明我们已经实现了奇点?这是一个很好的问题,丹。我喜欢,我们去了那里,我们应该花几个小时讨论这个问题。但是,是的。

一个人工通用智能超级智能基本上将是我们认知能力的体现,因此我们拥有某种巨大的超能力,我们无所不知,无所不能,因此技术奇点基本上就是人工智能无限地创造人工智能的时候,它进化到我们无法控制和理解的程度,所以它基本上就像……

人类认知并非要被优化,而是与机器分离。我已经写过这篇文章了,我称之为人类的最终自恋性创伤。

所以基本上,我们有三个自恋性创伤是由西格蒙德·弗洛伊德提出的。弗洛伊德说,是的,第一个是哥白尼,我们认为地球是宇宙的中心,围绕着人类和我们星球的优越性而旋转,对吧?然后我们意识到,我们处于某个无限膨胀宇宙的角落

那是第一次自恋打击。由此产生了许多科学进步、发展和突破。然后达尔文来了,他说,我们不像上帝创造的生物。我们是人类。

某种基于从某种动物进化而来的进化链。这是第二次打击,再次导致了许多进步。弗洛伊德带着他的心理创伤出现了,他说,正如你之前所说,我们不像理性思考者。我们是,你知道,基于某种,你知道,

我们行为的无意识驱动力,而我写的是最终的自恋性创伤,基本上是我们接受了……创造论,神创论的思想,我们认为我们人类可以创造某种人道主义的创造论,我们可以创造任何东西,

这包括,正如我之前所说,我们可以从理论上模拟我们的大脑,重建结构等等。在这种情况下,我们认为我们可以创造出外部化的东西,我们最终可能会取代自己。

不是说机器人会发疯并接管,我们必须拯救布鲁斯·威利斯或阿诺德·施瓦辛格,而是说如果有什么东西,回到对人类的浪漫化,如果有什么东西超出了我们基础物理学的潜在理解,甚至超出了某种

唯物主义的世界观,这就是意识。这是人类独有的东西。

我们不会覆盖它或丢失它,这并非理所当然。因此,你可以想象这样一种情况:我们构建了丹和安德斯的完整复制品,我们会进行同样的对话,但这将是完美的人工智能。每个原子都会被复制。我们大脑中的每个神经元都将根据神经功能被理解。因此,我们将有830亿个神经元在发射,但我们已经走上了这条道路

有点像《黑客帝国》中的场景,我们超越了一条道路,将大脑与机器融合在一起,它的功能完全相同,但没有感知。

所以你问的问题是,我们什么时候会意识到这一点?如果意识体验,你自己的体验,质料,这是一个高度的当下主义,它发生在作为某种东西的感觉的本质中。如果这被取代了,我们会注意到一些事情。

所以你会有希腊神话中的纳西索斯凝视着水面,这个美好的审美实体的形象会反映在水中,但那里没有人去感知它。所以灯是亮的,但没有人回家。这就是哲学僵尸的场景,我们可以拥有一个与我们生活的世界完全相同的世界,但那里没有光。

对它的意识体验。这甚至不是反乌托邦,因为没有感知。这将是悲伤的,因为,你知道,生命本身的活力,莱本迪格凯特,活着、感受和感知意味着什么,我认为这就是使我们成为人类的东西。所以在技术奇点中,

这可能是一种结果。我的意思是,我们也可以反思某种更高的意识状态或某种精神境界,在那里我们敬畏地坐着,我们拥有所有进入的东西,适量的多巴胺和血清素,或者只是将我们传送至某种其他维度。这些都是此类场景的潜在结果。即使你从技术的角度来看,如果我们可以把

或将我们的思想上传到某种其他形式。这些都是围绕技术奇点可以反思的事情。

这是一个完全不同的对话主题。几乎每一个主题都值得进行专门的对话。这可能是340多集中最难缩短的一集,但我们已经超时了,在你离开“热座”之前,我必须问你最后一个问题。我想了解你个人的旅程。

我提到过你是一位奥运会手球运动员。显然,无论你做什么,你都非常出色。你非常有抱负,非常有天赋。现在,我的意思是,我认为你的一些想法,以及我读过你的许多书之后,这确实是任何当代哲学或未来主义中最有趣的线索之一。你职业生涯的贯穿线是什么?你内心的安德斯是谁?我认为这归结为……

非常好奇。我对理解和学习事物非常感兴趣。我有这个特权

就是这样。当我创建公司、从事体育运动并登上头条新闻、沙巴姆以及所有一切时,我并没有感到成功。这成为我非常重要的一个话题。我没有感到成功,因为我被外部目标所驱动。与追随者、点赞和头条新闻以及你所做的一切进行比较。我认为这是非常不健康的。

所以今天我认为自己非常成功,但不是因为财富、名望和金牌,因为我体验到了进步。对我来说,最令人满足的成功是体验到自己学到了东西。

这是我最大的动力。我很荣幸,因为我每周七天都能起床学习。健康的生活方式是可以的。但我对此开玩笑。我说,你知道,给我在……

30岁到50岁之间多10年时间,或者现在给我多一些时间,因为我好像很着急学习很多东西。从我年轻的时候起,这就是我的动力。所以我深入研究的公司方面和体育运动,我都非常渴望深入学习。

还要回到第一性原理,去理解。这也是人们回过头来对我说:“安德斯,我不同意你的观点。”的原因,我说:“我没有表达过意见。我在寻找问题。我在寻找理解,寻找进步,而不是某种

强硬的意见。我可以从反思的角度采取任何立场。我是一个不可知论的无神论者。我可以沿着任何逻辑推理和理性结构跳舞。我想,从我还是个孩子的时候起,我的大脑就是这样被连接起来的。我认为今天这正是我前进的动力。我只是非常非常感兴趣学习。这不仅关乎你的个人旅程,也关乎所有正在收听节目的听众,他们可能

关于未来,你的同事是一个机器人,只需重播这段录音,听听安德斯所说的话。这是关于好奇,获得你自己的满足感和对知识的渴望。我认为这回到了关于人类状况以及我们之前谈论的一切的评论。这是一个结束对话的好方法,我们

现在加入人类团队从未有过更好的时机,因为世界需要乐观主义者、伟大的思想家、好奇、善良和喜欢学习的人。

我会说可能性论者,因为这包括对理解的追求。而且,你知道,在生命有限之后,可能会有某种连续体或其他什么。我对各种理论持开放态度,你知道,只要以一种可信的方式向我提出。还要回答我为什么我们不应该充分利用现在。如果有更好的地方,这里仍然很酷。我们可以做很多事情。我认为这是,

我们得到的,我不会说错了,因为我不是评判的人,但至少对我来说,生命是一场通往任何地方的美好旅程。我认为你必须充实你的生活。所以回到激活部分,对吧?一项积极的、内在的、有动机的任务要做的事情。你必须充实你的生活才能拥有充实的生活。

这与反动主义、对目标的追求、意义的寻找以及我们试图追溯到答案或有限的、所谓的知识或类别以保持一致的相反。所以是的,我认为这是要做的事情,并且要从某种内在的驱动力中获得这种动力。我认为为了应对这些疯狂而激动人心的时代,这一点非常重要。说得很好。

好吧,我们几乎没有讨论我们准备好的任何话题,包括在开始录音之前,我们还在讨论人工智能和量子力学的交叉点。所以,你知道吗,你必须回来。我认为这是几部分中的第一部分。

丹,我会的。我很高兴回来。我进行了一次很好的谈话。是的。这真是令人愉快。感谢你的陪伴。天哪,这比我们本周在人工智能和未来工作方面所用的时间还要多。一如既往,我是你们的主人,来自PeopleRain的丹·图尔钦。当然,我们下周将与另一位令人着迷的嘉宾一起回来。