Technological progress drives growth, but we have a choice in shaping its nature. We can develop technologies that enhance prosperity without damaging the environment or widening social inequalities.
Algorithms prioritize engagement by amplifying outrage and fear, which conflicts with the need for a healthy, deliberative public sphere required for sustaining democratic institutions.
She toggles between apprehension and optimism, drawing parallels to her father's experience with nuclear technology and the unpredictable transformation of the internet.
AI drives creators toward superficial beauty conforming to popular standards, fostering an obsession with perfection fueled by dopamine signals and cluttering the mind.
He is optimistic about AI's role in advancing medical treatments and cures, highlighting recent advancements that are already making a positive impact.
He stresses the importance of maintaining a human-centric approach, questioning the purpose of technology and urging developers to consider its impact on humans.
She acknowledges the unpredictability of such technologies, likening them to the internet's unforeseen transformation into a shopping mall and expressing humility about predicting their future impact.
She explains that the pursuit of AI-generated perfection triggers dopamine signals, teaching the brain to constantly seek superficial beauty and cluttering the mind.
He questions what developers are optimizing for and why, emphasizing the need to consider the human impact beyond personal gratification.
He points to AI's potential in the medical field, where recent advancements are paving the way for novel treatments and cures.
本书的一个关键主题是,最终推动增长的动力是技术进步。我们发现了关于世界的新思想,我们发现了利用现有有限资源的新方法,而这另一个说法就是我们产生了技术进步。因此,论点之一是,我们有选择权。我们不仅有或多或少的增长,而且我们还可以改变增长的性质。我们的技术也是如此。
故事相同。我们可以拥有更多或更少的技术进步,但我们也可以拥有不同类型的技术进步。我们可以发展使我们更加繁荣的社会技术,但这些技术也不会破坏环境,也不会加剧社会不平等。因此,实际上,更深层次地说,这是一本关于技术的书,因为目前我认为我们选择了错误的类型。而前面提到的两本书是对可以说是错误类型技术进步的一种审视。
我担心在未来几十年里,技术可能会对我们的工作生活产生非常有害的影响。因此,从某种意义上说,这本书是对我在早期著作中提出的这些观点的一种概括。当然,它们正在被推动,例如,我们知道Facebook使用的一些算法会突出显示或倾向于使最能吸引人们的帖子更突出
最能吸引人的东西往往是你的愤怒感,往往是恐惧感或愤怒感。因此,如果目标是尽可能长时间地让人们留在平台上,
那么你就必须诉诸人的个性中并非你想要的方面,如果你想要的是一个健康、审慎的公共领域的话。因此,民主的需求之间存在着张力
为了长期维持我们的民主制度和长期维持我们的自由,以及营利性商业公司为了最大限度地增加人们在社交媒体上的时间以增加利润而需要做的事情之间存在着张力。
我对它既感到恐惧,又完全不担心。我没有花很多时间玩Chat GPT或Gemini之类的软件。我不想知道它是否比我更擅长编写我的节目,而且它很可能确实如此,但这是一种全新的技术,我们知道它会改变我们的生活,而我们不知道会发生什么。
我非常不愿意从实际层面上预测改变世界技术将在我们生活中如何发展。我的父亲是一位核工程师。他建造了核电站。他相信他正在创造一种能够拯救世界的能源,但结果并非完全如此。但他办公桌上放着一个
小小的装裱好的《纽约客》漫画,画着一个坐在摇椅上的老妇人抬头看着一个灯泡,灯泡上向下射出邪恶的小波浪,好像灯泡会毒害她一样。而这个想法,电灯泡发明之初,它似乎是具有威胁性的,它似乎会毒害我们,它似乎会是
敌人。我想,首先,我不会,而且我也绝对有谦逊地说我没有想象力去展望未来,看看它将如何发展。我认为在这个社会发生两次这样的转变时活着是令人惊叹的。你知道,我经历了互联网的诞生以及它对我们生活的接管,而且我
我认为没有人预料到它会像现在这样成为一个购物中心。我认为我没有想象力,而且在很多方面也不想有想象力去尝试预测事情的发展方向。我认为很容易就会产生世界末日灾难的场景。
我不想那样生活。我希望一切都能好起来。我希望电脑不会获胜,彻底消灭我们。但我同时也希望地球不会燃烧。我认为……
我们必须在我们活着的时候尽我们所能,为尽可能多的人创造一个安全、可行和有意义的世界。然后我们必须说,我要把它传给下一代,并知道他们会尽力而为。
我非常认同你所说的这一点,这实际上也与人工智能的兴起及其对艺术界和我们这些创作者的影响有关,因为当我们创作时,比如说,在纸上或用我们的身体创作形状时,我们会符合某种审美标准
或者我们创作出听起来很特别的音乐。因此,现在节奏感是重要的东西。它会诱使人们随着音乐摇摆,更喜欢你的音乐。因此,在你的音乐中加入大量的节奏感,你就能卖出很多。因此,通过这种对美的追求,对这种表面美的追求,这就是人工智能目前给予我们的,它给予我们完美的结果。并非他们生产的任何东西,这些模型都是完美的,因为你怎么评价完美?但它们是基于价值观。
大多数人想再次看到的数据。因此,记住这一点极其重要。因此,当你提到杂乱的心智时,这实际上也是一个杂乱的大脑,就神经递质在那里四处活动而言。因此,当我们追求完美的编码和
外在美时,我们的大脑又会发出所有这些多巴胺信号。多巴胺是好的。多巴胺是大脑的学习信号,但我们需要知道如何使用它。因此,如果我们不断地刷手机,将这种美带入我们的大脑,基本上是通过我们的眼睛,或者通过节奏感和音乐,
我们正在教导我们的头脑一直寻求这种东西,因为这是一个多巴胺信号。这是一个学习信号。因此,这会使你的头脑混乱,以追求这些形状和这种声音提示或任何东西。
反复地。因此,这会使你的大脑混乱,这就是为什么你的头脑混乱的原因。因此,这是一个我们现在才开始发现的过程,这也是为什么与不仅仅是硬核神经科学家合作很重要,他们可以告诉你大脑如何与环境互动,因为它的作用是教我们关于不安分的心智,一个无法平静下来的心智。
我认为人工智能在创意方面非常有趣,因为它可以给你不同的视角。再次回到视角,版权问题显然非常非常重要。在很多方面,这属于我们。
但我认为人工智能最鼓舞人心的事情是在医疗领域,以及我们希望能够找到以前不存在的治疗方法和治愈方法的方式。我们甚至已经看到
在过去几个月,如果不是过去一年的话,变化是如何发生的。我认为总的来说,这对我们来说是一件好事,只要我们能够获得对我们有帮助的东西。我曾经参加过一次活动。中央情报局邀请了一群电影和电视编剧来参观,并了解
中央情报局正在使用的各种不同能力,他们正在开发的技术,幕后工作的真实情况。这简直令人难以置信,他们拥有多少知识和技术能力,以及
人们拥有的不同类型的专业知识。然后,在这长达八小时的参观和与不同领域的不同人士交谈之后,我们都必须离开,我们有通行证可以打开门,但通行证却不起作用。
所以我们整天都在那里听关于伟大的技术,然后特殊的通行证却无法让我们出门。因此,20分钟内,12位作家坐在那里看着那些最有能力、最善意的人,他们每天都在为自己的国家而战
无法打开大门,你知道吗?所以,对我来说,这完美地诠释了在这个世界上成为一个强权意味着什么。在某些方面,我们是一个极其强大的国家。在某些方面,我们的军队是强大的,我们的情报机构是无与伦比的。但当事情来临时,你仍然在处理一台机器,而这台机器有一半时间都不工作。
我今天早上听了一个采访,一个将军说,你知道,就像,祝你好运在战场中间找到一个充电站。就像,我认为,我们正在非常接近我们所开发的数字技术的局限性,你知道,在过去75年里,在这个国家,我们所开发的数字技术能够做什么。我们如此依赖它,但它并不总是有效。我不知道,这让我放弃一切。
让我们完全谈谈技术以及人类的作用、作为人类以及存在于其中的意义。我们需要将人类置于我们所做的一切的中心。我们生活中所做的一切都是关于人类的。它始于人类,也终于人类。可能会有技术、企业以及介于两者之间的一切事物,但我们应该衡量
对人类的影响。当我与人们谈论人工智能或技术时,我通常会问他们两个问题。你在优化什么?你试图获得什么效果?为了技术而发展技术,虽然这可能有点意思,这就是你这么做的原因,因为你认为它很有意思,但最终,如果你这样做是为了超越你自己的满足感,为什么?你为什么要这样做?
创意过程播客由Jan Michalski基金会支持。我们希望您喜欢这个节目。要了解更多关于这些嘉宾的信息,请收听他们的完整采访。这些采访是由Mia Funk主持的,并有合作大学和学生参与。本集的副采访制作人是Sophie Garnier。如果您想参与我们的创意社区、展览、播客或提交您的创意作品以供审核,请发送邮件至[email protected]。感谢收听。