Sam Altman on the future of AI and humanity
39:42 Share

您好,我叫劳拉·拜尔。我是TED品牌合作主管。

我毕业于乔治城大学麦克唐纳商学院,在那里我加入了一个多元化且全球互联的商业领袖网络,致力于创造有意义的遗产。我在课堂内外经历的变革性时光,为我提供了解决复杂问题和在工作场所发现新机遇的知识和技能。我以多种方式参与了乔治城社区的活动,磨练了我的战略、分析和沟通能力。

我现在与有成就的校友们建立了联系,他们互相支持彼此的个人和职业发展。当我完成硕士课程后,我已准备好胜任商业工作并对社会产生影响,而我已能够在TED实现这一目标。您可以获得适合您未来的硕士学位。与乔治城麦克唐纳商学院一起创造您的遗产。访问msb.georgetown.edu/TED。

您知道吗,每两个女性中就有一个使用错误的粉底?粉底匹配很难,但ill maquillage让它变得容易。参加Power Match问卷调查,即可在几秒钟内找到完美的匹配,根据您独特的肤色、底色和遮盖需求定制。凭借600,000条五星级评论,Woke Up Like This成为我们畅销的粉底并非没有道理。提供50种色号的轻盈自然遮盖。使用“购买前试用”,您可以在家试用您的全尺寸产品14天。只需支付运费。

在ilmakiage.com/quiz参加问卷调查。网址是I-L-M-A-K-I-A-G-E.com/quiz。今天的节目由来自Anker的Soundcore赞助播出。Soundcore Sleep A20耳塞是超舒适的、隔音的耳塞,可在您睡眠时提供无与伦比的、无压力的舒适感。

Sleep A20耳塞采用3D人体工程学设计,并结合了气翼,这些微小的翅膀有助于它们固定在您的耳朵中,所有这些都包裹在超柔软的材料中,使其非常适合任何类型的睡眠姿势,尤其是像我这样侧卧睡觉的人。我戴着它们,这与通常笨重的耳机和耳塞(会伤到耳朵或掉出来)相比,是一个令人欢迎的变化。这些耳塞非常舒适,而且整夜都戴着很稳固。

而且超长的电池续航时间可提供整夜不间断的音频播放。在睡眠模式下使用它们,一次充电可使用14小时,搭配充电盒可使用长达80小时,确保10个夜晚的充分睡眠。使用Soundcore Sleep A20获得您应得的睡眠,网址为soundcore.com。网址是S-O-U-N-D-C-O-R-E.com。结账时使用代码sleep可享受30美元的折扣。

关于OpenAI自ChatGPT发布以来所走过的轨迹,让我感到惊讶的一件事是,到下午一点钟可能会有多少事情出错。

大家好,我是亚当·格兰特。欢迎回到《重新思考》,这是我在TED音频集体播客中关于让我们有所作为的科学的播客。我是一位组织心理学家,我将带您进入迷人人物的思想,探索新的想法和新的思维方式。

我今天的嘉宾是Sam Altman,他是OpenAI的首席执行官兼联合创始人。自从Sam和他的同事们首次推出ChatGPT以来,发生了很多变化。你我正在经历人类历史上的一次转变,人类将从地球上最聪明的东西转变为不再是地球上最聪明的东西。

人工智能的指数级进步让我重新思考了我对人类独特性的一些假设,并提出了更多的问题而不是答案。由于源代码是一个黑匣子,我认为是时候去拜访源头本人了。在几次活动中与Sam相遇后,我很欣赏他愿意大声思考,而不是仅仅坚持预先写好的谈话要点,即使他的观点不受欢迎。

我怀疑几年后,在几乎任何话题上,你所能进行的最有趣、也许是最有同理心的对话将是与人工智能进行的对话。Sam Altman自己进行技术检查。这是怎么回事?啊,你知道,我不知道。没关系。这里没有处理者。有时。我必须从许多对话在过去一年中开始的地方开始,那就是,被解雇你自己的公司是什么感觉?这种超现实的迷茫,......

困惑是最初的主要情绪。然后他们就像,我经历了一切。但困惑是第一个。然后呢?然后是沮丧、愤怒、悲伤、感激。我的意思是,什么都有。哇。那48小时就像全方位的人类情感。这在呼吸方面令人印象深刻。你在那48小时里对这些情绪做了什么?说实话,有很多事情要做,就像......

战术上,没有太多时间处理任何情绪。所以在那48小时里,没有太多。然后在尘埃落定之后,这很难。我必须在这一切中重新开始工作。我记得史蒂夫·乔布斯在几年后被迫离开苹果后说,这是一种难以下咽的药,但我猜病人需要它。

这在任何方面都与你相关吗?或者这种情况太不一样了吗?也许时间还不够长。我最近没有对此进行深入反思。我认为它与史蒂夫·乔布斯的案例在所有方面都大相径庭。而且它也很短。整个事情在五天内就完全结束了。这就像一场非常奇怪的梦境,然后又回到了工作岗位上收拾残局。我想五天与十年相比,学习曲线略有不同。对。你学到了什么教训?实际上,也许我错了。也许只有四天。我认为是四天。

我学到了一些东西,下次我会做得不同,关于我们在该过程期间和之后如何沟通,以及需要直接清楚地说明正在发生的事情。我认为长期以来,OpenAI上都笼罩着一层怀疑的阴云,我们本可以做得更好。我知道我和优秀的人一起工作,但看到团队在危机和充满不确定性的压力情况下表现得多么出色,对我来说,最自豪的时刻之一就是看着执行团队在我离开后一段时间内运作。

并且知道他们中的任何一个都完全有能力经营公司。听到你说这话我很惊讶。我原以为你最自豪的时刻仅仅是如此多的员工站在你身后。我认为作为一名组织心理学家,看到来自内部的忠诚和支持的涌现令人震惊。

感觉很好,但这并不是最让我印象深刻的事情。我记得我为团队感到非常自豪,但并非出于这个原因。好吧,我想这也很像乔布斯式的,当他被问及他最自豪的成就是什么时。那不是Mac、iPod或iPad。是建造这些产品的团队。

我不做研究。我不制造产品。我做了一些决定,但不是大多数决定。我能建造的东西是公司。所以这当然是我拥有创作权的东西。那么你到底做什么?你如何度过你的时间?这是一个很好的问题。在任何一天,它都大相径庭,而且相当......

混乱。不知何故,清晨从不那么混乱,但后来经常在下午脱轨,发生所有这些事情,你处于反应模式和灭火模式。所以我学会了在一天的早些时候完成真正重要的事情。我大部分时间都在思考研究和我们制造的产品,然后是其他所有事情。但在任何特定时间,这可能看起来都大相径庭。因此,在我过去几年看着你颠覆世界的时候,我一直很好奇的是,人类将会发生什么?我一直在追踪我认为迄今为止所做的最有趣的研究。而人类

人类正在失去的速度比我希望的要快得多。快得多。所以我认为我们在创造力、同理心、判断力、说服力方面已经落后了。我想听听你对这些领域中一些数据点的反应。但首先,只是你对整体的评论。人工智能超越许多人类能力的速度之快,你感到惊讶吗?我们最新的模型在几乎所有方面都比我聪明。

这并没有真正影响我的生活。——真的吗?——我仍然关心以前一样的各种事情。我可以更有效地工作。我认为,随着社会消化这项新技术,社会将发展得更快。当然,我希望科学进步会发展得更快。

我们与这个令人惊叹的新人工制品、工具(无论你想称它为什么)共存。但你现在的日常生活与几年前相比有什么不同吗?没什么不同。我认为从长远来看,人工智能确实改变了一切。但我猜想十年前我会天真地认为,当我们拥有一个像我们现在最强大的模型一样强大的模型的那一天,一切都会改变。而

现在我认为这是一个天真的看法。我认为这是标准。我们在短期内高估了变化,在长期内低估了变化,对吧?没错。所以你正在经历这种变化。最终,我认为整个经济都会发生转变。我们会找到新的事情去做。我不担心这个。我们总是会找到新的工作,即使每次我们凝视我们的新技术时,我们都会假设它们都会消失。确实有些工作消失了,但我们找到了很多新的事情要做,希望找到更多更好的事情去做。我

我认为将会发生的是,这只是技术进步长期、不断展开的指数曲线中的下一步。我认为在某些方面,人工智能革命看起来与互联网相反,因为那时人们经营着公司,他们不相信互联网会改变世界,而他们的公司因为没有做出必要的改变而倒闭。但那些买入的人,行动的意义非常明确。我

我需要有一个功能正常的网站。我需要知道如何通过该网站销售我的产品,对吧?适应数字革命并非难事。我现在从许多创始人、首席执行官那里听到的是相反的情况,那就是每个人都相信人工智能具有改变游戏规则的能力。

而且没有人知道这对领导力、工作、组织、产品和服务意味着什么。他们都蒙在鼓里。从这个意义上说,它更像工业革命而不是互联网革命。这种发展方式存在巨大的已知未知数。但我认为我们也可以说很多关于它将如何发展的事情。我想听听那些事情。我有一些假设。一个是我们将停止......

重视能力,开始重视人类的敏捷性。我们将仍然非常重视某种能力,但不会像以前那样重视原始的智力能力。你认为新的重要能力是什么?我的意思是,这种愚蠢的版本是弄清楚要问什么问题比弄清楚答案更重要。这与我在过去几年中所看到的一致,那就是我们过去非常重视你大脑中收集了多少知识,并且

如果你是一个事实收集者,那会让你变得聪明和受人尊敬。而现在我认为,连接点比收集事实更有价值,如果你能够综合和识别模式,你就会有优势。你看过《太空堡垒卡拉狄加》这部电视剧吗?剧中反复提到的一件事是,所有这一切都发生过,所有这一切都会再次发生。当人们谈论人工智能革命时,在我看来,它在一些非常重要的质的方面确实有所不同,但也令人感兴趣。

它让我想起了之前的技术恐慌。当我还是个孩子的时候,出现了这个东西,互联网上推出了新东西。我认为它很酷。其他人也认为它很酷。它显然比之前的那些东西要好得多。我还不太大,所以这件事并没有直接发生在我身上,但年纪较大的孩子告诉我这件事。老师们开始禁止使用谷歌,因为......他们称之为谷歌吗?谷歌。如果你能查到每一个事实......

那么上历史课并记住事实的目的是什么?我们将失去一些关于我们如何教育孩子以及成为负责任的社会成员意味着什么的至关重要的东西。如果你能立即查到任何事实,你甚至不必启动内燃机,开车去图书馆,查看卡片目录,找到一本书。它就在那里。

感觉不公平。感觉不对。感觉我们将失去一些东西。我们不会那样做。而对于所有这些,发生的事情是,我们获得了更好的工具,期望值提高了,但某人的能力也提高了。我们只是......

学习如何做更困难、更有影响力、更有趣的事情,无论是什么。我希望人工智能也会如此。如果你几年前问某人,A,2024年会出现一个像O1一样强大的系统吗?B,如果一个预言家告诉你错了,而且会发生,世界会发生多大变化?

你的日常生活会发生多大变化?我们将如何面对生存风险等等?你问的几乎每个人都会在第一个问题上说绝对不会。但如果我错了,而且它发生了,那么在第二个问题上我们就完蛋了。然而,这件令人惊叹的事情发生了,我们就在这里。您好,我叫劳拉·拜尔。我是TED品牌合作主管。

我毕业于乔治城大学麦克唐纳商学院,在那里我加入了一个多元化且全球互联的商业领袖网络,致力于创造有意义的遗产。我在课堂内外经历的变革性时光,为我提供了解决复杂问题和在工作场所发现新机遇的知识和技能。我以多种方式参与了乔治城社区的活动,磨练了我的战略、分析和沟通能力。

我现在与有成就的校友们建立了联系,他们互相支持彼此的个人和职业发展。当我完成硕士课程后,我已准备好胜任商业工作并对社会产生影响,而我已能够在TED实现这一目标。您可以获得适合您未来的硕士学位。与乔治城麦克唐纳商学院一起创造您的遗产。访问msb.georgetown.edu/TED。

想象一下,你正在进行DIY汽车修理,工具散落得到处都是,突然,你意识到你缺少一个零件。没关系,因为你知道无论是什么,它都在eBay上。他们拥有所有东西,刹车、车灯、冷空气进气口,无论你需要什么,都能保证适合,这意味着不再需要祈祷你订购了正确的东西。所有你需要的零件,价格你都会喜欢,每次都能保证适合。eBay,人们喜欢的东西。

如果你戴眼镜,你会知道找到完美的镜架有多难。但是走进Warby Parker商店,你会发现它不必如此。你不仅会找到各种各样的镜架,还会遇到乐于助人的顾问和友好的验光师。是的,许多Warby Parker门店也提供验光服务。所以下次你需要眼镜、太阳镜、隐形眼镜或新的处方时,你

在创新的领域,Aidan Toner Rogers有一篇新的论文,这为研发科学家带来了好消息,那就是当他们得到人工智能的帮助时,他们申请的专利增加了39%,这导致产品创新增加了17%。其中很多都是突破性的进展,发现了新的化学结构,并且

主要收益是针对顶尖科学家,而不是底层科学家。如果你属于底层三分之一的科学家,那么几乎没有好处,但顶尖科学家的生产力几乎翻了一番。这种翻倍似乎是因为人工智能自动化了许多想法生成任务。它允许科学家将精力集中在想法评估上,优秀的科学家非常擅长识别有前景的想法,而糟糕的科学家容易出现误报。所以这是一个好消息,对吧?难以置信。

令人难以置信的科学创造力的释放。但这也有代价,那就是在这项研究中,82%的科学家对自己的工作不太满意。他们觉得他们做的创造性工作少了,他们的技能没有得到充分利用。在这种情况下,人类似乎被简化为法官,而不是创造者或发明者。

我很想知道你如何看待这些证据,以及我们该如何应对?我这里有两个相互矛盾的想法。对我个人来说,OpenAI发生的最令人欣慰的事情之一是,随着我们发布这些新的推理模型,我们将它们提供给伟大的传奇科学家、数学家、程序员等等,并询问他们的想法。听到他们讲述这如何改变他们的工作以及他们如何以不同的方式工作的故事。

我当然从不得不真正创造性地思考一个问题并找到以前没有人找到的答案中获得了最大的职业乐趣。当我想到人工智能接管这件事时,如果真的那样发生的话,我确实感到有些悲伤。但我预计实际上会发生的是,我们将会有解决难题的新方法。

积极参与解决最棘手的问题才能带来快乐。如果我们使用以不同方式增强我们的新工具来做到这一点,我认为我们会适应,但我并不确定。你现在的这份工作是什么样的?例如,你如何使用ChatGPT来解决你在工作中遇到的问题?说实话,我以无聊的方式使用它。我用它来,你知道,帮我处理所有这些电子邮件,或者帮我总结这份文件,或者只是非常无聊的事情。是的。

听起来你希望我们会以允许我们仍然参与创造性过程的方式进行适应。我充满希望。这深深地体现了人类的精神,以及我认为无论如何都会继续下去的方式。但这将不得不进化,而且会有些不同。另一个我预计人类比我们坚持的时间长得多的领域是同理心。

我最喜欢的实验表明,如果你正在进行文字对话,并且你不知道是人类还是ChatGPT,然后之后你被问到,你感觉被看到了吗?你感觉被听到了吗?你得到了多少同理心和支持?你会觉得你从人工智能那里得到的同理心和支持比从人类那里得到的更多,除非我们告诉你那是人工智能,然后你就不喜欢它了。对。我作为一名心理学家看待这些证据,我有几个反应。一个是......

我认为人工智能并不是那么擅长同理心。这是因为我们人类的默认设置很糟糕。我们很快就陷入谈话式自恋中,有人告诉我们一个问题,我们开始将其与我们自己的问题联系起来,而不是为他们出现。所以我认为这可能只是对人类同理心基线较低的谴责。但我也想知道多久......

如果我知道它来自人工智能,我就不想要它了,这将持续多久,因为我们开始越来越人性化和拟人化这项技术。让我首先谈谈人们有时更喜欢某事物的实际输出,如果它是人工智能,直到他们被告知它是人工智能,然后他们就不喜欢它了。你一次又一次地看到这种情况。我最近看到的一项研究表明,即使是在声称他们非常讨厌人工智能艺术的人中,

他们仍然为他们最喜欢的艺术作品选择了更多的人工智能输出而不是人类输出,直到他们被告知哪些是人工智能,哪些不是。然后,当然,情况就不同了。我们可以举出许多其他例子,但人工智能在许多方面都赶上了我们,但我们天生就关心人类而不是人工智能,我认为这是一个非常好的迹象。我们都在这里进行推测。并且

我们所有人都不确定。但尽管你可能比今天更多地与人工智能交谈,但你仍然会在与人类交谈时非常关心。这是我们生物学、进化史和社会功能(无论你想称它为什么)中非常深刻的东西。你认为我们为什么仍然想要人际联系?这听起来像是罗伯特·诺齐克的论点的一个版本,它导致了人们更喜欢真实体验而不是

模拟快乐的矩阵。你认为这就是我们渴望的吗?我们只是想要真正的人际联系,即使它有缺陷且混乱?当然,人工智能也将学习模拟这一点。我认为......

你会很快发现,一直与一个完美无瑕、充满同理心的东西交谈,你会错过戏剧性或紧张感,或者那里会有一些东西。我认为我们天生就非常关心其他人怎么想、怎么感觉、他们如何看待我们。我认为这不会转化为人工智能。我认为你可以与人工智能进行有帮助的对话,并且你会感到得到认可。这是一种很好的娱乐方式,就像玩电子游戏是一种很好的娱乐方式。但我认为它不会满足......

作为群体、社会一部分的社会需求,这将与我们产生共鸣。现在,我可能错了,也许人工智能可以如此完美地利用我们的心理,以至于它确实做到了。如果真是这样,我会非常难过。是的,我也是。你说得对。人工智能很难替代归属感。也很难从机器人那里获得地位,让人感觉重要、酷或受人尊敬,

在我们依赖其他人眼耳的方式中。这正是我想表达的意思。我可以想象一个世界,很快人工智能就会比我们强大得多,并且会做这些令人惊叹的事情。当我想象那个世界,当我想象其中的那些人时,我想象那些人仍然非常关心其他人,仍然非常关心相对于其他人的相对地位和这些愚蠢的游戏。但是有多少人会衡量自己与......

你知道,人工智能正在做什么和能够做什么。所以我一直很好奇的一件事是,在一个信息越来越有争议,越来越难以让人相信事实的世界里。例如,我们在阴谋论信仰的数据中看到了这一点。人们相信阴谋论,因为这让他们感觉特殊和重要。就像他们可以接触到其他人无法接触到的知识一样。当然,这并不是唯一的原因,但这是驱动原因之一。

这意味着另一个很难让人放弃这些信念,因为他们是在承认自己错了。我最近的一篇论文让我着迷。这是Costello、Pennycook和Rand。他们表明,如果你与人工智能聊天机器人进行一次对话,它

即使几个月后,它基本上也能让人们放弃他们的一些阴谋论。它首先基本上只是针对你相信的虚假说法并驳斥它。我认为它之所以有效,部分原因是它对与你的信念相关的具体原因做出了回应。部分原因是没有人像对待人类那样在乎在机器面前显得像个傻瓜。并且......

不仅是人们,我认为大约20%的人放弃了他们荒谬的阴谋论信仰,而且他们还放弃了人工智能甚至没有针对的一些其他信仰。所以我认为这扇门打开非常令人兴奋。显然,这可以用于邪恶,也可以用于善,但

我真的很想知道你对我们利用这些工具纠正人们误解的这种新机会有什么看法。是的,世界上有些人可以做到这一点,可以以某种方式扩展我们的思维。这非常强大。这样的人很少,与他们交谈是一种难得的荣幸。

如果我们可以制造一个像世界上最好的晚宴客人一样的人工智能,超级有趣,无所不知,对你非常感兴趣,并花时间去了解......

他们可以在哪里推动你的思维走向新的方向,这对我来说似乎是一件好事。我也曾有过与人工智能的这种经历,我曾与某个重要领域的真正专家交谈过,这改变了我对世界的看法,当然,有些人可以做到这一点,但我碰巧没有和他或她在一起。

就在那时。它显然也引发了许多关于幻觉问题和准确性的问题。作为局外人,我很难理解为什么这是一个如此棘手的问题。你能用一种对非计算机科学家有意义的方式向我解释一下吗?是的。我认为许多人仍然停留在GPT 3时代,2021年的古老历史,那时这些东西都不起作用。它确实有很多幻觉。如果你使用当前的ChatGPT,它肯定仍然会产生一些幻觉。但我认为这令人惊讶的是

然后它通常非常健壮。我们训练这些模型根据它们之前看到的所有单词进行预测。训练集中有很多错误信息。有时模型也无法像预期的那样进行泛化。和T

教模型何时应该自信地表达它不知道,而不是,你知道,像做出它的猜测一样,仍然是一个研究领域,但它正在变得越来越好。凭借我们新的推理模型,在这方面也取得了很大的进步。我已经提示了不同版本的ChatGPT,例如,这是真的吗?你能确保这是一个准确的答案吗?这应该作为迭代中的一个必需步骤内置。

那么,这就是我们的发展方向吗?这会自动成为流程的一部分吗?我认为这将成为流程的一部分。我认为还会有很多其他的事情让它变得更好,但这将是流程的一部分。有一些全新的研究,在过去一两年里也进行了一系列这类研究。但上周让我震惊的是,当你比较单独的AI和单独的医生时,当然,AI获胜。但AI也击败了医生+AI团队。

我对这一证据的解读是,医生并没有从AI的辅助中受益,因为他们在不同意时会推翻AI。在历史上,你会看到这种现象的各种版本。比如,当AI开始下棋时,曾经有一段时间人类更擅长。然后有一段时间AI更擅长。然后在一段时间内,我不记得有多久了,AI加人类合作比单独的AI更好,因为他们可以带来不同的视角。

视角。然后AI再次比AI加人类更好,因为人类会推翻AI并犯下错误,而他们没有看到某些东西。如果你认为你的角色是在所有情况下都试图推翻AI,那么结果是行不通的。另一方面,第二点,我认为我们才刚刚开始弄清楚人类和AI应该如何合作。AI将比人类医生成为更好的诊断专家。而且

这可能不是你想对抗的。但人类还会做很多其他事情做得更好,或者至少是病人希望一个人去做的事情。我认为这将非常重要。我一直在思考这个问题。我很快就要当爸爸了。我的孩子永远不会比AI更聪明。这个世界,你知道,即将出生的孩子,他们唯一知道的世界就是一个有AI的世界。这将是自然的。而且你

当然,它比我们聪明。当然,它可以做我们做不到的事情,但谁在乎呢?我认为这只是在我们这个过渡时期才显得奇怪。在某些方面,这是一种谦逊的力量。

我认为这是一件好事。另一方面,我们还不知道如何使用这些工具。也许有些人对它们的依赖有点太快了。你知道,我再也拼不出复杂的单词了,因为我只是相信自动更正会拯救我。我觉得这很好。很容易对这些事情产生道德恐慌。即使人们更依赖他们的AI来帮助他们表达思想,也许这只是未来的方式。我见过一些学生,他们不想在没有ChatGPT的情况下写论文,因为他们

他们已经对草稿写作生疏了,他们习惯于将很多工作外包出去,然后利用原材料进行创作,而不是在空白页面或闪烁的光标前进行创作。我认为确实存在这种依赖性正在增强。你对我们如何防止这种情况有什么想法吗?

或者这只是未来,我们应该习惯它吗?我不确定这是我们应该阻止的事情。对我来说,写作是外包的思考,非常重要。但是,只要人们用一种新的写作方式取代了一种更好的思考方式,这似乎方向上是正确的。关于变得更出名的一件令人难过的事情是,如果我没有为我或OpenAI带来微不足道的利益就完美地表达一切,我就会招致大量的攻击或其他什么。这真是一件令人沮丧的事情。是的。

我认为这是一个你失去的特权,即公开地即兴发挥和玩弄想法,并且部分错误或想法不完整的能力。大部分是错的。大部分是错的,其中有一些精华。也就是说,我们中的一些人很感激你比你那些不进行任何自我反省或自我控制的同行更谨慎一些。好吧,那是另一回事。还有一些事情是关于做一个有思想、无私的,

一个相当谨慎的人,是的,我认为更多的人应该这样做。我认为非常愚蠢的是,一个相当常见的流程是,有人会写下他们想对另一个人说的话的要点,让ChatGBT把它写成一篇漂亮的几段式电子邮件,然后发送给另一个人。然后这个人会把这封邮件放在ChatGBT中,并说,告诉我三个关键要点是什么。

所以我认为有一些写作和沟通的残余形式,可能不再具有很大的价值了。我很乐意进入一个社会规范已经发展到每个人都可以互相发送要点的世界。我真的很想要一个水印,或者至少是一些内部记忆,让ChatGPT可以回来说,嘿,这是我之前生成的。你应该回去告诉这个人你想要要点,这样你们将来就可以更清晰地沟通了。部分地......

发生的事情是很多人对工具的适应速度很慢。我们看到了一些真正有趣的人类智慧。所以在我看来,最突出的证据是Sharon Parker和她的同事们的一项研究。这是在机器人技术领域。所以他们进入一家制造公司,这家公司基本上开始用机器人取代人类。而且在

与其惊慌失措地认为人们将不再有工作,一些员工说,好吧,我们需要找到独特的贡献。我们需要在工作中找到意义。他们通过胜过机器人来做到这一点。他们研究机器人。他们弄清楚机器人哪些方面很糟糕。然后他们说,好吧,我们将把这作为我们的核心竞争力。我认为O1和推理进步的可怕之处在于,我们去年认为能够区分我们的许多技能现在已经过时了。

就像很多人在2023年使用的那种提示技巧已经不再重要了,有些技巧将永远不再需要了。那么,在50年、100年或1000年后,人类将扮演什么角色呢?没有人知道。但我认为更有趣的答案是......

今天人类对什么有用?我会说对其他人有用。我认为这种情况会持续下去。我认为有人对我说过,这是很多年前Paul Buchheit说过的话,这句话一直让我记忆犹新,因为他一直在思考、思考、思考。这就像在OpenAI成立之前。

他认为总有一天会有人的钱和机器的钱,它们将是完全独立的货币,一个不会关心另一个。我不认为这会照字面意思发生,但我认为这是一个非常深刻的见解。令人着迷。我从未想过机器。

机器拥有自己的货币。你会很高兴AI为你发明了所有的科学,治愈了疾病,你知道,使核聚变工作,以及我们无法想象的不可能的胜利。但是,你会关心AI做了什么,还是关心你的某个朋友做了什么,或者某个经营着某个公司的人做了什么?我不知道。可能不会那么多。不会。

不会。也许有些人会。也许围绕着特定的AI有一些非常奇怪的邪教。我敢打赌,我们会对我们仍然非常以人为本的程度感到惊讶。

女士们,先生们,我们现在正在登机A组。请准备好您的登机牌进行扫描。如果您的手机破裂、老旧或被您的吉娃娃旅行伙伴咬坏了,请不要妨碍队伍。相反,只需前往Verizon,用任何品牌的任何状态的手机换取新的带有Galaxy AI的Samsung Galaxy S25 Plus,以及无限终极套餐和手表或平板电脑。也在那个上面。服务计划适用于手表或平板电脑。以旧换新和其他条款适用。详情请访问Verizon.com。

开始自信地照顾您的家。立即下载Thumbtack。

我是瑞恩·雷诺兹,来自Mint Mobile。我不知道你是否知道,但任何人都可以获得与我一直在享受的相同的15美元/月的优质无线计划。这不仅仅是为名人准备的。所以像我一样,让你的助理的助理今天就切换到Mint Mobile吧。我

我听说在mintmobile.com/switch上操作非常简单。

好的,我认为现在可能是闪电轮的时间了。这就像我在GPT-4模式而不是01模式下的我,我只需要一次性完成它,你知道,尽可能快地完成它。我会输入下一个标记。第一个问题是,你最近在AI方面重新思考了什么,或者改变了什么想法?我认为快速起飞的可能性比几年前我所认为的要大。有多快?

很难推理,但可能是在几年而不是十年内发生的事情。哇。你认为人们在适应AI方面得到的哪些建议最糟糕?AI正在撞墙,我认为这是试图不去思考它,只是把它放在视线之外,最懒惰的方式。你对如何调整或适应AI世界并取得成功有什么建议?这

这太愚蠢了,但显而易见的事情是使用这些工具。OpenAI做的一件我认为非常酷的事情是,我们推出了我们所知道的今天世界上最强大的模型O1。如果你每月支付我们20美元,任何人都可以使用它。如果你不想每月支付我们20美元,你仍然可以使用非常好的东西。它就在那里,就像领先的边缘,世界上最能干的人,你可以访问完全相同的边界。我认为这太棒了。所以去使用它,找出你喜欢的部分,你不喜欢的部分,你认为会发生什么。

你对AI最热门的观点或不受欢迎的观点是什么?至少在短期内,它不会像人们想象的那么重要。长期来看,一切都会改变。我确实相信我们可以启动第一个AGI,而且没有人会在乎那么多。科技界的人和哲学家在乎。这是我听到的两个反应一致的群体。即使那样,他们也关心,但是,

20分钟后,他们就在考虑今晚吃什么了。作为一名组织心理学专家,你对我有什么问题?哦,你对OpenAI有什么建议,关于我们如何管理我们的集体心理,因为我们正在经历这种疯狂的超级智能起飞?例如,我们如何让这里的人保持理智,缺乏更好的词语?我们并没有真正处于超级智能起飞阶段。但我认为,随着我们经历这个过程,它只会让人感觉像是一件极其高风险、压力巨大的事情。我的意思是,即使现在,当我们处于AGI上升阶段时,如果

感觉有点像那样。我认为我们需要更多组织韧性来应对即将发生的事情。当你想到组织韧性时,它是什么样的?这意味着人们的压力不像他们可能面临的那样大吗?这意味着他们能够比自然情况下更快地适应变化吗?在极其高风险的不确定性面前做出正确的决定,以及适应性,因为

地面上的事实以及我们需要注意或采取的行动以非常快的速度发生变化。我认为,对于我来说,从这一点开始,是画一个二乘二的表格,并要求OpenAI的每个人考虑他们做出的每个选择的严重后果,这些风险有多高,然后每个选择的可逆性如何?他们是在走旋转门,还是门会在他们身后锁上?我认为,你真正需要放慢速度的地方

并在预先进行所有思考和重新思考的是那些高度重要且不可逆转的决定,因为它们确实很重要,你明天无法撤销它们。我认为其他三个象限,快速行动、实验、试点、保持怀疑你所认为的,是可以的,但那个象限是你真正需要做对的地方,这就是我希望人们投入他们最好的思考,可能还有他们最好的提示的地方。

说得有道理。所以我想问你一些你写的东西。你写了一篇关于如何成功的博客。很久以前。那是很久以前的事了。我不再记得了。没关系。我在这里有。我发现其中一部分关于自我信念的内容特别引人入胜。所以我在这里引用你。你写道,

尽早培养这种能力。随着你获得更多数据点表明你的判断力很好,并且你可以持续地取得成果,就更相信自己。你仍然同意这一点吗?我认为是的。很难过分强调这一点。当我们开始OpenAI时,我们相信这件事。那大约是相对于外部世界而言,OpenAI相对于我们内部的信念而言,怀疑主义最大的时候。我认为我在那个阶段对公司的最重要贡献是

我只是不断提醒人们,看,外部世界讨厌任何新事物,讨厌任何可能与既定信念方向不同的东西。所以人们说所有这些

关于我们的疯狂的负面评价。然而,我们取得了令人难以置信的进步。我知道还为时过早,我知道我们必须暂时放弃怀疑才能相信它会继续扩展,但它一直在扩展。所以让我们把它扩展到荒谬的程度。现在看来是如此显而易见。但在当时,我确实相信,如果我们没有这样做,它可能要过很长时间才会发生,因为我们是唯一拥有足够自我信念的人

去做那些看起来荒谬的事情,那就是花费数十亿美元来扩展GPT模型。所以我认为这很重要。我认为这一切都是真的。我认为这也令人害怕,因为当这些人相信自己到妄想或几乎妄想的地步时,他们在自己专业领域之外会做出糟糕的决定。我认为,我

我认为如果我要修改你写的内容,我会说,当你获得更多数据点表明你的判断力在一个特定领域很好时。是的,是的。那么你应该在这个领域更相信自己。那将是一个更好的表达方式。我不认为经验和能力根本不会泛化,但许多人试图将其泛化得太多

太多。我应该说一些关于你专业领域的事情。但这里面有细微之处,因为我也认为你应该愿意尝试新事物。你知道,六七年前我还是一名投资者,而不是AI实验室的执行官。它也确实取决于你是在稳定的环境还是动态的环境中,因为

因为你可以在稳定的环境中相信你基于直觉的判断,因为你潜意识地内化了过去的模式,这些模式将来仍然会持续下去。而如果你在一个更不稳定的环境中,你的直觉往往是基于不适用的数据训练出来的,对吧?

在这个世界里,我认为你想要更接近你所相信并为你工作的真正核心基本原则,因为是的,甚至更有价值。我想要和你讨论的最后一个主题是伦理。我知道这也是你一直在思考和谈论的事情。这是大多数人在将任何类型的判断外包给AI时最不舒服的领域。是的。

我也是。好。我认为这是我们最终必须依赖人类的地方。我听到很多核威慑之类的比喻,好吧,我们需要做的就是领先于坏人,然后我们将拥有相互保证的毁灭。等等,军备竞赛的比喻在这里行不通,因为许多坏人不是国家行为者,他们面临的风险或后果也不同。然后还有,像,

现在我们将信任一家私人公司,而不是民选官员。这感觉非常复杂,而且似乎没有对应关系。所以,跟我谈谈这个,以及你如何看待伦理和安全问题。首先,我认为人类必须制定规则。AI可以遵守这些规则,我们应该坚持......

AI遵守我们集体决定的规则,但人类必须制定这些规则。其次,我认为人们似乎无法避免以历史类比进行思考。我理解这一点,我认为这并非完全不好,但我认为这有点不好,因为......

历史例子并不像未来的例子。所以我鼓励人们尽可能地将讨论的基础建立在AI与以往任何事物不同的方面,基于我们目前所知,而不是那种疯狂的猜测,然后尝试设计一个适合这种情况的系统。我真正相信的一件事是,将AI部署为一种工具,可以显著提高个人的能力、个人的意志,无论你称之为什么是......

对于我们目前的情况来说,这是一个非常好的策略,比一家公司、一个对手、一个人或任何使用当今世界上所有AI力量的人都要好。但我也会欣然承认,我不知道当AI以很大的方式变得更有能动性时会发生什么,不像我们可以给他们一个任务,让他们编程三个小时,而是我们可以让他们去做一些非常复杂的事情,这通常需要一个完整的组织多年时间才能完成。

我怀疑我们将不得不找出新的模型。再说一次,我认为历史不会对我们有太大帮助。现在,坦白地说,在软件世界中它并没有帮助。我认为在美国,任何其他如此强大的技术都会受到监管。而且

我认为欧盟在国会方面可能更胜一筹。我认为欧盟在AI监管方面所做的事情还有另一个原因是不利的。例如,当我们完成一个新模型时,即使它不是那么强大,我们也可以启动它。我们可以在美国启动它,远早于在欧盟启动它,因为有一系列监管流程。如果这意味着欧盟总是落后于前沿几个月,我认为他们只会建立更少的流畅性和经济......

经济引擎和理解,以及你想在这个方向上加入的任何其他东西。要取得监管平衡真的很难。而且在我看来,我们显然需要一些。当你展望未来十年左右时,最让你担心的是什么?我认为是变化的速度。我确实相信人类解决每一个问题的精神,但我们必须很快解决很多问题。当我想到伦理和未来影响时,我一直在努力解决的另一件事是

我认为如此多的数字技术将是民主化的,我们认为它们将阻止或至少削弱不平等。但很多时候恰恰相反,富人变得更富有了,因为他们能够更好地使用这些工具。现在,你指出O1按照美国的标准来说相当便宜,对吧?

我认为仍然存在差距。改变这种情况需要什么?AI如何才能成为发展中国家的一股向善的力量?我们已经能够将每单位智能的价格每年降低大约10倍。不能再这样说了。不。但我们已经这样做了一段时间了。而且我

我认为智能变得如此便宜真是太神奇了。我想,在某些方面,这与这个问题背道而驰,好吧,至少现在,唯一能够负担得起制造真正强大模型的参与者是政府和大型公司,它们对......负责。目前,进行训练,是的。但使用它却大相径庭。所以当你回顾过去,我的意思是,三年来,你一定经历了人生的巨大变化。这很奇怪。你为什么要这样做?

我想这就是一种说法。我是一个技术乐观主义者和科学迷,我认为这是我能想象到的最酷的事情,也是我能想象到的度过工作时间的最佳方式,成为我相信是我们有生之年最有趣、最酷、最重要的科学革命的一部分。所以,就像,多么大的荣幸啊。令人难以置信。然后,出于某种非自私的原因,我感到......

一种对科学进步的责任感,作为社会进步的一种方式。在我个人有能力为之做出贡献的所有事情中,或者也许只是所有事情中,我认为这是我认为将推动科学进步,从而推动生活水平、人类体验的质量,无论你称之为什么是最前进的一件事。我感到一种责任感,但不是以消极的方式,而是一种

一种带着很多感激之情的责任,因为我能够以任何方式做出贡献。听起来像是责任。当然。作为一个即将为人父的人,你希望为下一代看到什么样的世界?第一个想到的词是丰富。第二个是繁荣。但总的来说,只是一个世界,人们可以做更多的事情,更充实,过上更好的生活,无论我们如何

为我们自己定义它。所有这些事情。这可能与其他每个即将为人父的人为他们的孩子所希望的一样。我当然从未对任何事情如此兴奋过。我认为这也像没有人应该生一个不想生的孩子,所以我不想在这里使用“责任”这个词。但社会依赖于一些人养育一些孩子。至少现在是这样。是的。

至少现在是这样。我认为我从未像今天这样强烈地表达过你对人类的信仰,而不仅仅是对技术的信仰。我认为在某些方面,这是一个冒险的地方。就像我们在社交媒体上看到的那样。

但我认为这就像构建技术的基础一样,你必须关心并相信。我倾向于乐观,即使我试图做到准确。但如果对技术过于乐观,比如,无论如何,如果你对人类过于乐观,那对我们来说可能是一种危险。如果我们推出这些工具,我们就像,是的,人们会将它用于更多的好处而不是坏处。而我们对人性的判断是错误的。这将是我们战略上的一个缺陷。但我并不相信这一点。哇。

祈祷吧。萨姆,感谢你抽出时间来做这件事。我学到了很多东西,并且非常享受。谢谢你的邀请。这很有趣。是吗?由你判断。我和萨姆谈话中我最大的收获是,技术进步可能是不可阻挡的,但人类的适应能力也是如此。机器可以取代我们的技能,但它们不会取代我们的价值或我们的价值观。反思由我,亚当·格兰特主持。该节目是TED音频集的一部分,本集由Cosmic Standard制作和混音。

我们的制作人是汉娜·金斯利-马和亚洲·辛普森。我们的编辑是阿莱汉德拉·萨拉萨尔。我们的事实核查员是保罗·迪特曼。汉斯代尔·苏和艾莉森·莱顿·布朗创作的原创音乐。我们的团队包括伊丽莎·史密斯、雅各布·温尼克、萨玛亚·亚当斯、罗克珊·海拉什、班班·程、茱莉亚·迪克森和惠特尼·彭宁顿-罗杰斯。

我收到很多邮件,比如冷邮件之类的,有人会说,我承认,我是在ChatGPT的帮助下写这封邮件的。如果我回复,我会尽量说,以后再也不需要这样做了。如果你再给我发邮件,我会接受要点。所以这是我对这场战斗的一点贡献。哇。然后底部有一个小免责声明,说这个回复也是由ChatGPT撰写的。如果我这样做,我会披露,但我不会。我通常只是写回我的两个要点。

你好,我叫劳拉·拜尔。我是TED品牌合作主管。

我毕业于乔治城大学麦克唐纳商学院,在那里我加入了一个多元化且全球互联的商业领袖网络,致力于建立有意义的遗产。我在课堂内外具有变革意义的经历为我提供了解决复杂问题和在工作场所发现新机会的知识和技能。我以磨练我的战略、分析和沟通能力的方式参与了乔治城社区。

我现在与支持彼此个人和职业旅程的杰出校友联系在一起。当我完成硕士课程时,我已经准备好胜任商业工作并对社会产生影响,而我已经能够在TED做到这一点。你可以获得适合你未来的硕士学位。用乔治城麦克唐纳建立你的遗产。访问msb.georgetown.edu/TED。

女士们,先生们,我们现在正在登机A组。请准备好您的登机牌进行扫描。如果您的手机破裂、老旧或被您的吉娃娃旅行伙伴咬坏了,请不要妨碍队伍。相反,只需前往Verizon,用任何品牌的任何状态的手机换取新的带有Galaxy AI的Samsung Galaxy S25 Plus,以及无限终极套餐和手表或平板电脑。也在那个上面。服务计划适用于手表或平板电脑。以旧换新和其他条款适用。详情请访问Verizon.com。

没有什么比沉醉于无与伦比的品质的令人垂涎欲滴的味道更好了。而奥马哈牛排大美味活动是节省传奇风味(由其100%保证支持)的绝佳时机。品种繁多,您可以通过omahasteaks.com将世界上最好的牛排体验带回家。此外,结账时使用促销代码HOLIDAY可额外享受20美元的优惠。

他们传奇的牛排是从最好的谷物喂养牛肉中手工挑选的,具有卓越的大理石花纹,并由美国心脏地带的熟练屠夫手工切割,以提供非凡的味道和嫩度。广受欢迎的菲力牛排甚至赢得了令人垂涎的USDA认证嫩度称号。

Sam Altman是OpenAI的首席执行官兼联合创始人,OpenAI是ChatGPT的母公司。他和Adam讨论了人工智能在创造力和同理心方面的进步、其伦理挑战以及人类监督的作用。Sam和Adam还讨论了适应变化世界的策略以及他们对增强人类进步同时保持人类价值观的技术的希望。可以在go.ted.com/RWAGscripts上找到《重新思考》的可用文字记录。托管在Acast上。有关更多信息,请访问acast.com/privacy。</context> <raw_text>0 奥马哈牛排大美味活动是在omahasteaks.com上发现美味佳肴的绝佳时机。此外,我们的听众可以使用促销代码HOLIDAY结账,额外享受20美元的优惠。访问omahasteaks.com,使用促销代码HOLIDAY额外享受20美元的优惠。可能需要最低消费。