We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 「随机掉落·荐书」AI的崛起

「随机掉落·荐书」AI的崛起

2025/4/16
logo of podcast 无用读书会

无用读书会

AI Deep Dive AI Chapters Transcript
People
R
Ryan
讨论创建自由派版本的乔·罗根的播客主持人。
Topics
Ryan: 我推荐了一本关于AI商业的书《AI霸主》,它以OpenAI CEO山姆·奥特曼和DeepMind CEO德米斯·哈萨比斯为核心,讲述了AI发展中的技术、商业和伦理挑战。这本书故事性很强,适合了解当前AI热潮。我主要想分享书中关于两位CEO的商业决策故事,因为这些是我之前没关注过的方面。例如,Sam Altman在2008年苹果开发者大会上做过产品演示,而这本书讲述了他创办OpenAI的故事,这两件事我之前没联系起来。我还推荐了Andrej讲解LLM的油管视频,它用非技术语言清晰地解释了大语言模型的原理和应用。书中描述了Sam Altman的成长经历,他从小就展现出既聪明又擅长社交的混合特质。Sam Altman建议通过打牌来理解世界、商业和人类心理。DeepMind创始人哈萨比斯也参与过扑克牌大赛,并从中获得奖金。Paul Graham对硅谷创业文化影响深远,他的理念如技术理想主义、MVP、创始人主导权等,深刻影响了今天的硅谷。19岁的Sam Altman是个工作狂,并展现出卓越的营销能力。Sam Altman在YC训练营结束后,获得了500万美元的投资,这展现了他强大的融资能力。Sam Altman开发的LBS服务Looped,引发了隐私担忧。面对Loop的隐私风险质疑,Sam Altman采取了积极主动的方式回应,而不是掩盖或解释。Sam Altman的策略是主动承认并积极探讨产品可能存在的风险,从而化解批评和舆论攻击。Sam Altman通过表现出对产品风险的高度关注,来赢得公众信任。AI领域也采用了类似的策略,即强调AI潜在风险,从而转移人们对AI现有问题的关注。强调AI潜在风险的策略,一方面转移了人们对AI现有问题的关注,另一方面也为AI赋予了一种光环。大型企业会通过转移大众注意力来扩展业务,例如石油公司在推广塑料产品的同时,也倡导环保。Sam Altman的策略并非阴谋,而是人性的复杂性使然,他从小就有一种帮助他人的使命感。硅谷创始人对崇高理想的执着值得肯定,但其理念是否会带来造福世界的结果,却值得商榷。书中用“总观效应”来描述Sam Altman看待世界的方式,他仿佛在旁观一切。Sam Altman是末日准备狂,他会为应对全球性灾难做好准备。Sam Altman在接受采访时,谈到自己为末日做出的准备,例如拥有枪支、黄金等物资。书中也讲述了DeepMind创始人哈萨比斯的成长经历和创业的艰难。科技领域已经成为巨头垄断的局面,创业者很难再建立新的帝国。马斯克曾投资DeepMind,但后来与哈萨比斯闹翻,才有了OpenAI。DeepMind创立之初一直缺钱,没有产品和商业模式,超级人工智能当时被认为是笑话。哈萨比斯拒绝了Facebook的收购,因为他担心AI被滥用,并坚持成立伦理安全委员会。DeepMind最终被Google收购,价格为6.5亿美元,并坚持成立伦理安全委员会作为条件。OpenAI为了发展,不得不放弃了最初的开源、非盈利模式,并最终与微软合作。OpenAI放弃开源、非盈利模式的原因是大模型研发对算力、资金和人才的需求巨大,初创公司无法承担。微软没有收购OpenAI的原因是,OpenAI的商业价值在2019年后大幅提升,收购成本过高,而且可能面临反垄断调查。早期AI产品会存在很多问题,初创公司可以承受,但大型公司则难以承受。GPT刚上线时,功能强大但问题也很多,现在已经变得更像一个工具。Transformer技术是Google发明的,但生成式AI并没有首先出现在Google内部。Google内部研发人员曾向高层汇报基于Transformer的AI应用,但高层认为其商业价值不明确,存在公关风险,因此禁止对外发布。微软没有收购OpenAI,部分原因是Google内部对AI应用的保守态度。AI的未来取决于少数人的决策以及他们所处的系统力量,我们几乎没有选择权。AI的创新者为了生存,不得不与科技巨头捆绑,这将带来一定的代价。

Deep Dive

Chapters
本书围绕OpenAI的Sam Altman和DeepMind的Demis Hassabis两位关键人物展开,讲述了他们在人工智能发展中扮演的角色以及在技术发展、商业利益和伦理挑战之间的抉择。作者以小说的形式,将AI的关键发展节点和人物故事结合,适合想要对AI热潮有系统了解的读者。
  • 介绍了《AI霸主》这本书,以及两位主角Sam Altman和Demis Hassabis
  • 概述了书中涵盖的内容,包括两位主角的成长经历、商业决策等
  • 推荐了Andrej讲解LLM的油管视频

Shownotes Transcript

i know your job saying please and thank you and everything nicewe built these machines they're smarter than usif you can't beat them might as well jointhere's an a on the rise favorite song you can leave

欢迎收听本期的随机掉落无用读书会一直以来的选书主要在人文方向但我们每个人私下的阅读其实会涉猎更多不同的领域今天我要推荐的就是一本相对来说时效性比较强的商业类书籍是由蓬勃的科技记者帕米·奥尔森撰写的《AI 霸主》

整本书围绕 OpenAI CEO Sam Altman 和 DeepMind CEO Demis Hassabis 两位关键人物展开从二人的成长经历开始,一直到他们如何在人工智能的发展中扮演重要角色以及在技术发展、商业利益和伦理挑战之间的抉择这本书出版于 2024 年 9 月 10 日整本书的故事性很强,像阅读小说一样把 AI 的关键发展节点和背后的人物故事结合的恰到好处

如果想要对眼下的 AI 热潮有一个系统性的了解这本书是个不错的选择书中涵盖的内容非常丰富我今天想简单分享的是个人阅读过程中觉得比较有趣的部分也就是关于这两个人和他们进行的一些商业决策背后的故事因为这些是我过去没太看过的部分之前对 AI 的关注主要在技术和产品上但对背后的人和许多商业决策的逻辑没怎么关心过

例如,当初 AlphaGo 和科杰的二番战背后是 Google 重入中国市场的企图再比如,Sam Altman 对我来说就是随着 ChatGPT 横空出世的新一代硅谷大佬中的一员但阅读过程中我才发现,这个人我之前就见过他在 2008 年苹果开发者大会上就登台做过产品演示后来这款产品还成了许多商业书籍中的失败案例我对当时的画面还有印象

但完全没能把 OpenAI 的 Altman 和 08 年的它联系起来而如果对 AI 的产品和技术细节感兴趣的话我会推荐大家去看 OpenAI 联合创始人 Andre 在今年 2 月发布的一个长达三个半小时的油管视频 B 站也有人搬运这个视频非常全面且深入是我看过的用非技术语言把大语言模型原理讲解的最清晰透彻的教程它还从 LLM 的原理出发解释了很多应用层面的问题

例如,为什么问 AI 你是谁是没有意义的 LLM 擅长哪类问题,容易犯哪类错误以及如何使用 AI 的许多技巧还对当时风头正劲 DeepThink R1 的核心突破做了讲解对大于 MOS 有兴趣的话可以去看一下这个视频 3 个半小时听起来很长,但我是一口气看完的看电影可能撑不了这么久讲得真的非常好

回到这本书,Altman 出生于一个中产阶级犹太家庭母亲是医生,父亲是律师据书中所述,他从小就具备某种罕见的混合特质既像 Geek 一样聪明,喜欢电玩、科幻能轻松搞定微积分,又擅长运动,喜欢主控局面是学校的风云人物到大学,他进入计算机科学系,也喜欢编程但同时又选修了一系列人文和创意写作课程课余时间,他会跑去赌场打牌

赢的钱能基本搞定大学生活的开销后来他在某个播客中说我强烈建议大家透过打牌理解这个世界商业和人类心理

而本书的另外一位主人公 DeepMind 的创始人哈萨比斯也曾和朋友组队去拉斯维加斯参加扑克牌大赛还一起分享奖金 19 岁时,奥特曼参加了 Paul Graham 刚刚成立的 Y Combinator 也就是后来大名鼎鼎的创业孵化器 YC 它孵化过 Airbnb,Dropbox

Reddit, Stripe 等一大票明星公司但在当时的硅谷投资界还没什么人把它当回事 Paul Graham 可以说是硅谷创业圈的教父级人物他的许多理念都深深植入了今天的硅谷创业文化例如技术理想主义,例如 MVP 也就是最小可行产品边做边学,快速迭代例如对创始人主导权的推崇,逐步颠覆了传统 VC 对初创公司的掌控

而奥特曼就是泡青脸的接班人 19 岁时的奥特曼就是个工作狂每天扎进电脑里只靠泡面咖啡冰淇淋过活结果导致缺乏 VC 得了坏血病同时他的营销能力或者是画饼天赋在当时也已经崭露头角一个 19 岁的少年拿着个没人听过的产品直接给各大通讯公司的高阶主管打电话而且

居然让 Sprint、Verizon 甚至黑莓都同意在手机上预装它的产品在只有三个月的 YC 训练营结束后就拉到了两家顶级 VC500 万美元的投资这当然是 Paul 牵线搭桥的关系但可以都是奥特曼自己一个个谈下来的这款产品叫做 LOOPED 是一个 LBS 服务

就是基于地理位置的服务基本功能是朋友间共享位置这样你就随时可以在手机地图上看到附近有哪些朋友 Hotpan 当时的宣传语就是我们让偶然相遇成为可能但这带来的问题也显而易见装这个 app 就意味着你的位置时刻都可能被别人获知实际当时就出现了家长要求子女丈夫要求妻子安装 loop 的案例当时华尔街日报一名科技记者注意到这个问题

就像奥特曼询问 Loop 的可能侵犯隐私以及遭到滥用等问题这时奥特曼就表现出了相当反直觉的应对方式也是我们在 ChatGPT 面试时人们开始质疑 AI 带来的风险时他做出了相当让人意外的举动他不是掩盖不是解释而是认可接受而且表现得比你更忧心忡忡

我其实在读这本书之前也没有完全理解这背后的逻辑当记者询问 Loop 的风险时他万万没想到,奥特曼表现得非常急切地想要探讨这些争议而且寄给他一份冗长的文件详细列举出 Loop 可能引发的各种风险奥特曼似乎很早就明白,保守秘密只会让事情变得更糟后来,奥特曼一再利用这种精心设计的反向操作

只要对自家产品可能导致的最坏情况表现出高度关切就能化解批评和舆论的攻击他表现得过于诚恳政治甚至到了对自己不利的程度人们就相信了毕竟最坏的可能还没有发生而且他如此在乎相信他一定会确保那样的情况不会发生

现在 AI 领域发生的事情也是同一策略的再次升级硅谷的 AI 大佬们带头疾呼人工智能可能带来的风险甚至可能导致人类灭绝这在几年前还是科幻编组主题现在成了人们认真谈论的话题乍看起来这似乎不符合 AI 企业的利益但实际效果却是首先它把人们的注意力转向了未来人类毁灭是我们需要全力避免的前景

这样,AI 行业在当下已经造成的伤害就很大程度上被忽视了例如 AI 带来的系统性歧视,造成的失业,人脸识别,个人信息等隐私侵犯与人类灭绝相比似乎都微不足道而另一方面,把大众视线转向未来的同时,人本能上对未来又不真的关心人类毁灭的前景反倒为 AI 带来了一层光环,是产品强大实力的佐证非常吊诡,又确实有效

这不是大企业第一次在扩展业务的同时分散大众注意力在 1970 年代初石油企业开始推销塑料产品同时通过资助、环保组织、媒体宣传的方式倡导垃圾分类鼓励人们回收垃圾防止环境污染这些宣传活动成功转移了大众注意力不再质疑塑料生产的扩张以及对环境的伤害垃圾分类成了公众言论的一部分

你不这么做就是素质低下,其实石油公司心知肚明,大规模垃圾回收不仅成本高昂而且缺乏效率,但是通过持续不断的宣传,企业成功将责任从生产者转移到了消费者身上。垃圾分类本身不是坏事,但如果我们留意就能看到有多少善意可以被劫持和利用。说起这些,不是说 Sam Altman 是什么表里不一的阴谋家而是说人性的复杂,如书中所述,他从小就有一种帮助他人的使命感。

而这种拯救人类,改变世界的使命感,在硅谷创始人身上屡见不鲜从乔布斯到马斯克,再到今天的奥特曼和哈萨比斯他们对某种崇高理想的执着我并不怀疑只是一种善良的理念是否会带来造福世界的结果,却是值得张却的在《通往奴役之路》一书中,哈耶克就曾写过:"通往地狱之路往往有善意仆就"

而在卡拉马佐夫兄弟中也写过这样一句话:"我越是爱整个人类,就越是不爱具体的人"而这本书中对于状况的概括使用了"总观效应"一词这个词指的是当宇航员从太空观看地球时会产生某种认知转变奥特曼越来越像是从外太空看待这个世界当你与他对话时经常会看到他露出深邃探险的目光,或是陷入神思

仿佛他在旁观一切而不是对话的参与者仿佛在鸟看整个人类世界的同时个人死亡的想法却让奥特曼感到恐惧他自称是末日准备狂他会花费大量时间与金钱为应对全球性的灾难事件做好准备例如合成病毒被释放到世界各地或是人类遭受人工智慧的攻击

奥特曼接受纽约客杂志专访时提到他曾对一群创业者说我尽量不去想太多不过我有枪 黄金 点化甲 抗生素 电池 水以色列国防军的防毒面具还有一大片大树的土地我可以飞到那里他还加入了 Nektom 的排队名单 Nektom 是 YC 育成的新创公司他们运用高科技防腐流程来保存人类的大脑以便未来可以将其上传到云端然后由科学家转换成电脑模拟

我们再来看 Dmine 的创始人哈萨比斯就不再深入他的成长经历了基本上也是一个天才的成长故事这部分我看到更多的是创业的艰难

整个科技领域已经成为几家巨头鼎立的封建王朝,所谓的创业已经不大可能打出一个新帝国,更像是习的文武艺,卖予帝王家。2010 年,哈萨比斯和两个合伙人创办了 DeepMind,目标就是实现超级人工智能,也就是我们今天说的 AGI。这里还有个小插曲,很多人都知道,马斯克是 OpenAI 最初的投资人,还带来了后面一连串闹剧,也因为和 OpenAI 闹翻才有了现在的 Grok。

但其实早在 2012 年马斯克就作为早期投资人投资了 DeepMind 当时马斯克和哈萨比斯还争论过谁的计划比较厉害是星际殖民还是创造 EGI 后来是马斯克和 DeepMind 闹翻了才有了与奥特曼共同创办 OpenAI 这件事 DeepMind 从创立之初就一直缺钱没有产品没有商业模式

超级人工智能在当时基本上就是个笑话马斯克的投资也只是救急的程度不过不久后 Facebook 找来了开价 8 亿美元收购当时 Facebook 刚刚收购完 Instagram 和 WhatsApp 购物车里还有个空位是留给人工智能的但哈萨比斯非常担心自己开发的超级人工智能会被这些科技巨头滥用所以开出的条件是

必须成立具备法律权力的伦理安全委员会然后就谈崩了紧接着马斯克也来了这次提出收购不过是用特斯拉的股票作为收购费用 Demind 几位创始人一合计 8 亿美元真金白银都拒绝了特斯拉股票好像有些吸力不够另外就是他们一致对于马斯克喜怒无常的个性怀有戒心于是拒绝

却没有意识到喜怒无常的马斯克不喜欢听别人说不于是就有了后面 OpenAI 这个对家给 DeepMind 带来了无数麻烦 2013 年末 Google 也申来了橄榄枝又是科技巨头又是收购提案到这时由于李飞飞教授领导的 ImageNet 大赛已经催生了计算机视觉的飞跃 2012 年的冠军就是如今被誉为 AI 教父的 Jeffrey Hinton 带领的团队 AI 突然变得炙手可热

哈萨比斯明白,这时如果不接受收购提议 Google 可能会直接挖走他的员工而且他也的确不想把精力继续浪费在四处找钱了但 Demind 继续坚持建立伦理安全委员会作为交易条件经过漫长的讨论,Google 最终同意了这个条件而收购价格是 6.5 亿美元

而另一边的 OpenAI 也迫于资金压力不得不逐渐改变开源、非盈利等创办理念以吸引外部投资并最终牵手微软像 DeepMind 一样,尾声巨头直到今天,大众依然在持续嘲讽 OpenAI 变成了 CloseAI 但当时如果 OpenAI 不改初衷保持开源、非盈利架构

可能根本就发展不到今天大模型的研发对算力、资金的需求不是初创公司可以负担的单是对研发人才的争夺就不可能匹配巨头们给出的待遇但为什么微软没有像 Google 收购 DeepMind 一样直接把 OpenAI 收了呢?一方面和哈萨比斯一样,奥特曼并不想卖但核心原因还在微软 Google 收购 DeepMind 是在 2014 年当时 AI 领域刚刚引起关注 DeepMind 的商业价值也还有限

而微软战略投资 OpenAI 已经是 2019 年 GPT-2 已经发布,业界看到了其中的巨大潜力到了 2022 年,ChatGPT 在大众市场爆发只是因为交互界面的革新,业界内其实早就震惊过了所以如果当时微软想收购 OpenAI 早就不是当初 Google 能以 6.5 亿美元搞定的了另一方面还可能会招来反垄断调查

还有一点很重要的就是这样的话微软可以获得利益却不被牵连早期产品堆出市场一定会出现各种各样的问题而圣城市 AI 又是一个如此特别的产品这是有史以来第一款没人知道它会干出什么的产品我还记得拆 GPT 刚上线时几乎是百无禁忌你想诈骗它就给你写文案

你想做炸药他就给你配方你态度不好他还能跟你对骂娱乐性拉满但也是问题多多到了今天没点高级粤语技巧已经很难再让 AI 对这类问题做出回应了当然 AI 也就变得乏味了许多更像是一个工具了

这种种问题,初成公司是可以去承受的但如果放到微软头上不知道会带来多少舆论压力和股价上的损失 GPT 是 Generative Pre-trained Transformer 的缩写也就是生成式预训练转换器其中的技术核心就是 Transformer 而这项技术其实是 Google 的发明

为什么生成式 AI 不是出现在 Google 内部呢?答案其实是它已经出现在了 Google 内部虽然与 GPT 有些差别但 Google 内部的确做出了基于 Transformer 的 AI 应用这里就再次回到了前面的问题为什么微软没有收购 OpenAI

Google 内部研发人员把做出的 AI 提报高层而高层人士认为这东西虽然看起来很酷但没有明确的商业价值却可能带来明确的公关风险所以禁止对外发布可以想见如果微软收购了 OPI 在产品发布的节奏上必然要保守很多这本书最后一段文字是这样写的

依照目前的竞争速度我无法预测写下这些文字之后的几个月内甚至几年内会发生什么但是未来会发生什么事将取决于少数人的决策以及他们身处的系统力量当我们询问是否可以信任 Sam Altman 与微软以及哈萨比斯与 Google 建构人工智能的未来答案却发现在这件事情上我们几乎没有选择的余地 Altman 与哈萨比斯两人选择将自己的创新事业与全球两大科技巨头捆绑在一起

这些科技巨头创造的网络效应已经渗透至日常生活的各个层面从此两人也加入其他创新者的行列为了继续留在赛道上累积权力不得不调整自己的理想结果造就人类优势以来最具变革性的科技现在就让我们看看要付出什么代价

take you over your jobsaying please and thank youand everything nicewe built these machines they're smarter than usif you can't beat em might as well jointhere's an AI on the risefavorite songyou can leave basket questionsbut you can't help these machinesthe smart might as well join

We built these machinesThey're smarter than usIf you can

Might as well joinMight as well join