Deep Dive
Shownotes Transcript
AI 会抢走你的工作,还是变成你的超级武器?电影演的终结者情节,跟 AI 专家的看法天差地远。你真正该担心的,或许不是 AI 本身。准备好了吗?我们来进入今天的 AI 真相揭秘吧。
下班学 AI 夜夜 talk,让你下班轻松学 AI,上班得心应手运用。大家好,我是阿峰老师。今天我们要来聊聊 AI,大家是不是一听到 AI,脑海中马上浮现电影《终结者》的画面,机器人大军,人类末日等等,这些科幻情节真的会成真吗?还是说,AI 的真相其实跟我们想的很不一样呢?最近我读到一篇非常精彩的访问,
内容是关于一位 AI 领域的权威专家 Oren Ezzioni 教授的见解 Oren 教授可不是普通人他是哈佛大学第一位电脑科学主修的毕业生早在 80 年代初当大家还在怀疑电脑科学是不是橫花一线的时候他就已经投身其中了
他后来更成为了艾伦 AI 研究所的 CEO 这间研究所是由微软联合创办人保罗·艾伦所创立的更在 2024 年初创办了名为 True Media 的机构可以说 Oren 教授在 AI 领域打滚了 40 年无论是学术研究还是创业实践都有非常丰富的经验他核心理念是 AI 促进共同利益
Oren 教授对于圣啸城上的 AI 迷思是怎么看的呢他直言不讳地说 AI 最大的迷思就是好莱坞和终结者宣传的那一套以为 AI 是一个有自主意识的生命体一个怪物甚至是要来毁灭我们的
这句话正是点醒了许多人他强调我们真的需要把好莱坞的科幻情节和现实生活分开把科学和科幻故事分开 AI 它不是一个生物它不是出来害我们的它只是一个工具这是一个动力工具所以要小心你可能会受伤就像我们使用电锯或钻孔机一样它们非常有用但如果操作不当也可能造成伤害 AI 也是如此它本身没有善恶关键在于我们如何使用它
这就引导到一个大家非常关心的问题 AI 会不会取代我们的工作?Oren 教授的观点非常值得我们深思他说:我倡导在工作中使用 AI 的原因是你不会被 AI 系统取代但你可能会被一个比你更擅长使用 AI 的人取代这句话不像当头棒喝意思是 AI 本身不是我们的敌人真正的竞争压力来自于那些懂得善用 AI 提升工作效率和品质的同行
所以他鼓励我们要主动一点利用 AI 提升自己的工作水准我自己也常常跟学员分享面对新科技与其焦虑不如积极拥抱学习架线它让它成为我们职涯上的助力谈到 AI 的发展 Oren 教授提到我们正处于一场 AI 领导地位的竞赛中这场竞赛的赌注有多高呢
他说由于国家安全和经济考量风险空前高这不难理解掌握了先进的 AI 技术无论是在国防、经济还是科技创新上都能取得巨大的优势那么对于现今 AI 的能耐如果用 1 到 10 分来评估 Oren 教授会给几分呢?他说是 7.5 分他认为许多人对 AI 的能力有些过度膨胀的想象虽然 AI 比起三年前已经进步非常多但距离它的潜力极限还有很长的路要走他用一句很有哲理的话来形容
永远不要将清晰的视野误解为短距离意思是虽然我们看到了 AI 未来发展的无限可能但实现这些可能还需要时间和努力那 AI 真的能理解我们说话的语境吗?欧任教授认为 AI 确实能理解上下五
我们每天跟聊天机器人互动提出一些细微的查询时就能看到例子但他也指出 AI 有所谓的去齿状边界这意思是有时候他理解事情理解得非常好让你觉得太棒了但下一个查询他可能就表现得像个外星人完全搞不懂这就是为什么他的表现是去齿状的一下很好一下很糟然后又变好大家在使用类似工具时有没有类似的经验呢
有时候觉得他聪明的吓人,有时候又笨的可以接着,一个大家可能也很好奇的问题 AI 能取代人类的创造力吗?Oren 教授认为 AI 将增强人类创造力而且这已经在发生了许多作家、艺术家甚至我们一般人都开始使用 AI 来提高生产力和激发创意这点我也深有同感 AI 可以帮助我们快速生成草稿、寻找灵感但最终的润式和独特性的赋予还是需要人类的智慧
不过 AI 并非完美它能做到中立无偏见吗答案是不因为 AI 是从大量的数据中学习而这些数据本身就包含了人类社会既有的偏见 AI 在学习过程中不仅会吸纳这些偏见甚至可能将它们放大但好消息是只要我们给予不同的提示 AI 就能很快地调整它的偏见倾向这也凸显了演算法透明度的重要性虽然要理解一个拥有数十亿参数的神经网络是如何运作的非常困难
但透明化仍然是我们需要追求的目标那么面对如此强大的 AI 我们需要哪些合理的护栏呢?Oren 教授建议我们需要识别出最危险的结果例如利用 AI 制造生物武器并确保系统不会回应这类查询更重要的是他早在 2017 年就在纽约时报上呼吁 AI 系统应该有一个坚不可摧的关闭开关这就像我们电脑的电源键能在紧急情况下终止系统运作确保安全
他认为大型科技公司也会乐见其成因为这能减少他们的责任疑虑也是一种安全装置谈到 AI 的实际应用 Oren 教授说 AI 就像新的电力正在渗透到社会的每一个角落从人类性行为研究到教育、人力资源、金融交易无所不包他举了一个很有趣的例子有人用 AI 来练习谈判技巧
让 AI 扮演对手或者帮助自己组织更有利的论点 AI 也被用于优化钻井和压裂等工业流程同时 Oren 教授也乐观地认为 AI 能在应对气候变迁上做出贡献例如透过 AI 加速探捕或等新技术的研发在企业应用方面从法规遵循法律文件生成与管理到程式编码 AI 都在提升效率然而 AI 的发展也伴随着风险
Oren 教授创办的非盈利组织 TrueMedia.org 就是在 2024 年这个全球选举年致力于打击政治性的深度伪造影片他提到一般人要辨识深度伪造影片非常困难研究显示其准确率跟猜硬币差不多而这些深度伪造内容可能造成严重的经济后果
例如一张未造的五角大厦被炸毁的照片就曾一度引起市场恐慌因此他认为企业必须开始正式辨识深度未造和错误资讯的重要性对于 AI 的监管 Oren 教授认为许多现行法规往往是在大型科技公司的有说下制定的
反而不利于新创公司的发展他期待的不是更多的法规而是更好、更统一的法规框架如果他能推行一项政策他会要求 AI 必须标签化也就是说如果我们互动的对象是 AI 他必须明确告知让我们拥有知情权在教育领域 Oren 教授对 AI 的应用保持乐观态度
尤其是在发展中国家 AI 有潜力弥补教育资源的不足至于哪些行业未来受 AI 影响最大他的答案是每一个特别是知识型工作例如金融法律等已经开始感受到冲击即使他自己的领域电脑科学城市编码虽然因为 AI 而变得更有效率但复杂和原创的城市仍需人类设计所以大学里还是需要教授编码只是未来的城市设计师会因为 AI 而变得更强大
谈到 AI 在战争中的应用,Oren 教授表达了担忧 AI 驱动的武器反应速度越来越快,可能导致自动化程度提高但他强烈反对自主武器系统,也就是完全由 AI 决定是否剥夺人类生命的系统他认为,即便武器在智慧,最终的道德和决策权仍应掌握在人类手中同样的,当 AI 出错时,例如自驾车事故或错误的信用评估责任最终必须归属于某个特定的人或公司,莫得 AI 做的不能成为借口
目前像是 OpenAI 与纽约时报之间的版权诉讼案也正考验着法律如何借低 AI 生成内容的权利归属展望未来,除了深度伪造和错误资讯 Oren 教授认为网络安全是另一大新兴风险钓鱼供给系统入侵等手段都可能因 AI 而变得更加精密因此我们也需要发展更强的 AI 防御系统尽管存在种种挑战 Oren 教授对 AI 的未来仍抱有希望他说人类在很多事情上做得并不好
例如每年因交通事故造成的伤亡医院中因人为失误导致的医疗问题透过 AI 辅助驾驶员、医生和护士我们可以显着改善这些情况拯救更多生命至于 AI 会不会导致人类灭绝
他认为这是危言耸听的科幻情节 AI 终究是工具而不是会接管世界的存在那么在先进 AI 的时代身为人类意味着什么呢?Oren 教授认为这和过去没什么不同我们依然会以根本人性的方式去生活去爱去感受只是身处的科技背景不断在演变好,听了
听了这么多 Oren 教授的精密见解我们来快速回顾一下今天的重点第一 AI 最大的迷思是科幻电影塑造的恐怖形象实际上它是一个强大的工具而非具有自我意识的生物第二我们不会被 AI 取代但可能会被更擅长使用 AI 的人取代所以主动学习至关重要
第三,绝对不要盲目信任 AI 系统的输出,务必谨慎验证第四,AI 本身带有偏见需要透明度和护栏例如可关闭的开关,以及明确的标称化
第五,AI 的应用无远弗届但也带来如深度伪造、自然攻击等风险需要警惕第六,尽管 A 发展迅速但最终的道德判断和责任承担仍在于人类在今天节目的最后阿峰老师则邀请大家分享你们对于 AI 的看法以及未来希望在本节目中听到哪些 AI 技术的探讨
若您对 AI 课程有兴趣,我们备有针对组织部门中高阶主管的 AI 趋势课程,以及针对基层员工的客制画手把守 AI 工作坊,欢迎随时与阿峰老师联系。最后,若您对 AI 工作流程自动化等议题感兴趣,也可以 Google 搜寻 AI 风格,在方格子有许多部落格文章,相信能为各位带来启发。
今天的节目就到这边阿峰老师期待大家都能有所收获明天再与大家在节目当中相会请订阅我们的节目以免错过任何精彩内容下次见