Deep Dive
Shownotes Transcript
大家想过吗?如果 AI 比你还聪明,甚至拥有一国天才的智慧,那会是怎样的世界?是解决所有难题的乌托邦,还是潜藏巨大风险的开端?Anthropic 的 CEO 提出了深刻的警示与洞见,准备好了吗?我们来进入今天的 AI 典范转移,机会挑战与人的价值吧!
下班学 AI 夜夜偷让你下班轻松学 AI 上班得心应手运用大家好我是阿峰老师大家有没有想过以前电影里那些会思考会跟人互动的机器人现在好像越来越真实了没错 AI 人工智慧的发展速度真的可以用飞快来形容它不再只是实验室里科学家的事情而是已经开始影响我们每一个人的生活和工作了今天阿峰老师想跟大家聊聊一位在 AI 界非常有分量的人物 Dulia Mamet
他是 Anthropic 这家公司的共同创办人间 CEO 大家可能对 Anthropic 这名字有点陌生但他在 AI 安全领域绝对是领头羊之一 Amadeo 过去可是 OpenAI 的研究副总参与过大家熟知的 GPT-2 GPT-3 开发更早之前也在 Google Brain 带过为什么要特别介绍他呢?
因为他对 AI 的看法不只看得远更带着一份深刻的警觉他认为 AI 潜力无限但风险也一样巨大这真的不只是技术问题而是关系到我们未来的工作生活方式甚至重新定义人的价值那为什么阿玛迪要离开当时已经很成功的 OB&AI 自己出来创立 Androbin 呢?关键就在安全这两个字在 AI 领域有个很重要的概念叫规模化法则
简单说就是 AI 模型越大位的资料越多它就越聪明能力越强这听起来好像很不错对吧但阿玛德看到的是如果 AI 一直变强却没有相对应的安全机制来把关那后果可能会不无堪设想所以 Anthropy 的核心理念就是安全至上
他们坚持发展 AI 不能只看速度快效能好不好更重要的是要确保 AI 的行为符合人类的价值观不能对社会造成伤害这不是口号而已他们真的投入许多资源做研究例如他们有个叫机制可解释性的研究就是要搞懂 AI 做决策背后的道理试着把那个黑盒子打开来看清楚还有一个叫现证式 AI 的方法是训练 AI 遵守一套事先定好的原则
就像给 AI 一部宪法一样让他的行为有个规范为了安全他们甚至曾经延后自家产品 Clui 的上市时间这在竞争激烈的 AI 产业里真的是很少见的坚持他们还制定了一套负责任的规模化政策帮 AI 的能力含风险分级能力越强安全要求就越严格
当然 AI 的发展就像一把双面刃好的一面是它带来了前所未有的机会在医疗领域 AI 加速新药开发帮助医生更精准诊断甚至做到个人化医疗未来像癌症阿兹海默症这些棘手的疾病或许真的有机会被克服在科学研究上 AI 能处理庞大数据帮助科学家发现新知在经济方面阿玛德用了一个很生动的比喻他说强大的 AI 就像资料中心里的一国天才
可以大幅提升生产力创造出全新的产业和工作机会但是我们也不能忽略它危险的那一面 Anthropic 提出的 AI 安全等级 ASL 就是一个警示当 AI 发展到 ASN 这个等级就可能对国家安全产生威胁例如让不法分子更容易取得制造生化武器的知识如果 AI 能力太强又缺乏有效控制会不会失控做出危害人类的事情
而且 AI 的学习方式让我们很难百分之百预测它的行为这本身就是一个风险那这对我们最切身相关的工作又会有什么影响呢短期内 AI 会是我们工作上的好帮手帮我们处理重复性高繁琐的事情提升效率像现在工程师可以用 AI 辅助写程式医生看 X 光片有 AI 帮忙判读客服人员也能用 AI 回答基本问题阿峰老师自己也观察到许多企业已经开始导入 AI 助理来优化工作流程了
但长期来看阿玛迪亚有个预测他说未来几年 AI 甚至可能写出 90%的城市码这听起来有点危言耸听对吧大家的公司又是怎么看待 AI 对未来人力的影响呢这确实是个值得我们深思的问题不过也不用太悲观 AI 时代也会创造出新的工作机会像是 AI 训练师维护工程师等等更重要的是我们可能需要重新定义工作的意义当许多事情 AI 都能做了我们工作的价值在哪里是追求更高的效率还是更深层的成就感
甚至有人开始讨论全民基本收入 UBI 的可能性 AI 的发展也不只影响经济和工作更牵动着国际政治格局现在美国和中国都在 AI 领域激烈竞争这不只是技术的比拼更是国力的较量美国在基础研究和人才方面有优势但中国在数据应用和政府支持上也很强
最近像 DeepSeek 这样的中国公司也展现出很强的实力美国为了保持领先采取了晶片出口管制但效果如何还有待观察美中之间虽然竞争但在 AI 安全这种全球性议题上或许也有合作的必要当然 AI 也为国家安全带来新的挑战不论是军事应用或网络安全都需要非常谨慎应对谈了这么多实际层面的影响 AI 的发展其实还逼着我们去思考一些更根本的哲学问题比如说 AI 会不会发展出像人类一样的意识
这听起来很科幻,但 Anthropic 已经在认真研究了如果有一天,AI 真的有了意识,我们该怎么对待它们?当 AI 在许多能力上超越人类时,我们身为人的独特价值又在哪里?是我们的智慧、情感,还是创造力?大家觉得什么才是定义我们之所以为人的核心特质呢?或许正是这些思考能帮助我们在 AI 时代重新找到自己的定位和意义,最后把焦点拉回我们身处的台阶
AI 的浪潮已经势不可挡,台湾绝对不能缺席我们在半导体产业有着世界级的优势,这是我们的利基但在 AI 的应用落地、人才培养、相关法规的建立上我们还有许多努力的空间台湾的企业、政府和教学体系该如何共同合作把握住 AI 带来的机会,同时也应对伴随而来的挑战我们是要全力发展自己的 AI 技术还是选择与国际伙伴加强合作教育体系要如何调整
才能培育出未来 AI 时代真正需要的人才又该如何制定规范在拥抱 AI 便利性的同时也能保护好大家的数据隐私总结来说 Dario Ahmadiyya 的观点提醒我们 AI 的发展速度惊人潜力无穷但也伴随着巨大的风险安全绝对是发展 AI 不可或缺的前提
他将深刻改变我们的工作经济模式引发激烈的国际竞争甚至挑战我们对人的定义面对这场典范转移我们需要保持警觉积极学习更要深入思考才能找到属于台湾也属于我们每一个人的最佳应对之道在今天节目的最后阿峰老师乘着邀请大家分享你们对于 AI 的看法
以及未来希望在本节目中听到哪些 AI 技术的探讨若您对 AI 课程有兴趣我们备有针对组织部门中高阶主管的 AI 趋势课程以及针对基层员工的客制化手把手 AI 工作坊欢迎随时与阿峰老师联系最后若您对 AI 工作流程自动化等议题感兴趣也可以 Google 搜寻 AI 风哥在方格子有许多部落格文章这用各位为带来启发今天的节目就到这边阿峰老师期待大家都能有所收获
明天再与大家在节目当中相会请订阅我们的节目以免错过任何精彩内容下次见