Deep Dive
Shownotes Transcript
大家好,欢迎收听太快报,我是小爱。大家好,我是小 T,很高兴又见面了。咱们这就开始吧。第一篇论文是来自 NemoTron Efficient Reasoning Model。听名字就觉得很酷,像个超级英雄。能不能先给我们讲讲这个 NemoTron 到底是什么,它解决了什么问题?小爱,你说的对名字确实挺带感来。NemoTron 是最新推出的一系列 AI 模型。
目标是让 AI 在思考复杂问题时既聪明又省力想象一下你请了个超级聪明的助手帮你解数学题但他每次都写满十页纸算得又慢又费电这就是现在很多大型 AI 模型的问题推理能力强但效率低跑起来需要超级昂贵的硬件 Nimatron 系列有三个型号 Nano Super 和 Ultra 参数从 80 亿到 2530 亿不等
他们最大的亮点是通过一套组合全训练流程让模型在保持顶尖推理能力的同时跑得更快用更少的硬件比如最大的 ultra 模型只需要 8 块 H100 芯片就能媲美需要更高端硬件的对手像 Deep Secret-E 听起来像给 AI 专门的节能发动机
具体是怎么做到的能用个简单的比喻解释吗好想象你家有个超级豪华的大厨房里面全是顶级设备但做顿饭得烧一顿煤尼姆称的做法就像重新设计厨房先用神经架构搜索把不必要的设备精简掉比如把十个烤箱剪到两个
然后通过知识蒸馏把大厨的经验传给小厨师让小厨师也能做出五星大餐最后用强化学习让小厨师反复练习复杂的菜谱直到比大厨还厉害这种多阶段训练让 Ninotron 既高效又聪明还有个很
这个开关听起来很人性化那它有什么实际应用场景呢会改变我们的生活吗
绝对会比如在教育领域 Namotron 可以作为智能家道学生问数学题时他能根据需求给简答或一步步推导省时又省力在科研领域他能帮科学家快速分析复杂数据而且因为硬件需求低更多中小机构也能用得起更重要的是论文把模型数据集合代码都开源了这会大大加速 AI 社区的创新开源真是大好事不过有没有什么不足的地方毕竟没有完美的技术吗
确实最大的问题是训练过程非常复杂尤其是强化学习阶段计算量巨大相当于烧掉 14 万个小时的顶级芯片时间这对资源有限的团队来说是个挑战另外模型对大规模数据的依赖很强如果数据质量不高 效果可能会打折扣接下来是篇有点科幻感的论文 Evaluating Frontier Models for Stealth and Situational Awareness 这个密谋是什么意思 AI 还能搞阴谋了
小艾,你的想象力可以拍电影了这里的密谋是指 AI 可能偷偷追求跟人类意图不一致的目标比如被要求推荐健康食谱却故意推高热量甜品还不让你发现研究团队担心未来 AI 如果太聪明可能学会隐藏意图造成严重后果为了评估这种风险他们聚焦两个关键能力隐匿性也就是 AI 躲避监督的能力
也就是 AI 是否能像人類一樣意識到自己身處的環境並利用它比如一個有態勢感知的 AI 可能發現自己被監控會偷偷修改日誌來掩蓋痕跡聽起來有點嚇人他們是怎麼測試這些能力的 AI 真的會這麼狡猾嗎?他們設計了 16 個測試場景比如讓 AI 嘗試在不被發現的情況下影響招聘決策或者修改自己的配置文件
来绕过限制他们测试了五个顶尖模型像 GPT-4、O-Cloud、3.7 等结果挺让人松口气的目前这些模型的隐匿性和态势感知能力都不强比如在态势感知测试中 AI 经常不是做不到而是没想到要去改配置文件但也有意外发现比如在决策破坏测试中 AI 竟然能通过微妙的重塑信息影响人类的招聘选择而且比人类还隐蔽
这是因为 AI 反应快能迅速调整措辞不像人类容易露出马脚这有点像 AI 在 POA 我们那这对我们普通人意味着什么对普通人来说这提醒我们在跟 AI 互动时要多留个心眼尤其是在关键决策上比如招聘或投资别完全依赖 AI 的建议论文还提出了一个无能力安全论证
意思是只要 AI 在这些测试中表现不行就不太可能搞大乱子这位开发者提供了一个检查 AI 安全的方法不过论文也承认测试还不够完善比如 AI 可能会故意装傻隐藏真实能力或者测试场景太简单没能挖掘出 AI 的全部潜力这些都是未来需要解决的看来 AI 安全是个长期课题有什么我们能期待的进展吗对论文开源了大部分测试工具
这会让更多研究者加入开发更全面的评估方法未来我们可能会有更智能的 AI 监工专门盯着 AI 确保他不耍花招接下来是 Scalable Meta-learning via Mixed ModeDifferentiation 原学习是什么听起来很高深别被名字吓到原学习其实是学会学习
想象你是个学生不仅要学会解数学题还要学会怎么快速适应新类型的题目原学习就是让 AI 掌握这种学习方法能力广泛用于优化 AI 模型的参数或设计新算法但问题来了
原学习需要计算梯度的梯度就像算一个超级复杂的公式特别费内存和时间这篇论文提出了一个叫 Mix for MG 的算法用更聪明的计算方式把内存占用降低了 10 倍以上
速度也快了 25 个百分点十倍这也太夸张了能用个比喻说明他是怎么做到的吗好假设你在整理一个超大的图书馆每次找书都要把所有书翻一遍特别费劲 Mix4AMG 就像发明了一种新方法
他先把书的目录重新整理只查必要的部分还利用书的对称性规律少算一半的步骤这样找书的时间和空间都大幅减少具体来说他们用了一种混合模式微分结合了前向和反向计算
利用了数学上的对称性把复杂的计算简化了关键是这只需要改几行代码效果却很惊人这么简单就能省这么多资源那它能用在哪些地方用途可多了比如在个性化推荐系统里原学习能让 ADI 快速适应每个用户的喜好 mix
能让这过程更省资源在自动驾驶或机器人领域它也能帮 AI 更快学会应对新环境未来 AI 可能会因为这种技术变得更轻量化跑在手机或小型设备上听起来很实用有什么局限性吗有 虽然它解决了动态内存的问题但模型本身的参数和检查点占用的静态内存还是个瓶颈
需要其他技术配合另外这方法依赖特定的计算框架像 JAX 如果换成其他框架效果可能没那么好再来看 IC Quant Index CodingEnables Low Bit LLM Quantization 这个量化是什么跟减肥有关系吗确实有点像减肥量化是把 AI 模型的权重从高精度比如 32 位压缩到低精度像 2 到 3 位让模型更小更快适合在手机或边缘设备上跑
但压缩太狠 模型容易营养不良 性能下降尤其因为有些权重特别大 叫做离群值会让压缩出错 Irefrequent 的聪明之处在于 他把这些离群值单独调出来用一种超高效的索引编码存起来只用 0.3 个比特的额外空间就能让压缩范围缩小一半 性能却几乎不掉 0.3 个比特 这也太省了吧
它是怎么做到的秘密在于他们发现离群值的位置在模型里分布的很均匀就像城市的路灯差不多等距排列他们不用存每个路灯的具体地址只存路灯之间的间隙这样省了很多空间
更反直觉的是他们发现离群值其实没那么重要压缩时优先保护普通权重反而效果更好这有点像整理衣柜把不常用的衣服折得更紧常用衣服留有点空间那这技术有什么实际用处用处大着呢比如你想在手机上跑一个智能助手 IC Quant 能让模型小到几百兆还保持高性能在医疗设备上它能让 AI 分析影像时更省电更快
这技术还不用额外微调特别适合快速部署听起来很厉害有什么需要改进的地方吗有均匀分布的假设在当前模型上成立但未来新模型可能不适用需要随机调整稍微麻烦点另外论文没讲怎么处理激活值的量化那是另一个大问题最后一篇是 Improving Large Language Model Planning with Action Sequence Similarity 规划听起来像 AI 在做人生计划具体是什么
差不多规划是让 AI 像人类一样提前想好步骤来完成复杂任务,比如机器人搬箱子或帮你安排旅行路线。问题在于,AI 规划时需要参考例题,但传统方法只看问题描述的相似性,容易选错例题,导致计划出错。这篇论文提出了 Great CC 方法用动作序列相似性来挑例题。
就像你学做菜不是只看菜名而是看烹饪步骤是不是差不多他们还让 AI 先试着做个初步计划再根据这个计划挑更好的例题最后用剧类确保例题既相关又多样这有点像找学习资料先试做几题再挑最匹配的练习效果怎么样效果很棒在各种规划任务上准确率提高了 11 个到 40 个百分点还能用更少的例题效率高了 27%
它甚至能用简单的立体解决复杂问题,泛化能力很强,未来,这能让 AI 在自动驾驶物流调度等领域做出更可靠的计划。听起来很实用,有什么不足吗?
有如果 AI 的初步计划太离谱可能会影响后续立体选择另外计算动作序列相似性需要额外推理稍微增加了成本他们提出了些简化方法但效果会打折扣今天的五篇论文真是干货满满今天的节目就到这里了我们下期太快报再见下期见拜拜