AI前沿：从语言偏差到训练谜团
08:39 Share

大家好欢迎大家收听本期太快报我是小爱大家好我是小 T 很高兴我们又见面了那我们先从语言模型的一个隐藏问题聊起吧我听说有一项研究发现语言模型在处理词语时会受到一种叫词原化偏差的影响这到底是怎么

对,这个研究挺有启发性的简单来说,语言模型在处理文字时会先把句子拆成小块比如单词或词根这个过程叫次元化理论上,不管你怎么拆分模型对整个句子的理解应该是一样的

但研究發現,拆分的方式會直接影響模型的預測結果比如一個詞,如果被拆分成單個小單元模型可能會認為它更重要預測概率高出很多,甚至能達到 17 倍的差異這種現象就被稱為"詞源化偏差"17 倍?對

这个差距也太大了吧为什么会有这么大的影响呢原因在于模型训练时使用的词表也就是拆分规则会影响他对词语的熟悉程度如果一个词在词表里是个独立单元模型会觉得它更常见预测时就更倾向于选择它反过来如果一个词被拆成很多小碎片模型可能觉得它不那么重要这就像你在背单词时对常见单词记得更牢

而对生皮词组合就没那么有信心研究还发现这种偏差在小规模模型中尤其明显而且随着训练进行偏差反而会增大挺反直觉的确实挺意外的我还以为模型训练矮越久偏差会越小呢那这对我们用语言模型有什么影响影响可不小比如这种偏差可能会导致模型对长短句子的判断不公平

或者在多语言环境下对某些语言更偏心想象一下如果一个翻译模型因为拆分规则更偏向英语单词对其他语言的翻译质量可能就没那么好这提醒我们设计语言模型时连看似简单的词语拆分规则都得特别小心未来研究者可能会用这个发现优化拆分策略让模型更公平更准确原来一个小小的拆分规则背后藏着这么多门道

那接下来我们换个话题聊聊游戏 AI 领域的一个新突破我听说有个叫简单优秀快速的世界模型名字听起来就很吸引人这是什么这个模型简称 SGF 意思是简单优秀快速它是一个用于强化学习的功能

简化了还能有好效果

听起来有点不可思议简化具体带来了什么好处最大的好处是速度快比如在经典的雅达利游戏测试中 SGF 的训练时间比一些顶级复杂模型快了 4 倍

只需要一个半小时就能达到不错的效果这就像做菜不用花哨的厨具和繁琐步骤简单几步也能做出美味而且它证明了一个道理在很多任务中尤其是短期决策的场景复杂设计可能是多余的简单的组合一样能解决问题这让我想到一个问题如果 SGF 这么简单高效未来会不会改变游戏 AI 的开发方式

完全有可能,CSC 的成功表明 AI 设计不一定非得追求复杂和高成本尤其对于资源有限的小团队或初创公司这种轻量级模型可能更实用不过它也有局限性比如对需要长期记忆的任务可能不够擅长未来如果能结合一些长期规划能力应用范围会更广明白了简单也能出奇接下来我们聊聊图像生成领域的一个新进展叫潜在随机插置器

这个名字听起来有点复杂,能不能用简单的方式解释一下?没问题,这个技术主要是为了改进图像生成模型,让它们更高效、更灵活。传统的图像生成模型,比如扩散模型,通常从一个简单的随机起点开始,逐步生成图像。但新提出的潜在随机插质器,简称 LSI,换了个思路,它在一个隐藏空间里操作,

通过学习如何把一个简单的起点变成复杂的图像特征最后再生成图像这就像鲜花草图再上色比直接从空白画布开始要省力听起来确实聪明那它具体有什么优势呢优势主要有两点第一是效率高因为它在隐藏空间里处理数据计算量小了很多

生成一张图像的成本能降低七成以上第二是灵活性强传统的模型起点通常是固定的随机分布而 LSI 可以随便选起点比如均匀分布或者其他形式生成的图像质量依然不错这就像做设计时你可以从不同风格的草稿开始但最后都能得到精美的成品效率和灵活性都很吸引人那它能用在哪些实际场景中

它特别适合需要大量生成图像的场景,比如游戏设计、电影特效,或者生成个性化头像和艺术作品。未来如果进一步优化,可能还会用到视频生成或者虚拟现实中。不过它也有挑战,比如对一些参数调整很敏感,需要更多研究来稳定性能。

好期待看到更多实际应用接下来我们聊一个跟用户行为有关的研究叫描述性历史表征这个研究好像跟推荐系统有关能不能先介绍一下它的核心想法

好的 這個研究的核心是解決一個問題如何把用戶過去的常常行為記錄壓縮成一個簡短但信息量很大的總結研究者提出了描述性歷史表徵簡稱 DHR 意思是讓 AI 學會用一個簡潔的畫像來概括用戶歷史而且這個畫像還能回答關於用戶喜好的問題比如它可以預測用戶更喜歡哪部電影還能模仿用戶風格寫評論

听起来很像给用户画了一幅心理画像那 AI 是怎么学会做这个的对他们设计了一个团队合作的 AI 系统包括一个负责总结历史的编码器一个负责回答问题的智能体还有一个负责做推荐决策的智能体

这些模块一起训练,目标是既能准确回答问题,又能做出好的推荐决策。结果很不错,在电影和购物推荐的数据集上,这种方法生成的画像不仅准确,还特别容易理解,因为它是以文字形式呈现的。用文字呈现确实直观,那有没有什么意外发现?

有研究发现历史记录不需要特别长 5 到 10 次互动就够了过长的记录反而可能干扰效果这就像我们认识一个人不需要知道他所有的事关键几次互动就能大致了解他的喜好未来这种技术可能让推荐系统更贴心也更透明用户能直接看懂 AI 为什么推荐某个东西这点确实很重要透明度能增加信任感

最后一个话题关于训练 AI 时的一个奇怪现象为什么训练到最后阶段梯度会突然变大这个梯度是什么能不能先解释一下当然

梯度是 AI 训练中的一个关键概念简单来说它就像一个指南针倒数模型怎么调整自己减少错误正常情况下训练到后期模型接近最佳状态梯度应该变小但研究发现在训练大型语言模型时到了最后阶段梯度反而会快速变大就像指南针突然指向一个很强的方向非常反常

确实挺奇怪的那原因是什么呢研究者发现这不是模型出错而是三个常见设置的意外互动导致的一个是控制模型复杂度的权重衰减一个是保持数据稳定的皈依化层还有一个是逐渐降低调整幅度的学习率计划

当学习率变小 全重衰减会强迫梯度变大以保持某种平衡这就像开车时你想慢慢减速 但刹车系统反而让你加速 挺出乎意料原来是设置之间的化学反应 那有解决办法吗有研究者提出了一个简单的修正方法 调整全重衰减的方式让它不随学习率变化而波动实验证明这个方法不仅消除了梯度暴涨 还让模型训练效果更好

这提醒我们 AN 训练中每个小细节都很重要未来优化训练方法时可能需要更多关注这些隐藏的互动真是打开眼界感谢小 T 也感谢大家的收听我们下期太快报再见下期见拜拜