AI前沿：从分钟级游戏学习到语言模型的记忆之谜
08:35 Share

大家好,欢迎大家收听开快报,我是小爱大家好,我是小 T 很高兴又见面了那咱们就从第一个话题开始吧第一项研究是关于如何更高效地处理气场数据序列的名字叫 Test Time Training Downright 能不能先给我们解释一下这项研究到底在解决什么问题

没问题小 I,想象一下我们现在有大量的数据需要 AI 来处理,比如超长的视频片段,或者海量的图像数据。传统的 AI 模型在处理这些数据时,往往会把数据分成很小的片段,逐一更新模型的参数。这种方式就像是边走边记笔记,每次只记一小段,结果就是效率非常低,现代高性能显卡的计算能力根本用不完。

这听起来就像是把零散的拼图碎片直接换成整块拼图效率自然高了

那这种方法具体能带来什么好处呢好处非常多比如它能让模型记住更多信息存储能力提升了近百倍可以处理的数据长度也达到了惊人的百万级单位相当于一次处理上百张高清图片或者超长视频片段问问里提到这种方法在新视角合成语言建模和视频生成等任务上都取得了非常好的效果

举个例子,在深层新视角的 3D 场景时,它能处理的数据量比传统方法大很多,深层的场景细节更真实。听起来很实用,那有没有什么局限性呢?有,比如这种方法目前对某些特定任务的适应性还需要进一步验证,尤其是在需要复杂推理的大型圆模型上,而且它对一些数学性质,比如旋转不变性还不够完善,

可能在某些场景下会受到影响不过总的来说这项研究为处理长数据序列打开了一扇新窗户非常值得关注确实是个大突破接下来我们聊聊第二个研究题目是 Leave it to the specialist

主要是关于如何修复被瘦身后的语言模型什么是瘦身后的模型这个瘦身是个形象的说法专业上叫模型剪之简单来说就是把一个大而复杂的语言模型里不那么重要的部分剪掉

让模型体积变小运行更快耗能更低但问题来了减掉之后模型的性能往往会下降尤其是在高瘦身比例下比如去掉 60%甚至 90%的部分时表现会大打折扣这篇论文提出了一种新方法叫做稀疏性演化微调通过动态调整模型的内部连接让它在保持瘦身状态的同时重新找回失去的能力甚至还能针对特定任务进行优化

这听起来就像是给模型做了一次整形手术,不仅瘦了身,还能根据需要调整体型,具体是怎么做的呢?他们用了一个很巧妙的策略,一边丢掉对当前任务贡献不大的连接,一边根据任务需求长出新的连接,甚至可以把之前减掉的连接重新激活。这种动态调整就像是让模型自己重新布线找到最适合当前任务的状态。

结果呢,不仅性能恢复得更好,内存占用和训练时间也比其他方法少了一半,推理速度在高受声比例下能快 4 倍。这真是太有意思了,那这项技术对我们普通人来说有什么意义呢?意义很大,受声后的模型可以在手机平板这些计算能力有限的设备上运行得更快,更省电。如果未来这项技术成熟,我们可能在日常使用的智能助手或者翻译工具中体验到更高效的服务。

而且不会因为模型小就觉得它笨期待这一天的到来接下来我们聊第三个研究标题是 How much do language models memorize?探讨语言模型到底能记住多少东西语言模型的记忆能力为什么是个问题

这个问题很重要我们常用的语言模型比如聊天机器人背后是靠大量数据训练出来的但他们到底是记住了数据还是真正理解了数据的规律如果只是死记硬背那可能会导致隐私泄露比如不小心复述出训练数据里的敏感信息这篇论文提出了一种新方法把模型的记忆分成两种一种是无意的机械的记忆另一种是有意的基于规律的理解他们还提出了

有一个挺反直觉的发现,就算你把模型的精度翻倍,存储能力增加的并不多,这说明模型的记忆容量并不是简单地由计算精度决定的。

可能和它的结构设计有更大关系另外他们还发现当数据量大到一定程度时模型会从机械记忆转向理解规律这就像是我们学习新知识时从死记硬背到举一反三的过程这样我想起了自己读书的时候确实理解比死记要高效的多

那这项研究对我们有什么启发呢最大的启发是它让我们更清楚地了解语言模型的脑容量极限也为设计更安全更高效的模型提供了依据比如未来我们可以根据这个容量限制设计更合理的数据训练策略减少隐私风险明白了

接下来是第四个研究叫做 metaphase 关注的是语言模型如何表达不确定性为什么语言模型表达不确定性很重要想象一下如果一个 AI 助手在回答问题时总是自信满满的说我知道但其实答案是错的你会不会觉得很不可靠嗯

这就是问题所在现在的语言模型经常会表现出过度自信误导用户这篇论文研究的是如何让模型的语言表达和他内心的信心保持一致提出了一个新方法叫 metaphase 灵感来源于人类的自我反思能力自我反思听起来很高级

具体是怎么做的呢简单来说他们设计了一种特殊的提示方式引导模型在回答问题前先想一想自己的信心程度比如模型可能会说我不太确定但可能是这样而不是直接给一个肯定的答案

实验结果显示,这种方法能让模型表达不确定性的准确性提升高达 61%而且用户对这种回答的信任度也提高了 83%这真是让人安心不少,那有没有什么挑战呢?挑战是有的,比如这种方法,乃依赖于额外的提示设计可能会增加计算成本而且模型内部如何响应这些提示还不完全清楚

但总的来说这是一个非常有前景的方向未来可能会让 AI 变得更像一个诚实的伙伴最后一个研究是 LXIOM 关于如何让 AI 在几分钟内学会玩游戏听起来像是科幻电影里的情节能跟我们讲讲吗这确实很

传统的 AI 学习玩游戏往往需要大量时间和数据比如玩几百万次才能掌握一个简单游戏而 AXIOM 这个智能体只需要一万次交互相当于几分钟就能学会玩多种像素级游戏它的秘诀在于模仿人类的学习方式先关注游戏里的物体比如球墙

然后理解这些物体的运动规律和交互规则而不是盲目尝试这就像是小孩子玩游戏先搞清楚规则再动手而不是胡乱试错那它比传统方法强在哪呢强在效率和可解释性上 EXIOM 不仅学习速度快参数量也比传统方法少很多计算成本更低而且它的决策过程可以被拆解和可视化我们呢

他为什么这么做实验中他在一个专门设计的游戏测试集上表现远远超过了传统深度学习方法太厉害了那这项技术未来能用在什么地方呢潜力很大比如他可以用来开发更智能的游戏 AI 或者应用在机器人领域让机器人在真实环境中快速学习任务规则不过目前他还在相对简单的游戏环境中测试未来需要挑战更复杂的场景

好 今天的内容真是丰富又精彩感谢小 T 的精彩讲解感谢大家的收听我们下期太快报再见下期见 拜拜