任
任鑫
徐
徐文浩
徐文浩：我认为DeepSeek开源的意义在于展示其强大的技术实力，形成良性循环，最终巩固自身在AI领域的领先地位。开源并非简单的技术分享，而是通过展示自身的技术优势，吸引更多人才和资源，最终推动自身技术和生态的进一步发展。DeepSeek开源的代码量表明其优化并非耗费大量人力和时间，而是通过巧妙的策略实现的。DeepSeek的开源策略，旨在通过计算换带宽，解决模型推理延时过长的问题。FlashMLA和FlashAttention的核心思路都是用计算换取带宽，减少数据搬运。DeepGEMM是一个优化矩阵乘法的计算库，旨在提高计算效率，并解决了FP8精度问题。3FS是一个分布式文件系统，旨在通过使用更廉价的存储设备来提高模型训练和推理效率，其核心思想是通过巧妙的工程设计，用更廉价的硬件设备达到与高端设备相近的性能，从而提高ROI。DeepSeek-V3/R1通过增大batch size、隐藏通信延迟和执行负载均衡来提高推理吞吐量和降低延迟。总而言之，DeepSeek的开源策略，不仅能降低服务成本，提高速度，扩大生态，还能吸引更多人才，最终形成良性循环。
任鑫：DeepEP是一个专家并行通信库，用于优化MOE模型的通信效率，降低模型推理延迟。其核心思想是通过动态路由和资源分配，最大化地利用GPU计算单元，从而提高模型的推理速度。DualPipe优化流水线并行策略，提升模型训练和推理效率，其核心思想是将正向传播和反向传播的计算重叠进行，从而减少流水线中的空闲时间，提高GPU利用率。EPLB是一个专家负载均衡器，用于提升模型性能，其核心思想是根据不同专家的负载情况，动态地调整资源分配，从而提高整体的计算效率。通过阿里钉钉的AI agent，可以实现AI赋能线下调研，提高效率。我认为DeepSeek开源对整个产业是有利的，它降低了成本，提高了效率，最终受益的是掌握企业级场景的公司，例如阿里巴巴的钉钉。因为钉钉拥有大量的用户和场景，可以更好地利用这些开源技术，从而提升自身的产品竞争力。
Deep Dive
本节深入探讨了 DeepSeek 开源周第一天发布的 FlashMLA，解释了它如何通过优化多头潜在注意力机制（MLA），减少 GPU 内存读取次数，从而提升计算性能。并用通俗易懂的比喻解释了其原理，以及与其他类似技术的区别。
- FlashMLA 优化了 DeepSeek 自有的多头潜在注意力机制 (MLA)
- 通过减少内存读取次数来提升计算速度
- 利用计算换取带宽，在模型推理中提高效率
Shownotes Transcript