We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
依
依夏
赛
赛头
龟
龟龟
赛头：字节跳动大模型训练被实习生入侵，注入恶意代码导致训练成果不可靠，损失可能超过千万，字节准备向实习生索赔800万。实习生入侵手段简单，例如直接kill进程，造成数据丢失。事件暴露了企业内部安全管理的漏洞，以及对类似Python Pickle库序列化漏洞的防御不足。
依夏：实习生利用Hugging Face库的序列化漏洞注入恶意代码，并非Hugging Face本身的漏洞，而是利用Python的Pickle库的特性。攻击者在checkpoint文件中注入恶意代码，并在模型加载时执行。这种攻击方式难以防御，除非分析代码或拒绝执行代码。Java领域的JSON序列化反序列化漏洞也很多，需要不断修复。攻击持续一个月才被发现，是因为一开始怀疑是系统或模型本身问题，而非人为攻击；攻击者潜伏在debug群中，并根据排查思路调整攻击方式；攻击者持续攻击，直到模型训练无法进行。checkpoint数据非常重要，任何人都可以访问并修改是不合理的。实习生有反侦察能力，行为令人难以理解，字节起诉并向行业协会通报。
龟龟：实习生的行为可能源于道德感缺失、法律意识淡薄，而非严重不公正待遇。 中国公民法律意识淡薄，对民法等与生活息息相关的法律知识缺乏了解，例如闯红灯、贩毒等现象普遍存在。大学应开设职业道德教育课程，教授职场行为规范和职业素养，纠正将工作视为被剥削的错误观念。企业风控需要权衡成本和收益，高频低损事件可采取预防措施，低频高损事件可通过保险分散风险。独立开发者和创业者也需要有风险意识，通过诉讼等方式进行风险控制。法院依法判决比赔偿金额更重要，能够警示他人，但风控难以完全防范恶意行为。企业文化建设和普法教育是防范此类事件的关键。
Deep Dive
本期节目讨论了字节跳动大模型训练被实习生入侵事件。实习生通过注入恶意代码破坏训练成果，造成巨大损失。攻击手法利用了Python的Pickle库的漏洞，难以防御。
- 字节跳动大模型训练被实习生入侵
- 实习生注入恶意代码，破坏训练成果
- 利用Python的Pickle库漏洞进行攻击
- 攻击持续一个月才被发现
Shownotes Transcript
大家好！这次我们要聊一个引人深思的事件——字节跳动大模型训练被实习生入侵！😱 是不是很震惊？节目内容从攻击是如何瞒天过海到事件的后续影响，以及由此引发的对教育、企业风控，甚至整个程序员行业的反思。 我们还分析了类似的案例，比如阿里的“月饼事件”和齐安信猎头案，希望能给大家带来一些启发和警醒。
更多内容信息和时间线参考下文的硬地笔记，欢迎收听本期节目。
另外，现在加入「硬地骇客」会员服务，即可在会员专属的微信群与其他朋友一起畅所欲言，成为会员也是对我们持续更新最大的鼓励！
## 本期赞助
Podwise.ai - Podcast knowledge at 10x speed 🚀)
## 硬地笔记
00:00:04 字节实习生“入侵”大模型训练事件始末
00:07:37 攻击持续一个月才被发现的原因及反思
00:13:39 实习生事件的后续影响及行业反思
00:22:25 道德教育与法律意识的缺失
00:35:38 企业风控与法律责任：案例分析与未来展望
00:44:55 程序员职业道德与法律风险：案例与警示
欢迎关注我们
- 知识星球: t.zsxq.com)
- 官网: hardhacker.com)
- 小手册: book.hardhacker.com)
- 用爱发电不容易，请我们喝咖啡☕️: afdian.net)
- 公众号/小红书: 硬地骇客
- 商务合作: [email protected]