We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode No.112 对谈罗璇&刘潇:大模型注定是属于巨头的吗?

No.112 对谈罗璇&刘潇:大模型注定是属于巨头的吗?

2023/5/10
logo of podcast 三五环

三五环

AI Deep Dive AI Chapters Transcript
People
刘潇
罗璇
Topics
罗璇:元智能OS的RWKV大模型在全球范围内具有竞争力,其核心优势在于时间和空间复杂度的降低,以及开源带来的低调优成本。RWKV模型在长文本处理方面具有显著优势,未来将在端侧部署和应用方面发挥重要作用,解决数据安全问题,并最终实现大模型能力的平民化。 RWKV模型与GPT模型最大的区别在于时间/空间复杂度和开源方式。大模型的未来在端侧而非云端,主要原因是数据安全问题以及云端部署的高成本。当前最大的AI安全问题是数据安全问题,大量数据集中在少数几家公司手中,这非常危险。将所有AI能力集中在云端并非真正的“对齐人类”,而是“造神”,这存在巨大的安全风险。 刘潇:RWKV模型的核心优势在于对Transformer架构的时间和空间复杂度的优化,使其更接近人类的思考逻辑。RWKV模型与其他大模型的区别在于其优化方向和目标不同,RWKV更关注时间和空间复杂度的极致优化,以及在端侧的部署和应用。RWKV模型在训练成本和调优成本方面具有显著优势。开源是大模型长期快速发展的关键,闭源模式难以持续。Transformer架构是一个偶然,而RWKV模型代表着必然的未来方向。RWKV模型在手机等端侧设备上运行已成为现实,未来将会在垂直领域快速落地。RWKV模型在长文本处理方面的优势使其在小说创作等领域具有显著应用潜力。未来大模型能力将平民化,每个人都能掌握。RWKV模型致力于构建符合中国价值观体系的AI模型。

Deep Dive

Chapters
本期节目邀请了元智能OS的CPO罗璇和CTO刘潇,探讨了元智能团队在AIGC编程马拉松中夺冠的经历以及RWKV开源大模型的独特之处。RWKV模型在时间和空间复杂度上进行了优化,降低了调优成本,并在长文本处理方面具有优势。与闭源的大模型相比,开源的RWKV更易于在垂直领域落地,并拥有更强的社区支持。
  • RWKV模型在时间和空间复杂度上优于GPT模型,降低了调优成本
  • RWKV模型在长文本处理方面具有优势
  • 开源模式有助于RWKV模型在垂直领域快速落地,并拥有更强的社区支持

Shownotes Transcript

嘉宾|罗璇,CPO@元智能OS,炬星科技联创,前阿里产品总监 嘉宾|刘潇,CTO@元智能OS 主播 | 刘飞,三五杯联合创始人,产品经理,内容创作者 近期在 AI—Transforme 主办的中国第一场AIGC编程马拉松(Hackathon)中,“元智能”团队问鼎冠军。 本期邀请了元智能的 CPO 罗璇和 CTO 刘潇,一起聊一聊他们在做什么、什么是 RWKV,以及他们作为“民间团队”的竞争力在哪。 大模型真的有想象中那么高的门槛吗?接下来大模型会是开源的还是闭源的,还是共存的?未来的 AI 能力是少数大厂独享的,还是会快速平民化? 罗璇的上一期:No.106 跟 罗璇和小丸子 聊聊为什么产品经理对 AI 很兴奋?) 内容索引 01:04) Part1 「元智能」的竞争力 全球范围内非常有特点的一个开源大模型 与 GPT 的差异点:空间和时间复杂度,开源方式,调优成本低,长文本领域 数据安全: C 端手机私有化部署, B 端的服务器私有化部署 刘潇:transformer 是一个偶然,RWKV 这个方向是必然 RWKV 更像是人的思考逻辑 16:32) Part2 开源大模型是未来? 数据安全问题,当 GPT 不受限将不可控 罗璇:当全球 50% 以上的人的数据集中在一两家大公司,这是一件很非常恐怖的事情 罗璇:未来我的大模型的能力是平民化的,是能够掌握在每个人手上的 刘潇:RWKV 想做中国自己的价值观体系的东西 24:27) Part3 RWKV模型的使用场景 机器人、XR、 LT 长文本处理,写作小说领域 “艾拉的寿命只有8192token,RWKV要给她完整的一生” -RWKV社区 制作人:严格 片头:Where Are You Going (Live) - 海龟先生 片尾:Pale Blue - The fin 相关 欢迎在评论区留言交流。如果喜欢《三五环》,也恳请能在苹果 Podcast 、Spotify 或喜马拉雅留下你的宝贵好评。感谢! 商务合作&嘉宾自荐,请加微信: wocaishiliufei 封面图片由 Midjourney 生成,版权所有©️三五环