We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 对话两会代表 委员:2025,“数智”风暴将如何改变中国? | 两说

对话两会代表 委员:2025,“数智”风暴将如何改变中国? | 两说

2025/3/16
logo of podcast 第一财经

第一财经

AI Deep Dive AI Chapters Transcript
People
周鸿祎
张立
无法确定发言人
曹鹏
Topics
周鸿祎:我认为人工智能是第四次工业革命,它将带来人人智能、万物智能、传统行业转型升级和未来产业发展。大模型的普及带来了安全问题,例如模型幻觉、被操控以及数据泄露。安全行业需要从卖软硬件转向卖服务,并利用安全大模型解决大模型自身的安全问题。DeepSeek降低了大模型的成本,使其更易于广泛应用,并开启了智能体和知识库元年。 曹鹏:DeepSeek的出现对国内GPU厂商发展带来重大机遇,促进了国产算力生态系统的建设,并推动了云边端算力模式的打通。AI智能体是连接大模型与企业业务场景的关键技术,在京东内部已广泛应用并节省了大量人力成本。AI智能体将变得更碎片化和专业化,多智能体协同将成为发展方向,并需要建设开放的平台来支持中小企业。普通人无需对人工智能技术感到焦虑,它将提高效率并创造新的工作机会。 张立:中国电子信息产业未来五大趋势:科技创新、AI渗透、绿色转型、出海和政策红利。我国的人工智能产业创新正迎来前所未有的发展机遇,DeepSeq等突破性成果证明中国在AR赛道有实力参与全球顶级竞争。构建算力、算法、数据铁三角,算力要普惠,算法要开源,数据要流动。

Deep Dive

Chapters
本节探讨了大模型带来的安全问题,包括幻觉、PUA风险、数据泄露等,并介绍了360公司利用安全大模型解决这些问题的方案。同时,讨论了智能体和知识库在2025年的发展趋势,以及降低大模型使用成本的重要性。
  • 大模型安全问题:幻觉、PUA风险、数据泄露
  • 360公司利用安全大模型解决大模型安全问题
  • 智能体和知识库元年
  • 降低大模型使用成本

Shownotes Transcript

大方形從原子彈的定位變成了成了柴野彈的價格經由將近一萬個智能體結成了超過一個億的整個的人力成本算力要普惠算法要開源數據要流動

本期梁说,第一财经主持人裴磊对话第十四届全国政协委员 360 的创始人周鸿一,第十四届全国政协委员、京东集团技术委员会主席、京东云事业部总裁曹鹏以及第十四届全国人大代表中国电子信息产业发展研究院院长张力,聊聊 2025 年数字风暴将如何改变中国。

随着 DeepSeek 热度飙升的还有大量的仿冒账号钓鱼网站甚至在 1 月 27 号 DeepSeek 宣布遭受大规模的恶意攻击那如何破解数字风暴带来的安全问题我们去向 360 的创始人周鸿英寻找方案周总您好想先问一下您对于今年关注哪些层面的问题 DeepSeek 异军突起我觉得最大的成果不仅是在技术上赶上了美国

最高水平的大模型能力最重要的是整个在中国做了一次大规模的人工智能的普及教育中国现在可能成为 AI 渗透率最高的国家很多企业和政府都有了世界上

最领先的大模型能力带来了中国在人工智能我觉得一个大踏步的前进我们要看到人工智能本身会带来很多安全的问题你比如大量的采用 DeepSeq 作为机座模型机座模型第一会有幻觉在有些领域里面可能会输出不恰当的内容

那第二个呢大模型最方便的是每个人只要会他能理解人类的语言每个人可以跟他说话交流那通过跟他用自然语言交流就能对他进行 PUA 就能够控制模型去做不该做的事情

而且在企业和政府内部要使用大模型呢光是把它做一个聊天机器人用效果是不好的如果让它更同企业更同政府的内部业务一般要把它连上专业知识库但专业知识库这就又有数据泄露的风险还有呢大模型在企业里要发挥作用还需要打造智能体智能体呢可不像大模型一样只是

有一个脑子做推理能说会道他本人有手跟脚能使用各种工具能调用企业内部的各种 IT 系统这里边就要防止智能体出错否则的话就会产生不可避免的物理伤害现在安全行业内卷的比较严重形成一个双输的局面

一方面安全公司就不断地把各种盒子把各种软硬件希望更多地卖给客户客户又提出很多定制的需求最后可能客户得到的东西也不是客户想要的安全行业应该进化了从卖软硬件变成卖服务当然要解决大模型的安全用传统的网络安全的技术实际上是不可行的

现在找到了一条路成为了以魔制魔我们打造了安全大模型用大模型来解决刚才说的大模型包括知识智能体这一方面的问题

比如说在法律在金融在医疗在教育在一些这种在工业生产制造很多领域那么大模型的这个输出结果可以通过另外一个大模型来进行校正您认为现在大模型的整个应用的一个状况是什么已经发展到了一个什么样的阶段在 DevSec 出来之前

坦率地说传统的基于这种预训练的这种问答式的大模型能力还是不足所以大家使用起来跟鸡类似的气之可惜食之无味为什么 DeepSick 出来之后我就解决了这个问题就让大模型从不可用进到了可用这个概念所以才会 7 天就增加了一个亿的用户

用户呢身体是最诚实的他们也不会相信我们行业里的吹牛的很多说法大家过去都说我人工智能做了怎么样了但大家还是不用那 DeepSick 出来之后解决了这个用的问题那么下一个阶段我觉得到应该从今年开始吧我觉得今年应该是叫智能体和知识库元年大家现在已经找到了可能应用的场景今年可能 DeepSick 在中国的发展会更加的深入

会真正的跟企业和政府的业务紧密的结合那您认为这个人工智能技术从我们的规划从实验室走向一个产业应用的一些核心影响因素会是哪些呢我一直呼吁的要把大冒险拉下神坛

也就是要把它降低使用的成本在两年前企业整个大模型可能没有个几千万这个成本是下不来的还有很多企业试图自己去训大模型那一年前训大模型虽然是被美国带到一个堆显卡堆算力堆数据的这样一个方向上呢大家就觉得没有一个几千卡或者万卡可能也很难训出自己的大模型

但是 DivSec 出来把这两个问题都解决了一个是 DivSec 作为一个能力很强的机座模型大家不用重新发明轮子可以打造自己的专业模型这个训练的成本已经降到非常低可能第二个 DivSec 本身开源而且免费而且可以私有化部署这样每个企业甚至一个创业企业一个中小企业

它都能够零成本的拿到一个 DeepSeq 不同大小的版本的模型而能力基本接近世界领先的水平所以这样的话我觉得就真正做到了把大模型从原子弹的定位变成了保留原子弹的能力但是成了茶叶弹的价格这样的话我觉得才能真正产生广泛的应用

所以您认为未来会在三年吧哪些领域的这个 AI 的应用会率先实现一个商业化的落地呢为什么我把 AI 定义成是第四次工业革命它和原来我们说的什么区块链啊元宇宙啊什么 Web3 啊这些技术的等级不一样但是人工智能大模型呢是一个直接可以

在很多场景上直接取代繁琐的人力工作直接降本增效降低成本的一个赋能工具所以说各个行业我认为随便你取任何一个行业可能你都能找到这种合适的场景用 AI 来重塑

第一个我觉得大的方案是人人智能 AI 会把我们每个人打造出一系列的工具让我们具备原来不具备的这种超能力换句话说每个人都成为超级个体

第二个我管它叫万物智能未来你家里所有的硬件家电可能都具有大模型的能力都能够跟你对话都能够接受你的指令都能够为主人能做出一定的推理第三个最大的我觉得是传统行业的舒转质改这个方向是我觉得未来对中国影响最大的行业因为中国很重视传统

传统行业特别是制造业现代工业的发展因为中国不能搞产业空心化但是国家也提了战略目标就是要数字化技术要帮助他们实现数字化转型智能化升级第四个我就叫未来产业

就是像低空经济无人机像机器人居身智能就机器人机器狗还有自动驾驶无人驾驶这些领域本来这些领域就是以人工智能为核心的领域而大模型呢给了他们我觉得这种相对给了他们这种感知的能力认知的能力包括这种智能推理的能力

还有大网型这种新的训练范式解决了长期以来困扰这些行业的这个智能性不够的问题还有一个呢是科学工具就是 AI for science 我认为这个是未来可能我觉得 AI 最大的

皇冠上的民族吧因为我们今天打造 AI 肯定花了这么多钱人类花了这么多成本肯定不是为了就是只写两篇小文章做两篇图那这个就没有战略意义了实际上是为了让 AI 能成为科学家的工具让 AI 的

成为科学家做科学研究的一些范式还有最后一个方案就我说了大模型无处不在的时候安全就变得非常的重要但是怎么用大模型自身的技术来解决大模型自身的安全就我们说的以模制模第二个呢我觉得要有一个在 AI 时代有了如果有了 AI 认知之后要培养自己的 AI 素养你要把 AI 当成你的一个一师一友的一个顾问第三个呢 AI 现在讲究的是慢思考

慢思考呢是 AI 真正模拟人最强的能力这不同的大方形可以让他们互相去 PK 让他们去讨论就好比你有了很多专家朋友

DeepSeek 问世之后 七天内就吸引了一亿用户截止到今年的二月底 有超过两百家企业宣布接入其中包括微软 英伟达这样的国际巨头也包括了像京东这样的国内大厂那京东云就率先宣布了在 DeepSeek 的推理场景之下性能提升了 50%我们将和京东进行一场对话来一探数字风暴下的企业的蜕变曹总您好你好

我们看见 2025 年的开年 DeepSeek 的出现对于我们国内 GPU 厂商的发展带来了什么样的机遇呢

首先 DeepSeq 这件事出来肯定对于我们国内的算力发展是一个非常重大的利好它其实从技术验证和市场拓展来说都有了更多的机会和空间那么 DeepSeq 的出现它使得我们整个国内 GPU 的生态系统的建设产生了哪些作用呢 DeepSeq 本身对于异构算力的适配性有一个很大的提升这里面就带来了一个需求就是说

对于中间这一层的平台层它能不能够做到很好的适配就是在上面的大模型和下面的算力中间需要有人去做这种适配否则的话每一个应用都去做这样的适配它的成本其实很高的而且对中端的要求也很高就是说中间如果有一个很好的平台层不管是说这种专业的算力提供厂商还是像我们这样的云厂在中间这一层把整个算力

的适配做好包括说整个算力的适配一些框架的适配包括说底层资源的一些异构资源的一些纳管和调度这样的事情做好以后所以说对于我们整个的这个国产算力的使用和推广应该是一较大的一个好处对吧然后第二个呢是说 DeepSeek 本身它的模型训练和推理成本降低以后

那对于整个的后面的模型使用的模式特别是说原来的都是在云端服务器端的使用那以后是不是有云边端这样三端能够打通联动这样的一个模式可能也是变得可行而且它的这个使用的占比会越来越高对吧那这样的话从云上面到边缘的服务器再到终端这里面的这个

这个打通也是一个很重要的一个趋势第三个来讲呢在这个时候国家在给予一定的补贴不管是说从直接的国产算力补贴还是算力券还是说对于这些企业平台的一些税收减免的政策把这些补贴下了以后就可以把整个的国产算力加国产大模型的这种使用

这个真正的去推动起来那就不是一个救命和书写的逻辑而是说我做的一个产业启动的影响投入这样的话真正把产业启动起来以后那整个它就会进入到一个良性的循环

那接下来还想跟您聊一下智能体因为 AI 智能体现在是 AI 应用的一个主要的形态那我们的企业数字化转型也是把这个 AI 智能体作为一个很核心的一个抓手一个驱动力所以我们从技术的角度来分析一下现在 AI 智能体还获得了哪些突破有哪些创新智能体的这个

东西呢应该说是一个很关键的一个技术因为大模型本身和企业内部的很多场景里面它是不能直接的连通的对吧它是没有办法直接使用那中间需要的就是智能体这样的一个

你叫它一个工具也好叫一种标准也好叫一种小的应用也好它能够把大模型的能力和企业的这种业务场景有机的结合在一起能够真正让大模型能够去解决具体的业务场景中的这种问题对吧所以说呢这个模式我觉得是一个非常好的模式而且最近在

在各个行业里面都得到了一个比较广泛的一个应用比如在我们京东里面我们京东现在在整个体系里面已经有将近一万个智能体在跑了当然这里面方方面面的对包括很多的场景从这个协同的办公对包括各种各样的这种智能的助手

到前端的营销文案的生成图片的制作到智能的客服再到我们程序员整个的代码的编写和优化方方面面都大量的使用智能体来进行整个内部的这个协同的体效我们算过一次就是这些智能体已经帮助我们节省了超过一个亿的整个的人力成本因为大家的效率都得到了一个非常大的提升

那能不能给我们举些例子呢就是来说明一下 AI 智能体是怎么改变行业的一个经营模式的简单地讲就是最直接的影响其实就是效率的提升比如说刚才我们讲的我们的整个内部的整个的我们的代码编写智能化代码编写

比如说到说合同的审核一个 100 多页的合同原来可能需要一个人看个半天去看里面有没有瑕疵那现在就给智能体可能几秒钟的时间就把这个东西就看了一遍就晒出来了那您在看 2025 年我们这个 AI 智能体会发生一些什么样的变化还会有哪些方向上的这个发展吗一个是说

智能体会变得更碎片化而且也会变得更专业它在一个单一的碎片的功能上可能会做得更极致碎片化带来的另外一个需求就是说智能体之间靠单一智能体不再是能够完成一个很大的任务所以说需要一个多智能体协同这样的一个机制那这个里面其实就带来了后面的整个的技术架构的一个很大的转变因为它本身智能体本身的碎片化

然后多智能体协同这个框架出来以后它整个的开放性和生态就变得非常的重要这样的话在同一个平台上面通过多智能体的协同我们就能完成很复杂的任务和调度能够完成很复杂的这样的一个工作达到一个很好的效果这样的一个平台的建设就变得很重要了

多智能体发展的这个协同会是将来的一个大的方向平台的建设也很重要那对于接下来这个 AI 智能体的发展您还会有些什么样的建议吗智能体的建设包括特别是平台这一层的建设在于大量常委的像中小的企业之间其实它对于这个东西就有一定门槛了

中小的企业它可能对于构建智能体本身它是有这个能力而且可以按照它的需求去构建但是构建整个平台它就是这个力有不足的所以说这个时候其实我是建议说有一些大的一些有能力的厂商和平台厂商他们应该把他们自己的这种平台能够开放出来能够帮助我们更多的这个中小的企业能够快速的去把智能体用起来

那现在随着人工智能技术发展的越来越快已经渗透到我们的生产生活当中对于我们普通人来说其实会有一个迷茫的感觉会有一点焦虑的感觉所以我们该怎么来拥抱人工智能技术来利用人工智能技术让我们生活的更好那现在

这个大模型出来以后其实大家没有必要为这个事情焦虑他们能够把我们的很多工作变得比原来更轻松了对吧他又不会不在我们能够让我们更快的更高效的去完成原来做的很多的重复性的那样的劳动而且大模型本身还会创作出很多新的

这种工作的机会来不管是说模型本身的训练包括对于算法的需求还是说做模型的整个它会有很多新的需求和场景涌现出来所以说大家其实不用对这个事情焦虑因为我还是相信说技术总是推动整个产业在进步的产业进步以后所有的人应该都能够享受到这个技术的同力他们的生活应该会变得更好

这个世界可能也会发展出很多不同的模式生态我们再去期待从中关到宏观从企业到个体从 2025 年到未来数字风暴将会如何演绎最后我们请一位重磅专家来为我们本期两说做注解未来电子信息产业我们认为有五大趋势是值得关注第一就是科技创新推动产业链的升级

咱们在图形处理器芯片像 GPU 芯片专用集成电路这些硬核的领域呢自主创新的能力越来越强像存算一体 语音通信这些融合技术正在突破性能的相关的天花板带动传统电子产品向高端转型第二就是 AI 技术全面渗透

大模型技术会深度融入终端应用比如像智能驾驶、人形机器人、智能家居这些领域可能会迎来一些爆发式的征兆第三是绿色转型成为了必打题双碳目标下绿色数据中心、绿色工厂建设会提速第四是出海瞄准一些新的蓝海中东拉美这些全球南方市场成了新的热点

中国智能终端家电品牌会加速在这些地方落地第五是政策红利在持续的释放财税金融的资源正在向硬科技企业进行倾斜

这些都在为技术公关和产业链安全进行托底我国的人工智能产业创新正迎来前所未有的发展机遇像 DeepSeq 这样的突破性成果证明中国在 AR 赛道完全有实力参与全球的顶级竞争它通过开源的策略把技术成果快速地推向全球我们的发力方向也很明确构建算力 算法 数据 铁三角

算力要普惠通过优化调度降低使用门槛让算力像水电一样的方便大家来获取算法要开源重点要支持 DeepSeq 这类的创新企业用开源协作来加速技术的突破数据要流动打破行业数据的壁垒建立安全可控的数据高速公路