本期节目已于今年4 月 19 日发布于「Orpheus 微见」节目

4月9日，马斯克在播客采访中预估“通用人工智能（AGI）将在两年内实现”，如果该评估成立，留给我们准备技术应用规则和社会心态的时间的确不多了。Orpheus微见邀请到2023年吴文俊人工智能科技进步一等奖得主周俊老师探讨了一个在当下尤为关键的问题：

当AI在越来越多的领域和场景能力都强于人类的时候，我们能如何让AI更可被信任、尽可能消除这一“强大机器”的负面风险，在各种关键产业和场景尽可能安全、可控地落地和释放AI价值？

本期人物周俊

· 2023年吴文俊人工智能科技进步一等奖得主

· 蚂蚁集团智能引擎技术事业部副总裁

· 蚂蚁集团AI创新研发部NextEvo语言与机器智能负责人

主要内容

一 \GenAI急速发展，是否正脱离人的信任？

02:40 大众传媒与业内研究：巨大感知差异

06:40 除了写字画画，AI如果在关键领域失信将造成哪些巨大风险？自动驾驶、金融、人脸识别……

14:53 为什么可信问题是GenAI落地最关键的问题？

二 \ 人与AI如何建立信任？系统中谁能为人代言？

16:05 各大AI企业对可信AI等领域的研究

17:48 蚂蚁NextEvo及周俊团队的研发方向及获奖项目

19:27 将AI的能力应用到社会和市场的公平性中

25:02 越是容错度低、重要性高的关键领域，越需确保AI落地可信度

25:28 国内与国外：基础研发到底掉队了吗？

31:00 小插曲：沉迷于研究大模型，周俊忘记去英国领奖

36:33 小语言模型，让每个人手机等设备中的AI也能更可信？

三 \ AI时代，“信任”的定义会再次被刷新吗？

38:35「可信」带来的公平性，让更多群体可以理解AI、从AI受益

43:47 「信任」之于AI，到底意味着什么？

45:18 信任的量化、标准化、动态化、情境化、去中心化，以及机器与机器之间的信任

53:09《骇客帝国》和《真实的人类》：人对AGI的天然信任隐忧

53:58 建立规则、拉近立场、训练能力

59:08「信任」之于AI时代的人，到底意味着什么？从歃血为盟到建立社会契约、金融体系再到今天

1:05:33 人的信任标准终归还是在人，人的怀疑催生AI时代的信任基石

1:08:46 是否相信AI，就是是否相信人类自己，以及人类的未来

Surfshark数据：AI事故增长15倍

数学家吴文俊先生

蚂蚁集团AI创新研发部NextEvo团队获得CIKM最佳论文奖项

本期制作：

秦旷、会友镖局小助手

联系我们

更多节目信息，欢迎关注小红书：会友播客，添加小助手微信:huiyouhz，加入听友群喔～

28｜AI加速进化，谁能为人类的信任代言？| 对话蚂蚁NextEvo周俊 01:10:53 Share

会友镖局