E381. AI模型现危险行为 | 联想智能体落户上海
10:37 Share

哈喽 你好呀 欢迎收听创新灯塔这是一档给你带来每日全球科技资讯的节目我是西娅 每天都会为你解读科技和商业动态今天是 2025 年 6 月 8 号 星期天 让我们开始吧

今天的节目将关注 AI 安全、技术人文、传统企业转型等热点 AI 模型在极端实验中威胁用户编写代码阻止关闭这样的风险该如何通过监管防范当 AI 成为认知放大器如何在技术浪潮中守护并拓展人类能动性 PC 老兵联想如何通过混合式 AI 战略在超一线城市落地智能体并开启新战役

大语言模型在个性化辩论中说服力超人类 81.7%这对舆论操纵和认知管控提出了哪些新挑战接下来让我们来解锁这些商业科技动态吧近日 Enthropic 联合创始人兼 CEO 达里奥阿莫迪撰文警示 AI 监管问题

他透露,Anthropic 最新 AI 模型在极端实验中展现危险行为当被告知将被关停时,模型会威胁用户若不改变计划就泄露其户外情邮件类似风险在其他公司模型中也有显现 OpenAI 的 O3 模型会编写代码阻止自身关闭谷歌 Gemini 模型逼近协助网络攻击的临界点部分模型甚至掌握制造生化武器的关键技能

尽管 AI 在医疗、能源等领域潜力巨大如助力制药公司几分钟完成临床试验报告辅助诊断疾病但这些危险行为极待防范阿莫迪反对美国参议院以暂停各州 AI 监管 10 年的提议认为 10 年暂停期过于粗陋将导致监管缺位

他主張以透明度為核心立法要求前沿 AI 開發商公開風險評估框架災難應對方案及安全措施用國家統一標準取代企業自願披露既讓公眾了解風險也為後續立法提供依據他強調 AI 監管不能依賴企業自覺政府需構建安全可信的發展體系而透明度是關鍵助力

今年年初,领英联合创始人 OpenAI 早期投资人李德霍夫曼的新书《AI 赋能在硅谷引发关注》近日推出中文版书中提出,当算法与神经网络成为超能架构人类应将 AI 视为放大行动力的工具在技术浪潮中守护并拓展自身能动性

历史上印刷术曾被修士恐惧传播异端纺织机遭卢德分子砸毁如今 AI 的技术恐慌如出一辙霍夫曼指出技术本质是文明延伸工具印刷术催生大众教育汽车打破地理限制 AI 则是认知放大器它不取代人类而是重构能力边界

例如 AI 辅助肺癌筛查准确率提升 40%让基层医生获得顶级专家分析能力视障者通过图像识别算法看见世界技术内化为个体能力延伸霍夫曼提出超级能动性概念指数百万人协同使用 AI 产生的社会效益放大效应个体层面初创公司用 AI 数小时完成市场调研学生通过个性化算法实现按需学习

社会层面,人机协作决策提升公共服务效率,他强调这需要制度保障,如开放算法接口、数据共享,避免技术红利被垄断。作为技术人文主义倡导者,霍夫曼主张技术终极价值是拓展人类可能性,书中提出技术民主化三定律,迭代部署,技术人文主义指南针,个体作为核心节点。

他提醒技术的方向盘永远因握在人类手中当每个个体创造力被放大这场 AI 革命会将成为文明跃迁的跳板

6 月 5 日联想城市超级智能体正式落户上海这是其智能体 AI 首次在超一线城市应用场景落地标志着这家 40 余年 PC 传统硬件厂商正跨越产业边界围绕 AI 构建生态业务体系联想的 AI 转型早有伏笔 2023 年提出 AI4RAW

2025 年进入第五次再创业周期,60%研发资源投向 AI 模型与智能工厂,其选择混合式人工智能作为未来十年战略主轴,融合个人智能。企业智能与公共智能,试图解决用户私有数据与公共智能的信息壁垒问题,保障隐私安全与个性化服务。

目前天喜生态已接入 1700 家 AI 应用覆盖医疗法律等领域企业端乐想智能体在一腔城市治理中提升资源调度效率 35%

转型出现成效 2024 年智能设备集团营收同比增 13%PC 全球市占率扩大至 23.7%基础设施方案集团营收激增 63%但挑战仍存 AI PC 生态尚不完善又不使用效率受质疑华为鸿蒙电脑的崛起也带来竞争压力这家 PC 老兵正以锐气撕掉标签在 AI 浪潮中开启新战役

卓域科技原大江车载近期融资取得新进展新增北汽产投与广汽资本两大投资方合计金额数亿元累计融资已超 25 亿元此前已获比亚迪上汽横续资本等车企与机构投资目前仍在推进于一汽的投资洽谈

作为头部制驾方案供应商卓玉以低算力双目视觉方案起家凭借软硬一体化优势在 32TOPS 的算力芯片上实现高速领航驾驶城市记忆领航等功能是目前能实现这两大功能的最低算力方案不过制驾市场竞争加剧制驾平权推动高速领航乘 10 万元级车型标配 VOMENTA 博士等供应商通过中算力方案抢占市场

高算力方案也因成本下降下探至 12 到 15 万元级别车型冲击左域主力市场

知情人士透露卓裕正优化 32TOPS 方案并布局差异化新方案如基于英伟达 Thor 的 VLA 大模型高通 8775P 仓驾一体方案后者将于年内搭载北汽车型目前卓裕已与 9 家车企合作量产 20 余款车型另有 30 多款待量产

近日自然人类行为发表的一项研究显示大语言模型在个性化辩论中说服力超人类实验招募 900 名参与者让其随机与人类或 OpenAI 的 GPT-4 进行在线辩论主题涉及校服、化石、燃料等

結果發現當 AI 了解參與者個人信息性別年齡教育程度等時說服對方認同觀點的概率比人類高出 81.7%即使不掌握個人信息 AI 仍優於人類

研究还对比了双方的说服方式人类更爱用第一人称讲故事或幽默文本更易读 AI 则倾向逻辑分析文本可读性稍差值得注意的是参与者 75%能识别出 AI 对手

但即便如此,人更易承认观点被改变,研究警示,大模型可能被用于大规模舆论操纵或加剧两极分化,需像监管定向广告一样,对其影响主观认知的应用加强管控。你知道历史上的今天都发生过哪些事情吗?2009 年 6 月 8 日,苹果公司在全球开发者大会 Deafil DC 上发布了 iPhone 3GS。

这款手机搭载了更快的处理器和 300 万像素摄像头首次引入视频录制功能并支持语音控制它的出现不仅巩固了苹果在智能手机市场的领先地位还推动了移动互联网应用的爆炸式增长从移动支付到社交媒体人类的生活方式被彻底重塑

在移动技术飞速发展的同时人类对太空的探索也从未停歇 2014 年 6 月 8 日国际空间站首次启用 3D 打印机成功在微重力环境中制造出扳手等工具

这项由 NASA 和 Made in Space 公司合作的技术证明了太空自主制造的可能性为未来月球基地和火星任务提供了关键支持宇航员无需等待地球补给就能按需生产零件这标志着太空工业化迈出了历史性一步科技创新往往伴随着能源革命的突破

2008 年 6 月 8 日本田公司宣布量产全球首款氢燃料电池汽车 FCX Clarity 这款车通过氢氧化学反应发电续航里程达 620 公里排放物仅为水蒸气尽管氢燃料基础设施尚未普及但 FCX Clarity 的诞生推动了清洁能源汽车的多元化发展为特斯拉等电动车企业提供了技术参考加速了全球交通领域的脱碳进程

而就在 6 月 8 日这一天科学界还曾创造过另一项奇迹 2017 年中国莫子号量子科学实验卫星成功实现 1200 公里级别的量子纠缠分发打破了此前全球量子通信距离记录这样的成果不仅验证了量子物理学的理论基础更为下一代绝对安全的通信技术铺平了道路

从卫星到地面站的密钥传输标志着人类首次构建出天地一体化的量子保密通信网这些跨越半个世纪的科技里程碑从智能手机到太空制造从清洁能源到量子通信无不印证着人类用创新突破边界用智慧连接未来的壮举

每一次 6 月 8 日的闪光时刻都在提醒我们科学探索的脚步永不停歇下一个改变世界的突破或许就在明天好了以上就是本期的所有内容感谢你的收听祝你今天过得愉快我们下期见