Deep Dive
Shownotes Transcript
哈喽 你好呀 欢迎收听创新灯塔这是一档给你带来每日全球科技资讯的节目我是西娅 每天都会为你解读科技和商业动态今天是 2025 年 5 月 5 号 星期一 让我们开始吧今天的节目将探讨 AI 提示词工程师岗位风光不再 未来需求是否会持续减少
MIT 教授关于控制强大 AI 的研究成果能否真正有效应对 AI 失控风险李恩宏点名批评的国产开源大模型幻觉问题突出技术开发者手段能否彻底解决奥特曼与纳德拉关系微妙变化他们的合作走向会如何发展
接下来让我们来解锁这些商业科技动态吧大模型元年热门的 AI 提示词工程师岗位如今已风光不再 2023 年时该岗位无需写代码不限专业学历年薪能达 25 到 33 万美元像 N4ROCKET 公司曾招聘此岗位要求具备一些特制及基本编程等技能
然而現在,微軟一向涉及 3 萬 1 千名員工的調查顯示其已成公司未來 12 到 18 個月內倒數第二不想新增的崗位招聘平台上的搜索次數也從暴增歸於瓶頸 Enthropic 如今招聘已不見該崗位還推出能自動寫或優化提示詞的工具谷歌也發布白皮書傳授提示詞訣竅,降低門檻
虽短期内这岗位不会完全消失像格林生同招聘还要求懂行业知识但从长远看随着 AI 智能水平提升更个性化发展及广泛渗透对纯提示词工程师需求会逐渐减少懂提示词工程的复合型人才更受企业青睐
MIT 教授 Max Tickmark 和 Joshua Ingalls 精量化分析得出较弱的 AI 和人类可通过嵌套可扩展监督 NSO 控制更强大的 AI 但在最理想情况下
成功監督住更智能 AI 的概率僅 52%且隨著 AI 趨近 AGI 失控率會提升人類失去對地球控制的概率超 90%若為有諸多關鍵貢獻比如將監督建模為博弈等
其研究主要关注两个模型 Houdini 和 Gods 间的监督和突破通过 L 评分度量模型性能还对黑手党、辩论、后门代码、战争游戏这四种真实监管场景进行实证研究如黑手党游戏中随着智能水平提高监督者 God 比 Houdini 表现更好等最后对可扩展监督进行理论分析得出相关结论强调开发有效监督理论对未来 AI 控制至关重要
李彦宏点名批评 Deep-Seq RE 幻觉高指国产开源大模型虽推理强 文笔好却常胡说八道其实不止它 OpenAI 阿里通一等的模型也有幻觉问题如 OpenAI 内部测试 O3 O4 Mini 替换 O1 系列后幻觉更强
Vectora 評估中 Deep Sea Curly 幻覺率比前代高很多幻覺是大模型通病隨模型發展這問題仍難解決
不過技術開發者有手段像檢索增強生成 RAG 百度的 RAG 就會解決紋身圖幻覺問題而且幻覺也並非全無意劉慈欣曾讓 DeepSeek 續寫作品其寫出的內容讓劉慈欣有失落感也說明幻覺能帶來一定的創造力未來或需換種思路研究 AI
许久未同框的奥特曼与微软 CEO 纳德拉在推特秀恩爱还透露合作新进展而此前华尔街日报曾爆料二人分歧见大 OpenAI 的奥特曼与微软的纳德拉此前合作紧密微软早早就为 OpenAI 注入巨资等支持其 AI 研究
但如今微软暂停部分 AI 数据中心项目 OpenAI 算力助力或受影响二人关系也变得微妙紧张知情人士称约有三件事让两家裂缝增大比如在计算需求和访问权限上分歧加剧 OpenAI 希望获更多资源等微软却有不同考量在通往 AGI 的问题上微软对 OpenAI 能否达成愈发犹豫还提高了 Copilot 优先级
纳德拉还招揽人才构建模型抗衡 OpenAI 曾经亲密的双方如今关系已大不同
一位 X 网友向 OpenAI CEO Sam Altman 提问人们和 AI 模型互动时说"请","谢谢"等会让 OpenAI 多花多少电费 Altman 估算约千万美元且认为花的值如今与 AI 对话常用的温和用语成了独特社交礼仪据研究 AI 并非无形其扎根于各类资源系统一次普通查询就有能耗全球每秒交互累计起来能耗惊人
AI 数据中心耗电量大超大规模数据中心更是能耗怪兽今年 AI 巨头开启基建狂魔模式如 OpenAI 等投资超大规模 AI 基建项目此外 AI 还消耗大量水资源
而从心理学角度看人类会将 AI 擬人化即便知道他不懂善意也会不自觉说谢谢等且礼貌用于可能换来 AI 更人性化的回答甚至有人把 AI 当情感树洞
北京时间 5 月 2 日凌晨苹果发布 2025 年第一季度财报库克提及未来四年在美国投资 5000 亿美元计划还宣布从今年二季度起美国销售的多数 iPhone 将来自印度 iPad 等产品由越南生产中国制造的苹果产品主要供给其他国家
儘管一季度蘋果收入 954 億美元淨利潤 248 億美元同比均增長 5%但財報發布後股價盤後下跌 3.8%因大中華趨勢為一收入同比下降區域且在中國以連續 7 個季度營收同比下滑 iPhone 出貨量也同比下跌 8%此外,蘋果 AI 雖引入更多語言版本
但中国 iPhone 用户仍无法使用相关功能增强版 Siri 推迟到明年发布苹果正努力推进 AI 发展如计划建服务器制造新工厂等未来情况待苹果全球开发者大会揭晓
你知道历史上的今天都发生过哪些事情吗?在 1821 年 5 月 5 日,拿破仑·波拿巴逝世这位法国军事和政治领袖,曾经统治过欧洲大部分地区他的军事才能和政治手腕至今仍被广泛研究 1886 年 5 月 5 日,美国药剂师约翰·彭博顿首次出售了他的新饮料,可口可乐
这种最初作为药物出售的饮料后来成为全球最受欢迎的软饮料之一 1937 年 5 月 5 日美国商业飞行员霍华德修斯完成了他的飞行壮举用时 3 天 19 小时 17 分钟独自驾驶飞机完成了环球飞行这次飞行打破了当时的飞行记录展示了航空技术的进步
1950 年 5 月 5 日英国科学家蒂莫西·亨特弗朗西斯·克里克和莫里斯·威尔金斯开始了 DNA 双螺旋结构的研究这项研究最终揭示了生命的分子基础为现代分子生物学奠定了基础 1961 年 5 月 5 日美国宇航员艾伦·谢波德成为第一个进入太空的美国人
他的飞行标志着美国在太空竞赛中迈出的重要一步也激励了全球对太空探索的热情 1994 年 5 月 5 日中国和南非正式建立外交关系这一事件标志着两国关系的新起点为双方在经济、科技和文化等领域的合作奠定了基础 2003 年 5 月 5 日火星探测器机遇号成功着陆在火星表面
这是人类历史上第一次成功在火星上着陆并进行科学探测为了解火星的地质和气候提供了宝贵数据这些事件不仅展示了人类在科技、财经和科学领域的进步也体现了我们对未知世界的探索精神从拿破仑的军事才能到火星探测器的成功着陆每一个事件都是人类智慧和勇气的体现
好了以上就是本期的所有内容感谢你的收听祝你今天过得愉快我们下期见