Deep Dive
为什么Ilya Sutskever认为预训练时代将结束？
Ilya Sutskever指出，数据增长已接近瓶颈，未来Agent系统和合成数据将是突破瓶颈的关键。AI将发展成具有自主推理和决策能力的Agent，甚至可能具备自我意识。
中美科技合作协定的延长对国际科研合作有何影响？
中美科技合作协定延长5年，涵盖基础科学项目合作，持续45年。此次续签获多位研究者赞成，但面临特朗普政府考验，共和党议员曾多次反对此前协定。
全球首位AI程序员Devin AI有哪些能力？
Devin AI能协助开发人员完成代码编写，独立完成任务，学习和使用不熟悉的技術，端到端构建和部署应用，训练和微调自己的AI模型，自动查找和修复代码库中的错误。
黄仁勋的全球奔走对AI基础设施有何影响？
黄仁勋与多国领导人探讨AI发展，包括与扎克伯格的基础研究、与穆克什·安巴尼的印度AI基础设施建设、与孙正义的日本AI机器人革命，以及在香港科技大学和泰国的合作项目，推动全球AI基础设施布局。
12月16日在科技史上有哪些重要事件？
1945年，美国成功试爆第一颗原子弹；1964年，水手4号探测器成功飞越火星；1988年，蒂姆·伯纳斯·李提出万维网概念；2002年，中国发射神舟四号飞船；2013年，嫦娥三号探测器成功着陆月球。
- Ilya Sutskever 在 NeurIPS 2024 上的演讲回顾了深度学习的十年发展。
- 规模假设是深度学习成功的关键，但数据增长已接近瓶颈。
- 未来的 Agent 系统和合成数据将是突破瓶颈的关键。
- AI 将发展成具有自主推理和决策能力的 Agent，甚至可能具备自我意识。
Shownotes Transcript
你好呀欢迎收听创新跟他这是一档给你带来每日全球科技资讯的节目我是西娅每天都会为你解读科技和商业动态今天是 2024 年 12 月 16 号星期一让我们开始吧
今天的节目将探讨一系列引人入胜的问题 Ilya Satskever 在 Niare P.S.2024 上的演讲是否预示了深度学习的新方向中美科技合作协定的延长会如何影响未来的国际科研合作全球首位 AI 程序员 Debian AI 的出现是否标志着程序员职业的重大转变以及黄仁勋的全球奔走是否将改变全球 AI 基础设施的布局
接下来让我们来解锁这些商业科技动态吧在昨天的 NewReap2024 中 Ilias Satzgeber 发表演讲他回顾了深度学习的十年发展包括成功的自回归模型和大型神经网络也提到了压错的 LSTM 和并行化他认为规模假设是深度学习成功的关键而数据增长已接近瓶颈预训练时代将结束
未來 Agent 系統和合成數據將是突破瓶頸的關鍵 AI 將發展成具有自主推理和決策能力的 Agent 甚至可能具備自我意識
12 月,全球 AI 圈開啟年底狂卷模式多家公司批量發布新品海外,OpenAI 聲勢最大發布多項成果,如 OE 正式版等 Google 發布 Gemini 2.0 支持多模態輸入輸出 Midgenie 官身 Patchwork 功能更新允許多人在線共同創作
國內字節在豆包和吉夢上更新功能騰訊開源視頻生成模型自補 AI、MiniMax 和接月星辰等也有上新 12 月才過半 AI 圈的上新還會繼續近日中美雙方修訂中美科技合作協定並延長 5 年效期該協定持續 45 年涵蓋基礎科學項目合作此前因序遷移云引發科學界擔憂
此次续签获多位研究者赞成然后面临特朗普政府考验共和党议员曾多次反对此前协定也曾在特朗普任期内多次临时延长近日全球首位 AI 程序员 Devin AI 正式上线他能协助开发人员完成代码编写还可独立完成任务
它能學習和使用不熟悉的技術端到端構建和部署應用甚至訓練和微調自己的 AI 模型還能自動查找和修復代碼庫中的錯誤此外,OpenAI 也宣布推出 ChatGPT Canvas 的多項更新包括直接運行 Python 代碼功能 AI 編程的發展引發人們對其是否會取代真正程序員的思考
近日,英伟达 CEO 黄仁勋频繁奔走,为其 AI 愿景在全球各国落地和宣传。他与扎克伯格探讨了基础研究推动 AI 突破性进展,与穆克什·安巴尼宣布加强印度人工智能基础设施建设的合作计划,还与孙正义认为日本适合领导 AI 机器人革命,将在日本建设 AI 基础设施。
此外他在香港科技大學提出未來能大規模生產的機器人種類可能僅限於三種並與泰國科技公司簽署合作夥伴關係幫助構建該國第一個主權雲還同意在越南開設人工智能研發中心王仁勳近期的平凡活動為科技界釋放諸多信號他的發言值得深思
OpenAI 推出全新對話交互模式 Projects 即日起向 Plus、Pro 和 Things 用戶開放
该功能可按照项目组织和管理文件操作简单还能联动其他功能如 CGPT Canvas 等网友评价不一有人认为这是千呼万唤使出来也有人觉得类似功能 Colder 和 Plexi 早已推出直播中还发现一个名为 AGI 不要在直播中展示的 Projects
近日,來自南洋理工大學騰訊、清華大學的研究者們提出一種能夠進行長鏈視覺推理的多模態模型 Inside-V
其有两个智能体组成一个负责推理一个负责总结可实现结构化的常练视觉推理它通过可扩展的数据生成流程多智能体系统和两阶段训练流程在各类视觉推理基准测试中性能显著提升为多模态视觉推理的发展提供了方向你知道历史上的今天都发生过哪些事情吗
12 月 16 日,这一天在科技、财经、科学和航空航天领域有着不少重要的里程碑首先,让我们回到 1945 年这一天,美国在新墨西哥州的白沙导弹靶场成功试爆了世界上第一颗原子弹标志着核实带的开启这一事件不仅改变了战争的面貌也对全球政治格局产生了深远影响接下来,我们将目光转向 1964 年
在這一天美國宇航局的水手 4 號探測器成功飛越火星成為第一個從火星附近發回照片的航天器這些照片為我們提供了關於火星表面特徵的初步信息為後續的火星探索奠定了基礎
1988 年 12 月 16 日,我们见证了一个商业奇迹的诞生。这一天,英国物理学家蒂姆·伯纳斯·里在瑞士的欧洲核子研究中心 CERN 提出了万维网的概念,并开发了第一个网页浏览器和服务器,这一创新彻底改变了信息传播的方式,开启了互联网时代。
而在 2002 年的同一天中国成功发射了神舟四号飞船这是中国载人航天工程的第四次飞行任务这次任务的成功标志着中国在载人航天领域迈出了重要一步为后续的载人航天任务积累了宝贵的经验最后让我们回顾 2013 年 12 月 16 日这一天嫦娥三号探测器成功着陆月球成为中国第一个在月球表面软着陆的航天器
这一壮举不仅展示了中国在深空探测领域的技术实力也为人类探索月球和宇宙提供了新的视角这些事件虽然发生在不同的年代但它们共同描绘了人类在科技、财经、科学和航空航天领域不断探索和突破的历程每一次的创新和突破都是人类智慧的结晶也是我们不断前进的动力
好了以上就是本期的所有内容感谢你的收听祝你今天过得愉快我们下期见