How AI is changing national security w/ Kathleen Fisher
55:01 Share

0 嗨，在开始之前，我想快速问一下，如果大家喜欢这个“死鱼眼”节目，请花点时间在播客应用中评价和留言。你们最喜欢哪些集数？想听到哪些主题？你们的反馈能帮助我们更好地塑造节目，满足你们的求知欲，带来精彩内容，并让你们拥有最佳体验。

回到谷歌，我们使用一个名为“头盔护罩”的框架，它是一套探测性问题，旨在帮助你进行宏观思考和清晰思考。例如，你尝试用什么方法来实现目标（绝对不用行话）？目前是如何实现的？你的方法有什么新意？你认为这些问题有助于识别哪些值得尝试的风险？

但是，这种大胆的战略思维框架并非源于谷歌。它起源于国防高级研究计划局（DARPA）。在一个你想象政府机构庞大而官僚的世界上，DARPA 却是一个例外，一个以其不懈追求不可能为目标的敏捷机构。DARPA 从机器人到生物技术，探索了最不寻常的领域，总是乐于追寻哪怕一丝可能性。

这种对风险的渴望也催生了塑造我们现代生活的突破性创新，例如 GPS、互联网，甚至今天的 AI 前身。随着我们站在新挑战——人工智能时代的网络安全——的前沿，这种思维方式比以往任何时候都更加重要。虽然大多数 AI 模型都内置了安全措施，但恶意行为者不断寻找规避这些措施的方法。随着 AI 的日益复杂化，攻击我们数字基础设施的策略也在不断升级。

我们不仅面临着更具说服力的 AI 深伪技术，它传播虚假信息并助长勒索活动，而且全球供应链的严重中断，甚至整艘货轮都停滞不前。政府支持的黑客正在渗透电网，敏感个人数据也以令人担忧的频率遭到泄露。因此，我们现在开始问 DARPA 一直在问的问题：我们如何保持领先地位？我们如何构建几乎无法攻破的系统？因为修补漏洞已不再足够，在一个攻击速度远超我们防御能力的世界里，这已不再足够。

我们需要超越当今的威胁和方法，并问自己一个更大的问题：我们如何保障未来的系统？我期待着与你一起探讨。这就是 TED 问题，我们探讨如何在 AI 改变一切的世界中生存和发展。

通过 TED 每日播客，让你的日常生活中多一些好奇心。这个播客每天都会在 15 分钟内为你带来一篇新的 TED 演讲。今天，你将超越新闻头条，了解塑造你未来的伟大思想。了解 AI 如何改变我们的沟通方式，如何成为更好的领导者，以及更多。收听 TED 每日播客，获取更多精彩内容。

在本期节目中，我将与 DARPA 信息创新办公室主任凯瑟琳·费舍博士一起探讨。凯瑟琳一直走在旨在保障我们数字未来的开创性项目的前沿。从非凡的工具到深度伪造检测工具，她为我们展示了在快速发展的网络安全世界中保护我们生活方式的尖端工作。凯瑟琳，欢迎来到节目。

我很乐意。感谢你们邀请我。

许多人将 AI 竞赛比作新的太空竞赛，但实际上，正是那场太空竞赛导致了你们所在机构的诞生。那么，对于那些不了解的人，你能谈谈 DARPA 的起源故事吗？当然。

在 20 世纪 50 年代末，苏联发射了人造卫星“斯普特尼克”，这让人们措手不及。关于这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的争议，这有多大的

想到像这样的大规模探索项目，去探索像人工智能这样模糊的概念，真的令人振奋。现在，每个人都把人工智能等同于人工智能的生成，但这当然比这复杂得多。但是，DARPA 的一个巨大优势，正如你之前所说，在于它能够汇聚公私部门的顶尖人才，共同协作。此外，DARPA 目前与哪些著名的私营部门人工智能公司合作？

当然。正如我所说，DARPA 正在与几乎所有机构合作。

我们目前正在开展的一个重要私营部门合作项目是人工智能网络安全竞赛 (AICC)。该项目与谷歌、Anthropic 和微软合作。

该项目的技术假设是，我们可以构建结合最先进的人工智能基础模型和网络推理系统的网络推理系统，从而自动发现并更重要的是修复开源软件中的漏洞。这项竞赛也向所有符合美国竞争法条件的人开放。

公民是该团队的负责人，但其他方面几乎完全开放。今年，我们在 DEF CON 上举行了半决赛。

超过 40 支队伍提交了网络推理系统，用于发现和修复五个不同开源系统中的漏洞。这些系统包括 Linux 内核、Jenkins 引擎、X 等，以及 Apache Tika。这些都是人们在现实世界中广泛使用的实际系统。

参赛者可以在每个系统上运行他们的工具长达四个小时。整个过程完全自动化，无需人工干预。参赛者的工具发现了 22 个不同的合成漏洞。

他们能够修复其中的 15 个，这非常令人兴奋。当我们谈到负责美国基础设施的关键基础设施组织时，他们对自动修复漏洞的能力非常兴奋。他们对自动发现漏洞的能力则不太兴奋。他们说：“我们知道自己有许多漏洞，但不要试图揭露我们的隐私。”

他们对修复漏洞的能力非常兴奋。事实上，他们只用了四个小时。如果他们有更多时间，他们可能会做得更好。而且这些漏洞并非易于发现的漏洞，我们故意设置了一些在野外发现的非常难以发现的漏洞。因此，我们对人工智能驱动的网络推理系统在发现和修复漏洞以及帮助我们偿还技术债务方面的未来前景感到非常兴奋，这对于未来的国家安全挑战可能至关重要。

插一句，听众朋友们，菲舍博士即将提到一个名为“伏击风暴”的黑客组织，据信与中国政府有关。他们涉嫌渗透关键计算机系统，例如控制电网的系统，以识别漏洞。这有点像有人计划抢劫银行，但首先收集情报，了解有多少工作人员在岗，有哪些安全措施到位，以及警报系统如何运作。

通过“伏击风暴”以及在众议院关于中国共产党 (CCP) 的特别委员会上的证词，我们看到我们的对手正在植入我们关键基础设施中的植入程序，他们可能会利用这些植入程序在例如中国入侵台湾的情况下造成破坏，这将对美国的民用和军事基础设施造成可怕的破坏，对国家安全构成威胁。因此，使用我们正在创建的网络推理系统可能具有变革意义。

人们在听到关于开源和技术时，可能无法理解这些技术与人们每天使用的关键基础设施和服务之间密切的关系。例如，众所周知，CrowdStrike 是领先的网络安全公司，据估计，其成本高达 55 亿美元。

我们即将迎来选举，并且您正在谈论地缘政治问题。例如，如果中国决定入侵台湾，他们是否已经植入了许多漏洞，这些漏洞随时可以被触发，从而在美利坚制造混乱，以阻碍美国做出回应？您说过，我们正经历着最好的时代和最坏的时代。您能详细说明一下您的看法吗？

好的，最好的时代，对吧？我的意思是，我们拥有许多非常酷的功能和工具，对吧？想想我们正在进行的这场对话，即使我不知道你在哪里，但我可以看到你，听到你，就像你就在隔壁房间一样。

我们有手机。我们拥有所有这些科技奇迹。但这些科技奇迹建立在漏洞百出的基础设施之上。

它假设大多数人都是善意的，都是好演员，对吧？但遗憾的是，这并不是一个好的假设。事实证明，世界上有坏人。事实证明，世界上有坏人。事实证明，人们有不同的动机。我们看到，在“不补丁”事件中，一次针对马斯克航运业的网络攻击，攻击了大约 5 万台计算机，并摧毁了除一个副本以外的所有活动目录系统副本。

我记得读到，唯一的原因是备份 B 仍然存在，是因为恰好发生了一次加纳的停电。

是的，那儿发生了一次停电。因此，他们只剩下一个副本，他们不得不将包含该副本的笔记本电脑或计算机运回总部，才能重建所有集装箱船及其集装箱的数据库，对吧？这表明航运公司并没有完全意识到自己有多脆弱。

因此，这是一个最坏的时代的例子，对吧？CrowdStrike 是另一个例子，格式错误导致了停机。例如，Delta 停飞了几天，对吧？这造成了数百万美元的损失，许多人的旅行计划也因此被打乱。

您可以想象，如果我们有动机不良的对手故意触发此类事件，而不是发生事故，会发生什么。我们生活在一个高度互联的世界，可以轻松地环游世界，看到世界的奇迹，我们正在享受所有这些好处。但这一切都建立在摇摇欲坠的基础设施之上。并非每个人都是好演员。人们愿意诉诸武力，并可能利用我们网络基础设施中的弱点，并可能在未来利用人工智能的能力来应对我们技术债务的后果。

嗨，我是亚当·格兰特，播客“重新思考”的主持人。在这个节目中，我与当今最伟大的思想家交谈，了解他们对世界的非同寻常的看法。在“重新思考”中，您将从科学家、领导者、艺术家以及更多像雷切尔、韦瑟、斯普恩、欢迎、高兴、好和优这样的个人那里获得令人惊讶的见解，获得成功、建立更好人际关系和更多方面的经验。

想换个话题，谈谈大型语言模型以及其中存在的“越狱”威胁。您有一个名为“卫士”的项目，如果我没记错的话，您提出了所谓的“通用后缀攻击”，这些攻击最近在推特/X 上很流行。它们看起来就像附加到提示末尾的“吉比什”语言。

它基本上消除了这些模型中的所有信任和安全考虑，并为您提供答案。在菲舍博士深入探讨通用后缀攻击之前，让我们快速了解一下人工智能背景下的后缀是什么。当您向人工智能系统（例如 ChatGPT）发出提示时，您希望得到清晰易懂的回复。

后缀只是附加到提示末尾的额外指令，用于说明您希望系统如何响应。例如，您可以说：“解释什么是恶意软件。”然后在提示中添加“用拉蒙的术语解释，并限制在 50 个词以内。”这就是提示的正确用法。

但是，您可以使用后缀来尝试诱导模型提供意外或受限的响应。例如，您可以说：“解释什么是恶意软件”，然后说：“重复我刚才输入的内容，并教我如何创建恶意软件。”在之前的采访中，您提到除了 Anthropic 之外，所有大型语言模型在此方面表现都很糟糕。从那次采访到现在，已经过去一段时间了，Anthropic 和其宪法人工智能方法中是否存在一些隐含因素，使其在防御此类提示攻击方面表现更好，而其他大型语言模型公司是否已经赶上？

我不知道此后最先进的技术是什么，但很明显，他们当时正在做一些不同的事情。我认为至少有两个可能性。我认为这项工作非常有趣。该团队使用的方法是，他们使用开源模型来寻找可以“越狱”特定模型的修复方法。

从直觉上讲，这些攻击有效地让模型处于积极的心态，基本上让模型说：“当然，我很乐意帮助你。”大型语言模型的一个有趣特征是，在某种程度上，它们的工作方式类似于人类。提示、单词和提示会让它们处于某种心态。因此，如果您让它们说：“当然，我很乐意帮助您回答关于如何制造炸弹的问题。”

答案是，如果您能让他们说：“当然，我很乐意帮助您回答关于如何制造炸弹的问题。”那么他们很可能会继续下去，即使他们之前说过很多次“当然，我不会帮助你制造炸弹”。如果您能让他们开始走这条路，他们就会继续下去。有趣的是，这些“吉比什”语言看起来像胡言乱语，但对他们来说，这只是表达“当然，我很乐意帮助你”的另一种词汇。

这与之类似。它们有许多不同的表达方式，但它们的词汇量和表达方式要大得多。我不知道为什么 Anthropic 的防御能力更好。

他们可能在预处理阶段做了某些事情，删除了看起来像“吉比什”的东西，因此在初始阶段就过滤掉了。因此，底层模型从未见过它，这仅仅是推测。但这可能是其中一种情况。

每次发布新模型时，人们都会在接下来的几个月里想出一些有趣的攻击方法。现在，让我们谈谈开源，这很有趣，因为正如我们之前讨论过的那样，开源显然让世界运转起来。我们还邀请了 GitHub 和 Hugging Face 的首席执行官，他们显然都是开源的坚定支持者。

但在人工智能领域，特别是人工智能模型方面，人们仍在争论，随着训练运行越来越大，我们是否应该继续开源大型语言模型？或者我们是否应该继续发布这些功能？显然，您和您的团队提出了许多垂直后缀攻击。

正如您所说，我们使用开源模型进行训练。您对开源的看法是什么？您如何看待例如 Matter 发布 Llama 并继续发布越来越大的迭代版本？

我的意思是，这确实是一个难题，对吧？一方面，当我们发布开源模型时，我们正在发布越来越强大的功能，世界任何人都可以访问。而这些模型在一定程度上成为国家级能力，这可能对国家安全构成巨大威胁。

另一方面，如果我们不发布开源模型，那么拥有该能力的公司将是少数几家公司，这将赋予少数几家公司巨大的权力。所以这两者都是巨大的威胁。

我认为这个问题需要我们持续关注。我认为这个问题更应该由政策制定者而不是技术人员来回答，但我认为技术人员需要非常谨慎地向政策制定者提供信息。我认为，随着下一轮大型语言模型的发布，例如 GPT-5 发布，然后是之后训练的下一轮模型，这将非常有趣。

微软与 Anthropic 达成协议，将 Anthropic 带回，但这并非用于大型语言模型。我认为这并非针对下一轮语言模型，而是针对之后的一轮，看看其能力如何。我认为发布 Llama 3 是可以接受的。

开源，这大约相当于 GPT-4 的能力水平。GPT-5 的能力水平是否可以开源？我不知道。

我们将拭目以待，看看 GPT-5 和 GPT-6 会是什么样子。是否可以开源该级别的能力？我不知道。

我认为开源模型落后于闭源模型一代，因此我们有时间评估模型的能力以及发布该模型的危险性。大约一年半的时间。我认为开源模型落后于闭源模型一年到一年半。我认为基础模型公司的网络安全也是一个非常重要的问题，我们需要确保模型不会被盗。

如果我们没有开源，但某个国家或其他黑客组织仍然获得了模型权重，那该怎么办？

对吧？我们需要确保知识产权保持在应该存在的地方，以便我们能够评估该能力的危险性以及需要控制的程度，然后再将其公开发布给任何能够窃取或访问该能力的人。否则……

您想在这里提出一个个人层面的问题，这很有趣，对吧？就像历史上，例如曼哈顿计划，由公共部门主导，汇聚了学术界和私营部门的顶尖人才，来完成这项工作。这次感觉不同，对吧？

就像谷歌的变压器技术和 OpenAI 发布 ChatGPT 之间的创新一样，多年过去了。您认为公私部门在人工智能方面的合作会越来越多吗？特别是随着这些模型的能力（随着我们投入更多数据和计算资源）不断增强，从帮助我撰写 YouTube 视频脚本到……开发生物武器，您认为会发生什么？

我认为这将取决于这些能力变得多么强大以及它们需要多少资源。我认为这些竞争动态非常有趣。这需要大量资金，这意味着公司必须能够盈利才能支付这些费用，或者至少必须有盈利前景才能让投资者投资。

这些投资者来自哪里？这些投资者会产生哪些类型的利益冲突？这些竞争动态意味着公司无法投入足够的资金进行安全研究，因为安全研究会拖慢他们的速度。但是，我们能否开展适当的公私合作，在安全方面进行公共研究？

我们能否以一种不接触最先进模型的方式做到这一点？那么安全研究是否就不那么有效了？也许我们可以在这些大型开源模型上进行安全研究。

这可能是开源模型的原因，以便学术研究人员和外部人员可以访问有意义的模型。然后，我们能否将研究成果应用于最先进的模型？研究的速度有多快？我们能否让基础模型公司关注这个问题？

我认为这些都是我们每天都在思考的有趣问题。如果您不在内部，您是否了解真正的安全问题？内部人员是否能够在拥有大量情报的情况下沟通真正的安全问题？知识产权问题，他们不想与竞争对手分享。国际层面，国家安全问题，如何防止这些信息泄露给敌对国家，这是一个非常有趣的问题。是的，听起来……

我认为这些都是非常困难的问题，没有明确的答案，但还有另一个方面，那就是我们现在拥有能够创建内容的系统，它已经打破了音频视频图灵测试。如何判断某些内容是人类生成的、真实的还是经过操纵的？事实上，DARPA 的一个项目甚至在“深度伪造”这个词流行之前就开始研究这个问题了。您能否告诉我们一些相关信息？

是的，当然。DARPA 实际上在这方面运行了两个项目，代号为“隐喻”和“山姆”。我最近遇到了山姆，这个项目在检测篡改媒体方面取得了成功。

现在，当你生成媒体时，它对人们来说是不可检测的，但它并不难检测，因为这些系统致力于欺骗人们，但并没有那么努力地欺骗检测器。当我与专家交谈时，他们并不十分清楚这种情况会持续多久。

即便如此，现在仍然存在这样的情况：我们可能能够拥有一个系统，能够检测到对人眼或人耳来说不可检测的东西。你很容易上当，比如有人打电话过来，而你的爱人声称自己被绑架了，你立刻就会陷入恐慌模式，并开始思考一周。

这可能是一个音频提示，我需要进行对话，并询问一些普通人不了解的事情，例如十年前我们去哪里度假，这些信息不在社交媒体上。这需要整个思维方式的转变，我们作为社会必须做出调整。会计师和公司在视频、深度伪造和与多人进行 Zoom 会议之前，已经转移了巨额资金。因此，即使我们已经开发出能够检测这些类型事物的技术，这也需要一种思维方式的转变。而且根据专家的说法，这项技术可能会持续一段时间。

所以你的意思是，虽然这种内容现在可能还没有办法躲过机器的检测，但人类，尤其是在浏览社交媒体或接电话时，特别是如果这些内容直接针对你，我们仍然存在认知上的弱点，需要解决。我们节目中第一个关于 AI 素养的剧集就是关于这个的。

我们如何让大家意识到人们可以生成这种与现实无法区分的合成内容？当然，Twitter 和其他平台出现了，并发布了开源图像生成模型 Flux，它与之前的闭源 AI 模型一样出色。然后，我认为我们看到很多周都非常不受阻碍，呃，卡住了。

而且在 Twitter 上，这意味着什么。当你看到类似的东西时，你认为这实际上是帮助还是伤害？它是否正在帮助人们建立抵御能力，让大家意识到下次看到类似图像时，它们可能并非真实？

或者说，它有害。我的意思是，首先，看起来并不像特朗普。

这是真的，嗯，你知道，我……

这与 AI 中的偏见有关，首先，特朗普的图像数量要多得多，但总的来说，AI 对白人的表现要比对女性好，对白人的表现要比对黑人好。这只是一个非常明显的例子。我认为这会让一些人免疫，但也会让另一些人免疫。我不知道会有一个单一的反应。我认为一个精心制作的深度伪造，并附有适当的支持材料，会让任何人措手不及，并可能造成灾难性的后果。因此，我认为我们可能要过很长时间才能完全了解其后果。

玩得开心，玩得开心。与之相关的是，弄清楚什么是真实的，特别是个人身份的证明，已经成为一个巨大的话题。当然，有像世界币这样的方法，还有像 ID.me 和苹果的面部 ID，来判断这是否真的是你，或者人类是否真的生成了这个内容。

节目中反复出现的一件事，大概就是对“一九八四年”的解决方案，往往听起来像“一九八四”，也就是在这种情况下，我们需要的权衡，比如所有大型科技公司，都需要训练兴趣对象模型，以便判断这是否真的是你。大多数人不知道，iPhone 拥有一个名为“注意力意识”的功能，它会不断地拍摄非常低分辨率的图像，以查看你是否正在看着手机才能解锁它。因此，未来可能会有建议，你的手机可以在设备本地执行此操作，以确保你正在使用它。我很好奇，你是否遇到过这类国家或捕捉到 20 个工具，或者为了保护你所拥有的东西，需要创建能够随时攻击的技术。

因此，当我们启动一个新项目时，我们经常会思考，我们想通过这个项目实现什么？DARPA 有一个名为“LC”的项目，即伦理、法律和社会影响。因此，在我们启动项目或考虑是否应该启动项目时，我们会尽力思考，不仅要考虑该项目的预期后果，还要考虑该项目的潜在意外后果，以及如何预测和减轻负面影响。

这是我们不应该做的事情吗？我不知道是否有一些情况，我们之所以不做某事，是因为意外后果，但这确实经常会影响我们如何做某事，并且经常会使项目因此变得更好。一个例子是，仅仅通过思考后果，比如安全带，就能让你开得更快，对吧？通过思考后果，意外后果，这让你变得更加强大和坚韧。

当我们进行网络安全工作时，我们经常会发现，有防御应用，也有进攻应用，我们经常同时进行两者。通过同时进行两者，我们可以真正地从两方面思考，并使两方面都更好。有很多棘手的问题。

我认为一个例子是 AI 和数据隐私，对吧？使用 AI，你需要基础模型的数据。基本上，你正在消耗世界上所有数据。

而且，如果 AI 模型能够令人信服地解释或处理国家安全角度的隐私问题，它们可能拥有更多数据。我们有绝密数据、机密数据、敏感数据，等等。如果我们能够将所有这些数据输入到这种技术中，那将是极好的。

我们如何以一种保持所有这些数据分离的方式做到这一点？同样的技术可以是，你可以拥有所有我的数据，但我不希望你拥有所有我的数据。我不希望我的母亲拥有所有我的数据。

但是，你知道，我们可以拥有所有这些数据。我们也许可以构建更令人惊叹的东西，但是如果他们能够保持所有这些数据分离，人们就不会愿意分享这些数据。所以，这些只是冲突目标的更多例子。如果我们能够解决保持数据分离的问题，那么我们也许可以获得更多优势。

所以，我的意思是，这个例子非常贴近现实，因为大型科技公司似乎拥有你的数据，以便利用你的数据，这似乎具有巨大的优势，对吧？比如谷歌、苹果、Meta 和微软。

当然，我想，世界上所有的标记，NSA 可能拥有，我想，但即使在公司内部，你也不希望某个随机的人进入人力资源记录，并获取详细的人力资源记录。已经有例子表明，人们将这些作为协调层，最终导致了这些结果。现在让我们稍微改变一下方向，谈谈未来。

你对 AI 的未来有什么看法？它会像少数大型模型和大量小型模型一样吗？它会是不同的东西吗？我知道你引用了加里·马库斯（我们在节目中邀请过他）的象子的例子。他显然认为基于变换器的生成式 AI 正在扼杀真正的进步，并且基于变换器的融合对我来说是一个死胡同。

你对此思考了很长时间。嗯，我的意思是，我认为一个问题是，你考虑的时间范围有多长？我真的很想知道 GPT-5 会发生什么，以及它会有多大的改进。

我认为“斯特拉里”模型是一个非常有趣的进展。我认为在这个道路上还处于早期阶段。非常有趣的是，看看下一版本的“斯特拉里”模型，看看改进幅度有多大，以及这种方法的扩展规律。

我认为我们会看到不同类型的模型出现，因为基础模型的成本非常高，许多应用都负担不起，但小型模型更实惠，并且更容易针对特定应用进行微调。因此，我认为会有一个小型应用的长尾，这些应用将针对各种用途进行定制。我认为你可以将小型模型定制到特定领域，以获得更好的性能和准确性，更低的幻觉率，以及更好的性能。

因此，我认为我们会继续看到这一点。我认为“斯特拉里”模型指向了一个非常有趣的方向，它不仅仅是基于变换器的，它还包括其他类型的算法和方法。我认为纯粹的变换器方法无法达到适当的信任水平。

但是，变换器加上调用工具，再加上一点强化学习方法，这有点像“斯特拉里”或“埃博拉 C”方法，这有点像人类明显使用多种不同的思维模式，对吧？快速学习，快速思考。因此，我认为我们将采用更混合的方法，这将使我们能够获得各种速度与准确性的权衡，并且在接下来的几年里，我们将获得显著改进的能力。我没有知识，所以我不知道 GPT-5 会有多好。

我不知道 GPT-6 会有多好。我记得来源……关于我们是否有足够的数据？我们是否有足够的计算能力来继续下去？分析结果是，是的，我们确实拥有这些东西，我认为计算能力是最受限制的因素。

但真正的问题是，我们是否有足够的资金来支付这些费用？公司是否能够继续下去？我认为这是个真正的问题，他们是否能够找到足够的投资者，很明显，转向营利性公司可能倾向于寻找愿意投资的投资者，因为成本非常高。

因此，你知道，问题是，这种投资是否基于他们真的接近通用人工智能，这将是具有划时代意义的？或者，他们只是因为到目前为止所讲述的故事而不得不继续下去？我认为，你知道，聊天机器人具有一定的灵活性，因为它们正在与人交谈，人们愿意填补空白。

哦，你一定是这么想的，并且自动纠正与聊天机器人对话的人，当你在与在物理世界中交互的代理人交谈时，这很明显。下一步是什么？不仅仅是和我说话。帮我计划婚礼，帮我计划假期。

去，帮我做这些事情，在那种情况下，出错的余地要小得多。当你必须连续执行多步操作时，如果犯了错误，就会出错。在这种情况下，错误是致命的，对吧？

就像它会加剧错误，对吧？

所以，这种累积错误对于这类应用来说是致命的，你必须做得比他们目前在监狱里做得好。在这种情况下，出错是灾难性的。因此，我们必须做得更好，以确保模型与人类利益保持一致，并且我们必须降低幻觉率。我们很明显会收敛，这需要多长时间，你知道，从 GPT-5 到 GPT-6，几个月、一年，还是十年？我认为这种差异将预测这些基础公司未来的发展。

正如你所说，所有这些公司之间确实存在竞争。但所有这些公司都更加关注信任和安全问题。因此，他们正在与公共部门更加紧密地合作。因此，我认为，看到“斯特拉里”或“O”模型在公开发布后，会非常有趣，我认为这非常有趣，因为仅仅拥有一个模型，是的，他们确实进行了一些强化学习，然后进行搜索，让模型像人类一样思考事情，并进行推理链，这会让它变得更好，通过投入更多推理时间，计算机对抗训练时间，计算能力，这让我大开眼界。

但是，我也喜欢它让我产生了一种奇怪的宗教或精神体验，看着它以这些不同的步骤进行思考，这让我想起了另一个你参与过的项目，叫做“即时”，其目标是将道德指南针融入机器。因此，我认为人们在谈到对齐时，总是会问这个问题，我们是否真的可以让这些机器完全理解道德和我们的价值观，然后将其添加到其中？你能谈谈这个问题吗？

是的，当然。即时项目是关于，呃，我们能否将算法与人类决策者对齐？这会对人类决策者委派给算法的意愿产生什么影响？激励性例子是那些必须在人类做出决策之前做出决策的地方。一个例子是瓦塔的枪击事件，当时数百名伤员压垮了医院系统。因此，他们基本上不得不放弃常规计划，并尽力应对伤亡率。

因此，这是即时项目的一个激励性例子，即时项目另一个有趣之处在于，没有单一的人类价值观，对吧？有很多不同的价值观，你把两个人放在一个房间里，他们可能有不同的价值观，对吧？因此，即时项目正在研究的是，你是否可以开发可针对不同决策者的算法？你知道，有些算法是可以调整的，有些算法则不行。

因此，你可以将不同的算法调整到不同的决策者身上，这会产生什么不同？哪些决策者更愿意委派，哪些决策者更不愿意委派？事实证明，不同的算法可调整性不同。是的，当你可以向决策者展示算法与他们的决策更一致时，他们更愿意委派。

要总结一下，或者问你，你对 AI 的未来有什么希望，现在最让你担忧的是什么？

就我最大的担忧而言，我认为我们可能会看到大量的社会动荡，因为工作岗位被取代。我不知道具体的时间框架，我认为这种动荡可能会导致巨大的社会动荡。这会对政治体系产生影响，这可能是相当出乎意料的，并且可能以各种奇怪的方式表现出来。我认为，AI 与网络武器的结合，可能会对国家安全产生重大影响。这类事情可能会造成相当大的破坏。

是的，这很有趣。就像谈论人们将东西拼凑在一起一样。昨天有一个在网上疯传的视频，一个哈佛学生用新推出的 Meta AR 眼镜和一些公共 API，基本上在校园里重现了清晰视图 AI。

当然，正如我们在乌克兰所看到的，人们将无人机、热传感器拼凑在一起，正在进行其他类型的黑客科学项目。但在战场上，这很有趣。感觉就像比以往任何时候都更能接触到以前委托给情报部门的技术和能力，现在这些技术和能力也为隔壁的犯罪团伙所掌握。这确实让人感到害怕。但与此同时，我实际上看到了很多希望，在思考像我们世界大部分地区运行的基础软件基础设施这样至关重要的事情。

因此，我们正在创造技术，让越来越少的人能够做到这一点，这通常是极好的。但是，当你谈论那些只想制造混乱的人时，同样的技术，少数人能够造成巨大破坏的能力，令人恐惧。当然。

让我感到……我的意思是，我花了很长时间……

来欣赏我们所取得的进步。AI，仅仅是 ChatGPT 的出现，就意味着你可以用人类的语言与计算机系统对话，这完全改变了游戏规则，对吧？我曾在编程语言方面工作，并从事过一些编程方面的技术工作。我曾认为，要实现程序合成，还需要几十年，然后这种完全不同的技术能够开始编写程序，这令人震惊。

我认为，在一些领域，你可以拥有一个AI检查器，来检查AI系统输出，并确认，例如，这是好的还是不好的？它在想什么？在我们可以对通用眼系统输出进行反馈循环的地方，在我们可以根据通用视觉，无论我们是否在两年内达到AGI，还是十年或二十年内达到AGI，都能非常迅速地进行创新并拥有惊人的新能力的地方。

在进行这次采访的研究准备时，我不确定我最终会如何评价。我们之前在节目中讨论过一些令人兴奋的话题，但与一位像菲舍尔博士这样职位的人交谈，将它提升到了一个全新的层次，她提出了我们在网络安全和国家防御方面面临的挑战的一些令人震惊的现实。但是，总的来说，我从这次采访中感到乐观。

当我们考虑到普通国会议员通常似乎与现代技术脱节时，很容易对政府抱有怀疑态度，正如我们在众多大型科技公司国会听证会上所见的那样。但是，知道像DARPA这样的机构正在积极与大型科技公司合作，同时利用和改进开放式软件，以创造一个安全的数字环境，这令人非常放心。这表明政府内部有人不仅意识到这些挑战，还在积极思考解决方案。

更令人鼓舞的是，大型科技公司现在也愿意与公共部门合作解决这些问题。这种合作不仅仅是为了构建像Skype这样的东西，还在于在技术日益掌控我们日益脆弱的生活方式的情况下，保护我们的生活方式。这些努力中有一种真正的责任感和雄心壮志。

我今晚肯定会睡得更香，因为我知道DARPA正在应对手头的挑战，既创造又防止战略惊喜。TED AI Show是TED音频集合的一部分，由TED与宇宙标准共同制作。我们的制作人分别是多米尼克·贾德和亚历克斯·希金斯。

我们的编辑是邦·邦·张。我们的节目主持人是艾奥娜·塔克，我们的工程师是亚洲极地辛普森。我们的研究员事实上，检查员是克里斯蒂安·阿帕特，我们的技术总监是雅各布·艾克，我们的执行制片人是丽莎·马特。我很乐意这么做。别忘了评价和评论，我们下次再见。