We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode How AI is changing national security w/ Kathleen Fisher

How AI is changing national security w/ Kathleen Fisher

2024/11/5
logo of podcast The TED AI Show

The TED AI Show
AI Deep Dive AI Chapters Transcript
People
K
Kathleen Fisher
Topics
Kathleen Fisher: 本期节目探讨了人工智能对国家安全的影响，特别关注网络安全和军事能力。DARPA（国防高级研究计划局）作为美国军方新兴技术研发机构，在应对人工智能带来的挑战方面发挥着关键作用。DARPA 通过合同制运作，灵活地开展项目，探索新技术的可能性，并取得了诸多成功案例，例如互联网、GPS 和 mRNA 疫苗等技术。在网络安全领域，DARPA 的“Hackers”项目成功地利用形式化方法，显著提高了软件系统的安全性，挑战了软件必然会被黑客入侵的传统观念。此外，DARPA 还与私营部门公司合作开展 AI 相关的网络安全项目，例如 AICC 网络竞赛，旨在开发能够自动发现和修复漏洞的 AI 系统。大型语言模型容易受到提示工程攻击，DARPA 的研究致力于提高模型的安全性。开源大型语言模型是一个复杂的问题，既存在安全风险，也存在权力过度集中的风险，需要政策制定者和技术人员共同关注。未来 AI 的发展可能呈现大型模型与小型模型并存的格局，并且会采用更混合的模型架构，以提高性能和安全性。DARPA 的“In the Moment”项目旨在研究如何将算法与人类决策者对齐，并探讨算法的可调性对人类决策者授权意愿的影响。对 AI 未来发展既充满希望又感到担忧：希望 AI 技术进步能带来创新，但担忧 AI 可能导致的社会动荡和国家安全风险。 Bilawal: 本期节目主持人 Bilawal 与 DARPA 信息创新办公室主任 Kathleen Fisher 讨论了人工智能对国家安全的影响，以及如何应对 AI 带来的机遇和挑战。讨论涵盖了 DARPA 的历史、运作模式、以及在 AI 安全领域的一些重要项目，例如 Hackers 项目和 AICC 网络竞赛。此外，还探讨了大型语言模型的安全性、开源 AI 的利弊、以及如何提高公众的 AI 素养等问题。节目中，Bilawal 与 Kathleen Fisher 就 AI 的未来发展方向、以及公共部门和私营部门在 AI 研发中的合作方式进行了深入探讨，并表达了对 AI 未来发展既充满希望又感到担忧的复杂情绪。

Deep Dive

Chapters
Kathleen Fisher discusses the origin of DARPA, its unique structure, and its role in pioneering groundbreaking technologies.
  • DARPA was created in response to the Soviet Union's launch of Sputnik.
  • DARPA operates without permanent labs or technical staff, focusing on high-risk, high-reward projects.
  • DARPA's innovations include GPS, the internet, and MRNA vaccines.

Shownotes Transcript

We’ve had conversations about AI’s online influence on politics, from deepfakes to misinformation. But AI can also have profound effects on hardware – especially when it comes to national security and military capabilities like weapons and stealth technologies. Kathleen Fisher is an office director at DARPA, the Defense Advanced Research Projects Agency tasked with the research and development of emerging technologies for use by the U.S. military. Despite its bureaucratic name, DARPA is anything but conventional – and they’re solving problems that are thrillingly complex. Kathleen shares how her team employs nimble thinking to understand the state of AI across the globe. Then, she and Bilawal discuss the strategies needed to embrace the possibilities –and challenges– of AI now, and what we need to do to build a sustainable future.For transcripts for The TED AI Show, visit go.ted.com/TTAIS-transcripts)