We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
保
保罗·夏尔 (Paul Scharre)
保罗·夏尔 (Paul Scharre)：鉴于核武器在全球地缘政治中的日益重要性，以及中国正在进行的核现代化进程将世界带入一个由美国、中国和俄罗斯主导的三极核世界格局，确保人类而非人工智能对核武器拥有控制权至关重要。
当前的国际环境与以往大相径庭，我们所创造的智能系统与人类的思维方式存在根本差异，它们以一种难以预测、甚至可以说是‘奇特’的方式进行思考，这为核武器控制带来了前所未有的挑战。因此，维持稳定，而非走向不稳定，显得尤为重要。
虽然人工智能技术潜力巨大，但我们必须谨慎对待。即使人工智能的设计目标是模仿人类行为，在适当的安全防护措施下，我们仍需警惕其潜在风险，确保其应用不会对核武器控制造成威胁。中美两国此前就保持人类对核武器的控制达成共识，这无疑是一项重大的民主成就。然而，接下来更关键的步骤是明确这一共识的具体含义，并制定相应的实施方案。
我们需要进一步深入探讨，将这些关切转化为具体的内部指导方针，其中人工智能的应用规范至关重要，这将直接影响到全球核安全和稳定。
Deep Dive
Shownotes Transcript
增加了核武的差別,包括以核武的衝擊為主,如普京所做的核武撞擊,中國的核武改革,將我們帶往一種三重核戰的世界,然後是科技的發展,例如 AI,智能,空間,ISR,這些都在改變核武的平衡。所以我覺得,在進行這些技術的組合中,
是否能保持穩定而不是不保持穩定的事實是非常重要的因為這次的環境已經有很長時間的改變了我們建造的智慧體系並不像人類的它是不同的它在非常奇怪的、不明飛行的方式中思考這是一個新的發展
科技很強勁,但我們必須注意,即使出口像人類一樣,因為這是它設計的,但在戴護衛之下,我們並不需要擔心我們使用科技。我覺得這是一個巨大的民主勝利,中國和拜登同意,早前在夏天,他們同意了保持人類控制核武器。我想接下來的步驟是,究竟這意味著什麼?
其實我們在這裡談到的一些問題是如何將這些問題推進導致內部的指導,包括 AI 的用途