We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
How AI is Changing Warfare ? Live at Web Summit Lisbon 2024
2025/1/15
Intelligence Squared
A
Agnès Callamard
K
Kenneth Cukier
Agnès Callamard: 我认为乌克兰战争证实了无人机导致的战争转型。未来战争将是最大限度地使用无人机,最小限度地使用人类,但受害者仍然是人类。人工智能会使战争更有效率,但不会使其更人道,反而会使其更精准地打击那些在漫长的战争岁月中一直被作为目标的人群。无人机和面部识别技术的使用表明,人工智能正被用来基于有问题的、不透明且缺乏问责制的数据来针对个人。所谓的精确定点清除在国际法上是非法的,因为即使目标可能是罪犯,在没有宣战或战争的情况下蓄意杀害他们也是非法的。所谓的精确武器的准确性值得怀疑,因为它们造成的附带损害和错误很多。如果人工智能武器被用来基于种族、性别等因素来攻击目标,那么它们对全人类来说极其危险。面部识别技术被不成比例地用于针对少数族裔和穷人,其设计本身就违反了人权。除非改变人的本性,否则将这种武器交给人类手中就是毁灭人类。人工智能技术具有自我修改的能力,这使得人类难以完全控制它,尤其是在武器系统中。为了对人工智能武器进行有效监管,必须禁止那些无法实现有意义的人工控制的自主系统,并对那些能够实现人工控制的系统进行严格监管。规范人工智能武器的挑战在于,掌握该技术的国家和公司缺乏自我规范的动力,并且难以控制强大的私人行为者。
Kenneth Cukier: 如果要发生战争,军队一定会试图获得技术优势,而人工智能是这一趋势的最新体现。我们需要限制或引导人工智能技术,使其在军事用途上有效,同时最大限度地减少人员伤亡或意外后果。未来战争可能转向机器与机器之间的战斗,这在某种程度上可能更人道,因为可以避免大规模人员伤亡。人工智能武器将成为现实,问题在于我们能否使其更人道,例如提高其准确性,减少误伤。人工智能与传统计算机程序不同,它进行预测和推断,其决策过程并非完全透明,这给人类决策带来挑战。人工智能在某些领域已经超越了人类的认知能力,这给军事决策带来巨大压力和风险。为了规范人工智能武器,各国需要承认它们将开发这些武器,并就能力和使用原则进行沟通和信息共享。
Deep Dive
The war in Ukraine highlights the increasing use of drones in modern warfare. The shift towards maximum drone usage raises concerns about civilian casualties and the targeting of civilian infrastructure, despite claims of increased accuracy. Amnesty International is particularly concerned about the lack of transparency and accountability in the use of these technologies.
- Increased use of drones in Ukraine and Libya
- Concerns about civilian casualties and targeting of civilian infrastructure
- Lack of transparency and accountability in drone usage
Shownotes Transcript