We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
The EU’s Approach to Digital Policy and Lessons Learned From The GDPR
2025/2/12
The Brave Technologist
K
Kai Zenner
Kai Zenner: 我认为，首先需要强调的是，尽管目前对欧盟AI法案存在一些批评，但其出发点深深植根于国际社会共识。2010年代，许多国家（包括美国、加拿大、欧洲、中国、印度、新加坡和日本）都认识到，随着机器学习和深度学习技术的进步，存在一些需要解决的差距和挑战。欧盟基于自身在技术方面落后于美国和中国的认识，试图通过创建法律框架来解决这些问题，该框架能够为欧盟公司提供高水平的法律确定性，使它们能够开发出值得信赖的AI技术，这些技术在质量、安全性和基本权利保护方面都达到很高的标准。目标是创造出如此安全的AI技术，以至于欧盟以外的用户也会想要购买，从而为欧盟创造竞争优势。然而，欧盟的做法是创建了一个基于产品安全法的水平AI框架，列出了AI系统（无论其应用于哪个行业或用例）都需要满足的一系列技术要求。这与美国、新加坡等其他国家和地区采用的垂直立法方法形成了对比，这些国家和地区更倾向于制定AI权利法案，并由各部门的立法者或监管机构决定如何在各自的部门中执行这些原则。
欧盟AI法案通过规定开发人员需要满足的法律义务（例如风险管理、提供技术文档、数据治理、透明度和人工监督）来运作。为了解决这些新义务可能扼杀AI创新的问题，欧盟采用了基于风险的方法，将AI系统分为四类：完全禁止的AI系统（违反欧盟价值观和基本权利）；高风险AI系统（在特定用例或行业中需要满足某些义务）；中等风险AI系统（仅需较低的透明度义务）；以及无风险AI系统（无需监管）。
然而，我对AI法案的批评在于，其关于禁止和高风险AI系统使用案例的描述过于模糊，缺乏足够的证据支持。例如，在边境管理高风险类别中，有一个关于在边境使用测谎仪的用例，但欧盟各成员国的边境管理机构都表示他们没有使用AI。这表明，许多用例是基于对未来可能发生情况的预测，而不是基于实际部署的AI技术。此外，该法案中关于禁止的措辞过于宽泛，可能导致许多原本合法的商业行为或技术（例如银行和保险公司使用的技术）被意外禁止。
AI法案的执行采用一种“尽力而为”的方法，公司主要需要建立内部治理系统，无需向监管机构报告每一步操作。然而，由于法律的不确定性，许多公司不知道监管机构究竟期望他们提供什么信息。此外，由于欧盟有27个成员国，不同的执法机构可能有不同的解释和执行方式，这可能导致碎片化问题。尽管公司不需要在商业化产品之前向执法机构提供信息，但他们需要随时准备提供信息和文件。这给公司，特别是缺乏大型科技公司资源的中小企业和初创企业带来了巨大的挑战。
欧盟AI法案的域外效力也值得关注。该法案规定，如果AI系统的输出结果进入欧盟，即使公司不在欧盟境内，也受该法案管辖。我认为，这可能违反贸易协定和国际私法。
欧盟在制定AI法案时吸取了GDPR的经验教训，使其更具前瞻性和包容性，并加强了治理机制以避免碎片化。然而，AI法案的执行仍然面临AI专家短缺的挑战，这将影响到法案的有效实施和跨成员国的协调一致。
Luke Mulks: (Luke Mulks主要起到引导和提问的作用，没有提出具体的论点，因此此处不进行总结)
Deep Dive
This chapter delves into the EU AI Act, explaining its risk-based approach, which categorizes AI systems into four levels based on their potential risks. It discusses the act's horizontal approach to regulation and its implications for innovation and consumer safety.
- Four categories of AI systems based on risk level
- Horizontal approach to AI regulation
- Risk-based approach to balance innovation and regulation
- Prohibition of high-risk AI systems that violate EU values
Shownotes Transcript