We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode The EU’s Approach to Digital Policy and Lessons Learned From The GDPR

The EU’s Approach to Digital Policy and Lessons Learned From The GDPR

2025/2/12
logo of podcast The Brave Technologist

The Brave Technologist

AI Deep Dive AI Chapters Transcript
People
K
Kai Zenner
Topics
Kai Zenner: 我认为,首先需要强调的是,尽管目前对欧盟AI法案存在一些批评,但其出发点深深植根于国际社会共识。2010年代,许多国家(包括美国、加拿大、欧洲、中国、印度、新加坡和日本)都认识到,随着机器学习和深度学习技术的进步,存在一些需要解决的差距和挑战。欧盟基于自身在技术方面落后于美国和中国的认识,试图通过创建法律框架来解决这些问题,该框架能够为欧盟公司提供高水平的法律确定性,使它们能够开发出值得信赖的AI技术,这些技术在质量、安全性和基本权利保护方面都达到很高的标准。目标是创造出如此安全的AI技术,以至于欧盟以外的用户也会想要购买,从而为欧盟创造竞争优势。然而,欧盟的做法是创建了一个基于产品安全法的水平AI框架,列出了AI系统(无论其应用于哪个行业或用例)都需要满足的一系列技术要求。这与美国、新加坡等其他国家和地区采用的垂直立法方法形成了对比,这些国家和地区更倾向于制定AI权利法案,并由各部门的立法者或监管机构决定如何在各自的部门中执行这些原则。 欧盟AI法案通过规定开发人员需要满足的法律义务(例如风险管理、提供技术文档、数据治理、透明度和人工监督)来运作。为了解决这些新义务可能扼杀AI创新的问题,欧盟采用了基于风险的方法,将AI系统分为四类:完全禁止的AI系统(违反欧盟价值观和基本权利);高风险AI系统(在特定用例或行业中需要满足某些义务);中等风险AI系统(仅需较低的透明度义务);以及无风险AI系统(无需监管)。 然而,我对AI法案的批评在于,其关于禁止和高风险AI系统使用案例的描述过于模糊,缺乏足够的证据支持。例如,在边境管理高风险类别中,有一个关于在边境使用测谎仪的用例,但欧盟各成员国的边境管理机构都表示他们没有使用AI。这表明,许多用例是基于对未来可能发生情况的预测,而不是基于实际部署的AI技术。此外,该法案中关于禁止的措辞过于宽泛,可能导致许多原本合法的商业行为或技术(例如银行和保险公司使用的技术)被意外禁止。 AI法案的执行采用一种“尽力而为”的方法,公司主要需要建立内部治理系统,无需向监管机构报告每一步操作。然而,由于法律的不确定性,许多公司不知道监管机构究竟期望他们提供什么信息。此外,由于欧盟有27个成员国,不同的执法机构可能有不同的解释和执行方式,这可能导致碎片化问题。尽管公司不需要在商业化产品之前向执法机构提供信息,但他们需要随时准备提供信息和文件。这给公司,特别是缺乏大型科技公司资源的中小企业和初创企业带来了巨大的挑战。 欧盟AI法案的域外效力也值得关注。该法案规定,如果AI系统的输出结果进入欧盟,即使公司不在欧盟境内,也受该法案管辖。我认为,这可能违反贸易协定和国际私法。 欧盟在制定AI法案时吸取了GDPR的经验教训,使其更具前瞻性和包容性,并加强了治理机制以避免碎片化。然而,AI法案的执行仍然面临AI专家短缺的挑战,这将影响到法案的有效实施和跨成员国的协调一致。 Luke Mulks: (Luke Mulks主要起到引导和提问的作用,没有提出具体的论点,因此此处不进行总结)

Deep Dive

Chapters
This chapter delves into the EU AI Act, explaining its risk-based approach, which categorizes AI systems into four levels based on their potential risks. It discusses the act's horizontal approach to regulation and its implications for innovation and consumer safety.
  • Four categories of AI systems based on risk level
  • Horizontal approach to AI regulation
  • Risk-based approach to balance innovation and regulation
  • Prohibition of high-risk AI systems that violate EU values

Shownotes Transcript

欧洲议会议员Axel Voss的办公室主任兼数字政策顾问Kai Zenner讨论了欧洲人工智能新兴监管格局及其对创新和消费者安全的影响。他还讨论了欧盟人工智能法案的实施障碍,特别是人工智能专家短缺以及在27个成员国之间执行的复杂性。主要内容: 人工智能法案的挑战(例如模糊的用例、平衡创新与监管以及对中小企业的影响) GDPR的经验教训,包括正在考虑的可能影响数据隐私的即将发生的变化 横向立法方法及其影响 欧洲人工智能监管的未来前景 嘉宾简介:Kai Zenner是欧洲议会欧洲议会议员Axel Voss的办公室主任兼数字政策顾问,专注于人工智能、隐私和欧盟的数字转型。他参与了人工智能法案、人工智能责任指令、电子隐私条例和GDPR修订的谈判。Zenner是经合组织人工智能专家网络和世界经济论坛人工智能治理联盟的成员,还曾担任联合国人工智能高级咨询机构成员。他于2023年被评为最佳欧洲议会议员助理,并在《政治》杂志的“权力40强”中排名第13位,因其对欧盟数字政策的影响力而闻名。 ---------------------------------------------------------------------------------------- 关于本节目:《勇敢的技术专家》旨在阐明新兴技术的机遇和挑战。为了使其易于理解、不那么可怕,并且更易于所有人接受!加入我们,让我们开始一项任务,揭开人工智能的神秘面纱,挑战现状,并赋能普通人拥抱数字革命。无论您是技术爱好者、好奇的人还是行业专业人士,本播客都邀请您加入对话,共同探索人工智能的未来。《勇敢的技术专家》播客由Luke Mulks主持,他是Brave Software(Brave浏览器和搜索引擎的制造商,现在通过Brave Search API为人工智能提供动力)的业务运营副总裁。音乐:Ari Dvorin 制作:Sam Laliberte</context> <raw_text>0 从隐私问题到无限潜力,人工智能正在迅速影响我们不断发展的社会。在本季新的《勇敢的技术专家》播客中,我们将揭开人工智能的神秘面纱,挑战现状,并赋能普通人拥抱数字革命。我是您的主持人Luke Malks,Brave Software的业务运营副总裁,Brave Software是尊重隐私的Brave浏览器和搜索引擎的制造商,现在通过Brave Search API为人工智能提供动力。♪

您正在收听《勇敢的技术专家》的新剧集,本剧集的特色嘉宾是Kai Zenner,他是欧洲议会欧洲议会议员Axel Voss的办公室主任兼数字政策顾问,专注于人工智能、隐私和欧盟的数字转型。他参与了人工智能法案的谈判,

人工智能责任指令、电子隐私条例和GDPR修订。Zenner是经合组织人工智能专家网络和世界经济论坛人工智能治理联盟的成员,还曾担任联合国人工智能高级咨询机构成员。他于2023年被评为最佳欧洲议会议员助理,并在《政治》杂志的“权力40强”中排名第13位,因其对欧盟数字政策的影响力而闻名。

在本剧集中,我们讨论了人工智能法案的挑战、大型用例、平衡创新与监管以及对中小企业的影响、立法中的横向方法、对人工智能专家的需求以及当前在国际就业市场上竞争的人才库的挑战,以及GDPR的经验教训和正在考虑的即将到来的GDPR修订以及它们将如何影响数据隐私。现在是本周《勇敢的技术专家》剧集的时间了。♪♪

Kai,欢迎来到《勇敢的技术专家》播客。你今天过得怎么样?你好,非常感谢你的邀请。我很好。很好。为了让我们的听众更好地了解情况,是什么激励你将数字政策和人工智能监管作为职业生涯?

是的,我的职业生涯实际上是从这个领域开始的。所以我曾在康拉德·阿德诺基金会工作,这是一个与政党相关的智库,数字技术是我需要涵盖的众多主题之一。是的,正如经常发生的那样,

随着时间的推移,在这个领域我做的越来越多,这也是因为我发现它很有趣。然后我的第一个重点主题是隐私。从那里,它转向了人工智能。是的,好吧,我们基本上是第一批政策制定者之一。所以我的老板Axel Voss和我作为顾问在这个领域很活跃。是的,因为我们是……

第一批,它一直在继续,我们一直在阅读和参与等等。是的,我们仍然喜欢它。事实上,与许多其他政策主题相比,我们也喜欢数字领域,它更加乐观。在某些政策群体之间,更有妥协的意愿。是的,这就是为什么

我仍然喜欢在这个领域工作。很好。很好。你把自己描述为一个数字爱好者。欧盟正在发生的数字转型中最让你兴奋的是什么,以及它与你的工作有何重叠之处?

是的,我确实有这种感觉,这是我们目前在政治领域中为数不多的积极话题之一。而且,我是一个喜欢挑战现状、喜欢推动改革、想要让世界变得更好一点的人。我觉得

数字领域拥有如此多的机遇和潜力。例如,我们在欧洲非常关心气候变化,但不幸的是,到目前为止,我们并没有真正利用数字技术,例如,节约更多能源。或者我们至少在所有欧洲国家都没有真正利用技术来建立电子政务框架等等。而且

由于技术可以在这些领域发挥的潜力,对我来说,推动实现这一目标,最终克服某些障碍或某些阻碍因素,总是一件令人兴奋的事情。是的,这每天都在激励我为更大的变革而奋斗,更好地利用数字技术。

太棒了。是的,不,我可以想象,随着GDPR的实施,现在已经过去几年了,现在人工智能领域正在蓬勃发展,这段时间一定很忙。说到这一点,我知道人工智能法案是你现在非常关注的事情之一。对于那些可能不在欧盟的听众,人工智能法案关注的关键点是什么,以及你在这项工作中的主要目标是什么?

也许首先,在我看来,强调人工智能法案(尽管目前你听到或读到了一些批评)的出发点深深植根于国际社会,这一点非常重要。所以在2010年代,关于某些问题有很多讨论。

法律漏洞或政策制定者由于机器学习、深度学习技术等的科技进步而需要干预的必要性。那时,美国、加拿大、欧洲,甚至中国、印度、新加坡、日本等国家都同意存在某些差距,正如我所说,我们需要克服某些挑战。

然而,欧盟从这种共同的视角出发,试图做它自己的事情,主要基于这样一个认识:在技术方面,我们确实落后于美国,也落后于中国。所以其想法是创建一个法律框架

这为我们的公司提供了如此高水平的法律确定性,并使他们能够提出非常值得信赖的人工智能技术,这在质量方面,而且在安全、基本权利保护等方面也是如此。类似于

如此安全以至于欧盟以外的其他人士、其他最终用户会觉得,好吧,这是我需要购买的东西。因此,为欧盟创造一种竞争优势。然而,我们作为欧洲所做的就是创造了一种横向网络。

人工智能框架,它基于一种产品安全法。因此,我们列出了一个很长的清单

人工智能系统无论在哪个行业或用于什么用例都需要满足的技术要求。这产生了一些问题。如果你现在看看美国在做什么,新加坡在做什么,大多数其他国家实际上决定采取不同的方向。他们决定反对横向人工智能立法,

但他们例如正在制定像美国一样的人工智能权利法案,然后让部门立法者或监管机构决定

决定如何在各自的部门实施或执行这些原则。这确实是欧盟(也有一点加拿大的EDA法)与世界上大多数其他国家或地区之间最大的区别。横向立法与部门立法。

是的。

也许你可以详细说明一下这种横向方法是如何运作的,以及哪些领域是,你提到了安全,对吧?也许我们可以稍微展开一下,解释一下这对普通用户意味着什么,如果你不介意的话。是的,当然。因此,人工智能法案进一步发展。我告诉你,它是一种阐述信息的方式

是的,一份很长的清单,列出了人工智能系统开发人员需要满足的法律义务。例如,某些事情,如风险管理,他们需要提供技术文档,在文档中他们会谈论人工智能技术的架构,甚至包括能源消耗,很多这样的事情。

然后我们还有规定,规定你作为提供者需要履行某些数据治理义务。存在透明度义务、人工监督义务等等。

但是欧盟意识到,所有这些新的义务当然可能会扼杀人工智能的创新,而欧盟想到的解决这个问题的灵丹妙药是

解决这个问题,并且只关注应该受到监管的某些人工智能技术,他们采用了基于风险的方法。实际上,在最终的人工智能法案中,这意味着

有四类不同的人工智能系统。第一层,真正不符合欧洲价值观、基本权利等的人工智能系统。这些系统将来将在整个欧盟被完全禁止。因此,人们将无法再销售它们,当然也无法再使用它们。

然后是另一类,更大的类别。因此,更多的人工智能系统将属于这一类,即所谓的“高风险人工智能系统”。与禁令类似,

这是一个相当具体的用例或至少是部门的列表,例如就业领域和就业。它是扫描求职申请或类似的事情。

对于这些,开发人员需要履行我提到的某些义务,例如风险评估、数据治理等等。然后是第三层人工智能系统,它们构成一定程度的风险,但仍然有很多优势。对于这些,它们只是里程碑。

轻微的透明度义务。第四层完全不受监管,因为它只构成最小的甚至没有风险。通过这种横向义务加上基于风险的方法的组合

理论上,应该只识别风险人工智能系统。欧盟希望,最终,即使他们正在进行监管,他们也是以一种软性或轻微的方式进行监管,不会过多地阻碍创新。我们最终能否做到这一点,还有待观察。但理论上,我认为这至少是一个好主意。

这真的有助于帮助构建你们从何而来的框架,对吧?因为从我听到的情况来看,这是一个真正整体的观点。当涉及到高风险和禁止领域时,听起来你们主要关注的是可能存在不公平歧视以及人工智能水平应用等情况。这样假设是否公平?现在市场上或你听到人们与你谈论的任何其他风险是否真的让你大吃一惊?

是的,感谢你的这个问题,因为它让我现在也可以批评人工智能。是的,也许让我们从理论或我们的出发点开始。事实上,它与消费者保护、歧视等有很多关系。为了给你一些关于未来禁令或禁止的主题,欧盟正在试图

禁止诸如社会评分、某些形式的情绪识别、远程生物医学识别的使用(尤其是来自执法机构)、潜意识技术等。想想某些试图说服消费者购买某种产品的广告形式等等。

关于这些用例,欧盟的共同立法者,正如我告诉你的那样,基本上同意这些领域与现行立法、我们的宪法、基本权利等存在严重冲突,因此欧盟不应该发生这样的事情。然后

在高风险方面,事实上,它再次与歧视、消费者保护等有关,就业、教育。再次,例如面部识别、执法、人工智能的使用,甚至迁移或

边境管理,实际上甚至包括关键基础设施。所以很多不同的领域。现在,我的批评是,我认为欧盟的大多数人都会同意一个

高层次的,比方说,评估,认为这些领域可能与某些我们可能甚至不想看到或至少想要尝试保护我们的社会免受其侵害的风险有关。但是欧盟人工智能法案中的一个大问题是,这些用例的证据相当薄弱。我的意思是

例如,在边境管理高风险类别中,有一个在边境使用测谎仪的用例。欧盟的记者实际上与所有27个成员国的边境管理机构进行了交谈。他们都说,好吧,我们没有使用人工智能。所以这个案例向你展示了这一点。

至少在某些领域,对未来可能发生的事情进行某种预测,但这并不是真正关于完全商业化或部署的人工智能技术。你可以在许多此类禁令和高风险用例中看到这一点,社会评分,

欧盟委员会可能考虑了一些中国的用例,但在欧洲,我们并没有真正的东西。而且在中国,到目前为止,它也仅仅是,是的,

一些测试,他们并没有真正实施完善的社会评分技术。欧盟如何从法律上为禁令撰写文本是如此宽泛,以至于可能发生许多允许的商业行为或技术(即合法商业行为或技术)

银行、保险公司和其他部门、公司使用的技术,这些技术多年来从未有过问题,突然落入禁令之下。仅仅是因为监管机构没有花足够的时间来明确说明未来可能是什么。

太冒险了,等等。所以,我认为这是人工智能法案现在的一个大问题,用例太模糊了。

是的,因为我认为你是对的。在高层次上,许多人不会一定不同意很多这些说法。但也有那些在美国,我们看到了这种情况,突然之间,你看到了这些东西随着时间的推移是如何被使用的,而这些方式并不一定是公司或实体不一定走在前面或非常透明地。

他们如何使用这些东西。它们也不一定是面向公众的功能。因此,这绝对是一个棘手的领域,你必须看到它是如何实施的,并看到对用户和企业可见的内容,等等,这样你才能真正了解正在发生的事情。这让我想到我的下一个问题,我知道很多人想知道这项法规,你们是如何设想这个过程的运作方式?这是公司需要定期向监管机构提交他们正在做的事情以供审查的事情吗?还是每个人都在善意地运作,并且他们会随着时间的推移检查这些事情?例如,这与该法的执行或实施如何运作?

是的,这是一个很好的问题,它让我想到我们相当长一段时间以来一直在表达的另一个批评点。所以事实上,也许快速回答一下,然后解释一下,这是一种尽力而为的方法。因此,公司很大程度上只需要安装一种内部治理系统,说明他们是如何开发系统的。

和部署人工智能技术。在大多数情况下,他们不需要告诉监管机构或执法机构每一步。

但大问题是,这里的人工智能也极其模糊,许多公司往往并不真正知道监管机构期望他们提供哪些信息。此外,当国家主管部门,所以在欧洲,

你知道,我们总是有27个不同的成员国,有不同的参与者,有不同的规范等等。将来,可能会发生类似于GDPR、数据保护的情况,德国的执法机构会告诉一家公司,好吧,你应该告诉我们你正在使用这项人工智能技术做什么,因为我们认为它有风险。

但西班牙当局真的袖手旁观,对他们来说没关系。因此,可能会再次出现碎片化的大问题。即使存在这种尽力而为的方法,公司也需要

告诉执法机构关于技术某些进展的情况,如果执法机构要求他们提供信息,他们需要提供大量文件。所以你基本上需要随时做好准备

如果监管机构提出要求,这当然比在商业化产品之前被要求提供某些东西的义务要好。但它仍然不是什么都没有。这并不是说你作为一家公司可以完全自由地进行创新。

特别是结合这种关于如何做某些事情、如何编写技术文档、如何进行风险评估的法律不确定性。例如,在商业化人工智能技术之前进行风险评估是否足够,或者因为人工智能技术随着时间的推移而发展,你需要

进行新的风险评估,或者你需要不断更新你的技术文档。什么是所有的时间?你需要每周做一次吗?你需要每月做一次吗?等等。可能触发这种重新做或在方面做一些完全新的事情的实质性修改是什么?

数据治理、风险评估等等。所有这些问题都完全没有解决,也不清楚。这就是为什么我们所有人,或者欧洲的许多人都觉得,尤其是在未来两三年甚至四年里,人工智能法案将成为许多人,尤其是缺乏微软等公司能力的中小企业和初创企业的巨大难题,因为这与合规性有关。

对。我认为这非常有帮助。它让我想起了GDPR推出时的情况,也让我想到我的下一个问题,当时有一种“好吧,那是欧洲的事情”的心态,你知道,至少在美国是这样。然后突然之间,我认为就在实际推出的时候,你看到美国许多主要的出版商说,哦,我的天哪,实际上,这是……

也适用于我们,因为我们的用户可能是欧洲用户,他们将使用我们的网站等等。像人工智能法案一样,你们是否采取了类似的范围,无论你是否位于欧洲,如果你在欧洲有用户,它仍然适用。从你的角度来看,这是一个公平的解读吗?

是的,就是这样。所以基本上,如果你想更具体地看到它,你需要阅读人工智能法案第2条第1款,这实际上在很大程度上是GDPR类似条款的复制粘贴,以回答你的问题。所以这真的很复杂。

类似地,当然,一件事是隐私法。另一件事,人工智能法案,是产品安全立法。但这两种法律都有域外效力。如果你真的仔细检查人工智能法案,它实际上比GDPR走得更远。有一个,比方说,在这个第2条第1款中有一个具体的案例

我刚才谈到的文章说,例如,如果你作为一家加拿大公司,只是为北美市场或加拿大、美国、也许是墨西哥生产人工智能技术,

但你的人工智能技术的输出正在进入欧洲,可能是因为游客,可能是因为下游公司正在将这个人工智能系统用于欧盟的某些事情。

那么你就进入了人工智能法案的范围。在我个人看来,这是对贸易协定和国际私法的违反。但在这里在布鲁塞尔……

许多律师的意见大相径庭。我认为陪审团还没有结果。我非常有信心我的解读是正确的。但同样,取决于你问谁,会有不同的意见。但我真的相信我们现在正在谈论的这一点,人工智能效应的域外效力,

很可能会在欧洲法院(我们的欧洲法院)面前进行讨论,或者至少会有一些额外的指导意见,说明如何理解它等等。因为在这里也是一个大问号,因为它真的是一件新鲜事。我们从未有过如此深远的事情。

在某些方面,我们也看到了GDPR的情况,它迫使,这是一种强制性功能,特别是对于我们这些“狂野西部”的人来说,对吧?在某些方面,看到这些东西被实施真的很好,因为它至少在GDPR中,它确实将隐私置于首位。从Brave的角度来看,我的意思是,我们在将隐私软件推向市场方面非常早。所以这是一件看到的事情

到位了。人工智能也是如此,我们在这个领域也做得相当早。我认为这些都是人们至少应该讨论的事情,无论它是如何实施的,甚至是如何执行的,我认为,正如你所说,不一定已经解决,但时间会证明一切,对吧?我也很好奇,从GDPR的推出中学到了哪些主要的经验教训,你们将其应用于人工智能法案?还是现在判断还为时过早?

是的。所以我们现在谈论了很多,比方说,人工智能法案的负面之处。我相信某些事情实际上是相当积极的,或者至少欧盟监管机构同意。

是的,做了一些重要的观察,并试图现在做一些不同的事情。是的,也许只是说三点来支持我刚才所说的。首先,与GDPR相比,我认为欧洲人工智能法案更具有前瞻性,至少它更具包容性。

所以我们有很多机会让利益相关者参与进来,与欧盟委员会、成员国的国家主管部门进行交谈,基本上告诉他们,好吧,看,人工智能法案的某些部分不起作用,或者

或者存在某些技术进步,因此人工智能法案的某些部分需要更新等等。在GDPR中,正如你所知,这些事情是不可能的。是的,这是我们现在在GDPR中遇到的一个大问题,那就是它已经过时了,比方说。对于人工智能法案,我认为,

至少部分地,这不会发生,因为它将不断更新。另一个积极的方面是,回到我一开始所说的,至少……

人工智能法案背后的核心原则可以追溯到2010年代在国际层面所做的所有准备工作。因此,与许多其他数字法律相比,人工智能法案也更基于原则。第三点是

关于治理,它并不完美。我已经谈到了成员国之间在人工智能法案的解释等方面存在的碎片化问题。但至少在某种程度上,欧盟在人工智能方面现在试图真正从GDPR的错误中吸取教训,在碎片化方面,在资金不足方面

成员国、当局等等。在这里,我们也引入了一些新的机制,应该可以防止法律的某些问题。我们还与人工智能办公室一起创建了一个集中的治理机构,该机构应该负责处理跨境案件。

这也试图协调解释,试图帮助成员国更好地相互联系等等。所以所有这三点,还有更多,我认为欧盟做得很好。是的,回到你的问题,真的试图从以前的错误中吸取教训。

但是,是的,我们还没有到达那里。所以他们有很大的问题。很好,很好的观点。我认为另一件事也是,与GDPR相比,在人工智能领域,你们似乎更有利一些,那就是解决这个问题的时间,对吧?就像人工智能一样,它已经存在很长时间了,但我们现在看到它迭代和发展的方式

与GDPR实施时相比,现在已经激增了,那时你已经有一群非常强大的广告技术和大型科技公司,他们已经真正掌握了如何将事物货币化,以至于在GDPR中似乎是一场更加艰难的战斗,而

现在的时间,你仍然有大型科技公司试图找到人工智能的产品市场契合点。与GDPR推出时相比,它在市场上的成熟度要低得多,那时你真的必须,斗争非常激烈,反对根深蒂固的利益,对吧?

你对当前当局的执法行动能力以及在该领域对公司进行执法的能力有多大信心?因为我们在GDPR中看到的一个挑战是

法律在那里。甚至在某些情况下,你也有当局说法律没有被遵守。但让人们接受教育或激励他们执行法律确实是一个挑战。对。或者,你知道,找到切实可行的补救措施。人工智能法案的导航情况如何?

是的。正如我所说,我们确实安装了某些机制,应该有助于防止我们从GDPR中看到的某些影响或某些情况。我认为大问题是,人工智能法案正在创造如此复杂的情况

生态系统,治理生态系统,实际上需要国家政府以及欧盟委员会进行大量内部投资。例如,如果你看看英国,我认为他们现在有超过200人,我认为甚至可能有250人

在人工智能安全研究所工作。这个数字相当惊人,因为英国没有人工智能法,但他们有250人。我们在欧盟有一个人工智能法,但我们的委员会现在只有,我认为,85人在人工智能办公室工作。所以

怎么可能只有伦敦和英国的一半人?即使我们有横向人工智能法案,委员会也希望再增加40人。但当然,仍然有超过100人落后于伦敦和英国。

委员会已经很难找到专家,深度学习专家、伦理人工智能专家等等。正如你所知,这些人可以在微软等公司获得更多钱,等等。你如何将这些人带到委员会?

如果你然后将委员会与仍然有一些资金的成员国(如法国和德国)与马耳他、爱沙尼亚等较小的成员国,以及可能还有预算问题(如保加利亚或希腊)的成员国进行比较。

这些国家如何设法找到足够的人工智能专家来充分执行和实施人工智能法案?我现在看到一个巨大的问题。

也许在未来四五年内,我们能够解决这个问题。但在此之前,我想说我们的整个治理生态系统可能都功能失调了,因为公共部门根本没有足够的专家。而我们现在只谈到了公共部门。实际上,私营部门也是如此,因为首先,

对于产品安全,欧洲基本上有合格评定、第三方审计,至少在某些情况下是这样。所以像麦肯锡这样的公司……

德勤、安永等等等等。他们将提供认证,甚至我们还在德国有DECA和TÜV这样的公告机构,基本上都在检查人工智能技术。在大多数情况下,它

是自愿的,但可能是因为我们正在谈论的法律不确定性,许多公司会要求这种进一步的安全保障,以确保他们做的是正确的事情。但当然,所有这些公司和所有这些公告机构都需要人工智能专家。实际上,每家公司可能都需要……

一名类似于数据保护官的人工智能官。同样,如果你看看我们的教育体系,他们并没有培养那么多人工智能专家。我们从哪里得到他们?

我想,这同样会成为对少量可用人工智能专家的巨大国际竞争。而且最好的至少会去大型科技公司,因为他们支付的薪水最高。而且,与欧洲或例如德国的一个非常小的

公共实体相比,他们可能也有更多的自由,在德国,我们通常遵守规则,如果某人在部委工作,那么个人就没有很大的灵活性。所以我确实看到了核心问题,尤其是在接下来的几年里,如我所说。是的,绝对有很多挑战,对吧?嗯,我在采访了很多思想领袖和很多人之后看到的一件事

在这个领域,无论他们是软方法还是硬方法,我都看到学术界的东西正在过渡到商业方面,很多研究人员、数据专家和数据科学家实际上都试图对此非常谨慎。就像,也许这是GDPR的教训,他们采取了一种温和的方式,或者类似的东西。但这对我来说是令人惊讶的,至少看到人们的关心程度,这并不一定,你知道,

对公众可见,对吧?但是当你让他们坐下来问他们关于这个问题的问题时,他们真的似乎,他们在思考你在这里提出的许多相同的问题,我认为,有一些一致性,我认为,在实践中,我认为我们会看到的。但这确实很有趣,听到这些挑战,因为人们确实似乎必须从长远来看待他们将如何处理这个问题。

甚至在制定法规方面。稍微谈一下GDPR方面,我知道正在考虑一些修订或更改。从你的角度来看,我们可以深入了解一下这些修订是什么样的吗?正如你提到的,有些东西已经过时了。会有修订吗?人们应该期待看到哪些修订?

是的,现在正在就我们部分已经讨论过的执法问题进行立法讨论。是的,例如,像大型美国科技公司存在问题的情况,但这科技公司总部设在爱尔兰都柏林。由于大多数公司,大多数大公司都在,

总部设在爱尔兰,爱尔兰的数据保护机构不堪重负。因此,目前正在讨论的这项新立法正在考虑如何

更好地利用GDPR中的一致性机制,如何加快某些流程,以及如何让所有对本案感兴趣的成员国参与其中,这些成员国有很多受影响的最终用户,但不是爱尔兰,基本上是这样。

目前看来,也许年底可能已经达成政治协议,这种可能性很小。明年第一季度发生的可能性更大一些。如果这项改革真的具有突破性,或者真的改变了GDPR的一些主要障碍,那么我们还需要看看。但是

至少我想说这是一个良好的开端。然后还有一个很大的问题,那就是还有什么。所以确实,这里有一些人

在欧洲,他们现在已经推动相当长一段时间进行一次更大规模、真正全面的GDPR修订。刚刚重新任命的新的委员会到目前为止并没有表现出对真正大规模的GDPR修订的兴趣,因为他们正在考虑

是的,在当前的政治氛围下,重新开放它可能不明智。委员会和持相同立场的人说,这可能类似于针对特定问题的GDPR执法条例,也许还有类似条例的空间。

具体的GDPR修订,以便识别另一个特定问题,然后进行非常非常有针对性的修订以解决它。

但是,关于这一点,陪审团仍在审理中。专员听证会现在已经结束。正如我所说,委员会现在正式任命,可以开始工作了。随着委员会中所有这些新成员的加入,许多专员现在是第一次来到这里。总是有可能有人想出名,基本上尝试一些新的东西或采取大胆的

大胆的步骤,实际上说,不,我们需要修订GDPR。我们可能会在接下来的六个月内看到是否发生了什么大事,或者是否更多的是

我一开始所说的那样,我们可能会看到对另一个点的非常非常有针对性的修订。这方面的一个巨大问号是正在进行的电子隐私讨论。如你所知,电子隐私指令已经适用多年了。曾试图

用规章对其进行更新,但讨论多年来一直停滞不前。实际上,许多人都在说,

委员会需要提出一个新的提案,一个全新的提案,或者基本上将隐私规章提案分成三个部分。关于在线广告的部分可以成为一项独立的欧盟法律,即一项新法律。

也许然后有一些关于cookie的内容,也许是另一个cookie承诺或类似的东西。比方说,与数据保护相关的部分实际上可以包含在GDPR中。

如果发生这种情况,那么我认为我们会看到GDPR的大规模修订,因为要包含这部分电子隐私内容,你基本上需要重新开放所有内容。所以,是的,根据我现在所说的所有内容,你会看到有很多问号,不知道它会朝哪个方向发展。是的。

是的,是的。不用担心。这些问题非常复杂和棘手。是的,它让我想起了一个人成名,我们过去与约翰尼·瑞安非常密切地合作,当我想到这一点时,他是我立即想到的人,因为我关于执法的问题主要是,很多这些,他遇到了那些问题,你知道,即使在某些情况下,像ICO会说,是的,这是

看起来像是违规行为,或者类似的东西,但这就像,好吧,我们能做些什么呢?然后,你知道,这些公司拥有如此强大的权力,你知道,这只是,你知道,你甚至看到他们在处理cookie等问题上的行动。这绝对是一场持续的战斗。但是,不,这就像真正有帮助的清晰度。还有一点,我认为,因为我知道你已经非常慷慨地给予了你的时间,我真的很感激。我的意思是,我认为在谈话开始时,你提出了一点关于

几乎就像制定一个标准或质量,提高事物质量的标准,对吧?就像,你知道,你对那些认为这些监管方法使欧洲相对于其他地区处于劣势的批评者的主要回应是什么?我认为你可能在前面已经回答过这个问题了。是的,是的。

这实际上成了我的一种充满激情的主题,因为正如我在一开始所说的那样,我真的是一个性格是全力推动变革、推动改革以改善事物等等的人。我坚信,我们欧盟在过去几年中通过的许多法律都取得了成果。

作为政策目标,其意图非常好、非常非常聪明、正确等等等等。欧盟的两个大问题是

这些举措往往根本没有协调。因此,它们都是在所谓的政策筒仓或工作筒仓中创建的。因此,是的,我们试图解决问题。

在平台工作指令中解决平台工作者的某些问题,但我们并不关心与GDPR、人工智能法案的重叠。这意味着什么?大公司总是会找到漏洞,总是可以声称,好吧,第一号法律实际上允许我们做某些事情或执行某些活动。是的,第二号法律可能对我们来说有问题,但是

同样,第三号法律实际上相当不清楚。因此,在一个,让我们说,总体评估中,你不能向我们要求更多。而我们看到很多这种情况

欧盟基本上不协调的高水平法律活动最终并没有给我们带来很多帮助。我们的大部分政策目标实际上并没有实现。是的,我真的很希望将来我们做得更好。也许我们也在减少法律数量,将它们合并成更大的框架,并且

还要投资,这是第二个大问题,更多地投资于执法和实施。因为政策制定者,无论来自委员会、成员国还是议会,他们都非常关注谈判和起草法律。但是一旦

它被通过了。他们实际上不再关心它了,因为从政治角度来看,谈论如何实施一项法律,如果需要改进某些段落等等,这并不是真正令人兴奋的事情。你不能……

为此做一个不错的LinkedIn帖子或Twitter帖子或其他什么。而我们实际上也需要改变。我们需要更多地关注执法。回到我们的人工智能治理点或讨论,我们需要投资大量资金来建立所需的执法或治理结构。

如果我们同时做到这两点,即重新关注执法,同时也更好地协调我们的活动,那么我确实相信欧盟可以建立这种国际品牌的技术。

来自欧盟或欧洲制造的可信赖的数字解决方案,并为我们的公司提供足够的法律确定性,以便在某些领域进行大量投资,以建立符合我们价值观的产品等等。实际上,

我密切合作的许多研究人员,他们正在将它与一种叫做法律编码的东西联系起来。因此,使用来自SANSENELEC或国际上来自ISOC的技术协调标准。

或来自Gaia-X、云管理等方面的一些技术报告。基本上,如果我们使用这些工具不是为了取代法律,而是为了规范法律,我认为我们可以……

再次,使公司更容易,基本上,在设计阶段实施某些规则或某些政策目标。但是,不幸的是,这现在都是理论,因为,同样,由于缺乏执法,法律不协调的问题如此之大,

这两种情况都会导致高昂的合规成本,一种法律混乱。因此,我们距离公司实际上可以通过创造来自欧洲的可信赖技术来创造这种竞争优势的情况还非常非常遥远。所以是有潜力的,但现在有一个更大的问题阻碍我们实现这一潜力。

是的,是的,不用担心。这里有很多东西需要仔细考虑,但我真的,我想赞扬你的工作,并以一种广泛而全面的方法和漫长的道路来处理这些事情。正如我前面所说,在任何事情中,它都会提出这些讨论点。

供那些可能没有考虑过它们的人考虑,尤其是在如此广泛的应用中。凯,你今天非常慷慨地给予了你的时间。我们涵盖了很多领域,非常多的领域。这些都是非常复杂的问题。我真的很想感谢你今天来。如果人们有其他问题或想关注你的工作并关注这些主题的进展情况,他们可以在网上关注你吗?

是的,实际上,我已经提到了政策制定者和LinkedIn和Twitter,我们的办公室,还有我的同事和Axel Voss。我们实际上非常积极地通过LinkedIn、Twitter宣布我们正在做什么。此外,我个人有一个博客或网站,基本上是我的名字,kaisenner.eu。

在那里,你基本上可以看到我们正在做的一切。我们也经常向利益相关者征求反馈。我们经常进行某种形式的咨询,因为我们真的相信与利益相关者互动,向他们学习挑战是什么等等。

是的,如果你有一个好主意,并且想和我谈谈,只需给我发电子邮件或通过我提到的那些平台给我发送私人信息即可。太棒了。好吧,我们会确保将这些内容放在节目说明中,以便人们可以这样做。再次,我真的很感激你今天抽出时间。我们涵盖了很多内容。也很乐意让你回来,看看事情随着时间的推移是如何进展的,如果你不介意的话。

我很乐意。让我们来做吧。很好。非常感谢你,凯。谢谢。再见。感谢收听勇敢的技术专家播客。为了不错过任何一集,请确保在你的播客应用程序中点击关注。如果你还没有切换到Brave浏览器,你今天可以免费下载它,网址是brave.com,并开始使用Brave Search,它使你能够私下搜索网络。Brave还可以保护你免受广告、跟踪器和其他在你浏览网络时跟踪你的令人毛骨悚然的东西的侵害。