Empowerment, safety and equity: children's visions of rights-respecting digital futures
58:34 Share

贡献者：Sakshi Ghai 博士、Adam Ingle、Michael Murray、Dylan Yamada-Rice 教授 | 三分之一的互联网用户是儿童，但数字世界并非为儿童而设计。随着生成式人工智能等技术的加速发展，迅速改变着儿童的生活，科技监管往往优先考虑速度而非人权和儿童权利。然而，儿童面临和将在未来几年面临的技术相关挑战在世界各地差异很大。 从让世界各地的儿童参与想象儿童未来的数字生活可能是什么样子，以及需要哪些改变才能确保尊重儿童权利的数字环境和技术监管中，我们能学到什么？</context> <raw_text>0 欢迎收听伦敦政治经济学院的LSE Events播客。准备好聆听一些社会科学领域最具影响力的国际人物的演讲。

大家好，欢迎收听LSE Today。这是一场LSE Festival“未来愿景”系列活动的一部分，该系列活动探讨了近期和远期未来的威胁和机遇，以及更美好的世界可能是什么样子。我的名字是Kim Sylvander博士，我是媒体与传播系儿童数字未来中心的研究员。儿童数字未来

儿童数字未来中心是伦敦政治经济学院和五权基金会之间的联合研究中心，旨在增进对数字技术为儿童权利和需求带来的挑战和机遇的理解。我们的合作伙伴组织五权基金会是一个国际非政府组织，致力于改变数字环境，使其尊重和促进儿童权利。

我们与他们的全球青年大使计划合作，该计划由来自50多个国家的200多名儿童和青年组成，其中一些人您今天将见到。

因此，今天的活动主题是“赋权、安全与公平：儿童对尊重权利的数字未来的愿景”。该主题源于我们与参与全球青年大使计划的来自世界各地14个不同国家的儿童开展的一个项目。通过今年春天举行的一系列前瞻性研讨会，青年大使们设想了未来25年尊重权利和包容的数字未来可能是什么样子。

正如您在这里看到的那样，我们今天在线上邀请了我们才华横溢的青年大使，他们一直在参与我们的项目，他们将介绍他们对这个研究项目及其研究结果的想法和反思。他们还将领导讨论并向专家小组提问。

所以我想介绍一下您在线上看到的青年大使们。我们有来自美国的Srishti，她参与五权基金会大约一年了。在此期间，她培养了一系列新技能，包括主持“科技聚焦”播客节目。她还获得了微软颁发的数字公民证书。来自爱尔兰的Aisling自2024年以来一直是五权大使，自13岁以来就一直参与青年行动主义和咨询活动。

她最近作为青年代表帮助制定了爱尔兰LGBT+战略。她获得了年度青年经济学家奖，并且即将启动一个名为“索取”的全国性研讨会项目，该项目教育年轻人了解基于性别的暴力。

Filippos自2024年以来也是五权青年大使。除了他的倡导工作外，他还是科学竞赛的国家队队长，一位屡获殊荣的STEM创新者，以及一位有抱负的机器人工程师，他希望在攻读工程、机器人和应用科学的同时帮助塑造道德技术。

我们的青年大使们今天将与我们优秀的专家小组进行互动。我们将有一位专家小组成员加入我们。他被困在停运的火车上了。所以希望他随时会加入我们。我们将密切关注他的到来。

首先，我想介绍Sakshi Gai博士，她是伦敦政治经济学院的助理教授。Sakshi之前在牛津互联网研究所工作，目前是牛津大学莱纳克学院的初级研究员。Sakshi的研究重点是社交媒体、在线游戏和人工智能等技术如何影响弱势青年的福祉和安全，特别强调包容性的全球研究，特别是来自全球南方的研究。

我们还有Adam Engel，他是乐高集团的全球数字政策负责人，他确保乐高的数字产品符合最高的安全、隐私和安全标准。他还致力于影响赋予儿童在线权力的政策。在乐高之前，Adam领导了英国信息专员办公室的新兴技术部门，在那里他为人工智能和沉浸式世界等技术的风险提供建议。

我们还有Dylan Yamada-Rice，他是普利茅斯大学沉浸式故事讲述教授。Dylan是一位研究人员和艺术家，他探索儿童和年轻人如何通过应用程序、增强现实和虚拟现实以及电视等平台参与游戏和故事讲述。

Dylan的工作处于实验设计和社会科学的交叉点，始终关注儿童媒体。最后，我们还有Michael，他很快就会加入我们，Michael Murray，他是英国信息专员办公室的监管政策主管。他领导与儿童法典相关的政策制定，

并与国际和英国的行业监管机构和民间社会合作处理儿童隐私问题。他的团队还制定了关于年龄确认的政策。Michael是联合国儿童基金会关于儿童最佳利益的专家咨询小组成员。

这就是我们优秀的专家小组。欢迎各位今天来到这里，也欢迎我们的青年大使们。对于在座的社交媒体用户来说，今天活动的主题标签是#LSEFestival。请。

在社交媒体上关注我们。我们喜欢这样。我想请大家把手机调成静音，以免打扰活动。本次活动正在录制中，如果今天没有技术问题，希望能够以播客和YouTube的形式提供。今天的活动将由我们的全球青年大使们开始，他们将领导今天的讨论。然后专家小组将做出回应，之后将进行与观众的问答环节，在

对于在线观众，您可以通过问答功能提交您的问题。请在其中包含您的隶属关系。如果您是青年大使或年轻人，请告诉我们。因为我们当然希望欢迎你们向专家小组和我们的青年大使提问。

对于剧院里的各位，我会告诉你们什么时候开放提问。请举手，等待工作人员过来给你们麦克风。我会尽量确保回答来自我们在线观众和剧院观众的各种问题。现在我想把时间交给我们的青年大使Shristi。你好，Shristi。谢谢你，Kim。

大家好，我叫Srishti，我是一个14岁的来自美国的青年大使。今天能和大家一起在这里，代表着与快速技术变革一起成长的一代人，我感到非常兴奋。在过去的几个月里，在儿童数字未来中心，我们的全球团队参与了一些创造性的练习，旨在拓展我们的想象力并挑战我们的假设。

从角色扮演场景到合作设计理想数字世界的合作时间线，每一次活动都帮助我从新的角度看待技术。我们一起规划了理想未来的行动，讨论了伦理困境，甚至讨论了解决服务不足社区数字鸿沟的方案。与来自14个不同国家的同龄人一起工作，他们的多元化视角给了我启发。

肯尼亚的一位朋友分享了她对社交媒体和错误信息的经历。印度的一位同伴谈到了立法的重要性。尼日利亚的一位同伴谈到了包容性和公平的重要性。听到这些故事，我意识到，虽然我们的背景不同，但我们的希望是一样的。我们都希望看到一个安全的数字环境，并有机会探索新的领域。

通过我们丰富的讨论，无论我们是在分析人工智能在教育中的利弊，评估社交媒体趋势和同伴压力对心理健康的影响，还是绘制偏远地区差距的地图，我们都同意一个核心原则：安全和赋权必须齐头并进。一个真正包容的数字未来能够保护儿童免受伤害，同时为他们提供创新所需的技能、信心和机会。

展望未来，我设想一个世界，在这个世界里，每个孩子都能负责任地使用社交媒体，人工智能工具能够增强创造力而不是限制创造力，并且没有人因为居住地或经济能力而被抛在后面。通过倾听年轻人的声音、共同设计政策和倡导公平政策，我们可以构建一个既具有保护性又具有赋权性的数字环境。通过我们的工作，我迫不及待地想看看我们将创造什么。

所以我的第一个问题是给Gai博士的。根据您揭示南北数字鸿沟的工作，如何才能制定出能够赋予低资源环境中儿童权力的安全干预措施？好的，

谢谢你，Srishti。很高兴听到你的声音，也很高兴听到你对你的经历的反思。所以我想首先将讨论定位在数字安全和数字安全干预措施上，重点关注自然生活在全球南方但往往被排除在谈话之外的大多数年轻人。

无论是通过研究、资助，还是技术治理。所以我想提出三个更广泛的观点。我想强调的第一个观点是，谁真正被排除在数字安全方面的讨论之外，特别是从国际治理的角度来看。正如我已经稍微暗示的那样，大多数儿童生活在全球南方。特别是，

非洲的儿童是那些在全球科学舞台上被遗漏最多的儿童。而这些儿童也是数字一代增长最快的群体之一。

数字世界，特别是生活在农村地区的儿童、生活在非正规定居点城市中的儿童，特别是他们，以及生活在城郊地区的儿童。你知道，基础设施有限，

随着数字接入的扩大，了解我们如何为他们建立嵌入当地、尊重文化差异的干预措施非常重要。这不仅仅是一种自上而下的方法。现在，我想很快强调的第二件事是，实际上在很多这样的环境中，

这不仅仅是，是的，年轻人上网会面临风险，而且还存在与文化相关的风险。例如，肯尼亚、撒哈拉以南非洲部分地区的许多年轻人，特别是男孩，

面临着在线赌博的风险，而当我们考虑年轻人上网的风险或技术促成的儿童性虐待和剥削等风险时，这些风险往往从未被提及，这在考虑年轻人面临的风险时也是另一种风险，并没有得到那么多的关注。当然，这些不仅仅是地方性风险。这些风险无处不在，但在某些情况下。

情况下，它们会被放大。在我们与肯尼亚使用参与式方法进行的公民人种学研究中，该方法主要培训青年进入非正规定居点的环境，我认为我们开始注意到这些新出现的风险。所以我只想强调，我们必须开始关注这些新出现的风险，以风险

制定量身定制的干预措施。我认为我想说的第三件事是，在低资源环境中进行干预，当然存在许多挑战。但是，你知道，从研究的角度来看，尤其是在个人层面，有一些事情正在出现，我们可以开始考虑。例如，许多工作都集中在积极的父母调解上，以帮助

弥合或提供缓冲，帮助儿童安全地浏览在线环境。这也有，你知道，这可能是一个相关的个人因素。但同样，我们也需要停止考虑某种技术公司，特别是那些经常开发的技术公司

你知道，内容审核是为英语环境开发的。所以很多在线的危害，尤其是在社交媒体上，

儿童可能使用不同的语言访问，这些危害往往甚至不会被发现。所以只是想说，虽然个人层面、家庭层面和文化层面的回应非常重要，但我们也必须开始考虑技术公司，以及他们没有

或者他们可以在系统层面部署的干预措施，以及考虑安全的设计、算法正义，我的意思是我们可以花几个小时讨论这个问题，但我只想在这里结束。好的，谢谢，我会确保我们有时间进行所有讨论，我会问Srishti是否可以提出下一个问题，然后我们将继续进行Aisling的讨论，我们将首先浏览青年大使，然后我们将转向专家小组。 对不起，造成混乱。不，没关系。继续，Srishti。好的，没问题。非常感谢你的回答。我非常感谢你提到的文化方面。我的很多家人也住在印度，所以我经常能实时看到这一点。所以我的下一个问题是给Engel先生的。当你在乐高开发人工智能驱动的游戏体验时，你会做些什么？

你如何平衡培养创造性探索和防范偏见或隐私风险之间的矛盾？我们将进行所有讨论。对不起。我们将进行所有讨论，然后我们将再次转向专家小组。对不起。谢谢你，Srishti。我们将继续进行Aisling的讨论，请。你好，我是Aisling O'Farrell，我是一个17岁的爱尔兰五权青年Aisling。今天，我很荣幸地向大家介绍来自世界各地由五权赋能的年轻人的声音。

在这个数字权利运动中。作为整个咨询和促进过程中的青年领导者，我有机会注意到年轻人担忧方面的相似之处。很明显，对人工智能和隐私/数据保护未来的担忧是共同的全球性不安。但数字鸿沟也得到了充分的说明，存在明显的获取和教育不平等。

这在参与者自身的技术困难和个人证词中很明显。像电脑这样的设备的平等获取和媒体素养并不是学校生活的普遍方面。因此，我们决定我们找到的所有解决方案都必须满足每个国家目前的状况。我们最令人振奋的练习之一也是我个人最喜欢的练习。将参与者分成两个未来，一个高度互联的世界或一个严重分裂的世界。

将这两条路径并排放置，突显了我们未来数字生态系统可能面临的挑战和益处。今天，我们比以往任何时候都更加紧密地联系在一起，但我们如此痴迷于局部影响，以至于我们有可能忽略更大的图景。

我没想到社会上的一些群体可能会出于宗教或生活方式的原因而选择退出数字世界。很明显，我们需要采取行动，以确保无论你出生在哪里，或者你认同哪些群体，未来都适合所有人。为了实现安全在线空间的目标，这些空间对所有年轻人都是可访问的，并且弥合了数字鸿沟，立法和监管需要迅速进行。用伦敦政治经济学院的语言来说，数据等于资本。

如果你不拥有它，你就无法利用它。我们采用人工智能等最新技术的急切性必须与同样快速的政策相匹配，这些政策不是由当前的问题驱动，而是由未来防范驱动。人工智能不再是科幻小说。今天，它是由算法决定你是否能上大学。对于这些未来和现在的问题，迫切需要渐进式解决方案，而实现这些愿望的唯一途径是国际合作以及世界舞台上所有国家的代表。

正如Shammi Chakrabarty所说，我们必须为那些没有声音的人争取权益。这正是我们在本项目中得出的结论。我有三个问题。对不起，Michael Murray，你火车上遇到了麻烦，但其中两个问题也是针对你的。对不起，要再次强调这一点。但第一个问题是，随着美国反多元化、公平、包容性（DEI）情绪的兴起以及欧洲反包容运动的兴起，

各国政府如何在起草包容性法规的同时确保在线保护少数群体和弱势群体，并要求公司将这些群体作为消费者进行保护？我的第二个问题是，近年来，地方权力已从国家行为者转移到跨国公司。

国家和超国家监管机构如何控制许多总部位于美国并在传统边界之外运营的数字公司？然后我最后一个问题是给Sakshi Gaya博士的。鉴于全球北方和南方在数字接入和监管能力方面的差距，我们如何确保两者都遵守相同的渐进式监管和立法标准？非常感谢。谢谢你，Aisling。Filippos。

欢迎。晚上好，各位。我叫Philbos，我17岁，来自希腊。随着人工智能塑造我们在线看到和做的事情，以及数字工具成为日常生活的一部分，公司对年轻人的成长方式产生了真正的影响。重要的是，创新不能以我们的隐私为代价，

安全或公平感。这就是为什么像我们这样的青年大使在确保在制定技术决策时纳入儿童的声音方面发挥着重要作用。在这个咨询过程中，我注意到其他大使经常提出同样的担忧，尤其是在数字转型和人工智能的作用方面。很明显，这些技术正在改变我们的生活、学习和基本联系方式。

虽然确实存在好处，但也存在严重的担忧，例如数据被滥用、算法中的偏见，以及年轻人越来越感到他们无法真正控制每天使用的数字工具。一个引人注目的时刻是，当我们被要求想象理想的数字未来时。这引发了很多担忧。我们许多人想知道技术最终是否会被强大的群体利用

来控制或分裂人们，以及大公司是否总是将利润放在首位

而不是为团队做正确的事情。作为一名青年领导者，我觉得这个过程的这一部分非常有价值。思考未来帮助我们想出了改变的想法以及如果事情没有按计划进行，我们可能会如何应对。最后，我们得出结论，数字转型正在重塑成长的意义。从我们如何沟通和学习到我们如何建立关系和看待自己。技术无处不在。它可以让人们更亲近，

但它也可能让我们感到更加孤立。这是一个巨大的转变，也是我们正在经历的转变。因此，年轻人帮助了解它的发展方向是有道理的。这让我想到我想向Adam Ingrid先生提出的问题。

由于乐高专注于既对儿童友好又尊重权利的数字创新，您认为公司应该采取哪些具体措施来确保儿童以有意义的方式参与塑造人工智能和数字游戏环境等技术，不仅作为用户，而且作为他们自己数字未来的共同创造者？还要向Dylan Amanda Rice教授，

当我们想象不同的数字未来时，它可以帮助我们更清晰地看到风险和可能性。根据您与儿童合作的工作，创造力和讲故事如何帮助确保他们的想法真正塑造技术的演变？

第二个问题是，在这个过程中，我们想象了不同的数字未来可能是什么样子。在您与儿童合作的工作中，您看到他们以哪些最有效或最鼓舞人心的方式创造性和有意义地为重新构想数字技术做出贡献？谢谢。谢谢你，Filippos。

非常感谢我们的全球青年大使们。我将回到Sakshi来回答Aisling的问题，然后我会问Dylan。然后是Adam，然后是Michael。谢谢。

我会尽量简短。再次感谢你的问题。你知道，当谈到监管，特别是你说到渐进式监管时，我认为一个关键问题是我们如何定义渐进式？我们所说的渐进式监管，很大程度上是从全球北方的角度设计的，再次假设高连接性，

个人设备所有权、数字素养、机构能力，许多全球南方环境……你好，我正在中断这次活动，向你介绍另一个我们认为你会喜欢的很棒的LSE播客。LSE IQ邀请社会科学家和其他专家回答一个聪明的问题，例如，为什么人们相信阴谋论？或者，我们能负担得起超级富豪吗？

来看看吧。只需在你获取播客的任何地方搜索LSE IQ即可。现在，让我们回到活动。现实情况大相径庭。你知道，当然，访问通常是共享的，特别是性别在访问方面的差异。有时是受限制的，有时是完全受限制的。

他们完全被排除在数字世界之外。再次，就像我提到的那样，平台没有针对当地语言进行优化。这确实危及了系统层面的内容审核。然后再次，保护性基础设施，法律追索权并不容易获得。最重要的是，我们面临着这种多层次的社会规范、性别规范，这些规范围绕着数字媒体如何在网上进行调解。

你知道，通过家庭等级制度、社区期望、安全担忧。当然，这些现实并不容易解开，但必须考虑在内。所以只是为了快速地回答你的问题，我认为我们需要移动

我们需要一种具有全球相关性但同样具有地方响应性的方法。这意味着创建基于普遍儿童权利的共享监管标准，但也允许进行地方调整，以便它们可以轻松实施和执行。这并不容易做到。你知道，例如，

在英语市场中可能很快被标记或删除的有害内容，可能会在世界其他地区在线存在数周、数月甚至数年，甚至可能在非洲或南亚或亚洲语言的部分地区无法被检测到。这不是一个语言问题，而是一个公平问题。所以，

是的，所以总而言之，我认为我们需要考虑这种监管，特别是围绕这些问题的国际监管，既要从全球角度出发，也要从地方角度出发，还要更深入地思考我们将如何整合儿童的声音来塑造和理解最需要监管的地方。是的，谢谢。感谢你的提问。我将……

稍微退一步。我在一所艺术学校工作，我也在学校里做了很多与儿童有关的工作，我认为我会努力赋予儿童权力，让他们要求恢复他们的艺术教育。我认为如果没有艺术教育，你就无法完全了解材料是如何工作的，因此你无法理解事物如何以不同的方式制作，如何以不同的方式使用，以及

我认为将美术和数字艺术分开是一种蓄意的政治策略，将数字制作分成STEM、数学和工程。而实际上我们需要的是让人们了解材料和制作的全部广度，无论是模拟制作还是数字制作。

所以，首先，在艺术学校方面，当我与高等教育学生合作时，你知道，我看到很多男生想根据他们在网上看到和玩过的东西来制作数字游戏。我看到很多女生想做美术和表演。所以这是非常非常性别化的。我认为你，你谈论的差异

很明显，它们是由科技公司驱动的。他们不希望它们公平公正。我们由这些亿万富翁科技兄弟领导。众所周知，他们正在开发人工智能。我认为他们是想让我们移除艺术，艺术是一种批判这些技术的强大手段。

所以如果你问自己，为什么ChatGPT第一次出来就说，你知道，我可以在几秒钟内生成图像，我可以生成诗歌。

今年早些时候，麻省理工学院发布了一项研究，研究了ChatGPT如何影响我们的认知能力。所以经常使用ChatGPT的人，他们的大脑以不同的方式运作。他们建立的联系更少。他们无法回忆起例如在论文中使用的信息。你必须问自己，这可能有点政治性，但是……

如果你有兴趣，请阅读《人工智能地图集》，阅读更多关于人工智能的内容，并问问自己，目前谁正在从人工智能中获益，这不是儿童，也不是普通人，我想对孩子们说，收回你的

你知道，你身处一个系统中，这个系统要求你定期进行评估，而不是思考和创造。向你的教育索取更多。我认为这是我的开场白。是的。谢谢。

感谢Filippo和Srishti的提问。提醒一下，我将要回答的第一个问题是关于青年参与以及公司如何发挥作用以确保儿童成为数字产品的共同创造者。第二个问题是关于教育的。

你知道，我们如何构建既具有创造性和包容性，又能减轻隐私和偏见风险的人工智能。关于青年参与的第一个要点，你知道，我认为我们在行业中，也存在于政策制定圈子中，存在着轻视儿童的问题，并假设，你知道，他们的观点和看法是可以预测的，并且

嗯，而且，你知道，作为成年人，我们可以理解，嗯，确切地说，嗯，他们会在某个功能中偏好什么，你知道，什么程度的安全是合适的，嗯，

而没有真正参与其中，也没有从根本上理解他们的观点。所以你强调了一个非常好的问题，因为很多儿童参与的过程，我认为是有点破损的，或者至少有时会是这样，你知道，这不是真正的咨询。这是表演性的。我们想听听你的声音。我们关心你的想法。然后，你知道，提交了意见，但实际上并没有采纳任何意见，他们也没有，你知道，决策，想法没有改变，设计决策并没有反映出

孩子们真正想要和寻求的东西。我认为要克服这种我认为确实很典型地体现了许多公司和其他实体如何看待儿童需求的轻视性质，你知道，像共同创造者这样的语言我认为是必不可少的。而且

它需要从实际发展证据基础开始，并且还需要期望，为了重建对技术的信任并克服我们在过去，特别是过去10年中看到的信任赤字，人们需要感觉像

他们正在参与设计过程。孩子们需要感觉他们正在参与设计过程，然后产品需要反映这种参与。所以在乐高集团，我们有一系列流程，我们正在进行转型

以试图实现这个确切的目的。首先是由证据引导的，那就是进行研究项目，你知道，这些项目以儿童参与和儿童使用为核心。其中一个项目叫做“与儿童一起进行负责任的创新和技术”，这是我们与联合国儿童基金会合作开展的一个项目，我们

与来自世界各地31个国家的儿童合作，大约有346名不同背景和不同年龄的儿童参与了不同的研讨会，以帮助我们了解从儿童的角度来看，数字福祉是什么样的。

然后，数字产品的哪些功能，无论是我们使用的在线平台，还是我们设计的 游戏，哪些功能实际上能够增强数字福祉？但是数字福祉，我的意思是，像创造力这样的相当精确的东西，作为数字福祉的一种表达，情绪调节作为数字福祉的一种表达，能力和技能建设，还有隐私和安全。所以，是的。

孩子们认为，什么能够增强他们的数字福祉？研究表明了什么？哪些功能实际上将这些嵌入到产品设计中？因此，进行这项研究并进行这些长期的研究投资以获得全貌，对于公司真正理解有意义的儿童参与是什么样子至关重要。

同样，我们今年赞助了儿童人工智能峰会，该峰会在玛丽女王大学举行。150名儿童，几乎没有成年人。他们基本上是在告诉我们他们对人工智能的希望和担忧。我们把这些……

将这些儿童的观点带到了巴黎的人工智能峰会，那里有很多决策者。因此，进行投资以了解儿童的声音，然后将其纳入设计流程，这包括真正赋能公司内部的团队，例如我们的儿童权利和安全团队，他们是儿童权利专家，是与儿童接触、保护和适当流程的专家，并确保他们是设计对话的一部分。因此，这不是事后才考虑进去的。

然后很明显，很多这些设计选择都是由

孩子们自己设定，因为你在开发产品时会让他们参与其中，并且会不断地测试他们。不仅仅是为了让你说，从你的角度来看，这是安全的，而且从你的角度来看，这是有趣的？你会喜欢这个吗？所以我认为这是我们试图做的一些关键事情。它是建立研究，建立证据，进入流程以确保儿童权利和安全，以及观点在设计中发挥核心作用，然后让孩子们参与其中。我很快就会谈到人工智能的问题。我想我只需要

明确一点，乐高并没有考虑，你知道，下周推出人工智能产品。很明显，我们对人工智能可能为游戏带来的机遇感兴趣。但我们也是一家非常保守的公司。我们不是第一个行动者。那将不会在任何地方投放人工智能产品，因为我们想知道，这实际上是孩子们想要的吗？这对孩子们有益吗？做，

在我们把它放在他们面前之前，我们是否知道它的风险？是否有研究能够充分理解这一点？因此，同样，通过这种以研究为导向的方法，我们实际上已经与艾伦·图灵研究所合作来理解这个问题。两周前发布的研究结果，揭示了生成式人工智能对数字福祉的一些影响。

我鼓励您阅读该报告。我们当然会在内部消化它。它表明，是的，在某些情况下，人工智能可以增强创造力。但在我们与儿童进行的研究研讨会上，我们发现，实际上，一些儿童无法在图像生成器中代表自己，无法在一些人工智能输出中代表自己，

你知道，这真的很令人苦恼和沮丧。这让他们不想使用人工智能并采用人工智能。实际上，他们更喜欢我们提供的艺术材料和所有触觉材料以及游戏材料作为替代品，你知道吗？所以我认为偏见是人工智能在儿童中普及和采用的真正障碍，因为我不想使用一个不反映我的系统。我认为我们不应该期望任何人使用这些系统。是的。

所以我认为这种类型的研究确实帮助我们更全面地思考人工智能。隐私挑战，或者迈克尔可以谈谈这个问题，因为他是一位隐私专家。但这当然，你知道，这是我们正在考虑的事情，但我们并没有急于求成，因为，你知道，正确地去做很重要。否则，我们只会重复未来 10 到 15 年的技术信任赤字，你知道，对社交媒体的担忧和危害。我认为人工智能代表了一个可能纠正这个问题的机会，

如果我们能够真正释放它的好处。这就是我们想要走的道路。

谢谢。首先，对于迟到我表示歉意。最好的迟到计划无法在橄榄球比赛中避免信号故障。所以我有两个问题。一个是关于 DEI 公平性因素，另一个是跨国监管。所以在回答这些问题之前，我想退一步，确保我将要提到的一个非常重要的缩写词，大家都很清楚。这个缩写词是 AADC 或年龄适当的设计规范。

大约五年前我开始在 ICO 工作，从那时起，我一直有幸参与年龄适当的设计规范或儿童规范的工作，正如我们所说的那样。当时，除了基德隆男爵夫人之外，几乎没有人谈论儿童的隐私，她可以说是这项工作的创始人或幕后推手，索尼娅，我不确定你是否能看到她。

在过去的五年里，这种情况发生了显著变化。它成为每个议程的首要问题。例如，本周在七国集团会议上对此进行了讨论。而这一切都归功于该规范的成功以及我们在传播基于儿童权利的年龄适当的设计和隐私保护生态系统方面取得的成功。

该规范是关于如何汇编国家数据立法要求的行业指南。在英国，这是 GDPR，数据保护法。它不是为了阻止儿童访问网络。它是在他们进入网络时保护他们，而不是将他们拒之门外。

通过符合年龄适当的设计规范，您应该能够证明您几乎符合每个国家的数据保护法。现在，自从我开始以来，英国是第一个这样做的国家。爱尔兰和瑞典很快加入了我们的行列。

而对这种跨国监管以及您提出的问题的部分答案是，这种渐进式推出的本地化年龄适当的设计规范。ICO 让我在我的角色中承诺的一件事是帮助世界各国的国家和数据保护监管机构推出他们自己的本地化版本的 AADC 规范。

因此，我们已经看到它在欧洲许多国家以及加利福尼亚州推出，这随后导致美国其他几个州也支持它。它现在正在澳大利亚、加拿大和印度尼西亚开发。我和尼日利亚和阿根廷谈过。因此，这种基于公认原则的方法在国际上对儿童在线数据保护的扩展。

因为它基于当地法律，我希望这能够解决你们听到的一些问题，即法律是北方的方法。原则不应该是北方或南方。原则应该在任何地方都一样。如何将这些原则与当地情况联系起来很重要。

我认为 AADC 承诺的通过地方立法实现的全球化是解决其中一些问题的一种方法。在英国和欧洲大部分地区，我认为 GDPR 可能是欧洲过去七八年来最伟大的出口成就之一。

即使它是一部欧洲法律，现在也是英国法律，它也影响了全球数据保护的设计和应用。正如那位敏锐的年轻同事所说，大多数服务都是跨国的。所以我会和

与位于加利福尼亚州、克里特岛或其他地方的在线服务公司交谈，他们会问我如何在英国遵守 ADC。因此，拥有这种国际规范是有用的。因此，所有这些都基于的 GDPR 基于公平、透明和合法性等主要特征。所以……

如果一项服务试图向你提供一些不公平的东西，因为你的性别或性取向或你的多样性是什么，那么这与英国 GDPR 的核心原则相违背，并且处理这些数据很可能是非法的。这就是欧洲以及越来越多地在全球范围内声明的监管机构所在。所以我们看到

因此，这种数据保护的传播，这种基于规范的服务，试图解决围绕缺乏公平性和透明性的问题。

但同样，因为它试图使服务透明化，作为儿童和父母，你们需要有足够的意志力来说，我不会使用我知道不公平、不透明并且会处理我的数据很差的服务。这位同事说，如果你不拥有它，你就不能利用你的数据。

我们的研究表明，孩子们觉得他们的数据是他们唯一的筹码。这是他们获得服务访问的唯一工具，因此他们为了获得他们想要使用的服务而放弃了它。作为监管机构，我们的作用是努力推动和规范年龄适当的设计和安全设计、数据保护设计。

服务应该以一种儿童不必做出这种权衡的方式进行设计。但只要它还在那里，我认为父母和孩子仍然需要在他们所做的事情上拥有所有权，能够在他们认为某些事情不公平、潜在危险或非法时说不。因此，回到跨国监管要素，我认为我已经在一定程度上涵盖了这一点，但是

此外，在这个领域正在发生的事情是，我们从数据保护开始，现在这种保护性监管环境已经转向安全设计。在英国，我们有 Ofcom，它现在正在监管《在线安全法》。在欧洲，欧盟委员会及其监管机构越来越多地监管《数字服务法》。

澳大利亚的电子安全专员也在做同样的事情。因此，这些在线安全法案也在传播。所以这非常有希望，而且我对此感到非常兴奋。在英国，我们 ICO 和 Ofcom 的同事定期互相交流，讨论我们如何协同合作并一致行动，以确保在线安全和数据保护协议。

安全设计和数据保护设计内置于服务中。这将有所帮助。随着 DSA 的推出，欧盟的力量也将有助于在跨国范围内取得进展。因此，虽然情况并不完美，但我认为它们正朝着我们看到更有效监管、更大灵活性的方向发展。

将儿童安全设计和在线保护设计的问题提上许多国家的议程。如果你看看规范本身，第一个原则是儿童的最大利益。

世界各地所有这些儿童 ADC 规范都将儿童的最大利益作为第一原则。我对此感到非常自豪和高兴。我希望这是我们前进的方向，以推动这一进程。非常感谢。感谢各位专家，再次感谢青年大使们。我们将进入问答环节。我认为我们在这里有一个非常好的完整时刻，回到这些……

监管如何本地化，但也具有普遍适用性。所以现在我想开放提问。我想尝试在专家组之间分配问题。我可能会说，有人对这个人有什么问题吗，只是为了确保我们涵盖了专家组。当然，你也可以向青年大使提问。

提醒一下，如果您在线上，请使用问答框并尝试提出简短的问题，请告诉我们您是谁，以便我们知道，并告诉我们您想向谁提出问题。但如果这是一个针对专家组的普遍问题，那也很好。所以我认为我们将从房间里开始。在让专家组发言之前，我将提出大约三个问题。

是的，我们的同事会拿着麦克风来找你，以便我们的在线观众能够听到你说的话。非常感谢。我的名字是 Mehdi Skarir，来自牛津大学。我不太确定迈克尔是否刚刚回答了这个问题，但在 2025 年 1 月 26 日，也就是特朗普总统第二任期的就职典礼上，

在那之后不久，大公司放松了他们最初的，我称之为防御性保护措施，以应对仇恨言论和儿童引诱。他们实际上已经大大减少了这种措施，或者甚至完全取消了这种措施。我们能做什么？

向大型公司、大型科技公司施压，让他们收回他们为放松而采取的这一步骤。谢谢。所以我将再提出两个问题。谢谢。所有谈话都非常有趣。当您谈到普遍原则，然后从地方角度思考时，您是否认为区域行为者，尤其是在全球南方，在一些科技公司的年收入是许多试图监管它们的公司的 GDP 的许多倍时，是否发挥作用？

谢谢。最后一个问题。好的，我们将回答这两个问题，然后我们将回到观众席，然后我们将转到我们的在线观众。所以我们有一个问题是给迈克尔的，另一个问题可能是给所有人的，任何觉得有必要回答的人都可以回答。我先问迈克尔。

好问题。首先，我们可能无法对美国的内容审核做任何事情，尽管我认为

美国联邦贸易委员会的新领导层很年轻。它非常关注儿童保护和数据权利，或者说是儿童保护，我应该说，尽管他们更关注父母的责任和父母的力量，而不是欧洲关注儿童的最大利益和年龄适当的设计。从英国或欧洲的角度来看，

在英国，《在线安全法》对内容审核和在线安全规则有要求。因此，这些大型服务必须遵守英国或欧洲根据 DSA 制定的法律。

很可能会有不同级别的访问和内容审核。现在还不太清楚情况会如何发展。但所有这些服务都在欧洲设有办事处。它们将属于数据保护和在线安全法规的范围。

在他们在这里运营的欧洲地区。因此，他们需要遵守法律。我认为我们不会强迫他们在美国改变这一点。这不是我们的责任，但我们可以促使他们在我们可以监管的领域遵守法律和合法行为。

我认为这大概回答了第一个问题。我应该从第二个问题开始，然后我再交给别人吗？是的。区域监管。欧盟就是一个区域监管的绝佳例子。我认为 DSA，

从这个意义上来说，它展示了可以做些什么。我不知道还有其他任何区域机构拥有欧盟所依据的相同法律依据。然而，所以我认为在大多数情况下，需要加强国家立法。然后我又觉得

越来越多的国家拥有年龄适当的设计规范，它扩大了监管预期，也扩大了这些国家的监管负担。如果 ICO 试图监管所有 10 万家符合该规范的公司，那将非常困难。

但是，如果我们的欧盟同事也在监管，我们的澳大利亚同事、尼日利亚同事和印度尼西亚同事都在监管，那么最终你将开始看到这种全球范围内的实践变化，而不仅仅是在欧洲或地方层面。这很难，但我们知道非洲联盟正在关注这个问题，例如。这是他们的首要议程。这是七国集团的首要议程。

我们的同事在，我们有一个国际年龄保证工作组，该工作组拥有来自各大洲约 30 到 40 个数据保护组织的代表，他们都在研究如何更好地做到这一点。首先，识别谁是儿童，然后将这些规范对这些儿童的保护应用于这些儿童。存在国际合作，但可能不是你目前希望的那样，仅仅是因为我们在欧洲以外没有法律结构来做到这一点。

谢谢。Sakshi，然后是 Adam？是的，我可以。也许这说到了这两个问题。但只是为了补充迈克尔的一点，我认为另一个巨大的挑战，无论是区域合作还是科技公司对在线安全的问责制，在很大程度上都是安全问题。

和资金，尤其是在区域地区，尤其是在全球南方，无论是研究，还是，你知道，建立这些合作社区，并将其真正提上政策制定者和研究人员的议程。我认为只是

举个例子，回到关于追究科技公司责任的问题，儿童面临各种在线风险。在我看来，也是因为我们确实在处理这个问题，最紧迫的风险之一是技术促成的儿童性虐待和伤害。

这种行为对儿童的影响程度不仅仅是地方性的。所以，是的，全球南方有很多儿童接触到这种有害内容，无论是多余的图片还是引诱，但这也很有害。

在全球北方也是高风险。但是，围绕这个问题的研究还不成熟，也没有达到我们可以真正解释的程度。我认为我们花了很多时间，特别是联合国儿童基金会正在努力突出这一点。

这个问题，并将其提上科学议程和政策议程。我知道联合国儿童基金会特别是在建立区域合作和与各国政府合作方面做了很多工作。所以有一些行为者正在关注这个问题，并将这些问题提上政策议程、科学议程。但是，我认为研究真的没有

达到标准，我认为一个巨大的挑战仍然是投资和资金，尤其是在 DI 问题提出的情况下。目前国际资金已被大幅削减

尤其是在我关注的领域，即亚洲儿童、非洲儿童，即使获得资金也不是那么容易，而且通常参与式研究、真正创新的方法论，这些方法论将帮助我们弥合差距并找到解决这些问题的方案，确实需要投资。所以这是一个简短的呼吁。然后我把它交给你们。

当然。关于美国政策框架的问题，我实际上认为儿童保护是美国两党共识的罕见领域之一，即使是在联邦层面和州层面也是如此。所以关于成年人的更广泛的内容审核和在线安全辩论，当然，这是相当

相当政治化的，而且各不相同。但围绕儿童保护存在一些共识，这值得庆幸，在某些方面也相当引人注目。所以我不会

我预计在明年可能会看到一些监管行动，以及对美国科技公司在儿童保护方面的问责制，至少是这样。就区域情况而言，没有什么比支离破碎的监管环境更让公司讨厌的了。而且

更多的关键市场，甚至不是，你知道，对公司来说不是主要市场的市场，可以采用类似的监管标准，它们更有可能在其公司产品中反映这些利益。迈克尔所说的数字力量论点。我认为公司通常会接受更高的行政和监管负担，如果这意味着一致性的话。所以我认为……

更多的人可以协调一致，看看，你知道，其他关键市场正在做什么，然后尝试提升或修改他们的制度以满足这种一致性。我认为越好。这只是，试图为每个司法管辖区制定不同的方法是一场噩梦。所以一致性是关键。我认为许多公司都会欢迎一种更区域化、更全球化的做法。我现在想提出一个，

一两个，但非常简短的问题和非常简短的答案，来自在线观众，特别是如果有一个问题可能是给迪伦的，那么来自在线观众，我不确定我应该看谁，是的，哦，有一个是给迪伦的。是的，完美。这是一个评论。它说，向迪伦致敬。我完全同意你所说的。谢谢。

只是为了补充这一点，因为我一直在听，你知道，我们谈论的很多事情仍然是成年人代表孩子们做出决定。几年前，我做了一个名为“对策”的项目，目的是试图教孩子们了解他们设备中存在的传感器，它收集的数据类型，以及数据去向。我们正在使用基于艺术的方法来做到这一点。而且

很多孩子，他们不知道，你知道，我自己也必须拆开很多技术并玩弄它才能理解设备（如开关、Alexa）中这些传感器的程度，甚至是如何阻止 Alexa 监听你的想法，把它关掉。在所有孩子中，没有人想到这一点，你知道，所以……

这种程度的，是的，我们可以教他们，我们可以在学校教他们，但这些都是非常复杂的事情。我相信，使用这些技术，将它们拆开，破解它们，用不同的方式思考它们，实际上可以让我们从更大的角度来看待问题。我想说的一件事是，我忘记了，我们还没有提到的是，所有这些技术都与气候危机交织在一起。而且

过去十年来，我与之合作的每个项目的每个孩子都提到了气候危机以及他们对气候的担忧。这些技术正在推动气候危机。人工智能，你知道，锂的开采，所有这些事情，所需的水量。孩子们知道这一点。

非常年幼的孩子知道这一点。他们意识到这一点。他们比许多成年人更批判。我认为，回到倾听他们声音的问题，我们也可以从他们那里学到很多东西。只是关于这个问题的快速补充，你这么说很有趣，因为在我们所做的工作中，我们检查了孩子们对人工智能性别的态度，当他们了解人工智能的环境影响时，他们实际上减少了他们会提出的提示，因为他们认为这是

这浪费了这么多能量，这使用了这么多水。他们对此非常清楚。这很了不起。你可能已经看到了新闻，你知道，因为我们都很礼貌，我们会对人工智能说“请”或“谢谢”，这实际上正在消耗大量的自然资源。但是孩子们意识到这些事情，他们立刻就怀疑这会造成气候破坏。这是什么？告诉我这是什么。你有点像，好吧，这相当复杂。但我们今天还没有谈到这一点。是的。

谢谢。今天的会议时间很短。不幸的是，只有一小时。我想把最后一句话留给我们的三位青年大使。所以我要问……

首先是 Srishti，然后是 Aisling，然后是 Filipos，只是说一两句话作为最后的反思和告别，向今天的专家组和观众告别。所以 Srishti。非常感谢你们所有人。这非常有启发性，也很鼓舞人心。我一定会进一步研究你们所说的内容，例如迈克尔提到的设计规范，全球南方，就像盖格博士一样。是的，

更多关于隐私、偏见和气候风险的内容。我觉得这很有趣。谢谢你们。谢谢。Ashley？我只想说，我很荣幸能获得这个机会，并听到专家组对捍卫青年声音如此强烈的意见，因为这是一个对我来说非常重要的问题。只是关于

我提出的三个问题，我喜欢原则转化为地方性的联系，以及这如何以许多不同的方式适用。谢谢。非常感谢。Filipos？对我个人而言，我非常感谢这次讨论，也感谢你们回答我的问题。看到教育工作和为公司制定政策的工作如何实际上可以相互关联，以及公司如何通过政策将儿童纳入他们的行动和产品中，这非常有趣。所以我认为这很有趣，我很感谢有机会参与这次讨论。非常感谢。谢谢。

非常感谢专家组进行了这次非常丰富和充满活力的讨论。今天很高兴讨论如此广泛的一系列问题。感谢各位观众的到来，感谢在线观众的到来。

感谢您的收听。您可以在您最喜欢的播客应用程序上订阅 LSE Events 播客，并通过留下评论来帮助其他听众发现我们。访问 lse.ac.uk/events 以了解接下来有什么活动。我们希望您很快能加入我们参加另一个 LSE Events 活动。