🧐 AI Ethics in the Metaverse: Building Trust and Transparency
15:56 Share

欢迎收听AI Unraveled播客的新一期深度探讨节目。本节目由Etienne Nimmin创作和制作。他是一位资深工程师，有趣的是，他还是一位来自加拿大的热衷足球的爸爸。没错。嘿，如果您觉得这些对AI的探索很有用，请花一秒钟时间点赞并订阅AI Unraveled，无论您在哪里收听播客，也许是在Apple上。这真的对我们很有帮助。让我们为您带来更多此类内容。它确实如此。

所以今天我们要深入探讨一些相当复杂的东西，即AI伦理与元宇宙的交汇点。我们特别关注信任和透明度，它们是如何建立的，或者说受到了哪些挑战。

在这些虚拟世界中。是的。对于这次深度探讨，我们确实参考了相当广泛的资料来源。我们有文章、一些研究论文、各种报告，所有这些都在探索AI和元宇宙之间的联系。好的。所以我们这里的目标真的是为了提取对您来说最重要的见解。我们希望帮助您理解关键的伦理挑战，也许是一些新兴的解决方案，而不会被所有技术术语完全淹没。

没错。因为AI正在扮演越来越重要的角色，不是吗？您可以在智能化身、内容审核、推荐系统中看到它。对。因此，现在比以往任何时候都更需要关注伦理方面。哦，说到专业知识，如果您想加深您自己的AI知识……

也许是获得认证。您绝对应该查看Etienne的学习指南。啊，是的。这些书。是的。他编写了Azure AI工程师助理学习指南、Google Cloud生成式AI领导者认证学习指南，以及AWS认证AI从业者考试学习指南。内容非常全面。它们是很棒的资源。您可以在djamgalefleck.com上找到它们。我们会确保将链接放在节目说明中。好的，那么……

元宇宙，这个虚拟增强现实的整个景象，AI首先在伦理上在哪里展现其存在？我认为最根本的起点是数据、数据监控和隐私。这些元宇宙体验，特别是使用XR（扩展现实，如VR和AR），基本上都是数据工厂。数据工厂。好的。怎么会这样呢？好吧，想想看。

与仅仅点击网页不同，XR会捕捉您的身体动作、您的眼睛注视的地方、面部表情，甚至可能是生物特征，如心率，以及如果您使用AR，则包括您的物理环境。这是极其丰富的个人数据。比仅仅浏览网页的历史记录更私密得多。没错。而且AI系统会从这些数据中学习，以个性化您的体验。

但这为潜在的未经授权的监控、数据泄露、非常敏感信息的滥用打开了大门。人们通常是否意识到这一点？比如收集了多少数据？通常并没有真正意识到。研究表明，用户缺乏意识和控制。我们看到一个案例研究，我认为是Sansar，用户真的没有理解仅仅为了个性化他们的体验而发生的数据收集的程度。

仅仅是为了个性化他们的体验。所以这直接让我们回到了同意的问题，不是吗？但是，如何在旨在营造沉浸式和无缝体验的环境中获得知情同意呢？这就是挑战。当数据收集涉及您的实际动作和注视时，点击冗长的服务条款上的“同意”可能不起作用。

非常需要设计隐私，从一开始就融入隐私。设计隐私和更高的透明度。绝对的。明确的用户同意，关于如何处理数据的透明度，强大的数据保护，以及真正用户友好的控制措施。例如……

轻松退出，明确的删除数据的方法。因为否则的话，担心它可能会变成一种数字全景监狱。确实有这种担忧，是的。尤其是在考虑GDPR等法规的情况下，我们需要强大的保障措施，否则我们将面临大规模违反用户隐私的风险。好的，所以大规模数据收集是一回事。那么AI算法本身呢？你提到了个性化、审核。它们会带来自身的问题吗？哦，绝对会。算法偏差是一个巨大的担忧。元宇宙中的AI可能会继承

有时甚至会放大现实世界中的偏见。这可能会如何表现出来呢？好吧，考虑一下用于创建化身的AI视觉系统。如果它们是用有偏差的数据进行训练的，就像Boulamwini和Gebru的研究在面部识别方面所著名展示的那样，

它们可能难以准确地渲染女性或有色人种的化身，或者误解他们的表情。- 对，所以由于AI中的偏差，您的虚拟形象甚至可能不准确。- 没错。或者考虑一下AI审核。

而用某些数据集训练的AI可能会不成比例地将特定种族群体使用的俚语标记为有害的，同时却忽略了其他人的实际仇恨言论。这是一种微妙但非常有害的偏见形式。是的。推荐系统也是如此。它们很容易创造回声室，强化现有的观点，并限制对多样化内容的接触，就像现在网络上一样，但在沉浸式空间中可能会更强烈。

那么解决方法是什么？更好的数据？审核？以上所有。我们需要多样化的训练数据、持续的偏差测试、定期审核、关于这些系统如何运行的透明度报告。一些平台，如Roblox，将人工监督与AI审核结合使用。这是一种混合方法。对AI的人工检查。

对。为了建立公平性和信任。我们看到行业指南和法规正在趋同于这些原则。AI的公平性、问责制、透明度。它正在成为标准做法，或者至少是预期标准。好的，让我们再回到同意的问题上。你提到了冗长的服务条款。是的。如何在VR或AR中使同意更有意义？

这很复杂，因为游戏和现实之间的界限可能会模糊。用户可能只是通过接受最初的条款，就不知不觉地同意了广泛的AI跟踪。所以你需要新的方法来处理它吗？是的，绝对需要。直接集成到用户体验中的新颖解决方案。也许是当某些数据流处于活动状态时，在VR中清晰的弹出式通知，或者在虚拟环境中专门的控制面板。就像你的声音现在正在被录制……

某些特定的事情。诸如此类的事情。Metis Horizon World最初在语音录制透明度方面确实有一些问题，但他们后来添加了更清晰的隐私指南和功能，例如一个不会录制互动的安全区域。因此，让用户拥有更精细的控制权是关键。绝对的。控制他们的数据如何使用，也许是选择退出某些个性化功能，了解为什么推荐某些内容。同意不应该是单次点击。它需要持续、易于理解和可撤销。另一个领域。

身份。AI如何使在元宇宙中了解谁是谁变得复杂？好吧，AI能够创建令人难以置信的逼真虚拟代理，具有类人化身的机器人，然后是深度伪造。

AI可以几乎完美地模仿某人的外表和声音。所以你可能不知道你是在和真人说话还是在和AI说话。正是如此。这大大模糊了界限。你可能有冒名顶替的化身，旨在欺骗或操纵用户的AI机器人，也许是为了数据挖掘或更糟糕的事情。这听起来像是对全新级别身份盗窃的秘方。如果化身和语音安全没有得到优先考虑，它可能是这样。

这就是为什么有人在讨论验证技术，例如生物特征检查或基于区块链的身份令牌，以证明你是你所说的那个人。还有什么想法吗？比如视觉上标记AI？是的，有人提出过这个建议。世界经济论坛建议对AI控制的化身进行视觉标记，也许是用彩色轮廓或特定图标，以便清楚地表明这一点。而且法规也在赶上来。似乎是这样。

例如，欧盟的AI规则草案包括在与AI互动时进行披露的规定，这很可能扩展到虚拟世界。但是匿名性呢？人们喜欢在网上使用化名。对。这是一个微妙的平衡。你想要真实性，尤其是在金融交易方面，但也要有匿名性和创造性表达的空间，也许某些活动需要经过验证的身份，而其他活动则需要化名。这是平台需要谨慎处理的事情。好的，这引出了另一个担忧。

操纵和仅仅

心理安全。这些环境感觉很真实，对吧？是的。这意味着元宇宙具有无与伦比的能力来影响用户的心理。针对参与度进行优化的AI内容算法可能会使用细微的线索或以微妙的方式策划体验，从而巧妙地操纵行为。比在二维屏幕上更有效。可能是的。因为它更具沉浸感，而且可能不太明显。想想暗模式，那些具有操纵性的设计技巧。

在XR中，这可能意味着你无法避免的眼动广告，或者旨在培养成瘾行为的VR奖励系统。现实世界中是否有这种模糊界限的例子？好吧，Roblox上有一个沃尔玛广告游戏针对儿童。它本质上是一个未公开的营销游乐场，它引发了人们对模糊广告和游戏玩法的担忧，尤其是在年轻用户中。而AI可能会使这变得更加微妙，例如潜意识技术。这是一个理论上的担忧，是的。

欧盟AI法案实际上包括禁止使用潜意识技术或以有害方式利用漏洞的AI系统。那么来自其他用户的安全呢？在VR中，骚扰似乎会感觉更糟糕。

报告表明确实如此。在VR中，这种个人空间侵犯的感觉更加强烈。但是AI也可能在这里提供帮助，主动检测虐待行为，也许是基于空间距离、侵略性动作、语调，并进行干预。就像Meta在Horizon Worlds中的个人边界功能一样。

没错。这是一个创造个人空间的设计修复。核心伦理要求必须反对利用用户心理或漏洞，没有操纵性推动，没有成瘾循环，关于AI驱动互动的诚实性，以维持用户代理，一种责任关怀。责任关怀。我喜欢这个说法。因此，如果AI对内容安全体验做出决策，那么实际上是谁在管理这些空间呢？是谁

谁负责？这是个价值百万美元的问题，不是吗？目前，通常是平台公司自己制定规则，即公司治理。但我们也看到去中心化模式正在出现，例如

Decentraland的DAO，一个去中心化自治组织。DAO，所以用户治理。理论上是的。代币持有者对提案进行投票。它旨在赋予社区更多权力。但即使是这些模式也面临挑战，代表性问题，富有的代币持有者（鲸鱼）可能具有不成比例的影响力，有时投票率低。因此，从伦理上讲，这两种模式都不完美。

不一定。中心化平台需要其AI行为的透明度和明确的问责制、补救机制、人工审查选项、解释。去中心化系统也需要制衡，确保多样化参与和透明决策的方法，尤其是在AI本身参与治理任务的情况下。

听起来各处都需要透明度和问责制。绝对的。例如公共决策日志、尽可能开源代码、也许是独立的伦理委员会以及用户质疑AI决策或报告问题的明确渠道。我们看到平台开始发布关于AI审核的透明度报告，这是一个进步。好的，将这些结合起来，如果我们想在这些AI驱动的世界中建立信任，那么开发人员和平台需要关注哪些关键支柱？我认为有几个核心原则。首先，

设计透明度。明确AI何时运行，理想情况下，说明它为什么这样做。可解释的AI结果可以建立信任。例如，解释为什么推荐内容或为什么采取审核行动。没错。也许在VR中甚至可以使用可视化解释器。其次，公平性和包容性检查。

不断努力减轻偏差，多样化的数据，定期审核，与多样化的用户进行测试，甚至可能让多样化的伦理审查团队参与其中。并且公开这些审核。理想情况下，是的。第三方评估也可以提供帮助。第三是数据最小化和隐私保护措施。

再次强调设计隐私原则。只收集必要的信息，安全地保护它，也许在设备本身处理敏感数据，匿名化它，以及清晰的同意流程，可见的控制，如录制图标。说得通。还有什么？第四，用户代理和控制。最大限度地提高用户对其体验的控制权。安全工具、内容偏好、让用户选择退出某些个性化设置、对AI建议提供反馈。将权力还给用户。对。最后，问责制和治理结构。

明确的责任界限，用户在AI造成损害时寻求补救的简便方法，伦理官员、透明的政策、清晰的沟通，重要的是，准备好纠正AI错误。

与IE或OMMA3等新兴标准以及欧盟AI法案等法规保持一致也至关重要。是否有任何平台或例子可能正在正确地执行部分工作，或者至少展示了创新？好吧，我们提到了Roblox将AI与人工审查结合用于儿童安全，旨在执行现实世界规则。

这种混合方法很有趣。Horizon Worlds尽管早期存在问题，但通过政策更新、举报工具和个人边界功能来应对骚扰。他们还在研究AI语音审核等内容，希望能够兼顾隐私。还有Decentraland，DAO。这是一个引人入胜的民主实验。通过区块链实现透明度是一个优势，但是

但是他们面临我们讨论过的治理挑战，投票率、大型代币持有者的影响力。他们还结合使用AI审核和社区监督。那么负面例子呢？经验教训。沃尔玛Roblox游戏广告为我们需要透明度和意图提供了一个警示故事，尤其是在儿童方面。

你需要明确什么是广告，什么是游戏玩法，尤其是在AI策划体验的情况下。但是AI并非一无是处，对吧？是否有积极的用途正在出现？哦，绝对有。想想无障碍性。AI可以提供实时手语翻译或为视障用户描述场景。

正在探索AI治疗化身用于心理健康支持，但这当然也带来了一系列伦理问题。开放元宇宙联盟OMA3非常关注构建以用户为中心的元宇宙，这很有前景。所以如果你必须概括一下，

对于任何以道德方式构建或塑造元宇宙的人来说，关键建议是什么？好的，让我们总结一下。第一，从一开始就采用隐私和同意设计。第二，通过持续努力确保公平公正和包容的算法。第三，建立可解释性和用户意识，使AI可见且易于理解。明白了。第四，在需要时使用混合审核，将AI与人工判断相结合，并提供强大的用户安全工具。

第五，真正让用户参与治理，尤其是在去中心化平台中。第六，与不断发展的标准和法律保持一致。这个领域发展迅速。它确实强调了伦理在这里不能仅仅是附加内容。由于AI如此核心，它必须是基础性的。

没错。信任和透明度不仅仅是美好的想法。它们可以说是用户参与和这些虚拟世界长期生存能力的关键。这是一个持续的对话，对吧？是的。AI不断发展。元宇宙不断发展。因此，新的伦理困境将不断出现。毫无疑问。但是那些核心原则，透明度、公平性、问责制、隐私、用户赋权，

当我们驾驭接下来会发生什么时，它们仍然是重要的指导原则。元宇宙有可能成为一个真正以人为本的空间，但只有在我们现在优先考虑这些伦理问题的情况下才能实现。说得很好。好了。让我们给听众留下一个最后的思考。随着这些AI系统变得越来越嵌入式，在我们沉浸式体验中几乎不可见。

我们如何保持这种至关重要的平衡？在无缝沉浸的魔力与对塑造我们现实的系统的清晰度和控制的需求之间的平衡。

帮助何时会变成不透明的控制？值得思考的问题。好问题。感谢您加入我们进行这次深度探讨。最后提醒一下，如果您想提升您的AI技能或获得认证，请查看Etienne Newman的学习指南。Azure AI工程师助理、Google Cloud生成式AI领导者和AWS认证AI从业者。它们都在djmgatech.com上。是的，链接在节目说明中。