#29 The Top Four Ethical Considerations of AI in Design
12:10 Share

大家好，欢迎回到未来用户体验播客，这是您了解所有关于设计技术和未来、让您的设计职业面向未来并了解设计和科技领域现状的最佳来源。我的名字是帕特里夏·雷纳斯，我是本播客的主持人，我是一名在柏林工作的创新设计师和顾问，在那里我经营着自己的公司。

今天的主题是使用人工智能进行设计的伦理考量。这是一个非常重要的主题，我将与大家分享四个在人工智能伦理考量方面需要了解的事情。所以，我认为我们开始吧。

在我们深入探讨人工智能在设计中的四大伦理考量之前，让我们探讨一个真实的例子，它突出了人工智能在设计中的潜力。耐克的AI驱动设计系统Nike Fit使用计算机视觉和机器学习来精确测量顾客的脚部尺寸，并为他们推荐最合适的鞋码。

这只是众多使用人工智能的设计项目之一，当然，除了这个项目之外，还有很多设计工具，我们作为设计师可以在我们的设计工作流程中使用，例如图像生成工具，如DALI或Midjourney，或内容创作工具，如Jasper、Copy.ai或ChatGPT。

因此，我们作为设计师，当然非常好奇如何将人工智能整合到我们的设计过程中，为我们的用户创造更个性化和可持续的解决方案。所以，让我们来探讨一下使用人工智能进行设计的四个伦理考量。让我们从第一个开始，即人工智能中的偏见。

人工智能系统的偏见程度与其训练数据或使用这些数据的人员的偏见程度相同。因此，如果训练数据存在偏差，人工智能系统很可能会产生有偏差的结果。因此，设计师们确实需要意识到这些问题，并采取措施确保他们以符合伦理和负责任的方式使用人工智能。我之前在播客的几期节目中以及在Instagram上分享过一个例子。

我每天都在使用的工具之一是Midjourney。我喜欢Midjourney。它非常适合可视化，适合任何类型的内容。如果您需要创建故事板，如果您需要网站的任何视觉效果，它是一个很棒的工具。

但是这个工具完全偏向于用于训练Midjourney的数据。一个例子是，如果您要求该工具创建一个医院中医生的图像。

以及医院中的护士的图像。该工具为您准备的内容非常有趣。因此，Midjourney总是为您准备四张图像，然后您可以对其进行放大或进行变体处理。如果您要求一张医院中医生的图像，您会得到四张白人男性的图像。

这太疯狂了。所以完全没有多样性。当然，令人惊讶的是，并非只有男性是医生，对吧？这不是真的。当然，也有女性是医生。哦，这是因为那里使用的训练数据。

护士也是如此，这很有趣，因为当您要求一张医院中护士的图像时，您只会得到白人女性的图像。非常有趣，对吧？这也不是真的。当然，也有男性是护士。所以这不像典型的女性职业。所以有很多多样性。种族背景也是如此，对吧？所以并非所有护士和医生都是白人，显然，对吧？所以，是的，所以……

显然，情况并非如此，所以这是不真实的。图像之所以这样创建，是因为用于训练这些工具的数据就是这样。所以没有多样性。训练该工具的人，那些通过强化学习说“是的，这是正确的”的人，

可能不够多样化，以至于他们没有看到这些事情。因此，我们作为设计师，确实需要意识到这些问题，然后采取措施确保我们以符合伦理和负责任的方式使用人工智能。当我们看到这些偏见时，我们需要向他们举报。

这可能包括使用多样化和具有代表性的数据或训练数据，测试人工智能系统的偏差，并向用户透明地说明如何使用人工智能以及如何对其进行训练。这是我们绝对缺少的东西。好的，第二点，人工智能中的隐私。

因此，人工智能通常会收集大量用户数据，这可能会引发隐私问题。这些数据存储在云中，对吧？因此，设计师们必须确保用户了解正在收集哪些数据以及如何使用这些数据。因此，需要某种透明度。

我们作为设计师或对商业模式负责的人员，还必须采取措施保护用户数据免遭未经授权的访问或使用。说起来容易做起来难，对吧？因为当内容在云中时，当然会有一些泄漏。发生的事情很多，你无法真正控制。所以这绝对是一件非常冒险的事情。

因此，平衡人工智能的益处与对用户隐私的潜在风险至关重要。尤其是在考虑ChatGPT时，您基本上可以做任何事情。您可以问任何问题，很多人也将其用于工作，对吧？所以ChatGPT了解很多关于你的信息。

我们需要意识到这一点。尽管有一个新版本，您可以使用JetGPT，我认为这是一种付费工具，您可以将其用作某种商业工具，然后您可以对如何使用您的数据承担更多责任，我认为这很有趣，这是我们绝对需要为所有工具做的事情。所以这是我们在为人工智能设计、创建人工智能产品时应该记住的事情。好的，

第三点，人工智能生成的中的知识产权，这是目前正在热烈讨论的话题，所以人工智能生成的设计可能会引发关于所有权和版权的问题，我们必须确保他们有权使用和分发人工智能生成的设计，因为……

如果您使用例如Midjourney或图像生成工具并要求他们使用所有内容或某些元素创建某种插图或风格，例如米老鼠。

那么这真的很棘手，对吧？因为显然您无权在您的设计或出版物中使用米老鼠，您实际上需要购买其版权，如果您没有，您实际上不允许使用它们，与……相同

您在Midjourney中发布的作品是公开的，因此人们可以看到您创作的内容，并且没有任何保护，因此基本上任何人都可以使用创建的相同图像，您只需在线查找所有内容，因此没有保护。

所以，是的，必须确保用户了解谁拥有AI生成设计的知识产权，并且符合伦理的设计实践对于确保AI以用户的最佳利益为出发点使用至关重要，对吧？我的意思是，我们都是创意人员。所以我认为最糟糕的事情是，如果人们真的窃取了我们的作品。

然后像在背后复制我们的作品，然后将其放入一个基于我们创作的内容创建新设计的AI中。我认为设计行业还没有真正弄清楚如何处理这个问题，但这是一个非常重要的讨论，我们需要意识到这一点。知识产权非常重要。然后是第四点，这是人工智能中的透明度。

这绝对是一个非常重要的主题，因为我们确实需要对人工智能如何在设计过程中使用以及如何存储数据、所有事情会发生什么保持透明。在不同设计工具的各个部分中，都缺少很多透明度。对我们来说，我们确实需要告知用户正在使用人工智能做什么以及它最终如何影响设计。

这有助于建立与用户的信任，并确保人工智能以符合伦理和负责任的方式使用。很多人并不真正了解发生了什么以及正在发生什么。因此，非常诚实地展示，例如对正在发生的事情、如何训练数据、如何存储数据等保持透明，

人工智能是如何使用的，人工智能实际上接管了什么，这也会与我们的用户建立很多信任。因此，保持透明可以帮助识别潜在的伦理问题，并允许设计师在问题变得棘手之前解决这些问题。让我总结一下这四点。第一点是人工智能中的偏见。

所以，如果训练数据存在偏差，人工智能系统很可能会产生有偏差的结果。因此，我们确实需要意识到这些问题，并采取措施确保我们以符合伦理和负责任的方式使用人工智能。第二点：人工智能中的隐私。我们必须确保用户了解正在收集哪些数据以及如何使用这些数据。第三点：人工智能生成设计中的知识产权。

我们需要确保我们有权使用和分发人工智能生成的设计。第四点，也是最后一点，人工智能中的透明度。在那里，它是关于告知用户正在使用人工智能做什么以及它如何影响他们的设计的问题。非常重要的主题，绝对值得讨论、深入研究并真正公开并意识到

正在发生的问题，因为这实际上将决定整个AI设计讨论的成败。非常感谢您的收听，如果您想了解更多关于AI伦理、设计未来的信息，

您可以注册我的免费每周通讯，我将在其中分享资源、工具、技巧和窍门，帮助设计师了解设计行业的最新动态，并确保了解目前正在发生的事情。因此，您可以免费注册，您可以在描述框中找到链接。非常感谢您的收听，我们下次再见。