We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions![cover of episode Tristan Harris Is Trying to Save Us from AI [VIDEO]](https://megaphone.imgix.net/podcasts/2dc001f6-1d17-11ee-8371-c7eb98964777/image/f9e46876c74946700f17c88cf376d32c.jpg?ixlib=rails-4.3.1&max-w=3000&max-h=3000&fit=crop&auto=format,compress)
Tristan Harris Is Trying to Save Us from AI [VIDEO]
2023/12/19
What Now? with Trevor Noah
T
Tristan Harris
一位致力于推动技术行业采取更人道和负责的开发和使用实践的技术伦理专家和公益活动家。
Tristan Harris: 本质上，我不反对科技和社交媒体，而是反对那些导致我们当前社会扭曲的商业模式。我们致力于创造更有益于人类的科技，而非目前这种损害人类福祉的科技。社交媒体和AI的设计并未以人类福祉为核心目标，而是导致了信息过载、民主倒退、心理健康问题、成瘾等一系列问题。我们需要关注科技设计如何影响人类注意力，并通过改进设计来缓解科技带来的负面影响。无限滚动等功能虽然初衷良好，但在注意力经济的驱动下，却导致了负面后果。社交媒体的商业模式是获取大众注意力，而非服务于其他目标。讨论社交媒体好坏无关紧要，关键在于其商业模式是否鼓励负面情绪，从而引导用户行为。单纯地问科技好坏是幼稚的，需要关注其背后的激励机制。社交媒体的激励机制决定了其发展方向，而关注度是其核心激励机制。社交媒体的激励机制导致了诸多负面社会后果，例如成瘾、愤怒、两极分化等。改变激励机制需要多方协调，单一行为者的改变无法解决问题。科技公司之间为了争夺注意力而展开竞争，导致恶性循环，即“向脑干底部的竞赛”。我们需要学习控烟运动的经验，通过揭露真相和法律诉讼来改变科技行业的激励机制。41个州对Meta和Instagram的诉讼，为改变社交媒体激励机制提供了可能。社交媒体破坏了共享现实，导致人们对现实的认知出现分歧。为了重建共享现实，需要制定法律，规范信息传播，并鼓励平台优化内容，促进共识。Twitter的社区笔记功能是一个积极的例子，它通过事实核查和语境核查，促进不同观点之间的共识。所有平台都应该优化内容，以促进共享现实和积极情绪。为了改变激励机制，需要法律法规的介入，例如限制对未成年人的影响，以及规范信息传播。我认为18岁以下的未成年人不应该使用社交媒体。观察科技产品制造者如何使用其产品，可以判断该产品是否存在问题。
Trevor Noah: 就AI技术发展迅速，其潜在风险不容忽视。AI公司之间竞相发展AGI（通用人工智能），存在巨大风险。ChatGPT的出现引发了AI竞赛，各公司竞相发布AI产品，加剧了风险。2017年Transformer模型的出现，使得AI模型能够通过增加数据和计算能力来提升性能。AI模型会自行学习新的知识和技能，这使得其行为难以预测。AI研究人员也意识到了AI竞赛的风险，并寻求帮助。AI自动化科学可能会带来毁灭性风险，因为AI可能会发现能够摧毁文明的知识。为了避免AI带来的风险，需要谨慎地控制AI技术，并确保其掌握在值得信赖的人手中。AI竞赛的逻辑存在缺陷，仅仅追求速度而忽略安全，最终可能导致失败。科技公司声称能够控制AI，但这是一种错觉，因为开源模型和“越狱”技术的存在使得控制AI变得不可能。在AI模型安全机制完善之前，开源AI模型是极其危险的。“越狱”技术可以绕过AI模型的安全机制，使其回答危险性问题。避免AI带来的负面影响的关键在于谨慎地发布AI技术。需要独立的机制来监督AI技术的发展，以确保其安全。需要提前预判AI技术带来的风险，并采取措施来避免这些风险。
Christiane: 对AI技术发展表示担忧，并对AI怀疑论者持谨慎态度。
Deep Dive
Tristan Harris clarifies his stance on technology and social media, emphasizing his opposition to the business models that warp society rather than technology itself.
Shownotes Transcript