We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode (Preview) Meta’s Moderation Changes, Tech’s Evolving Political Calculus, The Importance and Difficulty of Maintaining Principles on the Internet

(Preview) Meta’s Moderation Changes, Tech’s Evolving Political Calculus, The Importance and Difficulty of Maintaining Principles on the Internet

2025/1/14
logo of podcast Sharp Tech with Ben Thompson

Sharp Tech with Ben Thompson

AI Deep Dive AI Insights AI Chapters Transcript
People
A
Andrew Sharpe
技术政策分析师和播客主持人,专注于大科技公司和政府政策的交叉点。
B
Ben Thompson
创立并运营订阅式新闻稿《Stratechery》,专注于技术行业的商业和策略分析。
Topics
Ben Thompson: 我赞同Meta调整内容审核策略,我认为这并非向右倾斜,而是找到了更有效的方法。模仿Snapchat的故事功能就是一个成功的例子,证明了有时候模仿是正确的策略。在软件领域,虽然有无限的可能性,但最终的限制是用户的注意力,产品必须满足用户的需求。Meta的策略调整类似于微软将Office引入iPad,以及马斯克的社区评论方法,都体现了优先满足客户需求的重要性。 Andrew Sharpe: 我认为Meta的调整是必要的,因为之前的审核机制存在重大缺陷。2016年特朗普当选后,以及COVID-19疫情期间,之前的审核机制在应对错误信息和有害言论方面都失败了。对有害言论和错误信息的定义被过度扩展,导致了疫苗怀疑论盛行,以及对儿童健康的损害。容易找到不良言论并不代表整体讨论的价值,中央审查机制的建立也表明了人们对言论审查的渴望,而非对言论自由的坚持。我们需要根据新的信息更新之前的观点,认识到言论审查的负面影响,以及可扩展性解决方案的重要性。社区评论系统虽然不完美,但它是目前较好的选择。 Ben Thompson: 我认为Meta调整内容审核策略是正确的,这并非向右倾斜,而是找到了更有效的方法。模仿Snapchat的故事功能就是一个成功的例子,证明了有时候模仿是正确的策略。在软件领域,虽然有无限的可能性,但最终的限制是用户的注意力,产品必须满足用户的需求。Meta的策略调整类似于微软将Office引入iPad,以及马斯克的社区评论方法,都体现了优先满足客户需求的重要性。可扩展性是解决大规模内容审核问题的关键。 Andrew Sharpe: Meta之前的审核机制存在重大缺陷,在COVID-19疫情期间表现尤为明显。对有害言论和错误信息的定义被过度扩展,导致了疫苗怀疑论盛行,以及对儿童健康的损害。容易找到不良言论并不代表整体讨论的价值,中央审查机制的建立也表明了人们对言论审查的渴望,而非对言论自由的坚持。我们需要根据新的信息更新之前的观点,认识到言论审查的负面影响,以及可扩展性解决方案的重要性。社区评论系统虽然不完美,但它是目前较好的选择。

Deep Dive

Key Insights

What is the significance of Meta's shift in moderation policies?

Meta's shift in moderation policies reflects a move towards more scalable solutions for handling speech on large platforms. The company is adopting approaches like community notes, which rely on user-driven consensus rather than centralized fact-checking. This change is seen as a response to the failures of previous moderation systems, particularly during events like the COVID-19 pandemic, where suppressing dissenting voices led to unintended consequences like increased vaccine skepticism.

Why is the community notes system considered a better approach for moderation?

The community notes system is considered a better approach because it is scalable and relies on user-driven consensus rather than centralized fact-checking. It allows for a more representative and self-policing mechanism where different viewpoints must agree on a note for it to be approved. This system addresses issues like brigading and the challenges of defining truth in a global context with diverse value systems.

What were the consequences of the moderation policies during the COVID-19 pandemic?

The moderation policies during the COVID-19 pandemic led to the suppression of dissenting voices on issues like vaccine efficacy, school closures, and COVID origins. This suppression contributed to increased skepticism of vaccines in general, including those for diseases like measles. The policies failed to achieve their intended goals and instead caused broader societal mistrust in public health measures.

How did the centralized fact-checking system fail in social media moderation?

The centralized fact-checking system failed because it imposed a particular point of view, often aligning with traditional media consensus, which did not resonate with diverse global audiences. This approach led to the suppression of dissenting voices and created a disconnect between the moderation apparatus and the users it was meant to serve. The system also struggled with scalability and the complexity of managing truth in a global context.

What lessons can be drawn from the moderation challenges of the past decade?

The past decade's moderation challenges highlight the importance of scalable, user-driven solutions like community notes. Centralized moderation systems, particularly those that suppress dissent, often fail to achieve their goals and can lead to broader societal issues like increased skepticism of public health measures. The evidence suggests that allowing free speech, even if it includes some harmful content, is crucial for maintaining trust and addressing systemic harms.

Chapters
This chapter explores the strategic brilliance of Meta's adoption of features from other platforms, using the example of Instagram Stories. It questions whether copying can be a successful strategy, particularly in the context of software's malleability versus hardware's constraints.
  • Meta's strategic copying of features from other platforms is discussed.
  • The contrast between hardware's and software's design constraints is examined.
  • The importance of user needs and product utility is highlighted.

Shownotes Transcript

您好,欢迎收听Sharp Tech的免费试听版。嗯,很遗憾,Snapchat想出了一个主意,让庞大的Facebook过来,拿走它想要的东西,并在更大的规模上实施它。但从战略角度来看,优雅而有效。干得好,扎克伯格。我能解释一下吗?是的,请说。你为什么认为这个比喻很贴切?好的。

好的,所以我又读了一遍这篇文章。你在这篇文章的开头将三星与苹果iPhone的设计进行了比较或赞扬,并在执行中。哦,这始终是我最喜欢的观点之一,因为每个人都总是抱怨三星抄袭iPhone。我说,看看iPhone之前的其他所有手机公司。他们都死了。有时候模仿是正确的做法。

对。所以你写道,可以肯定的是,硬件的物理限制会更快地导致一个理想的解决方案,这个理想的解决方案就是iPhone的外形尺寸。软件的无限可塑性似乎为创造原创作品提供了更广阔的画布。然而,即使有可能构建几乎任何东西,最终的限制仍然是最终用户的注意力。

他们实际上想做什么?你的产品是否能帮助他们做到这一点?然后你继续赞扬Meta和Instagram Stories的策略。但在这里,即使在软件领域,拥有一个理想的解决方案或理想的框架,也让我想起了这里的言论问题。因为媒体中的一些人将Meta的改变描述为扎克伯格向右倾斜。

但首先,Meta不应该为这种偏向于更多言论而非更少言论的观点现在被保守派编码负责。其次……

Meta可能只是更接近于一个更好、更聪明的答案,即这种规模的平台应该如何处理言论问题。马斯克提出了社区评论的方法,而且它确实有效。这就是像Meta这样的公司应该处理所有这些困境的方式。是的,所以最终就像……

那里的相似之处在于,这只是一个更好的主意,而Meta正在认识到这一点并加以部署。是的,这说得通吗?是的,说得通。我认为社区评论确实早于马斯克,但这就像我祈祷萨蒂亚·纳德拉改变微软的方式一样,他第一次重大举动是将Microsoft Office放在iPad上,即使它当时还没有准备好用于Windows 8的触摸界面,

而且我总是会受到微软员工的抵制,比如,“嘿,这是在史蒂夫·鲍尔默领导下开发的。”我说,我不在乎是谁开发的。重要的是共鸣以及你实际改变优先级和关注点的方式,即“不,这实际上是我们打算做的。我们将成为跨平台的。我们将满足客户的需求。我们不会削弱——

一些产品来偏袒另一个产品,你知道,微软陷入的那种狗尾续貂的情况。我认为这对社区评论来说是公平的。这在马斯克接管之前就已经存在了。他把它变成了一个更大的事情。并与取消他们的事实核查机制相结合,呃,

是的,我的意思是,代表,没有什么事情是完美的。首先,这是要达到的总体目标,我们将讨论许多人对此的反对和异议。但现实情况是,我们正在处理非常混乱的事情,而且没有正确的答案。在这种情况下,你必须对我们的优先级进行排序。比如,什么才是最重要的?什么有效?

对于社交媒体来说,当面临任何人都可以发布、任何人都可以发布任何内容的规模挑战时,有效的解决方案也必须具有可扩展性。我认为——你之前说过一句话,只要我还在正确的安德鲁列车上,关于他们之前取消了他们的事实核查员大军。

Facebook试图解决这个问题的方法是,看,我们不想参与定义真相的业务,他们将事实核查外包。对。事实核查承包商,对吗?没错。所以你拥有所有这些传统媒体组织,它们建立了专门从事事实核查的整个组织。你有一些人,他们的职业就是官方事实核查员。问题是——

我的意思是,关于社交媒体如何形成某种共识思维方式,存在更广泛的讨论。我认为这在传统媒体中最普遍。你有一种强加特定观点的情况。

这不仅仅是——在美国最贴切,因为在美国,我们的文化战争非常明显,基本上是全世界的奇观。有史以来最伟大的娱乐产品之一就是美国的文化战争。终极真人秀。它让大家在圣诞假期非常忙碌。我可以告诉你很多,而且它仍然是。

但现实情况是,这也是一个全球性问题。不同的地方和不同的人有不同的价值观。关于你将如何管理和组织它,这是一个非常棘手的问题。我认为社区评论系统的问题在于,你可以通过说放弃了问责制来批评它,而且谁知道是谁

这些实际的社区评论检查员是谁?但实际上,它也更好地代表了那些被服务的人。这是一种自我监管的机制,我认为它运作良好。关于X如何做到这一点,有很多有趣的事情。不同的人可以提出社区评论,但它必须达成某种共识。

并且对笔记记录者及其批准和否决的内容进行跟踪。必须有一些方面的人经常不同意,必须在特定笔记上达成一致才能奏效。所以它试图对抗社交媒体的挑战之一,那就是你会得到某种联合攻击效应,人们会聚集在一起

我们已经看到,例如,为了反对某个帖子或举报。当你进入举报系统时,这是一个挑战,比如举报人们的可恶言论或DMCA。或者人们会轰炸人们的Yelp页面等等。没错。自从互联网诞生以来,这在互联网上一直是一个问题。没错。所以社区评论并不完美。在这方面可能会造成问题,但DMCA,

有一些东西,就像你在黑暗中摸索着解决这些与规模相关的各种问题一样。我确实认为,作为一项普遍原则,可扩展的解决方案从长远来看会更好。社区评论以积极的方式具有可扩展性,以一种赋予普通话班级从高处统治什么是真什么是假的方式,我认为这并不适合数十亿人的网络环境。

对。好吧,我认为你刚才说了几件事。首先,社区评论并非完美的解决方案,对于那些非常非常棘手的问题,人们在互联网上已经尝试解决和努力了30年,现在规模更大,并没有完美的解决方案。但许多这些问题并不一定都是新的。社区评论可能是几种糟糕的规模化审核选项中最好的一个,但是

另一个因素是,我们在2016年特朗普当选后目睹了,在那些年里开发的审核机制是

COVID发生了,就像对这些政策的网络影响进行的一次大规模测试。我会说,那里有一些非常响亮的失败,扎克伯格对此很诚实。但无论你是在谈论疫苗信息,以及获得疫苗是否必要,COVID的起源,学校停课对儿童的影响,以及

COVID的传播方式。这些都是非常有争议的问题。并且经常压制那些不同意主流媒体共识的声音。事实证明,许多这些声音可能是正确的。因此,无论你是否将拜登和特朗普从等式中移除,在过去的八年里,

扩大有害言论和错误信息的定义并没有达到其预期目标,因为显然疫苗怀疑论达到了前所未有的高度,在疫苗方法之后。这一个真的让我很困扰,因为我当时想,

当强制令出现时,我当时很生气。这将是一场灾难。它之所以会成为一场灾难,与COVID无关。这与我们,我们有非常重要的疫苗,它们是,

这将广泛转化为对所有疫苗的怀疑。这正是我们所看到的。关于麻疹疫苗等渗透率的数字正在出现,这些数字甚至比五年前低得多。那是……而这些是……

你甚至无法争论。我,你甚至可以在当时争论这一点,对吧?就像,就像,就像有什么地方出了严重问题。在2016年至2020年之间所有这些审核辩论中,对于98%的时间来说,这是一个艰难的立场,而且我们也许可以达到2%,我非常坚定。言论自由很重要。就像,它实际上很重要。你总是从理论上争论,比如,

是的,你试图限制的危害是可见的,但如果你不允许言论自由,如果你不允许异议,即使你想要做的95%的事情实际上是错误的,你也会给系统带来系统性危害,对吧?5%非常非常重要。我对那些没有回顾COVID并意识到这一点的人感到有些沮丧。

它不再是理论了。你遇到了疫苗问题。不再是一个抽象的论点。它变得非常具体。学校的事情很疯狂,对吧?就像我今天仍然和人们谈论,

他们不明白COVID死亡人数的年龄差异,以及大多数COVID死亡人数是80岁以上的人的事实。而且,你知道,对孩子的风险非常大,如果你只是放大并从理论上讨论作为社会我们想要优先考虑什么以及什么最重要,

我认为每个人都会说孩子是最重要的,对吧?就像我们的未来一样。有很多关于这方面的陈词滥调。然而,当时,几乎无法进行这种讨论。现在我们正在承担后果。而这里的挑战是你总是可以找到坏的例子

你想审查和限制的坏言论。这可以追溯到我们关于信息永远留在互联网上的说法。顺便说一句,还有搜索。所以你,这是世界上最容易写的报道。你进入Twitter,进入搜索栏,输入一些令人反感的内容。你会找到20条这样的推文。然后你写一篇报道,是的,Twitter上存在这种可怕的趋势。人们在X、Y、Z上打字。

问题是,首先,这并不一定具有代表性。其次,你创造了这种,就像,我只是,这必须是,人们怎么能不把这看作是警钟呢?你首先拥有了

中央审查人们的手段,人们绝望地伸出手来。对言论自由的承诺结果证明是能力问题,而不是原则问题。然后第二点,你可以很容易地找到坏东西

对于整体价值或整体讨论来说,这并不是决定性的,现在我们正在承担后果,我们在多年后正在承担后果,在2017年你必须说,从理论上讲,这就是为什么你需要言论自由,所以我今天要支持它,现在你可以指出证据,我认为有些人需要更新他们的先验知识,就像所有

每个人都是这样。是的,我的意思是,这就是我非常同情Meta现在提出的改变的原因,因为关键在于,事后看来,即使你同意前审核制度背后所有意图,这些政策的目标也没有实现。他们正在监管COVID疫苗怀疑论,现在对所有疫苗的怀疑都在上升。

特朗普被踢出了主要的社交媒体平台,但他赢得了选举,并且在美国的几乎每个群体中都更受欢迎。所以无论他们试图用这些政策做什么,都没有有效地完成,并且造成的麻烦比解决的麻烦更多。这是一个非常重要的观点。这些都没有奏效。

那么我们试图做什么?就像,就像为什么你必须更新信息一样,即使你曾经认为不同的事情,看看过去几年的证据,就像所有,以及人们认为需要通过某种审查来捍卫的许多社会问题的进展。所有这些进展都发生在一个没有审查的世界里,对吧?就像,就像,就像一切都倒退了。好吧,有这些严格的控制正在进行。而且,而且,

我不知道。这几乎与我们的一些育儿建议以及思考世界的方式有关。

好了,这就是免费试听版的结尾。如果你想听到更多我和Ben的节目,节目说明中提供了订阅链接,你也可以访问sharptech.fm。这两种方法都可以让你访问个性化订阅源,其中包含我们每周制作的所有节目,以及来自Stratechery和Stratechery Plus捆绑包的更多精彩内容。查看一下,如果你有反馈,请发送电子邮件至[email protected]