315: Tony Stubblebine, CEO of Medium, On Human Curation, Subscription-Driven Quality, and Fixing the Internet
35:22 Share

我们真正想要的是人类创作的内容，因为那比算法更好。我们仍然需要做匹配，对吧？算法在这方面真的很擅长。所以我们并没有取代算法。我们所做的是在算法中加入了非常重要的质量信号，而这些信号在之前并不存在。早上好，下午好，或者晚上好，这取决于你在哪里收听。

欢迎回到《人工智能与未来工作》播客，第315期。我是主持人丹·图尔钦，PeopleRain公司的首席执行官，PeopleRain是一个面向IT和人力资源员工服务的AI平台。感谢各位听众，我们的社区正在不断壮大。

您可能知道，我们最近推出了一份新闻通讯。请查看一下。我们将在节目说明中分享Beehive新闻通讯的链接。如果您喜欢我们的节目，请告诉您的朋友，并在Apple Podcasts、Spotify或您收听的任何平台上给我们点赞和评分。如果您留下评论，我可能会在接下来的节目中分享，就像来自我在华盛顿州西雅图的新朋友吉列尔莫的这条评论一样，他在一家名为亚马逊的小公司做市场营销。

吉列尔莫在做饭的时候收听我们的节目。他最喜欢的节目是与艾莉森·鲍姆·盖茨的那一期精彩节目，她是Semper Virans的传奇风险投资家和作家，节目中她谈到了她在人工智能领域的投资以及进入风险投资行业的秘诀。我们将在节目说明中链接到这一精彩节目。我们每周都会在节目中学习人工智能思想领袖的知识。当然，额外的奖励是，您每周都会获得一个关于人工智能的趣闻。今天的趣闻是：

克里斯汀·帕萨内齐在《哈佛公报》上写道，随着人工智能在更多行业中扮演更大的决策角色，伦理担忧日益增加。她写道，许多人担心，即将到来的AI时代是否会带来更快、更便捷的歧视和分裂我们的方法。算法决策的吸引力在于，它似乎提供了一种克服人类主观性、偏见和偏见客观方法。

但我们发现，许多决定谁应该获得假释、谁应该获得就业机会或住房的算法，都复制并嵌入了我们社会中已经存在的偏见，

目前，社会存在三个主要的伦理关注领域：隐私和监控、偏见和歧视，也许最深刻、最困难的哲学问题是人类判断的作用。鉴于人工智能的强大功能和预期普及性，一些人认为应该对其使用进行严格监管，但我们如何对其进行监管，对此几乎没有共识，因为

经常收听节目的听众知道，这是我们在节目中经常探讨的话题。我同意这篇文章中提出的许多观点。我们将继续在接下来的节目中探讨人工智能伦理和负责任地使用人工智能的话题。事实上，也许我们会在今天的谈话中深入探讨这个问题。当然，我们也会在今天的节目说明中链接到这篇文章。现在让我们转向今天的谈话。

托尼·斯塔布尔宾是广受欢迎且非常重要的出版平台Medium的首席执行官，该平台最近突破了百万订阅用户大关，并于2012年由埃文·威廉姆斯推出，埃文·威廉姆斯也是Twitter的联合创始人。

托尼是一位连续创业者，他还在Medium上出版《更好的人类》，并曾创立习惯指导公司Coach.me和Lyft Worldwide。托尼是各地作家的强烈倡导者，他经常谈论人类创造力以及为什么机器人不会接管。托尼获得了格林内尔学院的计算机科学学士学位。格林内尔学院加油！

事不宜迟，托尼教练，我很荣幸欢迎您来到《人工智能与未来工作》节目。让我们从您分享更多关于您杰出背景的信息开始吧。谢谢。我很高兴来到这里，丹。格林内尔学院肯定很高兴听到这个宣传。这是一所非常小的文理学院。

大约两年前，或者说两年多以前，当我接管Medium时，我的整个职业生涯都浓缩成“技术老兵”这个词。当我看到它时，我想，哦，这实际上非常贴切。我在科技公司担任过几乎所有职务，但大多是在规模较小的公司。我认为我工作过的最大公司可能有150名员工。Medium只有大约75名员工。

我做过程序员、首席执行官、企业家、经理、作家、出版商、编辑。作为一名企业家，我在公司里做过所有角色。我知道当你做簿记时QuickBooks的声音是什么样的。有一种哔哔声几乎会上瘾。你想……

每个条目都能让这种哔哔声的节奏持续下去。所以现在，我真的很喜欢这个例子。但你提到格林内尔学院很有趣，因为我认为

让我成功的原因是，我知道我想从事计算机科学，但我也知道我想接受更广泛的教育。所以我得到了它，人文科学真正教会了我如何写作。然后快进25年，我现在经营着一个出版平台。如果我走了一条更专注的道路，我认为这是不可能的。

Medium对我们许多人来说都是家喻户晓的名字。我想我们大约有100万读者和平台上的出版商。但假设有一些听众不熟悉它，请描述一下Medium是什么，以及Medium的愿景和使命。

我认为互联网上最重要的声音，也是我认为在现代忙碌经济中迷失的声音，是那些拥有专业或深刻个人经验的业余作家。这让我对互联网感到兴奋，在

2005年左右，当时用户生成内容的趋势兴起。当时，我在一家专业媒体公司O'Reilly Media工作，该公司编写编程书籍。当时互联网的大部分内容都是由阅读这些O'Reilly书籍的人创建的。所以我了解专业的……

信息是什么样的，我们看到所有这些业余信息层出不穷，涵盖了我们永远无法涵盖的所有领域，并且做得比我们更好。所以在那一刻，我真正尊重业余写作，因为重要的不仅仅是文字的质量，还有其背后的经验质量。

快进到我们现在所处的位置，互联网的激励机制实际上要求，为了被听到，你必须擅长

优化我们周围的所有算法。你必须为谷歌搜索算法写作，你必须为病毒式传播写作。而这在人工智能生成内容出现之前就已经是现状了。现在，大量人工智能撰写的内容充斥着互联网，更增加了这一切。我认为这些因素的结合使得很难找到

找到那些太忙的人。根据定义，我想听到的人太忙于生活，以至于懒得学习所有这些技巧。所以当我两年前接管Medium时，我们做出的主要和主要的改变是重新设计我们的推荐系统

让人工编辑重新参与进来，以便他们可以根据人们所说内容的质量来发现人们，而不是大多数推荐算法所依赖的流行度信号。所以有句老话，如果你没有付费，你就是产品。这是真的。正如我们在社交媒体上都知道的那样，

我会创造一个术语，社交媒体平台上内容的“短格式化”对我来说是一种反Medium的现象，就像你去…… 找到一小部分真相或完整思想的一部分，而Medium是一个让你去的地方

听到完整的思想并进行更有思想的对话。这并非旨在作为Medium的广告，但也许可以谈谈您如何看待社交媒体平台与您在Medium上构建的内容。我认为你在这里说对了，存在激励问题。它实际上归结为商业模式。我不是说

而且，我认为在社交媒体平台上，你对平台所做的任何调整最终都会改变其整个动态和系统。我们做出的主要调整是考虑一下，如果我们有一个激励系统，你作为客户而不是产品来销售，那会是什么样子。在广告驱动的商业模式中，你就是产品，你的注意力被卖给了广告商。

我们作为作家知道，这会改变写作质量的激励机制。这几乎是违反直觉的，如果写作过于引人入胜，那对我们来说是不利的，因为那样你不会注意到它。所以你希望它只是足够引人入胜。这就是你得到如此多内容的原因，比如……

它充满了情感。它会引发所有这些情绪，因为它会让你点击。我们改变了，围绕付费订阅构建了整个系统。所以我们有100万付费订阅用户，而每月访问人数大约为1亿。

这使我们能够专注于不同的目标，即如何将一篇你愿意付费阅读的文章放在你面前？这是一个非常不同的目标。然后，我们所做的其他一切都是基于这个决定。所以……

Medium的人类创作方面。任何体验过Medium的人都知道，这是体验的核心部分。我们都知道，在更传统的社交媒体平台上，算法生成的Feed很糟糕，因为它们的设计目的是操纵用户。

它是一种稳定的点滴式麻醉剂。它让你保持专注并滚动到下一个内容。所以这很糟糕。但我必须问一个相关的问题，那就是，托尼，你和你的团队承担了很大的责任。当你成为我感兴趣内容的仲裁者时，你正在决定我不应该看到什么。你是如何考虑这个问题的？你如何平衡这种责任？

你知道，这很有趣，这几乎只存在于社交媒体平台上的一个想法，即不应该有任何仲裁者。尽管实际上，算法就是仲裁者，而算法在这方面很糟糕。你来自媒体行业，你的立场正好相反。

就像我被付钱来做仲裁者一样。所以，当我加入时，我能够平衡这一点的方式是，在我休假时，我的工作建议书实际上是在

加勒比海地区，假期的目的是在海滩上阅读。我读的书是尼尔·斯蒂芬森的《陨落》，我认为读过这本书的人不多，但它包含了编辑流的概念，根据你拥有的资金多少，你会花一定的钱让别人为你编辑互联网。

我真的很喜欢这个想法，它为Medium带来了什么。就像，等等，我们可以提供一种理智、周到、非常有见地的默认策展体验，并且

然后我们可以让人们通过选择加入和退出来编辑它。所以我对设计的看法是，我们已经非常习惯于做编辑和策展人。但我们也来自互联网，在那里自由非常重要。你可以同时拥有两者。但让我们至少从一个理智的地方开始，我认为我们在这方面做得很好。

所以当我阅读《华盛顿邮报》或《纽约时报》等时，我知道有很多内容来自美联社，并且有标签，我知道他们雇佣了一些作家。所以我选择订阅该出版物，因为我大致知道我会得到什么。Medium编辑必须筛选的大量内容

可以说是增加了编辑角色的重要性。所以也许，我的意思是，我不需要走得太远就能帮助听众举例子，但如果我对全球变暖感兴趣，或者我对人工智能的就业自动化感兴趣，或者我对飓风感兴趣，那么有人正在做出微妙地影响我对这些话题的感知的决定。

没有办法避免一定程度的人的主观性渗透进来。你如何指导策展人应对这个非常棘手的过程？我认为当人们提出这个担忧时，我总是想让他们……

更具体地说明在两种观点之间实际决定了什么。或者在两组观点之间的第一个决定点几乎总是其中一种观点做得更有条理且经过充分研究。所以就像你在一个普通的社交媒体平台上有两种观点在竞争

他们产生的关注度。但在Medium上，你有两种观点，其中一种观点是基于你的幼儿园老师告诉你的某些事情而产生的直觉反应。而另一种观点则得到了大量科学和研究的支持。

所以你会得到另一种观点。这不是我们在一时兴起微妙地改变了什么。就像，不，我们只是非常重视周到、深入的见解。我希望互联网的更多部分都能以这种方式运作，这种相反的观点必须在相同的条件下竞争。而且……

所以我认为在实践中，这就像，你为什么不选择这个有更多深度支持的观点呢？然后我认为另一个隐藏在人们面前的观点是，我们的策展过程通常从主题专家开始。我的意思是有人……

在很多方面都可以说是专家。但主要的方式是，他们已经看过Medium上关于这个主题的大部分内容。所以他们对“这是这个主题的最佳版本”或“也许你不知道……”有一定的了解。

也许你不知道，就像你可能在寻找A，但实际上你应该看到B。这是阅读广泛可以真正带来的一点。所以这不像，

你知道，有人走进你的厨房，他们比你更喜欢香菜，对吧？就像这些，这实际上是真正具体的品味形式，我认为如果你，就像如果你深入了解它，你根本不会担心。你会立即明白它的价值是什么。

例如，如果我订阅了你的出版物《更好的人类》，那么可以推测，订阅了《更好的人类》的人也会订阅其他出版物。所以我的策展Feed可能包含来自《更好的人类》的所有内容，以及一些我可能喜欢的其他内容，因为我喜欢《更好的人类》。

是的，可以这样。这是策展与算法相结合的想法中有趣的部分。但当我第一次来到Medium时，我认为我用一种有点对抗性的方式解释了这一点。我会说，我们真的想要人工策展，因为那比算法更好。我开始理解它的微妙之处，那就是，

我们仍然需要做匹配，对吧？算法在这方面真的很擅长。所以，我们并没有取代算法。我们所做的是在算法中加入了非常重要的质量信号，而这些信号在之前并不存在。所以，如果你，

对一个主题感兴趣，而另一个主题是相关的，并且正在获得强烈的质量信号。而所有阅读你关注的主题的人往往都喜欢它，这对我们来说是一个很好的机会，可以向你推荐它。我的意思是，这实际上是算法闪光的地方，因为我们只是要求它扮演媒人的角色。我们并没有要求它进行质量控制。

这就是我问这个问题的原因。在算法管理的Feed中，一个古老的争论是，如果我说我喜欢某样东西，我到底在说什么？我喜欢作者吗？我喜欢这篇文章吗？我喜欢这个观点吗？我喜欢所有这些吗？也许我喜欢其中的一部分。但我们收集的信息很少。因此，在付费广告支持的情况下，算法非常明确。只有一个目标。它

我喜欢它的含义是，让算法向我展示更多能够让我在Feed上停留更长时间的内容。但在Medium上，你的动机不同。所以我想知道，当你试图推荐我可能喜欢的其他内容时，在Medium上“喜欢”是什么意思。我们不太关注个性。我认为许多其他媒体都是你在关注……

一个人，因为你正在与他们建立一种寄生式关系。另一方面，作为创作者，他们需要这一点，因为他们需要你关注的一致性。但我们关心的许多声音都很少出现，因为正如我所说，我喜欢那些几乎太忙于生活而无法获得这些信息的人，因为

这就是所有真正深刻智慧的来源。所以，这可能如何发挥作用的一个例子是，你关注的是古生物学出版物，这是我最近一直在使用的例子，Fossils et al，它由一位古生物学家运营。

但他们也在发表其他古生物学家的文章，这些古生物学家可能一生只发表两次文章。而这种联系是你已经表示你喜欢古生物学，并且有一位主题专家正在策划那些想要写作的古生物学家的世界。所以我们可以合理地假设

我们可以通过为你提供这项服务，将这位陌生人（一位对你来说是陌生人的古生物学家）放在你的Feed中，来帮助你。我认为这是我们标准方法的一半，就像其他任何推荐系统一样，我们只是在做一个基于兴趣的图谱。而另一半是，我们已经加入了一个策展信号，而运营Fossils出版物的这位古生物学家就是那位策展人，他帮助说，如果你喜欢我，你也会喜欢这个人。好的。所以，一个与我们必须讨论的话题相关的主题。假设一位著名的古生物学家选择总结

该领域最新的古生物学（我认为这是正确的术语）工作，使用LLM，因为这是一种很好的方法，可以策划大量最新信息，并且

Medium的政策是不允许非人类发布内容。但我的问题是，为了更细致一些，我必须有多么人性化？如果我发布的内容一部分是我写的，一部分不是，这是否违反了条款？如果它只是一个二元选择，全部是非人类或全部是人类，这是否可扩展？我的意思是，我们接下来该怎么办？

对。我认为很多时候，政策最终变得如此实用，以至于人们忽略了重点，对吧？Medium的重点是加深人们对世界的理解。因此，这方面的实际情况是，我们希望以一种可以将这种智慧传递给他人的方式来展现一个人的智慧。我使用“智慧”而不是“知识”，因为它不仅仅是事实，而是

这些事实是如何、为什么以及何时重要的？这种包装知识的生活经验就是重点。所以在你的例子中，你可以合理地说，哦，我们仍然获得了这个人很多智慧。我的意思是，他们选择了研究，对吧？仅此一项，对吧，就非常重要。所以这就像

这就是关键。这值得阅读吗？这就是问题所在。很多时候，你知道，它可以归结为，好吧，99%的情况下，如果它是人工智能生成的，它就不值得阅读。但是的，如果你能找到1%的极端情况，那么这就是你应该阅读的1%。所以，将这种想法作为一项政策是……

它会遇到很多实际问题。我们无法阻止它被发布，因为不可能发现它，而且它的使用范围非常广，人工智能辅助在文章中占多大比例。

但我们可以让人工策展在什么内容会被发布和什么内容会被阅读之间发挥作用。这实际上正在发生。所以人工策展，它就像你想到的美国陪审团一样。理论上，

可以推翻法律，但几乎从未发生过，对吧？所以在实践中，人工智能不允许在Medium上分发，因为在实践中，人们使用它的方式会生成不值得阅读的内容。但如果这种情况发生变化，我认为我们可以允许更大的灵活性。今天的政策是作家自我报告、自我监管，对吧？自我报告、自我监管，编辑和策展人在真正地做最多的事情

以防止它传播到社区的其他地方。因为对我们来说重要的是，不是Medium上存在什么，而是Medium上阅读了什么。我们认为我们可以控制的就是这一点。Medium上实际上有很多AI生成的内容，但它只是没有被推荐并发送给用户。因为有一个人工过滤器。对。

对你的形容词“有思想的内容”来说，最重要的是应该浮出水面。绝对的。我应该知道这个问题的答案，但我们很想从消息来源那里得到它。关于剽窃的政策。所以在人工智能生成剽窃作品之外，政策是什么？如果我们知道，我们会将其删除。这是导致你的帐户被暂停并被平台禁止的快速途径。这些都是标准的信任和安全问题。

剽窃最终构成版权侵犯，有一整套法律来报告它们。有时我们不知道，对吧？就像我认为互联网的大部分内容不幸地需要依靠版权持有者来报告它一样。但我们有

我们有一些控制措施，因为我们控制分发和向作者支付报酬。我们有时可以查看一小部分内容。如果我们看到有人在剽窃，那么我们可以从这两方面撤销他们的资格。

最近一位播客嘉宾克里斯·卡隆是Turnitin公司的首席执行官，Turnitin是一个被1.5万所学术机构用来自动化检测剽窃过程的工具。但现在，当然，其中一个重要的子集是LLM生成的内容。你是否设想有一天所有内容都可以首先通过这样的东西进行过滤？

我认为我们从未对其中的误报感到满意。这就像，这真是太神奇了，可以观看

一位人工编辑阅读一些内容，并在阅读时标记文章中被剽窃的一段。这实际上是我对编辑感到惊讶的一种超能力。因为他们会阅读它，然后声音会改变。他们会说，这不是这个人写的，对吧？这会让他们紧张，然后他们就会跳过这篇文章，对吧？而且它

我们过去，在我们在这里工作之前，在Medium上真正经营出版帝国的时候，我们会使用剽窃工具。但实际上，除了阅读之外，它并没有任何额外的帮助，我认为。我很想和使用Turnitin的教授们谈谈。我认为这可能会加快他们的速度，并为他们提供……

证据，就像你需要的那样，你知道，Medium上的编辑不需要证据。他们只需要对一篇文章说不。但如果你是教授，你需要能够说明为什么你要给学生一篇论文打F，对吧？所以你需要在那里提供证据，而这里的编辑不需要。令人惊奇的是，人类的品味让许多这些检测挑战变得不必要了。

你为人工编辑提供什么样的培训？我之所以这样问，是因为你举了美国陪审团制度的例子，但这并不完全平行，因为陪审团与原告和被告是隔离的。但在这种情况下，如果作家知道这些特定编辑的偏好，那么可能会有操纵系统的方法。你的编辑最终承担了很大的责任。什么

成为Medium策展人的培训是什么样的？我的意思是，这是一个社区。Medium是一个社区。所以真正成为Medium核心的出版物都是基于志愿者的。它们是由社区自发形成的，没有任何与我们的互动。这就是我来的地方。这实际上是我在Medium工作的资格之一。

所以我个人有运营出版物的经验，观察许多从未考虑过做编辑的人只是通过经验学习。老实说，我认为这不是一项技能，而是一种经验。如果你关心写作并且认真阅读文章，那么

这是一个涌现的特性，那就是你会发现这些东西。所以我观察到这种情况发生在我的出版集团中。然后我认为这种情况也发生在其他出版商身上。我错过了这一点，很多内容都是通过出版物发布的，这些出版物是自我策展的。所以Medium是平台。

读者选择订阅哪些出版物，而出版物则描述要提供哪些内容。所以这是一种自然加强或自我监管的社区。对。它可能最类似于Reddit和子Reddit，你主要通过这些经过审核的子社区来体验平台。这就是如今Medium运作的大部分方式。

我听说你谈到了Medium以及你创立的其他公司的愿景，也许是修复破碎的互联网。我很想让我们的听众听到你认为互联网哪里出了问题。它在很多方面都坏了。托尼对互联网哪里出了问题的看法是什么？

我的意思是，Medium无法取代互联网。所以我想把它淡化一下。这是一种强烈的陈述，是为了引起人们的注意。但必须有替代方案来替代占主导地位的互联网。我认为我们已经讨论过其中一些。如果主要的商业模式是广告，那么你阅读内容的主要特征将是

一种吸引你注意力的动机。那么我们如何证明一种商业模式，它首先专注于提供价值呢？所以

我认为我们在这方面做得很好。我想要谈论的原因之一是，我认为其他公司可以放弃广告驱动的模式，并且会非常成功。Medium在8月份首次实现盈利。我认为内容业务通常会根据每千次展示的美元来判断。现在，广告驱动的业务有时低于10美元。

如果你购买它，你称之为CPM，但如果你提供它，则称之为RPM。所以我们的RPM超过20美元，正朝着30美元的方向发展。所以，对我们来说，专注于提供价值而不是关注度实际上是一项更好的业务。我认为这给了我对互联网其他部分的希望，即我们可以，一切都是摆钟，我们可以摆脱这种趋势。

大规模采用基于注意力的商业模式。你将Medium描述为互联网的佛蒙特州。也许可以谈谈这个比喻。这就像

有个好笑的评论出现在我们写的东西上。这个人开车在佛蒙特州兜风，很喜欢那里，因为那里很漂亮。他意识到那里没有广告牌。然后他调查了一下。结果发现，这就像州法律不允许有广告牌，因为广告牌会让你分心……

让你分心于内容，而内容是佛蒙特州的自然美景。我觉得作为一名作家，作为一名想与他人分享优秀作品的人，广告会妨碍到我们，对吧？我的意思是……

作为一个行业，我们试图说我们构建的是生产力工具。技术是为了提高生产力。但随后我们将中断融入到一切事物中，这与生产力背道而驰。人类不是多任务处理者。因此，我们不应该构建需要多任务处理的工具。我们应该构建允许专注的工具。Medium 也可以做到这一点。

以一种小规模的方式，只需创造专注的阅读体验。但我希望在我们使用的所有技术中都能看到这一点。托尼，我们超时了，但这太吸引人了。我根本不可能打断你。但你不会在不回答我最后一个重要问题的情况下离开这个“热座”。所以，如果你把时间倒回到在格林内尔学习计算机科学的孩子们，

然后你快进，你成为一个影响力很大的全球性出版平台的首席执行官。今天担任 Medium 首席执行官的托尼与学习计算机科学的孩子们有什么不同？

我根本不知道这是可能的。我觉得我试图向其他经常匆忙的企业家传达一个观点，对吧？就像马克·扎克伯格在 20 多岁时就成为亿万富翁一样，对吧？我只是认为更常见的道路是，你必须努力一段时间，直到你开始获得这些更大的机会。

我的努力就像攀登马斯洛的需求层次结构。就像我大学毕业后只想尽可能多地赚钱，这样我才能过得舒适。然后我找到了一份工作，因为我在科技行业工作，很早就赚了很多钱，我想，这有什么令人满足的地方呢？所以就像逐渐努力向上，想要对世界产生更大的影响。但是，你知道，在 22 岁的时候，

我没有这些抱负。我的抱负非常非常实际和以自我为中心。我认为晚熟是可以的。这是一个我试图向人们传达的信息，尤其是那些总是觉得自己落后的企业家。即使研究表明你40多岁、50多岁和60多岁的时候是最好的。所以，正如我们的一位投资者所说，花 10 年时间取得一夜成功也有一些价值。是的。

我说这是一个一夜成功，但这是我参与过的最大的成功。我知道要达到这里需要多少十年。明智的建议。托尼，这真是太荣幸了。非常感谢你前来参加。谢谢你，丹。

观众在哪里可以了解更多关于你和你的团队正在做的优秀工作的信息？哦，你必须在 Medium 上关注我。我在 Medium 上是教练托尼。我不像以前那样经常写作，因为我忙于撰写内部业务文件。但那是我写得最好的地方。我认为你可以了解很多关于我过去的生活，那时我深入参与专业和个人发展。而且我认为我在 Medium 上有 700 篇关于这个主题的文章。

包括一篇关于 iPhone 黑客的热门文章，对吧？是的。这是一篇深入探讨如何将你的手机变成工具而不是分心设备的文章。精彩绝伦。好吧，本周关于人工智能和未来工作的时间就到这里。再次感谢伟大的教练托尼·斯塔布尔宾的参与。当然，我们下周将邀请另一位令人着迷的嘉宾。♪