We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 321: Can AI Really Predict Startup Success? Data Ethics, Trust, and Insights from Megh Gautam, Crunchbase CPO

321: Can AI Really Predict Startup Success? Data Ethics, Trust, and Insights from Megh Gautam, Crunchbase CPO

2025/2/3
logo of podcast AI and the Future of Work

AI and the Future of Work

AI Deep Dive AI Chapters Transcript
People
D
Dan Turchin
Topics
Dan Turchin: 我担心新一代人会过度依赖LLM,缺乏批判性思维能力。我们需要教育下一代如何批判性地评估LLM提供的信息,并培养他们独立判断的能力。这不仅仅是教育问题,也是一个涉及行为、社会、心理和技术等多方面的复杂问题。 我们应该教导孩子不要轻信陌生人,也不要轻信LLM提供的信息。要教育他们对信息来源进行质疑,并寻找其他证据来验证信息的真实性。但即使这样,也并非万无一失,因为可信度本身就是一个概念,并非绝对真理。 在LLM广泛应用的背景下,如何界定“真相”以及如何追究虚假信息传播的责任是一个复杂的问题。我们需要建立一套机制,来追溯信息的来源,并对虚假信息的传播者追究责任。 我们需要对LLM输出的信息进行更严格的审查,而不是像现在这样盲目地相信它们。我们需要认识到,LLM也可能犯错,也可能提供虚假信息。 Megh Gautam: Crunchbase利用自身专有数据和AI技术,预测初创公司未来发展,包括融资能力、估值等。我们非常重视数据的准确性和预测模型的可靠性,并投入大量资源来确保数据的质量和预测的准确性。 我们的AI预测模型综合运用多种数据来源和预测方法,包括历史数据、新闻报道、合作伙伴关系等。我们不依赖于单一的模型,而是采用多种模型来提高预测的准确性。 在处理预测结果的不确定性时,我们根据不同平台(API和UI)采取不同的策略。在API中,我们可以提供更详细的信息,包括置信区间等。而在UI中,我们只发布那些我们有绝对把握的预测结果。 我们与法律团队密切合作,在预测结果中明确声明其概率性,并提醒用户不要仅仅依赖我们的预测结果来做出重要的财务决策。 我们对自身专有数据的保护和与LLM厂商的关系持谨慎态度。我们认为,专有数据不应被轻易暴露,以免被滥用。但我们也意识到,内容创作者需要获得合理的报酬,因此我们支持内容创作者与LLM厂商之间建立市场化的交易模式。 消费者行为将很大程度上决定LLM对公开内容的访问方式。如果消费者更倾向于使用LLM来获取信息,那么内容创作者就需要允许LLM访问他们的内容。但同时,我们也需要确保内容创作者能够获得合理的报酬。 我非常看好这种市场化模式在文本、图像、视频等多种内容形式上的应用前景。我相信,市场机制能够有效地协调内容创作者和LLM厂商之间的利益关系。 在LLM可能导致信息失真和品牌受损的情况下,维护用户信任至关重要。我们不能让虚假信息损害我们的品牌形象和用户信任。 我从过往的领导和同事身上学到了很多,并将其应用于职业发展中。其中一个重要的经验是:要不断学习,不断成长,并享受工作过程。

Deep Dive

Chapters
The podcast starts by discussing the challenge of applying appropriate skepticism to information from LLMs, especially for generations growing up with this technology.
  • Difficulty in applying skepticism to LLM-generated information
  • Generational change and reliance on LLMs for research

Shownotes Transcript

我最担心的是,当出现世代更迭时,比如那些从小就使用大型语言模型(LLM),或者将ChatGPT或任何特定LLM供应商作为辅助笔记和研究工具的一代人。要让他们学会如何恰当地运用批判性思维去审视这些工具,将会非常困难。

早上好,下午好,或者晚上好,这取决于您所在的时区。欢迎收听《人工智能与未来工作》播客。我是您的主持人丹·图钦,PeopleRain公司的首席执行官,PeopleRain是一个面向IT和人力资源员工服务的AI平台。

您可能已经注意到,我的声音有点哑,但是你知道吗?我们今天进行了一场精彩的对话,我实在无法忍受让您失望。所以,我们就这样开始了。我们的社区正在不断壮大。如果您喜欢我们的节目,请订阅我们的新闻通讯。我们在几个月前推出了它。在节目说明中有一个加入社区的链接。当然,如果您喜欢我们的节目,

请在Apple Podcasts、Spotify或您收听节目的任何平台上点赞和评分。如果您留下评论,我可能会在接下来的剧集中分享它,就像来自渥太华安大略省的听众塔比莎的这条评论一样,她是一位金融分析师,会在叠衣服的时候收听节目。

塔比莎最喜欢的剧集是与Samba Nova Systems首席执行官罗德里戈·兰格的对话。那是一集关于他如何创办一家AI独角兽公司以及开源AI如何使LLM变得更好、更快的精彩节目。塔比莎,很高兴您喜欢它。在这个节目中,我们每周都会学习来自AI思想领袖的知识。当然,额外的奖励是,您每周都会获得一个AI趣闻。今天的趣闻是:

《新闻公报》总结了内容发布者目前与LLM供应商就合理使用权纠纷的现状。据报道,OpenAI每年向新闻机构支付100万至500万美元的费用,以获得其版权内容的许可,用于训练其模型。尽管据报道,新闻集团的交易价值超过五年2.5亿美元。与此同时,据报道,苹果正在探索与康泰纳仕、NBC新闻等公司达成AI交易,

以及《人物》和《每日野兽》的所有者IAC,以获得其内容档案的许可。Reach公司首席执行官吉姆·穆伦(Jim Mullen)——Reach是英国最大的商业出版商——表达了不同的观点。吉姆说:“我们不希望重蹈10年前与谷歌合作的覆辙。我们向谷歌提供了访问权限,并沉迷于推荐流量。我们必须在行业内统一立场,以确定LLM如何使用我们的基础智能。”我的评论是,

一年前在这个播客中,我们说过,今年LLM供应商和内容所有者之间的关系将决定AI的未来。事实证明,正如预期的那样。随着争议从所谓的幕后交易转移到世界各地的法庭,未来还会有更多火花。内容所有者是有希望的。现在是成为创作者的最佳时机。当然,我们会在今天的节目说明中链接到这篇文章。

现在让我们转向本周精彩的对话,梅格·高塔姆不仅是我的朋友,也是硅谷最优秀的产品专家之一。他目前是Crunchbase的首席产品官,Crunchbase是关于初创公司、融资和估值数据的权威资料库。在加入Crunchbase之前,梅格曾在Twilio担任产品主管,并在Dropbox和Hearsay Systems担任产品管理总监。他也是一位活跃的天使投资人,

梅格拥有斯坦福大学管理科学与工程硕士学位(加油红衣主教,也是我的系),以及印度杜尔加布尔国立技术学院的信息技术学士学位。事不宜迟,梅格,我的朋友,很高兴和你再次见面,当然,也欢迎你来到《人工智能与未来工作》播客。让我们从你分享更多关于你的背景信息开始,然后进入主题。

丹,我一直期待着这次对话。能够关注你,我感到非常荣幸。我们取得了联系。显然,我们在斯坦福大学同一个系。然后我向你请教,我仍然向你请教很多建议。所以这

这有点像把所有这些对话都带到了播客论坛,这很棒。感谢你的介绍。大约一年半前,我加入了Crunchbase。

这对于我们来说是一段旅程,让我们到达了这样一个点:我们觉得我们所有的专有数据,每个人都知道Crunchbase,但他们的认知是,嘿,我应该在Crunchbase上查看这家公司吗?我应该看看......

这家公司做得怎么样。我们基本上利用了所有被压抑的需求,比如,这家公司做得怎么样?这家公司将来能否融资?预测是什么?然后把它放在首位。我们明年第一季度将有一个大型发布会。这基本上是Crunchbase的未来,我们将回顾过去,查看我们极其专有的数据集,然后进行预测,并告诉您

某家公司可能发生的情况。这结合了老式的预测模型和你在市场上看到的新的生成式AI大型语言模型(LLM)的优势。在我之前的职业生涯中,我在Twilio工作过,实际上从未参与过开发工具领域,但观察消息、语音和视频业务的增长方式非常令人着迷。

我在Dropbox工作了三年多,负责新产品,负责视频,因为这一趋势彻底爆发了。在那之前,我在Hearsay工作了大约四年,也负责他们的新产品扩展。所以这是一段非常令人着迷的旅程,我很高兴谈论它。我很高兴谈论所有正在塑造未来工作的新趋势。我和你一样。

对于初创公司和投资者来说,Crunchbase是一个家喻户晓的名字。我很想知道,你学到了什么让你感到惊讶的事情,而Crunchbase的普通用户可能不知道?

是的,这是一个很好的问题。在我之前工作的每一家公司,我们都以某种方式使用了Crunchbase。比如寻找投资者,寻找目标公司,寻找与这家特定公司相似的其他公司。事后看来这很明显,但数据的基础将决定预测模型的优劣。如果你的基础没有很好地策划,你就不会有很好的见解。而且我们投入的、继续投入的以及正在投资的精力,以确保成分、基础以及它对最终用户的呈现方式都是值得信赖的,这是我在Crunchbase工作的核心重点。

所以我想详细了解一下这个用例。你说明年即将推出一些预测模型,可能会预测哪些公司可能会成功,估值是多少,诸如此类的事情。向我们介绍一下背后的AI。你训练的数据来自哪里,你是如何做出这些预测的?然后,如果超出我提到的这两点,你还会预测什么?当然。当我来到这里的时候,我会介绍一下我们的流程......

对外部人士来说,这似乎是,哦,你们都在关注AI的训练,看看它会走向何方。但我们一直以来在如何使用最新的AI技术方面都非常积极主动,并且具有前瞻性。但是,如果AI不能解决核心用户/客户问题,它就不会那么强大。所以我们......

花了六个月的时间来走访我们的客户,询问他们最迫切的问题是什么,以及他们在哪里都无法获得答案的问题,因为我们希望利用AI做到与众不同,并且更好。通过这种框架,我们意识到,有一些关于现在正在发生的事情的问题,比如让我变得更聪明,这实际上变成了一个投资回报率的问题,比如,嘿,30秒钟告诉我发生了什么,如果我想深入了解,我会去挖掘

然后是优先级排序。那里有如此多的数据。你如何理解它?然后客户反复向我们提出问题,投资者说,嘿,太多的主动推销。我们如何优先考虑初创公司?如此多的种子基金。我们应该去哪里?如此多的加速器。我们应该去哪里?销售人员也有同样的问题,因为他们需要优先考虑客户。

所以这里面有一个内部部分,它基本上是,嘿,这是从噪音中提取的信号。然后将其提取到预测中,基本上是,我们知道现在正在发生什么,比如里程碑是什么,无论是财务上的还是新闻上的。比如有人达成了合作关系,

我们拥有所有这些。我们的社区帮助更新特定公司的一些核心数据点。所以我们看到了他们的历程,从成立公司到融资,再到在整个增长轨迹上势头强劲。我们几乎把宏观经济作为一种着色工具,比如这个领域正在发生什么。在许多情况下,当您重新定义行业时,这些情况会很有趣。

比如大型语言模型(LLM),除了那些真正关注的人之外,三四年之前并不是什么大事情。

他们会说,是的,你知道,它正在发生。它就在那里。ChatGPT真正让它迎来了高光时刻。在那之后,它变得流行起来,并被应用起来。我们正在实时看到这一点,我们想,嘿,在资金方面、新闻报道方面,关注度不成比例。比如,为什么有些事情会被关注,而另一些事情不会?这有助于为我们的模型提供信息,对吧?

去构建正确的预测能力,说,嘿,这件事会在未来六个月或未来十二个月发生。在许多情况下,它是无界的,因为未来就是这样。我们想,嘿,我们没有时间限制来确定

事件何时发生。我们只是认为它更有可能发生。以及它可能性的每一个增量。举个例子,如果一家公司宣布与一家大型企业建立合作关系,那么他们更有可能向上游发展,这意味着可预测的收入,高收入

质量。所有这些都是我们的客户和用户通常期望的/在真正易于理解的格式中无法获得的东西。这也是使用预测的价值所在。我们正在使用典型的......

不依赖于任何特定模型。我不知道你是否看到了Menlo Venture的调查。它是在昨天或前天发布的,即使是大型企业也使用三个或更多基础模型来分别训练工作负载。我们觉得这很有趣,因为它相当违反直觉。你会认为会有一种赢家通吃的模型

但我们一直遵循这一趋势,我们想,嘿,我们没有被任何架构选择所束缚。我们在如何针对用户提出的问题进行有针对性的改进方面非常定制化。

那不是计划好的宣传,但忠实的听众知道,几个月前,我们邀请了Menlo Ventures的Naomi和Derek来谈论Menlo Ventures AI调查的先前版本,那是一集精彩的节目。我鼓励您去档案中查看那一集。所以梅格,这是一个非常有趣的用例,特别是因为它不同于我们

已经非常习惯的典型的LLM、NLP之类的语言技巧,我应该这么说。我喜欢它更像是一种传统的AI应用,用于机器学习、预测分析。

现在,作为产品人员、数据人员,当我们使用概率进行预测时,我们总是必须面对的一个挑战是,总会有误报和漏报。所以Crunchbase,假设,做了一个预测,有可能有一个置信区间,也有可能它是错误的。这将是一个误报。也有可能模型

不够自信,所以它知道一些它没有分享的东西——漏报。你如何看待责任问题,或者你如何沟通在做出这些预测时存在某种置信度阈值?

这是一个非常好的问题。我们一直在努力解决这个问题,因为它会影响产品的各个方面。产品经理、设计师,你会如何表达这一点?是箭头吗?还是其他什么?然后是律师。Crunchbase的每个人都非常关心这个问题。所以最终发生的事情是......

我们自然地分层。我们有一个API产品,这是一个预测和洞察力产品,我们能够提供更多信息,因为你不会受到空间的限制。所以我们可以给出置信区间。我们可以说,嘿,我们不确定,或者我们认为这是稳定增长。

这在我们的大型客户中非常受欢迎,他们有团队可以理解它。因为我们提供了一个翻译层,有一个字典。但我们必须确保在消费端,他们能够理解所有这些信息。但在EUI上,你的空间非常有限。

所以我们必须绝对确定。这个阈值会发生变化,我们想,嘿,对于高精度、高召回率,我们将发布它们。这从像,嘿,它介于0.8和1之间,或者在许多情况下,当我们进行回测时,它就像0.9。

加2.1。这就是我们绝对确定的点。我们还想确保这些是我们传播给世界的最有趣的见解和预测。

我认为,对于那些不了解情况的人来说,有时他们不会意识到你在做出这些预测时所承担的责任。你提到,我知道,肯定与法律部门进行了沟通。例如,我的意思是,这些不是生死攸关的决定,但有人根据

Crunchbase的可信预测做出了财务承诺,你肯定不希望处于预测错误的情况,这是有可能的,它是概率性的,他们会来找你,他们可能会有索赔的理由。你如何看待这种权衡,以及你如何在存在这种风险的情况下将产品推向市场?

是的,我们有一个非常优秀的法律团队,他们一直在关注我们的每一个开发步骤。我们非常清楚,嘿,这是概率性的。请不要根据此做出财务决定。它应该是一个信号和一个输入。

但是你越开始声明免责,你从中获得的价值就越少,因为很多东西在世界上是找不到的。所以你必须领先一步,然后进行很多教育,比如,嘿,为什么我们会说我们所说的话?然后对于那些真正想要了解并将其作为其整个业务流程核心部分的人,我们必须提供解释,比如,我们对什么进行了回测?区间是多少?

这真的就像渐进式披露,你知道,丹,这个兔子洞很深,它可以深入到人们想要消费的程度,所以我们必须非常小心,不要让人们迷失在细节中,但也要非常舒服地分享我们相信在......的范围内是真实的。显然,是的,很好的答案......

我通常使用的这种理由在法庭上是站不住脚的,但我认为它是可信的,那就是,如果你比较一下,比如说,Crunchbase使用AI概率模型进行预测的准确性,它可能比一个人使用有限的数据和可能存在一些偏见进行自己的研究更准确。所以我想说它并没有比

不使用Crunchbase机器学习引入更多偏见或风险。但我意识到,责备机器比责备人更容易,但我不知道这是否是你们内部讨论过的一个论点。我们讨论过。所以如果我们看看销售和客户优先级排序的用例,对我们来说,这是一个非常简单的事情,比如,好的,你如何做,例如,区域划分?你是随机按地理位置分配吗?你知道一个人擅长什么吗?你知道你成交的公司与你未成交的公司有什么特点吗?

这些只是非常有帮助的对话,公司往往会不情愿地让步。他们会说,嘿,他们会从小事做起。然后一旦你建立了一个楔子,比如,嘿,我们更好,你就一无所有了。我们比其他方法好得多。你获得了在更高层次上参与竞争的权利。

所以我想改变一下视角。在趣闻中,我提到了内容所有者与基础模型所有者之间复杂的关系。我提到十年前,他们与谷歌的关系也很复杂。在某些方面,你希望谷歌能够吸收你的数据,因为这样它就会将流量导回你的网站。

我认为这种情况有点不同,因为一些工作或答案是从你的内容中得出的。可能会有或可能不会有归属,也可能会有或可能不会有流量导回你的内容。Crunchbase是如何看待你拥有的专有数据以及是否,或者我应该直接说,你希望与LLM供应商建立什么样的关系?

是的,我会用它还处于非常新兴的阶段来补充所有这些,因为即使是谷歌本身,也有Gemini答案框。它基本上是在提供问题的答案。在大多数情况下,如果不是所有情况下,这都不会将任何流量导向你的网站。

所以在这一点上,我们采取的立场是我们拥有的专有信号,不应该被公开,这样它就可以被推导出来,然后就不会有价值/归属被赋予它,或者它已经消失了。

但是如果有的,例如Crunchbase也有一个新闻邮件和一个新闻网站。所以我们在那里介绍独角兽公司,比如最后一个是关于如何在后零增长时代生存的。

这绝对可以导致一个有趣的结构,比如,嘿,这是可用的,你可以阅读它。但是有一些面包屑你可以跟随回到网站,该网站提供了数据来使其可用。但我必须强调的是,我们已经研究了各种情况,我们想,嘿,内容是如何被访问的?它是在所有这些封闭花园内吗?如果我是一个ChatGPT用户,我是否有参考?然后我

去一个URL。Perplexity也是如此,使用Gemini答案机器人也是如此。我们正在密切关注这些关系是如何发展的。但我确实认为你完全说对了。这与10年前大相径庭,因为那时显然存在需求的聚集,

以及税收定义信息的分解。这里不是这种情况。它仍然是一个非常新兴的行为。我们可以做的事情是探测。我们想,嘿,我们会在那里达成合作关系。我们会看看那里会发生什么。但是现在承诺还为时过早,因为你根本不知道消费者行为会走向何方。正如你所说,花里胡哨的东西可能会过时。我们还没有谈到幻觉。有整篇文章......

关于谷歌的答案让人们吃石头之类的文章,我认为这不会消失,它在很大程度上已经被抑制了,但这是一个变化非常快的世界

这是我们刚才讨论的责任问题的逻辑延伸。一个大型语言模型吸收了你的数据,产生了虚假信息,也许是一个预测或其他一些Crunchbase服务、预测服务不会提供的东西,有人采取了一些行动。显然,Crunchbase对此虚假信息不承担责任,但它被认定为来源是Crunchbase。

你如何看待这种情况?是的,就是这样。我认为责任,有严格的法律定义,然后是品牌。你的品牌会受到影响,因为你会有所有这些来源,而我们负担不起,因为现在信任......

和关注度是两种最稀缺的资源。任何试图从我们的最终用户那里夺走信任,或者这种对关注度的全部亲和力,比如,我想要这件东西。现在我们有了你的界面,你可以做这十件你以前不知道可以做的事情,这些都是我们不会非常积极看待的事情。

所以这个有点奇怪,但我必须问,因为我们都是书呆子。所以有一个有点晦涩的协议叫做robots.txt。

每个网站都可以选择在页面的标题部分使用你的面向公众的内容。你可以限制某些机器人抓取你的内容。Crunchbase对以下问题的看法是什么:如果它在防火墙之外,对不起,在付费墙之外,任何LLM都可以访问它吗?或者你实际上是否使用它像robots.txt一样来限制LLM抓取?

我不知道最新的情况是什么,但我们进行了广泛的讨论,比如ChatGPT有一个,我认为有多个爬虫,例如。然后你对Perplexity也做了同样的事情。然后你不想陷入这种打地鼠游戏,你就像,嘿,我阻止了这个,但是这个其他的东西是可用的。所以我们,我们,

我们正在尝试采取一种非常有原则的方法,比如,嘿,如果你正在为内容付费,我认为大多数爬虫都尊重付费墙,但这也是我们正在评估的事情,但它变化太快了,我现在无法告诉你,在......方面禁止哪些爬虫。在robots.txt方面。但这是一个,这是一个,这是一个好问题。除了奇怪的部分,只是好奇梅格对......的看法,

你知道,应该在付费墙之外向公众开放的内容,一般来说,梅格,作为网络浏览器,作为消费者,你会期望在公共互联网上公开提供的所有内容都可以通过LLM访问吗?

是的,这是我的个人观点。我认为消费者行为将推动很多事情。所以如果我完全转向使用Perplexity,因为我只是想要答案,如果我想深入了解,我会这样做。或者如果我选择使用Gemini答案框,并且不想滚动浏览赞助链接,那么对于内容创作者来说,允许这样做就变得非常重要。

但我试图将这与内容创作者也需要获得公平的价值相协调。我还试图将这与......相协调。我认为是高盛的报告,独立内容创作者将在未来五年成为最大的职业群体。所以随着它的发展......

并且你随处可见。我觉得必须有一个协议或一种方法来避免像现在这样在法庭上争论不休,就像你现在看到的那样,许多领先的、第一代AI供应商都是如此。

我们看到很多市场出现,初创公司,自动化内容创作者与LLM所有者之间的对话,不仅是大型公司,任何想要构建大型语言模型的人都可以去竞标内容。有一种基于市场的方式来确定它的价值。我喜欢这种方法,我站在讲台上,但我认为这与你所说的也一致。

明白了。你对长远发展持乐观态度吗?是的。好的。我认为,我认为不,不,我想你所说的,我认为内容是有价值的。我认为......

内容创作者不应该被欺骗,或者后来才知道他们的内容被LLM吸收了。我认为它应该是透明的。我认为当我们作为消费者想要这些内容时,我们想要庆祝创作者社区。我在AI趣闻中发表了我的评论,我认为现在是成为创作者的最佳时机,因为有更多方法可以减少摩擦来访问优秀的内容。

但我认为基础的一部分,只是在系统层面,我认为必须有这些市场,这样内容创作者更容易将他们创作的内容货币化。是的,我认为这是一条完全可行的道路。我认为市场机制将有助于以正确的方式推动激励措施。所以在那个世界里,你不仅对文本持乐观态度,还对图像、视频、艺术品等等也持乐观态度吗?

所有的一切。创作者可能创造的任何东西,创作者想要让更多消费者接触到的东西。

它超越了。它可以是文档、论文、书籍,当然还有图像、视频,也许是新兴的,也许是涉及AR、VR、虚拟世界的东西。我认为所有这些工件都可以作为创作者来创建,LLM只是传播这些内容的一种非常有效的方式。我认为作为创作者,你应该可以选择是否可以。

这是一个商业决策,你是否认为与LLM分享对你来说是积极的。但如果你做出了这个决定,LLM,应该有一个市场,市场应该决定这些内容的价值。

是的,我认为这基本上是采用经过验证的模型,对吧,你有了AdWords模型,你有了人们对某些东西的出价,在那里有内在的需求,然后反对去中介化,你基本上可以像一个内容一样细化,而不是订阅,你会有,是的,我认为这是超级,超级......

像一条可行的前进道路,因为这很有意义,而且我认为它以目前任何其他模型都没有的方式协调了激励措施,所以你提到了,我同意,信任和关注是稀缺的资源,对吧......所以关于信任部分,假设在这个世界里,有这些很好的基于市场的模式,用于创作者和消费者

当LLM供应商,也就是技术所有者购买的内容被证明是虚假或具有误导性时会发生什么?谁应该对真相的传播负责?我的意思是,你甚至可以把它扩展到哲学问题。在一个我们不断接触这些LLM障眼法的世界里,什么是真理?这甚至意味着什么?是的。真理还有什么意义?是的。

我总是可以依靠你对这个问题采取真正基于原则的哲学方法,其中有一些基本真理,还有一些在组织内部普遍存在的真理。

然后另一个轴线是,它是否造成伤害?我认为这是一个非常非常复杂的问题,尤其是在它影响到消费者的时候。因为如果你根据这些特定信息做出决策,而不仅仅是娱乐,我认为权力指标就是这样。它们是娱乐。它们是你消费某些东西的一种方式,比如内容,但是

但如果你正在做决定,我认为监管链非常重要。就像是什么导致了这个,又导致了那个。它可以追溯到,你吃的汤里有什么配料?如果这汤让你感觉不舒服,那么是哪种配料?这种可追溯性,

我认为在更广泛的消费者市场中并不存在。是的。你对此有什么看法?你知道,回到我之前说的,人类可能会做出糟糕的投资决策,机器学习模型也一样,对吧?

它适用于这里,我们一直都知道相信谷歌医生是个坏主意。谷歌会告诉你关于任何症状的任何信息。因此,人们一直在根据他们在谷歌上看到的内容做出糟糕的医疗决策、财务决策和影响生活的决策。我从未想过这次有所不同,因为正如你所说,我喜欢“监管链”这个词。有一种愿意的怀疑中止,就像

我觉得我们还没有接受过关于这些LLM输出是如何生成的教育。而且我相信,至少在这个全球实验中,人们对从LLM获得的东西的假设太高了,它没有引用,没有来源,看起来权威。我称之为可信的废话,但人们有一种本能反应认为它是真的。我

我鼓励大家首先假设它不是真的,然后知道举证责任在你身上。在你根据LLM的任何内容采取行动之前,我认为这比质疑来自谷歌的内容更难,因为它从某些来源推导出一些东西,正如你所说,你不知道基本事实数据是什么,你不知道发生了什么。

在生成输出的绞肉机中发生了什么。所以我鼓励所有听众对从LLM中看到的内容进行更多审查,而不是你可能认为来自谷歌的内容是真实的。是的。让我从另一个角度来看待这个问题。我认为作为一个社会,我们已经证明怀疑主义并不是一种自然而然的事情。我最担心的是

当出现世代变化时,比如在LLM上长大的一代,或者将ChatGPT或任何特定的LLM供应商作为帮助他们做笔记、进行研究的东西,要做到“好吧,这是怎么回事?我该如何对其应用适当的怀疑态度?”将会非常困难。我认为这是,

一个引人入胜的问题,但它是一个棘手的问题,因为它涉及行为、社会、心理学和技术。我认为没有一个解决方案能够足够好地解决它。我认为仅仅依靠教育无法解决这个问题。必须有一个解决方案,必须针对不同类型的人群进行重复、冲洗和尝试,才能提高信任度。因为

这些应用程序已经吸引了我们的注意力。所以现在是倒着回到信任部分。我们都是父母。我们应该告诉我们的孩子如何以及如何不从LLM消费内容?哦,这完全取决于这有多可信?你能找到另一个来源来证明这一点吗?而且

但即使这些也很薄弱,因为可信度是一种结构。它不是基本事实。然后很容易找到另一个被炮制出来的来源。所以我肯定还没有找到正确的平衡点,但我完全同意你的观点。更多的怀疑是前进的正确方向。我认为作为父母,这是一个机会让我们

进行关于伦理、道德、原则以及质疑你的来源的重要对话,以积极的方式,而不是以愤世嫉俗的方式。是的。我们最终要对我们做出的决定负责,无论是陌生人给你糖果还是LLM向你提供错误信息,你都有义务,我认为这是一个重要的机会。我是一个人工智能爱好者。我相信这些都是机会

帮助灌输批判性思维和理性判断,以及其他可能......我们上一代可能没有这些机会。我认为这就是父母应该做的。当然。我认为把它带入一个物理类比,比如不要相信陌生人,或者不要......我认为有一个先例,可以把它塑造成更理想的行为。所以我喜欢这个。我会偷走它。

随意使用。让我们教育更多的父母。好了,梅格,时间过得真快。我必须让你摆脱困境,但不能不回答我最后一个重要的问题。所以你拥有辉煌的职业生涯。你曾在Hearsay Social、Hearsay Systems(传奇的领导团队)、Twilio、Dropbox工作,现在在Crunchbase工作。你的榜样是谁?你从他们那里学到了什么?

这是一个很好的问题,因为它给了我一个回馈的机会。因为,丹,你也是我职业生涯中做决策的基础,这就是你学到的东西。我认为你的整个框架是:我是否喜欢这个?我在学习什么?然后你如何成长?

我一次又一次地使用它,因为我从一个地方跳到另一个地方。但我与一群优秀的领导者和一群至今仍与我保持联系的人一起工作过。Hearsay的Clara,现在在Meta,Twilio的Mark,

他创办了自己的公司,发展得非常好。我认为这是我与经理之间持续时间最长的雇员关系。他是我学到很多东西的基础。然后在Dropbox,这是一群令人着迷的人,他们非常擅长自己的专业领域,并且非常擅长人员管理方面的工作。所以这是一群最优秀的人,

就人才密度而言,像Genevieve、Akhil、Ruchi。这是一群令人惊叹的人,你只想待在他们身边,这样你就可以吸收他们身上散发出的所有东西。是的,我非常幸运。我希望继续让自己处于这些境地,然后尽可能多地回馈给那些刚刚起步的人。

很好的回答,这确实是一个很棒的名单,我期待你取得更大的成就,因为你现在是导师,你知道所有仰慕你的人,就像你仰慕你的一些榜样一样。谢谢你,丹,我很感激。是的,这次谈话非常棒,感谢大家收听老同学梅格和丹的闲聊,阿门,祝贺你取得的所有成功,很高兴再次见面,请

你随时可以回来,我很想知道你和Crunchbase的冒险经历。非常感谢你,丹。当然。好了,本周关于人工智能和未来工作的时间就到这里。一如既往,我是你们的主人,来自PeopleRain的丹·图钦。当然,我们下周将邀请另一位令人着迷的嘉宾。