We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 312: Ray Wang, CEO of Constellation Research, On Decentralized Intelligence, Data Precision, Cross-Industry Collaboration, and AI’s Evolution

312: Ray Wang, CEO of Constellation Research, On Decentralized Intelligence, Data Precision, Cross-Industry Collaboration, and AI’s Evolution

2024/11/25
logo of podcast AI and the Future of Work

AI and the Future of Work

AI Deep Dive AI Insights AI Chapters Transcript
People
R
Ray Wang
Topics
Ray Wang: 我认为人类智能是AI的最佳范例,它高度分散,学习速度、技能、能力各异,正是这种多样性造就了人类集体智慧的强大。在中心化模型中重现这一点适得其反。 AI领域目前是封闭的、中心化的、昂贵的,只有少数玩家能胜出,但这并非必然。去中心化是未来的方向。 AI发展有五个成熟度等级:增强、加速、自动化、代理和顾问,最终目标是实现更快速、更精确的决策。 未来AI必须去中心化,因为不同的任务和概率需要不同的方法。 企业在AI应用中浪费大量资金,主要是因为他们不知道需要多少数据才能达到可信赖的精度水平。不同行业对AI精度的要求不同,例如金融行业对精度的要求远高于客户体验行业。 未来将出现跨行业的数据共享,企业将在价值链中合作以更好地预测库存、需求和定价。 企业应该考虑在哪些环节插入人工干预,高重复性、高工作量任务更适合自动化,而复杂性、创造性任务则需要人工参与。企业不应该盲目裁员,而应该在AI应用中考虑人工干预,最终目标是提升决策速度和精度。 在采用AI时,应首先评估自身数据是否充足,并确定人工干预的环节,目标是做出更好、更快、更精确的决策。 AI的中心化设计将会阻碍创新和个性化,去中心化是未来的方向。 AI监管应遵循透明、可解释性、可学习性、人类主导等原则,并考虑不同文化的价值观和伦理差异。AI监管应注重偶然性,避免过度中心化,鼓励不同文化背景下的AI发展。 Dan Turchin: (主要为引导性问题,未提出核心论点)

Deep Dive

Key Insights

Why does Ray Wang believe decentralized human intelligence is the best model for AI?

Ray Wang believes decentralized human intelligence is the best model for AI because human intelligence is inherently decentralized, with people learning at different rates and possessing diverse skills, abilities, and powers. This variability makes collective human intelligence powerful, and centralizing AI would defeat the purpose of replicating this dynamic, adaptable system.

What are the five maturity levels of AI according to Ray Wang?

Ray Wang outlines five maturity levels of AI: 1) Augmentation, where machines help humans perform tasks more efficiently; 2) Acceleration, where tasks are completed at a much faster rate; 3) Automation with human supervision; 4) Agents, which bundle multiple skills to assist with tasks; and 5) Advisors, which can think and make decisions on behalf of humans.

What is the gap between AI vendors' visions and enterprise leaders' expectations?

The gap lies in the vendors' ability to articulate a compelling vision for AI while also providing practical on-ramps for enterprises to adopt and benefit from the technology. Vendors that fail to bridge this gap risk losing market relevance, as enterprise leaders prioritize solutions that align with their operational needs and deliver measurable value.

Why does Ray Wang predict billions of dollars will be wasted in AI adoption?

Ray Wang predicts billions will be wasted because many organizations lack clarity on the level of data precision required for AI-driven decision-making. Different industries have varying thresholds for accuracy—e.g., 85% accuracy is acceptable in customer experience but catastrophic in finance or healthcare. This mismatch leads to inefficient investments and unmet expectations.

What is the future of cross-industry data sharing according to Ray Wang?

Ray Wang envisions a future where industries like retail, manufacturing, and distribution share data across value chains to predict inventory, demand, and pricing more accurately. Similarly, sectors like communications, media, and tech will collaborate to understand customer preferences and monetize digital goods effectively, creating a give-get model for data sharing.

How does Ray Wang suggest enterprises approach AI adoption responsibly?

Ray Wang advises enterprises to focus on where and when to insert human judgment in AI processes. Organizations should assess whether they have enough data to achieve the required precision and identify tasks that require human oversight. The goal is not to replace humans but to enhance decision-making speed, accuracy, and quality.

What are Ray Wang's thoughts on regulating AI responsibly?

Ray Wang emphasizes the need for transparent algorithms, explainability, and human-led AI models to ensure responsible regulation. He warns against centralizing AI regulation, as it risks perpetuating cultural biases and stifling innovation. Instead, he advocates for decentralized, culturally sensitive AI systems that reflect diverse ethical values.

What is Ray Wang's vision for the global economy in the age of AI?

Ray Wang envisions a future where human augmentation and autonomous robots play significant roles in daily life. He predicts a shift from consensual technologies to mindful technologies, where AI works on behalf of individuals rather than networks. He also highlights the potential for universal basic income and a purpose-driven economy as humanity transitions from menial tasks to more meaningful pursuits.

Chapters
This chapter explores the concept of decentralized human intelligence as the best model for AI, contrasting it with centralized AI systems. It highlights the importance of human variability in achieving powerful collective intelligence and emphasizes the need for decentralized AI models to address diverse tasks and probabilities.
  • Decentralized human intelligence is the best AI model.
  • Human variability is key to collective intelligence.
  • Centralized AI models are less effective.
  • Future AI needs to be decentralized to handle diverse tasks and probabilities.

Shownotes Transcript

R “Ray” Wang,Constellation Research 的首席执行官兼创始人,为我们的播客带来了数十年的企业技术洞察力。作为最受尊敬的技术研究公司之一的负责人,Ray 对人工智能与数字化转型交叉点的独特视角。他的背景涵盖了德勤的咨询工作、甲骨文和 PeopleSoft 的关键角色以及 Forrester 的开创性技术研究,Ray 亲身见证了人工智能在企业软件中的演变。他还是 Disrupt TV 的主持人,这是一个每月触及超过 1.3 亿次印象的直播节目。Ray 以其在 CNBC、福克斯商业新闻和彭博社等平台上的思想领导力而闻名,他探讨了人工智能的宏观图景——重点介绍了其去中心化、可变性和潜力如何重塑未来的工作。在这次谈话中,我们讨论了: 为什么去中心化的人工智能是人工智能的最佳模型,以及人类变异性如何挑战中心化人工智能系统。 有远见的 AI 供应商与那些无法满足市场需求的供应商之间的差距,以及这种差异如何影响成功。 实现人工智能驱动型决策的数据精度的挑战,以及它如何在不同行业中有所不同。 跨行业数据共享的未来,公司在价值链中进行协作以更好地预测库存、需求和定价。 Wang 对人工智能的五个成熟度级别以及每个级别在企业演变中所代表的意义的看法。 文化价值观和偏见如何塑造人工智能监管,以及集中监督与允许人工智能供应商进行自我评估之间的张力。 资源 订阅人工智能与未来工作通讯 与 R “Ray” Wang 联系 人工智能趣味事实文章 关于人工智能时代以人为本的就业</context> <raw_text>0 事实上,我认为人工智能最好的例子是人类智能。它是高度去中心化的。人们的学习速度不同。他们拥有不同的技能、不同的能力、不同的天赋,对吧?这种多样性实际上是集体人类智能如此强大的原因。在一个中心化模型中重现这一点就失去了意义。

早上好,下午好,或者晚上好,这取决于你在哪里收听。欢迎收听人工智能与未来工作播客,第 312 集。我是你的主持人 Dan Turchin,PeopleRain 的首席执行官,PeopleRain 是一个面向 IT 和人力资源员工服务的 AI 平台。我们的社区正在不断壮大。我经常被问到如何才能结识其他听众。

为了实现这一点,我们刚刚推出了一份通讯,我们每周分享一些并不总是出现在播客中的见解和技巧,以及与社区互动的机会。我们将在节目说明的 Beehive 上分享注册该通讯的链接。当然,如果您喜欢我们的节目,请告诉您的朋友,并在 Apple Podcasts、Spotify 或您收听的任何地方为我们点赞和评分。如果您留下评论,我可能会在接下来的剧集中分享它。

就像来自佛罗里达州塔拉哈西的 PJ 的这条评论一样。塞米诺尔队加油,他是一位房地产经纪人,在慢跑时收听。PJ 最喜欢的剧集。哦,那是与 Work3 研究所联合创始人 Josh Dreen 一起录制的精彩剧集,讲述了领导者如何在人工智能时代创造以人为本的工作。我们还将在节目说明中链接到该剧集。当然,在这个节目中,我们每周都会向人工智能思想领袖学习。额外的奖励是,你会得到一个关于人工智能的趣味事实。

今天的趣味事实,Adam Davidson 在 Pocket Lint Online 上写道,科技公司需要停止向我们炫耀他们的 AI 功能在未来某个未公开的日期将能够做什么,并开始对我们的期望更加现实。这是针对苹果最近的 Glowtime 活动的回应,我应该说,

苹果几乎没有提及其最令人期待的人工智能功能(如 Siri 增强功能)的可用性。但实际上,包括亚马逊、谷歌和 OpenAI 在内所有大型企业都做了同样的事情。另一个例子,几个月前,OpenAI 宣布将向 Jack TPT 4.0 模型添加语音和视频增强功能,报价为“未来几周内”。我们仍然没有看到它们。我的评论,

我们知道企业对人工智能的信任度处于历史低点。现在是供应商应该少承诺多兑现的时候了。变革性技术需要几十年才能实现广泛采用。

人工智能的采用周期正在缩短,但如果供应商不能更负责任地区分愿景与现实,我们确实有再次面临人工智能寒冬的风险。当然,我们将在节目说明中分享该完整文章的链接。现在让我们转向今天的谈话。

今天的嘉宾是一位无需介绍就能展现其实力的人物,但我还是会介绍他。Ray Wong 是 Constellation Research 的首席执行官兼创始人,Constellation Research 是最受尊敬的技术研究公司之一。他还是一位屡获殊荣的作家,曾在 PeopleSoft(后被甲骨文收购)等公司担任技术领导者。他是一位播客主持人、博主、风险投资顾问和技术专家,几乎每天都会出现在 CNBC、

福克斯商业新闻和彭博社等媒体上。趣味事实,这是第 312 集中的第一集。它实际上被推迟了,因为今天的嘉宾被拉去参加了福克斯商业新闻的临时实时采访。Ray 已经发布了广受欢迎的 Disrupt TV 的近 400 集,该节目在 YouTube 上直播。该节目每月产生超过 1.3 亿次印象。

Ray 在他辉煌的职业生涯中唯一没有做过的事情就是在这个播客中担任嘉宾。我们即将改变这一点。Ray Wong,我很荣幸欢迎您来到人工智能与未来工作播客。让我们从您分享更多关于您的背景以及您是如何进入这个领域开始吧。

嘿,Dan,非常感谢你邀请我。非常感谢你邀请我参加这个播客。我终于来了。所以这是第一个星期五。我们实际上已经有一段时间没有做 Disrupt TV 了。这实际上是我们能够做到这一点的原因。但是,是的,所以,上帝,这不是关于我的,而是关于我能够观察到的企业软件中令人难以置信的旅程。我已经在这里待了,我想,大约 20 年了,观察企业软件。也许更久。等等,96 年?是的,我在 96 年加入的。我开始……

在德勤做咨询工作。然后最终在 UI 做 SAP 实施,然后开始在甲骨文构建东西,然后离开,做了一个创业公司,差点上市。我们一度价值 20 亿美元,然后我们暴跌至零,然后又回到了甲骨文。

然后去了 PeopleSoft,然后又回到了甲骨文。所以在做了这些事情之后,Whipsaw 实际上在 Forrester Research 工作了五年,负责 ERP,负责没有人想要负责但突然变得有趣的事情。然后当然,离开了,加入了一群前 Forrester 的人。

该公司被一家名为 profit 的公司收购。然后我在 2010 年创建了 Constellation,从那时起我们就拥有了一个伟大的团队。所以这是一段令人惊叹的旅程。而且我想说的是,如果你谈论转型,如果你谈论,你知道,人们今天是如何构建下一代人工智能的,我们现在谈论的许多关于数字化的术语都被应用了。它只是有点不同,因为在互联网时代和时代,

在数字时代,我可以很容易地说它是开放的,有更多的参与者,它是去中心化的,成本也在下降。在人工智能领域,情况有点不同。它是封闭的,它是中心化的,它更昂贵,而且只有少数几家公司会胜出。所以我们必须改变这一点,对吧?它不必那样。我认为这就是革命即将发生的地方。所以 Ray Wong 是那个

尼尔·卡武托(福克斯新闻)和约翰·福特(CNBC)等人在想要对未来略微一瞥时会去找的人。我首先要问你一个关于过去的问题。所以让我们把时间倒回到 2022 年 11 月,ChatGPT 的发布。自从发布以来,全球对这种对话式人工智能的反应最让你感到惊讶的是什么?

所以它是捕捉想象力的能力,我们可以将机器人格化,成为一种存在于那里的 AI,一种超级智能。我们在疫情期间观看的所有反乌托邦科幻小说突然都变成了现实,以及对未来可能带给我们在全新世界中的乐观主义。我唯一能想到的是,因为我脑袋里技术宅的一面在想,

好吧,这些人为什么要用概率模型来解决确定性问题?这太荒谬了。你想要 1+1 有时等于 3 吗?不,停止。所以如果你要解决具有创造性和概率性的问题,请使用概率模型。如果像 1+1 仍然应该等于 2 的事情,让我们确保我们这样做。所以我们已经恢复了理智。这是个好消息。但我们经历了

我的意思是,这一切都始于 iRobot,然后是图灵,然后是达特茅斯学院的约翰·麦卡锡,嘿,专家系统来了,它们实际上也不错。等等,这些也不太好用。嘿,

那是吉娃娃还是松饼?然后当然,现在有了生成式 AI。所以我们得到了反复无常。有很多 AI 寒冬。那些真正做这件事的人,这非常有趣。但是这里有很多努力和精力,并且已经取得了很多进展。

所以我们最近在这个节目中与 Peter Voss 进行了一次谈话,他创造了 AGI(人工通用智能)这个术语。我可能会稍微篡改他关于 AGI 的说法,但这基本上是让人类相信他们在与人类交谈时,实际上是在与机器交谈。有点像图灵测试。这是正确的愿景吗?显然,我在这里有一些看法,但我希望听到 Ray 对我们应该考虑用 AI 实现什么的愿景。

是的。现在,我们查看五个成熟度级别。第一级是增强,对吧?我们可以,你知道,机器帮助我们做得更好,对吧?我们正在做,你知道,我们每小时完成 15 个任务。现在我们每小时可以完成 40 个任务,对吧?这很棒。或者我们曾经需要查看和查找五个不同系统中的内容。增强就在那里。所以现在我更容易获得我需要的信息了。好的,很好。

有加速,而不是达到 40 件事情,我们达到了 500 件事情,对吧?这会随着时间的推移而发生。在某些时候,我们将拥有自动化但仍然需要人工监督的事情,对吧?当我们到达代理时,这就像现在的潮流一样。一切都是代理的。就像,哦,哇,它是代理的。好的,很好。你这是什么意思?好的,所以我们将一堆技能捆绑到一个,你知道,我最多称之为机器人,对吧?

对,实际上是为了解决和帮助完成任务并加速这一点,很好。在某些时候,我们将获得能够为您思考的顾问。将此视为超级智能的挑战在于,您假设它正在学习,它正在独自学习,并且不存在多个超级智能。我们都认为中心化的博格是一种类似于思考并创造所有这些东西的东西。

事实上,我认为人工智能最好的例子是人类智能。它是高度去中心化的。人们的学习速度不同。他们拥有不同的技能、不同的能力、不同的天赋,对吧?这种多样性实际上是集体人类智能如此强大的原因。在一个中心化模型中重现这一点就失去了意义。它必须去中心化,因为

有不同的任务,有不同的概率。如果你真的想拿出一个模型说,每个人类实际上都是一个能量源,一个概率模型的能量源就坐在那里,那是叠加的。在所有事物之上都有一个假设。

那么你会说,是的,所有这些的随机性实际上创造了这种集体智能。我知道我在这里说得非常深入,非常快。但我的意思是说,仅仅说这是一个超级智能,它将无所不知是不够的。我们实际上必须考虑

将会有如此多的变异性和如此多的选择。人们有一种愿望,那就是让一切变得一致和中心化,我们必须与之抗争,对吧?中心化的稀缺性概念与去中心化的丰富性概念之间的斗争,这将是我们看到智能的真正战争。

所以你和你的团队参加了每一个供应商简报,每一个大型科技供应商的简报。他们希望你在房间里谈论他们对人工智能的愿景,通常是带引号的“可能成功”的技术。

你角色的另一半是与企业领导者交谈。我很想知道,从你所处的有利位置来看,你从供应商那里听到的关于他们对人工智能的愿景与企业领导者对这些供应商的期望之间是否存在差异?你知道,这种差距实际上是数十亿美元收入的差异。我认为这是你指出的一个重要点,Dan。那些知道发生了什么的供应商

有一个惊人的愿景,说这是未来。他们还找到了让客户能够参与该过程的入门途径。那些没有做到这一点的供应商将无法在市场上生存。因此,供应商要想成功,就需要一定程度的惯性。但也存在最终用户对这种产品的消费,这实际上是支付账单的。这始终是产品市场契合点,这就是差距。

我给你举个例子。我将冒险一试,我以后可能会后悔,因为它是现场录制和播出的,但这正是让它变得有趣的原因。所以我认为数十亿美元即将浪费在人工智能上,主要是因为

组织不知道他们需要多少数据才能达到其利益相关者信任的精度水平。我给你举个例子。客户体验的准确率为 85%。我很满意,对吧?电话可能会打不通。你可能会对某人感到生气。是的,但你比 50-50 好,这比我现在的情况好。

供应链的准确率为 85%?哦,这很糟糕。这就像每小时可能损失数百万美元,或者每小时可能损失数千万美元,因为你的供应链需要以大约 98%、99% 的速度运行。

金融的准确率为 85%?有人要进监狱了。这不会发生。医疗保健的准确率为 85%?好的,是的,你已经达到了极限。所以我们有这样的想法,你拥有的数据以及所有公开可用的数据都在互联网上被抓取,

之后就没有什么新东西了,对吧?大部分数据已经被抓取了。因此,为生成式人工智能提供动力的这些大型语言模型的未来是,我们必须转向小型语言模型和非常小的语言模型。因此,接下来的 10% 与最初的 85% 一样有价值,而最后 5% 在达到精度水平方面将与 95% 一样有价值。

这意味着我们将进入一个数据收集者的世界,我们将共享数据,我们将代理数据,不仅在一个行业内,而且在整个价值链中。因此,零售、制造和分销将共享有关供应、库存、股票、价格弹性、需求、兴趣的信息。所以这将是其中之一。通讯、媒体、娱乐、科技。

电信也是如此。他们都会销售。他们都会弄清楚哪些客户和哪些角色对在技术平台上分发的数字商品感兴趣,该平台实际上在另一端拥有数字货币化支柱。所以这将是我们共享数据、共享信息的方式,这将是一个互惠互利的模式。另一个有趣的部分是,大多数组织都会发布一些东西,但没有意识到

最重要的问题是,当出现问题时,你应该起诉谁?你是否考虑过后端的责任问题,对吧?所以所有这些都将到位。当然,当我们回到未来的工作时,聪明的组织将意识到何时何地插入人类。好的,我们需要解开很多子问题。所以在过去的

几周里,我们看到 Benioff 在舞台上谈论代理力量,Carl 在 Workday Rising 宣布了他们新的 AI 代理,Bill McDermott 在 ServiceNow 也做了类似的事情。而鼓声是每个人都会有一个机器人同事。每个角色都有一个 AI 代理。而且

然后当我想到企业并试图理解这一点时,让我感到焦虑的是夹在中间的人类,那些不是高层管理人员的人。他们在想,这对我意味着什么?我

需要提升技能,再培训吗?是我该退休的时候了吗?我该怎么办?因为感觉我的工作,迫在眉睫。我的职业、我的工作、我作为人类的存在受到了威胁。你如何解开这组非常复杂且相互矛盾的数据?

好吧,你知道,从油毡到两英寸厚的地毯是完全不同的体验。所以我们得到一个或另一个。但认真地说,我认为我们必须弄清楚何时何地插入人类。让我们来做这个练习。我们查看七件事。这是你学习模式的东西,然后你把它放入机器中,对吧?所以高度重复性的任务将消失。如果它有一些巨大的数量,对吧?

你可能会增加更多人来做,但随着时间的推移,你会用更多技术和更多软件来增强它。大多数组织都会这样做。大量的交互节点。我不知道。我可能会构建一个多任务,三件事,五件事。我做不了 500 件事情。所以这将是机器可能胜出的地方。如果你需要实际加快完成时间,

这也将通过更多机器来实现。大量的体积意味着更多的机器。但是当我们谈到复杂性时,这是有趣的部分。有很多东西我们无法在算法中建模。这就是人类判断和决策仍然非常重要的原因。当我们谈到创造力时,我们非常擅长制定规则,但我们更擅长打破规则。

有了正确的激励措施。这就是人类做得非常好的事情。当然,还有物理存在。你真的想要进行人际互动还是想要进行基于机器的互动?你将为人们提供各种选择。因此,当我们在这个背景下看待它时,你还必须考虑宏观因素,对吧?作为一家未来主义公司,我们关注人口动态和增长。在美国,它有点平坦,也许

我们可能会从这个家伙那里得到某种等腰三角形。在中国,这是一个倒金字塔。在日本,这是一个倒金字塔。在欧洲,这是一个倒金字塔。也许在印度,你有一个金字塔。也许在南美洲,你有一个金字塔。

因此,人口老龄化确实需要一定程度的增强和人工智能来弥补所有无法完成的工作,因为人口的替代将不存在。我们将从 80 亿人减少到 70 亿人,再减少到 60 亿人,等等,我们实际上是如何修建道路的?谁来照顾老年人?你将在哪里学习你的技能?

所以所有这些都会改变。因此,从宏观角度来看,这是一件好事,因为我们正在老去。在不久的将来,这是一件可怕的事情,因为你不知道哪些工作会胜出。这就是我回答你问题的冗长方式。但我确实相信,那些认为我们将用人工智能淘汰 100 名员工的组织,他们会发现只有 15 名,因为何时何地插入人类。

那些像 Klarna 这样的组织说,我们将用我们与 OpenAI 的合作关系取代 Salesforce 和 Workday。对其他那些不叫 Klarna 的组织来说是一种伤害,这些组织正在试图弄清楚与人工智能的这种复杂关系。你对企业领导者关于如何考虑在哪里削减,在哪里增加,如何以负责任的方式引入人工智能的指导是什么?

所以我们必须首先说,你是否有足够的数据来达到这种精度?负责任的方式是我们将在哪里插入人类?因为如果你没有足够的信息,或者你只有足够的信息来自动化该任务或流程的一小部分,那么你就会开始问这个问题,哦,是的,我在这里需要人类的判断。我在这里需要人类的判断。我在这里需要一个控制。这就是人类参与的地方。

我不知道我们将替换多少软件,但我可以告诉你的是,我们正在抽象事务系统。我们正在提取参与和社交系统。我们正在提取体验,以便我们最终能够更好地进行决策自动化。

这里的目标不是更多的人工智能。目标实际上是做出更好的决策、更快的决策、更精确的决策。这就是我们前进的方向。所以如果说供应商决定这将取代另外两个供应商,那就太好了。但你真的做出了更好的决定了吗?如果答案是肯定的,那么你就成功了。所以昨天我和微软的人力运营总经理谈过,有 208,000 名员工,他

给了我对这个问题的看法,关于宏观经济。我想问你同样的问题。所以他说的一件事,Phil 对我说的是,

30 年前,地球上少 30 亿人。而我们在这里,我们没有 30 亿失业人口。所以全球经济非常有韧性,但它会发生变化。当 Ray 和 Dan 在十年后进行这个对话的版本时,Paul,这是你的水晶球。除了大规模失业或人类物种的大规模灭绝之外,全球经济还有什么不同?

奇点就在这里。我认为我们不会朝那个方向发展。我认为它会不同。我们将看到很多人的增强,我们还将看到很多机器人和自主机器人实际上在我们日常生活中发挥作用。它不会像杰森一家里的 Rosie 一样,但你将拥有执行任务的机器人。你将拥有实际上正在审查合同的软件机器人

你的采购合同,你可能有一个代理,你自己的代理,实际上正在为你进行采购。所以,嘿,如果香蕉的价格降到每磅 17 美分,也许我们应该买 100 个。好的,很好。或者这里有一个销售活动。好的,现在下注。或者我想要游戏门票。或者这个新的技术趋势出现了。我查看了我的学习资料。我有一个 60 年的课程。你知道吗?我会报名参加那个课程。

所有这些都会发生。但首先必须发生的是设计。我们将从,这是我的朋友 Ari Kayumi,他一直在与 BJ Fogg 一起研究这些东西,他研究了行为科学。我们必须从我们之前的共识技术或劝说技术转变,我们正在吞噬我所有的时间和注意力,到我们实际上有一些互惠互利的共识技术,到我们

代理和 AI 实际上代表我工作,而不是代表网络工作。

我们如何到达那里?现在,我认为我谈论得越多,我不得不说,以中心化方式设计人工智能将对我们造成更大的伤害。在我们弄清楚如何以去中心化模型交付人工智能之前,我们将没有自由感。我们将无法实现大规模创新,我们将无法实现我们正在寻找的个性化。所以我们必须与之抗争

这种中心化的冲动,实际上为去中心化腾出空间,以便创新能够存在。所以到 2050 年,我希望我们已经解决了这个问题,并且已经转向了一种更谨慎的方法。我相信

所有这些阻碍的能源消耗问题都将消失,因为我们已经弄清楚我们可以用太阳能、电池和小模块反应堆来为所有东西供电。因此,计算能力问题不再是一个问题。然后有点不同的问题是,我们是否进入了一个普遍基本收入的世界?因为我们无法弄清楚为什么罗登贝瑞没有给我们留下关于如何进入星际迷航经济的笔记。这是一个完全不同的问题。但是

我认为我们仍然必须找到目标。我认为人类总是躁动不安,总是试图做更多的事情或找到更多的东西或提出这些问题,我认为我们的意义和目标将会改变。我现在还不知道那是什么样子。我还没有充分考虑这个问题。但我认为我们的目标将从从事琐碎的任务和努力生存转变为,我不知道这是否是一种启蒙,或者有人在这里发现了一个脉轮。它不会像那样,

对吧?但它将是,你知道,我们将找到这个目标或愿景的新地方。这将捕捉我们的想象力。我喜欢这个答案。是的,我设想了一个目标经济,我们不应该考虑将意义或对目标的追求外包给机器人。我经常说,任何可以预测的东西最好留给机器,但任何需要同理心或理性思考的东西都是

这使我们成为人类。我认为这永远不会消失。你知道,数据想要成为人类的追求永远不会结束。所以你的几个答案都触及了我们在本节目中经常谈论的一个非常重要的主题,那就是

负责任地使用人工智能。所以也许只是为了对这次谈话进行薄切,我很想听听你对正确规范人工智能的看法。这是一个非常棘手的问题,但首先要问的是谁应该规范它?应该如何规范它?我们走在正确的道路上吗?或者 Zahrae 会怎么做?

不会有 Zahrae,我不相信专制。但我认为有五个因素。我和我的朋友 David Bray 大约七八年以前在麻省理工学院斯隆管理评论上发表了一些东西,真正关于以人为本的人工智能原则。它实际上是基于我们关注的五件事构建的。透明的算法,这样人们就可以实际看到发生了什么。可解释性,如果你歧视留着紫色头发的左撇子,而你并没有真正打算这样做,那么,嘿,这是一个问题,让我们来解决它。而且

我们需要扭转这种局面,然后学习一些东西,对吧?我们必须将其构建到我们的系统中才能做到这一点并学习。然后当然,随着时间的推移,我们必须弄清楚如何训练这些模型以获得这种精度水平。当然,你想要一个以人为本的模型。否则会发生什么?好吧,机器人接管了,天网获胜了。所以这些是开始的基础。但除此之外,我,

这种人类规范的冲动,对吧?政府在监管方面有其目的,但它也会腐蚀政府的监管。因此,看看政府如何能够将其文化价值观、伦理或地区差异融入其人工智能中将会很有趣。我刚从利雅得的全球人工智能峰会回来,

作为一个始终热爱祖国、为身为任何国家公民而自豪的人,我戴着这顶帽子。我坐在沙特阿拉伯,心想,这真是太棒了。当然,你必须有一个阿拉伯语模型,对吧?如果我在台湾和香港,我会想要一个繁体中文语言模型,对吧?而且

为了保护你的文化和价值观,对吧,这将归结于此。因此,这个拥有每种文化伦理和价值观的自主AI的概念,我将创建一个新的国家,休息日是星期三,而且不允许任何人吃鸡肉,因为禽流感非常严重,它导致了所有这些大流行病,对吧?

这可能是我的国家的价值观。因此,我可以看到这些AI相互竞争以获取输入、能源、投资、创新和想法。我无法告诉你哪些伦理是正确的伦理,对吧?因为每个伦理都是一个棘手的问题。因此,试图将你的价值观强加于另一个国家,本身就已经足够棘手了。它会导致战争,对吧?这将在AI的网络层面发生。

因此,我希望人们意识到,人们有很多差异,但在90%的时间里,我们比人们意识到的要相似得多。我认为我们进行这场对话至关重要。正如我们两人所说,这是一个棘手的问题。一方面,我们必须承认这些模型

是用偏见的人类产生的数据训练的。因此,当AI完美地复制人类偏见时,没有人应该感到惊讶。这不像人类如果听之任之就能很好地运用道德。所以我们不应该对AI期望更多。所以我的一个想法

热情地同意,来自这些中央机构的监管只会延续潜伏在系统中的偏见。而我的另一方面同样担心让AI供应商“自己给自己打分”。鉴于目前没有一个好的答案,你在这个范围内处于什么位置?但我希望能得到你的看法。没有一个好的答案,但我可以说,请设计出偶然性。

生活中最好的想法都是有人在洗澡时、有人在实验中碰倒烧杯时、有人在酒吧遇到一个很棒的人并结婚时产生的,对吧?这就是偶然性,对吧?我的意思是,这种概率的概念必须存在。否则,世界将只是一个非常、非常无聊的模拟。哦,等等,也许我们就在其中一个模拟中。我不知道。但无论如何。

雷,我们将在接下来的谈话中继续讨论这个问题,因为我觉得,至少促成这场对话是我们的责任。这种情况发生的次数还不够多。我们正在做的一件事是,我们有我们的Constellation AI论坛,我们在纽约和硅谷各举办一次。这个论坛的一个练习是,我们有大约100位非常聪明的人,政策制定者、实践者和AI领域的先驱。我们要求他们进行

一项练习。在这种情况下,联合国有30项人权。我们在联合国大会期间在那里。我们希望你说,在AI时代,这30项人权是什么样的?你会如何重现这一点?我多次公开说过的一个例子是,我希望有权断开连接,并且不被视为恐怖分子。所以——

我可以付现金吗?我可以不使用设备吗?这意味着什么?对。对。所以我们必须解决这些问题。对不起,我们将像我们在人类社会中所做的一切一样,临时处理它。我们等到最后一刻。但你知道吗?这场讨论是值得的。所以我们正在进行这项有趣的练习,人们分成小组。他们将进行宣读。听到人们怎么说会很有趣。对我来说,这就是负责任的AI。领导力就是催化对话。谢谢。

伙计,这次谈话过得真快。我们必须在另一个版本中继续讨论这个问题,但我必须让你摆脱困境,雷。但你不会在不回答我最后一个问题的情况下离开,对吧?除了是一位科技专家外,你还是和我一样一位美食家。所以我给你一些哈利波特流感粉。在一天之内,你可以去世界上任何你想去的地方。规划你一天的烹饪之旅,雷的一天烹饪之旅。

我想去意大利托斯卡纳,品尝一些真正美味的肉类和意大利面。我很想去泰国,品尝各种香料和海鲜。信不信由你,我会跳到澳大利亚牛肉,如果你没吃过的话,真的很好吃。所以在日本吃澳大利亚和牛牛肉。

日本,刚从鱼市出来,一些非常奇怪或奇特的东西,比如某种海胆或某种我从未吃过的海胆或鱼卵。然后跳回印度,因为那里有很多风味和复杂性。印度、印度尼西亚,那里有一些不错的食物。当然还有法国,对吧?我的意思是,一些最好的烹饪技巧在

对吧?在法国南部感受一下,看看那里有什么,看看那里有什么新的米其林星级厨师为你准备的。当然,美国是最好的,不,事实上,你知道吗?多伦多在某些方面可能更好,比如区域特色菜,你只是说令人惊叹的发现的小餐馆。当然,我的意思是,你最终会回到拉斯维加斯或纽约,至少对我来说是这样。我们将在东京的次郎餐厅共进午餐。

哦,是的。你将加入我,在索伦托喝一杯柠檬酒。怎么样?其他事情我们可以决定。我们还没去南美洲。我必须去……我必须去布宜诺斯艾利斯吃美味的牛排。在我去多伦多之前,我不应该去那里吃牛排吗?这让我措手不及。

多伦多有非常好的民族食物,一些最好的波斯菜,一些最好的印度菜。多伦多有一家名为Fishman's的地方,实际上是供应海鲜的。你会得到一堆螃蟹。查一下。太棒了。所以,我的意思是,那里有很多很棒的地方。然后我们都会乘坐。我们都会乘坐Zempik和一些GLP一号,然后忘记它。感谢你做客AI与未来食物节目。

听起来像是你的一个新的衍生节目。当然。雷,观众在哪里可以了解更多关于你和你的团队正在做的工作的信息?是的,访问www.constellationr.com查看Constellation。你可以在raywong.org上找到我。当然,你可以赶上我。我认为LinkedIn现在似乎是最好的渠道。所以试着在那里联系我或关注我。就是这样。传奇人物雷·王。感谢你的光临,伙计。这很有趣。

嘿,非常感谢,丹。好了,这就是我们本周关于AI与未来工作节目的全部时间。当然,我们下周将邀请另一位令人着迷的嘉宾。