We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Data Centres in the Era of AI with Jay Park

Data Centres in the Era of AI with Jay Park

2024/10/29
logo of podcast Analyse Asia with Bernard Leong

Analyse Asia with Bernard Leong

AI Deep Dive AI Insights AI Chapters Transcript
People
J
Jay Park
Topics
Jay Park: 亚太地区数据中心市场增长迅速,预计未来将有巨额投资。AI服务器的出现是推动数据中心行业发展的重要因素,它使得数据中心建设更靠近用户,以减少数据传输延迟和成本。数据中心服务器的功率密度在过去几年中急剧增长,这给数据中心基础设施建设带来了巨大的挑战。我们需要开发新的技术和解决方案来应对这些挑战,例如液冷技术和模块化数据中心设计。 Digital Edge 公司致力于成为数据中心技术公司,而不是单纯的托管公司。我们的目标是弥合发达国家和发展中国家之间的数字鸿沟,并通过技术创新解决数据中心行业面临的挑战。我们已经成功地在马尼拉和雅加达等地部署了SPLC冷却系统,实现了低于1.2 PUE的能效水平,这在该地区尚属罕见。 在数据中心设计中,我们需要关注效率、可扩展性和成本之间的平衡。减少能量转换步骤是提高效率的关键,例如减少UPS的使用。我们正在开发新的技术,例如混合超级电容器技术,以提高安全性并实现电力削峰。降低数据中心的PUE能够显著减少水资源消耗,这需要从发电和数据中心两个方面入手。 未来,我们需要更加大胆地尝试新技术,并与业界分享我们的经验和成果,共同推动数据中心行业的绿色可持续发展。

Deep Dive

Key Insights

Why is the Asia-Pacific (APAC) region experiencing massive growth in data center investments?

The APAC region is experiencing massive growth in data center investments due to the increasing demand for AI servers and data processing. According to a recent structural research report, the data center industry will spend $100 billion, with 50% of that growth occurring in APAC. AI servers require data centers to be built closer to users to reduce latency and improve efficiency, driving the need for localized infrastructure.

What challenges do AI servers pose for data center infrastructure?

AI servers pose significant challenges for data center infrastructure due to their high power density and cooling requirements. Traditional air cooling systems are insufficient, necessitating the adoption of liquid cooling technologies. Additionally, the power draw from AI servers can surge unpredictably, requiring data centers to manage peak power capacity efficiently.

How is Digital Edge addressing the environmental impact of data centers?

Digital Edge is addressing the environmental impact of data centers by focusing on reducing water usage and improving energy efficiency. They have implemented innovative cooling technologies like the State Point Liquid Cooling (SPLC) system, which has achieved a Power Usage Effectiveness (PUE) of below 1.2 in hot and humid regions like Manila. Additionally, they are developing hybrid supercapacitors to replace traditional lithium-ion batteries, reducing fire risks and improving energy storage efficiency.

What is the significance of NVIDIA's AI chips in data center engineering?

NVIDIA's AI chips are highly disruptive in data center engineering due to their unprecedented power density, jumping from 10 kW per cabinet to 130 kW. This has forced the industry to rethink cooling solutions, with a shift towards liquid cooling systems. The varying operating temperatures required by different server manufacturers also add complexity to data center design and management.

How does modular data center design compare to traditional construction?

Modular data center design offers faster construction times and reduced material waste, as components are built in factories. However, it lacks flexibility for future upgrades due to transport size limitations and fixed designs. Traditional construction allows for larger, more adaptable buildings, which is crucial as power densities continue to rise.

What role does water usage play in data center sustainability?

Water usage is a critical factor in data center sustainability, particularly in cooling systems and power generation. Digital Edge's SPLC technology reduces water consumption by up to 40%. Additionally, lowering the PUE by just 0.1 in a 100 MW data center can save the equivalent of 1,500 Olympic-sized swimming pools of water annually, highlighting the importance of efficient cooling systems.

What are the key principles for designing efficient data centers?

Key principles for designing efficient data centers include minimizing energy transformation steps, such as reducing AC to DC conversions in UPS systems and avoiding unnecessary energy conversions in cooling systems. Understanding the internal components of data centers, like AI servers, is also crucial for designing infrastructure that can handle increasing power densities and cooling demands.

How is Digital Edge innovating in power management for data centers?

Digital Edge is innovating in power management by developing hybrid supercapacitors that replace traditional lithium-ion batteries, eliminating fire risks and improving energy storage efficiency. They are also working on power shaving systems to manage peak power demands more effectively, reducing the need for customers to purchase excess capacity.

Chapters
The data center industry is experiencing massive growth, with APAC accounting for 50% of the projected $100 billion investment. This growth is driven by the increasing demand for AI servers and the need to process data closer to users.
  • APAC will account for 50% of the $100 billion data center investment
  • AI servers are driving data center growth in APAC
  • Data centers are being built closer to users to reduce latency

Shownotes Transcript

您是否在亚洲管理分布式团队的 IT?并且您知道这有多痛苦。SFL 通过将繁琐的任务从您的内部团队手中解放出来,并为他们提供有效管理 IT 的工具来帮助他们。

在亚太地区的八个国家/地区获得帮助,从入职和离职、采购设备到实时 IT 支持和设备管理。借助我们最先进的平台,在一个地方完全控制所有 IT 基础设施。我们的 IT 支持专业人员团队热衷于帮助您发展壮大。因此,请查看 ESEVEL.com 并立即获得演示。使用我们的推荐代码 ASIA 可享受三个月免费试用。适用条款和条件。

因此,如果您查看一下,根据这份最新的结构研究报告,数据中心行业将花费 1000 亿美元,其中约 50% 的增长将发生在亚太地区。所以这是一个巨大的增长。如果您查看数据中心,则必须在人员所在的地方建造数据中心以更好地支持他们。但我们有一个新的参与者。它被称为 AI 服务器。

这是我以前从未在任何行业中体验过的事情。而且这规模巨大。它会做很多事情,但它必须进行数据处理。因此,您不能让所有这些数据中心都位于,比如说,北美。亚太地区的人们获取这些数据。

然后发回美国或北美,进行所有处理,然后发送到亚太地区。我根本看不到这种情况发生。因此,他们正在将数据中心建在更靠近用户的地方,也就是人们所在的地方。然后您在那里进行所有处理。增长将是巨大的,这就是我们今天所看到的。

欢迎收听 Analyze Asia,这是一个专门剖析亚洲商业技术和媒体脉搏的顶级播客。我是 Bernard Leung,生成式 AI 的关键组成部分之一是数据中心基础设施。今天和我一起的是 DigitalAge 的首席发展官 Jay Park,他将帮助我了解生成式 AI 时代的数据中心格局。Jay,欢迎来到节目。早上好,Bernard。

是的,很高兴邀请您这样一位专家来节目,帮助我解读数据中心格局。但也许像往常一样,我们总是想听听我们客人的起源故事。我想听听你的起源故事。你是如何开始你的职业生涯的?因为我知道你职业生涯中在建设数据中心方面有一些有趣的部分。我的职业生涯可以追溯到 1986 年。

我最初是一名电气工程师。

主要是在发电厂和半导体行业,为该行业提供支持,直到 1999 年。当所有半导体行业在 1999 年从美国搬走时,我很幸运地获得了进入数据中心行业的机会。所以我于 1999 年开始从事数据中心行业。从那时起,我就一直在从事数据中心行业。我已经在这个行业工作了 25 年了。

你最终是如何成为 Digital Edge 的首席发展官的?我还了解到你在 Facebook 工作过一段时间。是的。在 Facebook 的职业生涯结束后,我计划退休。但作为一个韩国人,

我的简历中缺少一些东西,我真的很想为亚洲做些贡献。当我以前的同事找到我说:“让我们创办一家公司吧。”这是一个机会。

所以这是一个让我真正回馈亚洲市场、回馈一些切实可行的东西的机会。所以,是的,我喜欢我的工作,对吧?是的。当然,鉴于如此漫长而资深的职业生涯,您能与我的听众分享哪些有趣的经验教训?你知道,数据中心行业应该与汽车行业非常相似,对吧?所以如果你看看汽车行业,

当你买车时,每年新款都会有一些新的东西,对吧?你会得到一些新的东西。但在数据中心,它正在移动。技术等等都在缓慢发展。如果你看看 1999 年和 2000 年的服务器市场,当时互联网热潮正在兴起,你说的就是每个机柜 1 KVA、2 KVA。

然后很长一段时间,它都在缓慢增长,并在每机柜 8 到 12 kW 左右稳定下来。在过去的 18 个月中,您从每机柜 10 kW 飙升到每机柜 130 kW,对吧?而且这肯定不会就此停止。我听说一些传闻说

甚至更高的密度,机柜也会出现。所以这就是我们现在所处的状态。但是数据中心、建设和行业需要觉醒,真正了解数据中心内部的情况,以便我们可以建造可以使用 30 年的外壳。

哇。所以实际上能源需求发展得如此之快,以至于基础设施方面也需要进行创新,才能真正满足来自世界各地越来越多的需求。我们进入今天的主题,我想谈谈人工智能时代的数据中心。鉴于您在这里,我想知道,您能否谈谈并

概述 Digital Age 作为一家数据中心平台公司今天的使命和愿景?让我首先声明,我们不想被认为是一家数据中心托管公司。我个人喜欢

称我们的公司为数据中心技术公司。今天有很多问题。它致力于提高能源效率,减少用水量。存在电力容量问题。正如我们所说,有很多活动部件。

因此,你知道,我们作为一家数据中心,我们的使命和目标显然是弥合我们目前发达国家和发展中国家之间存在的数字鸿沟,对吧?存在一些差距。因此,我们正在努力缩小这一差距。希望每个人都能

达到相同的水平,这是我们的使命。我们在财务上得到了 Stonepeak 的支持,你知道,10 亿美元的支持。因此,我们拥有非常强大的财务支持,因此我们可以非常自由地建造我们的数据中心。这是我们拥有的福气。我们的公司发展壮大。我们在 2020 年成立了公司,目前在亚太地区拥有 17 个数据中心。

然后我们今天有 400 多名员工。然后希望我们的目标是在 2028 年达到 800 兆瓦。希望我的个人目标是 1 吉瓦,但我们必须在这里保持理性。所以我们正在快速发展,我们也在为数据中心行业寻找解决方案,我们正在努力。我可以说我们是这个市场的领导者。所以希望

希望每个人都会关注我们并追随我们的第一步。也许为了设定背景,Digital Age 在亚洲数据中心业务中具体瞄准的总市场机会是什么?我认为您对公司运营方式的理解更全面。因此,如果您查看一下,根据这份最新的结构研究报告,数据中心行业将花费

1000 亿美元,其中约 50% 的增长将发生在亚太地区。所以这是一个巨大的增长。如果您查看数据中心,则必须在人员所在的地方建造数据中心以更好地支持他们。但我们有一个新的参与者。它被称为 AI 服务器。

这是我以前从未在任何行业中体验过的事情。而且这规模巨大。它会做很多事情,但它必须进行数据处理。因此,您不能让所有这些数据中心都位于,比如说,北美。亚太地区的人们获取这些数据,然后发回美国或北美,进行所有处理,然后发送到亚太地区。这

我根本看不到这种情况发生。因此,他们正在将数据中心建在更靠近用户的地方,也就是人们所在的地方。然后您在那里进行所有处理。增长将是巨大的,这就是我们今天所看到的。我完全同意您的观点,特别是因為我曾经在一家超大规模公司担任中小企业人工智能主管。

亚马逊网络服务东南亚地区。事实上,现在所有超大规模公司都在这样做。我认为 AWS 已经在马来西亚地区、印度尼西亚地区。我认为泰国和越南将在某个时候上线。所以有一点,因为我总是处于用户的最终位置,我的客户是那些使用云基础设施的人,而云基础设施来自数据中心。

我非常有兴趣真正了解数据中心的供应链。您能否在高层次上阐明数据中心的供应链是如何运作的,从规划建设到建成并投入运营,无论是对于云供应商,还是对于可能需要您帮助来实际管理和运行此类数据中心的企业?

在过去,当我们谈论建设数据中心时,规模相对较小。人们建造 10 兆瓦、20 兆瓦、30 兆瓦的数据中心园区被认为是非常大的。随着人工智能的出现,

30 兆瓦已经没有人对此规模的园区感兴趣了,对吧?他们从 5 兆瓦、10 兆瓦开始,这样他们就可以增长到 50 到 100 兆瓦。因此,数据中心的规模呈指数级增长。现在,在 COVID 期间或之后,甚至在 COVID 之后,供应链只是,你知道,

它受到了几件事的影响。数据中心、建设需求,以及由于 COVID,那些制造公司无法按时获得零件。因此,许多主要设备、长期领先的项目,交付时间延长到其中一些项目,长达两年。然后规模越来越大。所以

我们正在做的是,我们试图尽早、非常早地发布长期领先项目的采购。所以在您甚至浇筑混凝土或破土动工之前,我们就已经订购了这些设备。或者我们可能会阻止制造插槽。然后我们正在做的是……

我们正在建造我们所谓的滑块式设备平台。因此,我们将提供滑块,我们将许多相互关联的设备放在一起,靠近的地方。当我们建造建筑外壳、地基和外壳时,我们将所有这些设备放在滑块上。所以我们没有浪费任何时间。这就是我们将如何

缩短我们的施工时间。这就是我们个人正在做的,但您绝对是对的。采购对我们来说一直非常具有挑战性。我们能做的最好的事情就是有一个非常标准化的设计,我们不会更改设备。所以我们基本上是在一遍又一遍地重复同样的事情。所以是的,采购必须在我们破土动工之前很久就完成。

如果我要仔细研究这个问题,我很好奇,因为您提到早期阶段大约是 10 千瓦。比如说,在当今世界,您的愿望是达到 1 吉瓦。那么,鉴于您正在建设的数据中心的规模以及能源方面的情况,数据中心的结构是如何变化的?是的,规模巨大。当您处理如此多的电力时,

您不能仅仅从电力公司获得公用事业馈线。您必须在现场建造变电站,并且必须将非常高的电压引入该园区,然后您必须将其降压。当您建造变电站时,您将需要更大的地块大小。

因此,在都市区建造这种数据中心几乎是不可能的。它必须移到外面,因为你无法获得电力。而且没有人,如果你住在任何地方的居民,你都不希望高压线就在你家后面,对吧?所以建造这种规模的数据中心在都市区变得非常困难。所以,是的,这就是我们今天正在处理的问题。

这也是为什么像谷歌、亚马逊这样的科技巨头正在与小型核反应堆(小型模块化反应堆)合作,甚至像微软拥有特雷蒙特岛,甚至开始将所有数据中心直接放在一些发电厂旁边,以便他们可以直接从源头获得能源的原因。Henry Suryawirawan:是的。我很想谈谈这个话题。所以当你看到这个需求时,

人们没有意识到吉瓦是什么意思。1 吉瓦意味着它可以为 25 万户家庭服务。那是 1 吉瓦。好的。那是多少人?假设一户人家住四个人。那就是一百万人。

1 吉瓦可以支持一百万人。就像一个大城市。好的。那是 1 吉瓦。因此,这种电力基础设施仅通过简单的几个馈线进入,这是不可能的。对。所以你必须建造你自己的变电站,而且电力公司可能也不喜欢这种基础设施。

电力消耗。我今天正在研究的是,我正在与一家大型科技公司密切合作。人工智能数据处理或计算期间的电力消耗是如何发生的?实际上非常有趣的是,电力消耗可能是非常稳定的,然后突然激增。

然后它会下降,然后它会再次上升到搜索。这个持续时间可能是两秒钟、三秒钟,到处都是。因此,对于用户来说,他们必须购买足够的容量来处理该搜索。无论您是否使用它,您都必须购买它。所以我们目前正在研究一个外部系统,我们可以实际进行电力削峰。

因此,用户不必购买额外的峰值电力,即容量。所以他们买得少。同时,从电力公司的角度来看,他们将看到更稳定的状态,即恒定的电力消耗。这就是我们目前也在研究的内容。

那么,模块化数据中心设计的概念是如何发展的,从您的角度来看,在构建高效且可扩展的基础设施方面有哪些优势?所以,你知道,现在有很多公司都在考虑模块化数据中心。我个人以前在一家公司做过模块化数据中心的建设。

你实际上可以更快地建造。我会告诉你优缺点,基本上,在我个人看来,你可以更快地建造内部盒子。然后你可能浪费的材料更少,对吧?因为你是在工厂里建造一切,你使用的材料更少。所以这是一件好事。

我个人认为这个问题在于,你必须从工厂运输到现场。当你运输时,你有一定的高度限制,对吧?你不能运输非常非常高。所以这是有限制的。我不喜欢的是,而且我认为也许不是每个人都会同意我的观点,但仅仅因为我以前做过这件事,改变这个盒子……

在以后的时间里,这会成为一个挑战。举个例子,如果你建造一个数据中心,并且你知道密度会不断上升,那么你就建造一个高天花板的数据中心或留出足够的空间,你可以做到这一点。我之所以这么说,是因为

建筑外壳,壳体建筑成本相对比 MEP 成本便宜得多。好的。所以让你的建筑稍微大一点、高一点是可以的,这样你就可以做到某种程度的未来防范,因为密度只会不断上升。你能想象,我刚听到这个传闻,有人可能会推出每机柜 300 千瓦。

现在,人们,即使我今天就拿它来说,英伟达的机柜,黄仁勋实际上开启了这场讨论。他们的 Blackwell 机柜,每机柜消耗 130 千瓦。所以 130 千瓦,你能想象有多少电路必须进来吗?有点破烂。

而且那不是唯一的机架。你还有机架接机架接机架。你的天花板将布满一堆电缆,对吧?最重要的是,你还有光纤电缆。最重要的是,你还有液冷。你有一根管子。这是一个巨大的、巨大的机柜。所以我们知道这种趋势会越来越糟。所以——

我们需要让我们的建筑外壳足够大,以便将来容纳这种设备。模块化数据中心,当你把它带进来时,你基本上就被锁定了。所以,

改造数据中心以应对未来的增长,在我个人看来,这将是一个挑战。但显然也有优点。你可以更快地建造它。你可以使用更少的材料。一切都在工厂完成,所以质量会更好。有很多优点,但灵活性是我一直有点担心的问题。

那么,随着对更快的数据和处理甚至像这样的需求的增加,交付速度也在提高,对吧?Digital Age 如何在数据中心设计中平衡效率、可扩展性和成本?因为您是一家数据中心技术公司。所以你可能,需要权衡一些事情。是的。对我们来说,

再说一次,我会回到,总是回到现实,我们如何设计数据中心?你越了解盒子里的东西,你就能更好地设计盒子外面的东西。你必须让自己去了解盒子里的东西。所以趋势是密度会上升。

好的。所以密度很好。我们已经远远超过了风冷阶段。好的。好的。风冷。所以当你看看风冷时,对吧,然后基本上目前的系统是你有一个水系统,你基本上是在转换它。你让这个水变得非常冷,然后你通过线圈来产生冷空气。所以它现在实际上是一个水到空气的系统。

好的。但展望未来,空气正在消失。我的意思是,你需要一点空气来冷却其他组件,但它正在消失。百分比会越来越小。它会缩小。所以我们正在转向更多的液冷。我认为这种液冷非常节能。为什么?因为对于液冷,您不必使用非常冷的水。你可以用当地水。你可以冷却 GPU,芯片。

所以我们可以提高水温。您不是在将水转换为空气。因此,从 PUE 的角度来看,只会变得更好。所以效率会提高。但你必须理解这一点并相信这种增长。所以当你建造数据中心时,

你需要使用液冷。现在,当你提到液冷时,我并不是在谈论,你知道,也许如果你看看今天的液冷系统,你有一个冷却水回路和一个冷凝水回路。通常情况下,冷凝水回路是开放式冷却塔类型的回路。所以你基本上将水泵到冷却塔,然后进行冷却……

将水冷却,然后将其送回系统。我个人,我们今天正在做的是,我们现在正在提供一个闭环系统。因此,我们可以将冷凝水直接输送到机柜,并且没有能量转换。对。这样更有效率。是的,正确。绝对正确。所以能源效率来自于

减少能量转换,无论是电能还是机械能,都是一样的。如果你减少转换,效率就会提高。这就是我们需要关注的。这是一个很好的观点。那么,关于亚太地区甚至全球的数据中心工程,你了解的一件事是什么,而很少有人知道呢?你知道,大约四年前半,我进入了亚太地区。

并查看了这个市场,基本上他们正在使用非常非常旧的技术。直到今天,他们仍然喜欢坚持旧技术,他们需要打破这种障碍。在我们的 Digital Edge,我们实际上在马尼拉建造了第一个绿地数据中心,并部署了一种非常独特技术,冷却技术。我们获得了

低于 1.2 PUE 的值。这在亚太地区是闻所未闻的。在马尼拉,正如你所知,这是一个非常炎热潮湿的地区。气温非常高。不可能让

PUE 低于 1.2。我们做到了。我们将数据展示给业界。所以我们正在分享这些数据。我们不仅仅是隐藏。所以我们对此非常兴奋,这是可行的,但行业必须,你知道,他们必须

这是工程师的工作,对吧?我不喜欢跟随别人的脚步。如果我一遍又一遍地重复某事,那不会让我兴奋。就像汽车行业一样,当你销售时,有些东西必须有所不同,对吧?有些东西必须更好。我认为我们需要这种心态。我们需要改变亚太地区数据中心行业这种心态。

我的意思是,你实际上可以将你在马尼拉已经做的事情应用到更下游、更下游的地方,比如在更热带的南部地区吗?是的。所以我们有,我的意思是,赤道周围的任何地方,甚至略高于赤道的地方,例如泰国,你知道,越南。我的意思是,这些地方真的很热很潮湿。

所以,我们有这项技术叫做 SPLC,状态点再调用。这项技术是我在 Facebook 工作时开发的。大约在大约 10 年前,我们一起开发了这个产品,我们进行了测试,我们进行了大量的生命周期测试。我们将系统击败到像在非常恶劣的环境中运行系统一样。

然后 Facebook,这个设计,这是公开信息,所以我可以说,但他们在新加坡数据中心部署了这项技术,并且能够在新加坡获得 1.19 的 PUE。所以非常接近我们的马尼拉数据中心,1.193。所以非常相似。

所以这项技术非常独特,很多人都不熟悉它。所以我将快速解释这个系统的作用。当我还是个在韩国长大的小孩子的时,在 60 年代,没有太多人家有,你知道,家家户户都有冰箱。所以我的奶奶或我的母亲,他们总是把饮用水放在这个陶罐里。

陶罐。作为一个孩子,我总是不知道,总是从陶罐里拿水。但我意识到陶罐里的水总是比你水龙头里的水凉。我没有问这个问题。这与 SPLC 的技术完全相同。

基本上,发生的事情是,陶罐外层的粘土有很多毛孔。正确。通过这些毛孔发生热传递。较高温度的水分子有点蒸发,使陶罐里的水池变凉。我明白了。所以,SPLC 也是一样的,我们有一个膜。

它就像粘土一样。它有很多、很多小孔,但水不会泄漏。只有蒸发。然后你将热空气施加到这个膜之间。这使得水冷却。

并且您可以跨 SPLC 降低相当大的 ΔT。所以在马尼拉,当我们进行调试时,我们很难打开冷却器,因为 SPLC 独自完成了所有工作。

所以我们有我们所谓的矮冷却器。SPOC 不能完成的任何工作,我们将使用矮冷却器来降低冷却水的温度。但我们很难打开冷却器,因为 SPOC 独自完成了所有工作。因此,通过这项技术,我们能够获得低于 1.2 PUE 的 1.193。

哇。数据中心的另一个有趣的部分是芯片。我有一个问题,因为我在人工智能领域,你能解释一下英伟达的人工智能芯片,或者其他供应商的人工智能芯片,例如腾讯、Groq,如何影响数据中心,以及它们对你的业务有多重要吗?

所以,你知道,正如我前面提到的,你知道,我们必须了解盒子里的东西。我们必须了解英伟达芯片是如何工作的。你知道,目前它非常具有颠覆性。我的意思是,显然密度,没有人预料到。我的意思是,这就像

你期望每机柜大约 8 到 10 千瓦。你期望这个东西可能会以 20、30 的速度优雅地上升,对吧?它没有。它跳跃了。它从 10 直接跳到了 130。所以,

它非常具有颠覆性。整个行业都在想,我们该如何处理这个问题?最重要的是,行业仍在试图决定,我们应该使用 PG-25 冷却还是直接水冷,对吧?

所以一些公司,我的意思是,英伟达制造芯片,但他们的服务器是由许多不同的公司制造的。所以他们仍然,我们正在努力,因为想象一下,我们有一个数据中心,一个客户想要直接冷却,另一个客户想要 PG25。水的运行温度将不同。所以这些是我们面临的挑战,最重要的是,好的,我们如何管理

现有的数据中心,我们有一个水到空气的系统。现在我们基本上又回到了,如果你想利用它,你必须把水送回,我的意思是,空气甚至到一个水系统,或者直接从水中偷一些水

到冷却器。所以有很多挑战。如果每个人都使用相同的运行温度,那就太好了。但我认为这不会发生,仅仅是因为不同的制造商将需要不同的温度。所以

对。所以这就像每一代芯片,你对能源效率或冷却在数据中心内的工作方式都有不同的考虑。我理解正确吗?没错。但是以前,让我们面对现实,我们能够做的一切,即使密度上升,我们也能用空气冷却。现在,

我们已经到了空气无法冷却这些AI服务器的地步。这就是我们现在手忙脚乱的地方,好吧,我们该怎么做?所以如果你看看今天的行业,有很多CDU公司,冷却分配单元公司,

他们有自己做事的方式,对吧?所以他们试图赶上来。但我所期待的是,如果你是一个托管服务提供商,甚至是超大规模的,无论如何,在冷却分配方面,你将会有不同的颜色。因此,作为数据中心提供商,我们必须灵活地能够支持所有这些客户。

那么,鉴于你之前提到的如此巨大的飞跃,在过去12个月里,是什么改变了你对数据中心工程中这些技术的看法?对我来说,它需要是空气冷却。我的意思是,对不起,液冷系统。我更喜欢……

我建议我们使用闭环系统,无论你使用SPLC还是混合冷却系统,这样你就可以使用冷凝水回路直接冷却AI芯片。所以拥有它绝对是,对我来说,是必须的。所以你一直处于数据中心设计的前沿,特别是从你在Facebook的时候,甚至现在在Digital Age。一些重要的

在设计数据中心以实现最大效率时,一些重要的原则是什么?正如我之前提到的,我认为我们需要减少能量转换的步骤。如果是电力系统,最大的下降,你看到的损失是在UPS。如果你看看UPS,

你正在将交流电转换为直流电,直流电转换回交流电。在这个过程中,你大约会损失6%到10%。你已经看到了。现在有一些高效的UPS,但一般来说,你会在那里有相当大的能量损失。

然后在机械系统中,你有水冷式冷水机组,然后你将其转换为空气,然后你将空气转换回液体,诸如此类。所以转换,当你这样做的时候,这就是你会损失很多能量或效率的地方。所以减少这些步骤将是提高效率的关键。好的。

所以为了提高效率,我只是很好奇地问一下,你在Digital Age实施了哪些最具创新性的方法来最大限度地减少能源消耗,同时保持性能?因为你所说的你想最大限度地减少能量转移的过程数量。所以我做了两件事,在我还在Facebook的时候就涵盖了。

我开发了这项技术。它是一种无UPS电源分配。所以在Facebook,没有中央UPS系统。那是我当时的模式。直到今天,很多公司还在使用它。许多大型公司仍在适应它。它被称为OCP服务器设计。

所以,这是我过去做的一件事。在Digital Edge,我必须说我们在马尼拉和雅加达部署了SPLC系统,这是一个炎热潮湿的地区,然后我们能够获得低于1.2的PUE。这是许多数据中心行业以前从未听说过的事情。

因此,冷却系统中的用水量以及整体能源消耗实际上是数据中心的主要环境挑战。我认为Digital Age现在正在探索哪些解决方案和技术,以便他们能够在ESG目标方面取得有意义的进展?我很高兴你提出了这个话题,因为当我们谈论这个话题时,我实际上会变得非常激动,因为

在用水方面,我们必须关注两个领域。很多时候我们只关注数据中心,在数据中心层面。但是还有一大块。你必须对用水有一个整体的看法。所以这一切都发生在发电方面。电力被传输到数据中心位置。

根据IEEE的说法,我不是编造的,你可以在网上查看。IEEE spectrum,他们谈论生产一度电需要多少水。一度电。一度电是什么?让那个100瓦的灯泡亮一个小时。那就是一度电。好的。哇。

为了产生这种电力,你需要95升水,相当于25加仑的水来产生这种电力。所以我只谈谈发电方面。所以如果你有一个100兆瓦的数据中心园区,这在今天是一个合理的大小。最先进的,绝对的。100兆瓦的场地。

如果你将你的PUE降低0.1,举个例子,如果一个典型的PUE是1.5,你把它降到1.4,你每年将节省1500个奥运会规模的游泳池。好的。想象一下,你把这1500个奥运会规模的游泳池并排放在一起。它看起来像一个湖,对吧?

我能理解你为什么说你正在创建一个闭环系统,因为你试图确保水永远不会浪费。这是正确的。会有一些浪费,对吧?是的。所以举个例子,通过使用SPOC,大致取决于地理区域,你可以节省高达40%。

我的意思是,那很多,对吧?100兆瓦,1500个奥运会规模的游泳池,几乎不到一半,你每年将节省的量。这不是每年。那是很多水,对吧?然后根据你选择的系统类型,

你在数据中心选择的冷却系统也可以节约用水。例如SPLC,节水40%。现在在发电厂方面,你节省了巨量的水。我认为这甚至比数据中心更大,对吧?所以你必须关注用水方面的两个领域。在我看来,我们需要关注的更重要的事情是PUE,因为用水发生在发电厂方面。所以在做这件事的同时,当然,现在数据中心技术有很多进步。哪些最让你兴奋?你如何看待这些新技术塑造行业的未来?

我认为这项技术,节水技术,我相信SPLC不会是最后一种。还会有其他人。我希望有人会理解这项技术,或者想出一些更好的技术。但是除了……

机械冷却系统。我真的很兴奋我们正在电气方面做的事情,因为正如你所听到的,由于锂离子电池发生了一些火灾事故。

没错。所以在Digital Edge,我们实际上与韩国的一家公司合作,开发了我们自己的专利。它被称为混合超级电容器。

但是,它不使用锂离子电池,这是一个混合超级电容器。优点是什么?当你查看火灾原因时,它发生是因为电池在每个电池中都含有化学液体,并且正在发生化学反应。当发生化学反应时,它实际上会产生热量。

所以当它放电或充电时,它会产生热量。这是一种易燃材料。HSC的作用是没有化学反应。它只是一个充电和放电的过程。它是静态的。所以没有热量。你不必担心火灾。而且你也不需要放置这个……

HSE在温度受控的房间里。你可以在炎热或非常寒冷的区域放置它,HSE的工作温度范围非常非常广。所以这个特殊的设备,我们正在开发这个设备,我们已经完成了这项工作来替换UPS电池。那部分已经完成了。

但我更进一步,我正在研究,记住我跟你谈过削峰。这个特殊的设备可以,我个人认为我们可以做到这一点。对。因为它充电速度很快。正确。不像电池。电池,当它放电并且你想给它充电时,需要几个小时才能充电。对。

这个电容器需要几分钟,如果不是几秒钟的话。所以它可以在这么短的时间内处理大量的峰值。它应该能够削峰。这将是一个完美的设备。所以我们试图做的是使用这个设备,一石二鸟。是的。这才是真正让我兴奋的地方。

是的,如果我再问你一个问题,比如高温超导,我很确定你非常熟悉在非常低的温度下工作的超导体。如果真的发生这种情况,它会如何影响数据中心呢?所以,我的意思是,它会存在的。这一切都取决于电容器本身是这样的。问题是它不能……

这个备用时间的持续时间并不大。- 这是正确的。- 所以普通的超级电容器不是几分钟。这个混合超级电容器并不是真正的电容器,它更像是一种,它非常具有创新性。我们称之为电容器,但它更像是一种储能系统。- 我明白了。- 它们实际上可以备份,你知道,新产品将备份大约两到三分钟。

所以它相当广泛。它也同时调节削峰部分,因为你试图用一个设备做两件事。我明白了。对。哇,这很有趣。我们离它不远了。我计划与业界分享这些信息。这是我的……它不是……

老实说,许多公司在创新或找到更好的做事方法时,这与今天的核工业或航空工业略有不同,他们倾向于将信息保密,而不是分享。我认为我们需要改变这种行为,因为我们需要分享信息,因为

我们在这方面做得越好,节能,提高效率,你知道,节约用水,所有这些都将对我们未来的孩子有益。这就是我们必须做的。在我们看来,这不是一个选择,这是我们的责任。那么,你希望人们问你的关于数据中心工程的一个问题是什么?我会说,我会说要大胆,你知道,

不要害怕尝试新事物。它永远不会完美。永远不会是完美的时机。但你到底要等多久?我认为这就是我认为我们需要真正关注的地方。是的,要大胆。只要你承担了计算过的风险,

我认为我们会没事的。这是一个很好的观点。所以我的传统结束问题是,对于Digital Age在亚太地区建设和管理数据中心来说,GRID是什么样的?正如我之前提到的,我们希望被称为一家数据中心技术公司,我们将继续推动这个市场,开发新产品,开发新系统,

甚至分享我们如何改进PUE和运营以降低PUE。我们计划分享这些信息,我们希望成为一家开放的公司,以便我们都能共同成长。这是我们的使命,也是我们的责任。

并且祝你在那方面一切顺利。当然,我今天与一位数据中心工程极客交谈,了解了关于数据中心的所有不同事情,我学到了很多东西。所以最后,我有两个快速的问题。最近有什么建议激励了你?啊,

所以它可能发生在我从美国飞来的时候。我在飞机上看到了这个探索频道。我喜欢那个节目。我看到了下一代电力,它将来自哪里。

以及科学家们今天在非常小的规模上正在做什么,这不仅仅是梦想,这实际上正在发生。所以非常小的规模,他们

发射带有大量太阳能电池板的卫星。他们把它发射到轨道之外。所以他们将获得24/7的阳光。所以它在那里收集能量,然后将能量从那里传输到地球。

通过电磁或,你知道,一些非常有趣的东西。科学家们对此感到惊讶,当我听到它时,我想,哇,你能想象吗,你知道,无论是阴天还是其他什么,都没关系,因为这是一种磁场,你知道,电磁场。是的,它正在向下传输能量。好的。然后,而且它是清洁的。

对,它只是阳光,但唯一的问题可能是有一些,你知道,波长,你知道,这些都是我相信科学家们会解决的事情,但是当我听到它的时候,我认为这是有史以来最酷的事情,所以希望在我死之前能看到它,我们现在都活得更长了,所以我们肯定能看到,我的观众如何找到你

你知道,我经常在许多会议和大会上发言。所以你可以在那里找到我。你可以通过我们的公司营销和网站找到我。是的,就在那里。所以,是的。

如果你有什么好的东西要分享,请联系我。我碰巧认识你的一个同事。好的,好的。他很有趣。我希望我可以在某个时候让他参加节目。所以你绝对可以在我们的YouTube和Spotify频道上找到Analyze Asia。当然,订阅我们的时事通讯。最重要的是,感谢你进行这次谈话。我个人感觉我受益匪浅,我期待再次与你交谈。

感谢你的邀请。我真的很感激。