AI数据中心的未来发展趋势是什么?
By Bloomberg Television · 2024-07-01
随着人工智能时代的到来,数据中心扮演着越来越重要的角色。本文探讨了AI数据中心的价值与重要性,以及面临的能源与供应链挑战,同时展望了未来AI数据中心的基础设施发展。
数据中心:AI时代的价值与重要性
- 随着人工智能时代的到来,数据中心变得比以往更为重要。过去,数据中心主要用于提供超低延迟通信,以满足人们对视频应用如YouTube、Netflix和Tik Tok等的需求。然而,随着人工智能应用的出现,数据中心所需的计算工作负载发生了巨大变化。现在,数据中心不仅需要提供超低延迟通信,还需要处理大量的计算任务,如复杂的数学问题和算法。
- 在数据中心内部,计算等同于能量。为了满足人工智能应用对大规模计算的需求,数据中心需要大量高密度的计算资源。以Nvidia h100服务器为例,单台服务器的功耗就高达10千瓦,而历史上整个机架的功耗仅为7千瓦。为了满足需求,需要将大量这样的服务器堆叠在一起,因此数据中心的总能耗巨大。
- 与过去相比,现在数据中心内外的延迟需求也不同。数据中心内部需要极 低的延迟,这意味着必须建造完全不同类型的数据中心。这些数据中心需要位于能够提供大量电力的地点,通常与传统的城市中心不同。这意味着数据中心建设不再局限于纽约、弗吉尼亚、达拉斯或洛杉矶等地,而是选择那些能够提供大量可再生能源的地区。
- 综上所述,随着人工智能应用的兴起,数据中心的重要性日益突出。它们不仅需要满足超低延迟通信的要求,还需要提供足够的计算能力以支持复杂的人工智能算法。未来,随着技术的不断进步,数据中心将发挥越来越关键的作用,成为数字化时代的重要基石。
数据中心:AI时代的价值与重要性
AI 数据中心的能源与供应链挑战
- AI技术的发展带来了巨大的能源需求,传统数据中心需要成百上千兆瓦甚至几吉瓦特的能量才能支撑起这些工作负载。与我们所熟悉的工作负载完全不同,AI工作负载对能源的消耗要求更高。
- 对现有数据中心进行改造以适应AI工作负载是一个漫长的过程。冷却系统不同,功率密度有显著差异,这些都需要进行调整。相比之下,建立全新的数据中心可能更为明智,因为这样做起来更容易。
- 目前面临的最大问题之一是能源问题。如何获取足够的能源成为了亟待解决的难题。寻找附近的电力成为了首要任务。我们通常利用‘搁浅能源’,并大量使用可再生能源,这些能源多位于国家中部地区。
- 其次是供应链问题。包括电气元件、变压器、冷却器、高压开关设备等供应链也因为对其需求增加而面临挑战。因此,同样是重要问题。在构建新能源方面,目前我们并没有着手,在北美地区,我们利用‘搁浅能源’这一独特设置来解决能源问题。
AI 数据中心的能源与供应链挑战
数字基础设施:AI 时代的建筑块
- 在北达科他州的伦德尔等地,存在着大量的风能资源,这些风能资源输送到一个变电站,但往往由于需求不足,风力发电场需要限制发电。我们前往这些地方之一,利用目前未被使用的电力。事实上,我们有几个类似的地点,可以利用当前未被使用的电力。
- 对于新的电力需求,可以在 24 到 36 个月的时间内建设可再生能源发电设施。更大的挑战在于输电,通常建设在国家中部的电力需要传输到最终用户处,这需要 10 到 13 年的过程。因此,我们通过直接将这些工作负载带到发电点来抄近路。
- 谈到竞争格局,随着人工智能进入市场的各个领域,似乎每个投资者和每个资产类别都在努力弄清楚AI在其行业中的叙事。在数据中心行业,竞争有多激烈呢?如今是一个令人感兴趣的时刻。过去一年,人们试图弄清楚数据中心市场的变化,为什么会出现如此高密度的电力需求。现在我们已经找到答案,正在努力找到解决方案。获取所需数量的电力并运营这种类型的数据中心非常困难。数字基础设施建设正是为了支持计算和AI工作负载而进行的重建。
- 数字基础设施即将成为AI时代的建筑块。它们是支撑所有人手机或家中电视上使用的一切的基础设施。现在,它们需要进行重建,这并不是替代,而是附加建设,以支持计算和AI工作负载。我们是数字基础设施的构建者,是运行一切的基础。
数字基础设施:AI 时代的建筑块
AI数据中心:未来的基础设施发展
- 人工智能是当今备受瞩目的技术,AI聊天机器人已为大家所熟知。然而,在视频和视觉领域,生成式人工智能需要大量基础设施的支持。正如NVIDIA公司的Jensen所说,AI工厂的建设正迫在眉睫。
- AI数据中心的建设不同于过去的数据中心,需要更高效、更先进的设计。我们与NVIDIA合作设计了符合我们需求的数据中心,以应对日益增长的AI工作负载需求。AI工作负载主要分为训练和推断两种,在业界已成为常用术语。
- 过去我们并未如此频繁地听闻数据中心的建设,但现在整个行业都在争相扩建基础设施,以支持运行这些应用程序所需的计算量。如何避免过时这一问题备受关注。在建设设施时,我们考虑了所谓的"未来证明",力求在设计中考虑更高的功率密度和冷却效率。
- 过去20到30年,通信技术驱动了应用程序的发展;而未来的20到30年,计算技术将成为主导,而AI正是其中的核心。我们努力未雨绸缪,确保设施在未来依然具备竞争力。实践高效、低碳的运行模式,使用可再生资源,是我们致力于降低碳足迹的方式。保持不过时的关键在于持续进行未来证明,以确保设施的可持续性和高效性。
AI数据中心:未来的基础设施发展
Conclusion:
AI数据中心在人工智能时代将发挥着越来越重要的作用,支持复杂的人工智能算法和应用。面临着能源和供应链挑战,未来的AI数据中心将继续致力于构建高效、低碳的基础设施,以应对日益增长的AI工作负载需求。