服务AI应用的数据中心有望飞速发展
据研究公司Data Bridge Market Research称,全球的AI基础设施市场支出未来六年的复合年增长率将达到44%。
图片来源:Andrey Rudakov/Bloomberg News
企业对人工智能(AI)的炽热需求推动了专为处理计算密集型AI应用而建造的数据中心市场快速崛起。
分析师表示,随着老牌企业云供应商竞相用先进制程芯片和其他升级产品改造现有的数据中心,以满足AI软件的需求,一些初创公司看到了从零开始开发新设施的机会。
数据中心是一种仓库式建筑,配备了多架服务器、路由器和其他信息技术硬件,用于存储和处理数据。IT服务和咨询公司优利系统(Unisys, UIS)高级副总裁兼云、应用和基础设施解决方案总经理Manju Naglapur说,传统的数据中心通常配备使用标准通用芯片运行工作负载的服务器。
Naglapur称,专门建造的AI数据中心会容纳利用AI芯片的服务器,比如英伟达(Nvidia, NVDA)的图形处理单元;在AI应用筛选海量数据存储时,这些数据中心可以同时运行多项计算。他表示,这些AI数据中心还配备了光纤网络和更高效的存储设备,以支持大规模的AI模型。
Naglapur说:“这需要在资金和时间上进行大量投资,才能彻底改造现有中心或创建这些专用型新数据中心。”
据研究公司Data Bridge Market Research称,到2029年,全球的AI基础设施市场(包括数据中心以及支持AI应用使用的网络和其他硬件)支出预计将达到4,225.5亿美元,未来六年的复合年增长率将达到44%。
位于新泽西州罗斯兰德的数据中心初创公司CoreWeave周四表示,在对冲基金Magnetar Capital和私募股权投资公司黑石集团(Blackstone Inc., BX)的支持下,CoreWeave已获得23亿美元的债务融资,这笔资金将用于加快具备AI功能的数据中心的建设。在获得这笔最新融资之前,CoreWeave已在今年4月完成了2.21亿美元的B轮融资,之后又在5月完成了2亿美元的B+轮融资。
CoreWeave成立于六年前,该公司首席技术官Brian Venturo表示,公司目前已有七个AI数据中心上线,预计到今年年底数量将增加一倍。Venturo说,该公司最新的数据中心位于得克萨斯州普莱诺,占地45万平方英尺,价值约16亿美元,本周开始投入商业运营。
CoreWeave位于得州Plano的服务AI的数据中心上周上线。
图片来源:CoreWeave
Venturo说:“大约去年这个时候,我们开始明白即将发生什么。”他指的是Stability AI在2022年8月发布Stable Diffusion,这是一款由AI驱动的图像生成工具。他称,三个月后,OpenAI发布了在线聊天机器人ChatGPT,这让AI市场进入了超速发展阶段。Venturo说:“那时我们在想‘这事儿成真了’。”
在其他差异方面,AI数据中心拥有的使用高性能芯片的服务器数量比传统数据中心多得多。因此,分析师说,一个堆满服务器的AI数据中心,平均功耗可达到每机架50千瓦或更高,相比之下,传统数据中心平均功耗为每机架大约7千瓦。
这意味着AI数据中心需要增建能够提供更高功率的基础设施。由于额外的用电量会产生更多的热量,AI数据中心还需要其他冷却方法,如液体冷却系统,以防止设备过热。数据中心的租赁费率通常与耗电量挂钩。
其他正建设AI数据中心的公司包括Turner Construction、Holder Construction和DPR Construction,以及DataBank等数据中心运营商。
总部位于达拉斯的DataBank今年4月在亚特兰大开建一个占地20万平方英尺的数据中心,专为包括生成式AI在内的高性能计算而设计。该公司目前在27个市场运营超过65个设施。DataBank首席执行官Raul Martynek表示,在传统信息技术工作负载需求已经十分强劲的情况下,AI的快速部署可能会导致数据中心容量在未来12到24个月内出现短缺。
Facebook母公司Meta Platforms (META)去年底暂停了在得克萨斯州坦普尔拟建的8亿美元AI数据中心的建设,因为该公司考虑重新设计这个面积约90万平方英尺的设施。Meta一名发言人称,位于爱达荷州和亚拉巴马州的两个类似项目也被搁置,所有这三个设施的建设预计将在今年年底前恢复。
随着企业料将在未来一年加速部署AI工具,传统数据中心可能无力跟上。国际数据公司(International Data, 简称IDC)负责云到边缘数据中心趋势的研究主管Sean Graham估计,约有20%的数据中心总容量将被用于AI。
根据商业房地产服务公司世邦魏理仕(CBRE, CBRE)的估计,在拥有超过275台设施的数据中心市场领头羊北弗吉尼亚,今年可供租赁的电力从一年前的46.6兆瓦缩减到38.4兆瓦。分析师表示,几天下来,一个AI模型的耗电量就可达数万千瓦时。
IT研究公司Forrester Research首席分析师Naveen Chhabra称,当企业从测试AI应用转向全面部署时,已在接近满负载运行的现有数据中心将难以应付。
Chhabra表示:“这就好比说,驱动你的AI应用需要八车道的道路,而不是两车道。”