中新经纬7月9日电 题:算力需求大增,液冷发展迎风口
作者:蒋颖 开源证券通信首席分析师
蒋颖2022年底生成式AI大模型ChatGPT横空出世,掀起新的AI浪潮,海内外互联网巨头、科技企业及研究机构等陆续投入到大模型研发当中,拉开“百模大战”的序幕。
随着AI对算力的需求持续增长,传统风冷散热模组下热点问题显著,2024年或为液冷渗透率大幅提升元年。
算力需求大增
风冷散热已达瓶颈
随着AI语言大模型的不断迭代,模型数据量和参数规模呈现指数级增长,算力需求不断提升。
据中国信通院数据,2023年推出的GPT-4参数数量可能扩大到1.8万亿个,是GPT-3的10倍,训练算力需求上升到GPT-3的68倍,在2.5万个A100上需要训练90―100天。无论是AI模型的训练还是推理均离不开算力资源的支持,AI的高速发展带来大量算力和数据中心机柜需求,拉动算力基础设施建设。
服务器设备是提供算力资源的主要载体,IDC(数据中心)则是给集中放置的ICT设备(服务器设备、网络设备、存储设备)提供运行环境的场所,需要对ICT设备进行持续的供电和制冷散热。
传统风冷技术以空气为介质进行散热,存在散热密度低、散热能力差、易形成局部热点等缺陷。AI高算力需求下,芯片发热量和热流密度不断增长,如若芯片长时间高温运行,则会影响芯片性能并提升芯片故障率、减低其使用寿命。
AI对算力的需求持续增长,国内外算力芯片热功率也不断攀升,传统风冷散热模组下热点问题显著,风冷散热已达瓶颈。
芯片功率的增加也导致整机柜功率的增长,采用传统风冷的数据中心通常可以解决12kW以内的机柜制冷。随着服务器单位功耗增大,同样尺寸的普通服务器机柜可容纳的服务器功率往往超过15kW,相对于现有的风冷数据中心,已逼近空气对流散热能力天花板。
而液冷散热以液体为介质进行散热,由于液体的体积比热容是空气的1000-3500倍,液体的对流换热系数是空气的10-40倍,同等空间情况下,液冷的冷却能力远高于空气。
因此,2024年或为液冷渗透率大幅提升元年。目前,英伟达GB200 NVL72单机柜功率已高达120KW,从原有风冷散热方案改为风液混合散热方案;华为Atlas 900 AI集群单柜功率高达50KW,同样采用风液混合散热方案。
全国数据中心能耗偏高
液冷市场空间大
2022年全国数据中心耗电量达到2700亿千瓦时,占全社会用电量约3%。2021年全国数据中心耗电量为2166亿千瓦时,为同期三峡电站累计发电量1036.49亿千瓦时的两倍,数据中心减排迫在眉睫。
在落实节能降碳方面,政策明确要求全国新建大型、超大型数据中心平均电能利用效率降到1.3以下,国家枢纽节点进一步降到1.25以下,绿色低碳等级达到4A级以上。
虽然风冷技术是目前普遍应用的数据中心散热技术,但其存在散热密度低和散热能力差的缺陷。液冷散热相较于传统风冷,取代大部分空调系统(压缩机)、风扇等高能耗设备,可实现节能20%―30%以上,PUE降至1.2以下,助力数据中心绿色化发展。
液冷产业生态涉及产业链上中下游,包括上游的一次侧和二次侧产品零部件提供商,中游的液冷服务器、液冷交换机等IT设备提供商,以及下游的算力使用者主要包括三大电信运营商,互联网企业和第三方IDC服务商。总体来看,行业参与者众多,液冷数据中心市场空间较大。
国内三大电信运营商已在2023年提出“液冷三年”愿景,引领液冷行业形成统一标准,并陆续在项目中试行液冷方案,助力液冷生态逐渐完善。
据科智咨询预计,2024年中国液冷数据中心市场将同比增长53%,市场规模将增长至236亿元;预计2022―2027年,中国液冷数据中心市场将以59%的复合增长率持续蓬勃发展;预计到2027年,随着AI系列应用的规模化落地以及液冷生态的日趋成熟,市场规模将突破千亿大关。
从下游需求来看,随着AI大模型、云计算、5.5G等新兴技术的不断发展,互联网、政府和电信行业仍为液冷数据中心的需求主力军,金融、下游制造、医疗、能源等行业也有望不断加大液冷相关投入。
在生态方面,液冷产业早期上下游协同性不高,无统一相关标准,难以形成合力。液冷服务器是液冷生态链的核心价值环节,近期众多服务器厂商先后推出液冷服务器,其他设备厂商相继推出液冷交换机、液冷光模块、液冷机柜等配套设备,积极布局液冷产业,与液冷生态链设备商及服务供应商紧密配合,共同推动液冷生态进一步完善。
成本方面,虽然液冷总体Capex仍高于风冷,但从单位角度来看,单千瓦散热Capex已在快速下降,成本拐点或将出现。
据赛迪顾问发布的《2023中国液冷应用市场研究报告》,2022年液冷数据中心1kW的散热成本为近6500元,相比2021年已经下降了54.2%,预计2023年1kW的散热成本有望降至5000元左右,与传统风冷的建设成本已基本持平。
随着单位散热成本持续下降,液冷TCO优势逐渐显著,或将加速老旧风冷数据中心改建为液冷数据中心,液冷渗透率持续增长。(中新经纬APP)
(文中观点仅供参考,不构成投资建议,投资有风险,入市需谨慎。)
中新经纬版权所有,未经书面授权,任何单位及个人不得转载、摘编或以其他方式使用
本文链接:蒋颖:算力需求大增,液冷发展迎风口http://www.llsum.com/show-5-21325-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 格力预制菜装备公司被列入经营异常
下一篇: 广州:外卖骑手一周超3次交通违法将停单