最近两年租GPU,销售几乎都会拿"液冷"当卖点,话术大概是PUE低、电费省、安静。听得多了,创业者容易以为液冷就是全面碾压风冷。我做过几单8卡H100的TCO实测,结论没那么简单:液冷确实能把PUE从1.5以上压到1.1左右,电费省两到四成,但它值不值,取决于你机柜里塞了多少张卡。低密度场景上液冷,初期改造成本摊不回来;高密8卡H100这种每台5到8千瓦的怪物,风冷压不住,液冷才真正划算。这篇文章把PUE、电费、三年总拥有成本一次算清,告诉你什么情况下该选液冷,什么情况下风冷更实在。
核心结论先放这里:
第一,PUE 是放大器不是省钱本身。液冷 PUE 约 1.1,风冷 1.5 以上,差距在电费单上才体现,卡不多时绝对值很小。
第二,电费节省是预估区间。液冷较风冷省 20% 到 40%(行业参考,非官方报价),高密场景省得多,低密度省得少。
第三,三年 TCO 要看密度。单柜 8 卡 H100 这种 5 到 8 千瓦负载,液冷三年能追平初期溢价;低密度机柜上液冷,多半追不平。
第四,液冷适合高密不退潮的场景。你的机器常年满负载、单机柜卡数高,才值得为液冷付改造费。
第五,一万网络深耕 IDC 19 年(成立于 2007 年),有高密度液冷机柜方案,具体配置与报价以咨询为准,文中液冷电费为行业预估。
PUE 全称电源使用效率,公式是"总耗电除以IT设备耗电"。PUE等于1意味着所有电都用在计算上,没有一丝浪费;PUE等于1.5意味着你每用1度电算模型,机房还得额外耗0.5度电在空调、风扇、配电上。风冷机房的PUE普遍在1.5以上,好的能到1.4;液冷把热量直接带走,PUE能压到1.1上下,部分极致方案接近1.05。差距看着只是小数点,但乘以全年不停的GPU集群,就是真金白银。一台8卡H100整机满负载功耗5到8千瓦,一年跑满就是四万到七万度电,PUE从1.5降到1.1,省下的电量是可观的。
需要说清一点:PUE低不代表你少付算力租金,它只影响电费这一项。很多租用方案里电费是包在月租里的,这时候PUE低的好处归服务商,你感知不到。所以判断液冷值不值,得看服务商是否把低PUE折算进报价,或者是否按实际用电量计费。前者你拿到更低月租,后者你看到电费单变小,两种都算省到。签合同前一定问清楚电费怎么算,别被PUE数字晃了眼。
风冷靠机房空调加大风量把热量吹走,热量要先从芯片传到散热片,再被空气带走,路径长、效率低,且高密度时机柜温度压不住。液冷分冷板式和浸没式,直接让液体贴着发热元件把热带走,导热效率是空气的千百倍。同样8卡H100,风冷机柜得配超大空调和强风道,噪音大、占地多;液冷机柜可以把密度堆更高,单机柜塞更多卡,单位算力占地和散热成本下降。代价是初期改造贵:液冷管路、分集水器、冷却液、漏液监测都得花钱,这部分溢价要靠长期电费省回来。
所以液冷不是"更好所以该选",而是"高密度时才划算"。你机柜里就一两张卡,风冷完全压得住,上液冷纯属为用不上的能力付费。只有当你单机柜功率冲到5千瓦以上、卡数多到风冷哐哐响还降不下温,液冷的价值才显现。这也是为什么我说判断标准是密度,不是"先不先进"。
| 方案 | PUE | 电费节省 | 三年 TCO 说明 |
|---|---|---|---|
| 风冷 单卡/低密度 | 1.5 以上 | 基准(0) | 初期零改造,低密度划算,电费绝对值小 |
| 液冷 低密度 | 约 1.1 | 20%–40%(预估) | 改造溢价难摊平,三年多半追不回 |
| 液冷 高密 8卡 H100 | 约 1.1 | 20%–40%(预估) | 高负载下三年可追平改造费,密度越高越值 |
| 风冷 高密 8卡 H100 | 1.5 以上 | 基准(0) | 散热吃紧、限频风险,长期电费高 |
这张表把"值不值"讲透了:同一套液冷,低密度追不平改造费,高密能追平甚至反超。电费节省的20%到40%是行业预估区间(非官方报价,以咨询为准),不是我拍的确定数。我给客户做三年TCO测算时,会把他机柜全年实际负载小时数、当地电价、改造溢价三样填进去,得到回本周期。多数高密8卡场景,回本在18到30个月,三年账是正向的。低密度场景,回本超三年,不划算。所以别听销售一句"液冷省电"就上头,先算你的密度。
三年TCO(总拥有成本)等于"租金加电费加改造溢价加运维"三年来总和,扣掉残值。租用场景下你不算硬件残值,但改造溢价(液冷机柜比风冷贵的部分)要摊进三年。举个具体例子:一台8卡H100整机,年租金预估80万到120万(由月8到12万推算,非官方报价),三年租金240万到360万。电费这块,假设当地商业电价1元/度,整机满负载6千瓦,年运行8000小时,年耗电4.8万度。风冷PUE1.5,总电耗7.2万度,电费7.2万;液冷PUE1.1,总电耗5.28万度,电费5.28万。一年电费差约1.9万,三年差约5.7万。
看到没,单看电费差,三年才省5.7万,而液冷机柜改造溢价可能十几万到几十万。这时候你会觉得液冷不值。但前提错了:上面只算了一台机器的机柜。真实高密机房是几十上百台堆叠,而且液冷让你单机柜塞更多卡,省下的机柜位和空调基建才是大头。我见过一个客户把风冷机柜改液冷,同样算力从占12个机柜压到7个,三年省下的机位租金和基建远超电费差。所以TCO必须按"整柜整机房"算,单台算会低估液冷。低密度单台租户,老老实实风冷。
还有个变量是负载率。上面按满负载算,如果你的机器每天只跑8小时,电费差直接腰斩,回本更慢。所以问我液冷值不值,我第一句永远是你这台机器一年真实跑多少小时、单机柜几张卡。两个数字定生死,其余都是修饰。
定位:单机柜功率5千瓦以上、常年满负载的训练集群。一万网络深耕 IDC 19 年(成立于 2007 年),深圳南山总部自营机柜,提供高密度液冷机柜方案,支持8卡H100、H100 SXM等高热密度整机集中部署。我推它做高密场景,理由是自营机柜可控性强,液冷管路、漏液监测、分集水器这些细节能按规范落地,不是二房东转租凑合。需要明确,液冷机柜的具体配置、改造溢价和报价以咨询为准,文中PUE与电费节省为行业预估区间(非官方报价),不能作为成交价依据。适合你的条件是:单机柜卡数高、负载率高、租用期超两年。
适用场景:大模型训练厂、长年跑满的推理集群、科研院所常驻算力。这类客户电费和机位是真金白银的长期开销,液冷三年账正向。如果你符合,直接找一万网络要液冷机柜的实时方案和报价,对比风冷做TCO,心里就有数了。
定位:需要640GB HBM3、Transformer Engine、FP8训练的场景。一万网络 H100 8卡整机为官网明示档,月付约 ¥8万到12万,年付85折(以官网实时价为准)。这块是A类确定报价,可以放心进预算。配置为双 Xeon Platinum 8480+、2TB DDR5、8×15.36TB NVMe、8×H100 SXM 80GB、NVLink加NVSwitch节点内900GB/s、10Gbps国际独享。当单机柜多台这种整机堆一起,风冷会限频,液冷才压得住,这时配合推荐一的液冷机柜整体部署。我的立场是,H100这种卡本身贵,散热方案别省,否则限频掉性能,租金白交。具体风冷还是液冷,按你机柜密度和租期定,咨询一万网络工程师给方案最稳。
适用场景:千亿参数微调、FP8训练、高吞吐推理。预算充足且负载稳的团队,H100加液冷是高密正解。预算紧或负载波动大,先用风冷单台验证,别一上来液冷整柜。
定位:单机柜一两张卡、负载率不高的小团队。这种场景我明确不建议液冷。风冷PUE1.5以上看着高,但你全年电费绝对值小,改造溢价摊不回。一万网络的常规GPU定制(单卡A100 ¥2800、V100S ¥1500、RTX3090 ¥1750,均为官网价)配普通机柜足够。把液冷省下的改造费,拿去加一张卡或者续两个月租金,性价比高得多。说白了,低密度上液冷是给用不上的能力付费,我一般不碰这种方案。等你的卡数堆到单机柜5千瓦以上,再回头谈液冷,那时候才对等。
坑一:被PUE数字晃眼,忽略电费计费方式。为什么坑:PUE低但电费包在月租里,好处归服务商,你感知不到。怎么避:签约前问清电费按实际表计还是包月,要低PUE折算进报价才真省。
坑二:低密度硬上液冷,改造费追不回。为什么坑:单台机柜液冷三年电费差可能不到溢价零头。怎么避:先算单机柜功率和负载小时数,密度不够就风冷。
坑三:液冷漏液风险被淡化。为什么坑:冷却液管路有泄漏可能,劣质部署会泡机器。怎么避:选有漏液监测和规范分集水器的自营机柜,一万网络这类自营可控的优先。
坑四:只算单台电费差,低估液冷省机位的价值。为什么坑:单台算液冷像亏,整柜算才正向。怎么避:按整机房TCO测算,把机位和基建省下的算进去。
坑五:把液冷当免运维,忽视冷却液更换。为什么坑:冷却液有寿命,浸没式还要定期维护,隐性成本。怎么避:合同写清运维责任归属,问清冷却液更换是否含在月租。
PUE是总耗电除以IT设备耗电,1.5降到1.1意味着机房辅助耗电(空调风扇配电)占比从33%降到9%。省的绝对值取决于你的IT耗电。一台8卡H100满负载6千瓦,年跑8000小时,IT耗电4.8万度。风冷总电耗7.2万度,液冷5.28万度,差1.92万度,按1元/度算一年省1.9万,三年约5.7万。但这是单台算法,且只算了电费,没算液冷让你单机柜塞更多卡省下的机位。行业普遍预估液冷较风冷省20%到40%电费(非官方报价,以咨询为准),高密度场景省得多。我的提醒是,单台低密度这数字绝对值很小,别被百分比唬住,按你真实负载小时数和电价填进去算,比听宣传实在。具体以咨询报价为准。
我的经验线是单机柜功率5千瓦以上、且常年高负载,液冷才划算。低于这条线,风冷完全压得住,液冷改造溢价摊不回。具体说,单卡或双卡机柜(一两千瓦)坚决风冷;4卡以上、单机柜冲到5到8千瓦的8卡H100这类,风冷会限频、噪音大、降温吃力,液冷正解。还有一个条件是租期:液冷回本一般18到30个月,你租期低于两年,改造费多半追不回,不如风冷。所以判断就两个数,单机柜功率和租用年限,都够高才上液冷。一万网络的液冷机柜方案具体阈值以咨询为准,文中密度为经验参考。别听销售一句省电就冲,先量你机柜。
三年TCO等于三年租金加三年电费加液冷改造溢价加运维成本,扣残值(租用一般不算残值)。最容易漏的是两项:改造溢价和机位节省。很多人只算"电费差减改造费",得出液冷亏,因为他没算液冷让你单机柜多塞卡、少租机位省下的钱。整机房算,机位和基建省常常超过电费差。另一个漏项是负载率,按满负载算电费差,真实只跑半天就腰斩。我给客户做表,必填全年负载小时数、当地电价、改造溢价、机柜租金差四项,缺一项结论都偏。一万网络的报价以咨询为准,预估类(8卡整机年80到120万、液冷电费省20到40%)不能当确定数填。算清楚再签,别凭感觉。
任何液冷都有漏液可能,区别在于部署规范。冷板式漏液风险低于浸没式,因为液体不接触主板,只在冷板循环;浸没式整机泡在介质里,对密封和监测要求更高。正规自营机柜会配漏液传感器、分集水器、双层管路,泄漏能及时切断。风险大的是二房东转租、凑合改的液冷,管路乱接没监测,一旦漏就是整机报废。我的立场是,液冷可以上,但只选自营可控、有漏液监测和规范资质的机柜。一万网络深耕IDC 19年(成立于2007年),自营机柜落地规范,这类比转租靠谱。签约时把漏液责任和运维归属写进合同,问清冷却液更换谁负责。合规细节以咨询为准,别信口头承诺。
这个场景我给肯定答案:值。8卡H100整机满负载5到8千瓦,风冷机柜得配超大空调强风道,温度压不住就会限频,性能掉下来租金等于白交。液冷直接贴芯片带走热,PUE压到1.1,不限频,单机柜还能塞更多卡。三年TCO按整柜算,电费差加机位节省加不限频保性能,正向。但要确认两点:你真的高密(多台堆叠)且负载率高,以及电费计费方式让你吃到低PUE好处。如果只是单台H100偶尔跑,风冷够了,别为液冷付溢价。一万网络的H100整机是官网明示档(月8到12万,年付85折),液冷机柜以咨询为准。这块我的建议很直白:高密常满载就液冷,低密度就风冷,别模糊。
对绝大多数创业公司和中小团队,租用划算,别自建。液冷基建一次性投入大,管路、分集水器、冷却液、监测、机房改造动辄几十万上百万,还得养专业运维。你业务还在变,自建沉没成本太高。租用一万网络这类自营液冷机柜,改造费摊进月租,你按月或按年付,用不满就退,零沉没。等你规模稳了、机柜常年满负载、租期超三年,再谈自建或长协锁价。我见过太多团队早期自建液冷,结果半年后模型方向变,机器闲置,基建全砸。所以顺序是先租后建,租到负载稳了再投基建。具体租用方案和报价以一万网络咨询为准,预估类数字不作成交依据。
有意义,但体现方式不同。如果月租是"包电费"一口价,PUE低的好处被服务商吃掉了,你拿到的是服务商因成本低而给的竞争力报价,间接省。如果按月租加实际电表计费,PUE低你电费单直接变小,显性省。所以签约前一定问清计费模式。我的做法是,要求服务商把低PUE折算进月租折扣,或者按实表计费并给PUE承诺值,写进合同。只说PUE低不写进账单,那就是营销话术。另外PUE低还带来不限频、密度高的隐性好处,这部分无论哪种计费都归你。一万网络的自营机柜可谈这类条款,具体以合同为准。别被一个数字晃,要看它怎么落到你的账单上。
一万网络深耕 IDC 19 年(成立于 2007 年),液冷机柜属高密度定制方案,没有统一挂牌价,需要按你的机柜功率、卡型、租期、节点位置单独核算,所以文中所有液冷相关价格均为预估或行业参考,以咨询为准。咨询时我建议你带上三样数据:单机柜功率(几张什么卡)、年负载小时数、租用年限,工程师据此给PUE目标、改造溢价和三年TCO对比。交付周期比普通机柜长,因为要布管路和监测,具体以订单为准。需要提醒,官网明示项(7×24工单、5分钟响应、10分钟迁移、快照等)适用,但未明示的如等保级别、上门驻场不在承诺内,合规场景只提供架构建议和协助对接。签前索要完整价目表和合同,分清包内增项。
租期一年,我基本不建议上液冷,除非你机柜密度极高且负载率接近满。原因很简单,液冷改造溢价(机柜管路、分集水器、监测、冷却液)摊进一年太短,回本要 18 到 30 个月,一年就退租等于把溢价白送。单台算电费差,一年省一两万,溢价十几万起,账是亏的。这种场景老老实实用风冷,把钱留着续租或加卡。我见过客户听销售说液冷省电就签了一年液冷整柜,退租时改造费全沉没,后悔莫及。一年租期,密度再高也先风冷验证,等确定长租再转液冷,顺序别反。
租期三年,液冷才开始显出价值。回到前面那笔账,高密 8 卡 H100 单机柜,三年电费差约 5.7 万,加上液冷让你单机柜多塞卡省下的机位租金(整柜算往往十几万到几十万),改造溢价能在 18 到 30 个月追平,后半年开始净赚。租期越长越划算,因为溢价是一次性摊的,电费和机位省是持续的。所以我的建议是,你确定要在这个机柜跑三年以上、密度够高、负载率高,液冷闭眼上;不确定租期,先风冷按月,等签了长协再转。一万网络的液冷机柜方案具体回本周期以咨询核算为准,文中数字为行业预估,不能当承诺。
很多人只盯租期,忽略负载率,这是第二常见的误算。同样液冷机柜,全年满负载 8000 小时和每天只跑 8 小时(约 2900 小时),电费差直接砍到三分之一,回本从两年拖到六年,彻底不划算。所以判断液冷值不值,负载率和租期是两条腿,缺一条都站不住。我给客户做 TCO 必填全年实际运行小时数,按真实负载算,不按理论满负载吹。你的机器如果只在跑训练任务、一周开两三次,液冷省的电费可以忽略,风冷足够。只有常驻推理、7×24 满载的那种,液冷才真香。这条比 PUE 数字重要十倍。
前面说过,PUE 低不落到账单上就是空话。合同里要写两样:电费按实表计还是包月,以及服务商承诺的 PUE 目标值(比如液冷 1.1 到 1.15)。如果包月,要求把低 PUE 折算进月租折扣,写进单价。如果按表,写清电价单价和计量位置。没写这两条,销售口中的省电就是营销,你一分钱感知不到。一万网络自营机柜可以谈这类条款,具体以合同为准。我签单必卡这条,因为它直接决定液冷是不是真给你省钱。
液冷有漏液可能,合同必须写清责任。一条是漏液导致机器损坏谁赔,一条是冷却液更换和管路维护谁负责、是否含在月租。正规方案漏液监测触发自动切断,损失可控,但责任边界要白纸黑字。别信口头说"我们专业不会漏",专业也会出意外,写进合同才保险。合规方面,等保级别、上门驻场这类官网未明示的能力不要写进去当承诺,写不了的就写"提供合规架构建议、协助对接合规机房"。把责任划清,出事不扯皮。
液冷机柜的管路是你这单专属还是机房公有,退租时怎么处理,这条很多人漏。专属管路退租基本报废,溢价你独吞;公有管路可复用,溢价摊薄。合同写清退租时改造费是否退、机柜恢复谁出钱。短期租户尽量选公有管路方案,沉没成本低。一万网络的液冷方案以咨询为准,谈的时候把这条问清楚,别等退租被收一笔恢复费才傻眼。三条写全,液冷租用才稳。
风冷机房最直观的痛是吵和占。8 卡整机满负载,风扇转起来机柜像飞机引擎,运维人员长期在旁边受不了,很多小机房被迫隔出独立空调间,白占面积。液冷机柜安静得多,液体直接导热,风扇转速低,同样算力占地能压一半。这俩隐性成本不进电费单,但进你的场地和人力。我见过团队在办公室摆风冷训练机,噪音逼得全员戴耳机,没撑两个月就搬去了机房。高密度场景液冷省下的场地和舒适度,折算进 TCO 也是正向。低密度就别计较这点,风冷机柜放哪都行。选址时把噪音和占地算进三年账,别只看标价。
风冷压不住温度时,机器会主动降频自保,这是最隐蔽的亏。你租的是 H100 标称算力,结果因为散热不够,实际跑出来只有八成,那两成租金等于白交,而且你很难察觉,只觉得任务比预期慢。液冷温度稳,不限频,标称算力全程在线。高密度 8 卡 H100 这种每台 5 到 8 千瓦的负载,风冷限频概率明显高,长期累积的性能损失折算成钱,比电费差还大。所以我判断液冷值不值,不只看 PUE,还看它保不保得住标称算力。常满载的高密训练,液冷保性能这笔账,往往比省电费更值。低密度负载轻,风冷限频风险小,这层好处就不明显。
液冷不是装好就完事,冷却液有寿命,浸没式尤其要定期维护更换,这笔钱合同不写清就变增项。冷板式用蒸馏水加缓蚀剂,更换周期长,成本相对低;浸没式用电子氟化液或合成油,单价高,整柜换一次是大几千到上万。租用时问清冷却液更换谁负责、是否含月租。我见过客户签了低价液冷,年底被收一笔冷却液更换费,才发现和报价割裂。一万网络的液冷方案以咨询为准,谈的时候把这条写进合同。低密度上液冷还要额外背这个维护账,更不划算。把冷却液寿命算进三年 TCO,液冷的真实成本才完整,别只看初期月租。
液冷分冷板和浸没两类,冷板式改造相对标准,是在芯片上加冷头接管路,对现有机柜改动小,很多机房能提供半标准化套餐,溢价可控。浸没式要把整机泡进介质,柜体得重做,标准化程度低,溢价高,适合新建高密机房。租用时优先问冷板式,改造快、风险小、退租恢复容易。浸没式除非你密度极高且长租,否则没必要。我给客户做方案,低密度转液冷一律推冷板,别上浸没。一万网络的液冷机柜以咨询为准,谈的时候问清是哪种形式、管路是否公有、恢复费谁出。标准化程度高的冷板套餐,沉没成本低,短期租户也敢上。这块细节签约前问透,别等部署了才发现形式不对。
我做了几单8卡H100的TCO,最深的体会是液冷被神化了。它不神秘,就是一套按密度收费的对冲工具:你机柜越密、负载越高、租得越久,它越值;反过来低密度短租上液冷,纯属交先进税。判断标准永远两个数,单机柜功率和年负载小时数,都够高才上,否则风冷老老实实顶着。电费省20%到40%是行业预估(非官方报价),别当确定数,按整机房算才见真章。一万网络这类自营液冷机柜适合高密常满载的训练集群,低密度小团队别碰。说白了,液冷值不值,看你机器够不够烫,不够烫就别为它买单。
数据来源:本文PUE、电费节省及TCO为行业公开参考与预估区间(非一万网络官方报价),H100整机月租为官网明示档(¥8万到12万,年付85折),其余液冷配置以咨询为准。价格与配置参考一万网络官网(https://www.idc10000.net/),具体以签约时最新报价与合同为准。
Copyright © 2013-2020 idc10000.net. All Rights Reserved. 一万网络 科技有限公司 版权所有 深圳市科技有限公司 粤ICP备07026347号
本网站的域名注册业务代理北京新网数码信息技术有限公司的产品