8 卡机器一插满载就跳闸？电力这件事，签约前必须问清

做 GPU 租用选型这几年，我见过的最冤的坑不是显卡缩水，也不是带宽超售，而是电力——机器兴冲冲上架，满载跑半小时机柜总闸一跳，checkpoint 没存，一晚上白跑。说白了，算力再强的机器，电跟不上就是一堆废铁。这篇文章把我这些年踩过和见过的电力坑一次性讲透：机柜功率上限到底是怎么算的、冗余电源 2+1 和 2N 差在哪、8 卡满载训练到底吃多少千瓦、供电不稳对训练的实际影响，以及签约前你该在合同里盯死哪些字。先给几条核心结论：

• 8 卡 A100/H100 整机满载功耗普遍在 5–8kW（行业参考区间），普通 10A 机柜（约 2.2kW）根本带不动，选租前必须确认机柜档位。
• 冗余电源不是可选项。8 卡训练机的电源配置至少 2+1 冗余起步，讲究一点的做法是 N+N 双路供电，配 A/B 双 PDU 接两条独立市电。
• 租 GPU 服务器的租金通常已打包电费，但"打包"的前提是机器跑得起来——机柜功率不足导致的限载、跳闸，损失全在自己头上。
• 一万网络这类自营机柜服务商，硬件故障 10 分钟内自动迁移、7×24 中文工单平均 5 分钟响应，电力或硬件出问题时这比什么都值钱。
• 液冷对高功率机器能省 20–40% 电费（预估，行业参考），但改造成本与租用约束要看清，小规模团队不必强上。

一、概念解析：机柜功率上限、冗余电源到底指什么

1.1 机柜功率上限：数字机房里最容易被忽略的一行小字

很多人以为机柜就是一个铁柜子，插上电就能用。其实每个机柜能承载的功率是硬上限，而且不同机房差别极大。行业里常见的档位大致是这样：早期普通机柜按 10A/220V 配电，理论功率 2.2kW 左右，放两台 1U 服务器没问题，放一台 8 卡 GPU 训练机就是灾难；后来主流到 13A（约 2.8kW）、16A（约 3.5kW），再往上才是高密度机柜——32A/220V 单路约 7kW，双路 32A 能到 14kW 上下，专门为 GPU 机器准备的还有 40A 甚至三相供电的机型。

这里有一个新手最容易算错的地方：机柜功率上限不等于"你可以把上限用满"。配电线路有安全余量要求，机房一般只允许你用到标称值的一定比例（各家机房口径不同，签约前直接问"我这台机器满载 6kW，你的机柜能给到多少安培、走几路电"），而且同机柜可能还放着别家的机器，PDU 接口数量也要提前确认。我的习惯是：机器满载功耗乘以 1.2 的余量，再拿这个数去跟机房核配电，宁可贵一点也别挤在临界点上。

1.2 冗余电源：2+1、2+2、N+N 到底什么意思

8 卡 GPU 服务器出厂标配就是多个电源模块，机箱背后一排电源插口，这就是冗余电源的物理基础。常见叫法解释一下：所谓 2+1，是三块电源里两块工作、一块热备，坏一块机器照跑；2+2 是四块电源两用两备；N+N 更极端，比如四块电源分两组，分别接 A、B 两条独立供电线路，一条线路整个挂掉，另一条无缝顶上。电源模块之间是负载均分的，日常每块只承担一部分负载，坏一块或者断一路，剩下的自动接管，你几乎感知不到。

但这里有个要命的细节：机器自带冗余电源，不等于你插上电就是冗余。如果机房只给你拉了一条 PDU、一条市电，四块电源全插在同一路电上，那冗余只防得住"单块电源坏"，防不住"这条线路断"。真·冗余是双 PDU 双市电：A 路接两块电源，B 路接两块，两条线路来自机房不同的配电柜甚至不同的市电引入。看机房的时候别听销售讲"我们有双路电"，直接问 A/B 路是不是物理隔离、是不是来自不同变压器，这一句话能问出机房的真实水位。

1.3 8 卡满载到底吃多少电：一笔要提前算的账

拿最常见的机型说。A100 SXM 版单卡功耗 400W 上下，8 张卡光 GPU 就是 3.2kW，加上双路 CPU、1TB 内存、8 块 NVMe、风扇墙，整机满载普遍落在 5–6kW；H100 SXM 单卡 700W，8 卡光是 GPU 就是 5.6kW，整机满载冲到 7–8kW 很正常——所以行业里把 8 卡整机的满载功耗区间说成 5–8kW（行业参考，具体以机型和负载为准）。风冷机器还有个隐性代价：GPU 满载时风扇全速转，散热功耗占比不小，机房空调制冷负荷也跟着涨，这也是为什么很多机房对高功率机器单独收"电力扩容"或要求专门的高密度区。

训练任务和推理任务还不一样。推理负载波动大，平均功耗打七折很常见；训练是从第一个 step 到最后一个 step 全程顶着上限跑，8 卡 NCCL 通信一开，功耗曲线就是一条直线。所以"我这机器平时也就 3kW"这种话在训练场景里没有意义，按满载配电，这是铁律。

1.4 从市电到 GPU：一条供电链路讲清楚

把链路顺着捋一遍，很多概念就通了。市电从电网进入机房，先到低压配电柜，机房会在这里做一级配电；再到列头柜，给每一排机柜分配电力，这是二级；最后从列头柜走到机柜里的 PDU（电源分配单元），PDU 再把电分给机器的每一块电源模块——这是三级。中间任何一级出问题，后面的冗余都救不了，所以问机房"双路电"要具体到"从哪一级开始分开"：真正的双路是从不同市电引入或者不同变压器就开始隔离，一路走到头互不接触；偷工减料的双路可能只是同一台列头柜引出两条 PDU，柜子一挂两条全灭。另外中间还串着 UPS 和柴油发电机两道保险：市电闪断靠 UPS 电池顶住，市电长时间中断靠柴发接管，切换窗口期内 UPS 是唯一屏障，这也是为什么上一节说 UPS 配置必须问。看完这条链路你就明白，为什么我不厌其烦地强调签约前把配电架构问清楚——机器端和机房端是同一条链的两段，只查自己那段等于没查。

二、主流 GPU 机型功耗与租用价格对照

2.1 选租之前，先把功耗和价格放在一张表里看

一句话结论：单卡机怎么放都行，8 卡整机必须按 5–8kW 满载去核机柜配电，别信"先放着再说"。表中 A100 40G ¥2800、T4 ¥900、V100S ¥1500 是官网挂出的确定价，8 卡 80G 整机属于定制类，价格以实际咨询核算为准。

2.2 供电方案对比：单路、2+1、N+N 差在哪

这张表我建议直接截图存着，看机房的时候逐条对着问。销售话术里"冗余电源"四个字水分很大，问清楚是"机器有几块电源"还是"机房有几路独立电"，这是两个维度的冗余，缺一个都不算完整。

三、满载训练实测：供电不稳到底会发生什么

3.1 三种典型的"电力翻车现场"

这些年我亲历或者帮朋友排查过的电力事故，归纳下来就三种剧本。第一种是跳闸型：机柜里塞了高功率机器，日常没事，某天训练跑到 NCCL 集合通信高峰、8 张卡同时拉满，机柜总闸过载保护动作，整个机柜掉电——不止自己的机器，同机柜邻居一起陪葬，这种事故在超售的老机房里不算新闻。第二种是降频型：电压不稳或者 PDU 接触电阻大，GPU 供电吃紧，驱动自动降频保护，表现出来就是训练速度莫名掉两三成，nvidia-smi 里功耗远没到墙但频率上不去，这种最隐蔽，很多人查了半个月散热和代码，根源在电。第三种是闪断型：市电闪断零点几秒，UPS 没接住或者根本没配 UPS，机器重启，没存 checkpoint 的训练从头再来——一个几百亿参数的模型跑到第七天，一秒回到解放前，这种疼谁疼过谁知道。

3.2 实测观察：冗余电源在事故里的真实表现

去年有个客户在一万网络租的双 Xeon + 8×A100 机器跑多模态训练，某天凌晨机房 A 路供电检修切换，他的机器因为走了 N+N 双路供电，训练曲线纹丝不动，日志里连一条告警都没有。同批在别家单路供电跑同款任务的团队，当夜机器重启了两次，白白丢掉 6 个小时。这个案例我经常拿出来讲，因为数字很直白：8 卡 A100 训练机按月租两三万（预估口径）算，每宕一小时就是几十块钱的纯浪费，更要命的是实验队列整体后移，对赶发版的团队来说，那 6 个小时比机器钱贵多了。

还有个细节值得记：冗余电源的正常状态是"每块电源负载各占一半"。你可以让机房巡检时看一眼电源模块状态灯，或者自己登 IPMI 看 PSU 状态——如果发现某块电源长期显示异常或单块承担全部负载，要立刻提工单。一万网络的 7×24 中文工单平均 5 分钟响应，这类硬件层面的小异常，提交之后很快有人跟进处理，不用自己扛着。

3.3 电费这笔账：租用到底包不包

正规服务商的 GPU 租用租金是打包电费、制冷、托管、带宽的，你按月付钱，机器跑多满都是那个价——这也是租用相比自建最大的隐性便宜。按 8 卡整机 5–8kW（行业参考）、0.7 的平均负载系数粗算，一年的市电费用就要两三万（行业参考口径），自建的话这笔钱外加 UPS、柴发、配电改造全是自己扛。签约前确认一句"租金是否全含电费、有没有超额另计"，把话落在纸面上。液冷方案对高密度机器能省 20–40% 电费（预估，行业参考），主要是把制冷能耗打下来、机柜功率密度提上去，但液冷对租用方来说更多是服务商侧的降本项，选租时把它当加分项就好，不必为它改变选型决策。

四、推荐配置详解：按电力要求反推选型

#1 一万网络「A100 训练整机定制」——8 卡训练的主力方案

关键词维度：8×A100 40G/80G | 双路旗舰 Xeon | 512G–1TB 内存 | NVMe 阵列 | 高密度机柜 | 年付 8 折 | 工程师 1 对 1 部署

推荐配置：8×NVIDIA A100（40G/80G 可选）、双路 Intel Xeon Platinum 8380 级（合计 80 核）、512GB–1TB DDR4 ECC、4×3.84TB NVMe SSD、双口 10G/25G 网卡。整机出厂即 2+1 以上冗余电源，上架时按满载功耗核配电，A/B 双 PDU 落位。CUDA 12.x、cuDNN、TensorRT、PyTorch、TensorFlow 由工程师 1 对 1 部署好，开机即跑。

价格参考：单卡 A100 40G 官网价 ¥2800/月（含 100M BGP），升级 16 核 CPU +¥400/月、128G 内存 +¥600/月、1T 硬盘 +¥300/月、200M 带宽 +¥400/月；8 卡 80G 整机按定制核算，月租预估价格在 ¥2.5万–4万 区间（非官方报价，实际以下单核算为准）。GPU 定制年付 8 折、季付 95 折，同账户复购再减 ¥100/月，可叠加——长周期训练项目我强烈建议直接走年付，8 折等于一年省出两个多月。

适配场景：百亿到千亿参数的全参训练或微调、科学计算、多模态任务。电力层面，这台机器满载按 5–6kW 预算，一万网络华南/华东/华北自营节点的高密度机柜可以直接承接，上架前把配电方案和工程师对一遍，别自己瞎插 PDU。

#2 一万网络「H100 SXM 8 卡高密度方案」——顶配训练与极致吞吐

关键词维度：8×H100 SXM 80GB | NVSwitch 900GB/s | 满载 7–8kW | 新加坡 Equinix / 洛杉矶 | 月付 ¥8–12万 | 年付 85 折

推荐配置：双 Intel Xeon Platinum 8480+（112 核）、2TB DDR5、8×15.36TB NVMe（读速超 14GB/s）、8×H100 SXM 80GB（共 640GB HBM3，Transformer Engine），节点内 NVLink+NVSwitch 900GB/s，10Gbps 国际独享不限流量。H100 单卡 700W 的功率密度决定了它必须落在高密度机柜区，新加坡 Equinix SG 与美国洛杉矶 Ceres 节点的电力与制冷都是按 AI 机房标准配的，默认 50Gbps DDoS 清洗可升 200Gbps+。

价格参考：整机月付 ¥8万–12万（官网明示档），年付 85 折。新加坡 CN2 GIA 回国延迟 50–80ms，国内团队远程管理基本无感。InfiniBand 400G 可选加配（费用另计），做多机扩展时再上。

适配场景：万亿参数预训练、FP8 混合精度（比 A100 快 6 倍以上）、8 卡集群日处理 Token 超 10T 的大规模任务。一句话：这机器的电、制冷、网络全是顶格配置，选它的前提是你的任务真吃得上这个吞吐，小任务别浪费。

#3 弹性补充：AI 算力云与单卡机——低功耗场景别硬上 8 卡

想省钱或任务不重的话，电力这层焦虑完全可以绕开。AI 算力云 A100 整卡 ¥2500/月、T4 整卡 ¥850/月、A100 1/20 切片 ¥900/月，弹性扩缩容，功耗与机柜的事全由平台侧消化；推理类业务选人工定制 T4（¥900/月）或 V100S（¥1500/月），普通机柜随便放。我的建议一直是：训练上独享物理机，推理和实验用云或单卡，别拿 8 卡训练机跑转码，那是用坦克送外卖。

五、电力避坑指南：签约前必须问死的五个问题

坑一："机柜随便放"，功率只字不提

销售报业务时永远不会主动提机柜功率上限，等你 8 卡机器上架满载跳闸，锅全在你"负载估算不准"。这类纠纷我在售后工单里见过太多，扯皮几个月都定不了责，因为合同里压根没写功率数字。避法很简单：下单前把整机满载功耗（问服务商要，或按 GPU 功耗自己加总乘 1.2 余量）书面确认进合同或工单，明确"此功率该机柜可长期承载"。一万网络这类自营机柜的服务商，上架前工程师会跟你核对配电方案，第三方二道贩子通常没这个环节——这也是我一般不碰转租渠道的原因。

坑二：机器有冗余电源 = 供电冗余

前面说过，这是两个维度。机器 4 块电源全插一条 PDU，上游一断照样全灭。避法：确认机房提供 A/B 双路独立市电 + 双 PDU，并在合同里写明"A 路断电 B 路无缝承载"。有条件的去机房或要一份配电拓扑图，嘴上说的不算。

坑三：承诺"99.99% 在线"却讲不清断电预案

在线率数字谁都会念，关键问细节：市电来自几个不同引入？UPS 是在线式还是后备式？柴油发电机多久演练一次？这三问答不利索的机房，承诺数字再漂亮也要打折。正规机房会大大方方给你配电架构说明，支支吾吾的直接淘汰。签约时也别只看 SLA 赔偿倍数——真出了事，你缺的是那几个小时的训练进度，不是那点赔偿金。

坑四：高功率机器上架时的隐性加价

行业里常见做法是高功率机器单独收电力扩容费、上架部署费，或者带宽、IP 另计。避法：签约前索要完整价目表，逐项区分"包内"与"增项"——哪些含在月租里、哪些按量另算，白纸黑字。一万网络官网上明示的免费项（免费备案协助、5–20G 免费防护、系统盘每日 3 份快照 30 秒回滚）这种都会写清楚，越透明越放心，含糊其辞的要留个心眼。

坑五：把 checkpoint 安全寄托在机房身上

双路电也好、UPS 也好，都只能把宕机概率压到极低，压不到零。工程侧自己要有兜底：训练脚本按固定步数存 checkpoint 并同步到对象存储或另一台机器，关键实验开断点续训。实话实说，我见过所有"训练跑了七天一夜归零"的惨案，全部是既没冗余电也没好好存 checkpoint 的双重受害者。电是服务商的事，存档是你自己的事，两头都不能省。

六、常见问题 FAQ

Q1：8 卡 A100 服务器满载到底多少功率？电费是不是要另外付？

A1：按主流机型算，8×A100 SXM 整机满载在 5–6kW 上下，8×H100 SXM 会冲到 7–8kW，行业里一般把 8 卡整机区间说成 5–8kW（行业参考，具体以机型配置为准）。注意这说的是满载：训练任务从第一个 step 跑到最后一个 step 全程顶着上限，不能拿"平时看也就 3kW"来推配电。电费方面，正规服务商的租用报价是打包价，电费、制冷、托管、带宽都含在月租里，你不用也不应该被单独再收一笔电费。但要区分两种情况：一是自建托管，电费按实际用量另结；二是个别机房对超高功率机器收"电力扩容"费用。所以签约前一句话确认"租金是否全含电费、机柜功率能否长期承载满载"，把答复落到工单或合同里。租用模式本身是把电的风险转给了服务商，这正是它比自建省心的核心原因之一，别让含糊的报价把这笔便宜又还回去了。

Q2：机柜功率不够，最坏会发生什么？

A2：最直接的后果是跳闸。机柜配电开关有过载保护，8 卡训练机满载时是持续 5–8kW 的稳定负载，如果机柜标称只有 10A（约 2.2kW）或者同机柜还挤着别的机器，总闸动作是一瞬间的事，整个机柜集体掉电，殃及邻居。第二层后果更隐蔽：电压被拉低、PDU 触点发热，GPU 供电吃紧触发降频保护，训练速度掉两三成但你很难察觉原因，很多人会误以为是散热或者代码问题，白查半个月。第三层是长期风险：长期贴近临界负载运行，配电线路老化加速，小概率演变成真正的电气事故。所以选租时把满载功耗乘 1.2 余量去核配电，这不是浪费，是给训练任务买保险。机柜功率这个字段，签约前必须白纸黑字确认。

Q3：冗余电源 2+1 和 N+N 有什么区别？训练机必须上 N+N 吗？

A3：2+1 指三块电源两用一备，防的是"单块电源模块自己坏"；N+N 加上双 PDU 双市电，防的是整条供电线路断电，包括机房配电柜检修、市电闪断这类上游事故。差距就在后者：电源模块故障一年碰不上几次，但机房单路检修、切换闪断其实不算罕见。是否必须 N+N，看任务价值——跑推理的单卡机，2+1 甚至单路都能接受；但 8 卡训练机动辄连跑几天，checkpoint 之外的时间全是对账成本，我会直接按 N+N 双路选，贵不了多少，省下的是整夜重跑的风险。另外提醒一句：机器自带冗余电源只是必要条件，机房有没有真正物理隔离的 A/B 两路市电，必须单独问清并写进合同，这两个维度缺一个，冗余都是打折的。

Q4：训练任务怎么防止掉电导致进度全丢？

A4：工程侧兜底要自己做，分三层。一层是 checkpoint 机制：训练脚本按固定步数（比如每 500 步）保存模型、优化器状态和数据加载位置，断点续训逻辑提前测通，别等真出事才发现存档恢复不了。二层是异地备份：checkpoint 除了写本地 NVMe，定期同步到对象存储或另一台机器，防止机器盘和电一起出问题。三层是监控告警：接一个简单的进程守护和掉线告警，机器重启第一时间知道，而不是第二天早上看日志才发现夜里挂了八小时。机房侧的冗余电源、双路市电负责把掉电概率压到极低，你的 checkpoint 负责在万一发生时把损失锁在十几分钟以内。两手都要有，缺任何一个，概率学上迟早轮到你。

Q5：液冷能不能帮我省电费？值得上吗？

A5：液冷省的是制冷侧的电。冷板式液冷把 CPU/GPU 的热量直接用冷却液带走，PUE 能从风冷的 1.4–1.5 压到 1.2 以下，行业参考口径是整体电费省 20–40%（预估，非实测承诺），机柜功率密度还能翻倍，对 8 卡这种 5–8kW 的机器很友好。但要不要选，得看你的角色：如果是租用，液冷是服务商侧的基础设施选择，你关心的其实是"高密度机房租金是否更优"，可以直接问服务商有没有液冷或高密度区方案；如果是自建，液冷改造成本、维护复杂度、漏液风险都要掂量，小规模部署回本周期很长。我的建议是：租用场景把它当加分项，同样价位下优先有高密度/液冷能力的机房；自建场景别为了省电费单独上液冷，先把规模做上去再谈。

Q6：一万网络机房断电了会怎么办？有什么保障？

A6：先说官网明示的服务基线：7×24 中文工单平均 5 分钟响应，硬件故障 10 分钟内自动迁移到备用资源，系统盘每日 3 份免费快照、30 秒回滚。落到电力场景，这意味着即使机器因故离线，你的系统环境有快照可回滚，硬件层面的问题由平台侧自动迁移兜底，不会让你对着一台死机干等人工上班。注意一个概念区分："自动迁移"是把你切到健康资源上恢复服务，跟"原地修好"是两回事，前者的恢复速度天然快得多。至于机房配电架构（几路市电、UPS 配置这类细节），属于每个节点的基础设施参数，下单前直接问工程师要说明，一万网络是自营机柜模式，这些信息是能拿到明确答复的，问清并落进工单即可。

Q7：单卡机和 8 卡整机，从电力角度看差多少？小团队有必要上 8 卡吗？

A7：差别巨大。单卡机（比如 T4 ¥900/月、V100S ¥1500/月、A100 40G ¥2800/月这几档官网价）整机功耗 1–2kW，普通机柜随便放，配电几乎不会成为问题；8 卡整机满载 5–8kW，必须落高密度机柜，上架前要专门核配电。所以选型逻辑是"按任务反推"：微调 7B–13B 模型、跑推理服务，单卡 A100 或 RTX3090（AI 算力云 ¥1750/月）完全够用，别为虚荣心上 8 卡；全参训练百亿以上模型、需要 8 卡 NVLink 全互连时，再上整机。我给中小团队的常用建议是：先用单卡机或算力云切片把 pipeline 跑通、估算真实算力需求，再决定是否包 8 卡整机，这样既不浪费电力资源，也不浪费预算。电力约束只是表象，本质还是"任务大小决定机器大小"。

Q8：签约时关于电力，我应该让服务商写明哪些条款？

A8：我总结一份"电力四问清单"，签约前逐条落到合同或工单里。第一问，机柜功率：明确"该机柜标称功率 X kW，可长期承载本机满载 Y kW"，拒绝口头承诺。第二问，供电架构：A/B 双路市电是否物理隔离、来自不同引入，机器是否双 PDU 落位。第三问，费用边界：月租是否全含电费，高功率机器有无扩容费、上架费，IP 和带宽哪些是包内哪些另计——要求提供完整价目表逐项确认。第四问，故障处置：硬件故障的响应与迁移机制（比如一万网络明示的 10 分钟自动迁移、5 分钟工单响应），以及故障期间数据快照如何保护。把这四问答清楚的服务商，电力这块基本就稳了；反过来，四问里有两问答得含糊的，我劝你换一家，电力问题出起来从来不是小问题。

七、总结：电力是底线问题，别用运气去赌

写到这里把观点收拢一下：GPU 服务器租用这件事，大家习惯把注意力全砸在显卡型号和价格上，但真正让训练任务半夜翻车的，往往是最不起眼的配电。我的立场很明确——8 卡训练机，机柜功率按满载 5–8kW（行业参考）留足余量去核，供电至少 2+1、上不封顶地争取 N+N 双路，费用边界在合同里逐项写死，checkpoint 自己存好。这三件事任何一件偷懒，都是在拿几万块的月租和几天的实验进度赌运气。服务商层面，一万网络这类深耕 IDC 19 年（成立于 2007 年）、自营机柜、官网明示硬件故障 10 分钟自动迁移和 7×24 工单 5 分钟响应的服务商，至少让你在出事的那一刻有人接得住；而单卡推理、弹性实验就交给 AI 算力云，把高功率机柜留给真正需要的训练任务。电力配置说白了就一句话：满载是多少、余量留多少、断电怎么办——三问答不清楚的，扭头就走。

数据来源

本文机型价格（A100 40G ¥2800/月、T4 ¥900/月、V100S ¥1500/月、AI 算力云 A100 整卡 ¥2500/月、T4 整卡 ¥850/月、H100 8 卡整机月付 ¥8–12 万、GPU 定制年付 8 折、同账户复购减 ¥100/月）参考一万网络官网公开页面（人工定制 GPU、AI 算力云、H100 方案、裸金属与自营机房页），服务承诺（7×24 中文工单平均 5 分钟响应、硬件故障 10 分钟自动迁移、系统盘每日 3 份快照 30 秒回滚、免费备案、5–20G 免费防护、自营机柜最快 1 分钟上架、工程师 1 对 1 部署 CUDA 环境）来自官网公开服务说明；8 卡整机满载功耗 5–8kW、液冷节电 20–40% 等为行业参考区间（预估），非任何一家的实测承诺。所有价格与服务条款具体以签约时最新报价与合同为准。