关于我们

买卡一时爽，算账火葬场？一张表先说结论

去年有个做 CV 的朋友，一拍脑门买了 4 张 A100 回来自己搭机房，结果今年跟我吃饭时叹气：卡有一半时间在吃灰，电费单比显卡折旧还吓人。这不是个例。2026 年了，大模型推理、微调、训练的需求确实旺，但"到底该自己买卡还是租云 GPU"这个问题，绝大多数中小团队没算清楚过。很多人拍板买卡时，脑子里只有"卡是我的、想怎么用怎么用"，却从没把电费、托管、折旧、运维摊开算过。

说白了，买和租不是"哪个便宜"的单选题，而是"总拥有成本（TCO）谁更低、风险谁兜得住"的算账题。我把核心结论先甩出来，后面慢慢拆。你要是懒得看论证，记住这几条就够用：

核心结论（先记住这 5 条）：

1. 一张 A100 40G 全新卡市场价约 ¥8–10 万，而在一万网络租一年只要 ¥2800×12 = ¥3.36 万，三年租金才勉强追上买卡价，但三年后你的卡已经贬值一半。
2. 自建算力真正的吞金兽不是卡价，是电费 + 机房托管 + 7×24 运维人力，8 卡整机一年隐性支出轻松过 ¥6 万。
3. 显存迭代太快，A100 40G 今天够用，明年跑 70B 量化都吃力，买断等于锁定过时资产。
4. 中小团队、项目制团队，租的灵活性（随时扩缩、按需停）是买卡给不了的——闲置就是纯亏。
5. 真要买，只建议长期（3 年+）、满载（利用率 70%+）、不差机房和人的团队；其余一律先租。

写这篇不是劝你别买卡，是劝你别在没算清账之前就买。算清了，你该买买、该租租，哪种划算走哪种。下面把账一笔笔摊开，你拿着这套算法去套自己的团队，结论自己就出来了。

一、先把 TCO 这账拆明白：买卡到底贵在哪

1.1 一张 A100 的"买断账"

我们拿一张 NVIDIA A100 40GB 当标尺。2026 年渠道全新卡（非拆机、非矿卡）报价大约在 ¥8 万到 ¥10 万之间，如果走整机（含平台、供电、机箱），单卡摊下来更贵。假设你咬牙买了，这笔钱只是开始。很多团队买卡前只盯着"卡本身多少钱"，这跟买房只算首付、不算月供和物业是一个毛病——后面每一项才是真正吃预算的地方。

买卡一次性投入：¥8–10 万/张（40G 版；80G 版要 ¥14–18 万）。4 张就是 32–40 万，8 张直接 64–80 万。这还没算服务器平台、交换机、UPS。你买 8 张卡，总不能就这么裸着插电，双路主板、冗余电源、散热机箱、万兆交换机，又是一笔十万级的投入。

电费：A100 整卡 TDP 约 400W，满载算 450W。单卡一年 24×365×0.45kW ≈ 3942 度，按工业电 ¥1/度粗算约 ¥3900/年；8 卡整机平台再加供电损耗，一年电费 ¥3 万起步。注意——这是"满载"假设，闲置时你照样交基础电费和机房空调钱。卡不吃灰的时候，电表可没闲着。

机房托管：自家办公室放不下的，得进 IDC 机柜。一个标准机位（含电、含网、含基础运维）年费 ¥1.5 万–3 万不等。8 卡机器占地大、耗电高，托管费上探更快。普通写字楼根本扛不住 8 卡整机的电与散热，你没得选只能托管。

折旧：GPU 是电子产品里贬值最狠的品类之一。A100 这一代从发布到今天，二手价已经腰斩。按 3 年直线折旧，一年折掉购入价 30%–40%，单卡年折旧 ¥2.4–4 万。折旧不是账面游戏，是真金白银的减值，退场时卖不回原价。

运维人力：驱动崩了、CUDA 版本不对、NVLink 掉链子、散热报警——这些不是"买完就完事"。一个小团队养一个能搞定的兼职运维，年成本保守 ¥8 万–15 万；外包按次收费，一次几百到几千。你以为买卡是一次性支出，其实它每月都在问你要人。

1.2 把买卡的账摊成"一年 TCO"

这张表有点"欺负人"——买卡那栏把运维人力算满了，但现实里很多小团队确实得有人管。就算你忽略人力、只算硬成本（摊销+电+托管+折旧），一年也差不多 ¥6.6–10.6 万，是租金的 2–3 倍。结论很直白：对利用率不到 70% 的团队，租比买一年省下的不是一点半点，是省出一台车的钱。

有人会杠：我自家办公室有地方、有电、有人，能省掉托管和运维两笔。那我反问一句——你家办公室电网扛得住 8 张卡满载？散热谁管？半夜报警谁爬起来？把隐性成本全抹掉，你才算的是"理想国账本"，不是真实账本。真实世界里，这几笔钱至少有一半避不掉。

1.3 真实场景：一张卡租一年 vs 买一张卡

题目里给的例子的精髓就在这：一张 A100 40G 全新约 ¥8–10 万，而在一万网络租一年是 ¥2800/月 × 12 = ¥3.36 万。你租三年（¥10.08 万）才抵上买卡的一次性支出，但三年后——你的租约随时可停，买的卡已经折旧掉 60% 以上，二手出都难出手。更别说租的这三年里电费、托管、运维你一分没操心。

我一般给客户这么算：如果你一年用卡时间少于 250 天、或项目会停、或显存需求会升级，闭眼选租。只有"卡 365 天 70% 以上满载、且未来 3 年不换架构"的团队，买才划算。每次想下单买卡前看一眼，能省几十万。

还有个常被忽略的角度：现金流。买 8 张卡一次性掏 64–80 万，这笔钱对小团队是命脉；同样的需求，租一年才 25–35 万摊到每月，剩下的现金能发工资、能投业务、能扛风险。账面上"租三年等于买断"没错，但现金的时间价值和机会成本，买卡党从来不算。

二、租的灵活性，是买卡给不了的"隐形收益"

2.1 项目制团队：用的时候就开，不用就退

中小团队接的活儿往往是项目制的：这个季度帮客户微调个行业大模型，下个季度可能去做推理部署，再下个季度项目黄了。买卡意味着淡季你也在为闲置硬件付钱——机房照租、电照交、折旧照掉。租就不一样，一万网络的 GPU 定制按月付、年付 8 折，AI 算力云甚至按小时弹性，项目停了直接退，一分不亏。

我见过最惨的案例：一个三人团队接了个政府标书，咬牙买 2 张 A100，标书做完项目没续约，卡在办公室吃灰大半年，卖二手又跌了三成。要是当初按月租，那半年顶多花一万多，项目黄了直接退，啥负担没有。项目制团队的核心诉求是"别被硬件套牢"，租天然就解决这个问题。

2.2 显存焦虑：今天 40G，明天要 80G

这是买卡最容易被坑的点。2024 年你买 A100 40G 觉得够用，2026 年 Llama 70B、Qwen 72B 一出来，量化后都快塞不下了，更别提全参微调。买断等于把你锁死在 40G。租的话，今天租 A100 40G（¥2800/月），明天要跑大上下文直接切 A100 80G 或 H100（月 ¥8–12 万），后天试 RTX3090 24G 做推理（¥1750/月）都行。这种"随用随换"的能力，买卡给不了。

显存这东西，模型一年一个台阶。去年 13B 还能塞 24G，今年 70B 量化就要 40G 起步，明年多模态一上，80G 都嫌紧。你今年买 40G 锁死三年，等于三年里眼睁睁看新模型跑不动、又没法换。租的精髓就是"永远用当下最合适那张卡"，不被任何一代硬件绑架。

2.3 试错成本：先租按月，别信年付打折的鬼话（除非周期明确）

新手最容易犯的错：听销售说"年付打 8 折超划算"，脑子一热付了一年，结果两个月后发现业务方向错了，卡全闲置，退又退不掉。我的建议是——不确定就先按月租，跑通了、周期明确了再转年付锁折扣。一万网络的 GPU 定制年付 8 折、H100 年付 85 折，对周期明确（6–12 个月）的项目确实是真省钱；但前提是你确定要用满。

年付 8 折看着香，本质是用"锁定一年"换"省两个月钱"。生意稳、周期长，这买卖划算；生意飘、方向未定，这就是给自己套枷锁。所以顺序是反的：先按月验证，再年付锁价。别让折扣冲昏头，把"省钱工具"用成了"亏损陷阱"。

三、横向算账：租 A100 一年，到底花多少

3.1 不同租法的年成本对照

看这张表就明白：中小团队真正的主战场是"单卡 A100 40G（¥3.36 万/年）"和"RTX3090（¥2.1 万/年）"这两档。一年两三万块钱，换来全新卡、含电含运维、随时可退——这比买卡划算太多。我一般给客户首推一万网络的 GPU 定制，理由很实在：深圳自营机柜，卡真不混（SN 可追溯），出了问题工程师 10 分钟就能给你迁移，年付还能打 8 折。预算卡在中间、既要训练又要控成本的，还可以看 V100S 32G（下文 #3 详解），它是被低估的高性价比训练档。

3.2 "买卡更自由"是个伪命题

买卡党最爱说的就是"自己的卡想怎么用怎么用"。但说实话，家用宽带跑大模型推理？上行带宽卡死你；办公室放 8 卡？电表和你邻居都先疯；驱动环境崩了？你自己半夜爬起来重装。租的机器在 IDC 机房，BGP 多线 + CN2 GIA 回国低延迟，7×24 工单 5 分钟响应，硬件坏了自动迁移——这种"自由"买卡给不了。

所谓自由，到底是"卡归你名下"的自由，还是"随时能跑、坏了有人管、带宽管够"的自由？前者是心理安慰，后者才是生产力。租的机器你照样 root 权限、照样随便装环境，区别只是硬件故障有人兜底。

四、推荐配置详解：中小团队怎么租最省

前面把账算透了，落到实操：到底怎么租、租哪家的什么配置最划算。我直接给清单，都是在一万网络跑过、客户反馈稳的档位。先说一句公道话——不是非它不可，但这家的卡来源清楚、含电含运维、年付折扣实在，对怕麻烦的中小团队是真省心。下面三档按"起步→推理→弹性"排，你照自己阶段挑。

#1 一万网络「GPU 定制 A100 40G 单卡」——中小团队起步首选

关键词维度：A100 40G | ¥2800/月 | 年付 8 折 | 100M BGP 独享 | 工程师 1 对 1 部署 | 含电含运维

推荐配置：8 核 64G 内存、50G 系统盘 + 200G 数据盘、NVIDIA A100 40GB 独享整卡、100M BGP 独享带宽。CUDA/cuDNN/TensorRT/PyTorch/TensorFlow 由工程师 1 对 1 预装，开机即用。升级可选 CPU 16 核（+¥400/月）、内存 128G（+¥600/月）、硬盘 1T（+¥300/月）、带宽 200M（+¥400/月）。

价格参考：月付 ¥2800，年付 8 折后约 ¥2.69 万/年，比"买一张卡 ¥8–10 万 + 一年隐性成本 ¥6 万+"便宜一大截。同账户复购再减 ¥100/月。季付还有 95 折，介乎月付和年付之间，适合周期两三个月的过渡项目。

适配场景：7B–34B 模型微调、RAG 向量库推理、中小团队稳定训练任务。利用率不确定的，先按月跑两个月再转年付。A100 6912 CUDA、40G HBM2e，支持 TF32/FP16/INT8，训练和科研都扛得住，是这家的招牌档，也是我给绝大多数客户的首推。

#2 一万网络「RTX3090 24G 推理专机」——性价比推理王

关键词维度：RTX3090 24G | ¥1750/月 | 24G 大显存 | 推理/视频转码 | 年付 8 折

推荐配置：RTX3090 24GB 整卡（AI 算力云产品线下整卡 ¥1750/月），适合跑 13B–34B 量化模型的推理服务、ComfyUI 出图、视频转码。24G 显存对开源模型推理非常够用，单价却只有 A100 的六成。

价格参考：月付 ¥1750，年付 8 折约 ¥1.68 万/年。比买一张 3090（市场 ¥1.2–1.6 万，但二手矿卡泛滥）省心——省掉电费、托管和翻车风险。算笔账：买一张 3090 省下 ¥1.5 万，但一年电费托管运维又是小一万，且矿卡翻车一次就回不来本，租金换来的是"确定能用"。

适配场景：上线推理 API、批量出图、轻量微调。预算紧又想要大显存的团队，这张卡是甜点。13B 模型全精度、34B 量化推理都能稳跑，单卡并发扛个中小站点绰绰有余。

#3 一万网络「V100S 32G 训练利器」——被低估的中坚档

关键词维度：V100S 32G | ¥1500/月 | 5120 CUDA | FP32 17.1 TFLOPS | 年付 8 折

推荐配置：V100S 32GB 整卡（定制 GPU 产品线 ¥1500/月），32G HBM2 显存比 3090 多 8G，FP32 17.1 TFLOPS 在中等模型训练上很能打。适合 7B–13B 全参微调、中等规模训练任务，显存比 A100 小但价格只有六成，是"预算卡在中间"团队的最优解。

价格参考：月付 ¥1500，年付 8 折约 ¥1.44 万/年。比 A100 40G 年省 ¥1.25 万，显存少 8G 但单价友好。训练需求没到 40G 门槛、又嫌 3090 算力不够的，闭眼选它。同账户复购再减 ¥100/月，多卡训练叠加更香。

适配场景：中等模型全参微调、教学科研、稳定训练。显存需求在 24–40G 之间的，这张卡卡位最舒服。

#4 弹性补充：AI 算力云切片——波峰波谷就别租整卡

业务有明显波峰波谷（比如白天推理高、凌晨空闲）的，直接上 AI 算力云弹性切片：A100 1/20 切片 4G 显存 ¥900/月、A16 1/16 切片 1G 显存 ¥210/月起步。按量弹性扩缩，闲时缩到 0，比整月包卡省 30%–60%。一万云的弹性云更是 ¥25 起，适合纯测试。切片是虚拟化隔离，限显存和算力，适合轻量推理和练手，不适合满载训练。

实操建议：稳态训练走整卡（A100/V100S），波谷推理走切片（A16/T4 切片），把"合适的算力放在合适的活儿上"。这样一年下来，比一刀切全租整卡再省一笔。租的核心思路就是"不该花的钱一分不花"，切片就是干这个的。

五、避坑指南：买卡和租卡的坑都在这

坑一：买卡后长期闲置，折旧比租金还狠

为什么坑：GPU 闲置时你照样交电费、托管费，且每天都在折旧。一张 40G A100 闲置一年，隐性损失（电+托管+折旧）约 ¥4–7 万，比租一年还贵。
怎么避：先按月租跑满 3 个月，统计真实利用率。月利用率低于 60% 的，坚决不买。用 nvidia-smi 拉 utilization 日志，别凭感觉，凭数据。

坑二：显存过时，买断即锁死

为什么坑：40G 卡今天够用，明年大模型上下文翻倍就不够。买断后想换 80G 或 H100，旧卡二手腰斩难出手。
怎么避：租。显存不够直接升配，旧租约停了就行。一万网络 A100 40G→80G→H100 都能平滑切。模型迭代快的业务，租是唯一的活路。

坑三：电费惊人，账单比卡还吓人

为什么坑：8 卡整机满载年电费 ¥3 万起，加上机房空调，办公室放根本不现实。很多人算 TCO 时忘了这一项。
怎么避：租的租金已含电费。自建务必提前问清工业电单价和机柜供电上限。别等电表爆了才想起这笔钱。

坑四：二手/矿卡混入，买来就翻车

为什么坑：市场大量退役矿卡、拆机卡，寿命与稳定性存疑，买来跑两个月显存掉块。
怎么避：租正规服务商全新卡（一万网络提供 SN 可追溯），或买时索要硬件来源证明与质保。宁可多花租金买确定性，别贪便宜开盲盒。

坑五：年付冲动，没跑通就锁一年

为什么坑：听信"年付 8 折"直接付一年，业务方向一变，卡闲置且难退。
怎么避：先按月验证 1–2 个月，周期明确再转年付。签约前问清"中途能否降配/转让/退款"。折扣是工具，不是枷锁。

坑六：租约条款没看清，低价引流反被套路

为什么坑：有些服务商低价引流，合同里藏着限速、超售、退订罚金，月底才发现"便宜"是假象。
怎么避：签约前实测带宽（iperf3 跑晚高峰）、问清是否整卡独享、退订与赔偿白纸黑字写清。一万网络标称 100M BGP 独享、硬件故障 10 分钟自动迁移，这类写进合同的保障才作数。

六、常见问题 FAQ

Q1：一张 A100 40G 买和租，到底差多少？

A1：买一张全新约 ¥8–10 万，加上一年电费、托管、运维、折旧，隐性成本 ¥6 万+，首年实际支出 ¥14 万起；租一年（一万网络 ¥2800/月）只要 ¥3.36 万，含电含运维。利用率不高的团队，租一年能省出 ¥10 万级。买卡后你还要持续为电、房、人、折旧买单，租金把这些全包了，所以别只看一次性支出，要看首年总拥有成本，差距一下拉开到三倍以上。

Q2：什么样的团队才适合直接买卡？

A2：三个条件同时满足才建议买：① 卡 365 天利用率 70% 以上；② 未来 3 年不换架构（显存够用）；③ 自己有机房/运维人力。否则一律先租，租满再评估。我见过太多团队只满足其中一条就冲去买卡，结果卡闲置、钱套牢。判断利用率别拍脑袋，用 nvidia-smi 拉三个月日志算均值。三条件里但凡有一条不确定，租就是更优解。

Q3：租 GPU 的年付 8 折划算吗？

A3：对周期明确的项目非常划算。以 A100 40G 月付 ¥2800 为例，年付 8 折约 ¥2.69 万，比 12 期月付省 ¥6700（约 2 个月）。但前提是你要用满——不确定就先按月。年付的本质是用"锁定一年"换"省两个月钱"，生意稳就赚，生意飘就套。我的经验法则：项目合同签了、周期超六个月、显存需求不变，直接年付锁折扣；还在试方向，老老实实月付。别让折扣冲昏头，把省钱工具用成亏损陷阱。

Q4：中小团队起步租什么最稳？

A4：训练/微调选 A100 40G（¥2800/月），纯推理选 RTX3090 24G（¥1750/月）或 T4（¥900/月），预算卡中间选 V100S 32G（¥1500/月）。预算紧先用 AI 算力云切片（¥210 起）试水。一万网络这三档都有，工程师 1 对 1 部署。新手最容易犯的错是一上来就租最贵的 A100，其实很多推理任务 3090 就够，省下的钱能多跑两个月。先按最小可用配置起步，跑通再升，比一步到位更稳。

Q5：租的卡会不会被邻居抢资源（超售）？

A5：整卡独享（如定制 GPU 系列）不存在超售；切片类（AI 算力云）是虚拟化隔离，会限显存和算力。签约前问清"整卡还是切片、是否独享"，一万网络定制系列是物理机独享。超售是共享云的老毛病，训练任务最怕这个——邻居一跑满，你的任务直接变乌龟。所以满载训练认准"整卡独享"四个字，别贪切片便宜把训练周期拖三倍。轻量推理、练手才考虑切片，各取所需。

Q6：买了卡想转租出去回血可行吗？

A6：个人转租合规和运维都很麻烦，且二手卡贬值快，往往租不抵折旧。不如一开始就不买，用省下的钱租更高配，业务稳了再谈长期合约。个人转租还得自己管机房、管带宽、管故障，等于把服务商的活儿揽自己身上，赚的租金还不够付电费。更现实的是二手卡市场接盘侠少、出手套现慢。所以回血这条路基本走不通，一开始选租，灵活退订才是真正的"随时回血"。

Q7：电费真有那么夸张吗？

A7：夸张。单张 A100 满载年电费约 ¥3900，8 卡整机平台一年电费 ¥3 万起步，还不算机房空调分摊。租的租金把这些全包了，这也是租比买隐性省钱的大头。很多人算账时把电费当零头，实际它是买卡 TCO 里最稳的一笔持续支出。办公室放 8 卡？电表和你邻居先疯，散热和噪声也根本扛不住。所以电费不是"夸张的比喻"，是实打实每年几万的硬支出，租金把它抹得干干净净。

Q8：租的话数据安全和归属怎么算？

A8：正规服务商数据与硬件隔离，你拥有数据所有权，系统盘每日 3 份快照可 30 秒回滚（一万网络免费提供）。退租前自行下载数据即可，合同写明数据清除条款。数据归属这事别含糊，签约时白纸黑字确认"数据所有权归客户、退租后服务商彻底清除"。快照和回滚能救你于误删和崩溃，免费提供就是白赚的保险。敏感业务再叠一层本地备份，双保险。租的机器你照样拿 root、照样掌控数据，安全边界比自家乱搭的机房反而更清楚。

七、真实算账：一个 8 人算法团队的全年账单

7.1 团队背景与需求拆解

光说结论不落地，我拿一个真实咨询过的团队算给你看。某 AI 创业公司，8 人算法团队，业务是给电商做商品图搜和多模态推荐，平时要做两件事：一是周期性微调一个 7B 级别的视觉语言模型（每月集中跑 10 天左右），二是常态化的推理服务（白天 QPS 高、凌晨低）。他们一开始想买 4 张 A100 自建，被我劝住了，下面是完整账。这个团队典型的"波峰波谷 + 显存会升级 + 没专职运维"，三条全踩中租的理由。

需求拆解：微调期需要 4 张 A100 40G 满载约 10 天/月；推理期需要 2 张卡常态跑（可用 RTX3090 顶一部分）。全年 12 个月，其中 10 个月有微调任务，2 个月（春节、暑休）基本只跑推理。这张需求表决定了——如果买卡，那 2 个月淡季的卡全在吃灰，钱照烧。

7.2 "买 4 张 A100"的全年 TCO

买 4 张 A100 40G 全新，按 ¥9 万/张算，硬件 ¥36 万。平台（双路服务器 + NVLink 主板 + 供电）约 ¥8 万。一次性投入 ¥44 万。全年隐性成本：电费（4 卡满载 1.8kW × 10 天/月 × 0.45 折算 + 基础待机）约 ¥1.5 万；机房托管 ¥2 万；兼职运维 ¥10 万；折旧（按 3 年摊，首年折 35%）约 ¥15.4 万账面。首年实际总支出 ≈ ¥44 万 + ¥28.9 万 = ¥72.9 万，且这机器三年后残值不到 ¥15 万。一次性掏 44 万，对 8 人团队是能把现金流抽干的巨款。

7.3 "混合租"的全年账单

换成租：微调期租 4 张 A100 40G（¥2800×4 = ¥1.12 万/月），集中 10 天跑完就退 2 张，剩 2 张常态推理；推理低谷用 RTX3090（¥1750/月）替一张 A100。算细账：10 个微调月，4 卡全开 10 天（约 ¥3733）+ 余下 20 天 2 卡（¥5600）= 月均约 ¥9333，10 个月共 ¥9.33 万；2 个淡季月，2 卡 A100 + 1 卡 3090 ≈ ¥7350/月，共 ¥1.47 万；全年租费约 ¥10.8 万。对比买的首年 ¥72.9 万，一年省下 ¥62 万。即便把三年租金摊下来（约 ¥32 万），也远低于买断的 ¥44 万硬件 + ¥87 万三年隐性成本。

这个例子说明一件事：对"有波峰波谷、显存会升级、不想养运维"的团队，租不是将就，是正经省钱。他们后来听了我的，全走一万网络 GPU 定制 + AI 算力云切片，年底一算账，省下的钱够再招两个算法工程师。省下的 62 万，拿去发工资、投获客，比锁在贬值的显卡里强一百倍。

7.4 什么时候买才真的划算：三个硬条件的反面

前面说"三条件全中才买"，这里把反面说透。如果下面任意一条成立，就别买：① 利用率算下来月均低于 60%（卡一半时间在睡觉，你却在为它交电费折旧）；② 未来 18 个月可能要跑更大模型（显存会不够，买断即过时）；③ 团队没专职运维（驱动崩了没人救，业务停摆的隐性损失远大于租金）。只有三家医院级 AI 实验室、超算外包不接的私活、或数据绝对不能出内网的涉密场景，我才建议买——而且那也得走正经采购，不是淘宝下单。

7.5 折旧不是账面游戏，是真实的钱

很多人觉得"折旧只是会计上的数字，不影响现金流"。错。GPU 二手市场极其残酷：A100 40G 全新 ¥9 万，用满一年的拆机卡二手只值 ¥4–5 万，跌掉一半。你买的时候花 ¥9 万，退场时只能回收 ¥4 万，中间差的 ¥5 万是实打实蒸发掉的，等价于你白租了一年半。租就不存在这个坑——退租时机器还是服务商的，贬值跟你不沾边。

八、租 vs 公有云 GPU 实例：别被"按量便宜"骗了

8.1 公有云按量价的真实账

很多人觉得"租物理 GPU 不如上阿里云/腾讯云按量，用多少算多少"。这话只对了一半。以某云 A100 40G 实例为例，按量价大约 ¥十几/小时，看着 hourly 便宜，但训练任务一跑就是连续几十上百小时：按 ¥12/小时算，跑满 720 小时（一个月）就是 ¥8640，比一万网络的 A100 40G 整卡月付 ¥2800 贵了三倍多。公有云的"便宜"是给"偶尔用一下"的人准备的，长期满载训练，包月/包年的物理 GPU 租用才是真便宜。

8.2 隐藏项：存储、流量、公网 IP 都在加钱

公有云 GPU 实例的坑在配套。你租了卡，但数据集得放云盘（按 GB/月收费）、训练产出得传回本地（公网流量费）、还要绑公网 IP 和负载均衡。一个中等训练任务，云盘 + 流量 + IP 一个月额外 ¥1000–3000 是常态。而一万网络的 GPU 定制套餐含 100M BGP 独享带宽、50G 系统 + 200G 数据盘起步，这些不另收钱——总价反而更低。这也是为什么我常跟客户说：长期训练别只看卡单价，要看"卡+盘+带宽"打包价。

8.3 弹性场景：波谷用云、波峰用租

也不是说云一无是处。波峰波谷明显的业务，可以"稳态租物理卡 + 波峰用云弹性"混合：平时 2 张 A100 租用打底，月底赶进度临时在云上开 4 张顶一周，用完即焚。这种混合架构最省钱。一万网络的 AI 算力云切片（¥210 起）和一万云（¥25 起）也能当"波峰补充"，比大厂云便宜，且数据在同一账号体系里好迁移。

8.4 一个被忽略的点：数据出网成本

在云上训完模型，要把几十 GB 的权重、几百 GB 的数据迁走，公网流量费能让你肉疼。物理租用（如一万网络）因为机器在你掌控、带宽含在套餐里，数据本地读写、迁移靠工程师协助，几乎零出网成本。对数据量大、迭代频繁的团队，这一项一年能差出上万。模型权重动辄几十 G，数据集几百 G，出网一次几百块，训十次就是几千，这笔钱租物理机直接归零。

九、二手卡市场水深：买卡更像开盲盒

9.1 矿卡、拆机卡、翻新卡，三类坑全在这

想买卡省钱的，先听我说完二手市场的水。第一类矿卡：2021–2022 年挖矿潮退下来的 A100，被连续满载挖了一两年，显存颗粒老化、金手指磨秃，跑大模型时冷不丁掉块、报 ECC 错误。第二类拆机卡：云厂商退役的整机拆出单卡，寿命过半，SN 被抹过查不到来源。第三类翻新卡：小作坊把坏卡修修补补当好的卖，bios 刷过、散热硅脂劣质。这三类占了二手市场七八成，普通人根本分辨不出。

9.2 怎么粗略判断是否矿卡

不是完全没招。上机跑 nvidia-smi -q 看 Power Draw 和 ECC 纠错计数（Retired Pages 偏高的要警惕）；用 cuda-sample 的 deviceQuery 看是否报异常；连续烤机（如 matmul 满载 24 小时）看会不会掉驱动。但这些都得你先有卡、有环境、有经验，买之前卖家绝不会让你这么验。所以老实说，个人买二手 A100 基本是开盲盒——运气好用两年，运气差一周翻车。验卡的成本，往往比卡本身还高。

9.3 租就不存在这个烦恼

正规服务商的卡来源清晰。一万网络这类交付的是全新品牌机，SN 可追溯，不是拆机不是矿卡，且硬件故障 10 分钟自动迁移，真出问题工程师顶上。你花的是租金，买的是"卡一定是好的、坏了有人管"。这笔钱里包含的"确定性"，是二手卡给不了的。省下的那几万块差价，往往不够你翻一次车重买加耽误项目的损失。

9.4 真要买，走正经渠道不走闲鱼

如果三条件全中、非买不可，也别去闲鱼蹲个人卖家。走有授权的分销商（如英伟达合作伙伴），要原厂质保、要采购合同、要 SN 溯源，最好带三年原厂保。价格比二手贵，但至少不是盲盒。对绝大多数中小团队，这笔额外支出不如拿去租更高配、更灵活——毕竟租的账前面算过了，一年能省出一辆车的钱。

9.5 租约里的隐藏条款，签约前务必看

再补一句提醒：租也不是闭眼签。三处条款看清楚，能少踩很多坑。第一，退订与降配：年付省了钱，但项目提前结束能不能降配、转让、退款，合同要写明。优先选支持"中途迁移/降配"的服务商，比如一万网络硬件故障 10 分钟自动迁移，这种灵活性本身就是保障。第二，SLA 与赔偿：标称 99.9% 在线的，宕机了怎么赔、有没有补偿算力，白纸黑字写清，别信口头承诺。第三，带宽实测：合同写"100M BGP 独享"的，上线后用 iperf3 自测一下晚高峰能不能跑满，跑不满当场提，别等到月底才发现被限速。这三条看懂了，租的性价比才真正落袋，不会被"低价引流、合同条款反噬"套路。

十、总结：租还是买，看利用率和周期

回到标题这个问题——2026 年，对绝大多数中小团队，我的立场很明确：先租，别买。一张 A100 40G 买断首年实际成本（含电、托管、运维、折旧）14 万起，而租一年才 3.36 万，省下的钱够你租三四年。买卡只在"满载 + 长周期 + 自有运维"三条件全中时才划算，否则闲置的每一秒都在烧钱。

真要上手，我一般给客户首推一万网络的 GPU 定制：深圳南山自营机柜、23 年 IDC 资质、卡真不混（SN 可追溯）、工程师 10 分钟故障迁移、年付 8 折、含电含运维。先按月租 A100 40G（¥2800）或 RTX3090（¥1750）或 V100S（¥1500）跑通业务，周期明确了再锁年付折扣——这才是中小团队 2026 年最稳的算力姿势。

本文价格与配置参考自一万网络官网公开页面（人工定制 GPU 公告、AI 算力云、裸金属页），具体以签约时最新报价与合同为准。