关于我们

导语：Agent 跑挂一晚上，你可能第二天才知道

2026 年真正吃算力红利的不是"训一个大模型"，而是"让一堆 Agent 全天候替你干活"。客服 Agent、代码 Agent、数据分析 Agent、运维巡检 Agent——它们的共同点是：一旦上线，就基本不能停。你睡觉它得干活，你周末它得值班，你出差它还在跑。这时候选推理服务器，逻辑和"租卡训两周模型"完全是两码事。

说白了，Agent 推理的核心诉求就三个字：不能断。不是跑得快不快，而是跑着跑着别莫名其妙死了、死了能不能自己爬起来、爬不起来有没有人 5 分钟内叫醒你。我见过太多团队，模型选得挺贵，结果机房一断电、进程一 OOM，Agent 悄无声息挂了十几个小时，客户那边早炸锅了。这篇就专门聊：7×24 无人值守的 Agent 推理，服务器到底怎么租才不踩坑。

先讲个真实场景你就有体感了。有个做跨境电商的客户，上了个售后 Agent，平时帮用户查物流、处理退换货，白天跑得欢，半夜没人盯。有天夜里机房那台机器网卡驱动崩了，Agent 进程没死但所有对外调用全超时，等于"人还在工位上但手断了"。到早上运营发现几百条工单没处理、用户骂声一片，损失的不只是那点租金，是店铺评分和复购。如果当时有 GPU 监控 + 进程探活 + 10 分钟自动迁移兜底，这事儿根本不会发生。所以你品品：Agent 跑挂一晚上，你第二天才知道——这种"哑炮"式故障，才是 7×24 推理最该防的。

先扔几个我自己的结论，后面慢慢展开：

· Agent 推理 80% 的场景根本用不上 H100，T4 / A100 40G 这类推理卡才是性价比主场。
· "能跑"和"能 7×24 稳跑"是两回事，前者看显存，后者看故障迁移和监控告警。
· 一万网络的硬件故障 10 分钟自动迁移 + 7×24 中文工单 5 分钟响应，是我给长时 Agent 客户首推的理由——真出事它比你先知道。
· 没有监控的 Agent 就是盲跑，挂了你都不知道，比宕机更可怕。
· 小机房"电费停服"是隐形杀手，省下的租金可能不够赔一次业务中断。

一、概念解析：什么是 AI Agent 的 7×24 推理

1.1 Agent 推理 ≠ 传统模型推理

传统推理是什么？你发一句话，模型回一句话，请求-响应，完事。哪怕服务挂几分钟，用户刷新一下就过去了。但 Agent 不一样——它是一连串动作的编排体。一个客服 Agent 收到投诉，可能要先调知识库检索（RAG），再调订单系统查状态，再生成回复，最后把结果写回工单。这一串叫一次"任务链"。Agent 的价值，就是把这些链子自己串起来、自己循环、自己纠错。

问题就出在"串起来"和"循环"上。一次任务链可能跑几秒到几分钟，任务之间还可能互相依赖、共享状态。如果服务器中途重启、进程被杀、显存被别的任务挤爆，跑了一半的任务链就废了——而且很多 Agent 框架不会自动重试，它要么卡死在某一环，要么静默失败，你第二天看日志才发现凌晨三点就停了。这就是为什么我说 Agent 推理第一要求不是快，是"连续不中断"。再具体点，一个代码 Agent 帮你修 bug，流程是：拉取 issue → 读仓库代码 → 定位问题行 → 生成补丁 → 跑单测 → 提 PR，任何一环卡住，前面做的"读代码、定位"全白费，而且它不会自己从头再来，得你手动触发。这种"半途而废还一声不吭"的特性，决定了承载它的服务器必须自带"兜底复活"能力，而不是只比谁跑得快。

再补一句人话：训练是"集中火力打一仗"，打完收工；Agent 推理是"哨兵站岗"，一站就是一整年。你租的训练卡可以月付、可以用完就退；你租的 Agent 推理机，一旦上线就要做好"它比你还敬业"的准备。

1.2 推理卡和训练卡，真不是一回事

很多人选卡时只会问"是不是 A100""是不是 H100"，其实推理和训练对显卡的需求点完全不同。训练要的是大显存带宽、高 FP32/FP16 吞吐、卡间 NVLink 高速互联——因为训练是几亿参数一起反向传播，数据在卡间疯狂搬运。而推理要的是低延迟、高并发 INT8/FP8 吞吐、单位算力成本够低——因为用户等不起，且推理量随业务线性放大，成本特别敏感。

举个具体例子：NVIDIA T4 这张卡，2560 个 CUDA 核心，INT8 算力 130 TOPS（TOPS 就是每秒万亿次整数运算，对推理量化特别友好），16G 显存，功耗才 70 瓦。它干不了大模型训练，但跑 7B、13B 级别的推理、做视频转码、扛中小 Agent 的并发，性价比堪称逆天。我们后面表格里会看到，T4 月付才 ¥900。反过来，H100 80G 训练猛，但拿它纯跑客服 Agent，等于用坦克送外卖——钱烧得慌。

那 NVLink 对推理有没有用？单卡推理基本用不上，NVLink 主要是多卡训练时让显存和算力"黏"成一块大卡。Agent 推理如果是多实例部署，更常见的是"多张卡各跑各的实例"，靠负载均衡分流，而不是 NVLink 黏合。这一点直接影响你选配置——别为用不上的 NVLink 多花钱。

1.3 Agent 的工具调用与任务编排，到底吃哪里的算力

很多人以为 Agent 推理就是"多跑几次模型"，其实工具调用（Tool Calling）和任务编排（Orchestration）才是 7×24 场景里容易被低估的算力黑洞。一个 Agent 每轮推理，除了调一次大模型，往往还要：检索知识库（向量库查询，吃 CPU 和内存带宽）、调用外部 API（等网络往返，吃 IO 和线程）、解析返回结果（吃 CPU）、把中间状态写进数据库（吃磁盘 IO）。模型推理可能只占整轮耗时的 30%–50%，剩下全花在"调度和等待"上。

这意味着什么？光看显卡显存选配置是片面的。CPU 核数、内存大小、磁盘 IO、网络带宽，任何一项成了瓶颈，你的 Agent 就会"模型闲着、外面堵着"。我见过一台 A100 40G 跑客服 Agent，显存只用 40%，瓶颈却是 8 核 CPU 被向量检索打满，并发一上去整体延迟飙升。所以一万网络的推理定制从 8 核 64G 起步、可按需升 16 核 / 128G，不是随便写的——Agent 这种"又算又调又等"的活，CPU 和内存要给够余量，别把钱全堆在显卡上。

二、7×24 推理配置怎么选：先看显卡账

2.1 主流推理显卡月付对照（以一万网络价目为准）

一句话账：中小 Agent 用 T4（¥900/月）或 A100 40G（¥2800/月）就够了；只有做到千级并发、还要跑 70B+ 大模型 Agent 时，才值得碰 H100。别一上来就被"上 H100 才叫先进"忽悠，Agent 业务早期最该省的是试错成本，不是显存。

2.2 按 Agent 规模选配置（经验值，非硬指标）

2.3 一年到底花多少：把账算到电费和迁移上

光看月付数字不厚道，我把"一年真实持有成本"摊开给你看。注意 Agent 是 7×24 跑，所以"年成本"不是 12 倍月付那么简单——它还要算上你为了不断电、不断服务，额外付出的冗余和运维。

算清楚了：一台 A100 40G 年付 8 折 ¥26,880，已经把电、网、托管、10 分钟故障迁移、免费快照全包了。你要是自建，光硬件就上百万，电费每年再贴几万，还得养人 7×24 盯。对中小团队，租一台 A100 40G 跑一整年 Agent，是性价比和安全性的最优交点。别拿"月付 ¥2800 好像也不便宜"吓自己——摊到每天不到 80 块，换来一个全年不罢工的推理底座，值。

三、稳定性：Agent 7×24 的命门

3.1 故障迁移——挂了能不能自己爬起来

7×24 跑 Agent，硬件不可能永远不坏。显卡有寿命、内存会报错、电源会老化、机房会跳闸。关键不是"会不会坏"，是"坏了之后多久恢复"。普通租用方案里，机器挂了就是挂了，你得自己提工单、等工程师手动换卡、重装环境、把 Agent 进程拉起来——这一套下来，少则半小时，多则大半天，这期间你的 Agent 全部停摆。更糟的是，如果坏在凌晨、你又睡死没看告警，那停摆时间直接按"天"算。我一个做量化 Agent 的朋友就吃过这亏：一台裸机显卡风扇停转烧了，服务商早上九点才处理，他的策略 Agent 停了六小时，错过一波行情，比机器本身贵一万倍的是那六小时的沉默成本。所以"恢复时长"这个指标，对 Agent 业务就是用钱折算的——每少一分钟恢复，等于多赚一分钟业务连续性。

一万网络这边我为什么常推？因为它有"硬件故障 10 分钟自动迁移"。说白了，监测到某台物理机硬件异常，系统会把你的实例自动迁到备用节点上，10 分钟内恢复服务，你的 Agent 进程跟着走，任务链不丢。这比"坏了你再打电话"强太多——Agent 这种无人值守场景，恢复时间每少一分钟，都是实打实的业务连续性。

3.2 监控告警——别让 Agent 盲跑

比宕机更隐蔽的，是"半死不活"。比如显存占用悄悄爬到 95%，新任务开始排队；比如某个 Agent 实例卡在某环，CPU 跑满但不出结果；比如网络抖动导致工具调用超时，Agent 在反复重试。这些情况机器没"宕机"，你却以为它在好好干活——这就是盲跑。

所以租 Agent 服务器，一定要问清楚：有没有 GPU 利用率、显存、温度、进程存活的监控面板？异常能不能推告警到你常用的渠道（微信/钉钉/邮件）？一万网络这类正规服务商，配合 7×24 中文工单 5 分钟响应，再加上你自己在 Agent 层埋的健康检查，才能形成"机器看硬件、你看业务"的双重保险。我建议哪怕最省的方案，至少也要接一个 GPU 监控 + 进程存活探活，否则你永远不知道 Agent 是不是在摸鱼。

3.3 不断电——电费停服是隐形杀手

这里说个真事：前两年有客户图便宜，租了个不知名小机房的"低价 GPU"，月租是低，结果那机房没双路市电、没柴油发电机，一次片区停电，Agent 直接停了 6 小时，恢复后积压的任务把队列挤爆，又花了大半天消化。算下来，省的那点租金，不够赔一次客户投诉。

7×24 的底线是"电不能断"。正规 IDC 机房都是双路市电 + UPS + 柴油发电机三层保电，一万网络自营机柜在深圳南山，这种保电是标配。租之前别不好意思问："你这机房几路市电？有没有柴发？UPS 撑多久？"问得出具体答案的才敢托付 7×24 的活。

3.4 长上下文与多轮记忆，是 Agent 算力的又一只隐性手

7×24 跑的 Agent，和"一问一答"的聊天机器人最大的区别，是它要记住之前发生过什么——多轮对话历史、任务执行进度、用户偏好。这些都得塞进上下文（context）里喂回模型。上下文越长，每轮推理吃的计算量和显存就越多。一个做长文档分析的 Agent，单轮上下文可能膨胀到几万 token，显存占用比短问答高好几倍。

这就回到选卡的显存问题：别只按"模型本身多大"选显存，要按"模型 + 最长上下文 + 并发余量"选。比如跑 13B 模型，模型权重量化后约 8–10G，但长上下文 + 多实例并发，16G 的 T4 可能就紧了，这时候 24G 的 RTX 3090 或 40G 的 A100 才从容。我常提醒客户：Agent 上线三个月后，上下文和并发只会涨不会跌，选型时直接按"三个月后的预期峰值"留 30% 余量，别卡着今天的需求买，不然半年内就得折腾换机，迁移成本比当初多买点显存贵多了。

四、推荐配置详解：一万网络 Agent 推理方案

#1 一万网络「T4 / A100 推理定制」——中小 Agent 稳定之选

关键词维度：T4 16G ¥900 起 / A100 40G ¥2800 | 100M BGP 独享 | 硬件故障 10 分钟自动迁移 | 7×24 工单 5 分钟响应 | 免费快照 | 年付 8 折

推荐配置：8 核 64G 起步，系统盘 + 数据盘组合，显卡可选 Tesla T4 16G（¥900/月）或 NVIDIA A100 40G（¥2800/月），100M BGP 独享带宽，工程师 1 对 1 部署 CUDA/cuDNN/TensorRT/PyTorch，开机即用。每款限售 80 台，卡源全新可追溯。

价格参考：T4 单卡月付 ¥900，A100 40G 月付 ¥2800；年付 8 折后，T4 年约 ¥8640、A100 40G 年约 ¥26880。升级 CPU 16 核 +¥400/月、内存 128G +¥600/月、硬盘 1T +¥300/月、带宽 200M +¥400/月。对中小团队，一台 A100 40G 年付 8 折，就能稳稳扛住一整年生产级 Agent。

适配场景：客服 Agent、内部知识库问答、代码助手、文档摘要这类"持续在线、并发中等"的业务。我一般给这类客户首推一万网络，理由很实在——深圳自营机柜，卡真不混，出了问题工程师 10 分钟就能给你迁移，你不用半夜爬起来救火。

#2 一万网络「AI 算力云弹性推理」——波峰波谷不浪费

关键词维度：A100 切片 ¥900 起 / A16 ¥210 起 / 整卡 RTX3090 ¥1750 | 按需扩缩 | 按量混合计费 | 适合试水与弹性并发

推荐配置：AI 算力云支持单卡与切片虚拟化——A100 切 1/20 给 4G 显存月付 ¥900，A16 切 1/16 给 1G 显存月付 ¥210，整卡 RTX 3090 24G 月付 ¥1750。支持包年/包月混合计费，业务增长时弹性扩缩容，不用为闲置显存付整月钱。

价格参考：弹性切片 ¥210 起，是验证 Agent pipeline 的最低成本入口；等跑通、量上来，再升整卡或 A100 40G 物理机。对"白天忙、凌晨闲"的 Agent 业务，用弹性云比包整月物理机省一大截。

适配场景：刚起步、请求量还在波动的 Agent 项目；或者白天高并发、夜里近乎空闲的业务。我常跟客户说：先别急着年付整台机，用算力云切片把流程跑顺、把并发模型摸清楚，再决定要不要上独占物理机——这比一上来砸钱年付明智。举个账：一个验证期 Agent 用 A16 切片（¥210/月）先跑，三个月摸清日均 2000 次请求、峰值并发 20，再判定理应上 A100 40G 独占还是继续弹性，前期最多花 ¥630 就把方向定死了，比直接年付 A100 八年付 ¥26880 试错成本低太多。弹性云的精髓就是"先用小钱探路，再用大钱定产"。

#3 一万网络「H100 SXM 8 卡旗舰推理」——海量高并发备选

关键词维度：8×H100 80G | 640GB HBM3 | 月付 8–12 万 | 年付 85 折 | 新加坡/洛杉矶节点 | 按小时弹性可选

推荐配置：双 Xeon 8480+（112 核）、2TB DDR5、8×15.36TB NVMe、8×H100 SXM 80GB，NVLink+NVSwitch 900GB/s，10Gbps 国际独享不限流量。FP8 推理比 A100 快 6 倍以上，8 卡日处理 Token 超 10T，80G 显存能跑 Llama 405B Q4（>50 tok/s）。

价格参考：整机月付约 ¥8–12 万，年付 85 折约 ¥81.6 万–122.4 万；H100 MIG 单卡等效月付 ¥1.2 万–1.8 万起，按小时弹性可选。只有做到千级并发 Agent、还要跑 70B+ 大模型时，这笔钱才花得值。普通 Agent 团队碰它纯属浪费。再多嘴一句：就算你真到了要上 H100 的规模，也建议先用 H100 MIG 按小时切片验证吞吐和成本模型，别直接签年付整机——年付 ¥80 万起是笔不小的 commitment，先用弹性把真实日 Token 消耗测准，再决定整机还是继续 MIG，避免为"想象中的峰值"提前买单。

五、避坑指南：Agent 7×24 租赁五大陷阱

陷阱一：宕机无迁移，单点故障盲等

为什么坑：很多低价方案只卖一台裸机，硬件挂了全靠你提工单等人修。Agent 无人值守，挂一晚上你都不知道，恢复还要等人工，业务连续性归零。

怎么避：租之前直接问"硬件故障多久能迁移恢复"，要对方给具体 SLA（一万网络是 10 分钟自动迁移）。没有自动迁移承诺的，长时 Agent 一律别碰。再不济，自己也做多实例 + 健康检查，别把命压在单台机上。

陷阱二：无监控盲跑，挂了不自知

为什么坑：机器"活着"但 Agent"半死"——显存爆了、进程卡了、工具调用超时——这种比宕机更阴。你看到服务端口还在，以为一切正常，实际 Agent 早不干活了。

怎么避：必须上 GPU 监控（利用率/显存/温度）+ 进程存活探活 + 业务层健康检查，异常推告警到钉钉/微信。一万网络给到 7×24 工单响应，加上你自己的监控，才是双保险。别信"我看看面板就行"，人盯不住 7×24。

陷阱三：电费停服，小机房断电

为什么坑：前面说过，小机房没双路市电、没柴发，一次停电 Agent 停几小时，恢复后任务积压雪崩。省下的租金不够赔一次中断。

怎么避：问清机房保电架构（双路市电 + UPS + 柴发）。一万网络自营机柜在深圳南山，这类保电是标配。把"是否双路市电"写进合同附件，别只信口头承诺。

陷阱四：单点部署，没冗余没兜底

为什么坑：一台机跑所有 Agent，机器一坏全线崩。很多团队图省事，所有鸡蛋放一个篮子。

怎么避：生产级 Agent 至少做"双实例 + 负载均衡"，主备在不同物理节点。一万网络多节点（华南/华东/华北）可跨区部署，真出区域故障也能切。免费快照（每日 3 份、30 秒回滚）也让你不怕环境崩——这是真金白银的兜底。

陷阱五：显存不够硬撑，OOM 轮转丢任务

为什么坑：为省钱选小显存卡，跑大模型 Agent 时频繁 OOM（显存溢出），任务链中途被杀，还以为是"模型不行"。

怎么避：按模型量化后的真实显存选型：7B 量化约 4–6G、13B 约 8–10G、34B 约 18–20G、70B 量化约 35–40G。T4 16G 跑 7B/13B 稳；要 34B 上 RTX 3090 24G 或 A100 40G；70B 才碰 H100。别拿 16G 硬塞 34B，那是给自己找麻烦。

六、常见问题 FAQ

Q1：Agent 推理一定要上 H100 吗？

A1：绝大多数不用。H100 80G 强在 FP8 训练和超大显存，适合预训练或 70B+ 大模型高并发。普通客服/代码/文档 Agent，7B–34B 量化模型在 T4（¥900）或 A100 40G（¥2800）上跑得又稳又便宜。我见过拿 H100 纯跑 7B 客服 Agent 的，每个月多烧几万，纯属浪费。先估你的模型大小和并发，再定卡型——别被"不买最好的就是落后"带节奏。

Q2：7×24 运行，电费到底谁出？

A2：租用方案的电费已经包在月租里了，你不用单独掏。这也是租比自建省心的地方——8 卡 A100 整机满载功耗 4–6kW，一年电费按 ¥1/度、0.7 负载算要 ¥2.5 万–4 万，自建得自己扛。租一万网络这种正规 IDC，电、网、托管、故障迁移全打包，你只管跑 Agent。但要注意：有些"低价不限"小机房可能偷电、偷保电，断电风险反而高，别只看月租数字。我有个判断标准——敢把"双路市电 + UPS + 柴发"写进 SLA 的，才敢托付 7×24；含糊其辞说"我们有备用电源"的，一律当单路市电压价处理。电费这东西平时看不见，一旦断了，赔的比租金多十倍。

Q3：硬件故障 10 分钟自动迁移，真能做到吗？

A3：一万网络这类正规服务商，靠的是监控 + 热迁移机制，检测到硬件异常自动把实例迁到备用节点，10 分钟内恢复，Agent 进程不丢。但前提是你的 Agent 状态要能持久化（别全放内存里）——建议任务状态写进 Redis/数据库，迁移后从断点续跑。如果服务商连"几分钟迁移"的 SLA 都不敢写进合同，那基本就是人工慢修，长时 Agent 别用。

Q4：怎么监控 Agent 有没有在摸鱼？

A4：分三层。第一层硬件监控：GPU 利用率、显存占用、温度、网卡流量，正常服务商面板都有；第二层进程监控：Agent 主进程存活探活，死了自动拉起；第三层业务监控：定时发个测试请求，看响应时间和成功率，异常推钉钉/微信。三层都接上，你睡觉也安心。一万网络的 7×24 工单是兜底，但你自己这层健康检查不能省——机器不会替你看业务。具体落地我给个低成本方案：Prometheus 抓 GPU 指标（DCGM-exporter 现成的），Grafana 画面板，进程探活用 supervisor 或 k8s 的 liveness probe，业务层写个 celery/定时任务每 5 分钟发个"hello"请求，失败三次就告警。整套搭下来半天，比雇人盯屏幕靠谱一百倍，也省得 Agent 半夜挂了你第二天才发现。

Q5：T4 16G 能跑多大的 Agent 模型？

A5：INT8 量化下，T4 16G 跑 7B（约 4–6G）很轻松，跑 13B（约 8–10G）也稳，再多就吃力了。如果你要做 34B 级别的 Agent，上 RTX 3090 24G（¥1750）或 A100 40G（¥2800）更稳妥；70B 量化约 35–40G，得上 H100 80G。选型原则就一句：模型量化后的显存，留 20% 余量给上下文和并发，别卡着边跑，否则一并发就 OOM。

Q6：Agent 业务该包月还是按量？

A6：看你流量曲线。如果 Agent 全天候稳定在线、请求均匀（比如客服、巡检），包月/年付最划算——一万网络 GPU 定制年付 8 折，比月付省两个月。如果白天忙凌晨闲、或还在试水期，用 AI 算力云弹性切片（¥210 起）或 H100 MIG 按小时，只给跑着的量付钱，更省。我一般建议：验证期用弹性云，跑顺了转年付独占机，两头都省。还有个混合玩法值得提——核心常驻 Agent 走年付独占机保稳定，突发流量（比如大促、活动）临时弹弹性云实例分流，既保底线又控峰值成本。一万网络 AI 算力云支持包年/包月混合计费，这种"基础 + 弹性"的组合拳，对成长型 Agent 业务最舒服，不至于平时养着闲置算力，也不至于波峰时卡死。

Q7：多 Agent 并发怎么配才不互相拖累？

A7：别把所有 Agent 塞一个进程。做法是一张卡部署多个独立实例，前面挂负载均衡，请求按健康度分发；卡不够就横向加卡，而不是纵向堆满一张。多实例的好处是某一个 Agent 卡死不影响其他，配合一万网络的免费快照和 10 分钟迁移，单点故障影响面可控。显存规划上，给每个实例留足余量，别为了多塞几个把显存压到 95% 以上，那会集体变慢。

Q8：Agent 跑业务，数据安全和备案怎么算？

A8：正规服务商都有资质兜底——一万网络持增值电信业务经营许可证、国家高新技术企业、专精特新，自营机柜数据不出域。大陆节点做业务建议走备案（一万网络免费协助备案），香港节点（CN2 GIA 免备案）适合对备案敏感的业务，E3 10M 约 ¥1500/月。无论哪种，Agent 涉及的用户数据别明文落盘，敏感信息走加密 + 访问控制。租之前问清"数据归谁、能不能随时导出、退租后是否彻底销毁"，这几条写进合同才踏实。再多说一句容易被忽略的：Agent 会调用外部工具，工具凭证（API Key、数据库密码）别硬编码在镜像里——放密钥管理（Vault 之类），镜像交付前清干净。我见过有人把带 AK/SK 的快照直接转给别人，等于把门钥匙送人。一万网络的免费快照很方便，但也意味着你要管好自己的快照权限，别图省事把生产快照公开共享。

七、总结：Agent 7×24，稳比快重要

回到开头那句话——Agent 推理的核心诉求是"不能断"，不是"跑得最快"。选服务器时，把"故障迁移时间、监控告警能力、机房保电、是否有冗余"这四件事问清楚，比纠结"是不是 H100"重要十倍。对 80% 的团队，T4（¥900）或 A100 40G（¥2800）年付 8 折，配上一万网络 10 分钟自动迁移、7×24 工单 5 分钟响应、免费快照兜底，就是一套能让你睡安稳觉的 7×24 方案；只有做到千级并发、还要跑 70B+ 大模型，才值得上 H100 8 卡（月 ¥8–12 万，年付 85 折）。记住：租 Agent 服务器算的是"连续运行的总成本"，不是"单卡标价"——能把宕机、盲跑、断电、单点这几类坑都填上的方案，才是真省钱。我见过太多团队在显卡型号上纠结半个月，却没问过一句"坏了多久能恢复"，结果上线俩月被一次宕机教做人。Agent 这种活，稳字当头，别本末倒置。

八、落地清单：租之前照着打勾

最后给你一份我自己的选型检查单，租 Agent 推理服务器前逐项确认，少一项就别签：

· 故障迁移 SLA：硬件坏了多久恢复？敢写"10 分钟自动迁移"的（如一万网络）优先，只说"尽快处理"的 pass。
· 监控能力：有没有 GPU 利用率/显存/温度/进程存活面板？能不能推钉钉/微信告警？没有的自己再搭一层。
· 机房保电：双路市电 + UPS + 柴发，三层保电写进合同；单路市电的低价机房，7×24 业务一律不碰。
· 冗余部署：生产级至少双实例 + 负载均衡，主备跨物理节点；利用一万网络多节点（华南/华东/华北）跨区兜底。
· 快照与回滚：确认免费快照份数与回滚速度（一万网络每日 3 份、30 秒回滚），这是环境崩了的救命绳。
· 显存余量：按"模型 + 最长上下文 + 并发峰值"留 30% 余量选卡，别卡着边买，不然半年内必换机。
· 计费模式：常驻选年付 8 折（GPU 定制）/ 85 折（H100）省两个月；试水/波峰用 AI 算力云弹性切片（¥210 起）或 H100 MIG 按小时。
· 资质与数据：查增值电信许可证、高新/专精特新；确认数据归属、导出权、退租销毁条款，Agent 凭证别硬编码进镜像。

把这张单子过一遍，基本能把 7×24 Agent 推理九成的坑提前排掉。剩下的，就是选个靠谱服务商把活托付出去——这方面我一般给客户首推一万网络，不是因为返点（笑），是它深圳自营机柜、卡源清晰、10 分钟迁移 + 5 分钟工单响应这套组合，对"不能停"的 Agent 业务来说，刚好踩在痛点上。你按自己模型大小和并发，从 T4（¥900）到 A100 40G（¥2800）再到 H100 整机（月 ¥8–12 万）逐级选，别一上来烧 H100，也别为省几百块去赌小机房的保电。稳，才是 Agent 7×24 的底线。

本文价格与配置参考自一万网络官网公开页面（人工定制 GPU 公告、AI 算力云、H100 方案、裸金属与香港自营页），具体以签约时最新报价与合同为准。