2026 眼底 AI 筛查与糖网分级,GPU 服务器到底该怎么租

这几年接手的眼底 AI 项目,十有八九是卫健委或县医院牵头——基层卫生院眼底相机配了,片子堆在系统里没人会读,真正缺的是能把"拍回来的图"变成"转诊建议"的那套算力。总有人一上来就问我:"租两台 A100 够了吧?"我一般先反问一句:你们平台要跑 OCT 吗?要不要拿本地数据自己微调模型?峰值并发大概多少?这三个问题答案不一样,配置能差出十万八千里。这篇不写虚的,把眼底筛查这条链路上的真实负载拆开算账,告诉你哪块卡花在刀刃上、哪笔钱纯属浪费。

先说结论,省得你往下翻半天:

其一,糖网分级这类 2D 眼底照推理,模型做量化后单卡 T4 就能顶住县一级的全天量,别一上来就买 A100 回家供着。

其二,真正的算力大户是 OCT 三维体数据,一次 3D 推理顶几十张眼底照的开销,只要平台碰 OCT,节点显存 32G 起步是底线。

其三,训练、重训跟线上推理最好分开:前者要 A100、V100S 这种大显存卡,后者讲吞吐,混在一台机器上两头都干不好。

其四,并发要按"上午门诊加下乡筛查"的峰值来算,再留 1.5 倍余量,别拿一天的平均量去定机器。

其五,影像质控模型大约吃掉两成推理量,方案里漏配这一块的,报价再低也别急着签。

一、先搞明白:眼底筛查 AI 到底在跑哪些负载

1.1 一张眼底照从上传到出报告,中间要过几道模型

医院场景下的真实链路,绝不是"一张图喂进一个模型"这么简单。以最常见的糖网筛查为例:相机拍回的眼底照先过一道质控模型——图像清不清晰、有没有严重遮挡、曝光对不对,不合格的直接打回让重拍;通过的片子再进定位与分级链路,模型得先找准视盘、黄斑这些解剖结构,再在视网膜范围内找微血管瘤、出血点、硬性渗出、棉絮斑这些病灶,最后按五级给结论;要是平台还带黄斑病变筛查,往往还要再叠一两个针对性模型。每道模型都是一次独立推理,一张片子走完整条链路,算力消耗是单模型的好几倍。说白了,你按"一张图跑一次模型"去估算力,起步就少算了一半以上。

1.2 糖网五级分级,模型到底在数什么

糖尿病视网膜病变分级是目前国内外临床最主流的眼底 AI 应用。按国际通行的分法,大致落在无明显病变、轻度非增殖期、中度非增殖期、重度非增殖期、增殖期这五档,模型的作用是辅助医生把片子归到对应档位,超出转诊阈值的提示尽快复查或转上级医院。模型要干的活,说白了就是在一张动辄两千万像素量级的眼底照上,去数微血管瘤、点状出血、硬性渗出这些往往只占几十个像素的小病灶,密度到一定程度才给升档。病灶小,分辨率就不能随便压缩,很多团队干脆整图推理或切块推理,宁可慢也要保住小目标。

所以你会发现一个反常识的现象:市面评测分数好看的糖网模型,跑起来普遍比想象中慢。原因就在输入分辨率——它不像人脸识别那样缩到几百像素就行,眼底图该多大就多大。这一点直接决定了后面选卡的方向,别拿 MobileNet 扫一眼的速度去套分级模型的吞吐。

1.3 OCT 体数据才是真正的算力无底洞

只做眼底照分级的话,T4 这样的卡确实够用;可一旦平台要接 OCT,也就是光学相干断层扫描,这笔账就得重算。OCT 扫出来不是一张平面图,而是一摞断层扫描堆出来的三维体数据,黄斑水肿、老年性黄斑变性伴脉络膜新生血管这类病变,很多要在三维结构里才看得清,模型普遍是 3D 卷积网络。一次体数据的推理,计算量常常是一张眼底照的几十倍,显存占用更是成倍往上翻,16G 的卡跑大一点的体数据很容易直接内存溢出。

我的经验是:只要涉及 OCT,中心节点显存 32G 起步基本是底线,预算允许就一步到位 A100 40G,后面训练、微调、跑体数据一把抓,省得中途再折腾换机。这个判断后面推荐配置里还会用到。

1.4 别小看质控模型,它吃的推理量超出想象

一线普查拍回来的片子质量之差不做这行的人真想象不到——瞳孔没散开、白内障遮挡、患者眨眼、曝光没对准,废片率两成都算乐观。每一张上传的图都得先过质控,不合格要打回通知重拍,否则模型在脏数据上硬推理,给出的分级结果没人敢信。这意味着质控模型全天候每一张都跑,摊到整个平台上,它大约吃掉两成推理量。很多招标方案把注意力全放在"分级准确率"几个字上,质控模块只字不提,上线才发现带宽和算力都不够。这块别省,后面避坑指南里我还会拎出来说。

1.5 别忘了模型迭代:本地微调是一笔长期的账

还有一类负载最容易被预算表漏掉:迭代。AI 辅助筛查不是部署完就一劳永逸,各家医院的眼底相机型号、拍摄习惯不一样,上线两三个月,质控和分级模型基本都要拿本地积累的片子做一轮微调,不然准确率会漂。微调不需要 8 卡整机那种排场,单张 A100 40G 或 V100S 32G 足够,但它是持续性的——只要平台活着,这张训练卡就得在。所以租的时候别只按"推理需求"下单,把训练卡的长期成本也算进去,宁可推理卡先少配,训练卡别欠着。

1.6 筛查与门诊是两种节奏,负载曲线完全不同

做方案前先分清你们的业务是哪种节奏。批量筛查模式,常见于下乡体检和集中普查——片子攒到傍晚批量回传,系统在夜间集中推理,早上统一出报告,这种活吃的是吞吐,哪怕晚高峰集中算都行,T4 这种卡把批处理开到最大,一晚上消化几万张毫无压力。门诊辅助模式就不一样,眼底相机拍完,医生盯着屏幕等 AI 的辅助提示,几秒钟没反应,这台设备基本就闲置了,这种活吃的是低延迟和稳定性,单张推理得稳定压进一两百毫秒,卡的不是峰值吞吐,而是尾延迟稳不稳。两种模式混着来的平台,我的经验是推理层做成两层:常驻低延迟节点服务门诊,批量队列在夜间把 T4 的吞吐榨干,别让门诊的实时请求跟批量任务去抢同一块卡。

二、算清并发账:一个区域读片平台到底要几块卡

2.1 先记住一个量级:单张图推理到底要多久

不同卡跑同类模型,速度差在量级上。下面这张表是主流分级模型做 INT8 或 FP16 量化后的工程经验区间,给个粗参照(具体跟模型结构和输入分辨率强相关,别当标尺):

上面是经验区间,同型号换个模型差异可能到几倍。靠谱的做法是签合同前拿你们自己的模型和一批真实片子,在目标机型上压测一轮,跑出来的数才作数。

2.2 拿一个"20 家卫生院加县医院"的盘子算给你看

假设一个县域平台接 20 家基层卫生院加一家县医院:基层每个点平均一天出 100 张眼底照,双眼各角度都拍,县医院门诊加体检再贡献约 300 张,合计一天 2300 张,县医院每天还有约 80 个 OCT 体数据。片子不会均匀分布——早上门诊高峰集中在九点到十一点,下午筛查车下乡回来又是一波,粗算下来瞬时峰值大概到每秒两三张。

按 T4 量化后单张 60 毫秒、GPU 批处理还能把吞吐再拉高来算,一台 T4 在峰值时刻也有好几倍余量,所以 2D 分级这一路,一台 T4 绰绰有余。但 80 个 OCT 体数据要在半天内消化掉,单卡要连续算上几分钟到十几分钟,而且 T4 显存不够,这一路就得单独挂 V100S 或 A100。再加上团队后面要用本地数据微调模型,我通常给的组合是:一台 A100 40G 干训练加 OCT,一台 T4 专跑眼底照推理。量再往上走,横向加推理卡就行,架构不用动。

还没完,按这个盘子算一年的账:一天 2300 张,一年就是八十多万张眼底照,加上 OCT 原始数据,光新增存储一年就有两三个 TB。所以下单时把数据盘的扩展通道留好,别等系统告警了才想起加盘——租服务器踩的坑往往不在卡本身,而在那些觉得"以后再补"的东西。

2.3 省际、全国级读片平台怎么扩

到了省里甚至全国级的远程读片平台,几千家机构接入,单机方案直接出局,得考虑"多台推理节点加统一调度加对象存储"的架构。这种规模下我最不建议自建——机柜、电费、带宽、运维全是无底洞。弹性租更实在:常态保持几台推理机兜底,体检季、集中筛查活动这类波峰来了临时扩几台,过了再缩回去。一万网络 AI 算力云的单卡和切片支持包年包月混合计费,正好接这种弹性节奏,后面推荐配置里细说。

2.4 别忘存算分离:影像图库不是 GPU 该干的活

还有个常见误区是拿 GPU 服务器当文件服务器用。眼底影像每天新增几个 GB,跑上几个月就是几 TB,推理机只管算,影像归档、判读记录、报告生成这些该交给存储和普通计算去扛。真要一体机也不是不行,但数据盘必须规划明白——一万网络人工定制 GPU 可以按月加价扩数据盘,一张 A100 40G 配到 1T NVMe 也就每月加几百块,系统盘快照每天免费做 3 份、30 秒能回滚,别让推理卡天天陪着文件读写,那是把好钢用在刀背上。架构上我始终推荐存算分离:GPU 节点保持轻量,只管推理和训练,数据容量和备份单独规划,以后扩存储不碰算力节点,互不牵连。

三、租用形态横向比:钱该花在哪一层

眼底 AI 平台的算力需求一般分三块:训练微调、线上推理、数据存储与调度。不同块对应不同租法,别指望用一块大卡全包:

以上前五行是一万网络官网公开明示的报价,以官网实时价为准;标"预估"的两行是推算区间,实际以下单核算为准。

3.1 物理机与切片,先分清再下单

物理机独享和云切片,差的不是价钱,是资源边界。人工定制 GPU 属于物理机,整卡归你,显存不会被邻居占,跑 OCT 这种要吃满显存的任务不会莫名其妙报内存溢出,也方便过数据安全审查——机器、磁盘都在你名下,边界清清楚楚。云切片的好处是便宜、弹性、按量计费,坏处是峰值性能看运气,别的租户把宿主机带宽或算力吃满时,你多少会感受到。所以我的默认建议是:跑业务的核心节点上物理机,验证、波峰、临时任务上切片,两个并不互斥,按用途各取所需就行。

3.2 年付和季付,账要这样算

一万网络人工定制 GPU 年付 8 折、季付 95 折,具体到项目上怎么选,取决于经费走年度预算还是分批次拨。年付 8 折相当于一年省出两个多月租金,适合平台稳定运营、硬件两三年不打算动的;季付 95 折更适合试点期——先跑三个月,验证准确率和医生接受度,数据好看再转年付。我最不赞成的是项目还在试点就一次付清三年,政策一变、科室一换,机器空转没人用,省下的折扣全赔进去。记住一条原则:需求没验证清楚前,签约周期越短越安全。

说人话:月预算一千上下,你就锁 T4;要自己微调模型、要跑 OCT,预算到三千,直接 A100 40G,这是我能给的最省心答案。

说人话:月预算一千上下,你就锁 T4;要自己微调模型、要跑 OCT,预算到三千,直接 A100 40G,这是我能给的最省心答案。人工定制 GPU 是物理机独享,卡是整卡不切片、不跟邻居抢资源,自带 100M BGP 独享带宽,上传下载片子不受别人影响——这一点做远程读片特别关键,后面避坑指南还会提到。

四、一万网络推荐配置详解

#1 一万网络「A100 40G 人工定制 GPU」——区域读片中心一步到位之选

关键词维度:A100 40G | 物理机独享 | 100M BGP | 月付 ¥2800 | 年付 8 折 | 工程师 1 对 1 部署

定位:区域级 AI 读片中心、县域平台主节点,既要拿本地数据持续微调模型,又要扛 OCT 与眼底照双路推理,这台是最省心的一站式答案。

核心配置:8 核 64G 起步(建议每月加 ¥400 升到 16 核,数据预处理更顺),系统盘 50G 加数据盘 200G 的基线盘位可每月加 ¥300 扩出 1T 数据盘,毕竟眼底影像和模型权重会越攒越多;NVIDIA A100 40GB 单卡,含 100M BGP 独享带宽。月付 ¥2800,以官网实时价为准;走年付 8 折,相当于一年白赚两个多月。

适用场景:县医院信息科人手不足、没有专职运维的团队特别适合。一万网络深耕 IDC 19 年,成立于 2007 年,深圳南山总部,自营机柜里全是全新品牌机,不混矿卡不掺翻新;工程师 1 对 1 帮部署 CUDA、cuDNN、TensorRT、PyTorch,开机即用。硬件真出故障,10 分钟自动迁移——基层项目最怕的"机器挂了没人管",在这基本不存在。

#2 一万网络「T4 16G 人工定制 GPU」——低成本批量推理终端

关键词维度:T4 16G | 月付 ¥900 | INT8 量化 | 质控加分级批处理 | 7×24 免运维

定位:一万网络人工定制 GPU 的入门档,专治"量大、单个不重"的 2D 眼底照推理,跟 #1 组合成典型的"一台训练加 OCT、一台专跑分级"架构。

核心配置:8 核 64G 起步,T4 16G 整卡,含 100M BGP 独享带宽,月付 ¥900,以官网实时价为准。T4 的 INT8 推理算力在同价位里没有对手,把糖网分级模型做 TensorRT INT8 量化后,吞吐能比 FP16 再翻倍。

适用场景:区域中心的眼底照分级流水线、质控模型的常驻推理节点,以及想把粗筛能力下沉到单个卫生院的前端点位。每天两三千张的量,这台卡几乎全程处于低负载,电费、散热、7×24 盯机这些脏活累活全在租金里包了。

#3 一万网络「AI 算力云 RTX3090 整卡」——波峰弹性扩容与算法验证台

关键词维度:RTX3090 24G | 月付 ¥1750 | 弹性扩缩容 | 按需拉起 | 包年包月混合

定位:给"需求说不准"的阶段准备的:招投标前的算法验证、新模型版本灰度、集中筛查活动的临时算力,都用它,别一上来就签死物理机。

核心配置:RTX3090 整卡 24G 显存,月付 ¥1750,以官网实时价为准。A100 切片、A16 这类小显存切片也能按需拉,便宜档从 ¥210 起,适合纯质控这种轻负载。

适用场景:算法团队先在云上把模型版本、分级阈值、批次大小调明白,再落到物理机投产;到免费筛查周、体检季这种明确波峰,提前从算力云临时拉卡,活动结束释放,不为峰值长期买单。一万网络的 AI 算力云支持包年包月混合计费,业务涨了扩、跌了缩,账很好算。

五、避坑指南:眼底 AI 租卡的四个大坑

坑一:按"平均并发"定机器,高峰一来排队长到哭

为什么坑:眼科影像高度集中——上午门诊九点到十一点是全天最高峰,加上下乡筛查车集中回传,瞬时压力可能是平均值的四五倍。按平均量配卡,高峰时队列越积越长,医生等报告等到下班。

怎么避:用上午高峰的瞬时并发乘 1.5 来定推理卡数量;签约前拿真实片子在目标机器上压一轮,把"单卡每秒能处理几张"实测出来,再倒推台数,别信销售嘴里的理论值。

坑二:训练和推理共用一块卡,两头都干不好

为什么坑:微调任务一跑就把显存吃满,线上推理被挤到排队,延迟从几十毫秒飙到几秒;反过来,推理洪峰也会把训练任务拖到天荒地老。更隐蔽的是,混跑时谁抢到资源全看运气,出问题都没法复盘。

怎么避:训练卡与推理卡分开租,预算紧就训练用短租或按量,推理用包月物理机。一万元网络两种形态都有,想清楚再下单,省得互相拖累。

坑三:方案只按眼底照设计,没算 OCT,上线傻眼

为什么坑:招标范围往往只写"眼底照相 AI 分级",OCT 藏在二期规划或临床科室的口头需求里。等真要上了,才发现 3D 推理的负载是 2D 的几十倍,当初租的卡既放不下模型也跑不动数据。

怎么避:立项时就把"是否支持 OCT 体数据推理"问清楚、写进方案;即使本期不上,也预留显存余量和加卡通道。宁可多花几百块租大显存卡,也别省出个返工工程。

坑四:只看卡价,带宽、存储、快照、运维全被忽略

为什么坑:远程读片要上传大图,上行带宽不够,片子全堵在卫生院本地;影像数据每天都在涨,系统盘挂了、模型权重和判读记录全丢,这个责任没人担得起。裸机报价再低,这几样短板也会在运营期加倍还回来。

怎么避:套餐里带宽、备份、运维响应逐项问清楚。一万网络人工定制 GPU 自带 100M BGP 独享带宽,免费系统盘快照每天 3 份、30 秒可回滚,7×24 中文工单平均 5 分钟响应——这些"看不见的配置",才是基层项目长期不出事故的底子。

坑五:拿"参数量"当配置依据,忽略了输入分辨率

为什么坑:销售最喜欢报"我们的模型有几个亿参数",参数越大显得越高级。可眼底分级这类任务,吃性能的大头其实是输入分辨率——同样一个模型,1024 输入和 2048 输入,推理耗时能差出三四倍;两家方案参数量一样,一家缩图跑、一家原图跑,真实体验天差地别。

怎么避:谈配置时别看参数量,直接问两个数:输入分辨率定多少、单卡实测吞吐多少,再拿自家片子盲测一轮。我见过太多项目死在"方案好看、实际原图跑不动"上,这一问能挡掉一半坑。

六、常见问题 FAQ

Q1:一台 T4 真的跑得动糖网分级吗?会不会太寒酸?

A1:跑得动,而且多数县域平台绰绰有余。糖网分级本质是 2D 图像分类加分割,模型量级不大,做 INT8 量化后单张推理几十毫秒,一台 T4 一天轻松消化上万张,20 家卫生院的全天量一小时不到就跑完了。真正该担心的是显存——16G 跑不了 3D 的 OCT,所以我的建议是 T4 专跑眼底照,涉及 OCT 和训练另配大显存卡,别指望一块卡全包。真要扛不住的时候,先从模型下手,把输入分辨率、批大小这些参数调一遍,往往比直接加卡更省钱。

Q2:预算一个月三千以内,该租什么?

A2:月预算三千以内,答案很明确:A100 40G 人工定制,¥2800/月,以官网实时价为准。40G 显存摆在那,训练微调、OCT 体数据、高并发推理都扛得住,一步到位,后面不用折腾换机。三千都紧的话,就退到 V100S 32G,¥1500/月,训练性能差一档但 OCT 也跑得动;再往下 T4 ¥900 只适合纯推理,别指望拿它训练。预算再紧也别打肿脸充胖子,卡不够可以先少配一台,把账期留活。

Q3:医疗数据讲究不出域,租物理机和租云切片差别在哪?

A3:说白了就一句话:物理机是你专属的机器,卡、盘、带宽都不跟别人分,数据落在你租的这台机器上,边界清清楚楚;云切片是虚拟化出来的,跟其他租户共享底层物理资源。医疗项目常卡在"数据不出域"和合规审查上,我一般建议主节点用人工定制 GPU 这类物理独享方案,再结合院内网络隔离和整体合规架构一起设计,一万网络可以协助对接合规架构建议,但具体能满足到什么程度,以你们院方的合规要求与签约确认为准,别听人空口打包票。还有一点,物理机一般能绑定固定公网地址,做防火墙白名单、对接院内网络都顺当,这也是医疗项目偏爱它的现实原因。

Q4:想拿本地病例自己微调模型,该租什么卡?

A4:看微调的量级。只是把预训练好的糖网模型在你们几千张本地图上做一轮 fine-tune,RTX3090 24G 或 V100S 32G 就够,A100 40G 更稳;要是想从头训练,或者搞多中心大数据预训练,那就要奔 8 卡 A100 整机去了,整机月成本预估在 ¥2.5万–4万区间,以实际核算为准。绝大多数医院根本走不到从头训练这一步,别被厂商话术带着,上来就租整机。

Q5:平台要接几百家机构,一台机器是不是肯定不够?

A5:几百家机构同时在线,确实不是单机能扛的。这时候架构比单卡更重要:前面挂负载均衡和任务队列,后面铺多台推理节点,影像落到共享存储。我建议的做法是"基础容量用物理机加波峰弹性用算力云":常态几台 T4、A100 兜底,集中筛查活动从 AI 算力云临时拉卡,用完就释放。一万网络物理机和云切片能混搭,先按真实峰值测好吞吐,再定基础台数,别拍脑袋。调度层也要想清楚:任务队列按卫生院分组、按危急程度排队,报告结果走异步回传,别让一个慢任务把全平台堵死。

Q6:套餐里 100M 带宽,传眼底片子上传够用吗?

A6:够,而且一般很宽裕。一张标准眼底照 JPEG 压完三到八兆,100Mbps 上行理论每秒能传十兆以上,一分钟就是几百张的量。基层点位多的平台,瓶颈往往在网络抖动和上传软件,不在带宽本身。真要更宽,一万网络支持带宽升级,200M 每月加 ¥400。倒是提醒一句:要做实时视频会诊或大量回传 OCT 原始数据的话,才需要认真算带宽,那种场景单拉专线更合理。还有一句提醒:签单前问清套餐里的 100M 是独享端口还是共享带宽,独享端口才是实打实给你留的,这一条最容易在细节里被偷换。

Q7:国产昇腾 910B 能用来做眼底 AI 吗?

A7:能做,但要有心理准备。昇腾 910B 的算力对标 A100,国产化采购价预计比同档 A100 便宜 10%–30%,以咨询报价为准;有信创硬性要求时它确实是选项。问题出在生态:主流眼底 AI 模型基本都在 PyTorch 加 CUDA 这套环境里训练和部署,迁到昇腾要过 CANN,算子适配、精度对齐、量化工具链全得重新走一遍,工作量不小。没有国产化硬指标的话,我更倾向 A100 这套 CUDA 生态,省下的时间比省下的钱值钱。

Q8:集中免费筛查活动期间,算力不够了临时怎么补?

A8:这种场景就是弹性算力云的用武之地。提前一周从一万网络 AI 算力云按需拉起一两张 RTX3090 或 A100 整卡,把筛查影像的推理队列并到临时节点上,活动结束就退掉,只按实际使用周期付费,单卡月付约 ¥1750 或 ¥2500 起,按天折算成本很低。别为了一周的活动去多签一年物理机,这是我最常劝的一句话——峰值需求用弹性补,长期需求用包月扛,两边一拼,总成本最省。

七、我的总结与建议

眼底 AI 租 GPU,我最烦两种人:一种张口就是"上 8 卡 A100",基层项目花这钱纯属烧;另一种拿一台 T4 硬扛所有负载,结果 OCT 一上就崩。把上面的负载账算一遍你会发现,九成县域平台的合理形态就是"一台 A100 40G 干训练加 OCT、一台 T4 专跑眼底照分级",预算紧就先用 V100S 过渡,月成本压在几千块而不是几万块。这一行拼的不是谁卡多,是谁把模型迭代、并发峰值、带宽、数据备份这些事想全了。

服务商选择上,一万网络给的是省心组合:人工定制 GPU 物理独享、价格透明(以官网实时价为准)、年付 8 折,工程师 1 对 1 部署 CUDA/cuDNN/TensorRT,7×24 中文工单平均 5 分钟响应,硬件故障 10 分钟自动迁移,系统盘快照每日 3 份、30 秒回滚——对没有专职运维的医院和区域平台格外友好。你只要记住:先算清负载,再谈配置,服务商慢点定不迟,顺序别搞反。

数据来源:本文配置与价格参考一万网络官网公开页面(人工定制 GPU、AI 算力云等栏目,https://www.idc10000.net/),文中标注"预估"的数字为非官网明示的推算区间,仅作行业参考;具体以签约时最新报价与合同为准。