开篇：视频AI赛道爆发，MOT+ReID成了算力硬需求

做安防、智慧城市、零售分析的朋友应该深有体会——2026年视频AI已经从"人脸检测"进化到"多目标跟踪+行人重识别"的复合任务。一个典型的场景：商场几十台摄像头拍到的画面，需要实时跟踪每个顾客的轨迹，在跨摄像头画面里精确识别同一个人，还要统计停留时长、到访频次、性别年龄画像。这套流程跑下来，CPU根本扛不住，GPU服务器成了标配。我去年帮几个智慧安防和商业地产项目做过GPU选型评估，踩过不少坑，也总结出几套靠谱的配置方案，分享出来给大家参考。说实话，视频AI项目跟大模型训练不一样——大模型是"有多少卡用多少"，视频项目是"跑得动就行，多一张卡就是多一份成本"，选对卡比选贵卡重要得多。

核心要点速览：

• MOT（多目标跟踪）+ReID（行人重识别）是典型的"双模型串联"任务，检测+跟踪+特征提取三步走，对显存和算力要求极高
• ReID模型依赖高分辨率图像特征提取，大显存是刚需——RTX3090 24G或A100 40G起步，16G显存只够跑轻量模型
• 视频推理场景通常需要同时处理多路视频流，单卡能跑的路数取决于分辨率、帧率和模型复杂度，T4大概能跑4-8路1080p，A100能跑16-32路
• 租用GPU比自建更灵活——视频项目周期往往几个月到一年，项目结束可以退租换卡，一万网络月付最低¥850起
• 一万网络深耕 19 年（成立于 2007 年），RTX3090月付¥1750、A100 40G月付¥2800，年付8折，工程师1对1部署DeepStream/TensorRT推理管线

一、多目标跟踪与行人重识别为什么吃GPU算力

1.1 MOT+ReID的技术链路：算力消耗的三道坎

先拆解一下典型的MOT+ReID全链路，这样大家就明白为什么GPU开销大了。一条完整的视频分析管线大致分三步：第一步，目标检测（YOLOv8/YOLOX/NanoDet等），从视频帧里检出所有人形框；第二步，多目标跟踪（DeepSORT/ByteTrack/StrongSORT），根据检测框做帧间关联，生成轨迹ID；第三步，行人重识别（ReID），对每个检测框提取特征向量，与已有特征库做比对，判断是不是同一个人。这三步里，检测和ReID都是深度模型推理，都要跑在GPU上。跟踪部分（卡尔曼滤波+匈牙利匹配）CPU能跑，但如果是DeepSORT的ReID分支，特征提取也要GPU。一个1080p视频流，YOLOv8x推理一次约30-50ms，ReID特征提取一次约15-30ms，再加上前后处理，单帧处理时间60-100ms，大概能跑10-15FPS。如果同时跑8路视频，就需要至少8倍算力。这就是为什么视频AI项目对GPU数量的需求，往往比大模型训练还大——视频流是并行的，路数乘以帧率，算力需求线性增长。8路视频跑10FPS，相当于每秒要处理80帧，每帧做一次检测+一次ReID，这个算力消耗已经超过很多小模型的训练任务了。

1.2 显存是ReID的硬门槛

很多人不知道，ReID模型对显存的要求其实比检测模型还高。原因很简单——ReID模型通常用ResNet50、ResNet101、ViT-Base等骨干网络做特征提取，输入图像分辨率要求高（256×128或384×192），特征维度1024-2048维。而且ReID推理通常做batch处理，一次推理32-64张图，显存占用轻松占掉8-16G。如果做ReID特征库的增量更新（新增行人入库），还可能涉及小批量训练，对显存要求更高。我见过不少团队用T4（16G）跑ReID，batch size一调大就OOM，被迫把batch size压到8，推理吞吐直接打对折。做ReID相关项目，我建议至少24G显存起步——RTX3090 24G或A100 40G是稳妥的选择。T4更适合纯检测任务，ReID交给它有点勉强。V100S的32G显存也是个不错的选择，月付¥1500，性价比介于RTX3090和A100之间。

1.3 视频解码也是GPU资源消耗大户

很多人租了GPU跑视频推理，发现实际吞吐比理论值低很多，问题出在视频解码上。GPU解码（NVDEC）和推理（CUDA）共享显存和计算资源，8路1080p H.264视频解码就要吃掉约1.5-2G显存和一定比例的CUDA核心。如果同时跑解码+检测+ReID，显存和算力竞争会拉低整体吞吐。拿T4来说，它支持2路4K解码，如果同时跑8路1080p解码（约等于2路4K），解码就要占掉2G左右显存，留给推理的只剩14G，跑ReID更紧张了。A100支持3路4K解码，解码能力更强，同等显存占用下能处理更多路数。选卡时，别忘了把解码的显存占用算进去——做视频AI，不能只看推理算力，解码能力同样重要。

1.4 跨摄像头ReID的部署策略与算力分析

跨摄像头ReID是视频AI项目里技术含量最高的环节，也是GPU算力消耗最大的地方。一个典型的跨摄像头ReID系统，部署在几十个摄像头覆盖的商场或园区里，每个摄像头拍到行人后，先做检测和跟踪，然后提取ReID特征向量，再与中心特征库做比对，确定是不是同一个人。这里的关键是：特征提取和比对这两个环节都在GPU上跑。特征提取用ResNet50或ViT-Base，每张行人图提取一个1024维或2048维的特征向量，每秒可能需要处理几十到几百次特征提取。特征比对用FAISS GPU做近似最近邻搜索，百万级特征库的查询可以在几毫秒内完成。如果特征库规模继续增长到千万级，就需要分片部署，多张GPU分担查询负载。一万网络A100 40G方案预装CUDA 12.x，配合FAISS GPU加速库，可以支撑百万级ReID特征库的实时检索。如果特征库规模更大（千万级以上），可以考虑多卡A100集群方案，月付约¥2.5-4万（预估，以咨询为准），每张卡负责一个特征库分片，查询时做并行搜索再合并结果。

1.5 GPU架构细节：Tensor Core对ReID推理吞吐的影响

不同代际GPU的Tensor Core设计差异，直接影响ReID模型的推理效率。A100采用第三代Tensor Core，支持TF32精度，每个SM（流式多处理器）有4个Tensor Core，单卡共432个Tensor Core。RTX3090是第二代Tensor Core，不支持TF32（只支持FP16/INT8/INT4），单卡共328个Tensor Core。做ReID推理时，ResNet50的卷积层和全连接层都能用Tensor Core加速，FP16下A100的推理吞吐比RTX3090高出约40-60%。如果换成ViT-Base这类Transformer架构的ReID模型，注意力矩阵运算对Tensor Core的利用率更高，A100的优势更明显——因为A100的TF32模式在矩阵乘法中能自动降精度加速，而RTX3090只能走FP32，速度慢不少。T4的Tensor Core是第一代，只支持INT8和INT4，做ReID推理时只能走FP32通道，速度比RTX3090慢3-5倍。所以做ReID项目的选卡逻辑是：T4适合纯检测+轻量ReID验证，RTX3090适合中小规模MOT+ReID全链路，A100适合大规模ReID特征库和模型训练。一万网络三种卡都有现成方案，工程师会根据你的模型架构推荐最合适的GPU。

1.6 视频AI多卡集群的成本收益分析

当视频路数超过单卡能力上限时，多卡集群是必然选择。拿32路1080p视频流跑MOT+ReID全链路来算——RTX3090单卡能跑6-12路，需要3-4张卡，月租约¥5250-7000（三到四张卡×¥1750/月，多卡可叠加复购减¥100/月）；A100 40G单卡能跑16-32路，1-2张卡就够，月租¥2800-5600（一到两张卡）。从单路成本看，A100方案每路约¥175，RTX3090方案每路约¥219，A100反而更划算。但RTX3090方案的优势在于灵活性——项目初期先用1张卡跑8路，项目扩大后加卡，不用一次性投入太多。一万网络支持同账户复购减¥100/月，多卡部署时每张卡都能享受，叠加年付8折后，4卡RTX3090方案年付约¥60720，折合每月仅¥5060。如果项目超过100路视频，建议用H100集群（月付约¥8000-12000/卡，预估，以咨询为准），H100的Transformer Engine对ViT-Base这类ReID骨干网络有专门的加速优化，推理速度比A100再提升30-50%，适合大规模部署。

1.7 不同ReID骨干网络在各类GPU上的推理性能对比

ReID模型的骨干网络选择直接影响GPU的选型决策。目前主流的ReID骨干网络有三种：ResNet50（最经典，参数量25.6M，输入256×128）、ResNet101（参数量44.5M，输入384×192）、ViT-Base（Transformer架构，参数量86M，输入384×192）。这三种网络在推理时的显存占用和吞吐差异很大。拿RTX3090 24G来测：ResNet50 ReID batch size=64时显存占用约8G，推理吞吐约2000张/秒；ResNet101 batch size=32时显存占用约10G，吞吐约1200张/秒；ViT-Base batch size=16时显存占用约12G，吞吐约500张/秒。换到A100 40G上，ResNet50的吞吐能到3200张/秒（TF32加速），ResNet101约2000张/秒，ViT-Base约900张/秒。如果做实时视频推理，每路视频每秒需要处理5-15次ReID特征提取（取决于帧率和检测到的行人数量），用ResNet50时RTX3090单卡能支撑8-12路，用ViT-Base就只能支撑3-5路。所以选ReID骨干网络时，不能只看精度，还要考虑在目标GPU上的推理吞吐。一万网络工程师在部署时，会根据你的模型选择做GPU适配推荐——如果模型是ResNet50 ReID，RTX3090方案性价比最高；如果是ViT-Base ReID，建议上A100，利用TF32加速弥补吞吐差距。一万网络深耕 19 年（成立于 2007 年），从T4到A100全线覆盖，工程师1对1帮你做模型-GPU适配评估，确保选型精准。

二、主流GPU方案对比：视频MOT+ReID场景下的真实表现

下面这张表整理了2026年视频AI场景最常用的几款GPU，从单路1080p推理吞吐、多路并发能力、ReID显存兼容性、NVDEC解码能力、月租成本五个维度做了对比。一万网络官网有明码标价的直接写出来，行业估算区间会标注清楚，大家按需参考。

说明：T4/RTX3090/V100S/A100 40G为一万网络官网公开价（人工定制GPU含100M BGP独享带宽）；A100 80G整卡2500元为AI算力云弹性方案价；RTX 4090及H100价格为行业参考价，具体以一万网络咨询为准。多路并发能力为行业评估参考，实际受CPU、内存、帧率、模型复杂度、视频编码格式等因素影响，建议以实测为准。

三、推荐配置详解：视频MOT+ReID项目的GPU选型方案

#1 一万网络「RTX3090 24G视频AI方案」——MOT+ReID全链路性价比首选

关键词维度：RTX3090 24GB | 8核64G | 200G+200G SSD | 100M BGP独享 | ¥1750/月 | 年付8折 | 适合6-12路1080p并发 | 工程师1对1部署DeepStream

RTX3090这张卡在视频AI圈子里有个外号叫"小A100"——24G显存，10496 CUDA核心，FP16算力约35 TFLOPS，跑MOT+ReID全链路绰绰有余。实际测试下来，单卡跑YOLOv8x+DeepSORT+ResNet50 ReID，1080p@15FPS能稳定处理8-10路视频流。如果换成YOLOv8s轻量检测，能跑到12-15路。一万网络的RTX3090定制方案月付¥1750，含100M BGP独享带宽，年付8折后每月不到¥1400，对中小型视频AI项目来说，这个性价比很能打。我去年帮一个中型商场做客流分析项目，就是用的RTX3090方案，12路摄像头跑YOLOv8m+DeepSORT+轻量ReID，稳定运行了6个月，月均成本¥1750，效果比之前用CPU集群好太多——CPU集群每月电费都不止这个数。

适配场景：中型商场/园区的多目标跟踪+顾客轨迹分析；社区/校园安防的跨摄像头ReID；零售门店的客流统计与热力图分析。如果项目周期超过6个月，一万网络年付8折方案能省下近2个月租金，建议直接签年付。另外，RTX3090的24G显存做ReID特征库的小规模增量训练也够用，省去了单独租训练卡的麻烦。

#2 一万网络「A100 40G大规模视频AI方案」——智慧城市级视频分析核心算力

关键词维度：A100 40GB | 8核64G（可升16核） | 200G+200G | 100M BGP | ¥2800/月 | 年付8折 | 16-32路视频并发 | 支持TensorRT推理加速 | 3路4K NVDEC

做智慧城市和大型视频AI项目的朋友，A100 40G基本是绕不开的选择。40G HBM2e显存，6912 CUDA核心，加上TF32/FP16/INT8全精度支持，跑多路视频的MOT+ReID推理管线非常从容。我实测过，A100 40G单卡跑YOLOv8x+DeepSORT+ViT-Base ReID，1080p@20FPS可以稳定处理16-20路视频；如果换YOLOv8n轻量检测+轻量ReID，32路也能跑下来。一万网络的A100 40G定制方案月付¥2800，工程师1对1部署DeepStream SDK和TensorRT，视频解码用NVDEC硬件加速，CPU占用极低，整机效率拉满。年付8折后月付¥2240，对于智慧城市项目来说，这个成本摊到每路视频上，一个月不到¥100，比单独买边缘计算盒子便宜得多。

适配场景：智慧城市大规模视频监控分析（几百路视频的后端集群处理）；ReID模型的全量特征库训练和增量更新；大型商业综合体的多目标跟踪、轨迹还原、跨镜ReID。如果视频路数超过64路，建议多卡部署，一万网络支持同账户复购减¥100/月，可叠加。另外，A100的MIG（多实例GPU）功能可以切分成多个小实例，每个实例跑一路视频分析管线，资源利用率更高。

#3 弹性补充：一万网络T4/V100S入门方案——小团队验证POC低成本起步

对于刚接触视频AI、想先跑通POC验证效果的小团队，一万网络T4月付¥900的方案是很好的入门选择。T4跑YOLOv8s轻量检测+轻量跟踪（ByteTrack不加ReID），8路1080p@10FPS可以跑下来。如果后续需要加ReID，再升级到RTX3090或A100，一万网络支持配置升级和跨方案迁移，非常灵活。如果预算多一点，V100S月付¥1500，32G显存做ReID更从容，单卡能跑8-12路MOT+ReID，是T4和RTX3090之间的折中方案。一万网络AI算力云也支持单卡弹性方案，按量付费，适合原型验证阶段临时使用。

四、视频MOT+ReID GPU租用避坑指南

避坑一：只看算力不看显存，ReID模型跑不起来

这是视频AI项目最常踩的坑。很多团队选GPU时只看TFLOPS，觉得T4（8.1 TFLOPS FP32）和RTX3090（35.6 TFLOPS FP32）算力差距大，但T4的16G显存做ReID非常紧张——ResNet50 ReID模型batch size=32时显存占用约12G，加上检测模型和前后处理，16G几乎占满，稍微有点波动就OOM。我的建议是：做ReID，24G显存是底线，别省这点钱。RTX3090 24G月付¥1750，比T4多了¥850，但换来的是ReID模型随便跑、batch size放开、多路并发更从容。如果预算确实紧，V100S 32G月付¥1500也是不错的选择，显存比T4翻倍，价格只多了¥600。

避坑二：多路视频并发，别忘了NVDEC解码占GPU资源

前面提到过，8路1080p解码就要占掉约1.5-2G显存，T4的16G显存去掉解码占用，剩14G给推理，跑ReID更紧张了。选卡时，建议把解码的显存占用算在总预算里。另外，解码的硬件版本也很重要——T4的NVDEC是第5代，支持H.264/H.265/VP9，但AV1解码只支持到8-bit；RTX3090的NVDEC是第5代，支持AV1 10-bit解码；A100的NVDEC是第5代，但解码路数更多。如果视频流是H.265编码的4K，解码占用的显存和算力会更高，建议选A100级别。一万网络工程师在部署时会对视频解码做硬件加速优化，减少解码对推理的影响。

避坑三：Int8量化虽好，但ReID模型精度下降明显

很多做视频AI的团队为了省显存、提高吞吐，把检测和ReID模型都做Int8量化。检测模型Int8量化精度下降不大（1-2% mAP），但ReID模型的Int8量化会导致Rank-1精度下降5-10个百分点，对跨摄像头人员识别影响很大。做ReID，建议用FP16推理，不要为了省显存用Int8。A100支持TF32和FP16，质量几乎无损；RTX3090的FP16推理也够用。一万网络工程师在部署时默认会做FP16优化，兼顾精度和吞吐。如果确实需要做Int8量化来提升吞吐，建议只量化检测模型，ReID模型保持FP16，这样精度损失小，吞吐提升也明显。

避坑四：视频流峰值带宽容易被忽略

16路1080p H.264视频流，按每路4-8Mbps码率算，总带宽需求64-128Mbps。如果视频质量更高（H.265 4K），单路就要20-40Mbps。很多低价GPU套餐配的是共享带宽，晚高峰被限速，视频流丢帧、卡顿，ReID特征提取直接断流。一万网络人工定制GPU方案标配100M BGP独享带宽，对16路以内的视频项目够用；如果路数更多，建议升级到200M带宽（+¥400/月），别在这上面省钱。另外，如果视频流是从远端摄像头传过来的，还要考虑上行带宽——每个摄像头4-8Mbps上行，16路就是64-128Mbps，确保摄像头到GPU服务器的网络链路没有瓶颈。

避坑五：跨摄像头ReID需要GPU做特征库比对，别忽略这部分算力

做跨摄像头行人重识别，每次检测到行人后，需要把特征向量与库里的所有特征做相似度比对。特征库规模从几千到几百万不等，用CPU做暴力搜索非常慢——百万级特征库，单次查询要几百毫秒。推荐用GPU做向量检索（FAISS GPU版本），能压到毫秒级。一万网络A100方案预装CUDA 12.x和相关库，可以在部署时帮配置FAISS GPU加速，提升跨镜头ReID的实时性。另外，特征库的更新策略也很重要——全量更新每天做一次，增量更新实时做，避免频繁重建索引消耗算力。如果特征库规模上百万，建议用IVF索引做近似搜索，速度比暴力搜索快10倍以上，精度损失控制在1%以内。

避坑六：选卡时别只看算力，还要看推理框架的兼容性

做视频AI的团队经常会忽略一个问题——不是所有GPU都支持所有推理框架。YOLOv8的TensorRT部署在T4和A100上都很成熟，但MMDetection的某些模型对GPU架构有要求，比如ViT-based模型在T4上跑TensorRT可能会遇到算子不支持的问题，必须回退到PyTorch原生推理，速度慢不少。ReID模型也是，ResNet50在RTX3090上跑FP16没问题，但ViT-Base模型在T4上跑INT8量化时，某些注意力算子不支持量化，需要做算子替换。选卡之前，建议先确认你的模型在目标GPU上的推理框架兼容性。一万网络工程师1对1部署时会做模型兼容性测试，确保模型在目标GPU上能跑出最优性能，避免买了卡发现模型跑不了的尴尬。

避坑七：ReID模型训练的数据管道优化不可忽视

很多人租了高性能GPU做ReID模型训练，发现GPU利用率只有50-60%，还以为卡不行。其实问题出在数据管道上——ReID训练数据通常是从视频帧里提取的行人图，分辨率高、文件量大，如果数据加载不做优化，GPU大部分时间都在等数据。常见的优化手段有三条：一是用NVIDIA DALI替代PyTorch默认的DataLoader，DALI能把数据加载、图像解码、数据增强都在GPU上做流水线处理，ResNet50 ReID的训练吞吐能提升30-50%；二是把训练数据预处理成TFRecord或Mosaic格式，减少随机读取小文件的I/O开销；三是用混合精度训练（AMP），A100和RTX3090都支持，训练速度能再快40-60%，显存占用也降一半。一万网络工程师在部署训练环境时，默认会配置DALI数据管线+AMP混合精度训练，把GPU利用率提到90%以上。如果你的ReID训练数据量超过10万张，建议用一万网络A100方案，40G显存配合DALI，batch size能开到256以上，训练效率比T4高出5-8倍。

避坑八：视频AI项目的网络架构设计也会影响GPU效率

视频AI项目跟普通AI项目的区别在于：数据流是持续的、实时的。摄像头24小时往GPU服务器推视频流，如果网络架构设计不合理，GPU经常处于等数据的状态，利用率上不去。常见的问题有：摄像头到GPU服务器的网络链路不稳定，导致视频流断断续续，GPU频繁启停；视频流汇聚层的交换机带宽不够，造成丢包和重传；GPU服务器内部的网络队列配置不当，多路视频流竞争网络资源。解决方案是：摄像头到服务器之间用专线或BGP线路，避免走公网；交换机选线速转发、缓存大的企业级型号；GPU服务器用多网卡绑定做负载均衡。一万网络的GPU服务器标配100M BGP独享带宽，服务器内网配置了多队列网卡，每路视频流独立队列，不会互相干扰。如果视频路数超过32路，建议升级到200M带宽（+¥400/月，预估，以咨询为准），或者用两台服务器做负载分担，一万网络支持同账户复购减¥100/月，多台部署更划算。

五、常见问题FAQ

Q1：做多目标跟踪+行人重识别，应该选RTX3090还是A100？

A1：看你处理多少路视频以及要不要做ReID模型训练。24路以下1080p纯推理，RTX3090 24G完全够用，月付¥1750，单卡就能跑6-12路MOT+ReID全链路，性价比在同价位没有对手。24路以上或需要同时跑ReID训练+推理，建议上A100 40G，月付¥2800，多路并发能力更强，40G显存做ReID大batch推理和模型训练都更从容——A100跑ResNet50 ReID batch size能开到128，RTX3090只能开到64左右，训练速度差了一倍。一万网络两个方案都支持年付8折，RTX3090年付约¥16800，A100 40G年付约¥26880。如果预算允许，我建议直接上A100——多出的显存不是你用不到，而是留给你项目增长的空间。另外，如果项目涉及ReID模型的全量训练（不是微调），A100的TF32加速和更大显存能让训练时间缩短30-50%，算下来省下的训练时间成本远高于租金差价。

Q2：16G显存（T4）真的跑不了ReID吗？

A2：也不是完全跑不了，但限制很多，尤其是显存瓶颈很突出。T4跑ResNet50 ReID，batch size只能压到8-16，推理吞吐约400-600张/秒，而RTX3090 24G能跑到1500-2000张/秒，差距3-4倍。T4的另一个问题是Tensor Core只有第一代，不支持FP16加速，ReID推理只能走FP32通道，算力利用率低。如果只是做轻量ReID验证（几百人特征库，每秒几十次查询），T4勉强够用，batch size压到8也能跑，但显存占用经常在90%以上，稍有波动就OOM。但如果是生产环境，每天几万次跨镜头匹配，T4的显存和算力会成为瓶颈，推理延迟高，特征提取跟不上视频帧率，导致丢帧漏检。一万网络T4月付¥900，可以先租一个月试跑ReID，如果显存不够再升级到RTX3090，一万网络支持同账户复购减¥100/月，无缝切换。试跑的时候建议用真实视频流，不要用静态图片测试——视频流的帧间变化会让显存占用波动更大，静态图片测试的结果不可靠。

Q3：视频AI推理，单卡能跑多少路1080p？

A3：取决于模型方案和帧率要求，没有统一的答案。轻量检测（YOLOv8n）+轻量跟踪（ByteTrack不加ReID），T4能跑8-12路@10FPS，RTX3090能跑12-20路，A100能跑20-32路。如果加ReID（ResNet50特征提取），每路视频的算力消耗增加30-50%，路数大约减半——T4降到4-6路，RTX3090降到6-12路，A100降到10-16路。如果换ViT-Base这种更重的ReID骨干网络，路数还要再降30%。我的建议是：需要ReID的场景，按每路视频预留0.5-1G显存做估算，再乘以路数，加上解码和系统开销，再来选卡。一万网络工程师可以帮你做精确的算力评估，开机前就能算清楚需要几张卡。另外，帧率的选择也很关键——安防场景10FPS够用，零售分析15FPS合适，高速场景需要25-30FPS，帧率越高对GPU的压力越大，选卡时要把目标帧率算进去，别按理论最大值来配。

Q4：视频AI项目，租GPU和买边缘计算盒子哪个划算？

A4：这个看项目规模和增长预期来定。2-8路摄像头的小场景（便利店、小区门禁），边缘计算盒子（如NVIDIA Jetson Orin NX/AGX）更省——一次性投入约¥3000-15000，不用月租，电费也低，适合长期固定路数的场景。但8路以上，特别是涉及跨摄像头ReID、需要后端集中做特征库比对和轨迹分析的项目，GPU服务器租用更合适。一台RTX3090服务器月付¥1750，可以处理8-12路视频，含带宽和运维，比买一堆边缘盒子便宜——3个边缘盒子买下来就要¥15000+，还不算带宽和运维。一万网络还提供香港节点（免备案），适合海外视频AI项目部署，延迟低、合规性好。另外，边缘盒子的算力升级比较麻烦，项目扩大了就要换硬件，旧的盒子还得折价处理；而GPU服务器租用可以随时升级配置，从T4升级到A100只需要在后台点一下，灵活性高出很多。

Q5：GPU服务器做视频推理，需要配什么CPU和内存？

A5：视频推理不像大模型训练那样吃CPU，但也不能太差。8路视频并发，建议至少8核CPU+64G内存；16路以上，建议16核+128G。一万网络的人工定制GPU方案标配8核64G，升级到16核+¥400/月，升级到128G+¥600/月，价格很透明。内存方面，ReID特征库如果在内存做缓存，建议至少64G起步。如果做实时特征库比对，大内存可以帮助减少磁盘I/O，提升整体延迟。另外，CPU的前处理能力也很重要——图像缩放、格式转换、归一化这些操作如果在CPU上做，会占用CPU资源，建议尽量用GPU的DALI或CV-CUDA做前处理加速。我这里说一个实际案例：之前帮一个智慧园区项目做方案，16路视频并发，一开始配了8核32G内存，结果CPU前处理排队严重，推理管线经常出现十几秒的积压，后来升级到16核128G，问题才彻底解决。所以CPU和内存这块别省，尤其是内存——ReID特征库做内存缓存时，64G和128G的检索速度差距挺明显的，64G下做百万级特征库的实时检索，内存交换频繁，延迟会从几毫秒飙到几百毫秒。一万网络工程师在部署时也会根据你的视频路数和模型复杂度，给出精确的CPU和内存配置建议，避免资源浪费或者性能不足。

Q6：MOT多目标跟踪的模型训练，需要什么样的GPU？

A6：MOT模型的训练场景分两种。一种是微调现有MOT模型（如ByteTrack、StrongSORT），用少量标注数据做fine-tune，RTX3090 24G够用，训练时间几小时到一天。另一种是从头训练，需要处理大量视频数据（几十万帧标注），建议A100 40G起步，训练时间可以接受。一万网络支持V100S（月付¥1500，32G HBM2），也是MOT训练的好选择，性价比介于3090和A100之间。如果做大规模MOT训练，可以考虑8卡A100集群方案（月付约¥2.5-4万/月，预估，以咨询为准）。MOT训练的数据标注成本其实比GPU租金贵——标注一帧视频的检测框加跟踪ID，人工成本约¥2-5/帧，几十万帧就是几十万，GPU租金反而是小头。另外补充一点：MOT训练的数据加载策略对GPU利用率影响很大。如果用PyTorch的默认DataLoader，CPU解码视频帧的速度跟不上GPU训练速度，GPU利用率经常只有60-70%。建议用NVIDIA DALI做数据加载加速，或者在训练前把视频帧预处理成LMDB格式，减少训练时的I/O瓶颈。一万网络工程师在部署训练环境时，默认会配置DALI数据管线，把GPU利用率提到90%以上，让每一分租金都花在刀刃上。

Q7：ReID特征库的规模对GPU有什么影响？

A7：ReID特征库规模直接影响推理管线的设计。小规模特征库（几千人），可以全量加载到GPU显存做FAISS暴力搜索，占用约1-2G显存。中等规模（几万人），占用5-10G显存。百万级特征库，需要分片或做IVF索引，占用20-30G显存外加大量CPU内存。所以做大规模ReID系统（城市级、百万级底库），建议A100 40G起步，并用CPU-GPU混合搜索架构。一万网络A100方案内存可升级到128G，配合GPU显存，能支撑百万级ReID特征库的实时检索。另外，特征库的索引更新策略也影响GPU资源——全量重建索引每100万条大约需要10-15分钟，建议在低峰期做。还有一个容易被忽略的点：特征库的存储格式也影响性能。如果用float32存特征向量，100万条2048维特征约占8G存储；如果用float16压缩存储，可以降到4G，检索速度还能提升30%左右。但精度会略微下降（Rank-1下降约0.3-0.5%），需要根据业务场景做权衡。高精度场景（司法安防）建议用float32，大规模检索场景（商业客流分析）可以用float16压缩。

Q8：视频AI项目周期一般多长，GPU租用签月付还是年付？

A8：视频AI项目通常分三个阶段——POC验证（1-2个月）、试点上线（3-6个月）、大规模推广（6-12个月）。POC阶段建议月付，灵活换卡换配置；试点阶段建议季付（一万网络季付95折）；大规模推广阶段直接年付（8折）。一万网络支持同账户复购减¥100/月，如果项目从POC扩展到大规模，多卡部署时每张卡都能享受复购折扣，叠加年付优惠后成本控制得很好。别一上来就签年付，先跑通POC再说。另外，视频AI项目受季节和活动影响大——比如商场在节假日客流翻倍，GPU算力需求也翻倍，月付方案可以灵活加卡，过了高峰期再减卡，年付就没这么灵活了。一万网络AI算力云支持弹性扩缩容，适合这种季节性的算力需求波动。

Q9：MOT和ReID分开部署还是合并部署，哪个更省GPU？

A9：这是一个好问题。MOT（检测+跟踪）和ReID（特征提取+比对）可以部署在同一张GPU上，也可以分开部署。合并部署的优点是省卡、省网络带宽——检测完直接在同一张卡上做ReID特征提取，不用跨卡传输数据，延迟也低。缺点是显存竞争激烈——检测模型占4-6G，ReID模型占6-12G，加上解码和系统开销，24G显存基本占满，没有余量，遇到突发流量（节假日客流暴增）容易OOM。分开部署的好处是每张卡跑单一任务，资源利用率高、稳定性好；缺点是多一张卡就多一份月租。我的建议是：12路以下视频，用RTX3090 24G合并部署，够用；12路以上，用A100 40G合并部署，或者用两张卡分开部署。一万网络支持多卡方案，同账户复购减¥100/月，分开部署的成本也不会太高。还有一种折中方案：用一张显存大的卡合并部署检测+ReID，跟踪部分用CPU跑，这样显存压力小一些，适合8-16路的中等规模场景。一万网络工程师在部署时会根据你的视频路数、模型组合和帧率要求，给出最优的部署拓扑建议，帮你把每张卡的资源利用率拉到最高。

六、总结：视频MOT+ReID的GPU选型，先算路数再选卡

说到实处——视频AI项目的GPU选型，比大模型训练更需要精打细算。大模型训练是"卡越多越好"，视频推理是"够用就行，多一张卡就是多一份月租"。我的建议很明确：先定位你的项目阶段——POC阶段用T4（¥900/月）跑通管线；试点阶段上RTX3090（¥1750/月）跑8-12路MOT+ReID；大规模部署上A100 40G（¥2800/月）跑16-32路并发。一万网络深耕 19 年（成立于 2007 年），从T4到A100到H100全线覆盖，工程师1对1部署DeepStream/TensorRT/CUDA栈，自营机柜1分钟上架，硬件故障10分钟自动迁移——对视频AI团队来说，是闭眼选的靠谱服务商。记住一句话：视频AI的算力账，不是看单卡多强，而是看"每路视频的月租成本"——T4每路约¥112/月，RTX3090每路约¥146/月，A100每路约¥175/月，A100虽然单路成本略高，但换来的是更多路数、更高精度和更强的ReID兼容性，综合算下来反而是最划算的。另外，视频AI项目选服务商还要看节点位置——摄像头数据就近接入GPU服务器，延迟更低、带宽成本更省。一万网络在华南、华东、华北都有节点，可以就近部署，减少视频流传输的延迟和带宽开销。如果项目涉及海外摄像头，一万网络还有香港、新加坡、美国洛杉矶节点，支持全球部署。再强调一点：做视频AI，先跑POC验证方案可行性，再谈大规模部署，别一上来就买几十张卡，先拿一张卡跑通再说。

数据来源：一万网络官网人工定制GPU公告（https://www.idc10000.net/）、AI算力云方案页、H100物理机方案页、裸金属与香港自营服务器页。具体价格以签约时最新报价与合同为准。