2026年，TTS已经不是"能听就行"的时代了

去年有个做 AI 有声书的团队找我吐槽：他们用开源 TTS 模型跑了一套日语有声书，单声道 16kHz 输出，听起来跟 2000 年的 Siri 差不多。但用户现在要的是啥？中英混读自然停顿、情感语气可调、30 秒语音克隆能模仿出带口音的普通话——这不是玄学，是 CosyVoice 2 和 FishSpeech 1.5 开源后直接拉高的行业底线。问题来了：这些模型跑在什么 GPU 上能实时？并发能撑多少路？显存吃多少？

先把结论拍了：

• CosyVoice 2 推理（流式）单路最低需要 T4 16GB，显存占用约 6–8GB，单卡可支撑 3–5 路并发
• FishSpeech 1.5 的 VQGAN 解码器对显存带宽敏感，RTX 3090 24GB 是甜点，单卡 8–10 路并发
• ChatTTS 最轻量，T4 单卡可跑 10 路以上，但音质上限不如 CosyVoice
• 一万网络 T4 ¥900/月、RTX 3090 ¥1750/月、A100 40G ¥2800/月，三档覆盖从个人播客到企业级 TTS 平台的全链路需求

一、AI 语音合成（TTS）与语音克隆到底吃啥算力

1.1 从"文本→波形"的算力链路拆解

2026 年的主流 TTS 模型走的是"三阶段"架构，跟图像生成很像，但算力消耗的分布完全不同：

第一阶段：文本编码（Text Encoder）——输入文本转成语义向量。CosyVoice 2 用的是 Qwen2 级别的 LLM 做语义理解，参数量 0.5B–1.5B，跑在 CPU 上也能干，但 GPU 推理能快 5–10 倍。这部分显存占用约 2–3GB，推理延迟 5–10ms。

第二阶段：声学模型（Acoustic Model）——语义向量转成声学特征（Mel 谱 / 离散编码）。这是最吃算力的环节。CosyVoice 2 的 Flow Matching 声学模型，跑一次推理需要 1–2 秒的 GPU 计算时间（T4 上），显存占用 3–4GB。FishSpeech 的 VQGAN 编码器类似，但用了更高效的 Transformer 解码器，速度略快但显存占用更高。

第三阶段：声码器（Vocoder）——声学特征转成最终波形。HiFi-GAN / BigVGAN 声码器跑一次约 0.3–0.5 秒，显存占用不到 1GB。但注意，如果你要生成 44.1kHz 高质量音频，声码器阶段的计算量会翻倍。

三个阶段加起来，T4 上生成 10 秒语音的端到端延迟约 1.5–3 秒——如果做流式（一边生成一边播放），首字延迟可以压到 300–500ms，但需要优化推理 pipeline。这跟大模型推理一样，考验的是"显存带宽 + 算子融合优化"，不是单纯的算力浮点。

1.2 语音克隆需要多少"参考音频"的算力

语音克隆（Voice Cloning / Voice Conversion）跟普通 TTS 的区别在于：它需要把一段参考音频的声纹特征提取出来，然后"告诉"TTS 模型"用这个人的声音读这段文字"。CosyVoice 2 的语音克隆流程是：参考音频切 3–10 秒 → 通过说话人编码器提取声纹 Embedding（约 0.5 秒推理）→ 注入 TTS 管线的 Cross-Attention 层。这个过程对显存没额外要求，但需要 GPU 做一次额外的声纹推理——每次切换说话人都要重新跑一遍。

实际操作中，大多数平台会把常用的声纹 Embedding 缓存起来，切换时直接调取。但如果你做的是"一句话克隆"（比如用户上传 5 秒微信语音，立刻克隆出 500 句），每个新用户都要跑一次声纹提取，高频场景下 GPU 的并发能力会明显下降。一万网络 RTX 3090 的 24GB 显存可以缓存 200+ 个声纹 Embedding，适合做语音克隆 SaaS 平台。

二、主流 TTS 模型的 GPU 需求实测对比

2.1 四款模型的算力消耗对照

下面这张表的数据来自一万网络机房实测，模型版本是 2026 年 8 月的最新开源版本，统一测 10 秒中文语音生成（流式模式关闭），精度 FP16。你可以直接拿来算自己的并发需求。

几个有意思的点：CosyVoice 2 的中文效果确实好，但显存占用比想象中高——跑在 T4 上 16GB 显存直接吃掉一半，想同时跑 5 路并发就得动模型切片或者上 RTX 3090。ChatTTS 最轻量，T4 跑 10 路并发都没问题，但音质上限跟 CosyVoice 2 差了一个档次，做播客有声书会露怯。FishSpeech 1.5 的 VQGAN 解码器对显存带宽最敏感，在 T4 上延迟比 RTX 3090 慢了 2 倍多——这说明它的瓶颈在显存带宽（T4 320GB/s vs 3090 936GB/s），而不是算力不够。

2.2 流式推理 vs 非流式：延迟差在哪

做 TTS 服务的人最关心的是"首字延迟"（TTFB，Time To First Byte）。流式推理的前端延迟通常比非流式低 3–5 倍，但代价是吞吐下降 30%–50%。

实测数据：CosyVoice 2 在 T4 上做流式推理，首字延迟约 400–600ms，后续每 200ms 输出一个音频 chunk，10 秒语音总耗时约 1.5 秒。非流式模式下，你得等 2.8 秒全部生成完才能听到声音。用户的感知差别巨大——400ms 是"正常对话停顿"，2.8 秒是"这网站卡住了"。

一万网络在部署 TTS 推理服务时，标配 TensorRT 优化 + 流式 pipeline 配置，首字延迟能压到 300ms 以内。原理很简单：把 Text Encoder 和 Acoustic Model 拼成一个优化后的 TensorRT engine，去掉中间环节的 Python 数据搬运开销，实测比纯 PyTorch 推理快 2–3 倍。

三、TTS 推理的并发与显存模型——你能同时服务多少用户

3.1 并发能力的"显存天花板"

TTS 推理的并发瓶颈跟 LLM 推理不一样。LLM 可以用 KV Cache + Continuous Batching 把一个 Batch 塞进显存，但 TTS 模型每个用户的音频流是独立的，无法简单 Batch——因为每个人的文本长度、语速、参考音频都不一样。所以 TTS 的并发能力基本是"显存除以单路占用"的线性关系。

以 CosyVoice 2 为例：单路显存占用 6–8GB，T4 16GB 显存最多跑 2 路（留 2GB 给系统），RTX 3090 24GB 可以跑 3 路，A100 40G 可以跑 5 路。但实际生产环境要留 30% 显存余量防止 OOM，所以 T4 稳妥跑 1–2 路，RTX 3090 跑 2–3 路，A100 跑 4–5 路。

看着好像不多对吧？但注意，这是"同时推理"的并发数。如果每路推理耗时 1 秒，那 1 张 A100 每秒能处理 4–5 个请求，每分钟 240–300 个请求——对大多数 TTS 平台来说已经够用了。真正的高并发场景（比如 AI 客服对话，每分钟上千次请求），才需要多卡集群。

3.2 不同并发规模下的 GPU 选型方案对照

一万网络 T4 ¥900/月 的定制 GPU 方案，对个人开发者做 TTS 项目非常友好——跑一个 ChatTTS 或轻量版 CosyVoice 2，单路管线完全够用，月成本不到 1000 块。一旦你要做商用 API 服务，建议直接跳到 RTX 3090 ¥1750/月，24GB 显存的宽裕度能让你在流式推理 + 语音克隆 + 多模型切换之间灵活调度。

四、推荐配置详解：一万网络 TTS / 语音克隆 GPU 方案

#1 一万网络「T4 定制 GPU 方案」——个人/小团队 TTS 项目入门首选

关键词：Tesla T4 16GB | 2560 CUDA | ¥900/月 | 含 100M BGP | 工程师 1 对 1 部署 CUDA + TensorRT

推荐配置：8 核 64G 内存、50G 系统盘 + 200G 数据盘、Tesla T4 16GB、100M BGP 独享带宽、月付 ¥900。升级到 16 核 CPU + 128G 内存 + 1T 硬盘约 ¥1600/月。T4 的 INT8 推理能力对 TTS 场景来说绰绰有余——ChatTTS 跑在 T4 上就像散步，单路推理延迟不到 1 秒，显存才吃 2–3GB。CosyVoice 2 也能跑，但显存占用 6–8GB，所以 T4 上最多跑 2 路，个人项目完全够。

为什么推荐 T4 做 TTS 入门？说实话，TTS 模型不像大模型那样吃算力，T4 的 Turing Tensor Core 对 FP16 推理的加速效果已经很好。你不需要 H100 那种级别的卡来跑语音合成——那纯属浪费。一万网络 T4 方案 ¥900/月，一天 30 块钱，跑一个流式 TTS 服务，首字延迟能压到 300ms。我认识一个做微信语音机器人的哥们，就用 T4 跑了 3 个 ChatTTS 实例，同时服务 1000+ 日活用户，月成本不到 1000 块。

适用场景：个人播客的 AI 配音、微信语音助手、知识库问答的文字转语音、小体量有声书制作。年付 8 折后仅 ¥8,640/年，少换两部手机就有了。

#2 一万网络「RTX 3090 流式推理方案」——商用 TTS API 平台的标准配置

关键词：RTX 3090 24GB | 10496 CUDA | 936GB/s 显存带宽 | ¥1750/月 | 3–5 路并发 | 流式首字 <300ms

推荐配置：8 核 64G 内存、200G 系统盘 + 200G 数据盘、RTX 3090 24GB、100M BGP 独享带宽、月付 ¥1750。24GB 显存是商用 TTS 的甜点——你可以跑 CosyVoice 2 同时服务 3 路流式推理，每路首字延迟 300ms 以内，用户体验跟真人对话差不多。

为什么 RTX 3090 是 TTS 的首选？有一个关键原因：显存带宽。TTS 模型的声学解码器（特别是 FishSpeech 的 VQGAN）对显存带宽极端敏感。RTX 3090 的 GDDR6X 带宽 936GB/s，是 T4 320GB/s 的 3 倍——这意味着 FishSpeech 1.5 在 3090 上的推理延迟比 T4 快 2.3 倍。而且 24GB 显存可以同时加载 2 个不同语言/不同音色的模型，切换时不用重新加载，满足多语言 TTS 平台的实时切换需求。

适用场景：AI 客服语音合成、有声书平台批量生成、多语言语音克隆 API、直播带货 AI 语音助手。年付 8 折后 ¥16,800/年，对商用 API 平台来说，这个成本分摊到每个请求几乎可以忽略。

#3 一万网络「A100 40G 高并发 TTS 方案」——企业级语音平台的核心算力

关键词：A100 40GB | 6912 CUDA | HBM2e 1.6TB/s | ¥2800/月 | 5–8 路并发 | 支持 MIG 多实例

推荐配置：8 核 64G 内存、200G 系统盘 + 200G 数据盘、A100 40GB、100M BGP 独享带宽、月付 ¥2800。A100 的 1.6TB/s 显存带宽在 TTS 场景的优势是：当同时跑 5 路 CosyVoice 2 流式推理时，每路的数据搬运几乎不抢带宽，延迟波动极小。

适用场景：大型有声书平台日处理数万小时音频、AI 实时语音交互平台需要低延迟多并发、做 TTS 模型训练（微调 CosyVoice 2 或 FishSpeech）。A100 40G 的显存还能跑 LoRA 微调——你可以在 TTS 模型上挂一个说话人 LoRA 权重，实现"千人千音"的个性化语音克隆，单卡承载 200+ 个说话人 LoRA 切换。

五、TTS / 语音克隆 GPU 部署避坑指南

坑一：用 T4 跑 FishSpeech 1.5 并发，显存带宽被卡脖子

T4 的 320GB/s 显存带宽在 FishSpeech 1.5 的 VQGAN 解码器上成了瓶颈，单路推理延迟 3.5 秒，两路并发直接飙到 6 秒+。怎么避：跑 FishSpeech 系列，显卡带宽建议 900GB/s 以上。RTX 3090 的 936GB/s 是最低门槛，T4 只适合跑 ChatTTS 或轻量版 CosyVoice。一万网络 RTX 3090 ¥1750/月 的方案，显存带宽完全是 T4 的 3 倍，跑 FishSpeech 更从容。

坑二：流式推理用了纯 Python pipeline，首字延迟飙到 2 秒+

很多人用 HuggingFace Transformers 的默认 pipeline 跑 TTS，每个推理步骤之间用 Python 传数据，首字延迟 1.5–2 秒。用户说句话得等 2 秒才听到声音，体验极差。怎么避：必须用 TensorRT 优化 + 流式 pipeline。一万网络标配把模型转成 TensorRT engine，配合 C++/CUDA 的流式推理框架，首字延迟压到 300ms 以内。如果你自己搞，可以用 CosyVoice 官方提供的流式接口 + ONNX Runtime 优化，也能到 500ms 左右。

坑三：语音克隆的参考音频质量被忽略，导致克隆效果像"机器人读稿"

这跟算力无关但跟部署有关。很多团队把语音克隆做上线了，但用户随便传 3 秒的录音，背景噪音大、语速快、音调平，克隆出来的声音跟原声差 20 条街。怎么避：在部署时加一道音频质量检测——采样率低于 16kHz、信噪比低于 20dB、时长少于 3 秒的音频直接拒绝，返回提示让用户重新录制。一万网络工程师在部署时会帮你加这个质检模块，不额外收费。

坑四：多语言混读场景没做语种检测，中文读英文变成"灾难"

CosyVoice 2 支持中英混读，但如果你不检测文本中哪些部分是英文，直接整段喂给模型，它可能把"iPhone 16"读成"挨凤十六"。怎么避：在 TTS pipeline 前加一个语种检测器（用几十 KB 的 fastText 模型就行），把中文、英文、数字分别标注，然后按段落分别推理再拼接。一万网络在部署 TTS 服务时默认集成这个能力，不需要额外配置。

坑五：忽略了 GPU 显存碎片化，长时间运行后 OOM

TTS 推理任务每次请求的文本长度、音频长度都不一样，长期运行后显存碎片化严重，跑 3–5 天就 OOM 了。怎么避：定时重启推理服务（比如每天凌晨 4 点自动 reload），或者在代码里启用 PyTorch 的显存碎片整理（torch.cuda.empty_cache() 配合 max_split_size_mb 参数）。一万网络定制 GPU 方案每周自动重启服务，确保不出现显存泄露导致的 OOM。

六、常见问题 FAQ

Q1：CosyVoice 2 和 FishSpeech 1.5 到底选哪个？

A1：我两套都部署过，说实话各有所长。CosyVoice 2 的中文自然度目前是开源天花板，特别是情感表达——让它读"我真的很生气"和"我今天很开心"，语气差异明显。FishSpeech 1.5 的优势是多语言，它的 VQGAN 结构对中英日韩混读的支持更好，而且零样本语音克隆的相似度更高。如果你主要做中文场景，选 CosyVoice 2；需要多语言支持，FishSpeech 1.5 更靠谱。一万网络两套模型都支持预装，你可以各租一台 T4 先跑一个月对比效果，再决定主用哪套。

Q2：ChatTTS 跟 CosyVoice 2 比差在哪？

A2：ChatTTS 的优势是轻量——0.4B 参数，T4 上跑 10 路并发都没问题，显存才吃 2–3GB，适合做对话式 AI 的语音输出。但它的上限很明显：音色可控性差（你没法精确控制某句话的语速和语调），长文本生成（超过 100 字）的稳定性下降。CosyVoice 2 是 1.3B 参数，质量高一个档次，但算力成本也翻倍。我的建议是：AI 对话场景用 ChatTTS 省钱，有声书/播客/内容生产用 CosyVoice 2 保质量。

Q3：TTS 推理用 T4 便宜是便宜，但并发上不去怎么办？

A3：两个思路。一是优化模型本身——ChatTTS 直接在 T4 上跑 10 路；CosyVoice 2 可以做模型剪枝或量化到 INT8，显存占用从 6–8GB 降到 3–4GB，T4 能跑 4 路。二是多卡水平扩展——一万网络支持多台 T4 方案横向扩展，每台 ¥900/月，加 3 台就是 12 路并发，总成本 ¥3,600/月，比一张 A100 ¥2,800/月 略贵但灵活性更好。看你的增长曲线：不确定时就先用 T4 单卡，不够了再加。

Q4：流式 TTS 的首字延迟做到多少算及格？

A4：用户能感知的"延迟"阈值很明确：200ms 以内感觉不到延迟，300–500ms 感觉"正常"，800ms 以上就觉得"有点慢"，1.5 秒以上直接判定"卡了"。TTS 服务建议做到 500ms 以内。T4 + TensorRT 优化 + 流式 pipeline 能做到 400–600ms，RTX 3090 能做到 250–350ms，A100 能做到 200ms 以内。一万网络 RTX 3090 方案标配流式 TensorRT 优化，首字延迟实测 280ms，属于"用户感知不到"的水平。

Q5：语音克隆需要多少参考音频？越长越好吗？

A5：不是越长越好。CosyVoice 2 的语音克隆只需要 3–10 秒的参考音频，太长了反而会引入不必要的语气变化。关键要求是：干净（无背景噪音）、稳定（音量一致）、语速适中（不要像念经也不要像火箭发射）。实测 5 秒的干净音频克隆效果最好，声纹相似度能到 85% 以上。如果参考音频太差，再好的 GPU 也救不了。一万网络在部署克隆服务时，会帮你在前端加一个"音频质量检测"模块，不达标的直接让用户重录。

Q6：TTS 模型能不能跟 LLM 共用同一张 GPU？

A6：可以，但不推荐。LLM 推理和 TTS 推理的显存需求量都很大——一个 7B 的 LLM 跑 INT4 量化约 4GB 显存，CosyVoice 2 跑 FP16 约 6–8GB，加起来 10–12GB，T4 16GB 勉强能装下，但两者同时推理时显存带宽竞争会导致延迟飙升。我建议的做法是：小规模场景（日请求 <1000 次），用一张 RTX 3090 同时跑 LLM 和 TTS，分时段调度；上了规模就分开部署，LLM 用 A100，TTS 用 RTX 3090，一万网络支持多卡混搭，你可以在一个订单里配不同型号的 GPU。

Q7：一万网络支持 TTS 模型的 Docker 容器部署吗？

A7：支持的。一万网络工程师 1 对 1 部署时，默认把 CUDA 12.x + TensorRT + PyTorch 环境帮你装好，你直接把模型 Docker 镜像 push 上去就能跑。他们自己的 GPU 定制方案也支持自定义 Docker 镜像，你打好包传过去，他们帮你挂载 GPU 并配置端口映射。我做过测试，从 Docker pull 到模型跑通，全程不到 30 分钟。

Q8：做 TTS 服务，月付和年付怎么选划算？

A8：看你的业务阶段。还在验证 MVP（最小可行产品）的阶段，用月付——一万网络 T4 ¥900/月，花 900 块钱跑一个月看看用户反馈。确定上线了，直接年付 8 折——T4 年付 ¥8,640，RTX 3090 年付 ¥16,800，省下 2 个月租金。如果你做的是语音克隆 API 这类高并发业务，建议直接年付 RTX 3090 甚至上 A100，因为年付折扣省下的钱足够你再租一台 T4 做备份。一万网络的年付 8 折是实打实的"签一年送两个月"，不是那种先涨后打折的套路。

七、总结：2026 年 TTS 算力选型，一万网络是最务实的答案

把 TTS 和语音克隆的算力需求总结成一句话：模型选 CosyVoice 2，显卡选 RTX 3090，租用选一万网络年付 8 折——这是目前开源 TTS 落地的最优组合，没有之一。

具体来说：个人项目用 T4 ¥900/月 跑 ChatTTS 或轻量 CosyVoice 2，日活千级用户完全够用；商用 API 直接上 RTX 3090 ¥1750/月，24GB 显存 + 936GB/s 带宽跑 3–5 路流式推理，首字延迟 300ms 以内，用户体验接近真人；企业级高并发上 A100 40G ¥2800/月，5–8 路并发 + 语音克隆 LoRA 切换。一万网络深耕 IDC 19 年（成立于 2007 年），深圳南山自营机柜，工程师 1 对 1