2026 年 11 月 4 日——端侧 AI 公司 Edge0 于 10 月 27 日发布开源语音合成模型 Audio8-TTS-Realistic:主模型参数量 601,159,424(约 0.6B,不含音频编解码器),在保留零样本声音克隆能力的基础上,将支持语言从预览版的 11 种扩展至 23 种,官方称新版重点提升了合成语音的拟真度与韵律自然度;该模型仓库已于 11 月 2 日更名为 Audio8-TTS-Realistic-Air,代码与 0.6B 权重均遵循 Apache 2.0 协议。
版本与语言覆盖
Audio8 TTS 是 Edge0 的紧凑型语音合成模型系列,主打零样本声音克隆。预览版 Preview 0.6b 于 7 月 28 日上架 Hugging Face,8 月 19 日系列还发布过更轻量的 0.1B 版本;技术报告于 10 月 10 日提交 arXiv。本次发布时间线如下:
| 时间 | 事件 |
|---|---|
| 2026 年 7 月 28 日 | Preview 0.6b 上架 Hugging Face(11 种语言) |
| 2026 年 8 月 19 日 | Audio8-TTS-0.1B 发布(中英文为主,含 ONNX INT8 端侧运行时) |
| 2026 年 10 月 10 日 | 技术报告提交 arXiv(编号 2610.14776) |
| 2026 年 10 月 27 日 | Realistic 0.6B 发布,预览版权重与文档保留 |
| 2026 年 11 月 2 日 | 仓库更名为 Audio8-TTS-Realistic-Air,社区 MLX、LiteRT 移植版同期上架 |
语言覆盖对照如下:
| 覆盖批次 | 语言 |
|---|---|
| Preview 支持(11 种) | 中文、粤语、英语、日语、韩语、法语、德语、西班牙语、意大利语、荷兰语、波兰语 |
| Realistic Air 新增(12 种) | 俄语、阿拉伯语、印地语、印尼语、马来语、葡萄牙语、芬兰语、挪威语、瑞典语、泰语、土耳其语、越南语 |
官方在模型卡中注明,各语言质量存在差异,基准测试覆盖范围与支持语言列表并不完全对应。
架构与训练方法
Audio8 TTS 采用借鉴 Fish Audio S2 Pro 的 DualAR 双自回归架构:慢速自回归分支(24 层、宽度 896、14 个注意力头、2 个 KV 头)逐帧预测语义 token,快速自回归分支(4 层)在其隐藏状态条件下并行输出该帧其余码本。第三方评测拆解指出,该配置与 Qwen2.5-0.5B 的结构参数一致。其余规格如下:
| 项目 | 规格 |
|---|---|
| 主模型参数量 | 601,159,424(不含编解码器) |
| 声学 token | 10 个码本,每码本 4096 条目 |
| 音频编解码器 | 44.1 kHz,每帧 2048 采样(约 21.5 帧/秒) |
| 上下文长度 | 2048 个文本/音频打包位置 |
| 推理接口 | Transformers(需 trust_remote_code=True) |
据 arXiv 技术报告,模型训练分三阶段:多语言监督微调;以词错率(WER)与说话人相似度(SIM)为奖励的 GRPO 强化学习;再由专门训练的拟真评论家(realism critic)引导的 GRPO。评论家挂在冻结的 WavLM-large 编码器上,据第三方拆解其评分头仅约 3M 参数,通过对比开源 TTS 输出与同句真人录音构建质量阶梯,并引入身份擦除损失防止评论家依赖生成器指纹、超过参考音频 1.35 倍时长则施加罚分,以封堵策略模型拉慢语速骗取低错误率等投机行为。官方称第三阶段训练仅使用中英文提示词,即带动其余 13 种语言的错误率与相似度同步改善(据第三方拆解引述,平均错误率从 22.53% 降至 20.77%,SIM 从 0.637 升至 0.679)。官方在技术报告中亦自述了该评论家的局限:只能给出相对排名、主要关注停顿时长,对声学底噪、电流嗡嗡声与声码器伪影并不敏感。
官方评测数据
官方模型卡给出的新旧版本对比(错误率为百分比越低越好,SIM 为 0 至 1 越高越好,均为未加权语言宏平均):
| 基准 | 覆盖 | Preview 错误率 | Realistic Air 错误率 | Preview SIM | Realistic Air SIM |
|---|---|---|---|---|---|
| Seed-TTS | 英语/中文 | 1.23% | 1.25% | 0.682 | 0.704 |
| CV3 | 8 种共有语言 | 4.80% | 4.56% | — | 0.663 |
| CV3 | 9 种核心语言 | — | 4.86% | — | 0.661 |
| MiniMax | 24 种评测语言 | — | 5.89% | — | 0.754 |
与更大参数量模型的参考对照(官方注明各家评测管线与文本归一化标准不同,属参考性对比而非严格同口径排名):
| 模型 | 参数量 | Seed-TTS 中英 | CV3(9 语言) | MiniMax(24 语言) |
|---|---|---|---|---|
| Audio8-TTS-Realistic-Air | 0.6B | 1.25% | 4.86% | 5.89% |
| Qwen3-TTS-12Hz-0.6B | 0.6B | 1.12% | — | — |
| Qwen3-TTS-1.7B | 1.7B | 1.01% | 7.73% | 27.41% |
| Higgs Audio v3 | 4B | 1.11% | 4.41% | 2.74% |
| Higgs Audio v2 | 4.7B | 1.17% | 4.49% | — |
| Fish S2 Pro | 4.6B | 1.32% | 4.49% | 4.40% |
| MOSS-TTS-v1.5 | 8.5B | 1.52% | 6.11% | 3.78% |
| CosyVoice3-1.5B | 1.5B | 1.67% | 6.89% | — |
| VoxCPM2 | 2.3B | 1.41% | 5.35% | — |
从该表看,其越级优势集中在 CV3 九语言基准(优于 Qwen3-TTS-1.7B、CosyVoice3-1.5B、VoxCPM2);在 MiniMax 24 语言基准上则落后于 Higgs Audio v3、MOSS-TTS-v1.5 与 Fish S2 Pro。截至 11 月 3 日,Realistic-Air 在 Hugging Face 上的下载数为 8090、点赞 265;MLX 社区 bf16 版与面向 Android 的 LiteRT 移植版已于 11 月 2 日上架。新浪财经报道称该模型曾在 Hugging Face TTS Arena 盲测投票中排名第一;该排名未见于官方模型卡与仓库文档,截至发稿未能从榜单页面直接核验。
已披露的性能局限
官方 Seed-TTS 明细显示,常规中文 CER 为 1.029%,但困难中文(Hard Chinese,考验生僻字、多音字等)CER 达 12.797%,且相比 Preview 的 11.510% 有所退步;英文 WER 1.464%,英文 SIM 0.663、中文 SIM 0.745。据第三方评测拆解(ic.work),该困难中文成绩明显落后于 CosyVoice3-1.5B(5.83%)、Qwen3-TTS-1.7B(6.76%)与 VoxCPM2(8.13%),在 MiniMax 24 语言测试中其粤语字错率高达 31.35%,为全场唯一超过 20% 的语种,主因被归结为普通话与粤语共享汉字词表带来的训练占比倾斜。
部署方式与开源许可
仓库代码与两个 0.6B 版本(Preview、Realistic Air)权重均采用 Apache 2.0 协议,0.1B 权重使用单独的模型许可。运行环境要求 Python 3.10 及以上、支持 CUDA 的 GPU,依赖 torch 2.5 以上与 transformers 4.57 以上;官方在 NVIDIA H20 上以 BF16 完成了加载与多语言生成冒烟测试。部分媒体报道的「INT4 量化后在 Apple M2 CPU 上约 1.1 GB 内存运行」实为前代 Preview 0.6b 的 ONNX INT4 实测数据,Realistic Air 目前没有 ONNX 导出版本;据 ic.work 引述,前代 ONNX INT4 路径还存在长段中文默认采样早停截断、贪婪解码陷入死循环等仓库 Issue 反馈。除单机推理与命令行工具外,仓库提供监督微调(SFT)指南,并附带 SGLang Omni 部署适配器,支持分页注意力、动态批处理与 OpenAI 兼容的语音接口;官方在 Hugging Face Spaces 上提供基于 ZeroGPU 的在线 Playground 与试听页面。
评论