Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2306.01442

帮助 | 高级搜索

计算机科学 > 声音

arXiv:2306.01442 (cs)
[提交于 2023年6月2日 ]

标题: 通过建模残差多模态实现稳健的FastSpeech 2

标题: Towards Robust FastSpeech 2 by Modelling Residual Multimodality

Authors:Fabian Kögel, Bac Nguyen, Fabien Cardinaux
摘要: 基于FastSpeech 2的最新非自回归文本到语音(TTS)模型可以高效地合成高质量和自然的语音。然而,对于富有表现力的语音数据集,我们观察到特征性的音频失真。我们证明,这些伪影是由于使用均方误差(MSE)损失训练频谱图解码器时,对频谱图预测进行了过度平滑,从而引入到声码器重建中的。使用MSE损失的FastSpeech 2仅能学习训练分布的条件平均值,如果在所有条件信号之后分布仍然呈现多模态,则这些平均值可能远离自然样本。为缓解此问题,我们引入了TVC-GMM,这是一种三元链高斯分布的混合模型,用于建模残余多模态性。TVC-GMM减少了频谱图的平滑度,并通过客观和主观评估显示,特别是在富有表现力的数据集上,提高了感知音频质量。
摘要: State-of-the-art non-autoregressive text-to-speech (TTS) models based on FastSpeech 2 can efficiently synthesise high-fidelity and natural speech. For expressive speech datasets however, we observe characteristic audio distortions. We demonstrate that such artefacts are introduced to the vocoder reconstruction by over-smooth mel-spectrogram predictions, which are induced by the choice of mean-squared-error (MSE) loss for training the mel-spectrogram decoder. With MSE loss FastSpeech 2 is limited to learn conditional averages of the training distribution, which might not lie close to a natural sample if the distribution still appears multimodal after all conditioning signals. To alleviate this problem, we introduce TVC-GMM, a mixture model of Trivariate-Chain Gaussian distributions, to model the residual multimodality. TVC-GMM reduces spectrogram smoothness and improves perceptual audio quality in particular for expressive datasets as shown by both objective and subjective evaluation.
评论: 被INTERSPEECH 2023接受
主题: 声音 (cs.SD) ; 计算与语言 (cs.CL); 机器学习 (cs.LG); 音频与语音处理 (eess.AS)
引用方式: arXiv:2306.01442 [cs.SD]
  (或者 arXiv:2306.01442v1 [cs.SD] 对于此版本)
  https://doi.org/10.48550/arXiv.2306.01442
通过 DataCite 发表的 arXiv DOI
相关 DOI: https://doi.org/10.21437/Interspeech.2023-879
链接到相关资源的 DOI

提交历史

来自: Fabian Kögel [查看电子邮件]
[v1] 星期五, 2023 年 6 月 2 日 11:03:26 UTC (477 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
许可图标 查看许可
当前浏览上下文:
cs.SD
< 上一篇   |   下一篇 >
新的 | 最近的 | 2023-06
切换浏览方式为:
cs
cs.CL
cs.LG
eess
eess.AS

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号