计算机科学 > 机器学习
[提交于 2025年8月20日
]
标题: 压缩扩散模型
标题: Squeezed Diffusion Models
摘要: 扩散模型通常注入各向同性的高斯噪声,而忽略数据中的结构。 受量子压缩态根据海森堡不确定性原理重新分布不确定性的启发,我们引入了压缩扩散模型(SDM),该模型在训练分布的主要成分上各向异性地缩放噪声。 由于在物理学中压缩可以提高信噪比,我们假设以数据相关的方式缩放噪声可以更好地帮助扩散模型学习重要的数据特征。 我们研究了两种配置:(i) 海森堡扩散模型,在主轴上补偿缩放的同时在正交方向上进行反向缩放,以及 (ii) 标准SDM变体,仅缩放主轴。 出人意料的是,在CIFAR-10/100和CelebA-64上,轻微的反压缩——即在主轴上增加方差——始终能将FID提升高达15%,并将精确率-召回率前沿推向更高的召回率。 我们的结果表明,简单的、数据感知的噪声塑造可以在不改变架构的情况下带来稳健的生成优势。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.