Distribution Learnability and Robustness

Ben-David, Shai; Bie, Alex; Kamath, Gautam; Lechner, Tosca

统计学 > 机器学习

arXiv:2406.17814 (stat)

[提交于 2024年6月25日 ]

标题：分布可学习性与鲁棒性

标题： Distribution Learnability and Robustness

Authors:Shai Ben-David, Alex Bie, Gautam Kamath, Tosca Lechner

摘要：我们研究分布学习问题中可学习性与鲁棒（或无认知）可学习性之间的关系。我们表明，与其它学习设置（例如函数类的PAC学习）不同，概率分布类的可实现可学习性并不意味着其无认知可学习性。我们继续研究哪种类型的数据损坏会破坏分布类的可学习性，以及这种可学习性对什么情况是鲁棒的。我们表明，分布类的可实现可学习性意味着其仅对加法损坏具有鲁棒可学习性，但不对减法损坏具有鲁棒可学习性。我们还探讨了在压缩方案和差分隐私可学习性的背景下相关的含义。

摘要： We examine the relationship between learnability and robust (or agnostic) learnability for the problem of distribution learning. We show that, contrary to other learning settings (e.g., PAC learning of function classes), realizable learnability of a class of probability distributions does not imply its agnostic learnability. We go on to examine what type of data corruption can disrupt the learnability of a distribution class and what is such learnability robust against. We show that realizable learnability of a class of distributions implies its robust learnability with respect to only additive corruption, but not against subtractive corruption. We also explore related implications in the context of compression schemes and differentially private learnability.

评论：	在NeurIPS 2023
主题：	机器学习 (stat.ML) ; 数据结构与算法 (cs.DS); 信息论 (cs.IT); 机器学习 (cs.LG); 统计理论 (math.ST)
引用方式：	arXiv:2406.17814 [stat.ML]
	(或者 arXiv:2406.17814v1 [stat.ML] 对于此版本)
	https://doi.org/10.48550/arXiv.2406.17814

提交历史

来自： Gautam Kamath [查看电子邮件]
[v1] 星期二， 2024 年 6 月 25 日 05:09:54 UTC (49 KB)

统计学 > 机器学习

标题：分布可学习性与鲁棒性

标题： Distribution Learnability and Robustness

提交历史

获取论文：

参考文献与引用

收藏

文献和引用工具

与本文相关的代码，数据和媒体

演示

推荐器和搜索工具

arXivLabs：与社区合作伙伴的实验项目

统计学 > 机器学习

标题： 分布可学习性与鲁棒性 显示英文标题

标题： Distribution Learnability and Robustness

提交历史

获取论文：

参考文献与引用

BibTeX 格式的引用

收藏

文献和引用工具

与本文相关的代码，数据和媒体

演示

推荐器和搜索工具

arXivLabs：与社区合作伙伴的实验项目

标题：分布可学习性与鲁棒性