计算机科学 > 机器学习
[提交于 2023年9月1日
]
标题: 持续学习者的新型度量标准
标题: New metrics for analyzing continual learners
摘要: 深度神经网络在从固定类别集合中独立同分布的数据上进行训练时表现出色。 然而,在现实场景中,可能希望在连续的数据流上训练模型,其中多个分类任务依次出现。 这种场景称为持续学习(CL),对标准学习算法提出了挑战,这些算法在学习新任务的同时难以保持对旧任务的知识。 这种稳定性和可塑性的权衡仍是CL的核心问题,已经提出了多种度量来分别准确测量稳定性和可塑性。 然而,没有一种度量考虑了分类任务难度的增加,这会导致任何模型的性能下降。 从这个角度看,我们分析了当前度量的一些局限性,并确定了设置引起的遗忘的存在。 因此,我们提出了考虑任务难度增加的新度量。 通过在基准数据集上的实验,我们证明了所提出的度量可以为持续学习环境中模型实现的稳定性-可塑性权衡提供新的见解。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.