Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2507.23568

帮助 | 高级搜索

计算机科学 > 机器学习

arXiv:2507.23568 (cs)
[提交于 2025年7月31日 ]

标题: 通过模拟退火优化特征子集选择

标题: Optimised Feature Subset Selection via Simulated Annealing

Authors:Fernando Martínez-García, Álvaro Rubio-García, Samuel Fernández-Lorenzo, Juan José García-Ripoll, Diego Porras
摘要: 我们引入了SA-FDR,一种用于$\ell_0$-范数特征选择的新算法,该算法将此任务视为一个组合优化问题,并通过使用模拟退火在特征子集空间中进行全局搜索来解决它。 优化过程由Fisher判别比引导,我们在分类任务中将其用作模型质量的计算效率较高的代理。 我们在包含多达数十万样本和数百个特征的数据集上进行了实验,结果表明 SA-FDR始终能选择更紧凑的特征子集,同时实现高预测准确性。 这种恢复信息丰富但最小特征集的能力源于其能够捕捉通常被贪心优化方法忽略的特征间依赖关系。 因此,SA-FDR为在高维设置中设计可解释模型提供了一个灵活且有效的解决方案,特别是在模型稀疏性、可解释性和性能至关重要的情况下。
摘要: We introduce SA-FDR, a novel algorithm for $\ell_0$-norm feature selection that considers this task as a combinatorial optimisation problem and solves it by using simulated annealing to perform a global search over the space of feature subsets. The optimisation is guided by the Fisher discriminant ratio, which we use as a computationally efficient proxy for model quality in classification tasks. Our experiments, conducted on datasets with up to hundreds of thousands of samples and hundreds of features, demonstrate that SA-FDR consistently selects more compact feature subsets while achieving a high predictive accuracy. This ability to recover informative yet minimal sets of features stems from its capacity to capture inter-feature dependencies often missed by greedy optimisation approaches. As a result, SA-FDR provides a flexible and effective solution for designing interpretable models in high-dimensional settings, particularly when model sparsity, interpretability, and performance are crucial.
评论: 12页,2图
主题: 机器学习 (cs.LG) ; 统计力学 (cond-mat.stat-mech); 机器学习 (stat.ML)
引用方式: arXiv:2507.23568 [cs.LG]
  (或者 arXiv:2507.23568v1 [cs.LG] 对于此版本)
  https://doi.org/10.48550/arXiv.2507.23568
通过 DataCite 发表的 arXiv DOI(待注册)

提交历史

来自: Fernando Martinez-Garcia PhD [查看电子邮件]
[v1] 星期四, 2025 年 7 月 31 日 13:57:38 UTC (265 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
cs.LG
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-07
切换浏览方式为:
cond-mat
cond-mat.stat-mech
cs
stat
stat.ML

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号