Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2309.00781v2

帮助 | 高级搜索

计算机科学 > 机器学习

arXiv:2309.00781v2 (cs)
[提交于 2023年9月2日 (v1) ,最后修订 2024年9月20日 (此版本, v2)]

标题: 结构化径向基函数网络:用于多假设预测的建模多样性

标题: Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction

Authors:Alejandro Rodriguez Dominguez, Muhammad Shahzad, Xia Hong
摘要: 多模态问题可以使用多个假设框架有效解决,但将这些框架整合到学习模型中面临着重大挑战。 本文介绍了一种结构化径向基函数网络(s-RBFN),作为回归的多个假设预测器的集成。 在预测器的训练过程中,首先根据其损失和真实标签形成中心 Voronoi 网格,从几何上表示多个假设的集合。 然后,训练好的预测器用于计算包含基函数中心和尺度的结构化数据集。 随后,使用这个结构化数据集训练一个径向基函数网络,以进行多个假设的预测。 s-RBFN 设计为在控制集成学习中的多样性的同时高效训练。 用于训练结构化集成模型的最小二乘方法为多个假设和结构化预测提供了闭式解。 在结构化数据集的形成过程中,采用了一个参数通过控制网格形状来避免模式崩溃。 该参数为 s-RBFN 提供了平衡多样性和泛化性能的机制。 在两个多变量预测数据集——空气质量预测和能源电器预测上的实证验证表明,与其它模型及其单一假设对应模型相比,结构化集成模型具有更优的泛化性能和计算效率。
摘要: Multi-modal problems can be effectively addressed using multiple hypothesis frameworks, but integrating these frameworks into learning models poses significant challenges. This paper introduces a Structured Radial Basis Function Network (s-RBFN) as an ensemble of multiple hypothesis predictors for regression. During the training of the predictors, first the centroidal Voronoi tessellations are formed based on their losses and the true labels, representing geometrically the set of multiple hypotheses. Then, the trained predictors are used to compute a structured dataset with their predictions, including centers and scales for the basis functions. A radial basis function network, with each basis function focused on a particular hypothesis, is subsequently trained using this structured dataset for multiple hypotheses prediction. The s-RBFN is designed to train efficiently while controlling diversity in ensemble learning parametrically. The least-squares approach for training the structured ensemble model provides a closed-form solution for multiple hypotheses and structured predictions. During the formation of the structured dataset, a parameter is employed to avoid mode collapse by controlling tessellation shapes. This parameter provides a mechanism to balance diversity and generalization performance for the s-RBFN. The empirical validation on two multivariate prediction datasets-air quality and energy appliance predictions-demonstrates the superior generalization performance and computational efficiency of the structured ensemble model compared to other models and their single-hypothesis counterparts.
评论: 被接受的论文用于AI-2024 第四十四届SGAI国际人工智能会议 伦敦剑桥 2024年12月17日至19日
主题: 机器学习 (cs.LG) ; 机器学习 (stat.ML)
MSC 类: 28-08, 28-11, 26B25, 26C15, 46A03, 46T12, 49Q05, 51-08, 60D05, 62J02, 62H10, 62-08, 68W25, 68T07, 68T20
ACM 类: I.2.1; I.2.6; I.5.1; I.6.4; I.6.5
引用方式: arXiv:2309.00781 [cs.LG]
  (或者 arXiv:2309.00781v2 [cs.LG] 对于此版本)
  https://doi.org/10.48550/arXiv.2309.00781
通过 DataCite 发表的 arXiv DOI
相关 DOI: https://doi.org/10.1007/978-3-031-77915-2_7
链接到相关资源的 DOI

提交历史

来自: Alejandro Rodriguez Dominguez [查看电子邮件]
[v1] 星期六, 2023 年 9 月 2 日 01:27:53 UTC (2,416 KB)
[v2] 星期五, 2024 年 9 月 20 日 10:11:26 UTC (1,583 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
cs.LG
< 上一篇   |   下一篇 >
新的 | 最近的 | 2023-09
切换浏览方式为:
cs
stat
stat.ML

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号