计算机科学 > 信息检索
[提交于 2025年8月5日
(v1)
,最后修订 2025年8月6日 (此版本, v2)]
标题: 低精度检索的可靠评估协议
标题: Reliable Evaluation Protocol for Low-Precision Retrieval
摘要: 降低模型参数和计算的数值精度被广泛采用以提高检索系统的效率。 然而,在低精度下计算查询与文档之间的相关性得分时,由于粒度减少,我们观察到虚假的平局。 这会导致基于平局解决的结果具有较高的变异性,使评估变得不可靠。 为了解决这个问题,我们提出了一种更稳健的检索评估协议,旨在减少得分变化。 它包括:(1) 高精度评分(HPS),将最终评分步骤提升到更高精度,以最小的计算成本解决平局候选者;以及 (2) 有平局意识的检索指标(TRM),它们报告期望得分、范围和偏差,以量化平局候选者的顺序不确定性。 我们的实验在两个检索数据集上测试了多个模型和三种评分函数,以证明HPS显著减少了由平局引起的不稳定性,而TRM准确恢复了期望的指标值。 这种组合使得更低精度的检索评估系统更加一致和可靠。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.