计算机科学 > 人工智能
[提交于 2025年8月11日
]
标题: HGMF:一种分层高斯混合框架,用于模型上下文协议内的可扩展工具调用
标题: HGMF: A Hierarchical Gaussian Mixture Framework for Scalable Tool Invocation within the Model Context Protocol
摘要: 调用外部工具使大型语言模型(LLMs)能够执行复杂的真实任务,但从大型分层结构的库中选择正确的工具仍然是一个重大挑战。 LLMs 有限的上下文窗口和无关选项的噪声常常导致选择准确性低和计算成本高。 为了解决这个问题,我们提出了分层高斯混合框架(HGMF),这是一种用于可扩展工具调用的概率剪枝方法。 HGMF 首先将用户查询和所有工具描述映射到一个统一的语义空间。 该框架然后分为两个阶段:它使用高斯混合模型(GMM)对服务器进行聚类,并根据查询的可能性进行过滤。 随后,它对所选服务器相关的工具应用相同的基于 GMM 的聚类和过滤。 这一分层过程生成一个紧凑且高相关性的候选集,简化了 LLM 的最终选择任务。 在公共数据集上的实验表明,HGMF 显著提高了工具选择的准确性,同时减少了推理延迟,证实了该框架在大规模工具库中的可扩展性和有效性。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.