计算机科学 > 人工智能
[提交于 2025年8月11日
]
标题: 分解与构建:基于技能的视觉-语言导航智能体混合
标题: Breaking Down and Building Up: Mixture of Skill-Based Vision-and-Language Navigation Agents
摘要: 视觉与语言导航(VLN)在使代理理解自然语言指令并导航复杂三维环境方面提出了重大挑战。 尽管最近的进展是由大规模预训练和数据增强推动的,但当前方法在推广到未见过的场景时仍然存在困难,尤其是在需要复杂的空间和时间推理时。 在本工作中,我们提出了SkillNav,一种模块化框架,该框架将结构化的基于技能的推理引入基于Transformer的VLN代理。 我们的方法将导航分解为一组可解释的基本技能(例如,垂直移动、区域和区域识别、停止和暂停),每个技能由一个专用代理处理。 然后,我们引入了一个新的零样本视觉-语言模型(VLM)路由器,该路由器通过将子目标与视觉观察和历史动作对齐,在每个时间步动态选择最合适的代理。 SkillNav在R2R基准上实现了新的最先进性能,并展示了对包含新指令风格和未见过环境的GSA-R2R基准的强大泛化能力。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.