电气工程与系统科学 > 图像与视频处理
[提交于 2025年8月25日
(v1)
,最后修订 2025年9月1日 (此版本, v2)]
标题: 基于提示的多模态语义通信用于多光谱图像分割
标题: Prompt-based Multimodal Semantic Communication for Multi-spectral Image Segmentation
摘要: 多模态语义通信因其能够提升下游任务性能而受到广泛关注。 此类系统中的一个关键挑战是有效融合不同模态的特征,这需要从每个模态中提取丰富且多样的语义表示。 为此,我们提出了ProMSC-MIS,一种基于提示的多光谱图像分割多模态语义通信系统。 具体而言,我们提出了一种预训练算法,其中来自一个模态的特征作为另一个模态的提示,引导单模态语义编码器学习多样且互补的语义表示。 我们进一步引入了一个语义融合模块,结合交叉注意力机制和挤压-激励(SE)网络以有效地融合跨模态特征。 仿真结果表明,ProMSC-MIS在各种信道-源压缩级别上显著优于基准方法,同时保持低计算复杂度和存储开销。 我们的方案在自动驾驶和夜间监控等应用中具有很大的潜力。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.