计算机科学 > 分布式、并行与集群计算
[提交于 2025年8月20日
]
标题: 利用硬件感知计算的混合精度矩阵乘法:一种基于块的方法
标题: Leveraging Hardware-Aware Computation in Mixed-Precision Matrix Multiply: A Tile-Centric Approach
摘要: 通用矩阵乘法(GEMM)是支撑高性能计算(HPC)和人工智能(AI)广泛应用的关键操作。 针对低精度算术优化的硬件的出现,需要重新评估数值算法,以利用混合精度计算,实现性能和能效的提升。 本研究引入了一个自适应混合精度GEMM框架,可在细粒度的块/ tile级别支持不同的精度格式。 我们利用PaRSEC运行时系统在各种架构上平衡工作负载。 该性能在基于ARM CPU的Fugaku超级计算机、基于Nvidia GPU的A100 DGX和基于AMD GPU的Frontier超级计算机上表现良好。 本研究旨在通过弥合算法进步与硬件创新之间的差距,提高计算效率和准确性,推动各种应用的变革性进展。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.