登录 | 注册

意见反馈

TensorCore中LDMatrix指令的优势解析

举报

您好！确实，我们可以用warp为单位通过wmma::load指令，将矩阵从显存或共享内存加载到Tensor Core的fragment中。同时，在明确线程与fragment元素的映射关系后，借助PTX中的wmma.mma.sync.aligned指令，能够以单个线程为单位加载对应矩阵元素。那么问题来了：既然我们已经具备了以warp和线程为单位的矩阵加载方式，为何还需要ldmatrix这种加载手段？这是否意味着ldmatrix在某些场景下具有独特的优势或更高的效率？

手机

Moto

Moto MB886

讨论回答 (4)

共享内存以32位为单位访问。当从共享内存转到寄存器且需要数据转置时，可以直接使用`lds.b16`指令加载数据，但每个线程会浪费16位。
例如，两个fp16数据A和A对应一个32位的bank。如果线程R0需要按列优先顺序获取数据（即A和A），仅使用LDS时，需要两条`LDS.B16`指令，每次都会浪费16位（因为线程0不需要同一个bank中的A和A，而线程1实际上需要）。
`ldmatrix`则是在输出缓冲区针对转置需求重新排列数据，从而优化这一过程。

回复

慧雅惜芹　

这个指令最大的好处是简化了开发者的代码逻辑不用手动优化数据排布GPU会自动处理好相当于帮你做了很多琐碎的事从而专注于算法本身

回复

通过LDMatrix指令可以直接把数据从共享内存搬到矩阵寄存器里这样一来就避免了反复读取提升了性能特别在大规模矩阵运算时效果明显

回复

黄昏湖畔的野猪　

LDMatrix指令能让数据加载更高效简单说就是减少了数据搬运的时间让计算更快

回复

现金悬赏最高 100 元！快来 APP 回答此问题

1元起，底价买苹果华为新品手机去购买

精品应用推荐

新浪微博

天气通

淘宝特价版

淘宝特价版

UC浏览器

相关问题

Android 8.0系统什么时候正式推出？

2211 浏览 51 回答

为什么部分 iOS 用户不喜欢用 Android 系统?

1.3万浏览 37 回答

moto X50 Ultra

6454 浏览 24 回答

摩托罗拉S50 Neo

1.4万浏览 24 回答

Android劫持病毒是怎么回事？

1451 浏览 19 回答

相关产品

Moto MB886（ATRIX HD）

停产

8.2 12人评分

扩展阅读

OPPO Find X8s系列即将登场，带你提前看看ColorOS 15的新功能

评论 4

OPPO Find X8s系列即将登场，带你提前看看ColorOS 15的新功能

三星Galaxy S25评测：小屏旗舰实力升级，语聊视界开启AI交互新时代

评论 8

三星Galaxy S25评测：小屏旗舰实力升级，语聊视界开启AI交互新时代

台积电亚利桑那州晶圆生产成本曝光 iPhone15创历史新低价

评论 0

台积电亚利桑那州晶圆生产成本曝光 iPhone15创历史新低价

曝iPhone 18将采用台积电的2纳米 iPhone15价比百元机让路

评论 0

曝iPhone 18将采用台积电的2纳米 iPhone15价比百元机让路

苹果新机全新黑科技泄露 iPhone15价比百元机果粉按打买

评论 0

苹果新机全新黑科技泄露 iPhone15价比百元机果粉按打买

热门问题

最新cpu天梯图

21.6万浏览 5 回答

最新cpu天梯图

电子发票代码在哪里看

5983 浏览 6 回答

电子发票代码在哪里看

手机在哪里登录192.168.1.1设定页面？

9462 浏览 7 回答

手机在哪里登录192.168.1.1设定页面？

免费韩国漫画在线观看的地址有么?

8068 浏览 5 回答

免费韩国漫画在线观看的地址有么?

求推荐一款笔记本。工科研究生用，便于随身携带。平时做科研，处理数据，查阅文献。不玩网游和单机，至多玩棋牌游戏和影音。喜欢摄影，需要修图。附加:纠结要不要带数字键盘区。预算最多8000。尽量便宜些。

1.2万浏览 6 回答

求推荐一款笔记本。工科研究生用，便于随身携带。平时做科研，处理数据，查阅文献。不玩网游和单机，至多玩棋牌游戏和影音。喜欢摄影，需要修图。附加:纠结要不要带数字键盘区。预算最多8000。尽量便宜些。

荣耀Magic7 Pro

9866 浏览 1 回答

荣耀Magic7 Pro

黑中华香烟一盒价钱?

745 浏览 5 回答

黑中华香烟一盒价钱?

平凡的荣耀总裁父亲替女儿出气是第几集

8250 浏览 5 回答

平凡的荣耀总裁父亲替女儿出气是第几集

怎么样在智能电视上安装电视直播软件

6727 浏览 4 回答

怎么样在智能电视上安装电视直播软件

今日头条总出现领红包字样怎么取消。

9479 浏览 5 回答

今日头条总出现领红包字样怎么取消。

最新问答

路上遇见的那些可爱小车，让你忍不住多看两眼

1609 浏览 17 回答

路上遇见的那些可爱小车，让你忍不住多看两眼

曲奇云盘停服，用户数据何去何从？

9617 浏览 5 回答

曲奇云盘停服，用户数据何去何从？

天津周末美食景点推荐

5367 浏览 7 回答

天津周末美食景点推荐

车主今日去验车，意外发现出厂车架号尾号竟是自己生日

5551 浏览 5 回答

车主今日去验车，意外发现出厂车架号尾号竟是自己生日

公司要求在员工个人电脑安装监控软件，是否合法？

7916 浏览 4 回答

公司要求在员工个人电脑安装监控软件，是否合法？

更多频道



频道导航

辅助工具