CUDA编程指南指出:“带宽是性能的最重要限制因素之一。几乎所有代码更改都应在考虑其如何影响带宽的情况下进行。” 它继续计算理论带宽,这是每秒数百GB的数量级。我不明白读/写全局内存的字节数量如何反映内核优化的效果。
如果我的内核在共享内存和/或寄存器中存储的数据上进行密集计算,并且只有一个读取开始时和从全局内存写出的结束,那么有效带宽肯定会很小,而内核本身可能非常高效。
请问有人能进一步解释一下这种情况下的带宽吗?
谢谢。
如果我的内核在共享内存和/或寄存器中存储的数据上进行密集计算,并且只有一个读取开始时和从全局内存写出的结束,那么有效带宽肯定会很小,而内核本身可能非常高效。
请问有人能进一步解释一下这种情况下的带宽吗?
谢谢。