我对如何在CUDA中使用共享内存和全局内存感到困惑，特别是以下方面：
cudaMalloc()时，我们会得到一个指向共享内存还是全局内存的指针？将变量存储在共享内存中是否与通过内核传递其地址相同？即，而不是
__global__ void kernel() {
__shared__ int i;
foo(i);
}
为什么不等价地执行
__global__ void kernel(int *i_ptr) {
foo(*i_ptr);
}
int main() {
int *i_ptr;
cudaMalloc(&i_ptr, sizeof(int));
kernel<<<blocks,threads>>>(i_ptr);
}
关于全局内存和共享内存的特定速度问题，已经有很多问题，但没有一个涵盖实践中何时使用其中任何一个的概述。
非常感谢。
当我们使用cudaMalloc()时
为了在GPU上存储可以传回主机的数据，我们需要分配内存，这个内存一直存在直到被释放。全局内存就像堆空间，它在应用程序关闭或被释放之前一直存在，对任何有指向该内存区域的线程和块都是可见的。共享内存可以被认为是带有生命周期的堆栈空间，只有在同一个块内的线程才能看到它，生命周期在内核块完成之前。因此，cudaMalloc用于在全局内存中分配空间。
我们会得到指向共享内存还是全局内存的指针？
您将获得指向全局内存中驻留的内存地址的指针。
全局内存位于主机还是设备上？
全局内存位于设备上。但是，有一种使用主机内存作为“全局”内存的方法，称为映射内存，请参见：CUDA零复制内存注意事项。但是，由于总线传输速度限制，速度可能较慢。
它们是否有大小限制？
全局内存的大小因卡而异，从无到32GB（V100）不等。而共享内存取决于计算能力。任何计算能力低于2.x的都有每个多处理器最大16KB的共享内存（其中多处理器的数量因卡而异）。而具有2.x及更高计算能力的卡至少有48KB的共享内存每个多处理器。
请参见https://en.wikipedia.org/wiki/CUDA#Version_features_and_specifications。
如果您使用映射内存，则唯一限制是主机机器内存的大小。
哪个访问速度更快？
从原始数字来看，共享内存要快得多（共享内存~1.7TB/s，全局内存~XXXGB/s）。但是，为了做任何事情，您需要用某些东西填充共享内存，通常从全局内存中提取。如果对全局内存的内存访问是串行的（非随机）且字长较大，则可以实现接近数百GB/s的理论极限速度，具体取决于卡和其内存接口。
使用共享内存的情况是在块内线程中，重复使用已从全局内存中提取或评估的数据。因此，您可以将其放入共享内存中供同一块内的其他线程查看和重用，而不是再次从全局内存中提取。
它也经常用作临时缓冲区，以减少寄存器压力，影响可以同时运行的工作组数量。
在共享内存中存储变量是否与通过内核传递其地址相同？
不是。如果您传递任何东西的地址，它总是指向全局内存的地址。从主机上，您无法设置共享内存，除非将其作为常量传递给内核，在这种情况下，内核将共享内存设置为该常量，或者将其作为指向全局内存的地址传递，内核需要时会从中提取。
__global__ void MyKernel(...)
{
extern __shared__ float shMem[];
}
int bytes = 98304; //96 KB
cudaFuncSetAttribute(MyKernel, cudaFuncAttributeMaxDynamicSharedMemorySize, bytes);
MyKernel<<<gridSize, blockSize, bytes>>>(...);
不是，绝对不是。您提出的代码将是使用原地转移全局内存的情况。共享内存无法在内核之间传递，因为共享块的内容仅在线程的执行块中定义。在共享内存中存储变量是否与通过内核传递其地址相同？