Caffe何时复制数据？

Question

Caffe何时复制数据？

8

 // Assuming that data are on the CPU initially, and we have a blob.
 const Dtype* foo;
 Dtype* bar;
 foo = blob.gpu_data(); // data copied cpu->gpu.
 foo = blob.cpu_data(); // no data copied since both have up-to-date contents.
 bar = blob.mutable_gpu_data(); // no data copied.
 // ... some operations ...
 bar = blob.mutable_gpu_data(); // no data copied when we are still on GPU.
 foo = blob.cpu_data(); // data copied gpu->cpu, since the gpu side has modified the data
foo = blob.gpu_data(); // no data copied since both have up-to-date contents
//1
bar = blob.mutable_cpu_data(); // still no data copied.
bar = blob.mutable_gpu_data(); // data copied cpu->gpu.
bar = blob.mutable_cpu_data(); // data copied gpu->cpu

为什么最后两行要复制数据？GPU和CPU难道不都有最新的内容吗？

http://caffe.berkeleyvision.org/tutorial/net_layer_blob.html

- user678392

1个回答

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- Anoop K. Prabhu · Accepted Answer

.gpu_data和.cpu_data 在数据仅作为输入，且不会被算法修改的情况下使用。 .mutable_*在运行算法时会更新数据本身。

每当调用数据时，它会检查前一个语句是否是可变函数调用，以及是否使用相同的处理器（GPU或CPU）。如果使用相同的处理器，则无需复制数据。如果使用其他处理器，则有可能在先前的.mutable_*调用中更新了数据，因此需要进行数据复制。

编辑1 如果前一条指令是“可变的”，则在当前指令位于不同处理器上时，需要在当前指令之前完成数据复制。

除了特殊的初始条件，即GPU内存中根本没有数据，因此在*_gpu_data()调用之前将发生数据复制，否则不会发生数据复制。