CUDA代码的高效策略

1.高效公式
最大化计算强度：
Math/Memory: 数学计算量/每个线程的内存，最大化的就是要么使他的计算量变大，要么使每个线程用的内存变少。要使每个线程使用的内存变少还有两种方法：第一是尽可能的把数据存放在本地内存，或共享内存，不仅仅是全局内存。第二呢，是通过一些技巧，把全局内存做一个合并，这样会加快读取线程的速度。要么增大计算量，要么减少每个线程的内存。要么每个线程读取的数据量变少，要么每个线程读取的速度变快，而又有两种方法，第一是转变内存位置，第二是对读取慢的位置做优化。

1.2 合并全局内存

之所以叫合并全局内存，是因为我们赞成的方式是第一种。

好的代码：

```cpp
__global__ void kernel(float *g){
	float a = 0.00;
	int i = threadIdx.x;
	g[i] = a; //write data
	a = g[i]; // read data
}

一般的

```cpp
__global__ void kernel(float *g){
	float a = 0.00;
	int i = threadIdx.x;
	g[2*i] = a; //write data
	a = g[2*i]; // read data
}

避免线程发散
线程发散：同一个线程块中的线程执行不同内容的代码，如图

导致发散的例子：kernel中做条件判断

__global__ void kernel(){
	if(/* condition */){
	  // some code
	}else{
	   // some other code
	}
}

2. 循环长度不一

代码

__global__ void kernel(){
// pre loop code
for(int i=0;i<threadIdx.x;++i){
	// loop code
}
	// post loop code
}