CPU和GPU

这篇blog讲解了GPU的入门知识。首先为何要用GPU，因为CPU的clock time已经几乎不能再增加，否则就要消耗更多power，需要更强大的降温处理。此外，一个高端CPU只有8个核，而一个普通GPU有96个核！CPU注重的是latency，就是完成一个任务需要的时间。GPU更注重throughput，就是单位时间内完成的工作量。

CUDA是NAVIDA构建的framework，可以在CPU或者GPU上面运行。在GPU上运行的程序又叫kernel，虽然看着很像serial program，但实际上是在多个GPU核上面运行的。通常一个CUDA程序包含一下几步：给GPU分配内存，将CPU上的数据传输到GPU上，在GPU上运行程序，将结果从GPU传回CPU。