Question

CPU-GPU混合并行计算的实现

本人理工科研究生，以前接触过CUDA编程。提几个关于CPU-GPU混合计算比较入门的问题，但希望得到专业人士的解答：
1、理论层面：CPU-GPU混合并行，指的仅仅是由CPU分配任务，GPU完成计算；还是调用所有可能的CPU和GPU核心完成计算？
2、方法层面：已经完善的CPU并行程序（Fortran+MPI），能否在不重新编程的前提下，只加入必要的控制语句和必要的结构调整之后，编程混合并行的程序？
3、工具层面：集成CUDA的PGI Fortran编译器能否完成混合计算的编译？还是需要耦合其他的编译器？

Answer 1

CPU可以并行计算，传统的计算阵列也是用CPU组建的。现在的GPU计算是因为单个GPU的多核心，重复计算能力强，通过低投入的GPU计算阵列就可以达到以往大型CPU阵列并行系统的效率。CPU计算在通用计算上的价值更大。
比如说大量数据的重复运算就可以用并行计算的方式来进行，可利用GPU加速，而线性处理的时候GPU效率较低，此时CPU效率更高。
因此现在全球超级计算机前几名的机器都采用了混合架构，也就是CPU-GPU混合架构。

追问

感谢您专业的回答！您所说的混合架构是不是指用一个cpu负责任务分配和数据传递，大规模计算采用GPU完成，那如果我的cpu核数也较多，是否可以由CPU也承担一部分计算任务，充分利用计算资源呢？最近买了一本英特尔的释放多核性能的书正在学习。不知道Parallel Studio能否完成这种混合编译？是不是需要支持GPU架构的编译器比如PGI公司的Fortran才可以实现？