GPU計算有哪些特點？

CPU和GPU都是具有運算能力的芯片，CPU更像“通才”——指令運算(執(zhí)行)為重+數(shù)值運算，GPU更像“專才”——圖形類數(shù)值計算為核心。在不同類型的運算方面的速度也就決定了它們的能力——“擅長和不擅長”。芯片的速度主要取決于三個方面：微架構(gòu)，主頻和IPC(每個時鐘周期執(zhí)行的指令數(shù))。

微架構(gòu)

CPU微架構(gòu)的設計是面向指令執(zhí)行高效率而設計的，因而CPU是計算機中設計最復雜的芯片。和GPU相比，CPU核心的重復設計部分不多，這種復雜性不能僅以晶體管的多寡來衡量，這種復雜性來自于實現(xiàn)：如程序分支預測，推測執(zhí)行，多重嵌套分支執(zhí)行，并行執(zhí)行時候的指令相關(guān)性和數(shù)據(jù)相關(guān)性，多核協(xié)同處理時候的數(shù)據(jù)一致性等等復雜邏輯。

GPU其實是由硬件實現(xiàn)的一組圖形函數(shù)的集合，這些函數(shù)主要用于繪制各種圖形所需要的運算。這些和像素，光影處理，3D坐標變換等相關(guān)的運算由GPU硬件加速來實現(xiàn)。圖形運算的特點是大量同類型數(shù)據(jù)的密集運算——如圖形數(shù)據(jù)的矩陣運算，GPU的微架構(gòu)就是面向適合于矩陣類型的數(shù)值計算而設計的，大量重復設計的計算單元，這類計算可以分成眾多獨立的數(shù)值計算——大量數(shù)值運算的線程，而且數(shù)據(jù)之間沒有像程序執(zhí)行的那種邏輯關(guān)聯(lián)性。

因此從微架構(gòu)上看，CPU擅長的是像操作系統(tǒng)、系統(tǒng)軟件和通用應用程序這類擁有復雜指令調(diào)度、循環(huán)、分支、邏輯判斷以及執(zhí)行等的程序任務。它的并行優(yōu)勢是程序執(zhí)行層面的，程序邏輯的復雜度也限定了程序執(zhí)行的指令并行性，上百個并行程序執(zhí)行的線程基本看不到。GPU擅長的是圖形類的或者是非圖形類的高度并行數(shù)值計算，GPU可以容納上千個沒有邏輯關(guān)系的數(shù)值計算線程，它的優(yōu)勢是無邏輯關(guān)系數(shù)據(jù)的并行計算。

主頻

GPU執(zhí)行每個數(shù)值計算的速度并沒有比CPU快，從目前主流CPU和GPU的主頻就可以看出了，CPU的主頻都超過了2GHz，甚至3GHz，而GPU的主頻最高還不到2GHz，主流的也就1GHz。所以GPU在執(zhí)行少量線程的數(shù)值計算時速度并不能超過CPU。

目前GPU數(shù)值計算的優(yōu)勢主要是浮點運算，它執(zhí)行浮點運算快是靠大量并行，但是這種數(shù)值運算的并行性在面對程序的邏輯執(zhí)行時毫無用處。

IPC（每個時鐘周期執(zhí)行的指令數(shù)）

這個方面，CPU和GPU無法比較，因為GPU大多數(shù)指令都是面向數(shù)值計算的，少量的控制指令也無法被操作系統(tǒng)和軟件直接使用。如果比較數(shù)據(jù)指令的IPC，GPU顯然要高過CPU，因為并行的原因。但是，如果比較控制指令的IPC，自然是CPU的要高的多。原因很簡單，CPU著重的是指令執(zhí)行的并行性。

另外，目前有些GPU也能夠支持比較復雜的控制指令，比如條件轉(zhuǎn)移、分支、循環(huán)和子程序調(diào)用等，但是GPU程序控制這方面的增加，和支持操作系統(tǒng)所需要的能力CPU相比還是天壤之別，而且指令執(zhí)行的效率也無法和CPU相提并論。

總結(jié)一下：

CPU更適合處理邏輯控制密集的計算任務，而GPU適合處理數(shù)據(jù)密集的計算任務。并且由于現(xiàn)代CPU的發(fā)展，使得CPU與計算機主存的交換速度要遠遠大于GPU與計算機主存的交換速度，因此GPU更適合處理SIMD（SingleInstruction MultiData，單數(shù)據(jù)多指令）的運算，即將數(shù)據(jù)放到顯存中進行多次計算的計算任務。

目前比較流行CPU+GPU的協(xié)同計算模型，在這個模型中，CPU與CPU協(xié)同工作，各司其職。CPU負責進行邏輯性強的事物處理和串行計算，GPU則專注于執(zhí)行高度線程化的并行處理任務。CPU、GPU各自擁有相互獨立的存儲器地址空間：主機端的內(nèi)存和設備端的顯存。