由： 喬納森·斯特里克蘭

　　計(jì)算能力都?xì)w結(jié)為處理器。

　　美聯(lián)社照片/杰伊·拉普雷特如果 計(jì)算機(jī) 是人類，那么它的 中央處理單元 (中央處理器)將是它的大腦。中央處理器是一個(gè) 微處理器 -- 芯片上的計(jì)算引擎。雖然現(xiàn)代 微處理器 很小，它們也很強(qiáng)大。他們每秒可以解釋數(shù)百萬條指令。即便如此，仍有一些計(jì)算問題非常復(fù)雜，以至于強(qiáng)大的微處理器需要數(shù)年才能解決。

　　計(jì)算機(jī)科學(xué)家使用不同的方法來解決這個(gè)問題。一種潛在的方法是推動(dòng)更強(qiáng)大的微處理器。通常這意味著找到適合更多的方法 晶體管 在微處理器芯片上。計(jì)算機(jī)工程師已經(jīng)在構(gòu)建只有幾十個(gè)晶體管的微處理器 納米 寬。納米有多小?它是十億分之一米。紅細(xì)胞的直徑為2，500納米 - 現(xiàn)代晶體管的寬度只是該尺寸的一小部分。

　　構(gòu)建更強(qiáng)大的微處理器需要密集而昂貴的生產(chǎn)過程。即使有更強(qiáng)大的微處理器，一些計(jì)算問題也需要數(shù)年才能解決。部分由于這些因素，計(jì)算機(jī)科學(xué)家有時(shí)會(huì)使用不同的方法： 并行處理.

　　通常，并行處理意味著至少兩個(gè)微處理器處理整個(gè)任務(wù)的一部分。這個(gè)概念非常簡單：計(jì)算機(jī)科學(xué)家使用專門為該任務(wù)設(shè)計(jì)的特殊軟件將復(fù)雜問題劃分為多個(gè)組成部分。然后，他或她將每個(gè)組件部件分配給專用處理器。每個(gè)處理器都解決其整體計(jì)算問題的一部分。該軟件重新組合數(shù)據(jù)以得出原始復(fù)雜問題的最終結(jié)論。

　　這是一種高科技的說法，如果可以分擔(dān)負(fù)載，則更容易完成工作。您可以將負(fù)載分配給位于同一臺(tái)計(jì)算機(jī)中的不同處理器，也可以將多臺(tái)計(jì)算機(jī)聯(lián)網(wǎng)并在所有計(jì)算機(jī)之間分配負(fù)載。有幾種方法可以實(shí)現(xiàn)相同的目標(biāo)。

　　并行處理有哪些不同的方法?在下一節(jié)中找出答案。

　　并行處理方法

　　要理解并行處理，我們需要查看四種基本的編程模型。計(jì)算機(jī)科學(xué)家根據(jù)兩個(gè)因素定義這些模型：數(shù)量 指令流 和數(shù)量 數(shù)據(jù)流 計(jì)算機(jī)處理。指令流是 算法.算法只是旨在解決特定問題的一系列步驟。數(shù)據(jù)流是從計(jì)算機(jī)內(nèi)存中提取的信息，用作算法的輸入值。處理器將數(shù)據(jù)流中的值插入到指令流中的算法中。然后，它啟動(dòng)操作以獲取結(jié)果。

　　單指令，單數(shù)據(jù) (西斯德) 計(jì)算機(jī) 有一個(gè)處理器一次使用一個(gè)數(shù)據(jù)源處理一種算法。計(jì)算機(jī)按順序處理和處理每個(gè)任務(wù)，因此有時(shí)人們使用”順序“來描述 SISD 計(jì)算機(jī)。它們無法自行執(zhí)行并行處理。

　　多指令，單數(shù)據(jù) (誤檢失誤) 計(jì)算機(jī)具有多個(gè)處理器。每個(gè)處理器使用不同的算法，但使用相同的共享輸入數(shù)據(jù)。MISD計(jì)算機(jī)可以同時(shí)使用幾種不同的操作來分析同一組數(shù)據(jù)。操作數(shù)取決于處理器數(shù)。MISD計(jì)算機(jī)的實(shí)際例子并不多，部分原因是MISD計(jì)算機(jī)可以計(jì)算的問題不常見且專業(yè)。

　　單指令，多數(shù)據(jù) (單程) 計(jì)算機(jī)具有多個(gè)遵循同一組指令的處理器，但每個(gè)處理器在這些指令中輸入不同的數(shù)據(jù)。SIMD 計(jì)算機(jī)通過相同的算法運(yùn)行不同的數(shù)據(jù)。這對(duì)于基于相同條件分析大塊數(shù)據(jù)非常有用。許多復(fù)雜的計(jì)算問題不適合這個(gè)模型。

　　多指令，多數(shù)據(jù) (MIMD) 計(jì)算機(jī)具有多個(gè)處理器，每個(gè)處理器都能夠獨(dú)立于其他處理器接受自己的指令流。每個(gè)處理器還從單獨(dú)的數(shù)據(jù)流中提取數(shù)據(jù)。MIMD 計(jì)算機(jī)可以同時(shí)執(zhí)行多個(gè)不同的進(jìn)程。MIMD 計(jì)算機(jī)比 SIMD 或 MISD 計(jì)算機(jī)更靈活，但創(chuàng)建使這些計(jì)算機(jī)工作的復(fù)雜算法更加困難。 單個(gè)程序，多個(gè)數(shù)據(jù) (SPMD) 系統(tǒng)是 MIMD 的子集。SPMD 計(jì)算機(jī)的結(jié)構(gòu)類似于 MIMD，但它在所有處理器上運(yùn)行相同的指令集。

　　在這四種計(jì)算機(jī)中，SIMD 和 MIMD 計(jì)算機(jī)是并行處理系統(tǒng)中最常見的型號(hào)。雖然SISD計(jì)算機(jī)無法自行執(zhí)行并行處理，但可以將其中的幾個(gè)計(jì)算機(jī)聯(lián)網(wǎng)成一個(gè) 簇.每臺(tái)計(jì)算機(jī)的 CPU 都可以充當(dāng)較大并行系統(tǒng)中的處理器。這些計(jì)算機(jī)一起充當(dāng)一臺(tái)超級(jí)計(jì)算機(jī)。此技術(shù)有自己的名稱： 網(wǎng)格計(jì)算.像 MIMD 計(jì)算機(jī)一樣，一個(gè) 網(wǎng)格計(jì)算 使用正確的軟件，系統(tǒng)可以非常靈活。

　　并行處理系統(tǒng)如何解決計(jì)算問題?在下一節(jié)中找出答案。

　　意見分歧

　　有人說網(wǎng)格計(jì)算和并行處理是兩個(gè)不同的學(xué)科。其他人則在 高性能計(jì)算.一些人同意并行處理和網(wǎng)格計(jì)算是相似的，并且朝著 收斂，但目前仍然是不同的技術(shù)。

　　并行處理計(jì)算

　　單獨(dú)地，每個(gè)處理器的工作方式與任何其他處理器相同 微處理器.處理器按照 匯編語言.根據(jù)這些指令，處理器對(duì)從中提取的數(shù)據(jù)執(zhí)行數(shù)學(xué)運(yùn)算 電腦內(nèi)存.處理器還可以將數(shù)據(jù)移動(dòng)到不同的內(nèi)存位置。

　　在順序系統(tǒng)中，如果數(shù)據(jù)值因處理器操作而更改，則不是問題。加工商可以將新價(jià)值納入未來的流程并繼續(xù)前進(jìn)。在并行系統(tǒng)中，值的更改可能會(huì)出現(xiàn)問題。如果多個(gè)處理器處理相同的數(shù)據(jù)，但數(shù)據(jù)的值隨時(shí)間變化，則沖突的值可能會(huì)導(dǎo)致系統(tǒng)搖搖欲墜或崩潰。為了防止這種情況，許多并行處理系統(tǒng)使用某種形式的 消息 處理器之間。

　　處理器依靠軟件來發(fā)送和接收消息。該軟件允許處理器將信息傳達(dá)給其他處理器。通過交換消息，處理器可以調(diào)整數(shù)據(jù)值并保持彼此同步。這很重要，因?yàn)橐坏┧刑幚砥魍瓿善淙蝿?wù)，CPU 必須將所有單獨(dú)的解決方案重新組合成原始計(jì)算問題的整體解決方案。把它想象成一個(gè)拼圖——如果所有處理器保持同步，拼圖的各個(gè)部分就會(huì)無縫地組合在一起。如果處理器不同步，拼圖的各個(gè)部分可能根本不適合在一起。

　　有兩個(gè)主要因素會(huì)影響系統(tǒng)性能： 延遲 和 帶寬.延遲是指處理器將結(jié)果傳輸回系統(tǒng)所需的時(shí)間。如果處理器運(yùn)行算法所花費(fèi)的時(shí)間少于將結(jié)果信息傳輸回整個(gè)系統(tǒng)的時(shí)間，那就不好了。在這種情況下，順序 計(jì)算機(jī) 系統(tǒng)會(huì)更合適。帶寬是指處理器在特定時(shí)間內(nèi)可以傳輸多少數(shù)據(jù)。一個(gè)好的并行處理系統(tǒng)將同時(shí)具有低延遲和高帶寬。

　　有時(shí)，并行處理并不比順序計(jì)算快。如果計(jì)算機(jī)的 CPU 重新組裝所有單獨(dú)的并行處理器解決方案需要很長時(shí)間，則順序計(jì)算機(jī)可能是更好的選擇。隨著計(jì)算機(jī)科學(xué)家改進(jìn)并行處理技術(shù)和程序員編寫有效的軟件，這可能不再是問題。

　　要了解有關(guān)并行處理的更多信息，請點(diǎn)擊下一頁上的鏈接。

　　你在接待我嗎?

　　消息交換系統(tǒng)有時(shí)稱為 消息傳遞接口 (MPI).一個(gè)好的 MPI 只向需要知道共享數(shù)據(jù)價(jià)值的處理器發(fā)送消息。另一種方法是向系統(tǒng)中的每個(gè)處理器發(fā)送消息，這可能會(huì)降低系統(tǒng)性能。