定義
並行計算機是由多個處理單元或處理器組成的計算機系統，這些處理單元或處理器之間通過互連網路相互通信和協作，能快速、高效地求解大型複雜問題。並行計算機是相對串列計算機而言的。
串列計算機或稱為順序計算機只有單個處理機，按順序工作方式逐一順序的執行程式中的指令。
串列處理機是由系統各個部件順序地處理數據的計算機。串列處理機主要由中央處理器(即CPU，用來執行程式)、存儲器(用來保存程式和數據)以及輸入輸出系統(即I/O系統，用作與外界互動和後援存儲器)等組成。
串列處理機習慣採用循環和疊代算法，這樣可以縮短程式長度，節省程式所占的存儲空間量，簡化編程，但是這些算法往往很不適合於多處理機並行，因為它會導致大量的相關，採用直接解法有時反倒能揭示更多的並行性。
特點
操作速度是串列系統的潛在不足。一般，要構成小型、廉價的硬體系統，需要採用專用結構，即要在通用性與性能之間採取一種折中的方案。一種重要途徑是探討串列系統中所具有的潛在能力。
串列系統可提供解決實際問題的辦法。它們相對便宜，且易於編程。圖像間的變換性能相對於並行系統要遜色，但這並不經常影響整個系統性能。雖然並行性具有吸引力，但是，串列方法仍然具有許多優點，不應當低估。事實上，任何一台實際系統都涉及到某些串列和某些並行，故我們要對並行系統進行定義。實際上，串列系統通常是指各硬體單元都涉及到處理各個數據的系統。流水線處理機與多處理機都屬於串列系統。
在某種意義上說，某些圖像處理操作存在固有的並行性，即同樣的運算規則必須套用到參與運算的各個數據，並且與數據處理的順序無關。與並行操作相反，某些圖像處理操作具有固有的串列性，即數據的處理順序是重要的。便如搜尋、檢測與分類。某種意義上說，搜尋可能涉及到目標計算，或者從近似位置的知識開始尋求具有某些圖像特徵的精確位置。整幅圖像的分類或圖像中目標的分類可能涉及到一系列的測度和利用一個順序的決策。
常用算法
循環算法
循環算法雖然簡單，但它契合計算機運算速度快的特點，讓計算機去完成枯燥重複的計算，正好發揮了計算機的優勢。循環算法也是其他許多算法的基礎。循環算法設計的基本過程如下：
（1）觀察問題，找出循環的規律
（2）算法設計中，可以將複雜的問題分解為多個小問題，分別解決，最后綜合在一起。可以採用兩種策略：①由內到外：先將每次循環過程中執行的語句序列設計好，然後外邊套上循環結構；②由外到內：先設計好循環結構，後設計循環體內的語句序列。
疊代算法
疊代算法(itcration)也稱“輾轉法...是一種不斷用變數的舊值遞推出新值的解決問題的方法。疊代算法一般用於數值計算。疊代法應該是早已熟悉的算法策略，程式設計語言課程中所學的累加、累乘都是疊代算法策略的基礎套用。
利用疊代算法策略求解問題，設汁工作主要有3步：
（1）確定疊代模型
根據問題描述，分析得m前一個(或幾個)值與其下一個值的疊代關係數學模型。當然這樣的疊代關係，最終會疊代出求解的目標。
確定疊代模型是解決疊代問題的關鍵。
（2）建立疊代關係式
遞推數學模型一般是帶下標的字母，算法設計中要將其轉化為”循環不變式”——疊代關係式。疊代關係式就是一個直接或間接地不斷由舊值遞推m新值的表達式。存儲新值的變數稱為疊代變數。
疊代關係式的建立是疊代算法設計的主要工作。
（3）對疊代過程進行控制
確定在什麼時候結束疊代過程，是設計疊代算法時必須考慮的問題。
疊代過程的控制通常可分為兩種情況：一種是已知或可以計算m來所需疊代次數，這時可以構建一個固定次數的循環來實現對疊代過程的控制。另一種是所需的疊代次數無法確定，需要分析出疊代過程的結束條件，甚至於要考慮有可能得不到目標解(疊代不收斂)的情況，避免出現疊代討程的死循環。
組成
中央處理器
當用計算機解決某個問題時，我們首先必須為它編寫程式。程式是一個指令序列，這個序列明確告訴計算機應該執行什麼操作，在什麼地方找到用來操作的數據。一旦把程式裝入記憶體儲器，就可以由計算部件來自動完成取指令和執行指令的任務。專門用來完成此項工作的計算機部件稱為中央處理機，通常簡稱CPU。
CPU對整個計算機系統的運行是極其重要的，它具有如下四方面的基本功能：
（1）指令控制：程式的順序控制，稱為指令控制。由於程式是一個指令序列，這些指令的相互順序不能任意顛倒，必須嚴格按程式規定的順序進行，因此，保證計算機按順序執行程式是CPU的首要任務。
（2）操作控制：一條指令的功能往往是由若干個操作信號的組合來實現的，因此，CPU管理並產生由記憶體取出的每條指令的操作信號，把各種操作信號送往相應的部件，從而控制這些部件按指令的要求進行動作。
（3）時間控制：對各種操作實施時間上的定時，稱為時間控制。因為在計算機中，各種指令的操作信號均受到時間的嚴格定時。另一方面，一條指令的整個執行過程也受到時間的嚴格定時。只有這樣，計算機才能有條不紊地自動工作。
（4）數據加工：所謂數據加工，就是對數據進行算術運算和邏輯運算處理。完成數據的加工處:理，是CPU的根本任務。因為，原始信息只有經過加工處理後才能對人們有用。
CPU是計算機系統中最重要的硬體，可以說是整個計算機的大腦。CPU是控制並執行指令的部件，該部件不僅要與計算機的其他功能部件進行信息交換，還要控制它們的操作。CPU的基本功能是讀取並執行指令，它通常包含運算器和控制器兩大部分。運算器實現指令中的算術和邏輯運算，是計算機運算的核心。控制器負責控制程式運行的流程，包括取指令、維護CPU狀態、CPU與記憶體的互動等。
存儲器
計算機主存儲器是計算機的重要組成部分。存儲系統的優劣，特別是它的存取速度和存取容量關係著整個計算機系統的優劣。存儲器是電子計算機重要組成部分之一。它具有某種“記憶能力，可用來存儲與保存程式、數據等信息，而且能根據指令提供這些數據。
存儲器評價的主要標準是大容量、高速度和低價格。
存儲器的容量是指存儲器能容納的二進制信息總量．通常用位元組表示。常用的單位有位元組B(Byte)，千位元組KB(Kilo Byte)，兆位元組MB(Mega Byte)，吉位元組GB(Giga Byte)。
存儲器的速度可用存取時問、存儲周期和存儲器頻寬來描述。
(1)存取時間是從存儲器接到讀命令起，到信息被送到存儲器輸出端匯流排上所需的時間。存取時間取決於存儲介質的物理特性及使用的讀出機構的特性。
(2)存儲周期是存儲器進行一次完整的讀寫操作所需要的全部時間，也就是存儲器進行連續兩次瀆寫操作所允許的最短問隔時問。存儲周期往往比存取時間大，因為存儲器瀲或寫操作後。總會有一段恢復內部狀態的恢復時間。存儲周期的單位常採用us或ns(毫微秒)。
(3)存儲器的頻寬表示存儲器單位時間內可讀寫的位元組數(或二進制的位數)，義稱為數據傳輸率。
存儲器的價格可用總價格或每位價格來表示。存儲器的成本包括存儲單元本身的成本和完成讀寫操作必需的外圍電路的成本。
輸入輸出系統
輸入輸出(I/O)系統是計算機系統中的主機與外部進行通信的系統。它由外圍設備和輸入輸出控制系統兩部分組成，是計算機系統的重要組成部分。它的作用是把計算機系統外的數據輸入到計算機主機中，並將計算機主機處理後的數據輸出到計算機系統外。I/O系統是一個硬體、軟體結合的系統，硬體部分包括外圍設備及其與主機的接口，軟體部分則包括接口的初始化程式及具體的輸入輸出操作程式等。
