并行計算技術與并行算法綜述

《并行計算技術與并行算法綜述》由會員上傳分享，免費在線閱讀，更多相關內容在教育資源-天天文庫。

1、并行計算技術與并行算法綜述‘胡峰胡保生西安交通大學,是大摘要并行處理是計算數(shù)學與新一代計算機科學相結合的產物型科學計算和工程試驗的支持工具。本文從并行處理的結構與分類、并行計算機系統(tǒng)與并行一算法、與同步并行算法、與同步異步并行算法、并行算法的構造原則與、,評價休系兒類常見科學問題的并行算法及并行處理的高級語言和應用軟件開發(fā)等幾個方,。面對并行處理技術及其發(fā)展現(xiàn)狀進行了比較全面系統(tǒng)的綜述關鍵詞并行處理并行機并行算法,并行計算與并行算法是計算數(shù)學與新一計算機結構已經發(fā)展到了盡頭未,。代計算機相結合的產物是大規(guī)?？茖W計算來的計算機結構應當是并行化的,、的理論基礎和支持工具。近二十年來以并行計算技

2、術并行算法當科學技術發(fā)展到本世紀六七十年代和并行計算機結果為核心的并行化技術、,受到了國際國內計算數(shù)學界后工程與科學研究領域中涌現(xiàn)出一系列規(guī)模巨大、時限要求嚴格的數(shù)值計算問題例計算機科學界乃至整個工程技術與科學界的。如,衛(wèi)星圖象數(shù)據的分析處理、數(shù)值天氣預廣泛重視年月美國國防部提出的一報、風洞試驗的數(shù)值分析與空氣動力模擬、核份旨在保持其國際技術領先地位的報告中明、、“”聚變等離子模擬量子化學計算大型計量經確地將并行處理列為項重大項目的第,,項日本政府則將并行技術與軟件工程和濟模型分析等等向傳統(tǒng)的手工計算和基,于,人工智能并列為重點發(fā)展的三大技術國內串行機計算技術提出了挑、戰(zhàn)。并行技術在航天氣

3、象和石油勘探等領域中,單處理器的機,既要受到也受到了極大的關注國家先后投巨資研制順序處理的限制,其電信號傳播速度又要受出了速度達億次以上的巨型陣列式并行處理到光速限制,而且所采用的超大規(guī)模集成機銀河號一和由臺一藕。器件本身的開關速度也有物理極限。合而成的銀河號一計算機因此,早期發(fā)展起來的以型計,并行處理的結構及分類算機為工具的串行處理技術其信號處理與數(shù)值計算速度越來越滯后于來自大型工程設并行處理,粗略地說,是將一項大的數(shù)據計的數(shù)值分析與科學計算的需要。為了克服處理與數(shù)值計算任務或任務的局部分裂成傳統(tǒng)的型計算機結構對提高為多個可相互獨立、同時進行的子任務,并通,運行速度的限制,從年代起人們就

4、開始過對這些子任務相互協(xié)調地運行和實現(xiàn)從而達到快速、高效地對給定問題求解的處理探索數(shù)值計算方法的并行化技術和計算結構。的并行化設計方法。甚至有人認為,方法并行處理通常涉及如下三個相互關聯(lián)收稿日期一。一二西安交通大學研究生院墓金一資助項目《電腦與信息技術》年第期的方面計算技術的并行化、數(shù)值算法的并行一,由臺改進型一緊密藕。,化和處理設備計算機結構的并行化合成的一日本日立公司生產的一,并行計算機的發(fā)展歷程巨型機公司生產的簇超并行計算機,的發(fā)展大體上可劃分為三個立體機等人倡導研制的,、,。,大的階段即前期年以前初期脈動陣列機等等這一階段美英和日本等和全盛期年以后。發(fā)達國家在巨型并行機研究上投入巨

5、大。等人年發(fā)表的《年月之后,公司又相繼推出,可以說是并行化、計算機》歷史上的一個重要了有個處理器的一個處理。。里程碑該文描敘了一個含又個處理單器的一和個處理器的一至,,元的維陣列它完全不同于以往串行機向此可以說并行處理機或巨型并行處理機的量流水線結構的計算機模型。不過,研究進入了迅速發(fā)展階段。年期間美國伊利諾伊大學和鮑勒公司并行算法的發(fā)展歷程研制的陣,列處理機一也是一個并行算法簡單地說就是適合在并行計,。。又陣列它并沒有完全實現(xiàn)這種結構盡管算機和向量計算機上求解問題的數(shù)值方法,《并行如此一陣列處理機的研制成功在算法結構》一文中將并“,仍不失為并行計算機發(fā)展史上的另一重要里行算法定義為多個并

6、發(fā)進程的集合這些進。,,程碑自此并行機從圖紙上走入工程分司并程同時并相互協(xié)作地進行運行處理從而達。?！毙袡C的研制進入了探索發(fā)展的初期到對給定問題的求解并行算法的研究最初年以前,并行機的研究大多數(shù)屬于可以追溯到年代,它與并行計算機的研制概念性研究范圍,真正生產出來并可投入實是同時進行的。用的并行機很少。較有影響的主要有一并行數(shù)值算法的發(fā)展大致可分成三個階,、一陣列處理機以及年期段預研期年以前同步并行算法成間控制數(shù)據公司研制的一熟期與異步并行算法實踐期年之后。流水線結構縱橫加工向量機。這三個階段與并行計算機發(fā)展的三個階段相,。,隨后年一向量機吻合主要原因是并行算法研究和開發(fā)離不在美國的國家實驗

7、室開作為支持性計算工具的并行處理機發(fā)展狀投入使用年研究公司推出的向況的制約。量,式并行處理機在實驗室運轉早期并行算法研究大多是建立在理想年第一臺由只個處理單元形成的化的并行機模型川之上的單指令多數(shù)據分布式陣列處理器模型機安同步并行計算。差分方程組與代數(shù)裝在倫敦瑪麗女皇學院。方程組的求解、向量計算、矩陣計算、偏微年以后,控制數(shù)據公司的一分方程的數(shù)值解、快速變換的算法,改進為一改進為實現(xiàn)技術等一直占據并行算法研究的重要位一,