多核多線程ppt總結(jié)

《多核多線程ppt總結(jié)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫(kù)。

1、1.CPU核心數(shù)據(jù)共享與同步的通信機(jī)制：■總線共享Cache結(jié)構(gòu)：每個(gè)CPU內(nèi)核擁有共享的二級(jí)或三級(jí)Cache,用于保存比較常用的數(shù)據(jù)，并通過(guò)連接核心的總線進(jìn)行通信。■基于片上互連的結(jié)構(gòu)：每個(gè)CPU核心具有獨(dú)立的處理單元和Cache,各個(gè)CPU核心通過(guò)交叉開(kāi)關(guān)或片上網(wǎng)絡(luò)等方式連接在一起?！鼋o程序開(kāi)發(fā)者帶來(lái)的挑戰(zhàn)2.并行和并發(fā)□如果某個(gè)系統(tǒng)支持兩個(gè)或多個(gè)動(dòng)作（Action）同吋存在，那么這個(gè)系統(tǒng)就是一個(gè)并發(fā)系統(tǒng)□如果某個(gè)系統(tǒng)支持兩個(gè)或多個(gè)動(dòng)作同時(shí)執(zhí)行，那么這個(gè)系統(tǒng)就是一個(gè)并行系統(tǒng)□并發(fā)程序可同時(shí)擁有兩個(gè)或多個(gè)線程。如果程序能夠并行執(zhí)行，則一定是運(yùn)行在多核處理器上，每個(gè)

2、線程都將分配到一個(gè)獨(dú)立的處理器核上?！酢安⑿小备拍钍恰安l(fā)”概念的一個(gè)子集3.并行計(jì)算的目的、目標(biāo)并行計(jì)算技術(shù)的主要目的：■加速求解問(wèn)題的速度例如，給定某應(yīng)用，在單處理器上，串行執(zhí)行需要2周，這個(gè)速度對(duì)一般的應(yīng)用而言，是無(wú)法忍受的。于是，可以借助并行計(jì)算,使用100臺(tái)處理器，加速50倍，將執(zhí)行時(shí)間縮短為6.72個(gè)小時(shí)?！鎏岣咔蠼鈫?wèn)題的規(guī)模例如，在單處理器上，受內(nèi)存資源2GB的限制，只能計(jì)算10萬(wàn)個(gè)網(wǎng)格，但是，當(dāng)前數(shù)值模擬要求計(jì)算千萬(wàn)個(gè)網(wǎng)格。于是，也可以借助并行計(jì)算，使用100個(gè)處理器，將問(wèn)題求解規(guī)模線性地?cái)U(kuò)大100倍。并行計(jì)算的主要目標(biāo)：在并行機(jī)上，解決具有重大挑戰(zhàn)

3、性計(jì)算任務(wù)的科學(xué)、工程及商業(yè)計(jì)算問(wèn)題，滿(mǎn)足不斷增長(zhǎng)的應(yīng)用問(wèn)題對(duì)速度和內(nèi)存資源的需求。4.并行計(jì)算的主要研究?jī)?nèi)容大致可分為四個(gè)方面：■并行機(jī)的高性能特征抽取充分理解和抽収當(dāng)前并行機(jī)體系結(jié)構(gòu)的高性能特征，提出實(shí)用的并行計(jì)算模型和并行性能評(píng)價(jià)方法，指導(dǎo)并行算法的設(shè)計(jì)和并行程序的實(shí)現(xiàn)?！霾⑿兴惴ㄔO(shè)計(jì)與分析設(shè)計(jì)高效率的并行算法，將應(yīng)用問(wèn)題分解為可并行計(jì)算的多個(gè)子任務(wù)，并具體分析這些算法的可行性和效果。■并行實(shí)現(xiàn)技術(shù)主要包含并行程序設(shè)計(jì)和并行性能優(yōu)化。并行應(yīng)用這是并行計(jì)算研究的最終目的。通過(guò)驗(yàn)證和確認(rèn)并行程序的正確性和效率，進(jìn)一步將程序發(fā)展為并行應(yīng)用軟件，應(yīng)用于求解實(shí)際問(wèn)題。同

4、時(shí)，結(jié)合實(shí)際應(yīng)用出現(xiàn)的各種問(wèn)題，不斷地改進(jìn)并行算法和并行程序。5.并行程序執(zhí)行時(shí)間對(duì)各個(gè)進(jìn)程，墻上時(shí)間可進(jìn)一步分解為計(jì)算CPU時(shí)間、通信CPU時(shí)間、同步開(kāi)銷(xiāo)時(shí)間、同步導(dǎo)致的進(jìn)程空閑時(shí)間■計(jì)算CPU時(shí)間：進(jìn)程指令執(zhí)行所花費(fèi)的CPU時(shí)間，包括程序木身的指令執(zhí)行占用的時(shí)間（用戶(hù)時(shí)間）和系統(tǒng)指令花費(fèi)的時(shí)間；■通信CPU時(shí)間：進(jìn)程通信花費(fèi)的CPU吋間；■同步開(kāi)銷(xiāo)時(shí)間：進(jìn)程同步花費(fèi)的時(shí)間；■進(jìn)程空閑時(shí)間：進(jìn)程空閑時(shí)間是指并行程序執(zhí)行過(guò)程屮，進(jìn)程所有空閑時(shí)間總和（如進(jìn)程阻塞式等待其他進(jìn)程的消息吋。此吋CPU通常是空閑的，或者處于等待狀態(tài)）1.并行程序性能優(yōu)化最主耍的是選擇好的并行

5、算法和通信模式■減少通信量、提高通信粒度提高通信粒度的有效方法就是減少通信次數(shù)，盡可能將可以一次傳遞的數(shù)據(jù)合并起來(lái)一起傳遞■全局通信盡量利用高效集合通信算法對(duì)于標(biāo)準(zhǔn)的集合通信，如廣播、規(guī)約、數(shù)據(jù)散發(fā)與收集等，盡量調(diào)用MPI標(biāo)準(zhǔn)庫(kù)幣數(shù)■挖掘算法的并行度，減少CPU空閑等待具有數(shù)據(jù)相關(guān)性的計(jì)算過(guò)程會(huì)導(dǎo)致并行運(yùn)行的部分進(jìn)程空閑等待.在這種情況下，可以考慮改變算法來(lái)消除數(shù)據(jù)相關(guān)性■負(fù)載平衡必要時(shí)使用動(dòng)態(tài)負(fù)載平衡技術(shù)，即根據(jù)各進(jìn)程計(jì)算完成的情況動(dòng)態(tài)地分配或調(diào)整各進(jìn)程的計(jì)算任務(wù)。動(dòng)態(tài)調(diào)整負(fù)載時(shí)要考慮負(fù)載調(diào)整的開(kāi)銷(xiāo)及由于負(fù)載不平衡而引起的空閑等待對(duì)性能的影響，尋找最優(yōu)負(fù)載調(diào)整方案

6、?！鐾ㄐ拧⒂?jì)算的重疊讓通信和計(jì)算重疊進(jìn)行，利用計(jì)算時(shí)間來(lái)屏蔽通信時(shí)間。實(shí)現(xiàn)方法一般基于非阻塞通信，先發(fā)出非阻塞的消息接受或發(fā)送命令，然后處理與收發(fā)數(shù)據(jù)無(wú)關(guān)的計(jì)算任務(wù)，完成計(jì)算后再等待消息收發(fā)的完成?！鐾ㄟ^(guò)引入重復(fù)計(jì)算來(lái)減少通信，即以計(jì)算換通信由于當(dāng)前大部分并行計(jì)算機(jī)的計(jì)算速度遠(yuǎn)遠(yuǎn)大于通信速度，并且在一些情況下，當(dāng)一個(gè)進(jìn)程計(jì)算時(shí)，別的進(jìn)程往往處于空閑等待狀態(tài)，因而適當(dāng)引入重復(fù)計(jì)算可以提高程序的總體性能。2.順序程序的特性■順序性：處理機(jī)嚴(yán)格按照指令次序依次執(zhí)行，即僅當(dāng)一條指令執(zhí)行完后才開(kāi)始執(zhí)行下一條指令；■封閉性：程序在執(zhí)行過(guò)程中獨(dú)占系統(tǒng)中的全部資源，該程序的運(yùn)行環(huán)境

7、只與其自身動(dòng)作有關(guān)，不受其它程序及外界因素影響；■可再現(xiàn)性：程序的執(zhí)行結(jié)果與執(zhí)行速度無(wú)關(guān)，而只與初始條件有關(guān)，給定相同的初始條件，程序的任意多次執(zhí)行一定得到相同的執(zhí)行結(jié)果.并發(fā)程序特性■交叉性：程序并發(fā)執(zhí)行對(duì)應(yīng)某一種交叉，不同的交叉可能導(dǎo)致不同的計(jì)算結(jié)果，操作系統(tǒng)應(yīng)當(dāng)保證只產(chǎn)生導(dǎo)致正確結(jié)果的交叉，去除那些可能導(dǎo)致不正確結(jié)果的父叉；■非封閉性：一個(gè)進(jìn)程的運(yùn)行環(huán)境可能被其它進(jìn)程所改變，從而相互影響；■不可再現(xiàn)性：由于交叉的隨機(jī)性，并發(fā)程序的多次執(zhí)行可能対應(yīng)不同的交叉,因而不能期望重新運(yùn)行的程序能夠再現(xiàn)上次運(yùn)行的結(jié)果。3.解決死鎖的方法？預(yù)先分配策略■思想：進(jìn)程在運(yùn)行