硬件的未來在AI、AI的未來在材料.doc

《硬件的未來在AI、AI的未來在材料.doc》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。

1、硬件的未來在AI、AI的未來在材料　　前言　　由于，人工智能（AI）擔(dān)負(fù)工作與目前大多數(shù)計(jì)算機(jī)的運(yùn)算工作有些不同。然而，AI隱含著分析預(yù)測(cè)、推理、直觀的能力與功能。實(shí)時(shí)是最有創(chuàng)意的機(jī)器學(xué)習(xí)算法也受到現(xiàn)有機(jī)器硬件能力的束縛。因此，若要在AI方面取得長(zhǎng)足進(jìn)步，我們必須在硬件上進(jìn)行改變，或是半導(dǎo)體材料上進(jìn)行突破。演變從GPU開始，引入模擬設(shè)備（analogdevices），然后演變成為具容錯(cuò)性量子計(jì)算機(jī)（faulttolerantquantumcomputers）?，F(xiàn)在從大規(guī)模分布式深度學(xué)習(xí)算法應(yīng)用于圖形處理器（GPU）開始將高速移動(dòng)的數(shù)據(jù)，達(dá)到最終理解圖像和聲音。DDL算法對(duì)視頻和音頻數(shù)據(jù)進(jìn)行

2、訓(xùn)練，GPU越多表示學(xué)習(xí)速度越快?！　　　∧壳?，IBM創(chuàng)下紀(jì)錄：隨著更多GPU加入能提升達(dá)到95％效率，就能識(shí)別750萬個(gè)圖像達(dá)到33.8％，使用256個(gè)GPU于64個(gè)Minsky電源系統(tǒng)上。自2009年以來，隨著GPU模型訓(xùn)練從視頻游戲圖形加速器轉(zhuǎn)向深度學(xué)習(xí)，使分布式深度學(xué)習(xí)每年以約2.5倍的速度發(fā)展。所以IBM曾于2017年IEEE國(guó)際電子設(shè)備會(huì)議（2017IEEEInternationalElectronDevicesMeeting）針對(duì)應(yīng)用材料發(fā)表SemiconductorFuturescapes：NewTechnologies，NewSolutions，談到需要開發(fā)哪些技術(shù)才能延

3、續(xù)這種進(jìn)步速度并超越GPU？　　　　如何超越GPUIBM研究公司認(rèn)為，GPU的轉(zhuǎn)變分為三個(gè)階段進(jìn)行：　　1、首先將在短期內(nèi)利用GPU和傳統(tǒng)的CMOS構(gòu)建新的加速器以繼續(xù)進(jìn)行；　　2、其次將尋找利用低精密度和模擬設(shè)備（analogdevices）來進(jìn)一步降低功率和提高性能的方法；　　3、然后進(jìn)入量子計(jì)算時(shí)代，它可是一個(gè)機(jī)會(huì)，能提供全新的方法。在CMOS上的加速器還有很多工作要做，因?yàn)闄C(jī)器學(xué)習(xí)模型可以容忍不精確的計(jì)算。正因?yàn)椤皩W(xué)習(xí)”模型可以借助錯(cuò)誤學(xué)習(xí)而發(fā)揮作用，然而，在銀行交易是無法容忍有一些許的錯(cuò)誤。預(yù)估，精準(zhǔn)運(yùn)算快速的趨勢(shì)，到2022年每年以2.5倍在提高。所以，我們還有五年時(shí)間來突破模

4、擬設(shè)備（analogdevices），將數(shù)據(jù)移入和移出內(nèi)存以降低深度學(xué)習(xí)網(wǎng)絡(luò)的訓(xùn)練時(shí)間。因此，analogdevices尋找可以結(jié)合內(nèi)存和運(yùn)算，對(duì)于類神經(jīng)演算的進(jìn)展將是非常重要的。類神經(jīng)演算如同模擬腦細(xì)胞。神經(jīng)元（neurons）結(jié)構(gòu)相互連接以低功率訊號(hào)突破von-Neumann的來回瓶頸（von-Neumann’sback-and-forthbottleneck），使這些訊號(hào)直接在神經(jīng)元之間傳遞，以實(shí)現(xiàn)更高效的計(jì)算。美國(guó)空軍研究實(shí)驗(yàn)室正在測(cè)試IBMTrueNorth神經(jīng)突觸系統(tǒng)的64芯片數(shù)組，專為深度神經(jīng)網(wǎng)絡(luò)推理和挖掘信息而設(shè)計(jì)。該系統(tǒng)使用標(biāo)準(zhǔn)CMOS，但僅消耗10瓦的能量來驅(qū)動(dòng)其640

5、0萬個(gè)神經(jīng)元和160億個(gè)突觸。但相變化內(nèi)存（phasechangememory）是下一代內(nèi)存材料，可能是針對(duì)深度學(xué)習(xí)網(wǎng)絡(luò)優(yōu)化的首款仿真器件?！　　　∵M(jìn)入量子時(shí)代（quantum）據(jù)IBM公司的研究論文，在NatureQuantumInformation中展示了機(jī)器學(xué)習(xí)中量子的優(yōu)勢(shì)證明（“Demonstrationofquantumadvantageinmachinelearning”），展示了只有五個(gè)超導(dǎo)量子位處理器，量子運(yùn)算能夠穩(wěn)定減少達(dá)100倍運(yùn)算步驟，并且比非量子運(yùn)算更能容忍干擾的信息。IBMQ的商業(yè)系統(tǒng)現(xiàn)在有20個(gè)量子位，并且原型50個(gè)量子位設(shè)備正在運(yùn)行。它的平均時(shí)間為90μs，也

6、是以前系統(tǒng)的兩倍。但是容錯(cuò)系統(tǒng)在今天的機(jī)器上顯示出明顯的量子優(yōu)勢(shì)。同時(shí)，試驗(yàn)新材料（如銅相通的替代品）是關(guān)鍵-IBM及其合作伙伴在IEDM上推出的其他關(guān)鍵芯片改進(jìn)，以推進(jìn)所有運(yùn)算平臺(tái)，從vonNeumann到類神經(jīng)及量子。解決處理器到儲(chǔ)存器的連接和帶寬瓶頸，將為AI帶來新的儲(chǔ)存器架構(gòu)，最終可能導(dǎo)致邏輯和儲(chǔ)存器制造過程技術(shù)之間的融合。IBM的TrueNorth推理芯片就是這種新架構(gòu)的一個(gè)例子，其中每個(gè)神經(jīng)元都可以存取自己的本地儲(chǔ)存器，并且不需要脫機(jī)存取儲(chǔ)存器。借助訓(xùn)練和推理形式的AI運(yùn)算，必須推向邊緣裝置上（edgedevices），例如：手機(jī)、智能手表等。因此，這將興起由計(jì)算設(shè)備組成的網(wǎng)絡(luò)

7、系統(tǒng)。大多數(shù)這樣的邊緣裝置會(huì)受到功率和成本的限制，所以他們的計(jì)算需求可能只能透過高度優(yōu)化的ASIC來滿足?，F(xiàn)在，傳統(tǒng)無晶圓廠半導(dǎo)體公司是否有能力提供這類型的ASIC或是否由AI芯片新創(chuàng)公司例如云端服務(wù)提供商，由誰主導(dǎo)目前還為時(shí)過早?！　　　渥ⅲ?馮諾伊曼架構(gòu)（vonNeumannbottleneck）：是一種將程序指令內(nèi)存和數(shù)據(jù)存儲(chǔ)器合并在一起的計(jì)算機(jī)設(shè)計(jì)概念架構(gòu)，因此也隱約指出將儲(chǔ)存裝置與中央處理器分開的概念。在CP