基于FPGA加速機器學習算法.doc

《基于FPGA加速機器學習算法.doc》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在學術(shù)論文-天天文庫。

1、基于FPGA加速機器學習算法AI因為其CNN（卷積神經(jīng)網(wǎng)絡）算法出色的表現(xiàn)在圖像識別領(lǐng)域占有舉足輕重的地位?；镜腃NN算法需要大量的計算和數(shù)據(jù)重用，非常適合使用FPGA來實現(xiàn)。上個月，RalphWitTIg（XilinxCTOOffice的卓越工程師）在2016年OpenPower峰會上發(fā)表了約20分鐘時長的演講并討論了包括清華大學在內(nèi)的中國各大學研究CNN的一些成果。在這項研究中出現(xiàn)了一些和CNN算法實現(xiàn)能耗相關(guān)的幾個有趣的結(jié)論：①限定使用片上Memory；②使用更小的乘法器；③進行定點匹配：相對于32位定點或浮點計算，將定點計算結(jié)果精度降為16位。如果使用動態(tài)量化，8位計算同

2、樣能夠產(chǎn)生很好的結(jié)果。在演講中WitTIg還提到了CNN相關(guān)的兩款產(chǎn)品：CAPI-compaTIbleAlphaDataADM-PCIE-8K5PCIe加速卡和AuvizSystems提供的AuvizDNN（深度神經(jīng)網(wǎng)絡）開發(fā)庫。ADM-PCIE-8K5PCIe加速卡AlphaDataADM-PCIE-8K5PCIe加速卡用于X86和IBMPower8/9數(shù)據(jù)中心和云服務，加速卡基于XilinxKintexUltraScaleKU115FPGA，支持XilinxSDAcess基于OpenCL、C/C++的開發(fā)和基于VivadoHLx的HDL、HLS設計流程。圖1AlphaDataA

3、DM-PCIE-8K5PCIe加速卡AlphaDataADM-PCIE-8K5PCIe加速卡片上帶32GBDDR4-2400內(nèi)存（其中16GB含ECC），雙通道SFP+支持雙通道10G以太網(wǎng)接入。提供包括高性能PCIe/DMA在內(nèi)的板級支持包（BSP）、OpenPOWER架構(gòu)的CAPI、FPGA參考設計、即插即用的O/S驅(qū)動和成熟的API等設計資源。AuvizDNN開發(fā)庫深度學習技術(shù)使用大量的已知數(shù)據(jù)來找出一組權(quán)重和偏置值來匹配預期結(jié)果。處理被稱之為訓練，訓練的結(jié)果是大量的模型，這一事實促使工程師們尋求使用GPU之類的專用硬件來進行訓練和分類計算。隨著未來數(shù)據(jù)量的巨幅增長，機器學習

4、將會搬到云端完成。這樣就急需一種既可以加速算法，又不會大規(guī)模增加功耗的處理平臺，在這種情況下，F(xiàn)PGA開始登場。隨著一些列的先進開發(fā)環(huán)境投入使用，軟件開發(fā)工程師將他們的設計在XilinxFPGA上實現(xiàn)變得更加容易。AuvizSystems開發(fā)的AuvizDNN庫為用戶提供優(yōu)化的函數(shù)接口，用戶可以針對不同的應用創(chuàng)建自定義的CNN。這些函數(shù)可以方便的通過XilinxSDAcess這樣的集成開發(fā)環(huán)境調(diào)用。在創(chuàng)建對象和數(shù)據(jù)池后，就會調(diào)用函數(shù)創(chuàng)建每一個卷積層、然后是致密層，最后是softmax層，如下圖2所示。圖2實現(xiàn)CNN的函數(shù)調(diào)用順序