資源描述:
《谷歌出手AI芯片和公有云市場(chǎng) TPU首次對(duì)外全面開放.doc》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、谷歌出手AI芯片和公有云市場(chǎng)TPU首次對(duì)外全面開放 今日?qǐng)?bào)道,谷歌向外宣布TPU將啟動(dòng)全面開放模式,據(jù)悉這是谷歌TPU首次對(duì)外全面開放。TPU的威力極大,它的出現(xiàn)必將給AI芯片和公有云市場(chǎng)將迎來新的變局。Google的機(jī)器學(xué)習(xí)利器CloudTPU,在今日真的開始面向更多用戶開放了?! 」雀栌殖鍪至?。又是一個(gè)大招?! ∵@次谷歌傳奇JeffDean親自在推特上連發(fā)10條,滿懷激動(dòng)地對(duì)外宣布著這個(gè)消息:谷歌TPU首次對(duì)外全面開放。 AI芯片和公有云市場(chǎng)將迎來新的變局?! ≈坝ミ_(dá)的黃仁勛在談
2、到谷歌TPU時(shí),就曾強(qiáng)硬的表示,對(duì)TPU的威脅不以為然。當(dāng)時(shí),老黃還列了列參數(shù):新的TPU可以實(shí)現(xiàn)45teraflop的運(yùn)算能力,而英偉達(dá)最新的VoltaGPU則能達(dá)到120teraflop?! 〉绻汴P(guān)注人工智能,肯定知道TPU的威力。谷歌搜索、翻譯、相冊(cè)等應(yīng)用,都有TPU在提供AI加速。更值得一提的是,AlphaGo也是借力TPU,稱霸圍棋界。 而且谷歌這款芯片還專門對(duì)AI進(jìn)行了優(yōu)化。 谷歌在官方博客中表示,在新發(fā)布的CloudTPU幫助下,不到一天的時(shí)間,你就可以在ImageNet上
3、把ResNet-50模型訓(xùn)練到75%的精度,成本不足200美元?! 默F(xiàn)在起,每小時(shí)6.5美元,你也能用上谷歌TPU了?! ±碚撋?。 Google的機(jī)器學(xué)習(xí)利器CloudTPU,從今天開始面向更多用戶開放了?! loudTPU今天發(fā)布了beta版,這一版本通過谷歌云平臺(tái)(GoogleCloudPlatform,GCP)提供,想幫更多機(jī)器學(xué)習(xí)專家更快地運(yùn)行模型。 CloudTPU是谷歌設(shè)計(jì)的硬件加速器,專為加速、擴(kuò)展特定的TensorFlow機(jī)器學(xué)習(xí)工作負(fù)載而優(yōu)化?! ∶總€(gè)CloudTP
4、U包含4個(gè)定制化的ASIC,單塊板卡的計(jì)算能力達(dá)到每秒180萬億次浮點(diǎn)運(yùn)算(180teraflops),有64GB的高帶寬內(nèi)存?! ∵@些板卡可以單獨(dú)使用,也可以通過超高速專用網(wǎng)絡(luò)連接起來,形成“TPUpod”。今年晚些時(shí)候,Google會(huì)開始通過GCP供應(yīng)這種更大的超級(jí)計(jì)算機(jī)?! oogle設(shè)計(jì)CloudTPU的目標(biāo),是針對(duì)性地為TensorFlow工作負(fù)載提供一分錢一分貨的差異化性能,讓研究人員嫩更快地進(jìn)行迭代?! ±纾骸 ∧隳芡ㄟ^自定義、可控制的GoogleComputeEngine
5、虛擬機(jī),對(duì)聯(lián)網(wǎng)的CloudTPU進(jìn)行交互式的、獨(dú)享的訪問,而不用等待自己的工作在共享計(jì)算集群上排隊(duì)?! ∧隳苓B夜在一組CloudTPU上訓(xùn)練出同一個(gè)模型的幾個(gè)變體,第二天將訓(xùn)練出來的最精確的模型部署到生產(chǎn)中,而不用等幾天、甚至幾周來訓(xùn)練關(guān)鍵業(yè)務(wù)機(jī)器學(xué)習(xí)模型?! 〔坏揭惶斓臅r(shí)間,你就可以在ImageNet上把ResNet-50模型訓(xùn)練到75%的精度,成本不到200美元?! 「?jiǎn)單的機(jī)器學(xué)習(xí)模型訓(xùn)練 過去,為定制ASIC和超級(jí)計(jì)算機(jī)編程需要深入的專業(yè)知識(shí)技能。相比之下,要對(duì)CloudTPU編程,用
6、高級(jí)TensorFlowAPI就可以了,Google還開源了一組高性能的云TPU模型實(shí)現(xiàn),上手更簡(jiǎn)單: Google在博客中說,經(jīng)過對(duì)性能和收斂性的不斷測(cè)試,這些模型都達(dá)到了標(biāo)準(zhǔn)數(shù)據(jù)集的預(yù)期精度?! ∫院?,Google會(huì)逐漸推出更多模型實(shí)現(xiàn)。不過,想要探險(xiǎn)的機(jī)器學(xué)習(xí)專家也可以用他們提供的文檔和工具,自行在CloudTPU上優(yōu)化其他TensorFlow模型?! ‖F(xiàn)在開始用CloudTPU,等到今年晚些時(shí)候Google推出TPUpod的時(shí)候,訓(xùn)練的時(shí)間-精度比能得到驚人的提升。 在NIPS2
7、017上,Google曾宣布ResNet-50和Transformer兩個(gè)模型在完整TPUpod上的訓(xùn)練時(shí)間,都從大半天下降到了30分鐘以內(nèi),不需要改動(dòng)任何代碼??蓴U(kuò)展的機(jī)器學(xué)習(xí)平臺(tái) 云TPU還簡(jiǎn)化了機(jī)器學(xué)習(xí)計(jì)算資源的規(guī)劃和管理: 你可以為團(tuán)隊(duì)提供最先進(jìn)的機(jī)器學(xué)習(xí)加速,并根據(jù)需求的變化動(dòng)態(tài)調(diào)整生產(chǎn)力?! ∧憧梢灾苯佑媒?jīng)過Google多年優(yōu)化的高度集成機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施,無需投入大量金錢、時(shí)間、專業(yè)人才來設(shè)計(jì)、安裝、維護(hù)現(xiàn)場(chǎng)機(jī)器學(xué)習(xí)計(jì)算集群,不用考慮供電、冷卻、聯(lián)網(wǎng)、存儲(chǔ)要求等問題?! oog
8、leCloudTPU經(jīng)過預(yù)先配置,不需要安裝驅(qū)動(dòng)程序,因此,也不用想方設(shè)法讓一大群工作站和服務(wù)器的驅(qū)動(dòng)程序保持最新?! 『推渌鸊oogle云服務(wù)一樣,有復(fù)雜的安全機(jī)制保護(hù)著你的數(shù)據(jù)。 Google說要為客戶的每個(gè)機(jī)器學(xué)習(xí)負(fù)載提供最適合的云服務(wù),除了TPU之外,他們還提供英特爾Skylake等高性能CPU,和包括英偉達(dá)TeslaV100在內(nèi)的高端GPU。開始使用吧 CloudTPU今天開始提供,數(shù)量有限,按秒計(jì)費(fèi)。每個(gè)CloudTPU每小時(shí)6.5美元?! ∫褂胋eta版的CloudTPU,需