Google 所提供的網(wǎng)絡(luò)處事大概是地球上最大的計(jì)較機(jī)網(wǎng)絡(luò)，這套網(wǎng)絡(luò)擁有 15 個(gè)客棧巨細(xì)的數(shù)據(jù)中心，并漫衍在四塊大陸上。

你大概會(huì)認(rèn)為這個(gè)網(wǎng)絡(luò)已經(jīng)足夠強(qiáng)大，日常利用 Google 自家的各類處事完全沒(méi)有問(wèn)題，但 Google 并不這么認(rèn)為，Google 的工程師們也不這么認(rèn)為，他們擔(dān)憂這套已經(jīng)很是復(fù)雜的網(wǎng)絡(luò)有一日會(huì)不堪重負(fù)。

為了省錢(qián)，本身做芯片

約莫在六年前，Google 為其 Android 系統(tǒng)插手了新的語(yǔ)音識(shí)別技能，也就是我們熟悉的 Google Now 和 Google Assistant.

而除了事情就是思考的 Google 工程師溘然想到，假如世界上每個(gè) Android 手機(jī)用戶每人天天利用 Google 的語(yǔ)音搜索處事 3 分鐘，那么所需要的數(shù)據(jù)中心巨細(xì)至少是此刻的兩倍之多，假如用戶越發(fā)頻繁的利用 Google 語(yǔ)音處事，那么當(dāng)前的數(shù)據(jù)中心將不堪重負(fù)。

另外，Google 其時(shí)已經(jīng)開(kāi)始研究利用深度神經(jīng)網(wǎng)絡(luò)和巨大的數(shù)學(xué)系統(tǒng)來(lái)開(kāi)拓其語(yǔ)音識(shí)別處事，這使得其語(yǔ)音處事可以通過(guò)闡明大量的數(shù)據(jù)來(lái)進(jìn)修一些特定的任務(wù)處理懲罰本領(lǐng)。而這種呆板進(jìn)修形式，不單從頭發(fā)現(xiàn)了語(yǔ)音識(shí)別，還促進(jìn)了圖像識(shí)別，呆板翻譯，互聯(lián)網(wǎng)搜索等技能的成長(zhǎng)，但它對(duì)數(shù)據(jù)處理懲罰的本領(lǐng)要求很是苛刻。

由于利用深度神經(jīng)網(wǎng)絡(luò)進(jìn)修技能，Google 看到呆板的識(shí)別錯(cuò)誤率下降了25％，可是這種進(jìn)步需要更強(qiáng)大的數(shù)據(jù)處理懲罰本領(lǐng)，也就是說(shuō)，需要更多的數(shù)據(jù)中心。

數(shù)據(jù)中心不足用，那就多建幾座嘍？但是建這么大都據(jù)中心是要花上不少錢(qián)的，像 Google 這種財(cái)大氣粗的公司也不是拿錢(qián)不妥錢(qián)，一個(gè)錢(qián)打二十四個(gè)結(jié)過(guò)日子的理智心態(tài)也是有的。

因此 Google 的并沒(méi)有豪擲千金將其數(shù)據(jù)中心的占地面積翻番，而是專門(mén)為運(yùn)行深度神經(jīng)網(wǎng)絡(luò)研制了自家的計(jì)較機(jī)芯片—— Tensor Processing Unit， TPU（不是誰(shuí)人用來(lái)做手機(jī)殼的質(zhì)料……）。在 TOPS / Watt 測(cè)試中，TPU 的機(jī)能高于尺度處理懲罰器 30 到 80 倍，這個(gè)測(cè)試功效很是的可觀。

一顆芯片頂一座數(shù)據(jù)中心？

Google 在去年五月首次透露了自家這款定制處理懲罰器，但并沒(méi)有過(guò)多的透露其細(xì)節(jié)。此刻，認(rèn)真 TPU 芯片研發(fā)的 Norm Jouppi 和他的團(tuán)隊(duì)頒發(fā)了一篇文章，美國(guó)抗攻擊服務(wù)器 亞洲服務(wù)器，具體說(shuō)明白該項(xiàng)目，并表明白 TPU 的運(yùn)行方法以及對(duì)一些非凡問(wèn)題的辦理方案。

Google 的 TPU 芯片僅用于執(zhí)行神經(jīng)網(wǎng)絡(luò)處事，只是在用戶利用 Android 手機(jī)啟用語(yǔ)音指令或搜索指令的時(shí)候才會(huì)運(yùn)行。由于神經(jīng)網(wǎng)絡(luò)擁有自主進(jìn)修的本領(lǐng)，因此不消特意訓(xùn)它。可是，Jouppi 說(shuō)，TPU 除了能讓神經(jīng)網(wǎng)絡(luò)可以或許自主進(jìn)修和高速運(yùn)算外，最重要的是，Google 不需要為擔(dān)憂數(shù)據(jù)運(yùn)算本領(lǐng)不敷而多建特別 15 個(gè)數(shù)據(jù)中心，這樣便節(jié)減了大量的本錢(qián)。

外媒 Wired 認(rèn)為，TPU 將為計(jì)較機(jī)芯片規(guī)模帶來(lái)重大轉(zhuǎn)變。由于 Google，F(xiàn)acebook，微軟等互聯(lián)網(wǎng)巨頭利用深度神經(jīng)網(wǎng)絡(luò)構(gòu)建其處事的行動(dòng)越來(lái)越多的處事，他們都需要專門(mén)的芯片來(lái)練習(xí)和運(yùn)行這些 AI 模子。

但差異的是，Google 在構(gòu)建本身的芯片，而許多公司還在利用 GPU 來(lái)辦理深度神經(jīng)網(wǎng)絡(luò)和人工智能的問(wèn)題。

Google 自家芯片的呈現(xiàn)，也為計(jì)較機(jī)芯片市場(chǎng)帶來(lái)了攻擊。由于有了本身的芯片，Google 不消再購(gòu)置別家的芯片來(lái)適應(yīng)本身的神經(jīng)網(wǎng)絡(luò)和人工智能架構(gòu)，而 Google 甚至有大概成為 TPU 芯片的供給商，因?yàn)橄?Facebook，微軟和亞馬遜這類公司都是芯片的高級(jí)買(mǎi)主。同時(shí)，大型的芯片制造商，如英特爾等，也正在研發(fā)雷同的處理懲罰器以適應(yīng)新的市場(chǎng)需求。

合用于多種神經(jīng)網(wǎng)絡(luò)模子

另外，Google 的這塊 TPU 芯片可以用在當(dāng)下任何一個(gè)深度神經(jīng)網(wǎng)絡(luò)中，包羅從圖像識(shí)別中利用的神經(jīng)網(wǎng)絡(luò)到用于識(shí)別語(yǔ)音呼吁的神經(jīng)網(wǎng)絡(luò)等。用 Jouppi 的話說(shuō)：

我們并不會(huì)因問(wèn)別人造了個(gè)新的神經(jīng)網(wǎng)絡(luò)架構(gòu)而把我們這塊芯片看成垃圾扔掉。

不外 Jouppi 也認(rèn)為，TPU 尚有進(jìn)一步提高機(jī)能的空間。假如利用 NVIDIA K80 GPU 中存的 GDDR5 顯存，TPU 便可以提供比 Google 當(dāng)前測(cè)試中得到的更好的機(jī)能。按照 Google 當(dāng)前的的測(cè)試發(fā)明，深度神經(jīng)網(wǎng)絡(luò)一些處事的機(jī)能受到內(nèi)存帶寬的限制，而 GDDR5 則能辦理這些問(wèn)題。