上圖：2017年2月，在倫敦科學(xué)博物館舉辦的科學(xué)博物館機(jī)器人展覽會(huì)的預(yù)覽上展示的世界首款安卓機(jī)器人新聞播報(bào)員Komoroid.

今天，GPU（或稱圖形處理單元）的應(yīng)用程序已然遠(yuǎn)遠(yuǎn)超過了其本身。超級(jí)計(jì)算機(jī)設(shè)計(jì)人員們發(fā)現(xiàn)它們非常適合于從他們所建立的系統(tǒng)中的CPU卸載大量的工作負(fù)載；其也被證明是一種被稱為深度學(xué)習(xí)（Deep Learning）的機(jī)器學(xué)習(xí)方法的超高效處理器。這正是Google公司用來提供有針對(duì)性的廣告的AI類型，而亞馬遜的Alexa則可以用于即時(shí)回答語音查詢。

創(chuàng)建相應(yīng)的算法，使得計(jì)算機(jī)能夠通過觀察和迭代來進(jìn)行學(xué)習(xí)無疑是相當(dāng)復(fù)雜的；同樣令人難以置信的是：設(shè)計(jì)計(jì)算機(jī)系統(tǒng)來執(zhí)行這些指令，并借助數(shù)據(jù)中心的基礎(chǔ)設(shè)施來為這些系統(tǒng)供電和冷卻。 Ober在Nvidia公司的超大規(guī)模客戶數(shù)據(jù)中心系統(tǒng)中深入了解了這一深度學(xué)習(xí)。

他在接受Data Center Knowledge網(wǎng)站的記者采訪時(shí)表示說：“我們一直在大型數(shù)據(jù)中心處理大量超大規(guī)模（真正的超大規(guī)模）。 而建立一款用于深入學(xué)習(xí)培訓(xùn)的GPU系統(tǒng)是一個(gè)非常浩大困難的工程問題。這真的非常非常難。即使像Facebook和微軟這樣的互聯(lián)網(wǎng)巨頭企業(yè)們也在努力。”

上圖：Facebook最新的AI服務(wù)器Big Basin.八個(gè)散熱器中的每一個(gè)都隱藏著GPU. （照片來源：Facebook）

訓(xùn)練一款A(yù)I需要花費(fèi)大量功率能耗

培訓(xùn)是深度學(xué)習(xí)中所涉及到的一種計(jì)算工作負(fù)載（或者說是一類工作負(fù)載，因?yàn)樵擃I(lǐng)域正在發(fā)展，并且有幾種不同的培訓(xùn)方法）。其目的是教授一款深層神經(jīng)網(wǎng)絡(luò)——一個(gè)計(jì)算節(jié)點(diǎn)網(wǎng)絡(luò)，旨在模擬人腦中的神經(jīng)元相互作用的方式——從現(xiàn)有數(shù)據(jù)中提取新功能。例如，一款神經(jīng)網(wǎng)絡(luò)可以通過重復(fù)地“查看”多張其中含有狗的各種圖像來學(xué)習(xí)識(shí)別照片中的狗，圖像中的狗將被標(biāo)記為狗。

其他類型的工作負(fù)載是推理，這是一款神經(jīng)網(wǎng)絡(luò)將其知識(shí)應(yīng)用于新數(shù)據(jù)的領(lǐng)域（例如，識(shí)別之前未見過的圖像中的狗）。

Nvidia公司為上述兩個(gè)類別的工作負(fù)載制作GPU.但是，在數(shù)據(jù)中心實(shí)施培訓(xùn)可以說是特別困難的部分，因?yàn)橛糜谂嘤?xùn)的硬件需要非常密集的GPU群集，或者每臺(tái)服務(wù)器具備多達(dá)可支持8個(gè)GPU的互連服務(wù)器。而這樣的一款機(jī)柜可以很容易地消耗掉30kW以上的功率密度，超級(jí)計(jì)算機(jī)領(lǐng)域之外的大多數(shù)數(shù)據(jù)中心都不是為這一大功率密度提供支持而設(shè)計(jì)的。即使這樣，在這個(gè)范圍的低端，大約20款這樣的機(jī)柜需要消耗與AT&T體育球場達(dá)拉斯牛仔隊(duì)的超大屏幕一樣多的功率，后者是世界上最大的1080p視頻顯示器，其中包含3000萬個(gè)燈泡。

“我們的確是給很多數(shù)據(jù)中心的基礎(chǔ)設(shè)施帶來了真正的壓力，”Ober在談到Nvidia公司的GPU時(shí)表示說。 “通過深度學(xué)習(xí)培訓(xùn)，企業(yè)通常希望盡可能的能夠使得計(jì)算池盡可能密集，這樣就會(huì)消耗掉相當(dāng)驚人的功率密度，這無疑是一大真正的挑戰(zhàn)。”另一個(gè)問題是如何控制這些集群中的電壓。 GPU計(jì)算本質(zhì)上是在瞬變中產(chǎn)生大量的電力（電壓突然上升），而且這些都是難以應(yīng)付處理的。“

互連節(jié)點(diǎn)是另一大挑戰(zhàn)難題。 Ober說：“根據(jù)您的培訓(xùn)數(shù)據(jù)來源的不同，數(shù)據(jù)中心網(wǎng)絡(luò)的負(fù)擔(dān)可能是令人難以置信的。” “你企業(yè)可以創(chuàng)造一個(gè)真正火的熱點(diǎn)。”在他看來，電力密度和網(wǎng)絡(luò)可能是數(shù)據(jù)中心系統(tǒng)深度學(xué)習(xí)的兩大設(shè)計(jì)挑戰(zhàn)。

上圖： Tesla P100 是Nvidia公司功能最為強(qiáng)大的GPU（照片來源：Nvidia公司）

人工智能的冷卻

Ober說，像Facebook和微軟這樣的超大規(guī)模的數(shù)據(jù)中心運(yùn)營商們主要是通過將他們的深度學(xué)習(xí)集群傳播到許多機(jī)架上來解決功率密度的挑戰(zhàn)，盡管會(huì)在液體冷卻或液體輔助冷卻方面面臨一定的“困惑”。液體冷卻是將冷凍水直接輸送到主板上的芯片（冷卻超級(jí)計(jì)算機(jī)的通用方法），而液體輔助冷卻則是將冷凍水帶到連接到IT機(jī)柜的熱交換器上，通過冷卻空氣來為服務(wù)器提供冷卻。

并不是每家需要支持高密度深度學(xué)習(xí)硬件的企業(yè)都擁有令人羨慕的數(shù)十萬平方英尺的數(shù)據(jù)中心空間，對(duì)于那些沒有如此規(guī)模的數(shù)據(jù)中心供應(yīng)商，例如選擇專注于高密度的數(shù)據(jù)中心來說，已經(jīng)選擇了采用液體輔助冷卻的路線。最近，市場對(duì)于這些供應(yīng)商的服務(wù)需求已經(jīng)出現(xiàn)了飆升，而這在很大程度上是受益于市場對(duì)于機(jī)器學(xué)習(xí)日益增長的興趣。