經(jīng)常有朋友在咨詢?nèi)绾芜x擇GPU來(lái)配置用于深度學(xué)習(xí)或計(jì)算加速的GPU服務(wù)器，今天就與大家來(lái)分享一下如何選擇GPU服務(wù)器?我們?cè)谶x擇GPU服務(wù)器之前，先來(lái)跟大家介紹下常見(jiàn)的用于深度學(xué)習(xí)專業(yè)的計(jì)算加速卡-NVIDIA Tesla 系列 GPU和 GPU 服務(wù)器。

一、NVIDIA Tesla 系列的GPU，按總線接口類型，可以分為 NV-Link接口、傳統(tǒng)PCI-e 總線接口 兩種。

1、NV-Link接口類型的 GPU

典型代表是NVIDIA V100，采用 SXM2接口。在DGX-2上有SXM3的接口。NV-Link總線標(biāo)準(zhǔn)的GPU服務(wù)器可以分為兩類，一類是NVIDIA公司設(shè)計(jì)的DGX超級(jí)計(jì)算機(jī)，另一類是合作伙伴設(shè)計(jì)的NV-Link接口的服務(wù)器。DGX超級(jí)計(jì)算機(jī)不僅僅提供硬件，還有相關(guān)的軟件和服務(wù)。

2、傳統(tǒng)PCI-e總線接口的 GPU

目前NVIDIA專門用于專業(yè)計(jì)算加速的Tesla GPU 主要有：Tesla P4/P40、P100、V100以及最新的圖靈架構(gòu) Tesla T4 這幾款。其中比較薄和只占一個(gè)槽位的P4和T4，通常用于Inference，目前也已經(jīng)有成熟的模型進(jìn)行推理和識(shí)別。

二、傳統(tǒng)PCI-e總線的GPU服務(wù)器也分為兩類:

一類是OEM服務(wù)器，經(jīng)過(guò)NVIDIA官方測(cè)試認(rèn)證的比如H3C、DELL、Lenovo、曙光、浪潮、華為等其他國(guó)際品牌；

另一類是非OEM的服務(wù)器，也包括很多種類。

選擇服務(wù)器時(shí)除了分類，還要考慮性能指標(biāo)，比如精度、顯存類型、顯存容量以及功耗等，同時(shí)也會(huì)有一些服務(wù)器是需要水冷、降噪或者對(duì)溫度、移動(dòng)性等等方面有特殊的要求，就需要特殊的服務(wù)器。

三、如何選擇GPU服務(wù)器？

選擇GPU服務(wù)器時(shí)首先要考慮業(yè)務(wù)需求來(lái)選擇適合的GPU型號(hào)。在HPC高性能計(jì)算中還需要根據(jù)精度來(lái)選擇，比如有的高性能計(jì)算需要雙精度，這時(shí)如果使用P40或者P4就不合適，只能使用V100或者P100；同時(shí)也會(huì)對(duì)顯存容量有要求，比如石油或石化勘探類的計(jì)算應(yīng)用對(duì)顯存要求比較高；還有些對(duì)總線標(biāo)準(zhǔn)有要求，因此選擇GPU型號(hào)要先看業(yè)務(wù)需求。

GPU服務(wù)器人工智能領(lǐng)域的應(yīng)用也比較多。在教學(xué)場(chǎng)景中，對(duì)GPU虛擬化的要求比較高。根據(jù)課堂人數(shù)，一個(gè)老師可能需要將GPU服務(wù)器虛擬出30甚至60個(gè)虛擬GPU，因此批量Training對(duì)GPU要求比較高，通常用V100做GPU的訓(xùn)練。模型訓(xùn)練完之后需要進(jìn)行推理，因此推理一般會(huì)使用P4或者T4，少部分情況也會(huì)用V100。

當(dāng)GPU型號(hào)選定后，再考慮用什么樣GPU的服務(wù)器。這時(shí)我們需要考慮以下幾種情況：

第一、 在邊緣服務(wù)器上需要根據(jù)量來(lái)選擇T4或者P4等相應(yīng)的服務(wù)器，同時(shí)也要考慮服務(wù)器的使用場(chǎng)景，比如火車站卡口、機(jī)場(chǎng)卡口或者公安卡口等；在中心端做Inference時(shí)可能需要V100的服務(wù)器，需要考慮吞吐量以及使用場(chǎng)景、數(shù)量等。

第二、 需要考慮客戶本身使用人群和IT運(yùn)維能力，對(duì)于BAT這類大公司來(lái)說(shuō)，他們自己的運(yùn)營(yíng)能力比較強(qiáng)，這時(shí)會(huì)選擇通用的PCI-e服務(wù)器；而對(duì)于一些IT運(yùn)維能力不那么強(qiáng)的客戶，他們更關(guān)注數(shù)字以及數(shù)據(jù)標(biāo)注等，我們稱這類人為數(shù)據(jù)科學(xué)家，選擇GPU服務(wù)器的標(biāo)準(zhǔn)也會(huì)有所不同。

第三、 需要考慮配套軟件和服務(wù)的價(jià)值。

第四、 要考慮整體GPU集群系統(tǒng)的成熟程度以及工程效率，比如像DGX這種GPU一體化的超級(jí)計(jì)算機(jī)，它有非常成熟的從底端的操作系統(tǒng)驅(qū)動(dòng)Docker到其他部分都是固定且優(yōu)化過(guò)的，這時(shí)效率就比較高。

下面為大家介紹一款DELL GPU服務(wù)器：適合企業(yè)中小型深度學(xué)習(xí)應(yīng)用環(huán)境！

PowerEdge R740機(jī)架式服務(wù)器

針對(duì)工作負(fù)載加速進(jìn)行了優(yōu)化的通用服務(wù)器

PowerEdge R740服務(wù)器在一個(gè)2U雙路平臺(tái)中出色平衡了加速器卡、存儲(chǔ)和計(jì)算資源，可幫助您最大限度地提高應(yīng)用程序性能。R740提供多達(dá)3個(gè)300 W或6個(gè)150 W加速器卡，具有多樣性功能，可適應(yīng)幾乎任何應(yīng)用程序并為VDI部署提供優(yōu)異的平臺(tái)。R740提供多達(dá)16個(gè)2.5"或8個(gè)3.5"驅(qū)動(dòng)器以及iDRAC9，因此您可以根據(jù)需求進(jìn)行擴(kuò)展并簡(jiǎn)化整個(gè)IT生命周期。

合適的工作負(fù)載：

VDI

專用云

人工智能

機(jī)器學(xué)習(xí)

借助Dell EMC PowerEdge產(chǎn)品組合實(shí)現(xiàn)IT轉(zhuǎn)型

R740是一款針對(duì)工作負(fù)載加速進(jìn)行了優(yōu)化的通用服務(wù)器。憑借其多功能性，R740可幫助您實(shí)現(xiàn)數(shù)據(jù)中心轉(zhuǎn)型，順應(yīng)VDI、人工智能和軟件定義存儲(chǔ)(SDS)的發(fā)展趨勢(shì)。

借助經(jīng)過(guò)驗(yàn)證、預(yù)捆綁的定制就緒節(jié)點(diǎn)，簡(jiǎn)化并加快VMware vSAN™部署。

利用英特爾®至強(qiáng)®可擴(kuò)展處理器擴(kuò)展計(jì)算資源，與前一代至強(qiáng)處理器相比，處理核心數(shù)量增加27 %，帶寬提高50 %。*

利用3個(gè)雙寬GPU擴(kuò)展VDI部署，支持比R730高出50 %的用戶數(shù)量。*

使用針對(duì)啟動(dòng)進(jìn)行了優(yōu)化的內(nèi)置M.2固態(tài)硬盤，釋放存儲(chǔ)空間。

利用智能嵌入式管理實(shí)現(xiàn)自動(dòng)化，提高工作效率

Dell EMC自動(dòng)化和智能管理意味著您可以減少花費(fèi)在日常維護(hù)上的時(shí)間，專注于更重要的優(yōu)先事項(xiàng)。

通過(guò)主動(dòng)診斷和自動(dòng)修復(fù)，最大限度地延長(zhǎng)正常運(yùn)行時(shí)間并將工作效率提高多達(dá)90 %。*

借助適用于VMware® vSphere®、Microsoft® System Center和Nagios®的輕松集成，利用現(xiàn)有的管理控制臺(tái)。

使用免代理Dell EMC iDRAC9進(jìn)行自動(dòng)、高效的管理，幫助提高工作效率。

使用OpenManage下一代控制臺(tái)和服務(wù)器配置文件簡(jiǎn)化部署，快速、可擴(kuò)展地配置和準(zhǔn)備服務(wù)器。

借助全面保護(hù)增強(qiáng)數(shù)據(jù)中心

Dell EMC提供具有網(wǎng)絡(luò)彈性的全面架構(gòu)，在每臺(tái)服務(wù)器中嵌入安全性，確保您的數(shù)據(jù)安全無(wú)虞。

使用全新配置鎖定功能，防止服務(wù)器配置和固件被惡意更改。 

本地存儲(chǔ)具備系統(tǒng)擦除功能，在您調(diào)整用途或淘汰服務(wù)器時(shí)，幫助您保護(hù)數(shù)據(jù)隱私。 

自動(dòng)化更新會(huì)在檢查文件依賴項(xiàng)和正確的更新順序之后，再獨(dú)立于操作系統(tǒng)/虛擬機(jī)管理程序部署更新。 

利用嵌入式身份驗(yàn)證（只允許運(yùn)行設(shè)計(jì)得當(dāng)?shù)母�新），以便控制您的固件控制臺(tái)。（聲明:本文轉(zhuǎn)自網(wǎng)絡(luò)，若有異議，請(qǐng)?zhí)崆巴ㄖ�我們�。┰斣兲煜聰?shù)據(jù)客服電話400-6388-808 。

本文鏈接：http://m.51huadong.com/cloundnews/11003970.html