摘要

　　面向國(guó)防領(lǐng)域機(jī)器人AI算法部署，雙路顯卡的價(jià)值在于為視覺(jué)推理、模型并行或算法開(kāi)發(fā)建立計(jì)算分工。本文以東田DTB-3079-Q670E搭配i7-12700與兩張5060顯卡的gpu工控機(jī)方案為例，解析雙GPU、主機(jī)平臺(tái)和數(shù)據(jù)通道如何評(píng)估。

　　一、先從算法拆分判斷雙GPU價(jià)值

　　面向國(guó)防領(lǐng)域機(jī)器人部署本地AI算法時(shí)，gpu工控機(jī)的關(guān)鍵不是顯卡越多越好，而是算法鏈路能否合理拆分。視覺(jué)識(shí)別、點(diǎn)云處理、行為判斷與仿真驗(yàn)證等模塊，可能會(huì)在同一主機(jī)并存，資源占用并不相同。

　　雙GPU適合承接能并行、邊界清晰的任務(wù)組合?？捎梢粡堬@卡運(yùn)行持續(xù)視覺(jué)推理，另一張承擔(dān)獨(dú)立模型、測(cè)試或階段性計(jì)算，雙卡的意義便從“卡數(shù)”落到任務(wù)分工。

　　若瓶頸集中在單一大模型或單條計(jì)算鏈路上，兩張顯卡并不會(huì)自然成為一塊統(tǒng)一資源。先識(shí)別模型是單體運(yùn)行、模型并發(fā)還是多算法協(xié)同，才是判斷雙GPU價(jià)值的起點(diǎn)。

　　二、從計(jì)算鏈路看AI算法工控機(jī)配置

　　AI算法工控機(jī)的配置不能只看GPU。數(shù)據(jù)進(jìn)入主機(jī)后還要經(jīng)過(guò)采集、緩存、預(yù)處理、調(diào)度、推理和結(jié)果輸出。CPU、內(nèi)存與本地存儲(chǔ)，會(huì)影響GPU能否持續(xù)獲得數(shù)據(jù)。

　　對(duì)于持續(xù)讀取圖像、運(yùn)行多個(gè)模型或保存算法日志的任務(wù)，GPU之外的緩存與存儲(chǔ)安排也會(huì)影響主機(jī)節(jié)奏。

　　三、雙路5060方案的主機(jī)協(xié)同方式

　　本次方案以DTB-3079-Q670E為底座，采用Intel Q670E芯片組、i7-12700和兩張5060顯卡。處理器負(fù)責(zé)操作系統(tǒng)、服務(wù)調(diào)度與數(shù)據(jù)預(yù)處理等通用計(jì)算，雙GPU則承接可拆分的AI任務(wù)。

　　一臺(tái)雙GPU gpu工控機(jī)不是把CPU與顯卡放在同一層級(jí)使用。把程序管理和數(shù)據(jù)整理放在主機(jī)端，將矩陣計(jì)算交給GPU，討論才會(huì)回到軟件架構(gòu)本身：哪些任務(wù)長(zhǎng)期駐留，哪些任務(wù)獨(dú)立運(yùn)行。

　　Q670E平臺(tái)的2個(gè)PCIe x16 Gen3插槽均為x8信號(hào)，是雙路5060方案的接口基礎(chǔ)。另有3個(gè)PCIe x8 Gen3、2個(gè)PCIe x4 Gen3與2個(gè)全尺寸Mini-PCIe插槽，可承接其他擴(kuò)展資源。

　　四、機(jī)器人算法節(jié)點(diǎn)的外圍數(shù)據(jù)通道

　　對(duì)一臺(tái)面向機(jī)器人算法的gpu工控機(jī)而言，顯卡負(fù)載之外還存在持續(xù)的數(shù)據(jù)進(jìn)出。DTB-3079-Q670E配有1個(gè)I226-IT 2.5G網(wǎng)口、1個(gè)I219-LM千兆網(wǎng)口、5個(gè)串口及8個(gè)USB接口。

　　這種端口組合不預(yù)設(shè)某一種機(jī)器人架構(gòu)，卻能將網(wǎng)絡(luò)側(cè)數(shù)據(jù)、外部設(shè)備通信和本地顯示連接納入同一臺(tái)主機(jī)。HDMI 1.4b與DP輸出，為顯示設(shè)備連接提供了條件。

　　五、雙卡方案應(yīng)回到任務(wù)邊界比較

　　同類項(xiàng)目不妨按算法并行方式、主機(jī)的數(shù)據(jù)承載，以及外圍通道能否接入三層來(lái)比較。由此得到的結(jié)論，才是面向軟件架構(gòu)的雙GPU判斷。

　　本次方案的雙路5060、i7-12700、DDR5內(nèi)存、PCIe與雙網(wǎng)口共同作用，不是彼此獨(dú)立的配置清單，而是把算法計(jì)算、主機(jī)調(diào)度和外圍數(shù)據(jù)接入?yún)R集到一個(gè)邊緣節(jié)點(diǎn)的硬件基礎(chǔ)。

　　結(jié)語(yǔ)

　　雙GPU方案的價(jià)值，最終取決于算法任務(wù)能否合理分工，而不是顯卡數(shù)量本身。DTB-3079-Q670E搭配i7-12700與兩張5060顯卡，可作為國(guó)防領(lǐng)域機(jī)器人本地AI多任務(wù)部署的硬件參考。若需結(jié)合算法框架、數(shù)據(jù)接入方式與應(yīng)用環(huán)境細(xì)化gpu工控機(jī)方案，可聯(lián)系東田工控客服進(jìn)一步溝通。

　　FAQ

　　雙GPU工控機(jī)能把兩張顯卡的顯存直接當(dāng)作一塊使用嗎？

　　不能簡(jiǎn)單這樣理解。多卡如何分配模型、數(shù)據(jù)和任務(wù)，取決于AI框架與算法部署方式。雙卡更適合用于可并行或相對(duì)獨(dú)立的計(jì)算任務(wù)，而不是默認(rèn)替代單卡的大顯存需求。

　　AI算法工控機(jī)需要什么配置？

　　除GPU外，還要看處理器是否可承擔(dān)調(diào)度與預(yù)處理、內(nèi)存能否容納并發(fā)數(shù)據(jù)、存儲(chǔ)是否適合本地?cái)?shù)據(jù)留存，以及網(wǎng)絡(luò)和外設(shè)通道是否貼合任務(wù)鏈路。

　　兩張5060顯卡在機(jī)器人算法中可怎樣分工？

　　可讓不同模型或任務(wù)分配到不同GPU，常見(jiàn)于視覺(jué)推理與獨(dú)立算法模塊并行的架構(gòu)。具體的任務(wù)劃分由算法框架和數(shù)據(jù)流設(shè)計(jì)決定。

　　DTB-3079-Q670E的雙顯卡方案有哪些PCIe基礎(chǔ)？

　　平臺(tái)配置2個(gè)PCIe x16 Gen3插槽，均為x8信號(hào)；另有3個(gè)PCIe x8 Gen3和2個(gè)PCIe x4 Gen3插槽，可供同機(jī)擴(kuò)展資源統(tǒng)籌使用。

　　該方案如何處理算法運(yùn)行中的本地?cái)?shù)據(jù)？

　　提供1個(gè)M.2 M Key 2280插槽及2個(gè)SATA接口，SATA支持RAID 0/1。系統(tǒng)、緩存和歷史數(shù)據(jù)可按任務(wù)的數(shù)據(jù)留存方式進(jìn)行組織。

　　機(jī)器人算法主機(jī)能連接哪些外圍設(shè)備？

　　已配置1個(gè)2.5G網(wǎng)口、1個(gè)千兆網(wǎng)口、5個(gè)串口和8個(gè)USB接口，并帶HDMI 1.4b與DP顯示輸出，可作為網(wǎng)絡(luò)、串行設(shè)備、USB外設(shè)和本地顯示的連接基礎(chǔ)。