摘要

　　自動(dòng)駕駛感知需要持續(xù)處理攝像頭、激光雷達(dá)和其他傳感器數(shù)據(jù)，但不同項(xiàng)目對(duì)算力、功耗、軟件生態(tài)和升級(jí)方式的要求并不相同。本文以DTB-3120-A78AE與DTB-3180-Q670E為例，比較Jetson Orin與x86獨(dú)立GPU兩類ai工控機(jī)路線，幫助項(xiàng)目從任務(wù)負(fù)載出發(fā)配置邊緣AI平臺(tái)。

　　一、算力指標(biāo)需回到任務(wù)負(fù)載

　　ai工控機(jī)的選型容易陷入單一數(shù)字比較：TOPS越高是否一定更合適，GPU功耗越大是否代表計(jì)算能力更強(qiáng)。實(shí)際上，TOPS通常用于描述特定精度下的AI推理能力，GPU功耗則反映平臺(tái)能夠承載的顯卡功率，兩者并不是可以直接換算的同一指標(biāo)。

　　自動(dòng)駕駛感知還會(huì)受到模型結(jié)構(gòu)、輸入分辨率、傳感器數(shù)量和推理框架影響。輕量化感知單元更重視單位功耗下的推理效率；需要兼顧算法開發(fā)、數(shù)據(jù)處理及后續(xù)升級(jí)的平臺(tái)，則更關(guān)注x86生態(tài)、PCIe擴(kuò)展和通用計(jì)算能力。

　　DTB-3120-A78AE代表Jetson Orin邊緣推理路線，將CPU、GPU和AI軟件棧集成于緊湊平臺(tái)；DTB-3180-Q670E采用x86處理器與可替換獨(dú)立GPU組合，為多任務(wù)計(jì)算及后續(xù)硬件升級(jí)保留空間。兩款產(chǎn)品對(duì)應(yīng)的是不同技術(shù)路徑，并非簡單的高低配置關(guān)系。

　　二、Jetson路線聚焦邊緣推理

　　DTB-3120-A78AE采用NVIDIA Jetson Orin NX模塊，提供100—157 TOPS INT8算力，集成1024核NVIDIA Ampere架構(gòu)GPU、32個(gè)Tensor Core及8核ARM Cortex-A78AE處理器。

　　計(jì)算資源集中于單一模塊，有利于在有限體積和功耗條件下運(yùn)行目標(biāo)檢測、圖像識(shí)別及多傳感器感知模型。

　　平臺(tái)支持NVIDIA JetPack SDK，可使用CUDA、cuDNN和TensorRT等工具完成模型部署及推理優(yōu)化，并支持ROS2。對(duì)于已經(jīng)采用NVIDIA邊緣AI開發(fā)鏈的項(xiàng)目，模型從開發(fā)環(huán)境遷移至車端時(shí)，可以繼續(xù)使用相應(yīng)的軟件工具。

　　DTB-3120-A78AE配置M.2 NVMe接口、Micro SD卡槽和2個(gè)千兆網(wǎng)口，內(nèi)置UART與CAN總線，可連接車輛控制器及其他通信設(shè)備。產(chǎn)品支持4S—14S電池組供電，重量約297g，適合無人機(jī)、無人配送車及輕量級(jí)自動(dòng)駕駛感知單元。

　　Jetson路線的重點(diǎn)是集成度。CPU、GPU和AI軟件生態(tài)圍繞推理任務(wù)形成統(tǒng)一平臺(tái)，可減少獨(dú)立顯卡及復(fù)雜擴(kuò)展結(jié)構(gòu)對(duì)空間和功耗的占用。

　　三、x86獨(dú)顯路線保留升級(jí)空間

　　DTB-3180-Q670E采用Intel Q670E芯片組，支持第12代、第13代酷睿i3、i5、i7和i9處理器，最高可配置24核32線程CPU；2個(gè)DDR5內(nèi)存插槽最高支持64GB。

　　較強(qiáng)的通用計(jì)算能力可同時(shí)承擔(dān)傳感器數(shù)據(jù)預(yù)處理、業(yè)務(wù)邏輯、日志管理和AI推理等任務(wù)。

　　該型號(hào)提供PCIe x16雙槽位，可搭載130W NVIDIA RTX系列獨(dú)立顯卡。獨(dú)立GPU方案能夠根據(jù)模型規(guī)模和項(xiàng)目階段配置顯卡，并在后續(xù)計(jì)算負(fù)載增加時(shí)升級(jí)硬件。對(duì)于需要持續(xù)迭代模型、兼顧開發(fā)調(diào)試與現(xiàn)場推理的項(xiàng)目，這種擴(kuò)展方式可以延長平臺(tái)的使用周期。

　　數(shù)據(jù)接入方面，DTB-3180-Q670E配置5個(gè)2.5G網(wǎng)口和1個(gè)千兆網(wǎng)口，部分網(wǎng)口可選PoE+供電，可連接相應(yīng)攝像頭或路側(cè)傳感器；同時(shí)提供7個(gè)USB3.2接口和4個(gè)可編程RS232/422/485串口。

　　產(chǎn)品還提供2個(gè)SATA接口與1個(gè)M.2 NVMe接口，并支持RAID冗余；內(nèi)置SIM卡槽，可選4G或5G通信。DC 8—48V寬壓輸入與-25℃至70℃工作溫度，為高算力平臺(tái)適配車載供電及戶外環(huán)境提供硬件基礎(chǔ)。

　　四、兩類平臺(tái)的配置邊界

　　選擇ai工控機(jī)時(shí)，需要把算法任務(wù)、接口、功耗和升級(jí)周期放在同一套配置邏輯中。Jetson Orin平臺(tái)更接近圍繞邊緣推理優(yōu)化的集成計(jì)算單元，x86加獨(dú)顯平臺(tái)則屬于可持續(xù)擴(kuò)展的通用AI計(jì)算平臺(tái)。

　　如果項(xiàng)目主要運(yùn)行已經(jīng)完成訓(xùn)練和優(yōu)化的模型，并對(duì)重量、空間及功耗較為敏感，DTB-3120-A78AE更接近“將推理能力直接嵌入設(shè)備”的設(shè)計(jì)思路。

　　若平臺(tái)需要同時(shí)運(yùn)行復(fù)雜業(yè)務(wù)、接入更多高速傳感器，并計(jì)劃隨算法迭代更換GPU，DTB-3180-Q670E則能夠提供更大的配置彈性。

　　五、高負(fù)載運(yùn)行中的散熱配置

　　AI計(jì)算會(huì)持續(xù)產(chǎn)生熱量，散熱能力會(huì)影響高負(fù)載運(yùn)行狀態(tài)。緊湊Jetson平臺(tái)依靠模塊級(jí)集成控制整體功耗，適合在有限空間內(nèi)建立緊湊散熱結(jié)構(gòu)；x86加獨(dú)顯平臺(tái)同時(shí)包含高性能CPU和獨(dú)立GPU，需要更大的散熱模塊及經(jīng)過組織的內(nèi)部風(fēng)道。

　　DTB-3180-Q670E采用鋁合金散熱模塊與優(yōu)化風(fēng)道。在65W CPU滿負(fù)荷運(yùn)行測試中，內(nèi)存溫度為63℃。這一結(jié)果體現(xiàn)了內(nèi)部散熱結(jié)構(gòu)對(duì)關(guān)鍵部件溫度管理的作用，也說明高算力平臺(tái)不能只關(guān)注顯卡型號(hào)，還需要考慮整機(jī)熱量傳導(dǎo)路徑。

　　算力余量還需要與散熱余量同步規(guī)劃。過度預(yù)留GPU能力會(huì)增加功耗及熱設(shè)計(jì)壓力，計(jì)算資源不足則可能限制后續(xù)模型升級(jí)。平臺(tái)配置需要在當(dāng)前負(fù)載、功能迭代和車輛供電之間形成平衡。

　　六、基于任務(wù)邊界完成平臺(tái)選擇

　　東田工控可結(jié)合傳感器數(shù)量、模型類型、推理框架、車內(nèi)空間、供電范圍和通信方式，為項(xiàng)目匹配Jetson或x86獨(dú)顯平臺(tái)，并提供內(nèi)存、存儲(chǔ)、無線通信、系統(tǒng)環(huán)境及GPU配置支持。

　　樣機(jī)階段可圍繞模型運(yùn)行、數(shù)據(jù)接入和持續(xù)負(fù)載開展驗(yàn)證，使算力配置與實(shí)際任務(wù)形成對(duì)應(yīng)。

　　因此，ai工控機(jī)不宜先選擇最高算力，再尋找應(yīng)用任務(wù)。先確定輸入數(shù)據(jù)、模型規(guī)模、并發(fā)程序和升級(jí)周期，再選擇集成推理平臺(tái)或可替換GPU平臺(tái)，更有利于控制當(dāng)前配置及后續(xù)擴(kuò)展成本。

　　結(jié)語

　　Jetson Orin與x86獨(dú)顯平臺(tái)代表兩種不同的邊緣AI建設(shè)思路：前者強(qiáng)調(diào)集成度和推理能效，后者強(qiáng)調(diào)通用計(jì)算、多接口和持續(xù)升級(jí)。DTB-3120-A78AE與DTB-3180-Q670E分別承接這兩類需求，為ai工控機(jī)從輕量感知單元到高擴(kuò)展車載計(jì)算平臺(tái)提供了不同的配置路徑。

　　FAQ

　　ai工控機(jī)選型時(shí)，TOPS越高越好嗎？

　　不一定。TOPS需要結(jié)合計(jì)算精度、模型結(jié)構(gòu)、傳感器數(shù)量和推理框架理解。滿足當(dāng)前任務(wù)并保留合理余量，通常比單獨(dú)追求更高數(shù)值更有應(yīng)用價(jià)值。

　　100—157 TOPS與130W GPU可以直接比較嗎？

　　不能。前者描述特定精度下的AI推理能力，后者表示平臺(tái)支持的顯卡功率等級(jí)，并不等于具體算力。比較時(shí)還需要結(jié)合GPU型號(hào)、模型及軟件環(huán)境。

　　DTB-3120-A78AE更適合哪些自動(dòng)駕駛設(shè)備？

　　該平臺(tái)重量約297g，集成Jetson Orin NX、CAN及電池組供電能力，適合無人機(jī)、無人配送車和空間受限的輕量級(jí)感知單元。

　　DTB-3180-Q670E的獨(dú)立顯卡可以升級(jí)嗎？

　　該型號(hào)提供PCIe x16雙槽位，并支持130W NVIDIA RTX系列顯卡，可根據(jù)項(xiàng)目模型規(guī)模和后續(xù)計(jì)算需求配置相應(yīng)GPU。

　　兩款平臺(tái)都支持ROS2嗎？

　　DTB-3120-A78AE基于JetPack生態(tài)，支持ROS2。DTB-3180-Q670E支持Ubuntu 20.04/22.04，可用于構(gòu)建相應(yīng)的機(jī)器人及自動(dòng)駕駛軟件環(huán)境。