頂尖OEM廠商推全球首批NVIDIA認證系統 因應AI作業負載

包括技嘉、Supermicro、慧與、戴爾、浪潮等頂尖加速伺服器製造商現已將NVIDIA認證系統準備就緒。（圖／業者提供）

人工智慧 (AI) 是當今最強大的技術，需要透過新一代電腦的調校和測試，以推動其前進發展。從今天起，資料中心可以透過 NVIDIA 的合作伙伴取得最新的加速伺服器支援，以運行各項 AI 與資料分析作業。頂尖的系統製造商將推出首批 NVIDIA 認證系統，此爲業界唯一針對現代運算作業負載進行測試的伺服器。

藉助NVIDIA最新搭載 NVIDIA Mellanox 網路的 GPU，這些系統能夠加速處理 AI 作業。這些系統從不斷增長的海量企業資料中，挖掘傳統系統遺漏的寶貴資訊，進而提升機器學習的技術。

戴爾 (Dell Technologies)、技嘉 (GIGABYTE)、慧與科技 (HPE)、浪潮 (Inspur) 及美超微 (Supermicro) 紛紛推出取得認證的伺服器。NVIDIA 正與全球頂尖 OEM 廠商合作，推動 AI 在各個產業的發展。

首批採用 NVIDIA A100 Tensor 核心 GPU 的系統包含Dell EMC PowerEdge R7525 與 R740 機架式伺服器。GIGABYTE R281-G30、R282-Z96、G242-Z11、G482-Z54、G492-Z51 系統。HPE Apollo 6500 Gen10 系統及 HPE ProLiant DL380 Gen10 伺服器。Inspur NF5488A5。Supermicro A+ 系統 AS-4124GS-TNR 及 AS-2124GQ-NART。

以上產品皆附上 NVIDIA 認證系統的標章，讓客戶能夠放心地買到符合 NVIDIA 最佳設計的系統，這也意味着這些系統可以處理機器學習、資料分析等領域中最具挑戰性的任務。

隨着各大企業紛紛開始採用 AI，現在正是推出這些系統的最佳時機。

美國運通 (American Express) 使用最新的 AI 模型進行即時詐欺偵測；福特 (Ford) 利用生成對抗網路來產生測試自動駕駛車所需的資料；達美樂 (Dominos) 則利用 AI 技術改善每年30億個披薩外送訂單準備時間的預測。

他們是衆多采用全新強大運算形式作業的企業之一，這種運算形式誕生於網路，且正擴展至零售、物流、金融及醫療保健等各行各業。

據 Gartner 估計，現有 37％ 的組織在生產過程中使用 AI 技術，預估至 2024 年，這個比例將翻倍達到 75％。

每間公司都想在不斷增長的海量資料裡，找出具策略價值的洞察。例如，Walmart 超市每個小時需要處理超過 2.5PB 的資料量。

用於篩選海量資料的 AI 模型數量在短短五年內成長了近三萬倍，也因此推動了對加速運算的需求。而使用的模型多樣性和作業負載也不斷增加，因此，企業需要具靈活性的 GPU。

資料量與用於篩選資料的 AI 模型皆不斷成長，使得資料中心和網路邊緣流量呈指數增長。爲此，企業需要一個安全、可靠、高速，並且可以有效擴大規模的基礎設施。

NVIDIA 認證系統可提供企業 AI 所需的效能、可程式化特性及安全處理能力。這些系統結合了採用 NVIDIA Ampere 架構 的 GPU 的運算能力，以及安全的 NVIDIA Mellanox 高速網路解決方案。

爲取得認證，系統需針對各種作業負載進行測試，包含從需要使用多個運算節點的作業，到只需單一 GPU 的部分運算能力即可完成的任務。

這些經過最佳化的系統能夠運行 NGC 目錄中的 AI 應用程式，NGC 目錄爲 NVIDIA 針對 GPU 最佳化的應用程式中樞。

在 NGC 中也能使用持續增加的軟體開發套件，這些套件將 AI 帶入如醫療保健 (Clara) 和機器人 (Isaac) 等垂直市場。此外，NGC 也提供框架，協助企業開始使用如推薦系統 (Merlin) 與智慧影像分析 (Metropolis) 等新興的使用場景。

具體來說，NVIDIA 認證系統必須通過以下測試，包括深度學習訓練與推論、機器學習演算法、智慧影像分析、網路與儲存裝置卸載等。

測試內容着重於實際的使用場景上，並在 NGC 目錄中取得熱門的 AI 框架和容器。因此，NVIDIA 認證系統讓每間公司都能取得與部分全球最強大的 AI 電腦背後相同的軟硬體。

全球最大的雲端服務供應商以及全球排名前十大的超級電腦中，有八臺皆採用 NVIDIA 的技術。而採用 NVIDIA 技術的系統，在 MLPerf 等 AI 基準測試中皆拔得頭籌。

NVIDIA 認證系統包含功能強大的資料中心伺服器，其搭載多達八個 A100 GPU 和高速 InfiniBand 或乙太網路介面卡。其它包含爲在企業網路邊緣運行 AI，而量身打造的主流 AI 系統。

OEM 廠商使用 NVIDIA Mellanox 電纜、交換機，以及如 ConnectX-6 InfiniBand 或乙太網路介面卡和 BlueField-2 DPU 等網路卡，對系統進行認證。這些網路卡除了擁有低延遲、高處理量的特色，還支援從啓動時的硬體信任根到應用程式的連接追蹤等多層安全保障。

每套系統皆使用 NVIDIA Mellanox 8700 HDR 200G InfiniBand 交換機或 Mellanox SN3700 乙太網路交換機進行認證。

所有 NVIDIA 認證系統均能獲得包括開放原始碼在內，完整軟體堆疊的企業級支援服務。因爲我們希望能夠確保所有垂直市場的企業都能快速享受到 AI 帶來的好處。

截至目前，已有6個系統製造商的14臺伺服器取得認證，並提供加速運算服務。目前至少有11個系統製造商的近70套系統參與這項計劃。