此係統為運算密度樹立新標準，6U 封裝卻蘊含了 5 petaFLOPS 的人工智慧效能，能以適用所有人工智慧工作負載的單一平臺，取代舊有的基礎架構孤島。 DGX A100 整合通過測試的最佳化 DGX 軟體堆疊，包含由人工智慧微調的基礎作業系統、所有必要的系統軟體，和 GPU 加速應用程式、預先訓練的模型以及更多由 NGC™ 提供的資源。 NVIDIA DGX SuperPOD 提供功能完備的人工智慧資料中心解決方案，讓想要把業務重點放在見解而非基礎架構的組織，能夠無縫獲得同類最佳的運算、軟體工具、專業知識並持續創新。 NVIDIA 認證系統 (包括 A100 和 NVIDIA Mellanox SmartnNIC 與 DPU) 經過效能、功能、可擴充性和安全性的驗證，讓企業能夠針對 NVIDIA NGC 目錄的人工智慧工作負載，輕鬆部署完整解決方案。 他指出，DGX A100 採用的 AMD 第 2 代 EPYC 處理器提供高效能，並且支援第 4 代 PCIe。 NVIDIA 利用這些功能打造全球最強大的 AI 系統，並在軟體方面仍能和全系列 DGX 採用的 GPU 優化軟體堆疊維持相容。
NVIDIA A100 Tensor 核心 GPU 為各種規模的作業提供前所未有的加速能力，可強化全球效能最高的彈性資料中心，支援人工智慧、資料分析和高效能運算。 nvidia dgxa100 A100 採用 NVIDIA Ampere 架構，為 NVIDIA 資料中心平臺的引擎。 A100 提供的效能比前一代高 20 倍，還可以分割成 7 個 GPU 執行個體，根據不斷變化的需求進行動態調整。
nvidia dgxa100: 高效能運算
新一代架構已進行大幅提升，可執行自然語言處理和深度學習推薦模型等大型工作負載。 NVIDIA DGX A100 內建 Mellanox 網路，雙向頻寬峯值高達每秒 500 GB。 這是支持 DGX A100 成為大型人工智慧叢集基石的眾多功能之一，例如可擴充人工智慧基礎架構的企業藍圖 NVIDIA DGX SuperPOD™ 即是使用 DGX A100 所打造。
- DGX SuperPOD 配備 NVIDIA Base Command Manager，這是一款同類最佳的基礎架構管理軟體，也是 NVIDIA 用來管理數千個系統的軟體 — 可用於佈建和生命週期管理、監控、遙測、記錄、警示和排程。
- 除了性能，TOP500 超級電腦系統也非常關注能耗，這也是 NVIDIA 吸引超級電腦系統製造商的另一大原因。
- Selene 的功耗為 20.5gigaflops/watt，與 Green500 榜單的第一名相差不大，但排名第一的 MN-3 系統體積更小，性能表現排在第 394 位。
- 企業可以在短時間內租用以 DGX SuperPOD 架構為基礎的完善管理 DGX 基礎架構。
這種性能和能效是歸功於 A100 GPU 的第三代 Tensor Core 核心，最新一代 Tensor Core 可為傳統的 64 位元數學模擬及精準度較低的 AI 工作提供加速。 到了今年11月，趁著美國SC超級電腦大會舉行，Nvidia也發表新一代AI工作站，名為DGX Station A100，同樣搭配4個資料中心等級GPU，正是今年上半發表的A100，採用最新推出的Ampere架構。 自 GPU 問世以來，NVIDIA A100 帶來的雙精度 Tensor 核心是高效能運算領域中的最大進展。 搭配 80 GB 速度最快的 GPU 記憶體，研究人員可以將 A100 原需要 10 小時的雙精度模擬，縮短至 4 小時以內完成。 在執行單精度的密集矩陣乘法作業時，高效能運算應用程式還可以利用 TF32，藉以提供高達 11 倍的輸送量。 NVIDIA DGX H100 提供擁有 6 倍效能、2 倍網路速度，以及 NVIDIA DGX SuperPOD 的高速可擴充性。
nvidia dgxa100: 購買前先試用
根據 NVIDIA 的說法，能效方面 TOP500 超級電腦使用 NVIDIA GPU 的系統與不使用的相比，能效（以 gigaflops/watt 為單位）平均高出 2.8 倍。 最能證明這優勢的是上述提到的 NVIDIA 內部研究集羣新成員 Selene。 除了性能，TOP500 超級電腦系統也非常關注能耗，這也是 NVIDIA 吸引超級電腦系統製造商的另一大原因。 特別是，當下 AI 和分析已成為科學計算的新需求，全球各地的研究者都正使用深度學習和數據分析預測各種最具潛力的領域，進而開展實驗。 GTC2020 時 NVIDIA 就表示，位於美國阿貢國家實驗室的研究者使用 24 臺 nvidia dgxa100 NVIDIA DGX A100 系統組成的集羣掃描數十億種藥物，尋找 COVID-19 的治療方法。 ISC 期間，NVIDIA 又宣佈推出 Mellanox UFM Cyber-AI 平臺，新平臺運用 AI 分析技術檢測安全威脅和運行問題並預測網路故障，大幅減少 InfiniBand 數據中心的停機時間。
NVIDIA DGX A100 靈活的架構將帶來 5 petaflops 的 AI 效能，協助企業加速執行各種 AI 工作負載，包括資料分析、訓練與推理等。 使用 A100 的加速伺服器可提供處理這些工作負載所需的運算能力，包含每秒超過 2 TB (TB/秒) 的記憶體頻寬以及 NVIDIA® NVLink® 和 NVSwitch™ 的擴充能力。 NVIDIA 資料中心平臺結合了 InfiniBand、NVIDIA Magnum IO™ 以及 RAPIDS™ 開放原始碼函式庫套件，包括用於獲得 GPU 加速的資料分析，適用於 Apache Spark 的 RAPIDS 加速器，能夠以前所未有的效能與效率，加速這些龐大的工作負載。 DGX SuperPOD 提供專門的專業知識和嵌入式專業服務，安裝範圍涵蓋基礎架構管理、擴充作業負載和簡化人工智慧製作。 我們會訓練您的 IT 團隊管理 DGX SuperPOD，您不必擔心操作技巧上會有差異。 此外，由於 SuperPOD 是以 DGX 為基礎打造，所以您可以聯絡專屬的 DGXpert，直接與全球最大的精通人工智慧技術使用專家團隊交談。
nvidia dgxa100: 適用於 PCIe 的 NVIDIA A100
輝達表示，DGX SuperPOD 架構設計展示如何像搭積木使用高性能 NVIDIA Mellanox InfiniBand 交換機連接 20 臺 DGX A100 系統。 4 名操作人員僅需不到 1 小時，就能組裝一套 20 臺系統組成的 DGX A100 集羣，創建出性能可達 2petaflops 的系統。 細看最新榜單，可發現 TOP10 的超級電腦有 8 臺採用 NVIDIA GPU、InfiniBand 網路技術，或同時採用 2 種技術。 TOP500 榜單的系統有 333 套（約 66%）採用 NVIDIA 技術。 像是 BERT 這類的訓練工作負載，可在一分鐘內以 2,048 個 A100 GPU 大規模處理，創下全球獲得解決方案的最短時間記錄。
nvidia dgxa100: 參觀 NVIDIA 資料中心
NVIDIA 願意以高價收購 Mellanox 的重要原因是高速數據傳輸在大數據時代越來越重要，超級電腦系統尤其明顯。 自 2019 年 11 月以來，TOP500 榜單使用 HDR InfiniBand 的系統數量幾乎增加 1 倍，共有 141 臺超級電腦使用 InfiniBand，自 2019 年 6 月以來增長了 12%。 6 月 22 日是一年一度的高性能計算大會 ISC，6 月 23 日又逢超級電腦 TOP500 榜單更新時間。
nvidia dgxa100: 發表回應
對於擁有最大資料集的高效能運算應用程式，A GB 可採用一種名為 Quantum Espresso 的材質模擬，使額外記憶體的輸送量提升高達 2 倍。 這種龐大的記憶體和前所未有的記憶體頻寬，讓 A GB 成為新一代工作負載的理想平臺。 而 Selene 能效比 TOP500 系統的平均表現，比未使用 NVIDIA GPU 的超級電腦系統高 6.8 倍。
nvidia dgxa100: 全球首款以 NVIDIA A100 打造的人工智慧系統
A100 提供 40 GB 和 80 GB 的記憶體版本，並在 80 GB 版本上首度推出全球最快速的記憶體頻寬，每秒超過 2 TB (TB/秒)，可解決最大的模型和資料集。 NVIDIA DGX™ A100是適用於所有人工智慧工作負載的通用系統，為全球第一款 5 petaFLOPS 人工智慧系統提供前所未有的運算密度、效能和彈性。 搭載 NVIDIA A100 Tensor 核心 GPU，DGX A100 使企業能夠將訓練、推論和分析整合至易於部署的單一人工智慧基礎架構，並支援 NVIDIA 人工智慧專家顧問。 nvidia dgxa100 NVIDIA A100 Tensor 核心 GPU 為人工智慧、資料分析和高效能運算 作業提供前所未有的加速能力，以解決全球最嚴苛的運算挑戰。 A100 nvidia dgxa100 GPU 藉助經過大幅效能提升的第三代 NVIDIA Tensor 核心，可以有效率地擴充至高達數千個專門執行個體，或使用多執行個體 GPU，再分配給七個較小的專門執行個體，以加速各種規模的工作負載。 AMD 宣佈 NVIDIA DGX A100 將採用 AMD 第 2 代 EPYC 處理器，組建最新高效能運算系統，為全球最先進 AI 系統的第三代產品。
nvidia dgxa100: 全球 TOP10 超級電腦，其中 8 臺都選 NVIDIA 的三大原因
AMD 第 2 代 EPYC 處理器是首款也是目前唯一支援 PCIe 4 的 x86 架構伺服器處理器，帶來領先業界的高頻寬 I/O，對於高效能運算以及 CPU 與 GPU 等其他裝置的連接至關重要。 NVIDIA Base Command是管理人工智慧訓練端對端生命週期的軟體服務，包含工作負載管理、資源分享、整合監控與報告儀錶板。 我們的工程師不斷創新並改善支援 DGX SuperPOD 的軟體 — 您將持續收到更新，確保系統執行速度比您剛採用時更快、更有效率。 DGX SuperPOD 配備 NVIDIA Base Command Manager，這是一款同類最佳的基礎架構管理軟體，也是 NVIDIA 用來管理數千個系統的軟體 — 可用於佈建和生命週期管理、監控、遙測、記錄、警示和排程。 DGX SuperPOD 不僅是能以 NVIDIA 方式完成的人工智慧基礎架構。 將事先複製客戶的設計，並產生一系列的效能結果，因此當在現場部署 DGX SuperPOD 時，其執行方式完全如預期。
nvidia dgxa100: NVIDIA A100 Tensor 核心 GPU
DGX SuperPOD 提供專門的專業知識和嵌入式專業服務，安裝範圍涵蓋基礎架構管理、擴充工作負載和簡化人工智慧製作。 多執行個體 GPU 技術可讓多個網路在單一 A100 上同時運作，以最佳方式使用運算資源。 除了 A100 提升的其他推論效能以外，支援結構化稀疏可提供高達 2 倍的效能。
nvidia dgxa100: 資料中心 GPU
當選購搭載 V100 的 DGX-1 時，你可選擇先收到搭載 P100 的 DGX-1 並於 V100 發行後升級至 V100 或是等待 V100 出貨。 在批次大小受到限制的高度複雜模型 (如 RNN-T) 中，為了提供自動語音辨識功能，A GB 增加的記憶體容量會將每個 MIG 的大小加倍，並提供比 A GB 高 1.25 倍的輸送量。 硬碟儲存則搭配NVMe SSD，系統軟體會佔用1臺1.92TB的固態硬碟，至於資料儲存空間則為7.68TB。 在2017年5月，Nvidia推出GPU整合式應用設備DGX Station，外形為直立型機箱，而非機架式伺服器，也因此揭開AI工作站這類產品上市的風潮。
nvidia dgxa100: 訓練
根據 TOP500 剛發表的超級電腦 TOP500 榜單，中國 226 臺位列第一，美國 114 臺名列第二，日本以 30 臺位居第三。 就運算效能而言，這兩種組態的DGX Station A100，在人工智慧軟體應用上，均可達到2.5 petaflops浮點運算效能，以及5 petaOPS整數運算效能（INT8）。 MLPerf 在人工智慧訓練業界級的基準測試中，創下多項效能記錄，完整體現 NVIDIA 的業界領先地位。 對於具有大型資料表格的最大模型，如用於推薦系統的深度學習建議模型 ，A GB 每個節點最多可達到 1.3 TB 的整合記憶體，並提供比 A GB 多達 3 倍的輸送量。
nvidia dgxa100: 全球第一個功能完備的人工智慧資料中心解決方案
Selene 最重要的性能規格之一是提供超過 1exaflops 的 AI 性能，且在 TPCx-BB 關鍵數據分析基準測試，使用 16 臺 DGX A100 系統就創造了新紀錄，性能表現高其他系統 20 倍。 DGX SuperPOD 正協助 NAVER CLOVA 為韓文及日文市場打造最先進的語言模型，以及進化為全球市場中的強大人工智慧平臺玩家。 在巨量資料分析基準測試中，A GB 比起 A GB 提供了高出 2 倍的深入分析，因此非常適合資料集急遽成長的新興工作負載。 NVIDIA DGXperts 是由超過 20,000 名精通人工智慧技術的專家所組成的全球團隊，以數十年豐富經驗累積協助你將 DGX 產品的投資效益發揮到淋漓盡致。
這項解決方案讓研究人員能夠對蛋白質進行準確度極高的分子模擬，有助於找出 COVID-19 等疾病的治療方法。 本人知悉且同意 NVIDIA Corporation 基於調研、活動組織的目的對本人的上述信息的收集和處理，並已經閱讀並同意 NVIDIA 隱私政策。
MIG 可將 A100 GPU 安全地分割成多達 7 個獨立的執行個體，讓多名使用者存取 GPU 加速功能。 A GB nvidia dgxa1002025 可讓每個 MIG 執行個體分配到多達 5 GB，而 A GB 因為記憶體容量增加，分配大小可加倍至 10 GB。 NVIDIA 人工智慧入門套件可以滿足團隊的所有需求，從世界級人工智慧平臺、最佳化應用軟體和工具，再到諮詢服務，讓您得以快速展開人工智慧計畫。 別將時間和金錢浪費在打造人工智慧平臺上：一天之內即可啟用，一週之內即可定義案例，並可更快開始商品化模型。 收購 Mellanox 和智慧高速數據互聯迅速普及是讓 NVIDIA 產品在 TOP500 榜單比例迅速提升的關鍵，但超級電腦系統性能更是關鍵。 210 petaFLOPS Param Siddhi AI [超級電腦] 配備 DGX SuperPOD，並採用由 C-DAC 自主研發的 HPC-AI 引擎、HPC-AI 軟體框架和雲端平臺，此將可用於加速利用科學和工程來解決印度特有的艱巨挑戰的各項實驗。