8U GPU Server

HGX B300



NVIDIA HGX B300 Server

数量、価格など詳細はお問い合わせ下さい。
電子メール： info [at] dataonstor.co.jp

NVIDIA HGX B300 8-GPU Platform

Next Generation AI Training & Inference Server
GPU

NVIDIA HGX B300
8-GPU Configuration

プロセッサー

Intel Xeon 6768P
64C / 2.4GHz × 2

メモリ

2TB DDR5-6400

ネットワーク

8-port 800GbE / XDR800

電源

Redundant 6600W
Titanium Level

Supermicro GPU Server Platinum Series
（DP Intel 8U System with NVIDIA HGX B300 8-GPU 主要スペック）

NVIDIA HGX B300 8-GPU Server
プロセッサー
Dual Intel® Xeon® 6700 Series × 2
GPU
NVIDIA HGX B300 × 8
5th Generation NVLink® 1.8TB/s
HBM3e GPU Memory 2.3TB / System
メモリ
DDR5 RDIMM 最大 8TB
32 DIMM Slots
ディスク
E1.S PCIe 5.0 NVMe Drive
8 Drive Slots
LAN
NVIDIA ConnectX®-8 SuperNIC × 8
最大 800Gb/s
拡張NIC
North/South NIC 最大 2基搭載

Supermicro complete model

GPU
NVIDIA SXM HGX B300 8-GPU（288GB）

NVIDIA® NVLink™ with NVSwitch™
サポートOS
Debian GNU/Linux

Microsoft® Windows

CentOS / Red Hat® Enterprise Linux

FreeBSD®

Ubuntu® Server

SUSE® Linux Enterprise Server

Oracle Linux
備考
本製品はコンプリートモデルのみの出荷となります。

ご注文の際は構成が大幅に変更されることがございます。

あらかじめご了承ください。

最大性能を発揮するためのオプション


NDR200

MCX75310AAS-HEAT

  • インタフェース
    PCIe 5.0 x16
  • ポート
    OSFP × 1
  • 速度
    200Gb/s InfiniBand
    200GbE
  • 対応プロトコル
    InfiniBand / Ethernet
  • ハードウェア要件
    Version A7以降

NDR400

MCX75310AAS-NEAT

  • インタフェース
    PCIe 5.0 x16
  • ポート
    OSFP × 1
  • 速度
    400Gb/s InfiniBand
    400GbE
  • 対応プロトコル
    InfiniBand / Ethernet
  • ハードウェア要件
    Version AA以降

※ MCX75310AAS-HEATはハードウェアバージョン A7以降、MCX75310AAS-NEATはハードウェアバージョン AA以降において InfiniBandおよびEthernetプロトコルをサポートします。

Supermicro推奨Network Switch

フォームファクタ
1RU
スイッチ容量
25.6Tbps
対応速度
10 / 25 / 40 / 50 / 100 / 200 / 400GbE
標準構成
64×400GbE
128×200GbE
256×100GbE
256×50GbE
128×40GbE
256×25GbE
OS
NVIDIA Cumulus Linux
SONiC OS

主な機能

高帯域スイッチング

最大400Gb/sポート、25.6Tbpsのノンブロッキングスイッチ帯域幅を提供。

低遅延通信

完全共有パケットバッファと低カットスルーレイテンシーにより、予測可能で安定した通信を実現。

AIネットワーク最適化

RDMA over Converged Ethernet（RoCE）に対応し、AIクラスタ向けの高速GPU通信を支援。

大規模仮想ネットワーク

クラス最高レベルのVXLANスケールに対応。

大規模ルーティング

ACL、LPM、MAC、ECMP、トンネル間で最大512,000の転送エントリを共有可能。

System Service

OSインストールサービス minimal構成のインストールをベースとした設定
CUDA Toolkit
インストール		 NVIDIAドキュメントに沿ったインストール設定
  • cuDNN
  • NCCL
※コンテナ環境が必要な場合は別途ご相談ください。
AIGFS同時導入時 上記に加え、以下のI/O高速化コンポーネントを導入する場合があります。
  • NVIDIA GPUDirect Storage / nvidia-fs
  • CUDA cuFile
  • RDMAライブラリ
  • OFED / rdma-core
  • NCCL RDMA対応
ネットワーク構成 NVIDIA LEAF SwitchやDPUを導入する場合、 基本設定およびネットワーク構成についてご相談ください。