Supermicro GPU Server

디지털 트랜스포메이션의 부상과 함께 데이터 복잡성의 증가는 인프라에 대한 패러다임 전환을 주도하고 있습니다. 컴퓨팅 작업의 복잡성과 다양성으로 기업은 강력한 성능과 유연성을 제공하는 우수한 시스템이 필요한 시점입니다.

NVIDIA GPU에 최적화된 Supermicro GPU 서버는 차세대 가속 컴퓨팅으로 HPC 및 AI 과제를 해결하며, 가속 컴퓨팅 솔루션 구축 기술을 더해 디지털 트랜스포메이션 환경에서 고객의 혁신을 이루고 성공하기 위한 방향을 제시합니다.

특장점

AI 업무

AI 업무를 위한 사양

  • H100 GPU SXM5/PCIe를 지원하는 GPU 서버부터 NVIDIA Grace Hopper Superchip MGX 시스템까지 모두 제공
  • 서버당 1개부터 10개 GPU까지 고객 맞춤 GPU 인프라 구성 가능
  • 96GB HBM3/144GB HBM3e를 탑재한 NVIDIA H100 GPU
최대 I/O

최대 I/O 및 최저 지연시간

  • AMD Genoa/Intel Sapphire Rapids/NVIDIA Grace CPU 프로세서로 최고 클럭 속도를 지원
  • NVIDIA BlueField-3 및 ConnectX-7를 통한 네트워크 성능 최적화
  • 핫 스왑 E1.S 드라이브 지원
친환경 전력 효율

친환경 전력 효율

  • 최대 전력 효율성
  • 티타늄급(96% 전력효율) 전원 공급 장치
  • 최고의 시스템 열 설계로 와트당 최대 성능 보장

도입효과

AI 및 HPC 업무를 위한 성능 효율

  • NVIDIA MAGNUM IO 기술 완벽 지원
  • 최대 400G 환경에서 GPUDirect RDMA 및 Storage를 위한 AIOM/OCP 3.0 네트워킹 지원
  • PCI-E 5.0 x16 클 GPU/CPU 레인에 직접연결 구성으로 NVIDIA NVLink 및 NVSwitch 지원
AI HPC 이미지

AI 비즈니스 성과 도출

  • AI 학습 및 추론, 고성능 컴퓨팅(HPC), 연구 시뮬레이션 등 다양한 AI 업무 적용
  • 비용 효율적인 GPU 인프라 도입으로 투자비용 대비 최대 업무성과 도출 가능
  • 단기 비즈니스 성과 도출보다 중장기 성과를 위한 지속 확장 가능
AI 비즈니스 이미지

안정적 시스템 운영

  • NVIDIA 인증 GPU 서버로 시스템 안정성 검증 완료
  • Supermicro 글로벌의 직접 기술 지원을 통한 안정적 시스템 운영 보장
  • 전국 10개 지사 인력 상주로 근거리 기술 지원 보장
AI HPC 이미지

우리는 Supermicro의 새로운 GPU 서버 성능에 매우 만족합니다.
우리 연구원들은 이제 AI에 대한 연구를 발전시키고 보다 큰 임무에 집중할 수 있습니다.
AMD CPU와 NVIDIA GPU의 조합은 매우 잘 작동되고 문제를 해결하는 데 도움이 됩니다.

- Andras Benczur, SZTAKI 헝가리 국립 인공 지능 연구소 책임자

상세사양

[HGX H100 시스템 - SXM5]

항목 Supermicro
SYS-821GE-TNHR AS -8125GS-TNHR SYS-421GU-TNXR
노드 타입 8U 8U 4U
CPU Dual Socket E (LGA-4677)
4th Gen Intel® Xeon® Scalable processors
Dual Socket SP5 AMD EPYC™
9004 Series Processors
Dual Socket E (LGA-4677)
4th Gen Intel® Xeon® Scalable processors
CPU 소켓 2 2 2
GPUs 수 8 8 4
GPU 지원 유형 NVIDIA Hopper architecture NVIDIA Hopper architecture NVIDIA Hopper architecture
메모리 최대 8TB (32DIMMs) 최대 6TB (24DIMMs) 최대 8TB (32DIMMs)
드라이브 Form Factors 2.5" 2.5" 2.5"
확장 8 PCIe 5.0 x16 LP slot(s)
2 PCIe 5.0 x16 FHFL slot(s)
8 PCIe 5.0 x16 LP slot(s)
2 PCIe 5.0 x16 FHFL slot(s)
8 PCIe 5.0 x16 LP slot(s)
파워서플라이 6x or 8x 3000W redundant Titanium level power supplies 6x or 8x 3000W redundant Titanium level power supplies 4x 3000W redundant Titanium level power supplies

[NVIDIA 인증 GPU시스템 - PCIe]

항목 Supermicro
SYS-421GE-TNRT SYS-521GE-TNRT AS -4125GS-TNRT SYS-741GE-TNRT
노드 타입 4U 5U 4U 4U / Workstation
CPU Dual Socket E (LGA-4677)
4th Gen Intel® Xeon® Scalable processors
Dual Socket E (LGA-4677)
4th Gen Intel® Xeon® Scalable processors
Dual Socket SP5 AMD EPYC™
9004 Series Processors
Dual Socket E (LGA-4677)
4th Gen Intel® Xeon® Scalable processors
CPU 소켓 2 2 2 2
GPUs 수 10 10 8 4
GPU 지원 유형 H100, L40S, A100 H100, L40S, A100 H100, L40S, A100 H100, L40S, A100
메모리 최대 8TB (32DIMMs) 최대 8TB (32DIMMs) 최대 6TB (24DIMMs) 최대 4TB (16DIMMs)
드라이브 Bays 24개 + NVMe M.2 2식(Internal) 24개 + NVMe M.2 2식(Internal) 24개 + NVMe M.2 1식(Internal) 8개 + NVMe M.2 2식(Internal)
드라이브 Form Factors 2.5" 2.5" 2.5" 2.5"
스토리지 인터페이스 NVMe, SAS, SATA NVMe, SAS, SATA NVMe, SAS, SATA NVMe, SAS, SATA
확장 13 PCIe Gen 5.0 X16 FHFL Slots AIOM/OCP 3.0 Support 13 PCIe Gen 5.0 X16 FHFL Slots AIOM/OCP 3.0 Support 9 PCIe Gen 5.0 X16 FHFL Slots AIOM/OCP 3.0 Support 7 PCIe 5.0 x16 FHFL slot(s)
파워서플라이 4x 2700W Redundant
Power Supplies, Titanium Level
4x 2700W Redundant
Power Supplies, Titanium Level
4x 2200W Redundant
Power Supplies, Titanium Level
2x 2000W Redundant
Power Supplies, Titanium Level

[Grace Hopper MGX Systems]

항목 Supermicro
ARS-221GL-NR ARS-111GL-NHR
노드 타입 2U 1U
제품특징 NVIDIA Grace CPU Superchip을 갖춘 2U GPU 시스템
NVIDIA BlueField-3 및 ConnectX-7을 지원
NVLink 브리지 GPU-GPU 상호 연결 지원 (예: H100 NVL)
NVIDIA Grace Hopper Superchip을 갖춘 1U 시스템
NVIDIA BlueField-3 및 ConnectX-7을 지원
CPU-GPU 상호 연결을 위한 900GB/s의 NVLink-C2C
96GB HBM3 또는 144GB HBM3e를 탑재한 NVIDIA H100 GPU
CPU NVIDIA Grace CPU Superchip with 144 Cores NVIDIA GH200 Grace Hopper™ Superchip Up to 72C/144T
CPU 소켓 2 1
GPUs 수 4 1
GPU 지원 유형 NVIDIA PCIe : H100, L40S NVIDIA GH200 Grace Hopper : H100
메모리 최대 480GB : Onboard LPDDR5X DRAM
메모리타입 : 4800MHz ECC DDR5 DRAM (LPDDR5X)
최대 480GB : Onboard LPDDR5X
(and additional 96GB HBM3 for GPU)
드라이브 Bays 8x E1.S hot-swap NVMe drive slots 8x E1.S hot-swap NVMe drive slots
M.2 NVMe 2식
스토리지 인터페이스 E1.S E1.S
확장 7 PCIe 5.0 x16 FHFL slot(s) 3 PCIe 5.0 x16 FHFL slot(s)
파워서플라이 2000W(2+1) Redundant Titanium Level (96%+) Power Supplies 2000W(1+1) Redundant Titanium Level (96%+) Power Supplies