서버 타입
Multi-node GPU Cluster 서버 타입
Multi-node GPU Cluster는 제공하는 GPU Type에 따라 구분되며, GPU Node를 생성할 때 선택하는 서버 타입에 따라 Multi-node GPU Cluster에 사용되는 GPU가 결정됩니다. Multi-node GPU Cluster에서 실행하려는 애플리케이션의 사양에 따라 서버 타입을 선택하세요.
Multi-node GPU Cluster에서 지원하는 서버 타입은 다음 형식과 같습니다.
- 예: 서버 타입이 g2c96h8_metal인 경우
구분 예시 상세 설명 서버 세대 g2 제공하는 서버 세대 - g2
- g는 GPU 서버 사양을 의미
- 2은 세대를 의미
CPU c96 Core 개수 - c96: 할당 Core는 물리 코어
GPU h8 GPU 종류 및 수량 - h8: h는 GPU 종류를 의미하고, 8은 GPU 수량을 의미
표. Multi-node GPU Cluster 서버 타입 형식 - g2
g2 서버 타입
g2 서버 타입은 NVIDIA H100 SXM GPU를 사용하는 GPU Bare Metal Server로 대규모 고성능 AI 연산에 적합합니다.
- 8개의 NVIDIA Hopper Architecture 기반 H100 GPU 제공
- GPU 당 1,979 TFLOPS FP8 Tensor Core 성능 제공, 989 TFLOPS FP16 Tensor Core 성능 제공
- 최대 96개의 vCPU 및 2,048 GB의 메모리를 지원
- 최대 1,600 Gb/s NVIDIA InfiniBand RDMA 네트워크 지원
- 최대 100 Gbps의 서비스 네트워크
- 노드 내 NVSwitch를 통한 900 GB/s의 GPU P2P 통신
| 서버 타입 | GPU | GPU Memory | CPU(Core) | Memory | Disk | GPU P2P |
|---|---|---|---|---|---|---|
| g2c96h8_metal | H100 | 640 GB | 96 vCore | 2 TB | SSD(OS) 960 GB * 2, NVMeSSD 3.84 TB * 4 | 900GB/s NVSwitch |
표. Multi-node GPU Cluster 서버 타입 사양 > H100 서버 타입
g3 서버 타입
g3 서버 타입은 NVIDIA B300 SXM GPU를 사용하는 GPU Bare Metal Server로 대규모 고성능 AI 연산 뿐만 아니라 생성형 AI를 위한 LLM 추론 및 AI 배포에 적합합니다.
- 8개의 NVIDIA Blackwell Ultra Architecture 기반 B300 GPU 제공
- GPU 당 13.5 PFLOPS FP4 Tensor Core, 4.5 PFLOPS FP8 Tensor Core 성능 제공
- 최대 128개의 vCPU 및 4,096 GB의 메모리를 지원
- 최대 6,400 Gb/s NVIDIA InfiniBand RDMA 네트워크 지원
- 최대 100 Gbps의 서비스 네트워크
- 노드 내 NVSwitch를 통한 1.8 TB/s의 GPU P2P 통신
| 서버 타입 | GPU | GPU Memory | CPU(Core) | Memory | Disk | GPU P2P |
|---|---|---|---|---|---|---|
| g3c128b8_metal | B300 | 2.1 TB | 128 vCore | 4 TB | SSD(OS) 960 GB * 2, NVMeSSD 3.84 TB * 4 | 1.8TB/s NVSwitch |
표. Multi-node GPU Cluster 서버 타입 사양 > B300 서버 타입