서버 타입

Simple AI Training은 제공하는 GPU Type에 따라 구분되며, Training Job을 생성할 때 선택하는 서버 타입에 따라 Simple AI Training에 사용되는 GPU가 결정됩니다.
Simple AI Training에서 실행하려는 작업의 사양에 따라 서버 타입을 선택하세요.
Simple AI Training에서 지원하는 서버 타입은 다음 형식과 같습니다.

at.g3v16b1

구분	예시	상세 설명
서비스구분	at	Simple AI Training 서비스를 의미
서버 세대	g3	제공하는 서버 구분과 세대 영문은 서버 사양을 의미 g: GPU 서버 사양을 의미 숫자는 세대를 의미 3은 3세대를 의미
CPU	v16	vCore 개수 v16: 할당 vCore는 가상 코어
GPU	b1	GPU 종류 및 수량 영문은 GPU 종류를 의미 b: GPU 종류 숫자는 GPU 수량을 의미 8: GPU 수량

표. Simple AI Training 서버 타입 형식

g2 서버 타입

g2 서버 타입은 NVIDIA H100 SXM GPU를 사용하는 GPU Bare Metal Server로 대규모 고성능 AI 연산에 적합합니다.

8개의 NVIDIA Hopper Architecture 기반 H100 GPU 제공
GPU 당 1,979 TFLOPS FP8 Tensor Core 성능 제공, 989 TFLOPS FP16 Tensor Core 성능 제공
최대 96개의 vCPU 및 2,048 GB의 메모리를 지원
최대 1,600 Gb/s NVIDIA InfiniBand RDMA 네트워크 지원
최대 100 Gbps의 서비스 네트워크
노드 내 NVSwitch를 통한 900 GB/s의 GPU P2P 통신

인스턴스 구분	vCPU	Memory	GPU	Local Disk
at.g2v12h1	12	234	1	10 Gi
at.g2v24h2	24	468	2	20 Gi
at.g2v48h4	48	936	4	40 Gi
at.g2v96h8	96	1,872	8	80 Gi
at.g2.spot	12	234	1	10 Gi

표. Multi-node GPU Cluster > H100 서버 타입

g3 서버 타입

g3 서버 타입은 NVIDIA B300 SXM GPU를 사용하는 GPU Bare Metal Server로 대규모 고성능 AI 연산 뿐만 아니라 생성형 AI를 위한 LLM 추론 및 AI 배포에 적합합니다.

8개의 NVIDIA Blackwell Ultra Architecture 기반 B300 GPU 제공
GPU 당 13.5 PFLOPS FP4 Tensor Core, 4.5 PFLOPS FP8 Tensor Core 성능 제공
최대 128개의 vCPU 및 4,096 GB의 메모리를 지원
최대 6,400 Gb/s NVIDIA InfiniBand RDMA 네트워크 지원
최대 100 Gbps의 서비스 네트워크
노드 내 NVSwitch를 통한 1.8 TB/s의 GPU P2P 통신

인스턴스 구분	vCPU	Memory	GPU	Local Disk
at.g3v16b1	16	480	1	10 Gi
at.g3v32b2	32	960	2	20 Gi
at.g3v64b4	64	1,920	4	40 Gi
at.g3v128b8	128	3,840	8	80 Gi
at.g3.spot	16	480	1	10 Gi

표. Multi-node GPU Cluster > B300 서버 타입

Overview

ServiceWatch 지표