Training Lab 사용하기

Simple AI Training 서비스의 Training Lab을 생성하여 AI 학습 방식을 선택하고 학습을 진행할 수 있습니다.

Training Lab 생성하기

Training Lab을 생성하려면 다음 절차를 따르세요.

1. 모든 서비스 > AI/ML > Simple AI Training 메뉴를 클릭하세요. Simple AI Training의 Service Home 페이지로 이동합니다.

2. Service Home 페이지에서 Training Lab 메뉴를 클릭하세요. Training Lab 목록 페이지로 이동합니다.

3. Training Lab 목록 페이지에서 Training Lab 생성 버튼을 클릭하세요. Training Lab 생성 페이지로 이동합니다.

4. 서비스 생성에 필요한 정보들을 입력하고, 상세 옵션을 선택하세요.

   • 기본 정보 입력 영역에서 Training Lab 생성에 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     Training Lab명	필수	Training Lab 이름을 입력 영문 소문자로 시작하여 숫자와 특수문자(-)를 사용하여 3 ~ 60자 이내로 입력 이름의 마지막 글자는 소문자 또는 숫자만 가능

     표. Training Lab 기본 정보 입력 항목
   • 서비스 정보 입력 영역에서 Training Lab 생성에 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     Endpoint URL	선택	Endpoint URL의 사용 여부를 설정 Endpoint URL 사용에 대한 자세한 내용은 Training Lab Endpoint 사용하기 참고
     리소스 할당	필수	학습에 활용할 GPU 수 및 메모리 크기 선택 최대 4 GPU 할당 가능
     Shared Memory	선택	분산 학습, 분산 데이터 처리를 위해 프로세스 간 공유할 메모리를 설정 1 ~ 8 이내로 입력

     표. Training Lab 서비스 정보 입력 항목
   • AI Training Image 정보 입력 영역에서 서비스 생성에 필요한 옵션을 선택하세요.

     구분	필수 여부	상세 설명
     AI Lab Image URL	필수	학습 스크립트가 실행될 환경이 정의된 이미지(Python, PyTorch, CUDA, Nvidia GPU 등)의 컨테이너 저장소(SCR, Docker Hub 등) URL 주소 입력
     사용자 ID	선택	이미지 저장소의 사용자 ID를 입력
     비밀번호	선택	이미지 저장소의 비밀번호를 입력

     표. Training Lab AI Training Image 정보 입력 항목
   • 학습 Command 및 Volume 정보 입력 영역에서 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     Volume	선택	추가 Volume 사용 시 Volume의 Mount 경로와 연결할 Volume을 선택 Mount Path: File Storage 연결 시 사용할 데이터 경로(예시: /root)를 입력 Volume: 연결할 Volume 선택 추가 버튼을 클릭하여 Volume을 최대 10개까지 추가 가능
     Command	필수	Command 정보를 4,096자 이내로 입력 vllm, sglang, ollama 중 하나의 실행 명령어 입력 필수 환경변수는 실행 명령어 앞에 지정 가능 하단 Command 입력 기준 및 예시 참고

     표. Training Lab 학습 Command 및 Volume 정보 입력 항목

     Command 입력 기준 및 예시

     • 환경변수는 실행 명령어 앞에 NAME=value 형식으로 지정하며, 여러 개는 공백으로 구분합니다.
     • 환경변수 이름과 값은 비워둘 수 없고, 이름은 -로 시작할 수 없습니다.
     • 환경변수 이름의 허용 목록은 없으며, 중복 이름도 허용합니다.
     • 환경변수 설정 뒤에는 vllm, sglang, ollama 중 하나의 실행 명령어가 와야 합니다.
     • Runtime 뒤 인자는 포트 검증과 금지 특수 문자 제한 외에 추가로 제한하지 않습니다.
     • 줄바꿈과 다음 특수 문자는 사용할 수 없습니다.

     ; & | ` $ ( ) < > \ " ' { } [ ] * ? ~ ! #
     

     • OLLAMA_ORIGINS=*는 금지 문자 *를 포함하므로 입력할 수 없습니다.

     • 환경변수를 지정하여 vllm을 실행하는 예시는 다음과 같습니다.

       • 예시: VLLM_LOGGING_LEVEL=INFO vllm serve Qwen/Qwen2.5-1.5B-Instruct –port 8000

     • 기본 포트는 Runtime 내부 통신용이며 외부 Endpoint 포트가 아닙니다.

       • 기본 포트: vllm 8000 / sglang 30000 / ollama 11434

     • vllm·sglang은 –port <포트번호> 옵션으로 변경합니다.

     • ollama는 실행 명령어 앞의 OLLAMA_HOST 환경변수로 설정하며 예시는 다음과 같습니다.

       • 예시: OLLAMA_HOST=0.0.0.0:11434

     • 포트를 지정할 때는 1 ~ 65535 범위의 정수로 입력합니다.

   • 추가 정보 입력 영역에서 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     태그	선택	태그 추가 자원 당 최대 50개까지 추가 가능 태그 추가 버튼을 클릭한 후 Key, Value 값을 입력 또는 선택

     표. 추가 정보 입력 항목

5. 요약 패널에서 생성한 상세 정보를 확인하고, 생성 버튼을 클릭하세요.

6. 생성을 알리는 팝업창이 열리면 확인 버튼을 클릭하세요.

   • 생성이 완료되면, Training Lab 목록 페이지에서 생성한 자원을 확인하세요.

Training Lab 상세 정보 확인하기

Training Lab 서비스의 전체 자원 목록과 상세 정보를 확인할 수 있습니다.
Training Lab 상세정보를 확인하려면 다음 절차를 따르세요.

1. 모든 서비스 > AI/ML > Simple AI Training 메뉴를 클릭하세요. Simple AI Training의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 Training Lab 메뉴를 클릭하세요. Training Lab 목록 페이지로 이동합니다.
3. Training Lab 목록 페이지에서 상세 정보를 확인할 자원을 클릭하세요. Training Lab 상세 페이지로 이동합니다.
   • Training Lab 상세 페이지는 상세 정보, 모니터링, 로그, 태그 탭으로 구성됩니다.

     구분	상세 설명
     서비스 상태	Training Lab 상태 Pending: 생성 중 / 리소스 부족으로 인한 대기 / 잘못된 정보 입력으로 인한 생성 불가 Running: 생성 완료 Failed: 생성 실패 Terminating: 삭제 중
     Training Lab 삭제	서비스를 해지하는 버튼

     표. Training Lab 상세 페이지 항목

상세 정보

Training Lab 목록 페이지에서 선택한 자원의 상세 정보를 확인할 수 있습니다.

모니터링

Training Lab 목록 페이지에서 선택한 자원의 모니터링 정보를 확인할 수 있습니다.

로그

Training Lab 목록 페이지에서 선택한 자원의 로그 정보를 확인할 수 있습니다.

태그

Training Lab 목록 페이지에서 선택한 자원의 태그 정보를 확인하고, 추가하거나 변경 또는 삭제할 수 있습니다.

Training Lab 로그 확인하기

ServiceWatch 서비스에서 Training Lab의 로그를 확인할 수 있습니다.
Training Lab의 로그를 확인하려면 다음 절차를 따르세요.

1. 모든 서비스 > AI/ML > Simple AI Training 메뉴를 클릭하세요. Simple AI Training의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 Training Lab 메뉴를 클릭하세요. Training Lab 목록 페이지로 이동합니다.
3. Training Lab 목록 페이지에서 로그를 확인할 자원을 선택하세요. Training Lab 상세 페이지로 이동합니다.
4. Training Lab 상세 페이지에서 로그 탭을 클릭하세요. 해당 Lab의 로그 정보가 표시됩니다.
5. 로그 정보의 Training Lab 로그 하단의 이름을 클릭하세요. ServiceWatch의 로그 그룹 상세 페이지로 이동합니다.
6. 로그 그룹 상세 페이지에서 로그 스트림 탭을 클릭하세요. 로그 스트림 목록이 표시됩니다.
7. 확인할 로그 스트림 이름(예시: training-lab)을 클릭하세요. 해당 스트림의 로그가 시간순으로 표시됩니다.

Training Lab Endpoint 사용하기

Training Lab 생성 시 Endpoint URL을 사용하도록 설정하면, 발급된 Endpoint URL과 Token으로 Lab에서 실행 중인 추론 런타임(vLLM, SGLang, Ollama)을 외부에서 호출할 수 있습니다.

사전 조건

• Training Lab 생성 시 서비스 정보 입력 영역의 Endpoint URL을 사용으로 설정해야 합니다.
  주의

  Training Lab를 생성한 후에는 사용 여부를 변경할 수 없습니다.
• Training Lab의 상태가 Running 상태여야 합니다.
• Command에 입력한 런타임이 정상적으로 기동되어 있어야 합니다.

Endpoint URL 구조

Endpoint URL은 다음과 같은 형식으로 발급됩니다.

https://<Endpoint 도메인>/<Account ID>/<Training Lab명>

Endpoint 호출하기

Endpoint를 호출하려면 다음 절차를 따르세요.

1. 모든 서비스 > AI/ML > Simple AI Training 메뉴를 클릭하세요. Simple AI Training의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 Training Lab 메뉴를 클릭하세요. Training Lab 목록 페이지로 이동합니다.
3. Training Lab 목록 페이지에서 Endpoint를 호출할 자원을 선택하세요. Training Lab 상세 페이지로 이동합니다.
4. Training Lab 상세 페이지의 상세 정보 탭에서 Endpoint URL을 확인하세요.
5. Training Lab 생성 시 발급받은 Token을 준비하세요.
6. 요청 헤더에 x-sat-token: 을 추가하고, Endpoint URL 뒤에 런타임의 API 경로를 붙여 호출하세요.
   • vLLM, SGLang: OpenAI 호환 API(/v1/…)를 제공합니다.

# 모델 목록 조회
curl https://<Endpoint 도메인>/<Account ID>/<Training Lab명>/v1/models \
  -H "x-sat-token: <Token>"

# 채팅 완성 요청
curl https://<Endpoint 도메인>/<Account ID>/<Training Lab명>/v1/chat/completions \
  -H "x-sat-token: <Token>" \
  -H "Content-Type: application/json" \
  -d '{
        "model": "<모델명>",
        "messages": [{"role": "user", "content": "안녕하세요"}]
      }'

* **Ollama**: Ollama API(<code>/api/...</code>)와 OpenAI 호환 API(</code>/v1/...<code>)를 제공합니다.

# 모델 목록 조회
curl https://<Endpoint 도메인>/<Account ID>/<Training Lab명>/api/tags \
  -H "x-sat-token: <Token>"

# 생성 요청
curl https://<Endpoint 도메인>/<Account ID>/<Training Lab명>/api/generate \
  -H "x-sat-token: <Token>" \
  -H "Content-Type: application/json" \
  -d '{"model": "<모델명>", "prompt": "안녕하세요"}'

OLLAMA_HOST=0.0.0.0:11434 ollama serve

Token 재생성하기

Token을 분실했거나 노출이 우려되는 경우 Token을 다시 발급할 수 있습니다.

1. 모든 서비스 > AI/ML > Simple AI Training 메뉴를 클릭하세요. Simple AI Training의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 Training Lab 메뉴를 클릭하세요. Training Lab 목록 페이지로 이동합니다.
3. Training Lab 목록 페이지에서 Token을 재생성할 자원을 클릭하세요. Training Lab 상세 페이지로 이동합니다.
4. Training Lab 상세 페이지에서 상세 정보 탭의 Token 재생성 항목에 있는 Create 버튼을 클릭하세요.
5. 재생성을 알리는 팝업창이 열리면 확인 버튼을 클릭하세요. 새로 발급된 Token이 표시됩니다.

Training Lab 삭제하기

사용하지 않는 Training Lab을 삭제할 수 있습니다. Training Lab을 삭제하려면 다음 절차를 따르세요.

1. 모든 서비스 > AI/ML > Simple AI Training 메뉴를 클릭하세요. Simple AI Training의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 Training Lab 메뉴를 클릭하세요. Training Lab 목록 페이지로 이동합니다.
3. Training Lab 목록 페이지에서 삭제할 자원을 선택한 후, 목록 상단의 삭제 버튼을 클릭하세요.
   • Training Lab 목록에서 삭제할 Training Lab의 삭제 버튼을 클릭하거나 Training Lab의 상세 페이지에서 Training Lab 삭제 버튼을 클릭하여 개별적으로 해제할 수도 있습니다.
4. 삭제를 알리는 팝업창이 열리면 확인 버튼을 클릭하세요.