How-to guides

• 1: 클러스터 배포
• 2: Kubeflow 사용 가이드

1 - 클러스터 배포

클러스터 배포 영역

Samsung Cloud Platform에서 AI&MLOps Platform 생성의 서비스 유형 선택에서 2가지의 클라우드 배포 영역을 제공하고 있습니다.

• SCP Kubernetes Engine에서 배포
• 새 클러스터에 배포

클러스터 배포 영역의 선택에 따라 AI&MLOps Platform 생성의 서비스 정보 입력 페이지의 설치 내용이 달라집니다.

SCP Kubernetes Engine에서 배포

1. 모든 서비스 > AI/ML > AI&MLOps Platform 메뉴를 클릭하세요. AI&MLOps Platform의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 AI&MLOps Platform 생성 버튼을 클릭하세요. AI&MLOps Platform 생성 페이지로 이동합니다.
3. AI&MLOps Platform 생성의 서비스 유형 선택 페이지에서 서비스 생성에 필요한 정보들을 입력하고, 상세 옵션을 선택하세요.
   클러스터 배포

   SCP Kubernetes Engine에서 배포 옵션을 선택하세요.
4. AI&MLOps Platform 생성의 서비스 정보 입력 페이지에서 서비스 생성에 필요한 정보들을 입력하고, 상세 옵션을 선택하세요.
   • 서비스 정보 입력 영역에서 서비스 생성에 필요한 정보들을 입력하거나 조회하세요.

     구분	필수 여부	상세 설명
     서비스명	필수	AI&MLOps Platform 이름 입력 AI&MLOps Platform 이름은 프로젝트 내에서 중복하여 사용 불가
     Storage Class	필수	Storage Class는 자동으로 등록
     설치 노드 정보	조회	선택한 Kubernetes Engine의 노드 정보를 확인
     Admin Email Address	필수	로그인 시 사용할 관리자(Admin)의 이메일 주소 입력
     비밀번호	필수	로그인 시 사용할 비밀번호를 입력
     비밀번호 확인	필수	비밀번호 오류를 방지하기 위해 비밀번호 재입력

     표. AI&MLOps Platform 서비스 정보 입력 항목
   • 추가 정보 입력 영역에서 서비스 생성에 필요한 정보들을 입력하거나 선택하세요.

     구분	필수 여부	상세 설명
     태그	선택	AI&MLOps Platform에 추가할 태그 선택 태그 추가를 클릭하면 태그를 생성하여 추가하거나 기존 태그를 추가 태그는 최대 50개까지 등록 추가한 신규 태그는 서비스 생성 완료 후 적용

     표. AI&MLOps Platform 서비스 추가 정보 입력 항목

새 클러스터에 배포

1. 모든 서비스 > AI/ML > AI&MLOps Platform 메뉴를 클릭하세요. AI&MLOps Platform의 Service Home 페이지로 이동합니다.
2. Service Home 페이지에서 AI&MLOps Platform 생성 버튼을 클릭하세요. AI&MLOps Platform 생성 페이지로 이동합니다.
3. AI&MLOps Platform 생성의 서비스 유형 선택 페이지에서 서비스 생성에 필요한 정보들을 입력하고, 상세 옵션을 선택하세요.
   클러스터 배포

   새 클러스터에 배포 옵션을 선택하세요.
4. AI&MLOps Platform 생성의 서비스 정보 입력 페이지에서 서비스 생성에 필요한 정보들을 입력하고, 상세 옵션을 선택하세요.

   • 서비스 정보 입력 영역에서 서비스 생성에 필요한 정보들을 입력하거나 조회하세요.

     구분	필수 여부	상세 설명
     서비스명	필수	AI&MLOps Platform 이름 입력 AI&MLOps Platform 이름은 프로젝트 내에서 중복하여 사용 불가
     Storage Class	필수	Storage Class는 자동으로 등록
     설치 노드 정보	조회	선택한 Kubernetes Engine의 노드 정보를 확인
     Admin Email Address	필수	로그인 시 사용할 관리자(Admin)의 이메일 주소를 입력
     비밀번호	필수	로그인 시 사용할 비밀번호를 입력
     비밀번호 확인	필수	비밀번호 오류를 방지하기 위해 비밀번호 재입력

     표. AI&MLOps Platform 서비스 정보 입력 항목

   • Kubernetes Engine 정보입력 영역에서 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     클러스터명	필수	클러스터 이름 영문으로 시작하며 영문, 숫자, 특수문자(-) 사용 3~30자 이내로 입력
     제어 영역 설정 > Kubernetes 버전	필수	Kubernetes 버전 선택
     제어 영역 설정 > 제어 영역 로깅	선택	제어 영역 로깅 사용 여부 선택 클러스터 제어 영역의 Audit/Event 로그를 Cloud Monitoring의 로그 분석에서 확인 가능 Account 내 전체 서비스 대상으로 1GB의 로그 저장은 무료로 제공되며, 1GB가 넘을 경우 순차적으로 삭제됨 자세한 내용은 Cloud Monitoring > 로그 분석을 참고
     네트워크 설정	필수	노드 풀의 네트워크 연결 설정 VPC: 미리 생성한 VPC를 선택 Subnet: 선택한 VPC의 서브넷 중 사용할 일반 Subnet을 선택 Security Group: 검색 버튼을 클릭한 후 Security Group 선택 팝업창에서 Security Group을 선택 Load Balancer: Kubernetes Service 객체에서 type:LoadBalancer 기능 제공 동일 네트워크 상의 로드 밸런서를 선택 사용 여부를 선택 설정 후에는 변경 불가
     File Storage 설정	필수	클러스터에서 사용할 파일 스토리지 볼륨을 선택 기본 볼륨(NFS): 검색 버튼을 통해 File Storage를 선택 기본 Volume 파일 스토리지는 NFS 형식만 제공

     표. Kubernetes Engine 서비스 정보 입력 항목

   • 노드 풀 정보 입력 영역에서 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     노드 풀 구성	필수	노드 풀 정보를 선택 * 표시된 항목은 필수 입력 항목이므로 반드시 입력 AI&MLOps Platform의 경우 사용에 따라 이미지 용량이 지속적으로 늘어날 수 있으므로 Block Storage를 최소 200GB 이상으로 설정 시 원활한 시스템 구성이 가능

     표. AI&MLOps Platform 서비스 정보 입력 항목
     참고

     • Windows OS의 노드 풀은 클러스터에서 추가 스토리지(CIFS) 볼륨이 사용 중인 경우에만 생성할 수 있습니다.
     • 노드 풀 Block Storage의 볼륨 암호화는 최초 생성 시에만 설정할 수 있습니다.
       • 암호화를 설정하면 일부 기능의 성능 저하가 발생할 수 있습니다.
     • 노드 풀 자동 확장 또는 축소 기능을 사용으로 선택한 경우에만 노드 수, 최소 노드 수, 최대 노드 수 를 입력할 수 있습니다.

   • 추가 정보 입력 영역에서 필요한 정보를 입력 또는 선택하세요.

     구분	필수 여부	상세 설명
     태그	선택	AI&MLOps Platform에 추가할 태그 선택 태그 추가를 클릭하면 태그를 생성하여 추가하거나 기존 태그를 추가 태그는 최대 50개까지 등록 추가한 신규 태그는 서비스 생성 완료 후 적용

     표. AI&MLOps Platform 서비스 정보 입력 항목

클러스터 사양

AI&MLOps Platform을 이용하려면 AI&MLOps Platform을 설치할 Kubernetes Engine이 필요합니다. 기존에 생성한 Kubernetes Engine을 선택하거나, AI&MLOps Platform 생성 시 함께 Kubernetes Engine을 생성할 수 있습니다.

설치에 필요한 Kubernetes 클러스터의 사양은 다음과 같습니다.

• 노드 풀 자원 규모 (2개 이상의 노드로 구성)

  • AI&MLOps Platfom : vCPU 32, Memory 128G 이상
  • Kubeflow Mini: vCPU 24, Memory 96G 이상

• Kubernetes 버전

  • AI&MLOps Platform v1.9.1 (k8s v1.30)
  • Kubeflow Mini v1.9.1 (k8s v1.30)

2 - Kubeflow 사용 가이드

아래에서는 Kubeflow를 생성한 후, Kubeflow의 사용 방법에 대해 가이드합니다.

Kubeflow 사용자 추가

아래에서는 Kubeflow를 생성한 이후의 Kubeflow의 사용 방법에 대해 가이드합니다.

Kubeflow는 설치 초기 화면에서 입력한 Admin User 1명의 계정만 생성되어있습니다.

Kubeflow Dashboard 이용 시, 초기 사용자 이외에 사용자를 추가하기 위해서는 Dex(Kubeflow의 인증 연계 컴포넌트)의 설정을 변경해야 합니다.

• Dex는 auth 네임스페이스(namespace)에 배포되며, 환경설정은 dex 라는 이름의 configmap 으로 저장되어 있습니다.

다음은 Dex 환경 설정의 예시입니다.

apiVersion: v1
kind: ConfigMap
metadata:
  name: dex
  namespace: auth
data:
  config.yaml: |
    issuer: http://dex.auth.svc.cluster.local:5556/dex
    storage:
      type: kubernetes
      config:
        inCluster: true
    web:
      http: 0.0.0.0:5556
    logger:
      level: "debug"
      format: text
    oauth2:
      skipApprovalScreen: true
    enablePasswordDB: true
    staticPasswords:
    - email: admin@kubeflow.org
      hash: $2y$10$Yb9WVbn8pzVSM6fBgKdFae1Bh6Z.XTihi7bNu3sB6/h5bt1JuUOgq
      username: admin
      userID: 9cb67307-fd6d-4441-9b59-52acd78f4c9e
    staticClients:
    - id: kubeflow-oidc-authservice
      redirectURIs: ["/login/oidc"]
      name: 'Dex Login Application'
      secret: pUBnBOY80SnXgjibTYM9ZWNzY2xreNGQok    

apiVersion: v1
kind: ConfigMap
metadata:
  name: dex
  namespace: auth
data:
  config.yaml: |
    issuer: http://dex.auth.svc.cluster.local:5556/dex
    storage:
      type: kubernetes
      config:
        inCluster: true
    web:
      http: 0.0.0.0:5556
    logger:
      level: "debug"
      format: text
    oauth2:
      skipApprovalScreen: true
    enablePasswordDB: true
    staticPasswords:
    - email: admin@kubeflow.org
      hash: $2y$10$Yb9WVbn8pzVSM6fBgKdFae1Bh6Z.XTihi7bNu3sB6/h5bt1JuUOgq
      username: admin
      userID: 9cb67307-fd6d-4441-9b59-52acd78f4c9e
    staticClients:
    - id: kubeflow-oidc-authservice
      redirectURIs: ["/login/oidc"]
      name: 'Dex Login Application'
      secret: pUBnBOY80SnXgjibTYM9ZWNzY2xreNGQok    

환경 설정에서 enablePasswordDB 값이 true인 경우, Dex는 서비스 기동 시 configmap 에서 staticPasswords 에 정의된 사용자 목록을 내부 저장소에 저장합니다. 따라서 staticPasswords에 email, hash, username, userID 로 구성된 신규 사용자 값을 추가하게 되면 초기 사용자 이외에도 사용자를 자유롭게 추가하여 Kubeflow 서비스 이용이 가능합니다.

사용자를 추가하기 위한 속성값은 다음과 같이 정의할 수 있습니다.

kubectl을 사용할 수 있는 노드에서 다음 명령어를 이용해 dex configmap의 수정 화면으로 진입합니다.

kubectl edit configmap dex -n auth

kubectl edit configmap dex -n auth

staticPasswords:
    - email: admin@kubeflow.org
      hash: $2y$10$Yb9WVbn8pzVSM6fBgKdFae1Bh6Z.XTihi7bNu3sB6/h5bt1JuUOgq
      username: admin
      userID: 9cb67307-fd6d-4441-9b59-52acd78f4c9e
    - email: sds@samsung.com
      hash: $2y$12$0g5.y86jnrt0v6In5NRCZ.YVuvrAUQ6j/RJYO3rV.kNulaDALOKfq
      username: sds
      userID: 8961d517-3498-4148-90c9-7e442ee91154

staticPasswords:
    - email: admin@kubeflow.org
      hash: $2y$10$Yb9WVbn8pzVSM6fBgKdFae1Bh6Z.XTihi7bNu3sB6/h5bt1JuUOgq
      username: admin
      userID: 9cb67307-fd6d-4441-9b59-52acd78f4c9e
    - email: sds@samsung.com
      hash: $2y$12$0g5.y86jnrt0v6In5NRCZ.YVuvrAUQ6j/RJYO3rV.kNulaDALOKfq
      username: sds
      userID: 8961d517-3498-4148-90c9-7e442ee91154

configmap의 staticPasswords 값은 Dex 서비스가 기동되는 시점에 반영되기 때문에 Dex 서비스를 다음 명령어로 재기동합니다.

kubectl rollout restart deployment dex -n auth

kubectl rollout restart deployment dex -n auth

신규 사용자 정보를 이용해 로그인을 시도합니다

정상적으로 로그인 되어 새로운 Namespace(profile)을 생성하는 화면으로 전환되는것을 확인합니다.

위 내용은 Kubeflow 공식 사이트를 참고하여 작성하였습니다. 자세한 내용은 Kubeflow Profiles 참고하세요.

Kubeflow Jupyter Notebook의 Custom Image 활용방법

Kubeflow의 Notebook Life Cycle을 관리하는 Kubeflow Notebook Controller에서 Custom Image를 사용하기 위해서는 몇 가지 요구사항을 만족해야 합니다.

Kubeflow는 Notebook 이미지가 실행되면 Jupyter가 자동으로 시작되는 것으로 인식합니다. 그래서 컨테이너 이미지에 Jupyter를 시작하는 기본 명령을 설정해야 합니다.

다음은 Dockerfile에 포함해야 하는 내용의 예시입니다.

ENV NB_PREFIX /

CMD ["sh","-c", "jupyter notebook --notebook-dir=/home/${NB_USER} --ip=0.0.0.0 --no-browser --allow-root --port=8888 --NotebookApp.token='' --NotebookApp.password='' --NotebookApp.allow_origin='*' --NotebookApp.base_url=${NB_PREFIX}"]

ENV NB_PREFIX /

CMD ["sh","-c", "jupyter notebook --notebook-dir=/home/${NB_USER} --ip=0.0.0.0 --no-browser --allow-root --port=8888 --NotebookApp.token='' --NotebookApp.password='' --NotebookApp.allow_origin='*' --NotebookApp.base_url=${NB_PREFIX}"]

위 항목을 설명하면 아래와 같습니다.

Custom Image 생성은 tesorflow notebook image를 생성하는 Dockerfile을 참고하여 생성할 수 있습니다.

• https://github.com/kubeflow/kubeflow/blob/v1.2.0/components/tensorflow-notebook-image/Dockerfile 참고하세요.

1. Notebook Servers 페이지에서 +NEW SERVER 버튼을 클릭하세요.

   

2. 일단 Custom Image를 생성했다면 kubeflow Notebook Server 화면에서 Custom Image를 체크하고, Custom Image의 주소 를 입력하여 새로운 Notebook Server를 생성합니다.