GPU 지원 호스팅 러너

GPU 지원 호스팅 러너에 대해 설명합니다.

GitLab은 ModelOps 워크로드의 일부로 LLM(Large Language Models) 훈련 또는 배포와 같은 ModelOps 또는 HPC의 대용량 컴퓨팅 워크로드를 가속화하기 위해 GPU 지원 호스팅 러너를 제공합니다. GitLab은 Linux에서만 GPU 지원 러너를 제공합니다. 이러한 러너의 작동 방식에 대한 자세한 내용은 Linux의 호스팅 러너 를 참조하세요. GPU 지원 러너에 사용 가능한 머신 유형 # 다음 머신 유형은 Linux x86-64의 GPU 지원 러너에 사용할 수 있습니다. 러너 태그 vCPU 메모리 스토리지 GPU GPU 메모리 saas-linux-medium-amd64-gpu-standard 4 15 GB 50 GB 1 NVIDIA Tesla T4 (또는 유사) 16 GB GPU 드라이버가 있는 컨테이너 이미지 # Linux의 GitLab 호스팅 러너와 마찬가지로 잡은 자체 이미지 정책으로 격리된 가상 머신(VM)에서 실행됩니다. GitLab은 호스트 VM의 GPU를 격리된 환경으로 마운트합니다. GPU를 사용하려면 GPU 드라이버가 설치된 Docker 이미지를 사용해야 합니다. NVIDIA GPU의 경우 CUDA Toolkit 을 사용할 수 있습니다. .gitlab-ci.yml 파일 예시 # 다음 .gitlab-ci.yml 파일 예시에서 NVIDIA CUDA 기반 Ubuntu 이미지가 사용됩니다. script: 섹션에서 Python을 설치합니다. gpu-job: stage: build tags: - saas-linux-medium-amd64-gpu-standard image: nvcr.io/nvidia/cuda:12.1.1-base-ubuntu22.04 script: - apt-get update - apt-get install -y python3.10 - python3.10 --version 잡을 실행할 때마다 Tensorflow 또는 XGBoost와 같은 대규모 라이브러리를 설치하지 않으려면 필요한 모든 구성 요소가 사전 설치된 자체 이미지를 만들 수 있습니다. GPU 지원 호스팅 러너를 활용하여 XGBoost 모델을 훈련하는 방법을 알아보려면 이 데모를 시청하세요: GitLab GPU 지원 호스팅 러너 비디오 데모: GitLab으로 XGBoost 모델 훈련 .