자체 호스팅 모델
Offering: GitLab Self-Managed
선택한 LLM으로 GitLab Duo 기능을 사용하기 위해 자체 AI 인프라를 호스팅하세요. 다양한 배포 옵션으로 자체 호스팅 모델을 사용할 수 있습니다. GitLab Duo Agent Platform에서 온프레미스 모델이나 프라이빗 클라우드 호스팅 모델에 GitLab Duo Agent Platform Self-Hosted를 사용하세요.
히스토리
- GitLab 17.1에서
ai_custom_model이라는 플래그와 함께 도입됨. 기본값으로 비활성화됨. - GitLab 17.6에서 GitLab Self-Managed에서 활성화됨.
- GitLab 17.6 이후 GitLab Duo 추가 기능이 필요하도록 변경됨.
- GitLab 17.8에서 기능 플래그
ai_custom_model제거됨. - GitLab 17.9에서 일반적으로 사용 가능해짐.
- GitLab 18.0에서 Premium을 포함하도록 변경됨.
- GitLab 18.8에서 오프라인 라이선스의 GitLab Duo Agent Platform Self-Hosted 추가 기능이 필요하도록 변경됨.
- GitLab 18.9에서 온라인 라이선스의 GitLab Duo Agent Platform 기능의 사용량 기반 청구로 변경됨.
선택한 LLM으로 GitLab Duo 기능을 사용하기 위해 자체 AI 인프라를 호스팅하세요. 자체 호스팅 AI 게이트웨이를 사용하여 모든 요청 및 응답 데이터를 자체 환경에 유지하고, 외부 API 호출을 방지하며, LLM 백엔드에 대한 요청의 전체 수명 주기를 관리하세요.
배포 옵션#
다양한 배포 옵션으로 자체 호스팅 모델을 사용할 수 있습니다.
GitLab Duo Agent Platform#
GitLab Duo Agent Platform에서 온프레미스 모델이나 프라이빗 클라우드 호스팅 모델에 GitLab Duo Agent Platform Self-Hosted를 사용하세요.
오프라인 라이선스를 가진 고객의 경우 청구는 GitLab Duo에 대한 기업 라이선스 계약을 사용하며 GitLab Duo Agent Platform Self-Hosted 추가 기능이 있어야 합니다.
온라인 라이선스를 가진 고객의 경우 청구는 사용량 기반입니다. 하이브리드 배포에서 GitLab 관리 모델도 사용할 수 있습니다.
GitLab Duo#
GitLab Duo Self-Hosted는 GitLab Duo Enterprise를 사용하는 고객이 GitLab Duo 기능을 사용하기 위한 것입니다. 다음을 사용할 수 있습니다:
- 온프레미스 모델 또는 프라이빗 클라우드 호스팅 모델
- 하이브리드 배포에서 GitLab 관리 모델
이 옵션은 시트 기반 가격 책정을 사용합니다.
기능 버전 및 상태#
다음 표는 다음을 나열합니다:
- 기능을 사용하는 데 필요한 GitLab 버전.
- 기능 상태. 배포의 기능 상태는 기능에 나열된 상태와 다를 수 있습니다.
GitLab Duo Self-Hosted로 GitLab Duo 기능을 사용하려면 GitLab Duo Enterprise 추가 기능이 있어야 합니다. GitLab이 클라우드 기반 AI 게이트웨이를 통해 해당 모델에 호스팅하고 연결할 때 GitLab Duo Core 또는 GitLab Duo Pro로 이러한 기능을 사용할 수 있더라도 이는 적용됩니다.
| 기능 | GitLab 버전 | 상태 |
|---|---|---|
| GitLab Duo Agent Platform | GitLab 18.8 이후 | 일반 가용성 |
| GitLab Duo | ||
| 코드 제안 | GitLab 17.9 이후 | 일반 가용성 |
| GitLab Duo 비에이전트 채팅 | GitLab 17.9 이후 | 일반 가용성 |
| 코드 설명 | GitLab 17.9 이후 | 일반 가용성 |
| 테스트 생성 | GitLab 17.9 이후 | 일반 가용성 |
| 코드 리팩터링 | GitLab 17.9 이후 | 일반 가용성 |
| 코드 수정 | GitLab 17.9 이후 | 일반 가용성 |
| 코드 리뷰 | GitLab 18.3 이후 | 일반 가용성 |
| 근본 원인 분석 | GitLab 17.10 이후 | 베타 |
| 취약점 설명 | GitLab 18.1.2 이후 | 베타 |
| 머지 커밋 메시지 생성 | GitLab 18.1.2 이후 | 베타 |
| 머지 리퀘스트 요약 | GitLab 18.1.2 이후 | 베타 |
| 토론 요약 | GitLab 18.1.2 이후 | 베타 |
| CLI용 GitLab Duo | GitLab 18.1.2 이후 | 베타 |
| 취약점 해결 | GitLab 18.1.2 이후 | 베타 |
| GitLab Duo 및 SDLC 트렌드 대시보드 | GitLab 17.9 이후 | 베타 |
| 코드 리뷰 요약 | GitLab 18.1.2 이후 | 실험 |
데이터 전송#
다음 청구 메타데이터가 JSON 객체로 사용량 청구를 위해 GitLab에 전송됩니다:
- 인스턴스 ID
- 사용자 ID
- 호출 수
- 타임스탬프
예를 들어:
{
"InstanceId": "ccbb3949-9836-471c-b2nb-32a38e8cca99",
"GlobalUserId": "KWDTe17sGSADiAzEGJ6IuL1D7RAzsXqa2wun3aX1YuA=",
"Quantity": 1,
"Timestamp": "2026-05-04 18:04:30.969000000"
}
코드 입력, 모델 프롬프트 및 모델 응답을 포함한 추론 데이터는 고객 네트워크를 벗어나지 않습니다.
GitLab은 고객이 사용하는 모델 또는 모델 공급자를 캡처하지 않습니다.
AI 게이트웨이 구성#
제품 옵션을 선택한 후 AI 게이트웨이가 LLM에 연결하는 방법을 구성합니다:
- 자체 호스팅 AI 게이트웨이 및 LLM: AI 인프라를 완전히 제어하기 위해 자체 AI 게이트웨이와 모델을 사용합니다.
- 하이브리드 AI 게이트웨이 및 모델 구성: 각 기능에 대해 자체 호스팅 AI 게이트웨이와 자체 호스팅 모델 또는 GitLab.com AI 게이트웨이와 GitLab 관리 모델 중 하나를 사용합니다.
- 기본 GitLab 외부 벤더 LLM이 있는 GitLab.com AI 게이트웨이: GitLab 관리 AI 인프라를 사용합니다.
| 구성 | 자체 호스팅 AI 게이트웨이 | 하이브리드 AI 게이트웨이 및 모델 구성 | GitLab.com AI 게이트웨이 |
|---|---|---|---|
| 인프라 요건 | 자체 AI 게이트웨이와 모델 호스팅 필요 | 자체 AI 게이트웨이와 모델 호스팅 필요 | 추가 인프라 불필요 |
| 모델 옵션 | 지원되는 자체 호스팅 모델 중에서 선택 | 각 GitLab Duo 기능에 대해 지원되는 자체 호스팅 모델 또는 GitLab 관리 모델 중에서 선택 | 기본 GitLab 관리 모델 사용 |
| 네트워크 요건 | 완전히 격리된 네트워크에서 작동 가능 | GitLab 관리 모델을 사용하는 GitLab Duo 기능에는 인터넷 연결 필요 | 인터넷 연결 필요 |
| 책임 | 인프라를 설정하고 자체적으로 유지 관리 | 인프라를 설정하고 자체적으로 유지 관리하며 어떤 기능이 GitLab 관리 모델 및 AI 게이트웨이를 사용하는지 선택 | GitLab이 설정 및 유지 관리 |
자체 호스팅 AI 게이트웨이 및 LLM#
완전히 자체 호스팅 구성에서 자체 AI 게이트웨이를 배포하고 GitLab 인프라나 AI 벤더 모델을 사용하지 않고 인프라에서 지원되는 LLM만 사용합니다. 이를 통해 데이터와 보안을 완전히 제어할 수 있습니다.
이 구성에는 자체 호스팅 AI 게이트웨이를 통해 구성된 모델만 포함됩니다. 기능에 GitLab 관리 모델을 사용하는 경우 해당 기능은 자체 호스팅 게이트웨이 대신 GitLab 호스팅 AI 게이트웨이에 연결되어 완전히 자체 호스팅이 아닌 하이브리드 구성이 됩니다.
자체 AI 게이트웨이를 배포하는 동안 모델 백엔드로 AWS Bedrock 또는 Azure OpenAI와 같은 클라우드 기반 LLM 서비스를 계속 사용할 수 있으며, 이는 자체 호스팅 AI 게이트웨이를 통해 계속 연결됩니다.
인터넷 액세스를 방지하거나 제한하는 물리적 장벽이나 보안 정책이 있는 오프라인 환경 및 포괄적인 LLM 제어가 있는 경우 이 완전히 자체 호스팅된 구성을 사용해야 합니다.
자세한 내용은 다음을 참조하세요:
하이브리드 AI 게이트웨이 및 모델 구성#
히스토리
이 하이브리드 구성에서는 대부분의 기능에 대해 자체 AI 게이트웨이와 자체 호스팅 모델을 배포하지만 특정 기능에 GitLab 관리 모델을 사용하도록 구성합니다. 기능이 GitLab 관리 모델을 사용하도록 구성된 경우 해당 기능에 대한 요청은 자체 호스팅 AI 게이트웨이 대신 GitLab 호스팅 AI 게이트웨이로 전송됩니다.
이 옵션은 다음을 허용하는 유연성을 제공합니다:
- 완전한 제어를 원하는 기능에는 자체 호스팅 모델을 사용합니다.
- GitLab이 큐레이션한 모델을 선호하는 특정 기능에는 GitLab 관리 벤더 모델을 사용합니다.
GitLab 관리 모델을 사용하도록 기능이 구성된 경우:
- 해당 기능에 대한 모든 호출은 자체 호스팅 AI 게이트웨이가 아닌 GitLab 호스팅 AI 게이트웨이를 사용합니다.
- 이러한 기능에는 인터넷 연결이 필요합니다.
- 이것은 완전히 자체 호스팅되거나 격리된 구성이 아닙니다.
GitLab 관리 모델#
자체 호스팅 인프라 없이 AI 모델에 연결하기 위해 GitLab 관리 모델을 사용합니다. 이러한 모델은 GitLab에 의해 완전히 관리됩니다.
AI 네이티브 기능에 사용할 기본 GitLab 모델을 선택할 수 있습니다. 기본 모델의 경우 GitLab은 가용성, 품질 및 안정성을 기반으로 최선의 모델을 사용합니다. 기능에 사용되는 모델은 예고 없이 변경될 수 있습니다.
특정 GitLab 관리 모델을 선택하면 해당 기능에 대한 모든 요청이 해당 모델을 독점적으로 사용합니다. 모델을 사용할 수 없게 되면 AI 게이트웨이에 대한 요청이 실패하고 다른 모델이 선택될 때까지 사용자는 해당 기능을 사용할 수 없습니다.
GitLab 관리 모델을 사용하도록 기능을 구성하는 경우:
- 해당 기능에 대한 호출은 자체 호스팅 AI 게이트웨이가 아닌 GitLab 호스팅 AI 게이트웨이를 사용합니다.
- 이러한 기능에는 인터넷 연결이 필요합니다.
- 구성이 완전히 자체 호스팅되거나 격리되지 않습니다.
기본 GitLab 외부 벤더 LLM이 있는 GitLab.com AI 게이트웨이#
GitLab Duo Self-Hosted의 사용 사례 기준을 충족하지 못하는 경우 기본 GitLab 외부 벤더 LLM이 있는 GitLab.com AI 게이트웨이를 사용할 수 있습니다.
GitLab.com AI 게이트웨이는 기본 Enterprise 오퍼링이며 자체 호스팅이 아닙니다. 이 구성에서는 인스턴스를 GitLab 호스팅 AI 게이트웨이에 연결하며, 이는 다음을 포함한 외부 벤더 LLM 공급자와 통합됩니다:
이러한 LLM은 GitLab Cloud Connector를 통해 통신하여 온프레미스 인프라 없이 바로 사용할 수 있는 AI 솔루션을 제공합니다.
자세한 내용은 GitLab.com AI 게이트웨이 구성 다이어그램을 참조하세요.
이 인프라를 설정하려면 GitLab Self-Managed 인스턴스에서 GitLab Duo를 구성하는 방법을 참조하세요.
프라이빗 인프라 설정#
오프라인 라이선스가 있는 경우 완전히 프라이빗한 인프라를 설정할 수 있습니다:
-
대규모 언어 모델(LLM) 제공 인프라를 설치하세요.
-
GitLab은 vLLM, AWS Bedrock, Azure OpenAI와 같은 LLM을 제공하고 호스팅하기 위한 다양한 플랫폼을 지원합니다. 각 플랫폼에 대한 자세한 내용은 지원되는 LLM 플랫폼 문서를 참조하세요.
-
GitLab은 특정 기능 및 하드웨어 요건이 포함된 지원 모델 매트릭스를 제공합니다. 자세한 내용은 지원되는 모델 및 하드웨어 요건 문서를 참조하세요.
-
-
GitLab Duo 기능에 액세스하기 위해 AI 게이트웨이를 설치하세요.
-
자체 호스팅 모델을 사용하도록 기능에 대해 GitLab 인스턴스를 구성하세요.
-
시스템 성능을 추적하고 관리하기 위해 로깅을 활성화하세요.