셀프 호스팅 모델을 사용하도록 GitLab 구성

셀프 호스팅 모델을 GitLab 인스턴스와 통합하는 방법을 알아봅니다.

히스토리 GitLab 17.1에서 ai_custom_model 이라는 기능 플래그 와 함께 도입되었습니다 . 기본적으로 비활성화되어 있습니다. GitLab 17.6에서 GitLab Self-Managed에 활성화되었습니다 . GitLab 17.6 이상에서 GitLab Duo 애드온을 요구하도록 변경되었습니다. GitLab 17.8에서 기능 플래그 ai_custom_model 이 제거되었습니다. GitLab 17.9에서 UI로 AI Gateway URL을 설정하는 기능이 추가되었습니다 . GitLab 17.9에서 일반 제공되었습니다. GitLab 18.0에서 Premium을 포함하도록 변경되었습니다. GitLab 18.5에서 GitLab Dedicated for Government에 활성화되었습니다 . 사전 요구 사항: GitLab을 17.9 이상 버전으로 업그레이드합니다 . 관리자여야 합니다. 인프라의 셀프 호스팅 모델에 접근하도록 GitLab 인스턴스를 구성하는 방법은 다음과 같습니다. AI Gateway에 접근하도록 GitLab 인스턴스를 구성합니다. GitLab 18.4 이상에서는 GitLab Duo Agent Platform 서비스에 접근하도록 GitLab 인스턴스를 구성합니다. GitLab 인스턴스에 셀프 호스팅 모델을 추가합니다. 기능에 사용할 셀프 호스팅 모델을 선택합니다. 로컬 AI Gateway에 대한 접근 구성 # GitLab 인스턴스와 로컬 AI Gateway 사이의 접근을 구성하는 방법은 다음과 같습니다. 오른쪽 상단에서 Admin 을 선택합니다. 왼쪽 사이드바에서 GitLab Duo 를 선택합니다. Change configuration 을 선택합니다. Local AI Gateway URL 아래에 AI Gateway URL을 입력합니다. Save changes 를 선택합니다. Note AI Gateway URL 이 로컬 네트워크나 사설 IP 주소(예: 172.31.x.x 또는 ip-172-xx-xx-xx.region.compute.internal 같은 내부 호스트 이름)를 가리키면 GitLab 이 보안상의 이유로 요청을 차단할 수 있습니다. 이 주소로의 요청을 허용하려면 해당 주소를 IP 허용 목록에 추가합니다 . AI Gateway 타임아웃 구성 # 히스토리 GitLab Self-Managed용으로 GitLab 18.7에서 도입되었습니다 . GitLab 19.2에서 GitLab Dedicated에 제공됩니다 . 리소스를 아끼고 장시간 실행되는 쿼리를 방지하려면, 모델 응답을 기다리는 동안 GitLab 이 AI Gateway에 보내는 요청의 타임아웃을 구성합니다. 컨텍스트 창이 크거나 쿼리가 복잡한 셀프 호스팅 모델에는 더 긴 타임아웃을 사용합니다. 타임아웃은 60 초에서 600 초(10 분) 사이로 구성할 수 있습니다. 타임아웃을 설정하지 않으면 GitLab은 기본값인 60 초를 사용합니다. AI Gateway 타임아웃을 구성하는 방법은 다음과 같습니다. 오른쪽 상단에서 Admin 을 선택합니다. 왼쪽 사이드바에서