AI 게이트웨이 구성 및 인증

셀프 호스팅 모델에 대한 다양한 AI 게이트웨이 구성 및 인증 프로세스에 대해 알아봅니다.

히스토리 GitLab 17.1에서 ai_custom_model 이라는 플래그 와 함께 도입됨 . 기본적으로 비활성화됨. GitLab 17.6에서 GitLab Self-Managed에서 활성화됨 . GitLab 17.6 이상에서 GitLab Duo 애드온이 필요하도록 변경됨. GitLab 17.8에서 기능 플래그 ai_custom_model 제거됨. GitLab 17.9에서 일반 제공됨. GitLab 18.0에서 Premium을 포함하도록 변경됨. 셀프 관리형 고객을 위한 두 가지 AI 게이트웨이 구성 옵션이 있습니다: GitLab.com AI 게이트웨이 : GitLab Self-Managed 고객의 기본 구성입니다. GitLab이 선택한 외부 대형 언어 모델(LLM) 제공업체(예: Google Vertex 또는 Anthropic)와 함께 GitLab이 관리하는 AI 게이트웨이를 사용합니다. 셀프 호스팅 AI 게이트웨이 : GitLab이 제공하는 외부 언어 제공업체에 의존하지 않고 인프라에서 자체 AI 게이트웨이와 언어 모델을 배포하고 관리합니다. GitLab.com AI 게이트웨이 # 이 구성에서 GitLab 인스턴스는 Google Vertex 또는 Anthropic과 같은 외부 AI 벤더와 통신하는 외부 GitLab AI 게이트웨이에 의존하고 요청을 전송합니다. 응답은 GitLab 인스턴스로 다시 전달됩니다. Mermaid 다이어그램 (16줄) 소스 코드 보기 sequenceDiagram accTitle: GitLab.com AI Gateway flow accDescr: User requests are processed through a self-hosted GitLab instance, external AI Gateway, and AI vendor. actor User as User participant SelfHostedGitLab as Self-hosted GitLab (Your Instance) participant GitLabAIGateway as GitLab AI Gateway (External) participant GitLabAIVendor as GitLab AI Vendor (External) User ->> SelfHostedGitLab: Send request SelfHostedGitLab ->> SelfHostedGitLab: Check if self-hosted model is configured SelfHostedGitLab ->> GitLabAIGateway: Forward request for AI processing GitLabAIGateway ->> GitLabAIVendor: Create prompt and send request to AI model server GitLabAIVendor -->> GitLabAIGateway: Respond to the pro