GitLab Duo Self-Hosted: AWS Bedrock BYOM 배포 가이드

빈 EC2 인스턴스에서 시작해 AWS Bedrock을 LLM 공급자로 사용하는 GitLab Duo Self-Hosted AI 모델 배포 방법을 설명합니다.

이 가이드는 AWS Bedrock을 사용하는 자체 호스팅 AI 모델과 함께 GitLab을 배포하는 과정을 안내합니다. 빈 EC2 인스턴스에서 시작해 Duo Agent Platform(DAP) 플로우가 작동하는 상태까지 이끌어 드립니다. 모든 명령어는 복사·붙여넣기 가능하며, 자주 발생하는 실수도 모두 문서화되어 있습니다. 이 가이드에서는 AWS Bedrock을 LLM 공급자로 사용하여 GitLab(Docker)과 AI Gateway(Docker Compose)를 단일 EC2 인스턴스에서 나란히 실행합니다. 이 아키텍처는 개념 증명(PoC) 및 평가 배포에 적합합니다. 프로덕션 배포에 대해서는 참조 아키텍처 를 참조하세요. 사전 요구사항 # 시작하기 전에 다음이 필요합니다. 요구사항 세부 정보 AWS 계정 타깃 리전(us-east-1 권장)에서 Bedrock 액세스가 활성화된 계정. EC2 인스턴스 t3.xlarge 최소 사양(4 vCPU, 16 GB RAM). 프로덕션에는 t3.2xlarge 권장(8 vCPU, 32 GB). 도메인 이름 EC2 인스턴스를 가리키는 두 개의 DNS 레코드: gitlab.example.com 및 aigw.example.com. GitLab 라이선스 Premium 또는 Ultimate. 클래식 Duo 기능(Chat, Code Suggestions)은 Duo 시트 할당이 필요합니다. 온라인 라이선스로 사용하는 DAP(GitLab 18.9 이상)는 GitLab 크레딧을 통한 사용량 기반 결제를 사용하며 Duo Enterprise 시트가 필요 없습니다. 오프라인 라이선스로 사용하는 DAP의 경우 ELA 옵션에 대해 GitLab 계정 팀에 문의하세요. SSH 액세스 EC2 인스턴스에 대한 SSH 액세스. 보안 그룹 인바운드 포트 80, 443, 8443 개방. 아키텍처 개요 # %%{init: { "fontFamily": "GitLab Sans" }}%% flowchart LR accTitle: GitLab Duo Self-Hosted with AWS Bedrock architecture accDescr: Shows the flow from a browser to GitLab on EC2, which connects to the AI Gateway sidecar, which routes LLM requests to AWS Bedrock. A[Browser / IDE] --> B[GitLab EE<br/>Port 443] B --> C[AI Gateway<br/>Port 5052 HTTP<br/>Port 50052 gRPC] C --> D[AWS Bedrock<br/>Claude / GPT] AI Gateway는 GitLab 옆에서 사이드카 컨테이너로 실행됩니다. GitLab에 내장된 NGINX가 HTTPS 및 gRPC 트래픽을 AI Gateway로 프록시합니다. AI Gateway는 LLM 요청을 AWS Bedrock으로 전달합니다. DAP 플로우에는 포트 8443이 필요합니다.