GitLab Duo Self-Hosted: Ollama 통합을 포함한 완전한 AWS/Google Cloud 배포 가이드

Ollama를 통한 자체 호스팅 LLM과 함께 GitLab Duo Self-Hosted를 배포하는 단계별 가이드로, AWS 및 Google Cloud 설정, AI Gateway 통합 및 기능 구성을 다룹니다.

이 문서는 Ollama에서 Mistral 모델을 실행하는 자체 호스팅 대형 언어 모델 (LLM)과 함께 GitLab 및 GitLab Duo의 설치 및 통합에 대해 설명합니다. 이 가이드는 3개의 가상 머신을 사용하는 설정을 설명하며 AWS 또는 GCP에서 따를 수 있습니다. 물론 이 프로세스는 다른 배포 플랫폼에도 적용 가능합니다. 이 가이드는 원하는 설정을 작동시키기 위한 포괄적인 엔드투엔드 지침입니다. 최종 구성 생성을 지원하기 위해 사용된 GitLab 문서의 여러 영역에 대한 참조를 언급합니다. 참조된 문서는 특정 시나리오에 맞게 구현을 조정하는 데 더 많은 배경이 필요할 때 중요합니다. GitLab Duo Self-Hosted: Ollama 통합을 포함한 완전한 AWS/Google Cloud 배포 가이드 사전 요구 사항 가상 머신 리소스 및 운영 체제 네트워킹 GitLab 라이선스 SSL/TLS 소개 설치 AI Gateway Ollama 설치 모델 배포 통합 루트 사용자를 위한 GitLab Duo 활성화 GitLab에서 Self-Hosted 모델 구성 확인 사전 요구 사항 # 가상 머신 # 리소스 및 운영 체제 # GitLab, GitLab AI Gateway 및 Ollama 각각을 별도의 가상 머신에 설치합니다. 이 가이드에서 Ubuntu 24.0x를 사용했지만 조직의 요구 사항과 선호도에 맞는 Unix 기반 운영 체제를 자유롭게 선택할 수 있습니다. 그러나 이 설정에서는 Unix 기반 운영 체제를 사용하는 것이 필수입니다. 이는 시스템 안정성, 보안 및 필요한 소프트웨어 스택과의 호환성을 보장합니다. 이 설정은 테스트 및 평가 단계를 위한 비용과 성능 간의 적절한 균형을 제공하지만, 사용 요구 사항과 팀 크기에 따라 프로덕션으로 전환 시 GPU 인스턴스 유형을 업그레이드해야 할 수 있습니다. GCP AWS OS 디스크 GitLab c2-standard-4 c6xlarge Ubuntu 24 50 GB AI Gateway e2-medium t2.medium Ubuntu 24 20 GB Ollama n1-standard-4 g4dn.xlarge Ubuntu 24 50 GB 컴포넌트 및 목적에 대한 자세한 내용은 AI Gateway 를 참조하세요. Mermaid 다이어그램 (7줄) 소스 코드 보기 %%{init: { "fontFamily": "GitLab Sans" }}%% flowchart LR accTitle: GitLab Duo Self-Hosted 아키텍처 accDescr: GitLab Ultimate에서 AI Gateway로의 흐름을 보여주고, Ollama에서 실행 중인 Mistral에 연결됩니다. A[GitLab<br/>Ultimate] --> C C[GitLab<br/>AI Gateway] --> B[Ollama<br/>Mistral]</code></pre></details>&#x3