자체 호스팅 모델 문제 해결

GitLab Duo Self-Hosted 배포를 위한 문제 해결 팁

히스토리 GitLab 17.1에서 ai_custom_model 이라는 기능 플래그와 함께 도입 되었습니다. 기본적으로 비활성화되어 있습니다. GitLab 17.6에서 GitLab Self-Managed에서 활성화 되었습니다. GitLab 17.6 이상에서 GitLab Duo 애드온이 필요하도록 변경되었습니다. GitLab 17.8에서 기능 플래그 ai_custom_model 이 제거되었습니다. GitLab 17.9에서 일반 제공됩니다. GitLab 18.0에서 Premium을 포함하도록 변경되었습니다. GitLab 18.5에서 GitLab Dedicated for Government에서 활성화 되었습니다. 문제 해결을 시작하기 전에 다음을 준비해야 합니다. gitlab-rails 콘솔 에 접근할 수 있어야 합니다. AI Gateway Docker 이미지에서 셸을 엽니다. 다음 항목이 호스팅된 엔드포인트를 알고 있어야 합니다. AI Gateway가 호스팅된 엔드포인트 모델이 호스팅된 엔드포인트 GitLab에서 AI Gateway로 오가는 요청과 응답이 llm.log 에 기록되도록 로깅을 활성화 합니다. GitLab Duo 문제 해결에 대한 자세한 내용은 다음을 참고합니다. GitLab Duo 문제 해결 . Code Suggestions 문제 해결 . GitLab Duo Chat 문제 해결 . 디버깅 스크립트 사용 # 관리자가 자체 호스팅 모델 구성을 검증할 수 있도록 두 가지 디버깅 스크립트를 제공합니다. GitLab과 AI Gateway 사이의 연결을 디버그합니다. GitLab 인스턴스에서 Rake 태스크 를 실행합니다. gitlab-rake "gitlab:duo:verify_self_hosted_setup[<username>]" 선택 사항: 할당된 시트가 있는 <username> 을 포함합니다. username 파라미터를 포함하지 않으면 Rake 태스크는 root 사용자를 사용합니다. AI Gateway 설정을 디버그합니다. AI Gateway 컨테이너에서 다음을 수행합니다. 다음을 설정하여 인증을 비활성화한 상태로 AI Gateway 컨테이너를 재시작합니다. -e AIGW_AUTH__BYPASS_EXTERNAL=true 문제 해결 명령이 System Exchange test 를 실행하려면 이 설정이 필요합니다. 문제 해결을 마친 뒤에는 이 설정을 제거해야 합니다. AI Gateway 컨테이너에서 다음을 실행합니다. docker exec -it <ai-gateway-container> sh poetry run troubleshoot [options] troubleshoot 명령은 다음 옵션을 지원합니다. Option Default Example Description --endpoint localhost:5052 --endpoint=localhost:5052 AI Gateway 엔드포인트 --duo-workflow-endpoint localhost:50052 --duo-workflow-endpoint=local