재해 복구(Geo) 승격 런북입니다.

다중 노드 구성을 위한 Geo 계획된 장애 조치#

이 런북은 보조 사이트가 하나인 다중 노드 Geo 사이트의 계획된 장애 조치 절차를 안내합니다. 다음 40 RPS / 2,000 사용자 참조 아키텍처를 전제로 합니다.

기본 사이트(다중 노드):

• Rails 노드 1
• Rails 노드 2
• PostgreSQL 노드
• Gitaly 노드
• Redis 노드
• 모니터링 노드

보조 사이트:

• Rails 노드 1
• Rails 노드 2
• PostgreSQL 노드
• Gitaly 노드
• Redis 노드
• 모니터링 노드

이 가이드를 따르면 다음 결과를 얻습니다.

1. 오프라인 상태가 된 기본 사이트.
2. 새 기본 사이트가 된 승격된 보조 사이트.

다루지 않는 내용은 다음과 같습니다.

1. 기존 기본 사이트를 보조 사이트로 다시 추가하는 방법.
2. 새 보조 사이트를 추가하는 방법.

준비#

보조 사이트에서 다음 단계를 수행합니다.

1. 오른쪽 위 모서리에서 Admin을 선택합니다.

2. 왼쪽 사이드바에서 Geo > Sites를 선택해 상태를 확인합니다. 복제된 오브젝트(녹색으로 표시)는 100%에 가까워야 하고 실패(빨간색으로 표시)는 없어야 합니다. 복제되지 않은 오브젝트(회색으로 표시)의 비중이 크다면 사이트가 복제를 마칠 수 있도록 시간을 더 두는 방안을 고려합니다.

   

복제에 실패하는 오브젝트가 있다면 유지 관리 기간을 잡기 전에 원인을 조사해야 합니다. 계획된 장애 조치 이후에는 복제되지 않은 데이터가 모두 손실됩니다.

복제 실패의 흔한 원인은 기본 사이트에 데이터가 없는 경우입니다. 이때는 백업에서 데이터를 복원하거나 누락된 데이터에 대한 참조를 제거해 문제를 해결할 수 있습니다.

Geo 복제와 검증이 완전히 끝날 때까지 유지 관리 기간은 종료되지 않습니다. 유지 관리 기간을 최대한 짧게 유지하려면 서비스 운영 중에도 이 과정이 100%에 가깝게 유지되도록 관리해야 합니다.

보조 사이트가 아직 기본 사이트에서 데이터를 복제하고 있다면, 불필요한 데이터 손실을 막기 위해 다음 단계를 수행합니다.

1. 기본 사이트에서 유지 관리 모드를 활성화하고 백그라운드 job을 모두 중지합니다.

2. 모든 데이터의 복제와 검증을 완료합니다.

   [!warning] 모든 데이터가 자동으로 복제되지는 않습니다. 제외되는 항목은 자동 복제에서 제외되는 데이터를 참고합니다.

   1. Geo가 관리하지 않는 데이터를 수동으로 복제하고 있다면, 지금 최종 복제 과정을 실행합니다.

   2. 기본 사이트에서 다음 단계를 수행합니다.

      1. 오른쪽 위 모서리에서 Admin을 선택합니다.

      2. 왼쪽 사이드바에서 Monitoring > Background jobs를 선택합니다.

      3. Sidekiq 대시보드에서 Queues를 선택하고, 이름에 geo가 포함된 큐를 제외한 모든 큐가 0이 될 때까지 기다립니다. 이 큐에는 사용자가 제출한 작업이 들어 있으며, 완료되기 전에 장애 조치를 수행하면 해당 작업이 손실됩니다.

      4. 왼쪽 사이드바에서 Geo > Sites를 선택하고, 장애 조치 대상 보조 사이트가 다음 조건을 모두 충족할 때까지 기다립니다.

         • 모든 복제 지표가 복제율 100%, 실패율 0%에 도달합니다.
         • 모든 검증 지표가 검증률 100%, 실패율 0%에 도달합니다.
         • 데이터베이스 복제 지연이 0ms입니다.
         • Geo 로그 커서가 최신 상태입니다(대기 중인 이벤트 0건).

   3. 보조 사이트에서 다음 단계를 수행합니다.

      1. 오른쪽 위 모서리에서 Admin을 선택합니다.
      2. 왼쪽 사이드바에서 Monitoring > Background jobs를 선택합니다.
      3. Sidekiq 대시보드에서 Queues를 선택하고, 모든 geo 큐의 대기 job과 실행 job이 0이 될 때까지 기다립니다.
      4. 무결성 검사를 실행해 파일 스토리지에 있는 CI 아티팩트, LFS 오브젝트, 업로드의 무결성을 확인합니다.

   이 시점에서 보조 사이트는 기본 사이트가 가진 모든 데이터의 최신 사본을 보유하므로, 장애 조치를 수행해도 손실되는 데이터가 없습니다.

3. 마지막 단계로 기본 사이트를 영구적으로 비활성화해야 합니다.

   [!warning] 기본 사이트가 오프라인이 되면 보조 사이트로 복제되지 않은 데이터가 기본 사이트에 남아 있을 수 있습니다. 이 단계를 진행하면 해당 데이터는 손실된 것으로 간주해야 합니다.

   기본 도메인 DNS 레코드를 업데이트할 계획이라면, 전파 속도를 높이기 위해 지금 TTL을 낮추는 방법을 고려합니다.

   장애 조치를 수행할 때는 서로 다른 두 GitLab 인스턴스에서 쓰기가 발생하는 스플릿 브레인 상황을 피해야 합니다. 따라서 장애 조치를 준비하려면 기본 사이트를 비활성화해야 합니다.

   • 기본 사이트에 SSH로 액세스할 수 있다면 GitLab을 중지하고 비활성화합니다.

     sudo gitlab-ctl stop
     

     서버가 예기치 않게 재부팅되더라도 GitLab이 다시 시작되지 않도록 합니다.

     sudo systemctl disable gitlab-runsvdir
     

     [!note]

     • CentOS 6 이하에서는 머신이 재부팅될 때 GitLab이 시작되지 않도록 막기가 어렵습니다(이슈 3058 참고). sudo yum remove gitlab-ee로 GitLab 패키지를 완전히 제거하는 방법이 가장 안전할 수 있습니다.
     • Ubuntu 14.04 LTS 같은 구버전이나 Upstart init 시스템 기반의 다른 배포판을 사용한다면, root 권한으로 다음 명령을 실행해 머신이 재부팅될 때 GitLab이 시작되지 않도록 할 수 있습니다. initctl stop gitlab-runsvdir && echo 'manual' > /etc/init/gitlab-runsvdir.override && initctl reload-configuration

   • 기본 사이트에 SSH로 액세스할 수 없다면 머신을 오프라인 상태로 두고 재부팅되지 않도록 합니다. 이를 달성하는 방법은 여러 가지이므로 하나만 권장하지는 않습니다. 다음과 같은 조치를 취해야 할 수 있습니다.

     • 로드 밸런서를 재구성합니다.
     • DNS 레코드를 변경합니다(예: 기본 사이트 사용을 중단하도록 기본 DNS 레코드를 보조 사이트로 지정).
     • 가상 서버를 중지합니다.
     • 방화벽으로 트래픽을 차단합니다.
     • 기본 사이트의 오브젝트 스토리지 권한을 취소합니다.
     • 머신을 물리적으로 분리합니다.

보조 사이트 승격#

1. 보조 사이트의 모든 Sidekiq, PostgreSQL, Gitaly 노드에 SSH로 접속해 다음 명령 중 하나를 실행합니다.

   • 보조 사이트를 기본 사이트로 승격하려면 다음 명령을 실행합니다.

     sudo gitlab-ctl geo promote
     

   • 추가 확인 없이 보조 사이트를 기본 사이트로 승격하려면 다음 명령을 실행합니다.

     sudo gitlab-ctl geo promote --force
     

2. 보조 사이트의 각 Rails 노드에 SSH로 접속해 다음 명령 중 하나를 실행합니다.

   • 보조 사이트를 기본 사이트로 승격하려면 다음 명령을 실행합니다.

     sudo gitlab-ctl geo promote
     

   • 추가 확인 없이 보조 사이트를 기본 사이트로 승격하려면 다음 명령을 실행합니다.

     sudo gitlab-ctl geo promote --force
     

3. 기존에 보조 사이트에 사용하던 URL로 새로 승격된 기본 사이트에 연결할 수 있는지 확인합니다.

4. 연결에 성공하면 보조 사이트가 기본 사이트로 승격된 것입니다.

다음 단계#

지리적 이중화를 최대한 빨리 복구하려면 새 보조 사이트를 추가해야 합니다. 이때 기존 기본 사이트를 새 보조 사이트로 다시 추가해 온라인 상태로 되돌릴 수 있습니다.