운영

리소스를 생성하고 삭제하기 까지의 일반적인 관리작업에 대해 설명합니다.

리소스 생성

리소스 생성은 앞 단락에서 설명한 리소스 구성파일을 준비하는 작업입니다. 구성파일을 작성했다면 리소스를 생성한 것으로 간주합니다. bsr 에서는 이 과정을 사용자가 수작업으로 수행해야 합니다. 이를 위한 별도의 CLI 나 API 가 제공 되지는 않습니다.

한번 구성파일이 작성되어 리소스가 생성되면 구성파일이 삭제 되기 전 까지는 해당 리소스가 노드에 계속 생성된 상태로 존재합니다. 따라서 복제 리소스의 생명주기는 구성파일의 생명주기와 같습니다.

메타 초기화

리소스가 생성되면 최초 기동을 위해 메타디스크를 초기화 해야 합니다. 메타 디스크의 초기화는 다음의 명령으로 수행합니다.

>bsradm create-md r0
initializing activity log
NOT initializing bitmap
Writing meta data...
New drbd meta data block successfully created.

메타초기화는 복제를 위해 필요한 메타디스크의 부가 정보를 초기화하는 작업이기 때문에 리소스를 최초 기동하기 전 한번만 수행하면 됩니다. 만일 메타를 초기화 하지 않고 리소스를 기동할 경우 비정상적인 운영상황이 되므로 주의해야 합니다.

메타초기화가 완료되면 리소스를 기동할 준비가 된 상태 입니다.

리소스 기동

bsradm up 명령을 통해 리소스를 기동할 수 있습니다. up 은 다음의 과정을 순차적으로 수행합니다.

리소스 메모리를 할당합니다.
복제 볼륨을 적재합니다.
구성파일의 옵션들을 설정하고 상대편 노드의 리소스와 네트워크를 통해 연결합니다.

>bsradm up r0
>bsradm status r0
r0 role:Secondary
  disk:Inconsistent
  node0 role:Secondary
    peer-disk:Inconsistent

bsr 의 상태는 bsradm status 명령으로 조회할 수 있습니다. 이와 관련한 자세한 내용은 조회의 내용을 참고하세요.

리소스 할당

리소스에 대한 메모리를 할당하여 인스턴스화 합니다.

볼륨 적재

리소스에 구성된 볼륨을 복제볼륨으로 적재(attach)하고 메타디스크의 정보를 조회합니다. 볼륨의 적재는 별도의 attach 명령으로도 개별 수행할 수 있습니다.

복제 연결

적재된 볼륨을 피어노드의 리소스 볼륨과 연결합니다. 연결이 수립되면 복제 연결 상태는 Established 가 되고 복제를 시작하기 위한 대기상태가 됩니다. 만일 피어 노드가 연결을 아직 준비하고 있지 않았다면 로컬의 리소스는 연결 시도 중(Connecting) 상태를 유지합니다. 복제 연결은 개별 connect 명령으로도 수행할 수 있습니다.

리소스 up 의 과정이 위 절차에 따라 순차적으로 모두 수행되었을 때 리소스 기동에 대한 성공으로 간주 합니다. 리소스 기동의 과정 중 일부 절차가 실패할 경우 리소스 기동이 중단될 수 있습니다. 이럴 경우 리소스의 상태를 확인하고 bsr 로그와 에러 메시지 등을 통해 문제를 파악할 수 있습니다.

승격

리소스는 Primary 또는 Secondary 역할을 가질 수 있습니다. Primary 역할의 리소스는 볼륨 장치에 제한 없이 접근하여 데이터를 읽고 쓸 수 있지만 Secondary 역할의 리소스는 볼륨장치로의 접근이 차단되고 Primary 로 부터 수신한 복제 데이터만 수신하여 장치에 반영하는 동작만 수행합니다.

리소스가 기동되었을 때 기본 역할은 Secondary 이며 사용자 명령에 의해 Primary 역할로 전환할 수 있습니다. 이것을 승격(promote)이라고 합니다.

bsrdadm primary <resource>

복제 클러스터 내의 모든 노드가 연결 성립된 상태에서 Primary 역할을 가질 수 있는 노드는 하나만 존재할 수 있습니다. 그러나 상황에 따라 노드 간 연결이 단절된 상태에서 특정시점에 Primary 역할을 가졌던 노드가 2 이상이 될 경우 이러한 상태를 스플릿 브레인 상태라고 합니다.

이와 관련한 자세한 내용은 스플릿 브레인 항목을 참고하세요.

강등

Primary 역할에서 Secondary 역할로 전환하는 것을 강등이라고 합니다.

bsradm secondary <resource>

복제 중 리소스 강등은 bsr의 명령 동작 중 가장 민감한 작업으로 단순히 역할만 Secondary 로 전환하는 것을 넘어서 복제를 위해 계류 중인 데이터들을 타깃 측으로 모두 반영하는 작업을 수반합니다. 이는 복제 소스와 타깃 간의 데이터 정합성을 일치시키기 위한 기본 동작 구조로, 강등이 완료된 시점의 Primary 와 Secondary 간의 데이터 정합성을 보장하는 동작입니다. 따라서 강등을 수행하는 절차에선 복제 계류중인 데이터를 타깃에 모두 반영하는데 따르는 일정 정도의 대기시간을 염두에 두어야 합니다.

리소스 중지

bsradm down 명령을 통해 리소스를 중지할 수 있습니다. down 은 리소스 up 과정의 역순으로 중지하고 만약 리소스가 승격된 상태 였다면 강등을 먼저 수행합니다. 즉 리소스 강등, 복제 단절, 볼륨 분리(detach), 리소스 해제의 순으로 down 합니다.

bsradm down <resource>

리소스 강등

리소스가 승격된 상태였다면 먼저 강등을 수행합니다.

복제 단절

복제 연결을 단절하여 복제를 중단합니다. 연결 단절은 disconnect 개별 명령으로도 수행할 수 있습니다.

만약 동기화나 복제가 진행 중일 때 복제 단절을 시도할 경우 단절은 일정 시간 동안 유예될 수 있습니다. 이것은 복제를 단절하는 명령이 로컬과 피어노드에게 모두 전달되는 명령이기 때문에 이미 복제를 위해 버퍼링된 데이터 양이 많을 경우 순차적처리 구조에 따라 명령전달이 지연될 수 있기 때문입니다. 이러한 지연을 무시하고 싶을 경우에는 --force 옵션을 통해 로컬에서 강제로 연결을 단절할 수도 있습니다. 강제로 단절하게 되면 연결을 빠르게 끊을 수는 있으나 복제나 동기화를 위한 계류중인 데이터들이 모두 버려지게 되므로 해당 데이터들에 대한 OOS(Out-Of-Sync) 가 발생할 수 있다는 점은 고려해야 합니다.

볼륨 분리

복제 볼륨으로 적재했던 볼륨을 분리하고 메타디스크에 관련 정보를 기록합니다. 분리(detach)는 개별 명령으로 수행할 수 있으나 Primary 리소스의 볼륨 분리는 허용되지 않습니다.

bsr 에선 운영 중인 리소스의 볼륨 분리는 장애로 직결되기 때문에 위험한 동작으로 간주합니다. 우리는 Primary 리소스의 볼륨 detach 를 코드 수준에서 차단하였습니다. 물론 Secodnary 리소스의 볼륨 분리는 허용합니다.

리소스 해제

리소스를 위해 할당 했던 메모리 인스턴스를 해제합니다.

리소스 재구성

bsr 의 리소스 속성들은 기본적으로 운영 중(런타임) 설정 변경을 지원합니다. 이것을 동적 설정 (변경)이라고 합니다. 그러나 이러한 속성들 중 일부 필수 속성들은 동적 설정을 지원하지 않으며 설정 변경 후 리소스를 재기동하여 적용하는 정적 방식으로 재구성해야 합니다. 즉 동적 설정과 정적 설정의 차이점은 리소스 재기동의 필요 여부 입니다.

동적 설정

구성파일을 변경하고 bsradm adjust 명령을 통해 실시간 변경합니다. 복제 프로토콜 변경 등 일부 특수 설정을 제외한 대부분의 속성은 이 방식으로 변경할 수 있습니다.

복제 프로토콜 변경

운영 중 복제 프로토콜을 변경하기 위해서 프로토콜, 송신버퍼, 혼잡제어 설정을 같이 변경해야 합니다.

먼저 drbdsetup del-peer <resource> <node-id> 명령으로 peer 연결을 삭제합니다.
양 노드 리소스 파일의 sndbuf-size 의 크기, 프로토콜, 혼잡제어 설정을 조정합니다.
drbdadm adjust <resource> 로 적용합니다.

정적 설정

복제 구성을 위한 필수적인 설정(노드 ID, IP 주소, 포트, 볼륨 등)의 변경이 필요할 경우 리소스 down 을 선행한 후 설정 변경을 해야 합니다. 리소스를 down 하여 구성파일을 변경한 후 다시 up 하여 리소스를 재시작하는 시점에 변경된 설정을 적용하는 것 입니다.

운영