스카시예약 에이전트는 공유 디스크를 하드웨어적으로 관리/보호하는 에이전트입니다.
스카시예약 에이전트를 사용하면 OS의 Hang과 같은 외부 요소에 의해 발생되는 Split-Brain 상황에서도 데이터 디스크를 안전하게 보호할 수 있습니다.
공유 스토리지가 SCSI3-PR(Persistent Reservation)를 지원한다면, 스카시예약 에이전트와 공유디스크 에이전트를 함께 사용함으로써 공유된 데이터에 대한 한층 더 높은 안전성을 확보할 수 있습니다.
시스템(다수 또는 단일)에서 SCSI3-PR를 통하여 스토리지로 접근하려면 시스템은 스토리지에 대한 예약키(Reserved-Key)를 가지고 있어야 하며, 예약키가 없는 시스템은 스토리지 접근이 차단됩니다.
* 참고 - SCSI3-PR(Persistent Reservation)를 지원하지 않는 스토리지는 스카시예약 에이전트를 사용할 수 없습니다.
이 페이지의 주요 내용
How to work
Disk resource added through SCSI Lock agent has registration key for each node and it can be checked by it's attribute. Online node sets its Registered-key as Reserved-Key.
온라인 노드는 자신의 등록 키를 예약 키로 설정합니다.
스카시예약 에이전트는 설정된 예약 키로 디스크의 접근할 수 있는 노드를 구별하여 디스크의 접근 허용 여부를 결정합니다.
Split-Brain 상황에서도 시스템간 공유된 데이터를 보다 안전하게 관리할 수 있도록 스카시예약 리소스와 공유디스크 리소스 간에 의존성을 설정합니다.
Requirement
External storage must support SCSI-3 PR.
Volume should be configured by LUN(Logical Unit Number) unit. Partitioned volume in a LUN is not supported.
If use PrType 3, at least 1GByte LUN is needed for key reservation.
Types of Shared disk resource
To configure HA with shared storage environment, MCCS provides shared disk agent and SCSI Lock agent.
You can use only shared disk resource, or use with SCSI Lock resource. Shared disk resource depends on SCSI Lock resource and multiple shared disk resource can depends on a SCSI Lock resource.
An environment where only shared disk agent is used
- The disk volume is partitioned in a LUN.
- External storage does not support SCSI-3 PR.
Difference between shared disk agent and SCSI Lock agent
1. Shared disk agent manage disk access in local node, but SCSI Lock agent manage node access in storage.
Disk management function in software perspective (shared disk agent)
- Shared disk agent manages access control of shared disk through 'MOUNT/UMOUNT' command.
- 공유 디스크에 여러 노드가 동시에 쓰기 접근을 시도하면 데이터가 손상됩니다.
따라서 이런 상황을 막기 위해 공유디스크 에이전트는 운영 노드에서만 파일 시스템을 마운트(mount)하고 대기 노드에서는 쓰기 접근을 할 수 없도록 유마운트(umount)한 상태를 유지합니다.
Disk management function in hardware perspective (SCSI Lock agent)
- SCSI Lock agent manage Write control and access control of LUN by using SAN protocol.
- Only the node that has imported the disk with this key can access to the disk.
2. 공유디스크 에이전트, 스카시예약 에이전트 모두 데이터를 읽고 쓸 수 있습니다.
그러나 스카시예약 에이전트는 공유스토리지 리소스 보호가 목적이기 때문에 단독 사용하여 데이터를 읽고 쓰는 방법을 권장하지 않습니다.
그래서 스카시예약 에이전트는 공유스토리지 에이전트와 함께 사용하거나, 공유 스토리지와 별개의 LUN 을 사용하는 옵션(PrType)을 지원합니다.
PrType (Persist Type) 1 : Type1 controls 'Write" of LUN. When use this option, shared disk resource can be used as lock disk. (Exclusive Write)
디스크는 작은 용량(약 1GB)으로도 가능하며 내용은 보호하지 않습니다.
Configuration
SCSI-Lock resource can be configured in 2 ways with shared disk resource. Configuration process changes according to the attribute value of SCSI Lock resource.
1. When shared disk and SCSI Lock resource is configured with the same LUN (PrType=1)
When you define an attribute of SCSI Lock resource as PrType=1, you can configure shared disk and SCSI Lock resource with the same LUN.
SCSI Lock agent manages DATA-DISK(shared disk resource) using by MOUNT/UMOUNT command and manages LOCK-DISK(SCSI Lock resource) using by SCSI-3 PR as shown below.
By setting up the dependency between SCSI Lock resources and shared disk resources, any damage of data-disk can be prevented which may occur in such case like Split-Brain.
[Figure] Shared disk and SCSI Lock resource configured in same LUN (PrType=1)
2. Shared disk and SCSI lock resource is configured with different LUN (PrType=3)
At this type, shared disk agent manages DATA-DISK where user data is stored and SCSI lock agent uses exclusive LUN for key reservation. Therefore, two LUNs is required at least.
Lock-disk volume is created for 1:1 dependency with shared disk agent like a figure below.
공유디스크 에이전트 다수와 스카시예약 에이전트 1개를 이용해, 의존관계를 구성하여 사용할 수도 있습니다
이 디스크는 스토리지에 접근할 수 있는 노드 확인에 이용하기 때문에 크기가 작아도 됩니다.
스카시예약 리소스와 공유디스크 리소스 간의 의존관계를 설정함으로써, Split-Brain과 같은 상황에서 발생하는 DATA-DISK의 손상을 방지할 수 있습니다.
[Figure] Shared disk and SCSI Lock resource is configured with different LUN( PrType=3)
DATA-DISK
- 공유디스크 에이전트를 이용하여 생성한 디스크를 나타냅니다. 실제 사용자 데이터가 사용되는 디스크를 나타냅니다.
LOCK-DISK
- 스카시예약 에이전트를 이용하여 생성한 디스크를 나타냅니다.
공유디스크 에이전트 연동 시 공유 디스크에서 사용하는 DATA-DISK에 의존성을 설정하여 사용되는 디스크입니다.
Configuration Sample
1. Shared disk and SCSI Lock resource is configured in same LUN (PrType = 1)
[Figure] Shared disk and SCSI Lock resource configured in same LUN
First, register shared disk agent according to the procedure and after check if it works normally, check disk of SCSI Lock agent.
Registration Procedures
- Install MCCS on both nodes
- Set group
- Add shared disk resource
- Enable shared disk resource and check offline on both nodes
- Add SCSI Lock resource (Select device path that created shared disk resource)
- Enable SCSI Lock resource and check key in resource attribute of MCCS web console.
- Configure dependency of resources (SCSI Lock resource must go online first)
- Test failover from node 2 to 1
- Test failover from node 1 to 2
- Set application that customer uses
2.Shared disk and SCSI Lock resource configured with different LUN (PrType = 3)
[Figure] Shared disk and SCSI Lock resource configured with different LUN
Registration Procedures
First, register shared disk agent according to the procedure and after check if it works normally, check disk of SCSI Lock agent.
- Install MCCS on both nodes
- Set group
- Add shared disk resource
- Enable shared disk resource and check offline on both nodes
- Add SCSI Lock resource (Select new device path which is not assigned for shared disk resource.)
- Enable SCSI Lock resource and check Key in resource attribute in MCCS Console
- Change PrType 1 to 3 for attribute of SCSI Lock resource
- Configure dependency of resources (SCSI Lock resource must go online first)
- Test failover from node2 to 1
- Test failover from node1 to 2
- Customer applications that use the volume setting
Adding
There are two way to add a resource which one is select this from a group name and another is select this from a resource type.
Adding in Group
- When add a resource from a group name, select a group -> right click -> 'Add Resource'.
[Figure] Adding Resource in a group - Select 'SCSILOCK' from Resource Type lists and click 'Next' button.
[Figure] Select Resource Wizard View - Next steps are same as adding in resource type.
Adding in Resource Type
- ResourceType - Right Click - Click Add Resource
[Figure] Adding Resource in a resource type - 정보를 모두 가져오면 스카시예약 리소스로 사용할 장치경로를 선택할 수 있습니다.
[Figure] Selecting driver letter View - When there is no disk for SCSI Lock resource, "Disk Not Found" message appears.
[Figure] Disk Not Found - 스카시예약 리소스에 사용할 장치경로를 선택하면 자동으로 권장이름을 제공해줍니다.
[Figure] Select device path - Click 'Finish' and SCSI Lock resource is added.
[Figure] Adding SCSI Lock resource is completed
Deleting
Select resource type - right click - delete resource
- Select "Delete Resource".
[Figure] Delete SCSI Lock resource view
State
다음 테이블은 상태와 사용자 명령에 의해 발생되는 MCCS 리소스의 상태 이동에 대해 설명합니다.
명령은 사용자에 의해 발생되는 것을 전제로 합니다.
스카시예약 에이전트: 스카시 예약 디스크를 관리합니다.
| 상태 | Agent 가능 명령 | 설명 | 비고 |
|---|---|---|---|
온라인 온라인 된 노드에서 디스크의 키가 배타적으로 예약된 상태입니다. | 오프라인 | 보관중인 예약키를 무시하고 새로 예약키를 만든 후 예약을 유지한 상태로 오프라인으로 전환합니다. | |
| 모니터링 | 디스크에 예약된 키를 비교하여 예약이 걸려있는지 확인합니다. | ||
오프라인 1. 디스크가 예약은 되어 있지만 리소스 상태는 오프라인 상태입니다. | 온라인 | 디스크 예약을 위해 키를 등록하고 상대 노드의 응답을 대기합니다. 한 번 온라인한 이후에는 상대 노드의 예약을 빼앗아 오는 형태(preempt)로 온라인이 진행됩니다. | |
| 모니터링 | 디스크에 예약된 키를 비교하여 예약이 걸려있는지 확인합니다. | ||
장애 온라인 중 예약을 빼앗긴 경우에 발생합니다. | 온라인 | 디스크 예약을 위해 키를 등록하고 상대 노드의 응답을 대기합니다. 한 번 온라인한 이후에는 상대 노드의 예약을 빼앗아 오는 형태(preempt)로 온라인이 진행됩니다. | |
| 오프라인 | 보관중인 예약키를 무시하고 새로 예약키를 만든 후 예약을 유지한 상태로 오프라인으로 전환합니다. |
Attribute
[Figure] SCSI Lock Attribute view
SCSI Lock resource provides the following detailed attributes as well.
Setting are available in "Resource Unique Attribute" in resource's attribute tab.
Each attribute value has the following meanings:
Attribute | Description | Data Type | Default | Edit | Note |
| DevicePath | Define the device path of disk to be used for reservation. When register device path, DUID of connected disk will automatically obtain. | STRING | X | ||
| DiskDUID | DUID(Device Unique ID, 16 byte as Hex value) of disk is used as identifier. Specify DUID of reserve disk. This value is secure when DriveLetter atribute us specified. Try not to insert this value yourself. DUID information can be checked through scsicmd.cmd command and both nodes need to have the same value. | STRING | X | ||
| Key | MAC address is used as Reserved-Key. This key is automatically set by agent. | STRING | X | ||
| PreemptWaitCount | Time waiting for permission of other node before reservation Waiting time is (PreemptWaitCount * MonitorInterval) seconds. | STRING | 2 times | O | |
| PrType | This attribute decides on how to give the permission of reserve disk access as Persist Type specified in SCSI3-PR spec. There are 6 types bur MCCS uses 1 (Write Exclusive) or 3 (Exclusive Access). 1 (Write Exclusive) is used when same LUN is used with shared disk. 3 (Exclusive Access) is used when only Lock_Disk is used. In this case, SCSI Lock agent LUN is required. | STRING | Prytpe = 1 | O |
scsicmdCommand
Syntax
scsicmd [option] [devicePath]
Option
This is the utility to use SCSI 3 PR command more easily. Following is the provided options
옵션 | 설명 |
-c devicePath | It deletes Reserved-Key and Registered-Key of local node of disk. |
-cf devicePath | It forcely deletes Reserved-Key and Registered-Key of local node of disk. This is mostly used when access to disk is inavailable. |
| -r devicePath | Registers diskld-specified disk. |
-l devicePath | If node is yet to reserve, close the specified disk and reserve. |
-lf devicePath | It forcelu closes specified disk and reserve, even node has been reserved. Meaning, it takes over other reservation. |
| -h | It shows help of scsicmd |
no option | It shows the state information regarding disk reservation when there is no other option. |
Print Sample
The output of 'scsicmd' command from source node (C29043F13 is MAC Address of NIC from source node.)
| DUID(DeviceUniqueID) | DevicePath | PR | Reserved-Key | Registered-Keys |
|---|---|---|---|---|
| /dev/sda | No | none | none | |
| /dev/sdb | No | none | none | |
| 00c0ffd796550000f38be34f01000000 | /dev/sdc | Yes | none | none |
| 00c0ffd796550000138ce34f01000000 | /dev/sdd | Yes | C29043F13* | C29043F13* |
| 00c0ffd7965500002e8ce34f01000000 | /dev/sde | Yes | none | none |
The output of 'scsicmd' command from target node (C29043F13 is MAC Address of NIC from source node.)
| DUID(DeviceUniqueID) | DevicePath | PR | Reserved-Key | Registered-Keys |
|---|---|---|---|---|
| /dev/sda | No | none | none | |
| /dev/sdb | No | none | none | |
| 00c0ffd796550000f38be34f01000000 | /dev/sdc | Yes | none | none |
| 00c0ffd796550000138ce34f01000000 | /dev/sdd | Yes | C29043F13 | C29043F13 |
| 00c0ffd7965500002e8ce34f01000000 | /dev/sde | Yes | none | none |
Since '/dev/sda' is set as "No"in PR, it shows this does not support SCSI-3 PR. (Normally '/dev/sda' is Booting disk in local node and may dose not support this in many case.)
Also, '/dev/sdb' is set as "No" in PR. It shows this also does not support SCSI-3 PR. (Normally, Internal Disk does not SCSI3-PR.)
'/dev/sdc' and 'dev/sde' are set as "Yes" in PR, they uses storage device that supports SCSI3-PR, but Reserved-Key and Registered-Keys are "none" which means these LUN have never used as SCSI Lock resource in MCCS.
디바이스 "/dev/sdd"의 경우 Reserved-Key와 Registered-Keys가 소스 노드에서는 C29043F13*, C29043F13*로 타겟 노드에서는 C29043F13, C29043F13로 등록되어 있고 이것은 스카시예약 에이전트를 이용해 리소스를 생성한 상태입니다.
두 노드 중 (*)표시가 포함 된 Reserved-Key와 Registered-Keys가 디스크 예약을 하고 있음을 나타냅니다. 또 Reserved-Key에 값을 가지고 있고 (*)표시가 되어있는 (예: C29043F13*) 노드만 디스크에 접근할 수 있습니다.