Skip to end of metadata
Go to start of metadata

You are viewing an old version of this content. View the current version.

Compare with Current View Version History

« Previous Version 20 Next »

스카시예약 에이전트는 공유 디스크를 하드웨어적으로 관리하고 보호하는 에이전트입니다.
스카시예약 에이전트를 사용하면 OS의 Hang과 같은 외부 요소에 의해 발생되는 Split-Brain 상황에서도 데이터 디스크를 안전하게 보호할 수 있습니다.
공유 스토리지가 SCSI3-PR(Persistent Reservation)를 지원한다면, 스카시예약 에이전트와 공유 디스크 에이전트를 함께 사용함으로써 공유된 데이터에 대해 한층 더 높은 안전성을 확보할 수 있습니다.
시스템(다수 또는 단일)에서 SCSI3-PR를 통하여 스토리지로 접근하려면 시스템은 스토리지에 대한 예약키(Reserved-Key)를 가지고 있어야 하며, 예약 키가 없는 시스템은 스토리지 접근이 차단됩니다.

* 참고 - SCSI3-PR(Persistent Reservation)를 지원하지 않는 스토리지는 스카시예약 에이전트를 사용할 수 없습니다.

이 페이지의 주요 내용

How to work

스카시예약 에이전트에 의해 생성된 리소스는 각 노드 별로 등록 키(Registered-keys)가 만들어지고, 이를 속성으로 확인할 수 있습니다.
온라인 노드는 자신의 등록 키를 예약 키로 설정합니다.
스카시예약 에이전트는 설정된 예약 키로 디스크의 접근할 수 있는 노드를 구별하여 디스크의 접근 허용 여부를 결정합니다.
Split-Brain 상황에서도 시스템간 공유된 데이터를 보다 안전하게 관리할 수 있도록 스카시예약 리소스와 공유 디스크 리소스 간에 의존성을 설정합니다.


 

Requirement

External storage must support SCSI-3 PR.
Volume should be configured by LUN(Logical Unit Number) unit. Partitioned volume in a LUN is not supported.
If use PrType 3, at least 1GByte LUN is needed for key reservation.

 

 

Types of Shared disk resource

To configure HA with shared storage environment, MCCS provides shared disk agent and SCSI Lock agent.
You can use only shared disk resource, or use with SCSI Lock resource. Shared disk resource depends on SCSI Lock resource and multiple shared disk resource can depends on a SCSI Lock resource.

An environment where only shared disk agent is used

  • The disk volume is partitioned in a LUN.
  • External storage does not support SCSI-3 PR.


Difference between shared disk agent and SCSI Lock agent
1. Shared disk agent manage disk access in local node, but SCSI Lock agent manage node access in storage.

Disk management function in software perspective (shared disk agent)

  • Shared disk agent manage access control of shared disk through Mantech Volume Lock (MVL) kernel driver. 
  • Data will be corrupted if writing access is done from multiple nodes in shared disk. MVL locks access to the shared disk resource. You cannot access the volume of shared disk before it unlocks access. Only a node allow to access to the shared disk resource by this.
  • MVL can be managed both in LUN unit and partition unit.

Disk management function in hardware perspective (SCSI Lock agent)

  • SCSI Lock agent manage Write control and access control of LUN by using SAN protocol.
  • Only the node that has imported the disk with this key can access to the disk.

 2. 공유 디스크 에이전트, 스카시예약 에이전트 모두 데이터를 읽고 쓰기가 가능합니다.
그러나 스카시예약 에이전트는 공유스토리지 리소스의 보호가 목적이기 때문에, 단독 사용하여 데이터를 읽고 쓰는 방법을 권장하지 않습니다. 
그래서 스카시예약 에이전트는 공유스토리지 에이전트와 함께 사용하거나, 공유 스토리지와 별개의 LUN 을 사용하는 옵션(PrType)을 지원합니다. 

PrType (Persist Type) 1 : Type1 controls 'Write" of LUN. When use this option, shared disk resource can be used as lock disk. (Exclusive Write)

PrType (Persist Type) 3 : Typ3 controls "Access" of LUN. When use this option, exclusive LUN is needed for lock disk

디스크는 작은 용량(약 1GB)으로도 가능하며 내용은 보호하지 않습니다. 

 

 

Configuration

 

스카시예약 에이전트 리소스는 공유디스크 에이전트와 2가지 형태로 구성할 수 있으며, 스카시예약 에이전트 리소스의 속성 값에 따라 구성 방법이 나눠집니다.


1.When shared disk and SCSI Lock resource is configured with the same LUN (PrType=1)

스카시예약 에이전트의 리소스에서 속성이 PrType이 1 인 옵션을 사용하면, 하나의 LUN을 이용하여 공유디스크 리소스와 스카시예약 리소스를 구성합니다. 
공유디스크 에이전트는 MVL 드라이버를 이용하여 DATA-DISK를 관리하고, 스카시예약 에이전트는 SCSI3-PR 기능을 이용하여 LOCK-DISK를 관리합니다.
스카시예약 리소스와 공유디스크 리소스 간의 의존관계를 설정함으로써, Split-Brain과 같은 상황에서 발생하는 DATA-DISK의 손상을 방지할 수 있습니다. 

 

[Figure] Shared disk and SCSI Lock resource configured in same LUN (PrType=1)



2. Shared disk and SCSI lock resource is configured with different LUN (PrType=3)

 

공유디스크 에이전트는 단일 드라이브 문자 단위로 DATA-DISK를 관리하고, 스카시예약 에이전트 또한 별도의 독립된 단일 LUN을 LOCK-DISK 전용으로 관리합니다.
이 구성을 위해서는 공유디스크에 최소 2개 이상의 LUN 분할이 존재해야 합니다.
아래 그림과 같이 공유디스크 에이전트와 1:1로 의존시킬 LOCK-DISK 볼륨을 생성합니다.
공유디스크 에이전트 다수와 스카시예약 에이전트 1개를 이용해, 의존성을 구성하여 사용할 수도 있습니다.
이 디스크는 스토리지에 접근할 수 있는 노드 확인에 이용하기 때문에 용량이 작아도 됩니다.
스카시예약 리소스와 공유디스크 리소스 간의 의존관계를 설정함으로써, Split-Brain과 같은 상황에 발생하는 DATA-DISK의 손상을 방지할 수 있습니다. 

   

[Figure] Shared disk and SCSI Lock resource is configured with different LUN( PrType=3)


DATA-DISK 의미

  • 공유 디스크 에이전트를 이용하여 생성한 디스크를 나타냅니다. 실제 사용자 데이터가 사용되는 디스크를 나타냅니다.  

LOCK-DISK 의미 

  • 스카시예약 에이전트를 이용하여 생성한 디스크를 나타냅니다. 
    공유 디스크 에이전트 연동 시 공유 디스크에서 사용하는 DATA-DISK에 의존성을 설정하여 사용되는 디스크입니다.

 

 

Configuration Sample

1. Shared disk and SCSI Lock resource is configured in same LUN (PrType=1)

[Figure] Shared disk and SCSI Lock resource configured in same LUN


First, register shared disk agent according to the procedure and after check if it works normally, check disk of SCSI Lock agent. 

Registration Procedures

  1. Install MCCS on both nodes
  2. Set group
  3. Add shared disk resource
  4. Enable shared disk resource and check offline on both nodes
  5. Add SCSI Lock resource (Select drive letter that created shared disk resource)
  6. Enable SCSI Lock resource and check key in resource attribute of MCCS console.
  7. Configure dependency of resources (SCSI Lock resource must go online first)
  8. Test failover from node 2 to 1 
  9. Test failover from node 1 to 2
  10. Set application that customer uses

2. Shared disk and SCSI Lock resource configured with different LUN  (PrType=3)

[Figure] Shared disk and SCSI Lock resource configured with different LUN 


First, register shared disk agent according to the procedure and after check if it works normally, check disk of SCSI Lock agent.  

  1. Install MCCS on both nodes
  2. Set group
  3. Add shared disk resource 
  4. Enable shared disk resource and check offline on both nodes
  5. Add SCSI Lock resource (Select new drive letter, not from the one in shared disk resource)
  6. Enable SCSI Lock resource and check Key in resource attribute in MCCS Console
  7. Change PrType 1 to 3 for attribute of SCSI Lock resource. (When SCSI Lock resource is added, make sure that SCSI Lock Disk Letter are disappeared from Windows Explorer of both servers.)
  8. Configure dependency of resources (SCSI Lock resource must go online first)
  9. Test failover from node2 to 1
  10. Test failover from node1 to 2
  11. Customer applications that use the volume setting

 

 

Adding

There are two way to add a resource which one is select this from a group name and another is select this from a resource type.

Adding in Group

  1. select a group -> right click -> 'Add Resource'. 

    [Figure] Adding Resource in a group

  2. Select 'Service' from Resource Type lists and click 'Next' button. 

    [Figure] Select Resource Wizard View

  3. Next steps are same as adding in resource type.

Adding in Resource Type

  1. ResourceType - Right Click - Click Add Resource

    [Figure] Adding Resource in a resource type

  2. Getting disk information.

    [Figure] Screen of Getting disk information.

  3. DriveLetter to be used for SCSILock can be selected.

    [Figure] Selecting driver letter View

  4. When there is no disk for SCSI Lock resource, "Disk Not Found" message appears. 

    [Figure] Disk Not Found

  5. Enter resource name. If you skip enter resource name, this will be given 'SLock_value' which value is selected driver letter.

    [Figure] Selecting driver letter View

  6. Click 'Finish' and SCSI Lock resource is added.

    [Figure] Adding SCSI Lock resource is completed


Deleting

Select resource type - right click - delete resource

              Select "Delete Resource". 
              
              [Figure] Delete SCSI Lock resource view



State

다음 테이블은 상태와 사용자 명령에 의해 발생되는 MCCS 리소스의 상태 이동에 대해 설명합니다.
명령은 사용자에 의해 발생되는 것을 전제로 합니다.
스카시예약 에이전트: 스카시 예약 디스크를 관리합니다. 

상태Agent 가능 명령설명비고

온라인

온라인 된 노드에서 디스크의 키가 베타적으로 예약된 상태입니다.
다른 노드에서는 키를 등록할 수 없습니다.

오프라인

예약을 유지한 상태로 오프라인으로 전환합니다.

 
모니터링

디스크에 예약이 걸려있는지 확인합니다.

 

오프라인

1. 디스크 예약은 되어 있지만 리소스 상태는 오프라인 상태입니다.
2. 상대 노드가 예약을 가져간 실질적인 오프라인 상태입니다.

온라인디스크 예약을 위해 키를 등록하고 상대 노드의 응답을 대기합니다.  
모니터링

디스크에 예약이 걸려있는지 확인합니다.

 

장애

온라인 중 예약을 빼앗긴 경우에 발생합니다.

온라인디스크 예약을 위해 키를 등록하고 상대 노드의 응답을 대기합니다.  
오프라인예약을 유지한 상태로 오프라인으로 전환합니다. 

 

 

Attribute

[Figure] SCSI Lock Resource Attribute view


SCSI Lock resource provides the following detailed attributes as well.
Setting are available in "Resource Unique Attribute" in resource's attribute tab.
Each attribute value has the following meanings:

 

Attribute

Description

Type

DefaultEditNote
DiskDUID

DUID(Device Unique ID, 16 byte as Hex value) of disk is used as identifier. Specify DUID of reserve disk.
This value is secure when DriveLetter atribute us specified. Try not to insert this value yourself.
DUID information can be checked through scsicmd.cmd command and both nodes need to have the same value.

STRING X 
DriveLetter

Disk to be used for reservation is specified by drive letter.
When register drive letter, DUID of connected disk will automatically obtain in drive letter.

STRING X 
KeyMAC address is used as Reserved-Key. This key is automatically set by agent.STRING   
PreemptWaitCount

Time waiting for permission of other node before reservation
Waiting time is (PreemptWaitCount * MonitorInterval) seconds.

INTEGER2 timesO 
PrType

This attribute decides on how to give the permission of reserve disk access as Persist Type specified in SCSI3-PR spec.
There are 6 types bur MCCS uses 1 (Write Exclusive) or 3 (Exclusive Access).
1 (Write Exclusive) is used when same LUN is used with shared disk, and Disk Letter can be checked in explorer.
3 (Exclusive Access) is used when only Lock_Disk is used.
In this case, SCSI Lock agent LUN is required. 'Mount' state of disk changes to 'un-mount' state.Therefore, Disk Letter will disappear from explorer.

INTEGER

Prtype=1O 

 

 

scsicmd.cmd Command

Syntax

 scsicmd [option] [diskID]

Option

This is the utility to use SCSI 3 PR command more easily. Following is the provided options

Option

Description

-c diskId

It deletes Reserved-Key and Registered-Key of local node of disk.

-cf diskId

It forcely deletes Reserved-Key and Registered-Key of local node of disk.
This is mostly used when access to disk is inavailable.

-r diskIdRegisters diskld-specified disk.

-l diskId

If node is yet to reserve, close the specified disk and reserve.   

-lf diskId

It forcelu closes specified disk and reserve, even node has been reserved.
Meaning, it takes over other reservation.

-hIt shows help of scsicmd.

no option

It shows the state information regarding disk reservation when there is no other option.

Print Sample

The output of 'scsicmd' command from source node (C29043F13 is MAC Address of NIC from source node.)

Disk DUID(DeviceUniqueID)LetterPRReserved-KeyRegistered-Keys
0 CNononenone
1 DNononenone
200c0ffd796550000f38be34f01000000EYesnonenone
300c0ffd796550000138ce34f01000000FYesC29043F13*C29043F13*
400c0ffd7965500002e8ce34f01000000GYesnonenone

 

The output of 'scsicmd' command from target node (C29043F13 is MAC Address of NIC from source node.)

Disk DUID(DeviceUniqueID)LetterPRReserved-KeyRegistered-Keys
0 CNononenone
1 DNononenone
200c0ffd796550000f38be34f01000000EYesnonenone
300c0ffd796550000138ce34f01000000FYesC29043F13C29043F13
400c0ffd7965500002e8ce34f01000000GYesnonenone

Disk 0번(C:)은 PR이 "No" 로 설정되었기 때문에 SCSI3-PR을 지원하는 디스크가 아닌 것을 확인할 수 있습니다. (보통 드라이브 문자가 "C"인 디스크는 시스템의 Booting 디스크이고, SCSI를 지원하지 않습니다.)
또한 Disk 1번(D:)은 PR이 "No"로 설정되어 있습니다. SCSI3-PR을 지원하는 디스크가 아닌 것을 확인할 수 있습니다.(Internal Disk는 SCSI3-PR을 지원하지 않습니다.)
Disk 2번(E:)과 Disk 4번(G:)은 SCSI3-PR이 "Yes"로 설정되어 있어 SCSI3- PR을 지원하는 Storage 장치를 이용하고 있으며, Reserved-Key와 Registered-Keys가 "none"으로 되어 있어 아직 등록되지 않는 상태를 의미합니다.
Disk 3번(F:)은 Reserved-Key와 Registered-Keys가 소스 노드에서는 C29043F13*, C29043F13*로 타겟노드에서는 C29043F13, C29043F13로 등록되어 있고 이것은 스카시예약 에이전트를 이용해 리소스를 생성한 상태입니다.
두 노드 중 (*)표시가 포함된 Reserved-Key와 Registered-Keys가 디스크 예약을 하고 있음을 나타냅니다. 또 Reserved-Key에 값을 가지고 있고 (*)표시가 되어있는 (예: C29043F13*) 노드만 디스크에 접근할 수 있습니다. 

 

  • No labels