星期二, 1月 04, 2011

AIX GPFS 安裝設定


AIX GPFS 安裝設定

第一個步驟是建立一個包含儲存node和quorum node的群集.
mange或client:定義node是否設定配置和file system管理
quorum或nonquorum:定義node是否為一個quorum .


#建立node 檔案

vi /etc/gpfs/nodefile

sample:
NSD1:quorum
NSD2:quorum
App1:client

#建立 GPFS cluster
先確保刪除原先 GPFS cluster
mmdelnode -f

#建立
mmcrcluster -N /etc/gpfs/nodefile -p NSD1 -s NSD2 -r /usr/bin/rsh -R /usr/bin/rcp
-C 設定cluster名稱

-U 定義域名
-N /etc/gpfs/nodefile 指定node文件名稱
-p NSD1 指定主要NSD服务器为 NSD1
-s NSD1 指定次要NSD服务器为 NSD1
#查看狀態
mmlscluster

#建立NSD disk檔案
vi /etc/gpfs/diskfile

sample:
hdiskN:NSD1:NSD2:dataAndMetadata:4
語法: DeviceName:PrimaryNSDServer:SecondaryNSDServer:DiskUsage:FailureGroup


NSD 是由磁碟映射出来的虛擬設備,NSD 與磁碟是一一對應的關係。NSD 被標記了不同屬性來區分其用途,我們可以將磁碟標記為 4 種用途:
  Desc Only:只儲存GPFS文件系统描述資料的磁碟。
Data Only:只儲存文件系统中的數據資料。
Meta data only: 只儲存文件系统中的目錄結構 inode 資料。
Meta and data: 儲存所有資料(default)。



chdev -l hdiskN -a pv=yes

#建立NSD

mmcrnsd -F /etc/gpfs/diskfile -v no


diskfile會被轉換


#確認結果

lspv
會看到轉換後的裝置


#查看NSD 狀態

mmlsnsd

#建立 GPFS Filesystem
mmcrfs /gpfs Device -F /etc/gpfs/diskfile -A yes -B 64K -n 30 -v no
参數定義如下:

/gpfs 文件系统 mount point
Device 指定建立的device名稱
-F 指定 NSD 的文件名
-A 自动 mount  選項為  yes
-B 區塊大小為64K
-n 掛載文件系統的no估計數30
-v 驗証建立磁碟是否已有Filesystem

-r     為GPFS 使用的遠端 shell 程序的完整路徑
-R  為設置GPFS使用的遠端文件拷貝程序


#查看nsd狀態
mmlsnsd

qwfnhora01:/etc/gpfs>mmlsnsd

File system Disk name Primary node Backup node
---------------------------------------------------------------------------
oragpfs data10nsd (directly attached)
oragpfs data11nsd (directly attached)
oragpfs data12nsd (directly attached)
oragpfs data0nsd (directly attached)
oragpfs data1nsd (directly attached)
oragpfs data2nsd (directly attached)
oragpfs data3nsd (directly attached)

qwfnhora01:/etc/gpfs>mmlsnsd -m

Disk name NSD volume ID Device Node name Remarks
---------------------------------------------------------------------------------------
data10nsd AC10CE1342CCE48B /dev/hdiskpower10 qwfnhora01_gpfs directly attached
data11nsd AC10CE1342CCE48C /dev/hdiskpower11 qwfnhora01_gpfs directly attached
data12nsd AC10CE1342CCE48D /dev/hdiskpower12 qwfnhora01_gpfs directly attached
data0nsd C0A81E0142CCEF76 /dev/hdiskpower0 qwfnhora01_gpfs directly attached


#查看disk
mmlsdisk sharelv

qwfnhora01:/etc/gpfs>mmlsdisk oragpfs
disk driver sector failure holds holds
name type size group metadata data status availability
------------ -------- ------ ------- -------- ----- ------------- ------------
data10nsd nsd 512 1 yes yes ready up
data11nsd nsd 512 1 yes yes ready up
data12nsd nsd 512 1 yes yes ready up
data0nsd nsd 512 1 yes yes ready up


#把建好的 disk 加到 GPFS file system 裡面(append)

mmadddisk /dev/oragpfs -F disk.oragpfs -v no

#下面這一行,要確認系統不忙才做,要做 data striping ~

mmchfs /dev/oragpfs -s balancedRandom


#啟動
mmstartup -a
要先mmcrcluster ,才能用mmstartup -a (第一台會帶動其他三台NSD啟動gpfs)
開機後自動啟動 GPFS
mmchconfig autoload=yes


建立完filesystem之後
node1 ~ nodeN
下mount -a
就可以掛載

#查看狀態
mmlsconfig

mmgetstate -a

新增一個node
mmaddnode -N nodename:client

停掉所有node
mmshutdown -a

清除 GPFS
1. fuser –kcu /gpfs
2. unmount /gpfs #在所有node
3. mmdelfs sharelv,
4. mmlsfs sharelv #檢查结果
5. mmdelnsd –F /etc/gpfs/diskfile
6. mmshutdown –a
7. mmdelnode –n /tmp/gpfs/nodefile
8. mdelnode –f #最後刪除cluster




沒有留言: