Linux主机HBA常用操作指南

介绍

本文阐述了Linux系统下HBA卡的常用基本操作,包括如何通过命令或日志查找HBA,如何查找WWN以及设置永久绑定,以及HBA卡安装完成之后如何识别存储设备。

更多信息

主机外接存储的准备工作:

HBA卡与操作系统的安装顺序决定了主机外接存储的操作步骤。如果HBA安装在操作系统之前,那么连接磁盘还是比较简单的。安装程序检测到发现的硬件并准备所需模块。如果适配器安装于操作系统之后,或在操作系统安装之后有变更,则用户需要手动安装。本文以Emulex 1000作为示例HBA。

HBA安装于操作系统之前:安装程序发现硬件,准备模块

HBA安装或变更于操作系统之后:用户手动安装

查看HBA:

lspci (Linux command)

[root@sandboxlinux etc]# lspci
00:00.0 Host bridge: VIA Technologies, Inc. VT82C693A/694x [Apollo PRO133x] (rev c4)
00:01.0 PCI bridge: VIA Technologies, Inc. VT82C598/694x [Apollo MVP3/Pro133x AGP]
00:04.0 ISA bridge: VIA Technologies, Inc. VT82C686 [Apollo Super South] (rev 40)
00:04.1 IDE interface: VIA Technologies, Inc.
VT82C586A/B/VT82C686/A/B/VT8233/A/C/VT8235 PIPC Bus Master IDE (rev 06
00:04.2 USB Controller: VIA Technologies, Inc. USB (rev 16)
00:04.3 USB Controller: VIA Technologies, Inc. USB (rev 16)
00:04.4 Host bridge: VIA Technologies, Inc. VT82C686 [Apollo Super ACPI] (rev 40)
00:09.0 Ethernet controller: Realtek Semiconductor Co., Ltd. RTL-8139/8139C/8139C+(rev 10)
00:0a.0 Ethernet controller: 3Com Corporation 3c905 100BaseTX [Boomerang]
00:0c.0 Fibre Channel: Emulex Corporation: Unknown device fa00 (rev 01)
00:0c.1 Fibre Channel: Emulex Corporation: Unknown device fa00 (rev 01)
01:00.0 VGA compatible controller: ATI Technologies Inc Rage XL AGP 2X (rev 27)

如果已经安装了HBA,使用上述命令确认HBA芯片集的类型。此命令列出了适配器的芯片集。本例显示,Fibre Channel Emulex card, device fa00 , rev 01。

在消息日志中查找HBA:

另一个在服务器中查找HBA类型的方法是查看消息日志文件最后一次启动过程中保存的信息。本例中,在/var/log/目录下执行“more messages |grep HBA”我们看见两个Emulex LP10000 HBA。

[#/var/log/more messages |grep HBA
Oct 18 14:55:21 sandboxlinux kernel: scsi0 : HBA: Emulex LightPulse
LP10000 on PCI bus 00 device 60 irq 11
Oct 18 14:55:21 sandboxlinux kernel: scsi1 : HBA: Emulex LightPulse
LP10000 on PCI bus 00 device 61 irq 9

Emulex HBA驱动:

Emulex驱动位于/lib/modules/2.4.21-4.EL/kernel/drivers/scsi 。SCSI驱动文件是lpfcdd.o。

/lib/modules/2.4.21-4.EL/kernel/drivers/scsi
3w-xxxx.o ata_piix.o ide-scsi.o lpfcdd.orig scsi_mod.o st.o
aacraid BusLogic.o ips.o megaraid2.o sd_mod.o sym53c8xx_2
aic7xxx dpt_i2o.o libata.o megaraid.o sg.o sym53c8xx.o
aic7xxx_old.o gdth.o lpfcdd.o

lsmod命令验证模块已被加载。本例显示驱动已被加载,名为lpfcdd。

/sbin/lsmod
Module Size Used by Tainted: P
ide-cd 34016 0 (autoclean)
cdrom 32576 0 (autoclean) [ide-cd]
mousedev 5624 1 (autoclean)
input 6144 0 (autoclean) [mousedev]
iptable_filter 2412 1 (autoclean)
ext3 89960 2
jbd 55060 2 [ext3]
lpfcdd 295016 18
aic7xxx 162064 4
sd_mod 13360 25 [emcp]
scsi_mod 112680 5 [emcpmpap emcpmp

如何使用Emulex lputil工具查找WWN:

通过执行lputil,可通过Emulex “lputil”工具查找HBA卡的WWN名。选择2“Adapter Information”,之后选择4“IEEE Address”。此地址将会被显示成为2个8位16进制字符,即为WWN。WWN

Emulex永久绑定:

在光纤网络环境下,EMC推荐永久绑定驱动,但不强制要求,目的是限制网络存储只能通过预定义的端口进行通讯。如不绑定,则无法保证服务器端与EMC存储阵列通过光纤网络通讯逻辑路由的一致性。如果交换机的物理配置发生变更(如调换线缆或主机重启),逻辑路由将无法保持一致,这将会导致数据损坏。注意Emulex驱动的永久绑定是基于target的,而非LUN。可通过两种方式来实现永久绑定,使用Emulex配置文件/etc/lpfc.conf,或在/etc/modules.conf文件中添加选项。

lpfc.conf文件包含所有控制驱动初始化的参数。此文件一经修改,需要经过重新编译和加载才能使改动生效。也就是说,如果lpfc.conf文件中添加了永久绑定则必须重新加载。

配置lpfc.conf文件的步骤:

在lpfc.conf文件中配置永久绑定,首先在lpfc.conf文件中查找lpfc_bind_entries参数并将此参数设置成该主机实际的绑定数目。例如:int lpfc_bind_entries =4; 定义了4个绑定。

第二,选择一种永久绑定的方式。Emulex有三种永久绑定的方法:

lpfc_fcp_bind_WWNN将指定的World Wide Node Name绑定至target ID

lpfc_fcp_bind_WWPN将指定的World Wide Port Name绑定至target ID

lpfc_fcp_bind_DID将指定的port ID绑定至target ID

EMC推荐通过WWPN永久绑定。只能使用一种永久绑定方式。当指定target ID时,Target 0不能被使用,因为target 0是为控制器保留的。

第三步,查找lpfc_automap参数并将其设置为0。

第四步,查找lpfc_scandown参数并将其设置为0。

第五步,保存lpfc.conf文件。

第六步,使用make build命令编译驱动。

第七步,使用make install命令在当前运行的内核安装驱动。make install参数将驱动复制到/lib/modules/$myversion/kernel/drivers/scsi($myversion是内核版本)。

我们按照target device WWPN建立FCP绑定。lpfc_fcp_bind_WWPN将指定WWPN绑定至target ID。该绑定确保分配的target在重启之后仍被保存。绑定内容格式为:“NNNNNNNNNNNNNNNN:lpfcXtY”,NNNNNNNNNNNNNNNN是16bit数代表着target WWPN。X是物理硬件适配器编号,Y是分配的target。多条语句之间以逗号相间隔,以分号为结束。目前无法将适配器target指定给特定的sd设备,/dev/sdX。

例如:char *lpfc_fcp_bind_WWPN[]={“21000020370cf8263:lpfc1t0”};

举例1

char *lpfc_fcp_bind_WWPN={.NNNNNNNNNNNNNNNN:lpfcXtY.};

vi /etc/lpfc.conf
int lpfc_bind_entries =4;
int lpfc_automap parameter=0;
int lpfc_scandown=0;
char *lpfc_fcp_bind_WWPN={“50060160006000ed:lpfc0t1”,
“50060168006000ed:lpfc0t2″,”50060160006000ed:lpfc1t1”,
“50060168006000ed:lpfc1t2”};

本例中我们修改了lpfc.conf文件,将参数lpfc_bind_entries,lpfc_automap和

lpfc_scandown设置为0,并通过lpfc_fcp_bind_WWPN绑定WWPN。

配置module.conf文件的步骤:

在module.conf文件中配置永久绑定,首先为系统中每一个adapter指定WWNN/WWPN以及target信息,之后通过在文件中添加永久绑定参数修改module.conf文件。

首先,将lpfc_bind_entries参数设置成主机实际绑定的数量:比如:lpfc_bind_entries=4。
第二步,将lpfc_scandown参数设置成“0”。
第三步,将lpfc_automap参数设置成“0”。
第四步,选择lpfc_fcp_bind_WWPN, lpfc_fcp_bind_WWNN 或lpfc_fcp_bind_DID, target ID设置绑定类型。
EMC推荐通过WWPN实现永久绑定。
第五步,保存对/etc/modules.conf文件的更改。
第六步,通过执行/sbin/#./modprobe lpfcdd更新lpfcdd模块。

举例2

#/etc/more modules.conf
alias parport_lowlevel parport_pc
alias scsi_hostadapter sym53c8xx
alias scsi_hostadapter1 lpfcdd
alias scsi_hostadapter2 lpfcdd
alias eth0 tlan
options scsi_mod max_scsi_luns=256 scsi_allow_ghost_devices=1
options lpfcdd lpfc0_topology=0x02 lpfc1_topology=0x02
lpfc_network_on=0 lpfc_use_data_direction=0 lpfc_automap=0
lpfc_scandown=0 lpfc_bind_entries=4
lpfc_fcp_bind_WWPN={.50060160006000ed:lpfc0t1,50060168006000ed:lpfc0t2,50
060160006000ed:lpfc1t1,50060168006000ed:lpfc1t2.};

本例中我们修改了/etc/modules.conf文件,设置lpfc_automap=0, lpfc_scandown=0,

lpfc_bind_entries=4,并通过lpfc_fcp_bind_WWPN={“50060160006000ed:lpfc0t1,50060168006000ed:lpfc0t2,50060160006000ed:lpfc1t1,50060168006000ed:lpfc1t2”}绑定WWPN。

识别存储设备:

HBA安装结束并重启系统之后,用户可以通过执行“more messages |grep SCSI”识别HBA发现的磁盘设备。

本例中我们看到的设备从sda到sdf。

举例3
SCSI

发表评论