iSCSI + SAS:PS5000XV与MD3000i的别样生活
iSCSI呼唤混搭,终获SAS成全
二十年前,《穿Prada的女魔头》原型Anna Wintour初掌《VOGUE》大权,担任主编的第一期杂志,就在封面上将40美元一条的牛仔裤与1万美元的T恤衫配在一起。这种在当时看来非常激进的“混搭”,如今已经极为常见,不仅是检验“潮人”的标准,对买不起太多奢侈品牌的工薪阶层也颇具实用价值。
与时尚圈的潮人相比,IT业界的某些人头脑显然不够灵活。他们的思维似乎还停留在“廉价就是低端”的层次,认为廉价的技术只能与同样廉价的技术相配,严重缺乏“混搭”的概念。
举例来说,与FC(Fibre Channel,光纤通道)相比,iSCSI是廉价的,SATA也是廉价的。于是乎,iSCSI阵列配SATA硬盘驱动器(iSCSI + SATA)简直如同“天经地义”一般,特别是在两三年前,基于SCSI硬盘驱动器的iSCSI存储系统屈指可数。
从技术的角度来看,iSCSI阵列不用FC-AL(Fibre Channel Arbitrated Loop,光纤通道仲裁环路)硬盘驱动器是很正常的,毕竟取代FC本是iSCSI的目标之一。但实际上,成本或许是更为重要的因素,由于SCSI与FC硬盘驱动器有着相同的机械部件和相近的电路总成,价格都明显高于SATA硬盘驱动器,所以也难以在iSCSI阵列中觅得踪迹。
不过,这种思路显然没有考虑到iSCSI和SATA的特点。我们知道,存储系统有两种基本的工作负载——随机访问和顺序传输。随机访问强调IOPS(I/O per second,每秒I/O数),每个I/O的数据块都不大,通常是几KB或十几KB,但分散在磁盘上的不同区域,因此硬盘驱动器的随机访问能力是主要瓶颈所在;顺序传输则相反,对接口带宽有着较高的要求。
虽然万兆以太网(10GbE)已是大势所趋,但直到目前为止,千兆以太网(GbE)仍然是iSCSI的主要承载者。也就是说,一个物理的iSCSI端口,带宽只有约100MB/s。反观SATA硬盘驱动器,尽管IOPS与SCSI/FC硬盘驱动器不是一个档次,持续传输率上的差距却没有那么明显。如今,一个SATA硬盘驱动器的平均传输率已经超过50MB/s,用不了两个就可以把一个千兆iSCSI端口“填满”。相比之下,具有四倍带宽的4Gb/s FC反而更适合顺序传输类型的负载。
千兆iSCSI的带宽对随机访问倒是足够了。15000RPM(15K RPM)的SCSI/FC硬盘驱动器能够贡献400左右的IOPS,就算每个I/O的数据块有8KB,一个硬盘驱动器需要的带宽也不过3MB/s出头,应付二三十个不成问题。7200RPM的SATA硬盘驱动器,单个的IOPS约为200,是前者的一半。总之,要么是千兆iSCSI带宽不足,要么是SATA硬盘驱动器IOPS欠佳,怎么看“iSCSI + SATA”都是一个以廉价为首要诉求的解决方案。
当然,不是说廉价不可以,而是也要给那些没有FC基础设施(交换机、HBA等)但需要支持数据库等典型IOPS应用的客户以足够的选择。三年前,有个发生在笔者身边的真实案例:国内某知名IT门户网站的CTO,想要把分散在多台服务器本地硬盘的数据库整合到一台网络存储设备上,以他们的网络状况,他选定了iSCSI,但却无奈地发现,市面上的绝大多数产品都是基于SATA的,而且价格并不便宜,国内厂商L采用15个SATA硬盘驱动器的iSCSI阵列报价就接近20万元,而基于SCSI驱动器的iSCSI阵列又实在太少。
几经咨询,国际知名大厂I的300系列进入了他的视野,双控制器的报价是3.6万元,配上14个73GB的10000RPM(10K RPM)SCSI硬盘驱动器,总价才6万多元。虽然笔者也曾提醒他,著名RAID厂商A就是因为向I提供300和400系列而丢掉了后者的OEM合约,说明300系列肯定有品质问题,如此便宜很可能是退出市场之前的倾销。但是,15万元就能从知名大厂买到两台满配的iSCSI阵列,并且还是基于SCSI硬盘驱动器的,这诱惑力实在太大,他终于没能把持住……
某个人曾经的噩梦,如今已经成云烟,成云烟……
果不其然,到手之后他就后悔了——单台300阵列的IOPS只有1000多,I厂商的人也承认,300系列性能就是很差……这打击实在太巨大了,该IT门户网站整合数据库存储的尝试就此失败,直到现在仍然是分散在各服务器本地的硬盘上。
笔者之前的文章提到过,2000年仍有业界领先厂商推出基于SCSI硬盘驱动器的高端存储系统,而L厂商采用SATA硬盘驱动器的iSCSI阵列也号称有2万多的IOPS,可见SCSI和iSCSI都没有什么问题。300系列的悲剧显然是个案,不幸的根源在于“iSCSI + SCSI”的组合实在是太少,让用户几乎无从选择。
好在,日渐成熟的SAS(Serial Attached SCSI,串行连接SCSI)让我们看到了自行“混搭”的希望。与并行SCSI相比,兼容SATA驱动器是SAS的一大优点,这意味着存储厂商可以统一使用SAS技术来构建磁盘阵列——包括SAS RAID和SAS磁盘背板,从而能够根据不同的应用需求灵活配置SAS或SATA硬盘驱动器,用户选择iSCSI存储系统的余地也大为增加。#p#page_title#e#
戴尔押宝iSCSI,由低到高组合成型
戴尔(Dell)是较早接受SAS技术的主流存储厂商之一,2006年已推出采用SAS硬盘驱动器的SAS直连存储(DAS)系统PowerVault MD3000。一年之后,主机连接改用iSCSI的PowerVault MD3000i问世。
2008年1月,EMC也在替代低端AX150和CX300系统的CLARiiON AX4中采用了SAS技术。作为EMC的战略合作伙伴,戴尔随即宣布以Dell AX4-5的名称转销这款产品。AX4-5支持的硬盘驱动器数量多于MD3000i,允许SAS和SATA硬盘驱动器混合配置,主机接口可选FC(AX4-5F)或iSCSI(AX4-5I),总体定位更高一些。
Dell自家田里长出来的PowerVault MD3000i、转销EMC的AX4-5和收购EqualLogic得到的PS5000,都支持“iSCSI + SAS”,但只有红色方框里的才是纯粹的iSCSI磁盘阵列
IDC上月初发布的2008年第三季度外部磁盘存储系统市场报告指出,该季度表现最突出的板块是iSCSI SAN,收入增长幅度高达96.7%。戴尔在该领域以31.3%的份额位列第一,超过第二三名——EMC(13.3%)与NetApp(12.5%)——的总和。这显然不是MD3000i或AX4-5I的功劳,而应归于戴尔对EqualLogic的收购……
戴尔两款主力iSCSI磁盘阵列主要参数对比
2008年2月,刚刚完成对EqualLogic价值14亿美元收购的戴尔,又将EqualLogic的产品重新包装之后,推出了PS5000系列。作为一款纯粹的iSCSI磁盘阵列,PS5000系列具有不同于MD3000i和AX4-5的对等架构,在整个戴尔存储产品线中的地位仅次于同样来自于EMC的CX系列。
Dell PowerVault MD3000i(上)和Dell EqualLogic PS5000XV(下)
存储时代(www.Stor-Age.com)网站认为,经过几年的发展,iSCSI和SAS已经趋于成熟,到了可以检验“iSCSI + SAS”组合效果的时候。两款来自戴尔的“iSCSI + SAS”磁盘阵列——PowerVault MD3000i和EqualLogic PS5000XV不仅足够成熟,还代表着不同的磁盘阵列架构类型,具有很大的参考价值。#p#page_title#e#
硬件结构(上):MD3000i——重在传承
2007年9月推出的PowerVault MD3000i,主体结构与早问世近一年的MD3000完全相同,只是主机接口由SAS换成了iSCSI。早期的SAS RAID和扩展器(Expander)把SAS硬盘驱动器放在首位,对SATA硬盘驱动器的支持有待完善,因此最初的MD3000仅支持SAS硬盘驱动器,这种状况一直延续到MD3000i上市之后。好在,戴尔总算兑现了2007年第四季度为MD3000i加入SATA硬盘驱动器支持的承诺。
存储时代评测实验室里的Dell PowerVault MD3000i,配置了5个15000RPM的73GB SAS硬盘驱动器(希捷Cheetah 15K.5)
Dell PowerVault MD3000i是一款3U机架高度的iSCSI磁盘阵列,具有15个垂直布置的3.5英寸硬盘驱动器槽位,使用1TB的SAS或SATA硬盘驱动器容量可达15TB。通过级联两台PowerVault MD1000扩展柜,一个MD3000i系统的总容量能达到45TB。
从后面看起来,主机接口是MD3000i(上)和MD3000(下)惟一的区别所在
作为MD3000的iSCSI版本,MD3000i的主机接口由两个SAS x4(12Gb/s)的SFF-8470外部连接器,换成了两个1Gb/s iSCSI的RJ-45千兆以太网端口。其他的控制器上的管理端口、双冗余热插拔电源、每个电源双风扇等,都是一样的。
MD3000i控制器上的端口分布,自左至右依次是2个1Gb以太网端口、1个用于远程管理的RJ-45 10/100Mb端口、1个用于服务的PS/2串口,以及1个用于连接MD1000 SAS磁盘扩展柜的SFF-8470外部连接器
与MD3000一样,MD3000i也有支持双主动(active/active)控制器的高可用性型号——本次送测的就是。由于小巧的RJ-45端口代替了SFF-8470连接器,且两个紧邻在一起,整个控制器后部显得简洁了许多。不过,右侧还保留着一个SFF-8470连接器,用于连接MD1000 SAS磁盘扩展柜。
Dell PowerVault MD3000i的控制器出自LSI,主板代号SideWinder(响尾蛇的一种)
MD3000i的控制器由LSI出品。我们知道,LSI自己也有一款iSCSI磁盘阵列——Engenio 1532存储系统,但那是台12盘位的2U机架产品。以2006-07两年SAS技术供应商的实力对比来看,戴尔为MD3000i选择LSI的控制器是很正常的。每个控制器配备512MB DDR ECC内存(双控制器的1GB互为镜像),并有2.5V/6.6Ah的锂离子电池提供最长达72小时的掉电数据保护。由于双控制器共有4个iSCSI端口,高可用性型号支持4台主机直连,而在通过以太网交换机配置时可多达16台全冗余的主机。#p#page_title#e#
硬件结构(中):PS5000系列——对等存储“动车组”
戴尔公司2008年1月底完成了对EqualLogic的收购,随即将后者的PS3800XV和PS3900XV加以整合,重新命名为PS5000XV。“新瓶装旧酒”的PS5000系列包括三款产品,以结尾的字母区分:E代表采用7200RPM SATA硬盘驱动器,容量最大;X代表罗马数字10,即采用10K(10000)RPM SAS硬盘驱动器,容量和性能都适中;XV代表罗马数字15,即采用15K(15000)RPM SAS硬盘驱动器,性能最高。这三款产品,分别面向不同的存储层级需求。
戴尔送测的EqualLogic PS5000XV配满了16个146GB的15000RPM SAS硬盘驱动器(富士通MAX3147RC)
有了上面的渊源,就不难理解我们测试的Dell EqualLogic PS5000XV上面会贴着印有“EQL-PS3800XV”的标签了——按照原来EqualLogic的规则,PS3800XV使用146GB的15000RPM SAS硬盘驱动器,而PS3900XV的容量为300GB。同样是3U机架高度,得益于水平布置的方式,PS5000XV的硬盘驱动器槽位比PowerVault MD3000i多一个,是一台拥有16个15000RPM SAS硬盘驱动器的iSCSI磁盘阵列。
PS5000XV被双冗余电源包裹的双控制器强烈地突出了iSCSI磁盘阵列的特征
无独有偶,PS5000XV控制器的布置方式也与MD3000i相反——垂直且呈中心对称,夹在两个冗余电源之间。双控制器和冗余电源都是免工具设计,可以轻松插拔,这点倒是与MD3000i没有什么区别。
PS5000XV的控制器体积明显小于MD3000i,对外也只有3个RJ-45千兆以太网端口和1个串口
垂直布置使PS5000XV的控制器宽度不到3U,刚刚够放3个RJ-45千兆以太网端口和1个串口。第一页已经提过,PS5000系列采用对等架构,意味着每一个3U机架都拥有自己的控制器,独享3Gb/s带宽,从而使性能可以随着容量的增长而线性提升;传统的磁盘阵列则不论有多少个磁盘扩展柜,都只能共享控制器,性能提升的幅度会随着容量的增长而渐趋平缓。戴尔大中华区存储业务部高级经理许良谋用“动车组”来形容PS5000系列架构的先进性:动车组的每个车厢都可提供动力,所以整列车才跑得更快;PS5000系列的每个磁盘柜都有控制器,所以整体的性能更好。笔者认为,这个比喻非常的形象——包括更贵的票价(购置成本)……
PS5000XV控制器全貌,散热片下面是AMD Opteron处理器
Dell|EqualLogic PS系列的一大特点是不采用磁盘扩展柜,需要增加容量的时候直接添加PS系列磁盘阵列就可以了,因此其性能可以随着容量的增长而近乎线性的提升。
PS5000的磁盘驱动器配置(点击播放,时长约3分钟)
PS5000XV采用千兆以太网(GbE),而不是万兆以太网(10GbE),似乎与其强调高性能的宣传不符。不过,作为一款采用16台15000RPM SAS硬盘驱动器的磁盘阵列,PS5000XV的高性能主要体现在高的IOPS,对带宽的需求并不是很“饥渴”,1Gb/s iSCSI足以应付,况且每个控制器上都有3个千兆以太网接口。
PS5000XV的控制器设计(点击播放,时长约12分钟)#p#page_title#e#
硬件结构(下):SAS扩展器不足导致无奈
PS5000XV的控制器设计十分紧凑,在较小的空间里蕴含着比MD3000i的控制器更大的能量。PS5000XV每个控制器具有1GB DDR ECC内存(双控制器合计2GB),是MD3000i的两倍,并同样受到锂离子电池长达72小时的掉电数据保护。更重要的是,PS5000XV的控制器采用了AMD Opteron(皓龙)处理器,运算能力明显强于专用的IOP(I/O处理器),可以胜任自动精简配置(thin provisioning)等复杂管理任务。
与AMD-8132 HyperTransport PCI-X 2.0 Tunnel直接相连的是其上方的Marvell 88SX6041 PCI-X 4端口SATA控制芯片,和右上方的LSISAS1068 PCI-X 8端口SAS控制芯片,后者又与右下方的LSISASx12A 12端口扩展器相连
为支持AMD Opteron处理器,PS5000XV的控制器采用了一颗AMD-8132 HyperTransport PCI-X 2.0 Tunnel芯片。AMD-8132具有两个PCI-X 2.0桥,可以各连接一个8端口的SAS控制芯片,正好能提供16个SAS端口,满足16个硬盘驱动器的需求。但是,实际情况却不是这样:可能是一个具体用途未知的4端口SATA控制芯片Marvell 88SX6041占用了一个PCI-X 2.0桥,使得AMD-8132只连接了一个8端口的SAS控制芯片LSISAS1068,再由后者连接一个12端口的SAS扩展器(Expander)LSISASx12A,凑足16个硬盘硬盘驱动器需要的SAS端口。
通过SAS扩展器(LSISASx12A)与SAS控制芯片(LSISAS1068)相连,比直接与后者相连,所能获得的带宽显然要低一个量级……另外,LSISAS1068是一个PCI-X 1.0规格的芯片,总线带宽也只有1.066GB/s,不到8个SAS端口2.4GB/s理论带宽的一半
很显然,LSISAS1068不能把全部的8个端口都用来连接LSISASx12A——那意味着两者对外提供的SAS端口只有4个,除非还有一个12端口扩展器(12 × 2 + 8 = 16)。然而,在PCB的背面并没有另一个LSISASx12A,惟一的可能就是如上图所示,LSISAS1068拿出2个端口与LSISASx12A互连,二者之间的带宽为6Gb/s。这样一来,直接与LSISAS1068相连的6个硬盘驱动器,每个都可以独享3Gb/s(300MB/s)的带宽,而通过LSISASx12A连接的10个硬盘驱动器,却总共才有6Gb/s(600MB/s)的带宽,分摊到每个头上只有0.6Gb/s(60MB/s),待遇是严重的不平等!
PS5000系列的操作系统保存在一张CF卡上,节省了硬盘驱动器的使用
不平等归不平等,关键在于有没有瓶颈。表面看来,通过扩展器连接的10个硬盘驱动器,每个所能获得的带宽只有60MB/s,低于其持续传输率,也就是说,LSISASx12A与LSISAS1068之间的带宽是瓶颈所在。但是,我们要考虑到,硬盘驱动器的数据传输能力最终是要为主机服务的,而PS5000XV控制器的3个1Gb/s iSCSI端口,捆绑在一起的带宽亦不过3Gb/s,约合300MB/s,仅与一个SAS端口相当,才是真正的瓶颈所在。因此,8端口SAS控制芯片与12端口SAS扩展器联合提供16个带宽不均等的SAS端口,以PS5000XV的实际情况来说,是可以理解的。
小结:前面已经多次提到,使用SAS硬盘驱动器的iSCSI存储系统,主要面向对带宽要求不高的IOPS型应用,因此就PS5000XV而言,千兆以太网还算能够接受。但是,即便用了SAS扩展器,也本可以不设计得这么“扭曲”——如果用24端口的扩展器,一个便能解决问题,分到每个硬盘驱动器的理论带宽有1.5Gb/s,足够应付。
不过,我们也要考虑到,PS5000XV实际上是2006年第三季度推出的产品,从SAS技术的角度看与MD3000/MD3000i属于同一代。那时端口数量在20个以上的高端口数扩展器还很不成熟,兼容性问题层出不穷,所以PS5000XV使用12端口扩展器应属无奈之举。随着技术的进步和向SAS 2.0的过渡,高端口数扩展器必将且必须具备足够的可用性,以迎接万兆iSCSI时代的到来。#p#page_title#e#
管理功能(上):MD3000i——简单易用
管理软件的功能和易用性对于磁盘阵列来说是非常重要的,以简单易用为主要卖点的iSCSI存储系统当然没有理由忽视。PowerVault MD3000i附带的Modular Disk Storage Manager(模块化磁盘存储管理器)基本达到了上述要求,而彻底的中文化更令我们时有意外之喜。
PowerVault MD3000i的Modular Disk Storage Manager可管理多台Dell的磁盘阵列,汉化非常彻底,不过也有些小bug——譬如,明明是一切正常的最佳状态,却显示“阵列处于非最佳状态”(红色椭圆框中)
Modular Disk Storage Manager的主窗口包括摘要、配置、修改、工具、iSCSI、支持共6个标签页,将全部的管理功能分门别类地归置起来,从上面的动画中可依次看到。用户也可以点击标签上方的“初始设置任务”,通过弹出的向导窗口来行使各项主要管理功能。
“初始设置任务”向导窗口中列出的功能也不少
RAID的创建和管理无疑是磁盘阵列管理软件最核心的职能之一。PowerVault MD3000i支持的RAID级别包括0, 1, 5和相对少见的3,通过Modular Disk Storage Manager的“配置”标签页中点击“创建虚拟磁盘”,可以选择自动或手动的方式来创建RAID。在自动模式下,用户可以选择RAID级别、使用的硬盘驱动器数量和所形成虚拟磁盘的容量,并在从指定的三种常见I/O类型(文件系统、数据库、多媒体)中点选一种之后获得相应的高速缓存策略及条带化尺寸,最后映射给需要的主机。
创建虚拟磁盘(RAID)的全过程
当然,经验丰富的用户也可以采用“手动”模式来创建RAID,以更精细地控制参数,包括具体选择哪几个硬盘驱动器,自行指定高速缓存策略及条带化尺寸等。此外,在“配置”标签页中还可以配置热备份磁盘,同样提供了自动和手动两种模式。
手动设置RAID和选择热备份磁盘
要说Modular Disk Storage Manager最有趣的地方还是其汉化之彻底,“确认虚拟磁盘删除”的对话框集中体现了这一点:操作者需要键入的不是常见的“Y”,也不是“Yes”,而是一个汉字——“是”!它意味着,管理员必须要切换到中文输入法,而且正确地挑选“是”,基本上可以完全排除误操作的可能了。
注意红色椭圆框中的输入——当必须打出一个汉字“是”的时候,还可能会误删除虚拟磁盘么?
为了避免用户在更换故障硬盘驱动器时辨认错误,将正常工作的硬盘驱动器拔出而导致RAID组崩溃,越来越多的磁盘阵列提供了“闪烁物理磁盘”的功能,让被选中的硬盘驱动器托架闪烁LED灯,以便于用户准确识别。Modular Disk Storage Manager也提供了这一功能,包括整个磁盘组的闪烁。
闪烁物理磁盘和磁盘组
为了提高磁盘阵列的可管理性,Modular Disk Storage Manager提供了“存储阵列配置文件”的功能,涉及的内容十分详细,可谓面面俱到。事件日志也可以选择只查看严重事件和事件的详情。
存储阵列配置文件可以保存下来
除了常见的磁盘阵列功能,MD3000i还支持快照虚拟磁盘和虚拟磁盘复制。如果购买软件许可,就可以在Modular Disk Storage Manager中启用相应的“高级功能”。
我们测试的PowerVault MD3000i没有开放上述选配功能
#p#page_title#e#
管理功能(下):PS5000系列——强大丰富
与PowerVault MD3000i相比,EqualLogic PS系列的软件功能明显强大许多,也就不可避免的复杂起来。自动负载均衡、快照与自动复制、卷克隆、卷一致性组、存储池、自动精简配置(Thin Provision)……完全可以单独写一篇文章了。因此,为了不偏离本文的主题,这里仅浮光掠影地撷取几处PS5000XV管理体验的片段,与大家分享。
Remote Setup Wizard的任务就三项(①):初始化PS系列阵列(②③)、配置计算机访问PS系列SAN(④⑤)、配置计算机的多路径I/O(MPIO)。从③可以看到,PS系列初始化完成后即可加入组,以接受访问了
使用EqualLogic PS系列之前,要先安装Host Integration Tools(主机集成工具),然后运行Remote Setup Wizard(远程设置向导)初始化PS系列磁盘阵列,包括选择RAID级别(热备盘自动分配),并将其加入一个组(Group)以供获得授权的计算机访问。
PS5000XV的Web管理界面,信息量很大
基本的设置完成之后,便可以通过Web浏览器访问PS5000XV的IP地址,进行管理了。这个基于Web的管理界面功能很强大,但没有经过汉化,可能与EqualLogic公司的规模和市场覆盖面不够有关。随着戴尔的全面接手,在不远的将来,看到如MD3000i的Modular Disk Storage Manager那样全面的汉化,完全是有可能的。
管理界面的功能分类做得不错,但内容实在太多——仅仅磁盘阵列信息这一项的标签页,就赶上Modular Disk Storage Manager的全部了
PS5000系列的卷管理功能也很强大,兼顾了高效和安全。创建卷的时候,用户可以选择开启自动精简配置功能,提供超出可用物理空间的卷容量——只要真正写入的数据量没有把可用物理空间占满,从而能够提高存储的利用率;利用iSCSI相对完善的访问控制机制,用户可以选择CHAP认证、限制IP地址和限制iSCSI发起者(initiator)名称,阻止未经授权的主机访问,获得比FC存储更好的数据安全性。
创建卷时可选自动精简配置(②的红色椭圆框内)和三大限制访问手段(③的红色方框内)
PS5000XV支持3种RAID级别,即RAID 5, 10, 50,都很常见,但能够动态迁移。迁移的方向是RAID 10→50→5,即可用容量越来越大(以我们测试的这台系统为例:RAID 10不到1TB,RAID 50为1.53TB,而RAID 5是1.8TB),不能反其道而行之,否则多出来的数据放在哪里?
①显示了测试系统从RAID 50(Current)到RAID 5(New)的容量变化,②则显示了RAID 10的容量状况
那么,万一当初选了RAID 5,想改到可用容量相对较小的RAID 50或者RAID 10,该怎么办?重新初始化?为了安全起见,EqualLogic没有赋予Remote Setup Wizard如此之大的权力。如果实在需要这么做的话,那就先把PS5000上的数据完全备份出来,然后用Telnet登录上去,输入从戴尔获得的帐号和密码,一条reset命令,将阵列恢复到出厂时的默认状态——上面的数据?当然都丢了,再恢复过来吧……
通过Telnet将PS5000XV恢复到出厂时的默认状态
#p#page_title#e#
#
测试平台和软件
本次Dell EqualLogic PS5000XV和PowerVault MD3000i的对比测试依然在强氧科技为存储时代(www.Stor-Age.com)定制的服务器平台上进行。这个服务器平台的核心是基于Intel 5000P芯片组的Supermicro X7DB8主板,目前只安装了一颗3.0GHz双核Intel Xeon 5050处理器,以及2GB DDR2-667 ECC FB-DIMM内存。操作系统采用微软Windows Server 2003 R2简体中文企业版,安装在Ultra320 SCSI接口的Maxtor Atlas 10K Ⅳ硬盘上。
强氧科技定制服务器平台配置
主板 |
Supermicro X7DB8(BIOS版本:1.3b) |
CPU |
Intel Xeon 5050(双核3.0GHz/FSB 667MHz/4MB) |
内存 |
2GB DDR2-667 ECC FB-DIMM(1GB × 2) |
SCSI |
板载Adaptec AIC-7902W双通道Ultra320 |
网络 |
板载Intel (ESB2/Gilgal) 82563EB双端口千兆以太网控制器 |
显卡 |
板载ATI ES1000 |
主硬盘 |
Maxtor Atlas 10K Ⅳ 146GB(10000RPM/Ultra320 SCSI) |
操作系统 |
Windows Server 2003 R2简体中文企业版 |
主板驱动 |
Intel INF 8.3.0.1013 |
显卡驱动 |
8.24.3.0 |
SCSI驱动 |
Adaptec Ultra320 SCSI Drivers v7.0.0.6 |
为了保证测试的平稳进行,强氧科技为这台服务器配备了3个500W的ABLECOM SP502-TC热插拔冗余电源。高大的立式机箱提供了7个3.5英寸和3个5.25英寸驱动器仓位,使其能同时胜任内部存储和外部存储的测试。
强氧科技为存储时代(www.stor-age.com)定制的服务器平台
测试平台安装的iSCSI Initiator软件驱动程序是Microsoft iSCSI Software Initiator Version 2.07,测试软件则是IOmeter 2006.07.27稳定版。p#page_title#e#
随机性能:IOPS胜任愉快
5个15K SAS硬盘驱动器的PowerVault MD3000i和16个15K SAS硬盘驱动器的EqualLogic PS5000XV,显然是一场不平等的较量——就算双方都是满配,MD3000i和PS5000XV也不是一个级别的。因此,我们将两款产品放在一起测试,并不是为了直接对比它们的性能,而是要从不同角度考察iSCSI磁盘阵列的表现。
好在,一年前,我们做过10款SAS硬盘驱动器的横向评测,此次MD3000i使用的希捷Cheetah 15K.5和PS5000XV配置的富士通MAX3147RC都在其中。由于测试平台都是一样的,我们调出上述两款SAS硬盘驱动器的测试数据,作为基准线,然后又分别乘以5和14(=16-2,因为PS5000XV自动分配2个热备盘),作为MD3000i和PS5000XV的参照上限(均以虚线表示)——当然,这是正常手段难以达到的理想值,但可以帮助我们树立更具可比性的参照系。
512字节随机读测试,PS5000XV的IOPS随并发任务数增加的上升势头很猛,不断迫近红色虚线代表的理论值
512字节随机读:并发访问程度很低的时候,两款阵列与单硬盘驱动器之间的IOPS相差不大。当并发任务数达到4的时候,两者开始抛离基准线,其中MD3000i的曲线斜率在并发任务数为16之后与5倍15K.5的参照线接近平行,而PS5000XV的曲线则令人惊喜地比14倍MAX3147RC的参照线更为陡峭,且一直保持迅猛的上升势头,与后者之间的距离不断缩小,并最终在并发任务数达256时高度接近14个MAX3147RC充分发挥效力的理论值,令人眼前为之一亮。相比之下,MD3000i的表现就显得较为平庸了。
从理论上说,只要RAID组中的硬盘驱动器数量一样,且算法得当,不同RAID级别的读IOPS性能应该是一样的——从RAID 0(MD3000i-R0,以此类推)、RAID 3到RAID 5,MD3000i很好地体现了这一点,三条曲线几乎是完全重合。PS5000XV在这方面就稍微差些:RAID 5时的性能略高,像是受益于等效数据盘的数量较多,但RAID 10有时压过RAID 50,则不是很好解释。
小结:5个15K RPM驱动器的MD3000i,读IOPS在1000以上;14个15K RPM驱动器参与工作的PS5000XV,读IOPS在4000至6000之间,表现都很不错,同样条件下的FC磁盘阵列,大致也就是这个水准。
PS5000XV的随机写性能测试曲线比较发散,但在初始阶段相当接近参照线
512字节随机写:RAID 3的单校验盘是写入时的瓶颈,因此其随机写性能仅相当于单硬盘驱动器,并不奇怪。MD3000i的RAID 0在随机写上的性能表现基本与随机读一样,属于正常水准,按理说RAID 5的随机写性能应该有其三分之二,但居然也仅相当于单硬盘驱动器,就很不应该了……
PS5000XV倒是符合的很好,RAID 5的随机写性能在RAID 10的三分之二左右,RAID 50则略低。关键是RAID 10的性能表现很不错,一度与14个MAX3147RC充分发挥效力的理论值不相上下,直到并发任务数达到16之后才逐渐远离参照线。
小结:PS5000XV的随机写性能很好,IOPS始终在2000以上,RAID 10更是在3000至3500之间,如果应用的写操作较多,为RAID 10付出可用容量上的代价还是很值得的。同样的场景,则最好不要用MD3000i——总不能把关键数据保存在RAID 0上吧?除非新的固件改进了RAID 5的算法。
Web Server性能测试曲线与512字节随机读很相似,只是MD3000i分叉了
Web服务器:Web Server也是纯粹随机读取的应用,但数据块尺寸较大,因此其曲线通常与512字节随机读相似,只不过IOPS数值要低一些。PS5000XV很忠实地体现了这一点,只是没能再现高度迫近理论值的神奇;而MD3000i则小有不同——RAID 5时性能稍好,有点儿像PS5000XV了。
小结:数据块尺寸增加了,但MD3000i依然有1000以上的IOPS,而PS5000XV的IOPS也主要落在2000至4000之间的区域,足以胜任Web服务器应用。
File Server性能测试曲线综合了随机读写的特点,MD3000i的RAID 3和RAID 5变得可以接受
文件服务器:IOmeter的File Server是随机读写比例2:1的应用,自然综合了两者的特点。占了随机写的大便宜,PS5000XV的RAID 10最好,但RAID 5和50相差也不多。MD3000i的RAID 3和RAID 5终于摆脱了单硬盘驱动器,大约有RAID 0的三分之二。
小结:MD3000i的RAID 3和5在文件服务器测试中有800左右的IOPS,属于可用的范畴,而RAID 0还是1000以上。PS5000XV的IOPS则在1500至3500之间,除了性能至上的用户,没有必要追求RAID 10。
总的来说,有了15K RPM这样得力的SAS硬盘驱动器作为助手,iSCSI磁盘阵列完全可以满足中低端用户对IOPS性能的需求。#p#page_title#e#
顺序访问:万兆?必须的!
在千兆以太网的环境下,不管你多么支持iSCSI,也不要对其在带宽型应用中的表现抱过高的期望。
我们仍然拉上了Cheetah 15K.5和MAX3147RC作为参照,但是……不用分别乘以5和16了——因为,MAX3147RC的持续传输率为89MB/s,已经接近千兆以太网的带宽,Cheetah 15K.5更是高达125MB/s。干掉千兆iSCSI,单SAS硬盘驱动器,足够了。
MD3000i和PS5000XV的顺序读表现相差不多,很艰难地超过了MAX3147RC,至于Cheetah 15K.5……还是别想了
顺序读:PS5000XV和MD3000i各自的三种RAID级别,持续传输率曲线都很好地重合了。在大部分情况下,PS5000XV要稍好一些——
·数据块尺寸8KB时,PS5000XV超过30MB/s,而MD3000i不到20MB/s;
·数据块尺寸16KB时,PS5000XV超过40MB/s,而MD3000i不到30MB/s;
·数据块尺寸32KB时,PS5000XV约为55MB/s,而MD3000i刚刚40MB/s……
数据块尺寸达到64KB后,MD3000i逼近了PS5000XV,两者在512KB时重合,传输率约90MB/s,刚好超过MAX3147RC;1MB时,接近了100MB/s,最终停留在105MB/s左右,距离Cheetah 15K.5还远得很。
MD3000i的顺序写性能大为逊色
顺序写:PS5000XV在RAID 10时的顺序写性能,也比RAID 5和50要好,最高可以达到105MB/s左右的传输率,而后两者为100MB/s。不过真正值得一说的是MD3000i的顺序写性能比较令人失望,RAID 0都没能达到60MB/s。
总结:一台至少有十几个硬盘驱动器的磁盘阵列,却只有一个带宽仅相当于单硬盘驱动器持续传输率的出口,无论如何不能算是很“和谐”。虽然,PS5000系列可以将3个千兆iSCSI端口捆绑,但也不过300MB/s多些,还是赶不上一个4Gb/s FC端口。视频监控领域应用iSCSI较多,不过每个码流并不高(如2Mb/s),主要是出于架构和成本因素的考虑,不能算是典型的带宽型应用。
说来说去绕不开一句话——千兆iSCSI适合IOPS应用,SAS硬盘驱动器不可缺少。至于带宽型应用,没得说,等万兆吧!