数据中心那点事儿之末端资源分配

服务器 数据中心
机房的建设是以规划与设计为标准,而在机房投产运行后,实际供电、负载变化等因素常常出现,受其影响,设计指标并不一定能完全实现,因而机房实际运行中会出现许多难以预测的风险,对安全运营产生各种威胁。

1.综述

在数据中心规划设计时,往往以“规划机柜数量”ד机架平均功率”考虑机房的用电需求及热负荷。但实际使用中,IT设备需遵循网络、业务等方面的原则进行部署,并非均匀分布,且设备的功耗在不同时段也存在波动,使得数据中心的实际负荷与设计指标存在偏差,从而造成供电过载或机房过热的风险。因而运维人员需要监控IT设备实际运行参数,分析机房运行状态,对可能的隐患及时排除。同时,在实际运维中,合理分配机房电力、机架,可以有效避免机房资源的浪费,提高资源利用率,降低PUE。本文通过介绍某机房案例,简要介绍数据中心规划与实际运维的差异,并通过变更解决机房风险的过程。

2.情况介绍

如图1所示,某数据中心A机房模块规划安装服务器机架61个,单机架平均功率4.4kW,机房总功率268.4kW。机房IT设备采用1000kVA UPS系统(单台500kVA 2+2配置)供电,分配给A机房模块的功耗为300kW。机房设有3台冷冻水型精密空调,2用1备,单台显冷量160kW,不考虑人员及围护结构散热,并考虑20%的制冷量冗余,该模块的制冷量阈值约为266.67kW(160kWx2/1.2)。

图1 某机房机架布局平面图

该机房投产时,实际部署了6个网络机柜和55个服务器机柜,机柜内IT设备及功耗如表2-1所示,机房内实际部署网络设备134台,服务器设备550台,合计684台,估算总功耗267.6kW。机房列头柜输入断路器、输出微型断路器、PDU容量均满足设备需求。

表1 机柜内IT设备部署及功耗估算

实际运行过程中,运维人员通过监控机房列头柜总用电量,统计了该机房IT负载在24小时内的波动情况,如图2-2所示。可以看到,机房实际负载24小时内大部分时间在255-265kW之间,符合机房供电、制冷容量范围内,但负载在每日凌晨1点开始提升,2点左右达到峰值时较平均功率提升了约15kW,已超出了机房制冷量阈值约7kW,之后开始逐步下降并在3点左右恢复平稳,超出冷量阈值时间约1小时。

图2 24小时机房负载功率曲线

该曲线说明,IT设备在业务高发时段的功耗超出了此前典型功率的预估值,机房整体功耗也超出了设计值。虽然由于冗余设计未造成配电系统过载,但也少许占用了其他机房模块的配电容量,且若长时间运行在高功耗状态,可能造成机房实际温度的上升、或因不同机柜之间功耗的差异产生局部热点,进而出现运行风险。同时,电力资源与制冷资源的不匹配也会导致机房资源浪费。

3.解决方案

由于该数据中心已建成投产,且未提前预留基础设施扩容条件,因此机房供电、制冷阈值已无法调整,只能将部分IT设备迁移至其他机房模块。根据图2数据,机房功耗峰值为274.5kW,超出理论冷量阈值约7.5kW。经实际测算,服务器设备峰值功率约为462W,应迁移至少16台服务器设备才能确保机房总体负载满足要求。

由于IT设备在该机房内以TOR组的形式部署,为不浪费网络端口、实现综合布线的一致性,设备迁移需以TOR组为单位进行。机房内最小的TOR组为双服务器机柜配置,组内共包含4台网络设备及20台服务器设备,功耗合计约9.8kW,迁移一个TOR组即能够满足需要。由于在机房规划中,B机房机架建设晚于A机房,设备迁移前,B机房设备上架率及实际功耗较低,目前有5台空机柜,设备设计冷量267kW,预留电量300kW,实际设备功耗为190kW,具备迁移条件。

经综合评估,确定将该机房内04-13、04-14机柜(如图2-1红框所示),共24台IT设备迁移至相邻的、设备上架率和负载率均较低的B机房。A、B机房由同一UPS系统供电,迁移后两机房负载均在供电、制冷阈值范围内。迁移后,机房峰值功耗预计将降低9.8kW。

4.设备迁移

机房设备迁移,首先要完成相应准备工作,如:提前在B机房目标机柜内进行设备落位规划、提前布线并完成机柜PDU测试、提前屏蔽监控、提前通知相关人员做好业务交接等。

在准备工作完成后,相关运维人员关停待迁移设备所承载的应用及系统,将IT设备关机,拔除相关线缆,将设备下架并搬迁至B机房目标机柜上架。设备安装完毕后,连接电源线,设备启机,观察待设备正常启动运行后,连接光纤、铜缆,检查配置并完成系统等各项验证,待设备完全正常工作后,解除告警屏蔽,更新设备部署信息。

此外,进行设备迁移还应做好风险预案,设备故障、配置错误等因素均可能导致失败,为保证回退所需环境,光纤拔下时注意保护,避免弯折,并盖上光纤帽。如设备迁移后无法恢复,则回退至A机房原位置上架加电,并恢复综合布线连线。

5.效果验证

在设备迁移变更完成后,机房负载功率曲线如图3所示:

图3 迁移后24小时机房负载功率曲线

由上图可知,变更后机房峰值功率下降约10kW,全天均处于冷量阈值以内。风险基本解决。同时,B机房设备上架率提高,电力、制冷设备利用率提高。由于机房运行是个动态过程,运维人员将持续观察机房运行各项参数。

机房的建设是以规划与设计为标准,而在机房投产运行后,实际供电、负载变化等因素常常出现,受其影响,设计指标并不一定能完全实现,因而机房实际运行中会出现许多难以预测的风险,对安全运营产生各种威胁。在实际的运维工作中,运维人员要从实际出发,对机房的各种设备实时监控,对风险早发现、早处理,为最终实际结果负责,以充足的技术论证为前提,合理分配机房设备,充分利用闲置资源解决现有问题,从而优化PUE,为机房安全、高效率运营保驾护航。

责任编辑:武晓燕 来源: 匠心独运维妙维效
相关推荐

2023-07-11 07:04:54

数据中心系统优化

2018-10-22 09:22:53

2015-12-11 13:18:15

2022-05-26 15:30:21

Spring AOP框架

2014-02-14 09:28:55

数据中心日常维护

2020-01-03 07:57:39

UDPTCP网络协议

2013-12-26 13:35:39

2009-12-31 16:22:57

数据中心之“变” 网络

2009-12-31 16:29:43

数据中心之“变” 安全

2017-09-12 08:03:29

数据库MySQL主库

2015-12-08 14:49:13

SDN软件定义网络

2011-12-26 11:13:24

密码

2013-11-13 10:04:52

双十一运维数据中心

2013-08-06 15:09:59

3D打印机

2013-04-09 20:37:56

2011-07-21 15:03:00

数据中心APC

2018-09-14 12:03:23

开放数据中心峰会

2019-02-12 11:45:05

Java数据库开发

2009-12-28 00:00:00

2022-05-26 09:03:39

AOP编程
点赞
收藏

51CTO技术栈公众号