2012年11月27日,浪潮集团在北京发布了浪潮云海大数据一体机,至此宣告浪潮开始进军大数据领域。据了解,云海大数据一体机是面向大数据存储、处理、展现全环节、软硬一体化的方案型产品。集成了计算单元、存储单元、通讯单元、管理单元等核心模块,能够覆盖数据的存储、处理、展现等所有技术环节。
如何实现社会管理模式从粗放型向精细化转型?政府如何为老百姓提供更好的服务?在民生方面如何从共性的定式服务转变到个性化服务?如何实现商业上的精准营销?如何由“静态”的管理向“动态”的管理转变?所有的这些,都需要以每分每秒所产生的数据为支撑,并基于数据做出科学的决策。浪潮集团系统软件总监、云计算产品研发部总经理张东认为,大数据变成大价值目前还面临着四大挑战。
浪潮集团系统软件总监、云计算产品研发部总经理张东
挑战一:IT基础设施持续扩展。现有的IT的基础设施很难支撑持续增长的数据规模,虽然数据存储不是问题,但难点在于数据处理的技术上。如:Oracle RAC***支持100个节点,HADOOP集群***规模可达4000个节点。实际上随着数据规模的增长,系统总会遇到各种各样的问题,比如系统里面单点能力不强的问题,比如HADOOP,节点的能力决定了你处理数据规模。
挑战二:行业用户IT人才的能力。硬件设备不会永远不出故障,一定出现故障,恢复的时候会给数据处理雪上加霜。同时,网络会随着数据处理规模扩展增加流量,且是以指数级增加。另外,处理多类型和多维度数据的环节多,且每一个环节对于数据,对于软件和硬件,对于IT基础设施的要求都不一样。行业用户在IT方面缺少专业的IT人才,很难满足现在企业对于大数据应用的需求。此时,企业就需要一个一体化的解决方案,从数据收集、归类、挖掘、再到展现,***形成一种应用,一种服务。
挑战三:成本。虽然存储的费用越来越便宜,但处理数据的成本仍然比较高,尤其是采用传统的建数据仓库这样的技术。
挑战四:大数据的响应速度。现在大多数企业采用的是分布式处理大规模数据,比如像Hadoop—MapReduce。
张东表示,对于上面用户所面临的四大挑战,靠单一的方案很难解决实质性问题,需要软硬件一起提升单个节点的能力,也就是说在横向扩展的同时要实现纵向扩展,同时在网络和存储方面进行优化,提高带宽和各个节点之间的耦合度。在数据处理方面提供不同的解决方案,在性价比方面提供更便宜,更易用的解决方案,***提供一个及时响应的数据解决方案。张东认为,大数据处理需要定制化、专业化的设备。
#p# 浪潮大数据解决之道
浪潮推出软硬件一体的创新数据处理平台,针对不同的应用推出不同的系列化的产品,提供全国产的自主可控方案。云海大数据一体机经过全局性的优化,性能、可用性、效率等关键技术指标方面有了大幅提升。浪潮采用硬件加速技术,设计了专门的FPGA模块固化特定算法,并集成多级缓存,数据排序性能提高了50%以上;系统任务调度策略是影响系统响应及时性的重要技术,浪潮开发了动态调整任务执行模块,有效减少了慢任务数量,任务执行时间平均缩短16%;副本数量和存储效率是难以调和的矛盾,浪潮引入Reed-Solomon算法,优化分布式散列数据布局,满足文件高并发和高带宽双重需求同时平衡数据冗余度,所设计的两副本加编码的方式相对三副本***可实现30%空间节省。
浪潮大数据解决之道
大数据一体机的体系结构
将硬件和软件融合在一个体系里,针对不同的应用,不同的计算来源,采用统一的存储单元,然后,用不同的数据处理的架构来支撑用户的应用。
新型数据处理架构
据张东介绍,浪潮云海大数据一体机新架构采用了多复本的方法,这样保证了整个系统的可用性的同时,也保证了整个系统的响应速度。采用这种新型的处理架构,大概三到四千个计算单元重载节点情况下,还能够实现相对较好新的增长。性能优化方面也采用了很多措施,硬件方面,采用闪存盘技术。另外就是采用Reed—Solomon算法优化分布式散列数据布局,满足文件高并发和高宽带双量需求同时平衡数据冗余度。并在分布式计算里面对一些进行算法优化。
浪潮云海大数据一体机将大数据处理的各个环节实现了全覆盖,为用户提供整体解决方案。从工厂里面预装好到客户现场,插上网线,插上电用户可以直接使用。据了解,浪潮本次发布的大数据一体机共推出四款解决方案,分别对应不同的用户要求。
浪潮大数据一体机秉承着一系列化、一体化、国产化这样一个原则,通过创新的体系结构,通过软硬件结合这样一个方式来为我们的用户提供了一个全环节的大数据解决之道,作为大数据技术应用的实践者,济南市公安局信通处处长张强在发布会上介绍了大数据技术的应用情况。济南市公安局与浪潮集团建成了***个投入使用的“警务云计算中心”,良好的成效得到了公安部、山东省两级领导的充分肯定。目前,正在利用大数据技术实现人像模型、指纹、十字路口的行车图片、监控视频等数据的融合处理和比对,从而为整个公安系统提供决策支持,一些试点系统已经开始实际应用,下一步双方将共同构建基于全新架构的大数据平台,为各个部门提供全面的数据分析和挖掘服务。
更多精彩报道,请点击51CTO直播专题。