虚拟化技术的成熟驱动云计算的不断发展,但同时混淆了许多人对于两者的认识。严格意义上,云计算是一种服务形态,而虚拟化只是云计算为了适应典型业务场景所采用的一种技术,除此之外,高性能裸机技术在云计算应用中也同样具有非常重要的场景角色。
华云数据作为一家在云计算领域内具有多年技术积累的公司,以业务驱动为理念,深刻理解企业级用户的各种应用需求。在高IO、高并发的业务场景下,虚拟化技术已不能满足性能需求,必须采用高性能裸机进行资源交付。因此,如何将高性能裸机作为普通的云主机提供统一的云管理能力是需要解决的问题。
华云数据云物理裸机网关提供物理服务器的宽带接入和接入服务器同公有云资源互通的功能,云物理裸机网关使云物理裸机服务器无缝融合到华云数据公有云平台当中,丰富了华云数据云计算平台提供的计算服务类型,用户可以根据自身需求有更加灵活选择,华云数据不但可以向客户提供虚拟机计算服务,也可以提供高性能的专用物理服务器计算服务,或者物理机和虚拟机混合的计算服务。
本文主要描述了华云数据云物理裸机接入网关的高可用的详细设计,主要包括以下内容:
云物理裸机托管控制面:
1. 云物理裸机接入网关控制面网络架构。
2. 云物理裸机网关控制平面可灵活扩展高可用设计。
3. 云物理裸机接入网关控制面同OpenStack管理平面融合设计。
云物理裸机托管数据面:
1. 云物理裸机数据转发面网络架构。
2. 云物理裸机数据转发面网络高可用设计。
云物理裸机托管控制面
云物理裸机网关控制平面网络架构
云物理裸机网关控制平面主要包括云物理裸机网关集群,zookeeper文件服务器集群和控制面交换机。具体构架图如下:
图一:云物理裸机网关控制平面物理连接示意图 |
其中,图中所示三台File server均为zookeeper文件服务器集群成员,其数量必须是奇数,集群中会自动协商并选出Leader文件服务器,如上图红色所示。其余文件服务器则为从文件服务器,如上图所示黄色Follower部分。
图中OpenStack controller是指Neutron数据库所在的节点。
云物理裸机网关控制平面可灵活扩展高可用设计
云物理裸机网关控制面交换机提供千兆端口,整个控制平面使用1G的带宽保证各个成员互通,交换机可以通过堆叠或者级联方式对控制网络进行横向或者纵向扩展。
云物理裸机文件服务器从OpenStack控制节点通过RPC方式从Neutron数据库中实时动态的提取公有云的网络信息,并且按照网关数据平面的要求生成配置文件,配置文件通过同步机制实时分发到网关集群中的每一台服务器,云物理裸机网关服务器动态监听文件内容,读取配置下发到网关数据面,指导网关数据面的转发。
华云采用zookeeper集群保证云物理裸机文件服务的高可用,和分布式网关集群配置文件的一致性分发。
云物理裸机文件服务器采用集群管理设计,使用多台物理或者虚拟服务器冗余,采用一种Leader election选举算法。在整个集群运行过程中,只有一个Leader,其他的都是Follower,如果ZooKeeper集群在运行过程中Leader出了问题,系统会重新选出一个Leader,所以当一台服务器发生故障后,备份服务器马上接管故障服务器的工作,保证业务正常运行,同时集群中的物理或者是虚拟文件服务器可以根据需要动态的添加和删除,从而实现集群的灵活扩展。
利用zookeeper配置管理服务实现分布式云物理裸机网关集群一致性配置,配置管理服务提供类似文件系统的目录节点树方式的数据存储,我们将从公有云提取配置信息保存在 Zookeeper 某个目录节点中,然后设置云物理裸机网关服务器监控配置文件的状态,一旦配置信息发生变化,集群中每台云物理裸机网关服务器就会收到 Zookeeper 的通知,然后从 Zookeeper 获取新的配置信息。
图二:文件服务器分布式集群分发 |
云物理裸机接入网关控制面同OpenStack管理平面融合设计
云物理裸机接入网关保证接入的物理服务器能够同OpenStack公有云平台互联互通,需要得到公有云中网络的基本信息,例如租户、子网、网络、端口、Vxlan VNI等一系列信息,然后配置到云物理裸机网关数据平面。
云物理裸机网关使用文件服务器通过gateway agent 通过Sql Alchemy封装,绕过OpenStack中间业务层,直接远程调用OpenStack的DB API访问Neutron的数据库,周期的从数据库中提取Neutron网络的基本信息,将信息拼装生成文件同步到云物理裸机网关服务器。
基本服务框图如下:
图三:文件服务器基本服务框图 |
使用从数据库直接提取信息的方法,绕过OpenStack复杂的中间层处理,让gateway agent的工作变成直接对数据库的基本操作,工作流程变的非常简单,基本流程图如下:
图四:文件服务器基本工作流程 |
云物理裸机托管数据面
云物理裸机托管的网络架构
云物理裸机托管网络主要分成物理裸机所在的VLAN网络和机房VXLAN两部分,如下图六所示:
图六 |
云物理裸机托管的网络高可用设计
其中图六中所示云物理裸机托管网关采用集群方式来提高网关的可靠性及网络处理能力,而云物理裸机托管网关两端的交换机则采用堆叠和端口聚合的设置来提高网络的可靠性及云物理裸机托管网关两端网络端口的带宽。如下图七 所示例,在物理连接上四台完全相同配置和软件版本的云物理裸机托管网关集群分别连接到南北向交换机的四个接口。在逻辑上,这四台云物理裸机托管网关所组成的集群可认为是逻辑上的一台云物理裸机托管网关。同样,它们所连接的四个交换机端口可被认为是逻辑上的一个端口,以实现Active-Active的HA模式,配合交换机的LACP端口聚合协议,集群中的服务器能够同时提供交换服务,支持容灾高可用,支持动态增加和删除物理云网管服务器而不影响云环境中的数据报文交换服务,如图示:
图七 |
华云数据云物理裸机接入网关的高可用设计是华云在云物理裸机管理设计中较为关键的部分,本文以点概面的体现了整体功能的设计思路。
作为一家以技术为驱动的云计算公司,华云数据具有全栈云计算产品,丰富的解决方案,对于技术细节的雕琢是华云数据面对企业级业务应用需求所秉承的一贯态度,同时华云数据也深刻理解需求与技术实现是相辅相成、同等关键,华云数据研发团队始终围绕业务驱动技术为理念,以交付更具价值的产品服务于业务。
关于华云数据:
华云数据集团成立于2010年,秉承着“自主、安全、可控”的理念,面向客户提供稳定可靠的云计算与大数据产品与服务,着力推进中国云计算与大数据的发展,公司遍布于北京、上海、无锡、深圳、香港、厦门、杭州、南京、临沂等地。集团吸引了海通证券、京道、万向集团、东方证券、国联证券、五道口基金、红豆、远东、杉杉等多家基金与上市公司的投资,打通了上下游产业链,成功打造了华云的云生态圈。
作为中国全云能力领导者,华云以“市场及服务驱动”为研发理念,为企业级客户提供一站式云与大数据的产品与服务,并与数百家区域及行业服务伙伴达成合作。集团运营着全球逾20个云数据中心,网络覆盖电信、联通以及华云数据自有BGP网络。
华云数据以为用户提供业务驱动的定制化IT为目标,产品覆盖高品质公有云、企业级私有云、企业级大数据、企业级混合云以及数据中心云化产品,可以为用户提供数十种解决方案,深度满足企业云化需求。