深度解密京东登月平台基础架构 -买球官网平台

1顶
0踩

深度解密京东登月平台基础架构

2017-07-27 10:54 by 副主编 jihong10102006 评论(2) 有13659人浏览
近日,京东发布登月机器学习平台,并在京东云上线,正式对外提供人工智能服务。登月机器学习平台的上线代表着京东人工智能技术从应用级服务到基础算法的全面对外开放,实践着京东raas(零售即服务)的发展策略。今天我们邀请了ai与大数据部的工程师为大家深度解密京东登月平台基础架构。

从2016年9月开始,京东ai基础平台部基于kubernetes和docker构建机器学习平台的底层架构,后续逐步完善和优化了网络、gpu管理、存储、日志、监控、权限管理等功能。目前集群管理的容器实例数量有5k ,至今已上线运行了20多个ai前向服务(50多个api),同时为后向训练提供支持,在618大促中表现高效稳定。

架构

登月平台的基础架构以docker kubernetes为中心,底层基础设施包括cpu、gpu、fpga计算资源,ib、opa高速互联网络以及多样化的文件系统,之上是机器学习框架和算法库,最上层是业务应用。管理中心包括权限管理、任务管理、流程管理、监控中心、日志中心。

平台整体设计思想是kubernetes调度一切,应具有以下特性(为了方便起见所有的inference类型的应用我们称为app,所有training类型的应用我们称为job):
  • 高可用、负载均衡。大量的inference app运行在容器中,需要保证app能够稳定高效的对外提供服务。
  • 应用打包与隔离。研究人员、开发人员将自己的代码打包成image,方便的进行ci/cd,透明的将自己的app运行于平台中。
  • 自动扩容/缩容,training/inference用同一批机器调度。白天有许多活跃的用户,平台应该扩展更多inference app,而到了晚上,应该将更多的资源分配给training job。
  • 作为大数据调度平台。平台不仅可以原生的调度tensorflow/caffe/xgboost/mxnet等机器学习、深度学习工具包,也应该将hadoop/spark系列的大数据生态系统调度在kubernetes中。
  • 支持丰富的硬件资源类型。根据不同的app,job类型,应该使用不同的硬件资源以提高加速比,平台不仅需要支持cpu、gpu,还应该支持fpga,infiniband,opa等专用高速计算资源。
  • 最大化利用整个集群资源。显而易见,对于平台来说已经不再区分是inference app还是training job,所有的计算资源都统一在一个大的资源池中。
  • 推行数据隔离架构,保证数据安全。通过网络优势将数据和计算进行分离,提供更高级别的数据access权限。
  • 多租户安全保证。平台接入公有云,需要支持multi-tenancy的架构,不同的用户共享计算资源的池子,但是彼此在网络级别、文件系统级别、linux内核级别都相互隔离。

  • 登月平台架构

网络

kubernetes自身不具备网络组件,需要使用第三方网络插件实现。前期我们调研了flannel、weave、calico三种容器网络,并做了性能对比测试。由于flannel、weave都是overlay网络,均采用隧道方式,网络通信包传输过程中都有封包拆包处理,因此性能大打折扣;而calico基于bgp路由方式实现,没有封包拆包和nat,性能堪比物理机网络。

另外,calico是纯三层的数据中心买球软件推荐的解决方案,主机之间二层通信使用的是物理机的mac地址,避免了arp风暴。除了路由方式,calico也支持ipip的隧道方式;如果使用bgp方式,需要机房的网络设备开启bgp功能。

公有云上需要解决的一个重要问题就是多租户网络隔离,我们使用了kubernetes自身的networkpolicy和calico的网络策略实现。给每个用户分配一个单独的namespace,namespace内部的pod间可以通信,但namespace之间的pod不允许通信。kubernetes的networkpolicy只支持对“入流量”(ingress)作限制,而calico的网络策略作了更多的扩展,支持对“出流量”(egress)作限制,而且还具备更精细的规则控制,如协议、端口号、icmp、源网段、目的网段等。

大部分容器网络给容器分配的ip只对集群内部可见,而登月平台上很多前向服务对外提供rpc接口,需要将容器ip暴露到集群外部。经调研之后选用了cisco开源的contiv项目,它的底层原理是用ovs打通了容器的跨主机通信,我们使用的是它的vlan模式,相对于基于隧道技术实现的overlay网络来说,这是underlay网络,它不是构建于物理机的网络之上,而是与物理机位于同一网络层面,这种网络的性能接近于物理网络。

存储

kubernetes本身不提供存储功能,而是通过存储插件与第三方存储系统实现,kubernetes支持二十多种存储后端,我们选用了glusterfs。

glusterfs是面向文件的分布式存储系统,架构和部署都很简单,社区版已经足够稳定,它的特点是:弹性、线性横向扩展、高可靠。glusterfs在架构上消除了大多数文件系统对元数据服务的依赖,取而代之的是以弹性哈希算法实现文件定位,优化了数据分布,提高了数据访问并行性,极大地提升了性能和扩展性。

kubernetes的volume支持静态分配和动态分配两种方式。静态分配指的是由管理员手动添加和删除后端存储卷,动态分配则是使用kubernetes的storageclass结合heketi服务实现。heketi是glusterfs的卷的管理服务,对外提供rest接口,可以动态创建、销毁glusterfs volume。

glusterfs虽然性能很好,却不适合存储海量小文件,因为它只在宏观上对数据分布作了优化,却没在微观上对文件io作优化。登月平台上大多数前向服务都是图像识别应用,需要将图片和识别结果保存下来,用作训练数据,进行算法的迭代优化。我们在调研之后采用了seaweedfs作为小文件存储系统。

seaweedfs的设计思想源于facebook的haystack论文,架构和原理都很简单,性能极好,部署和维护也很方便。seaweedfs对外提供rest接口,结合它的filer服务可实现目录管理,我们在此基础上实现了批量上传和下载功能。seaweedfs具有rack-aware和datacenter-aware功能,可根据集群的拓扑结构(节点在机架和数据中心的分布情况)实现更可靠的数据冗余策略。目前登月平台上很多图像服务已经接入seaweedfs,每天存储的图片数量达到600万张,存储量以每天30g的速度增长。

因为多数计算任务都会使用hdfs,所以hdfs也是登月平台必不可少的存储组件。为了提高数据读写速度,我们引入alluxio作为hdfs的cache层,跟直接读写hdfs相比,性能提升了几十倍。

在文件系统的多租户隔离方面,使用kerberos和ranger对hdfs作安全管理,kerberos提供了身份验证,ranger提供了权限校验。而glusterfs的volume使用mount方式挂载到容器中,本身就可将用户限定在特定卷中,因此可变相支持多租户隔离。

gpu资源管理

平台当前使用的kubernetes 是1.4版本,当时社区还没有加入对多gpu的支持,我们就自己开发了多gpu管理,包括:gpu探测与映射,cuda driver管理与映射,gpu健康检查和状态监控,gpu-aware调度等。gpu-aware调度可根据gpu型号、显存大小、空闲的gpu数量等条件合理地调度应用程序,以保证资源利用率最大化。

负载均衡

登月平台的前向服务对外提供的通信接口有rpc和http两种。rpc服务可以通过注册中心和rpc client实现负载均衡,http服务使用的是kubernetes 社区的ingress组件实现负载均衡。ingress的本质是对nginx作了封装。用户只需将ingress规则配置到kubernetes里,指定服务的host、path与kubernetes的service之间的映射关系,然后ingress-controller实时监控规则的变化,并生成nginx配置文件,将nginx程序reload,流量就会被分发到serivce对应的pod上。

ci/cd

我们选用gitlab jenkins harbor作为持续集成/部署的组件。开发者将代码提交至gitlab,由jenkins触发编译、打包的规则,并生成docker镜像push到harbor上。当用户执行上线操作后,镜像被拉取到kubernetes集群的worker节点上,启动容器。平台使用harbor搭建了私有仓库和mirror仓库,为了加速拉取镜像的速度,在不同机房作了复制仓库。

日志

在日志采集方面,我们采用了业界普遍的买球软件推荐的解决方案efk:容器将日志打到标准输出,由docker daemon落盘存到宿主机的文件里,然后经fluentd收集,发给kafka,再经fluentd转发到elasticsearch,最后通过kibana展示给用户作查询和分析。之所以中间加了kafka,一是对流量起到削峰填谷的作用,二是方便业务方直接从kafka上消费日志导入第三方系统处理。

监控

我们采用的是heapster influxdb grafana监控组件。heapster定期从每个node上拉取kubelet暴露出的metric数据,经过聚合汇总之后写入influxdb,最终由grafana展示出来。heapster提供了container、pod、namespace、cluster、node级别的metric统计,我们对heapster作了修改,加入了service级别的metric聚合,以便用户从应用的维度查看监控。

kubernetes调度spark

重点说一下spark on kubernetes。该开源项目由google发起,旨在将spark能够原生的调度在kubernetes中,和yarn、mesos调度框架类似。

业界有一种比较简单的做法,就是将spark standalone模式运行在docker中,由kubernetes进行调度。

该做法具有以下缺点:
  • standalone本身就是一种调度模式,却跑在另一种调度平台中,架构上重叠拖沓。
  • standalone模式跑在kubernetes中经过实际测试,很多机器学习任务性能会有30%以上的衰减。
  • 需要预先设定worker的数量,executor进程和worker进程跑在同一个container中,相互影响。
  • 无法完成多租户的隔离。在同一个docker中worker可以启动不同用户的executor,安全性很差。
为了解决上述问题,kubernetes需要原生支持调度spark,架构图如下:

native spark on kubernetes架构

从kubernetes的角度出发,把driver和executor分别container化,完成原生调度,架构清晰。

继承了docker的计算资源隔离性,并且通过kubernetes的namespace概念,可以将不同的job从网络上彻底隔离。

可以保持多版本并行,spark-submit提交任务的时,可根据用户需求定义不同版本的driver和executor。

从cluster模式的角度来观察spark on kubernetes,显而易见的结论是,我们已经不再有一个所谓的“spark cluster”,取而代之的是kubernetes调度了一切,spark job可以无缝地与其他应用对接,真正形成了一个大的调度平台。

当前的社区的版本是非生产环境下的,我们团队为此做了大量的benchmark测试,稳定性测试等等。为了支持更多的需求,如multi-tenancy,python job, 我们修改了部分代码,维护了京东的一套版本。

计算与数据分离

在hadoop生态圈,数据本地性一直被津津乐道。但是在容器化、云的领域,大家都在推崇存储中心化,数据和计算分离,现在有越来越多的公司正在将存储和计算相分离,这主要是得益于网络带宽的飞速发展。不说专有网络,就说通用的25g网络,还有rdma和spdk等新技术的使用,让我们具备了存储计算分离的能力。

从架构的角度看有如下意义:

    1、多租户场景,数据安全性得到保证,实现物理上的隔离。

    2、部署机房可以灵活多变,计算资源和存储资源可以分机房部署。当然,如果需要性能保证,可以加入中间件例如alluxio。

    3、平台可以方便的部署在用户网络,而不改变其数据结构。例如联通、工商银行等。

对于tensorflow/caffe/mxnet框架来说,glusterfs可以直接满足需求。而对于spark框架,我们直接用hdfs和spark相分离的计算架构,经过大量的benchmark,10g网络下lr,kmeans,decision tree,native bayes等mllib算法,数据分离与数据本地性对比,性能损失在3%左右。这样一来,所有的机器学习/深度学习框架都可以统一架构,将计算和存储相分离。

kubernetes作为容器集群管理工具,为应用平台提供了基于云原生的微买球软件推荐的服务支持,其活跃的社区吸引了广大开发者的热情关注,刺激了容器周边生态的快速发展,同时为众多互联网企业采用容器集群架构升级内部it平台设施,构建高效大规模计算体系提供了技术基础。

ai基础平台部是一个专注、开放的team,致力于打造安全高效的机器学习平台架构,为登月算法平台提供底层支持,研究方向主要为kubernetes,ai算法工程化,大数据系统虚拟化等方向。

感谢intel公司在spark on k8s,bigdl等领域为我们提供了有力支持和宝贵经验。

引用
范振 ,哈尔滨工业大学硕士,京东ai与大数据部软件开发工程师。2014年加入京东,从事基础平台架构、开发工作;是cdn项目,ddos二期项目、反比价项目、机器学习平台基础平台项目的负责人;主导设计、开发了以上项目,在高性能服务器、大数据领域有着丰富的经验和视野。

马殿军 ,南开大学硕士,京东ai与大数据部软件开发工程师。擅长分布式系统、虚拟化技术;目前主要负责ai平台研发部的容器集群管理平台建设。


  • 大小: 210.3 kb
  • 大小: 212.5 kb
1
0
评论 共 2 条 请登录后发表评论
2 楼 2017-08-02 14:59
kubernates 方案如雨后春笋一般 各大公司争相出境,毕竟也是营销和推广的一种手段
1 楼 2017-07-31 19:59
kubernates 方案如雨后春笋一般

发表评论

您还没有登录,请您登录后再发表评论

相关推荐

  • 本文转自公众号:京东大数据《深度解密京东登月平台基础架构》。近日,京东发布登月机器学习平台,并在京东云上线,正式对外提供人工智能服务。登月机器学习平台的上线代表着京东人工智能技术从应用级服务到基础算法...

  • 微服务组件平台是承载京东集团所有业务的服务调用、消息通知的底层架构平台、运维管理平台、知识分享平台、沟通协作平台和服务评价及诊断平台。底层架构平台由jsfrpc调用、jmq消息服务及服务网格这三大基础通信技术...

  • 2、开普勒开放平台架构设计原则 3、开放平台业务架构——积木架构 4、技术架构——开普勒技术架构 5、技术架构——开普勒服务积木接入 6、、业务架构——开放平台买球软件推荐的解决方案 7、业务架构——导购模式 8、业务架构——...

  • 本篇文章一共分为四个部分,分别是开放生态、开放网关、开放授权和开放安全。为什么要做开放,开放的技术实现有哪些,主要是开放网关和授权,...那么开放的生态也是这样,打造一个多样化的平台生态。 对于大型的...

  • 前几天读到白发川的一篇文章《对比解读五种主流大数据架构的数据分析能力》,文中详细总结了各类数据架构的应用以及原理。作为一名在数据仓库耕耘多年的技术人员,对于其中的一些技术细节还是破解兴趣的,所以随着...

  • 京东集团ceo刘强东在2017年京东年会上表示:在以人工智能为代表的第四次商业革命来临之际,京东将坚定地朝着技术转型,与此同时,正式发布了京东yair smart sc智慧供应链战略,围绕数据挖掘、人工智能、数据再造和...

  • 每周荐书(京东篇):618取胜之道、质量保障、技术解密(评论送书) 感谢大家对荐书栏目的支持,先公布下上期活动中奖名单 yaabbcdmatwumf_1997跟老齐学python:django实战 芝麻小鱼23楼zhagrachel1pyqt5快速开发...

  • 作者:尤凤凯, 京东商城研发-交易平台-商品研发负责人。2010年加入京东,先后参与设计研发京东第一代监控、消息、edm等系统。12年开始致力于商品系统soa化、商品系统的持续架构演进。现主要负责商品中台及组件化...

  • 遇到基础加密和编码的场景,不妨试试这个,基于深度学习的文本自动解密 ciphey 算法。

  • 2014年的618显得和以往任何店庆促销日都不同,不仅仅是因为电子商务本身在中国不断飞速发展对京东系统带来的挑战,更为重要的是2014年5月22日刚走入美国纳斯达克殿堂的京东聚集了最耀眼的光芒,能不能保持这样的光芒...

  • 读完《京东技术解密》的试读章节,情不自禁叹了口气,不仅仅感叹文章带给我的震撼,更感叹我们的团队在未来能取得怎样的成就。书中提及的京东技术架构以及成长史,足够的牛气,足够的辉煌,然而其10年来的辛酸背后,...

  • 京东到家技术解密 京东到家相信很多人都听过,是一个短短两年内依靠技术与产品崛起的...1.京东到家平台整体技术架构图,有此图从此架构无忧 2.京东到家平台技术栈,互联网技术迭代如此之快,快看看哪些技术你out了...

  • 大家首先来看看京东的职级和薪资状况! 京东岗位序列主要分m、t、列。...既然大家已经知道了京东的职级和薪资状况了,接下来给大家分享的就是京东的一系列核心基础架构系统,希望大家能够喜欢~~~~

global site tag (gtag.js) - google analytics