国美金融贷款构建Hadoop 系统架构(国美金融贷款分支)

       国美金融贷款hadoop 1.x是由分布式计算框架MapReduce和分布式存储系统HDFS两个分支构成的。其中国美金融贷款HDFS由一个Namenode和多个DateNode组成。国美金融贷款只有一个Namenode,所有元数据由唯一的Namenode负责管理,可想而之,当这个NameNode挂掉时,整个集群基本也就不可用了。

   国美金融贷款Hadoop 2.x由HDFS、MapReduce和YARN三个分支构成。国美金融贷款在 1.x 版本的基础上,提出HDFS Federation,并引入资源管理框架Yarn,负责集群资源管理和调度。国美金融贷款HA机制也是从hadoop2.0开始,之前的版本中并没有HA机制,HDFS的HA机制通过引入双NameNode架构( NN Federation联邦),国美金融贷款每个NameNode管理不同文件的元数据,解决了单点故障问题,实现HDFS 的高可用。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章