以下是
hadoop 高可用 集群配置的步骤:
1. 配置
hadoop 集群的core-site.xml文件,增加如下配置:
<property><name>fs.defaultFS</name><value>hdfs://mycluster</value></property><property><name>ha.zookeeper.quorum</name><value>zk1:2181,zk2:2181,zk3:2181</value></property>
2. 配置
hadoop 集群的hdfs-site.xml文件,增加如下配置:
<property><name>dfs.nameservices</name><value>mycluster</value></property><property><name>dfs.ha.namenodes.mycluster</name><value>nn1,nn2</value></property><property><name>dfs.namenode.rpc-address.mycluster.nn1</name><value>node1:8020</value></property><property><name>dfs.namenode.rpc-address.mycluster.nn2</name><value>node2:8020</value></property><property><name>dfs.namenode.http-address.mycluster.nn1</name><value>node1:50070</value></property><property><name>dfs.namenode.http-address.mycluster.nn2</name><value>node2:50070</value></property><property><name>dfs.namenode.shared.edits.dir</name><value>qjournal://node1:8485;node2:8485;node3:8485/mycluster</value></property><property><name>dfs.journalnode.edits.dir</name><value>/data/journal</value></property><property><name>dfs.ha.fencing.methods</name><value>sshfence</value></property><property><name>dfs.ha.fencing.ssh.private-key-files</name><value>/home/hadoop/.ssh/id_rsa</value></property><property><name>dfs.ha.automatic-failover.enabled</name><value>true</value></property>
3. 配置
hadoop 集群的mapred-site.xml文件,增加如下配置:
<property><name>mapreduce.framework.name</name><value>yarn</value></property>
4. 配置
hadoop 集群的yarn-site.xml文件,增加如下配置:
<property><name>yarn.resourcemanager.ha.enabled</name><value>true</value></property><property><name>yarn.resourcemanager.cluster-id</name><value>mycluster</value></property><property><name>yarn.resourcemanager.ha.rm-ids</name><value>rm1,rm2</value></property><property><name>yarn.resourcemanager.hostname.rm1</name><value>node1</value></property><property><name>yarn.resourcemanager.hostname.rm2</name><value>node2</value></property><property><name>yarn.resourcemanager.webapp.address.rm1</name><value>node1:8088</value></property><property><name>yarn.resourcemanager.webapp.address.rm2</name><value>node2:8088</value></property><property><name>yarn.resourcemanager.zk-address</name><value>zk1:2181,zk2:2181,zk3:2181</value></property>
5. 配置
zookeeper 集群的zoo.cfg文件,增加如下配置:
zookeeper 集群server.1=node1:2888:3888server.2=node2:2888:3888server.3=node3:2888:3888
中的编号,例如在node1上创建myid文件,文件内容为1。
7. 启动
zookeeper 集群。
8. 在
hadoop 集群的每个节点上启动journalnode:
hadoop-daemon.sh start journalnode
9. 在namenode1上格式化hdfs:
 hdfs namenode -format  
 
10. 在namenode1上启动hdfs:
 start-dfs.sh  
 
11. 在namenode1上启动yarn:
 start-yarn.sh  
 
12. 在namenode1上启动自动故障转移:
 hdfs haadmin -transitionToActive nn1  
 
13. 在namenode2上启动hdfs:
 start-dfs.sh  
 
14. 在namenode2上启动yarn:
 start-yarn.sh  
 
15. 在namenode2上启动自动故障转移:
 hdfs haadmin -transitionToStandby nn2  
 
16. 测试
hadoop 高可用 集群是否正常工作。
到此这篇yarn logs -applicationid命令(yarn build命令)的文章就 介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/rfx/55021.html