以下是
hadoop 高可用 集群配置的步骤:
1. 配置
hadoop 集群的core-site.xml文件,增加如下配置:
<property>
<name>fs.defaultFS</name>
<value>hdfs://mycluster</value>
</property>
<property>
<name>ha.
zookeeper.quorum</name>
<value>zk1:2181,zk2:2181,zk3:2181</value>
</property>
2. 配置
hadoop 集群的hdfs-site.xml文件,增加如下配置:
<property>
<name>dfs.nameservices</name>
<value>mycluster</value>
</property>
<property>
<name>dfs.ha.namenodes.mycluster</name>
<value>nn1,nn2</value>
</property>
<property>
<name>dfs.namenode.rpc-address.mycluster.nn1</name>
<value>node1:8020</value>
</property>
<property>
<name>dfs.namenode.rpc-address.mycluster.nn2</name>
<value>node2:8020</value>
</property>
<property>
<name>dfs.namenode.http-address.mycluster.nn1</name>
<value>node1:50070</value>
</property>
<property>
<name>dfs.namenode.http-address.mycluster.nn2</name>
<value>node2:50070</value>
</property>
<property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://node1:8485;node2:8485;node3:8485/mycluster</value>
</property>
<property>
<name>dfs.journalnode.edits.dir</name>
<value>/data/journal</value>
</property>
<property>
<name>dfs.ha.fencing.methods</name>
<value>sshfence</value>
</property>
<property>
<name>dfs.ha.fencing.ssh.private-key-files</name>
<value>/home/
hadoop/.ssh/id_rsa</value>
</property>
<property>
<name>dfs.ha.automatic-failover.enabled</name>
<value>true</value>
</property>
3. 配置
hadoop 集群的mapred-site.xml文件,增加如下配置:
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
4. 配置
hadoop 集群的yarn-site.xml文件,增加如下配置:
<property>
<name>yarn.resourcemanager.ha.enabled</name>
<value>true</value>
</property>
<property>
<name>yarn.resourcemanager.cluster-id</name>
<value>mycluster</value>
</property>
<property>
<name>yarn.resourcemanager.ha.rm-ids</name>
<value>rm1,rm2</value>
</property>
<property>
<name>yarn.resourcemanager.hostname.rm1</name>
<value>node1</value>
</property>
<property>
<name>yarn.resourcemanager.hostname.rm2</name>
<value>node2</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address.rm1</name>
<value>node1:8088</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address.rm2</name>
<value>node2:8088</value>
</property>
<property>
<name>yarn.resourcemanager.zk-address</name>
<value>zk1:2181,zk2:2181,zk3:2181</value>
</property>
5. 配置
zookeeper 集群的zoo.cfg文件,增加如下配置:
zookeeper 集群server.1=node1:2888:3888
server.2=node2:2888:3888
server.3=node3:2888:3888
中的编号,例如在node1上创建myid文件,文件内容为1。
7. 启动
zookeeper 集群。
8. 在
hadoop 集群的每个节点上启动journalnode:
hadoop
-daemon.sh start journalnode
9. 在namenode1上格式化hdfs:
hdfs namenode -format
10. 在namenode1上启动hdfs:
start-dfs.sh
11. 在namenode1上启动yarn:
start-yarn.sh
12. 在namenode1上启动自动故障转移:
hdfs haadmin -transitionToActive nn1
13. 在namenode2上启动hdfs:
start-dfs.sh
14. 在namenode2上启动yarn:
start-yarn.sh
15. 在namenode2上启动自动故障转移:
hdfs haadmin -transitionToStandby nn2
16. 测试
hadoop 高可用 集群是否正常工作。
到此这篇yarn logs -applicationid命令(yarn build命令)的文章就 介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/rfx/55021.html