创建一个HAtest文件,可以循环创建
mkdir -vp /opt/module/HA
复制或者解压一个过去(此处是从前面分布式直接复制):cp -r hadoop2.8.4 HA
配置java环境:略
scp 到其它路径:scp -r xxxx bigdata166:`pwd` 和167
同时要临时注释掉原来的环境变量的hadoop的路径
修改所有core-site.xml文件(替换里面内容):
<configuration> <!-- 把两个NameNode)的地址组装成一个集群mycluster --> <property> <name>fs.defaultFS</name> <!--此处改cluster,下面改下路径 --> <value>hdfs://mycluster</value> </property> <!-- 指定hadoop运行时产生文件的存储目录 --> <property> <name>hadoop.tmp.dir</name> <value>/opt/module/HA/hadoop-2.8.4/data</value> </property> </configuration>
修改所有hdfs-site.xml
<configuration> <!-- 完全分布式集群名称 --> <property> <name>dfs.nameservices</name> <value>mycluster</value> </property> <!-- 集群中NameNode节点都有哪些 --> <property> <name>dfs.ha.namenodes.mycluster</name> <value>nn1,nn2</value> </property> <!-- nn1的RPC通信地址 --> <property> <name>dfs.namenode.rpc-address.mycluster.nn1</name> <value>bigdata166:9000</value> </property> <!-- nn2的RPC通信地址 --> <property> <name>dfs.namenode.rpc-address.mycluster.nn2</name> <value>bigdata167:9000</value> </property> <!-- nn1的http通信地址 --> <property> <name>dfs.namenode.http-address.mycluster.nn1</name> <value>bigdata166:50070</value> </property> <!-- nn2的http通信地址 --> <property> <name>dfs.namenode.http-address.mycluster.nn2</name> <value>bigdata167:50070</value> </property> <!-- 指定NameNode元数据在JournalNode上的存放位置 --> <property> <name>dfs.namenode.shared.edits.dir</name> <value>qjournal://bigdata166:8485;bigdata167:8485;bigdata168:8485/mycluster</value> </property> <!-- 配置隔离机制,即同一时刻只能有一台服务器对外响应 --> <property> <name>dfs.ha.fencing.methods</name> <value>sshfence</value> </property> <!-- 使用隔离机制时需要ssh无秘钥登录 注意用户名--> <property> <name>dfs.ha.fencing.ssh.private-key-files</name> <value>/root/.ssh/id_rsa</value> </property> <!-- 声明journalnode服务器存储目录--> <property> <name>dfs.journalnode.edits.dir</name> <value>/opt/module/HA/hadoop-2.8.4/data/jn</value> </property> <!-- 关闭权限检查--> <property> <name>dfs.permissions.enable</name> <value>false</value> </property> <!-- 访问代理类:client,mycluster,active配置失败自动切换实现方式--> <property> <name>dfs.client.failover.proxy.provider.mycluster</name> <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value> </property> <!--secondary NameNode的地址,端口号是50090--> <property> <name>dfs.namenode.secondary.http-address</name> <value>bigdata167:50090</value> </property> </configuration>
最后:注意启动顺序
Journalnode主要是用来做数据之间共享的(三台全部启动)。
sbin/hadoop-daemon.sh start journalnode
2)在[nn1]上,对其进行格式化,并启动:
bin/hdfs namenode -format
sbin/hadoop-daemon.sh start namenode
3)在[nn2]上,同步nn1的元数据信息:
bin/hdfs namenode -bootstrapStandby
4)启动[nn2]:
sbin/hadoop-daemon.sh start namenode
5)查看web页面显示
http://bigdata167:50070/
6)在[nn1]上,启动所有datanode
sbin/hadoop-daemons.sh start datanode
7)查看是否Active
bin/hdfs haadmin -getServiceState nn1
8)将[nn1]切换为Active
切换为Active:bin/hdfs haadmin -transitionToActive nn1
切换为Standby:bin/hdfs haadmin -transitionToStandby nn1
记忆:sbin/hadoop-daemon.sh start journalnode/namenode/datanode