Zookeeper+Hadoop高可用(手动切换)

2022年2月24日22:05:21 发表评论 1,160 views

创建一个HAtest文件,可以循环创建

mkdir -vp /opt/module/HA

复制或者解压一个过去(此处是从前面分布式直接复制):cp -r hadoop2.8.4  HA

配置java环境:略

scp 到其它路径:scp -r xxxx bigdata166:`pwd`  和167

同时要临时注释掉原来的环境变量的hadoop的路径

修改所有core-site.xml文件(替换里面内容):

<configuration>
<!-- 把两个NameNode)的地址组装成一个集群mycluster -->
		<property>
			<name>fs.defaultFS</name>
			<!--此处改cluster,下面改下路径 -->
        	<value>hdfs://mycluster</value>
		</property>

		<!-- 指定hadoop运行时产生文件的存储目录 -->
		<property>
			<name>hadoop.tmp.dir</name>
			<value>/opt/module/HA/hadoop-2.8.4/data</value>
		</property>
</configuration>

修改所有hdfs-site.xml



<configuration>
	<!-- 完全分布式集群名称 -->
	<property>
		<name>dfs.nameservices</name>
		<value>mycluster</value>
	</property>

	<!-- 集群中NameNode节点都有哪些 -->
	<property>
		<name>dfs.ha.namenodes.mycluster</name>
		<value>nn1,nn2</value>
	</property>

	<!-- nn1的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn1</name>
		<value>bigdata166:9000</value>
	</property>

	<!-- nn2的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn2</name>
		<value>bigdata167:9000</value>
	</property>

	<!-- nn1的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn1</name>
		<value>bigdata166:50070</value>
	</property>

	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn2</name>
		<value>bigdata167:50070</value>
	</property>

	<!-- 指定NameNode元数据在JournalNode上的存放位置 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
	 <value>qjournal://bigdata166:8485;bigdata167:8485;bigdata168:8485/mycluster</value>
	</property>

	<!-- 配置隔离机制,即同一时刻只能有一台服务器对外响应 -->
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>sshfence</value>
	</property>

	<!-- 使用隔离机制时需要ssh无秘钥登录 注意用户名-->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value>/root/.ssh/id_rsa</value>
	</property>

	<!-- 声明journalnode服务器存储目录-->
	<property>
		<name>dfs.journalnode.edits.dir</name>
		<value>/opt/module/HA/hadoop-2.8.4/data/jn</value>
	</property>

	<!-- 关闭权限检查-->
	<property>
		<name>dfs.permissions.enable</name>
		<value>false</value>
	</property>

	<!-- 访问代理类:client,mycluster,active配置失败自动切换实现方式-->
	<property>
  		<name>dfs.client.failover.proxy.provider.mycluster</name>
	<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>
        <!--secondary NameNode的地址,端口号是50090-->
        <property>
                <name>dfs.namenode.secondary.http-address</name>
                <value>bigdata167:50090</value>
        </property>
</configuration>

 

最后:注意启动顺序

Journalnode主要是用来做数据之间共享的(三台全部启动)。

sbin/hadoop-daemon.sh start journalnode

2)在[nn1]上,对其进行格式化,并启动:

bin/hdfs namenode -format

sbin/hadoop-daemon.sh start namenode

3)在[nn2]上,同步nn1的元数据信息:

bin/hdfs namenode -bootstrapStandby

4)启动[nn2]:

sbin/hadoop-daemon.sh start namenode

5)查看web页面显示

http://bigdata166:50070/

http://bigdata167:50070/

6)在[nn1]上,启动所有datanode

sbin/hadoop-daemons.sh start datanode

7)查看是否Active

bin/hdfs haadmin -getServiceState nn1

8)将[nn1]切换为Active

切换为Active:bin/hdfs haadmin -transitionToActive nn1

切换为Standby:bin/hdfs haadmin -transitionToStandby nn1

 

记忆:sbin/hadoop-daemon.sh start journalnode/namenode/datanode

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: