zookeeper的原理和使用及安装
zookeeper的原理和使用
一、安装需求
安装java1.6及hadoop0.20.x
二、安装zookeeper
1、下载zookeeper
wgethttp://mirror.bit.edu.cn/apache//zookeeper/zookeeper-3.4.3/zookeeper-3.4.3.tar.gz(本次安装3.4.3版本)
其他版本下载地址(最好使用stable版本):http://zookeeper.apache.org/releases.html
2、解压
tar-xfzookeeper-3.4.3.tar.gz
将解压后的zookeeper-3.4.3文件放在系统的/home/hadooptest/中。
3、将zookeeper-3.4.3/conf目录下的zoo_sample.cfg文件拷贝一份,命名为为“zoo.cfg”
4、修改zoo.cfg配置文件
修改zoo.cfg内容为:
#Thenumberofmillisecondsofeachtick
tickTime=2000
#Thenumberofticksthattheinitial
#synchronizationphasecantake
initLimit=10
#Thenumberofticksthatcanpassbetween
#sendingarequestandgettinganacknowledgement
syncLimit=5
#thedirectorywherethesnapshotisstored.
#donotuse/tmpforstorage,/tmphereisjust
#examplesakes.
dataDir=/home/hadooptest/zookeeper-3.4.3/zookeeperdir/zookeeper-data
dataLogDir=/home/hadooptest/zookeeper-3.4.3/zookeeperdir/logs
#theportatwhichtheclientswillconnect
clientPort=2181
#
#Besuretoreadthemaintenancesectionofthe
#administratorguidebeforeturningonautopurge.
#
#http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
#ThenumberofsnapshotstoretainindataDir
#autopurge.snapRetainCount=3
#Purgetaskintervalinhours
#Setto"0"todisableautopurgefeature
#autopurge.purgeInterval=1
#2888,3888areelectionport
server.1=zookeeper:2888:3888
其中,2888端口号是zookeeper服务之间通信的端口,而3888是zookeeper与其他应用程序通信的端口。而zookeeper是在hosts中已映射了本机的ip。
initLimit:这个配置项是用来配置Zookeeper接受客户端(这里所说的客户端不是用户连接Zookeeper服务器的客户端,而是Zookeeper服务器集群中连接到Leader的Follower服务器)初始化连接时最长能忍受多少个心跳时间间隔数。当已经超过10个心跳的时间(也就是tickTime)长度后Zookeeper服务器还没有收到客户端的返回信息,那么表明这个客户端连接失败。总的时间长度就是5*2000=10秒。
syncLimit:这个配置项标识Leader与Follower之间发送消息,请求和应答时间长度,最长不能超过多少个tickTime的时间长度,总的时间长度就是2*2000=4秒。
server.A=B:C:D:其中A是一个数字,表示这个是第几号服务器;B是这个服务器的ip地址;C表示的是这个服务器与集群中的Leader服务器交换信息的端口;D表示的是万一集群中的Leader服务器挂了,需要一个端口来重新进行选举,选出一个新的Leader,而这个端口就是用来执行选举时服务器相互通信的端口。如果是伪集群的配置方式,由于B都是一样,所以不同的Zookeeper实例通信端口号不能一样,所以要给它们分配不同的端口号。
5、创建dataDir参数指定的目录(这里指的是“/home/hadooptest/zookeeper-3.4.3/zookeeperdir/zookeeper-data”),并在目录下创建文件,命名为“myid”。
6、编辑“myid”文件,并在对应的IP的机器上输入对应的编号。如在zookeeper上,“myid”文件内容就是1。由于本次只在单点上进行安装配置,所以只有一个server.1。若还有其他服务器,比如地址为192.168.1.102,则在zoo.cfg文件中还需加入server.2=192.168.1.102:2888:3888。那么myid文件在192.168.1.102服务器上的内容就是2。
至此,如果是多服务器配置,就需要将zookeeper-3.4.3目录拷贝到其他服务器,然后按照上述的方法修改myid。
7、在/etc/profile文件中设置PATH
修改profile文件:
sudovi/etc/profile
exportZOOKEEPER_HOME=/home/hadooptest/zookeeper-3.4.3
PATH=$ZOOKEEPER_HOME/bin:$PATH
exportPATH
8、安装完毕
三、启动并测试zookeeper
1、在所有服务器中执行:zookeeper-3.4.3/bin/zkServer.shstart
2、输入jps命令查看进程:
namenode上显示为(本次为单机配置):
7724DataNode
19769HMaster
7485NameNode
8064JobTracker
19361QuorumPeerMain
8323TaskTracker
7972SecondaryNameNode
21691Jps
19988HRegionServer
其中,QuorumPeerMain是zookeeper进程,启动正常。(HMaster和HRegionServer为已启动的hbase进程,其他为安装hadoop后启动的进程)
3、查看状态:zookeeper-3.4.3/bin/zkServer.shstatus
JMXenabledbydefault
Usingconfig:/home/hadooptest/zookeeper-3.4.3/bin/../conf/zoo.cfg
Mode:standalone
4、启动客户端脚本:zookeeper-3.4.3/bin/zkCli.sh-serverzookeeper:2181
WatchedEventstate:SyncConnectedtype:Nonepath:null
[zk:zookeeper:2181(CONNECTED)0]
[zk:zookeeper:2181(CONNECTED)0]help
ZooKeeper-serverhost:portcmdargs
connecthost:port
getpath[watch]
lspath[watch]
setpathdata[version]
rmrpath
delquota[-n|-b]path
quit
printwatcheson|off
create[-s][-e]pathdataacl
statpath[watch]
close
ls2path[watch]
history
listquotapath
setAclpathacl
getAclpath
syncpath
redocmdno
addauthschemeauth
deletepath[version]
setquota-n|-bvalpath
[zk:zookeeper:2181(CONNECTED)1]ls/
[hbase,zookeeper]
[zk:zookeeper:2181(CONNECTED)2]
5、停止zookeeper进程:zookeeper-3.4.3/bin/zkServer.shstop