etcd集群部署详解

简介
Etcd是一个高可用的 Key/Value 存储系统，主要用于分享配置和服务发现。
● 简单：支持 curl 方式的用户 API (HTTP+JSON)
● 安全：可选 SSL 客户端证书认证
● 快速：单实例可达每秒1000次写操作
● 可靠：使用 Raft 实现分布式

环境：

一、在各节点（etcd0、etcd1、etcd2）上安装etcd
下载etcd源码包：https://github.com/coreos/etcd/releases，这里用的是etcd-v3.0.14-Linux-amd64.tar.gz，解压并添加etcd命令至环境变量。

# cd  /path/to/etcd-v3.0.14-linux-amd64.tar.gz

# tar xf  etcd-v3.0.14-linux-amd64.tar.gz

# mv etcd-v3.0.14-linux-amd64   etcd

# vim /etc/profile
export  PATH=/path/to/etcd

# source  /etc/profile

二、配置etcd集群
目前支持三种发现方式：Static，etcd Discovery，DNS Discovery。
● Static适用于有固定IP的主机节点
● etcd Discovery适用于DHCP环境
● DNS Discovery依赖DNS SRV记录
这里我们采用Static方式，创建etcd0脚本，方便配置etcd启动参数。

# cd  /path/to/etcd
# mkdir  log  data       //data为节点数据存储文件夹，log为日志文件夹

# vim  etcd0.sh          //写入以下脚本内容
#!/bin/bash 

etcd  --name etcd0 --data-dir  /data/etcd/data --advertise-client-urls http://10.1.2.61:2379,http://10.1.2.61:4001 --listen-client-urls http://0.0.0.0:2379,http://0.0.0.0:4001 --initial-advertise-peer-urls http://10.1.2.61:2380 --listen-peer-urls http://0.0.0.0:2380 --initial-cluster-token etcd-cluster-1 --initial-cluster etcd0=http://10.1.2.61:2380,etcd1=http://10.1.2.172:2380,etcd2=http://10.1.2.173:2380 --initial-cluster-state new > ./log/etcd.log 2>&1


# nohup  ./etcd0.sh  &

# ps  -ef|grep etcd

# netstat  -lnpt|grep etcd

参数说明：
● –data-dir 指定节点的数据存储目录，若不指定，则默认是当前目录。这些数据包括节点ID，集群ID，集群初始化配置，Snapshot文件，若未指 定–wal-dir，还会存储WAL文件
● –wal-dir 指定节点的was文件存储目录，若指定了该参数，wal文件会和其他数据文件分开存储
● –name 节点名称
● –initial-advertise-peer-urls 告知集群其他节点的URL，tcp2380端口用于集群通信
● –listen-peer-urls 监听URL，用于与其他节点通讯
● –advertise-client-urls 告知客户端的URL, 也就是服务的URL，tcp2379端口用于监听客户端请求
● –initial-cluster-token 集群的ID
● –initial-cluster 集群中所有节点
● –initial-cluster-state 集群状态，new为新创建集群，existing为已存在的集群

在etcd1、etcd2上分别做相似操作，只需将脚本中–advertise-client-urls 和 –initial-advertis-peer-urls 参数修改一下即可。

注意:上面的初始化只是在集群初始化时运行一次，之后节点的服务有重启，必须要去掉initial参数，否则报错。

# etcd --name  etcd0  --data-dir  /data/etcd/data  --listen-peer-urls  http://10.1.2.61:2380  --listen-client-urls  http://10.1.2.61:2379,http://127.0.0.1:2379  --advertise-client-urls  http://10.1.2.61:2379

三、管理etcd集群
1.查看集群版本

# etcdctl  --version
# etcdctl  --help

2.查看集群健康状态

# etcdctl cluster-health

3.查看集群成员

# etcdctl  member  list

在任一节点上执行，可以看到集群的节点情况，并能看出哪个是leader节点

4.更新一个节点
如果你想更新一个节点的IP(peerURLS)，首先你需要知道那个节点的ID

# etcdctl member list
# etcdctl member update memberID http://ip:2380

5.删除一个节点（Etcd集群成员的缩）

#  etcdctl  member  list
#  etcdctl  member  remove  memberID
#  etcdctl  member  list
#  ps -ef|grep etcd          //在相关节点上kill掉etcd进程

6.增加一个新节点（Etcd集群成员的伸）
注意:步骤很重要，不然会报集群ID不匹配

# etcdctl member add --help

a. 将目标节点添加到集群

# etcdctl member add etcd3 http://10.1.2.174:2380

Addedmember named etcd3 with ID 28e0d98e7ec15cd4 to cluster
ETCD_NAME="etcd3"
ETCD_INITIAL_CLUSTER="etcd0=http://10.1.2.61:2380,etcd1=http://10.1.2.172:2380,etcd2=http://10.1.2.173:2380,etcd3=http://10.1.2.174:2380"
ETCD_INITIAL_CLUSTER_STATE="existing"

b. 查看新增成员列表，etcd3状态为unstarted

# etcdctl member list
d4f257d2b5f99b64[unstarted]:peerURLs=http://10.1.2.174:2380

c. 清空目标节点etcd3的data-dir
节点删除后，集群中的成员信息会更新，新节点是作为一个全新的节点加入集群，如果data-dir有数据，etcd启动时会读取己经存在的数据，仍然用老的memberID会造成无法加入集群，所以一定要清空新节点的data-dir。

# rm  -rf  /path/to/etcd/data

d. 在目标节点上启动新增加的成员
这里的initial标记一定要指定为existing，如果为new，则会自动生成一个新的memberID，这和前面添加节点时生成的ID不一致，故日志中会报节点ID不匹配的错。

# vim  etcd3.sh

修改etcd3.sh，脚本中–advertise-client-urls 和 –initial-advertis-peer-urls 参数修改为etcd3的，–initial-cluster-state改为existing

# nohup   ./etcd3.sh  &

# etcdctl  member  list

五、增删改查

1.在etcd1上设置一个key/value对，这时就可以在集群任意节点上获取key/value

etcd1# etcdctl set api_server  http://192.168.5.44:8080

http://192.168.5.44:8080


etcd0# etcdctl get api_server

http://192.168.5.44:8080

2.

# etcdctl  set  foo  "bar"
# etcdctl  get  foo

# etcdctl  mkdir  hello
# etcdctl  ls

# etcdctl  --output  extended  get  foo
# etcdctl  --output  json  get  foo

# etcdctl  update  foo  "etcd cluster is ok"
# etcdctl  get foo

# etcdctl  import  --snap  /data/etcd/member/snap/db

3.REST API

# curl  http://10.1.2.61:2379/v2/members

查看集群成员，其中，id是集群成员的全局唯一的身份标识，name是成员的名字，peerURLs是成员之间通信的入口，clientURLs是成员跟用户通信的访问入口

# curl   http://10.1.2.61:2379/v2/keys

# curl   -fs  -X  PUT   http://10.1.2.61:2379/v2/keys/_test

# curl   -X  GET   http://10.1.2.61:2379/v2/keys/_test

六、常见问题
1.dial tcp 10.1.2.172:2380: getsockopt: no route to host
此为防火墙没有关闭，要关闭防火墙

# service iptables  stop
# service firewalld  stop
# systemctl disable firewalld

2.nohup——真正的Shell后台运行