经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » 大数据/云/AI » Zookeeper » 查看文章
zookeeper特性与节点说明
来源:cnblogs  作者:小强的进阶之路  时间:2019/10/8 9:05:01  对本文有异议

一、zookeeper概要、背景及作用


zookeeper产生背景:

项目从单体到分布式转变之后,将会产生多个节点之间协同的问题。如:

  1. 每天的定时任务由谁哪个节点来执行?
  2. RPC调用时的服务发现?
  3. 如何保证并发请求的幂等
  4. ....

这些问题可以统一归纳为多节点协调问题,如果靠节点自身进行协调这是非常不可靠的,性能上也不可取。必须由一个独立的服务做协调工作,它必须可靠,而且保证性能。

zookeeper概要:

ZooKeeper是用于分布式应用程序的协调服务。它公开了一组简单的API,分布式应用程序可以基于这些API用于同步,节点状态、配置等信息、服务注册等信息。其由JAVA编写,支持JAVA 和C两种语言的客户端。

znode 节点

zookeeper 中数据基本单元叫节点,节点之下可包含子节点,最后以树级方式程现。每个节点拥有唯一的路径path。客户端基于PATH上传节点数据,zookeeper 收到后会实时通知对该路径进行监听的客户端。

二、部署与常规配置


zookeeper 基于JAVA开发,下载后只要有对应JVM环境即可运行。其默认的端口号是2181运行前得保证其不冲突。

版本说明:

2019年5月20日发行的3.5.5是3.5分支的第一个稳定版本。此版本被认为是3.4稳定分支的后续版本,可以用于生产。基于3.4它包含以下新功能

  • 动态重新配置
  • 本地会议
  • 新节点类型:容器,TTL
  • 原子广播协议的SSL支持
  • 删除观察者的能力
  • 多线程提交处理器
  • 升级到Netty 4.1
  • Maven构建

另请注意:建议的最低JDK版本为1.8
文件说明:

  • apache-zookeeper-xxx-tar.gz 代表源代码
  • apache-zookeeper-xxx-bin.tar.gz 运行版本

下载地址:https://zookeeper.apache.org/releases.html#download
具体部署流程:

  1. #下载
  2. wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/current/apache-zookeeper-3.5.5-bin.tar.gz
  3. #解压
  4. tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz
  5. #拷贝默认配置
  6. cd {zookeeper_home}/conf
  7. cp zoo_sample.cfg zoo.cfg
  8. #启动
  9. ?{zookeeper_home}/bin/zkServer.sh

常规配置文件说明:

  1. # zookeeper时间配置中的基本单位 (毫秒)
  2. tickTime=2000
  3. # 允许follower初始化连接到leader最大时长,它表示tickTime时间倍数 即:initLimit*tickTime
  4. initLimit=10
  5. # 允许follower与leader数据同步最大时长,它表示tickTime时间倍数?
  6. syncLimit=5
  7. #zookeper 数据存储目录
  8. dataDir=/tmp/zookeeper
  9. #对客户端提供的端口号
  10. clientPort=2181
  11. #单个客户端与zookeeper最大并发连接数
  12. maxClientCnxns=60
  13. # 保存的数据快照数量,之外的将会被清除
  14. autopurge.snapRetainCount=3
  15. #自动触发清除任务时间间隔,小时为单位。默认为0,表示不自动清除。
  16. autopurge.purgeInterval=1

客户端命令:

基本命令列表
close?
关闭当前会话
connect host:port
重新连接指定Zookeeper服务
create [-s] [-e] [-c] [-t ttl] path [data] [acl]
创建节点
delete [-v version] path
删除节点,(不能存在子节点)
deleteall path
删除路径及所有子节点
setquota -n|-b val path
设置节点限额 -n 子节点数 -b 字节数
listquota path
查看节点限额
delquota [-n|-b] path
删除节点限额
get [-s] [-w] path
查看节点数据 -s 包含节点状态 -w 添加监听
getAcl [-s] path
ls [-s] [-w] [-R] path
列出子节点 -s状态 -R 递归查看所有子节点 -w 添加监听
printwatches on|off
是否打印监听事件
quit?
退出客户端
history?
查看执行的历史记录
redo cmdno
重复 执行命令,history?中命令编号确定
removewatches path [-c|-d|-a] [-l]
删除指定监听
set [-s] [-v version] path data
设置值
setAcl [-s] [-v version] [-R] path acl
为节点设置ACL权限
stat [-w] path
查看节点状态 -w 添加监听
sync path
强制同步节点

node数据的增删改查

  1. # 列出子节点
  2. ls /
  3. #创建节点
  4. create /luban "luban is good man"
  5. # 查看节点
  6. get /luban
  7. # 创建子节点
  8. create /luban/sex "man"
  9. # 删除节点
  10. delete /luban/sex
  11. # 删除所有节点 包括子节点
  12. deleteall /luban
  1. [zk: 127.0.0.1:2181(CONNECTED) 20] ls /
  2. [admin, brokers, cluster, config, consumers, controller, controller_epoch, isr_change_notification, latest_producer_id_block, log_dir_event_notification, tmp0000000095, zookeeper]
  3. [zk: 127.0.0.1:2181(CONNECTED) 21] create /xiaoqiang "xiaoqiang is a good man"
  4. Created /xiaoqiang
  5. [zk: 127.0.0.1:2181(CONNECTED) 22] get /xiaoqiang
  6. xiaoqiang is a good man
  7. [zk: 127.0.0.1:2181(CONNECTED) 23] create /xiaoqiang/age 17
  8. Created /xiaoqiang/age
  9. [zk: 127.0.0.1:2181(CONNECTED) 24] delete /xiaoqiang/age
  10. [zk: 127.0.0.1:2181(CONNECTED) 25] deleteall /xiaoqiang

三、Zookeeper节点介绍

zookeeper 中节点叫znode存储结构上跟文件系统类似,以树级结构进行存储。不同之外在于znode没有目录的概念,不能执行类似cd之类的命令。znode结构包含如下:

  • path:唯一路径
  • childNode:子节点
  • stat:状态属性
  • type:节点类型

    节点类型

    类型 描述
    PERSISTENT 持久节点
    PERSISTENT_SEQUENTIAL 持久序号节点
    EPHEMERAL 临时节点(不可在拥有子节点)
    EPHEMERAL_SEQUENTIAL 临时序号节点(不可在拥有子节点)
  1. PERSISTENT(持久节点)

持久化保存的节点,也是默认创建的

  1. #默认创建的就是持久节点
  2. create /test
  1. PERSISTENT_SEQUENTIAL(持久序号节点)

创建时zookeeper 会在路径上加上序号作为后缀,。非常适合用于分布式锁、分布式选举等场景。创建时添加 -s 参数即可。

  1. #创建序号节点
  2. create -s /test
  3. #返回创建的实际路径
  4. Created /test0000000001
  5. create -s /test
  6. #返回创建的实际路径2
  7. Created /test0000000002
  1. EPHEMERAL(临时节点)

临时节点会在客户端会话断开后自动删除。适用于心跳,服务发现等场景。创建时添加参数-e 即可。

  1. #创建临时节点, 断开会话 在连接将会自动删除
  2. create -e /temp
  1. EPHEMERAL_SEQUENTIAL(临时序号节点)

与持久序号节点类似,不同之处在于EPHEMERAL_SEQUENTIAL是临时的会在会话断开后删除。创建时添加 -e -s

  1. create -e -s /temp/seq

节点属性

  1. # 查看节点属性
  2. stat /luban

其属性说明如下表:

  1. #创建节点的事物ID
  2. cZxid = 0x385
  3. #创建时间
  4. ctime = Tue Sep 24 17:26:28 CST 2019
  5. #修改节点的事物ID
  6. mZxid = 0x385
  7. #最后修改时间
  8. mtime = Tue Sep 24 17:26:28 CST 2019
  9. # 子节点变更的事物ID
  10. pZxid = 0x385
  11. #这表示对此znode的子节点进行的更改次数(不包括子节点)
  12. cversion = 0
  13. # 数据版本,变更次数
  14. dataVersion = 0
  15. #权限版本,变更次数
  16. aclVersion = 0
  17. #临时节点所属会话ID
  18. ephemeralOwner = 0x0
  19. #数据长度
  20. dataLength = 17
  21. #子节点数(不包括子子节点)
  22. numChildren = 0

节点的监听:

客户添加 -w 参数可实时监听节点与子节点的变化,并且实时收到通知。非常适用保障分布式情况下的数据一至性。其使用方式如下:
| 命令 | 描述 |
|:----|:----|
| ls -w path | 监听子节点的变化(增,删) |
| get -w path | 监听节点数据的变化 |
| stat -w path | 监听节点属性的变化 |
| printwatches on|off | 触发监听后,是否打印监听事件(默认on) |

acl权限设置

ACL全称为Access Control List(访问控制列表),用于控制资源的访问权限。ZooKeeper使用ACL来控制对其znode的防问。基于scheme??permission的方式进行权限控制。scheme表示授权模式、id模式对应值、permission即具体的增删改权限位。

scheme:认证模型
| 方案 | 描述 |
|:----|:----|
| world | 开放模式,world表示全世界都可以访问(这是默认设置) |
| ip | ip模式,限定客户端IP防问 |
| auth | 用户密码认证模式,只有在会话中添加了认证才可以防问 |
| digest | 与auth类似,区别在于auth用明文密码,而digest 用sha-1+base64加密后的密码。在实际使用中digest 更常见。 |

permission权限位
| 权限位 | 权限 | 描述 |
|:----|:----|:----|
| c | CREATE | 可以创建子节点 |
| d | DELETE | 可以删除子节点(仅下一级节点) |
| r | READ | 可以读取节点数据及显示子节点列表 |
| w | WRITE | 可以设置节点数据 |
| a | ADMIN | 可以设置节点访问控制列表权限 |

acl 相关命令:
| 命令 | 使用方式 | 描述 |
|:----|:----|:----|
| getAcl | getAcl | 读取ACL权限 |
| setAcl | setAcl | 设置ACL权限 |
| addauth | addauth | 添加认证用户 |

world权限示例
语法: setAcl world:anyone:<权限位>
注:world模式中anyone是唯一的值,表示所有人

  1. 查看默认节点权限:
  1. #创建一个节点
  2. create -e /testAcl
  3. #查看节点权限
  4. getAcl /testAcl
  5. #返回的默认权限表示 ,所有人拥有所有权限。
  6. 'world,'anyone: cdrwa
  1. 修改默认权限为 读写
  1. #设置为rw权限?
  2. setAcl /testAcl world:anyone:rw
  3. # 可以正常读
  4. get /testAcl
  5. # 无法正常创建子节点
  6. create -e /testAcl/t "hi"
  7. # 返回没有权限的异常
  8. Authentication is not valid : /testAcl/t

IP权限示例:
语法: setAcl ip:<ip地址|地址段>:<权限位>

auth模式示例:
语法:

  1. setAcl auth:<用户名>:<密码>:<权限位>
  2. addauth digest <用户名>:<密码>

digest 权限示例:
语法:

  1. setAcl digest :<用户名>:<密钥>:<权限位>
  2. addauth digest <用户名>:<密码>

注1:密钥 通过sha1与base64组合加密码生成,可通过以下命令生成

  1. echo -n <用户名>:<密码> | openssl dgst -binary -sha1 | openssl base64

注2:为节点设置digest 权限后,访问前必须执行addauth,当前会话才可以防问。

  1. 设置digest 权限
  1. #先 sha1 加密,然后base64加密
  2. echo -n luban:123456 | openssl dgst -binary -sha1 | openssl base64
  3. #返回密钥
  4. 2Rz3ZtRZEs5RILjmwuXW/wT13Tk=
  5. #设置digest权限
  6. setAcl /luban digest:luban:2Rz3ZtRZEs5RILjmwuXW/wT13Tk=:cdrw
  1. 查看节点将显示没有权限
  1. #查看节点
  2. get /luban
  3. #显示没有权限访问
  4. org.apache.zookeeper.KeeperException$NoAuthException: KeeperErrorCode = NoAuth for /luban
  1. 给当前会话添加认证后在次查看
  1. #给当前会话添加权限帐户
  2. addauth digest luban:123456
  3. #在次查看
  4. get /luban
  5. #获得返回结果
  6. luban is good man

ACL的特殊说明:
权限仅对当前节点有效,不会让子节点继承。如限制了IP防问A节点,但不妨碍该IP防问A的子节点 /A/B。

还没关注我的公众号?

  • 扫文末二维码关注公众号【小强的进阶之路】可领取如下:
  • 学习资料: 1T视频教程:涵盖Javaweb前后端教学视频、机器学习/人工智能教学视频、Linux系统教程视频、雅思考试视频教程;
  • 100多本书:包含C/C++、Java、Python三门编程语言的经典必看图书、LeetCode题解大全;
  • 软件工具:几乎包括你在编程道路上的可能会用到的大部分软件;
  • 项目源码:20个JavaWeb项目源码。
    小强的进阶之路二维码

原文链接:http://www.cnblogs.com/xiaoqiang-code/p/11611289.html

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号