HBase中wal文件过多导致Zookeeper异常问题

最新推荐文章于 2023-09-15 15:45:53 发布

Xlucas

最新推荐文章于 2023-09-15 15:45:53 发布

阅读量1.9k

点赞数

CC 4.0 BY-SA版权

分类专栏： hbase 文章标签： hbase wal

本文链接：https://blog.csdn.net/paicMis/article/details/103384872

本文介绍了由于HBase的WAL文件数量过多（30TB），导致Zookeeper节点超出4MB限制，从而引发/hbase/splitWAL连接异常。通过增大Zookeeper节点大小参数jute.maxbuffer至100MB并优化WAL管理，成功解决了HBase Master无法启动的问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近hbase出现了大量KeeperErrorCode = ConnectionLoss for /hbase/splitWAL 异常，而且在重启hbase的时候，没有办法启动hbase，经过仔细诊断之后发现是由于hbase的WAL文件非常多（达到30TB），导致hbase在zk的节点（存储WAL文件信息的节点）超过4096*1024 默认大小，无法正常提供服务。因此，hbase master无法正常启动。通过增加zk节点的大小参数，并且优化WAL文件，最终解决该问题。

故障现象
日志报错无法连接上zk 的 /hbase/splitWAL节点

2019-12-03 05:48:05,797 ERROR [SplitLogWorker-HDPC238160:60020] zookeeper.RecoverableZooKeeper: ZooKeeper getChildren failed after 4 attempts
2019-12-03 05:48:05,798 WARN [SplitLogWorker-HDPC238160:60020] zookeeper.ZKUtil: regionserver:60020-0x16bdfc9dd27ac74, quorum=HDPC238162:2181,HDPC238160:2181,HDPC238161:2181, baseZNode=/hbase Unable to list children of znode /hbase/splitWAL
org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /hbase/splitWAL
at org.apache.zookeeper.KeeperException.create(KeeperException.java:99)
at org.apache.zookeeper.KeeperException.create(KeeperException.java:51)
at org.apache.zook