CDH hadoop hdfs 磁盘重平衡

        最近CDH磁盘空间不够了,于是每个节点都扩容了1T空间,挂载之后发现新磁盘虽然在写入,但是数据量较少,所以需要在每个节点内部的新旧磁盘之间进去重新平衡。如果是开源的hadoop也可以去修改hdfs-site.xml的配置,后续执行命令即可。

        注:CDH界面本身有一个命令重平衡,但是那是平衡节点之间的数据的,在这里不起效果。

        经过验证操作步骤如下:


1.进入CDH管理平台中的hdfs配置

搜索:hdfs-site.xml 的 HDFS 服务高级配置代码段(安全阀)

添加:


名称:dfs.disk.balancer.enabled
值:true
说明:磁盘重平衡


2.进入到hadoop服务器,对某节点执行以下命令,进行数据重平衡

#1. 生成平衡计划
hdfs diskbalancer -plan cdh-dn03
#2. 执行平衡方案
hdfs diskbalancer -execute /system/diskbalancer/2025-Feb-13-09-02-12/cdh-dn03.plan.json
#3. 开启平衡
hdfs diskbalancer -query cdh-dn03

3.等待较长时间的磁盘平衡

通过命令:

df -h

效果最终可以看到旧磁盘数据明显减少,新磁盘数据变多。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值