【HDFS】DatanodeAdminBackoffMonitor退役节点极慢的问题定位

一、现象:

下节点特别慢。10台节点,每台大约需要退役60w个块。但是3个小时才退役了3000多个块。

NN侧如下日志,可以看到30秒只退役了512-494 = 20个块,这要是退役600w个块,得猴年马月?

2024-03-19 14:44:42,952 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeAdminBackoffMonitor: There are 10000 blocks pending replication and the limit is 10000. A further 6174331 blocks are waiting to be processed. The replication queue currently has 112518 blocks

2024-03-19 14:45:12,972 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeAdminBackoffMonitor: There are 10000 blocks pending replication and the limit is 10000. A further 6174331 blocks are waiting to be processed. The replication queue currently has 112494 blocks

NN监控里,也能发现不少块复制超时了。

DN侧监控,发现只有一台节点在处理复制任务,它的XmitsInProgress线程数不为0,其它的DN都为0ÿ

相关推荐

  1. kafka学习笔记--节点服役与退役

    2024-03-21 20:22:02       46 阅读
  2. 客日常】查询风险治理思路

    2024-03-21 20:22:02       48 阅读
  3. SSH连接问题

    2024-03-21 20:22:02       40 阅读
  4. SQL-查询定位及优化

    2024-03-21 20:22:02       11 阅读
  5. 解决 MATLAB 启动速度问题

    2024-03-21 20:22:02       59 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-03-21 20:22:02       16 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-03-21 20:22:02       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-03-21 20:22:02       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-03-21 20:22:02       18 阅读

热门阅读

  1. springboot logback 文件配置log输出

    2024-03-21 20:22:02       19 阅读
  2. RISC-V架构中mret、sret、ret三个指令的区别

    2024-03-21 20:22:02       36 阅读
  3. 在Ubuntu下使用Typora导出文档

    2024-03-21 20:22:02       21 阅读
  4. Linux: boot: latency启动延迟分析

    2024-03-21 20:22:02       18 阅读
  5. 如何退出nano编辑器(纯傻小白)

    2024-03-21 20:22:02       17 阅读
  6. 【PMP】每日一练1

    2024-03-21 20:22:02       19 阅读
  7. 消防游戏演练,消防科普游戏开发

    2024-03-21 20:22:02       18 阅读
  8. node 常用命令

    2024-03-21 20:22:02       18 阅读
  9. MySQL开启慢查询

    2024-03-21 20:22:02       22 阅读
  10. web蓝桥杯真题:菜单树检索

    2024-03-21 20:22:02       16 阅读
  11. vue中动态显示时间

    2024-03-21 20:22:02       17 阅读