Pyke's Blog 给我一双看清世界的眼眸

对于慢节点(盘)的处理

一、背景 什么是慢节点? 随着HDFS集群规模的不断增长、服务器使用寿命的缩减,在大规模集群中性能退化节点的出现是必然的,我们将这样的节点称为慢节点。慢节点问题是大规模集群中的常见问题,其影响范围可以波及整个集群,会对集群的吞吐能力造成严重的影响。 HDFS作为大数据平台的存储底座,慢节点问题将对上

Administrator Administrator Published on 2023-10-05

HDFS写文件流程

一、构建Pipeline 在从客户端提交写入文件的请求后,NameNode需要选择出一些适合的DataNode,将这些DataNode放入一个Pipeline中。NameNode会与Pipeline中的第一个DataNode交互(发送Packet),接下来第一个DataNode会将Packet发送到

Administrator Administrator Published on 2023-09-27

DataNode启动流程

一、 DataNode类的注释 /********************************************************** * DataNode is a class (and program) that stores a set of * blocks for a

Administrator Administrator Published on 2023-09-26

Yarn Federation任务提交流程(一)

1. 启动Router时做了什么事 官方对Router有如下释义,这个组件的作用大致意思就是可以对外暴露ApplicationClientProtocol,让外界不感知ResourceManager的存在,所有通过Yarn Client发送的请求会经过这里,从而进行解耦。 /** * The ro

Administrator Administrator Published on 2023-08-02
Previous Next