iis服务器助手广告
返回顶部
首页 > 资讯 > 精选 >HDFS架构如何设计
  • 631
分享到

HDFS架构如何设计

2023-06-03 00:06:20 631人浏览 独家记忆
摘要

这篇文章主要介绍hdfs架构如何设计,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!HDFS架构设计:1.NN(Namenode):主要是维护管理文件命名空间,其中包括了文件名称,文件的权限,创建时间,副本数,文件被分

这篇文章主要介绍hdfs架构如何设计,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

HDFS架构设计
1.NN(Namenode):主要是维护管理文件命名空间,其中包括了文件名称,文件的权限,创建时间,副本数,文件被分成多少块,快分布在哪些机器(产生文件fsimage和editlog)。

2.理解NN管理下NN和块以及实际存储内容的存储关系。
实例:假设NN为一个容量为128000ML的正方形盒子,每个块为同样大小正正方方的容量为128ML的盒子,但是每个盒子里只有3ml的水(每个块中存储文件的实际大小)。

则问实际存储的内容是多少ml?3*(128000/128)=3000ml这里是由DN管理存储的。
放进去的盒子是多少个?1000个(其实就是存储的块的数量)
总的来说尽管实际存储只有3000ml,但是却消耗了1000个瓶子的名字的字节总和的NN的空间,但是如果把1000个瓶子压缩成500或者更少(小文件合并),则可以消耗更少量的NN管理空间。

3.DN(DataNode):存储数据块,存储数据块校验和。


4.SN(SecondaryNode):做每小时的检查工作checkpoint。(检查NN的工作即产生文件fsimage和editlog并进行打包制作成新的fsimage文件保存下来)

图理解:HDFS架构如何设计

以上是“HDFS架构如何设计”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注编程网精选频道!

--结束END--

本文标题: HDFS架构如何设计

本文链接: https://www.lsjlt.com/news/231792.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • HDFS架构如何设计
    这篇文章主要介绍HDFS架构如何设计,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!HDFS架构设计:1.NN(NameNode):主要是维护管理文件命名空间,其中包括了文件名称,文件的权限,创建时间,副本数,文件被分...
    99+
    2023-06-03
  • 如何理解kubernetes scheduler架构设计
    这期内容当中小编将会给大家带来有关如何理解kubernetes scheduler架构设计,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。资源调度基础scheudler是kubernetes中的核心组件,负...
    99+
    2023-06-19
  • ClickHouse分布式架构是如何设计的
    ClickHouse采用了一种分布式架构来处理海量数据的存储和查询。其分布式架构主要包括以下几个关键组件: 分布式存储层:Cli...
    99+
    2024-04-02
  • 解析Tomcat架构原理到架构设计
    目录一、学习目的1.1、掌握 Tomcat 架构设计与原理提高内功1.2、宏观理解一个请求如何与 Spring 联系起来1.3、提升自己的系统设计能力二、整体架构设计2.1、连接器2...
    99+
    2024-04-02
  • HDFS分布式文件系统如何设计
    这篇文章将为大家详细讲解有关HDFS分布式文件系统如何设计,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。正文HDFS的设计以及概念  HDFS集群是典型的 master/slave 架构,master 节...
    99+
    2023-06-02
  • MySQL Binlog存储系统的架构如何设计
    这篇文章主要讲解了“MySQL Binlog存储系统的架构如何设计”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“MySQL Binlog存储系统的架构如何设...
    99+
    2024-04-02
  • 云服务器架构设计
    1. 引言 云服务器架构设计是构建可靠、高效和可扩展的云计算环境的关键步骤。在设计云服务器架构时,需要考虑到性能、可用性、安全性和成本等因素。本文将介绍一些常见的云服务器架构设计原则和最佳实践。 2. 弹性扩展 弹性扩展是云服务器架构设计...
    99+
    2023-10-27
    架构 服务器
  • 如何进行大数据平台架构的设计
    本篇文章为大家展示了如何进行大数据平台架构的设计,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。  关于大数据平台架构的设计探究。麦肯锡全球研究所给出的定义是:一种规模大到在获取、存储、管理、分析方面...
    99+
    2023-06-02
  • 系统架构设计高级技能 · 云原生架构设计理论与实践
    系列文章目录 系统架构设计高级技能 · 软件架构概念、架构风格、ABSD、架构复用、DSSA(一)【系统架构设计师】 系统架构设计高级技能 · 系统质量属性与架构评估(二)【系统架构设计师】 系统架构设计高级技能 · 软件可靠性分析与设计(...
    99+
    2023-08-30
    系统架构 云原生
  • 系统架构设计高级技能 · 大数据架构设计理论与实践
    系列文章目录 系统架构设计高级技能 · 软件架构概念、架构风格、ABSD、架构复用、DSSA(一)【系统架构设计师】 系统架构设计高级技能 · 系统质量属性与架构评估(二)【系统架构设计师】 系统架构设计高级技能 · 软件可靠性分析与设计(...
    99+
    2023-08-30
    系统架构
  • Dubbo架构整体设计详解
    目录一、Dubbo调用关系说明1.1 组成部分1.2 启动和执行流程说明二、整体调用链路三、Dubbo整体设计一、Dubbo调用关系说明 1.1 组成部分 在这里主要由四部分组成:...
    99+
    2023-05-15
    Java Dubbo架构整体设计 Dubbo架构整体设计 Java Dubbo
  • 大型网站的可伸缩性架构如何设计?
    1. 网站架构的伸缩性设计1.1. 不同功能进行物理分离实现伸缩纵向分离(分层后分离):将业务处理流程上的不同部分分离部署,实现系统伸缩性。横向分离(业务分割后分离):将不同的业务模块分离部署,实现系统伸缩性。1.2. 单一功能通过集群规模...
    99+
    2023-06-02
  • Golang开发建议:如何设计可扩展的架构
    Golang作为一门现代化的编程语言,在近年来越来越受到开发者的关注和喜爱。它以其优秀的并发能力、高性能和可靠性而闻名。然而,要构建一个可扩展的架构需要额外的考虑和设计。本文将分享一些在Golang开发过程中设计可扩展架构的建议。使用接口在...
    99+
    2023-11-22
    架构设计 可扩展性 Golang开发
  • MySQL通透详解架构设计
    系统只要能从数据库连接池获取到一个数据库连接,就能执行CRUD。可通过数据库连接将待执行SQL发给MySQL。 大部分 crud boy只知道: 执行insert语句后,在...
    99+
    2024-04-02
  • 架构设计之“服务限流”
    上一篇我们聊过了架构设计中的「服务隔离」模式,今天我们继续来探索一下在分布式系统架构中的另一个常用的设计:服务限流。那么,什么是「服务限流」呢在解释「服务限流」之前,我们来看一下前些时间网上很火的一个段子,说的是新浪微博的一名工程师正在家里...
    99+
    2023-06-05
  • MySQL架构设计思想详解
    目录前言1. MySQL整体架构2. 连接器3. 查询缓存4. 分析器5. 优化器6. 执行器7. 总结前言 很多开发同学对SQL优化如数家珍,却对MySQL架构一知半解。岂不是只见...
    99+
    2022-11-13
    MySQL架构设计 架构设计
  • PHP中如何进行软件产品的架构设计?
    随着互联网的发展,PHP作为一种常用的编程语言,被广泛应用于Web开发和软件开发中。在进行PHP软件产品的开发过程中,架构设计是至关重要的一环。本文将介绍在PHP中如何进行软件产品的架构设计。一、什么是软件架构?软件架构指的是软件系统的结构...
    99+
    2023-05-14
    PHP 架构设计 软件产品。
  • 系统架构设计师-计算机网络
    目录 一、计算机网络技术概述         1、网络概述         2、网络有关指标         3、网络分类         4、5G技术 二、组网技术         1、交换技术         2、基本交换原理 三、TC...
    99+
    2023-10-01
    软件工程 系统架构
  • OpenStack架构设计方法是什么
    本篇内容介绍了“OpenStack架构设计方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!OpenStack 是开源云计算平台,支持...
    99+
    2023-06-04
  • 云服务器架构设计方案
    下面是云服务器架构设计方案的一些主要组成部分: 数据库:提供云服务器所需的各种数据库服务,包括 MySQL、PostgreSQL、MongoDB 等。这些数据库服务可以按需安装、升级和扩展。 虚拟化:使用虚拟化技术将多个物理服务器虚拟为...
    99+
    2023-10-27
    设计方案 架构 服务器
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作