广告
返回顶部
首页 > 资讯 > 数据库 >Yarn架构
  • 440
分享到

Yarn架构

Yarn架构 2016-03-24 20:03:58 440人浏览 无得
摘要

Yarn架构(Master-Slave) 进程角色: resourceManager(Master):任务调度和集群资源管理。 nodeManager(Slave):单个节点的资源管理。 applicationMaster:为任

Yarn架构

Yarn架构(Master-Slave)

进程角色:

  • resourceManager(Master):任务调度和集群资源管理。

  • nodeManager(Slave):单个节点的资源管理。

  • applicationMaster:为任务程序申请资源,任务程序运行状态监控、错误恢复。

  • container:对运行环境资源的抽象,是资源分配和使用的单元,包括cpu、内存、环境变量等资源。

  • client:发起任务的请求。

任务提交流程 :

用户将作业提交到client,client将任务提交给resourceManager,resourceManager选取一个nodeManager来启动一个applicationMaster,这个applicationMaster根据当前作业反过来向resourceManager申请计算资源,resourceManager将可用资源以一个个container的形式返给applicationMaster,applicationMaster根据各container的位置等属性,将计算任务发送到相应nodeManager,由nodeManager分配container并执行,每个container向applicationMaster同步任务执行状态,整个作业所涉及的每个container中的任务都全部执行完毕后,applicationMaster将结果写入目的地,同时applicationMaster将作业完毕的消息反馈给resourceManager,resourceManager将本次作业申请的container资源全部回收,供后续作业申请。

您可能感兴趣的文档:

--结束END--

本文标题: Yarn架构

本文链接: https://www.lsjlt.com/news/4475.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Yarn架构
    Yarn架构(Master-Slave) 进程角色: resourceManager(Master):任务调度和集群资源管理。 nodeManager(Slave):单个节点的资源管理。 applicationMaster:为任...
    99+
    2016-03-24
    Yarn架构
  • Hadoop中Yarn基本架构是怎么样的
    这篇文章主要为大家展示了“Hadoop中Yarn基本架构是怎么样的”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“Hadoop中Yarn基本架构是怎么样的”这篇文章吧。1 YARN 基本...
    99+
    2023-06-03
  • Linux下怎么使用yarn构建vue项目
    今天小编给大家分享一下Linux下怎么使用yarn构建vue项目的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。1、yarn的...
    99+
    2023-06-28
  • 运行在YARN上的计算框架有什么作用
    本篇内容主要讲解“运行在YARN上的计算框架有什么作用”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“运行在YARN上的计算框架有什么作用”吧!1. 将框架运行在...
    99+
    2022-10-19
  • YARN是什么
    这篇文章主要讲解了“YARN是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“YARN是什么”吧!  YARN是一种新的 Hadoop 资源管理器,它是一个通用资源管理系统,可为上层应用提...
    99+
    2023-06-02
  • Mac的yarn安装教程,解决zsh: command not found: yarn
    问题描述 当安装yarn时,容易出现以下问题 使用以下命令安装yarn时 npm install yarn -g 会出现以下错误: 发现原因是因为没有用户权限,解决方法是在命令前添加sudo sudo npm install yarn -...
    99+
    2023-08-16
    macos linux 运维
  • c/s架构和b/s架构
    C/S架构和B/S架构是两种常见的网络应用架构。C/S指的是客户端/服务器架构,而B/S指的是浏览器/服务器架构,两者都是为了实现交互式的网络应用程序,但在结构和工作方式上有所不同。C/S架构适用于需要更高性能、更好用户体验和离线工作模式的...
    99+
    2023-07-31
  • mysql架构类问题之MHA架构
    MHA 架构 适用的主从复制架构 主 / | 从1 从2 从3 故障转移步骤 选举具有最新更新的slave 尝试从宕机的master保存二进制日志 应用差异的中继日志到其他slave 应用从master保存的二进制日志 提升选举的...
    99+
    2015-04-12
    mysql架构类问题之MHA架构
  • mysql 架构类问题之 MMM 架构
    MMM 和 MHA 架构 MMM 和 MHA 架构的作用 对主从复制集群的 master 进行监控 当 master 宕机后把写 VIP 迁移到新 master 重新配置集群中其他 slave 对新的 master 同步 MMM 架构 ...
    99+
    2014-12-31
    mysql 架构类问题之 MMM 架构
  • LNMP架构
    目录 一、LNMP架构介绍 二、准备工作 1、将安装包传到/opt/目录下 2、搭建本地yum仓库 三、编译安装nginx服务 四、编译安装mysql服务 五、编译安装 PHP 解析环境 六、 部署Discuz社区论坛 七、装完后使用浏览...
    99+
    2023-09-11
    架构 php 服务器 linux 运维
  • HDFS架构
    HDFS架构(Master-Slave) 几个进程的角色 nameNode(master):用于保存、管理、持久化文件的元数据(文件名、文件副本数、文件块大小、文件块列表),同时还要接收客户端的文件读写请求。 secondar...
    99+
    2019-04-12
    HDFS架构
  • MySQL 架构
    执行流程简介 主要分为server层和存储引擎层。 server层主要分为:连接器、解析器、优化器、执行器、查询缓存 连接器:主要作用就是用户认证、给用户创建连接并使用连接池维护连接。 查询缓存:建立连接之后,就可以进行SQL操作了,...
    99+
    2016-06-23
    MySQL 架构
  • HIVE架构
    UI:      用于提交查询的客户端,hive自带有CLI(command line),现在推荐使用beeline DRIVER:                1.用于接收客户端提交的SQL,并实现了session控制   ...
    99+
    2016-06-18
    HIVE架构
  • mysql架构
    mysql架构连接处理,授权认证,安全第二层,大多数MySQL的核心服务功能都在这一层,查询解析,分析,优化,缓存以及所有内置函数包括加密函数,所有跨存储引擎的功能都在这一层实现:存储过程、触发器、视图等。...
    99+
    2022-10-18
  • code 架构
    目录 1. code 架构 1.1. 代码质量的评判的维度 1.2. 架构师 1.3. 基础平台篇 1. code 架构 1.1. 代码质量的评判的维度 可阅读性 (方便代码流转) 可...
    99+
    2023-08-30
    架构
  • npm安装yarn后找不到yarn报错的解决过程
    目录问题分析:解决问题: 正确用npm来安装yarn报错:找不到路径总结今天搞了一下午yarn就是报错如下 问题分析: 问题一:是由于之前学习大数据课程在安装Hadoop时中有y...
    99+
    2023-05-16
    npm怎么安装yarn 使用npm安装yarn yarn安装教程
  • Facebook移动架构:Android Flux架构详解
      要为Android应用找到一个好的架构不是一件容易的事情。谷歌似乎不太在乎这个事情,因此在设计模式上,除了Activity 生命周期管理之外,再也没有官方的推荐。  ...
    99+
    2022-06-06
    flux Android 架构
  • 阿里P8架构师谈:淘宝技术架构从1.0到4.0的架构变迁!附架构资料
    淘宝技术架构变迁自2003年创立以来的,淘宝业务发展非常迅速,几乎是每年以100%的速度在成长。创立之初,为了快速上线,抢占市场,选择了当时流行的LAMP架构,用PHP作为网站开发语言, Linux作为操作系统,Apache作为Web服务器...
    99+
    2023-06-05
  • yarn-site.xml 配置介绍
    yarn-site.xml 配置介绍yarn.scheduler.minimum-allocation-mb yarn.scheduler.maximum-allocation-mb说明:单个容器可申请的最小与最大内存,应用在运行...
    99+
    2021-10-23
    yarn-site.xml 配置介绍
  • 浅谈架构模式变迁之从分层架构到微服务架构
    目录前言单体架构分布式架构软件设计中的谬误谬误1:网络是可靠的谬误2:时延是0谬误3:带宽是无限的谬误4:网络是安全的谬误5:网络拓扑一成不变谬误6:只有一个网络管理员谬误7:通信成...
    99+
    2022-11-12
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作