广告
返回顶部
首页 > 资讯 > 前端开发 > html >Apache Mesos总体架构分析
  • 403
分享到

Apache Mesos总体架构分析

2024-04-02 19:04:59 403人浏览 安东尼
摘要

这篇文章主要介绍“Apache Mesos总体架构分析”,在日常操作中,相信很多人在Apache Mesos总体架构分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Apac

这篇文章主要介绍“Apache Mesos总体架构分析”,在日常操作中,相信很多人在Apache Mesos总体架构分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Apache Mesos总体架构分析”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

1. 前言

同其他大部分分布式系统一样,Apache  Mesos为了简化设计,也是采用了master/slave结构,为了解决master单点故障,将master做得尽可能地轻量级,其上面所有的元数 据可以通过各个slave重新注册而进行重构,故很容易通过ZooKeeper解决该单点故障问题。

2. Apache mesos中的基本术语解释

(1)    Mesos-master:Mesos master,主要负责管理各个framework和slave,并将slave上的资源分配给各个framework

(2)    Mesos-slave:Mesos slave,负责管理本节点上的各个mesos-task,比如:为各个executor分配资源

(3)    Framework:计算框架,如:hadoopspark等,通过MesosSchedulerDiver接入Mesos

(4)    Executor:执行器,安装到mesos-slave上,用于启动计算框架中的task。

当用户试图添加一种新的计算框架到Mesos中时,需要实现一个Framework scheduler和executor以接入Mesos。

3. 总体架构

Apache Mesos由四个组件组成,分别是Mesos-master,mesos-slave,framework和executor。

Mesos-master是整个系统的核心,负责管理接入mesos的各个framework(由frameworks_manager管理)和 slave(由slaves_manager管理),并将slave上的资源按照某种策略分配给framework(由独立插拔模块Allocator管 理)。

Mesos-slave负责接收并执行来自mesos-master的命令、管理节点上的mesos-task,并为各个task分配资源。 mesos-slave将自己的资源量发送给mesos-master,由mesos-master中的Allocator模块决定将资源分配给哪个 framework,当前考虑的资源有CPU和内存两种,也就是说,mesos-slave会将CPU个数和内存量发送给mesos-master,而用 户提交作业时,需要指定每个任务需要的CPU个数和内存量,这样,当任务运行时,mesos-slave会将任务放到包含固定资源的linux  container中运行,以达到资源隔离的效果。很明显,master存在单点故障问题,为此,mesos采用了zookeeper解决该问题。

Framework是指外部的计算框架,如Hadoop,Mesos等,这些计算框架可通过注册的方式接入mesos,以便mesos进行统一管理 和资源分配。Mesos要求可接入的框架必须有一个调度器模块,该调度器负责框架内部的任务调度。当一个framework想要接入mesos时,需要修 改自己的调度器,以便向mesos注册,并获取mesos分配给自己的资源,  这样再由自己的调度器将这些资源分配给框架中的任务,也就是说,整个mesos系统采用了双层调度框架:***层,由mesos将资源分配给框架;第二层, 框架自己的调度器将资源分配给自己内部的任务。当前Mesos支持三种语言编写的调度器,分别是c++,java和python,为了向各种调度器提供统 一的接入方式,Mesos内部采用C++实现了一个MesosSchedulerDriver(调度器驱动器),framework的调度器可调用该 driver中的接口与Mesos-master交互,完成一系列功能(如注册,资源分配等)。

Executor主要用于启动框架内部的task。由于不同的框架,启动task的接口或者方式不同,当一个新的框架要接入mesos时,需要编写 一个executor,告诉mesos如何启动该框架中的task。为了向各种框架提供统一的执行器编写方式,Mesos内部采用C++实现了一个 MesosExecutorDiver(执行器驱动器),framework可通过该驱动器的相关接口告诉mesos启动task的方法。

Apache Mesos总体架构分析

到此,关于“Apache Mesos总体架构分析”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!

--结束END--

本文标题: Apache Mesos总体架构分析

本文链接: https://www.lsjlt.com/news/86389.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Apache Mesos总体架构分析
    这篇文章主要介绍“Apache Mesos总体架构分析”,在日常操作中,相信很多人在Apache Mesos总体架构分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Apac...
    99+
    2022-10-19
  • 如何理解Apache Mesos模块间通信架构
    这篇文章给大家介绍如何理解Apache Mesos模块间通信架构,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。1.  介绍Mesos主要由四种组件组成,分别是mesos-ma...
    99+
    2022-10-19
  • SpringMVC框架REST架构体系原理分析
    目录资源(Resource)表现层(Representation)状态转换(State Transfer)如何使用1.在Handler写出增删改查的方法2.Repository资源(...
    99+
    2022-11-12
  • MySQL体系架构的示例分析
    这篇文章给大家分享的是有关MySQL体系架构的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。MySQL 体系架构MySQL 体系架构主要分为两部分:客户端和服务端客户端客...
    99+
    2022-10-18
  • 走进JavaWeb技术世界6:Tomcat5总体架构剖析
    本系列文章将整理到我在GitHub上的《Java面试指南》仓库,更多精彩内容请到我的仓库里查看https://github.com/h3pl/Java-Tutorial喜欢的话麻烦点下Star哈文章首发于我的个人博客:www.how2pla...
    99+
    2023-06-02
  • MySQL逻辑体系架构的示例分析
    这篇文章主要为大家展示了“MySQL逻辑体系架构的示例分析”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“MySQL逻辑体系架构的示例分析”这篇文章吧。Mysql...
    99+
    2022-10-19
  • Mysql 架构分析
    1. mysql架构图 1.1 各模块说明 2 .Binlog 日志的使用 3. Redo Log 和 Binlog的区别 ...
    99+
    2018-01-11
    Mysql 架构分析
  • [Apache Atlas] Atlas 架构设计及源代码简单分析
    Apache Atlas 架构设计及源代码分析, 以Hive建库为例,分析元数据采集的主体流程 Apache Atlas 架构图 Atlas 支持多数据源接入:Hive、HBase、Stor...
    99+
    2020-01-26
    [Apache Atlas] Atlas 架构设计及源代码简单分析
  • hive架构及知识体系的示例分析
    这篇文章主要介绍了hive架构及知识体系的示例分析,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。Hive架构与基本组成Hive的体系结构可以分为以下几部分:  &n...
    99+
    2023-06-02
  • 如何进行数据库的架构整体分析
    这期内容当中小编将会给大家带来有关如何进行数据库的架构整体分析,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。  很少谈架构方面的事情,主要是因为这确实是个对知识面和知识深...
    99+
    2022-10-19
  • OnZoom基于Apache Hudi的一体架构是什么
    本篇内容主要讲解“OnZoom基于Apache Hudi的一体架构是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“OnZoom基于Apache Hudi的一体架构是什么”...
    99+
    2023-06-29
  • Oracle体系结构分析
    这篇文章主要讲解了“Oracle体系结构分析”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Oracle体系结构分析”吧! 一、什么是Oracle数...
    99+
    2022-10-19
  • 数据中台架构体系浅析
    中台出现的背景 从技术上来看,随着业务的发展,很多企业在前期搭建了很多的IT系统,系统间像烟囱一样相互独立。在面对着越来越复杂的业务,越来越多的数据,企业IT在扩展旧系统上出现了一定的局限,从而产生不断的重复建设的问题,企业需要制定数字转型...
    99+
    2017-02-13
    数据中台架构体系浅析
  • python架构PyNeuraLogic源码分析
    这篇“python架构PyNeuraLogic源码分析”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“python架构PyNe...
    99+
    2023-07-05
  • MySQL之架构简单分析
        上图为MySQL的简易架构图,给您有一个大概的概念,下面我将为您进行进一步的分析。 连接器: 当连接MySQL数据库时,等待的将是MySQL服务端的连接器;连接器的职责是和客户端建立连接、获取权限、维持和管理连接。客户端连接命令一...
    99+
    2014-12-17
    MySQL之架构简单分析
  • Angular2架构的示例分析
    这篇文章给大家分享的是有关Angular2架构的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。核心模块一个完整的Angular应用主要由六个重要部分组成:组件、模板、指令...
    99+
    2022-10-19
  • Kubernetes架构的示例分析
    这篇文章主要介绍Kubernetes架构的示例分析,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!首先,为什么要用Kubernetes 使用一个工具先要梳理下使用这个工具的目标,我们不是为了工具而用工具。Kuberne...
    99+
    2023-06-19
  • vue-cli系列之vue-cli-service整体架构的示例分析
    这篇文章给大家分享的是有关vue-cli系列之vue-cli-service整体架构的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。概述vue启动一个项目的时候,需要执行...
    99+
    2022-10-19
  • 如何分析jvm体系结构
    今天就跟大家聊聊有关如何分析jvm体系结构,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。这不是一篇描述jvm是什么的文章,也不介绍jvm跨平台的特性,也不是讲述jvm安全特性的文章,...
    99+
    2023-06-17
  • Apache Pulsar结合Hudi构建Lakehouse方案分析
    目录1. 动机2. 分析3. 当前方案4. 新的Lakehouse存储方案4.1 新的存储布局4.2 支持高效Upserts4.3 将Hudi表当做Pulsar Topic4.4 可...
    99+
    2022-11-13
软考高级职称资格查询
推荐阅读
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作