iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >HIVE架构
  • 861
分享到

HIVE架构

HIVE架构 2016-06-18 04:06:11 861人浏览 猪猪侠
摘要

UI:      用于提交查询的客户端,Hive自带有CLI(command line),现在推荐使用beeline DRIVER:                1.用于接收客户端提交的sql,并实现了session控制   

HIVE架构

UI:

     用于提交查询的客户端,Hive自带有CLI(command line),现在推荐使用beeline

DRIVER:

               1.用于接收客户端提交的sql,并实现了session控制

                2.并提供了jdbc/odbc的fetch和execute功能

COMPILER:

               编译器,负责解析SQL,并从METASTORE那里获取元数据生成执行计划,然后发给DRIVER

              执行计划就是一个DAG(有向无环图)

             组件:

                      1.Parser:将查询语句转变成一个parse tree

                      2.Semantic Analyser:将parse tree变成一个内部的查询表示(依然是基于查询块,而不是operator tree)。同时在这一步也会做语法检查,类型检查和类型隐式转换

                      3.Logical Plan Generator:将内部的查询表示转变成一个逻辑计划(包含一个operator tree),一些operator是关系代数的filter,join等,另一些是hive特定的,用于将逻辑计划变成一系列的map/reduce job,比如reduceSink operator(出现在map-reduce边界);这一步Optimizer也会对查询进行优化,比如map端聚合等

                      4.Query Plan Genertor:将逻辑计划转换成一系列的map-reduce tasks.做法是,通过对operator tree递归遍历,然后拆分成一系列的map/reduce task,然后提交到hadoop进行执行

METASTORE

              元数据存储,存储数仓中的DATABASE,TABLE,PARTITION,COLUMN,SERIALIZERS和DESERIALIZERS

             目的:提供数据抽象和数据发现,如果数据抽象,每次查询的时候,用户都需要提供数据格式,extractors和loaders。metasore的数据在表创建或重建都会更新,类似于传统数据仓库(这些信息存在于配置的数据库中,一般是Mysql)

EXECUTION ENGINE

              DRIVER将执行计划发给ENGINE,然后ENGINE与底层交互获取结果后,返回给DRIVER。DRIVER再将数据发送给客户端

              这一个ENGINE设计的挺好的,以前是mapReduce,现在可以是TEZ,spark,以后是否在出现新的框架,谁又说得准?!

 

您可能感兴趣的文档:

--结束END--

本文标题: HIVE架构

本文链接: https://www.lsjlt.com/news/6850.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • hive架构由哪几部分组成
    这篇文章主要为大家展示了“hive架构由哪几部分组成”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“hive架构由哪几部分组成”这篇文章吧。主要分为以下几个部分: 用户接口,包括 命令行...
    99+
    2023-06-03
  • Hive架构设计及原理的示例分析
    这篇文章给大家分享的是有关Hive架构设计及原理的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。Hive架构设计及原理1.什么是Hive:Hive是构建在Hadoop之上的数据仓库平台,可以结构化的数据文...
    99+
    2023-06-03
  • hive架构及知识体系的示例分析
    这篇文章主要介绍了hive架构及知识体系的示例分析,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。Hive架构与基本组成Hive的体系结构可以分为以下几部分:  &n...
    99+
    2023-06-02
  • 数据库之Hive概论和架构和基本操作
    目录Hive概论Hive架构 Hive安全和启动Hive数据库操作Hive内部表操作-数据添加Hive内部表特点Hive外部表操作Hive表操作-分区表Hive概论 Hive是一个构建在Hadoop上的数据仓库...
    99+
    2023-04-07
    数据库 Hive概论 Hive架构 Hive基本操作
  • 数据库之Hive概论和架构和基本操作是什么
    今天小编给大家分享一下数据库之Hive概论和架构和基本操作是什么的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我...
    99+
    2023-04-14
    数据库 hive
  • c/s架构和b/s架构
    C/S架构和B/S架构是两种常见的网络应用架构。C/S指的是客户端/服务器架构,而B/S指的是浏览器/服务器架构,两者都是为了实现交互式的网络应用程序,但在结构和工作方式上有所不同。C/S架构适用于需要更高性能、更好用户体验和离线工作模式的...
    99+
    2023-07-31
  • Hive的架构设计考虑了哪些容错机制和故障恢复策略
    Hive的架构设计考虑了以下容错机制和故障恢复策略: 数据冗余:Hive使用Hadoop分布式文件系统(HDFS)存储数据,HD...
    99+
    2024-03-11
    Hive
  • code 架构
    目录 1. code 架构 1.1. 代码质量的评判的维度 1.2. 架构师 1.3. 基础平台篇 1. code 架构 1.1. 代码质量的评判的维度 可阅读性 (方便代码流转) 可...
    99+
    2023-08-30
    架构
  • LNMP架构
    目录 一、LNMP架构介绍 二、准备工作 1、将安装包传到/opt/目录下 2、搭建本地yum仓库 三、编译安装nginx服务 四、编译安装mysql服务 五、编译安装 PHP 解析环境 六、 部署Discuz社区论坛 七、装完后使用浏览...
    99+
    2023-09-11
    架构 php 服务器 linux 运维
  • 阿里P8架构师谈:淘宝技术架构从1.0到4.0的架构变迁!附架构资料
    淘宝技术架构变迁自2003年创立以来的,淘宝业务发展非常迅速,几乎是每年以100%的速度在成长。创立之初,为了快速上线,抢占市场,选择了当时流行的LAMP架构,用PHP作为网站开发语言, Linux作为操作系统,Apache作为Web服务器...
    99+
    2023-06-05
  • c/s架构和b/s架构是什么
    c/s架构是一种分布式计算模式,它由客户端和服务器两个主要组件组成。b/s架构更加简化和集中,b/s架构将客户端应用的功能移动到了服务器端,客户端只需要通过浏览器访问服务器上的应用程序即可。c/s架构和b/s架构都是用于实现客户端和服务器之...
    99+
    2023-07-31
  • 浅谈架构模式变迁之从分层架构到微服务架构
    目录前言单体架构分布式架构软件设计中的谬误谬误1:网络是可靠的谬误2:时延是0谬误3:带宽是无限的谬误4:网络是安全的谬误5:网络拓扑一成不变谬误6:只有一个网络管理员谬误7:通信成...
    99+
    2024-04-02
  • 解析Tomcat架构原理到架构设计
    目录一、学习目的1.1、掌握 Tomcat 架构设计与原理提高内功1.2、宏观理解一个请求如何与 Spring 联系起来1.3、提升自己的系统设计能力二、整体架构设计2.1、连接器2...
    99+
    2024-04-02
  • MySQL高可用架构之MHA架构全解
    目录一、介绍二、组成三、工作过程四、架构五、实例展示MHA(Master HA)是一款开源的 MySQL 的高可用程序,它为 MySQL 主从复制架构提供了 automating m...
    99+
    2024-04-02
  • JavaScript MVVM 架构与其他架构的较量
    MVVM 架构 MVVM 是一种软件架构模式,它将应用程序分解为三个独立的部分:模型(Model)、视图(View)和视图模型(ViewModel)。模型表示应用程序的数据和业务逻辑,视图负责呈现用户界面,视图模型则充当两者之间的桥梁,...
    99+
    2024-03-03
    MVVM、MVC、MVP、JavaScript、应用程序开发
  • ibm cdc 架构
    IBM InfoSphere Data Replication - CDC Replication 是一个复制解决方案,用于捕获正在发生的数据库更改,并根据&nb...
    99+
    2024-04-02
  • python架构图
    python程序架构 架构图总览介绍 1、图左边 python的模块 python库 python中用户定义的模块 示例 在执行import os时候,这个os就是python内建的模块, 当然python还可以通过自定义模块来扩展pyt...
    99+
    2023-01-31
    架构图 python
  • lnmp架构-PHP
    08 PHP源码编译          09 php初始化配置                 nginx 的并发能力强            phpinfo函数 就是 显示php信息  10 php的功能模块 编译memcache模块...
    99+
    2023-09-10
    php 开发语言
  • JavaScript MVVM 架构
    引言 MVVM(Model-View-ViewModel)是一种流行的 JavaScript 架构模式,它将应用程序中的数据、视图和业务逻辑清晰地分离。通过使用数据绑定和响应式编程技术,MVVM 架构可以实现高效且可维护的应用程序。 概...
    99+
    2024-03-03
    、数据绑定、响应式编程、Vue.js、AngularJS
  • 【架构师】零基础到精通——架构发展
    博客昵称:架构师Cool 最喜欢的座右铭:一以贯之的努力,不得懈怠的人生。 作者简介:一名Coder,软件设计师/鸿蒙高级工程师认证,在备战高级架构师/系统分析师,欢迎关注小弟! 博主小留言:哈喽!各位CSDN的uu们,我是你的小弟Co...
    99+
    2023-08-20
    架构 服务器 运维 java 系统架构
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作