iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >使用sqoop从Hive导出数据到MySQL
  • 620
分享到

使用sqoop从Hive导出数据到MySQL

hadoophive大数据 2023-10-22 12:10:32 620人浏览 安东尼
摘要

启动hadoop:start-all.sh。 启动Mysql:support-files/mysql.server start。 启动Hive:hive。 在hive中创建表。 (学生信息:学号xh,姓名xm)xsxx: create

启动hadoop:start-all.sh。

启动Mysql:support-files/mysql.server start。

启动Hive:hive。

在hive中创建表。

(学生信息:学号xh,姓名xm)xsxx:

create table bigdata03.xsxx

(

xh String,

xm String

)

row format delimited fields terminated by ','stored as textfile;

(课程信息:课程号kch,学号xh,课程名称kcmc,学分xf)kcxx

create table bigdata03.kcxx

(

kch String,

xh String,

kcmc String,

xf String

)

row format delimited fields terminated by ','stored as textfile location '/kc';

 

分别编辑xsxxdata和kcxxdata里面数据。

1》vim xsxxdata 编辑数据,数据如下:

201177010179,Tom

201177010180,Zou

201177010181,Lii

201177010182,Hezi

2》vim kcxxdata 编辑数据,数据如下:

C001,201177010179,ETL,2

C002,201177010180,Java,2

C003,201177010181,Hadoop,3

C004,201177010182,spark,2

使用命令:

1》show create table bigdata03.xsxx;

2》show create table bigdata03.kcxx;

找到其路径备用:

1》LOCATION

'hdfs://192.168.10.130:9000/user/hive/warehouse/bigdata03.db/xsxx'

2》LOCATION

'hdfs://192.168.10.130:9000/kc'

上传数据xsxxdata到其找到的路径下:

1》hadoop fs -put xsxxdata hdfs://192.168.10.130:9000/user/hive/warehouse/bigdata03.db/xsxx

2》hadoop fs -put kcxxdata hdfs://192.168.10.130:9000/kc

上传成功,即可查看到其数据:

select * from bigdata03.xsxx;

 

select * from bigdata03.kcxx;

 

数据可视化前端)需求:Tom选修了哪些课程,对应的每门课程有多少学分。

命令如下:

select

m.xm,n.kcmc,n.xf

from bigdata03.xsxx as m

join bigdata03.kcxx as n on m.xh=n.xh

where m.xm="Tom";

其结果如下:

 

将其结果放到jg01表中:

create table bigdata03.jg01

(

xm String,

kcmc String,

xf String

)

row format delimited fields terminated by ','stored as textfile location '/jgdata';

 

插入分析出的结果:

insert into bigdata03.jg01

select

m.xm,n.kcmc,n.xf

from bigdata03.xsxx as m

join bigdata03.kcxx as n on m.xh=n.xh

where m.xm="Tom";

这样表示插入成功:

 

查看保存的结果数据:

查看其路径:

hdfs://192.168.10.130:9000/jgdata

查看根路径下面的文件:

hdfs dfs -ls /jgdata

将hive分析好的结果数据导出到mysql数据库中:

首先:在mysql中创建一张表:

CREATE TABLE hive_to_mysql(

xm VARCHAR(50),

kcmc VARCHAR(50),

xf INT

);

其次:使用sqoop从hdfs上将分析好的数据导出到mysql中

命令:其中db03表示mysql的数据库,sqoop03表示mysql的用户名, hive_to_mysql表示在mysql中建的表,by ','表示以逗号作为分隔,jgdata表示所要导出的hive表。

sqoop export -connect jdbc:mysql://192.168.10.130:3306/db03 -username sqoop03 -password 123456 -table hive_to_mysql --fields-terminated-by ',' --export-dir /jgdata

运行结果:

在mysql中查询:hive分析好的结果数据导出到mysql数据库中的表:

来源地址:https://blog.csdn.net/qq_58476985/article/details/130763114

您可能感兴趣的文档:

--结束END--

本文标题: 使用sqoop从Hive导出数据到MySQL

本文链接: https://www.lsjlt.com/news/439737.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 使用sqoop从Hive导出数据到MySQL
    启动hadoop:start-all.sh。 启动mysql:support-files/mysql.server start。 启动hive:hive。 在hive中创建表。 (学生信息:学号xh,姓名xm)xsxx: create ...
    99+
    2023-10-22
    hadoop hive 大数据
  • sqoop怎么导出hive数据到mysql中
    要将Hive中的数据导出到MySQL中,可以使用Sqoop工具。以下是一个简单的步骤: 首先,确保你已经安装了Sqoop和Hiv...
    99+
    2024-04-12
    hive sqoop mysql
  • sqoop怎么从mysql导入数据到hive中
    使用Sqoop将数据从MySQL导入到Hive可以通过以下步骤实现: 首先,在Hive中创建一个目标表,用于存储从MySQL导入...
    99+
    2024-04-09
    sqoop mysql hive
  • 用sqoop导出hive parquet 分区表到mysql
    用sqoop导出hive parquet 分区表到mysql 确保你已经安装并配置好了Sqoop工具,并且可以连接到Hadoop集群和MySQL数据库。 创建一个MySQL表来存储导出的数据。请确保M...
    99+
    2023-09-12
    sqoop mysql hadoop 大数据 数仓
  • Sqoop怎么将MySQL数据导入到hive中
    这篇文章主要讲解了“Sqoop怎么将MySQL数据导入到hive中”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Sqoop怎么将MySQL数据导入到hive中”吧!MySQL表:mysql&...
    99+
    2023-06-02
  • sqoop从hive导到mysql会遇到什么问题
    这篇文章主要介绍了sqoop从hive导到mysql会遇到什么问题,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。环境hive 版本hive-...
    99+
    2024-04-02
  • [sqoop]将hive查询后的数据导入到MySQL
    一、知识点 export:将Hive的表导入到mysql叫导出 搜了很多,发现sqoop在hive导出到mysql时 1)不支持where参数对数据进行过滤。 2)不支持指定hive表的方式导出,只能指定Hive目录进行导出。 二...
    99+
    2023-09-24
    hive sqoop mysql
  • sqoop怎么导出数据到mysql中
    要将数据从Hadoop中的Hive表导出到MySQL中,您可以使用Apache Sqoop工具来执行此操作。以下是使用Sqoop从H...
    99+
    2024-04-09
    sqoop mysql
  • 如何使用sqoop从oracle导数据到Hbase
    这篇文章主要为大家展示了“如何使用sqoop从oracle导数据到Hbase”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“如何使用sqoop从oracle导数据...
    99+
    2024-04-02
  • MySQL中的业务数据该如何正确导入到Hive中 - Sqoop
    水善利万物而不争,处众人之所恶,故几于道💦 目录   1. 使用Sqoop脚本将MySQL中的数据迁移到HDFS   2. 在Hive中建立与之对应的表   3. 将HDFS中...
    99+
    2023-09-04
    hive mysql sqoop 数据迁移
  • Hive数据如何导入导出mysql
    这篇文章给大家分享的是有关Hive数据如何导入导出mysql的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。 Hive定位:ETL(数据仓库)工具将数...
    99+
    2024-04-02
  • 使用DataX实现mysql与hive数据互相导入导出
    一、概论 1.1 什么是DataX          DataX 是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle 等)、HDFS、Hive、ODPS、HBase、FTP 等各种异...
    99+
    2023-09-26
    大数据
  • python从mysql导出数据导exc
    # coding:utf8import sys reload(sys)sys.setdefaultencoding('utf8')# author: 'zkx'# date: '2018/3/11'# Desc:从数据库中导出数据到exce...
    99+
    2023-01-31
    数据 python mysql
  • Hive数据导出详解
    目录一、数据导出是什么?二、六大帮派1.insert2.Hadoop命令导出到本地3.Hive shell命令导出4.export导出到HDFS上5.Sqoop导出6.清除表中的数据(Truncate)—&m...
    99+
    2023-04-14
    Hive数据导出 Hive数据 数据导出
  • sqoop1.4.7环境搭建及mysql数据导入导出到hive的方法
    这篇文章主要介绍“sqoop1.4.7环境搭建及mysql数据导入导出到hive的方法”,在日常操作中,相信很多人在sqoop1.4.7环境搭建及mysql数据导入导出到hive的方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作...
    99+
    2023-06-02
  • 如何从Mysql中导出数据到excel文件中
    这篇文章给大家介绍如何从Mysql中导出数据到excel文件中,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。 每次通过int...
    99+
    2024-04-02
  • 从Excel到导入MYSQL数据库
    为了把Excel导入数据库写了这个这段程序,大概思路解释一下:因为导入数据库时字段类型和长度、还有字段数都是未知的,所以导入时用了通用的字段类型,在这里用了text,根据需要可以自行定制字段名,类型。这只是...
    99+
    2024-04-02
  • 如何使用 SeaTunnel 同步 MySQL 数据到 Hive
    第一步:环境准备 Java 8 或 11 并配置JAVA_HOME Git  Maven 第二步:下载SeaTunnel并安装连接器 下载地址:https://seatunnel.apache.org/download/...
    99+
    2023-09-24
    hive 大数据 hadoop
  • mysql数据怎么导入hive中
    在将MySQL数据导入到Hive中之前,需要确保你已经安装了MySQL和Hive,并且配置了正确的连接信息。以下是将MySQL数据导...
    99+
    2024-05-06
    hive mysql
  • 利用图形界面从SQL导入导出到MySQL
    从sql导出到mysql的方法很多,现介绍一种无需编程,直接利用sql和mysql里的图形界面进行导入导出的简单方法。 前提是已经安装了sqlserver客户端和mysql的图形界面管理工具phpmyadm...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作