iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Python执行hive sql
  • 146
分享到

Python执行hive sql

Pythonhivesql 2023-01-31 05:01:16 146人浏览 薄情痞子

Python 官方文档:入门教程 => 点击学习

摘要

该python脚本是用于执行Hive脚本的,需要设置hive的可执行环境变量,其实质转化为shell下命令 hive -e 'sql语句’ 的方式执行,然后把结果重定向到控制台显示。注:由于该脚本是直接调用shell中的hive

python脚本是用于执行Hive脚本的,需要设置hive的可执行环境变量,其实质转化为shell下命令 hive -e 'sql语句’ 的方式执行,然后把结果重定向到控制台显示。注:由于该脚本是直接调用shell中的hive命令,所以需要在安装hive的服务器上执行。

使用前置条件:(1)安装hadoop和hive,并启动完hadoop;(2)已配置好hive的环境变量,确保在shell中能正常执行hive。

#!/usr/bin/Python
#-*-coding:utf-8 -*-

import subprocess
import traceback

sql = """
# 书写hql脚本
;
"""
cmd = 'hive -e """'+sql.replace('"', "\'")+'"""'
print cmd
try:
    p = subprocess.Popen(cmd, shell=True, stdout=subprocess.PIPE)
    while True:
        buff = p.stdout.readline()
        print buff
        if buff == '' and p.poll() != None:
            break

except Exception,re:
    print "message is:%s" %(str(re))
    traceback.print_exc();

脚本举例

#!/usr/bin/python
#-*-coding:utf-8 -*-
import subprocess
import traceback
sql = """
  select * from app_tianhe_zym_item_reason_dtl_da where order_dt = '2016-01-26' limit 10;
"""
cmd = 'hive -e """'+sql.replace('"', "\'")+'"""'
print cmd
try:
    p = subprocess.Popen(cmd, shell=True, stdout=subprocess.PIPE)
    while True:
        buff = p.stdout.readline()
        print buff
        if buff == '' and p.poll() != None:
            break
except Exception,re:
    print "message is:%s" %(str(re))
    traceback.print_exc();

这里写图片描述

--结束END--

本文标题: Python执行hive sql

本文链接: https://www.lsjlt.com/news/188902.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Python执行hive sql
    该python脚本是用于执行hive脚本的,需要设置hive的可执行环境变量,其实质转化为shell下命令 hive -e 'sql语句’ 的方式执行,然后把结果重定向到控制台显示。注:由于该脚本是直接调用shell中的hive...
    99+
    2023-01-31
    Python hive sql
  • Hive中动态SQL执行的方法是什么
    在Hive中执行动态SQL语句的方法是使用Hive的变量和脚本功能。可以通过设置变量来动态构建SQL语句,然后通过Hive的shel...
    99+
    2024-04-09
    Hive SQL
  • python执行sql文件
    最近遇到一对需要执行的sql文件,sql文件内是insert 语句。如下: INSERT INTO hs_his.stock_industry VALUES ('采掘', '000006', '深振业A'); INSERT INT...
    99+
    2023-01-31
    文件 python sql
  • python 批量执行sql文件
    需求: 要在服务器上指执行sql 为了不影响线上用户正常使用,且执行10000行暂停10秒。然后用python 写了这样一个文件文件存放位置: /root/sql/  文件名:2 3 4 5 6  .....这样做是为了省事 用 range...
    99+
    2023-01-31
    批量 文件 python
  • 怎么获取hive执行进度
    可以通过以下方法来获取Hive执行进度: 使用Hive CLI或Beeline客户端连接到Hive服务,然后执行查询语句。在查询...
    99+
    2024-04-02
  • Python中如何执行SQL任务
    Python中如何执行SQL任务,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。导入数据  你可以导入.sql数据库并用SQL查询中处理它们...
    99+
    2024-04-02
  • Hive中并行执行是怎么工作的
    在Hive中,并行执行是通过将任务分解成多个子任务,并在集群中的多个节点上同时执行这些子任务来实现的。这样可以利用集群中的多个资源并...
    99+
    2024-03-14
    Hive
  • hive中怎么设置执行引擎
    在Hive中,默认情况下使用的是Tez执行引擎。但是你可以通过以下方式来设置不同的执行引擎: 使用Hive CLI或Beeline...
    99+
    2024-04-02
  • 如何在Hive中执行JOIN操作
    在Hive中执行JOIN操作的步骤如下: 编写适当的SELECT语句,其中包含要连接的表以及连接条件。例如: SELEC...
    99+
    2024-03-12
    Hive
  • Hive中如何执行连接操作
    在Hive中执行连接操作通常是通过使用SQL语句来实现的。连接操作可以用来将多个表中的数据关联起来,使得用户可以通过一次查询操作获取...
    99+
    2024-04-02
  • Hive中的MapReduce任务是如何执行的
    在Hive中,MapReduce任务的执行流程如下: Hive查询语句被解析成HiveQL,并被转换成MapReduce作业。 H...
    99+
    2024-03-12
    Hive
  • 怎么提升Hive查询的执行速度
    要提升Hive查询的执行速度,可以考虑以下几点: 数据分区:根据数据的特点进行分区,可以减少查询的数据量,提高查询效率。 数...
    99+
    2024-04-03
    Hive
  • 怎么在Python中执行SQL、Excel任务
    怎么在Python中执行SQL、Excel任务,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。01 导入数据你可以导入.sql 数据库并用 SQL 查询中处理它们...
    99+
    2023-06-15
  • Hive中如何执行数据压缩操作
    Hive中可以通过设置表的属性来执行数据压缩操作。以下是在Hive中执行数据压缩的一般步骤: 创建表时指定数据压缩格式 在创建表的...
    99+
    2024-03-12
    Hive
  • navicat如何执行sql
    这篇文章主要介绍navicat如何执行sql,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!首先,使用Navicat for MySQL连接数据库并创建一个数据库。接着点击查询,这里有...
    99+
    2024-04-02
  • Hive中怎么执行自定义MapReduce作业
    在Hive中执行自定义MapReduce作业需要以下步骤: 将自定义的MapReduce作业打包成jar文件,并上传到Hive所...
    99+
    2024-03-14
    Hive
  • MySql定时执行SQL
    好久没写博客了,因为没啥可写,感觉自己对技术的追求已经没有那么强烈了。今天总结一下mysql自带的定时计划。 首先show variables like '%event_sche%';查询定时策略是否开启,如果是关闭的话,需要先开启哦...
    99+
    2023-08-18
    mysql sql 数据库
  • Hive执行hive> select count(*) from tablename时出现异常怎么解决
    本篇内容主要讲解“Hive执行hive> select count(*) from tablename时出现异常怎么解决”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面...
    99+
    2024-04-02
  • 从0到1之路 Python执行SQL脚本
    目标:使用python执行sql脚本 设想:从数据库读取数据,和前端进行比对,返回判断结果 ...
    99+
    2023-01-31
    之路 脚本 Python
  • Hive中怎么执行复杂的窗口函数
    在Hive中执行复杂的窗口函数通常涉及使用窗口函数和子查询的组合。以下是一些步骤,可以帮助您执行复杂的窗口函数: 使用窗口函数:...
    99+
    2024-03-14
    Hive
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作