iis服务器助手广告广告
返回顶部
首页 > 资讯 > 精选 >Hive中如何配置与编写自定义UDF函数
  • 690
分享到

Hive中如何配置与编写自定义UDF函数

2023-06-03 01:06:42 690人浏览 安东尼
摘要

小编给大家分享一下Hive中如何配置与编写自定义UDF函数,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!环境介绍:CentOS7+hive-1.1.0-cdh6.

小编给大家分享一下Hive中如何配置与编写自定义UDF函数,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

环境介绍:CentOS7+hive-1.1.0-cdh6.7.0+IntelliJ IDEA+Maven3.3.9
1、创建工程
   打开IntelliJ idea
     File-->New-->Project...-->Maven选择Create from archetye-->org.apache.maven.archety:maven-archetype-quitkstart

2、配置
  2.1、增加内容如下:
   在工程中找到pom.xml文件中hadoop-common 、hive-exec 、hive-jdbc

点击(此处)折叠或打开

  1. <properties>

  2.     <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>

  3.     <!-- hadoop、hive版本信息 -->

  4.     <hadoop.version>2.6.0-cdh6.7.0</hadoop.version>

  5.     <hive.version>1.1.0-cdh6.7.0</hive.version>

  6.   </properties>

  7.     <!-- hadoop依赖 -->

  8.     <dependency>

  9.       <groupId>org.apache.hadoop</groupId>

  10.       <artifactId>hadoop-common</artifactId>

  11.       <version>${hadoop.version}</version>

  12.     </dependency>

  13.     <!-- hive依赖 -->

  14.     <dependency>

  15.       <groupId>org.apache.hive</groupId>

  16.       <artifactId>hive-exec</artifactId>

  17.       <version>${hive.version}</version>

  18.     </dependency>

  19.   </dependencies>

  20.   

  21.   <!-- cdn资源仓库 -->

  22.   <repositories>

  23.     <repository>

  24.       <id>cloudera</id>

  25.       <url>https://repository.cloudera.com/artifactory/cloudera-repos/</url>

  26.     </repository>

  27.   </repositories>

  2.2、在<repository></repository>中修改内容如下:

点击(此处)折叠或打开

  1. <dependency>

  2.       <groupId>junit</groupId>

  3.       <artifactId>junit</artifactId>

  4.       <version>4.10</version>

  5.       <scope>test</scope>

  6.     </dependency>

3、创建类,并编写一个UDF HelloUDF.java,代码如下:

点击(此处)折叠或打开

  1. package org.apache.hadoop.hive.ql.udf;

  2. import org.apache.hadoop.hive.ql.exec.UDF;

  3. import org.apache.hadoop.io.Text;

  4. public class HelloUDF extends UDF {

  5.     public Text evaluate(Text input) {

  6.         return new Text("Hello:" + input);

  7.     }

  8.     public static void main(String args[]){

  9.         HelloUDF helloUDF = new HelloUDF();

  10.         Text rs = helloUDF.evaluate(new Text("zhangsan"));

  11.         System.out.println(rs.toString());

  12.     }

  13. }

4、测试UDF类,在上又键选择Run 'HelloUDF.main()'

5、打包:
   在IDEA菜单中选择view-->Tool windows-->Maven Projects,然后在Maven Projects窗口中选择【工程名】-->Lifecycle-->package,在package中右键选择Run Maven Build开始打包
   执行成功后在日志中找:
     [INFO] Building jar: D:\software\ruozedata_workspace\basic02-hive\target\hive-1.0.jar

以上是“Hive中如何配置与编写自定义UDF函数”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注编程网精选频道!

--结束END--

本文标题: Hive中如何配置与编写自定义UDF函数

本文链接: https://www.lsjlt.com/news/232072.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Hive中如何配置与编写自定义UDF函数
    小编给大家分享一下Hive中如何配置与编写自定义UDF函数,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!环境介绍:CentOS7+hive-1.1.0-cdh6....
    99+
    2023-06-03
  • Hive中如何编写和使用自定义函数
    在Hive中,可以通过创建UDF(User Defined Function)来编写和使用自定义函数。UDF可以是一元函数、二元函数...
    99+
    2024-03-12
    Hive
  • Hive如何自定义函数实现将自定义函数注册到hive源码中并重新编译hive
    这篇文章主要介绍Hive如何自定义函数实现将自定义函数注册到hive源码中并重新编译hive,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!hive版本:    hive-1.1.0-cdh6.7....
    99+
    2023-06-03
  • Hive中的UDF和UDAF是如何定义和使用的
    在Hive中,用户定义的函数(UDF)和用户定义的聚合函数(UDAF)可以通过编写Java代码或使用Hive自定义函数语言(UDF/...
    99+
    2024-03-11
    Hive
  • Pig中怎么编写自定义函数
    要在Pig中编写自定义函数,可以按照以下步骤进行: 创建一个实现了EvalFunc 接口的自定义函数类,并重写evaluate 方...
    99+
    2024-04-02
  • 如何编写自定义 PHP 函数的主体?
    自定义 php 函数主体包含在函数定义中的代码块,代码块中包含函数执行任务的代码,包括变量使用、任务执行和可选的返回值。 如何编写自定义 PHP 函数的主体 在 PHP 中,函数主体是...
    99+
    2024-04-22
    函数主体
  • 如何在MySQL中使用C#编写自定义函数
    在MySQL中使用C#编写自定义函数需要以下步骤:1. 创建一个C#类库项目,并添加对MySQL.Data.dll的引用。2. 在C...
    99+
    2023-10-20
    MySQL
  • 如何在MySQL中使用Python编写自定义函数
    在MySQL中使用Python编写自定义函数可以通过以下步骤实现:1. 首先,需要安装MySQL的Python驱动程序。可以使用以下...
    99+
    2023-10-10
    MySQL
  • 如何在MySQL中使用JavaScript编写自定义函数
    如何在MySQL中使用JavaScript编写自定义函数MySQL是一个流行的关系型数据库管理系统,而JavaScript是一种广泛用于网页开发的脚本语言。尽管MySQL自带了许多内建函数,但有时我们可能需要编写自定义函数来满足特定的需求。...
    99+
    2023-10-22
    MySQL JavaScript 自定义函数
  • Hive中怎么添加自定义函数
    这篇文章主要讲解了“Hive中怎么添加自定义函数”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Hive中怎么添加自定义函数”吧!环境介绍:CentOS7+hive-1.1.0-cdh6.7....
    99+
    2023-06-03
  • 如何编写自定义的PigUDF
    编写自定义的PigUDF需要遵循以下步骤: 创建一个Java类,并继承自org.apache.pig.EvalFunc类。 实现一...
    99+
    2024-03-07
    Pig
  • Hive如何自定义函数实现创建临时函数和永久函数
    小编给大家分享一下Hive如何自定义函数实现创建临时函数和永久函数,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!1 先创建函数类文件   &n...
    99+
    2023-06-03
  • sqlserver中如何自定义函数
    这期内容当中小编将会给大家带来有关sqlserver中如何自定义函数,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。“自定义函数”是我们平常的说法,而“用户定义的函数”是 ...
    99+
    2024-04-02
  • JavaScript中如何自定义函数
    JavaScript中如何自定义函数,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。 js自定义函数的写法:1、“f...
    99+
    2024-04-02
  • Python中如何自定义函数
    目录Python自定义函数1 自定义函数的语法2 自定义函数的实现3 自定义函数的调用Python自定义函数基础概念一、函数定义语法二、函数文档字符串三、函数定义规则五、函数调用六、...
    99+
    2023-01-04
    Python自定义函数 Python函数 如何自定义函数
  • php如何编写自定义方法
    这篇文章主要介绍了php如何编写自定义方法的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇php如何编写自定义方法文章都会有所收获,下面我们一起来看看吧。创建自定义函数创建自定义函数需要使用 PHP 中的 fun...
    99+
    2023-07-05
  • 如何在MySQL中使用C#编写自定义存储过程和函数
    要在MySQL中使用C#编写自定义存储过程和函数,需要使用MySQL Connector/NET,它是一个用于与MySQL数据库进行...
    99+
    2023-10-10
    MySQL
  • 如何在MySQL中使用JavaScript编写自定义存储过程和函数
    在MySQL中使用JavaScript编写自定义存储过程和函数是不可能的。MySQL只支持使用SQL语言来编写存储过程和函数。要在M...
    99+
    2023-10-10
    MySQL
  • 如何在MySQL中使用Python编写自定义存储过程和函数
    如何在MySQL中使用Python编写自定义存储过程和函数MySQL是一种常用的关系型数据库管理系统,而Python是一种强大的编程语言。结合两者可以实现更灵活和高效的数据库操作。MySQL中的存储过程和函数可以帮助我们封装常用的操作逻辑,...
    99+
    2023-10-22
    Python MySQL 存储过程
  • 如何在MySQL中使用PHP编写自定义存储过程和函数
    要在MySQL中使用PHP编写自定义存储过程和函数,可以按照以下步骤进行操作:1. 首先,确保你已经安装了MySQL数据库和PHP。...
    99+
    2023-10-20
    MySQL
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作