iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >如何使用python批量导入数据进Elasticsearch中
  • 463
分享到

如何使用python批量导入数据进Elasticsearch中

2023-06-05 02:06:16 463人浏览 安东尼

Python 官方文档:入门教程 => 点击学习

摘要

本文小编为大家详细介绍“如何使用python批量导入数据进elasticsearch中”,内容详细,步骤清晰,细节处理妥当,希望这篇“如何使用Python批量导入数据进Elasticsearch中”文章能帮助大家解决疑惑,下面跟着小编的思路

本文小编为大家详细介绍“如何使用python批量导入数据进elasticsearch中”,内容详细,步骤清晰,细节处理妥当,希望这篇“如何使用Python批量导入数据进Elasticsearch中”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。

先给代码

#coding=utf-8from datetime import datetimefrom elasticsearch import Elasticsearchfrom elasticsearch import helperses = Elasticsearch()actions = []f=open('index.txt')i=1for line in f: line = line.strip().split(' ') action={ "_index":"image", "_type":"imagetable", "_id":i, "_source":{  u"图片名":line[0].decode('utf8'),  u"来源":line[1].decode('utf8'),  u"权威性":line[2].decode('utf8'),  u"大小":line[3].decode('utf8'),  u"质量":line[4].decode('utf8'),  u"类别":line[5].decode('utf8'),  u"型号":line[6].decode('utf8'),  u"国别":line[7].decode('utf8'),  u"采集人":line[8].decode('utf8'),  u"所属部门":line[9].decode('utf8'),  u"关键词":line[10].decode('utf8'),  u"访问权限":line[11].decode('utf8')   } } i+=1 actions.append(action) if(len(actions)==500): helpers.bulk(es, actions) del actions[0:len(actions)]if (len(actions) > 0): helpers.bulk(es, actions)

每句话的含义还是很明显的,这里需要说几点,首先是index.txt是以utf8编码的,所以需要decode('utf8')转换成unicode对象,并且“图片名”前需要加u,否则ES会报错

导入的速度还是很快的,2000多条记录每秒。

读到这里,这篇“如何使用python批量导入数据进Elasticsearch中”文章已经介绍完毕,想要掌握这篇文章的知识点还需要大家自己动手实践使用过才能领会,如果想了解更多相关内容的文章,欢迎关注编程网Python频道。

--结束END--

本文标题: 如何使用python批量导入数据进Elasticsearch中

本文链接: https://www.lsjlt.com/news/240887.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 如何使用python批量导入数据进Elasticsearch中
    本文小编为大家详细介绍“如何使用python批量导入数据进Elasticsearch中”,内容详细,步骤清晰,细节处理妥当,希望这篇“如何使用python批量导入数据进Elasticsearch中”文章能帮助大家解决疑惑,下面跟着小编的思路...
    99+
    2023-06-05
  • Redis如何批量导入数据
    Redis批量导入数据的示例:准备一个redis protocol的文件,通过java程序来输出的,代码如下:<<RedisBatchTest>>public class RedisBatchTe...
    99+
    2024-04-02
  • elasticsearch数据如何导入导出
    Elasticsearch 中数据的导入导出可以通过以下几种方式实现: 使用 Elasticsearch 提供的 API: 使...
    99+
    2024-04-02
  • 在java中excel数据如何利用POI进行批量导入
    本篇文章给大家分享的是有关在java中excel数据如何利用POI进行批量导入,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。一、定义  Apache POI是Apache软件基...
    99+
    2023-05-31
    java poi excel
  • 如何使用BULK INSERT大批量导入数据SQLSERVER
    这篇文章给大家分享的是有关如何使用BULK INSERT大批量导入数据SQLSERVER的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。代码如下:  CREAT...
    99+
    2024-04-02
  • 如何将批量数据导入mysql数据库
    这篇文章将为大家详细讲解有关如何将批量数据导入mysql数据库,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。如何将批量数据导入mysql数据库1.创建一个e...
    99+
    2024-04-02
  • Kafka中如何将数据导入到Elasticsearch
    本篇文章为大家展示了Kafka中如何将数据导入到Elasticsearch,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。Elasticsearch作为当前主流的全文检索引擎,除了强大的全文检索能力和...
    99+
    2023-06-02
  • 如何使用MongoDB实现数据的批量导入、导出功能
    如何使用MongoDB实现数据的批量导入、导出功能MongoDB是一种NoSQL数据库,作为一种非关系型数据库,其在数据存储和查询上有着很大的灵活性和性能优势。对于需要批量导入和导出数据的应用场景,MongoDB也提供了相应的工具和接口。本...
    99+
    2023-10-22
    MongoDB 导出 批量导入
  • 使用BULK INSERT大批量导入数据 SQLSERVER
    要使用BULK INSERT在SQL Server中导入大批量数据,您需要按照以下步骤进行操作:1. 创建一个包含与目标表相同列的格...
    99+
    2023-08-17
    SQLSERVER
  • PostgreSQL中怎么批量导入数据
    这篇文章将为大家详细讲解有关PostgreSQL中怎么批量导入数据,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。概述考虑PostgreSQL数据库批量导入数...
    99+
    2024-04-02
  • MySQL中怎么批量导入数据
    本篇文章为大家展示了MySQL中怎么批量导入数据,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。MySQL批量导入数据操作应该如何实现下面就将以MySQL数据库为例,...
    99+
    2024-04-02
  • SQL Server Bulk Insert如何批量数据导入
    小编给大家分享一下SQL Server Bulk Insert如何批量数据导入,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧! ...
    99+
    2024-04-02
  • mysql如何高效导入大批量数据
    要高效导入大批量数据到MySQL中,可以使用以下方法: 使用LOAD DATA INFILE语句:这是MySQL提供的一个高效的...
    99+
    2024-05-13
    mysql
  • phpmyadmin如何批量导入excel数据到mysql
    这篇文章主要介绍phpmyadmin如何批量导入excel数据到mysql,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!首先我们得到了一个excel表,里面有很多需要我们导入的数据删...
    99+
    2024-04-02
  • 小程序中如何实现excel数据批量导入
    本篇内容介绍了“小程序中如何实现excel数据批量导入”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!1 建立数据源要想将数据入库,就先需要建...
    99+
    2023-07-02
  • Python实现批量导入1000条xlsx数据
    遇到的问题: 用户批量导入数据1000条,导入不成功的问题,提示查询不到商品资料。这个场景需要依靠批量的数据,每次测试的时候需要手动生成批量的数据,然后再导入操作,费时费劲。所以写了...
    99+
    2023-02-16
    Python 批量导入xlsx Python 批量导入
  • 怎么在mysql中批量导入数据
    在mysql中批量导入数据的方法有:1.使用循环语句导入;2.使用MYSQL LOCAL_INFILE语句导入;3.通过拼接sql导入;4.使用存储过程导入;在mysql中批量导入数据的方法以下几种使用循环语句导入使用循环语句导入数据时,适...
    99+
    2024-04-02
  • 如何使用批处理实现MySQL数据导入导出
    这篇文章主要为大家展示了“如何使用批处理实现MySQL数据导入导出”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“如何使用批处理实现MySQL数据导入导出”这篇文...
    99+
    2024-04-02
  • plsql如何批量导出数据
    在PL/SQL中,可以使用游标和循环语句来批量导出数据。以下是一种可能的方法:1. 创建一个游标,用于查询需要导出的数据。2. 使用...
    99+
    2023-09-08
    plsql
  • Java API如何实现向Hive批量导入数据
    Java API实现向Hive批量导入数据 Java程序中产生的数据,如果导入oracle或者mysql库,可以通过jdbc连接insert批量操作完成,但是当前版本的hive并不支...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作