iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >如何提高mysql插入数据的速度
  • 222
分享到

如何提高mysql插入数据的速度

2024-04-02 19:04:59 222人浏览 独家记忆
摘要

本篇内容介绍了“如何提高Mysql插入数据的速度”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!需要在mys

本篇内容介绍了“如何提高Mysql插入数据的速度”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

需要在mysql中插入2000万条记录,用insert语句插入速度很有限,每秒钟几百条,放在hadoop集群上跑也是这个速度,可能是的问题了,网上看到SQL Serveroracle的insert速度也不是很快。比较简单的优化方法如下:
 
1、在一条insert语句中插入多条记录
 
[sql]
INSERT INTO tablename (field0, field1, ...) VALUES  
(value0, value1, ...),  
(value0, value1, ...),  
(value0, value1, ...),  
...  
(value0, value1, ...)  
 
这样插入速度可以提高很多倍,但还是不够块,对于2000万条记录,每秒钟一两千条的插入速度还是太慢。
2、从文本文件导入数据
 
可以从文本文件直接导入记录,不过需要文本文件是行记录,并且每个字段之间用相同的字符隔开、每行之间也用相同的字符隔开。
 
写了个程序把文本文件的格式处理一下,就可以在mysql客户端使用如下语句导入数据了:
 
[sql]
mysql> LOAD DATA LOCAL INFILE 'fileName' INTO TABLE 'tableName' FIELDS TERMINATED BY '\t' LINES TERMINATED BY '\n';  
其中'\t'和'\n'分别是字段和行的分隔符,在不同的情况下可能不一样。
 
用这种方式,感觉导入的速度主要和文件的大小有关,和记录的条数关系不太(可能是2000万的记录还不够多吧。。)
导入一个800MB的文本文件(2000万行),在单机上预处理用了3分钟,导入数据库用了7分钟(机器配置是i5-2400CPU、8GB内存、硬盘读取速度大约90MB/S)

“如何提高mysql插入数据的速度”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注编程网网站,小编将为大家输出更多高质量的实用文章!

您可能感兴趣的文档:

--结束END--

本文标题: 如何提高mysql插入数据的速度

本文链接: https://www.lsjlt.com/news/60263.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 如何提高mysql插入数据的速度
    本篇内容介绍了“如何提高mysql插入数据的速度”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!需要在mys...
    99+
    2024-04-02
  • 如何提高数据库的速度
    这篇文章主要介绍“如何提高数据库的速度”,在日常操作中,相信很多人在如何提高数据库的速度问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”如何提高数据库的速度”的疑惑有所帮助!接...
    99+
    2024-04-02
  • inser提高插入的速度的实例分析
    inser提高插入的速度的实例分析,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。 我们可以使用直接路径的方式...
    99+
    2024-04-02
  • 并行提高oracle数据导入速度
    近期有一个行业项目,需要把较大数据从文件中导入到oracle。我们使用oracle的sqlldr导入数据,当数据量较大时导入的时间过长:导入一张8千万条记录的表需要2.5个小时,太慢了。后来采用了sqlld...
    99+
    2024-04-02
  • 如何提高mysql的查询速度
    这篇文章主要讲解了“如何提高mysql的查询速度”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何提高mysql的查询速度”吧! ...
    99+
    2024-04-02
  • 如何提高MySQL响应速度
    如何提高MySQL响应速度,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。一、概述二、应用场景MySQL自身的局限性,很多站点都...
    99+
    2024-04-02
  • 如何提高MySQL查询速度
    本篇文章为大家展示了如何提高MySQL查询速度,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。  提高MySQL查询速度有哪些策略  1.表设计一定要优化,冗余数据最...
    99+
    2024-04-02
  • SQLServe如何提高速度
    这篇文章给大家介绍SQLServe如何提高速度,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。  SQLServer怎么样提高速度  检查索引碎片DBCCSHOWCONTIG(表),得到...
    99+
    2024-04-02
  • win11下载速度速度如何提高
    这篇“win11下载速度速度如何提高”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“win11下载速度速度如何提高”文章吧。方...
    99+
    2023-07-02
  • MySQL如何快速批量插入1000w条数据
    听说有个面试题是: 如何快速向mysql中插入1000w条数据? 我私下试了一下, 发现插入10000条数据用了0.9s, 插入10w条数据用了4.7s, 插入100w条数据...
    99+
    2024-04-02
  • MySQL Buffer Pool如何提高页的访问速度
    目录如何提高SQL执行速度?Buffer Pool的数据结构是怎样的?改进后的链表是如何工作的?Buffer Pool的相关参数参考博客如何提高SQL执行速度? 当我们想更新某条数据...
    99+
    2023-03-03
    MySQL Buffer Pool访问速度 MySQL Buffer Pool
  • mysql快速插入大量数据
    前言 最近做性能测试,需要模拟生产环境的数据量,在造百万、千万级数据的时候发现直接使用插入sql效率极低,百度了一翻,找到几种方式,但用下来还是有很快速的方式,推荐第四种 插入mysql数据效率对比 ...
    99+
    2023-09-23
    mysql 数据库
  • MySQL Buffer Pool如何提高页的访问速度
    目录如何提高SQL执行速度?Buffer Pool的数据结构是怎样的?改进后的链表是如何工作的?Buffer Pool的相关参数参考博客如何提高SQL执行速度? 当我们想更新某条数据的时候,难道是从磁盘中加载出来这条数据...
    99+
    2023-03-06
    MySQL Buffer Pool访问速度 MySQL Buffer Pool
  • 如何提高 PHP 函数的执行速度
    优化 php 函数执行速度有以下四种方法:1. 避免不必要的循环;2. 缓存昂贵的计算;3. 使用原生函数;4. 使用类型提示。实战中,通过对 calculatetaxrate 函数进行...
    99+
    2024-04-23
    php 运行效率
  • MySQL中如何插入数据
    要在MySQL中插入数据,可以使用INSERT INTO语句。下面是一个示例: INSERT INTO 表名 (列1, 列2, 列3...
    99+
    2024-04-09
    MySQL
  • 如何提高电脑速度
    以下是一些提高电脑速度的方法:1. 清理磁盘空间:删除不需要的文件和程序,清理临时文件和回收站。2. 禁止启动项:在任务管理器或系统...
    99+
    2023-09-05
    电脑
  • 如何使用Python缓存提高数据访问速度
    这篇文章主要讲解了“如何使用Python缓存提高数据访问速度”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何使用Python缓存提高数据访问速度”吧!Python使用缓存在开发Web应用或...
    99+
    2023-07-06
  • 大数据存储中,Java如何提高响应速度?
    随着大数据应用场景的不断扩大,大数据存储成为了一个重要的领域。而Java作为一种主流的编程语言,也逐渐成为大数据存储的首选语言之一。在大数据存储中,Java如何提高响应速度呢?本文将会从以下几个方面进行探讨。 一、优化IO操作 Java中的...
    99+
    2023-08-13
    大数据 存储 响应
  • 如何提高Webpack的构建速度
    这篇文章主要为大家展示了“如何提高Webpack的构建速度”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“如何提高Webpack的构建速度”这篇文章吧。一、背景随着我们的项目涉及到页面越来越多,功...
    99+
    2023-06-15
  • 如何提高insert的操作速度
    本篇内容介绍了“如何提高insert的操作速度”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!大家平时都会使...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作