iis服务器助手广告广告
返回顶部
首页 > 资讯 > 操作系统 >Linux如何提高大文件的拷贝效率
  • 809
分享到

Linux如何提高大文件的拷贝效率

2023-06-13 02:06:07 809人浏览 安东尼
摘要

这篇文章主要介绍“linux如何提高大文件的拷贝效率”,在日常操作中,相信很多人在Linux如何提高大文件的拷贝效率问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Linux如何提高大文件的拷贝效率”的疑惑有所

这篇文章主要介绍“linux如何提高大文件的拷贝效率”,在日常操作中,相信很多人在Linux如何提高大文件的拷贝效率问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Linux如何提高大文件的拷贝效率”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

  你可以从源机器逐个拷贝到逐台目标机器,但是往往时间也是成倍的。或者你也可以同时从源机器同时拷贝到多个目标机器,但是受制于源机器的带宽等因素,速度并不见得真的很快。

  还好,借助一些UNIX工具可以做的更好。把tee和FIFO组合起来,可以形成一个文件快速分发链:处于分发链中的每台机器会保存文件,同时还分发给它的下一环。

  首先,选定一台目标机器做为分发链的最后一环,在这台机器上只需要用nc监听(假定端口是1234),再通过管道由pigz解压缩,继续通过管道把数据交由tar来分解。

  nc -l 1234| pigz -d | tar xvf -

  然后,再从分发链的末端往上走,设置其它目标机器,同样要经过监听、解压、分解,不过在解压之前我们通过tee命令将数据输出到命名管道(FIFO),另外的一条shell管道会将这些未解压的数据同时分发到分发链的下一环:

  mkfifo myfifo

  nc hostname_of_next_box 1234 nc -l 1234| tee myfifo | pigz -d | tar xvf -

  最后,在源机器上启动分发链,让数据传输到分发链的第一环:

  tar cv some_files | pigz | nc hostname_of_first_box 1234

  在我的测试中,分发链中的每台机器大概损失了3%-10%的性能(相对于1对1的拷贝而言),但是相对逐个逐个的拷贝或者单台机器向多台机器同时分发,效率提升是很明显的。

到此,关于“Linux如何提高大文件的拷贝效率”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!

--结束END--

本文标题: Linux如何提高大文件的拷贝效率

本文链接: https://www.lsjlt.com/news/264259.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Linux如何提高大文件的拷贝效率
    这篇文章主要介绍“Linux如何提高大文件的拷贝效率”,在日常操作中,相信很多人在Linux如何提高大文件的拷贝效率问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Linux如何提高大文件的拷贝效率”的疑惑有所...
    99+
    2023-06-13
  • Mysql中怎么提升大数据表的拷贝效率
    这篇文章将为大家详细讲解有关Mysql中怎么提升大数据表的拷贝效率,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。可能情况:1.导致数据库崩溃或者卡死&nbs...
    99+
    2024-04-02
  • ssh连接linux如何拷贝文件
    在使用ssh连接到Linux服务器后,可以使用以下几种方式拷贝文件: 使用scp命令:scp命令可以通过ssh连接在本地和远程服务...
    99+
    2023-10-22
    ssh linux
  • Linux如何把文件拷贝到桌面
    可以通过以下几种方式将文件拷贝到Linux桌面:1. 使用命令行:使用cp命令将文件拷贝到桌面。假设要拷贝的文件名为file.txt...
    99+
    2023-10-23
    Linux
  • PHP Spring 文件同步:如何提高效率?
    文件同步是一个非常重要的任务,它可以确保在不同的计算机之间保持数据的一致性。对于 PHP Spring 开发人员来说,文件同步是一项常见的任务,因为他们需要在不同的开发环境中同步代码和资源文件。 在本文中,我们将介绍一些方法来提高 PHP...
    99+
    2023-08-06
    spring 文件 同步
  • python如何拷贝文件到文件夹
    你可以使用shutil模块中的`copy`或`copy2`函数来拷贝文件到文件夹。下面是一个例子:```pythonimport s...
    99+
    2023-09-27
    python
  • Rsync如何实现文件拷贝
    这篇文章主要为大家展示了“Rsync如何实现文件拷贝”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“Rsync如何实现文件拷贝”这篇文章吧。如果需要执行自动备份操作或部署安全策略,无论是为一个单一...
    99+
    2023-06-16
  • U盘拷贝时提示文件过大怎么解决
    本篇文章为大家展示了U盘拷贝时提示文件过大怎么解决,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。U盘凭借着小巧的身形,高速的读取速度,受到了越来越多的人欢迎。不过当U盘容量有余,拷贝时却提示文件过大...
    99+
    2023-06-28
  • 如何提高大数据量分页的效率
    这篇文章主要讲解了“如何提高大数据量分页的效率”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何提高大数据量分页的效率”吧! ...
    99+
    2024-04-02
  • 如何拷贝云服务器的文件
    要拷贝云服务器的文件,可以使用以下方法:1. 使用SCP命令:SCP(Secure Copy)是通过SSH协议进行加密的文件传输工具...
    99+
    2023-09-23
    云服务器
  • 如何提高python效率
    这篇“如何提高python效率”文章,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要参考一下,对于“如何提高python效率”,小编整理了以下知识点,请大家跟着小编的步伐一步一步的慢慢理解,接下来就让我们进入主题吧。...
    99+
    2023-06-06
  • docker如何拷贝文件到容器
    使用Docker命令可以将文件从主机拷贝到Docker容器中。下面是具体的步骤:1. 找到要拷贝的文件所在的目录。2. 运行以下命令...
    99+
    2023-10-19
    docker
  • ASP IDE并发文件:如何提高编码效率?
    在现代软件开发中,IDE(集成开发环境)已经成为了一个必要的工具。它可以帮助开发人员更高效地编写代码、管理项目和调试应用程序。在ASP.NET开发中,Visual Studio是最常用的IDE之一。但是,在多人协作或并发开发的情况下,AS...
    99+
    2023-06-18
    ide 并发 文件
  • 如何提高CSS效率
    小编给大家分享一下如何提高CSS效率,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!相对单位 聪明又有前瞻头脑的开发者们已经使用相对单位了—&a...
    99+
    2023-06-08
  • Linux文件拷贝的方法是什么
    这篇文章主要介绍“Linux文件拷贝的方法是什么”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Linux文件拷贝的方法是什么”文章能帮助大家解决问题。在 Linux 中,cp 命令常被用于从一个文件...
    99+
    2023-06-28
  • Linux系统中如何把文件拷贝到U盘
    小编给大家分享一下Linux系统中如何把文件拷贝到U盘,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!Linux下把所有的都当成文件处理,如果在linux系统下需要...
    99+
    2023-06-12
  • 如何解决Linux系统之间拷贝文件的问题
    小编给大家分享一下如何解决Linux系统之间拷贝文件的问题,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!  第一种方法  首先,无论本地还是远程,需要移动或拷贝的文件较多且都不太大时,用cp命令和mv命令效率较低,可以先使...
    99+
    2023-06-13
  • 如何提高Android从文件中读取图像的效率
    本篇文章给大家分享的是有关如何提高Android从文件中读取图像的效率,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。方法一start_time = Syst...
    99+
    2023-05-31
    android roi %d
  • python中如何使用GPU大幅提高效率
    本篇文章给大家分享的是有关python中如何使用GPU大幅提高效率,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。cupy我觉得可以理解为cuda for numpy,安装方式p...
    99+
    2023-06-25
  • Python PyQt5如何实现文件拷贝器
    这篇文章将为大家详细讲解有关Python PyQt5如何实现文件拷贝器,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。UI设置def ui_init(self):   ...
    99+
    2023-06-25
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作