iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >利用Kafka动态调整topic分区partition
  • 575
分享到

利用Kafka动态调整topic分区partition

Kafka动态调整topic分区topic分区partitionKafka分区 2022-12-27 12:12:51 575人浏览 安东尼

Python 官方文档:入门教程 => 点击学习

摘要

目录kafka动态调整topic分区partitionkafka-topics.sh工具介绍更新或者修改topic总结Kafka动态调整topic分区partition 在使用kaf

Kafka动态调整topic分区partition

在使用kafka时,初期创建topic时所指定的topic属性有时会需要修改,如何动态修改kafka topic属性?kafka提供了命令行工具—kafka-topics.sh.

kafka-topics.sh工具介绍

kafka-topics.sh工具也是我们用来创建topic、查看topic详情的工具。

直接运行kafka-topics.sh可以看出,它是用来创建、删除、查看以及更新topic的

root@ubuntu:/opt/kafka_2.11-1.1.0/bin# ./kafka-topics.sh
Create, delete, describe, or change a topic.
Option Description

–alter Alter the number of partitions,
replica assignment, and/or
configuration for the topic.
–config <String: name=value> A topic configuration override for
…

更新或者修改topic

注意:我的kafka版本是1.1.0, 并且我只有一个broker。

1, 首先我们创建一个topic,然后查看详情

root@ubuntu:/opt/kafka_2.11-1.1.0/bin# ./kafka-topics.sh --create --ZooKeeper 192.168.119.131:2181 --replication-factor 1 --partitions 4 --topic yQtopic1
Created topic “yqtopic1”.
root@ubuntu:/opt/kafka_2.11-1.1.0/bin#

root@ubuntu:/opt/kafka_2.11-1.1.0/bin# ./kafka-topics.sh --describe --zookeeper 192.168.119.131:2181 --topic yqtopic1
Topic:yqtopic1 PartitionCount:4 ReplicationFactor:1 Configs:
Topic: yqtopic1 Partition: 0 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 1 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 2 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 3 Leader: 0 Replicas: 0 Isr: 0
root@ubuntu:/opt/kafka_2.11-1.1.0/bin#

2,修改刚创建的topic,并查看修改的情况

将分区数有4修改为12

root@ubuntu:/opt/kafka_2.11-1.1.0/bin# ./kafka-topics.sh --alter --zookeeper 192.168.119.131:2181 --topic yqtopic1 --partitions 12
WARNING: If partitions are increased for a topic that has a key, the partition logic or ordering of the messages will be affected
Adding partitions succeeded!
root@ubuntu:/opt/kafka_2.11-1.1.0/bin#

root@ubuntu:/opt/kafka_2.11-1.1.0/bin# ./kafka-topics.sh --describe --zookeeper 192.168.119.131:2181 --topic yqtopic1 Topic:yqtopic1 PartitionCount:12 ReplicationFactor:1 Configs:
Topic: yqtopic1 Partition: 0 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 1 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 2 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 3 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 4 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 5 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 6 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 7 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 8 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 9 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 10 Leader: 0 Replicas: 0 Isr: 0
Topic: yqtopic1 Partition: 11 Leader: 0 Replicas: 0 Isr: 0
root@ubuntu:/opt/kafka_2.11-1.1.0/bin# ls -al /tmp/kafka-logs/
total 72
drwxr-xr-x 14 root root 4096 Oct 13 14:34 .
drwxrwxrwt 17 root root 4096 Oct 13 14:34 …
-rw-r–r-- 1 root root 0 Oct 13 14:10 cleaner-offset-checkpoint
-rw-r–r-- 1 root root 0 Oct 13 14:10 .lock
-rw-r–r-- 1 root root 4 Oct 13 14:33 log-start-offset-checkpoint
-rw-r–r-- 1 root root 54 Oct 13 14:10 meta.properties
-rw-r–r-- 1 root root 163 Oct 13 14:33 recovery-point-offset-checkpoint
-rw-r–r-- 1 root root 163 Oct 13 14:34 replication-offset-checkpoint
drwxr-xr-x 2 root root 4096 Oct 13 14:20 yqtopic1-0
drwxr-xr-x 2 root root 4096 Oct 13 14:20 yqtopic1-1
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-10
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-11
drwxr-xr-x 2 root root 4096 Oct 13 14:20 yqtopic1-2
drwxr-xr-x 2 root root 4096 Oct 13 14:20 yqtopic1-3
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-4
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-5
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-6
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-7
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-8
drwxr-xr-x 2 root root 4096 Oct 13 14:33 yqtopic1-9
root@ubuntu:/opt/kafka_2.11-1.1.0/bin#

修改后的截图如下

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持编程网。

--结束END--

本文标题: 利用Kafka动态调整topic分区partition

本文链接: https://www.lsjlt.com/news/175947.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 利用Kafka动态调整topic分区partition
    目录Kafka动态调整topic分区partitionkafka-topics.sh工具介绍更新或者修改topic总结Kafka动态调整topic分区partition 在使用kaf...
    99+
    2022-12-27
    Kafka动态调整topic分区 topic分区partition Kafka分区
  • 如何利用Kafka动态调整topic分区partition
    本篇内容主要讲解“如何利用Kafka动态调整topic分区partition”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“如何利用Kafka动态调整topic分区partition”吧!Kafk...
    99+
    2023-07-04
  • kafka手动调整分区副本数的操作步骤
    目录前言前置准备操作步骤增加副本前言 在生产环境中,akfka集群下的每台服务器的配置和性能可能不一样,但Kafka集群只会根据配置规则创建对应的分区副本,这样一来可能就会导致个别服...
    99+
    2024-04-02
  • 怎么使用CSS动态调整旋转半径
    这篇文章将为大家详细讲解有关怎么使用CSS动态调整旋转半径,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。代码:<!DOCTYPE HTML> <...
    99+
    2024-04-02
  • 关于Spark Streaming感知kafka动态分区的问题该怎么理解
    关于Spark Streaming感知kafka动态分区的问题该怎么理解,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。小编主要是讲解Spark Streaming与kafk...
    99+
    2023-06-19
  • oracle 12c中自增分区表 自动调整缓存分区的存储过程
        最近为了使用12c的强大的inmemory功能,新做了一个OGG从11gR2 RAC到12c的数据同步,分担主库的olap业务   &nb...
    99+
    2024-04-02
  • Ubuntu中如何使用GParted分区编辑器调整磁盘分区
    要使用GParted分区编辑器调整磁盘分区,您可以按照以下步骤操作: 首先,确保您已经安装了GParted分区编辑器。如果您的系统...
    99+
    2024-04-02
  • 怎么使用Java方法调用解析静态分派和动态分派
    这篇“怎么使用Java方法调用解析静态分派和动态分派”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“怎么使用Java方法调用解...
    99+
    2023-07-02
  • Java方法调用解析静态分派动态分派执行过程
    方法调用 在程序运行时,进行方法调用是最普遍,最频繁的操作 方法调用不等于方法执行: 方法调用阶段唯一的任务就是确定被调用的方法版本,即调用哪一个方法不涉及方法内部的具体运行过程 C...
    99+
    2024-04-02
  • Ubuntu系统中怎么使用LVM调整硬盘分区
    本篇文章为大家展示了Ubuntu系统中怎么使用LVM调整硬盘分区,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。LVM是Logical Volume Manager(逻辑卷管理器)的简写,又译为逻辑卷...
    99+
    2023-06-13
  • Ubuntu系统上如何使用LVM调整硬盘分区
    本篇内容介绍了“Ubuntu系统上如何使用LVM调整硬盘分区”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!先来介绍一下硬盘分区的基本知识:物...
    99+
    2023-06-13
  • JS利用 clip-path 实现动态区域裁剪功能
    背景 今天逛 CodePen,看到了这样一个非常有意思的效果: CodePen Demo -- Material Design Menu By Bennett Feely 这个效果...
    99+
    2024-04-02
  • innodb新特性之怎么使用buffer pool动态调整大小
    这篇文章主要介绍“innodb新特性之怎么使用buffer pool动态调整大小”,在日常操作中,相信很多人在innodb新特性之怎么使用buffer pool动态调整大小问题上存在疑惑,小编查阅了各式资料...
    99+
    2024-04-02
  • 如何通过ASP技术实现大数据分布式路径动态调整?
    随着大数据时代的到来,越来越多的企业开始使用分布式计算来处理海量数据。而路径动态调整是分布式计算中的一项重要技术,能够在运算过程中根据实时数据动态地调整计算路径,提高计算效率。 本文将介绍如何使用ASP技术实现大数据分布式路径动态调整,并...
    99+
    2023-10-18
    大数据 path 分布式
  • 负载均衡器是否可以动态调整服务器的负载分配
    是的,负载均衡器可以动态调整服务器的负载分配。负载均衡器可以根据服务器的负载状况和性能指标来动态地分配流量,以确保各个服务器的负载均...
    99+
    2024-04-17
    负载均衡
  • 利用drone ci自动化部署静态博客的完整步骤
    目录前言准备安装drone ci1、docker-compose配置文件2、docker-compose配置文件主要参数详解drone serverDRONE_SERVER_PROT...
    99+
    2024-04-02
  • 利用Golang和FFmpeg实现视频分辨率调整的实践
    要利用Golang和FFmpeg实现视频分辨率调整的实践,你需要进行以下步骤:1. 安装FFmpeg:首先,你需要安装FFmpeg,...
    99+
    2023-10-08
    Golang
  • 利用Pjax下载动态加载插件方案分享
    目录解决思路处理 Script处理 Head结尾在纯静态网站里,有时候会动态更新某个区域往会选择 Pjax(swup、barba.js)去处理,他们都是使用 ajax 和 pushS...
    99+
    2024-04-02
  • JS怎么利用clip-path实现动态区域裁剪功能
    这篇文章给大家介绍JS怎么利用clip-path实现动态区域裁剪功能,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。背景今天逛 CodePen,看到了这样一个非常有意思的效果:CodePen Demo -- Materi...
    99+
    2023-06-22
  • Ubuntu上如何使用LVM轻松调整分区并制作快照
    这篇文章将为大家详细讲解有关Ubuntu上如何使用LVM轻松调整分区并制作快照,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。Ubuntu的安装器提供了一个轻松“使用LVM”的复选框。它的描述中说,启用逻辑...
    99+
    2023-06-16
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作