iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >数据库中间件DBLE学习(二) 学习配置schema.xml
  • 320
分享到

数据库中间件DBLE学习(二) 学习配置schema.xml

数据库中间件DBLE学习(二)学习配置schema.xml 2015-12-08 02:12:00 320人浏览 才女
摘要

前言 一边有一个经常引诱我让我“娱乐至死”的视频,还有一个不停“鞭策“我让我快点学习的大BOSS。正是有这两种极端的爱才让我常常在自信中明白自己努力的方向。嗯,"人间不值得"! SCHEMA.XML介绍 上一篇写了:数据库中间件D

数据库中间件DBLE学习(二) 学习配置schema.xml

前言

一边有一个经常引诱我让我“娱乐至死”的视频,还有一个不停“鞭策“我让我快点学习的大BOSS。正是有这两种极端的爱才让我常常在自信中明白自己努力的方向。嗯,"人间不值得"!

SCHEMA.XML介绍

上一篇写了:数据库中间件DBLE学习(一) 基本介绍和快速搭建,主要介绍快速安装。在安装的过程中,我们配置了schema.xml文件。schema.xml是一个比较重要的文件。该文件提供了逻辑库逻辑表分片规则数据分片物理数据库等配置。它主要有以下几个标签组成。

  • schema标签,主要是逻辑库逻辑表的配置,其中逻辑表又有多种类型,比如:全局表、分片表、ER分片表、非分片表等。
  • datanode标签,主要定义了数据分片存放的节点,一个dataNode标签往往就对应着一个数据分片。
  • dataHost标签,主要定义了物理数据库及主从读写分离的配置。

实战SCHEMA.XML配置

接下来我们来实战一下,实战就拿经典PRODUCT表,ORDERS订单表来做实验。前面曾经介绍过逻辑表拆分可以有很多种类型。首先我们先规划一下,假设我们是一家新的电商公司,在电商平台上卖自家公司生产的商品,我们的商品总共就5-6种,但挡不住客户对我们生产的商品的喜爱,款款都是爆款啊,一经发售订单量就惊人。那么我们怎么来拆分库表呢?

  • PRODUCTS产品表,就卖几款爆品,我们要把它做成全局表。也就是每个分片上都有这个PRODUCTS产品表的数据。这样不会有多大的消耗,毕竟这个表数据量小。也比较方便和分片表进行关联。
  • ORDERS订单表,有上千万的订单。这个数据量比较大,我们要把ORDERS表做成分片表。PRODUCTS产品表和ORDERS表存在一对多的关系。我们可以按照order_id来进行取模分片。这样不会有数据过热的问题,并且产品表是小表在每个分片上都有,我们能非常方便的使用产品表和订单表进行关联。

说这么多,不如来张图给大家看一下。

如图所示,应用直接连接数据库中间件,操作逻辑库testdb,逻辑表PRODUCTS和ORDERS。而上述逻辑库逻辑表对应存放在物理数据库主机A和主机B上。Mysql主机A上有分片dn1,mysql主机B上有分片dn2。dn1上存储了全局表PRODUCTS和按order_id取模的ORDERS表1。dn2上存储了全局表PRODUCTS和按order_id取模的ORDERS表2。

整个脉络理清了,这是我们的配置环境。

服务器 IP地址 描述
DBLE服务器 192.168.56.185 DBLE实例,数据库中间件,负责接收sql进行路由分发
MySQL A服务器 192.168.56.181 物理实例A,有db_1数据库
MySQL B1服务器主 192.168.56.182 物理实例B,有db_2数据库
MySQL B2服务器从 192.168.56.183 物理实例B的从库

物理MySQL环境配置

安装MySQL服务器A和MySQL服务器B的主从环境。然后在这两套物理数据库上都创建Buddy用户。

create user 'buddy'@'%' identified by '123456';
GRANT ALL PRIVILEGES ON *.* TO 'buddy'@'%' IDENTIFIED BY '123456';

配置schema标签

进入dble的conf文件夹下配置schema.xml文件。首先咱们配置schema标签。主要配置内容如下:

 
        
        
  • sehama标签

    对逻辑库的定义,name指定了逻辑库的名字。

  • table标签

    对表的定义,name指定了表的名字,dataNode指定这张表涉及的数据节点,这里两张表都指定的是dn1,dn2。rule指定了分片的规则,这里是取模算法。如果是全局表需要在type属性列声明为global。

配置dataNode标签


  • dataNode标签

    name指定的是数据分片节点名称,dataHost指定对应的数据库实例,database对在mysql物理实例中的schema。

配置dataHost标签


    show slave status
    
    
    


    show slave status
    
    
        
    
  • dataHost标签

    指定了数据库实例,这里name代表数据库实例的名称。maxCon定于了最大连接数,minCon定义了空闲时保有的最小连接数。balance是指读取操作的负载均衡模式,为0则不做均衡。switchType代表了写操作的高可用切换类型。等于-1则表示不自动切换。slaveThreshold指定了指定主从延迟的阀值,为100。该配置主要与读数据时的负载均衡有关,它会先取show slave status中的Seconds_Behind_Master值,如果该值大于slaveThreshold,则读取的时候就会过滤掉这个slave。防止读到旧的数据,影响前台的业务。

  • heartbeat标签

    指定心跳检测,这里心跳检测的语句是show slave status

  • writeHost标签

    指定写入节点。host是写节点的名称。url指定写入节点的ip和端口号。user指定写节点数据库的用户名,passWord指定写节点数据库的密码。

  • readHost标签

    指定读取节点。host是读节点的名称。url指定读取节点的ip和端口号。user指定读节点数据库的用户名,password指定读节点数据库的密码。

启动dble

上述配置完成之后,我们就可以启动dble了。

[root@mycat bin]# ./dble start
Starting dble-server...
Removed stale pid file: /dble/dble.pid

启动后查看wrapper日志居然报错了。

INFO   | jvm 1    | 2019/12/27 00:34:15 | com.actiontech.dble.config.util.ConfigException: Illegal table conf : table [ orders ] rule function [ func_mod ] partition size : 4 > table datanode size : 2, please make sure table datanode size = function partition size

这里报错很明显,主要是这个取模函数默认设置对4取模,大于了我们的dataNode。需要我们在rule.xml中把func_mod函数的partitionCount给改成2.


    2
    1

重新启动dble,能够成功启动。

创建分片并验证

使用管理端口登录,进行创建datanode的操作。

[root@mysql5 ~]# mysql -uman1 -p -P9066 -h192.168.56.185 -p654321
mysql> create database @@dataNode='dn$1-2';
Query OK, 1 row affected (0.03 sec)

分别登录MySQL服务器A和MySQL服务器B查看创建分片的情况。可以看到181上创建了db_1,而182上创建了db_2。

[root@mysql5 ~]# mysql -ubuddy -p  -h192.168.56.181 -P3306 -p123456 -e "show databases"
+--------------------+
| Database           |
+--------------------+
| infORMation_schema |
| db_1               |
| mysql              |
| performance_schema |
| sys                |
+--------------------+

[root@mysql5 ~]# mysql -ubuddy -p  -h192.168.56.182 -P3306 -p123456 -e "show databases"
+--------------------+
| Database           |
+--------------------+
| information_schema |
| db_2               |
| mysql              |
| performance_schema |
| sys                |
+--------------------+

创建表并插入数据

使用服务端口登录,进行创建表和插入数据的操作。此时我们操作的就是逻辑库和逻辑表。

[root@mysql5 ~]# mysql -uroot -h192.168.56.185 -P8066 -p123456
mysql> show databases;
+----------+
| DATABASE |
+----------+
| testdb   |
+----------+
1 row in set (0.00 sec)

mysql> use testdb;
Database changed
mysql> show tables;
Empty set (0.00 sec)

mysql> create table if not exists products (
    ->   product_id int not null,
    ->   product_name varchar(250),
    ->   expire_time date,
    ->   primary key(product_id)
    -> )engine=innodb charset=utf8;
Query OK, 0 rows affected, 1 warning (0.08 sec)

mysql> create table if not exists orders (
    ->   order_id int not null,
    ->   product_id int not null,
    ->   effective_time date,
    ->   cust_name varchar(20),
    ->   cust_address varchar(200),
    ->   primary key(order_id)
    -> )engine=innodb charset=utf8;
Query OK, 0 rows affected (0.04 sec)

insert into products values(1,'Package A','2015-12-31')
insert into products values(2,'Package B','2022-07-31');
insert into products values(3,'Package C','2025-12-31');
insert into products values(4,'Package D','2028-05-31');

insert into orders values(1,1,'2019-12-25','caocao','gz');
insert into orders values(1,1,'2019-12-25','caocao','gz');
insert into orders values(2,1,'2019-12-25','liubei','sz');
insert into orders values(3,2,'2019-12-25','sunquan','sh');
insert into orders values(4,2,'2019-12-25','zhugeliang','nj');
insert into orders values(5,3,'2019-12-25','simayi','hz');
insert into orders values(6,4,'2019-12-25','caopi','wh');
insert into orders values(7,1,'2019-12-25','guanyu','cd');
insert into orders values(8,1,'2019-12-25','zhengfei','bj');
insert into orders values(9,3,'2019-12-25','zhaoyun','cd');
insert into orders values(10,1,'2019-12-25','weiyan','cq');
insert into orders values(11,4,'2019-12-25','machao','cs');
insert into orders values(12,1,'2019-12-25','lvbu','cd');
insert into orders values(13,1,'2019-12-25','diaochan','sh');
insert into orders values(14,2,'2019-12-25','huangzhong','hz');

mysql> insert into orders values(1,1,'2019-12-25','caocao','gz');
ERROR 1064 (HY000): bad insert sql, sharding column/joinKey:ID not provided,INSERT INTO orders

在插入orders表的时候再次报错,报错很明显,说分片键id没提供。这是因为我们在rule.xml中columns字段不是指定的分片字段order_id。在rule.xml配置一下columns字段为order_id就可以了。


    
        order_id
        func_mod
    

验证分片数据否正确

验证db_1分片上的数据。

[root@mysql5 ~]# mysql -ubuddy  -h192.168.56.181 -P3306 -p123456 -D db_1 -e "select * from products" 
+------------+--------------+-------------+
| product_id | product_name | expire_time |
+------------+--------------+-------------+
|          1 | Package A    | 2015-12-31  |
|          1 | Package B    | 2022-07-31  |
|          1 | Package C    | 2025-12-31  |
|          1 | Package D    | 2028-05-31  |
+------------+--------------+-------------+

[root@mysql5 ~]# mysql -ubuddy  -h192.168.56.181 -P3306 -p123456 -D db_1 -e "select * from orders"  
+----------+------------+----------------+------------+--------------+
| order_id | product_id | effective_time | cust_name  | cust_address |
+----------+------------+----------------+------------+--------------+
|        2 |          1 | 2019-12-25     | liubei     | sz           |
|        4 |          2 | 2019-12-25     | zhugeliang | nj           |
|        6 |          4 | 2019-12-25     | caopi      | wh           |
|        8 |          1 | 2019-12-25     | zhengfei   | bj           |
|       10 |          1 | 2019-12-25     | weiyan     | cq           |
|       12 |          1 | 2019-12-25     | lvbu       | cd           |
|       14 |          2 | 2019-12-25     | huangzhong | hz           |
+----------+------------+----------------+------------+--------------+

验证db_2分片上的数据。

[root@mysql5 ~]# mysql -ubuddy  -h192.168.56.182 -P3306 -p123456 -D db_2 -e "select * from products"  
mysql: [Warning] Using a password on the command line interface can be insecure.
+------------+--------------+-------------+
| product_id | product_name | expire_time |
+------------+--------------+-------------+
|          1 | Package A    | 2015-12-31  |
|          1 | Package B    | 2022-07-31  |
|          1 | Package C    | 2025-12-31  |
|          1 | Package D    | 2028-05-31  |
+------------+--------------+-------------+

[root@mysql5 ~]# mysql -ubuddy  -h192.168.56.182 -P3306 -p123456 -D db_2 -e "select * from orders" 
+----------+------------+----------------+-----------+--------------+
| order_id | product_id | effective_time | cust_name | cust_address |
+----------+------------+----------------+-----------+--------------+
|        1 |          1 | 2019-12-25     | caocao    | gz           |
|        3 |          2 | 2019-12-25     | sunquan   | sh           |
|        5 |          3 | 2019-12-25     | simayi    | hz           |
|        7 |          1 | 2019-12-25     | guanyu    | cd           |
|        9 |          3 | 2019-12-25     | zhaoyun   | cd           |
|       11 |          4 | 2019-12-25     | Machao    | cs           |
|       13 |          1 | 2019-12-25     | diaochan  | sh           |
+----------+------------+----------------+-----------+--------------+

总结

这篇我们学习了基本的schema.xml的配置方法,目前还是比较皮毛的。下一篇我们来介绍分片的一些算法。

参考文档

  • 1.DBLE Schema.xml 配置解析:https://www.jianshu.com/p/dad60c304202
您可能感兴趣的文档:

--结束END--

本文标题: 数据库中间件DBLE学习(二) 学习配置schema.xml

本文链接: https://www.lsjlt.com/news/3456.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • scrapy 爬虫学习二[中间件的学习]
    scrapy源码解析参考连接:https://www.jianshu.com/p/d492adf17312 ,直接看大佬的就行了,这里便就不多说了。 今天要学习的是:Scrapy框架中的download middlerware【下载中间件...
    99+
    2023-01-31
    爬虫 中间件 scrapy
  • MHA 学习(二) 配置文件
    一  配置  所有 主机的  ssh key 认证 ssh-keygen -t rsa  ssh-copy-id -i /ro...
    99+
    2024-04-02
  • MySQL数据库学习
    目录 从管理员cmd页面打开数据库 创建一个用户 数据库的基本操作 数据完整性 完整性约束管理 表的基本操作 判断关键字 聚合函数 多表连接查询 嵌套查询 联合查询 事务 锁 索引 视图 存储过程 函数(与存储过程类似) 光标 触发器   ...
    99+
    2023-10-19
    数据库 mysql 学习 java
  • PyCharm学习笔记(二) 调试配置
      选择PyCharm编译器 注意工程默认使用的解释器可能是Pycharm自带的,而不是单独安装的。   ...
    99+
    2023-01-30
    学习笔记 PyCharm
  • 数据库怎么学习
    学习数据库的方法学习Access数据库,了解数据库的基础概念。学习如何建数据库。学习sql语句的运用。做一些实例进行深度学习。学习SQLserver,掌握关系型数据库的基本操作。学习Oracle、DB2等大型数据库的知识。...
    99+
    2024-04-02
  • 如何学习数据库
    学习数据库的方法从Access数据库入手,了解数据库的基础概念。自己动手建库。学习sql语句的运用。做一些实例进行深度学习。接着学习SQLserver掌握关系型数据库的基本操作。学习大型数据库的知识。最后需要再掌握Oracle、DB2等大型...
    99+
    2024-04-02
  • 生命在于学习——框架-中间件的学习(一)
    声明:本篇文章仅用于学习笔记记录,不得用于其他用途。 一、什么是框架 Web框架(Web framework)或者叫做Web应用框架(Web application framework),是用于进行...
    99+
    2023-09-28
    学习 中间件 php
  • python学习之读取配置文件
    前言: 最近在接触利用python来写测试框架,本人也是个刚接触python,所以是个小菜鸟,今天开始,一点点的记录学习中的积累,方便以后的学习以及回顾,也希望能帮助跟我一样的小菜鸟...
    99+
    2024-04-02
  • Java数据结构学习之二叉树
    一、背景知识:树(Tree) 在之前的笔记中,我们介绍的链表、栈、队列、数组和字符串都是以线性结构来组织数据的。本篇笔记要介绍的树采用的是树状结构,这是一种非线性的数据组织形式。 树...
    99+
    2024-04-02
  • python学习笔记(三)—数据库篇
    一、数据库编程 数据库编程是指在应用程序中使用数据库管理系统(DBMS)进行数据存储、检索和处理的过程。数据库提供了一种结构化的方式来组织和存储数据,使得数据的管理更加高效和可靠。 1.1 关系数据库...
    99+
    2023-09-18
    python 学习 笔记
  • 阿里云数据库学习心得
    阿里云数据库学习心得 阿里云数据库是阿里集团自研的分布式关系型数据库,它采用了多种技术,包括分布式计算、内存计算、GPU加速等,可以满足大规模数据的存储和处理需求。在学习阿里云数据库的过程中,我收获了很多宝贵的经验和知识,也发现了一些值得...
    99+
    2023-10-30
    阿里 学习心得 数据库
  • Spring学习JdbcTemplate数据库事务参数
    目录Spring JdbcTemplate数据库事务参数一、propagation1. REQUIRED2. REQUIRES_NEW3. SUPPORTS4. NOT_SUPPOR...
    99+
    2024-04-02
  • 数据库中间件dble的作用是什么
    数据库中间件DBLE的作用是在应用程序和数据库之间提供一个可靠的连接和通信桥梁。它可以有效地管理数据库连接池,负载均衡和故障转移,提...
    99+
    2023-10-12
    数据库
  • mysql数据库字符集学习总结
    MYSQL数据库字符集包括字符集(CHARACTER)和校对规则(COLLATION)两个概念。MYSQL 支持的字符集和校对规则可以通过命令showcharacter set;查看。和字符集有关的变量my...
    99+
    2024-04-02
  • MySQL学习之数据库备份详解
    目录1.DB,DBMS,SQL2.数据库的特点3.SQL分类4.mysql两种启动关闭方式5.mysql的登录方式()6.SQL语言规范7.navicat常用快捷键8.数据库的备份和...
    99+
    2024-04-02
  • Python深度学习albumentations数据增强库
    数据增强的必要性 深度学习在最近十年得以风靡得益于计算机算力的提高以及数据资源获取的难度下降。一个好的深度模型往往需要大量具有label的数据,使得模型能够很好的学习这种数据的分布。...
    99+
    2024-04-02
  • Python学习教程(附Python学习路线图):Pandas中第二好用的函数
    本次的Python学习教程是关于Python数据分析实战基础相关内容,本文主要讲的是Pandas中第二好用的函数——谦虚的apply。为什么说第二好用呢?那第一呢?秉承这谦虚使人进步,骄傲使人落后的品质,apply选择做一个谦虚又优雅的函数...
    99+
    2023-06-02
  • spring学习JdbcTemplate数据库事务管理
    目录spring JdbcTemplate数据库事务管理一、spring 中的事务管理二、spring 事务管理 API三、使用事务管理1. 配置文件2. 类上添加事务注解sprin...
    99+
    2024-04-02
  • 图数据库Neo4j学习五渲染图数据库neo4jd3
    文章目录 1.现成的工具2.Neo4j JavaScript Driver3.neovis4.neo4jd34.1neo4jd3和neovis对比4.2获取neo4jd34.3neo4jd3的数据结构4.4Spring data n...
    99+
    2023-08-30
    数据库 neo4j 学习
  • 第二天学习_基础数据类型整理
    1. int - 整型    bit_length() 是int唯一的方法 2. bool - 数据类型之间的转换   int(字符串)->把字符串转换成数字   str(数字)->把数字转换成字符串 3. str - 字符串...
    99+
    2023-01-31
    第二天 数据类型 基础
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作