广告
返回顶部
首页 > 资讯 > 精选 >Sharding-Proxy分库分表和数据加密怎么实现
  • 542
分享到

Sharding-Proxy分库分表和数据加密怎么实现

2023-06-30 01:06:53 542人浏览 独家记忆
摘要

这篇文章主要介绍“Sharding-Proxy分库分表和数据加密怎么实现”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Sharding-Proxy分库分表和数据加密怎么实现”文章能帮助大家解决问题。

这篇文章主要介绍“Sharding-Proxy分库分表和数据加密怎么实现”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Sharding-Proxy分库分表和数据加密怎么实现”文章能帮助大家解决问题。

    Sharding-Proxy分库分表和数据加密

    主要将实际项目中使用shardingshpere-proxy的经历经验,总结分享一下。

    使用场景

    • 公司规划研发了两款针对政务新媒体和数字乡村的SaaS平台,作为新的利润增长点。考虑到以后的用户数量和数据数量,决定按照租户(签约客户)进行分库分表。对于一些敏感数据,例如身份证号、手机号等,使用数据库级别的加密解密,不存储明文数据。

    • 考察了网上已有的一些数据库中间件和分库分表解决方案,公司决定使用Sharding-Proxy作为分库分表和数据加密的数据库中间件。主要原因是,它对代码的侵入性很小,开发人员也不需要关注它,减少了学习成本,对DBA也很友好。另一方面,ShardingSphere已进入Apache孵化器,它完全开源免费,社区也很活跃,版本迭代也很快。

    • 本次使用的ShardingSphere-5.0

    配置文件讲解

    server.yaml
    • resources文件夹,conf文件夹下面

    • 主要有注册中心配置、登录连接配置和基础配置

    mode:  type: Cluster  # 集群  repository:    type: ZooKeeper  # 使用zookeeper    props:      namespace: Governance_ds        server-lists: 192.168.1.100:2181      retryIntervalMilliseconds: 50000      timeToLiveSeconds: 60      maxRetries: 3      operationTimeoutMilliseconds: 50000  overwrite: true
    • mode.type: Cluster使用集群配置,单个部署也可以设置为Cluster,没影响

    • mode.repository 配置存储方式,可以选择使用ZooKeeper

    • mode.overwrite,配置加载方式,本地配置是否覆盖配置中心配置。true是可覆盖,以本地为准,将本地配置同步到zookeeper;false则以zookeeper为准

    • 下面还有一些基础配置,是否打印sql等,暂时可都是要默认

    config-sharding.yaml
    • resources文件夹,conf文件夹下面

    • schemaName 数据库连接,数据库名称

    • dataSources 数据源

    • rules 规则

    • !SHARDING 分库分表规则

    • tables 表

    • actualDatanodes 实际对于库表

    • databaseStrategy 分库策略 none 不分库分表

    • defaultDatabaseStrategy 默认分库策略

    • defaultTableStrategy 默认分表策略

    • defaulTKEyGenerateStrategy 默认主键策略

    • shardingAlgorithms 自定义分片算法

    • keyGenerators 主键生成策略

    config-encrypt.yaml
    • resources文件夹,conf文件夹下面

    • schemaName 数据库连接,数据库名称

    • dataSources 数据源

    • rules 规则

    • !ENCRYPT 数据加密

    • encryptors 加密策略,可选择AES或MD5,在下面具体字段可选则加密策略

    • aes_encryptor,aes可以配置加盐

    • tables 表

    • columns 字段s

    • id_number 逻辑字段

    • plainColumn 原字段

    • cipherColumn 加密字段

    • encryptorName 加密策略

    • queryWithCipherColumn 查询时是否使用加密字段

    其他

    • 可以下载源码或者下载程序看看,里面的功能,都有配置文件案例,是注释掉的,一款postgresql的,一款MySQL

    • 目前就使用这2个功能,其他功能暂时没研究,就不多说了

    • 实际使用时,分库分表和数据加密是一起使用的,所以只用了一个配置文件,都放在rules下面

    • 后面我会把我的配置文件贴上去

    使用情况

    • 政务新媒体SaaS平台暂时只使用分库分表

    • 数字乡村SaaS平台,使用了分库分表和数据加密

    • 分库分表,主要做了基于租户分库,部分表,又根据某些业务字段做了分表

    • 分表策略,默认分8个表写法algorithm-expression: monitor_record_${media_id % 8}

    • 我们基于租户的哈希进行分库,但对于某些租户,又想指定数据库,这就需要自定义分库分表策略

    • 要求分库支持哈希和指定,写了自定义分库策略类,有一个静态map,解析执行SQL时,先从map里获取,获取不到,则根据哈希获取

    • 数据加密,主要是添加加密字段和对历史数据处理

    • 可以写一个静态方法,对已存在数据进行处理

    总结

    • sharding-proxy对于按照租户分库分表,以及数据加密,是完全支持的,足够我们使用

    • 使用起来很简单,下载最新稳定版安装即可

    • 如果没有自定义分库分表策略要求,只使用已有的策略,那只需要修改配置文件部署即可

    • 如果需要自定义分库分表策略,也不复杂,写好类打包好,放入ext-lib下即可

    • 配置文件部分示例

    schemaName: digital_villagedataSources:  ds:    url: jdbc:postgresql://192.168.1.xxx:5432/digital_village?currentSchema=public&serverTimezone=UTC&useSSL=false    username: postgres    passWord: xxxxxx    connectionTimeoutMilliseconds: 30000    idleTimeoutMilliseconds: 60000    maxLifetimeMilliseconds: 1800000    maxPoolSize: 120    minPoolSize: 1  ds_0:    url: jdbc:postgresql://192.168.1.xxx:5432/digital_village_0?currentSchema=public&serverTimezone=UTC&useSSL=false  ds_1:    url: jdbc:postgresql://192.168.1.xxx:5432/digital_village_1?currentSchema=public&serverTimezone=UTC&useSSL=false    password: xxxxxrules:  - !SHARDING    tables:      # 需要分库的表,根据租户id分库      cms_basic_info:        actualDataNodes: ds_${0..3}.cms_basic_info      cms_column:        actualDataNodes: ds_${0..3}.cms_column      cms_content:        actualDataNodes: ds_${0..3}.cms_content      cms_content_text:        actualDataNodes: ds_${0..3}.cms_content_text      cms_menu_column_bind:        actualDataNodes: ds_${0..3}.cms_menu_column_bind      cms_message_board:        actualDataNodes: ds_${0..3}.cms_message_board      # 不需要分库分表的表,全部存储在 ds 数据源      auth_cfg_catalog_data_permission:        actualDataNodes: ds.auth_cfg_catalog_data_permission        databaseStrategy:           none:      auth_cfg_column_data_permission:        actualDataNodes: ds.auth_cfg_column_data_permission        databaseStrategy:          # 默认分库策略    defaultDatabaseStrategy:      standard:        shardinGColumn: customer_id  #分库字段        shardingAlgorithmName:  customer_id_inline #分库规则:    defaultTableStrategy:      none:    # 默认主键策略    defaultKeyGenerateStrategy:      column: id      keyGeneratorName: snowflake    # 自定义分片算法    shardingAlgorithms:      customer_id_inline:        type: CLASS_BASED        props:          strategy: standard          algorithmClassName: cn.lonsun.dv.DigitalVillageShardingAlgorithm    # 主键生成策略    keyGenerators:      snowflake:        type: SNOWFLAKE          worker-id: 123  - !ENCRYPT    encryptors:      aes_encryptor:        type: AES          aes-key-value: xxxwwaS213123SAD      md5_encryptor:        type: MD5      party_position:        columns:          mobile:            plainColumn: mobile            cipherColumn: mobile_cipher            encryptorName: aes_encryptor      village_population:          id_number:            plainColumn: id_number            cipherColumn: id_number_cipher    queryWithCipherColumn: true

    关于“Sharding-Proxy分库分表和数据加密怎么实现”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识,可以关注编程网精选频道,小编每天都会为大家更新不同的知识点。

    --结束END--

    本文标题: Sharding-Proxy分库分表和数据加密怎么实现

    本文链接: https://www.lsjlt.com/news/326977.html(转载时请注明来源链接)

    有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

    本篇文章演示代码以及资料文档资料下载

    下载Word文档到电脑,方便收藏和打印~

    下载Word文档
    猜你喜欢
    • Sharding-Proxy分库分表和数据加密怎么实现
      这篇文章主要介绍“Sharding-Proxy分库分表和数据加密怎么实现”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Sharding-Proxy分库分表和数据加密怎么实现”文章能帮助大家解决问题。...
      99+
      2023-06-30
    • Sharding-Proxy分库分表和数据加密使用场景分析
      目录Sharding-Proxy分库分表和数据加密使用场景配置文件讲解server.yamlconfig-sharding.yamlconfig-encrypt.yaml其他使用情况...
      99+
      2022-11-13
    • SpringBoot怎么整合sharding-jdbc实现分库分表与读写分离
      本篇内容主要讲解“SpringBoot怎么整合sharding-jdbc实现分库分表与读写分离”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“SpringBoot怎么整合sharding-jdbc...
      99+
      2023-06-25
    • SpringBoot2如何整合Sharding-Jdbc中间件实现数据分库分表
      小编给大家分享一下SpringBoot2如何整合Sharding-Jdbc中间件实现数据分库分表,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!一、水平分割1、水平分库1)、概念:以字段为依据,按照一定策略,将一个库中的数据...
      99+
      2023-06-02
    • 怎么在MySQL数据库中实现分表分库操作
      这篇文章将为大家详细讲解有关怎么在MySQL数据库中实现分表分库操作,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。分表分库垂直拆分垂直拆分就是要把表按模块划...
      99+
      2022-10-18
    • 分库分表扩容怎么实现平滑数据迁移
      本篇内容主要讲解“分库分表扩容怎么实现平滑数据迁移”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“分库分表扩容怎么实现平滑数据迁移”吧!一、背景2020年,&nb...
      99+
      2022-10-19
    • Mysql数据库中的分库分表怎么利用MyBatis来实现
      本篇文章给大家分享的是有关Mysql数据库中的分库分表怎么利用MyBatis来实现,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。MyBatis实现分表最简单步骤我们模拟用户表数...
      99+
      2023-05-31
      mybatis mysql
    • 怎么用sql语句实现分离和附加数据库
      本篇内容介绍了“怎么用sql语句实现分离和附加数据库”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!对于用M...
      99+
      2022-10-18
    • 怎么使用PHP实现MongoDB数据库分表
      本篇内容介绍了“怎么使用PHP实现MongoDB数据库分表”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!一、MongoDB数据库简介在介绍M...
      99+
      2023-07-06
    • MySQL数据库中怎么实现加密
      这篇文章将为大家详细讲解有关MySQL数据库中怎么实现加密,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。如何加密对于 Java 项目来说,要想快速实现数据库...
      99+
      2022-10-18
    • springboot项目数据库密码怎么实现加密
      这篇文章主要介绍了springboot项目数据库密码怎么实现加密的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇springboot项目数据库密码怎么实现加密文章都会有所收获,下面我们一起来看看吧。方案一、使用d...
      99+
      2023-06-08
    • Vue怎么实现分批加载数据
      本篇内容主要讲解“Vue怎么实现分批加载数据”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Vue怎么实现分批加载数据”吧!分批加载数据最近在写vue的项目,因为后台返回的数据量太大,在调用了高德...
      99+
      2023-06-30
    • MySQL数据库中怎么实现双向加密
      MySQL数据库中怎么实现双向加密,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。    双向加密...
      99+
      2022-10-18
    • vue.js表格分页及ajax异步加载数据怎么实现
      这篇“vue.js表格分页及ajax异步加载数据怎么实现”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“vue.js表格分页及...
      99+
      2023-07-04
    • Android怎么实现ListView分页加载数据
      本篇内容介绍了“Android怎么实现ListView分页加载数据”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!FenyeActivityp...
      99+
      2023-06-25
    • php配置数据库文件加密怎么实现
      实现 PHP 配置数据库文件加密可以通过以下步骤进行: 创建一个用于加密和解密的密钥。可以使用 OpenSSL 扩展的 opens...
      99+
      2023-10-27
      php 数据库
    • 怎么实现数据库分区表+dblink异步调用并行
      本篇内容介绍了“怎么实现数据库分区表+dblink异步调用并行”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成...
      99+
      2022-10-18
    • 怎么理解数据库移动分区表和分区索引的表空间
      这篇文章主要介绍“怎么理解数据库移动分区表和分区索引的表空间”,在日常操作中,相信很多人在怎么理解数据库移动分区表和分区索引的表空间问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解...
      99+
      2022-10-19
    • 怎么使用Vant实现数据分页和下拉加载
      本篇内容主要讲解“怎么使用Vant实现数据分页和下拉加载”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“怎么使用Vant实现数据分页和下拉加载”吧!Vant-ui的van-list实现数据分页加载...
      99+
      2023-07-02
    • 数据库中怎么实现分页查询
      数据库中怎么实现分页查询,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。一、 MySQL 数据库分页查询 MySQL数据库实现分...
      99+
      2022-10-18
    软考高级职称资格查询
    编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
    • 官方手机版

    • 微信公众号

    • 商务合作