iis服务器助手广告广告
返回顶部
首页 > 资讯 > 精选 >怎么在java中利用spring实现读写分离
  • 554
分享到

怎么在java中利用spring实现读写分离

springjava 2023-05-30 19:05:49 554人浏览 八月长安
摘要

怎么在java中利用spring实现读写分离?相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。1.  背景我们一般应用对数据库而言都是“读多写少”,也就说对数据库读取数据

怎么在java中利用spring实现读写分离?相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

1.  背景

我们一般应用对数据库而言都是“读多写少”,也就说对数据库读取数据的压力比较大,有一个思路就是说采用数据库集群的方案,

其中一个是主库,负责写入数据,我们称之为:写库;

其它都是从库,负责读取数据,我们称之为:读库;

那么,对我们的要求是:

读库和写库的数据一致;(这个是很重要的一个问题,处理业务逻辑要放在service层去处理,不要在dao或者mapper层面去处理)

写数据必须写到写库;

读数据必须到读库;

2.  方案

解决读写分离的方案有两种:应用层解决和中间件解决。

2.1. 应用层解决:

怎么在java中利用spring实现读写分离

优点:

多数据源切换方便,由程序自动完成;

不需要引入中间件;

理论上支持任何数据库;

缺点:

程序员完成,运维参与不到;

不能做到动态增加数据源; 

2.2. 中间件解决

 怎么在java中利用spring实现读写分离

优缺点: 

优点:

源程序不需要做任何改动就可以实现读写分离;

动态添加数据源不需要重启程序; 

缺点:

程序依赖于中间件,会导致切换数据库变得困难;

由中间件做了中转代理,性能有所下降;

3.  使用Spring基于应用层实现

3.1. 原理

怎么在java中利用spring实现读写分离

在进入Service之前,使用aop来做出判断,是使用写库还是读库,判断依据可以根据方法名判断,比如说以query、find、get等开头的就走读库,其他的走写库。

3.2. DynamicDataSource

import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;public class DynamicDataSource extends AbstractRoutingDataSource{ @Override protected Object determineCurrentLookupKey() {  // 使用DynamicDataSourceHolder保证线程安全,并且得到当前线程中的数据源key  return DynamicDataSourceHolder.getDataSourceKey(); }}

3.3. DynamicDataSourceHolder

public class DynamicDataSourceHolder {  //写库对应的数据源key private static final String MASTER = "master"; //读库对应的数据源key private static final String SLAVE = "slave";  //使用ThreadLocal记录当前线程的数据源key private static final ThreadLocal<String> holder = new ThreadLocal<String>();  public static void putDataSourceKey(String key) {  holder.set(key); }  public static String getDataSourceKey() {  return holder.get(); }   public static void markMaster(){  putDataSourceKey(MASTER); }   public static void markSlave(){  putDataSourceKey(SLAVE); }}

3.4. DataSourceAspect

import org.apache.commons.lang3.StringUtils;import org.aspectj.lang.JoinPoint;public class DataSourceAspect {  public void before(JoinPoint point) {  // 获取到当前执行的方法名  String methodName = point.getSignature().getName();  if (isSlave(methodName)) {   // 标记为读库   DynamicDataSourceHolder.markSlave();  } else {   // 标记为写库   DynamicDataSourceHolder.markMaster();  } }  private Boolean isSlave(String methodName) {  // 方法名以query、find、get开头的方法名走从库  return StringUtils.startsWithAny(methodName, "query", "find", "get"); }}

3.5. 配置2个数据源

1.  jdbc.properties

jdbc.master.driver=com.mysql.jdbc.Driverjdbc.master.url=jdbc:Mysql://127.0.0.1:3306/mybatis_1128?useUnicode=true&characterEncoding=utf8&autoReconnect=true&allowMultiQueries=truejdbc.master.username=rootjdbc.master.passWord=123456jdbc.slave01.driver=com.mysql.jdbc.Driverjdbc.slave01.url=jdbc:mysql://127.0.0.1:3307/mybatis_1128?useUnicode=true&characterEncoding=utf8&autoReconnect=true&allowMultiQueries=truejdbc.slave01.username=rootjdbc.slave01.password=123456

2.  定义连接池

<!-- 配置连接池 --> <bean id="masterDataSource" class="com.jolbox.bonecp.BoneCPDataSource"  destroy-method="close">  <!-- 数据库驱动 -->  <property name="driverClass" value="${jdbc.master.driver}" />  <!-- 相应驱动的jdbcUrl -->  <property name="jdbcUrl" value="${jdbc.master.url}" />  <!-- 数据库的用户名 -->  <property name="username" value="${jdbc.master.username}" />  <!-- 数据库的密码 -->  <property name="password" value="${jdbc.master.password}" />  <!-- 检查数据库连接池中空闲连接的间隔时间,单位是分,默认值:240,如果要取消则设置为0 -->  <property name="idleConnectionTestPeriod" value="60" />  <!-- 连接池中未使用的链接最大存活时间,单位是分,默认值:60,如果要永远存活设置为0 -->  <property name="idleMaxAge" value="30" />  <!-- 每个分区最大的连接数 -->  <property name="maxConnectionsPerPartition" value="150" />  <!-- 每个分区最小的连接数 -->  <property name="minConnectionsPerPartition" value="5" /> </bean>  <!-- 配置连接池 --> <bean id="slave01DataSource" class="com.jolbox.bonecp.BoneCPDataSource"  destroy-method="close">  <!-- 数据库驱动 -->  <property name="driverClass" value="${jdbc.slave01.driver}" />  <!-- 相应驱动的jdbcUrl -->  <property name="jdbcUrl" value="${jdbc.slave01.url}" />  <!-- 数据库的用户名 -->  <property name="username" value="${jdbc.slave01.username}" />  <!-- 数据库的密码 -->  <property name="password" value="${jdbc.slave01.password}" />  <!-- 检查数据库连接池中空闲连接的间隔时间,单位是分,默认值:240,如果要取消则设置为0 -->  <property name="idleConnectionTestPeriod" value="60" />  <!-- 连接池中未使用的链接最大存活时间,单位是分,默认值:60,如果要永远存活设置为0 -->  <property name="idleMaxAge" value="30" />  <!-- 每个分区最大的连接数 -->  <property name="maxConnectionsPerPartition" value="150" />  <!-- 每个分区最小的连接数 -->  <property name="minConnectionsPerPartition" value="5" /> </bean>

3.  定义DataSource

<!-- 定义数据源,使用自己实现的数据源 --> <bean id="dataSource" class="cn.itcast.usermanage.spring.DynamicDataSource">  <!-- 设置多个数据源 -->  <property name="targetDataSources">   <map key-type="java.lang.String">    <!-- 这个key需要和程序中的key一致 -->    <entry key="master" value-ref="masterDataSource"/>    <entry key="slave" value-ref="slave01DataSource"/>   </map>  </property>  <!-- 设置默认的数据源,这里默认走写库 -->  <property name="defaultTargetDataSource" ref="masterDataSource"/> </bean>

3.6. 配置事务管理以及动态切换数据源切面

1.  定义事务管理器

<!-- 定义事务管理器 --> <bean id="transactionManager"  class="org.springframework.jdbc.datasource.DataSourceTransactionManager">  <property name="dataSource" ref="dataSource" /> </bean>

2.  定义事务策略

<!-- 定义事务策略 --> <tx:advice id="txAdvice" transaction-manager="transactionManager">  <tx:attributes>   <!--定义查询方法都是只读的 -->   <tx:method name="query*" read-only="true" />   <tx:method name="find*" read-only="true" />   <tx:method name="get*" read-only="true" />   <!-- 主库执行操作,事务传播行为定义为默认行为 -->   <tx:method name="save*" propagation="REQUIRED" />   <tx:method name="update*" propagation="REQUIRED" />   <tx:method name="delete*" propagation="REQUIRED" />   <!--其他方法使用默认事务策略 -->   <tx:method name="*" />  </tx:attributes> </tx:advice>

3.  定义切面

<!-- 定义AOP切面处理器 --> <bean class="cn.itcast.usermanage.spring.DataSourceAspect" id="dataSourceAspect" /> <aop:config>  <!-- 定义切面,所有的service的所有方法 -->  <aop:pointcut id="txPointcut" expression="execution(* xx.xxx.xxxxxxx.service.*.*(..))" />  <!-- 应用事务策略到Service切面 -->  <aop:advisor advice-ref="txAdvice" pointcut-ref="txPointcut"/>    <!-- 将切面应用到自定义的切面处理器上,-9999保证该切面优先级最高执行 -->  <aop:aspect ref="dataSourceAspect" order="-9999">   <aop:before method="before" pointcut-ref="txPointcut" />  </aop:aspect> </aop:config>

4.  改进切面实现,使用事务策略规则匹配

之前的实现我们是将通过方法名匹配,而不是使用事务策略中的定义,我们使用事务管理策略中的规则匹配。

1. 改进后的配置

 <!-- 定义AOP切面处理器 --> <bean class="cn.itcast.usermanage.spring.DataSourceAspect" id="dataSourceAspect">  <!-- 指定事务策略 -->  <property name="txAdvice" ref="txAdvice"/>  <!-- 指定slave方法的前缀(非必须) -->  <property name="slaveMethodStart" value="query,find,get"/> </bean>

2. 改进后的实现

import java.lang.reflect.Field;import java.util.ArrayList;import java.util.List;import java.util.Map;import org.apache.commons.lang3.StringUtils;import org.aspectj.lang.JoinPoint;import org.springframework.transaction.interceptor.NameMatchTransactionAttributeSource;import org.springframework.transaction.interceptor.TransactionAttribute;import org.springframework.transaction.interceptor.TransactionAttributeSource;import org.springframework.transaction.interceptor.TransactionInterceptor;import org.springframework.util.PatternMatchUtils;import org.springframework.util.ReflectionUtils;public class DataSourceAspect { private List<String> slaveMethodPattern = new ArrayList<String>();  private static final String[] defaultSlaveMethodStart = new String[]{ "query", "find", "get" };  private String[] slaveMethodStart;  @SuppressWarnings("unchecked") public void setTxAdvice(TransactionInterceptor txAdvice) throws Exception {  if (txAdvice == null) {   // 没有配置事务管理策略   return;  }  //从txAdvice获取到策略配置信息  TransactionAttributeSource transactionAttributeSource = txAdvice.getTransactionAttributeSource();  if (!(transactionAttributeSource instanceof NameMatchTransactionAttributeSource)) {   return;  }  //使用反射技术获取到NameMatchTransactionAttributeSource对象中的nameMap属性值  NameMatchTransactionAttributeSource matchTransactionAttributeSource = (NameMatchTransactionAttributeSource) transactionAttributeSource;  Field nameMapField = ReflectionUtils.findField(NameMatchTransactionAttributeSource.class, "nameMap");  nameMapField.setAccessible(true); //设置该字段可访问  //获取nameMap的值  Map<String, TransactionAttribute> map = (Map<String, TransactionAttribute>) nameMapField.get(matchTransactionAttributeSource);  //遍历nameMap  for (Map.Entry<String, TransactionAttribute> entry : map.entrySet()) {   if (!entry.getValue().isReadOnly()) {//判断之后定义了ReadOnly的策略才加入到slaveMethodPattern    continue;   }   slaveMethodPattern.add(entry.geTKEy());  } }  public void before(JoinPoint point) {  // 获取到当前执行的方法名  String methodName = point.getSignature().getName();  boolean isSlave = false;  if (slaveMethodPattern.isEmpty()) {   // 当前Spring容器中没有配置事务策略,采用方法名匹配方式   isSlave = isSlave(methodName);  } else {   // 使用策略规则匹配   for (String mappedName : slaveMethodPattern) {    if (isMatch(methodName, mappedName)) {     isSlave = true;     break;    }   }  }  if (isSlave) {   // 标记为读库   DynamicDataSourceHolder.markSlave();  } else {   // 标记为写库   DynamicDataSourceHolder.markMaster();  } }  private Boolean isSlave(String methodName) {  // 方法名以query、find、get开头的方法名走从库  return StringUtils.startsWithAny(methodName, getSlaveMethodStart()); }  protected boolean isMatch(String methodName, String mappedName) {  return PatternMatchUtils.simpleMatch(mappedName, methodName); }  public void setSlaveMethodStart(String[] slaveMethodStart) {  this.slaveMethodStart = slaveMethodStart; } public String[] getSlaveMethodStart() {  if(this.slaveMethodStart == null){   // 没有指定,使用默认   return defaultSlaveMethodStart;  }  return slaveMethodStart; } }

5.  一主多从的实现

很多实际使用场景下都是采用“一主多从”的架构的,所以我们现在对这种架构做支持,目前只需要修改DynamicDataSource即可。

怎么在java中利用spring实现读写分离 

5.1. 实现

import java.lang.reflect.Field;import java.util.ArrayList;import java.util.List;import java.util.Map;import java.util.concurrent.atomic.AtomicInteger;import javax.sql.DataSource;import org.slf4j.Logger;import org.slf4j.LoggerFactory;import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;import org.springframework.util.ReflectionUtils;public class DynamicDataSource extends AbstractRoutingDataSource { private static final Logger LOGGER = LoggerFactory.getLogger(DynamicDataSource.class); private Integer slaveCount; // 轮询计数,初始为-1,AtomicInteger是线程安全的 private AtomicInteger counter = new AtomicInteger(-1); // 记录读库的key private List<Object> slaveDataSources = new ArrayList<Object>(0); @Override protected Object determineCurrentLookupKey() {  // 使用DynamicDataSourceHolder保证线程安全,并且得到当前线程中的数据源key  if (DynamicDataSourceHolder.isMaster()) {   Object key = DynamicDataSourceHolder.getDataSourceKey();    if (LOGGER.isDebugEnabled()) {    LOGGER.debug("当前DataSource的key为: " + key);   }   return key;  }  Object key = getSlaveKey();  if (LOGGER.isDebugEnabled()) {   LOGGER.debug("当前DataSource的key为: " + key);  }  return key; } @SuppressWarnings("unchecked") @Override public void afterPropertiesSet() {  super.afterPropertiesSet();  // 由于父类的resolvedDataSources属性是私有的子类获取不到,需要使用反射获取  Field field = ReflectionUtils.findField(AbstractRoutingDataSource.class, "resolvedDataSources");  field.setAccessible(true); // 设置可访问  try {   Map<Object, DataSource> resolvedDataSources = (Map<Object, DataSource>) field.get(this);   // 读库的数据量等于数据源总数减去写库的数量   this.slaveCount = resolvedDataSources.size() - 1;   for (Map.Entry<Object, DataSource> entry : resolvedDataSources.entrySet()) {    if (DynamicDataSourceHolder.MASTER.equals(entry.getKey())) {     continue;    }    slaveDataSources.add(entry.getKey());   }  } catch (Exception e) {   LOGGER.error("afterPropertiesSet error! ", e);  } }  public Object getSlaveKey() {  // 得到的下标为:0、1、2、3……  Integer index = counter.incrementAndGet() % slaveCount;  if (counter.get() > 9999) { // 以免超出Integer范围   counter.set(-1); // 还原  }  return slaveDataSources.get(index); }}

6.  MySQL主从复制

6.1. 原理

怎么在java中利用spring实现读写分离 

mysql主(称master)从(称slave)复制的原理:

master将数据改变记录到二进制日志(binarylog)中,也即是配置文件log-bin指定的文件(这些记录叫做二进制日志事件,binary log events)

slave将master的binary logevents拷贝到它的中继日志(relay log)

slave重做中继日志中的事件,将改变反映它自己的数据(数据重演)

6.2. 主从配置需要注意的地方

主DB server和从DB server数据库的版本一致

主DB server和从DB server数据库数据一致[ 这里就会可以把主的备份在从上还原,也可以直接将主的数据目录拷贝到从的相应数据目录]

主DB server开启二进制日志,主DB server和从DB server的server_id都必须唯一

6.3. 主库配置(windows,Linux下也类似)

可能有些朋友主从数据库的ip地址、用户名和账号配置不是很清楚,下面是我测试的主从配置,ip都是127.0.0.1,我在讲完自己的例子后,还会写

一个主从ip是不相同的配置的例子,大家可以通过这个例子去更加直观的了解配置方法。

在my.ini  [mysqld] 下面修改(从库也是如此):

#开启主从复制,主库的配置log-bin= mysql3306-bin#指定主库serveridserver-id=101#指定同步的数据库,如果不指定则同步全部数据库binlog-do-db=mybatis_1128

(my.ini中输入的这些命令一定要和下面有一行空格,不然MySQL不识别)

执行SQL语句查询状态:SHOW MASTER STATUS

怎么在java中利用spring实现读写分离 

需要记录下Position值,需要在从库中设置同步起始值。

另外我再说一点,如果您在mysql执行SHOW MASTER STATUS  发现配置在my.ini中的内容没有起到效果,可能原因是并没有选择对my.ini文件,也可能是您没有重启服务,很大概率是后者造成的原因,

要想使配置生效,必须关掉MySQL服务,再重新启动。

关闭服务的方法:

win键打开,输入services.msc调出服务:

怎么在java中利用spring实现读写分离

怎么在java中利用spring实现读写分离 

再启动SQLyog,发现配置已经生效了。

6.4. 在主库创建同步用户

#授权用户slave01使用123456密码登录mysqlgrant replication slave on *.* to 'slave01'@'127.0.0.1'identified by '123456';flush privileges;

6.5. 从库配置

在my.ini修改:

#指定serverid,只要不重复即可,从库也只有这一个配置,其他都在SQL语句中操作server-id=102

以下执行SQL(使用从机的root账户执行):

CHANGEMATERTOmater_hot='127.0.0.1',//主机的ip地址mater_uer='lave01',//主机的用户(就是刚刚在主机通过ql创建出来的账户)mater_paword='123456',mater_port=3306,mater_log_file='myql3306-bin.000006',//Filemater_log_po=1120;//Poition
#启动slave同步START SLAVE;#查看同步状态SHOW SLAVE STATUS;

怎么在java中利用spring实现读写分离 

下面是ip不同的两台电脑的主从配置方法:

主数据库所在的操作系统:win7

主数据库的版本:5.0

主数据库的ip地址:192.168.1.111

从数据库所在的操作系统:linux

从数据的版本:5.0

从数据库的ip地址:192.168.1.112

介绍完了环境,就聊聊配置步骤:

1、确保主数据库与从数据库一模一样。

例如:主数据库里的a的数据库里有b,c,d表,那从数据库里的就应该有一个模子刻出来的a的数据库和b,c,d表

2、在主数据库上创建同步账号。

复制代码 代码如下:


GRANT REPLICATION SLAVE,FILE ON *.* TO 'mstest'@'192.168.1.112' IDENTIFIED BY '123456';

192.168.1.112:是运行使用该用户的ip地址

mstest:是新创建的用户名

123456:是新创建的用户名的密码

以上命令的详细解释,最好百度一下,写太多反到更加更不清思路。

配置主数据库的my.ini(因为是在window下,所以是my.ini不是my.cnf)。

[mysqld]server-id=1log-bin=logbinlog-do-db=mstest  //要同步的mstest数据库,要同步多个数据库,就多加几个binlog-do-db=数据库名binlog-ignore-db=mysql //要忽略的数据库

配置从数据库的my.cnf。

[mysqld]server-id=2master-host=192.168.1.111master-user=mstest    //第一步创建账号的用户名master-password=123456 //第一步创建账号的密码master-port=3306master-connect-retry=60replicate-do-db=mstest  //要同步的mstest数据库,要同步多个数据库,就多加几个replicate-do-db=数据库名replicate-ignore-db=mysql  //要忽略的数据库 

怎么在java中利用spring实现读写分离 

5、验证是否成功

进入mysql,后输入命令:show slave status\G。将显示下图。如果slave_io_running和slave_sql_running都为yes,那么表明可以成功同步了

看完上述内容,你们掌握怎么在java中利用spring实现读写分离的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注编程网精选频道,感谢各位的阅读!

--结束END--

本文标题: 怎么在java中利用spring实现读写分离

本文链接: https://www.lsjlt.com/news/220574.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • c++中if elseif使用规则
    c++ 中 if-else if 语句的使用规则为:语法:if (条件1) { // 执行代码块 1} else if (条件 2) { // 执行代码块 2}// ...else ...
    99+
    2024-05-14
    c++
  • c++中的继承怎么写
    继承是一种允许类从现有类派生并访问其成员的强大机制。在 c++ 中,继承类型包括:单继承:一个子类从一个基类继承。多继承:一个子类从多个基类继承。层次继承:多个子类从同一个基类继承。多层...
    99+
    2024-05-14
    c++
  • c++中如何使用类和对象掌握目标
    在 c++ 中创建类和对象:使用 class 关键字定义类,包含数据成员和方法。使用对象名称和类名称创建对象。访问权限包括:公有、受保护和私有。数据成员是类的变量,每个对象拥有自己的副本...
    99+
    2024-05-14
    c++
  • c++中优先级是什么意思
    c++ 中的优先级规则:优先级高的操作符先执行,相同优先级的从左到右执行,括号可改变执行顺序。操作符优先级表包含从最高到最低的优先级列表,其中赋值运算符具有最低优先级。通过了解优先级,可...
    99+
    2024-05-14
    c++
  • c++中a+是什么意思
    c++ 中的 a+ 运算符表示自增运算符,用于将变量递增 1 并将结果存储在同一变量中。语法为 a++,用法包括循环和计数器。它可与后置递增运算符 ++a 交换使用,后者在表达式求值后递...
    99+
    2024-05-14
    c++
  • c++中a.b什么意思
    c++kquote>“a.b”表示对象“a”的成员“b”,用于访问对象成员,可用“对象名.成员名”的语法。它还可以用于访问嵌套成员,如“对象名.嵌套成员名.成员名”的语法。 c++...
    99+
    2024-05-14
    c++
  • C++ 并发编程库的优缺点
    c++++ 提供了多种并发编程库,满足不同场景下的需求。线程库 (std::thread) 易于使用但开销大;异步库 (std::async) 可异步执行任务,但 api 复杂;协程库 ...
    99+
    2024-05-14
    c++ 并发编程
  • 如何在 Golang 中备份数据库?
    在 golang 中备份数据库对于保护数据至关重要。可以使用标准库中的 database/sql 包,或第三方包如 github.com/go-sql-driver/mysql。具体步骤...
    99+
    2024-05-14
    golang 数据库备份 mysql git 标准库
  • 如何在 Golang 中优雅地处理错误?
    在 go 中,优雅处理错误包括:使用 error 类型;使用 errors 包函数和类型;自定义错误类型;遵循错误处理模式,包括关闭资源、检查错误、打印错误信息和处理或返回错误。 在 ...
    99+
    2024-05-14
    golang 错误处理
  • 如何构建 Golang RESTful API,并使用中间件进行身份验证?
    本文介绍了如何构建 golang restful api。首先,通过导入必要的库、定义数据模型和创建路由来构建 restful api。其次,使用 go-chi/chigot 和 go-...
    99+
    2024-05-14
    golang git
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作