广告
返回顶部
首页 > 资讯 > 前端开发 > VUE >什么是布隆过滤器
  • 782
分享到

什么是布隆过滤器

2024-04-02 19:04:59 782人浏览 泡泡鱼
摘要

本篇内容介绍了“什么是布隆过滤器”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!在正式讲解布隆过滤器之前,先

本篇内容介绍了“什么是布隆过滤器”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

在正式讲解布隆过滤器之前,先让我们看看这个业务场景:

Redis 是软件架构中常用的组件,最常见的用法是将热点数据缓存到 Redis 中,以减少数据库的压力;查询过程中最常见的用法是:查询  Redis,如果能查询到则直接返回,如果 Redis 中不存在则继续查询数据库

这种方式可以减少数据库的访问次数,但是“当缓存中没有,就查询数据库”,在高并发的环境中依然会有风险,比如 90%  的请求数据都不在缓存中,那么这些请求就都会落到数据库上,这就是缓存穿透。

那么有没有什么办法解决这个问题呢?这就可以使用【布隆过滤器】了,它可以确定“某项数据肯定不存在”。

01.布隆过滤器的概念

布隆过滤器是一个叫“布隆”的人提出的,它本身是一个很长的二进制向量(想象成数组)和一系列随机映射函数(想象成多个 Hash  函数),二进制向量中存放的不是0,就是1(在学习布隆过滤器之前,可以先了解 BitMap 算法,便于理解)。

比如要根据客户手机号做为条件查询客户信息,通常会把手机号码设置成缓存中的 Key,让我们设置一个长度为 16 的布隆过滤器。

布隆过滤器初始化都是 0;

对 13800000000 分别进行 hash2()、hash3()、hash4() 运算,得到三个结果 5、9、12,把对应位置设置成 1;

什么是布隆过滤器

对 18900000000 分别进行 hash2()、hash3()、hash4() 运算,得到三个结果 2、8、12,把对应位置设置成 1,现在  2、5、8、9、12 都是 1,其余元素都是 0;

什么是布隆过滤器

如果我们想要验证某个电话号码是否存在,需要怎么做呢?

对 13700000000 分别进行 hash2()、hash3()、hash4() 运算,得到三个结果 1、9、13,然后去判断第 1、9、13  位上的值是 0 还是 1,如果不全是 1 的话,就说明 13700000000 不在这个布隆过滤器上;这就确定了“某项数据肯定不存在”。

什么是布隆过滤器

当然我们也可以看出来布隆过滤器有个问题,那就是不能保证数据肯定存在,比如对 18000000000 分别进行  hash2()、hash3()、hash4() 运算,得到的结果是 5、8、9,恰好这三位都是  1,但实际上这条数据并不存在,所以布隆过滤器有一定的误判率;

而且因为多个数据经过运算后可能会映射到同一个位置(138 和 189 的运算结果都有  12),所以布隆过滤器很难做到删除,除非要为每一位增加一个计数器,删除的时候需要给计数器减 1,直到计数器为 0 时,才将布隆过滤器对应位置修改成 0。

02.特点总结

可以确定一个元素肯定不存在,但是不能确定一个元素肯定存在;

二进制向量越长,映射函数越多,误判率越低;如果提前可以确定误判率,也可以反推出来布隆过滤器的长度;

可以添加元素,但是不能删除元素(除非增加计数器);

在存储空间和插入查询的时间复杂度都有巨大优势。

回到本文开头的那个业务场景,为了防止缓存穿透,可以使用布隆过滤器过滤掉肯定不存在的数据,误判的请求虽然还是会放到到数据库,但已经极大地减少了穿透的数量。

03.手写一个布隆过滤器

Code 不是目的,coding 的过程是为了加深理解。

首先我们需要定义一个 bitmap,在 jdk 中,已经有对应实现的数据结构类 java.util.BitSet:

//设置一个布隆过滤器 private int DEFAULT_SIZE = 1 << 30;  private BitSet bitset ;

我们还需要一组映射函数,这里可以使用加法 hash 函数,设置 6 个质数,对应 6 个不同的 hash 函数:

//定义一个质数数组,长度为6,可以生成6个hash函数,用于随机映射 private int[] seeds = {3, 7, 13, 31, 37, 61};  private HashFunction[] functions = new HashFunction[seeds.length];

在构造函数中进行初始化,设置 BitSet 的长度,生成映射函数:

 public BloomFilter() {   bitset = new BitSet(DEFAULT_SIZE);    for (int i = 0; i < seeds.length; i++) {       functions[i] = new HashFunction(DEFAULT_SIZE, seeds[i]);   } }

增加元素的时候,对入参进行 6 次 hash 运算,并将结果对应的位置修改成 1(BitSet 对应的位置修改成 true):

 public void add(String value) {   if (value != null) {       for (HashFunction f : functions) {     bitset.set(f.hash(value), true);       }   } }

判断元素是否在布隆管理器中,需要对入参进行 6 次 hash 运算,再查看结果对应的位置上是 0 还是 1(true or false),如果其中一位是  0,表示数据肯定不存在,如果都是 1,表示数据(大概率)可能存在。

 public boolean contains(String value) {   if (value == null) {       return false;   }    for (HashFunction f : functions) {     if(!bitset.get(f.hash(value))){       //一个位置上不为1(true),就证明不存在,直接返回false       return false;     }   }    return true; }

04.Guava 中的 BloomFilter

已经有很多开源框架帮我们实现了布隆管理器,比如 Google 出品的 Guava 工具库,其中就有开箱即用的布隆过滤器;

public class BloomFilterTest {   public static void main(String[] args){     int size = 1000000;     //布隆过滤器     BloomFilter<Integer> bloomFilter = BloomFilter.create(Funnels.integerFunnel(), size, 0.001);          for (int i = 0; i < size; i++) {             bloomFilter.put(i);         }          List<Integer> list = new ArrayList<Integer>(1000);         for (int i = size + 1; i < size + 10000; i++) {             if (bloomFilter.mightContain(i)) {                 list.add(i);             }         }         System.out.println("误判数量:" + list.size());   } }

“什么是布隆过滤器”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注编程网网站,小编将为大家输出更多高质量的实用文章!

--结束END--

本文标题: 什么是布隆过滤器

本文链接: https://www.lsjlt.com/news/84703.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 什么是布隆过滤器
    本篇内容介绍了“什么是布隆过滤器”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!在正式讲解布隆过滤器之前,先...
    99+
    2022-10-19
  • Python实现布隆过滤器
    转载自:http://blog.csdn.net/demon24/article/details/8537665 http://blog.csdn.net/u013402746/article/details/28414901      ...
    99+
    2023-01-31
    过滤器 Python
  • Redis怎么安装布隆过滤器
    Redis安装布隆过滤器的方法:打开终端命令行,依次输入以下命令进行安装。wget https://github.com/RedisLabsModules/rebloom/archive/v1.1.1.tar.gz #下载安装包tar zx...
    99+
    2022-10-05
  • Java怎么实现布隆过滤器
    这篇“Java怎么实现布隆过滤器”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Java怎么实现布隆过滤器”文章吧。什么是布隆...
    99+
    2023-07-05
  • Java布隆过滤器怎么使用
    本文小编为大家详细介绍“Java布隆过滤器怎么使用”,内容详细,步骤清晰,细节处理妥当,希望这篇“Java布隆过滤器怎么使用”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。通常你判断某个元素是否存在用的是什么?很多...
    99+
    2023-06-29
  • redis的set get[布隆过滤器]
    ...
    99+
    2018-08-21
    redis的set get[布隆过滤器]
  • 什么是布隆过滤器,它在Redis中如何使用
    本篇内容介绍了“什么是布隆过滤器,它在Redis中如何使用”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成! ...
    99+
    2022-10-18
  • Redis布隆过滤器大小的算法公式是什么
    今天小编给大家分享一下Redis布隆过滤器大小的算法公式是什么的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。1. 简介客户端...
    99+
    2023-06-29
  • Redis如何实现布隆过滤器
    小编给大家分享一下Redis如何实现布隆过滤器,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!布隆过滤器(Bloom Filter...
    99+
    2022-10-18
  • Redis 中布隆过滤器的实现
    Redis 中布隆过滤器的实现?相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。什么是『布隆过滤器』布隆过滤器是一个神奇的数据结构,可以用来判断一...
    99+
    2022-10-18
  • redis如何使用布隆过滤器
    布隆过滤器2个基本指令是bf.add和bf.exists,如果想要一次添加多个,就需要用到bf.madd 指令,同样如果需要一次查询多个元素是否存在,就需要用到bf.mexists 指令,基本使用如下:127.0.0.1:6379>&...
    99+
    2022-10-21
  • 什么是Java布隆过滤器?如何使用你知道吗
    目录一、布隆过滤器简介二、布隆过滤器的结构三、布隆过滤器应用四、布隆过滤器的优缺点五、布隆过滤器实战六、总结Redis缓存穿透可以通过布隆过滤器进行解决,那么什么是布隆过滤器呢?请往...
    99+
    2022-11-13
  • Redis中的布隆过滤器怎么实现
    这篇文章主要介绍“Redis中的布隆过滤器怎么实现”,在日常操作中,相信很多人在Redis中的布隆过滤器怎么实现问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Redis中的布...
    99+
    2022-10-19
  • Redis中Redisson布隆过滤器的学习
    目录简介使用Demo依赖测试代码简析初始化添加元素检索元素简介 本文基于Spring Boot 2.6.6、redisson 3.16.0简单分析Redisson布隆过滤器的使用。 ...
    99+
    2022-11-13
  • Redis中Bloomfilter布隆过滤器的学习
    目录1.概念2.guava实现2.1.依赖2.2.初始化布隆过滤器2.3.布隆过滤器2.4.添加元素或者判断是否存在3.Redisson实现3.1.依赖3.2.注入或测试1.概念 ​...
    99+
    2022-12-14
    Redis Bloom filter Redis布隆过滤器
  • Java的布隆过滤器如何实现
    今天小编给大家分享一下Java的布隆过滤器如何实现的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。BitMap现代计算机用二进...
    99+
    2023-06-29
  • Java的布隆过滤器你了解吗
    目录BitMap布隆过滤器运用场景传统数据结构的不足实现原理误判现象实现Redis 的 bitmapRedisBloomGuava 的 BloomFilterRedisson解决缓存...
    99+
    2022-11-13
  • SpringBoot+Redis如何实现布隆过滤器
    小编给大家分享一下SpringBoot+Redis如何实现布隆过滤器,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!简述关于布隆过滤器的详细介绍,我在这里就不再赘述一遍了我们首先知道:BloomFilter使用长度为m bi...
    99+
    2023-06-29
  • C++ BloomFilter布隆过滤器如何应用
    这篇“C++ BloomFilter布隆过滤器如何应用”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“C++&nbs...
    99+
    2023-07-05
  • Redis中Bloom filter布隆过滤器的学习
    目录1.概念2.guava实现2.1.依赖2.2.初始化布隆过滤器2.3.布隆过滤器2.4.添加元素或者判断是否存在3.Redisson实现3.1.依赖3.2.注入或测试1.概念 ​ 布隆过滤器是一个高空间利用率的概率性...
    99+
    2022-12-14
    RedisBloomfilter Redis布隆过滤器
软考高级职称资格查询
推荐阅读
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作