返回顶部
首页 > 资讯 > 后端开发 > Python >JVM进程缓存Caffeine的使用
  • 806
分享到

JVM进程缓存Caffeine的使用

JVM进程缓存CaffeineJVM Caffeine 2023-01-28 06:01:08 806人浏览 安东尼

Python 官方文档:入门教程 => 点击学习

摘要

目录一、前言二、基本使用2.1 手动创建缓存2.2 异步获取缓存2.3 记录命中数据三、淘汰策略3.2 最佳实践四、配合Redis做二级缓存一、前言 Caffeine是当前最优秀的内

一、前言

Caffeine是当前最优秀的内存缓存框架,不论读还是写的效率都远高于其他缓存,而且在spring5开始的默认缓存实现就将Caffeine代替原来的Google Guava

二、基本使用

<dependency>
    <groupId>com.GitHub.ben-manes.caffeine</groupId>
    <artifactId>caffeine</artifactId>
</dependency>

2.1 手动创建缓存

void test1() {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            // 初始数量
            .initialCapacity(10)
            // 最大条数
            .maximumSize(10)
            // expireAfterWrite和expireAfterAccess同时存在时,以expireAfterWrite为准
            // 最后一次写操作后经过指定时间过期
            .expireAfterWrite(1, TimeUnit.SECONDS)
            // 最后一次读或写操作后经过指定时间过期
            .expireAfterAccess(1, TimeUnit.SECONDS)
            // 监听缓存被移除
            .removalListener((key, value, cause) -> {})
            // 记录命中
            .recordStats()
            .build();
    cache.put("1", "张三");
    System.out.println(cache.asMap());
    System.out.println(cache.getIfPresent("1"));
    System.out.println(cache.get("2", o -> "默认值"));
}

运行结果

{1=张三}
张三
默认值

2.2 异步获取缓存

@Test
void test2() {
    AsyncLoadinGCache<String, String> asyncLoadingCache = Caffeine.newBuilder()
            // 创建缓存或者最近一次更新缓存后经过指定时间间隔刷新缓存:仅支持LoadingCache
            .refreshAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterAccess(1, TimeUnit.SECONDS)
            .maximumSize(10)
            // 根据key查询数据库里面的值
            .buildAsync(key -> {
                Thread.sleep(1000);
                return new Date().toString();
            });
    // 异步缓存返回的是CompletableFuture
    CompletableFuture<String> future = asyncLoadingCache.get("1");
    future.thenAccept(System.out::println);
}

2.3 记录命中数据

@Test
void test3() {
    LoadingCache<String, String> cache = Caffeine.newBuilder()
            // 创建缓存或者最近一次更新缓存后经过指定时间间隔,刷新缓存:refreshAfterWrite仅支持LoadingCache
            .refreshAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterAccess(1, TimeUnit.SECONDS)
            .maximumSize(10)
            // 开启记录缓存命中率等信息
            .recordStats()
            // 根据key查询数据库里面的值
            .build(key -> {
                TimeUnit.MILLISECONDS.sleep(1000);
                return new Date().toString();
            });

    cache.put("1", "小明");
    cache.get("1");

    
    System.out.println(cache.stats());
}

会影响性能,生产环境下建议不开启

三、淘汰策略

  • LRU: 最近最少使用,淘汰最长时间没有被使用的页面;
  • LFU:最不经常使用,淘汰一段时间内,使用次数最少的页面;
  • FIFO:先进先出

LRU的优点:LRU相比于LFU而言性能更好一些,因为它算法相对比较简单,不需要记录访问频次,可以更好地应对突发流量;
LRU的缺点:虽然性能好一些,但是它通过历史数据来预测未来是局限的,它会认为最后到来的数据是最可能被再次访问的,从而给与它最高的优先级。有些非热点数据被访问过后,占据了高优先级,它会在缓存中占据相当长的时间,从而造成空间浪费;
LFU的优点:LRU根据访问频次访问,在大部分情况下,热点数据的频次肯定高于非热点数据,所以它的命中率非常高;
LFU的缺点:LFU算法相对比较复杂,性能比LRU差。有问题的是下面这种情况,比如前一段时间微博有个热点话题热度非常高,就比如那种可以让微博短时间停止服务的,于是赶紧缓存起来,LFU算法记录了其中热点词的访问频率,可能高达十几亿,而过后很长一段时间,这个话题已经不是热点了,新的热点也来了,但是,新热点话题的热度没办法到达十几亿,也就是说访问频次没有之前的话提高,那之前的热点就会一直占据着缓存空间,长时间无法被剔除。

3.1 4种淘汰方式与例子

Caffeine有4种缓存淘汰设置

  • 大小(会使用W-TinyLFU算法进行淘汰)
  • 权重(大小与权重,只能二选一)
  • 时间
  • 引用(不常用)
// 缓存大小淘汰
@Test
public void maximumSizeTest() throws InterruptedException {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            // 超过10个后会使用W-TinyLFU算法进行淘汰
            .maximumSize(10)
            .build();
    for (int i = 1; i <= 10; i++) {
        cache.put(i, i);
    }
    // 缓存淘汰是异步的
    TimeUnit.MILLISECONDS.sleep(500);
    // 打印还没有被淘汰的缓存
    System.out.println(cache.asMap());
}

// 权重淘汰
@Test
public void maximumWeightTest() throws InterruptedException {
    Cache<Integer, Integer> cache = Caffeine.newBuilder()
            // 限制总权值,若所有缓存的权重加起来>总权重就会淘汰权重小的缓存
            .maximumWeight(100)
            .weigher((Weigher<Integer, Integer>) (key, value) -> key)
            .build();
    // 总权重其实是=所有缓存的权重加起来
    int maximumWeight = 0;
    for (int i = 1; i < 20; i++) {
        cache.put(i, i);
        maximumWeight += i;
        System.out.println("i = " + i + ", maximumWeight = " + maximumWeight);
    }
    System.out.println("总权重 = " + maximumWeight);
    // 缓存淘汰是异步的
    TimeUnit.MILLISECONDS.sleep(500);
    // 打印还没有被淘汰的缓存
    System.out.println(cache.asMap());
}

// 访问后到期(每次访问都会重置时间,也就是说如果一直被访问就不会被淘汰)
@Test
void expireAfterAccessTest() throws InterruptedException {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            .expireAfterAccess(1, TimeUnit.SECONDS)
            // 可以指定调度程序来及时删除过期缓存项,而不是等待Caffeine触发定期维护
            // 若不设置scheduler,则缓存会在下一次调用get的时候才会被动删除
            .scheduler(Scheduler.systemScheduler())
            .build();
    cache.put(1, 2);
    System.out.println(cache.getIfPresent(1));
    Thread.sleep(3000);
    System.out.println(cache.getIfPresent(1));
}

// 写入后到期
@Test
void expireAfterWriteTest() throws InterruptedException {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            .expireAfterWrite(1, TimeUnit.SECONDS)
            // 可以指定调度程序来及时删除过期缓存项,而不是等待Caffeine触发定期维护
            // 若不设置scheduler,则缓存会在下一次调用get的时候才会被动删除
            .scheduler(Scheduler.systemScheduler())
            .build();
    cache.put(1, 2);
    TimeUnit.MILLISECONDS.sleep(3000);
    System.out.println(cache.getIfPresent(1));
}

另外还有一个refreshAfterWrite()表示x秒后自动刷新缓存可以配合以上的策略使用

// 另外还有一个refreshAfterWrite()表示x秒后自动刷新缓存可以配合以上的策略使用
    private static int num = 0;
@Test
void refreshAfterWriteTest() throws InterruptedException {
    LoadingCache<Object, Integer> cache = Caffeine.newBuilder()
            .refreshAfterWrite(1, TimeUnit.SECONDS)
            .build(integer -> ++num);

    // 获取ID=1的值,由于缓存里还没有,所以会自动放入缓存
    System.out.println(cache.get(1));

    // 延迟2秒后,理论上自动刷新缓存后取到的值是2
    // 但其实不是,值还是1,因为refreshAfterWrite并不是设置了n秒后重新获取就会自动刷新
    // 而是x秒后&&第二次调用getIfPresent的时候才会被动刷新
    Thread.sleep(2000);
    System.out.println(cache.getIfPresent(1));// 1

    //此时才会刷新缓存,而第一次拿到的还是旧值
    System.out.println(cache.getIfPresent(1));// 2
}

3.2 最佳实践

实践1

  • 配置:设置maxSize、refreshAfterWrite,不设置expireAfterWrite/expireAfterAccess
  • 优缺点:因为设置expireAfterWrite当缓存过期会同步加获取缓存,所以设置expireAfterWrite时性能较好,但是某些时候会取旧数据,适合允许取到旧数据的场景

实践2

  • 配置:设置maxSize、expireAfterWrite/expireAfterAccess,不设置refreshAfterWrite
  • 优缺点:与上面相反,数据一致性好,不会获取到旧数据,但是性能没那么好,适合获取数据时不耗时的场景

四、配合Redis做二级缓存

缓存的解决方案一般有三种:

  • 本地内存缓存,如Caffeine、Ehcache;适合单机系统,速度最快,但是容量有限,而且重启系统后缓存丢失;
  • 集中式缓存,如Redis、Memcached;适合分布式系统,解决了容量、重启丢失缓存等问题,但是当访问量极大时,往往性能不是首要考虑的问题,而是带宽。现象就是Redis服务负载不高,但是由于机器网卡带宽跑满,导致数据读取非常慢;
  • 第三种方案就是结合以上2种方案的二级缓存应运而生,以内存缓存作为一级缓存、集中式缓存作为二级缓存

到此这篇关于JVM进程缓存Caffeine的使用的文章就介绍到这了,更多相关JVM进程缓存Caffeine内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: JVM进程缓存Caffeine的使用

本文链接: https://lsjlt.com/news/178362.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • JVM进程缓存Caffeine的使用
    目录一、前言二、基本使用2.1 手动创建缓存2.2 异步获取缓存2.3 记录命中数据三、淘汰策略3.2 最佳实践四、配合Redis做二级缓存一、前言 Caffeine是当前最优秀的内...
    99+
    2023-01-28
    JVM进程缓存Caffeine JVM Caffeine
  • SpringBoot 缓存 Caffeine使用解析
    目录Redis和Caffeine的区别相同点不同点联系Spring Boot 缓存 Caffeine使用1.需要添加的依赖2.配置3.使用Caffeine缓存Caffeine其他常用...
    99+
    2024-04-02
  • Spring内存缓存Caffeine如何使用
    这篇文章主要讲解了“Spring内存缓存Caffeine如何使用”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Spring内存缓存Caffeine如何使用”吧!项目配置依赖首先搭建一个标准的...
    99+
    2023-07-05
  • Spring内存缓存Caffeine的基本使用教程分享
    目录项目配置使用实例1.手动加载2.自动加载3.异步手动加载4.异步自动加载项目配置 依赖 首先搭建一个标准的SpringBoot项目工程,相关版本以及依赖如下 本项目借助Sprin...
    99+
    2023-03-24
    Spring内存缓存Caffeine使用 Spring内存缓存Caffeine Spring Caffeine
  • SpringBoot怎么使用Caffeine实现缓存
    这篇文章主要介绍“SpringBoot怎么使用Caffeine实现缓存”,在日常操作中,相信很多人在SpringBoot怎么使用Caffeine实现缓存问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Sprin...
    99+
    2023-07-02
  • SpringBoot使用Caffeine实现缓存的示例代码
    目录为什么要在应用程序中添加缓存在Spring Boot应用程序中实现缓存SpringBoot提供了什么缓存支持?添加生成依赖项缓存配置缓存方法结果测试缓存是否正常工作为什么缓存有时...
    99+
    2024-04-02
  • Redis+Caffeine两级缓存的实现
    目录优点与问题准备工作V1.0版本V2.0版本V3.0版本在高性能的服务架构设计中,缓存是一个不可或缺的环节。在实际的项目中,我们通常会将一些热点数据存储到Redis或MemCache这类缓存中间件中,只有当缓存的访问没...
    99+
    2022-06-22
    RedisCaffeine两级缓存 RedisCaffeine缓存
  • SpringBoot集成Caffeine缓存的实现步骤
    目录Maven依赖 配置 示例 Maven依赖 要开始使用咖啡因Caffeine和Spring Boot,我们首先添加spring-boot-starter-cache和咖啡因Ca...
    99+
    2024-04-02
  • springboot集成本地缓存Caffeine的三种使用方式(小结)
    目录第一种方式(只使用Caffeine)第二种方式(使用Caffeine和spring cache)第三种方式(使用Caffeine和spring cache)第一种方式(只使用Ca...
    99+
    2024-04-02
  • 利用Springboot+Caffeine实现本地缓存实例代码
    目录简介Caffeine 介绍思路本文使用开发环境总结简介 之前在项目中遇到了一个新需求,领导让我使用本地缓存,来缓存数据库查出的用户信息,经过一番资料查阅和实验,最终确定了使用Ca...
    99+
    2023-01-07
    spring boot 本地缓存 springboot缓存框架 springboot caffeine
  • Java高性能本地缓存框架Caffeine的实现
    目录一、序言二、缓存简介(一)缓存对比(二)本地缓存三、SpringCache(一)需求分析(二)序列化(三)集成四、小结一、序言 Caffeine是一个进程内部缓存框架,使用了Ja...
    99+
    2024-04-02
  • Spring Cache 集成 Caffeine实现项目缓存的示例
    目录一、前言二、缓存注解三、实战操作1、依赖引入2、yaml配置3、开启缓存4、模拟方法5、测试6、改造一、前言 Spring Cache本身是Spring框架中一个缓存体系的抽象实...
    99+
    2024-04-02
  • 如何进行JVM内存模型使用
    这篇文章给大家介绍如何进行JVM内存模型使用,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。你对JVM内存模型是否熟悉,这里和大家分享一下,主要包括栈和堆两部分内容,Java栈是与每一个线程关联的,JVM在创建每一个线程...
    99+
    2023-06-17
  • Python如何使用LRU缓存策略进行缓存
    本文小编为大家详细介绍“Python如何使用LRU缓存策略进行缓存”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python如何使用LRU缓存策略进行缓存”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。一、Pyt...
    99+
    2023-06-30
  • Python怎么使用LRU缓存策略进行缓存
    本文小编为大家详细介绍“Python怎么使用LRU缓存策略进行缓存”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python怎么使用LRU缓存策略进行缓存”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。一、Pyt...
    99+
    2023-07-06
  • Redis+Caffeine实现分布式二级缓存组件实战教程
    目录前言所谓二级缓存分布式二级缓存的优势如何使用组件?核心实现方法关于分布式本地缓存失效前言 在生产中已有实践,本组件仅做个人学习交流分享使用。github:https://github.com/axinSoochow/...
    99+
    2022-08-08
    Redis Caffeine分布式二级缓存 Redis Caffeine二级缓存
  • Python使用LRU缓存策略进行缓存的方法步骤
    目录一、Python 缓存① 缓存作用② 使用 Python 字典实现缓存二、深入理解 LRU 算法① 查看 LRU 缓存的特点② 查看 LRU 缓存的结构三、使用 lru_cach...
    99+
    2024-04-02
  • 使用MAT进行JVM内存分析实例
    目录背景描述基础知识MAT简介Heap Dump获取Dump分析实战总结背景描述 公司小程序商城项目,服务器为阿里云。 前段时间总是出现服务器CPU报警现象(设置的阈值为95%,CP...
    99+
    2023-05-18
    MAT进行JVM内存分析 MAT JVM内存 JVM内存分析
  • 使用PHP和Memcached进行缓存管理
    随着网络应用的不断增加和数据量的不断膨胀,数据的读写效率成为影响应用性能的重要因素之一。而缓存技术的应用则可以很好地解决这个问题。在PHP应用中,Memcached是最常用的缓存服务器。Memcached是一个高性能的分布式内存对象缓存系统...
    99+
    2023-05-23
    PHP memcached 缓存管理
  • nginx缓存以及清除缓存的使用
    目录缓存清除缓存控制nginx缓存缓存 缓存的基本思想是利用客户端访问的时间局限性,将客户端访问过的内容做一个副本,在一定时间内存放到本地,当改数据下次被访问时,不必连接到后端服务器...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作