当前位置: 首页 > news >正文

读懂HikariCP一百行代码,多线程就是个孙子

总结:Java届很难得有读百十行代码就能增加修炼的机会,这里有一个。

通常,我在看书的时候一般不写代码,因为我的脑袋被设定成单线程的,一旦同时喂给它不同的信息,它就无法处理。

但多线程对电脑来说就是小菜一碟,它可以同时做很多事,看起来匪夷所思。好希望把自己的大脑皮层移植到这些牛x的设备上。

用人脑思考电脑正在思考的问题,这本身就是一种折磨。但平常的工作和面试中,又不得不面对这样的场景,所以多线程就成了编程路上一块难啃的骨头。

HikariCP是SpringBoot默认的数据库连接池,它毫不谦虚的的起了一个叫做的名字,这让国产Druid很没面子。

还是言归正传,看一下Hikari中的ConcurrentBag吧。

核心数据结构

多线程代码一个让人比较头疼的问题,就是每个API我都懂,但就是不会用。很多对concurrent包倒背如流的同学,在面对现实的问题时,到最后依然不得不被迫加上Lock或者synchronized。

ConcurrentBag是一个Lock free的数据结构,主要用作数据库连接的存储,可以说整个HikariCP的核心就是它。删掉乱七八糟的注释和异常处理,可以说关键的代码也就百十来行,但里面的道道却非常的多。

ConcurrentBag速度很快,要达到这个目标,就需要一定的核心数据结构支持。

private final CopyOnWriteArrayList<T> sharedList; private final ThreadLocal<List<Object>> threadList; private final AtomicInteger waiters; private final SynchronousQueue<T> handoffQueue;
  • sharedList用来缓存所有的连接,是一个CopyOnWriteArrayList结构。

  • threadList用来缓存某个线程所使用的所有连接,相当于快速引用,是一个ThreadLocal类型的ArrayList。

  • waiters当前正在获取连接的等待者数量。AtomicInteger,就是一个自增对象。当waiters的数量大于0时候,意味着有线程正在获取资源。

  • handoffQueue0容量的快速传递队列,SynchronousQueue类型的队列,非常有用。

ConcurrentBag里面的元素,为了能够无锁化操作,需要使用一些变量来标识现在处于的状态。抽象的接口如下:

public interface IConcurrentBagEntry{ int STATE_NOT_IN_USE = 0; int STATE_IN_USE = 1; int STATE_REMOVED = -1; int STATE_RESERVED = -2; boolean compareAndSet(int expectState, int newState); void setState(int newState); int getState(); }

有了这些数据结构的支持,我们的ConcurrentBag就可以实现它光的宣称了。

获取连接

连接的获取是borrow方法,还可以传入一个timeout作为超时控制。

public T borrow(long timeout, final TimeUnit timeUnit) throws InterruptedException

首先,如果某个线程执行非常快,使用了比较多的连接,就可以使用ThreadLocal的方式快速获取连接对象,而不用跑到大池子里面去获取。代码如下。

// Try the thread-local list first final var list = threadList.get(); for (int i = list.size() - 1; i >= 0; i--) { final var entry = list.remove(i); final T bagEntry = weakThreadLocals ? ((WeakReference<T>) entry).get() : (T) entry; if (bagEntry != null && bagEntry.compareAndSet(STATE_NOT_IN_USE, STATE_IN_USE)) { return bagEntry; } }

我们都知道,包括ArrayList和HashMap一些基础的结构,都是Fail Fast的,如果你在遍历的时候,删掉一些数据,有可能会引起问题。幸运的是,由于我们的List是从ThreadLocal获取的,它首先就避免了线程安全的问题。

接下来就是遍历。这段代码采用的是尾遍历(头遍历会出现错误),用于快速的从列表中找到一个可以复用的对象,然后使用CAS来把状态置为使用中。但如果对象正在被使用,则直接删除它。

在ConcurrentBag里,每个ThreadLocal最多缓存50个连接对象引用。

当ThreadLocal里找不到可复用的对象,它就会到大池子里去拿。也就是下面这段代码。

// Otherwise, scan the shared list ... then poll the handoff queue final int waiting = waiters.incrementAndGet(); try { for (T bagEntry : sharedList) { if (bagEntry.compareAndSet(STATE_NOT_IN_USE, STATE_IN_USE)) { // If we may have stolen another waiter's connection, request another bag add. if (waiting > 1) { listener.addBagItem(waiting - 1); } return bagEntry; } } listener.addBagItem(waiting); // 还拿不到,就需要等待别人释放了 timeout = timeUnit.toNanos(timeout); do { final var start = currentTime(); final T bagEntry = handoffQueue.poll(timeout, NANOSECONDS); if (bagEntry == null || bagEntry.compareAndSet(STATE_NOT_IN_USE, STATE_IN_USE)) { return bagEntry; } timeout -= elapsedNanos(start); } while (timeout > 10_000); return null; } finally { waiters.decrementAndGet(); }

首先要注意,这段代码可能是由不同的线程执行的,所以必须要考虑线程安全问题。由于shardList是线程安全的CopyOnWriteArrayList,适合读多写少的场景,我们可以直接进行遍历。

这段代码的目的是一样的,需要从sharedList找到一个空闲的连接对象。这里把自增的waiting变量传递到外面的代码进行处理,主要是由于想要根据waiting的大小来确定是否创建新的对象。

如果无法从池子里获取连接,则需要等待别的线程释放一些资源。

创建对象的过程是异步的,要想获取它,还需要依赖一段循环代码。while循环代码是纳秒精度,会尝试从handoffQueue里获取。最终会调用SynchronousQueue的transfer方法。

归还连接

有借就有还,当某个连接使用完毕,它将被归还到池子中。

public void requite(final T bagEntry) { bagEntry.setState(STATE_NOT_IN_USE); for (var i = 0; waiters.get() > 0; i++) { if (bagEntry.getState() != STATE_NOT_IN_USE || handoffQueue.offer(bagEntry)) { return; } else if ((i & 0xff) == 0xff) { parkNanos(MICROSECONDS.toNanos(10)); } else { Thread.yield(); } } final var threadLocalList = threadList.get(); if (threadLocalList.size() < 50) { threadLocalList.add(weakThreadLocals ? new WeakReference<>(bagEntry) : bagEntry); } }

首先,把这个对象置为可用状态。然后,代码会进入一个循环,等待使用方把这个连接接手过去。当连接处于STATE_NOT_IN_USE状态,或者队列中的数据被取走了,那么就可以直接返回了。

由于waiters.get()是实时获取的,有可能长时间一直大于0,这样代码就会变成死循环,浪费CPU。代码会尝试不同层次的睡眠,一个是每隔255个waiter睡10ns,一个是使用yield让出cpu时间片。

如果归还连接的时候并没有被其他线程获取到,那么最后我们会把归还的连接放入到相对应的ThreadLocal里,因为对一个连接来说,借和还,通常是一个线程。

知识点

看起来平平无奇的几行代码,为什么搞懂了就能Hold住大部分的并发编程场景呢?主要还是这里面的知识点太多。下面我简单罗列一下,你可以逐个攻破。

  1. 使用ThreadLocal来缓存本地资源引用,使用线程封闭的资源来减少锁的冲突

  2. 采用读多写少的线程安全的CopyOnWriteArrayList来缓存所有对象,几乎不影响读取效率

  3. 使用基于CAS的AtomicInteger来计算等待者的数量,无锁操作使得计算更加快速

  4. 0容量的交换队列SynchronousQueue,使得对象传递更加迅速

  5. 采用compareAndSet的CAS原语来控制状态的变更,安全且效率高。很多核心代码都是这么设计的

  6. 在循环中使用park、yield等方法,避免死循环占用大量CPU

  7. 需要了解并发数据结构中的offer、poll、peek、put、take、add、remove方法的区别,并灵活应用

  8. CAS在设置状态时,采用了volatile关键字修饰,对于volatile的使用也是一个常见的优化点

  9. 需要了解WeakReference弱引用在垃圾回收时候的表现

麻雀虽小,五脏俱全。如果你想要你的多线程编程能力更上一层楼,读一读这个短小精悍的ConcurrentBag吧。当你掌握了它,多线程的那些东西,不过是小菜一碟。

http://www.jsqmd.com/news/119431/

相关文章:

  • 为什么顶尖团队都在用Open-AutoGLM做月报?背后的数据逻辑首次公开
  • 别让“小眼镜”挡住清晰世界!儿童近视防控,家长必知的科学指南
  • JavaSE——面向对象思想的应用
  • 好写作AI:你的学位论文理论框架,是“导航图”还是“理论陈列馆”?
  • 单北斗GNSS在大坝形变监测中的应用与性能分析
  • Open-AutoGLM会议调度秘籍(企业级应用案例曝光)
  • 证件照合格率低?Open-AutoGLM智能预检系统上线,审核通过率翻倍
  • 注意:雪花算法并不是ID的唯一选择!
  • 2025年印刷机市场新品排行榜,印刷开槽模切机/全伺服前缘送纸印刷开槽模切联动线/高速全自动水墨印刷开槽模切机印刷机订制厂家口碑推荐榜 - 品牌推荐师
  • 揭秘Open-AutoGLM自动汇总技术:如何3分钟生成高质量团队周报
  • 大厂面试真题解析:java 集合 +spring+ 并发编程 +MyBatis
  • 错过Open-AutoGLM等于落后3年?AI驱动会议管理的终极解决方案
  • 为什么你的Open-AutoGLM项目总延期?深度剖析进度监控缺失的4大痛点
  • BAT 大厂 java 程序员面试必问:JVM+Spring+ 分布式 +tomcat+MyBatis
  • 抓 https 加密数据,偷偷摸摸爽得很!
  • 绝杀峡谷源码 副图 通达信 贴图
  • Open-AutoGLM周报自动化落地全路径(从部署到高阶调优)
  • 使用systemd,把服务装进 Linux 心脏里~
  • Open-AutoGLM周报引擎实战指南(AI驱动办公新革命)
  • SMP语言基础知识-应用系统,开发的痛点,开发者的痛点
  • 高手,云集在于REST、gRPC 和 GraphQL之间!
  • Open-AutoGLM工作流监控实战指南(实时可视化监控体系搭建全解析)
  • 各大互联网公司面经分享:Java 全栈知识 +1500 道大厂面试真题
  • Open-AutoGLM数据统计实战:5步教你精准提取月报核心指标
  • 还在手动管理日程?用Open-AutoGLM实现全自动提醒,效率翻倍!
  • 赞!idea 如何单窗口打开多个项目?
  • 2024趋势:AI模型轻量化的7大方向,架构师必须关注
  • 10个降AI率工具,专科生必备的高效降重方案
  • AI聊天(简易版)(前端-后端-部署)——AI全流程制作
  • 2025年度十大阿胶厂家权威推荐,品质与口碑双优!膏方/阿胶糕/膏方类产品/阿胶类/阿胶产品/非遗膏方/阿胶类产品/阿胶阿胶品牌推荐榜单 - 品牌推荐师