阻塞队列-BlockingQueue

对于Queue而言,BlockingQueue是主要的线程安全的版本,具有阻塞功能,可以允许添加、删除元素被阻塞,直到成功为止,blockingqueue相对于Queue而言增加了两个方法put/take元素

BlockingQueue接口

属于并发容器中的接口,在java.util.concurrent包路径下

BlockingQueue不接受null元素,加入尝试通过add\put、offer等添加一个null元素时,某些实现上会抛出NullPointExeception问题。

BlockingQueue是可以接口指定容量,如果给定的数据超过给定容量,便无法添加元素,如果没有指定容量约束,最大是Interger.MAX_VALUE值。

BlockingQueue实现类主要用于生产者-消费者队列,另支持Collection接口。

BlockingQueue实现了线程安全,所有排队方法都可以使用内部锁或者其他并发控制形式来达到线程安全的目的

三个主要实现类介绍:

ArrayBlockingQueue:有界阻塞队列

LinkedBlockingQueue:无界阻塞队列

SynchronousQueue:同步队列

ArrayBlockingQueue:有界队列

ArrayBlockingQueue有界队列底层实现是Object数组,数组大小是固定的,假如数组一端为头,另一端为尾,那么头和尾构建一个FIFO队列

属性及默认值

    //存储的数据 存放在数组中
    final Object[] items;
    //读数据位置
    int takeIndex;
    //写入数据位置
    int putIndex;
    //数据数量
    int count;
    //队列同步相关属性
    final ReentrantLock lock;
    private final Condition notEmpty;
    private final Condition notFull;

通过ArrayBlockingQueue数据结构可知:首先是有一个数组 T[],用来存储所有的元素,由于ArrayBlockingQueue最终设置为一个不可扩展大小的Queue,所以这里items就是初始化就固定大小的数组(final),另外有两个索引,头索引takeIndex,尾索引putIndex,一个队列的大小count,要阻塞的话就必须用到一个锁和两个条件(非空,非满),这三个条件都是不可变类型

因为只有一把锁,所以任意时刻对队列只能有一个线程,意味着索引和大小的操作都是线程安全的,因此takeindex等不需要原子操作和volatile语义了

构造函数:

public ArrayBlockingQueue(int capacity) {
        this(capacity, false);
    }

   //通过初始容量和是否公平性抢锁标志来进行实例化
    public ArrayBlockingQueue(int capacity, boolean fair) {
        if (capacity <= 0)
            throw new IllegalArgumentException();
        this.items = new Object[capacity];
        lock = new ReentrantLock(fair);
        notEmpty = lock.newCondition();
        notFull =  lock.newCondition();
    }

    //通过初始容量capacity、公平性标志fair和集合c
    public ArrayBlockingQueue(int capacity, boolean fair,Collection<? extends E> c) {
        this(capacity, fair);

        final ReentrantLock lock = this.lock;
        lock.lock(); // Lock only for visibility, not mutual exclusion
        try {
            int i = 0;
            try {
                for (E e : c) {
                    //数据是不能为null
                    checkNotNull(e);
                    items[i++] = e;
                }
            } catch (ArrayIndexOutOfBoundsException ex) {
                throw new IllegalArgumentException();
            }
            count = i;
            putIndex = (i == capacity) ? 0 : i;
        } finally {
            lock.unlock();
        }
    }

put操作

可阻塞的添加元素

public void put(E e) throws InterruptedException {
        //检测插入数据不能为null
        checkNotNull(e);
        //添加可中断的锁
        final ReentrantLock lock = this.lock;
        lock.lockInterruptibly();
        try {
            while (count == items.length) //容量满了需要阻塞
                notFull.await();
            //当前集合未满,执行插入操作
            insert(e);
        } finally {
            //释放锁
            lock.unlock();
        }
    }

    private void insert(E x) {
        items[putIndex] = x;
        putIndex = inc(putIndex);
        ++count;
        //通知take操作已经有数据吗,如果有take方法阻塞,此时可被唤醒来执行take操作
        notEmpty.signal();
    }

  //循环数组的特殊标志处理 ,如果是到最大值则重定向到0号索引
    final int inc(int i) {
        return (++i == items.length) ? 0 : i;
    }

插入操作,在队列满的情况下会阻塞,直到有数据take出队列时才能结束阻塞,将当前数据插入队列

take方法

将数据从队列中移除

public E take() throws InterruptedException {
        //添加可中断的锁
        final ReentrantLock lock = this.lock;
        lock.lockInterruptibly();
        try {
            while (count == 0) //队列中没有数据时,需要阻塞,直到有数据put进入队列通知该操作可以继续执行
                notEmpty.await();
            //有数据时
            return extract();
        } finally {
            //释放锁
            lock.unlock();
        }
    }

    private E extract() {
        final Object[] items = this.items;
        E x = this.<E>cast(items[takeIndex]);
        items[takeIndex] = null;
        takeIndex = inc(takeIndex);
        --count;
        //发出通知 通知put方法,唤醒put操作
        notFull.signal();
        return x;
    }

ArrayBlockingQueue特点:

1、底层数据结构是数组,且数组大小一旦确定不可更改

2、不能存储null

3、阻塞功能是通过一个锁和两个隶属于该锁的Condition进行通信完成阻塞

Condition是在java 1.5中出现的,它用来替代传统的Object的wait()、notify()实现线程间的协作,相比使用Object的wait()、notify(),使用Condition的await()、signal()这种方式实现线程间协作更加安全和高效。因此通常来说比较推荐使用Condition,阻塞队列实际上是使用了Condition来模拟线程间协作。

LinkedBlockingQueue:无界队列

1、底层数据结构

2、阻塞特征如何实现?有没有锁,有几把锁?

LinkedBlockingQueue有两个lock锁和两个Condition以及用于计数的AtomicInteger

底层数据结构是链表,都是采用头尾节点,每个节点执行下一个节点的结构

数据存储在Node结构中

引入两把锁,一个入队列锁,一个出队列的锁。满足同时有一个队列不满的Condition和一个队列不空的Condition。

为什么使用两把锁,一把锁是否可以?

一把锁完全可以的,一把锁意味着入队列和出队列同时只能有一个在进行,另一个必须等待释放锁,而从实际实现上来看,head和last是分离的,相互独立的,入队列实现是不会修改出队列的数据的,同理,出队列时也不会修改入队列,这两个操作实际是相互独立,这个锁相当于两个写入锁,入队列是一种写操作,操作head,出队列是一种写操作,操作的是tail,这两是无关的

SynchronousQueue:同步队列

SynchronousQueue:同步队列:每个插入操作必须等待另一个线程的移除操作,同样,任何一个移除操作都要等待另一个线程的插入操作,因此队列中其实没有任何一个数据,或者说容量为0,SynchronousQueue更像一个管道,不像容器,资源从一个方向快速的传递到另一个方向

队列对比

如果不需要阻塞队列,优先选择ConcurrentLinkedQueue;

如果需要阻塞队列,队列大小固定优先选择ArrayBlockingQueue,

队列大小不固定优先选择LinkedBlockingQueue;

如果需要对队列进行排序,选择PriorityBlockingQueue;

如果需要一个快速交换的队列,选择SynchronousQueue;

如果需要对队列中的元素进行延时操作,则选择DelayQueue

<think>我们被要求提供关于JavaBlockingQueue的使用指南、原理和示例。根据引用内容,我们知道BlockingQueueJava并发包中的一个重要接口,它支持在队列满或空时阻塞等待的线程安全操作。我们将从以下几个方面展开: 1. BlockingQueue的核心概念 2. 主要实现类:ArrayBlockingQueue和LinkedBlockingQueue 3. 核心方法解析(添加元素和检索元素的方法) 4. 使用场景和示例 5. 原理剖析 6. 常见问题解答 下面开始详细回答。 --- ### 一、BlockingQueue 核心概念 BlockingQueue 是一个支持两个附加操作的队列:当队列为空时,从队列中获取元素的操作将被阻塞,直到队列非空;当队列满时,向队列中添加元素的操作将被阻塞,直到队列不满。这种特性使得 BlockingQueue 成为多线程编程中实现生产者-消费者模式的理想选择[^1]。 **核心特性**: - **线程安全**:所有实现类都是线程安全的。 - **阻塞操作**:提供阻塞插入和移除方法。 - **容量限制**:可以是有界队列(固定容量)或无界队列(容量为Integer.MAX_VALUE)。 --- ### 二、主要实现类 Java 提供了多种 BlockingQueue 的实现,最常用的是: 1. **ArrayBlockingQueue**: - 基于数组的有界阻塞队列- 按照FIFO(先进先出)原则排序元素。 - 创建时必须指定容量,且不可变。 - 支持公平锁策略(可选的构造函数参数),避免线程饥饿。 2. **LinkedBlockingQueue**: - 基于链表的可选有界阻塞队列- 默认容量为 `Integer.MAX_VALUE`(近似无界),也可在创建时指定容量。 - 按照FIFO原则排序元素。 - 通常比数组队列有更高的吞吐量,但在高并发下性能更不可预测。 其他实现包括 `PriorityBlockingQueue`(支持优先级排序)、`SynchronousQueue`(不存储元素,每个插入操作必须等待一个移除操作)、`DelayQueue`(元素只有在延迟期满后才能被取出)等[^1][^3]。 --- ### 三、核心方法解析 BlockingQueue 接口定义了四组不同的方法用于插入、移除和检查元素,每组方法在队列满或空时行为不同[^2]: #### 1. 添加元素 | 方法 | 行为 | |------|------| | `add(e)` | 如果队列未满,立即插入并返回`true`;否则抛出`IllegalStateException` | | `put(e)` | 如果队列满,则阻塞直到队列有空闲空间再插入 | | `offer(e)` | 如果队列未满,插入并返回`true`;否则返回`false` | | `offer(e, timeout, unit)` | 在指定的超时时间内尝试插入,成功返回`true`,超时返回`false` | #### 2. 移除元素 | 方法 | 行为 | |------|------| | `remove()` | 移除并返回队列头元素,如果队列为空则抛出`NoSuchElementException` | | `take()` | 如果队列为空,则阻塞直到队列有元素可用 | | `poll()` | 移除并返回队列头元素,队列为空时返回`null` | | `poll(timeout, unit)` | 在指定的超时时间内尝试移除并返回队列头元素,超时返回`null` | #### 3. 检查元素 | 方法 | 行为 | |------|------| | `element()` | 返回队列头元素(不移除),队列为空时抛出`NoSuchElementException` | | `peek()` | 返回队列头元素(不移除),队列为空时返回`null` | > **注意**:这些方法中,`put()` 和 `take()` 是阻塞操作的核心方法。 --- ### 四、使用场景和示例 #### 场景:生产者-消费者模型 生产者线程生成数据并放入队列,消费者线程从队列中取出数据并处理。 ```java import java.util.concurrent.*; public class ProducerConsumerExample { private static final int QUEUE_CAPACITY = 5; private static final BlockingQueue<Integer> queue = new ArrayBlockingQueue<>(QUEUE_CAPACITY); public static void main(String[] args) { // 创建线程池 ExecutorService executor = Executors.newFixedThreadPool(2); // 生产者任务 Runnable producer = () -> { try { for (int i = 0; i < 10; i++) { queue.put(i); // 阻塞直到队列有空位 System.out.println("生产: " + i); Thread.sleep(100); // 模拟生产耗时 } } catch (InterruptedException e) { Thread.currentThread().interrupt(); } }; // 消费者任务 Runnable consumer = () -> { try { for (int i = 0; i < 10; i++) { Integer item = queue.take(); // 阻塞直到队列有元素 System.out.println("消费: " + item); Thread.sleep(200); // 模拟消费耗时 } } catch (InterruptedException e) { Thread.currentThread().interrupt(); } }; // 启动生产者和消费者 executor.submit(producer); executor.submit(consumer); // 关闭线程池 executor.shutdown(); } } ``` #### 场景:任务提交与超时控制 使用 `offer(e, timeout, unit)` 和 `poll(timeout, unit)` 实现带超时的任务提交。 ```java public class TimeoutExample { public static void main(String[] args) throws InterruptedException { BlockingQueue<String> queue = new LinkedBlockingQueue<>(1); // 生产者:尝试在2秒内插入元素 new Thread(() -> { try { boolean success = queue.offer("data", 2, TimeUnit.SECONDS); System.out.println("插入结果: " + success); } catch (InterruptedException e) { e.printStackTrace(); } }).start(); // 消费者:等待1秒后取走元素 Thread.sleep(1000); String data = queue.poll(1, TimeUnit.SECONDS); System.out.println("取出数据: " + data); } } ``` --- ### 五、原理剖析 #### 1. 锁与条件变量 BlockingQueue 的实现通常依赖于**可重入锁(ReentrantLock)**和**条件变量(Condition)**。以 `ArrayBlockingQueue` 为例: ```java // ArrayBlockingQueue 内部实现关键代码 final ReentrantLock lock; private final Condition notEmpty; // 等待非空的条件 private final Condition notFull; // 等待非满的条件 public ArrayBlockingQueue(int capacity, boolean fair) { // ... 初始化数组 lock = new ReentrantLock(fair); notEmpty = lock.newCondition(); notFull = lock.newCondition(); } // put 方法实现 public void put(E e) throws InterruptedException { Objects.requireNonNull(e); final ReentrantLock lock = this.lock; lock.lockInterruptibly(); try { while (count == items.length) // 队列满 notFull.await(); // 等待非满条件 enqueue(e); // 入队 } finally { lock.unlock(); } } // take 方法实现 public E take() throws InterruptedException { final ReentrantLock lock = this.lock; lock.lockInterruptibly(); try { while (count == 0) // 队列空 notEmpty.await(); // 等待非空条件 return dequeue(); // 出队 } finally { lock.unlock(); } } // 入队后唤醒等待非空的线程 private void enqueue(E x) { // ... 入队操作 notEmpty.signal(); // 唤醒一个等待非空的线程 } // 出队后唤醒等待非满的线程 private E dequeue() { // ... 出队操作 notFull.signal(); // 唤醒一个等待非满的线程 return x; } ``` #### 2. 无界队列实现 `LinkedBlockingQueue` 默认无界(实际容量为`Integer.MAX_VALUE`),其内部使用两个锁(`putLock` 和 `takeLock`)分别控制入队和出队操作,减少锁竞争,提高并发性能[^3]。 --- ### 六、常见问题解答 #### ❌ 问题1:如何选择 ArrayBlockingQueue 和 LinkedBlockingQueue- **ArrayBlockingQueue**:固定大小,内存连续,性能稳定,适合已知固定容量的场景。 - **LinkedBlockingQueue**:默认无界(可指定容量),适合任务量未知但可能很大的场景,但注意可能引起内存溢出。 #### ❌ 问题2:阻塞队列在什么情况下会导致线程饥饿? - 使用非公平锁(默认)时,新来的线程可能比等待的线程先获取锁,导致等待线程饥饿。 - **解决方案**:创建队列时指定公平锁(如 `new ArrayBlockingQueue<>(100, true)`),但会降低吞吐量。 #### ❌ 问题3:如何处理阻塞队列中的任务拒绝? 当使用有界队列时,生产者可能因队列满而被阻塞或拒绝。常见处理策略: - 使用 `offer(e, timeout, unit)` 设置超时,超时后记录日志或执行降级逻辑。 - 结合线程池的 `RejectedExecutionHandler` 处理(如丢弃任务、调用者运行等)[^3]。 --- ### 七、最佳实践 1. **合理设置队列容量**: - 过小:频繁阻塞,降低吞吐。 - 过大:占用内存,可能引发OOM(无界队列风险)。 2. **优先使用标准库提供的线程池**: ```java // 使用 ThreadPoolExecutor 并指定阻塞队列 ExecutorService executor = new ThreadPoolExecutor( 4, // 核心线程数 8, // 最大线程数 60, TimeUnit.SECONDS, new ArrayBlockingQueue<>(100) // 使用有界队列 ); ``` 3. **监控队列状态**: ```java // 定期打印队列大小 ScheduledExecutorService monitor = Executors.newSingleThreadScheduledExecutor(); monitor.scheduleAtFixedRate(() -> System.out.println("队列大小: " + queue.size()), 0, 1, TimeUnit.SECONDS ); ``` --- 通过以上解析,我们深入了解了 BlockingQueue 的使用方法、内部原理及实践技巧。合理使用阻塞队列可以显著简化多线程编程,提高系统稳定性和性能[^1][^3]。 §§相关问题§§ 1. 如何监控 BlockingQueue 的性能指标(如队列长度、等待时间)? 2. BlockingQueue 在分布式系统中如何应用? 3. 如何实现一个自定义的 BlockingQueue? 4. BlockingQueue 与消息队列(如Kafka、RabbitMQ)有何异同?</think>### Java BlockingQueue 使用指南、原理与示例 BlockingQueueJava 并发包 (`java.util.concurrent`) 中的核心接口,专为生产者-消费者模型设计,支持线程安全的阻塞操作。以下是全面解析: --- #### 一、BlockingQueue 核心原理 | 特性 | 说明 | |---------------------|----------------------------------------------------------------------| | **阻塞机制** | 队列满时插入操作阻塞,队列空时获取操作阻塞[^1] | | **线程安全** | 内置锁(ReentrantLock)和条件变量(Condition)实现线程同步 | | **容量策略** | 分为有界队列(如 ArrayBlockingQueue)和无界队列(如 LinkedBlockingQueue) | | **FIFO 原则** | 默认先进先出(PriorityBlockingQueue 支持优先级排序) | **底层实现关键**: ```java // ArrayBlockingQueue 核心锁机制 final ReentrantLock lock; private final Condition notEmpty; // 非空条件 private final Condition notFull; // 非满条件 public void put(E e) throws InterruptedException { Objects.requireNonNull(e); final ReentrantLock lock = this.lock; lock.lockInterruptibly(); try { while (count == items.length) // 队列满时阻塞 notFull.await(); enqueue(e); // 入队并唤醒消费者 } finally { lock.unlock(); } } ``` --- #### 二、核心方法对比 ##### 1. 添加元素方法 | 方法 | 队列满时行为 | 返回值 | |-------------------------------|----------------------------------------|----------------------| | `add(e)` | 抛出 `IllegalStateException` | `boolean` (成功/失败)| | `put(e)` | 阻塞直到有空位 | `void` | | `offer(e)` | 立即返回失败 | `boolean` | | `offer(e, timeout, timeUnit)` | 阻塞等待指定时间,超时返回失败 | `boolean` | ##### 2. 获取元素方法 | 方法 | 队列空时行为 | 返回值 | |-------------------------------|----------------------------------------|-------------| | `remove()` | 抛出 `NoSuchElementException` | `E` | | `take()` | 阻塞直到有元素 | `E` | | `poll()` | 立即返回 `null` | `E` 或 `null`| | `poll(timeout, timeUnit)` | 阻塞等待指定时间,超时返回 `null` | `E` 或 `null`| | `peek()` | 返回队首元素(不删除) | `E` 或 `null`| [^2] --- #### 三、常用实现类对比 | 实现类 | 数据结构 | 是否有界 | 锁机制 | 适用场景 | |-----------------------|----------------|----------|----------------------|------------------------------| | `ArrayBlockingQueue` | 数组 | 有界 | 单锁(生产消费共用) | 固定大小队列,内存可控 | | `LinkedBlockingQueue` | 链表 | 可选有界 | 双锁(分离生产消费) | 高吞吐量场景[^1] | | `PriorityBlockingQueue` | 二叉堆 | 无界 | 单锁 | 按优先级处理任务 | | `SynchronousQueue` | 无容器 | 特殊 | CAS 操作 | 直接传递任务(生产者等消费者)| --- #### 四、实战代码示例 ##### 1. 生产者-消费者模型(ArrayBlockingQueue) ```java import java.util.concurrent.*; public class ProducerConsumerExample { private static final int CAPACITY = 3; private static final BlockingQueue<String> queue = new ArrayBlockingQueue<>(CAPACITY); public static void main(String[] args) { // 生产者 Runnable producer = () -> { try { for (int i = 0; i < 5; i++) { String item = "Item-" + i; queue.put(item); // 队列满时阻塞 System.out.println("生产: " + item); Thread.sleep(200); } } catch (InterruptedException e) { Thread.currentThread().interrupt(); } }; // 消费者 Runnable consumer = () -> { try { for (int i = 0; i < 5; i++) { String item = queue.take(); // 队列空时阻塞 System.out.println("消费: " + item); Thread.sleep(500); } } catch (InterruptedException e) { Thread.currentThread().interrupt(); } }; new Thread(producer).start(); new Thread(consumer).start(); } } ``` ##### 2. 超时控制(offer/poll) ```java // 生产者线程 if (!queue.offer("Urgent", 2, TimeUnit.SECONDS)) { System.err.println("插入失败:队列已满超时"); } // 消费者线程 String item = queue.poll(3, TimeUnit.SECONDS); if (item == null) { System.out.println("获取失败:队列空超时"); } ``` ##### 3. 优先级队列(PriorityBlockingQueue) ```java BlockingQueue<Task> priorityQueue = new PriorityBlockingQueue<>( 10, Comparator.comparingInt(Task::getPriority) ); // 添加任务 priorityQueue.put(new Task("Low", 1)); priorityQueue.put(new Task("High", 3)); Task next = priorityQueue.take(); // 先取出优先级3的任务 ``` --- #### 五、典型应用场景 1. **线程池任务调度** ```java // ThreadPoolExecutor 内部使用 BlockingQueue ExecutorService executor = new ThreadPoolExecutor( 2, 4, 60, TimeUnit.SECONDS, new ArrayBlockingQueue<>(100) // 任务队列 ); ``` 2. **高并发请求缓冲** ```java // 处理突发流量 BlockingQueue<HttpRequest> buffer = new LinkedBlockingQueue<>(1000); ``` 3. **多阶段数据处理流水线** ```java // 阶段1 → 阶段2 传递数据 BlockingQueue<Data> stage1Output = new LinkedBlockingQueue<>(); BlockingQueue<Result> stage2Output = new ArrayBlockingQueue<>(50); ``` --- #### 六、常见问题解决方案 ##### ❌ 问题1:队列满导致生产者阻塞 **解决方案**: - 使用 `offer(e, timeout, unit)` 设置超时 - 启用拒绝策略(如丢弃旧元素) ```java // 自定义拒绝策略:丢弃最旧元素 BlockingQueue<String> queue = new LinkedBlockingQueue<>(10) { @Override public boolean offer(String e) { if (size() == capacity) poll(); // 丢弃队首 return super.offer(e); } }; ``` ##### ❌ 问题2:消费者处理速度慢拖垮系统 **解决方案**: - 限制队列容量(避免无界队列 OOM) - 监控队列长度并告警 ```java if (queue.size() > WARNING_THRESHOLD) { log.warn("队列积压: {}/{}", queue.size(), queue.remainingCapacity()); } ``` ##### ❌ 问题3:线程阻塞导致无法退出 **解决方案**: - 使用中断机制唤醒线程 ```java // 消费者线程退出逻辑 while (!Thread.currentThread().isInterrupted()) { String item = queue.poll(1, TimeUnit.SECONDS); if (item != null) process(item); } ``` --- #### 七、性能优化建议 1. **选择合适队列类型** - 高吞吐 → `LinkedBlockingQueue`(分离锁提升并发) - 低延迟 → `ArrayBlockingQueue`(内存连续访问快) 2. **避免无界队列** - 防止内存溢出(OOM),尤其在高并发场景[^4] 3. **监控关键指标** ```java // 监控队列负载 double loadFactor = (double) queue.size() / queue.remainingCapacity(); ``` --- 通过合理使用 BlockingQueue,可有效解决线程间数据传递的同步问题,构建高效稳定的并发系统[^1][^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值