作者: 一字馬胡
轉(zhuǎn)載標(biāo)志1 【2017-11-01】
轉(zhuǎn)載標(biāo)志2 【內(nèi)容來自 一字馬胡】
更新日志
| 日期 | 更新內(nèi)容 | 備注 |
|---|---|---|
| 2017-11-01 | 新建文章 | V1 |
| 2018-05-21 | 新增無鎖并發(fā)設(shè)計須知 | V2 |
| 2020-08-23 | 重新發(fā)布 | V3 |
批注-2020-08-23
文章內(nèi)容較多,且因為寫的比較早,有些內(nèi)容可能存在錯誤或者不再正確,文章會被持續(xù)迭代,整理下來只是為了后續(xù)能不斷回頭看看,不斷迭代,僅此而已。
本文主要內(nèi)容索引
1、Java線程
2、線程模型
3、Java線程池
4、Future(各種Future)
5、Fork/Join框架
6、volatile
7、CAS(原子操作)
8、AQS(并發(fā)同步框架)
9、synchronized(同步鎖)
10、并發(fā)隊列(阻塞隊列)
11、無鎖并發(fā)設(shè)計須知
本文僅分析java并發(fā)編程中的若干核心問題,對于上面沒有提到但是又和java并發(fā)編程有密切關(guān)系的技術(shù)將會不斷添加進(jìn)來完善文章,本文將長期更新,不斷迭代。本文試圖從一個更高的視覺來總結(jié)Java語言中的并發(fā)編程內(nèi)容,希望閱讀完本文之后,可以收獲一些內(nèi)容,至少應(yīng)該知道在java中做并發(fā)編程實踐的時候應(yīng)該注意什么,應(yīng)該關(guān)注什么,如何保證線程安全,以及如何選擇合適的工具來滿足需求。當(dāng)然,更深層次的內(nèi)容就會涉及到j(luò)vm層面的知識,包括底層對java內(nèi)存的管理,對線程的管理等較為核心的問題,當(dāng)然,本文的定位在于抽象與總結(jié),更為具體而深入的內(nèi)容就需要自己去實踐,考慮到可能篇幅過長、重復(fù)描述某些內(nèi)容,以及自身技術(shù)深度等原因,本文將在深度和廣度上做一些權(quán)衡,某些內(nèi)容會做一些深入的分析,而有些內(nèi)容會一帶而過,點(diǎn)到為止,總之,本文就當(dāng)是對學(xué)習(xí)java并發(fā)編程內(nèi)容的一個總結(jié),以及給哪些希望快速了解java并發(fā)編程內(nèi)容的讀者拋磚引玉,不足之處還望指正。
Java線程
一般來說,在java中實現(xiàn)高并發(fā)是基于多線程編程的,所謂并發(fā),也就是多個線程同時工作,來處理我們的業(yè)務(wù),在機(jī)器普遍多核心的今天,并發(fā)編程的意義極為重大,因為我們有多個cpu供線程使用,如果我們的應(yīng)用依然只使用單線程模式來工作的話,對極度浪費(fèi)機(jī)器資源的。所以,學(xué)習(xí)java并發(fā)知識的首要問題是:如何創(chuàng)建一個線程,并且讓這個線程做一些事情?這是java并發(fā)編程內(nèi)容的起點(diǎn),下面將分別介紹多個創(chuàng)建線程,并且讓線程做一些事情的方法。
繼承Thread類
繼承Thread類,然后重寫run方法,這是第一種創(chuàng)建線程的方法。run方法里面就是我們要做的事情,可以在run方法里面寫我們想要在新的線程里面運(yùn)行的任務(wù),下面是一個小例子,我們繼承了Thread類,并且在run方法里面打印出了當(dāng)然線程的名字,然后sleep1秒中之后就退出了:
/**
* Created by hujian06 on 2017/10/31.
*
* the demo of thread
*/
public class ThreadDemo {
public static void main(String ... args) {
AThread aThread = new AThread();
//start the thread
aThread.start();
}
}
class AThread extends Thread {
@Override
public void run() {
System.out.println("Current Thread Name:" +
Thread.currentThread().getName());
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
如果我們想要啟動這個線程,只需要像上面代碼中那樣,調(diào)用Thread類的start方法就可以了。
實現(xiàn)Runnable接口
啟動一個線程的第二種方法是實現(xiàn)Runnable接口,然后實現(xiàn)其run方法,將你想要在新線程里面執(zhí)行的業(yè)務(wù)代碼寫在run方法里面,下面的例子展示了這種方法啟動線程的示例,實現(xiàn)的功能和上面的第一種示例是一樣的:
/**
* Created by hujian06 on 2017/10/31.
*
* the demo of Runnable
*/
public class ARunnableaDemo {
public static void main(String ... args) {
ARunnanle aRunnanle = new ARunnanle();
Thread thread = new Thread(aRunnanle);
thread.start();
}
}
class ARunnanle implements Runnable {
@Override
public void run() {
System.out.println("Current Thread Name:" +
Thread.currentThread().getName());
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
在啟動線程的時候,依然還是使用了Thread這個類,只是我們在構(gòu)造函數(shù)中將我們實現(xiàn)的Runnable對象傳遞進(jìn)去了,所以在我們執(zhí)行Thread類的start方法的時候,實際執(zhí)行的內(nèi)容是我們的Runnable的run方法。
使用FutureTask
啟動一個新的線程的第三種方法是使用FutureTask,下面來看一下FutureTask的類圖,就可以明白為什么可以使用FutureTask來啟動一個新的線程了:

從FutureTask的類圖中可以看出,F(xiàn)utureTask實現(xiàn)了Runnable接口和Future接口,所以它兼?zhèn)銻unnable和Future兩種特性,下面先來看看如何使用FutureTask來啟動一個新的線程:
import java.util.concurrent.Callable;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.FutureTask;
/**
* Created by hujian06 on 2017/10/31.
*
* the demo of FutureTask
*/
public class FutureTaskDemo {
public static void main(String ... args) {
ACallAble callAble = new ACallAble();
FutureTask<String> futureTask = new FutureTask<>(callAble);
Thread thread = new Thread(futureTask);
thread.start();
do {
}while (!futureTask.isDone());
try {
String result = futureTask.get();
System.out.println("Result:" + result);
} catch (InterruptedException | ExecutionException e) {
e.printStackTrace();
}
}
}
class ACallAble implements Callable<String> {
@Override
public String call() throws Exception {
Thread.sleep(1000);
return "Thread-Name:" +
Thread.currentThread().getName();
}
}
可以看到,使用FutureTask來啟動一個線程之后,我們可以監(jiān)控這個線程是否完成,上面的示例中主線程會一直等待這個新創(chuàng)建的線程直到它返回,其實只要是Future提供的接口,我們在FutureTask中都可以使用,這極大的方便了我們,F(xiàn)uture在并發(fā)編程中的意義極為重要,F(xiàn)uture代表一個未來會發(fā)生的東西,它是一種暗示,一種占位符,它示意我們它可能不會立即得到結(jié)果,因為它的任務(wù)還在運(yùn)行,但是我們可以得到一個對這個線程的監(jiān)控對象,我們可以對線程的執(zhí)行做一些判斷,甚至是控制,比如,如果我們覺得我們等了太久,并且我們覺得沒有必要再等待下去的時候,就可以將這個Task取消,還有一點(diǎn)需要提到的是,F(xiàn)uture代表它可能正在運(yùn)行,也可能已經(jīng)返回,當(dāng)然Future更多的暗示你可以在等待這個結(jié)果的同時可以使用其他的線程做一些其他的事情,當(dāng)你真的需要這個結(jié)果的時候再來獲取就可以了,這就是并發(fā),理解這一點(diǎn)非常重要。
本小節(jié)通過介紹三種創(chuàng)建并啟動一個新線程的方法,為進(jìn)行并發(fā)編程開了一個頭,目前,我們還只是在能創(chuàng)建多個線程,然后讓多個線程做不同個的事情的階段,當(dāng)然,這是學(xué)習(xí)并發(fā)編程最為基礎(chǔ)的,無論如何,現(xiàn)在,我們可以讓我們的應(yīng)用運(yùn)行多個線程了,下面的文章將會基于這個假設(shè)(一個應(yīng)用開啟了多個線程)討論一些并發(fā)編程中值得關(guān)注的內(nèi)容。關(guān)于本小節(jié)更為詳細(xì)的內(nèi)容,可以參考文章Java CompletableFuture中的部分內(nèi)容。
線程模型
我們現(xiàn)在可以啟動多個線程,但是好像并沒有形成一種類似于模型的東西,非常混亂,并且到目前為止我們的多個線程依然只是各自做各自的事情,互不相干,多個線程之間并沒有交互(通信),這是最簡單的模型,也是最基礎(chǔ)的模型,本小節(jié)試圖介紹線程模型,一種指導(dǎo)我們的代碼組織的思想,線程模型確定了我們需要處理那些多線程的問題,在一個系統(tǒng)中,多個線程之間沒有通信是不太可能的,更為一般的情況是,多個線程共享一些資源,然后相互競爭來獲取資源權(quán)限,多個線程相互配合,來提高系統(tǒng)的處理能力。正因為多個線程之間會有通信交互,所以本文接下來的討論才有了意義,如果我們的系統(tǒng)里面有幾百個線程在工作,但是這些線程互不相干,那么這樣的系統(tǒng)要么實現(xiàn)的功能非常單一,要么毫無意義(當(dāng)然不是絕對的,比如Netty的線程模型)。
繼續(xù)來討論線程模型,上面說到線程模型是一種指導(dǎo)代碼組織的思想,這是我自己的理解,不同的線程模型需要我們使用不同的代碼組織,好的線程模型可以提高系統(tǒng)的并發(fā)度,并且可以使得系統(tǒng)的復(fù)雜度降低,這里需要提一下Netty 4的線程模型,Netty 4的線程模型使得我們可以很容易的理解Netty的事件處理機(jī)制,這種優(yōu)秀的設(shè)計基于Reactor線程模型,Reactor線程模型分為單線程模型、多線程模型以及主從多線程模型,Netty的線程模型類似于Reactor主從多線程模型。
當(dāng)然線程模型是一種更高級別的并發(fā)編程內(nèi)容,它是一種編程指導(dǎo)思想,尤其在我們進(jìn)行底層框架設(shè)計的時候特別需要注意線程模型,因為一旦線程模型設(shè)計不合理,可能會導(dǎo)致后面框架代碼過于復(fù)雜,并且可能因為線程同步等問題造成問題不可控,最終導(dǎo)致系統(tǒng)運(yùn)行失控。類似于Netty的線程模型是一種好的線程模型,下面展示了這種模型:

簡單來說,Netty為每個新建立的Channel分配一個NioEventLoop,而每個NioEventLoop內(nèi)部僅使用一個線程,這就避免了多線程并發(fā)的同步問題,因為為每個Channel處理的線程僅有一個,所以不需要使用鎖等線程同步手段來做線程同步,在我們的系統(tǒng)設(shè)計的時候應(yīng)該借鑒這種線程模型的設(shè)計思路,可以避免我們走很多彎路。關(guān)于線程池以及Netty線程池這部分的內(nèi)容,可以參考文章Netty線程模型及EventLoop詳解。
Java線程池
池化技術(shù)是一種非常有用的技術(shù),對于線程來說,創(chuàng)建一個線程的代價是很高的,如果我們在創(chuàng)建了一個線程,并且讓這個線程做一個任務(wù)之后就回收的話,那么下次要使用線程來執(zhí)行我們的任務(wù)的時候又需要創(chuàng)建一個新的線程,是否可以在創(chuàng)建完成一個線程之后一直緩沖,直到系統(tǒng)關(guān)閉的時候再進(jìn)行回收呢?java線程池就是這樣的組件,使用線程池,就沒必要頻繁創(chuàng)建線程,線程池會為我們管理線程,當(dāng)我們需要一個新的線程來執(zhí)行我們的任務(wù)的時候,就向線程池申請,而線程池會從池子里面找到一個空閑的線程返回給請求者,如果池子里面沒有可用的線程,那么線程池會根據(jù)一些參數(shù)指標(biāo)來創(chuàng)建一個新的線程,或者將我們的任務(wù)提交到任務(wù)隊列中去,等待一個空閑的線程來執(zhí)行這個任務(wù)。細(xì)節(jié)內(nèi)容在下文中進(jìn)行分析,目前我們只需要明白,線程池里面有很多線程,這些線程會一直到系統(tǒng)關(guān)系才會被回收,否則一直會處于處理任務(wù)或者等待處理任務(wù)的狀態(tài)。
首先,如何使用線程池呢?下面的代碼展示了如何使用java線程池的例子:
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.ThreadFactory;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;
/**
* Created by hujian06 on 2017/10/31.
*
* the demo of Executors
*/
public class ExecutorsDemo {
public static void main(String ... args) {
int cpuCoreCount = Runtime.getRuntime().availableProcessors();
AThreadFactory threadFactory = new AThreadFactory();
ARunnanle runnanle = new ARunnanle();
ExecutorService fixedThreadPool=
Executors.newFixedThreadPool(cpuCoreCount, threadFactory);
ExecutorService cachedThreadPool =
Executors.newCachedThreadPool(threadFactory);
ScheduledExecutorService newScheduledThreadPool =
Executors.newScheduledThreadPool(cpuCoreCount, threadFactory);
ScheduledExecutorService singleThreadExecutor =
Executors.newSingleThreadScheduledExecutor(threadFactory);
fixedThreadPool.submit(runnanle);
cachedThreadPool.submit(runnanle);
newScheduledThreadPool.scheduleAtFixedRate(runnanle, 0, 1, TimeUnit.SECONDS);
singleThreadExecutor.scheduleWithFixedDelay(runnanle, 0, 100, TimeUnit.MILLISECONDS);
try {
TimeUnit.SECONDS.sleep(5);
} catch (InterruptedException e) {
e.printStackTrace();
}
fixedThreadPool.shutdownNow();
cachedThreadPool.shutdownNow();
newScheduledThreadPool.shutdownNow();
singleThreadExecutor.shutdownNow();
}
}
class ARunnable implements Runnable {
@Override
public void run() {
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println("Current Thread Name:" +
Thread.currentThread().getName());
}
}
/**
* the thread factory
*/
class AThreadFactory implements ThreadFactory {
private final AtomicInteger threadNumber = new AtomicInteger(1);
@Override
public Thread newThread(Runnable r) {
return new Thread("aThread-" + threadNumber.incrementAndGet());
}
}
更為豐富的應(yīng)用應(yīng)該自己去探索,結(jié)合自身的需求來借助線程池來實現(xiàn),下面來分析一下Java線程池實現(xiàn)中幾個較為重要的內(nèi)容。
ThreadPoolExecutor和ScheduledThreadPoolExecutor
ThreadPoolExecutor和ScheduledThreadPoolExecutor是java實現(xiàn)線程池的核心類,不同類型的線程池其實就是在使用不同的構(gòu)造函數(shù),以及不同的參數(shù)來構(gòu)造出ThreadPoolExecutor或者ScheduledThreadPoolExecutor,所以,學(xué)習(xí)java線程池的重點(diǎn)也在于學(xué)習(xí)這兩個核心類。前者適用于構(gòu)造一般的線程池,而后者繼承了前者,并且很多內(nèi)容是通用的,但是ScheduledThreadPoolExecutor增加了schedule功能,也就是說,ScheduledThreadPoolExecutor使用于構(gòu)造具有調(diào)度功能的線程池,在需要周期性調(diào)度執(zhí)行的場景下就可以使用ScheduledThreadPoolExecutor。關(guān)于ThreadPoolExecutor與ScheduledThreadPoolExecutor較為詳細(xì)深入的分析可以參考下面的文章:
- Java線程池詳解(一)
- Java線程池詳解(二)
- Java調(diào)度線程池ScheduleExecutorService
- Java調(diào)度線程池ScheduleExecutorService(續(xù))
下面展示了ThreadPoolExecutor和ScheduledThreadPoolExecutor的類圖,可以看出他們的關(guān)系,以及他們的繼承關(guān)系:


關(guān)于較為細(xì)節(jié)的內(nèi)容不再本文的敘述范圍之內(nèi),如果想要了解這些內(nèi)容的詳細(xì)內(nèi)容,可以參考文章中給出的鏈接,這些文章較為深入的分析和總結(jié)了相關(guān)的內(nèi)容。
上文中提到,線程池會管理著一些線程,這些線程要么處于運(yùn)行狀態(tài),要么處于等待任務(wù)的狀態(tài),當(dāng)然這只是我們較為形象的描述,一個線程的狀態(tài)不僅有運(yùn)行態(tài)與等待狀態(tài),還有其他的狀態(tài),但是對我我們來說,線程池里面的線程確實是要么處于運(yùn)行狀態(tài),要么處于等待任務(wù)的狀態(tài),這體現(xiàn)在,當(dāng)我們向一個線程池提交一個任務(wù)的時候,可能會被等待任務(wù)的線程立即執(zhí)行,但是可能線程池里面的線程都處于忙碌狀態(tài),那么我們提交的任務(wù)就會被加入到等待運(yùn)行的任務(wù)隊列中去,當(dāng)有空閑線程了,或者隊列也滿了,那么線程池就會采用一些策略來執(zhí)行任務(wù),并且在某些時刻會拒絕提交的任務(wù),這些細(xì)節(jié)都可以在ThreadPoolExecutor的實現(xiàn)中找到。
在線程池的實現(xiàn)中,有一個角色特別重要,那就是任務(wù)隊列,當(dāng)線程池里面沒有空閑的線程來執(zhí)行我們的任務(wù)的時候,我們的任務(wù)就會被添加到任務(wù)隊列中去等待執(zhí)行,而這個任務(wù)隊列可能會被多個線程并發(fā)讀寫,所以需要支持多線程安全訪問,java提供了一類支持并發(fā)環(huán)境的隊列,稱為阻塞隊列,這是一類特殊的隊列,他們的使用時非常廣泛的,特別是在jdk自身的類庫建設(shè)上,當(dāng)然在我們實際的工作中也是有很多使用場景的。
關(guān)于ThreadPoolExecutor是如何處理一個提交的任務(wù)的細(xì)節(jié),可以參考下面的代碼:
public void execute(Runnable command) {
if (command == null)
throw new NullPointerException();
/*
* Proceed in 3 steps:
*
* 1. If fewer than corePoolSize threads are running, try to
* start a new thread with the given command as its first
* task. The call to addWorker atomically checks runState and
* workerCount, and so prevents false alarms that would add
* threads when it shouldn't, by returning false.
*
* 2. If a task can be successfully queued, then we still need
* to double-check whether we should have added a thread
* (because existing ones died since last checking) or that
* the pool shut down since entry into this method. So we
* recheck state and if necessary roll back the enqueuing if
* stopped, or start a new thread if there are none.
*
* 3. If we cannot queue task, then we try to add a new
* thread. If it fails, we know we are shut down or saturated
* and so reject the task.
*/
int c = ctl.get();
if (workerCountOf(c) < corePoolSize) {
if (addWorker(command, true))
return;
c = ctl.get();
}
if (isRunning(c) && workQueue.offer(command)) {
int recheck = ctl.get();
if (! isRunning(recheck) && remove(command))
reject(command);
else if (workerCountOf(recheck) == 0)
addWorker(null, false);
}
else if (!addWorker(command, false))
reject(command);
}
下面來看一下java中借助ThreadPoolExecutor來構(gòu)造的幾個線程池的特性:
1、newFixedThreadPool
使用ThreadPoolExecutor構(gòu)造一個newCachedThreadPool的流程如下:
public static ExecutorService newFixedThreadPool(int nThreads) {
return new ThreadPoolExecutor(nThreads, nThreads,
0L, TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<Runnable>());
}
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue) {
this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
Executors.defaultThreadFactory(), defaultHandler);
}
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue,
ThreadFactory threadFactory,
RejectedExecutionHandler handler) {
if (corePoolSize < 0 ||
maximumPoolSize <= 0 ||
maximumPoolSize < corePoolSize ||
keepAliveTime < 0)
throw new IllegalArgumentException();
if (workQueue == null || threadFactory == null || handler == null)
throw new NullPointerException();
this.corePoolSize = corePoolSize;
this.maximumPoolSize = maximumPoolSize;
this.workQueue = workQueue;
this.keepAliveTime = unit.toNanos(keepAliveTime);
this.threadFactory = threadFactory;
this.handler = handler;
}
在任意時刻,newFixedThreadPool構(gòu)造出來的線程池中最多只可能存活著nThreads個線程,如果所有的線程都在運(yùn)行任務(wù),那么這個時候提交的任務(wù)將會被添加到任務(wù)隊列中去等待執(zhí)行。我們可以控制corePoolSize和maximumPoolSize來使得通過ThreadPoolExecutor構(gòu)造出來的線程池具有一些不一樣的特性,但是需要注意的是,當(dāng)我們設(shè)置的maximumPoolSize大于corePoolSize的時候,如果當(dāng)前線程池里面的線程數(shù)量已經(jīng)達(dá)到了corePoolSize了,并且當(dāng)前所以線程都處于運(yùn)行任務(wù)的狀態(tài),那么在這個時候提交的任務(wù)會被添加到任務(wù)隊列中去,只有在任務(wù)隊列滿了的時候,才會去創(chuàng)建新的線程,如果線程數(shù)量已經(jīng)達(dá)到了maximumPoolSize了,那么到此就會拒絕提交的任務(wù),這些流程可以參考上面展示出來的execute方法的實現(xiàn)。該類型的線程池使用的任務(wù)隊列是LinkedBlockingQueue類型的阻塞隊列。
2、newCachedThreadPool
通過ThreadPoolExecutor構(gòu)造一個newCachedThreadPool線程池的流程如下:
public static ExecutorService newCachedThreadPool() {
return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
60L, TimeUnit.SECONDS,
new SynchronousQueue<Runnable>());
}
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue) {
this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
Executors.defaultThreadFactory(), defaultHandler);
}
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue,
ThreadFactory threadFactory,
RejectedExecutionHandler handler) {
if (corePoolSize < 0 ||
maximumPoolSize <= 0 ||
maximumPoolSize < corePoolSize ||
keepAliveTime < 0)
throw new IllegalArgumentException();
if (workQueue == null || threadFactory == null || handler == null)
throw new NullPointerException();
this.corePoolSize = corePoolSize;
this.maximumPoolSize = maximumPoolSize;
this.workQueue = workQueue;
this.keepAliveTime = unit.toNanos(keepAliveTime);
this.threadFactory = threadFactory;
this.handler = handler;
}
newCachedThreadPool適合于類似秒殺系統(tǒng)中,它可以按需創(chuàng)建線程。每個線程在空閑了一段時間之后會被回收,然后需要創(chuàng)建的時候再創(chuàng)建出來,在使用的時候應(yīng)該使用合適的構(gòu)造參數(shù)。該類型使用的任務(wù)隊列是SynchronousQueue這種同步隊列,這是一種特別的隊列,每個線程都是有使命的,每個線程都會等待另外一個線程和自己交易,在交易完成之前都會阻塞住線程,他們之間有一種傳遞關(guān)系,數(shù)據(jù)是從一個線程直接傳遞到例外一個線程中去的,SynchronousQueue這種隊列不存儲實際的數(shù)據(jù),而是存儲著一些線程的信息,而SynchronousQueue管理著這些線程之間的交易,更為詳細(xì)的細(xì)節(jié)參考后面的文章。
上面提到,ScheduleThreadPoolExecutor是繼承自ThreadPoolExecutor的,而且從類圖中也可以看出來這種關(guān)系,所以其實ScheduleThreadPoolExecutor是對ThreadPoolExecutor的增強(qiáng),它增加了schedule功能,使用與那些需要周期性調(diào)度執(zhí)行,或者是延時執(zhí)行的任務(wù),在ScheduleThreadPoolExecutor中使用了一種阻塞隊列稱為延時阻塞隊列,這種隊列有能力持有一段時間數(shù)據(jù),我們可以設(shè)定這種時間,時間沒到的時候嘗試獲取數(shù)據(jù)的線程會被阻塞,直到設(shè)定的時間到了,線程才會被喚醒來消費(fèi)數(shù)據(jù)。而關(guān)于ScheduleThreadPoolExecutor是如何運(yùn)作的,包括他的周期性任務(wù)調(diào)度是如何工作的,可以參考上面提到的鏈接。
Future
Future代表一種未來某個時刻會發(fā)生的事情,在并發(fā)環(huán)境下使用Future是非常重要的,使用Future的前提是我們可以容許線程執(zhí)行一段時間來完成這個任務(wù),但是需要在我們提交了任務(wù)的時候就返回一個Future,這樣在接下來的時間程序員可以根據(jù)實際情況來取消任務(wù)或者獲取任務(wù),在多個任務(wù)沒有相互依賴關(guān)系的時候,使用Future可以實現(xiàn)多線程的并發(fā)執(zhí)行,多個線程可以執(zhí)行在不同的處理器上,然后在某個時間點(diǎn)來統(tǒng)一獲取結(jié)果就可以了。上文中已經(jīng)提到了FutureTask,F(xiàn)utureTask既是一種Runnable,也是一種Future,并且結(jié)合了兩種類型的特性。下面展示了Future提供的一些方法,使用這些方法可以很方便的進(jìn)行任務(wù)控制:
public interface Future<V> {
boolean cancel(boolean mayInterruptIfRunning);
boolean isCancelled();
boolean isDone();
V get() throws InterruptedException, ExecutionException;
V get(long timeout, TimeUnit unit)
throws InterruptedException, ExecutionException, TimeoutException;
}
在java 8中增加了一個新的類CompletableFuture,這是對Future的極大增強(qiáng),CompletableFuture提供了非常豐富的操作可以來控制我們的任務(wù),并且可以根據(jù)多種規(guī)則來關(guān)聯(lián)多個Future。關(guān)于CompletableFuture的詳細(xì)分析總結(jié)可以參考文章Java CompletableFuture。
Fork/Join框架
Fork/Join框架是一種并行框架,它可以將一個較大的任務(wù)切分成一些小任務(wù)來執(zhí)行,并且多個線程之間會相互配合,每個線程都會有一個任務(wù)隊列,對于某些線程來說它們可能很快完成了自己的任務(wù)隊列中的任務(wù),但是其他的線程還沒有完成,那么這些線程就會去竊取那些還沒有完成任務(wù)執(zhí)行的線程的任務(wù)來執(zhí)行,這成為“工作竊取”算法,關(guān)于Fork/Join中的工作竊取,其實現(xiàn)還是較為復(fù)雜的,如果想對Fork/Join框架有一個大致的認(rèn)識,可以參考文章Java Fork/Join并行框架。下面展示了Fork/Join框架的工作模式:

可以從上面的圖中看出,一個較大的任務(wù)會被切分為一個小任務(wù),并且小任務(wù)還會繼續(xù)切分,直到符合我們設(shè)定的執(zhí)行閾值,然后就會執(zhí)行,執(zhí)行完成之后會進(jìn)行join,也就是將小任務(wù)的結(jié)果組合起來,組裝出我們提交的整個任務(wù)的結(jié)果,這是一種非常先進(jìn)的工作模式,非常有借鑒意義。當(dāng)然,使用Fork/Join框架的前提是我們的任務(wù)時可以拆分成小任務(wù)來執(zhí)行的,并且小人物的結(jié)果可以組裝出整個大任務(wù)的結(jié)果,歸并排序是一種可以借助Fork/Join框架來提供處理速度的算法,下面展示了使用Fork/Join框架來執(zhí)行歸并排序的代碼,可以試著調(diào)整參數(shù)來進(jìn)行性能測試:
import java.util.Random;
import java.util.concurrent.ForkJoinPool;
import java.util.concurrent.RecursiveAction;
/**
* Created by hujian06 on 2017/10/23.
*
* merge sort by fork/join
*/
public class ForkJoinMergeSortDemo {
public static void main(String ... args) {
new Worker().runWork();
}
}
class Worker {
private static final boolean isDebug = false;
public void runWork() {
int[] array = mockArray(200000000, 1000000); // mock the data
forkJoinCase(array);
normalCase(array);
}
private void printArray(int[] arr) {
if (isDebug == false) {
return;
}
for (int i = 0; i < arr.length; i ++) {
System.out.print(arr[i] + " ");
}
System.out.println();
}
private void forkJoinCase(int[] array) {
ForkJoinPool pool = new ForkJoinPool();
MergeSortTask mergeSortTask = new MergeSortTask(array, 0, array.length - 1);
long start = System.currentTimeMillis();
pool.invoke(mergeSortTask);
long end = System.currentTimeMillis();
printArray(array);
System.out.println("[for/join mode]Total cost: " + (end - start) / 1000.0 + " s, for " +
array.length + " items' sort work.");
}
private void normalCase(int[] array) {
long start = System.currentTimeMillis();
new MergeSortWorker().sort(array, 0, array.length - 1);
long end = System.currentTimeMillis();
printArray(array);
System.out.println("[normal mode]Total cost: " + (end - start) / 1000.0 + " s, for " +
array.length + " items' sort work.");
}
private static final int[] mockArray(int length, int up) {
if (length <= 0) {
return null;
}
int[] array = new int[length];
Random random = new Random(47);
for (int i = 0; i < length; i ++) {
array[i] = random.nextInt(up);
}
return array;
}
}
class MergeSortTask extends RecursiveAction {
private static final int threshold = 100000;
private final MergeSortWorker mergeSortWorker = new MergeSortWorker();
private int[] data;
private int left;
private int right;
public MergeSortTask(int[] array, int l, int r) {
this.data = array;
this.left = l;
this.right = r;
}
@Override
protected void compute() {
if (right - left < threshold) {
mergeSortWorker.sort(data, left, right);
} else {
int mid = left + (right - left) / 2;
MergeSortTask l = new MergeSortTask(data, left, mid);
MergeSortTask r = new MergeSortTask(data, mid + 1, right);
invokeAll(l, r);
mergeSortWorker.merge(data, left, mid, right);
}
}
}
class MergeSortWorker {
// Merges two subarrays of arr[].
// First subarray is arr[l..m]
// Second subarray is arr[m+1..r]
void merge(int arr[], int l, int m, int r) {
// Find sizes of two subarrays to be merged
int n1 = m - l + 1;
int n2 = r - m;
/* Create temp arrays */
int L[] = new int[n1];
int R[] = new int[n2];
/*Copy data to temp arrays*/
for (int i = 0; i < n1; ++i)
L[i] = arr[l + i];
for (int j = 0; j < n2; ++j)
R[j] = arr[m + 1 + j];
/* Merge the temp arrays */
// Initial indexes of first and second subarrays
int i = 0, j = 0;
// Initial index of merged subarry array
int k = l;
while (i < n1 && j < n2) {
if (L[i] <= R[j]) {
arr[k ++] = L[i ++];
} else {
arr[k ++] = R[j ++];
}
}
/* Copy remaining elements of L[] if any */
while (i < n1) {
arr[k ++] = L[i ++];
}
/* Copy remaining elements of R[] if any */
while (j < n2) {
arr[k ++] = R[j ++];
}
}
// Main function that sorts arr[l..r] using
// merge()
void sort(int arr[], int l, int r) {
if (l < r) {
// Find the middle point
int m = l + (r - l) / 2;
// Sort first and second halves
sort(arr, l, m);
sort(arr, m + 1, r);
// Merge the sorted halves
merge(arr, l, m, r);
}
}
}
在jdk中,使用Fork/Join框架的一個典型案例是Streams API,Streams API試圖簡化我們的并發(fā)編程,可以使用很簡單的流式API來處理我們的數(shù)據(jù)流,在我們無感知的狀態(tài)下,其實Streams的實現(xiàn)上借助了Fork/Join框架來實現(xiàn)了并發(fā)計算,所以強(qiáng)烈建議使用Streams API來處理我們的流式數(shù)據(jù),這樣可以充分的利用機(jī)器的多核心資源,來提高數(shù)據(jù)處理的速度。關(guān)于java的Streams API的分析總結(jié)可以參考文章Java Streams API,關(guān)于Stream API是如何使用Fork/Join框架來實現(xiàn)并行計算的內(nèi)容可以參考文章Java Stream的并行實現(xiàn)。鑒于Fork/Join框架的先進(jìn)思想,理解并且學(xué)會使用Fork/Join框架來處理我們的實際問題是非常有必要的。
Java volatile關(guān)鍵字
volatile解決的問題是多個線程的內(nèi)存可見性問題,在并發(fā)環(huán)境下,每個線程都會有自己的工作空間,每個線程只能訪問各自的工作空間,而一些共享變量會被加載到每個線程的工作空間中,所以這里面就有一個問題,內(nèi)存中的數(shù)據(jù)什么時候被加載到線程的工作緩存中,而線程工作空間中的內(nèi)容什么時候會回寫到內(nèi)存中去。這兩個步驟處理不當(dāng)就會造成內(nèi)存可加性問題,也就是數(shù)據(jù)的不一致,比如某個共享變量被線程A修改了,但是沒有回寫到內(nèi)存中去,而線程B在加載了內(nèi)存中的數(shù)據(jù)之后讀取到的共享變量是臟數(shù)據(jù),正確的做法應(yīng)該是線程A的修改應(yīng)該對線程B是可見的,更為通用一些,就是在并發(fā)環(huán)境下共享變量對多個線程是一致的。
對于內(nèi)存可見性的一點(diǎn)補(bǔ)充是,之所以會造成多個線程看到的共享變量的值不一樣,是因為線程在占用CPU時間的時候,cpu為了提高處理速度不會直接和內(nèi)存交互,而是會先將內(nèi)存中的共享內(nèi)容讀取到內(nèi)部緩存中(L1,L2),然后cpu在處理的過程中就只會和內(nèi)部緩存交互,在多核心的機(jī)器中這樣的處理方式就會造成內(nèi)存可見性問題。
volatile可以解決并發(fā)環(huán)境下的內(nèi)存可見性問題,只需要在共享變量前面加上volatile關(guān)鍵字就可以解決,但是需要說明的是,volatile僅僅是解決內(nèi)存可見性問題,對于像i++這樣的問題還是需要使用其他的方式來保證線程安全。使用volatile解決內(nèi)存可見性問題的原理是,如果對被volatile修飾的共享變量執(zhí)行寫操作的話,JVM就會向cpu發(fā)送一條Lock前綴的指令,cpu將會這個變量所在的緩存行(緩存中可以分配的最小緩存單位)寫回到內(nèi)存中去。但是在多處理器的情況下,將某個cpu上的緩存行寫回到系統(tǒng)內(nèi)存之后,其他cpu上該變量的緩存還是舊的,這樣再進(jìn)行后面的操作的時候就會出現(xiàn)問題,所以為了使得所有線程看到的內(nèi)容都是一致的,就需要實現(xiàn)緩存一致性協(xié)議,cpu將會通過監(jiān)控總線上傳遞過來的數(shù)據(jù)來判斷自己的緩存是否過期,如果過期,就需要使得緩存失效,如果cpu再來訪問該緩存的時候,就會發(fā)現(xiàn)緩存失效了,這時候就會重新從內(nèi)存加載緩存。
總結(jié)一下,volatile的實現(xiàn)原則有兩條:
1、JVM的Lock前綴的指令將使得cpu緩存寫回到系統(tǒng)內(nèi)存中去
2、為了保證緩存一致性原則,在多cpu的情景下,一個cpu的緩存回寫內(nèi)存會導(dǎo)致其他的cpu上的緩存都失效,再次訪問會重新從系統(tǒng)內(nèi)存加載新的緩存內(nèi)容。
原子操作CAS
原子操作表達(dá)的意思是要么一個操作成功,要么失敗,中間過程不會被其他的線程中斷,這一點(diǎn)對于并發(fā)編程來說非常重要,在java中使用了大量的CAS來做并發(fā)編程,包括jdk的ConcurrentHsahMap的實現(xiàn),還有AtomicXXX的實現(xiàn)等其他一些并發(fā)工具的實現(xiàn)都使用了CAS這種技術(shù),CAS包括兩部分,也就是Compare and swap,首先是比較,然后再交互,這樣做的原因是,在并發(fā)環(huán)境下,可能不止一個線程想要來改變某個共享變量的值,那么在進(jìn)行操作之前使用一個比較,而這個比較的值是當(dāng)前線程認(rèn)為(知道)該共享變量最新的值,但是可能其他線程已經(jīng)改變了這個值,那么此時CAS操作就會失敗,只有在共享變量的值等于線程提供的用于比較的值的時候才會進(jìn)行原子改變操作。
java中有一個類是專門用于提供CAS操作支持的,那就是Unsafe類,但是我們不能直接使用Unsafe類,因為Unsafe類提供的一些底層的操作,需要非常專業(yè)的人才能使用好,并且Unsafe類可能會造成一些安全問題,所以不建議直接使用Unsafe類,但是如果想使用Unsafe類的話還是有方法的,那就是通過反射來獲取Unsafe實例,類似于下面的代碼:
class UnsafeHolder {
private static Unsafe U = null;
public static Unsafe getUnsafe() {
if (U == null) {
synchronized (UnsafeHolder.class) {
if (U == null) {
List<Exception> exception = null;
try {
Field field = Unsafe.class.getDeclaredField("theUnsafe");
field.setAccessible(true);
try {
U = (Unsafe) field.get(null);
} catch (IllegalAccessException e) {
exception.add(e);
}
} catch (NoSuchFieldException e) {
exception.add(e);
} finally {
if (exception != null) {
reportException(exception);
}
}
}
}
}
return U;
}
/**
* handler the exception in this method .
* @param e The exception
*/
private static void reportException(List<Exception> e) {
e.forEach(System.out::println);
}
}
如果想要了解Unsafe類到底提供了哪些較為底層的操作,可以直接參考Unsafe的源碼。CAS操作解決了原子操作問題,只要進(jìn)行操作,CAS就會保證操作會成功,不會被中斷,這是一種非常好非常強(qiáng)大的特性,下面就java 8中的ConcurrentHashMap的size實現(xiàn)來談?wù)凜AS操作在并發(fā)環(huán)境下的使用案例。
在java 7中,ConcurrentHashMap的實現(xiàn)是基于分段鎖協(xié)議的實現(xiàn),本質(zhì)上還是使用了鎖,只是基于一種考慮,就是多個線程訪問哈希桶具有隨機(jī)性,基于這種考慮來將數(shù)據(jù)存儲在不同的哈希段上面,然后每一個段配有一把鎖,在需要寫某個段的時候需要加鎖,而在這個時候,其他訪問其他段的線程是不需要阻塞的,但是對于該段的線程訪問就需要等待,直到這個加鎖的線程釋放了鎖,其他線程才能進(jìn)行訪問。在java 8中,ConcurrentHashMap的實現(xiàn)拋棄了這種復(fù)雜的架構(gòu)設(shè)計,但是繼承了這種分散線程競爭壓力的思想,其實就提高系統(tǒng)的并發(fā)度這一維度來說,分散競爭壓力是一種最為直接明了的解決方案,而java 8在實現(xiàn)ConcurrentHashMap的時候大量使用了CAS操作,減少了使用鎖的頻度來提高系統(tǒng)的響應(yīng)度,其實使用鎖和使用CAS來做并發(fā)在復(fù)雜度上不是一個數(shù)量級的,使用鎖在很大程度上假設(shè)了多個線程的排斥性,并且使用鎖會將線程阻塞等待,也就是說使用鎖來做線程同步的時候,線程的狀態(tài)是會改變的,但是使用CAS是不會改變線程的狀態(tài)的(不太嚴(yán)謹(jǐn)?shù)恼f),所以使用CAS比起使用synchronized或者使用Lcok來說更為輕量級。
現(xiàn)在就ConcurrentHashMap的size方法來分析一下如何將線程競爭的壓力分散出去。在java 7的實現(xiàn)上,在調(diào)用size方法之后,ConcurrentHashMap會進(jìn)行兩次對哈希桶中的記錄累加的操作,這兩次累加的操作是不加鎖的,然后判斷兩次結(jié)果是否一致,如果一致就說明目前的系統(tǒng)是讀多寫少的場景,并且可能目前沒有線程競爭,所以直接返回就可以,這就避免了使用鎖,但是如果兩次累加結(jié)果不一致,那就說明此時可能寫的線程較多,或者線程競爭較為嚴(yán)重,那么此時ConcurrentHashMap就會進(jìn)行一個重量級的操作,對所有段進(jìn)行加鎖,然后對每一個段進(jìn)行記錄計數(shù),然后求得最終的結(jié)果返回。在最有情況下,size方法需要做兩次累加計數(shù),最壞情況需要三次,并且會涉及全局加鎖這種重量級的加鎖操作,性能肯定是不高的。而在java 8的實現(xiàn)上,ConcurrentHashMap的size方法實際上是與ConcurrentHashMap是解耦的,size方法更像是接入了一個額外的并發(fā)計數(shù)系統(tǒng),在進(jìn)行size方法調(diào)用的時候是不會影響數(shù)據(jù)的存取的,這其實是一種非常先進(jìn)的思想,就是一個系統(tǒng)模塊化,然后模塊可以進(jìn)行更新,系統(tǒng)解耦,比如java 8中接入了并發(fā)計數(shù)組件Striped64來作為size方法的支撐,可能未來出現(xiàn)了比Striped64更為高效的算法來計數(shù),那么只需要將Striped64模塊換成新的模塊就可以了,對原來的核心操作是不影響的,這種模塊化系統(tǒng)設(shè)定的思想應(yīng)該在我們的項目中具體實踐。
上面說到j(luò)ava 8在進(jìn)行size方法的設(shè)計上引入了Striped64這種并發(fā)計數(shù)組件,這種組件的計數(shù)思想其實也是分散競爭,Striped64的實現(xiàn)上使用了volatile和CAS,在Striped64的實現(xiàn)中是看不到鎖的使用的,但是Striped64確實是一種高效的適用于并發(fā)環(huán)境下的計數(shù)組件,它會基于請求計數(shù)的線程,Striped64的計數(shù)會根據(jù)兩部分的內(nèi)容來得到最后的結(jié)果,類似于java 7中ConcurrentHashMap的size方法的實現(xiàn),在Striped64的實現(xiàn)上也是借鑒了這種思想的,Striped64會首先嘗試將某個線程的計數(shù)請求累加到一個base共享變量上,如果成功了,那么說明目前的競爭不是很激烈,也就沒必要后面的操作了,但是很多情況下,并發(fā)環(huán)境下的線程競爭是很激烈的,所以嘗試?yán)奂拥絙ase上的計數(shù)請求很大概率是會失敗的,那么Striped64會維護(hù)一個Cell數(shù)組,每個Cell是一個計數(shù)組件,Striped64會為每個請求計數(shù)的線程計算一個哈希值,然后哈希到Cell數(shù)組中的某個位置上,然后這個線程的計數(shù)就會累加到該Cell上面去。當(dāng)然,Striped64的實現(xiàn)細(xì)節(jié)是非常復(fù)雜的,想要了解Striped64的實現(xiàn)細(xì)節(jié)的讀者可以參考文章Java 并發(fā)計數(shù)組件Striped64詳解,配合Striped64的源碼效果更佳。
并發(fā)同步框架AQS
AQS是java中實現(xiàn)Lock的基礎(chǔ),也是實現(xiàn)線程同步的基礎(chǔ),AQS提供了鎖的語義,并且支持獨(dú)占模式和共享模式,對應(yīng)于悲觀鎖和樂觀鎖,獨(dú)占模式的含義是說同一時刻只能有一個線程獲取鎖,而其他試圖獲取鎖的線程都需要阻塞等待,而共享鎖的含義是說可以有多個線程獲得鎖,兩種模式在不同的場景下使用。
而鎖在并發(fā)編程中的地位不言而喻,多個線程的同步很多時候是需要鎖來做同步的,比如對于某些資源,我們希望可以有多個線程獲得鎖來讀取,但是只允許有一個線程獲得鎖來執(zhí)行寫操作,這種鎖稱為讀寫鎖,它的實現(xiàn)上結(jié)合了AQS的共享模式和獨(dú)占模式,共享模式對應(yīng)于可以使得多個線程獲得鎖來進(jìn)行讀操作,獨(dú)占模式對應(yīng)于只允許有一個線程獲得鎖來進(jìn)行寫操作。關(guān)于java中多個Lock的實現(xiàn)細(xì)節(jié),以及是如何借助AQS來實現(xiàn)其具體邏輯的內(nèi)容,可以參考文章ava可重入鎖詳解。該文章詳細(xì)講述了多個Lock接口的實現(xiàn)類,以及他們是如何借助AQS來實現(xiàn)的具體細(xì)節(jié)。
某些時候,我們需要定制我們自己的線程同步策略,個性化的線程同步借助AQS可以很容易的實現(xiàn),比如我們的需求是允許限定個數(shù)的線程獲得鎖來進(jìn)行一些操作,想要實現(xiàn)這樣的語義,只需要實現(xiàn)一個類,繼承AQS,然后重寫方法下面兩個方法:
protected boolean tryAcquire(int arg) {
throw new UnsupportedOperationException();
}
protected boolean tryRelease(int arg) {
throw new UnsupportedOperationException();
}
關(guān)于AQS的具體分析,可以參考文章Java同步框架AbstractQueuedSynchronizer。
還需要提到的一點(diǎn)是,鎖分為公平鎖和非公平鎖,java中大多數(shù)時候會使用隊列來實現(xiàn)公平鎖,而使用棧來實現(xiàn)非公平鎖,當(dāng)然這是基于隊列和棧這兩種數(shù)據(jù)結(jié)構(gòu)的特點(diǎn)來實現(xiàn)的,直觀的來說,使用隊列的FIFO的特性就可以實現(xiàn)類似排隊的效果,也就保證了公平性,而棧是一個后進(jìn)先出的數(shù)據(jù)結(jié)構(gòu),它的這種結(jié)構(gòu)造成的結(jié)果就是,最新進(jìn)入的線程可能比那些等待過一段時間的線程更早的獲得鎖,更為具體的內(nèi)容可以參考上面的文章進(jìn)行了解。
synchronized(同步鎖)
相對于volatile,synchronized就顯得比較重量級了。
首先,我們應(yīng)該知道,在java中,所有的對象都可以作為鎖。可以分為下面三種情況:
1、普通方法同步,鎖是當(dāng)前對象
2、靜態(tài)方法同步,鎖是當(dāng)前類的Class對象
3、普通塊同步,鎖是synchronize里面配置的對象
當(dāng)一個線程試圖訪問同步代碼時,必須要先獲得鎖,退出或者拋出異常時必須要釋放鎖。
JVM基于進(jìn)入和退出Monitor對象來實現(xiàn)方法同步和代碼塊同步,可以使用monitorenter和monitorexit指令實現(xiàn)。monitorenter指令是在編譯后插入到同步代碼塊的開始位置,而monitorexit指令則插入到方法結(jié)束和異常處,JVM保證每個monitorenter都有一個monitorexit閾值相對應(yīng)。線程執(zhí)行到monitorenter的時候,會嘗試獲得對象所對應(yīng)的monitor的鎖,然后才能獲得訪問權(quán)限,synchronize使用的鎖保存在Java對象頭中。
并發(fā)隊列(阻塞隊列,同步隊列)
并發(fā)隊列,也就是可以在并發(fā)環(huán)境下使用的隊列,為什么一般的隊列不能再并發(fā)環(huán)境下使用呢?因為在并發(fā)環(huán)境下,可能會有多個線程同時來訪問一個隊列,這個時候因為上下文切換的原因可能會造成數(shù)據(jù)不一致的情況,并發(fā)隊列解決了這個問題,并且java中的并發(fā)隊列的使用時非常廣泛的,比如在java的線程池的實現(xiàn)上使用了多種不同特性的阻塞隊列來做任務(wù)隊列,對于阻塞隊列來說,它要解決的首要的兩個問題是:
- 多線程環(huán)境支持,多個線程可以安全的訪問隊列
- 支持生產(chǎn)和消費(fèi)等待,多個線程之間互相配合,當(dāng)隊列為空的時候,消費(fèi)線程會阻塞等待隊列不為空;當(dāng)隊列滿了的時候,生產(chǎn)線程就會阻塞直到隊列不滿。
java中提供了豐富的并發(fā)隊列實現(xiàn),下面展示了這些并發(fā)隊列的概覽:

根據(jù)上面的圖可以將java中實現(xiàn)的并發(fā)隊列分為幾類:
- 一般的阻塞隊列
- 支持雙端存取的并發(fā)隊列
- 支持延時獲取數(shù)據(jù)的延時阻塞隊列
- 支持優(yōu)先級的阻塞隊列
這些隊列的區(qū)別就在于從隊列中存取數(shù)據(jù)時的具體表現(xiàn),比如對于延時隊列來說,獲取數(shù)據(jù)的線程可能被阻塞等待一段時間,也可能立刻返回,對于優(yōu)先級阻塞隊列,獲取的數(shù)據(jù)是根據(jù)一定的優(yōu)先級取到的。下面展示了一些隊列操作的具體表現(xiàn):
| 操作類型 | Throws Exception | Special Value | Blocked | Timed out |
|---|---|---|---|---|
| 插入 | add(o) | offer(o) | put(o) | offer(o, timeout, unit) |
| 取出(刪除) | remove(o) | poll() | take() | poll(timeout, unit) |
- Throws Exception 類型的插入和取出在不能立即被執(zhí)行的時候就會拋出異常。
- Special Value 類型的插入和取出在不能被立即執(zhí)行的情況下會返回一個特殊的值(true 或者 false)
- Blocked 類型的插入和取出操作在不能被立即執(zhí)行的時候會阻塞線程直到可以操作的時候會被其他線程喚醒
- Timed out 類型的插入和取出操作在不能立即執(zhí)行的時候會被阻塞一定的時候,如果在指定的時間內(nèi)沒有被執(zhí)行,那么會返回一個特殊值
關(guān)于更為具體的分析總結(jié)可以參考文章Java 并發(fā)隊列詳解。
無鎖并發(fā)設(shè)計須知
在并發(fā)系統(tǒng)設(shè)計的時候,為了數(shù)據(jù)安全等原因需要對共享數(shù)據(jù)進(jìn)行加鎖訪問,但是使用鎖必然會有開銷,在并并發(fā)系統(tǒng)較為繁忙的時候,這個開銷就變得很可觀了,為了規(guī)避這個問題,無鎖并發(fā)系統(tǒng)設(shè)計成為一種趨勢。
所謂無鎖并發(fā),即在進(jìn)行并發(fā)系統(tǒng)設(shè)計的時候不使用鎖,而使用一些其他的技術(shù)來達(dá)到鎖的效果,在java中,CAS技術(shù)是無鎖并發(fā)系統(tǒng)設(shè)計的基礎(chǔ)技術(shù),結(jié)合CAS和spin即可實現(xiàn)無鎖并發(fā)系統(tǒng)的設(shè)計,但是,因為涉及spin,也就是自旋,所以需要特別注意CPU 100%的問題,以及因為使用無鎖,如果沒有做好線程競爭管理,就會出現(xiàn)線程饑餓的問題,下面是在使用CAS進(jìn)行無鎖并發(fā)系統(tǒng)設(shè)計時需要注意的一些問題:
- (1)、使用隊列來管理競爭線程,解決線程饑餓的問題
- (2)、在多次CAS無果之后,請讓線程休息一會,讓出CPU使得一些其他的事情得到處理
- (3)、避免出現(xiàn)CPU 100%的問題
如果沒有足夠的CAS經(jīng)驗,不推薦使用CAS來進(jìn)行無鎖并發(fā)設(shè)計,使用鎖可以方便快速的解決并發(fā)問題,并且性能問題逐漸得到解決,所以,如果對性能不是要求特別嚴(yán)苛,使用鎖即可,當(dāng)然,鎖的使用也需要合理,否則性能依然會成為一個很大的問題。
總結(jié)
本文總結(jié)了java并發(fā)編程中的若干核心技術(shù),并且對每一個核心技術(shù)都做了一些分析,并給出了參考鏈接,可以在參考鏈接中查找到更為具體深入的分析總結(jié)內(nèi)容。java并發(fā)編程需要解決一些問題,比如線程間同步問題,如何保證數(shù)據(jù)可見性問題,以及如何高效的協(xié)調(diào)多個線程工作等內(nèi)容,本文在這些維度上都有所設(shè)計,本文作為對閱讀java.util.Concurrent包的源碼閱讀的一個總結(jié),同時本文也作為一個起點(diǎn),一個開始更高層次分析總結(jié)的起點(diǎn),之前的分析都是基于jdk源碼來進(jìn)行的,并且某些細(xì)節(jié)的內(nèi)容還沒有完全搞明白,其實在閱讀了一些源碼之后就會發(fā)現(xiàn),如果想要深入分析某個方面的內(nèi)容,就需要一些底層的知識,否則很難完整的分析總結(jié)出來,但是這種不徹底的分析又是很有必要的,至少可以對這些內(nèi)容有一些大概的了解,并且知道自己的不足,以及未來需要了解的底層內(nèi)容。對于java并發(fā)包的分析研究,深入到底層就是對jvm如何管理內(nèi)容,如何管理線程的分析,在深入下去,就是操作系統(tǒng)對內(nèi)存的管理,對線程的管理等內(nèi)容,從操作系統(tǒng)再深入下去,就是去理解cpu的指令系統(tǒng),學(xué)習(xí)磁盤知識等內(nèi)容,當(dāng)然,知識的關(guān)聯(lián)是無止境的,學(xué)習(xí)也是無止境的,目前來說,首要解決的問題是可以熟練的使用java提供的并發(fā)包內(nèi)容來進(jìn)行并發(fā)編程,在業(yè)務(wù)上提高并發(fā)處理能力,在出現(xiàn)問題的時候可以很快找到問題并且解決問題,在達(dá)到這個要求之后,可以去了解一些jvm層次的內(nèi)容,比如jvm的內(nèi)存模型,以及線程的實現(xiàn),并且可以與學(xué)習(xí)操作系統(tǒng)的相關(guān)內(nèi)容并行進(jìn)行。