python 進(jìn)程

一多任務(wù)的引入

有很多的場景中的事情是同時進(jìn)行的,比如開車的時候手和腳共同來駕駛汽車,再比如唱歌跳舞也是同時進(jìn)行的;

在編程中,一邊唱歌一邊跳舞是如何實(shí)現(xiàn)的呢?


·很顯然剛剛的程序并沒有完成唱歌和跳舞同時進(jìn)行的要求

·如果想要實(shí)現(xiàn)“唱歌跳舞”同時進(jìn)行,那么就需要一個新的方法,叫做:多任務(wù)

二多任務(wù)的概念

什么叫“多任務(wù)”呢?簡單地說,就是操作系統(tǒng)可以同時運(yùn)行多個任務(wù)。打個比方,你一邊在用瀏覽器上網(wǎng),一邊在聽MP3,一邊在用Word趕作業(yè),這就是多任務(wù),至少同時有3個任務(wù)正在運(yùn)行。還有很多任務(wù)悄悄地在后臺同時運(yùn)行著,只是桌面上沒有顯示而已。

現(xiàn)在,多核CPU已經(jīng)非常普及了,但是,即使過去的單核CPU,也可以執(zhí)行多任務(wù)。由于CPU執(zhí)行代碼都是順序執(zhí)行的,那么,單核CPU是怎么執(zhí)行多任務(wù)的呢?

答案就是操作系統(tǒng)輪流讓各個任務(wù)交替執(zhí)行,任務(wù)1執(zhí)行0.01秒,切換到任務(wù)2,任務(wù)2執(zhí)行0.01秒,再切換到任務(wù)3,執(zhí)行0.01秒……這樣反復(fù)執(zhí)行下去。表面上看,每個任務(wù)都是交替執(zhí)行的,但是,由于CPU的執(zhí)行速度實(shí)在是太快了,我們感覺就像所有任務(wù)都在同時執(zhí)行一樣。

真正的并行執(zhí)行多任務(wù)只能在多核CPU上實(shí)現(xiàn),但是,由于任務(wù)數(shù)量遠(yuǎn)遠(yuǎn)多于CPU的核心數(shù)量,所以,操作系統(tǒng)也會自動把很多任務(wù)輪流調(diào)度到每個核心上執(zhí)行。


三進(jìn)程的創(chuàng)建-fork

1.進(jìn)程 vs 程序

編寫完畢的代碼,在沒有運(yùn)行的時候,稱之為程序

正在運(yùn)行著的代碼,就成為進(jìn)程

進(jìn)程,除了包含代碼以外,還有需要運(yùn)行的環(huán)境等,所以和程序是有區(qū)別的。

2.fork

Python的os模塊封裝了常見的系統(tǒng)調(diào)用,其中就包括fork,可以在Python程序中輕松創(chuàng)建子進(jìn)程:

·程序執(zhí)行到os.fork()時,操作系統(tǒng)會創(chuàng)建一個新的進(jìn)程(子進(jìn)程),然后復(fù)制父進(jìn)程的所有信息到子進(jìn)程中。

·然后父進(jìn)程和子進(jìn)程都會從fork()函數(shù)中得到一個返回值,在子進(jìn)程中這個值一定是0,而父進(jìn)程中是子進(jìn)程的id號。

在Unix/Linux操作系統(tǒng)中,提供了一個fork()系統(tǒng)函數(shù),它非常特殊。

普通的函數(shù)調(diào)用,調(diào)用一次,返回一次,但是fork()調(diào)用一次,返回兩次,因?yàn)椴僮飨到y(tǒng)自動把當(dāng)前進(jìn)程(稱為父進(jìn)程)復(fù)制了一份(稱為子進(jìn)程),然后,分別在父進(jìn)程和子進(jìn)程內(nèi)返回。

子進(jìn)程永遠(yuǎn)返回0,而父進(jìn)程返回子進(jìn)程的ID。

這樣做的理由是,一個父進(jìn)程可以fork出很多子進(jìn)程,所以,父進(jìn)程要記下每個子進(jìn)程的ID,而子進(jìn)程只需要調(diào)用getppid()就可以拿到父進(jìn)程的ID。

四getpid(),getppid()


通過os.pid()和os.ppid()可以獲得程序的子進(jìn)程的進(jìn)程號和父進(jìn)程的進(jìn)程號

五多進(jìn)程修改全局變量

·多進(jìn)程中,每個進(jìn)程中所有數(shù)據(jù)(包括全局變量)都各有擁有一份,互不影響。

六多次fork問題

如果在一個程序,有2次的fork函數(shù)調(diào)用,是否就會有3個進(jìn)程呢?



父子進(jìn)程的執(zhí)行順序

父進(jìn)程、子進(jìn)程執(zhí)行順序沒有規(guī)律,完全取決于操作系統(tǒng)的調(diào)度算法

七multiprocessing

1 fork只能在Unix/Linux上使用

multiprocessing模塊就是跨平臺版本的多進(jìn)程模塊,可以在windows系統(tǒng)上使用。

multiprocessing模塊提供了一個Process類來代表一個進(jìn)程對象,下面的例子演示了啟動一個子進(jìn)程并等待其結(jié)束:


創(chuàng)建子進(jìn)程時,只需要傳入一個執(zhí)行函數(shù)和函數(shù)的參數(shù),創(chuàng)建一個Process實(shí)例,用start方法啟動,比fork()還簡單.

·join()方法可以等待子進(jìn)程結(jié)束后再繼續(xù)往下運(yùn)行,通常用于進(jìn)程間的同步。

Process語法結(jié)構(gòu)如下:

Process([group [, target [, name [, args [, kwargs]]]]])

target:表示這個進(jìn)程實(shí)例所調(diào)用對象

args:表示調(diào)用對象的位置參數(shù)元組

kwargs:表示調(diào)用對象的關(guān)鍵字參數(shù)字典

name:為當(dāng)前進(jìn)程實(shí)例的別名

group:大多數(shù)情況下用不到

Process類常用方法:

·is_alive():判斷進(jìn)程實(shí)例是否還在執(zhí)行;

·join([timeout]):是否等待進(jìn)程實(shí)例執(zhí)行結(jié)束,或等待多少秒;

·start():啟動進(jìn)程實(shí)例(創(chuàng)建子進(jìn)程);

·run():如果沒有給定target參數(shù),對這個對象調(diào)用start()方法時,就將執(zhí)行對象中的run()方法;

·terminate():不管任務(wù)是否完成,立即終止;

Process類常用屬性:

·name:當(dāng)前進(jìn)程實(shí)例別名,默認(rèn)為Process-N,N為從1開始遞增的整數(shù);

·pid:當(dāng)前進(jìn)程實(shí)例的PID值;

實(shí)例1:


實(shí)例二:


八進(jìn)程的創(chuàng)建-Process子類

創(chuàng)建新的進(jìn)程還能夠使用類的方式,可以自定義一個類,繼承Process類,每次實(shí)例化這個類的時候,就等同于實(shí)例化一個進(jìn)程對象,請看下面的實(shí)例:


兩種方式的對比:

1、方法

2、繼承類

繼承類是以面向?qū)ο罂紤]這個事的,所以業(yè)務(wù)邏輯復(fù)雜,建議使用繼承類,更好理解

九進(jìn)程池Pool

當(dāng)需要創(chuàng)建的子進(jìn)程數(shù)量不多時,可以直接利用multiprocessing中的Process動態(tài)成生多個進(jìn)程,但如果是上百甚至上千個目標(biāo),手動的去創(chuàng)建進(jìn)程的工作量巨大,此時就可以用到multiprocessing模塊提供的Pool方法。

初始化Pool時,可以指定一個最大進(jìn)程數(shù),當(dāng)有新的請求提交到Pool中時,如果池還沒有滿,那么就會創(chuàng)建一個新的進(jìn)程用來執(zhí)行該請求;但如果池中的進(jìn)程數(shù)已經(jīng)達(dá)到指定的最大值,那么該請求就會等待,直到池中有進(jìn)程結(jié)束,才會創(chuàng)建新的進(jìn)程來執(zhí)行,請看下面的實(shí)例:



multiprocessing.Pool常用函數(shù)解析:

1創(chuàng)建一個進(jìn)程池

from multiprocessing import Pool

po=Pool(num)

num等于進(jìn)程池中的進(jìn)程數(shù)量,如果不設(shè)置num默認(rèn)可以放任意數(shù)量進(jìn)程

2為進(jìn)程池中添加進(jìn)程(非阻塞式)

po.apply_async(func,(args,),(kwargs,))

使用非阻塞方式調(diào)用func,func為創(chuàng)建子進(jìn)程的函數(shù)名(并行執(zhí)行,阻塞方式必須等待上一個進(jìn)程退出才能執(zhí)行下一個進(jìn)程),args為傳遞給func的參數(shù)列表,kwargs為傳遞給func的關(guān)鍵字參數(shù)列表;

3為進(jìn)程池中添加進(jìn)程(阻塞式)

po.apply(func,(args,),(kwargs,))

和非阻塞式最大的區(qū)別就是上一個進(jìn)程退出才能調(diào)用下一個進(jìn)程

4關(guān)閉進(jìn)程池

po.close()

關(guān)閉Pool,使其不再接受新的任務(wù)

5終止進(jìn)程

pool.terminate()

不管任務(wù)是否完成,立刻終止

6 join

pool.join()

主進(jìn)程阻塞,等待子進(jìn)程的退出,必須在close或terminate之后使用

apply阻塞式的實(shí)例:


十進(jìn)程間通信-Queue

Process之間有時需要通信,操作系統(tǒng)提供了很多機(jī)制來實(shí)現(xiàn)進(jìn)程間的通信。

1 Queue的使用

可以使用multiprocessing模塊中的Queue來實(shí)現(xiàn)多進(jìn)程之間的數(shù)據(jù)傳遞,Queue本身是一個消息列隊(duì)程序,下面用一個小程序來演示Queue的工作原理:


推薦放消息的方式:判斷隊(duì)列是否已滿,再寫入;

推薦讀消息的方式:判斷隊(duì)列是否為空,再讀?。?/p>


說明

初始化Queue()對象時(例如q=Queue()),若括號中沒有指定最大可接收的消息數(shù)量或數(shù)量為負(fù)值,那么就代表可接受的消息數(shù)量沒有上限。

q=Queue(3)

①q.qsize()

返回當(dāng)前隊(duì)列中包含的消息數(shù)量;

②q.empty()

如果隊(duì)列為空,返回True,反之False;

q.full()

·如果隊(duì)列滿了,返回True,反之False;

④q.get(block,timeout)

·獲取隊(duì)列中的一條消息,然后將其從列隊(duì)中移除,block默認(rèn)值為True;

1)如果block使用默認(rèn)值,且沒有設(shè)置timeout(單位秒),消息列隊(duì)如果為空,此時程序?qū)⒈蛔枞ㄍT谧x取狀態(tài)),直到從消息列隊(duì)讀到消息為止,如果設(shè)置了timeout,則會等待timeout秒,若還沒讀取到任何消息,則拋出"Queue.Empty"異常;

2)如果block值為False,消息列隊(duì)如果為空,則會立刻拋出"Queue.Empty"異常;

⑤q.get_nowait()

相當(dāng)Queue.get(False);

⑥q.put(item,[block[, timeout]])

將item消息寫入隊(duì)列,block默認(rèn)值為True;

1)如果block使用默認(rèn)值,且沒有設(shè)置timeout(單位秒),消息列隊(duì)如果已經(jīng)沒有空間可寫入,此時程序?qū)⒈蛔枞ㄍT趯懭霠顟B(tài)),直到從消息列隊(duì)騰出空間為止,如果設(shè)置了timeout,則會等待timeout秒,若還沒空間,則拋出"Queue.Full"異常;

2)如果block值為False,消息列隊(duì)如果沒有空間可寫入,則會立刻拋出"Queue.Full"異常;

⑦q.put_nowait(item)

相當(dāng)Queue.put(item, False);

2 Queue實(shí)例

注意參數(shù)的傳遞

我們以Queue為例,在父進(jìn)程中創(chuàng)建兩個子進(jìn)程,一個往Queue里寫數(shù)據(jù),一個從Queue里讀數(shù)據(jù):


3 進(jìn)程池中的Queue

如果要使用Pool創(chuàng)建進(jìn)程,就需要使用multiprocessing.Manager()中的Queue(),而不是multiprocessing.Queue(),否則會得到一條如下的錯誤信息:

RuntimeError: Queue objects should only be shared between processes through inheritance.

下面的實(shí)例演示了進(jìn)程池中的進(jìn)程如何通信:



最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容