Python 進(jìn)程、進(jìn)程通信 進(jìn)程池

一:多進(jìn)程的優(yōu)點(diǎn)、應(yīng)用場(chǎng)景

耗CPU計(jì)算時(shí)多進(jìn)程速度大于多線程,可以最大化利用CPU計(jì)算。多進(jìn)程有更強(qiáng)的容錯(cuò)性,一個(gè)進(jìn)程出錯(cuò)不會(huì)影響其他進(jìn)程。通常不需要考慮鎖和同步資源的問(wèn)題。

二:進(jìn)程使用方法

  • 實(shí)例化 multiprocessing.Process,調(diào)用Threading的方法去進(jìn)行多線程編程
  • 寫子類繼承 multiprocessing.Process,重寫相應(yīng)的方法
    說(shuō)明:當(dāng)程序簡(jiǎn)單時(shí)可使用實(shí)例化方法,當(dāng)程序較復(fù)雜的時(shí)候,實(shí)現(xiàn)邏輯較多,第二種方法。
  • linux 中 os.fork() 拷貝父進(jìn)程全部數(shù)據(jù)資源,fork之后的代碼父子進(jìn)程都會(huì)繼續(xù)運(yùn)行。
  • concurrent.futures 下的 ProcessPoolExecutor 就像上次的多線程那樣操作,非常類似。

三: 進(jìn)程間通信

  • 共享全局變量不適用多進(jìn)程,多線程可以用。因?yàn)槎噙M(jìn)程的數(shù)據(jù)資源是隔離開的,相互獨(dú)立無(wú)法共享變量。
  • 需要明確的是多進(jìn)程間的通信和多線程不一樣,不能用 queue.Queue 作為隊(duì)列要用multiprocessing.Queue
  • multiprocessingQueue 不能用于 Pool ( 進(jìn)程池),需要用multiprocessingManagerQueue,需要實(shí)例化:queue = Manager().Queue()
  • multiprocessingPipe:用法 recevid_pipe, send_pipe = Pipe() 只能適用于兩個(gè)指定的進(jìn)程。性能高于queue

四:進(jìn)程的實(shí)例代碼

#方法一:multiprocessing.Process
import multiprocessing
import requests

def download_html(i):
    url = f'https://www.baidu.com/s?ie=UTF-8&wd={i}'
    response = requests.get(url).text
    print(response)

ids = list(range(100))

# 方法一
for i in range(5):
    p = multiprocessing.Process(target=process, args=(i,))
    p.start()


# 方法二
def multipro_main(ids ):
    pool = multiprocessing.Pool(10)
    pool.map(download_html, ids)
    pool.close()
    pool.join()

# 方法三
from multiprocessing.dummy import   Pool as thpool
def thread_pool(ids ):
    pool = thpool(10)
    pool.map(download_html, ids)
    pool.close()
    pool.join()

# 方法四 (推薦,和多線程接口類似)
from concurrent.futures import ProcessPoolExecutor
with ProcessPoolExecutor(10) as executor:
    executor.map(download_html, ids)

五:總結(jié)

concurrent.futures 是一個(gè)非常不錯(cuò)的庫(kù),多線程和多進(jìn)程無(wú)縫切換,非常方便。這個(gè)庫(kù)設(shè)計(jì)思路也很好,為后面的寫異步協(xié)程的代碼也打下基礎(chǔ)。
代碼位置:github.com/rieuse/learnPython

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 必備的理論基礎(chǔ) 1.操作系統(tǒng)作用: 隱藏丑陋復(fù)雜的硬件接口,提供良好的抽象接口。 管理調(diào)度進(jìn)程,并將多個(gè)進(jìn)程對(duì)硬件...
    drfung閱讀 3,748評(píng)論 0 5
  • 一. 操作系統(tǒng)概念 操作系統(tǒng)位于底層硬件與應(yīng)用軟件之間的一層.工作方式: 向下管理硬件,向上提供接口.操作系統(tǒng)進(jìn)行...
    月亮是我踢彎得閱讀 6,145評(píng)論 3 28
  • 多進(jìn)程 要讓python程序?qū)崿F(xiàn)多進(jìn)程,我們先了解操作系統(tǒng)的相關(guān)知識(shí)。 Unix、Linux操作系統(tǒng)提供了一個(gè)fo...
    蓓蓓的萬(wàn)能男友閱讀 674評(píng)論 0 1
  • 1.關(guān)于mount的掛載 注意:在Linux系統(tǒng)中所有的設(shè)備都看作文件,因此只需要使用掛載命令mount將 Win...
    南方老F閱讀 1,852評(píng)論 0 0
  • 今天上了半天班,就去吃飯了,和親戚一起,感受到親情的溫暖。下星期的現(xiàn)在我已經(jīng)考完了,可是如今還有時(shí)間去復(fù)習(xí),所以不...
    闌十三閱讀 476評(píng)論 0 11

友情鏈接更多精彩內(nèi)容