Python線程池

mutilprocessing.dummy

multiprocessing.dummy 模塊與 multiprocessing 模塊的區(qū)別: dummy 模塊是多線程,而 multiprocessing 是多進(jìn)程, api 都是通用的。 所有可以很方便將代碼在多線程和多進(jìn)程之間切換

# from multiprocessing import Pool
from multiprocessing.dummy import Pool as ThreadPool
import time
import urllib2

urls = [
    'http://www.baidu.com',
    'http://home.baidu.com/',
    'http://tieba.baidu.com/',
    'http://zhidao.baidu.com/',
    'http://music.baidu.com/',
    'http://image.baidu.com/',
    'http://python-china.org/',
    'http://python-china.org/node/about',
    'http://python-china.org/node/',
    'http://python-china.org/account/signin',
    'http://python-china.org/account/signup',
    'http://www.qq.com',
    'http://www.youku.com',
    'http://www.tudou.com'
]

start = time.time()
results = map(urllib2.urlopen, urls)
print 'Normal:', time.time() - start

start2 = time.time()
# 開8個(gè) worker,沒有參數(shù)時(shí)默認(rèn)是 cpu 的核心數(shù)
pool = ThreadPool(processes=8)
# 在線程中執(zhí)行 urllib2.urlopen(url) 并返回執(zhí)行結(jié)果
results2 = pool.map(urllib2.urlopen, urls)
pool.close()
pool.join()
print 'Thread Pool:', time.time() - start2
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 179,111評(píng)論 25 709
  • 為了在項(xiàng)目中管理優(yōu)化線程數(shù)量,線程池是必不可少的。Python的在multiprocess中有進(jìn)程池作為進(jìn)程管理,...
    slords閱讀 490評(píng)論 0 1
  • 最近一個(gè)項(xiàng)目上使用線程池,設(shè)定處理項(xiàng)1W,10線程,但是需要檢測線程進(jìn)行狀態(tài)。出現(xiàn)錯(cuò)誤N次,就自動(dòng)終止線程。實(shí)現(xiàn)如...
    迷途老鷹閱讀 1,038評(píng)論 0 5
  • 材料準(zhǔn)備 1. 各種紙:包裝紙、手工紙、日本紙、打印紙、素描紙、紙板……基本平時(shí)隨意收集一些紙,不同厚度不同質(zhì)感,...
    冉冉狐生竹閱讀 16,762評(píng)論 5 128

友情鏈接更多精彩內(nèi)容