簡介
asyncio可以實(shí)現(xiàn)單線程并發(fā)IO操作，是Python中常用的異步處理模塊。關(guān)于asyncio模塊的介紹，筆者會(huì)在后續(xù)的文章中加以介紹，本文將會(huì)講述一個(gè)基于asyncio實(shí)現(xiàn)的HTTP框架——aiohttp，它可以幫助我們異步地實(shí)現(xiàn)HTTP請求，從而使得我們的程序效率大大提高。
本文將會(huì)介紹aiohttp在爬蟲中的一個(gè)簡單應(yīng)用。
在原來的項(xiàng)目中，我們是利用Python的爬蟲框架scrapy來爬取當(dāng)當(dāng)網(wǎng)圖書暢銷榜的圖書信息的。在本文中，筆者將會(huì)以兩種方式來制作爬蟲，比較同步爬蟲與異步爬蟲(利用aiohttp實(shí)現(xiàn))的效率，展示aiohttp在爬蟲方面的優(yōu)勢。
同步爬蟲
首先，我們先來看看用一般的方法實(shí)現(xiàn)的爬蟲，即同步方法，完整的Python代碼如下：
輸出結(jié)果如下：
程序運(yùn)行了23.5秒，爬取了500本書的信息，效率還是可以的。我們前往目錄中查看文件，如下：
異步爬蟲
接下來我們看看用aiohttp制作的異步爬蟲的效率，完整的源代碼如下：
我們可以看到，這個(gè)爬蟲與原先的一般方法的爬蟲的思路和處理方法基本一致，只是在處理HTTP請求時(shí)使用了aiohttp模塊以及在解析網(wǎng)頁時(shí)函數(shù)變成了協(xié)程(coroutine)，再利用aysncio進(jìn)行并發(fā)處理，這樣無疑能夠提升爬蟲的效率。它的運(yùn)行結(jié)果如下：
2.4秒，如此神奇！?。≡賮砜纯次募膬?nèi)容：
總結(jié)
綜上可以看出，利用同步方法和異步方法制作的爬蟲的效率相差很大，因此，我們在實(shí)際制作爬蟲的過程中，也不妨可以考慮異步爬蟲，多多利用異步模塊，如aysncio, aiohttp。另外，aiohttp只支持3.5.3以后的Python版本。
當(dāng)然，本文只是作為一個(gè)異步爬蟲的例子，并沒有具體講述異步背后的故事，而異步的思想在我們現(xiàn)實(shí)生活和網(wǎng)站制作等方面有著廣泛的應(yīng)用，本文到此結(jié)束，歡迎大家交流~
