什么是網(wǎng)絡(luò)爬蟲？

網(wǎng)絡(luò)爬蟲是一個自動提取網(wǎng)頁的程序，它為搜索引擎從萬維網(wǎng)上下載網(wǎng)頁，是搜索引擎的重要組成。傳統(tǒng)爬蟲從一個或若干初始網(wǎng)頁的URL開始，獲得初始網(wǎng)頁上的URL，在抓取網(wǎng)頁的過程中，不斷從當前頁面上抽取新的URL放入隊列,直到滿足系統(tǒng)的一定停止條件

爬蟲有什么用？

在這里還是要推薦下我自己建的Python開發(fā)學習群:483546416，群里都是學Python開發(fā)的，如果你正在學習Python ，小編歡迎你加入，大家都是軟件開發(fā)黨，不定期分享干貨（只有Python軟件開發(fā)相關(guān)的），包括我自己整理的一份2018最新的Python進階資料和高級開發(fā)教程，歡迎進階中和進想深入Python的小伙伴

做為通用搜索引擎網(wǎng)頁收集器。（google,baidu）

做垂直搜索引擎.

科學研究：在線人類行為，在線社群演化，人類動力學研究，計量社會學，復雜網(wǎng)絡(luò)，數(shù)據(jù)挖掘，等領(lǐng)域的實證研究都需要大量數(shù)據(jù)，網(wǎng)絡(luò)爬蟲是收集相關(guān)數(shù)據(jù)的利器。

偷窺，hacking，發(fā)垃圾郵件……

爬蟲是搜索引擎的第一步也是最容易的一步

? 網(wǎng)頁搜集

? 建立索引

? 查詢排序

用什么語言寫爬蟲？

C，C++。高效率，快速，適合通用搜索引擎做全網(wǎng)爬取。缺點，開發(fā)慢，寫起來又臭又長，例如：天網(wǎng)搜索源代碼。

腳本語言：Perl, Python, Java, Ruby。簡單，易學，良好的文本處理能方便網(wǎng)頁內(nèi)容的細致提取，但效率往往不高，適合對少量網(wǎng)站的聚焦爬取

C#？（貌似信息管理的人比較喜歡的語言）

為什么最終選擇Python？

跨平臺，對Linux和windows都有不錯的支持。

科學計算，數(shù)值擬合：Numpy，Scipy

可視化：2d：Matplotlib(做圖很漂亮), 3d: Mayavi2

復雜網(wǎng)絡(luò)：Networkx

統(tǒng)計：與R語言接口：Rpy

交互式終端

網(wǎng)站的快速開發(fā)？

一個簡單的Python爬蟲