這個篇幅呢我們打算用Go做一個實戰(zhàn)的項目,我們選擇的是一個分布式的網(wǎng)絡爬蟲但是這個只是一個比較小型的爬蟲,我們要爬的是一個相親網(wǎng)站,希望你學完這個項目呢!可以自己在爬取其他的網(wǎng)站比如房子,車子了?。。?!這個項目架構并不是很完備后期可能也需要大家不斷的迭代升級,這個就像打游戲吧!慢慢的你就越來越強了。。。。
最近爬蟲越來越火這也得益于數(shù)據(jù)與AI時代的到來,我們必須要有大量的數(shù)據(jù),才能更準確的分析數(shù)據(jù)趨向,得到更加準確的結果。
那么我們數(shù)據(jù)從哪里來的呢?一部分是我自己有的,另一部分就是靠我們的爬蟲了。。。。。
那么爬蟲有哪些分類呢?
通用爬蟲:如baidu, google
聚焦爬蟲: 從互聯(lián)網(wǎng)獲取結構化的數(shù)據(jù)

spider.png
我會給大家從0搭建一個爬蟲項目,當然你也可以用一些爬蟲的庫,或者框架,這里我們就不用了。
最終我會給大家搭一個前端,并且用到es搜索docker等相關技術棧,可以說是彩蛋多多呀?。。?br>
關于項目的代碼,希望大家可以一起努力,不斷的更新?。。。。。?!
我可以這么說,如果你把這個項目從頭跟下來吃透,那么你的Go語言能力就已經(jīng)還不錯了。加油?。。。?br>
建議:我發(fā)布的時候是按照順序進行發(fā)布的,小伙伴們跟著目錄順序走就可以了。。。。。大約有50節(jié),每節(jié)都有干貨,堅持學完相信你會進步很多。。。。。