charts 2

再次順手寫了一個爬蟲,把數(shù)據(jù)存在數(shù)據(jù)庫。然后利用time date模塊分析了每天的發(fā)帖數(shù),利用charts做成表格。
要點(diǎn):
1.爬蟲,requests,beautifulSoup的css選擇器
2.py連接數(shù)據(jù)庫操作insert_one,find({},{}),update()等
3.charts表格使用,折現(xiàn)type:line,很方便。
4.time date模塊,理解了datetime是一個時間的類,timetelta是時間間隔,strptime,strftime,now等函數(shù)。詳見<a >廖雪峰datetime部分</a>

import requests,datetime,pymongo,charts
from bs4 import BeautifulSoup

client = pymongo.MongoClient('localhost',27017)
tieba = client['tieba']
time_list = tieba['time_list']
time2_list = tieba['time2_list']

#把日期存入數(shù)據(jù)庫
'''
start_url = 'https://tieba.baidu.com/p/5062169335?pn='
headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64; rv:53.0) Gecko/20100101 Firefox/53.0'
}
for i in range(1,14):
    try:     
        url = start_url + str(i)
        r = requests.get(url,timeout = 20,headers = headers)
        r.raise_for_status()
    except:
        print('erroe')
    soup = BeautifulSoup(r.text,'lxml')
    date = soup.select('div.post-tail-wrap > span:nth-of-type(4)')
    for each in date:
        time_list.insert_one({'date':each.text[:10]})
'''
#把數(shù)據(jù)從數(shù)據(jù)庫取出處理
index_time = []
count_time = []

start_day = datetime.date(2017,4,8)
end_day = datetime.date(2017,5,6)
days = datetime.timedelta(days=1)
while start_day <= end_day:
    index_time.append(start_day.strftime('%Y-%m-%d'))
    start_day +=days
#print(index_time)

for date in index_time:
    a = list(time_list.find({'date':date}))
    count_time.append(len(a))
#print(count_time)


options = {
    'chart'   : {'zoomType':'xy'},
    'title'   : {'text': '發(fā)帖量統(tǒng)計'},
    'subtitle': {'text': '可視化統(tǒng)計圖表'},
    'xAxis'   : {'categories': index_time},
    'yAxis'   : {'title': {'text': '數(shù)量'}}
    }
series = [{'data':count_time,'name':'在所有物是人非的','type':'line'}] #只統(tǒng)計了一個貼吧,可以統(tǒng)計多個貼吧,畫多條曲線
charts.plot(series,show = 'inline',options=options)

結(jié)果,由于charts是由js生成的,可以放大縮小觀看曲線,但不能保存,只能夠截個圖來看看了

圖片.png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 原文鏈接:http://www.cnblogs.com/lhj588/archive/2012/04/23/246...
    qtruip閱讀 1,414評論 0 0
  • 國家電網(wǎng)公司企業(yè)標(biāo)準(zhǔn)(Q/GDW)- 面向?qū)ο蟮挠秒娦畔?shù)據(jù)交換協(xié)議 - 報批稿:20170802 前言: 排版 ...
    庭說閱讀 12,493評論 6 13
  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 136,677評論 19 139
  • 不知道是不是“悟空”后代。 百科里的猴子定義: 猴子。是三種類人猿靈長目動物的成員,靈長目是動物界的種群,猴子一般...
    認(rèn)知成長筆記閱讀 1,026評論 2 1
  • “雨蝶,即使你做了那么多,最后,你也得不到你想要的結(jié)果,放下吧,不要再執(zhí)迷不悟了,你愛的那個人,已經(jīng)死了…...
    竹月瀟湘閱讀 563評論 1 1

友情鏈接更多精彩內(nèi)容