Beautiful Soup 庫(kù)一般被稱為bs4庫(kù)，支持Python3，是我們寫爬蟲非常好的第三方庫(kù)。因用起來十分的簡(jiǎn)便流暢。所以也被人叫做“美味湯”。目前bs4庫(kù)的最新版本是4.60。下文會(huì)介紹該庫(kù)的最基本的使用，具體詳細(xì)的細(xì)節(jié)還是要看：[官方文檔](Beautiful Soup Documentation)
bs4庫(kù)的安裝
Python的強(qiáng)大之處就在于他作為一個(gè)開源的語言，有著許多的開發(fā)者為之開發(fā)第三方庫(kù)，這樣我們開發(fā)者在想要實(shí)現(xiàn)某一個(gè)功能的時(shí)候，只要專心實(shí)現(xiàn)特定的功能，其他細(xì)節(jié)與基礎(chǔ)的部分都可以交給庫(kù)來做。bs4庫(kù) 就是我們寫爬蟲強(qiáng)有力的幫手。
安裝的方式非常簡(jiǎn)單：我們用pip工具在命令行里進(jìn)行安裝
$ pip install beautifulsoup4
接著我們看一下是否成功安裝了bs4庫(kù)
$ pip list
這樣我們就成功安裝了 bs4 庫(kù)
bs4庫(kù)的簡(jiǎn)單使用
這里我們先簡(jiǎn)單的講解一下bs4庫(kù)的使用，
暫時(shí)不去考慮如何從web上抓取網(wǎng)頁，
假設(shè)我們需要爬取的html是如下這么一段：
下面的一段HTML代碼將作為例子被多次用到.這是 愛麗絲夢(mèng)游仙境的 的一段內(nèi)容(以后內(nèi)容中簡(jiǎn)稱為 愛麗絲 的文檔):
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>
<p class="story">Once upon a time there were three little sisters; and their names were
http://example.com/elsie" class="sister" id="link1">Elsie,
http://example.com/lacie" class="sister" id="link2">Lacie and
http://example.com/tillie" class="sister" id="link3">Tillie;
and they lived at the bottom of a well.</p>
<p class="story">...</p>
</html>
- 下面我們開始用bs4庫(kù)解析這一段html網(wǎng)頁代碼。
#導(dǎo)入bs4模塊
from bs4 import BeautifulSoup
#做一個(gè)美味湯
soup = BeautifulSoup(html，'html.parser')
#輸出結(jié)果
print(soup.prettify())
'''
OUT:
# <html>
# <head>
# <title>
# The Dormouse's story
# </title>
# </head>
# <body>
# <p class="title">
# <b>
# The Dormouse's story
# </b>
# </p>
# <p class="story">
# Once upon a time there were three little sisters; and their names were
# <a class="sister" id="link1">
# Elsie
# </a>
# ,
# <a class="sister" id="link2">
# Lacie
# </a>
# and
# <a class="sister" id="link2">
# Tillie
# </a>
# ; and they lived at the bottom of a well.
# </p>
# <p class="story">
# ...
# </p>
# </body>
# </html>
'''
可以看到bs4庫(kù)將網(wǎng)頁文件變成了一個(gè)soup的類型，
事實(shí)上，bs4庫(kù) 是解析、遍歷、維護(hù)、“標(biāo)簽樹“的功能庫(kù)。
通俗一點(diǎn)說就是： bs4庫(kù)把html源代碼重新進(jìn)行了格式化，
從而方便我們對(duì)其中的節(jié)點(diǎn)、標(biāo)簽、屬性等進(jìn)行操作。
- 下面是幾個(gè)簡(jiǎn)單的瀏覽結(jié)構(gòu)化數(shù)據(jù)的方式 ：
請(qǐng)仔細(xì)觀察最前面的html文件
# 找到文檔的title
soup.title
# <title>The Dormouse's story</title>
#title的name值
soup.title.name
# u'title'
#title中的字符串String
soup.title.string
# u'The Dormouse's story'
#title的父親節(jié)點(diǎn)的name屬性
soup.title.parent.name
# u'head'
#文檔的第一個(gè)找到的段落
soup.p
# <p class="title"><b>The Dormouse's story</b></p>
#找到的p的class屬性值
soup.p['class']
# u'title'
#找到a標(biāo)簽
soup.a
# http://example.com/elsie" id="link1">Elsie
#找到所有的a標(biāo)簽
soup.find_all('a')
# [http://example.com/elsie" id="link1">Elsie,
# http://example.com/lacie" id="link2">Lacie,
# http://example.com/tillie" id="link3">Tillie]
#找到id值等于3的a標(biāo)簽
soup.find(id="link3")
# http://example.com/tillie" id="link3">Tillie
通過上面的例子 我們知道bs4庫(kù)是這樣理解一個(gè)html源文件的：
- 首先 把html源文件轉(zhuǎn)換為soup類型
- 接著 從中通過特定的方式抓取內(nèi)容
更高級(jí)點(diǎn)的用法？
- 從文檔中找到所有<a>標(biāo)簽的鏈接:
#發(fā)現(xiàn)了沒有，find_all方法返回的是一個(gè)可以迭代的列表
for link in soup.find_all('a'):
print(link.get('href'))
# http://example.com/elsie
# http://example.com/lacie
# http://example.com/tillie
- 從文檔中獲取所有文字內(nèi)容:
#我們可以通過get_text 方法 快速得到源文件中的所有text內(nèi)容。
print(soup.get_text())
# The Dormouse's story
#
# The Dormouse's story
#
# Once upon a time there were three little sisters; and their names were
# Elsie,
# Lacie and
# Tillie;
# and they lived at the bottom of a well.
#
# ...
bs4庫(kù)的入門使用我們就先進(jìn)行到這。
此文章同時(shí)同步到我的個(gè)人博客http://www.fkomm.cn/ 謝謝支持
