使用shell命令獲取簡(jiǎn)書主頁(yè)文章

概述

之前接口測(cè)試的時(shí)候,經(jīng)常遇到從response中截取數(shù)據(jù)的情況,處理起來(lái)可能也相對(duì)簡(jiǎn)單一點(diǎn)。今天換個(gè)玩法,用shell命令獲取簡(jiǎn)書個(gè)人主頁(yè)文章。
命令如下:

$ curl http://www.itdecent.cn/u/840c2172e2e3 
|grep 'title' | awk -F '>' '{print $2}' 
| grep -v -e '</div' -e '</title' |awk -F '<' '{print $1}'  

接口測(cè)試框架優(yōu)化(三)---支持簡(jiǎn)單串接口
使用charles篩選、修改請(qǐng)求與響應(yīng)
linux下MySQL常用操作(學(xué)習(xí)筆記)
隨便寫寫最近的面試
一些linux命令學(xué)習(xí)(二)--grep命令
一些linux命令學(xué)習(xí)(一)
windows下appium1.6排坑及安裝
基于python+appium+yaml安卓UI自動(dòng)化測(cè)試分享
接口測(cè)試框架優(yōu)化(二)---主要代碼

result.png

詳述

實(shí)現(xiàn)這個(gè)目標(biāo),需要懂一些基礎(chǔ)的命令

  • curl
  • grep
  • awk

curl命令學(xué)習(xí)

curl命令是一個(gè)利用URL規(guī)則在命令行下工作的文件傳輸工具。它支持文件的上傳和下載,所以是綜合傳輸工具,但按傳統(tǒng),習(xí)慣稱curl為下載工具。

目前我只get到了使用curl命令發(fā)送請(qǐng)求,暫時(shí)沒有用來(lái)上傳下載文件,所以不多做介紹。
輸入 curl -h,可以看到使用幫助

$ curl -h
Usage: curl [options...] <url>
     --abstract-unix-socket <path> Connect via abstract Unix domain socket
     --anyauth       Pick any authentication method
 -a, --append        Append to target file when uploading
     --basic         Use HTTP Basic Authentication
     --cacert <file> CA certificate to verify peer against
     --capath <dir>  CA directory to verify peer against
 -E, --cert <certificate[:password]> Client certificate file and password
     --cert-status   Verify the status of the server certificate
     --cert-type <type> Certificate file type (DER/PEM/ENG)
     --ciphers <list of ciphers> SSL ciphers to use
     --compressed    Request compressed response
     --compressed-ssh Enable SSH compression
.
.
.

就我自己實(shí)際操作的幾個(gè)介紹一下:

1.獲取頁(yè)面內(nèi)容
curl http://www.itdecent.cn/

不加任何選項(xiàng)使用 curl 時(shí),默認(rèn)會(huì)發(fā)送 GET 請(qǐng)求來(lái)獲取鏈接內(nèi)容

2.發(fā)送POST請(qǐng)求
curl -H "Content-Type: application/json" 
-X POST 
-d '{"uid": "10588666", "device_code": "", "count": 8, "op": 1, "page": 1, "content_type": [1,2,3,4], "skip_freq": 0, "exclude_docs": [], "is_wifi": 0, "is_videopage": 0, "region": 111, "register_timestamp":1519642955, "tk": "ACAWILmsfP5FV7JqM6knRK66w8j9Rqr0Aqk0NzUxNDk1MDg5NTIyNQ", "client_version":20826, "group":"exp_test_member00"}' 
http://localhost:2051/recommend

這邊用到了3個(gè)參數(shù)

  • H 定義請(qǐng)求頭 header
  • X 指定請(qǐng)求方式
  • d 指定發(fā)送的數(shù)據(jù)
3.顯示響應(yīng)頭
 curl -I http://www.itdecent.cn/u/840c2172e2e3

加了-I 參數(shù),僅顯示response header,結(jié)果如下

$ curl -I http://www.itdecent.cn/u/840c2172e2e3
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0     0    0     0    0     0      0      0 --:--:-- --:--:-- --:--:--     0HTTP/1.1 200 OK
Date: Mon, 14 May 2018 13:05:15 GMT
Server: Tengine
Content-Type: text/html; charset=utf-8
X-Frame-Options: DENY
X-XSS-Protection: 1; mode=block
X-Content-Type-Options: nosniff
ETag: W/"600753ffd703a50bfb60aca2580cddb0"
Cache-Control: max-age=0, private, must-revalidate
Set-Cookie: locale=zh-CN; path=/
Set-Cookie: _m7e_session=406d79c64df9441d376f82b2; path=/; expires=Mon, 14 May 2018 19:05:15 -0000; secure; HttpOnly
X-Request-Id: 9813d0cf-a68e-492f-8d04-580b8e149af6
X-Runtime: 0.129613
Strict-Transport-Security: max-age=31536000; includeSubDomains; preload
X-Via: 1.1 PSfjqzdx7yx12:4 (Cdn Cache Server V2.0), 1.1 xinxiazai13:1 (Cdn Cache Server V2.0)
Connection: keep-alive
X-Dscp-Value: 0
4.保存響應(yīng)的內(nèi)容
curl -o D:\jianshu.html http://www.itdecent.cn/u/840c2172e2e3

執(zhí)行此命令,會(huì)在D盤根目錄生成一個(gè)jianshu.html文件,如圖:


jianshu.png

detail.png

curl命令還有其他用法,我這邊由于暫時(shí)沒有用到,所以沒有進(jìn)一步操作,感興趣可以參考這篇文章學(xué)習(xí)一下

grep命令學(xué)習(xí)

關(guān)于grep命令,我上次學(xué)習(xí)了一次,這邊就不多說(shuō)了,可以參照我之前的學(xué)習(xí)筆記。
shell命令獲取文章標(biāo)題中用到grep的可能就是 -v -e 兩個(gè)命令,相對(duì)還是比較簡(jiǎn)單的。

awk命令學(xué)習(xí)

awk我也是get到一點(diǎn)皮毛,沒有很深入研究。大致工作流如下:
-F 分隔符劃分域,,$0則表示所有域,$1表示第一個(gè)域,$n表示第n個(gè)域。默認(rèn)域分隔符是"空白鍵" 或 "[tab]鍵".

舉個(gè)例子:

D盤下新建一個(gè)文件,awk.txt。
執(zhí)行命令:

$ nl awk.txt
     1  root  1  name:001
     2  cha   2  naaa:002
     3  dong  3  nacc:003
     4  fead  4  naic:004

如果只要顯示行號(hào)

$ nl awk.txt |awk '{print $1}'
1
2
3
4

如果要顯示:后面的內(nèi)容

$ nl awk.txt |awk -F':' '{print $2}'
001
002
003
004

結(jié)束

使用shell獲取簡(jiǎn)書主頁(yè)文章,寫法肯定不止這一種方法

$ curl http://www.itdecent.cn/u/840c2172e2e3 |grep 'title' | awk -F '>' '{print $2}' | grep -v -e '</div' -e '</title' |awk -F '<' '{print $1}'

但是大致上思路是固定的:

  • 將結(jié)果用grep 篩選出需要的,排除不需要的
  • 再用awk分割選擇自己需要的域即可。

期待后面,開發(fā)出更多關(guān)于shell的玩法。。。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • linux資料總章2.1 1.0寫的不好抱歉 但是2.0已經(jīng)改了很多 但是錯(cuò)誤還是無(wú)法避免 以后資料會(huì)慢慢更新 大...
    數(shù)據(jù)革命閱讀 13,246評(píng)論 2 33
  • 命令行的藝術(shù) 前言 基礎(chǔ) 日常使用 文件及數(shù)據(jù)處理 系統(tǒng)調(diào)試 單行腳本 冷門但有用 僅限 OS X 系統(tǒng) 僅限 W...
    進(jìn)擊的諾基亞閱讀 3,921評(píng)論 0 19
  • 系統(tǒng)巡檢腳本:Version 2016.08.09 ############################ 系統(tǒng)...
    NamasAmitabha閱讀 1,466評(píng)論 0 0
  • 轉(zhuǎn)載 原文的排版和內(nèi)容都更加友好,并且詳細(xì),我只是在這里貼出了一部分留作自己以后參考和學(xué)習(xí),如希望更詳細(xì)了解AWK...
    XKirk閱讀 3,365評(píng)論 2 25
  • 簡(jiǎn)介:采用眾包模式,專注提供最后三公里一小時(shí)配送的物流平臺(tái)。 創(chuàng)始人:CEO蒯佳祺、CTO楊駿 愿景:達(dá)達(dá)希望天下...
    Peter6196閱讀 1,591評(píng)論 0 2

友情鏈接更多精彩內(nèi)容