11. [轉(zhuǎn)載]linux中awk命令使用

參考linux之a(chǎn)wk用法

awk是一個(gè)非常棒的數(shù)字處理工具。相比于sed常常作用于一整行的處理,awk則比較傾向于將一行分為數(shù)個(gè)“字段”來(lái)處理。運(yùn)行效率高,而且代碼簡(jiǎn)單,對(duì)格式化的文本處理能力超強(qiáng)。先來(lái)一個(gè)例子:

文件a,統(tǒng)計(jì)文件a的第一列中是浮點(diǎn)數(shù)的行的浮點(diǎn)數(shù)的平均值。用awk來(lái)實(shí)現(xiàn)只需要一句話就可以搞定

$cat a

1.021 33

1#.ll?? 44

2.53 6

ss??? 7

awk 'BEGIN{total = 0;len = 0} {if($1~/^[0-9]+\.[0-9]*/){total += $1; len++}} END{print total/len}' a

(分析:$1~/^[0-9]+\.[0-9]*/表示$1與“/ /”里面的正則表達(dá)式進(jìn)行匹配,若匹配,則total加上$1,且len自增,即數(shù)目加1. “^[0-9]+\.[0-9]*”是個(gè)正則表達(dá)式,“^[0-9]”表示以數(shù)字開(kāi)頭,“\.”是轉(zhuǎn)義的意思,表示“.”為小數(shù)點(diǎn)的意思?!癧0-9]*”表示0個(gè)或多個(gè)數(shù)字)


awk的一般語(yǔ)法格式為:

awk [-參數(shù) 變量] 'BEGIN{初始化}條件類(lèi)型1{動(dòng)作1}條件類(lèi)型2{動(dòng)作2}。。。。END{后處理}'

其中:BEGIN和END中的語(yǔ)句分別在開(kāi)始讀取文件(in_file)之前和讀取完文件之后發(fā)揮作用,可以理解為初始化和掃尾。

(1)參數(shù)說(shuō)明:

-F re:允許awk更改其字段分隔符

-v var=$v 把v值賦值給var,如果有多個(gè)變量要賦值,那么就寫(xiě)多個(gè)-v,每個(gè)變量賦值對(duì)應(yīng)一個(gè)-v

e.g. 要打印文件a的第num行到num+num1行之間的行

awk -v num=$num -v num1=$num1 'NR==num,NR==num+num1{print}' a

-f progfile:允許awk調(diào)用并執(zhí)行progfile程序文件,當(dāng)然progfile必須是一個(gè)符合awk語(yǔ)法的程序文件。

(2)awk內(nèi)置變量:

ARGC命令行參數(shù)的個(gè)數(shù)

ARGV命令行參數(shù)數(shù)組

ARGIND當(dāng)前被處理文件的ARGV標(biāo)志符

e.g 有兩個(gè)文件a 和b

awk '{if(ARGIND==1){print "處理a文件"} if(ARGIND==2){print "處理b文件"}}' a b

文件處理的順序是先掃描完a文件,再掃描b文件

NR已經(jīng)讀出的記錄數(shù)

FNR當(dāng)前文件的記錄數(shù)

上面的例子也可以寫(xiě)成這樣:

awk 'NR==FNR{print "處理文件a"} NR > FNR{print "處理文件b"}' a b #執(zhí)行有問(wèn)題?

輸入文件a和b,由于先掃描a,所以掃描a的時(shí)候必然有NR==FNR,然后掃描b的時(shí)候,F(xiàn)NR從1開(kāi)始計(jì)數(shù),而NR則接著a的行數(shù)繼續(xù)計(jì)數(shù),所以NR > FNR

e.g 要顯示文件的第10行至第15行

awk 'NR==10,NR==15{print}' a

FS輸入字段分隔符(缺省為:space:),相當(dāng)于-F選項(xiàng)

awk -F ':' '{print}' a和awk 'BEGIN{FS=":"}{print}' a是一樣的

OFS輸出字段分隔符(缺省為:space:)

awk -F ':' 'BEGIN{OFS=";"}{print $1,$2,$3}' b

如果cat b為

1:2:3

4:5:6

那么把OFS設(shè)置成";"后就會(huì)輸出

1;2;3

4;5;6

(小注釋?zhuān)篴wk把分割后的第1、2、3個(gè)字段用$1,$2,$3...表示,$0表示整個(gè)記錄(一般就是一整行))

NF:當(dāng)前記錄中的字段個(gè)數(shù)

awk -F ':' '{print NF}' b的輸出為

3

3

表明b的每一行用分隔符":"分割后都3個(gè)字段

可以用NF來(lái)控制輸出符合要求的字段數(shù)的行,這樣可以處理掉一些異常的行

awk -F ':' '{if (NF == 3)print}' b

RS:輸入記錄分隔符,缺省為"\n"

缺省情況下,awk把一行看作一個(gè)記錄;如果設(shè)置了RS,那么awk按照RS來(lái)分割記錄

例如,如果文件c,cat c為

hello world; I want to go swimming tomorrow;hiahia

運(yùn)行awk 'BEGIN{ RS = ";" } {print}' c的結(jié)果為

hello world

I want to go swimming tomorrow

hiahia

合理的使用RS和FS可以使得awk處理更多模式的文檔,例如可以一次處理多行,例如文檔d cat d的輸出為

1 2

3 4 5

6 7

8 9 10

11 12

hello

每個(gè)記錄使用空行分割,每個(gè)字段使用換行符分割,這樣的awk也很好寫(xiě)

awk 'BEGIN{ FS = "\n"; RS = ""} {print NF}' d輸出

2

3

1

ORS:輸出記錄分隔符,缺省為換行符,控制每個(gè)print語(yǔ)句后的輸出符號(hào)

awk 'BEGIN{ FS = "\n"; RS = ""; ORS = ";"} {print NF}' d輸出

2;3;1

(3)awk讀取shell中的變量

可以使用-v選項(xiàng)實(shí)現(xiàn)功能

$b=1

$cat f

apple

$awk -v var=$b '{print var, $var}' f

1 apple

至于有沒(méi)有辦法把a(bǔ)wk中的變量傳給shell呢,這個(gè)問(wèn)題我是這樣理解的。shell調(diào)用awk實(shí)際上是fork一個(gè)子進(jìn)程出來(lái),而子進(jìn)程是無(wú)法向父進(jìn)程傳遞變量的,除非用重定向(包括管道)

a=$(awk '{print $b, '$b'}' f)

$echo $a

apple 1

(4)輸出重定向

awk的輸出重定向類(lèi)似于shell的重定向。重定向的目標(biāo)文件名必須用雙引號(hào)引用起來(lái)。

$awk '$4 >=70 {print $1,$2 > "destfile" }' filename

$awk '$4 >=70 {print $1,$2 >> "destfile" }' filename

(5)awk中調(diào)用shell命令:

1)使用管道

awk中的管道概念和shell的管道類(lèi)似,都是使用"|"符號(hào)。如果在awk程序中打開(kāi)了管道,必須先關(guān)閉該管道才能打開(kāi)另一個(gè)管道。也就是說(shuō)一次只能打開(kāi)一個(gè)管道。shell命令必須被雙引號(hào)引用起來(lái)?!叭绻蛩阍俅卧赼wk程序中使用某個(gè)文件或管道進(jìn)行讀寫(xiě),則可能要先關(guān)閉程序,因?yàn)槠渲械墓艿罆?huì)保持打開(kāi)狀態(tài)直至腳本運(yùn)行結(jié)束。注意,管道一旦被打開(kāi),就會(huì)保持打開(kāi)狀態(tài)直至awk退出。因此END塊中的語(yǔ)句也會(huì)收到管道的影響。(可以在END的第一行關(guān)閉管道)”

awk中使用管道有兩種語(yǔ)法,分別是:

awk output | shell input

shell output | awk input

對(duì)于awk output | shell input來(lái)說(shuō),shell接收awk的輸出,并進(jìn)行處理。需要注意的是,awk的output是先緩存在pipe中,等輸出完畢后再調(diào)用shell命令 處理,shell命令只處理一次,而且處理的時(shí)機(jī)是“awk程序結(jié)束時(shí),或者管道關(guān)閉時(shí)(需要顯式的關(guān)閉管道)”

$awk '/west/{count++} {printf "%s %s\t\t%-15s\n", $3,$4,$1 | "sort +1"} END{close "sort +1"; printf "The number of sales pers in the western"; printf "region is " count "." }' datafile (解釋?zhuān)?west/{count++}表示與“wes”t進(jìn)行匹配,若匹配,則count自增)

printf函數(shù)用于將輸出格式化并發(fā)送給管道。所有輸出集齊后,被一同發(fā)送給sort命令。必須用與打開(kāi)時(shí)完全相同的命令來(lái)關(guān)閉管道(sort +1),否則END塊中的語(yǔ)句將與前面的輸出一起被排序。此處的sort命令只執(zhí)行一次。

在shell output | awk input中awk的input只能是getline函數(shù)。shell執(zhí)行的結(jié)果緩存于pipe中,再傳送給awk處理,如果有多行數(shù)據(jù),awk的getline命令可能調(diào)用多次。

$awk 'BEGIN{ while(("ls" | getline d) > 0) print d}' f

(5)awk結(jié)合match使用,提取匹配字符串:

文件內(nèi)容:

hostname

0.0.0.0

要求提取0.0.0.0

命令:

cat filename | grep -A 1 "hostname" |awk 'match($0, "(.*)", a) {print a[1]}'

其中 grep -A n,表示多往下輸出n行

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 轉(zhuǎn)載 原文的排版和內(nèi)容都更加友好,并且詳細(xì),我只是在這里貼出了一部分留作自己以后參考和學(xué)習(xí),如希望更詳細(xì)了解AWK...
    XKirk閱讀 3,365評(píng)論 2 25
  • sed與awk實(shí)例 文本間隔 在每一行后面增加一空行 將原來(lái)的所有空行刪除并在每一行后面增加一空行。這樣在輸出的文...
    stuha閱讀 2,019評(píng)論 0 20
  • linux資料總章2.1 1.0寫(xiě)的不好抱歉 但是2.0已經(jīng)改了很多 但是錯(cuò)誤還是無(wú)法避免 以后資料會(huì)慢慢更新 大...
    數(shù)據(jù)革命閱讀 13,230評(píng)論 2 33
  • awk命令的基本使用 [root@shellscript ~]# head -n 3 /etc/passwd | ...
    古寒飛閱讀 1,107評(píng)論 0 2
  • awk: grep,sed,awk grep:文本過(guò)濾 sed:文本編輯 awk:文本格式化工具; 1 什么是aw...
    木林森閱讀 1,906評(píng)論 0 16

友情鏈接更多精彩內(nèi)容