sort命令是幫我們依據(jù)不同的數(shù)據(jù)類型進(jìn)行排序,其語(yǔ)法及常用參數(shù)格式:
sort [-bcfMnrtk][源文件][-o 輸出文件]
補(bǔ)充說(shuō)明:sort可針對(duì)文本文件的內(nèi)容,以行為單位來(lái)排序。
參 數(shù):
-b 忽略每行前面開(kāi)始出的空格字符。
-c 檢查文件是否已經(jīng)按照順序排序。
-f 排序時(shí),忽略大小寫字母。
-M 將前面3個(gè)字母依照月份的縮寫進(jìn)行排序。
-n 依照數(shù)值的大小排序。
-o<輸出文件> 將排序后的結(jié)果存入指定的文件。
-r 以相反的順序來(lái)排序。
-t<分隔字符> 指定排序時(shí)所用的欄位分隔字符。
-k 選擇以哪個(gè)區(qū)間進(jìn)行排序。
例子:
-
根據(jù)訪問(wèn)IP統(tǒng)計(jì)UV
awk ‘{print $1}’ access.log|sort | uniq -c |wc -l
注意{print $1}部分必須使用單引號(hào)引起來(lái)。不能使用雙引號(hào)。
2.統(tǒng)計(jì)訪問(wèn)URL統(tǒng)計(jì)PV
awk ‘{print $7}’ access.log|wc -l
3.查詢?cè)L問(wèn)最頻繁的URL
awk ‘{print $7}’ access.log|sort | uniq -c |sort -n -k 1 -r|more
4.查詢?cè)L問(wèn)最頻繁的IP
awk ‘{print $1}’ access.log|sort | uniq -c |sort -n -k 1 -r|more
5.根據(jù)時(shí)間段統(tǒng)計(jì)查看日志
cat access.log| sed -n ‘/14/Mar/2015:21/,/14/Mar/2015:22/p’|more
注意:時(shí)間的斜線要用反斜線“”轉(zhuǎn)義
如是Tomcat
sed -n '/2018-02-23 23:31.*/,/2018-02-23 23:32.*/p' catalina.out|more ##后面加more的好處是可以分批顯示,不會(huì)一直刷屏
擴(kuò)展:
# 查詢關(guān)鍵字 sed -n '/2019-06-27 09:55.*/,/2019-06-27 13:59.*/p' laravel.log-20190628| egrep 'request_body":"{\"mobile' # 查詢關(guān)鍵字上下3行 sed -n '/2019-06-27 09:55.*/,/2019-06-27 13:59.*/p' laravel.log-20190628| egrep -C 3 'request_body":"{\"mobile'
1 sort的工作原理
sort將文件的每一行作為一個(gè)單位,相互比較,比較原則是從首字符向后,依次按ASCII碼值進(jìn)行比較,最后將他們按升序輸出。
[rocrocket@rocrocket programming]$ cat seq.txt
banana
apple
pear
orange
[rocrocket@rocrocket programming]$ sort seq.txt
apple
banana
orange
pear
2 sort的-u選項(xiàng)
它的作用很簡(jiǎn)單,就是在輸出行中去除重復(fù)行。
[rocrocket@rocrocket programming]$ cat seq.txt
banana
apple
pear
orange
pear
[rocrocket@rocrocket programming]$ sort seq.txt
apple
banana
orange
pear
pear
[rocrocket@rocrocket programming]$ sort -u seq.txt
apple
banana
orange
pear
pear由于重復(fù)被-u選項(xiàng)無(wú)情的刪除了。
3 sort的-r選項(xiàng)
sort默認(rèn)的排序方式是升序,如果想改成降序,就加個(gè)-r就搞定了。
[rocrocket@rocrocket programming]$ cat number.txt
1
3
5
2
4
[rocrocket@rocrocket programming]$ sort number.txt
1
2
3
4
5
[rocrocket@rocrocket programming]$ sort -r number.txt
5
4
3
2
1
4 sort的-o選項(xiàng)
由于sort默認(rèn)是把結(jié)果輸出到標(biāo)準(zhǔn)輸出,所以需要用重定向才能將結(jié)果寫入文件,形如sort filename > newfile。
但是,如果你想把排序結(jié)果輸出到原文件中,用重定向可就不行了。
[rocrocket@rocrocket programming]$ sort -r number.txt > number.txt
[rocrocket@rocrocket programming]$ cat number.txt
[rocrocket@rocrocket programming]$
看,竟然將number清空了。
就在這個(gè)時(shí)候,-o選項(xiàng)出現(xiàn)了,它成功的解決了這個(gè)問(wèn)題,讓你放心的將結(jié)果寫入原文件。這或許也是-o比重定向的唯一優(yōu)勢(shì)所在。
[rocrocket@rocrocket programming]$ cat number.txt
1
3
5
2
4
[rocrocket@rocrocket programming]$ sort -r number.txt -o number.txt
[rocrocket@rocrocket programming]$ cat number.txt
5
4
3
2
1
5 sort的-n選項(xiàng)
你有沒(méi)有遇到過(guò)10比2小的情況。我反正遇到過(guò)。出現(xiàn)這種情況是由于排序程序?qū)⑦@些數(shù)字按字符來(lái)排序了,排序程序會(huì)先比較1和2,顯然1小,所以就將10放在2前面嘍。這也是sort的一貫作風(fēng)。
我們?nèi)绻敫淖冞@種現(xiàn)狀,就要使用-n選項(xiàng),來(lái)告訴sort,“要以數(shù)值來(lái)排序”!
[rocrocket@rocrocket programming]$ cat number.txt
1
10
19
11
2
5
[rocrocket@rocrocket programming]$ sort number.txt
1
10
11
19
2
5
[rocrocket@rocrocket programming]$ sort -n number.txt
1
2
5
10
11
19
6 sort的-t選項(xiàng)和-k選項(xiàng)
如果有一個(gè)文件的內(nèi)容是這樣:
[rocrocket@rocrocket programming]$ cat facebook.txt
banana:30:5.5
apple:10:2.5
pear:90:2.3
orange:20:3.4
這個(gè)文件有三列,列與列之間用冒號(hào)隔開(kāi)了,第一列表示水果類型,第二列表示水果數(shù)量,第三列表示水果價(jià)格。
那么我想以水果數(shù)量來(lái)排序,也就是以第二列來(lái)排序,如何利用sort實(shí)現(xiàn)?
幸好,sort提供了-t選項(xiàng),后面可以設(shè)定間隔符。(是不是想起了cut和paste的-d選項(xiàng),共鳴~~)
指定了間隔符之后,就可以用-k來(lái)指定列數(shù)了。
[rocrocket@rocrocket programming]$ sort -n -k 2 -t : facebook.txt
apple:10:2.5
orange:20:3.4
banana:30:5.5
pear:90:2.3
我們使用冒號(hào)作為間隔符,并針對(duì)第二列來(lái)進(jìn)行數(shù)值升序排序,結(jié)果很令人滿意。
7 其他的sort常用選項(xiàng)
-f會(huì)將小寫字母都轉(zhuǎn)換為大寫字母來(lái)進(jìn)行比較,亦即忽略大小寫
-c會(huì)檢查文件是否已排好序,如果亂序,則輸出第一個(gè)亂序的行的相關(guān)信息,最后返回1
-C會(huì)檢查文件是否已排好序,如果亂序,不輸出內(nèi)容,僅返回1
-M會(huì)以月份來(lái)排序,比如JAN小于FEB等等
-b會(huì)忽略每一行前面的所有空白部分,從第一個(gè)可見(jiàn)字符開(kāi)始比較。
有時(shí)候?qū)W習(xí)腳本,你會(huì)發(fā)現(xiàn)sort命令后面跟了一堆類似-k1,2,或者-k1.2 -k3.4的東東,有些匪夷所思。今天,我們就來(lái)搞定它—-k選項(xiàng)!
1 準(zhǔn)備素材
$ cat facebook.txt
google 110 5000
baidu 100 5000
guge 50 3000
sohu 100 4500
第一個(gè)域是公司名稱,第二個(gè)域是公司人數(shù),第三個(gè)域是員工平均工資。
2 我想讓這個(gè)文件按公司的字母順序排序,也就是按第一個(gè)域進(jìn)行排序:(這個(gè)facebook.txt文件有三個(gè)域)
$ sort -t ‘ ‘ -k 1 facebook.txt
baidu 100 5000
google 110 5000
guge 50 3000
sohu 100 4500
看到了吧,就直接用-k 1設(shè)定就可以了。(其實(shí)此處并不嚴(yán)格,稍后你就會(huì)知道)
3 我想讓facebook.txt按照公司人數(shù)排序
$ sort -n -t ‘ ‘ -k 2 facebook.txt
guge 50 3000
baidu 100 5000
sohu 100 4500
google 110 5000
不用解釋,我相信你能懂。
但是,此處出現(xiàn)了問(wèn)題,那就是baidu和sohu的公司人數(shù)相同,都是100人,這個(gè)時(shí)候怎么辦呢?按照默認(rèn)規(guī)矩,是從第一個(gè)域開(kāi)始進(jìn)行升序排序,因此baidu排在了sohu前面。
4 我想讓facebook.txt按照公司人數(shù)排序 ,人數(shù)相同的按照員工平均工資升序排序:
$ sort -n -t ‘ ‘ -k 2 -k 3 facebook.txt
guge 50 3000
sohu 100 4500
baidu 100 5000
google 110 5000
看,我們加了一個(gè)-k2 -k3就解決了問(wèn)題。對(duì)滴,sort支持這種設(shè)定,就是說(shuō)設(shè)定域排序的優(yōu)先級(jí),先以第2個(gè)域進(jìn)行排序,如果相同,再以第3個(gè)域進(jìn)行排序。(如果你愿意,可以一直這么寫下去,設(shè)定很多個(gè)排序優(yōu)先級(jí))
5 我想讓facebook.txt按照員工工資降序排序,如果員工人數(shù)相同的,則按照公司人數(shù)升序排序:(這個(gè)有點(diǎn)難度嘍)
$ sort -n -t ‘ ‘ -k 3r -k 2 facebook.txt
baidu 100 5000
google 110 5000
sohu 100 4500
guge 50 3000
此處有使用了一些小技巧,你仔細(xì)看看,在-k 3后面偷偷加上了一個(gè)小寫字母r。你想想,再結(jié)合我們上一篇文章,能得到答案么?揭曉:r和-r選項(xiàng)的作用是一樣的,就是表示逆序。因?yàn)閟ort默認(rèn)是按照升序排序的,所以此處需要加上r表示第三個(gè)域(員工平均工資)是按照降序排序。此處你還可以加上n,就表示對(duì)這個(gè)域進(jìn)行排序時(shí),要按照數(shù)值大小進(jìn)行排序,舉個(gè)例子吧:
$ sort -t ‘ ‘ -k 3nr -k 2n facebook.txt
baidu 100 5000
google 110 5000
sohu 100 4500
guge 50 3000
看,我們?nèi)サ袅俗钋懊娴?n選項(xiàng),而是將它加入到了每一個(gè)-k選項(xiàng)中了。
6 -k選項(xiàng)的具體語(yǔ)法格式
要繼續(xù)往下深入的話,就不得不來(lái)點(diǎn)理論知識(shí)。你需要了解-k選項(xiàng)的語(yǔ)法格式,如下:
[ FStart [ .CStart ] ] [ Modifier ] [ , [ FEnd [ .CEnd ] ][ Modifier ] ]
這個(gè)語(yǔ)法格式可以被其中的逗號(hào)(“,”)分為兩大部分,Start部分和End部分。
先給你灌輸一個(gè)思想,那就是“如果不設(shè)定End部分,那么就認(rèn)為End被設(shè)定為行尾”。這個(gè)概念很重要的,但往往你不會(huì)重視它。
Start部分也由三部分組成,其中的Modifier部分就是我們之前說(shuō)過(guò)的類似n和r的選項(xiàng)部分。我們重點(diǎn)說(shuō)說(shuō)Start部分的FStart和C.Start。
C.Start也是可以省略的,省略的話就表示從本域的開(kāi)頭部分開(kāi)始。之前例子中的-k 2和-k 3就是省略了C.Start的例子嘍。
FStart.CStart,其中FStart就是表示使用的域,而CStart則表示在FStart域中從第幾個(gè)字符開(kāi)始算“排序首字符”。
同理,在End部分中,你可以設(shè)定FEnd.CEnd,如果你省略.CEnd,則表示結(jié)尾到“域尾”,即本域的最后一個(gè)字符?;蛘?,如果你將CEnd設(shè)定為0(零),也是表示結(jié)尾到“域尾”。
7 突發(fā)奇想,從公司英文名稱的第二個(gè)字母開(kāi)始進(jìn)行排序:
$ sort -t ‘ ‘ -k 1.2 facebook.txt
baidu 100 5000
sohu 100 4500
google 110 5000
guge 50 3000
看,我們使用了-k 1.2,這就表示對(duì)第一個(gè)域的第二個(gè)字符開(kāi)始到本域的最后一個(gè)字符為止的字符串進(jìn)行排序。你會(huì)發(fā)現(xiàn)baidu因?yàn)榈诙€(gè)字母是a而名列榜首。sohu和 google第二個(gè)字符都是o,但sohu的h在google的o前面,所以兩者分別排在第二和第三。guge只能屈居第四了。
8 又突發(fā)奇想,,只針對(duì)公司英文名稱的第二個(gè)字母進(jìn)行排序,如果相同的按照員工工資進(jìn)行降序排序:
$ sort -t ‘ ‘ -k 1.2,1.2 -k 3,3nr facebook.txt
baidu 100 5000
google 110 5000
sohu 100 4500
guge 50 3000
由于只對(duì)第二個(gè)字母進(jìn)行排序,所以我們使用了-k 1.2,1.2的表示方式,表示我們“只”對(duì)第二個(gè)字母進(jìn)行排序。(如果你問(wèn)“我使用-k 1.2怎么不行?”,當(dāng)然不行,因?yàn)槟闶÷粤薊nd部分,這就意味著你將對(duì)從第二個(gè)字母起到本域最后一個(gè)字符為止的字符串進(jìn)行排序)。對(duì)于員工工資進(jìn)行排 序,我們也使用了-k 3,3,這是最準(zhǔn)確的表述,表示我們“只”對(duì)本域進(jìn)行排序,因?yàn)槿绻闶÷粤撕竺娴?,就變成了我們“對(duì)第3個(gè)域開(kāi)始到最后一個(gè)域位置的內(nèi)容進(jìn)行排序” 了。
9 在modifier部分還可以用到哪些選項(xiàng)?
可以用到b、d、f、i、n 或 r。
其中n和r你肯定已經(jīng)很熟悉了。
b表示忽略本域的簽到空白符號(hào)。
d表示對(duì)本域按照字典順序排序(即,只考慮空白和字母)。
f表示對(duì)本域忽略大小寫進(jìn)行排序。
i表示忽略“不可打印字符”,只針對(duì)可打印字符進(jìn)行排序。(有些ASCII就是不可打印字符,比如a是報(bào)警,b是退格,n是換行,r是回車等等)
10 思考思考關(guān)于-k和-u聯(lián)合使用的例子:
$ cat facebook.txt
google 110 5000
baidu 100 5000
guge 50 3000
sohu 100 4500
這是最原始的facebook.txt文件。
$ sort -n -k 2 facebook.txt
guge 50 3000
baidu 100 5000
sohu 100 4500
google 110 5000
$ sort -n -k 2 -u facebook.txt
guge 50 3000
baidu 100 5000
google 110 5000
當(dāng)設(shè)定以公司員工域進(jìn)行數(shù)值排序,然后加-u后,sohu一行就被刪除了!原來(lái)-u只識(shí)別用-k設(shè)定的域,發(fā)現(xiàn)相同,就將后續(xù)相同的行都刪除。
$ sort -k 1 -u facebook.txt
baidu 100 5000
google 110 5000
guge 50 3000
sohu 100 4500
$ sort -k 1.1,1.1 -u facebook.txt
baidu 100 5000
google 110 5000
sohu 100 4500
這個(gè)例子也同理,開(kāi)頭字符是g的guge就沒(méi)有幸免于難。
$ sort -n -k 2 -k 3 -u facebook.txt
guge 50 3000
sohu 100 4500
baidu 100 5000
google 110 5000
咦!這里設(shè)置了兩層排序優(yōu)先級(jí)的情況下,使用-u就沒(méi)有刪除任何行。原來(lái)-u是會(huì)權(quán)衡所有-k選項(xiàng),將都相同的才會(huì)刪除,只要其中有一級(jí)不同都不會(huì)輕易刪除的:)(不信,你可以自己加一行sina 100 4500試試看)
11 最詭異的排序:
$ sort -n -k 2.2,3.1 facebook.txt
guge 50 3000
baidu 100 5000
sohu 100 4500
google 110 5000
以第二個(gè)域的第二個(gè)字符開(kāi)始到第三個(gè)域的第一個(gè)字符結(jié)束的部分進(jìn)行排序。
第一行,會(huì)提取0 3,第二行提取00 5,第三行提取00 4,第四行提取10 5。
又因?yàn)閟ort認(rèn)為0小于00小于000小于0000….
因此0 3肯定是在第一個(gè)。10 5肯定是在最后一個(gè)。但為什么00 5卻在00 4前面呢?(你可以自己做實(shí)驗(yàn)思考一下。)
答案揭曉:原來(lái)“跨域的設(shè)定是個(gè)假象”,sort只會(huì)比較第二個(gè)域的第二個(gè)字符到第二個(gè)域的最后一個(gè)字符的部分,而不會(huì)把第三個(gè)域的開(kāi)頭字符納入比較范圍。當(dāng)發(fā)現(xiàn)00和00相同時(shí),sort就會(huì)自動(dòng)比較第一個(gè)域去了。當(dāng)然baidu在sohu前面了。用一個(gè)范例即可證實(shí):
$ sort -n -k 2.2,3.1 -k 1,1r facebook.txt
guge 50 3000
sohu 100 4500
baidu 100 5000
google 110 5000
12 有時(shí)候在sort命令后會(huì)看到+1 -2這些符號(hào),這是什么東東?
關(guān)于這種語(yǔ)法,最新的sort是這么進(jìn)行解釋的:
On older systems, `sort’ supports an obsolete origin-zero syntax `+POS1 [-POS2]‘ for specifying sort keys. POSIX 1003.1-2001 (*note Standards conformance::) does not allow this; use `-k’ instead.
原來(lái),這種古老的表示方式已經(jīng)被淘汰了,以后可以理直氣壯的鄙視使用這種表示方法的腳本嘍!
(為了防止古老腳本的存在,在這再說(shuō)一下這種表示方法,加號(hào)表示Start部分,減號(hào)表示End部分。最最重要的一點(diǎn)是,這種方式方法是從0開(kāi)始計(jì)數(shù)的,以前所說(shuō)的第一個(gè)域,在此被表示為第0個(gè)域。以前的第2個(gè)字符,在此表示為第1個(gè)字符。明白?)