grep 或 egrep 或awk 過濾兩個或多個關鍵詞:
grep -E ‘123|abc’ filename // 找出文件（filename）中包含123或者包含abc的行
egrep ‘123|abc’ filename //用egrep同樣可以實現
awk ‘/123|abc/’ filename // awk 的實現方式
假如某個廣告點擊數據記錄在文件裡面，文件中每一行數據由‘時間’，‘uid’兩個字段組成，要求每分鐘統計某個uid帶來的點擊量並計入數據庫，可以用shell來實現該功能。
#!/bin/bash
#廣告點擊統計,統計前一分鐘的點擊數
stat_time=`date -d "- minutes ago" +"%Y-%m-%d %k:%M"`
log_date=`date -d "$stat_time" +%Y-%m-%d`;
log_month=`date -d "$stat_time" +%Y-%m`
stat_minute=`date -d "$stat_time" +%k:%M`;
log_time=`date +%s -d"$stat_time"`
datadir=/opt
sqlDir=$datadir/data/sql/$log_month
logDir=$datadir/log/$log_month
host="192.168.1.1"
name="root"
password="root"
db="ad"
if [ ! -d "$sqlDir" ]
then
mkdir -p "$sqlDir"
fi
logfile=$logDir/'ad_click_'$log_date.txt
echo $logfile;
if [ -f $logfile ]
then
grep $stat_minute $logfile | awk '{a[$3]++}END{for(i in a)print "INSERT INTO ad_clicks(from_id,clicks,log_time) VALUES ("i","a[i]",'$log_time');"}' >$sqlDir/ad_click.sql
mysql -h$host -u$name -p$password $db -e "delete from ad_clicks where log_time ='$log_time'"
mysql -h$host -u$name -p$password $db < $sqlDir/ad_click.sql
else
echo $logfile" not exist"
fi
awk是一個強大的文本分析工具，相對於grep的查找，sed的編輯，awk在其對數據分析並生成報告時，顯得尤為強大。簡單來說awk就是把文件逐行的讀入，以空格為默認分隔符將每行切片，切開的部分再進行各種分析處理。
awk有3個不同版本: awk、nawk和gawk，未作特別說明，一般指gawk，gawk 是 AWK 的 GNU 版本。
awk其名稱得自於它的創始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首個字母。實際上 AWK 的確擁有自己的語言： AWK 程序設計語言 ， 三位創建者已將它正式定義為“樣式掃描和處理語言”。它允許您創建簡短的程序，這些程序讀取輸入文件、為數據排序、處理數據、對輸入執行計算以及生成報表，還有無數其他的功能。
awk '{pattern + action}' {filenames}
盡管操作可能會很復雜，但語法總是這樣，其中 pattern 表示 AWK 在數據中查找的內容，而 action 是在找到匹配內容時所執行的一系列命令。花括號（{}）不需要在程序中始終出現，但它們用於根據特定的模式對一系列指令進行分組。 pattern就是要表示的正則表達式，用斜槓括起來。
awk語言的最基本功能是在文件或者字符串中基於指定規則浏覽和抽取信息，awk抽取信息後，才能進行其他文本操作。完整的awk腳本通常用來格式化文本文件中的信息。
通常，awk是以文件的一行為處理單位的。awk每接收文件的一行，然後執行相應的命令，來處理文本。
有三種方式調用awk
1.命令行方式 awk [-F field-separator] 'commands' input-file(s) 其中，commands 是真正awk命令，[-F域分隔符]是可選的。 input-file(s) 是待處理的文件。 在awk中，文件的每一行中，由域分隔符分開的每一項稱為一個域。通常，在不指名-F域分隔符的情況下，默認的域分隔符是空格。 2.shell腳本方式 將所有的awk命令插入一個文件，並使awk程序可執行，然後awk命令解釋器作為腳本的首行，一遍通過鍵入腳本名稱來調用。 相當於shell腳本首行的：#!/bin/sh 可以換成：#!/bin/awk 3.將所有的awk命令插入一個單獨文件，然後調用： awk -f awk-script-file input-file(s) 其中，-f選項加載awk-script-file中的awk腳本，input-file(s)跟上面的是一樣的。
本章重點介紹命令行方式。
假設last -n 5的輸出如下
[root@www ~]# last -n 5 <==僅取出前五行 root pts/1 192.168.1.100 Tue Feb 10 11:21 still logged in root pts/1 192.168.1.100 Tue Feb 10 00:46 - 02:28 (01:41) root pts/1 192.168.1.100 Mon Feb 9 11:41 - 18:30 (06:48) dmtsai pts/1 192.168.1.100 Mon Feb 9 11:41 - 11:41 (00:00) root tty1 Fri Sep 5 14:09 - 14:10 (00:01)
如果只是顯示最近登錄的5個帳號
#last -n 5 | awk '{print $1}'
root
root
root
dmtsai
root
awk工作流程是這樣的：讀入有'\n'換行符分割的一條記錄，然後將記錄按指定的域分隔符劃分域，填充域，$0則表示所有域,$1表示第一個域,$n表示第n個域。默認域分隔符是"空白鍵" 或 "[tab]鍵",所以$1表示登錄用戶，$3表示登錄用戶ip,以此類推。
如果只是顯示/etc/passwd的賬戶
#cat /etc/passwd |awk -F ':' '{print $1}'
root
daemon
bin
sys
這種是awk+action的示例，每行都會執行action{print $1}。
-F指定域分隔符為':'。
如果只是顯示/etc/passwd的賬戶和賬戶對應的shell,而賬戶與shell之間以tab鍵分割
#cat /etc/passwd |awk -F ':' '{print $1"\t"$7}'
root /bin/bash
daemon /bin/sh
bin /bin/sh
sys /bin/sh
如果只是顯示/etc/passwd的賬戶和賬戶對應的shell,而賬戶與shell之間以逗號分割,而且在所有行添加列名name,shell,在最後一行添加"blue,/bin/nosh"。
cat /etc/passwd |awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}'
name,shell
root,/bin/bash
daemon,/bin/sh
bin,/bin/sh
sys,/bin/sh
....
blue,/bin/nosh
awk工作流程是這樣的：先執行BEGIN，然後讀取文件，讀入有/n換行符分割的一條記錄，然後將記錄按指定的域分隔符劃分域，填充域，$0則表示所有域,$1表示第一個域,$n表示第n個域,隨後開始執行模式所對應的動作action。接著開始讀入第二條記錄······直到所有的記錄都讀完，最後執行END操作。
搜索/etc/passwd有root關鍵字的所有行
#awk -F: '/root/' /etc/passwd root:x:0:0:root:/root:/bin/bash
這種是pattern的使用示例，匹配了pattern(這裡是root)的行才會執行action(沒有指定action，默認輸出每行的內容)。
搜索支持正則，例如找root開頭的: awk -F: '/^root/' /etc/passwd
搜索/etc/passwd有root關鍵字的所有行，並顯示對應的shell
# awk -F: '/root/{print $7}' /etc/passwd
/bin/bash
這裡指定了action{print $7}
awk有許多內置變量用來設置環境信息，這些變量可以被改變，下面給出了最常用的一些變量。
ARGC 命令行參數個數 ARGV 命令行參數排列 ENVIRON 支持隊列中系統環境變量的使用 FILENAME awk浏覽的文件名 FNR 浏覽文件的記錄數 FS 設置輸入域分隔符，等價於命令行 -F選項 NF 浏覽記錄的域的個數 NR 已讀的記錄數 OFS 輸出域分隔符 ORS 輸出記錄分隔符 RS 控制記錄分隔符
此外,$0變量是指整條記錄。$1表示當前行的第一個域,$2表示當前行的第二個域,......以此類推。
統計/etc/passwd:文件名，每行的行號，每行的列數，對應的完整行內容:
#awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd
filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh
filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh
filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh
使用printf替代print,可以讓代碼更加簡潔，易讀
awk -F ':' '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd
awk中同時提供了print和printf兩種打印輸出的函數。
其中print函數的參數可以是變量、數值或者字符串。字符串必須用雙引號引用，參數用逗號分隔。如果沒有逗號，參數就串聯在一起而無法區分。這裡，逗號的作用與輸出文件的分隔符的作用是一樣的，只是後者是空格而已。
printf函數，其用法和c語言中printf基本相似,可以格式化字符串,輸出復雜時，printf更加好用，代碼更易懂。
變量和賦值
除了awk的內置變量，awk還可以自定義變量。
下面統計/etc/passwd的賬戶人數
awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd
root:x:0:0:root:/root:/bin/bash
......
user count is 40
count是自定義變量。之前的action{}裡都是只有一個print,其實print只是一個語句，而action{}可以有多個語句，以;號隔開。
這裡沒有初始化count，雖然默認是0，但是妥當的做法還是初始化為0:
awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd
[start]user count is 0
root:x:0:0:root:/root:/bin/bash
...
[end]user count is 40
統計某個文件夾下的文件占用的字節數
ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'
[end]size is 8657198
如果以M為單位顯示:
ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}'
[end]size is 8.25889 M
注意，統計不包括文件夾的子目錄。
條件語句
awk中的條件語句是從C語言中借鑒來的，見如下聲明方式：
if (expression) {
statement;
statement;
... ...
}
if (expression) {
statement;
} else {
statement2;
}
if (expression) {
statement1;
} else if (expression1) {
statement2;
} else {
statement3;
}
統計某個文件夾下的文件占用的字節數,過濾4096大小的文件(一般都是文件夾):
ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}'
[end]size is 8.22339 M
循環語句
awk中的循環語句同樣借鑒於C語言，支持while、do/while、for、break、continue，這些關鍵字的語義和C語言中的語義完全相同。
數組
因為awk中數組的下標可以是數字和字母，數組的下標通常被稱為關鍵字(key)。值和關鍵字都存儲在內部的一張針對key/value應用hash的表格裡。由於hash不是順序存儲，因此在顯示數組內容時會發現，它們並不是按照你預料的順序顯示出來的。數組和變量一樣，都是在使用時自動創建的，awk也同樣會自動判斷其存儲的是數字還是字符串。一般而言，awk中的數組用來從記錄中收集信息，可以用於計算總和、統計單詞以及跟蹤模板被匹配的次數等等。
顯示/etc/passwd的賬戶
awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd
0 root
1 daemon
2 bin
3 sys
4 sync
5 games
......
這裡使用for循環遍歷數組
awk編程的內容極多，這裡只羅列簡單常用的用法，更多請參考 http://www.gnu.org/software/gawk/manual/gawk.html
http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858470.html
awk腳本是由模式和操作組成的：
pattern {action} 如$ awk '/root/' test，或$ awk '$3 < 100' test。
兩者是可選的，如果沒有模式，則action應用到全部記錄，如果沒有action，則輸出匹配全部記錄。默認情況下，每一個輸入行都是一條記錄，但用戶可通過RS變量指定不同的分隔符進行分隔。
模式可以是以下任意一個：
/正則表達式/：使用通配符的擴展集。
關系表達式：可以用下面運算符表中的關系運算符進行操作，可以是字符串或數字的比較，如$2>%1選擇第二個字段比第一個字段長的行。
模式匹配表達式：用運算符~(匹配)和~!(不匹配)。
模式，模式：指定一個行的范圍。該語法不能包括BEGIN和END模式。
BEGIN：讓用戶指定在第一條輸入記錄被處理之前所發生的動作，通常可在這裡設置全局變量。
操作由一人或多個命令、函數、表達式組成，之間由換行符或分號隔開，並位於大括號內。主要有四部份：
變量或數組賦值
輸出命令
內置函數
Table 1. awk的環境變量
Table 2. 運算符
awk把每一個以換行符結束的行稱為一個記錄。
記錄分隔符：默認的輸入和輸出的分隔符都是回車，保存在內建變量ORS和RS中。
$0變量：它指的是整條記錄。如$ awk '{print $0}' test將輸出test文件中的所有記錄。
變量NR：一個計數器，每處理完一條記錄，NR的值就增加1。如$ awk '{print NR,$0}' test將輸出test文件中所有記錄，並在記錄前顯示記錄號。
記錄中每個單詞稱做“域”，默認情況下以空格或tab分隔。awk可跟蹤域的個數，並在內建變量NF中保存該值。如$ awk '{print $1,$3}' test將打印test文件中第一和第三個以空格分開的列(域)。
內建變量FS保存輸入域分隔符的值，默認是空格或tab。我們可以通過-F命令行選項修改FS的值。如$ awk -F: '{print $1,$5}' test將打印以冒號為分隔符的第一，第五列的內容。
可以同時使用多個域分隔符，這時應該把分隔符寫成放到方括號中，如$awk -F'[:\t]' '{print $1,$3}' test，表示以空格、冒號和tab作為分隔符。
輸出域的分隔符默認是一個空格，保存在OFS中。如$ awk -F: '{print $1,$5}' test，$1和$5間的逗號就是OFS的值。
以下幾個是gawk專用的，不適合unix版本的awk。
\Y匹配一個單詞開頭或者末尾的空字符串。
\B匹配單詞內的空字符串。
\<匹配一個單詞的開頭的空字符串，錨定開始。
\>匹配一個單詞的末尾的空字符串，錨定末尾。
\w匹配一個字母數字組成的單詞。
\W匹配一個非字母數字組成的單詞。
\‘匹配字符串開頭的一個空字符串。
\'匹配字符串末尾的一個空字符串。
用來在記錄或者域內匹配正則表達式。如$ awk '$1 ~/^root/' test將顯示test文件第一列中以root開頭的行。
conditional expression1 ? expression2: expression3，例如：$ awk '{max = {$1 > $3} ? $1: $3: print max}' test。如果第一個域大於第三個域，$1就賦值給max，否則$3就賦值給max。
$ awk '$1 + $2 < 100' test。如果第一和第二個域相加大於100，則打印這些行。
$ awk '$1 > 5 && $2 < 10' test,如果第一個域大於5，並且第二個域小於10，則打印這些行。
范圍模板匹配從第一個模板的第一次出現到第二個模板的第一次出現之間所有行。如果有一個模板沒出現，則匹配到開頭或末尾。如$ awk '/root/,/mysql/' test將顯示root第一次出現到mysql第一次出現之間的所有行。
cat把結果輸出給awk，awk把域之間的分隔符設為冒號。
如果域的數量(NF)不等於7，就執行下面的程序。
printf打印字符串"line ?? does not have 7 fields"，並顯示該條記錄。
如果第一個域沒有包含任何字母和數字，printf打印“no alpha and numeric user id" ，並顯示記錄數和記錄。
如果第二個域是一個星號，就打印字符串“no passwd”，緊跟著顯示記錄數和記錄本身。
$ awk '/^(no|so)/' test-----打印所有以模式no或so開頭的行。
$ awk '/^[ns]/{print $1}' test-----如果記錄以n或s開頭，就打印這個記錄。
$ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一個域以兩個數字結束就打印這個記錄。
$ awk '$1 == 100 || $2 < 50' test-----如果第一個或等於100或者第二個域小於50，則打印該行。
$ awk '$1 != 10' test-----如果第一個域不等於10就打印該行。
$ awk '/test/{print $1 + 10}' test-----如果記錄包含正則表達式test，則第一個域加10並打印出來。
$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一個域大於5則打印問號後面的表達式值，否則打印冒號後面的表達式值。
在awk中，變量不需要定義就可以直接使用，變量類型可以是數字或字符串。
賦值格式：Variable = expression，如$ awk '$1 ~/test/{count = $2 + $3; print count}' test,上式的作用是,awk先掃描第一個域，一旦test匹配，就把第二個域的值加上第三個域的值，並把結果賦值給變量count，最後打印出來。
awk可以在命令行中給變量賦值，然後將這個變量傳輸給awk腳本。如$ awk -F: -f awkscript month=4 year=2004 test，上式的month和year都是自定義變量，分別被賦值為4和2004。在awk腳本中，這些變量使用起來就象是在腳本中建立的一樣。注意，如果參數前面出現test，那麼在BEGIN語句中的變量就不能被使用。
域變量也可被賦值和修改，如$ awk '{$2 = 100 + $1; print }' test,上式表示，如果第二個域不存在，awk將計算表達式100加$1的值，並將其賦值給$2，如果第二個域存在，則用表達式的值覆蓋$2原來的值。再例如：$ awk '$1 == "root"{$1 ="test";print}' test，如果第一個域的值是“root”，則把它賦值為“test”，注意，字符串一定要用雙引號。
BEGIN模塊後緊跟著動作塊，這個動作塊在awk處理任何輸入文件之前執行。所以它可以在沒有任何輸入的情況下進行測試。它通常用來改變內建變量的值，如OFS,RS和FS等，以及打印標題。如：$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示，在處理輸入文件以前，域分隔符(FS)被設為冒號，輸出文件分隔符(OFS)被設置為制表符，輸出記錄分隔符(ORS)被設置為兩個換行符。$ awk 'BEGIN{print "TITLE TEST"}只打印標題。
END不匹配任何的輸入文件，但是執行動作塊中的所有動作，它在整個輸入文件處理完成後被執行。如$ awk 'END{print "The number of records is" NR}' test，上式將打印所有被處理的記錄數。
awk可使用shell的重定向符進行重定向輸出，如：$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一個域的值等於100，則把它輸出到output_file中。也可以用>>來重定向輸出，但不清空文件，只做追加操作。
輸出重定向需用到getline函數。getline從標准輸入、管道或者當前正在處理的文件之外的其他輸入文件獲得輸入。它負責從輸入獲得下一行的內容，並給NF,NR和FNR等內建變量賦值。如果得到一條記錄，getline函數返回1，如果到達文件的末尾就返回0，如果出現錯誤，例如打開文件失敗，就返回-1。如：
$ awk 'BEGIN{ "date" | getline d; print d}' test。執行linux的date命令，並通過管道輸出給getline，然後再把輸出賦值給自定義變量d，並打印它。
$ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。執行shell的date命令，並通過管道輸出給getline，然後getline從管道中讀取並將輸入賦值給d，split函數把變量d轉化成數組mon，然後打印數組mon的第二個元素。
$ awk 'BEGIN{while( "ls" | getline) print}'，命令ls的輸出傳遞給geline作為輸入，循環使getline從ls的輸出中讀取一行，並把它打印到屏幕。這裡沒有輸入文件，因為BEGIN塊在打開輸入文件前執行，所以可以忽略輸入文件。
$ awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test。在屏幕上打印”What is your name?",並等待用戶應答。當一行輸入完畢後，getline函數從終端接收該行輸入，並把它儲存在自定義變量name中。如果第一個域匹配變量name的值，print函數就被執行，END塊打印See you和name的值。
$ awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'。awk將逐行讀取文件/etc/passwd的內容，在到達文件末尾前，計數器lc一直增加，當到末尾時，打印lc的值。注意，如果文件不存在，getline返回-1，如果到達文件的末尾就返回0，如果讀到一行，就返回1，所以命令 while (getline < "/etc/passwd")在文件不存在的情況下將陷入無限循環，因為返回-1表示邏輯真。
可以在awk中打開一個管道，且同一時刻只能有一個管道存在。通過close()可關閉管道。如：$ awk '{print $1, $2 | "sort" }' test END {close("sort")}。awd把print語句的輸出通過管道作為linux命令sort的輸入,END塊執行關閉管道操作。
system函數可以在awk中執行linux的命令。如：$ awk 'BEGIN{system("clear")'。
awk中的條件語句是從C語言中借鑒過來的，可控制程序的流程。
格式：
{if (expression){
statement; statement; ...
}
}
$ awk '{if ($1 <$2) print $2 "too high"}' test。如果第一個域小於第二個域則打印。
$ awk '{if ($1 < $2) {count++; print "ok"}}' test.如果第一個域小於第二個域，則count加一，並打印ok。
格式：
{if (expression){
statement; statement; ...
}
else{
statement; statement; ...
}
}
$ awk '{if ($1 > 100) print $1 "bad" ; else print "ok"}' test。如果$1大於100則打印$1 bad,否則打印ok。
$ awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test。如果$1大於100，則count加一，並打印$1，否則count減一，並打印$1。
格式：
{if (expression){
statement; statement; ...
}
else if (expression){
statement; statement; ...
}
else if (expression){
statement; statement; ...
}
else {
statement; statement; ...
}
}
awk有三種循環: while循環；for循環；special for循環。
$ awk '{ i = 1; while ( i <= NF ) { print NF,$i; i++}}' test。變量的初始值為1，若i小於可等於NF(記錄中域的個數),則執行打印語句，且i增加1。直到i的值大於NF.
$ awk '{for (i = 1; i
special for 循環用於讀取關聯數組中的元素。格式如下：
{for (item in arrayname){
print arrayname[item]
}
}
$ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}' test。打印有值的數組元素。打印的順序是隨機的。用字符串作為下標。如：count["test"]
用域值作為數組的下標。一種新的for循環方式，for (index_value in array) statement。如:$ awk '{count[$1]++} END{for(name in count) print name,count[name]}' test。該語句將打印$1中字符串出現的次數。它首先以第一個域作數組count的下標，第一個域變化，索引就變化。
sub 函數匹配記錄中最大、最靠左邊的子字符串的正則表達式，並用替換字符串替換這些字符串。如果沒有指定目標字符串就默認使用整個記錄。替換只發生在第一次匹配的時候。格式如下：
sub (regular expression, substitution string):
sub (regular expression, substitution string, target string)
實例：
$ awk '{ sub(/test/, "mytest"); print }' testfile
$ awk '{ sub(/test/, "mytest"); $1}; print }' testfile
第一個例子在整個記錄中匹配，替換只發生在第一次匹配發生的時候。如要在整個文件中進行匹配需要用到gsub
第二個例子在整個記錄的第一個域中進行匹配，替換只發生在第一次匹配發生的時候。
gsub 函數作用如sub，但它在整個文檔中進行匹配。格式如下：
gsub (regular expression, substitution string)
gsub (regular expression, substitution string, target string)
實例：
$ awk '{ gsub(/test/, "mytest"); print }' testfile
$ awk '{ gsub(/test/, "mytest" , $1) }; print }' testfile
第一個例子在整個文檔中匹配test，匹配的都被替換成mytest。
第二個例子在整個文檔的第一個域中匹配，所有匹配的都被替換成mytest。
index 函數返回子字符串第一次被匹配的位置，偏移量從位置1開始。格式如下：
index(string, substring)
實例：
$ awk '{ print index("test", "mytest") }' testfile
實例返回test在mytest的位置，結果應該是3。
length 函數返回記錄的字符數。格式如下：
length( string )
length
實例：
$ awk '{ print length( "test" ) }'
$ awk '{ print length }' testfile
第一個實例返回test字符串的長度。
第二個實例返回testfile文件中第條記錄的字符數。
substr 函數返回從位置1開始的子字符串，如果指定長度超過實際長度，就返回整個字符串。格式如下：
substr( string, starting position )
substr( string, starting position, length of string )
實例：
$ awk '{ print substr( "hello world", 7,11 ) }'
上例截取了world子字符串。
match 函數返回在字符串中正則表達式位置的索引，如果找不到指定的正則表達式則返回0。match函數會設置內建變量RSTART為字符串中子字符串的開始位置，RLENGTH為到子字符串末尾的字符個數。substr可利於這些變量來截取字符串。函數格式如下：
match( string, regular expression )
實例：
$ awk '{start=match("this is a test",/[a-z]+$/); print start}'
$ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'
第一個實例打印以連續小寫字符結尾的開始位置，這裡是11。
第二個實例還打印RSTART和RLENGTH變量，這裡是11(start)，11(RSTART)，4(RLENGTH)。
toupper 和tolower 函數可用於字符串大小間的轉換，該功能只在gawk中有效。格式如下：
toupper( string )
tolower( string )
實例：
$ awk '{ print toupper("test"), tolower("TEST") }'
split( string, array, field separator )
split( string, array )
實例：
$ awk '{ split( "20:18:00", time, ":" ); print time[2] }'
上例把時間按冒號分割到time數組內，並顯示第二個數組元素18。
systime函數返回從1970年1月1日開始到當前時間(不計閏年)的整秒數。格式如下：
systime()
實例：
$ awk '{ now = systime(); print now }'
systime( [format specification][,timestamp] )
Table 3. 日期和時間格式說明符
實例：
$ awk '{ now=strftime( "%D", systime() ); print now }'
$ awk '{ now=strftime("%m/%d/%y"); print now }'
Table 4.
在awk中還可自定義函數，格式如下：
function name ( parameter, parameter, parameter, ... ) {
statements
return expression # the return statement and expression are optional
}
如何把一行豎排的數據轉換成橫排？
awk '{printf("%s,",$1)}' filename
http://blog.sina.com.cn/s/blog_5a3640220100b7c8.html
http://www.linuxidc.com/Linux/2012-05/61174.htm
一般在awk裡面輸入文件是多個時，NR==FNR才有意義，如果這個值為true，表示還在處理第一個文件。
NR==FNR 這個一般用於讀取兩個或者兩個以上的文件中，用於判斷是在讀取第一個文件。。
test.txt 10行內容
test2.txt 4行內容
awk '{print NR,FNR}' test.txt test2.txt
1 1
2 2
3 3
4 4
5 5
6 6
7 7
8 8
9 9
10 10
11 1
12 2
13 3
14 4
現在有兩個文件格式如下：
#cat account
張三|000001
李四|000002
#cat cdr
000001|10
000001|20
000002|30
000002|15
想要得到的結果是將用戶名，帳號和金額在同一行打印出來,如下:
張三|000001|10
張三|000001|20
李四|000002|30
李四|000002|15
執行如下代碼
#awk -F \| 'NR==FNR{a[$2]=$0;next}{print a[$1]"|"$2}' account cdr
注釋:
由NR=FNR為真時,判斷當前讀入的是第一個文件account,然後使用{a[$2]=$0;next}循環將account文件的每行記錄都存入數組a,並使用$2第2個字段作為下標引用.
由NR=FNR為假時,判斷當前讀入了第二個文件cdr,然後跳過{a[$2]=$0;next},對第二個文件cdr的每一行都無條件執行{print a[$1]"|"$2},此時變量$1為第二個文件的第一個字段,與讀入第一個文件時,采用第一個文件第二個字段$2為數組下標相同.因此可以在此使用a[$1]引用數組。
awk '{gsub(/\$/,"");gsub(/,/,"");
if ($1>=0.1 && $1<0.2) c1+=1;
else if ($1>=0.2 && $1<0.3) c2+=1;
else if ($1>=0.3 && $1<0.4) c3+=1;
else if ($1>=0.4 && $1<0.5) c4+=1;
else if ($1>=0.5 && $1<0.6) c5+=1;
else if ($1>=0.6 && $1<0.7) c6+=1;
else if ($1>=0.7 && $1<0.8) c7+=1;
else if ($1>=0.8 && $1<0.9) c8+=1;
else if ($1>=0.9 ) c9+=1;
else c10+=1; }
END {printf "%d\t%d\t%d\t%d\t%d\t%d\t%d\t%d\t%d\t%d\t",c1,c2,c3,c4,c5,c6,c7,c8,c9,c10} ' /NEW
示例/例子：
awk '{if($0~/^>.*$/) {tmp=$0; getline; if( length($0)>=200) {print tmp"\n"$0; } }}' filename
awk '{if($0~/^>.*$/) {IGNORECASE=1; if($0~/PREDICTED/) {getline;} else {print $0; getline; print $0; } }}' filename
awk '{if($0~/^>.*$/) {IGNORECASE=1; if($0~/mRNA/) {print $0; getline; print $0; } else {getline;} }}' filename
awk '{ temp=$0; getline; if($0~/unavailable/) {;} else {print temp"\n"$0;} }' filename
substr($4,20) ---> 表示是從第4個字段裡的第20個字符開始，一直到設定的分隔符","結束.
substr($3,12,8) ---> 表示是從第3個字段裡的第12個字符開始，截取8個字符結束.
一、awk字符串轉數字
$ awk 'BEGIN{a="100";b="10test10";print (a+b+0);}'
110
只需要將變量通過”+”連接運算。自動強制將字符串轉為整型。非數字變成0，發現第一個非數字字符，後面自動忽略。
二、awk數字轉為字符串
$ awk 'BEGIN{a=100;b=100;c=(a""b);print c}'
100100
只需要將變量與””符號連接起來運算即可。
三、awk字符串連接操作(字符串連接；鏈接；串聯)
$ awk 'BEGIN{a="a";b="b";c=(a""b);print c}'
ab
$ awk 'BEGIN{a="a";b="b";c=(a+b);print c}'
0
把文件中的各行串聯起來：
awk 'BEGIN{xxxx="";}{xxxx=(xxxx""$0);}END{print xxxx}' temp.txt
awk 'BEGIN{xxxx="";}{xxxx=(xxxx"\",\""$0);}END{print xxxx}' temp.txt