awk 数组--心得

上一篇 / 下一篇  2011-08-01 00:26:13 / 个人分类:AWK学习


在文本处理的工作中,awk的数组是必不可少的工具,在这里,同样以总结经验和教训的方式和大家分享下我的一些学习心得,如有错误的地方,请大家指正和补充。

awk的数组,一种关联数组(Associative Arrays),下标可以是数字和字符串。因无需对数组名和元素提前声明,也无需指定元素个数 ,所以awk的数组使用非常灵活。
首先介绍下几个awk数组相关的知识点:

<1>建立数组
  1. array[index] = value :数组名array,下标index以及相应的值value。
复制代码
<2>读取数组值
  1. { for (item in array)  print array[item]} # 输出的顺序是随机的
  2. {for(i=1;i<=len;i++)  print array[i]} # Len 是数组的长度
复制代码
<3>多维数组,array[index1,index2,……]:SUBSEP是数组下标分割符,默认为“\034”。可以事先设定SUBSEP,也可以直接在SUBSEP的位置输入你要用的分隔符,如:
  1. awk 'BEGIN{SUBSEP=":";array["a","b"]=1;for(i in array) print i}'
  2. a:b
  3. awk 'BEGIN{array["a"":""b"]=1;for(i in array) print i}'
  4. a:b
复制代码
但,有些特殊情况需要避免,如:
  1. awk 'BEGIN{
  2. SUBSEP=":"
  3. array["a","b:c"]=1               # 下标为“a:b:c”
  4. array["a:b","c"]=2               #下标同样是“a:b:c”
  5. for (i in array) print i,array[i]}'
  6. a:b:c 2                                 #所以数组元素只有一个。
复制代码
<4>删除数组或数组元素: 使用delete 函数
  1. delete array                     #删除整个数组
  2. delete array[item]           # 删除某个数组元素(item)
复制代码
<5> 排序:awk中的asort函数可以实现对数组的值进行排序,不过排序之后的数组下标改为从1到数组的长度。在gawk 3.1.2以后的版本还提供了一个asorti函数,这个函数不是依据关联数组的值,而是依据关联数组的下标排序,即asorti(array)以后,仍会用数字(1到数组长度)来作为下标,但是array的数组值变为排序后的原来的下标,除非你指定另一个参数如:asorti(a,b)。(非常感谢lionfun对asorti的指正和补充

  1. echo 'aa
  2. bb
  3. aa
  4. bb
  5. cc' |\
  6. awk '{a[$0]++}END{l=asorti(a);for(i=1;i<=l;i++)print a[i]}'
  7. aa
  8. bb
  9. cc

  10. echo 'aa
  11. bb
  12. aa
  13. bb
  14. cc' |\
  15. awk '{a[$0]++}END{l=asorti(a,b);for(i=1;i<=l;i++)print b[i],a[b[i]]}'
  16. aa 2
  17. bb 2
  18. cc 1
复制代码


下面说awk数组的实际应用

1.  除去重复项, 这个不多说, 只给出代码:
  1. awk '!a[$0]++' file(s)                   
  2. awk '!($0 in a){a[$0];print}' file(s)   
复制代码
另一种:http://bbs.chinaunix
.net/thread-1859344-1-1.html 

2. 计算总数(sum),如:
  1. awk  '{name[$0]+=$1};END{for(i in name) print  i, name[i]}'

  2. 再举个例子:

  3. echo "aaa 1
  4. aaa 1
  5. ccc 1
  6. aaa 1
  7. bbb 1
  8. ccc 1" |awk '{a[$1]+=$2}END{for(i in a) print i,a[i]}'
  9. aaa 3
  10. bbb 1
  11. ccc 2
复制代码
3. 查看文件差异。
  1. cat file1
  2. aaa
  3. bbb
  4. ccc
  5. ddd
  6. cat file2
  7. aaa
  8. eee
  9. ddd
  10. fff
复制代码
<1>  合并file1和file2,除去重复项:
  1. awk 'NR==FNR{a[$0]=1;print}   #读取file1,建立数组a,下标为$0,并赋值为1,然后打印
  2. NR>FNR{                   #读取file2
  3. if(!(a[$0])) {print }      #如果file2 的$0不存在于数组a中,即不存在于file1,则打印。
  4. }' file1 file2
  5. aaa
  6. bbb
  7. ccc
  8. ddd
  9. eee
  10. fff
复制代码
<2> 提取文件1中有,但文件2中没有:
  1. awk 'NR==FNR{a[$0]=1}           #读取file2,建立数组a,下标为$0,并赋值为1
  2. NR>FNR{                   #读取file1
  3. if(!(a[$0])) {print }      #如果file1 的$0不存在于数组a中,即不存在于file2,则打印。
  4. }' file2 file1
  5. bbb
  6. ccc
复制代码
另:http://bbs.chinaunix.net/viewthr ... &page=1#pid15547885 

4.  排序:
  1. echo "a
  2. 1
  3. 0
  4. b
  5. 2
  6. 10
  7. 8
  8. 100" |
  9. awk '{a[$0]=$0} #建立数组a,下标为$0,赋值也为$0
  10. END{
  11. len=asort(a)      #利用asort函数对数组a的值排序,同时获得数组长度len
  12. for(i=1;i<=len;i++) print i "\t"a[i]  #打印
  13. }'
  14. 1       0
  15. 2       1
  16. 3       2
  17. 4       8
  18. 5       10
  19. 6       100
  20. 7       a
  21. 8       b
复制代码
5.  有序输出:采用(index in array)的方式打印数组值的顺序是随机的,如果要按原序输出,则可以使用下面的方法:http://bbs2.chinaunix.net/viewthread.php?tid=1811279
  1. awk '{a[$1]=$2
  2. c[j++]=$1}<br style="word-wrap: brea

TAG:

abinNO1的个人空间 引用 删除 abinNO1   /   2011-09-28 12:03:18
http://www.linuxsir.org/bbs/printthread.php?t=29701&pp=15
shell脚本欣赏区
abinNO1的个人空间 引用 删除 abinNO1   /   2011-08-22 21:22:53
ls -lh|grep ^-|grep -vw a|awk '{print $9}'|xargs md5sum | awk '{print $1 " DEPLOY " $2}' > a

运算顺序从右往左。
 

评分:0

我来说两句

Open Toolbar