20分钟 Awk 入门
什么是awkawk是一种小巧的编程语言及命令行工具。（其名称得自于它的创始人alfred aho、peter weinberger 和 brian kernighan姓氏的首个字母）。它非常适合服务器上的日志处理，主要是因为awk可以对文件进行操作，通常以可读文本构建行。
我说它适用于服务器是因为日志文件，转储文件（dump files），或者任意文本格式的服务器终止转储到磁盘都会变得很大，并且在每个服务器你都会拥有大量的这类文件。如果你经历过这样的情境——在没有像splunk或者其他等价的工具情况下不得不在50个不同的服务器里分析几g的文件，你会觉得去获取和下载所有的这些文件并分析他们是一件很糟糕的事。
我亲身经历过这种情境。当一些erlang节点将要死掉并留下一个700mb到4gb的崩溃转储文件（crash dump）时，或者当我需要在一个小的个人服务器（叫做vps）上快速浏览日志，查找一个常规模式时。
在任何情况下，awk都不仅仅只是用来查找数据的（否则，grep或者ack已经足够使用了）——它同样使你能够处理数据并转换数据。
代码结构awk脚本的代码结构很简单，就是一系列的模式（pattern）和行为（action）：
# commentpattern1 { actions; }# commentpattern2 { actions; }# commentpattern3 { actions; }# commentpattern4 { actions; }扫描文档的每一行时都必须与每一个模式进行匹配比较，而且一次只匹配一个模式。那么，如果我给出一个包含以下内容的文件：
this is line 1this is line 2this is line 1 这行就会与pattern1进行匹配。如果匹配成功，就会执行actions。然后this is line 1 会和pattern2进行匹配。如果匹配失败，它就会跳到pattern3进行匹配，以此类推。
一旦所有的模式都匹配过了，this is line 2 就会以同样的步骤进行匹配。其他的行也一样，直到读取完整个文件。
简而言之，这就是awk的运行模式
数据类型awk仅有两个主要的数据类型：字符串和数字。即便如此，awk的字符串和数字还可以相互转换。字符串能够被解释为数字并把它的值转换为数字值。如果字符串不包含数字，它就被转换为0.
它们都可以在你代码里的actions部分使用 = 操作符给变量赋值。我们可以在任意时刻、任意地方声明和使用变量，也可以使用未初始化的变量，此时他们的默认值是空字符串：“”。
最后，awk有数组类型，并且它们是动态的一维关联数组。它们的语法是这样的：var[key] = value 。awk可以模拟多维数组，但无论怎样，这是一个大的技巧（big hack）。
模式可以使用的模式分为三大类：正则表达式、布尔表达式和特殊模式。
正则表达式和布尔表达式
你使用的awk正则表达式比较轻量。它们不是awk下的pcre（但是gawk可以支持该库——这依赖于具体的实现！请使用 awk
–version查看），然而，对于大部分的使用需求已经足够了：
/admin/ { ... } # any line that contains 'admin'/^admin/ { ... } # lines that begin with 'admin'/admin$/ { ... } # lines that end with 'admin'/^[0-9.]+ / { ... } # lines beginning with series of numbers and periods/(post|put|delete)/ # lines that contain specific http verbs注意，模式不能捕获特定的组（groups）使它们在代码的actions部分执行。模式是专门匹配内容的。
布尔表达式与php或者javascript中的布尔表达式类似。特别的是，在awk中可以使用&&（“与”）、||（“或”）、!（“非”）操作符。你几乎可以在所有类c语言中找到它们的踪迹。它们可以对常规数据进行操作。
与php和javascript更相似的特性是比较操作符，==，它会进行模糊匹配（fuzzy matching）。因此“23”字符串等于23，”23″ == 23 表达式返回true。!= 操作符同样在awk里使用，并且别忘了其他常见的操作符：>，=，和<=。
你同样可以混合使用它们：布尔表达式可以和常规表达式一起使用。 /admin/ || debug == true 这种用法是合法的，并且在遇到包含“admin”单词的行或者debug变量等于true时该表达式就会匹配成功。
注意，如果你有一个特定的字符串或者变量要与正则表达式进行匹配，~ 和!~ 就是你想要的操作符。 这样使用它们：string ~ /regex/ 和 string !~ /regex/。
同样要注意的是，所有的模式都只是可选的。一个包含以下内容的awk脚本：
{ actions }
对输入的每一行都将会简单地执行actions。
特殊的模式在awk里有一些特殊的模式，但不是很多。
第一个是begin，它仅在所有的行都输入到文件之前进行匹配。这是你可以初始化你的脚本变量和所有种类的状态的主要地方。
另外一个就是end。就像你可能已经猜到的，它会在所有的输入都被处理完后进行匹配。这使你可以在退出前进行清除工作和一些最后的输出。
最后一类模式，要把它进行归类有点困难。它处于变量和特殊值之间，我们通常称它们为域（field）。而且名副其实。
域使用直观的例子能更好地解释域：
# according to the following line## $1 $2 $3# 00:34:23 get /foo/bar.html# _____________ _____________/# $0 # hack attempt?/admin.html$/ && $2 == delete {print hacker alert!;}域（默认地）由空格分隔。$0 域代表了一整行的字符串。 $1 域是第一块字符串（在任何空格之前）， $2 域是后一块，以此类推。
一个有趣的事实（并且是在大多是情况下我们要避免的事情），你可以通过给相应的域赋值来修改相应的行。例如，如果你在一个块里执行 $0 = “haha the line is gone”，那么现在下一个模式将会对修改后的行进行操作而不是操作原始的行。其他的域变量都类似。
行为这里有一堆可用的行为（possible actions），但是最常用和最有用的行为（以我的经验来说）是：
{ print $0; } # prints $0. in this case, equivalent to 'print' alone{ exit; } # ends the program{ next; } # skips to the next line of input{ a=$1; b=$0 } # variable assignment{ c[$1] = $2 } # variable assignment (array) { if (boolean) { action }else if (boolean) { action }else { action }}{ for (i=1; iawk里的变量都是全局变量。无论你在给定的块里定义什么变量，它对其他的块都是可见的，甚至是对每一行都是可见的。这严重限制了你的awk脚本大小，不然他们会造成不可维护的可怕结果。请编写尽可能小的脚本。
函数可以使用下面的语法来调用函数：
{ somecall($2) }这里有一些有限的内置函数可以使用，所以我可以给出这些函数的通用文档（regular documentation）。
用户定义的函数同样很简单：
# function arguments are call-by-valuefunction name(parameter-list) {actions; # same actions as usual} # return is a valid keywordfunction add1(val) {return val+1;}特殊变量除了常规变量（全局的，可以在任意地方使用），这里还有一系列特殊的变量，它们的的作用有点像配置条目（configuration entries）：
begin { # can be modified by the userfs = ,; # field separatorrs = n; # record separator (lines)ofs = ; # output field separatorors = n; # output record separator (lines)}{ # can't be modified by the usernf # number of fields in the current record (line)nr # number of records seen so farargv / argc # script arguments}我把可修改的变量放在begin里，因为我更喜欢在那重写它们。但是这些变量的重写可以放在脚本的任意地方然后在后面的行里生效。
linux内核下重力感应驱动程序的开发
!销售/维修/收购HP8648A信号发生器HP 8648A小
全球科技巨头纷纷加码5G研发
视网膜成像显示技术分析
数据中心中断的原因，如何防止？
20分钟 Awk 入门
C-Face智能口罩内置麦克风，连接蓝牙还能翻译成不同的语言？
氟塑料电缆对绝缘材料的性能要求主要表现在哪
电气设备四种状态介绍
Net Meter的11大优点
OPPO发布50w无线快充技术，是鸡肋还是实用
iPhone 16工业设计曝光，有啥不一样？
联发科下半年扩资进入10纳米制程 拟配新股留人
什么是量子计算机，它的工作原理是什么
8位MCU向32位转换之策，性能卓越有蓝海
半导体陶瓷传感器的热敏特性和工作原理解析
Quanergy宣布为全球最大的港口运营商之一
各行业巨头为何纷纷进军智能家居领域了
直流电源负载效应的影响
电动自行车蓄电池的失效模式有哪些？
我说它适用于服务器是因为日志文件，转储文件（dump files），或者任意文本格式的服务器终止转储到磁盘都会变得很大，并且在每个服务器你都会拥有大量的这类文件。如果你经历过这样的情境——在没有像splunk或者其他等价的工具情况下不得不在50个不同的服务器里分析几g的文件，你会觉得去获取和下载所有的这些文件并分析他们是一件很糟糕的事。
我亲身经历过这种情境。当一些erlang节点将要死掉并留下一个700mb到4gb的崩溃转储文件（crash dump）时，或者当我需要在一个小的个人服务器（叫做vps）上快速浏览日志，查找一个常规模式时。
在任何情况下，awk都不仅仅只是用来查找数据的（否则，grep或者ack已经足够使用了）——它同样使你能够处理数据并转换数据。
代码结构awk脚本的代码结构很简单，就是一系列的模式（pattern）和行为（action）：
# commentpattern1 { actions; }# commentpattern2 { actions; }# commentpattern3 { actions; }# commentpattern4 { actions; }扫描文档的每一行时都必须与每一个模式进行匹配比较，而且一次只匹配一个模式。那么，如果我给出一个包含以下内容的文件：
this is line 1this is line 2this is line 1 这行就会与pattern1进行匹配。如果匹配成功，就会执行actions。然后this is line 1 会和pattern2进行匹配。如果匹配失败，它就会跳到pattern3进行匹配，以此类推。
一旦所有的模式都匹配过了，this is line 2 就会以同样的步骤进行匹配。其他的行也一样，直到读取完整个文件。
简而言之，这就是awk的运行模式
数据类型awk仅有两个主要的数据类型：字符串和数字。即便如此，awk的字符串和数字还可以相互转换。字符串能够被解释为数字并把它的值转换为数字值。如果字符串不包含数字，它就被转换为0.
它们都可以在你代码里的actions部分使用 = 操作符给变量赋值。我们可以在任意时刻、任意地方声明和使用变量，也可以使用未初始化的变量，此时他们的默认值是空字符串：“”。
最后，awk有数组类型，并且它们是动态的一维关联数组。它们的语法是这样的：var[key] = value 。awk可以模拟多维数组，但无论怎样，这是一个大的技巧（big hack）。
模式可以使用的模式分为三大类：正则表达式、布尔表达式和特殊模式。
正则表达式和布尔表达式
你使用的awk正则表达式比较轻量。它们不是awk下的pcre（但是gawk可以支持该库——这依赖于具体的实现！请使用 awk
–version查看），然而，对于大部分的使用需求已经足够了：
/admin/ { ... } # any line that contains 'admin'/^admin/ { ... } # lines that begin with 'admin'/admin$/ { ... } # lines that end with 'admin'/^[0-9.]+ / { ... } # lines beginning with series of numbers and periods/(post|put|delete)/ # lines that contain specific http verbs注意，模式不能捕获特定的组（groups）使它们在代码的actions部分执行。模式是专门匹配内容的。
布尔表达式与php或者javascript中的布尔表达式类似。特别的是，在awk中可以使用&&（“与”）、||（“或”）、!（“非”）操作符。你几乎可以在所有类c语言中找到它们的踪迹。它们可以对常规数据进行操作。
与php和javascript更相似的特性是比较操作符，==，它会进行模糊匹配（fuzzy matching）。因此“23”字符串等于23，”23″ == 23 表达式返回true。!= 操作符同样在awk里使用，并且别忘了其他常见的操作符：>，=，和<=。
你同样可以混合使用它们：布尔表达式可以和常规表达式一起使用。 /admin/ || debug == true 这种用法是合法的，并且在遇到包含“admin”单词的行或者debug变量等于true时该表达式就会匹配成功。
注意，如果你有一个特定的字符串或者变量要与正则表达式进行匹配，~ 和!~ 就是你想要的操作符。 这样使用它们：string ~ /regex/ 和 string !~ /regex/。
同样要注意的是，所有的模式都只是可选的。一个包含以下内容的awk脚本：
{ actions }
对输入的每一行都将会简单地执行actions。
特殊的模式在awk里有一些特殊的模式，但不是很多。
第一个是begin，它仅在所有的行都输入到文件之前进行匹配。这是你可以初始化你的脚本变量和所有种类的状态的主要地方。
另外一个就是end。就像你可能已经猜到的，它会在所有的输入都被处理完后进行匹配。这使你可以在退出前进行清除工作和一些最后的输出。
最后一类模式，要把它进行归类有点困难。它处于变量和特殊值之间，我们通常称它们为域（field）。而且名副其实。
域使用直观的例子能更好地解释域：
# according to the following line## $1 $2 $3# 00:34:23 get /foo/bar.html# _____________ _____________/# $0 # hack attempt?/admin.html$/ && $2 == delete {print hacker alert!;}域（默认地）由空格分隔。$0 域代表了一整行的字符串。 $1 域是第一块字符串（在任何空格之前）， $2 域是后一块，以此类推。
一个有趣的事实（并且是在大多是情况下我们要避免的事情），你可以通过给相应的域赋值来修改相应的行。例如，如果你在一个块里执行 $0 = “haha the line is gone”，那么现在下一个模式将会对修改后的行进行操作而不是操作原始的行。其他的域变量都类似。
行为这里有一堆可用的行为（possible actions），但是最常用和最有用的行为（以我的经验来说）是：
{ print $0; } # prints $0. in this case, equivalent to 'print' alone{ exit; } # ends the program{ next; } # skips to the next line of input{ a=$1; b=$0 } # variable assignment{ c[$1] = $2 } # variable assignment (array) { if (boolean) { action }else if (boolean) { action }else { action }}{ for (i=1; i
函数可以使用下面的语法来调用函数：
{ somecall($2) }这里有一些有限的内置函数可以使用，所以我可以给出这些函数的通用文档（regular documentation）。
用户定义的函数同样很简单：
# function arguments are call-by-valuefunction name(parameter-list) {actions; # same actions as usual} # return is a valid keywordfunction add1(val) {return val+1;}特殊变量除了常规变量（全局的，可以在任意地方使用），这里还有一系列特殊的变量，它们的的作用有点像配置条目（configuration entries）：
begin { # can be modified by the userfs = ,; # field separatorrs = n; # record separator (lines)ofs = ; # output field separatorors = n; # output record separator (lines)}{ # can't be modified by the usernf # number of fields in the current record (line)nr # number of records seen so farargv / argc # script arguments}我把可修改的变量放在begin里，因为我更喜欢在那重写它们。但是这些变量的重写可以放在脚本的任意地方然后在后面的行里生效。
linux内核下重力感应驱动程序的开发
!销售/维修/收购HP8648A信号发生器HP 8648A小
全球科技巨头纷纷加码5G研发
视网膜成像显示技术分析
数据中心中断的原因，如何防止？
20分钟 Awk 入门
C-Face智能口罩内置麦克风，连接蓝牙还能翻译成不同的语言？
氟塑料电缆对绝缘材料的性能要求主要表现在哪
电气设备四种状态介绍
Net Meter的11大优点
OPPO发布50w无线快充技术，是鸡肋还是实用
iPhone 16工业设计曝光，有啥不一样？
联发科下半年扩资进入10纳米制程 拟配新股留人
什么是量子计算机，它的工作原理是什么
8位MCU向32位转换之策，性能卓越有蓝海
半导体陶瓷传感器的热敏特性和工作原理解析
Quanergy宣布为全球最大的港口运营商之一
各行业巨头为何纷纷进军智能家居领域了
直流电源负载效应的影响
电动自行车蓄电池的失效模式有哪些？