java 正则表达式优化

1，什么是正则表达式

        正则表达式使用一些特定的元字符来检索、匹配以及替换符合规则的字符串。

        构造正则表达式语法的元字符，由普通字符、标准字符、限定字符（量词）、定位字符（边界字符）组成

普通字符

        字母[a-zA-Z]、数字[0-9]、下划线[-]、汉字、标点符号等。比如，regex=[a-z]匹配从a到z，26个字母的任意一个。

标准字符

        能够与“多种普通字符”匹配的简单表达式。比如，\d、\w、\s等，匹配数字0到9的任意数字可以用普通字符实现regex=[0-9]，也可以用标准字符实现regex=\d。

限定字符（量词）

        用于表示匹配的字符数量。比如，*、+、？、[n}等，匹配任意1到3位的数字可以使用regex=\d{1,3}表示。

定位字符（边界字符）

        “零宽”，标记匹配符合某种条件的位置。比如，$、^等字符，匹配以Hello开头的字符串可以使用regex=^Hello表示。

2. 正则表达式引擎

        正则表达式是一个用正则符号写出的公式，程序对这个公式进行语法分析，建立一个语法分析树，再根据这个分析树结合正则表达式的引擎生成执行程序（这个执行程序我们把它称作状态机，也叫状态自动机），用于字符匹配。

        而这里的正则表达式引擎就是一套核心算法，用于建立状态机。

        目前实现正则表达式引擎的方式有两种：DFA 自动机（Deterministic Final Automata 确定有限状态自动机）和 NFA 自动机（Non deterministic Finite Automaton 非确定有限状态自动机）。

        对比来看，构造 DFA 自动机的代价远大于 NFA 自动机，但 DFA 自动机的执行效率高于NFA 自动机。

        假设一个字符串的长度是 n，如果用 DFA 自动机作为正则表达式引擎，则匹配的时间复杂度为 O(n)；如果用 NFA 自动机作为正则表达式引擎，由于 NFA 自动机在匹配过程中存在大量的分支和回溯，假设 NFA 的状态数为 s，则该匹配算法的时间复杂度为 O（ns）。

        NFA 自动机的优势是支持更多功能。例如，捕获 group、环视、占有优先量词等高级功能。这些功能都是基于子表达式独立进行匹配，因此在编程语言里，使用的正则表达式库都是基于 NFA 实现的。

        那么 NFA 自动机到底是怎么进行匹配的呢？我以下面的字符和表达式来举例说明。

text=“aabcab”regex=“bc”

        NFA 自动机会读取正则表达式的每一个字符，拿去和目标字符串匹配，匹配成功就换正则表达式的下一个字符，反之就继续和目标字符串的下一个字符进行匹配。

分解一下过程。

        首先，读取正则表达式的第一个匹配符和字符串的第一个字符进行比较，b 对 a，不匹配；继续换字符串的下一个字符，也是 a，不匹配；继续换下一个，是 b，匹配。

        然后，同理，读取正则表达式的第二个匹配符和字符串的第四个字符进行比较，c 对 c，匹配；继续读取正则表达式的下一个字符，然而后面已经没有可匹配的字符了，结束。

        这就是 NFA 自动机的匹配过程，虽然在实际应用中，碰到的正则表达式都要比这复杂，但匹配方法是一样的。   

NFA 自动机的回溯

        用 NFA 自动机实现的比较复杂的正则表达式，在匹配过程中经常会引起回溯问题。大量的

回溯会长时间地占用 CPU，从而带来系统性能开销。我来举例说明。

text=“abbc”regex=“ab{1,3}c”

        这个例子，匹配目的比较简单。匹配以 a 开头，以 c 结尾，中间有 1-3 个 b 字符的字符串。

NFA 自动机对其解析的过程是这样的：

        首先，读取正则表达式第一个匹配符 a 和字符串第一个字符 a 进行比较，a 对 a，匹配。

        然后，读取正则表达式第二个匹配符 b{1,3} 和字符串的第二个字符 b 进行比较，匹配。但因为 b{1,3} 表示 1-3 个 b 字符串，NFA 自动机又具有贪婪特性，所以此时不会继续读取正则表达式的下一个匹配符，而是依旧使用 b{1,3} 和字符串的第三个字符 b 进行比较，结果还是匹配。

        接着继续使用 b{1,3} 和字符串的第四个字符 c 进行比较，发现不匹配了，此时就会发生回溯，已经读取的字符串第四个字符 c 将被吐出去，指针回到第三个字符 b 的位置。

        那么发生回溯以后，匹配过程怎么继续呢？程序会读取正则表达式的下一个匹配符 c，和字符串中的第四个字符 c 进行比较，结果匹配，结束。

如何避免回溯问题？

        既然回溯会给系统带来性能开销，那如何应对呢？如果你有仔细看上面那个案例的话，

你会发现 NFA 自动机的贪婪特性就是导火索，这和正则表达式的匹配模式息息相关.

1. 贪婪模式（Greedy）

        顾名思义，就是在数量匹配中，如果单独使用 +、 ? 、* 或{min,max} 等量词，正则表达式会匹配尽可能多的内容。

例如，上边那个例子：

text=“abbc”regex=“ab{1,3}c”

        就是在贪婪模式下，NFA 自动机读取了最大的匹配范围，即匹配 3 个 b 字符。匹配发生了一次失败，就引起了一次回溯。如果匹配结果是“abbbc”，就会匹配成功。

2. 懒惰模式（Reluctant）

        在该模式下，正则表达式会尽可能少地重复匹配字符。如果匹配成功，它会继续匹配剩余的字符串。

例如，在上面例子的字符后面加一个“？”，就可以开启懒惰模式。

text=“abc”regex=“ab{1,3}?c”

        匹配结果是“abc”，该模式下 NFA 自动机首先选择最小的匹配范围，即匹配 1 个 b 字符，因此就避免了回溯问题。

3. 独占模式（Possessive）

        同贪婪模式一样，独占模式一样会最大限度地匹配更多内容；不同的是，在独占模式下，匹配失败就会结束匹配，不会发生回溯问题。

还是上边的例子，在字符后面加一个“+”，就可以开启独占模式。

text=“abbc”regex=“ab{1,3}+bc”

结果是不匹配，结束匹配，不会发生回溯问题。

避免回溯的方法就是：使用懒惰模式和独占模式。

3,正则表达式的优化

1. 少用贪婪模式，多用独占模式

        贪婪模式会引起回溯问题，我们可以使用独占模式来避免回溯。

2. 减少分支选择

        分支选择类型“(X|Y|Z)”的正则表达式会降低性能，我们在开发的时候要尽量减少使用。

        如果一定要用，我们可以通过以下几种方式来优化：

        首先，我们需要考虑选择的顺序，将比较常用的选择项放在前面，使它们可以较快地被匹配；

        其次，我们可以尝试提取共用模式，例如，将“(abcd|abef)”替换为“ab(cd|ef)”，后者匹配速度较快，因为 NFA 自动机会尝试匹配 ab，如果没有找到，就不会再尝试任何选项；

        最后，如果是简单的分支选择类型，我们可以用三次 index 代替“(X|Y|Z)”，如果测试的话，你就会发现三次 index 的效率要比“(X|Y|Z)”高出一些。

3. 减少捕获嵌套 （?:exp）

        捕获组是指把正则表达式中，子表达式匹配的内容保存到以数字编号或显式命名的数组中，方便后面引用。一般一个 () 就是一个捕获组，捕获组可以进行嵌套。

        非捕获组则是指参与匹配却不进行分组编号的捕获组，其表达式一般由（?:exp）组成。

        在正则表达式中，每个捕获组都有一个编号，编号 0 代表整个匹配到的内容。

例子：

public static void main(String args[]) {String text = "<input high=\"20\" weight=\"70\">test</input>";String reg = "(<input.*?>)(.*?)(</input>)";Pattern p = Pattern.compile(reg);Matcher m = p.matcher(text);while (m.find()) {System.out.println(m.group(0));System.out.println(m.group(1));System.out.println(m.group(2));System.out.println(m.group(3));}
}

输出：

<input high=\"20\" weight=\"70\">test</input>
<input high=\"20\" weight=\"70\">
test
</input>

如果你并不需要获取某一个分组内的文本，那么就使用非捕获分组。例如，使用“(?:X)”代替“(X)”

public static void main(String args[]) {String text = "<input high=\"20\" weight=\"70\">test</input>";String reg="(?:<input.*?>)(.*?)(?:</input>)";Pattern p = Pattern.compile(reg);Matcher m = p.matcher(text);while (m.find()) {System.out.println(m.group(0));System.out.println(m.group(1));}
}

输出：

<input high=\"20\" weight=\"70\">test</input>
test

         综上：减少不需要获取的分组，可以提高正则表达式的性能。

总结

        正则表达式虽然小，却有着强大的匹配功能。我们经常用到它，比如，注册页面手机号或邮箱的校验。

        但很多时候，我们又会因为它小而忽略它的使用规则，测试用例中又没有覆盖到一些特殊用例，导致上线就中招的情况发生。

        如果要使用正则表达式，要在做好性能排查的前提下；如果不能，那么正则表达式能不用就不用，以此避免造成更多的性能问题。

        如果要使用正则表达式，养成使用独占或者懒惰模式的习惯。