AC自动机算法详解

    首先简要介绍一下AC自动机:Aho-Corasick automation,该算法在1975年产生于贝尔实验室,是著名的多模匹配算法之一。一个常见的例子就是给出n个单词,再给出一段包含m个字符的文章,让你找出有多少个单词在文章里出现过。要搞懂AC自动机,先得有模式树(字典树)TrieKMP模式匹配算法的基础知识。AC自动机算法分为3步:构造一棵Trie树,构造失败指针和模式匹配过程。
     如果你对KMP算法和了解的话,应该知道KMP算法中的next函数(shift函数或者fail函数)是干什么用的。KMP中我们用两个指针ij分别表示,A[i-j+ 1..i]B[1..j]完全相等。也就是说,i是不断增加的,随着i的增加j相应地变化,且j满足以A[i]结尾的长度为j的字符串正好匹配B串的前 j个字符,当A[i+1]B[j+1]KMP的策略是调整j的位置(减小j值)使得A[i-j+1..i]B[1..j]保持匹配且新的B[j+1]恰好与A[i+1]匹配,而next函数恰恰记录了这个j应该调整到的位置。同样AC自动机的失败指针具有同样的功能,也就是说当我们的模式串在Tire上进行匹配时,如果与当前节点的关键字不能继续匹配的时候,就应该去当前节点的失败指针所指向的节点继续进行匹配。
      看下面这个例子:给定5个单词:say she shr he her,然后给定一个字符串yasherhs问一共有多少单词在这个字符串中出现过。我们先规定一下AC自动机所需要的一些数据结构,方便接下去的编程。
 1 const int kind = 26
 2 struct node{  
 3     node *fail;       //失败指针
 4     node *next[kind]; //Tire每个节点的个子节点(最多个字母)
 5     int count;        //是否为该单词的最后一个节点
 6     node(){           //构造函数初始化
 7         fail=NULL; 
 8         count=0
 9         memset(next,NULL,sizeof(next)); 
10     } 
11 }*q[500001];          //队列,方便用于bfs构造失败指针
12 char keyword[51];     //输入的单词
13 char str[1000001];    //模式串
14 int head,tail;        //队列的头尾指针

有了这些数据结构之后,就可以开始编程了:
   
首先,将这5个单词构造成一棵Tire,如图-1所示。

 

 1 void insert(char *str,node *root){ 
 2     node *p=root; 
 3     int i=0,index;  
 4     while(str[i]){ 
 5         index=str[i]-'a'
 6         if(p->next[index]==NULL) p->next[index]=new node();  
 7         p=p->next[index];
 8         i++;
 9     } 
10     p->count++;     //在单词的最后一个节点count+1,代表一个单词
11 }

在构造完这棵Tire之后,接下去的工作就是构造下失败指针。构造失败指针的过程概括起来就一句话:设这个节点上的字母为C,沿着他父亲的失败指针走,直到走到一个节点,他的儿子中也有字母为C的节点。然后把当前节点的失败指针指向那个字母也为C的儿子。如果一直走到了root都没找到,那就把失败指针指向root。具体操作起来只需要:先把root加入队列(root的失败指针指向自己或者NULL),这以后我们每处理一个点,就把它的所有儿子加入队列,队列为空。

 1 void build_ac_automation(node *root){
 2     int i;
 3     root->fail=NULL; 
 4     q[head++]=root; 
 5     while(head!=tail){ 
 6         node *temp=q[tail++]; 
 7         node *p=NULL; 
 8         for(i=0;i<26;i++){ 
 9             if(temp->next[i]!=NULL){ 
10                 if(temp==root) temp->next[i]->fail=root;                 
11                 else
12                     p=temp->fail; 
13                     while(p!=NULL){  
14                         if(p->next[i]!=NULL){ 
15                             temp->next[i]->fail=p->next[i]; 
16                             break
17                         } 
18                         p=p->fail; 
19                     } 
20                     if(p==NULL) temp->next[i]->fail=root; 
21                 } 
22                 q[head++]=temp->next[i];  
23             } 
24         }   
25     } 
26 }

    从代码观察下构造失败指针的流程:对照图-2来看,首先rootfail指针指向NULL,然后root入队,进入循环。第1次循环的时候,我们需要处理2个节点:root->next[‘h’-‘a’](节点h) root->next[‘s’-‘a’](节点s)。把这2个节点的失败指针指向root,并且先后进入队列,失败指针的指向对应图-2中的(1)(2)两条虚线;第2次进入循环后,从队列中先弹出h,接下来p指向h节点的fail指针指向的节点,也就是root;进入第13行的循环后,p=p->fail也就是p=NULL,这时退出循环,并把节点efail指针指向root,对应图-2中的(3),然后节点e进入队列;第3次循环时,弹出的第一个节点a的操作与上一步操作的节点e相同,把afail指针指向root,对应图-2中的(4),并入队;第4次进入循环时,弹出节点h(图中左边那个),这时操作略有不同。在程序运行到14行时,由于p->next[i]!=NULL(rooth这个儿子节点,图中右边那个),这样便把左边那个h节点的失败指针指向右边那个root的儿子节点h,对应图-2中的(5),然后h入队。以此类推:在循环结束后,所有的失败指针就是图-2中的这种形式。

  最后,我们便可以在AC自动机上查找模式串中出现过哪些单词了。匹配过程分两种情况:(1)当前字符匹配,表示从当前节点沿着树边有一条路径可以到达目标字符,此时只需沿该路径走向下一个节点继续匹配即可,目标字符串指针移向下个字符继续匹配;(2)当前字符不匹配,则去当前节点失败指针所指向的字符继续匹配,匹配过程随着指针指向root结束。重复这2个过程中的任意一个,直到模式串走到结尾为止。
 1 int query(node *root){ 
 2     int i=0,cnt=0,index,len=strlen(str); 
 3     node *p=root;  
 4     while(str[i]){  
 5         index=str[i]-'a';  
 6         while(p->next[index]==NULL && p!=root) p=p->fail; 
 7         p=p->next[index]; 
 8         p=(p==NULL)?root:p; 
 9         node *temp=p; 
10         while(temp!=root && temp->count!=-1){ 
11             cnt+=temp->count; 
12             temp->count=-1
13             temp=temp->fail; 
14         } 
15         i++;                 
16     }    
17     return cnt; 
18 }
    对照图-2,看一下模式匹配这个详细的流程,其中模式串为yasherhs。对于i=0,1。Trie中没有对应的路径,故不做任何操作;i=2,3,4时,指针p走到左下节点e。因为节点e的count信息为1,所以cnt+1,并且讲节点e的count值设置为-1,表示改单词已经出现过了,防止重复计数,最后temp指向e节点的失败指针所指向的节点继续查找,以此类推,最后temp指向root,退出while循环,这个过程中count增加了2。表示找到了2个单词she和he。当i=5时,程序进入第5行,p指向其失败指针的节点,也就是右边那个e节点,随后在第6行指向r节点,r节点的count值为1,从而count+1,循环直到temp指向root为止。最后i=6,7时,找不到任何匹配,匹配过程结束。

    到此为止AC自动机算法的详细过程已经全部介绍结束,看一道例题:http://acm.hdu.edu.cn/showproblem.php?pid=2222
Problem Description
In the modern time, Search engine came into the life of everybody like Google, Baidu, etc.
Wiskey also wants to bring this feature to his image retrieval system.
Every image have a long description, when users type some keywords to find the image, the system will match the keywords with description of image and show the image which the most keywords be matched.
To simplify the problem, giving you a description of image, and some keywords, you should tell me how many keywords will be match.
 

Input
First line will contain one integer means how many cases will follow by.
Each case will contain two integers N means the number of keywords and N keywords follow. (N <= 10000)
Each keyword will only contains characters 'a'-'z', and the length will be not longer than 50.
The last line is the description, and the length will be not longer than 1000000.
 

Output
Print how many keywords are contained in the description.
 

Sample Input
1
5
she
he
say
shr
her
yasherhs
 

Sample Output
3

 1 #include <iostream> 
 2 using namespace std; 
 3   
 4 const int kind = 26
 5 struct node{  
 6     node *fail;       //失败指针
 7     node *next[kind]; //Tire每个节点的26个子节点(最多26个字母)
 8     int count;        //是否为该单词的最后一个节点
 9     node(){           //构造函数初始化
10         fail=NULL; 
11         count=0
12         memset(next,NULL,sizeof(next)); 
13     } 
14 }*q[500001];          //队列,方便用于bfs构造失败指针
15 char keyword[51];     //输入的单词
16 char str[1000001];    //模式串
17 int head,tail;        //队列的头尾指针
18   
19 void insert(char *str,node *root){ 
20     node *p=root; 
21     int i=0,index;  
22     while(str[i]){ 
23         index=str[i]-'a'
24         if(p->next[index]==NULL) p->next[index]=new node();  
25         p=p->next[index];
26         i++;
27     } 
28     p->count++
29 
30 void build_ac_automation(node *root){
31     int i;
32     root->fail=NULL; 
33     q[head++]=root; 
34     while(head!=tail){ 
35         node *temp=q[tail++]; 
36         node *p=NULL; 
37         for(i=0;i<26;i++){ 
38             if(temp->next[i]!=NULL){ 
39                 if(temp==root) temp->next[i]->fail=root;                 
40                 else
41                     p=temp->fail; 
42                     while(p!=NULL){  
43                         if(p->next[i]!=NULL){ 
44                             temp->next[i]->fail=p->next[i]; 
45                             break
46                         } 
47                         p=p->fail; 
48                     } 
49                     if(p==NULL) temp->next[i]->fail=root; 
50                 } 
51                 q[head++]=temp->next[i];  
52             } 
53         }   
54     } 
55 
56 int query(node *root){ 
57     int i=0,cnt=0,index,len=strlen(str); 
58     node *p=root;  
59     while(str[i]){  
60         index=str[i]-'a';  
61         while(p->next[index]==NULL && p!=root) p=p->fail; 
62         p=p->next[index]; 
63         p=(p==NULL)?root:p; 
64         node *temp=p; 
65         while(temp!=root && temp->count!=-1){ 
66             cnt+=temp->count; 
67             temp->count=-1
68             temp=temp->fail; 
69         } 
70         i++;                 
71     }    
72     return cnt; 
73 
74 int main(){ 
75     int n,t; 
76     scanf("%d",&t); 
77     while(t--){  
78         head=tail=0
79         node *root=new node(); 
80         scanf("%d",&n); 
81         getchar(); 
82         while(n--){ 
83             gets(keyword); 
84             insert(keyword,root); 
85         } 
86         build_ac_automation(root); 
87         scanf("%s",str); 
88         printf("%d\n",query(root));  
89     } 
90     return 0
91 }

    PS:原创,转载请注明出处

posted on 2009-04-21 18:22 极限定律 阅读(68287) 评论(40)  编辑 收藏 引用 所属分类: ACM/ICPC

评论

# re: AC自动机算法详解 2009-06-13 09:53 zab08

bfs写成 头入尾出...

  回复  更多评论   

# re: AC自动机算法详解 2009-07-30 15:39 xtu715

您好,对于例题,请测试如下样例:
1
2
tacab
aca
wqzpacakkk

您程序给出的答案是1.
可根据题意,正确答案应该是2.

您代码中65行,貌似有误。

  回复  更多评论   

# re: AC自动机算法详解 2009-07-30 15:49 xtu715

是我的错,请无视。不好意思  回复  更多评论   

# re: AC自动机算法详解 2009-08-25 14:00 zeus

没想到又到你这里来 呵呵 看看先  回复  更多评论   

# re: AC自动机算法详解 2009-08-26 15:47 路过

1
5
bhea
her
he
h
ha
bhera
输出?  回复  更多评论   

# re: AC自动机算法详解[未登录] 2009-10-16 11:35 DD

65行的代码temp->count!=-1这个条件不能要,否则就是错误的。  回复  更多评论   

# re: AC自动机算法详解 2010-01-11 21:46 niubi

是主串在trie上匹配,不是模式串吧。。  回复  更多评论   

# re: AC自动机算法详解[未登录] 2010-02-26 13:09 intheway

好东东,楼主辛苦了.  回复  更多评论   

# re: AC自动机算法详解 2010-07-14 00:38 MJ_LC

@DD
如果temp->count!=-1说明该节点和之后的节点已经计算过了  回复  更多评论   

# re: AC自动机算法详解 2010-12-07 22:32 周燎明

@MJ_LC

请考虑第66与67 行,考虑将67行加一个执行判断条件:if count==1 再做赋值操作。。。  回复  更多评论   

# re: AC自动机算法详解[未登录] 2010-12-22 20:03 AC

失败指针构造的描述好模糊。看了半天还是没看懂。。继续再看  回复  更多评论   

# re: AC自动机算法详解 2011-03-10 21:44 dereky

膜拜了  回复  更多评论   

# re: AC自动机算法详解 2011-04-08 11:19

你的代码错了 失败函数写得有问题  回复  更多评论   

# re: AC自动机算法详解 2011-05-28 19:45 anmtcel

您的程序会怎么处理模式串为
abcd和bc这两个,
主串为abcde的这个问题?
应该是两个串都出现了
但您的程序应该只会找到第一个串,

因为从a一直顺利的走向d,但d的失败指针直接指向根了,
也就是不会走到bc那条小路里去。

我有个想法,就是需不需要预处理出哪些串是被当前串包含的,
存当前串所包含的串的位置,也就是当当前串被查找出来后,这些位置也标记为已查找  回复  更多评论   

# re: AC自动机算法详解 2011-06-19 20:15 fotile

我只想说,您的代码实在不漂亮。  回复  更多评论   

# re: AC自动机算法详解 2011-06-19 20:23 fotile

讲解很浅显易懂,代码里一串一串的!=NULL还要很多不必要的判断实在是配不上文字的高超。  回复  更多评论   

# re: AC自动机算法详解 2011-07-03 13:46 酷行天下

大牛讲的非常透彻,赞一个……  回复  更多评论   

# re: AC自动机算法详解 2011-07-31 21:23 aa

膜拜  回复  更多评论   

# re: AC自动机算法详解 2011-08-13 14:24 aaa

各种trie写成tire  回复  更多评论   

# re: AC自动机算法详解 2011-08-19 22:15 Evan

@路过
应该是4 吧。  回复  更多评论   

# re: AC自动机算法详解 2011-10-21 11:04 mmx

好!  回复  更多评论   

# re: AC自动机算法详解 2011-12-01 01:58 Miu_Y

节点申请了不释放?  回复  更多评论   

# re: AC自动机算法详解 2012-02-27 20:55 ITX351

57行为什么要求长度= = 不理解  回复  更多评论   

# re: AC自动机算法详解 2012-04-09 17:18 himdd

char str[1000001];应该叫目标串吧。。  回复  更多评论   

# re: AC自动机算法详解 2012-04-26 09:57 Lucian

内容很棒,很容易理解!  回复  更多评论   

# re: AC自动机算法详解 2012-05-16 11:25 wzq

多组数据的话,每组做完指针是不是应该释放呢?  回复  更多评论   

# re: AC自动机算法详解 2012-07-15 23:12 re

代码bug超多  回复  更多评论   

# re: AC自动机算法详解 2012-09-13 12:06 cqwelly

顶一下  回复  更多评论   

# re: AC自动机算法详解 2012-12-24 18:22 陈文康

@xtu715
为啥是2??  回复  更多评论   

# re: AC自动机算法详解 2013-02-17 16:42 h

temp->count!=-1
注意:1、重复的只算一次;2、初始的count=0
模式串为
abcd和bc这两个,
主串为abcde的这个问题?
当找到c时,count[c]=0,tmp指针找到串bc的结尾c并统计。
  回复  更多评论   

# re: AC自动机算法详解 2013-05-02 21:11 xero essential

其实程序上的错误无伤大雅,个人感觉看了第一段就明白原理了,剩下的只是验证。。  回复  更多评论   

# re: AC自动机算法详解[未登录] 2013-08-10 21:47 111

好东西,谢了!  回复  更多评论   

# re: AC自动机算法详解 2014-03-09 10:03 testcc

不会内存泄露么??  回复  更多评论   

# re: AC自动机算法详解 2014-03-25 10:28 Islo

orz  回复  更多评论   

# re: AC自动机算法详解 2014-07-29 16:28 lb

先把root加入队列(root的失败指针指向自己或者NULL),这以后我们每处理一个点,就把它的所有儿子加入队列,队列为空。
这句话什么意思  回复  更多评论   

# re: AC自动机算法详解 2014-09-12 12:55 Vmurder

@xtu715
为什么是2?  回复  更多评论   

# re: AC自动机算法详解 2015-05-10 11:23

http://sunmoon-template.blogspot.tw/2015/05/aho-corasick-automation-ac.html
構造的地方可以更簡潔  回复  更多评论   

# re: AC自动机算法详解 2015-07-26 19:13 @anyi

真好  回复  更多评论   

# re: AC自动机算法详解 2015-08-20 11:30 fastmatch

@anmtcel
abcd和bc不在一个分支上  回复  更多评论   


只有注册用户登录后才能发表评论。
网站导航: 博客园   IT新闻   BlogJava   知识库   博问   管理


<2009年4月>
2930311234
567891011
12131415161718
19202122232425
262728293012
3456789

导航

统计

常用链接

留言簿(10)

随笔分类

随笔档案

友情链接

搜索

最新评论

阅读排行榜

评论排行榜