编辑距离算法(LD)详解

   编辑距离算法，是自然语言处理中的重要的算法之一。也是从多个相似的字符串组中提取字符串的有利的武器。编辑距离算法，也称为LD算法。LD算法就是自然语言处理(NLP)里的“编辑距离”算法。俄国科学家Levenshtein提出的，故又叫Levenshtein Distance （LD算法）

【定义】设A和B是两个字符串。将字符串A转换为字符串B所用的最少字符操作数称为字符串A到字符串B的编辑距离。（ 这里所说的字符操作包括：删除一个字符，插入一个字符，修改一个字符）

这个算法的原理，我其实并不清楚，但我知道如何利用矩阵来计算两个字符串的距离。举例说明如何用LD算法来解决实现工作中的问题。现以 计算GGATCGA 和GAATTCAGTTA的距离为例来说明。

     GGATCGA 和GAATTCAGTTA在结构上非常的相似，我们肉眼观察到，通过下面的变换，可以让一个字符串变成另外一个字符串，其中，“-”表示添加。

GGA-TC-G - -A
GAATTCAGTTA

大家想想，如果用简单的字符串匹配，能不能计算两个字符串的相似度呢?我想，估计是不行，因为这里涉及到一个字符串对齐的问题。哪么，我们如何采用LD算法来实现字符串相似度的比较呢

我打算分二块介绍LD算法，第一块是求编辑距离，第二部分是回溯，找到两个字符串的差异。

一 求编辑距离

LD有下面几个性质：

　　LD(A,A)=0

　　LD(A,"")=Len(A)

　　LD(A,B)=LD(B,A)

　　0≤LD(A,B)≤Max(Len(A),Len(B))

　　LD(A,B)=LD(Rev(A),Rev(B))

　　LD(A+C,B+C)=LD(A,B)

　　LD(A+B,A+C)=LD(B,C)

　　LD(A,B)≤LD(A,C)+LD(B,C)（注：像不像“三角形，两边之和大于第三边”）

　　LD(A+C,B)≤LD(A,B)+LD(B,C)

 

　　为了讲解计算LD(A,B)，特给予以下几个定义

　　A=a₁a₂……a_N，表示A是由a₁a₂……a_N这N个字符组成，Len(A)=N

　　B=b₁b₂……b_M，表示B是由b₁b₂……b_M这M个字符组成，Len(B)=M

　　定义LD(i,j)=LD(a₁a₂……a_i,b₁b₂……b_j)，其中0≤i≤N，0≤j≤M

　　故：　　LD(N,M)=LD(A,B)

　　　　　　LD(0,0)=0

　　　　　　LD(0,j)=j

　　　　　　LD(i,0)=i

 

　　对于1≤i≤N，1≤j≤M，有公式一

　　若a_i=b_j，则LD(i,j)=LD(i-1,j-1)   取矩阵对角的值

　　若a_i≠b_j，则LD(i,j)=Min(LD(i-1,j-1),LD(i-1,j),LD(i,j-1))+1   在对角，左边，上边，取最小值+1

A=GGA-TC-G - -A
B=GAATTCAGTTA

A串位于矩阵的左侧，B串位置矩阵的上方。一般来说，长度短的命名为A，长度长的命名为B。

第一步如下：

LD算法矩阵图  GAATTCAGTTA 01234567891011G1012345678910G2           A3           T4           C5           G6           A7                                      图一

第二步，用第一步方法，填充其它的空格。

LD算法矩阵图  GAATTCAGTTA 01234567891011G1012345678910G211234566789A321123456788T432212345678C543322234567G654433333456A765444434455                        图二

最右下角的数字就为编辑距离了。

二 回溯

我们现在以图二为例，要说明如何回溯。

第一步：定位在矩阵的右下角，也就是说从5开始。

第二步：回溯单元格，至矩阵的左上角

　　　　若a_i=b_j，则回溯到左上角单元格

若a_i≠b_j，回溯到左上角、上边、左边中值最小的单元格，若有相同最小值的单元格，优先级按照左上角、上边、左边的顺序

注意： 如果i或者j的值，有一个为0,则  左上，上边，都没有值，只能比较左边的值了

回溯的结果，如图二 红色部分所示。

第三步：根据回溯路径，写出匹配字串

　　　　若回溯到左上角单元格，将a_i添加到匹配字串A，将b_j添加到匹配字串B

　　　　若回溯到上边单元格，将a_i添加到匹配字串A，将_添加到匹配字串B

　　　　若回溯到左边单元格，将_添加到匹配字串A，将b_j添加到匹配字串B

　　　　搜索晚整个匹配路径，匹配字串也就完成了

 A=GGA-TC-G - -A
B=GAATTCAGTTA

注意，a_i 是会对A串来说的，b_j 是会对B串来说的，最后的结果是倒序，我们要revert一下。

现在给出c的代码：

#include<stdio.h>#include <string.h>#include <malloc.h>void backtracking(int**, char* ,char*); //回溯，计算出如何通过其中一个字符串的变换，得到另外一个字体串int ** build_matrix(char* , char*); //求编辑距离,返回一个已经填充好的矩阵int trigle_min(int a, int b, int c); //求三个数的最小值int main(){  char* A = "GGATCGA";  char* B = "GAATTCAGTTA";  int** matrix=build_matrix(A, B);  backtracking(matrix, A, B);   return 0;}//0 左上角 ,1上方,-1左边int way(int i_t, int j_t, int i, int j){  if (i-i_t==1&&j-j_t==1) {    return 0;  }   if (i-i_t==1&&j-j_t==0) {    return 1;  }  if (i-i_t==0&&j-j_t==1) {    return -1;  }}int** build_matrix(char* A, char* B){  int m=strlen(A);  int n=strlen(B);  int** matrix = (int**)malloc(sizeof(int*)*(m+1));  int i,j;  for (i=0;i<m +1;i++)   {    *(matrix+i)=(int*)malloc(sizeof(int)*(n+1));  }  matrix[0][0]=0;  for (i=1;i<n + 1;i++)  {    matrix[0][i] = i;  }  for (i=1;i<m + 1;i++)  {    matrix[i][0] = i;  }  for (i=1;i<m + 1;i++)  {    for (j=1;j<n + 1;j++)    {      if (*(A+i - 1) == *(B+j - 1))      {        matrix[i][j] = matrix[i-1][j-1];      }       else       {        matrix[i][j] = trigle_min(matrix[i-1][j], matrix[i][j-1], matrix[i-1][j-1]) + 1;      }    }  }  for (i=0;i<= m;i++)  {    for (j=0;j<= n;j++)    {      printf("%d ", matrix[i][j]);    }    printf("\n");  }  return matrix;}void backtracking(int** matrix, char* A, char *B) {  int m=strlen(A);  int n=strlen(B);  int i=m;  int j=n;  int max = m>n?m:n;  char* p = (char*)malloc(sizeof(char)*m);  char* q = (char*)malloc(sizeof(char)*m);  int k=0;  while (i>0 && j>0)   {    if (*(A+i -1) == *(B +j -1))    {      *(p+k) = *(A+i-1);       *(q+k) = *(B+j-1);       --i;      --j;      ++k;    } else    {      int i_t=0;      int j_t=0;      if (matrix[i][j-1]>=matrix[i-1][j])      {        i_t=i-1;        j_t=j;      } else {        i_t=i;        j_t=j-1;      }       if (matrix[i_t][j_t]>=matrix[i-1][j-1])      {        i_t=i-1;        j_t=j-1;      } /////////            int w = way(i_t, j_t, i,j);      if (w==0)  {        *(p+k) = *(A+i-1);         *(q+k) = *(B+j-1);       } else if (w == -1) {        *(p+k) = '-';        *(q+k) = *(B+j-1);      } else {        *(p+k) = *(A+i-1);        *(q+k) = '-';      }      ++k;      i=i_t;      j=j_t;    }     }  if (i==0) {     *(q+k) = *(B+j-1);     *(q+k) = '-';      } else {    *(p+k) = *(A+i-1);    *(q+k) = '-';  }  for (i=max-1;i>=0;i--) {    printf("%c",*(p+i));  }  printf("\n");  for (i=max-1;i>=0;i--) {    printf("%c",*(q+i));  }}int trigle_min(int a, int b, int c) {  int min = a<b?a:b;  return min<c?min:c;}