C# SEO整合系列之字符串相似度算法——Levenshtein Distance method

来源:互联网 发布:js上传图片原理 编辑:程序博客网 时间:2024/05/29 14:45

转自:http://www.lingdonge.com/seo/672.html

字符串相似度算法又叫编辑距离算法 Levenshtein Distance),

就评判2个字符串之间相似程度的一个东西,平时在搜索引擎和验证码识别中用处特别明显。

比如我们用采集来处理文章。可以拿关键词去做相似性判断,找到最匹配程度高的文章来采集。等等都可以使用这种算法。

下面转自其它博文

编辑距离,又称Levenshtein距离(也叫做Edit Distance),是指两个字串之间,由一个转成另一个所需的最少编辑操作次数,如果它们的距离越大,说明它们越是不同。许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。

例如将kitten一字转成sitting:

sitten (k→s)

sittin (e→i)

sitting (→g)

俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。因此也叫Levenshtein Distance。

例如

  • 如果str1="ivan",str2="ivan",那么经过计算后等于 0。没有经过转换。相似度=1-0/Math.Max(str1.length,str2.length)=1
  • 如果str1="ivan1",str2="ivan2",那么经过计算后等于1。str1的"1"转换"2",转换了一个字符,所以距离是1,相似度=1-1/Math.Max(str1.length,str2.length)=0.8

应用

DNA分析

拼字检查

语音辨识

抄袭侦测

小规模的字符串近似搜索,需求类似于搜索引擎中输入关键字,出现类似的结果列表

算法过程

  1. str1或str2的长度为0返回另一个字符串的长度。 if(str1.length==0) return str2.length; if(str2.length==0) return str1.length;
  2. 初始化(n+1)*(m+1)的矩阵d,并让第一行和列的值从0开始增长。
  3. 扫描两字符串(n*m级的),如果:str1[i] == str2[j],用temp记录它,为0。否则temp记为1。然后在矩阵d[i,j]赋于d[i-1,j]+1 、d[i,j-1]+1、d[i-1,j-1]+temp三者的最小值。
  4. 扫描完后,返回矩阵的最后一个值d[n][m]即是它们的距离。

计算相似度公式:1-它们的距离/两个字符串长度的最大值。

为了直观表现,我将两个字符串分别写到行和列中,实际计算中不需要。我们用字符串“ivan1”和“ivan2”举例来看看矩阵中值的状况:

1、第一行和第一列的值从0开始增长

1

2、i列值的产生 Matrix[i - 1, j] + 1 ; Matrix[i, j - 1] + 1 ; Matrix[i - 1, j - 1] + t

2

3、V列值的产生

3

依次类推直到矩阵全部生成

4

最后得到它们的距离=1

相似度:1-1/Math.Max(“ivan1”.length,“ivan2”.length) =0.8

下面贴出核心类库:

    public class LevenshteinDistance    {        private static LevenshteinDistance _instance = null;        public static LevenshteinDistance Instance        {            get            {                if (_instance == null)                {                    return new LevenshteinDistance();                }                return _instance;            }        }        /// <summary>        /// 取最小的一位数        /// </summary>        /// <param name=”first”></param>        /// <param name=”second”></param>        /// <param name=”third”></param>        /// <returns></returns>        public int LowerOfThree(int first, int second, int third)        {            int min = Math.Min(first, second);            return Math.Min(min, third);        }        /// <summary>        ///         /// </summary>        /// <param name="str1"></param>        /// <param name="str2"></param>        /// <returns></returns>        public int Levenshtein_Distance(string str1, string str2)        {            int[,] Matrix;            int n = str1.Length;            int m = str2.Length;            int temp = 0;            char ch1;            char ch2;            int i = 0;            int j = 0;            if (n == 0)            {                return m;            }            if (m == 0)            {                return n;            }            Matrix = new int[n + 1, m + 1];            for (i = 0; i <= n; i++)            {                //初始化第一列                Matrix[i, 0] = i;            }            for (j = 0; j <= m; j++)            {                //初始化第一行                Matrix[0, j] = j;            }            for (i = 1; i <= n; i++)            {                ch1 = str1[i - 1];                for (j = 1; j <= m; j++)                {                    ch2 = str2[j - 1];                    if (ch1.Equals(ch2))                    {                        temp = 0;                    }                    else                    {                        temp = 1;                    }                    Matrix[i, j] = LowerOfThree(Matrix[i - 1, j] + 1, Matrix[i, j - 1] + 1, Matrix[i - 1, j - 1] + temp);                }            }            for (i = 0; i <= n; i++)            {                for (j = 0; j <= m; j++)                {                    Console.Write(" {0} ", Matrix[i, j]);                }                Console.WriteLine("");            }            return Matrix[n, m];        }        /// <summary>        /// 计算字符串相似度        /// </summary>        /// <param name=”str1″></param>        /// <param name=”str2″></param>        /// <returns></returns>        public decimal LevenshteinDistancePercent(string str1, string str2)        {            int val = Levenshtein_Distance(str1, str2);            return 1 - (decimal)val / Math.Max(str1.Length, str2.Length);        }    }

算法其实挺简单的。

调用方法如下:

static void Main(string[] args)        {            string str1 = "ivan1";            string str2 = "ivan2";            Console.WriteLine("字符串1 {0}", str1);            Console.WriteLine("字符串2 {0}", str2);            Console.WriteLine("相似度 {0} %", new LevenshteinDistance().LevenshteinDistancePercent(str1, str2) * 100);            Console.ReadLine();        }

成都SEO小五认为。我们从核心根本上去研读百度及其它搜索搜索常用的一些算法知识,对于了解搜索引擎的运作和做出合理的SEO关键词方案这些都有大大的好处。

成都SEO小五嚎2句: 本文是(成都SEO小五)辛苦弄出来的,转载成都SEO小五原创的请保留链接:C# SEO整合系列之字符串相似度算法,3Q