讨论时间复杂度

一、时间复杂度说明：

时间复杂度，算法中基本操作重复执行的次数是问题规模n的函数，用T(n)来表示，如果有另外一个函数f(n), 使得当n趋近无穷大的时候，T(n)/f(n)的极限值部位零的常熟，那么f(n)是T(n)的同数量级函数。可以记作T(n)= O(f(n)), 称O(f(n))为算法的渐进时间复杂度，简称为时间复杂度。
可能概念很难懂，那么我们进入到概念中来理解一下究竟是什么意思：T(n)称作是“时间复杂性”，意思是如果一个问题的规模是n，解这一问题的某一算法所需要的时间为T(n)，它是n的某一函数 ，则T(n)称为这一算法的“时间复杂性”。
当输入量n逐渐加大时，时间复杂性的极限情形称为算法的“渐近时间复杂性”。
我们常用大O表示法表示时间复杂性，注意它是某一个算法的时间复杂性。大O表示只是说有上界，由定义如果f(n)=O(n)，那显然成立f(n)=O(n^2)，它给你一个上界，但并不是最大上界，但人们在表示的时候一般都习惯表示前者。
此外，一个问题本身也有它的复杂性，如果某个算法的复杂性到达了这个问题复杂性的下界，那就称这样的算法是最佳算法。
“大O记法”：在这种描述中使用的基本参数是 n，即问题实例的规模，把复杂性或运行时间表达为n的函数。这里的“O”表示量级 (order)，比如说“二分检索是 O(logn)的”,也就是说它需要“通过logn量级的步骤去检索一个规模为n的数组”记法 O ( f(n) )表示当 n增大时，运行时间至多将以正比于 f(n)的速度增长。

这种渐进估计对算法的理论分析和大致比较是非常有价值的，但在实践中细节也可能造成差异。例如，一个低附加代价的O(n2)算法在n较小的情况下可能比一个高附加代价的 O(nlogn)算法运行得更快。当然，随着n足够大以后，具有较慢上升函数的算法必然工作得更快。
相信在经过上面的概念后大家对时间复杂度有了一定的认识，接下来我们谈谈时间复杂度怎么来计算的，说简单点T(n)就是程序在执行过程中每条语句所执行的次数总和(在所算法分析时，一般默认考虑最坏的情况)，而数量级f(n)就是忽略掉T(n)的常量、低次幂和高次幂的系数，时间复杂度则是当n趋紧无穷大时候lim(T(n))/f(n)的值不为零的常数，这样就称作f(n)为T(n)的同量级函数。记作T(n) = O(f(n))。

二、时间复杂度计算举例

正常计算的计算步骤

 int num1, num2; for(int i=0; i<n; i++)  {        num1 += 1;    for(int j=1; j<=n; j*=2)     {        num2 += num1;     } } 

分析：
1.
语句int num1, num2;的频度为1；
语句i=0;的频度为1；
语句i< n; i++; num1+=1; j=1; 的频度为n；
语句j<=n; j*=2; num2+=num1;的频度为n*log2n；
T(n) = 2 + 4n + 3n*log2n
2.
忽略掉T(n)中的常量、低次幂和最高次幂的系数
f(n) = n*log2n
3.
lim(T(n)/f(n)) = (2+4n+3n*log2n) / (n*log2n)
= 2*(1/n)(1/log2n) + 4(1/log2n) + 3
当n趋向于无穷大，1/n趋向于0，1/log2n趋向于0
所以极限等于3。
T(n) = O(n*log2n)

简化的计算步骤
再来分析一下，可以看出，决定算法复杂度的是执行次数最多的语句，这里是num2 += num1，一般也是最内循环的语句。
并且，通常将求解极限是否为常量也省略掉？
于是，以上步骤可以简化为：
1. 找到执行次数最多的语句
2. 计算语句执行次数的数量级
3. 用大O来表示结果
继续以上述算法为例，进行分析：
1.
执行次数最多的语句为num2 += num1
2.
T(n) = n*log2n
f(n) = n*log2n
3.
// lim(T(n)/f(n)) = 1
T(n) = O(n*log2n)

一些补充说明

最坏时间复杂度

算法的时间复杂度不仅与语句频度有关，还与问题规模及输入实例中各元素的取值有关。一般不特别说明，讨论的时间复杂度均是最坏情况下的时间复杂度。这就保证了算法的运行时间不会比任何更长。

求数量级
即求对数值(log)，默认底数为10，简单来说就是“一个数用标准科学计数法表示后，10的指数”。例如，5000=5x10 3 (log5000=3) ，数量级为3。另外，一个未知数的数量级为其最接近的数量级，即最大可能的数量级。

求极限的技巧
要利用好1/n。当n趋于无穷大时，1/n趋向于0
一些规则(引自：时间复杂度计算 )
1) 加法规则
T(n,m) = T1(n) + T2(n) = O (max ( f(n), g(m) )

2) 乘法规则
T(n,m) = T1(n) * T2(m) = O (f(n) * g(m))

3) 一个特例（问题规模为常量的时间复杂度）
在大O表示法里面有一个特例，如果T1(n) ＝ O(c)， c是一个与n无关的任意常数，T2(n) = O ( f(n) ) 则有
T(n) = T1(n) * T2(n) = O ( c*f(n) ) = O( f(n) )
也就是说，在大O表示法中，任何非0正常数都属于同一数量级，记为O(1)。

4) 一个经验规则
复杂度与时间效率的关系：
c < log2n < n < n*log2n < n^2 < n^3 < 2^n < 3^n < n! （c是一个常量）
|——————|——————-|————-|
较好 一般 较差
其中c是一个常量，如果一个算法的复杂度为c 、 log2n 、n 、 n*log2n,那么这个算法时间效率比较高 ，如果是 2n , 3n ,n!,那么稍微大一些的n就会令这个算法不能动了，居于中间的几个则差强人意。

理解补充
1.一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知
道。但我们不可能也没有必要对每个算法都上机测试，只需知道哪个算法花费的时间
多，哪个算法花费的时间少就可以了。并且一个算法花费的时间与算法中语句的执行
次数成正比例，哪个算法中语句执行次数多，它花费时间就多。
一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。
2.一般情况下，算法的基本操作重复执行的次数是模块n的某一个函数f（n），因此，
算法的时间复杂度记做：T（n）=O（f（n））。随着模块n的增大，算法执行的时间的
增长率和f（n）的增长率成正比，所以f（n）越小，算法的时间复杂度越低，算法
的效率越高。
在计算时间复杂度的时候，先找出算法的基本操作，然后根据相应的各语句确定它的
执行次数，再找出T（n）的同数量级（它的同数量级有以下：1，Log2n ，n ，nLog2n ，
n的平方，n的三次方，2的n次方，n！），找出后，f（n）=该数量级，若T(n)/f(n)
求极限可得到一常数c，则时间复杂度T（n）=O（f（n））。
3.常见的时间复杂度
按数量级递增排列，常见的时间复杂度有：
常数阶O(1), 对数阶O(log2n), 线性阶O(n), 线性对数阶O(nlog2n), 平方阶
O(n^2)， 立方阶O(n^3),…， k次方阶O(n^k), 指数阶O(2^n) 。
其中，
1. O(n)，O(n^2)， 立方阶O(n^3),…， k次方阶O(n^k) 为多项式阶时间复杂度，
分别称为一阶时间复杂度，二阶时间复杂度。。。。
2.O(2^n)，指数阶时间复杂度，该种不实用
3.对数阶O(log2n), 线性对数阶O(nlog2n)，除了常数阶以外，该种效率最高
例：算法：
for（i=1;i<=n;++i）
{
for(j=1;j<=n;++j)
{
c[ i ][ j ]=0; //该步骤属于基本操作 执行次数：n^2
for(k=1;k<=n;++k)
c[ i ][ j ]+=a[ i ][ k ]*b[ k ][ j ];
//该步骤属于基本操作执行次数：n^3
}
}
则有 T（n）= n^2+n^3，根据上面括号里的同数量级，我们可以确定 n^3为T（n）
的同数量级
则有f（n）= n^3，然后根据T（n）/f（n）求极限可得到常数c
则该算法的 时间复杂度：T（n）=O（n^3)

三、时间复杂度各种情况分析

1.并列循环的复杂度分析
将各个嵌套循环的时间复杂度相加。
例如：
　　for (i=1; i<=n; i++)
　　 x++;
　　for (i=1; i<=n; i++)
　　 for (j=1; j<=n; j++)
　　 x++;
解：
第一个for循环
T(n) = n
f(n) = n
时间复杂度为Ο(n)

第二个for循环
T(n) = n2
f(n) = n2
时间复杂度为Ο(n2)
整个算法的时间复杂度为Ο(n+n2) = Ο(n2)。

2.函数调用的复杂度分析
例如：
public void printsum(int count){
int sum = 1;
for(int i= 0; i

四、时间复杂度常用结论

访问数组中的元素是常数时间操作，或说O(1)操作。一个算法如 果能在每个步骤去掉一半数据元素，如二分检索，通常它就取 O(log n)时间。用strcmp比较两个具有n个字符的串需要O(n)时间。常规的矩阵乘算法是O(n^3)，因为算出每个元素都需要将n对 元素相乘并加到一起，所有元素的个数是n^2。
指数时间算法通常来源于需要求出所有可能结果。例如，n个元 素的集合共有2n个子集,所以要求出所有子集的算法将是O(2^n)的。指数算法一般说来是太复杂了，除非n的值非常小，因为，在 这个问题中增加一个元素就导致运行时间加倍。不幸的是，确实有许多问题 (如著名的“巡回售货员问题” )，到目前为止找到的算法都是指数的。如果我们真的遇到这种情况，通常应该用寻找近似最佳结果的算法替代之。

五、常用排序算法的时间复杂度

   ![这里写图片描述](http://img.blog.csdn.net/20170503165928714?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvbWFnaWNseWo=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)