主定理和递归式复杂度分析

来源：互联网发布：深圳找工作知乎编辑：程序博客网时间：2024/04/29 09:44

主定理和递归式复杂度分析

几个约定：文中为了方便，用logn代替log₂ⁿ.
由于文章公式用LaTeX处理，所以不排除出现漏打，错打等情况，如您发现，麻烦通知，thx

1.前情提要

众所周知，递归是算法的一个重要表现形式，不仅作用大，而且其复杂度的分析也比其他方式要繁杂。

但是，如果抛开某些很NB，很强大，很邪恶的递归式不谈，如果不能有效的确定普通递归式和一些典型算法递归式的复杂度，那么这个人显然不是合格的Coder。

由于递归式复杂度的难以确定，所以目前常用的方法有这么几种：代换猜测法、递归树法、主定理、直接数学分析法

代换猜测法通常和递归树法合用，利用递归树法得到一个大概正确的结果，然后利用数学归纳法对其验证。

直接的数学分析法相对很直接，很强大，但是对数学要求很高，尤其是碰到一些BT的表达式

主定理是最常用的方法，也是我们今天的主题～

主定理通常可以解决如下的递归表达式：

[latex]T\left(n\right)=aT\left (\frac{n}{b} \right )+f\left(n \right)[/latex]

上面的递归式描述的是将规模为n的问题划分为a个子问题，并且每个子问题的规模是n/b，这里a和b是正常数。划分原问题和合并结果的代价有函数f(n)描述。

主定理有三种情况，不同的情况有不同的用法

2.应用

对于应用主定理来说，一定要分清选取定定理中的哪种情况（如果有符合的），我们针对每一种类型，一一尝试下～

第一种情况：
[latex]\left ( a. \right )~~T\left(n\right)=7T\left (\frac{n}{2} \right )+n^{2}[/latex]
[latex]\because~a=7~b=2,~f\left ( n \right )=n^{2}\\
\indent~~~~ n^{log_{b}^{a}}=n^{log_{2}^{7}}\approx n^{2.81}>f\left ( n \right )\\
\indent~~~~ and~\exists~\varepsilon=0.81,let~f\left ( n \right )=O\left (n^{log_{b}^{a}-\varepsilon} \right )\\
\indent\therefore~T\left ( n \right )=\Theta \left (n^{log_{2}^{7}} \right )[/latex]

第二种情况：
[latex]\left ( b. \right )~~T\left(n\right)=16T\left (\frac{n}{4} \right )+n^{2}[/latex]
[latex]\because~a=16~b=4,~f\left ( n \right )=n^{2}\\
\indent~~~~n^{log_{b}^{a}}=n^{2}=f\left ( n \right )\\
\indent \therefore T\left ( n \right )=\Theta \left ( n^{log_{b}^{a}}logn \right )=\Theta \left ( n^{2}logn \right )[/latex]

第三种情况：
[latex]\left ( c. \right )~~T\left(n\right)=2T\left (\frac{n}{2} \right )+n^{3}[/latex]
$\because~a=2~b=2,~f\left ( n \right )=n^{3}\\ \indent~~~~n^{log_{b}^{a}}=n<f\left ( n \right )\\ \indent since~\exists~\varepsilon = 2,~let~f\left ( n \right )=\Omega \left (n^{log_{b}^{a}+\varepsilon } \right )\\ \indent and~\exists~c \geq \frac{2f\left (\frac{n}{2} \right )}{f\left (n\right )}=\frac{1}{4}<1\\ \indent \therefore~T\left ( n \right )=\Theta \left (n^{3} \right )$

3.一些非正常情况

在某些情况下，存在一些特殊情况，比如明显不满足主定理形式，或经过乍看之下不满足，但是经过变形之后可以应用主定理。

甚至在某些情况下，看上去符合主定理的递归式是无法应用主定理求解的，因为主定理不覆盖所有情况，即递归式不满足上面三条中的任意一条

我们逐一来看看这些特殊情况

$\150dpi T\left ( n \right )=T\left ( n-1 \right )+n$

这种形式的条件显然不符合主定理的口味，但是我们可以简单的通过递归树加上一点点的数学分析可知，总共有n层，每层都是n的代价，所以总代价应该是O(n²)

$\150dpi \left ( b. \right )~~T\left ( n \right )=T\left ( \sqrt{n} \right )+1$

n带了根号，乍看之下是无法应用主定理的，但是我们可以通过换元等trick将递归式转化成可以用主定理求解的式子

$\150dpi let~m=logn~\Rightarrow n=2^{m}~then\\ \indent T\left ( 2^{m} \right )=T\left ( 2^{\frac{m}{2}} \right )+1~\\ \indent so~we~can~change~the~variabel~again\\ \indent let~S\left (m \right )=T\left ( 2^{m} \right ),we~can~get~a~new~formula\\ \indent S\left (m \right )=S\left (\frac{m}{2} \right )+1,now~we~can~use~the~Master~Method\\ \indent n^{log_{b}^{a}}=1=f\left ( n \right )\Rightarrow S\left (m \right )=\Theta \left (logm \right )\\ \indent also~T\left ( n \right )= T\left ( 2^{m} \right )=\Theta \left (loglogn \right )$

而对于某些式子，如上面所说，看着似乎可以用MM求解，但是实际上不满足3条中的任何一条，比如下面的：

$\150dpi T\left ( n \right )=2T\left ( \frac{n}{2} \right )+nlogn$

$\150dpi a=2~b=2,~f\left ( n \right )=nlogn\\ \indent n^{log_{b}^{a}}=n < f\left ( n \right )\\ \indent but~n~is~not~polynomially~less~than~f\left ( n \right )\\ \indent so~any~case~of~the~master~method~can~not~apply~the~fomular$

4.常见递归算法的复杂度

我们经常碰到的算法中，很多都是基于递归的，比如快速排序、归并排序、二分查找等等，甚至你也可以把求Fibonaci数列的递归算法也算入

而这些递归式都是很容易分析的，分析的过程就留给大家了～