算法 —— 算法概述

一、算法定义

算法：是解决特定问题求解步骤的描述，

         在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

二、算法的特征

算法有五个基本特性：输入、输出、有穷性、确定性和可行性。
1. 输入输出

算法具有零个或多个输入。对于绝大多数算法来说，输入参数都是必要的。

算法至少有一个或多个输出。算法是一定需要输出的。

2. 有穷性

有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

3. 确定性

确定性：算法的每一步骤都具有确定的含义，不会出现二义性。

算法在一定条件下，只有一条执行路径，相同的输入只能有唯一的输出结果。

4. 可行性

可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

三、算法设计的要求

算法不是唯一的，也就是说，同一个问题，可以有多种解决问题的算法。

1. 正确性

正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。

2. 可读性

可读性：算法设计的另一目的是为了便于阅读、理解和交流。

3. 健壮性

健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。

4. 时间效率高和存储量低

时间效率：指的是算法的执行时间，对于同一个问题，如果有多个算法能够解决，执行时间短的算法效率高，执行时间长的效率低。

存储量：指的是算法在执行过程中需要的最大存储空间，主要指算法程序运行时所占用的内存或外部硬盘存储空间。

综上，好的算法，应该具有正确性、可读性、健壮性、高效率和低存储量的特征。

四、算法效率的度量方法

1. 事后统计方法

事后统计方法：这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。

但这种方法显然是有很大缺陷的：

-- 必须依据算法事先编制好程序，这通常需要花费大量的时间和精力。

-- 时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。

-- 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。

基于事后统计方法有这样那样的缺陷，我们不予考虑。

2. 事前分析估算方法

事前分析估算方法：在计算机程序编制前，依据统计方法对算法进行估算。

一个用高级程序语言编写的程序，在计算机上运行时所消耗的时间取决于下列因素：

-- 算法采用的策略、方法

-- 编译产生的代码质量

-- 问题的输入规模

-- 机器执行指令的速度

第 1 条当然是算法好坏的根本，第 2 条要由软件来支持，第 4 条要看硬件性能。

也就是说，抛开这些与计算机硬件、软件有关的因素，一个程序的运行时间，依赖于算法的好坏和问题的输入规模。

所谓问题的输入规模是指输入量的多少。

五、算法时间复杂度

1. 定义

在进行算法分析时，语句总的执行次数 T(n) 是关于问题规模 n 的函数，进而分析 T(n) 随 n 的变化情况并确定 T(n) 的数量级。

算法的时间复杂度，也就是算法的时间量度，记作：T(n) = O( f(n) )。

它表示随问题规模 n 的增大，算法执行时间的增长率和 f(n) 的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。

其中 f(n) 是问题规模 n 的某个函数。

-- 这样用大写 O() 来体现算法时间复杂度的记法，我们称之为大 O 记法。

一般情况下，随着 n 的增大，T(n) 增长最慢的算法为最优算法。

2. 推导大 O 阶方法

推导大 O 阶：

1) 用常数 1 取代运行时间中的所有加法常数。

2) 在修改后的运行次数函数中，只保留最高阶项。

3) 如果最高阶项存在且不是 1，则去除与这个项相乘的常数。

得到的结果就是大 O 阶。

3. 常见的时间复杂度

常用的时间复杂度所消耗的时间从小到大依次是：

4. 最坏情况和平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。

平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。

一般在没有特殊说明的情况下，都是指最坏时间复杂度。

六、算法空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n) = O( f(n) )，

其中，n 为问题的规模。f(n) 为语句关于 n 所占存储空间的函数。

通常，我们都使用“时间复杂度”来指运行时间的需求，使用“空间复杂度”指空间需求。

当不用限定词地使用“复杂度”时，通常都是指时间的复杂度。