漫步最优化二十五——斐波那契搜索

来源：互联网发布：php无限极分类编辑：程序博客网时间：2024/05/18 01:50

白天与黑夜，

希望陪你共同走过。

整夜的美梦，

希望抱你一起回味。

即便我是铁石心肠，

那也抵不过你一声哥哥，

抵不过你钻进我的胸膛。

你就是我口中的一块糖，

只想对你说：

I LOVE YOU

——畅宝宝的傻逼哥哥

考虑不确定区间

I k = [x L, k, x U, k]

并且假设两点xa,k,xb,k均位于Ik中，如图1所示，对于f(x)在点xa,k,xb,k处的值f(xa,k),f(xb,k)，如果f(xa,k)<f(xb,k)，那么我们选择左区间

I L k + 1 = [x L, k, x b, k]

如果f(xa,k)>f(xb,k)，那么我们选择右区间

I R k + 1 = [x a, k, x U, k]

如果

f (x a, k) = f (x b, k)

那么可以选择IRk+1,ILk+1中的任何一个。如果右区间IRk+1被选中，那么它将包含最小值，另外还知道点xb,k处的函数值。如果我们知道点xb,k+1处的值，那么我们就有充分的信息来进一步减小不确定区域，然后不断重复此过程。这种方法每次迭代只需要估计一个函数值，计算量相对于二分搜索要小。

根据图1可知

I k = I L k + 1 + I R k + 2

为了方便，我们假设区间相等，那么

I L k + 1 = I R k + 1 = I k + 1 I L k + 2 = I R k + 2 = I k + 2

由此可得

I k = I k + 1 + I k + 2

如果上面的过程重复多次，那么我们会得到如下的区间序列{I1,I2,…,In}:

I 1 I 2 I n = I 2 + I 3 = I 3 + I 4 ⋮ = I n + 1 + I n + 2

图1

上面的

n个等式中，有

n+2个变量，如果

I1是给定的初始区间，那么有

n+1个变量。所以给定的规则不同，就会生成不同的序列，我们这里讨论两个特殊的序列：斐波那契序列与黄金分割序列。本篇博文先介绍前者，下一篇介绍后者。

假设n+2次迭代后区间消失，即In+2=0，那么我们就得到斐波那契序列，如果我们令k=n，可以得到

I n + 1 I n I n - 1 I n - 2 I n - 3 I n - 4 I k I 1 = I n - I n + 2 = I n \equiv F 0 I n = I n + 1 + I n + 2 = I n \equiv F 1 I n = I n + I n + 1 = 2 I n \equiv F 2 I n = I n - 1 + I n = 3 I n \equiv F 3 I n = I n - 2 + I n - 1 = 5 I n \equiv F 4 I n = I n - 3 + I n - 2 = 8 I n \equiv F 5 I n ⋮ = I k + 1 + I k + 2 = F n - k + 1 I n ⋮ = I 2 + I 3 = F n I n

所生成的序列

{1, 1, 2, 3, 5, 8, 13, \dots} = {F 0, F 1, F 2, F 3, F 4, F 5, F 6, \dots}

就是著名的斐波那契数列，它可以由递归关系

F k = F k - 1 + F k 2 f o r k \geq 2

得出，其中F0=F1=1。将其应用到一维优化上就得到斐波那契搜索法，当n=6,I1=100时，该方法得出的结果如图2所示。

如果迭代的总数为n，那么斐波那契搜索将不确定区间缩小到

I n = I 1 F n

例如如果n=11，那么Fn=144，这样的话In将缩小到不足I1的1\%，其中会有11次迭代。因为每次迭代只需要一个函数估计值，所以一共需要11个函数估计值，如果二分搜索要达到同样的精度需要14个函数估计值，故斐波那契搜索比二分搜索效率更高。事实上，相对于其他几个搜索方法，从计算效率上看它是最高效的。