原文连接：梯度优化与粒子群优化性能比较

问题描述

这是一个典型的多峰问题

下面分别使用局部优化技术和全局优化技术来求解，算法分别为梯度算法(MMFD，Modified method of feasible directions，修正可行方向法)和粒子群算法(PSO，Particleswarm optimization)。

梯度优化是一种局部优化技术在局部优化中，人们放宽对解的最优性的要求，不再搜寻使目标函数值最小的最优可行解。取而代之的是，寻找局部最优解。局部最优解是在其小邻域内的所有可行解里使目标函数值最小的那个解，但是不保证优于不在此邻域内的其它可行解；

除了(可能)不能找到全局最优解以外，局部优化方法还存在一些别的缺点。在局部优化中，需要确定优化变量的初始值，而初始值的选取非常重要，对最终得到的局部最优解有着很大的影响。而且，人们无法估计局部最优解相比(全局)最优解到底有多大的差距。此外局部优化方法对算法的参数值一般也较为敏感，通常需要针对某个问题或某类问题进行调整。

MMFD算法优缺点如下：

粒子群优化是一种全局优化技术在全局优化中，人们致力于搜索优化问题的全局最优解。当然了，付出的代价是效率。在最坏的情况下，全局优化的求解复杂性随着问题的规模呈指数增长；人们只能寄希望于现实中遇到特殊情况，这样求解速度可能会快很多，虽然这种情况在现实中确实存在，但是并不典型。一般而言，即使问题规模较小，只有几十个变量，求解也需要很长的时间(几个小时甚至几天)。

全局优化需要付出的是计算时间，即使对一个参数规模较小的问题都有可能很长。然而，当验证系统可靠非常有价值，或者系统运行不可靠或不安全的代价非常大时，全局优化还是很有必要的。

PSO算法优缺点如下：

MMFD算法设定初始位置，x=-8.0. 求解过程及探索区域如下：

MMFD算法设定初始位置，x=7.0. 求解过程及探索区域如下：

MMFD算法设定初始位置，x=0. 求解过程及探索区域如下：

由以上求解过程及最终结果可知，MMFD算法求解精度受到初始解的影响非常大，探索区域有限，极易陷入局部极小值。

PSO算法初始解是随机生成，设定粒子个数为5. 求解过程及探索区域如下：

由以上求解过程及最终结果可知，PSO算法探索区域较大，能够有效避免陷入局部极小值，同时在最小值附近能够集中搜索，得到较高的精度，但是所需求解步数较大，求解时间消耗较长。

在实际工程应用中需结合经验，综合考虑，选取合适的优化算法，以期以较小的时间和资源开销得到较优的结果。