求解数值优化问题的自适应粒子群算法研究

 2022-01-17 11:01

论文总字数:43472字

目 录

1 绪论 1

1.1 研究背景 1

1.2 研究目标及意义 2

1.3 论文研究内容及组织结构 2

2 粒子群优化算法概述 4

2.1 基本的粒子群优化算法原理 4

2.2 算法流程 4

2.3 粒子群优化算法的拓扑结构 5

2.4 本章小结 6

3 关的改进工作 7

3.1 参数改进的粒子群算法 7

3.1.1 标准粒子群优化算法 7

3.1.2 添加收缩因子的粒子群算法 7

3.2 离散粒子群优化算法 7

3.3 拓扑结构改进的粒子群算法 8

3.3.1 邻域拓扑改进的PSO算法 8

3.3.2 动态邻域的PSO算法 9

3.4 混合粒子群算法 9

3.5 新的粒子群学习策略 10

3.6 其它粒子群改进方法 11

3.7 本章小结 11

4 普适自适应多级粒子群算法 12

4.1 智能多种搜索方式 12

4.1.1 非均匀变异方法 13

4.1.2 差分进化算法 14

4.1.3 智能选择策略 15

4.2 柯西变异 16

4.3 本章小结 16

5 实验分析及结果 17

5.1 二十四种方法的组合 17

5.2 30维函数的对照实验 18

5.3 测试函数选取 18

5.4 测试结果 27

5.5 方法对比分析 32

5.6 实验结论 34

5.7 本章小结 34

6 结论与展望 36

6.1 结论 36

6.2 展望 36

参考文献 38

致谢 43

求解数值优化问题的自适应粒子群算法研究

常湘盈

, China

ABSTRACT: Bird is a kind of creatures which works as a group in the nature. Although their individual behaviors are simple, but when they are foraging as a group, they can show some swarm intelligence behaviors like clear division of labor and collaborate. Researchers have studied about that features, in 1995, they proposed Particle Swarm Optimization (PSO). Thereafter it has aroused great concern in the academic circle and engineer circle all over the world in the past two decades. But PSO in its early time has some deficiencies in the technical level and many scholars have tried to improve it, until now. This paper focuses on one of their improved algorithm, PSO-MAM. PSO-MAM focuses on two aspects of PSO's shortcomings. The first one is that most existent PSO are proposed for a specific search space therefore there is lacking an algorithm, which is performing well on a diverse set of problems. The second one is that PSO suffers premature convergence. In order to solve the first problem, PSO-MAM proposes to use the fusion of multiple search methods to augment PSO. Based on an effectiveness index to trigger appropriate search methods, an intelligent selection mechanism is developed. Two search techniques in this research have been studied: a non-uniform mutation-based method and an adaptive sub-gradient method. In order to further improve the proposed PSO, we use adaptive Cauchy mutation to prevent premature convergence. As a result, an augment PSO with multiple adaptive methods (PSO-MAM) is proposed. Compared with the original PSO, this one performs a great advantage on algorithms. However, there is also a large defect about this algorithm, that is, when you do a new function test, you need to get its gradient by person and then modify the code accordingly. The problem is that some functions’ gradient cannot be evaluated, so the algorithm’s fitness is low. In order to change the PSO-MAM’s fitness, we combined it with the Differential Evolution Algorithms (DE) to modify the strategies. After do a series of comparative tests, we proposed Particle Swarm Optimization with Universal Multilevel Adaptive Method (PSO-UMAM). This algorithm can be widely applied to all functions and can get an effective solution.

Keywords: Particle Swarm; non-uniform variation method; adaptive; differential variation method; adaptive multistage; Cauchy mutation

1 绪论

1.1 研究背景

人类社会生活的多个方面都与优化问题密切相关,不论是在经济活动,生活实践,工程设计还是科学研究中,人们往往要面临着一个从诸多可行的备选方案中选择一个最优的方案,同时满足一些条件,这种情况就属于最优化问题[1]。自17世纪数学家Newton创立了微积分学和极值的概念以来,多位数学家为研究最优化问题做出了极大贡献。

传统的优化方法一般被有两类:解析法和迭代法[2,3]。解析法主要采用变分学等数学工具,根据最优时的一些必要条件,建立方程组或不等式,再通过对这些方程组和不等式进行求解来取得最优解。因为解析法对目标函数和约束条件有一定要求,所以它在使用上具有一定的局限性。迭代法通过以一个最优解为起点来寻找一系列近似值。常见的迭代法有牛顿法,最速下降法,共轭迭代法,最小二乘法等。传统的优化方法可靠性较高,理论上相对成熟,有较高的计算效率,但由于它们对目标函数都有一定的条件限制,所以它们无法做到全局优化,只能属于局部优化方法。

达尔文的进化论提出以后,科学家们通过对生物体繁殖、变异、竞争、选择的生物进化过程的观察和模拟,建立了由选择、交叉、变异三种操作来进行优化问题求解的进化算法[4]。与传统的优化方法相比,进化算法自组织,自适应,自学习的特性使它能够不受问题性质和环境的约束,具有高鲁棒性。进化计算的典型方法主要有四种:遗传算法,遗传规划,进化策略,进化规划[4]。遗传算法与遗传规划一般用于选择优秀的父代,强调父代对子代的遗传链,而进化规则和进化策略则着重于选择子代,强调子代本身的行为特性,即行为链[8]

人们发现一般自然界中以个体存活的生物一般行为都较为简单,但以群体方式存在的生物例如蚂蚁、蜜蜂等一般具有较为复杂的行为特征,个体间可以通过分工合作完成复杂的任务,它们类似的自组织性和自适应性使它们表现出了较高的智能。科学家通过对这些具有社会群体特性的昆虫群体行为的研究,发明了群体智能。群体智能算法主要是智能蚁群算法和粒子群算法两个方向。

粒子群算法(Particle Swarm Optimization,简称PSO)在1995年由Kennedy和Eberhart合作提出[5,6],这是一种模仿鸟在飞行和觅食时群体交流和搜索行为的群体智能算法。假设一群鸟在某个地区觅食时遇到这样一个情况:这个地区只有一处有食物,但所有的鸟只知道自己到该区域的距离但不知道具体位置,那么,最简单有效找到食物的策略就是搜寻那些离该处最近的鸟的周边。粒子群算法就是从鸟群的这种行为中受到启示来求解优化问题。粒子群研究中的粒子是鸟群中个体的理想抽象,粒子的自身速度、自身和群体的历史的最佳位置信息都对其运动有影响,使其可以在复杂的解空间寻找最优解。PSO算法是一种简单易实现的线性搜索算法,也使得它在短时间内就得到了国际计算领域的认可,并能够在众多领域中广泛发展。但PSO自身也存在如下缺陷:PSO可能寻找的是局部最优解而不是寻找全局最优解;空间搜索和参数初始化都具有随机性;收敛速度慢。因此,迫切需要一些方法来改进传统的PSO所存在的缺陷。

1.2 研究目标及意义

大量新兴的研究论文表明粒子群算法已日益得到普及。大量的研究实验[7,8,9]表明粒子群算法在一些优化问题的解决质量和计算效率上优于其他的群体优化算法,包括遗传算法(GA),模因算法(MA),差分进化算法(DE),蚁群优化算法(ACO)和蛙跳算法(SFL)。至于发展前景,本文了解到大多数现有的PSO算法都是为特定的搜索空间(例如,多模态)而设计的。例如,CLPSO [10]所提出的综合学习策略之所以能够在复杂的多模态函数上实现高品质的性能,主要是因为它能够有效避免单峰函数收敛速度不理想时所引发的局部最优情况。目前缺乏一种在具有不同特点的不同的搜索空间中表现良好的PSO算法,其次,已有大量的研究探索了用增加群体的多样性来消除过早收敛的方式[11,12,13]

剩余内容已隐藏,请支付后下载全文,论文总字数:43472字

相关图片展示:

您需要先支付 80元 才能查看全部内容!立即支付

该课题毕业论文、开题报告、外文翻译、程序设计、图纸设计等资料可联系客服协助查找;