面向大规模实值优化问题的CMA-ES算法及其分制策略研究

【摘要】实值优化问题在工程和学术领域有广泛的应用背景,许多问题最后都可以被定义成实值优化问题来求解。随着系统越来越复杂,需要优化的参数越来越多,优化问题解空间的维度越来越高,导致大规模优化问题的出现。演化算法作为一种优化问题通用求解器,具有启发式算法的一系列优良特性,包括对优化问题的鲁棒性、全局搜索能力强等,而且易实现、易并行,特别适合求解实值优化问题。演化算法,已经在实值优化问题上表现出了良好的性能,并且,在近似优化上,已经有了理论保证。但是,由于维度灾难,演化算法在大规模优化问题上的表现会快速下降。协作性协同演化框架是一种基于分制策略的演化框架,它将待求解问题分解成多个子问题,并在每个子问题上应用演化算法来求解,最后合并多个子问题的解,从而形成原问题的解。基于协作性协同演化框架,多种演化算法已经成功的从低维优化问题拓展到了大规模优化问题。协作性协同演化框架基于分制策略,所以问题的划分方式对问题求解的效果产生非常大的影响。在实值优化问题中,往往存在变量之间的相关性,不恰当的划分方式将相关变量划分到不同的子问题中,导致了子问题求解的耦合性,从而不能很好的解决原优化问题。本论文有以下研究目的：1.研究基于协同演化框架的演化算法在实值优化问题上的分制策略；2.研究基于协同演化框架的演化算法,用于求解大规模实值优化问题；3.将分制策略形式化定义为优化问题,并开展应用研究。根据以上研究目的,本论文以CovarianceMatrixAdaptationEvolutionStrategy(CMA-ES)实值优化算法和协作性协同演化框架为研究基础,进行了问题分制策略的研究,并将问题分制策略应用于CMA-ES算法上,用于求解大规模实值优化问题,最后解释了问题分解定义的理论基础,并将问题划分拓展到一般聚类问题,在聚类问题上进行应用研究。本论文的主要工作和创新之处主要有以下几点：1.首先基于高斯分布,研究了CMA-ES实值优化算法的问题分解策略,从控制高斯分布作为局部搜索算子的搜索力度的角度,提出了两种新的问题分解方法；2.将提出的问题分制策略应用到CMA-ES算法上,基于协作性协同演化框架,提出了一种更加高效的CC-CMA-ES算法,并在大规模实值优化问题上进行实验研究,验证了提出的问题分制策略和优化算法在大规模实值优化问题上的有效性；3.从KL散度的角度,将基于高斯分布的问题分解定义成了一个离散优化问题,解释了两种问题分解方法的理论基础,并将基于高斯分布的问题分解所形成的离散优化问题,拓展到一般的聚类问题上,提出了一种新的聚类算法。本论文通过对协同演化框架和CMA-ES算法的研究,提出了两种新型的问题分解策略,并将问题分解策略应用于CMA-ES算法,提出一种基于协作性协同演化框架的CMA-ES算法,可以在高达1000维的大规模实值优化问题上表现出良好的特性；然后,从KL散度的角度,理论解释了两种问题分解策略的出发点,并且将问题分解拓展成为一般形式的聚类问题,将聚类定义为一个离散优化问题,在Iris数据集上进行了应用研究。这些工作对于将演化算法应用到大规模实值优化问题有着重要的理论和应用价值,并且和聚类问题建立了联系,对于相关领域的研究有重要意义。
【作者】刘金鹏；
【导师】唐珂；
【作者基本信息】中国科学技术大学，计算机应用技术，2014，硕士
【关键词】演化计算；CMA-ES；协同演化；大规模实值优化；分制策略；

【参考文献】
[1]贺园园,张晋江,赵健伟.石墨烯氧化程度对Ni(OH)_2赝电容性能的影响(英文)[J].物理化学学报,2014,02:297-304.
[2]陈晓曦.我国开放式证券投资基金绩效研究[D].西南财经大学,2005.
[3]丁立.X财经网站商业计划书[D].华南理工大学,高级管理人员工商管理（专业学位）,2014,硕士.
[4]陈兵.混凝土搅拌设备高精度动态计量技术研究[D].吉林大学,机械工程,2014,硕士.
[5]曹鹏.电脑横机伺服系统研究与设计[D].杭州电子科技大学,计算机系统结构,2011,硕士.
[6]魏剑萍.《呼啸山庄》：艾米莉·勃朗特的困惑[D].湖南师范大学,英语语言文学,2004,硕士.
[7]宋凯.豫西上宫金矿田控矿构造与成矿作用研究[D].石家庄经济学院,构造地质学,2014,硕士.
[8]邢海涛.大学英语四级作文自动生成技术研究[D].哈尔滨工业大学,计算机科学与技术,2014,硕士.
[9]李斌,郭剑毅.一种带约束的最小离差平方和系统聚类法及应用[J].计算机应用,2005,01:45-48.
[10]高笑飞.羟丙基封端聚硅氧烷改性水性聚氨酯的合成及应用[D].浙江理工大学,纺织化学与染整工程,2013,硕士.
[11]蒲创国.“天人合一”正义[D].上海师范大学,中国哲学,2012,博士.
[12]丁萍.商务智能技术在企业竞争中的应用[J].陕西科技大学学报,2004,04:134-136.
[13]郭爱青.含Sb聚硅烷合成及性能研究[D].湖南师范大学,有机化学,2004,硕士.
[14]李映波.制备工艺及Si含量对14Cr-ODS铁素体钢组织性能的影响[D].华中科技大学,材料工程,2013,硕士.
[15]孙阳华.论历史学科的研究性学习[D].辽宁师范大学,课程与教学论,2003,硕士.
[16]许强键.基于无线网络的家庭主动监控系统的研究[D].广东工业大学,电力电子与电力传动,2014,硕士.
[17]马文峰,高凤荣,王珊.论数字图书馆个性化信息推荐系统[J].现代图书情报技术,2003,02:16-18.
[18]周星辰.苦豆子内生真菌遗传多样性及其产喹诺里西啶生物碱菌株的筛选[D].宁夏大学,农业昆虫与害虫防治,2014,硕士.
[19]乔梦梦.中国与吉尔吉斯斯坦区域经济合作实证分析[D].新疆师范大学,人文地理学,2013,硕士.
[20]余小见.新疆高校共青团员管理系统的设计与实现[D].厦门大学,软件工程,2014,硕士.
[21]李虞庚,张子香.用两维模拟三维油藏动态的VE方法[J].大庆石油学院学报.1984(04)
[22]徐向全.单空间拉伸试验机用同步直夹夹具设计[D].齐鲁工业大学,机械工程,2013,硕士.
[23]赵礽晔.浅埋大断面隧道施工沉降模型试验研究[D].长安大学,岩土工程,2013,硕士.
[24]牟红珍.基于疏水蛋白HFBI在烟草中表达Reteplase的研究[D].宁夏大学,生物化学与分子生物学,2014,硕士.
[25]韩婷.龙岩适中方言语音研究[D].广西师范大学,汉语言文字学,2014,硕士.
[26]邓英.纳米复合材料修饰电极在血红素蛋白质电化学与电催化中的应用[D].青岛科技大学,2014.
[27]刘娇.中国特色社会主义环境思想研究[D].重庆大学,马克思主义哲学,2014,硕士.
[28]孔岚.产业技术创新联盟的社会资本贡献研究[D].南京邮电大学,企业管理,2013,硕士.
[29]于辉.酪蛋白小肽对幼龄草鱼营养生理的影响[D].湖南农业大学,养殖,2003,硕士.
[30]姜力东.给你一双慧眼[N].中国计算机报,2002-08-19.
[31]高松,贺仁睦,马进,张进.电力系统动态仿真误差评定准则研究[J].电力系统自动化,2006,04:6-10.
[32]张志跃,巩秀花,蔡文博.舰船大功率柴油机数值数据库检索系统研究[J].舰船科学技术.1993(05)
[33]张晓伟.安平县丝网产业发展战略研究[D].北京交通大学,工商管理（专业学位）,2013,硕士.
[34]黄含泉.手写字到笔段网格字形的规整化处理研究[D].内蒙古师范大学,计算机应用技术,2012,硕士.
[35]童玲.X乳品公司酸奶事业部物流方案设计[D].西北大学,工商管理（专业学位）,2012,硕士.
[36]胡春贤.论代位权的行使[D].湘潭大学,法律,2003,硕士.
[37]胡靖.集成电路低功耗设计可逆逻辑综合及性能分析[D].哈尔滨工程大学,2008.
[38]金善容.古今共存的壁画文化[D].中央美术学院,美术学,2013,硕士.
[39]廖湘平,龚国芳,王鹤,周天宇.双活塞液粘调速离合器动态特性研究[J].农业机械学报,2014,07:1-6.
[40]武幸凤.山西省发展低碳经济对策研究[D].山西财经大学,技术经济及管理,2013,硕士.
[41]初莹莹.模糊时间序列的多尺度算法[D].大连海事大学,应用数学,2013,硕士.
[42]崔克勤.板料回弹仿真模拟在某车型零件开发中的应用[D].吉林大学,车辆工程,2012,硕士.
[43]陈相.ALS相关突变蛋白SOD1-G93A介导PC12细胞损伤[D].河北医科大学,神经病学,2014,硕士.
[44]蓝月.二氧化硅纳米粒子固相萃取全血中DNA的研究[D].东北大学,分析化学,2009,硕士.
[45]范君晖.融合知识管理的电子政务系统[J].上海管理科学,2004,02:17-19.
[46]王晓敏.手术患者出院后延续护理服务模式的建立与应用[D].山东大学,护理学（专业学位）,2013,硕士.
[47]高跃冬.行政法视野下水环境保护问题研究[D].安徽大学,宪法与行政法,2013,硕士.
[48]张林.HS珠宝有限公司商业模式研究[D].山东大学,工商管理（专业学位）,2013,硕士.
[49]雷春雨.药物专利化学结构匹配检索新方法[D].大连理工大学,应用化学,2004,硕士.
[50]王旭染.中国城镇养老保险制度变迁研究[D].河北大学,社会保障,2014,硕士.