LibD3C 2.0:基于聚类的集成分类器与并行化实现

【摘要】集成学习的主要思想是融合多个分类学习算法的分类性能来提高整体分类算法的泛化能力。构建一个具有多样性／差异度大的弱分类学习算法集合是集成学习取得高泛化能力的关键。对于弱分类器的构建的直观的想法是构建大量的弱分类器,以获得更强的泛化性能。然而大量的弱分类器对现有的计算和存储能力.：提出了更高的要求,同时弱分类器的差异性也难以获得。针对此问题,周志华等人提出的选择性集成理论指出集成小规模的弱分类器就可以得到预测性能更优的集成分类器,理论分析和实验表明,该方法能够取得比Boosting和Bagging等传统的集成学习算法更好的泛化性能。本文在深入学习选择性集成分类器的基础上,从集成分类器的弱分类器构建、分类器候选子集的选择以及弱分类器的集成等方面进行了相关研究。(1)弱分类器的生成阶段：考虑原始数据集的分布特征,提出了对原始数据集进行数据子集切分和特征子集切分的方式,使用切分后的训练集训练分类器。保证弱分类器预测性能同时构建出更具多样性的弱分类器集合。(2)弱分类器候选子集选择阶段：选用一种合适的差异性度量方式,通过聚类算法,从弱分类器集合中选择预测能力高并且相互之间差异度最大的候选子集,进行下一阶段的分类器集成。(3)弱分类器集成阶段：采取改进的动态选择与循环集成框架,对候选弱分类器子集进行集成,在保证分类器的集成性能的同时避免使用枚举弱分类器时的组合爆炸问题。(4)此外,本文还研究了在需要生成大量弱分类器时带来的问题,设计了并行化的弱分类器训练和弱分类器子集选择算法,同时实现了集成分类器的通用算法框架LibD3C2.0。
【作者】陈文强；
【导师】林琛；
【作者基本信息】厦门大学，计算机应用技术，2014，硕士
【关键词】选择性集成学习；聚类；循环集成；

【参考文献】
[1]张海涛.大鼠吗啡戒断时TRPV1受体调节伏核谷氨酸能突触传递作用及机制研究[D].第四军医大学,外科学,2014,硕士.
[2]邢建伟.纳米氧化锌及其复合材料制备与光催化性能研究[D].兰州理工大学,应用化学,2013,硕士.
[3]王卫.融合RTP和H.264技术的远程视频监控系统[D].杭州电子科技大学,电子与通信工程,2014,硕士.
[4]冯波.变电站SCADA系统数据库的设计与开发[D].山东大学,控制科学与工程,2013,硕士.
[5]丁永杰,扈延林,颜世林,李鸿,李玉全,蔡宁泊.聚焦磁场及发散磁场对霍尔推力器壁面侵蚀的影响研究[J].推进技术,2015,05:1.
[6]张加万.交互体绘制关键技术及其应用研究[D].天津大学,2004.
[7]蔡建湖,王欢欢,韩毅,林华珍,邓丽丽.不确定环境下创新性产品供应链生产能力决策模型[J].计算机集成制造系统,2013,04:859-868.
[8]张中华.绍兴黄酒麦曲中微生物群落结构的研究[D].江南大学,发酵工程,2012,硕士.
[9]王伟娜.心理授权、主管承诺与离职倾向的关系研究[D].天津财经大学,企业管理,2012,硕士.
[10]赵晖.针对电力机车牵引系统的单相整流有源电力滤波器[D].华中科技大学,电力电子与电气工程,2013,硕士.
[11]程珺.老年骨质疏松症与肺纤维化的相关性研究[D].吉林大学,临床医学（专业学位）,2014,硕士.
[12]朱晓航.球墨铸铁二维铸造工艺CAD系统的研究与开发[D].华中科技大学,材料加工工程,2013,硕士.
[13]刘萌.城镇河道生态护坡材料筛选及其生态健康评价研究[D].山东师范大学,环境工程（专业学位）,2013,硕士.
[14]曾艳.农地城市流转模型与政策研究[D].华中农业大学,土地资源管理,2001,硕士.
[15]孙瑜桧.伊宁市社区音乐文化现状调查研究[D].新疆师范大学,音乐学,2013,硕士.
[16]李涛.国际短期资本流动对我国的影响及其预警模型研究[D].辽宁工程技术大学,技术经济及管理,2012,硕士.
[17]石海彬,刘晓平,张嗣瀛.相似广义互联系统的状态反馈鲁棒镇定[J].控制与决策,2002,04:491-493.
[18]石婧.撤点并校与官巴绕巴阿来[D].首都师范大学,教育学原理,2013,硕士.
[19]张大纯.唐代刑事法制研究[D].黑龙江大学,法律,2012,硕士.
[20]胡海川.我国农业类上市公司信息披露问题研究[D].内蒙古农业大学,农业经济管理,2014,博士.
[21]孙向婧.污水处理工艺对强温室气体N_2O生成的比较研究[D].扬州大学,市政工程,2011,硕士.
[22]李智勇,吴为麟,林震宇.基于相空间重构和支持向量机的电能扰动分类方法[J].电力系统自动化,2007,05:70-75.
[23]魏健.中小企业组织变迁的动因及趋势[D].河北农业大学,农业经济管理,2004,硕士.
[24]王峰.基于移动agent的数字水印检测[D].河海大学,计算机应用技术,2004,硕士.
[25]陈君君.碳纳米管薄膜[J].化工技术与开发,2015,03:35-39.
[26]童希.微博上的公共事务意见领袖[D].复旦大学,新闻学,2013,博士.
[27]邱海辉.车身关键数据辅助设计平台的研究与实现[D].大连理工大学,车辆工程,2013,硕士.
[28]冯苹苹.职场新人角色压力与组织承诺关系研究[D].广东财经大学,企业管理,2014,硕士.
[29]王靖.地方财政风险问题研究[D].江西财经大学,财政学,2004,硕士.
[30]刘艺.改革开放初期复旦大学新闻教育研究（1977-1988）[D].复旦大学,新闻学,2012,硕士.
[31]汪海瑛,白晓民.并网光伏的短期运行备用评估[J].电力系统自动化,2013,05:55-60.
[32]陶正桔,王晓凤,刘银艳.论法律翻译中的文化性表现——以《香港基本法》的英语译本为例[J].浙江工业大学学报(社会科学版),2013,04:464-468.
[33]是丽娜.长江三角洲区域旅游合作现状与对策研究[D].南京师范大学,2004.
[34]曲亚静.流行文化作为思想政治课程资源开发利用研究[D].沈阳师范大学,课程与教学论,2013,硕士.
[35]赵阳.基于时间效应的新疆覆膜土地空间格局及其动态变化遥感研究[D].新疆师范大学,地图学与地理信息系统,2014,硕士.
[36]屈啸.国外区域空间公正理论的发展及演变[D].西安外国语大学,人文地理学,2014,硕士.
[37]包雪梅.蒙药荜茇有效部位群的调血脂药效学研究[D].内蒙古医科大学,民族医学,2010,硕士.
[38]董雪源,王晓茹,童晓阳,黄飞,王睿.流控传输协议在广域后备保护信息传输中的应用[J].电力系统自动化,2012,22:89-94.
[39]刘克春.粮食生产补贴政策对农户粮食种植决策行为的影响与作用机理分析——以江西省为例[J].中国农村经济,2010,02:12-21.
[40]武振.云南省职业教育发展的财政政策及政策效应研究[D].云南财经大学,财政学,2013,硕士.
[41]于强.双馈型风电机组接入对电力系统功角稳定性的影响[D].中国电力科学研究院,电力系统及其自动化,2013,硕士.
[42]余小红.尼莫地平胶束的制备、表征及药动学研究[D].广东药学院,药剂学,2012,硕士.
[43]张开立.草原湿地季节性冻土路基力学与变形特性研究[D].长安大学,交通运输工程,2013,硕士.
[44]陶明星.土—地下结构动力相互作用有限元分析[D].西北工业大学,工程力学,2004,硕士.
[45]张兆功,李建中,张艳秋.海量数据上挖掘关联规则的并行算法[J].哈尔滨工业大学学报,2004,05:561-565.
[46]张培培.聚酰胺6纳米纤维及与石墨烯复合材料的制备和结构性能研究[D].东华大学,2013.
[47]姚小平.基于GIS平台的配电网管理系统的开发[D].西安理工大学,电气工程,2004,硕士.
[48]左康华.改性石墨烯及其复合材料的制备[D].北京化工大学,2013.
[49]刘诗翁.新疆北线高铁风数据监测采集与发布系统设计[D].新疆大学,化工过程机械,2013,硕士.
[50]安耀祖,陆耀,赵红.一种自适应正则化的图像超分辨率算法[J].自动化学报,2012,04:601-608.