模式判别中的子空间分析方法研究

【摘要】子空间分析是模式分析中的一个重要研究方向。子空间分析技术已成功地应用于计算机视觉和模式识别中。按照映射方式的不同，子空间分析分为线性和非线性两大类。线性子空间分析方法具有计算简单、高效的优点，它为各种非线性方法提供了坚实的基础。非线性子空间分析着重于提取数据的局部结构。近年来，子空间方法已被广泛应用于生物特征和生物数据识别。目前，子空间分析已经成为特征提取的重点研究方向，在数据挖掘等方面也有非常好的应用前景。为了提取并有效利用海量数据中的有效判别信息，迫切需要系统深入地研究和发展新的判别子空间分析方法。本文从Fisher线性判别分析中的小样本问题着手，对子空间分析方法进行了深入研究，取得了如下创新性研究成果：1、提出一种新的线性判别子空间分析方法—有效判别零空间分析。针对小样本问题，解释并证明了总体散布矩阵，类间散布矩阵和类内散布矩阵的零空间的物理意义，给出了它们的直观几何解释。揭示了原数据空间上的类间散布矩阵与有效零空间和有效值域空间上的类间散布矩阵之间的关系。证明并得出有效判别零空间上的类内距离等于零而类间距离大于零这一结论。在不同数据上的识别实验证明有效判别零空间分析在分类精度，鲁棒性和效率上优于其它相关的方法。2、提出基于值域空间中类零子空间分析的模式判别方法。该算法不但能够对属于已知模式的样本作分类判决，还能发现新模式类。研究了值域空间的性质。根据在模式分类中的作用对原数据空间进行空间分解并分析了各个子空间的性质。根据子空间的性质，构造了到各个子类的特征空间的投影矩阵。基于太赫兹时域光谱信号的物质辨识实验和基于COIL-100数据库的物体分类实验验证了类零子空间分析算法的优越性。3、从两类分类问题出发，提出一种弱空间分析方法。弱空间方法旨在提取更加丰富的判别特征。通过分析和实验说明Fisher判别特征空间的补空间中也含有有效的判别信息。讨论了方差小的分量在模式分类中的作用并揭示方差小的分量含有丰富的判别信息。给出了弱空间的构造方法。同时，提出一种新的特征谱正则化方法。基于太赫兹时域光谱信号的物质辨识实验及基于仿真数据的实验证实，在特征丰富的子空间中识别率能够得到提高。4、提出了弱分量判别分析。分析和解释了样本协方差矩阵特征值的物理意，研究并推导了样本数据的信噪比与样本协方差矩阵特征值之间的代数关系。并据此定义了样本数据的弱分量。研究了Fisher线性判别分析准则的物理意义和几何意义。从而，直观地解释了Fisher线性判别分析中的异方差问题、可分性问题和稳定性问题。通过将基于全体数据的线性判别分析思想推广到子类，提出了新的类判别准则。从而，提出弱分量判别分析算法(WCDA)并推导其分类误差上界。同时，分别从应用条件、分类误差、训练数据规模和计算复杂度等方面比较了WCDA和主分量近似零空间分析方法。在三类不同数据库上通过实验比较了所提出的WCDA算法和相关的MLDA，PNBDA和PCNSA算法。实验结果验证了弱分量判别分析算法具有很好的分类能力，能够提取信息空间中聚集性较好的低维特征。5、提出值域空间中的超球面判别分析方法。提出单位超球面模型并将其引入线性判别分析中。将欧氏距离转化为单位超球面上的弧长，从而将欧氏空间中的判别分析转化为超球面上的判别分析。通过引入核函数，将超球面判别分析拓展到非线性子空间分析，并提出值域空间超球面核判别分析。在多个不同数据库上的实验结果证实了值域空间中的超球面判别分析相对于经典的Fisher线性判别分析方法及其相关推广算法在训练样本数、识别精度和运算效率方面具有优越性。本文取得的研究结果对模式识别中子空间分析方法的研究具有较大的理论意义与应用价值。
【作者】蒲莉娟；
【导师】谢维信；
【作者基本信息】西安电子科技大学，信号与信息处理，2014，博士
【关键词】线性判别分析；零空间；值域空间；弱分量分析；超球面判别分析；

【参考文献】
[1]刘松.基于DSP的新型太阳方位检测系统的研究[D].扬州大学,电机与电器,2011,硕士.
[2]周娜.湘潭县易俗河镇农户宅基地流转意愿的调查研究[D].中南林业科技大学,农村与区域发展,2014,硕士.
[3]陆文峻.Cu~0促进的2-一溴二氟甲基-1,3-苯并二唑与卤代芳烃/烯烃的交叉偶联反应研究[D].上海大学,有机化学,2013,硕士.
[4]李希欣.山东省小额贷款公司可持续发展问题研究[D].山东大学,财政学,2013,硕士.
[5]杨思东.17β-雌二醇通过整联蛋白α1β1和α2β1抗大鼠髓核细胞凋亡的机制研究[D].河北医科大学,外科学,2014,硕士.
[6]耿增显.基于遗传算法可调整因子的智能控制技术研究[D].辽宁工程技术大学,控制理论与控制工程,2003,硕士.
[7]杨春丽.基于碳纳米材料传感器对环境污染物银离子和二酚异构体的研究[D].西南大学,无机化学,2013,硕士.
[8]刘春玲.行政诉讼举证责任[D].吉林大学,宪法学与行政法学,2004,硕士.
[9]伍志勇.功能性磁性纳米微粒的制备、表征以及川芎嗪载药的初步应用[D].南方医科大学,中西医结合临床,2014,博士.
[10]许孝滨.深部巷道围岩分区破裂锚固机理分析研究[D].山东大学,岩土工程,2013,硕士.
[11]南聪强.四川省矿产资源利用现状调查成果与储量库衔接及关键技术研究[D].成都理工大学,测绘工程,2013,硕士.
[12]韩生廉.人才选择的决策问题研究[J].控制与决策,1996,02:284-290.
[13]孙莉敏.运动想象训练促进脑卒中患者功能恢复的功能磁共振（fMRI）研究[D].复旦大学,康复医学与理疗学,2013,博士.
[14]郭婧.广西平果县嘹歌音乐形态调查研究[D].中国音乐学院,音乐学,2012,硕士.
[15]李翠萍.社会资本视角下城市社区和转制社区治理的比较研究[D].浙江工商大学,行政管理,2013,硕士.
[16]冯雪.高职高专英语教学中的文化教学策略研究[D].西北大学,外国语言学及应用语言学,2014,硕士.
[17]马文秀.蒙脱石承载二硝托胺及其抗球虫效果的研究[D].浙江工商大学,食品科学与工程,2013,硕士.
[18]陈雅婷.吴茱萸或吴茱萸碱联合CDK1抑制剂的抗肿瘤效应[D].广州中医药大学,中西医结合基础,2013,硕士.
[19]黄英.本期特约专栏主持人——黄英[J].粘接,2015,05:28.
[20]刘彦伟.构建区域性安全科技支撑体系的探索[J].中国安全科学学报.2007(02)
[21]宋典.我国城镇住房保障制度探析[D].长安大学,经济法学,2014,硕士.
[22]徐杨斌1,2,唐辉1#,朱劭涌3,者为2,王凯2,冒德寿2,付磊2,陈瑞瑞1.气相色谱飞行时间质谱法分析不同产地洋甘菊油的挥发性成分[J].食品工业科技.
[23]李智君.溶剂对生物油热稳定性和加氢提质效应研究[D].郑州大学,环境科学,2013,硕士.
[24]成茜.城市空巢失能老人长期照料服务问题研究[D].湖南师范大学,社会学,2014,硕士.
[25]张天琪.股东知情权行使中检查人选任制度研究[D].内蒙古大学,民商法,2014,硕士.
[26]李海风,黄平,徐颖华,马淳安.还原染料还原方法的研究进展[J].广东化工,2014,05:78-80.
[27]尹利斌,任忠平,周立平.履带框架的外载荷及边界条件[J].一重技术.2001(Z1)
[28]刘奇.醉驾入刑后的法律问题探析[D].曲阜师范大学,马克思主义基本原理,2013,硕士.
[29]陈洁.小学低年级学生课外阅读兴趣培养研究[D].宁波大学,学科教学（专业学位）,2013,硕士.
[30]朱晓宁,隆冰.多路公交优先交叉口配时优化的双层规划模型[J].交通运输工程学报,2014,01:103-111.
[31]蔡起超.航天器推进系统数据管理系统设计及实现[D].哈尔滨工业大学,控制科学与工程,2013,硕士.
[32]李昀格.河北电力集团ERP系统下的内部控制建设[D].河北大学,会计,2014,硕士.
[33]李雪.小学教师教学胜任力模型探究[D].渤海大学,课程与教学论,2014,硕士.
[34]闫志军.基于新公共管理理论的内蒙古地震部门经费管理研究[D].内蒙古大学,公共管理,2014,硕士.
[35]王志红.论教师成长中的情感特征[D].福建师范大学,教育,2003,硕士.
[36]赵琳.分配制度与和谐社会关系研究[D].北京交通大学,2007.
[37]亢小宁.平顶光束在大气湍流中传输特性及通信信道BER研究[D].西安电子科技大学,无线电物理,2012,硕士.
[38]李博解.分子筛上甲醇和二甲醚羰基化反应机理的核磁共振研究[D].中国科学院研究生院（武汉物理与数学研究所）,分析化学,2013,博士.
[39]高如曾.用地震动力学信息寻找微小断层的尝试[J].石油地球物理勘探,1988,04:497-503+512+516.
[40]杨滨硕.程序对等原则研究[D].内蒙古大学,诉讼法学,2014,硕士.
[41]成红伦.我国卷烟消费税政策研究[D].浙江工业大学,2009.
[42]陈玉勇,张树志,孔凡涛,刘祖岩,林均品.新型β-γTiAl合金的研究进展[J].稀有金属,2012,01:154-160.
[43]黎浩许.黑河下游绿洲变化的时空过程与驱动机制[D].兰州大学,地图学与地理信息系统,2013,硕士.
[44]王磊.卫星平台与天线去耦合控制[D].哈尔滨工业大学,2013.
[45]陆勇.亚mK恒温装置关键技术研究[D].哈尔滨工业大学,机械工程,2013,硕士.
[46]吴迪.基于IRP的IT规划研究[D].东北财经大学,企业管理,2003,硕士.
[47]赵立祥.NAD对血管紧张素II诱导的大鼠心肌纤维化的影响[D].山东大学,内科学,2013,硕士.
[48]曹成艳.聚合铝铁混凝剂对混凝—微滤工艺膜污染影响的试验研究[D].北京交通大学,2014.
[49]杨艺.“融媒时代”基于手机渠道的微电影传播研究[D].成都理工大学,传播学,2013,硕士.
[50]蔡笑男.蒙太奇手法在招贴设计中的运用研究[D].中国矿业大学,设计艺术学,2014,硕士.