基于稀疏学习的图像维数约简和目标识别方法研究

【摘要】在科学研究的很多领域，如人脸识别、生物信息学、信息检索等，所获取的数据往往具有很高的维数。这使得研究人员面临维数灾难问题。由于高维空间中过高的计算代价限制了很多技术在实际问题中的使用。当训练样本数小于特征维数时，模型估计的性能也会大大下降。如何从高维数据中学习到一个符合实际应用需求的有效低维表示已经成为模式识别、机器学习、数据挖掘、计算机视觉等领域的研究热点。在实践中，人们通常使用维数约简来处理维数灾难问题。在过去几十年中，人们提出了各种各样的维数约简方法。然而很多流行的维数约简方法都存在着一定的局限性，比如主分量分析（PCA）是一种很好的数据表示方法，但由于没有利用类标信息，对分类问题来说并不是一个很可靠的方法。由于利用了类标信息，线性判别分析（LDA）在分类问题上比PCA更有效，但它至多只能提取K-1个特征（K是类别数）且面临小样本问题。流行的局部结构保持方法如局部保持投影（LPP）存在需要人工定义近邻图的问题。最近提出的稀疏结构保持方法稀疏保持投影（SPP）计算复杂度非常高。因此，本论文以稀疏学习为工具，提出了一系列有监督和半监督维数约简方法以更快速更有效的学习高维数据的低维表示和一个鲁棒的目标识别方法，并将所提方法成功应用于人脸识别、文本分类、遥感目标识别等实际问题。所取得的主要研究成果包括：1.提出了两种新的高效的维数约简方法：快速稀疏保持投影（FSPP）和快速Fisher稀疏保持投影(FFSPP)，它们以保持高维数据中的稀疏表示结构为目的。已有的稀疏保持投影方法中的稀疏表示结构是通过求解n（样本数）个耗时的1范数优化问题来获得的，所提的FSPP通过逐类PCA分解构造字典并基于该字典通过矩阵向量乘来学习稀疏表示结构，这样可以大大降低学习稀疏表示结构的计算复杂度。FFSPP通过将Fisher约束加入到FSPP的模型中以达到同时考虑稀疏表示结构和判别效率的目的，这进一步提升了FSPP的判别能力。所提出的两个方法的求解最后都可归结为一个广义特征值问题。在公共人脸数据库和标准文本数据库上的实验结果验证了所提方法的可行性和有效性。2.提出了一种新的用于人脸识别的维数约简方法稀疏正则判别分析（SRDA），其目的是同时寻找一个最优判别子空间并保持数据的稀疏表示结构。具体来说，SRDA首先通过逐类PCA分解构造一个级联字典，并基于所构造的字典通过矩阵向量乘快速学习稀疏表示结构。然后SRDA通过使用学习到的稀疏表示结构来正则化线性判别分析以达到同时考虑稀疏表示结构和判别效率的目的。最后通过求解一个广义特征值问题获得数据的最优嵌入。在公共人脸数据库上的广泛实验验证了所提方法的可行性和有效性。3.针对单标记图像人脸识别问题，提出了一种基于子空间类标传播和正则判别分析的半监督维数约简方法（SLPRDA）。首先，基于子空间假设设计了一种类标传播方法，将类标信息传播到无类标样本上。然后，在传播得到的带类标数据集上使用正则判别分析对数据进行维数约简。最后，在低维空间使用最近邻方法对测试人脸完成识别。另外，为了提高所提方法处理非线性数据的能力，基于核方法推导出了所提方法的非线性版本。在公共人脸数据库上的实验验证了所提方法的可行性和有效性。4.提出了一种新的半监督维数约简方法，双线性回归（DLR），以处理单标记图像人脸识别问题。DLR在寻找最优判别子空间的同时尽可能的保持数据潜在的稀疏表示结构。具体来说，首先提出了一个子空间类标传播方法（SALP）来将类标信息传播到无类标样本上，这一过程主要通过线性回归（LR）完成。然后，基于传播得到的带类标数据集，通过线性回归（LR）构造一个稀疏表示正则项。最后，为了同时考虑判别有效性和对稀疏表示结构的保持，DLR使用之前构造的稀疏表示正则项对线性判别分析进行正则化，在公共人脸数据库上的大量实验验证了所提方法的有效性。5.针对含有残缺图像的遥感图像目标识别问题，提出了一种基于旋转扩展和稀疏表示的目标识别方法（RETSRC）。首先对训练集进行旋转扩展，使得测试图像能近似用训练集稀疏表示，然后通过求解一个1范数最小化问题得到测试图像相对于训练集的一个稀疏表示，进而根据不同类对应的稀疏表示对测试图像的近似程度进行识别。与几种代表性的方法进行了比较，实验结果与分析表明，本文提出的方法识别率优于已有的方法，对残缺图像的识别有很好的鲁棒性，且在小样本情况下也能保持较好的识别性能。
【作者】殷飞；
【导师】焦李成；
【作者基本信息】西安电子科技大学，模式识别与智能系统，2014，博士
【关键词】维数约简；稀疏表示；类标传播；人脸识别；遥感目标识别；

【参考文献】
[1]胡静.试论郭子仪对中唐北疆的经营[D].内蒙古师范大学,专门史,2012,硕士.
[2]冯雅兰.新疆地毯艺术研究[D].新疆师范大学,美术学,2014,硕士.
[3]杨炳儒,游福成.基于Multi-agent技术的知识发现新模型KDD的设计[J].计算机工程与应用,2003,12:1-3+15.
[4]丁雨.金融资产分类的契约动因研究[D].河北经贸大学,会计学,2012,硕士.
[5]冯瑞,沈伟,张艳珠,邵惠鹤.基于F_SVMs的多模型建模方法[J].控制与决策,2003,06:646-650.
[6]孙玲玲.英语委婉语的语用分析[D].西安电子科技大学,外国语言学及应用语言学,2004,硕士.
[7]吴妙华.论我国的独立董事选聘制度[D].华南理工大学,法律（专业学位）,2013,硕士.
[8]徐禄.网络游戏受体正效应的哲学思考[D].太原科技大学,科学技术哲学,2014,硕士.
[9]蒋文菁.分级基金与股指期货套利研究[D].上海交通大学,金融学（专业学位）,2013,硕士.
[10]胡顺利.螺旋隧道火灾通风数值模拟研究[D].西南交通大学,供热、供燃气、通风及空调工程,2013,硕士.
[11]程代展,王洪才.一般非线性系统的Kalman分解[J].自动化学报,1989,01:30-36.
[12]叶彬.金耳菌种的分子鉴定及出菇实验[D].福建农林大学,生物工程,2012,硕士.
[13]徐利英.刑事诉讼证明与证据[D].中国政法大学,逻辑学,2004,硕士.
[14]黄俊.经腋窝入路单孔腔镜甲状腺手术与开放甲状腺手术对比研究[D].广西医科大学,微创外科（专业学位）,2013,硕士.
[15]艾丽军,占传杰,熊镇山.基于Rough集实现判定树归纳分类算法的简化[J].盐城工学院学报(自然科学版),2004,03:30-33.
[16]李良艺.平衡计分卡在战略绩效管理模式构建的应用[D].首都经济贸易大学,劳动经济学,2014,硕士.
[17]张海平.复合山楂黄芪抗衰老保健饮料的研制及功能性研究[D].河南科技学院,农产品加工及贮藏工程,2012,硕士.
[18]张雁.萨尔图油北一二排区河道砂体内部建筑结构研究[D].大庆石油学院,2004.
[19]刘平,龙明生,李铭.铜镍合金催化制备大面积均匀的少层石墨烯[J].材料科学与工程学报,2014,05:629-633+664.
[20]居易.手机二维码用户使用意愿研究[D].太原科技大学,管理科学与工程,2014,硕士.
[21]黄少华.不同病理类型鼻咽癌临床表现和预后分析[D].福建医科大学,耳鼻咽喉科学,2014,硕士.
[22]李志玲.湖南省石油总公司运输物业改制优化方案研究[D].湖南大学,工商管理,2012,硕士.
[23]陈成.La_(0.7)Sr_(0.3)Co-(1-x)M_xO_3(M=Pd,Ru) 钙钛矿型催化剂的NO_x储存还原过程研究[D].天津大学,工业催化,2013,硕士.
[24]公孙龙.2009年世界科技热点展望[J].数码先锋,2009,01:4.
[25]罗成广.中学“数学文化”的教学探讨[D].华中师范大学,2005.
[26]宋莹.基于SSH高校学生档案信息管理系统设计与实现[D].吉林大学,软件工程,2014,硕士.
[27]姜恕,王金亭.青海草场植被调查通讯[J].植物生态学报,1965,02:321-322.
[28]李林.基于企业需求的独立学院学生职业规划指导体系研究[D].浙江工业大学,2009.
[29]章晶.老挝万象亚欧峰会官邸别墅室内陈设设计研究[D].中南林业科技大学,设计艺术学,2014,硕士.
[30]王勇.基于各向异性的地震波动方程偏移[J].石油地球物理勘探,1997,05:751.
[31]周奕含.高校旅游专业音乐课程改革研究[D].湖南师范大学,学科教学,2014,硕士.
[32]卢永锋.张锡纯治疗喘证的学术思想研究[D].甘肃中医学院,方剂学,2014,硕士.
[33]鲁斯唯.海峡西岸经济区大气污染物排放清单研究[D].厦门大学,环境科学,2014,硕士.
[34]雷一,赵争鸣,袁立强,鲁思兆.LCL滤波的光伏并网逆变器阻尼影响因素分析[J].电力系统自动化,2012,21:36-40+46.
[35]赵春阳.钢铁企业备件供应商选择研究[D].大连海事大学,物流工程,2012,硕士.
[36]李志辉,和永明,杨卫东.UHF3kW全固态电视发射机电源控制系统分析[J].广播与电视技术.2004(04)
[37]杨明,孙志挥.一种基于前缀广义表的关联规则增量式更新算法[J].计算机学报,2003,10:1318-1325.
[38]樊少峰.三聚氰胺在养殖水体中的分布与迁移[D].广东工业大学,环境科学与工程,2014,硕士.
[39]周波.分布式内存数据库数据冗余分配研究与应用[D].西南交通大学,计算机软件与理论,2013,硕士.
[40]朱磊.新型铸造冷作模具钢性能的研究[D].吉林大学,材料加工工程,2013,硕士.
[41]杨凯.苏州大学体育学院08至11级体育教育专业学生体育加试成绩的分析[D].苏州大学,体育教学,2012,硕士.
[42]杨方沁.金属/聚合物复合结构对材料导热性能的影响研究[D].浙江工业大学,2013.
[43]徐华.基于互信息估计的连续数字语音识别[D].苏州大学,通信与信息系统,2003,硕士.
[44]张秀媛,杨新苗,闫琰.城市交通能耗和碳排放统计测算方法研究[J].中国软科学,2014,06:142-150.
[45]杨燕丽.安装角及雷诺数对压气机叶栅气动噪声特性的影响[D].上海理工大学,动力机械及工程,2012,硕士.
[46]韩振峰.焦裕禄精神与社会主义核心价值观[J].中国高等教育,2014,09:4-7.
[47]徐文亮.在线考试系统的研究与实现[D].云南大学,软件工程,2012,硕士.
[48]赵军强.人工腱膜材料组织相容性的初步研究[D].青岛大学,骨科学,2003,硕士.
[49]李凤娟.白茶的滋味、香气和加工工艺研究[D].浙江大学,茶学,2012,硕士.
[50]朱成博.多线程微处理器指令双发射结构的设计与实现[D].国防科学技术大学,软件工程,2013,硕士.