基于BTM的短文本聚类

【摘要】随着互联网和网络技术的快速发展,很多网络通信交流平台被广泛使用,如手机短信、微博、电子邮件、论坛、聊天软件、新闻评论等,而他们通常会产生大批量的短文本信息资源。这些短文本涉及着人们生活的各个领域,也逐渐成为人们广泛使用并且公认的交流方式,并且它也改变着人们的生活和沟通习惯。从这些数量庞大的短文本中挖掘其中所蕴含的潜在资源可以方便对它们进行管理、同时也可以用于信息的发现和分析。但是面对如此海量的短文本,人们很难快速的通过人工的办法来获取其中所蕴含的信息资源,所以利用计算机技术来对短文本进行挖掘和分析具有重要的意义。文本聚类是自然语言处理中最基础的技术,采用聚类技术对这些短文本进行分析和组织,能够挖掘文本内部文字之间的联系,进而有助于对这些信息的整体认识和管理。但是对于短文本来说,短文本本身和长文本不一样,它具有独特的特征,如字数少,表达简洁、缺乏丰富的上下文信息,包含的信息量有限,这使得短文本的特征稀疏,很难准确的抽取有效的文档特征,加之传统的文本聚类方法直接在短文本上使用的效果不佳,因此,这对短文本的聚类研究带来了更多的挑战,同时也导致短文本聚类技术的发展相对缓慢。目前,针对短文本的文本聚类的困难基本上有：如何解决短文本的特征稀疏问题,如何改善短文本聚类的质量、以及如何描述聚簇结果。本文综合的考虑了以上几点,提出了基于BTM(BitermTopicModel)的短文本聚类方法。本文主要工作：(1)详细阐述了短文本聚类的研究意义,研究难点和常用的解决方法,简要介绍了短文本聚类理论和关键技术,如预处理中的句子分词和去停用词、几种重要的文本模型、聚类方法、聚类中涉及的相似度计算、聚类评价指标以及聚簇结果的描述等。(2)详细介绍了BTM(bitermtopicmodel),分析和对比了BTM和LDA以及一元混合模型的异同,介绍了BTM语义空间及Gibbs抽样的参数推理过程,实验体现了基于BTM语义的文档特征和文档表示形式,从而证实了BTM在处理短文本稀疏问题上的有效性。(3)将BTM引入到短文本聚类,利用BTM训练之后得到的文档-主题的概率分布矩阵和主题-词概率分布矩阵与传统的利用TF-IDF进行词权重计算的向量空间模型相结合,即将主题特征与词特征结合,以此达到改善短文本聚类质量的效果。(4)利用聚类的结果中各个聚簇文档中的主题分布情况,结合BTM训练之后的主题-词特征空间,提出一种聚簇结果描述方法,利用这种方法可以对聚簇进行描述和直观理解。通过在百度知道语料库上进行K-means聚类的实验结果分析对比中得出,本文的方法优于传统的VSM和利用LDA的聚类,并且采用本文提出的方法对聚簇结果的描述也较为准确,通过整个实验,基于BTM的短文本聚类效果的有效性也得到了验证。
【作者】汤秋莲；
【导师】郑诚；
【作者基本信息】安徽大学，计算机技术，2014，硕士
【关键词】短文本；聚类；BTM；主题模型；聚簇描述；

【参考文献】
[1]吴晓旭.基于ZigBee传感网络多节点电压采集与传输系统设计实现[D].北方工业大学,电子与通信工程,2014,硕士.
[2]安恩政.一步法制二甲醚体系物性方法及工艺模拟研究[D].新疆大学,化学工程与技术,2013,硕士.
[3]王丹,王成山.基于数值微分法求导的分布式发电系统仿真算法[J].电力系统自动化,2009,17:81-85.
[4]苏娟,林行刚,刘代志.一种基于结构特征边缘的多传感器图像配准方法[J].自动化学报,2009,03:251-257.
[5]李嘉,石峰晖,吕晶,张宝艳.电弧法制备石墨烯材料的表征与评价[J].复合材料学报.
[6]叶月明,赵昌垒,姚根顺,胡冰,庄锡进,章学刚.数据驱动型层间多次波预测方法研究[J].石油地球物理勘探,2014,02:244-251+217-218.
[7]张兵.潍坊市行政审批电子监察系统的设计与实现[D].山东大学,软件工程（专业学位）,2013,硕士.
[8]张学富.H.264去方块效应滤波器的FPGA设计与优化[D].西安电子科技大学,通信与信息系统,2012,硕士.
[9]焦剑雄.区域金融集聚、经济增长与生态效率的空间统计分析[D].南昌大学,概率论与数理统计,2014,硕士.
[10]徐广静.郑州市公交车广告传播策略研究[D].郑州大学,新闻与传播（专业学位）,2013,硕士.
[11]郭曼.我国通货膨胀的动态机制研究[D].江西财经大学,金融学,2013,硕士.
[12]程日升.语境理论在大学体育专业英语口语教学中的应用研究[D].山西师范大学,外国语言学及应用语言学,2013,硕士.
[13]肖琛婵.王夫之《古诗评选》研究[D].广西师范大学,中国古代文学,2013,硕士.
[14]董昭.数据挖掘算法在地税行业CRM系统的研究应用[D].西安电子科技大学,软件工程,2011,硕士.
[15]刘洪海.课证赛融通背景下会计专业教学质量要素建设研究[J].商业会计,2014,17:122-124.
[16]马军涛.基于SaaS模式医疗保险系统的设计与实现[D].东北大学,计算机软件与理论,2010,硕士.
[17]黄武锋.高迁移率族蛋白1（HMGB1）对气道上皮屏障功能失调的机制研究[D].南方医科大学,内科学,2014,博士.
[18].浙江大学理学部巡礼[J].浙江大学学报(理学版),2014,01:2.
[19]张天伟,聂磊,路晋.高速铁路夕发朝至列车开行模式综合比选[J].交通运输系统工程与信息,2014,04:209-216.
[20]冯翠萍.永磁无刷直流电机转矩脉动抑制的控制策略研究[D].西南交通大学,电气工程,2012,硕士.
[21]燕晓春.基于“三农报道”的《新闻联播》媒介话语分析[D].西北师范大学,广播电视艺术学,2013,硕士.
[22]余钰骢.灵芝结构多糖水解物的提取分离纯化和功能活性研究[D].浙江大学,2014.
[23]刘晓波,刘明黎,陈建忠,施宏宇,陈博,蒋延生,徐卓,张安学.折射率正负梯度交替表面的研究[J].物理学报.
[24]刘凤勇.秦皇岛市高校校园体育文化建设研究[D].河北师范大学,体育教育训练学,2012,硕士.
[25]辛海军.带p-Laplacian算子微分方程边值问题的正解存在性[D].曲阜师范大学,应用数学,2013,硕士.
[26]王慧.中韩古典文学中狐狸性别形象的变迁及与女性的相关研究[D].四川外国语大学,亚非语言文学,2013,硕士.
[27]崔志莹.普通高中体育舞蹈选项课教学设计与可行性研究[D].河北师范大学,体育教学,2013,硕士.
[28]樊冬.取代四甲基环戊二烯基或茚基金属羰基化合物的合成与反应性研究[D].河北师范大学,有机化学,2014,硕士.
[29]李渭华,萧德云,方崇智.一种基于自适应滑动窗格形滤波算法的故障检测器[J].自动化学报,1996,02:251-253.
[30]徐曌,欧国立.交通拥堵收费的理论依据和政策分析[J].中国工业经济,2012,12:18-30.
[31]程露.上海国际集团有限公司治理研究[D].中南民族大学,法律,2013,硕士.
[32]冯雪琛.基于国家间合作开发建设生态城市项目的研究[D].天津大学,工商管理,2013,硕士.
[33]巴图.中蒙克鲁伦河流域草地植被退化及土壤特性比较研究[D].内蒙古农业大学,植物学,2013,硕士.
[34]陈锟.LB制药公司营销诊断和改进策略研究[D].西南财经大学,2005.
[35]汤橡.纺织品图案设计创意数字化表现的实现[D].山东大学,软件工程（专业学位）,2012,硕士.
[36]田月香.A热电厂员工培训问题及对策研究[D].黑龙江大学,工商管理,2013,硕士.
[37]徐恩慧,赵翠兰,蔡春雨,肖景林.各向异性抛物势对量子点中强耦合极化子激发态的影响[J].内蒙古民族大学学报(自然科学版),2013,01:4-6+10.
[38]张少卿.SiO_2及SiO_2/TiO_2复合粉体的制备与性能研究[D].河北大学,无机化学,2014,硕士.
[39]程南清.基于Web的个性化网络教学系统原型的研究[J].宁波广播电视大学学报,2005,04:87-90.
[40]涂学凑.Nb_5N_6 microbolometer太赫兹检测器[D].南京大学,无线电物理,2014,博士.
[41]吴敏章.云南省桥头堡建设中金融支撑体系研究[D].武汉理工大学,国际贸易学,2012,硕士.
[42]包静亮.基于Adaboost分类学习的医学图像检索[D].南京理工大学,模式识别与智能系统,2013,硕士.
[43]白利兵.未决羁押必要性审查问题研究[D].内蒙古大学,法律,2014,硕士.
[44]葛维挺,黄彦钦,郑树.生物样本库主动式管理的探讨与尝试[J].中国肿瘤,2015,04:257-261.
[45]彭永健,张安强,马新,孙培龙.玉竹多糖超声提取工艺优化及其保湿性研究[J].食品科学,2012,14:96-99.
[46]李红玲.QTVI结合负荷试验评价左室收缩功能及存活心肌的研究[D].第四军医大学,影像医学与核医学,2004,硕士.
[47]张学清.碳酸二甲酯绿色合成催化剂的设计、合成及催化性能研究[D].湖北大学,有机化学,2011,硕士.
[48]贾利杰.独斜塔斜拉桥施工组织设计[D].天津大学,建筑与土木工程,2013,硕士.
[49]曹瑞琴.视频资源在职业院校《计算机应用基础》实践教学中的应用研究[D].内蒙古师范大学,现代教育技术（专业学位）,2013,硕士.
[50]李文奇.区域创新平台三维协同模式研究[D].哈尔滨理工大学,管理科学与工程,2012,硕士.