计算机研究与发展

作者：梁吉业,乔洁,曹付元,刘晓琳,

关键词：分布式表示, 短文本, 文本分析, 句向量, 词对主题模型,

短文本的分布式表示已经成为文本数据挖掘的一项重要任务.然而，直接应用分布式表示模型ParagraphVector尚有不足，其根本原因是其在训练过程中并没有利用到语料库级别的信息，从而不能有效改善短文本中语境信息不足的情况.鉴于此，提出了一种面向短文本分析的分布式表示模型——词对主题句向量模型(bitermtopicparagraphvector,BTPV)，该模型通过将词对主题模型(bitermtopicmodel,BTM)得出的主题信息融入ParagraphVector中，不仅使得模型训练过程中利用到了全局语料库的信息，而且还利用BTM显性的主题表示完善了ParagraphVector隐性的空间向量.实验采用爬取到的热门新闻评论作为数据集，并选用K-Means聚类算法对各模型的短文本表示效果进行比较.实验结果表明，基于BTPV模型的分布式表示较常见的分布式向量化模型word2vec和ParagraphVector来说能取得更好的短文本聚类效果，从而显现出该模型面向短文本分析的优势.

来源：2018年第8期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2018年第8期