针对低频词进行改进的中文短文本分类方法

打开文本图片集

摘 要：  中文短文本分类中存在大量低频词，利用好低频词中的信息能有效提高文本分类效果，针对基于词向量的文本分类研究中低频词不能被有效利用的问题，提出一种针对低频词进行数据增强的方法。首先，利用受限文本生成模型产生的数据来微调低频词的词向量，再利用一种词向量的构造算法将高频词的更新信息迁移到低频词中，使低频词获取更准确且符合训练集分布的词向量表示；其次，引入相似词和实体概念等先验知识来补充上下文信息；最后，利用改进的卡方统计去除明显的噪声词，以及设计词注意力层对每个词进行加权，减少无关噪声对分类的影响。（剩余21327字）