基于XLNet—BiLSTM—AFF—CRF的谷物收割机械维修知识命名实体识别

打开文本图片集

摘要：针对谷物收割机械维修实体识别过程中存在上下文语义特征缺失、长距离依赖信息不充足、实体复杂度较高等问题，提出一种引入注意力机制特征融合的谷物收割机械维修知识命名实体识别模型XLNet—BiLSTM—AFF—CRF。该模型采用基于Transformer—XL的广义自回归XLNet预训练模型作为嵌入层提取字向量；然后使用双向长短时记忆网络（BiLSTM）获取上下文语义特征；利用注意力特征融合AFF将XLNet层输出与BiLSTM层输出进行组合，增强序列的语义信息；最后输入条件随机场CRF模型学习标注约束规则生成全局最优序列。（剩余13978字）