基于时域卷积网络的中文句子级唇语识别算法

打开文本图片集

摘 要：针对现有中文句子级唇语识别技术存在的视觉歧义、特征提取不充分导致识别准确率偏低的问题，提出了一种基于时域卷积网络，采用三维时空卷积的中文句子级唇语识别算法——3DT-CHLipNet（Chinese LipNet based on 3DCNN，TCN）。首先，针对特征提取不充分的问题，所提出算法采用了比长短期记忆网络（LSTM）感受野更大的时域卷积网络（temporal convolutional network，TCN）来提取长时依赖信息；其次，针对中文唇语识别中存在的“同型异义”视觉歧义问题，将自注意力机制应用于中文句子级唇语识别，以更好地捕获上下文信息，提升了句子预测准确率；最后，在数据预处理方面引入了时间掩蔽数据增强策略，进一步降低了算法模型的错误率。（剩余21836字）