基于多模态推理图神经网络的场景文本视觉问答模型

打开文本图片集

摘 要： 文本阅读能力差和视觉推理能力不足是现有视觉问答（visual question answering，VQA）模型效果不好的主要原因，针对以上问题，设计了一个基于图神经网络的多模态推理（multi-modal reasoning graph neural network，MRGNN）模型。利用图像中多种形式的信息帮助理解场景文本内容，将场景文本图片分别预处理成视觉对象图和文本图的形式，并且在问题自注意力模块下过滤多余的信息；使用加入注意力的聚合器完善子图之间相互的节点特征，从而融合不同模态之间的信息，更新后的节点利用不同模态的上下文信息为答疑模块提供了更好的功能。（剩余14094字）