基于RoBERTa的评论与评分推荐系统模型研究

  • 打印
  • 收藏
收藏成功


打开文本图片集

[摘 要] 原始推荐系统的词嵌入部分训练成本高昂且难以泛化,提出一种基于预训练模型RoBERTa的评论与评分推荐模型PANN,利用RoBERTa作为预训练模型,使用动态掩码策略和字节级词汇表进行训练,解决了单词的一词多义问题。该模型可以从输入序列中提取特征,具有很高的泛化性能。同时,PANN模型拥有用户和项目两个网络,这两个网络结构相同但分别训练参数和提取特征。(剩余14536字)

monitor