公开(公告)号：CN117874334A

公开(公告)日：2024-04-12

申请号：CN202311767601.0

申请日：2023-12-21

Applicant: 北京大学

Inventor： 吕肖庆 ,  林鸿翔 ,  周屹霄 ,  吴敏翀

IPC: G06F16/9535 ,  G06F16/36 ,  G06F40/295 ,  G06F18/213 ,  G06F18/214 ,  G06F18/22 ,  G06F18/25 ,  G06N3/042 ,  G06N3/045 ,  G06N3/08

Abstract: 本发明公布了一种基于多级用户兴趣的个性化新闻推荐模型方法，包括：对用户与新闻基本信息进行提取与编码，得到用户历史点击新闻的特征表示和候选新闻的特征表示；新闻级别建模，对长期与潜在用户兴趣进行挖掘和编码；设计实体级别建模模块，对细粒度用户兴趣进行提取与编码；将两个级别的兴趣融合成一个兴趣向量，并通过跟用户的候选新闻进行匹配，根据训练数据样本训练即可得到个性化新闻推荐模型。本发明方法能更为准确地提取用户的长期的和细粒度的兴趣，从而有效地提升个性化新闻推荐的准确率。

公开(公告)号：CN116663603A

公开(公告)日：2023-08-29

申请号：CN202310558961.3

申请日：2023-05-17

Applicant: 北京大学

Inventor： 吕肖庆 ,  林鸿翔 ,  贾瑞琪 ,  赵堉萌

IPC: G06N3/042 ,  G06N3/045 ,  G06N3/0442 ,  G06N3/096

Abstract: 本发明属于深度学习技术领域，具体公开一种基于参数分离和知识蒸馏的图持续学习方法，该方法的输入是一张原图，由节点和边构成，Trans‑CGL首先为图中每个节点构造一个子图，然后通过Graph transformer并行地提取节点特征，此时应用参数分离和知识蒸馏来防止旧任务的特征遗忘，在经过L层Graph transformer之后，最终输出结果。Trans‑CGL由四个主要部分组成：构造子图(Construct subgraph)、参数分离(Parameter isolation)、知识蒸馏(Knowledge distillation)和模型输出(Output)。本发明主要是解决基于参数分离和知识蒸馏的图持续学习(CGL)存在的拓扑引起的灾难性遗忘问题，主要就是节点特征遗忘和拓扑特征遗忘。