公开(公告)号：CN113609394B

公开(公告)日：2023-09-05

申请号：CN202110909752.X

申请日：2021-08-09

Applicant: 上海交通大学

Inventor： 夏子超 ,  潘鑫龙 ,  王屿轩 ,  饶茜霖 ,  王士林 ,  孟魁

IPC: G06F16/9535 ,  G06F16/9536 ,  G06F16/951 ,  G06N3/044 ,  G06N3/084 ,  G06N3/09 ,  G06N3/094 ,  G06N3/096 ,  G06F18/214

Abstract: 本发明提供了一种面向信息流的安全推荐系统，包括安全推荐模型，所述安全推荐模型包括对抗子系统、召回子系统、精排序子系统以及深度恶意检测器；所述对抗子系统模拟攻击、测试模型的防御效果；所述召回子系统基于流行度特征区分正常用户和恶意用户，生成推荐项目；所述精排序子系统通过对抗训练提高鲁棒性，推荐得分高的推荐项目；所述深度恶意检测器通过提取数据高位特征，识别恶意样本。本发明提高了对于信息流推荐系统中恶意用户样本的检测能力，减小了模型受到投毒攻击的可能；设计了高鲁棒性的精推荐模型，保证模型的公平无偏性，保护了推荐系统不会被攻击者利用。

公开(公告)号：CN113609394A

公开(公告)日：2021-11-05

申请号：CN202110909752.X

申请日：2021-08-09

Applicant: 上海交通大学

Inventor： 夏子超 ,  潘鑫龙 ,  王屿轩 ,  饶茜霖 ,  王士林 ,  孟魁

IPC: G06F16/9535 ,  G06F16/9536 ,  G06F16/951 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提供了一种面向信息流的安全推荐系统，包括安全推荐模型，所述安全推荐模型包括对抗子系统、召回子系统、精排序子系统以及深度恶意检测器；所述对抗子系统模拟攻击、测试模型的防御效果；所述召回子系统基于流行度特征区分正常用户和恶意用户，生成推荐项目；所述精排序子系统通过对抗训练提高鲁棒性，推荐得分高的推荐项目；所述深度恶意检测器通过提取数据高位特征，识别恶意样本。本发明提高了对于信息流推荐系统中恶意用户样本的检测能力，减小了模型受到投毒攻击的可能；设计了高鲁棒性的精推荐模型，保证模型的公平无偏性，保护了推荐系统不会被攻击者利用。