公开(公告)号：CN113919488A

公开(公告)日：2022-01-11

申请号：CN202111462627.5

申请日：2021-12-03

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 范洺源 ,  陈岑 ,  王力

IPC: G06N3/04 ,  G06N3/08

Abstract: 本说明书提供了对抗样本的生成方法、装置和服务器。具体实施前，可以先通过拆分并组合与目标模型相匹配的初始模型，得到包含有长度不同的多个初始的子网络模型的初始的多轨道模型；再通过训练该初始的多轨道模型，得到包含有长度不同的多个子网络模型的目标多轨道模型；进一步可以从该目标多轨道模型中确定出融合了处理低层特征的模型块，同时又降低了处理高层特征的模型块的影响的，用于对目标模型进行对抗攻击测试的目标模型结构。进而具体实施时，可以通过利用该目标多轨道模型中的目标模型结构，生成得到迁移性较好的对抗样本，以便后续能利用上述对抗样本地对目标模型进行较为有效的安全性测试。

公开(公告)号：CN113792289A

公开(公告)日：2021-12-14

申请号：CN202111354846.1

申请日：2021-11-16

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 范洺源 ,  陈岑 ,  王力

IPC: G06F21/55 ,  G06N20/00 ,  G06N3/08

Abstract: 本说明书实施例提供了一种后门攻击的防御方法和系统，方法包括：获取触发器以及目标标签；基于触发器及目标标签对后门模型进行遗忘训练，以获得能够防御后门攻击的目标模型。可以实现有效地防御攻击者对于模型的后门攻击。