公开(公告)号：CN111046379A

公开(公告)日：2020-04-21

申请号：CN201911242921.8

申请日：2019-12-06

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 宗志远

IPC: G06F21/55 ,  G06K9/62

Abstract: 说明书披露一种对抗攻击的监测方法和装置。所述方法包括：获取目标模型的对抗样本空间；采集调用所述目标模型的输入数据；判断所述输入数据是否落入所述对抗样本空间；根据判断结果计算监测周期内落入到所述对抗样本空间的输入数据的监测参数，当所述监测参数满足预设的攻击条件时，确定监测到面向所述目标模型的对抗攻击。上述方案可有效监测对抗攻击，有效降低隐私泄露、资金损失等安全风险，保证数据安全。

公开(公告)号：CN111027632A

公开(公告)日：2020-04-17

申请号：CN201911286367.3

申请日：2019-12-13

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 宗志远

IPC: G06K9/62 ,  H04L9/08

Abstract: 公开了一种模型训练方法、装置及设备。通过首先在不可信环境中进行模型的预训练，然后在可信执行环境TEE中，对加密后的私有数据执行解密并作为训练样本，不改变预训练模型的模型结构，仅对其进行小规模数据的调参，从而得到在TEE中可用的目标模型。

公开(公告)号：CN110889117A

公开(公告)日：2020-03-17

申请号：CN201911193975.X

申请日：2019-11-28

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 翁海琴 ,  薛峰 ,  宗志远

IPC: G06F21/56 ,  G06F21/62

Abstract: 本说明书提供一种模型攻击的防御方法及装置。所述方法包括：当集成模型被调用时，获取所述集成模型中各个子模型输出的子预测结果；判断所述调用是否符合攻击调用；若所述调用符合攻击调用，则采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出。上述方案可有效防御成员推测攻击、对抗样本攻击等模型攻击，避免用户隐私泄露，保护用户个人数据的安全。