公开(公告)号：CN111275106A

公开(公告)日：2020-06-12

申请号：CN202010062753.0

申请日：2020-01-19

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 皇甫志刚 ,  任彦昆 ,  林建滨 ,  梁琛

IPC: G06K9/62 ,  G06N20/00

Abstract: 本说明书实施例提供一种对抗样本生成方法、装置及计算机设备。确定图数据样本中目标节点的关联元素，然后根据关联元素对图数据样本进行修改，将修改后的图数据样本输入到目标模型，根据目标模型输出的结果确定表征每个关联元素对于目标模型的干扰大小的干扰参数，然后选取干扰较大的目标元素对图数据进行修改，得到对抗样本。通过模型的前向计算将关联元素的扰动结果准确量化，避免了基于梯度信息计算扰动结果中的连续松弛问题及计算的扰动结果不准确的问题，通过贪心选取的策略为图结数据加入最少的扰动，以生成对抗样本。

公开(公告)号：CN111275106B

公开(公告)日：2022-07-01

申请号：CN202010062753.0

申请日：2020-01-19

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 皇甫志刚 ,  任彦昆 ,  林建滨 ,  梁琛

IPC: G06K9/62 ,  G06V10/764 ,  G06N20/00

Abstract: 本说明书实施例提供一种对抗样本生成方法、装置及计算机设备。确定图数据样本中目标节点的关联元素，然后根据关联元素对图数据样本进行修改，将修改后的图数据样本输入到目标模型，根据目标模型输出的结果确定表征每个关联元素对于目标模型的干扰大小的干扰参数，然后选取干扰较大的目标元素对图数据进行修改，得到对抗样本。通过模型的前向计算将关联元素的扰动结果准确量化，避免了基于梯度信息计算扰动结果中的连续松弛问题及计算的扰动结果不准确的问题，通过贪心选取的策略为图结数据加入最少的扰动，以生成对抗样本。

公开(公告)号：CN111309975A

公开(公告)日：2020-06-19

申请号：CN202010105695.5

申请日：2020-02-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 皇甫志刚 ,  林建滨 ,  任彦昆 ,  梁琛

IPC: G06F16/901 ,  G06K9/62

Abstract: 本申请实施例公开了一种增强图模型抗攻击能力的方法和系统。所述方法包括：获取目标图数据，其包括第一点集V1以及边集E；任意生成n条边的扰动边集ΔE，其中，n条边的节点构成第二点集V2；从第二点集V2中任意选择一个修正点；从第一点集V1中任意选择若干个点构成修正点的候选目标点集V3；从候选目标点集V3中选择一个目标点，并利用选择的目标点替换修正点，以更新扰动边集ΔE得到扰动边集ΔE′；基于扰动边集ΔE′调整边集E得到调整后的目标图数据；重复从第二点集V2中选择修正点并迭代调整边集E，得到对抗图数据；基于该对抗图数据，调整图模型。其中，目标图数据可以包括个人信息，图模型可以为机器学习模型。

公开(公告)号：CN110889493A

公开(公告)日：2020-03-17

申请号：CN201911174381.4

申请日：2019-11-26

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 皇甫志刚 ,  林建滨 ,  任彦昆 ,  梁琛

IPC: G06N3/04 ,  G06N3/08

Abstract: 本说明书实施例提供一种针对关系网络添加扰动的方法和装置，在针对关系网络添加扰动时，仅考虑候选边所涉及的特征发生变化的节点，利用局部贪心算法，大大减少了计算量，提高针对关系网络添加扰动的效率。经过多次的迭代，可以以最少的代价，确定对关系网络的最大扰动，从而提高增加扰动的有效性。进一步地，利用添加扰动的关系网络，还可以生成对抗样本，增加关系网络的安全性和有效性。