-
公开(公告)号：CN111340241B
公开(公告)日：2020-11-20
申请号：CN202010409779.8
申请日：2020-05-15
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 林建滨
IPC: G06N20/00
Abstract: 本说明书实施例公开了一种数据处理方法，该方法包括：获取待处理数据，所述待处理数据可以以以下中的一种形式表示：向量、数组或矩阵。可以对所述待处理数据中的元素进行调整，确定所述元素的调整值。可以基于所述调整值更新所述待处理数据。将更新完毕后的待处理数据输入至机器学习模型，获取处理结果。该方法通过对待处理数据中的元素进行调整，可以破坏样本中所包含的后门的后门值，进而实现对后门攻击的有效防御。
-
公开(公告)号：CN111275106A
公开(公告)日：2020-06-12
申请号：CN202010062753.0
申请日：2020-01-19
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种对抗样本生成方法、装置及计算机设备。确定图数据样本中目标节点的关联元素，然后根据关联元素对图数据样本进行修改，将修改后的图数据样本输入到目标模型，根据目标模型输出的结果确定表征每个关联元素对于目标模型的干扰大小的干扰参数，然后选取干扰较大的目标元素对图数据进行修改，得到对抗样本。通过模型的前向计算将关联元素的扰动结果准确量化，避免了基于梯度信息计算扰动结果中的连续松弛问题及计算的扰动结果不准确的问题，通过贪心选取的策略为图结数据加入最少的扰动，以生成对抗样本。
-
公开(公告)号：CN111242291A
公开(公告)日：2020-06-05
申请号：CN202010334293.2
申请日：2020-04-24
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 林建滨
Abstract: 本说明书实施例提出了一种神经网络后门攻击的检测方法、装置和电子设备，其中，上述神经网络后门攻击的检测方法中，在获取训练数据之后，利用上述训练数据对神经网络进行训练，获得训练好的神经网络模型，然后获取上述训练数据中第一标签类别对应的训练数据，将第一标签类别对应的训练数据输入到训练好的神经网络模型中，获得上述神经网络模型的隐层数据；然后，将上述隐层数据进行聚类，根据聚类结果对神经网络后门攻击进行检测。
-
公开(公告)号：CN112418444A
公开(公告)日：2021-02-26
申请号：CN202011480599.5
申请日：2020-05-27
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 林建滨
IPC: G06N20/00
Abstract: 本说明书的实施例提供一种联盟学习方法。联盟包括至少两个第一成员节点以及第二成员节点，每个第一成员节点具有本地数据，第二成员节点维护全局模型。在该方法中，各个第一成员节点从第二成员节点获取当前全局模型；使用本地数据训练当前全局模型，并且按照模型分解策略来将训练好的当前全局模型分解为多个分解模型并发送给第二成员节点，所述多个分解模型的模型参数的数据总量小于当前全局模型的模型参数的数据量。第二成员节点使用各个第一成员节点的分解模型的模型参数数据来按照与模型分解策略对应的模型重构策略进行模型重构，并且使用重构后的各个第一成员节点处的当前全局模型来进行模型整合，得到当前目标全局模型。
-
公开(公告)号：CN111340144B
公开(公告)日：2020-08-11
申请号：CN202010413977.1
申请日：2020-05-15
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 林建滨
Abstract: 本说明书实施例提供了一种风险样本检测方法、装置、电子设备及存储介质，通过先基于目标样本数据集，分别训练目标分类模型以及参考分类模型，目标分类模型属于深度学习模型，参考分类模型属于除深度学习模型以外的机器学习模型，然后通过比较目标分类模型以及参考分类模型在目标样本数据集上的分类指标值，识别目标样本数据集中的风险样本。
-
Patent Agency Ranking
公开(公告)号：CN111368984A
公开(公告)日：2020-07-03
申请号：CN202010463531.X
申请日：2020-05-27
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 林建滨
Abstract: 本说明书的实施例提供一种联盟学习方法。联盟包括至少两个第一成员节点以及第二成员节点，每个第一成员节点具有本地数据，第二成员节点维护全局模型。在该方法中，各个第一成员节点从第二成员节点获取当前全局模型；使用本地数据训练当前全局模型，并且按照模型分解策略来将训练好的当前全局模型分解为多个分解模型并发送给第二成员节点，所述多个分解模型的模型参数的数据总量小于当前全局模型的模型参数的数据量。第二成员节点使用各个第一成员节点的分解模型的模型参数数据来按照与模型分解策略对应的模型重构策略进行模型重构，并且使用重构后的各个第一成员节点处的当前全局模型来进行模型整合，得到当前目标全局模型。
-
公开(公告)号：CN111340144A
公开(公告)日：2020-06-26
申请号：CN202010413977.1
申请日：2020-05-15
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 林建滨
Abstract: 本说明书实施例提供了一种风险样本检测方法、装置、电子设备及存储介质，通过先基于目标样本数据集，分别训练目标分类模型以及参考分类模型，目标分类模型属于深度学习模型，参考分类模型属于除深度学习模型以外的机器学习模型，然后通过比较目标分类模型以及参考分类模型在目标样本数据集上的分类指标值，识别目标样本数据集中的风险样本。
-
公开(公告)号：CN118312687A
公开(公告)日：2024-07-09
申请号：CN202410436737.1
申请日：2024-04-11
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/957 , G06F9/451 , G06F18/24
Abstract: 本说明书的实施例提供了一种应用程序的页面刷新方法和装置。在该应用程序的页面刷新方法中，判断是否检测到用户针对目标应用程序的预定操作；若判断为是，获取该用户针对目标应用程序的实时行为特征以及用于指示该目标应用程序所在终端的当前设备信息的当前设备特征；再利用端刷新决策模型根据所获取的实时行为特征和当前设备特征来得到针对该目标应用程序的刷新决策；以及根据该刷新决策所指示的是否对页面进行刷新来对该目标应用程序的页面执行或不执行页面刷新操作。
-
公开(公告)号：CN111275106B
公开(公告)日：2022-07-01
申请号：CN202010062753.0
申请日：2020-01-19
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06K9/62 , G06V10/764 , G06N20/00
Abstract: 本说明书实施例提供一种对抗样本生成方法、装置及计算机设备。确定图数据样本中目标节点的关联元素，然后根据关联元素对图数据样本进行修改，将修改后的图数据样本输入到目标模型，根据目标模型输出的结果确定表征每个关联元素对于目标模型的干扰大小的干扰参数，然后选取干扰较大的目标元素对图数据进行修改，得到对抗样本。通过模型的前向计算将关联元素的扰动结果准确量化，避免了基于梯度信息计算扰动结果中的连续松弛问题及计算的扰动结果不准确的问题，通过贪心选取的策略为图结数据加入最少的扰动，以生成对抗样本。
-
公开(公告)号：CN111309975A
公开(公告)日：2020-06-19
申请号：CN202010105695.5
申请日：2020-02-20
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/901 , G06K9/62
Abstract: 本申请实施例公开了一种增强图模型抗攻击能力的方法和系统。所述方法包括：获取目标图数据，其包括第一点集V1以及边集E；任意生成n条边的扰动边集ΔE，其中，n条边的节点构成第二点集V2；从第二点集V2中任意选择一个修正点；从第一点集V1中任意选择若干个点构成修正点的候选目标点集V3；从候选目标点集V3中选择一个目标点，并利用选择的目标点替换修正点，以更新扰动边集ΔE得到扰动边集ΔE′；基于扰动边集ΔE′调整边集E得到调整后的目标图数据；重复从第二点集V2中选择修正点并迭代调整边集E，得到对抗图数据；基于该对抗图数据，调整图模型。其中，目标图数据可以包括个人信息，图模型可以为机器学习模型。
-
-
-
-
-
-
-
-
-
Search Results
21
records
(took 0.041 seconds)
