-
公开(公告)号：CN117786495A
公开(公告)日：2024-03-29
申请号：CN202311829082.6
申请日：2023-12-27
Applicant: 支付宝(杭州)信息技术有限公司 , 上海交通大学
IPC: G06F18/241 , G06N20/00
Abstract: 本说明书实施例提供了一种针对联邦学习的鲁棒性测试方法和系统，联邦学习通过多方进行，该方法包括：多方中的第一方通过生成式人工智能模型，生成目标样本的预设风格的模拟样本，将其分类标签设置为与其原始标签不同的目标标签；根据模拟样本和目标标签获取本方本地模型的更新参数并发送到服务器；服务器根据多方分别发送的本地模型的更新参数确定全局更新参数，其中，第一方之外的其他方根据各自的本地样本及其原始标签获取各自本地模型的更新参数并发送到服务器，其他方中的第二方的本地样本包括目标样本；服务器将全局更新参数发送到多方，用于多方分别更新各自的本地模型；通过目标样本和模拟样本，测试第二方更新后的本地模型的鲁棒性指标。
-
公开(公告)号：CN117541867A
公开(公告)日：2024-02-09
申请号：CN202311550900.9
申请日：2023-11-20
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06V10/764 , G06V10/774 , G06V10/74 , G06V10/82 , G06N3/0464 , G06N3/09
Abstract: 本说明书实施例提供一种图像识别模型的隐私泄露风险测评方法及装置，在线上图像识别模型不存在分类器及样本标签的情况下，通过增加判别模型的架构，来判断所生成的候选图像是否可以攻击图像识别模型，而导致样本图像对应的预定用户的隐私泄露。之后，通过调整候选图像的生成过程中所涉及的参数，使得候选图像具有更高的概率接近样本图像对应的用户的图像。如此，可以提高对图像识别模型隐私泄露风险测评的有效性。
-
公开(公告)号：CN116758374A
公开(公告)日：2023-09-15
申请号：CN202310772152.2
申请日：2023-06-27
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06V10/774 , G06V10/764 , G06V10/40
Abstract: 本说明书实施例提供了一种图像识别模型的训练方法、图像识别方法及装置，图像识别模型包括第一特征提取网络和分类网络，该训练方法包括：将第一图像样本分别输入第一特征提取网络和第二特征提取网络，分别得到第一图像特征和第二图像特征；其中，第二特征提取网络是预训练好的参考特征提取网络；根据第一图像特征和第二图像特征，确定特征差异；将第一图像特征输入分类网络，得到分类结果，根据分类结果、以及第一图像样本的分类标签，确定分类损失；以分类损失趋向变小、以及特征差异趋向变大为目标，更新图像识别模型。
-
公开(公告)号：CN115618407A
公开(公告)日：2023-01-17
申请号：CN202211217541.0
申请日：2022-09-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书的实施例提供图像脱敏性能评估方法及装置。在进行图像脱敏性能评估时，使用脱敏图像数据确定第一隐私保护评估值；以及使用重构图像数据确定第二隐私保护评估值。随后，将脱敏图像数据和原始图像数据分别提供给图像数据应用模型来确定各自的图像应用处理结果；并且基于脱敏图像数据和原始图像数据各自的图像应用处理结果确定图像应用评估值。然后，根据第一隐私保护评估值、第二隐私保护评估值和图像应用评估值，确定脱敏图像数据的图像脱敏性能的评估值。
-
公开(公告)号：CN115547359A
公开(公告)日：2022-12-30
申请号：CN202211215274.3
申请日：2022-09-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书的实施例提供用于语音意图理解的语音数据处理方法及装置以及语音意图理解方法及系统。在进行语音数据处理时，对语音数据进行语音数据特征提取，以得到第一特征数据。随后，对第一特征数据进行局部频域变换处理，以得到至少一个特征图，每个特征图包括多个元素并且对应第一特征数据中的一个数据块，每个元素对应频域中的一个频率；并且分别使用至少一个特征图中的各个频率所对应的元素，构建各个频率所对应的频率分量通道特征图。然后，从所构建的频率分量通道特征图中筛选出至少一个目标频率分量通道特征图，以得到语音数据的脱敏特征数据，所筛选出的目标频率分量通道特征图是语音意图理解的关键通道特征且是语音信号识别的非关键通道特征。
-
Patent Agency Ranking
公开(公告)号：CN113052323A
公开(公告)日：2021-06-29
申请号：CN202110306735.7
申请日：2021-03-23
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种基于联邦学习的模型训练方法、装置和电子设备。所述方法包括：利用以下步骤进行迭代处理，直至满足迭代结束条件：接收多个参与方上传的第一模型参数信息及其对应的模型性能；以接收的第一模型参数信息为初始种群中的个体，以接收的模型性能为初始种群中个体的适应度，根据适应度，对所述初始种群中的个体进行遗传操作，得到优化种群；其中，所述优化种群中的个体用于表示第二模型参数信息；向多个参与方发送第二模型参数信息。本说明书实施例可以提高模型训练效率。
-
公开(公告)号：CN111931950A
公开(公告)日：2020-11-13
申请号：CN202011044286.5
申请日：2020-09-28
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/20
Abstract: 本说明书一个或多个实施例涉及一种基于联邦学习进行模型参数更新的方法及系统，可用于机器学习过程中的隐私数据保护，所述方法由参与方中的任一训练成员实现；其包括：获取具有与其他参与方相同结构的待训练初始模型；进行多次模型参数迭代更新，每次迭代包括：基于自身持有的训练样本进行模型训练，获得当前次迭代对应的模型数据矩阵；确定当前次迭代对应的传输比例，所述传输比例与迭代次数负相关；基于所述传输比例从所述模型数据矩阵中提取部分参数元素；基于所述部分参数元素生成参数传输矩阵；将所述参数传输矩阵上传给所述服务器；从所述服务器获取更新后的模型参数以基于此进行下一次迭代，或者基于此确定最终模型。
-
公开(公告)号：CN119558425A
公开(公告)日：2025-03-04
申请号：CN202411547313.9
申请日：2024-10-31
Applicant: 支付宝(杭州)信息技术有限公司 , 浙江大学
IPC: G06N20/00 , G06N3/098 , G06N3/084 , G06F21/62 , G06N3/0464
Abstract: 本说明书一个或多个实施例提供一种保护隐私的机器学习模型训练方法及装置。该方法包括：将原始样本输入底部模型得到第一类中间特征；将第一类中间特征输入特征保护网络，以对第一类中间特征进行变换，得到变换特征；将变换特征输入已训练的逆向模型，以通过逆向模型对变换特征进行还原，得到逆向模型输出的逆向样本；基于逆向样本和原始样本计算中间特征变换带来的样本损失，并以增大样本损失为目标更新特征保护网络；将变换特征发送至服务器端，以供服务器端将变换特征输入顶部模型得到原始样本的预测标签；接收服务器端发送的底部梯度，并基于底部梯度更新底部模型，底部梯度由服务器端基于预测标签和原始样本的样本标签计算得到。
-
公开(公告)号：CN119206830A
公开(公告)日：2024-12-27
申请号：CN202411328868.4
申请日：2024-09-23
Applicant: 中国信息通信研究院 , 支付宝(杭州)信息技术有限公司
IPC: G06V40/16 , G06V10/44 , G06V10/82 , G06N3/0455 , G06N3/0464
Abstract: 本说明书一个或多个实施例提供一种生物特征提取方法及装置。其中，该方法可以包括：对用户的生物图像进行特征提取，得到用于表征所述用户的生物特征的浮点数特征向量；对所述浮点数特征向量中的元素进行数值调整，以使取值趋近于第一数值的元素的取值更趋近于所述第一数值、取值趋近于第二数值的元素的取值更趋近于所述第二数值；基于所述第一数值和所述第二数值对数值调整后的浮点数特征向量进行二值量化，得到与所述生物图像对应的二值化特征向量。
-
公开(公告)号：CN113793396B
公开(公告)日：2024-12-13
申请号：CN202111095432.1
申请日：2021-09-17
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06T9/00 , G06N3/0464 , G06N3/0455 , G06N3/045 , G06N3/0475 , G06N3/094 , G06F21/62
Abstract: 本说明书实施例公开了一种基于生成对抗网络训练图像重构模型的方法。其中，生成对抗网络包括生成器和判别器。所述方法包括：获得多个第一数据对，每个第一数据对包括原始图像和与其对应的脱敏数据，脱敏数据为对原始图像进行图像脱敏的结果；基于多个第一数据对交替训练所述生成器以及所述判别器，并将训练后的生成器作为图像重构模型。
-
-
-
-
-
-
-
-
-
Search Results
45
records
(took 0.077 seconds)
