-
公开(公告)号：CN113591486A
公开(公告)日：2021-11-02
申请号：CN202110865041.7
申请日：2021-07-29
Applicant: 浙江大学
Abstract: 本发明公开了一种联邦学习中基于语义数据损失的遗忘验证方法，该方法利用在某些高损失，普遍犯错且带有某种语义特征的数据上的特定表现来标记遗忘用户和验证遗忘情况，通过将本地数据集中高损失且普遍分类错误的数据筛选出来，根据其语义特征的相似性和置信度分布将这些数据重新标记为某个固定类别，得到标记数据集，并将本地模型在该数据集和原数据集上微调后的标记模型上传给中心服务器聚合。遗忘用户通过检查接下来若干个周期的全局模型，根据全局模型在标记数据集上的损失来验证遗忘情况。本发明方法具有轻量级，持续性强，验证效果好，时间和空间开销少等优点，可以有效鉴别遗忘与否，能够广泛应用和部署在各种需要进行遗忘验证的场景中。
-
公开(公告)号：CN114254274B
公开(公告)日：2024-05-31
申请号：CN202111356806.0
申请日：2021-11-16
Applicant: 浙江大学
Abstract: 本发明公开了一种基于神经元输出的白盒深度学习模型版权保护方法，包括：设计深度学习模型内部差异度衡量指标，实现高效的种子选取策略以及指纹集生成算法，并在此基础对可疑模型进行差异度测量，最后对可疑模型是否发生侵权行为进行判断。本方法基于模型内部神经元输出，能够自动地为原模型生成指纹集合，并在多种模型窃取场景下有效；且不受数据领域以及模型结构的限制，具备良好的鲁棒性、通用性和可拓展性。相比于传统的模型水印嵌入方法，本方法无需介入深度学习模型的训练过程，避免了繁琐耗时的参数调整过程以及嵌入水印造成的精确度损失，使得对深度学习模型的版权验证及保护变得简单高效。
-
公开(公告)号：CN113591974A
公开(公告)日：2021-11-02
申请号：CN202110865047.4
申请日：2021-07-29
Applicant: 浙江大学
IPC: G06K9/62
Abstract: 本发明公开了一种联邦学习中基于易遗忘数据子集的遗忘验证方法，该方法利用在某些损失变化幅度较大、频率较高的摇摆数据上的特定表现来标记遗忘用户和检查遗忘情况。作为遗忘验证数据集，这些数据是通过观察全局模型在联邦学习的过程中在遗忘用户的本地数据上的损失变化筛选出来的。待遗忘用户在本地数据集上微调全局模型，形成标记后的模型，上传给中心服务器聚合。遗忘用户通过检查接下来若干个周期的全局模型，根据全局模型在遗忘验证数据集上的损失方差来衡量遗忘情况。本发明提出的这种遗忘验证方法具有轻量级，持续性强，验证效果好，时间和空间开销少等优点，可以有效鉴别遗忘与否，能够广泛应用和部署在各种需要进行遗忘验证的场景中。
-
公开(公告)号：CN114254275B
公开(公告)日：2024-05-28
申请号：CN202111358058.X
申请日：2021-11-16
Applicant: 浙江大学
IPC: G06F21/16
Abstract: 本发明公开了一种基于对抗样本指纹的黑盒深度学习模型版权保护方法，包括：设计深度学习模型差异度衡量指标，实现高效的种子选取策略及对抗样本指纹生成方法，并在此基础上对可疑模型进行相似度测量(仅需模型最后一层的输出，无需白盒权限)，最后对可疑模型是否发生侵权行为进行判断。本方法基于深度学习模型的公共属性(鲁棒性)，能够自动地为原模型生成指纹集，并在多种模型窃取场景下有效；不受数据领域及模型结构的限制，具备良好的通用性和可拓展性。相比于传统的模型水印嵌入法，本方法无需介入深度学习模型的训练过程，避免了繁琐耗时的参数调整过程以及嵌入水印造成的精确度损失，使得对深度学习模型的版权验证及保护变得简单高效。
-
Patent Agency Ranking
公开(公告)号：CN114254274A
公开(公告)日：2022-03-29
申请号：CN202111356806.0
申请日：2021-11-16
Applicant: 浙江大学
Abstract: 本发明公开了一种基于神经元输出的白盒深度学习模型版权保护方法，包括：设计深度学习模型内部差异度衡量指标，实现高效的种子选取策略以及指纹集生成算法，并在此基础对可疑模型进行差异度测量，最后对可疑模型是否发生侵权行为进行判断。本方法基于模型内部神经元输出，能够自动地为原模型生成指纹集合，并在多种模型窃取场景下有效；且不受数据领域以及模型结构的限制，具备良好的鲁棒性、通用性和可拓展性。相比于传统的模型水印嵌入方法，本方法无需介入深度学习模型的训练过程，避免了繁琐耗时的参数调整过程以及嵌入水印造成的精确度损失，使得对深度学习模型的版权验证及保护变得简单高效。
-
公开(公告)号：CN113887743A
公开(公告)日：2022-01-04
申请号：CN202111167895.4
申请日：2021-09-29
Applicant: 浙江大学
IPC: G06N20/20
Abstract: 本发明公开了一种联邦学习中数据遗忘与验证的平台，该平台包括联邦遗忘模块、联邦遗忘标记模块、遗忘检查模块以及用于连接三个模块的实际可部署的协议；联邦遗忘标记模块实现基于本地数据子集的遗忘用户的标记；遗忘检查模块定义一个适合评估遗忘情况的指标‑遗忘程度，将遗忘情况数值化，较低的遗忘程度代表了较好的遗忘效果；协议规定了遗忘、标记与检查的时间节点，遗忘、标记与检查的执行者，遗忘、标记与检查的流程，以便于中心服务器执行遗忘和遗忘用户检查是否被遗忘。本发明提出的平台有助于以统一、整体和全面的方式评估联邦学习中的遗忘、标记与检查，能够提供深入的联邦遗忘与验证的分析，并揭示现有遗忘和验证方法的潜力和局限性。
-
公开(公告)号：CN113591486B
公开(公告)日：2022-08-23
申请号：CN202110865041.7
申请日：2021-07-29
Applicant: 浙江大学
Abstract: 本发明公开了一种联邦学习中基于语义数据损失的遗忘验证方法，该方法利用在某些高损失，普遍犯错且带有某种语义特征的数据上的特定表现来标记遗忘用户和验证遗忘情况，通过将本地数据集中高损失且普遍分类错误的数据筛选出来，根据其语义特征的相似性和置信度分布将这些数据重新标记为某个固定类别，得到标记数据集，并将本地模型在该数据集和原数据集上微调后的标记模型上传给中心服务器聚合。遗忘用户通过检查接下来若干个周期的全局模型，根据全局模型在标记数据集上的损失来验证遗忘情况。本发明方法具有轻量级，持续性强，验证效果好，时间和空间开销少等优点，可以有效鉴别遗忘与否，能够广泛应用和部署在各种需要进行遗忘验证的场景中。
-
公开(公告)号：CN113887743B
公开(公告)日：2022-07-22
申请号：CN202111167895.4
申请日：2021-09-29
Applicant: 浙江大学
IPC: G06N20/20
Abstract: 本发明公开了一种联邦学习中数据遗忘与验证的平台，该平台包括联邦遗忘模块、联邦遗忘标记模块、遗忘检查模块以及用于连接三个模块的实际可部署的协议；联邦遗忘标记模块实现基于本地数据子集的遗忘用户的标记；遗忘检查模块定义一个适合评估遗忘情况的指标‑遗忘程度，将遗忘情况数值化，较低的遗忘程度代表了较好的遗忘效果；协议规定了遗忘、标记与检查的时间节点，遗忘、标记与检查的执行者，遗忘、标记与检查的流程，以便于中心服务器执行遗忘和遗忘用户检查是否被遗忘。本发明提出的平台有助于以统一、整体和全面的方式评估联邦学习中的遗忘、标记与检查，能够提供深入的联邦遗忘与验证的分析，并揭示现有遗忘和验证方法的潜力和局限性。
-
公开(公告)号：CN114254275A
公开(公告)日：2022-03-29
申请号：CN202111358058.X
申请日：2021-11-16
Applicant: 浙江大学
IPC: G06F21/16
Abstract: 本发明公开了一种基于对抗样本指纹的黑盒深度学习模型版权保护方法，包括：设计深度学习模型差异度衡量指标，实现高效的种子选取策略及对抗样本指纹生成方法，并在此基础上对可疑模型进行相似度测量(仅需模型最后一层的输出，无需白盒权限)，最后对可疑模型是否发生侵权行为进行判断。本方法基于深度学习模型的公共属性(鲁棒性)，能够自动地为原模型生成指纹集，并在多种模型窃取场景下有效；不受数据领域及模型结构的限制，具备良好的通用性和可拓展性。相比于传统的模型水印嵌入法，本方法无需介入深度学习模型的训练过程，避免了繁琐耗时的参数调整过程以及嵌入水印造成的精确度损失，使得对深度学习模型的版权验证及保护变得简单高效。
-
-
-
-
-
-
-
-
Search Results
9
records
(took 0.014 seconds)
