公开(公告)号：CN118521455B

公开(公告)日：2024-10-01

申请号：CN202410991359.3

申请日：2024-07-23

Applicant: 南京信息工程大学

Inventor： 何俊杰 ,  陈先意 ,  糜慧 ,  汪学波

IPC: G06T1/00 ,  G06T9/00 ,  G06F21/16 ,  G06N3/0455 ,  G06N3/098

Abstract: 本发明公开了多触发模式的可溯源联邦学习模型保护方法、系统及设备，涉及隐私保护技术领域。本发明包括：构建编码器及解码器，利用图像重构损失和信息重构损失对编码器及解码器进行预训练；服务端根据客户端数量，使用预训练的编码器为每个客户端生成唯一对应的触发器集合，在每一轮训练轮次过程中，服务器在分发模型之前使用客户端对应的触发集集合对聚合的全局模型进行水印嵌入。本发明能够对联邦学习模型的知识产权进行保护，能精确追踪到泄露全局模型的客户端，并合理利用注入的水印对破坏模型收敛的恶意客户端进行检测，通过结合独特的客户端信息生成对应的不同触发模式的触发集，有效避免水印进行注入时出现的水印冲突情况。

公开(公告)号：CN114862650A

公开(公告)日：2022-08-05

申请号：CN202210757151.6

申请日：2022-06-30

Applicant: 南京信息工程大学 ,  南京启圣羽图信息科技有限公司

Inventor： 刘宇 ,  陈先意 ,  张广星 ,  孟宇航 ,  糜慧 ,  颜凯

IPC: G06T1/00 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种神经网络水印嵌入方法以及验证方法，获取待嵌入水印的神经网络的原始模型以及图像训练集；设置原始模型的任意一层作为水印层lwm，在水印层lwm添加与该水印层的原始子层l结构相同的添加子层l＇，得到添加新结构的神经网络模型；利用图像训练集以及预先设置的前向传播约束条件对添加新结构的神经网络模型进行训练，得到嵌入水印的神经网络模型。优点：本发明不以权重作为载体，能够有效抵御微调、剪枝等常见的攻击，并且能够控制特征向量之间的关系，使得模型精度在嵌入水印后会因为伪造水印而大幅度下降，使模型失效，在验证模型所有权的同时也能够保护模型不被盗用。

公开(公告)号：CN118521455A

公开(公告)日：2024-08-20

申请号：CN202410991359.3

申请日：2024-07-23

Applicant: 南京信息工程大学

Inventor： 何俊杰 ,  陈先意 ,  糜慧 ,  汪学波

IPC: G06T1/00 ,  G06T9/00 ,  G06F21/16 ,  G06N3/0455 ,  G06N3/098

Abstract: 本发明公开了多触发模式的可溯源联邦学习模型保护方法、系统及设备，涉及隐私保护技术领域。本发明包括：构建编码器及解码器，利用图像重构损失和信息重构损失对编码器及解码器进行预训练；服务端根据客户端数量，使用预训练的编码器为每个客户端生成唯一对应的触发器集合，在每一轮训练轮次过程中，服务器在分发模型之前使用客户端对应的触发集集合对聚合的全局模型进行水印嵌入。本发明能够对联邦学习模型的知识产权进行保护，能精确追踪到泄露全局模型的客户端，并合理利用注入的水印对破坏模型收敛的恶意客户端进行检测，通过结合独特的客户端信息生成对应的不同触发模式的触发集，有效避免水印进行注入时出现的水印冲突情况。

公开(公告)号：CN116881872A

公开(公告)日：2023-10-13

申请号：CN202311144210.3

申请日：2023-09-06

Applicant: 南京信息工程大学

Inventor： 陈先意 ,  糜慧 ,  刘宇 ,  何俊杰 ,  丁思哲 ,  闫雷鸣

IPC: G06F21/16 ,  G06F21/60 ,  G06N20/20 ,  G06N3/0464 ,  G06N3/098

Abstract: 本发明公开了一种面向联邦学习的鲁棒可溯源版权保护方法及系统，属于人工智能安全领域。通过中心服务器对神经网络模型进行修改，并为各个客户端生成不同的二进制水印；中心服务器将不同的水印分别嵌入到经过修改的模型中，得到若干嵌入水印的模型；中心服务器将各个嵌入水印的模型分发给对应客户端进行训练。本发明通过中心服务器向待分发的模型中嵌入独特的结构水印信息，使得水印在训练中与模型紧密关联，从而提高了水印的鲁棒性。

公开(公告)号：CN114862650B

公开(公告)日：2022-09-23

申请号：CN202210757151.6

申请日：2022-06-30

Applicant: 南京信息工程大学 ,  南京启圣羽图信息科技有限公司

Inventor： 刘宇 ,  陈先意 ,  张广星 ,  孟宇航 ,  糜慧 ,  颜凯

IPC: G06T1/00 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种神经网络水印嵌入方法以及验证方法，获取待嵌入水印的神经网络的原始模型以及图像训练集；设置原始模型的任意一层作为水印层lwm，在水印层lwm添加与该水印层的原始子层l结构相同的添加子层l＇，得到添加新结构的神经网络模型；利用图像训练集以及预先设置的前向传播约束条件对添加新结构的神经网络模型进行训练，得到嵌入水印的神经网络模型。优点：本发明不以权重作为载体，能够有效抵御微调、剪枝等常见的攻击，并且能够控制特征向量之间的关系，使得模型精度在嵌入水印后会因为伪造水印而大幅度下降，使模型失效，在验证模型所有权的同时也能够保护模型不被盗用。