-
Patent Agency Ranking
公开(公告)号：CN115222990A
公开(公告)日：2022-10-21
申请号：CN202210879918.2
申请日：2022-07-25
Applicant: 复旦大学
IPC: G06V10/764 , G06N3/04 , G06N3/06 , G06N3/08 , G06V10/774 , G06V40/12
Abstract: 本发明属于人工智能技术领域，具体为一种基于自适应指纹的元学习神经网络指纹检测方法；其适用于多种下游任务模型的知识产权保护：先为目标模型构建多组自适应指纹样本，再检测在嫌疑模型中这些自适应指纹样本的输出是否能通过元验证模型的检测。本发明的指纹检测机制基于嫌疑模型在自适应指纹样本上的置信度向量输出，而非对抗样本的输出标签，故无关于具体任务类型、不依赖于训练数据，能够广泛应用于各种任务类型的神经网络指纹检测，如分类、回归、生成模型等，以保护神经网络的知识产权，且对于各类正、负例嫌疑模型具有较好的鲁棒性与独特性。
-
公开(公告)号：CN111967015A
公开(公告)日：2020-11-20
申请号：CN202010723063.5
申请日：2020-07-24
Applicant: 复旦大学
Abstract: 本发明属于分布式人工智能技术领域，具体为一种提升分布式学习系统拜占庭鲁棒性的防御代理方法。本发明利用基于神经网络结构的适应性可信度评估模块以动态评估各提交梯度的可信度，更新当前主节点上维护的全局分类器参数，生成奖励信号，并根据奖励信号在强化学习的框架下调整适应性可信度评估模块的参数；在训练过程中动态调整对各个工作节点的可行度评估值，缓解恶意工作节点提交的被篡改的梯度对系统训练过程的影响，以提升分布式学习系统的拜占庭鲁棒性。本发明能够广泛应用于各类分布式深度学习系统，提升系统的拜占庭鲁棒性。对人工智能系统的分布式训练过程安全，尤其是在恶意工作节点比例大于或等于50％的情况下，有明显提升。
-
公开(公告)号：CN114638337A
公开(公告)日：2022-06-17
申请号：CN202210183023.5
申请日：2022-02-27
Applicant: 复旦大学
Abstract: 本发明属于人工智能隐私风险评估领域，具体为一种基于独占神经元分析的训练数据逆向重建方法。本发明基于独占神经元分析，从深度神经网络模型的平均训练梯度中推断修正线性单元(ReLU)的激活状态，将原本高维复杂非线性梯度匹配方程组化简为等价的超定线性方程组，利用稀疏线性方程求解器，准确求解参与训练的原始数据样本和相应数据标签。本发明能够广泛应用于评估深度神经网络在开放网络训练过程中的隐私风险，帮助尽早发现模型训练过程中的数据泄漏隐患，相比现有评估方法，在重建精度和重建样本数上均有显著提升。
-
公开(公告)号：CN111967015B
公开(公告)日：2022-04-12
申请号：CN202010723063.5
申请日：2020-07-24
Applicant: 复旦大学
Abstract: 本发明属于分布式人工智能技术领域，具体为一种提升分布式学习系统拜占庭鲁棒性的防御代理方法。本发明利用基于神经网络结构的适应性可信度评估模块以动态评估各提交梯度的可信度，更新当前主节点上维护的全局分类器参数，生成奖励信号，并根据奖励信号在强化学习的框架下调整适应性可信度评估模块的参数；在训练过程中动态调整对各个工作节点的可行度评估值，缓解恶意工作节点提交的被篡改的梯度对系统训练过程的影响，以提升分布式学习系统的拜占庭鲁棒性。本发明能够广泛应用于各类分布式深度学习系统，提升系统的拜占庭鲁棒性。对人工智能系统的分布式训练过程安全，尤其是在恶意工作节点比例大于或等于50％的情况下，有明显提升。
-
公开(公告)号：CN113987425A
公开(公告)日：2022-01-28
申请号：CN202111178549.6
申请日：2021-10-10
Applicant: 复旦大学
IPC: G06F21/14 , G06V40/12 , G06K9/62 , G06V10/764 , G06V10/774 , G06N3/04 , G06N3/08
Abstract: 本发明属于人工智能模型技术领域，具体涉及一种下游任务解耦的神经网络指纹检测方法。本发明利用神经网络中修正线性单元(ReLU)的固有特性，通过比较目标模型与嫌疑模型第一个ReLU层形成的线性区域划分的相似性，以进行模型指纹的检测：先为目标模型构建属于相同线性区域的多组指纹样本对，再检测在嫌疑模型中这些指纹样本对是否仍属于相同线性区域。本发明的指纹检测机制基于线性区域划分这一模型内在属性，因此与下游任务类型无关，能广泛应用于各种任务类型的神经网络指纹检测，包括分类、回归、生成等学习任务，对于各类正、负例嫌疑模型具有较好的检测鲁棒性和有效性，为神经网络知识产权保护与取证提供有效工具。
-
-
-
-
Search Results
5
records
(took 0.034 seconds)
