-
公开(公告)号：CN111967015B
公开(公告)日：2022-04-12
申请号：CN202010723063.5
申请日：2020-07-24
Applicant: 复旦大学
Abstract: 本发明属于分布式人工智能技术领域，具体为一种提升分布式学习系统拜占庭鲁棒性的防御代理方法。本发明利用基于神经网络结构的适应性可信度评估模块以动态评估各提交梯度的可信度，更新当前主节点上维护的全局分类器参数，生成奖励信号，并根据奖励信号在强化学习的框架下调整适应性可信度评估模块的参数；在训练过程中动态调整对各个工作节点的可行度评估值，缓解恶意工作节点提交的被篡改的梯度对系统训练过程的影响，以提升分布式学习系统的拜占庭鲁棒性。本发明能够广泛应用于各类分布式深度学习系统，提升系统的拜占庭鲁棒性。对人工智能系统的分布式训练过程安全，尤其是在恶意工作节点比例大于或等于50％的情况下，有明显提升。
-
公开(公告)号：CN113987425A
公开(公告)日：2022-01-28
申请号：CN202111178549.6
申请日：2021-10-10
Applicant: 复旦大学
IPC: G06F21/14 , G06V40/12 , G06K9/62 , G06V10/764 , G06V10/774 , G06N3/04 , G06N3/08
Abstract: 本发明属于人工智能模型技术领域，具体涉及一种下游任务解耦的神经网络指纹检测方法。本发明利用神经网络中修正线性单元(ReLU)的固有特性，通过比较目标模型与嫌疑模型第一个ReLU层形成的线性区域划分的相似性，以进行模型指纹的检测：先为目标模型构建属于相同线性区域的多组指纹样本对，再检测在嫌疑模型中这些指纹样本对是否仍属于相同线性区域。本发明的指纹检测机制基于线性区域划分这一模型内在属性，因此与下游任务类型无关，能广泛应用于各种任务类型的神经网络指纹检测，包括分类、回归、生成等学习任务，对于各类正、负例嫌疑模型具有较好的检测鲁棒性和有效性，为神经网络知识产权保护与取证提供有效工具。
-
Patent Agency Ranking
公开(公告)号：CN112417448A
公开(公告)日：2021-02-26
申请号：CN202011274562.7
申请日：2020-11-15
Applicant: 复旦大学
Abstract: 本发明属于网络空间安全技术领域，具体为一种基于API关系图谱的恶意软件检测模型抗老化增强方法。本发明方法包括：基于知识图谱的API语义关系采集；API语义关系表征，包括API嵌入和API聚类；API语义关系敏感的机器学习模型抗老化的增强。本发明利用API构成的知识图谱，将API之间的语义关系反应到机器学习模型之中，使得模型可以捕获API语义关系，进而提升现有模型的抗老化能力。本发明方法可以和基于数据的模型更新方法一起使用，使模型能够可持续性地检测恶意软件。
-
公开(公告)号：CN115222990A
公开(公告)日：2022-10-21
申请号：CN202210879918.2
申请日：2022-07-25
Applicant: 复旦大学
IPC: G06V10/764 , G06N3/04 , G06N3/06 , G06N3/08 , G06V10/774 , G06V40/12
Abstract: 本发明属于人工智能技术领域，具体为一种基于自适应指纹的元学习神经网络指纹检测方法；其适用于多种下游任务模型的知识产权保护：先为目标模型构建多组自适应指纹样本，再检测在嫌疑模型中这些自适应指纹样本的输出是否能通过元验证模型的检测。本发明的指纹检测机制基于嫌疑模型在自适应指纹样本上的置信度向量输出，而非对抗样本的输出标签，故无关于具体任务类型、不依赖于训练数据，能够广泛应用于各种任务类型的神经网络指纹检测，如分类、回归、生成模型等，以保护神经网络的知识产权，且对于各类正、负例嫌疑模型具有较好的鲁棒性与独特性。
-
公开(公告)号：CN114090903A
公开(公告)日：2022-02-25
申请号：CN202111387697.9
申请日：2021-11-22
Applicant: 复旦大学
IPC: G06F16/9536 , G06N3/08 , G06Q50/00
Abstract: 本发明公开了一种提升社交网络层次化社区检测划分效果的方法。本发明将社区检测分为两步完成：首先根据现有社区拓扑结构，给定节点与社区的特征向量，预测社交网络图中每个节点的社区从属关系，并利用社交网络图中节点之间的连接关系优化现有的特征向量；而后利用深度学习中的强化学习技术，给定当前社区拓扑结构和社交网络图，预测调整现有社区的拓扑结构；重复上述两步骤直至收敛；给定一张社交网络图，能够预测其节点的社区划分情况。针对社交网络中出现的新增节点，继续重复上述步骤即可将新节点也纳入社区划分中。本发明方法在社区检测的模块度和归一化互信息上都远高于现有的GEMSEC算法、HCDE算法和ComE算法。
-
公开(公告)号：CN112417450A
公开(公告)日：2021-02-26
申请号：CN202011312359.4
申请日：2020-11-20
Applicant: 复旦大学
Abstract: 本发明属于移动安全技术领域，具体为一种基于动态行为序列和深度学习的恶意软件实时检测系统，本发明系统包括两个核心模块：应用动态行为实时采集子系统和应用行为实时判别子系统，应用动态行为实时采集子系统用于持续、可靠地记录应用所调用的框架层函数调用接口与和内核层系统调用序列，以表征应用所产生的行为；为应用行为判别子系统提供行为判别依据；应用行为实时判别子系统利用深度学习技术探索行为序列信息内在联系，使用机器学习模型对上述调用序列进行即时判别，以高效准确地识别出应用中的恶意行为。系统还包括数据处理模块和数据通信模块，用来协助两个核心模块的运行。本发明可有效缓解移动系统生态面临的安全问题与威胁。
-
公开(公告)号：CN111967015A
公开(公告)日：2020-11-20
申请号：CN202010723063.5
申请日：2020-07-24
Applicant: 复旦大学
Abstract: 本发明属于分布式人工智能技术领域，具体为一种提升分布式学习系统拜占庭鲁棒性的防御代理方法。本发明利用基于神经网络结构的适应性可信度评估模块以动态评估各提交梯度的可信度，更新当前主节点上维护的全局分类器参数，生成奖励信号，并根据奖励信号在强化学习的框架下调整适应性可信度评估模块的参数；在训练过程中动态调整对各个工作节点的可行度评估值，缓解恶意工作节点提交的被篡改的梯度对系统训练过程的影响，以提升分布式学习系统的拜占庭鲁棒性。本发明能够广泛应用于各类分布式深度学习系统，提升系统的拜占庭鲁棒性。对人工智能系统的分布式训练过程安全，尤其是在恶意工作节点比例大于或等于50％的情况下，有明显提升。
-
-
-
-
-
-
Search Results
17
records
(took 0.023 seconds)
