一种针对模型窃取攻击的综合防御方法

    公开(公告)号:CN118606938A

    公开(公告)日:2024-09-06

    申请号:CN202410267969.9

    申请日:2024-03-08

    Abstract: 本发明提供一种针对模型窃取攻击的综合防御方法,包括对抗训练步骤、恶意查询检测步骤、自适应回复步骤和所有权验证步骤;在训练阶段施加对抗训练以获得更鲁棒的模型,并削弱模型窃取攻击的效果,导致攻击者需要提交更多的恶意查询才能达到预期的攻击目标。在这之后,恶意查询检测用来检测和识别恶意查询并标记恶意用户。然后,针对恶意用户,防御者采用自适应回复策略,用添加了扰动的结果回复恶意用户。这些扰动的结果不仅可以减弱模型窃取攻击的效果,还可以为后续的模型所有权验证步骤做准备。最后,模型所有权验证可以通过扰动结果集进行验证。本发明能提高模型窃取攻击的检测精度,且多个阶段的防御措施相互促进达到最佳的整体防御。

    一种基于函数加密的公平联邦学习方法

    公开(公告)号:CN119599095A

    公开(公告)日:2025-03-11

    申请号:CN202411635410.3

    申请日:2024-11-15

    Abstract: 本发明提出了一种基于函数加密的公平联邦学习方法,设计了基于多客户端函数加密MCFE和隐私保护信誉机制PPRM的隐私保护联邦学习框架——QPFFL,旨在解决联邦学习中的量子抵抗、隐私保护和公平性等挑战。其中,多客户端函数加密保证了客户端数据的隐私性,并实现了模型的安全聚合。隐私保护信誉机制识别和缓解恶意行为,评估每个客户端的贡献,并根据其信誉值调整模型权重。通过MCFE和PPRM的集成,该框架可以抵御搭便车和投毒等攻击,确保在不损害数据隐私的同时实现公平的模型分配。

    一种隐私保护的数据评估方法
    3.
    发明公开

    公开(公告)号:CN118839364A

    公开(公告)日:2024-10-25

    申请号:CN202410799802.7

    申请日:2024-06-20

    Abstract: 本发明提供一种隐私保护的数据评估方法,使用带标签的FHIPE方案来加密卖家的数据,以确保每个卖家的密文数据都带有特定的任务标签l。这确保了即使云端和购物者勾结,带标签的加密数据也不会被用于训练其他模型。同时数据买家提供的模型数据也能够被隐藏起来。引入了可信第三方TTP来管理主密钥,而不是将其分发给数据购物者以进行加密,从而避免了对卖家宝贵的原始数据进行隐私推断。带标签的函数隐藏内积加密方案能够对数据评估时的用户模型进行隐私保护;同时利用标签机制,防止了敌手在不购买数据的情况下发动混合匹配攻击以训练自己的模型。整个数据评估系统较现有系统是更加安全可靠的。

    一种格上基于函数加密的联邦学习聚合方法

    公开(公告)号:CN118428487A

    公开(公告)日:2024-08-02

    申请号:CN202410514886.5

    申请日:2024-04-26

    Abstract: 本发明提供一种格上基于函数加密的联邦学习聚合方法,每一次迭代全局模型更新包括以下步骤:可信第三方初始化建立每个用户对应的PIM‑MCFE密钥和PIM‑MCFE聚合密钥,其中PIM‑MCFE密钥包括用于会话秘钥、私钥和解密密钥;用户在本地训练获得模型参数后,先使用PIM‑MCFE密钥中的会话秘钥对模型参数进行掩盖,再对掩盖的模型参数使用PIM‑MCFE密钥中的私钥进行加密生成密文并上传至聚合服务器;聚合服务器利用PIM‑MCFE聚合密钥完成对密文解密得到掩盖的聚合结果,并将聚合结果分发给用户;用户利用各自接收到的PIM‑MCFE密钥中的解密密钥恢复出真实的全局模型参数,并在本地对训练模型进行更新。本发明不会泄露单个用户的模型参数信息和聚合中间结果,并且能抵抗量子攻击。

    一种基于隐私保护的分布式深度学习方法

    公开(公告)号:CN111563265A

    公开(公告)日:2020-08-21

    申请号:CN202010342081.9

    申请日:2020-04-27

    Abstract: 本发明公开了一种基于隐私保护的分布式深度学习方法,首先,在该方法中各个用户利用私有数据集训练本地模型并获得本地梯度,然后,各个用户利用门限加密算法对用户本地梯度数据进行加密,最后,云服务器实现安全聚合和学习模型全局参数的更新进而完成保护隐私的分布式学习训练过程。本发明将门限加密算法应用在分布式深度学习模型中,提出了安全高效的深度学习训练方法,利用门限加密的同态特性实现了梯度数据在云服务器的安全聚合,基于门限加密算法的门限特性,即使服务器与一定数量用户勾结也无法推断用户训练数据的隐私,同时,基于门限加密算法的非交互特性,本发明可以容忍用户在训练过程中有意或无意的退出行为。

    自适性保护隐私的联邦深度学习的方法

    公开(公告)号:CN110443063A

    公开(公告)日:2019-11-12

    申请号:CN201910563455.7

    申请日:2019-06-26

    Abstract: 本发明提出一种自适性保护隐私的联邦深度学习的方法,以保护联邦深度学习中用户的原始数据不被好奇的服务器获知,同时保护学习模型的参数不泄露用户原始数据的信息。各个参与者预先与云服务器协商一个网络框架,然后云服务器得到一个初始化的模型,云服务器将该模型参数广播给各个参与者;参与者下载初始化的模型参数并更新自己的本地模型,然后结合本地数据集进行训练,并基于数据属性对模型输出的不同贡献度,对不同数据特征实施有差异的隐私保护操作,参与者将各自训练得到的本地梯度发送给云服务器;最终,云服务器收集各参与者的梯度信息后更新自己的模型来进行后续的训练。本发明在满足隐私保护的前提下,极大提高学习模型的精确度。

    多副本数据备份可信删除方法
    7.
    发明公开

    公开(公告)号:CN118797681A

    公开(公告)日:2024-10-18

    申请号:CN202410753663.4

    申请日:2024-06-12

    Abstract: 本发明提供一种多副本数据备份可信删除方法,采用基于地址的云数据多副本关联方式,并通过多副本存储来提高用户外包数据的可用性。提出了预删除序列的概念,用于管理多副本之间的删除顺序和生成删除证据的顺序。结合Merkle哈希树的使用,云服务提供商能够为用户提供可验证的文件删除证据。通过使用随机种子生成脏数据,并对删除的数据进行覆写,以减少资源开销。利用区块链技术将文件删除证据永久存储,以实现证据记录的公开验证、不可否认、不可篡改和不可删除的特性。本发明创建了一个可追责的数据外包环境,将文件和资料长期保存于第三方机构中,达到了证据信息的可公开证明、不可否认、无法修改和无法撤销的效果。

    自适性保护隐私的联邦深度学习的方法

    公开(公告)号:CN110443063B

    公开(公告)日:2023-03-28

    申请号:CN201910563455.7

    申请日:2019-06-26

    Abstract: 本发明提出一种自适性保护隐私的联邦深度学习的方法,以保护联邦深度学习中用户的原始数据不被好奇的服务器获知,同时保护学习模型的参数不泄露用户原始数据的信息。各个参与者预先与云服务器协商一个网络框架,然后云服务器得到一个初始化的模型,云服务器将该模型参数广播给各个参与者;参与者下载初始化的模型参数并更新自己的本地模型,然后结合本地数据集进行训练,并基于数据属性对模型输出的不同贡献度,对不同数据特征实施有差异的隐私保护操作,参与者将各自训练得到的本地梯度发送给云服务器;最终,云服务器收集各参与者的梯度信息后更新自己的模型来进行后续的训练。本发明在满足隐私保护的前提下,极大提高学习模型的精确度。

    在区块链PKI下支持瘦客户端的隐私保护身份认证方法

    公开(公告)号:CN108768608B

    公开(公告)日:2020-05-12

    申请号:CN201810519096.0

    申请日:2018-05-25

    Abstract: 本发明公开了一种在区块链PKI下支持瘦客户端的隐私保护身份认证方法,属于信息安全技术领域。本发明所述方法包括以下步骤:系统初始化、生成认证请求、生成查询请求、查询阶段、检测阶段、确认阶段和会话建立。本发明所述方法利用PIR等技术,使得其支持区块链中存储能力和计算能力有限的瘦客户端在去中心化的PKI中完成用户身份认证,同时保护瘦客户端的查询隐私。本发明使用基于区块链的PKI技术,解决传统PKI单点故障和多CA互信难等问题;利用PIR技术,实现去中心化PKI下瘦客户端的身份认证功能;利用PIR技术,保护瘦客户端查询过程中的数据隐私;在认证过程中加入随机数,防止中间人攻击,确保认证过程中消息不被伪造篡改。

Patent Agency Ranking