-
公开(公告)号：CN115238251A
公开(公告)日：2022-10-25
申请号：CN202210786941.7
申请日：2022-07-04
Applicant: 上海交通大学 , 上海工业控制安全创新科技有限公司
Abstract: 本发明涉及联邦学习的身份认证领域，提供了一种基于模型匹配的用户身份持续认证方案。传统联邦学习架构中，中央服务器对各边缘用户的身份核验依赖于网络安全传输协议和系统准入身份认证，其在面临针对客户端和传输过程的攻击时缺乏有效的防御手段。本方案通过衡量边缘用户在联邦学习连续两个训练中上载的边缘模型间的匹配度进行持续性的用户身份认证，分为边缘用户‑中央服务器模型参数交互、边缘模型特征提取、用户身份认证三部分。中央服务器利用同数据集训练出的模型的决策边界具有高依赖性的特点，收集边缘模型决策边界梯度获取反映私有数据集的模型特征，再输入基于对比学习的编码器计算模型间的匹配度并排除身份异常用户。该方案广泛适用于各种以神经网络为基础的联邦学习系统，具有高准确率、实用性和兼容性。
-
Patent Agency Ranking
公开(公告)号：CN117473505A
公开(公告)日：2024-01-30
申请号：CN202210857300.6
申请日：2022-07-20
Applicant: 上海交通大学
Abstract: 本发明涉及一种基于比特翻转的机器学习代码库内存故障注入漏洞的检测方法，包括以下步骤：S1、对可编程编译器添加扩展功能，对机器学习代码库中的敏感代码插入检测指令，以动态分析的方法检测存在风险的代码点位；S2、使用实际应用场景下的机器学习模型和数据集，采集运行数据，计算发现风险敏感代码点位，即计算分析敏感指令的不平衡度，确定容易受到内存故障注入漏洞影响的风险敏感指令集合；S3、通过向实际内存硬件中注入比特翻转进行内存故障注入，获得实际内存硬件的故障注入漏洞分布档案；S4、逐条匹配，获得漏洞敏感指令集合。有益效果是降低或去除篡改机器学习代码库带来的风险和危害、保证机器学习模型的安全性和完整性。
-
公开(公告)号：CN118568727A
公开(公告)日：2024-08-30
申请号：CN202410680123.8
申请日：2024-05-29
Applicant: 上海交通大学
IPC: G06F21/57 , G06F21/62 , G06F16/2455 , G06F21/60
Abstract: 本发明公开了基于差分隐私和可信执行环境的数据安全共享与自毁方法，该方法包括：数据提供方根据隐私泄露风险承受能力，为每个待共享的多媒体数据设定隐私预算，并明确使用方式、隐私预算容忍度及费用；市场平台方收集并管理数据提供方上传的多媒体数据及其隐私政策，基于数据购买方的请求和隐私政策，通过隐私预算管理调度模块处理并调度数据购买请求，确保隐私预算的合理使用；数据购买方支付费用购买市场平台方管理的隐私数据，在本地TEE环境中使用数据。本发明为多媒体数据的安全共享和隐私保护提供了新的解决方案，实现了数据提供方与数据购买方之间的互信和共赢。
-
公开(公告)号：CN112257063A
公开(公告)日：2021-01-22
申请号：CN202011118184.3
申请日：2020-10-19
Applicant: 上海交通大学
Abstract: 本发明属于隐私保护的技术领域，公开了一种基于合作博弈论的联邦学习中后门攻击的检测方法，通过联邦学习中央服务器采集各个用户上传的每一轮训练轮次的模型梯度数据，然后利用合作博弈论中的Shapley值改进算法对每个用户的模型梯度数据进行计算，获得其对整体全局模型贡献程度的度量值，最后基于绝对离差中位数的离群检测算法，定量对得到的度量值进行后门攻击异常检测，从而判断对应的用户是否为攻击者。本发明的方法能在可以接受的时间开销范围内，准确检测出各种攻击配置下的针对联邦学习的隐蔽后门攻击，消除其对于整个联邦学习机制训练的影响，从而保证训练过程的安全和鲁棒性。
-
公开(公告)号：CN109583493A
公开(公告)日：2019-04-05
申请号：CN201811427357.2
申请日：2018-11-27
Applicant: 上海交通大学
CPC classification number: G06K9/6201 , G06K9/325 , G07F7/12
Abstract: 本发明涉及一种基于深度学习的信用卡检测和数字识别方法，包括以下步骤：1)构建用于信用卡检测的数据库；2)采用SSD 300网络进行训练；3)对于待检测图片，采用训练好的SSD网络获得备选的信用卡轮廓，进一步裁剪得到准确的信用卡图片；4)针对信用卡上的数字字体，训练用于信用卡数字识别的tesseract模型；5)采用训练好的tesseract模型，对信用卡轮廓进行数字识别，得到最终的数字识别结果。与现有技术相比，本发明具有识别快速准确、效率高等优点。
-
公开(公告)号：CN112257063B
公开(公告)日：2022-09-02
申请号：CN202011118184.3
申请日：2020-10-19
Applicant: 上海交通大学
Abstract: 本发明属于隐私保护的技术领域，公开了一种基于合作博弈论的联邦学习中后门攻击的检测方法，通过联邦学习中央服务器采集各个用户上传的每一轮训练轮次的模型梯度数据，然后利用合作博弈论中的Shapley值改进算法对每个用户的模型梯度数据进行计算，获得其对整体全局模型贡献程度的度量值，最后基于绝对离差中位数的离群检测算法，定量对得到的度量值进行后门攻击异常检测，从而判断对应的用户是否为攻击者。本发明的方法能在可以接受的时间开销范围内，准确检测出各种攻击配置下的针对联邦学习的隐蔽后门攻击，消除其对于整个联邦学习机制训练的影响，从而保证训练过程的安全和鲁棒性。
-
-
-
-
-
Search Results
6
records
(took 0.018 seconds)
