一种面向机器学习对抗攻击的防御方法

    公开(公告)号:CN116543240A

    公开(公告)日:2023-08-04

    申请号:CN202310824958.1

    申请日:2023-07-06

    Abstract: 本发明公开了一种面向机器学习对抗攻击的防御方法,属于自动驾驶信息安全领域,该方法在扩散模型中添加相应的条件信息与注意力机制,并在模型的输出后添加认证器。将对抗样本通过扩散模型得到的去噪样本输入认证器得到损失来指导扩散模型的去噪。训练扩散模型能够确保模型可以去除对抗样本中添加的噪声信息,而不改变样本中自身包含的信息。然后,将各待防御的对抗样本输入到已训练的扩散模型中,对抗样本中存在的轻微扰动会被模型去除,从而有效实现机器学习对抗样本受对抗攻击的防御。本发明无需明确对抗攻击类型即可提供有效保护,可以应用于自动驾驶中的分类任务和回归任务的对抗攻击防御。

    一种机器学习中训练数据隐私度量的方法和系统

    公开(公告)号:CN113051620A

    公开(公告)日:2021-06-29

    申请号:CN202110596832.4

    申请日:2021-05-31

    Abstract: 本发明公开了一种机器学习中训练数据隐私度量的方法和系统,属于人工智能领域中的隐私安全领域。本发明针对实际场景下的机器学习模型黑盒接口查询机制,在评估过程中无需模型内部信息,仅计算并利用雅可比矩阵评估模型对数据样本和特征的敏感度,避免了评估过程中的隐私泄露;从基于梯度优化的理论出发,结合模型输出‑输入之间的关系,有效量化了模型中的数据隐私信息泄露的可能性;本发明不依赖单种隐私攻击,对大部分隐私攻击尤其是依赖模型梯度与预测输出的攻击极为有效。本发明在不需了解模型内部信息的条件下即可进行模型隐私泄露风险的评估,在评估过程中保证了模型和训练集的隐私的安全,为人工智能行业的蓬勃发展提供稳定保障。

    社交行为数据的处理方法、装置以及存储介质

    公开(公告)号:CN108737330B

    公开(公告)日:2020-11-24

    申请号:CN201710247493.2

    申请日:2017-04-14

    Inventor: 王琛 赵萍 蒋洪波

    Abstract: 一种社交行为数据的处理方法、装置及存储介质,一个实施例的方法包括:获取待发送的第一社交服务请求数据;对所述第一社交服务请求数据进行分段处理,获得各分段后数据片段,各分段后数据片段携带当前用户标识;计算与所述当前用户标识对应的数据交换协议;采用计算出的数据交换协议将各分段后数据片段与匿名用户终端进行数据交换,获得各交换后数据片段,各交换后数据片段携带第二用户标识;向服务器发送社交服务请求,所述社交服务请求包括各交换后各数据片段、以及至少一个分段后数据片段。本实施例方案提高了社交行为数据的隐私保护的安全性。

    一种基于线性核SVM的物联网智能模型的局部解释方法

    公开(公告)号:CN111639688A

    公开(公告)日:2020-09-08

    申请号:CN202010425869.6

    申请日:2020-05-19

    Abstract: 本发明公开了一种基于线性核SVM的物联网智能模型的局部解释方法,属于物联网领域。包括:将待解释的物联网目标样本与扰动样本输入至物联网智能模型得到对应的预测结果;将目标样本与扰动样本及其对应的预测值输入至局部线性核SVM模型进行训练;从训练后的局部SVM模型中提取与目标样本分类相同且与物联网智能模型预测结果一致的支持向量,计算每个特征的重要度;各个特征和对应的重要度构成参考决策集,将其与已知的标准决策集进行匹配,根据匹配结果评价物联网智能模型预测结果的准确度。本发明能够有效解析出物联网智能模型决策所依据的特征,以及各个特征的重要度,将其与标准判据进行比较,能够有效验证模型决策结果的准确度。

    基于2D图像和视频融合的地下桩基施工进度识别方法

    公开(公告)号:CN115909094B

    公开(公告)日:2024-11-05

    申请号:CN202211319741.7

    申请日:2022-10-26

    Abstract: 本发明属于地下桩基施工进度识别相关技术领域,其公开了一种基于2D图像和视频融合的地下桩基施工进度识别方法,方法包括:对地下桩基施工现场进行2D图像拍摄,对工作区域中的机械设备信息和施工桩孔信息进行识别并标注;将拍摄的2D图像进行图像拼接获得拼接图像;在拼接图像上对工作区域进行划分,并对工地摄像头位置及视角信息进行标注;将工地摄像头中的机械设备和施工桩孔与拼接图像中的进行匹配;获取工地摄像头所拍视频中各机械设备的关键帧,进而获得各机械设备的总工作时长;基于各机械设备的工作时长以及施工桩孔的数量和位置信息获得地下桩基施工进度并在拼接图像上进行标注。本申请可以实现地下桩基施工进度的自动识别和追踪。

    一种度量数据样本与模型决策边界相关性的方法及系统

    公开(公告)号:CN113642029B

    公开(公告)日:2021-12-24

    申请号:CN202111188034.4

    申请日:2021-10-12

    Abstract: 本发明公开了一种度量数据样本与模型决策边界相关性的方法及系统,属于物联网数据保护领域,方法包括:从物联网中获取待评估模型的输入样本后,首先在模型决策边界处生成初始对抗样本,并进行梯度估计,得到垂直与决策边界的法向量,并求出输入样本到初始对抗样本的差异向量与法向量的相关性,进行决策边界上样本的更新,最后通过计算最终样本与输入样本的距离,得到各个样本到深度学习训练过程中各个模型决策边界的距离矩阵,以此来度量各个数据样本与模型决策边界的相关性。如此,本发明在无需深度学习模型内部信息及对模型训练流程进行修改的条件下,能够实现数据的隐私保护,具有极高的实用性和通用性。

    一种基于梯度扰动的联邦学习数据隐私保护方法及系统

    公开(公告)号:CN113094758B

    公开(公告)日:2021-08-13

    申请号:CN202110635849.6

    申请日:2021-06-08

    Abstract: 本发明公开了一种基于梯度扰动的联邦学习数据隐私保护方法及系统,属于数据隐私保护领域,方法包括:利用联邦学习训练后的本地模型对数据参与方中的样本进行类别预测,得到原始预测概率向量;对原始预测概率向量进行扰动,以得到预测标签与原始预测概率向量的预测标签相同、且预测损失函数的梯度相对于原始预测概率向量的预测损失函数的梯度的角偏差最大的扰动预测概率向量;以各本地模型的原始预测概率向量与扰动预测概率向量之间的差异最小为目标,重新训练各本地模型;聚合重新训练后的各本地模型以得到全局模型。受保护的联邦学习全局模型,可在维持模型的可用性的前提下,有效降低模型预测输出和模型梯度泄露用户参与方隐私的风险。

Patent Agency Ranking