-
公开(公告)号：CN108763954A
公开(公告)日：2018-11-06
申请号：CN201810475546.0
申请日：2018-05-17
Applicant: 西安电子科技大学
CPC classification number: G06F21/6245 , G06F17/18 , G06F21/6254
Abstract: 本发明属于保密或匿名技术领域，公开了一种线性回归模型多维高斯差分隐私保护方法、信息安全系统，对训练数据的不同属性定义不同的安全级别，在不同维度生成合适的噪声；计算线性回归模型的全局敏感度；根据定义的安全级别和全局敏感度生成高维高斯噪声的协方差矩阵；生成高维高斯噪声，加到输入和输出实现隐私保护。本发明给出量化隐私泄露的方法，根据不同维度的隐私需求生成合适的噪声，比已知的线性回归隐私保护方法在同样的隐私预算的情况下精度提高30％以上。本发明的时间开销仅仅是生成噪声的时间，不会因为数据维度的增加而有显著的变化，对于数据维度有较好的鲁棒性。本发明的加噪方式可以更灵活的根据隐私需求调整噪声的大小。
-
公开(公告)号：CN114707175A
公开(公告)日：2022-07-05
申请号：CN202210276269.7
申请日：2022-03-21
Applicant: 西安电子科技大学
Abstract: 本发明属于人工智能及信息安全技术领域，公开了一种机器学习模型敏感信息的处理方法、系统、设备及终端，包括初次训练以及删除信息后重新训练两部分；采用数据集削减算法，同时使用组合多个单分类器的方案使得需要删除敏感信息时仅需重新训练部分模型。本发明在删除模型内敏感数据时无需重新训练整个模型，只需重新训练包含敏感数据的单分类器，大幅度减少了删除模型内敏感数据的开销。同时本发明结合数据削减算法以削减数据集内包含信息量较少的数据，能够在几乎不影响精准度的情况下大大提高训练的速度。同时该方法在训练单分类模型时将数据分为多个子数据集进行训练，使得删除数据后无需从头训练单分类器，进一步减少了开销。
-
公开(公告)号：CN112269987A
公开(公告)日：2021-01-26
申请号：CN202011030537.4
申请日：2020-09-27
Applicant: 西安电子科技大学
Abstract: 本发明属于网络安全技术领域，公开了一种智能模型信息泄漏程度评估方法、系统、介质、设备，定义代表特定数据集中包含的信息量的指标；利用信息论中的链式法则将指标展开后计算；定义查询向量拼接收到的攻击查询和模型回复；将向量添加到查询矩阵；计算单次查询从训练数据集窃取到的信息量；计算模型信息泄漏程度。本发明设计了一种用于评估模型信息量泄漏程度的计算方法，能够实时准确地计算出当前模型遭受攻击时的信息泄漏程度。同时也可用于两类数据集之间共同信息量的评估。本发明定义了用于评估模型信息量泄漏程度的指标，该指标不受待评定模型种类、复杂度和信息泄漏方式的影响，能够应用于所有智能模型和数据集。
-
公开(公告)号：CN114638013B
公开(公告)日：2024-09-13
申请号：CN202210138181.9
申请日：2022-02-15
Applicant: 西安电子科技大学
Abstract: 本发明属于网络安全技术领域，公开了一种图像隐私信息的度量和保护方法、系统、介质及终端，所述图像隐私信息的度量和保护方法采用度量指标d测量图像之间的隐私信息距离，保留图像的结构信息；采用图像隐私保护的实用机制；采用图像差分隐私扰动采样方法，并理论证明满足∈×d差分隐私。所述图像隐私信息的度量和保护系统包括：度量指标定义模块、隐私保护图片生成模块。与现有技术相比，本发明能够精确度量被保护图像与原图像之间的隐私信息距离；处理后的图像比之前工作的可用性更高；能够从理论上证明达到了隐私信息安全；能够抵抗两种主流类型(判别式和生成式)的机器学习模型的检测和识别攻击；在实施过程中不会造成隐私信息泄漏。
-
公开(公告)号：CN112269988B
公开(公告)日：2022-10-04
申请号：CN202011030540.6
申请日：2020-09-27
Applicant: 西安电子科技大学
Abstract: 本发明属于网络安全技术领域，公开了一种模型提取攻击的动态防御方法、系统、介质、设备及应用，使用MLaaS，在线上部署待保护的智能模型；引入差分隐私技术，设定隐私预算，应用到模型中；模型收到请求后，生成正常应答，同时设定模型信息泄漏程度；使用差分隐私技术生成噪声来扰动模型应答，生成带噪回复；监听模型收到的请求和给出的带噪回复，与训练数据集对比计算得出模型因接收到该次请求后导致的信息泄漏程度；计算模型信息泄漏程度计值；将信息泄漏程度代入隐私预算的适应性分配算法；将计算得到的新隐私预算输入给差分隐私技术。本发明能够根据模型信息泄漏程度自适应地调整所加噪声大小，保证模型安全性的同时提升了模型的性能。
-
Patent Agency Ranking
公开(公告)号：CN112269987B
公开(公告)日：2023-01-24
申请号：CN202011030537.4
申请日：2020-09-27
Applicant: 西安电子科技大学
Abstract: 本发明属于网络安全技术领域，公开了一种智能模型信息泄漏程度评估方法、系统、介质、设备，定义代表特定数据集中包含的信息量的指标；利用信息论中的链式法则将指标展开后计算；定义查询向量拼接收到的攻击查询和模型回复；将向量添加到查询矩阵；计算单次查询从训练数据集窃取到的信息量；计算模型信息泄漏程度。本发明设计了一种用于评估模型信息量泄漏程度的计算方法，能够实时准确地计算出当前模型遭受攻击时的信息泄漏程度。同时也可用于两类数据集之间共同信息量的评估。本发明定义了用于评估模型信息量泄漏程度的指标，该指标不受待评定模型种类、复杂度和信息泄漏方式的影响，能够应用于所有智能模型和数据集。
-
公开(公告)号：CN114638013A
公开(公告)日：2022-06-17
申请号：CN202210138181.9
申请日：2022-02-15
Applicant: 西安电子科技大学
Abstract: 本发明属于网络安全技术领域，公开了一种图像隐私信息的度量和保护方法、系统、介质及终端，所述图像隐私信息的度量和保护方法采用度量指标d测量图像之间的隐私信息距离，保留图像的结构信息；采用图像隐私保护的实用机制；采用图像差分隐私扰动采样方法，并理论证明满足∈×d差分隐私。所述图像隐私信息的度量和保护系统包括：度量指标定义模块、隐私保护图片生成模块。与现有技术相比，本发明能够精确度量被保护图像与原图像之间的隐私信息距离；处理后的图像比之前工作的可用性更高；能够从理论上证明达到了隐私信息安全；能够抵抗两种主流类型(判别式和生成式)的机器学习模型的检测和识别攻击；在实施过程中不会造成隐私信息泄漏。
-
公开(公告)号：CN114707175B
公开(公告)日：2024-07-23
申请号：CN202210276269.7
申请日：2022-03-21
Applicant: 西安电子科技大学
IPC: G06F21/62 , G06F18/214 , G06F18/241 , G06N20/00
Abstract: 本发明属于人工智能及信息安全技术领域，公开了一种机器学习模型敏感信息的处理方法、系统、设备及终端，包括初次训练以及删除信息后重新训练两部分；采用数据集削减算法，同时使用组合多个单分类器的方案使得需要删除敏感信息时仅需重新训练部分模型。本发明在删除模型内敏感数据时无需重新训练整个模型，只需重新训练包含敏感数据的单分类器，大幅度减少了删除模型内敏感数据的开销。同时本发明结合数据削减算法以削减数据集内包含信息量较少的数据，能够在几乎不影响精准度的情况下大大提高训练的速度。同时该方法在训练单分类模型时将数据分为多个子数据集进行训练，使得删除数据后无需从头训练单分类器，进一步减少了开销。
-
公开(公告)号：CN108763954B
公开(公告)日：2022-03-01
申请号：CN201810475546.0
申请日：2018-05-17
Applicant: 西安电子科技大学
Abstract: 本发明属于保密或匿名技术领域，公开了一种线性回归模型多维高斯差分隐私保护方法、信息安全系统，对训练数据的不同属性定义不同的安全级别，在不同维度生成合适的噪声；计算线性回归模型的全局敏感度；根据定义的安全级别和全局敏感度生成高维高斯噪声的协方差矩阵；生成高维高斯噪声，加到输入和输出实现隐私保护。本发明给出量化隐私泄露的方法，根据不同维度的隐私需求生成合适的噪声，比已知的线性回归隐私保护方法在同样的隐私预算的情况下精度提高30％以上。本发明的时间开销仅仅是生成噪声的时间，不会因为数据维度的增加而有显著的变化，对于数据维度有较好的鲁棒性。本发明的加噪方式可以更灵活的根据隐私需求调整噪声的大小。
-
公开(公告)号：CN112269988A
公开(公告)日：2021-01-26
申请号：CN202011030540.6
申请日：2020-09-27
Applicant: 西安电子科技大学
Abstract: 本发明属于网络安全技术领域，公开了一种模型提取攻击的动态防御方法、系统、介质、设备及应用，使用MLaaS，在线上部署待保护的智能模型；引入差分隐私技术，设定隐私预算，应用到模型中；模型收到请求后，生成正常应答，同时设定模型信息泄漏程度；使用差分隐私技术生成噪声来扰动模型应答，生成带噪回复；监听模型收到的请求和给出的带噪回复，与训练数据集对比计算得出模型因接收到该次请求后导致的信息泄漏程度；计算模型信息泄漏程度计值；将信息泄漏程度代入隐私预算的适应性分配算法；将计算得到的新隐私预算输入给差分隐私技术。本发明能够根据模型信息泄漏程度自适应地调整所加噪声大小，保证模型安全性的同时提升了模型的性能。
-
-
-
-
-
-
-
-
-
Search Results
10
records
(took 0.025 seconds)
