公开(公告)号：CN116843020A

公开(公告)日：2023-10-03

申请号：CN202310799077.9

申请日：2023-07-03

Applicant: 贵州大学

Inventor： 田有亮 ,  马曦华 ,  丁泽华 ,  何清怡 ,  杨庆 ,  王帅

IPC: G06N3/094 ,  G06N3/096 ,  G06N3/047 ,  G06F21/62 ,  G06F21/71

Abstract: 本申请提供一种成员推理攻击防御方法、装置、设备及储介质，包括：根据隐私数据集训练教师模型，采用动态调整损失目标算法，调整目标模型；动态调整损失目标算法包括：将测试数据在目标模型每轮的反馈结果与RelaxLoss技术结合，保证方法适用范围广；利用知识蒸馏技术保证模型能正常拟合；通过训练数据的表现来动态优化学生模型的学习路径问题，提高模型抗攻击的能力；根据损失目标的不断迭代优化，实现成员推理防御；判定结果包括：无法判断数据属于训练数据集或测试数据集，从而解决了传统的正则化方法注重模型的效用能力，无法有效的解决模型的隐私安全问题，以及针对成员推理攻击的正则化方法，由于损失目标受到限制，无法得到普及与推广的技术问题。

公开(公告)号：CN118195008A

公开(公告)日：2024-06-14

申请号：CN202410466563.3

申请日：2024-04-18

Applicant: 贵州大学

Inventor： 田有亮 ,  丁泽华 ,  王国蓉

IPC: G06N5/04 ,  G06N5/025 ,  G06F40/30 ,  G06F16/36 ,  G06N3/0455 ,  G06N3/0442 ,  G06N3/0464 ,  G06F18/25 ,  G06F11/34 ,  G06F21/60 ,  G06F21/62

Abstract: 本申请公开了一种数据滥用行为推理方法、装置、设备及存储介质，通过收集并分析数据使用过程中的全日志信息，构建反映数据滥用行为的知识图谱，基于生成式语言模型为各类数据滥用行为生成特征描述，以捕获数据滥用过程中行为特征的多样性，基于特征构建的知识图谱推理模型对数据滥用行为模式进行识别以及记录，解决了现有技术中主要关注单个数据访问事件的异常行为，忽略了数据滥用行为的整体链和上下文关系，并且限制了推理方法在复杂场景下识别和防御数据滥用的能力，对已授权用户的数据滥用监控能力不足，且加密和访问控制不能完全防止内部滥用和数据处理过程中的安全问题，难以适应数据使用行为的多样性和不断变化的数据滥用模式的技术问题。