公开(公告)号：CN119026166A

公开(公告)日：2024-11-26

申请号：CN202411141508.3

申请日：2024-08-20

Applicant: 北京大学

Inventor： 王鹏力 ,  张子祺 ,  李锭 ,  郭耀 ,  陈向群

IPC: G06F21/62 ,  G06F21/14 ,  G06F21/53 ,  G06N3/0455 ,  G06N5/04

Abstract: 本发明公开一种在端侧设备推理场景中Transformer模型的隐私保护方法，属于人工智能与计算机网络安全领域。本发明基于可信执行环境的模型切片分离技术，将模型进行分离，将计算密集的模型部分通过混淆后部署在GPU中，将剩余的部分部署在可信执行环境中，推理过程通过GPU与可信执行环境的协同交互来实现。本发明可以同时利用到可信执行环境的安全特性以及GPU的高效计算能力，从而兼顾模型的隐私安全与推理性能。利用本发明可以提高模型在端侧部署下的隐私安全性，避免了攻击者通过与公开预训练模型的对比获取隐私模型的关键信息。

公开(公告)号：CN119512731A

公开(公告)日：2025-02-25

申请号：CN202311089431.5

申请日：2023-08-24

Applicant: 华为技术有限公司 ,  北京大学

Inventor： 安之达 ,  郭耀 ,  李锭 ,  高贵锦 ,  任玉鑫

IPC: G06F9/50

Abstract: 本公开实施例提供了一种为任务分配计算节点的方法、装置、设备和存储介质，属于高性能计算技术领域。采用该方法为任务分配计算节点，可以在考虑硬件资源的同时，也考虑到计算节点中操作系统的特性信息以及计算节点在执行任务时的实际执行情况，考虑到的影响任务执行效率的因素更全面，可以更好的提高任务的执行效率。

公开(公告)号：CN119249470A

公开(公告)日：2025-01-03

申请号：CN202411113882.2

申请日：2024-08-14

Applicant: 北京大学

Inventor： 李少飞 ,  张子祺 ,  贾昊旻 ,  郭耀 ,  陈向群 ,  李锭

IPC: G06F21/62 ,  G06F16/2458 ,  G06F16/901 ,  G06F16/906 ,  G06F18/213 ,  G06F18/22 ,  G06N3/042 ,  G06N3/0464 ,  G06F18/2411

Abstract: 本发明公开一种基于查询溯源分析的云端模型安全防护方法及系统，属于机器学习系统安全领域。所述方法包括：为正常查询序列与攻击查询序列分别构建查询溯源图，并基于所述查询溯源图训练一图分类器；基于若干正常查询初始化待检测查询溯源图；其中，初始节点之间没有连接；将待检测查询序列中的查询加入待检测查询溯源图，并基于该查询与待检测查询溯源图中节点的相似度，构建对应的边并设置边权重；在所述待检测查询序列中的所有查询加入到待检测查询溯源图后，结合所述图分类器得到所述待检测查询序列的检测结果。本发明可以提高检测的准确性和鲁棒性，并显著降低误报率和系统延迟。

公开(公告)号：CN118349996A

公开(公告)日：2024-07-16

申请号：CN202310077913.2

申请日：2023-01-13

Applicant: 华为技术有限公司 ,  北京大学

Inventor： 李少飞 ,  李锭 ,  郭耀 ,  陈向群 ,  马杰

IPC: G06F21/56 ,  G06F21/73

Abstract: 本申请实施例提供了一种入侵检测方法、装置、电子设备及存储介质。该方法包括：获取系统行为在第i个检测周期内的多个溯源图；根据每个溯源图中的进程的进程特征，确定每个溯源图中的进程的评分，其中，每个溯源图中的进程的评分用于表征每个溯源图中的进程异常的概率；根据每个溯源图中的进程的评分，确定多个溯源图中的多个目标进程，其中，任意一个目标进程的评分大于第一阈值；基于多个目标进程所在的溯源图，生成多个局部溯源图；根据多个局部溯源图和多个溯源图，确定是否进行入侵告警。本申请实施例有利于提高入侵检测精度和效率。

公开(公告)号：CN119150954A

公开(公告)日：2024-12-17

申请号：CN202411181464.7

申请日：2024-08-27

Applicant: 北京大学

Inventor： 蔡奕丰 ,  张子祺 ,  景罗希 ,  李锭 ,  郭耀 ,  陈向群

IPC: G06N3/098 ,  G06N3/096 ,  G06N3/0985 ,  G06V10/82 ,  G06V10/94

Abstract: 本发明提供了一种异构联邦学习中基于代理模型的全权重聚合方法，属于人工智能与机器学习领域。本发明方法的步骤包括系统设置和代理模型构建、本地模型训练与模型上传、权重知识转移至代理模型、忠诚度引导的聚合、和全局模型更新与分发，通过智能聚合系统中所有设备模型的完整权重，优化设备模型的学习效果和系统的整体运行效率，能够显著提高异构设备上的模型训练效率，降低能源消耗，并提高模型的准确性和泛化能力，具有广阔的应用前景。

公开(公告)号：CN119135392A

公开(公告)日：2024-12-13

申请号：CN202411181462.8

申请日：2024-08-27

Applicant: 北京大学

Inventor： 蔡奕丰 ,  张子祺 ,  景罗希 ,  李锭 ,  郭耀 ,  陈向群

IPC: H04L9/40 ,  H04L41/14 ,  H04L41/147

Abstract: 本发明提供了一种多级模型推理系统中增强抗对抗性攻击能力的方法，属于人工智能与计算机网络安全领域。本发明的方法，包括离线阶段的执行流程和在线推理阶段的执行流程，离线阶段包括提取训练数据的特征与梯度，使用自动聚类技术和主成分分析PCA技术优化所述训练数据的存储空间与计算效率，在线推理阶段通过创新的置信度计算机制，基于推理数据与训练数据特征与梯度的余弦相似度，更准确地评估边缘设备上模型的预测置信度，并有效识别出需要由云服务器处理的复杂或潜在被篡改的输入数据，从而解决现有技术中对抗性攻击导致的安全性和效率问题，同时优化训练数据特征与梯度存储空间，保持系统的高效性和精确度。

公开(公告)号：CN118502887A

公开(公告)日：2024-08-16

申请号：CN202310140787.0

申请日：2023-02-14

Applicant: 华为技术有限公司 ,  北京大学

Inventor： 蒋鹏 ,  黄瑞哲 ,  李锭 ,  郭耀 ,  陈向群 ,  栾建海 ,  任玉鑫 ,  马杰

IPC: G06F9/48 ,  G06F11/34

Abstract: 本申请实施例提供一种溯源数据处理方法、装置和电子设备，上述溯源数据处理方法中，电子设备运行目标线程之后，执行并捕获目标线程的系统调用，将系统调用记录到目标线程对应的日志记录缓冲区，如果日志记录缓冲区已满，则运行目标线程中被注入的消费者线程，通过消费者线程，利用目标线程的运行资源配额处理上述日志记录缓冲区中的内核溯源数据，在处理完内核溯源数据之后，继续运行目标线程，从而可以实现在同一时间只能运行目标线程或者处理目标线程产生的日志，保证数据不丢失，并且由于消费者线程被注入当前运行的目标线程中，没有新增额外的处理线程，在单核的主机上，消除了线程调度的开销，在多核的主机上，避免了跨核数据通信的开销。