公开(公告)号：CN119128895A

公开(公告)日：2024-12-13

申请号：CN202411053215.X

申请日：2024-08-01

Applicant: 北京火山引擎科技有限公司 ,  南方科技大学

Inventor： 吴冠龙 ,  张政 ,  张尧 ,  吴烨 ,  张殷乾

IPC: G06F21/57 ,  G06N5/04 ,  G06F40/284

Abstract: 本公开提供一种模型服务的安全性检测方法及相关设备。所述方法包括：获取第一模型服务的缓存信息，所述缓存信息基于向所述第一模型服务发送的第一请求生成；基于所述缓存信息的生存周期对所述第一模型服务进行安全检测，得到针对所述第一模型服务的缓存共享的安全性检测结果。本公开所述模型服务的安全性检测方法及相关设备，能够对模型服务中的KV缓存共享过程进行安全检测，为模型服务的提供方提供有效的安全分析方式，消除模型服务中的KV缓存共享过程中的安全隐患。

公开(公告)号：CN116384514B

公开(公告)日：2023-09-29

申请号：CN202310643416.4

申请日：2023-06-01

Applicant: 南方科技大学

Inventor： 张殷乾 ,  吴冠龙 ,  牛健宇

IPC: G06N20/00 ,  G06F9/50

Abstract: 本发明提供了可信分布式服务器集群的联邦学习方法、系统及存储介质，所述方法包括：多个服务器确定在当前轮次各自的客户端集合，并分别将目标模型广播至对应的客户端集合中的客户端进行训练；当各个服务器接收到对应的客户端上传的当前轮次训练结果，每个服务器将对应的当前轮次训练结果进行聚合，得到第一聚合结果；在当前轮次中经选举产生的领导者服务器获取跟随者服务器上的第一聚合结果，在可信执行环境下对各个第一聚合结果进行聚合，得到第二聚合结果；当前轮次的领导者服务器将第二聚合结果发送至各个跟随者服务器后，每个服务器将第二聚合结果作为下一轮次的目标模型进行广播。本发明可有效避免可信执行环境下联邦学习的安全问题。

公开(公告)号：CN116384514A

公开(公告)日：2023-07-04

申请号：CN202310643416.4

申请日：2023-06-01

Applicant: 南方科技大学

Inventor： 张殷乾 ,  吴冠龙 ,  牛健宇

IPC: G06N20/00 ,  G06F9/50

Abstract: 本发明提供了可信分布式服务器集群的联邦学习方法、系统及存储介质，所述方法包括：多个服务器确定在当前轮次各自的客户端集合，并分别将目标模型广播至对应的客户端集合中的客户端进行训练；当各个服务器接收到对应的客户端上传的当前轮次训练结果，每个服务器将对应的当前轮次训练结果进行聚合，得到第一聚合结果；在当前轮次中经选举产生的领导者服务器获取跟随者服务器上的第一聚合结果，在可信执行环境下对各个第一聚合结果进行聚合，得到第二聚合结果；当前轮次的领导者服务器将第二聚合结果发送至各个跟随者服务器后，每个服务器将第二聚合结果作为下一轮次的目标模型进行广播。本发明可有效避免可信执行环境下联邦学习的安全问题。