-
公开(公告)号：CN119990336A
公开(公告)日：2025-05-13
申请号：CN202510466565.7
申请日：2025-04-15
Applicant: 鹏城实验室
IPC: G06N5/04 , G06F21/62 , G06N3/0455
Abstract: 本申请公开了一种模型的安全推理方法、装置、电子设备及存储介质，涉及模型隐私推理技术领域。在安全推理方法中，云平台无法基于各个隐藏参数集得到模型的参数集；云平台无法基于第二隐藏推理得到原始推理数据；用户端基于第一置换矩阵、第一推理结果与第二推理结果进行恢复重构处理，得到目标推理结果。用户端无法得到模型的参数集，因此用户端无法获取模型开发者端的隐私。且本申请无需采用传统协议将原始推理数据以及模型的参数集转换为密文，而是将模型的参数集与随机生成的置换矩阵进行矩阵乘法处理，节省了密文计算所导致的计算和通信开销，处理速度更快，通信开销更小。
-
公开(公告)号：CN115964947A
公开(公告)日：2023-04-14
申请号：CN202211704600.7
申请日：2022-12-29
Applicant: 鹏城实验室
IPC: G06F30/27 , G06F9/50 , G06F111/04
Abstract: 本发明公开了基于多面体模型建模的自动并行策略搜索方法及相关设备，所述方法包括：根据每两个客户端的智算网络的智算中心资源，以最优的并行策略作为约束条件，分别对该两个客户端上的编解码架构模型进行分配；控制该两个客户端利用所有经过分配后的编解码架构模型，对所述智算中心资源进行协同训练和聚合操作，计算得到多面体模型的梯度值。通过先根据每两个客户端的智算网络的智算中心资源，对各自的编解码架构模型进行不同的分配，再利用经过分配后的编解码架构模型对所述智算中心资源进行协同训练和聚合操作，以便计算得到梯度值，从而实现根据不同算力分布、数据分布、以及不同业务场景进行分配，使得满足多种业务场景，实现大模型训练在智算网络中的规模化扩展。
-
Patent Agency Ranking
公开(公告)号：CN115297008A
公开(公告)日：2022-11-04
申请号：CN202210793410.0
申请日：2022-07-07
Applicant: 鹏城实验室
Abstract: 本发明公开了一种基于智算网络的协同训练方法、装置、终端及存储介质，方法包括：获取若干个待训练算法及对应的数据集，并根据获取的若干个算法及数据集生成多个任务组；根据选择的任务组确定分布式智能协同计算平台中的待训练终端，并确定各待训练终端对应的待训练算法及数据集；通过跨异构智算中心的协同训练策略对所有待训练终端的模型进行协同训练及推理，得到协同训练及推理结果；根据所述协同训练及推理结果获取多模型融合策略，并通过所述多模型融合策略对训练后终端中的算法进行融合，得到基于分布式多框架的跨异构智算中心的协同计算模型。本发明可以实现单集群难以实现的大模型协同训练、多模型融合、大模型压缩等技术。
-
公开(公告)号：CN115297008B
公开(公告)日：2023-08-22
申请号：CN202210793410.0
申请日：2022-07-07
Applicant: 鹏城实验室
IPC: H04L41/14 , G06F18/214 , G06F18/25 , G06N5/04
Abstract: 本发明公开了一种基于智算网络的协同训练方法、装置、终端及存储介质，方法包括：获取若干个待训练算法及对应的数据集，并根据获取的若干个算法及数据集生成多个任务组；根据选择的任务组确定分布式智能协同计算平台中的待训练终端，并确定各待训练终端对应的待训练算法及数据集；通过跨异构智算中心的协同训练策略对所有待训练终端的模型进行协同训练及推理，得到协同训练及推理结果；根据所述协同训练及推理结果获取多模型融合策略，并通过所述多模型融合策略对训练后终端中的算法进行融合，得到基于分布式多框架的跨异构智算中心的协同计算模型。本发明可以实现单集群难以实现的大模型协同训练、多模型融合、大模型压缩等技术。
-
公开(公告)号：CN119740087A
公开(公告)日：2025-04-01
申请号：CN202411597152.4
申请日：2024-11-08
Applicant: 鹏城实验室
IPC: G06F18/241 , G06F18/213 , G06F21/62 , G16H50/20 , G06N3/0455 , G06N3/048 , G06N3/08 , G06F17/18
Abstract: 本申请提供了一种基于高斯误差线性单元的业务处理方法、装置、设备，属于数据处理技术领域，通过获取高斯误差线性单元对应的目标函数，并获取业务处理模型在高斯误差线性单元之前针对目标数据包含的业务属性处理得到的业务特征元素，将业务特征元素进行拆分，得到第一子业务特征元素和第二子业务特征元素，获取第一服务节点根据目标函数对第一子业务特征元素处理得到的第一子特征，以及获取第二服务节点根据目标函数对第二子业务特征元素处理得到的第二子特征，根据第一子特征和第二子特征，确定目标子业务特征，根据目标子业务特征生成目标业务向量，并根据目标业务向量进行数据分析，能够在保证业务数据安全性的同时，提高业务处理的效率。
-
公开(公告)号：CN115758064A
公开(公告)日：2023-03-07
申请号：CN202211288739.8
申请日：2022-10-20
Applicant: 鹏城实验室
Abstract: 本发明公开了基于高斯过程回归的数据隐私保护方法及相关设备，包括：获取训练数据和测试数据；计算协方差矩阵，根据训练数据进行高斯过程回归的训练；生成指数随机数，通过秘密分享技术，根据指数随机数在高斯整数环上进行指数计算；根据乔利斯基分解法将高斯过程回归中的正定矩阵进行分解，通过秘密分享技术，在高斯整数环上对分解后的正定矩阵进行求逆，构建高斯过程回归模型；根据高斯过程回归模型对测试数据进行预测。可以在不泄露输入矩阵隐私的前提下，提高指数运算的效率，实现安全求逆。
-
公开(公告)号：CN115422562A
公开(公告)日：2022-12-02
申请号：CN202210999123.5
申请日：2022-08-19
Applicant: 鹏城实验室
Abstract: 本发明所提供的一种联邦学习多方梯度的编码域聚合方法及系统，所述联邦学习多方梯度的编码域聚合方法包括：多个联邦参与终端分别将各自的本地数据集转化为量化梯度，并将所述量化梯度输入预训练编码器，得到编码梯度；服务器获取每个联邦参与终端对应的所述编码梯度，将所有编码梯度聚合，得到聚合结果，并将所述聚合结果输入预训练解码器，得到解码梯度；服务器根据所述解码梯度更新联邦学习模型，并将更新后的联邦学习模型发送至各个联邦参与终端。本发明通过多个联邦参与终端均使用预训练编码器各自计算得到编码梯度，使得通信时只需要通信编码梯度，服务器把编码梯度加起来用预训练解码器聚合结果，降低了计算代价和通信负担。
-
-
-
-
-
-
Search Results
7
records
(took 0.033 seconds)
